II.8Инженерия данных и аналитика

OpenAi-GPT-oss-20b-abliterated-uncensored-NEO-Imatrix-gguf — это квантизированная GGUF-версия текстовой модели на базе huihui-ai/Huihui-gpt-oss-20b-BF16-abliterated. В README указано, что модель подготовлена DavidAU с использованием наборов данных NEO, Horror и NEOCode для Imatrix-квантизации. Модель ориентирована на генерацию текста, чат, программирование и генерацию кода, рассуждения, решение задач, мозговой штурм, творческие сценарии и работу с общими запросами. Заявлена поддержка английского языка и контекста до 128K токенов. Архитектура описана как Mixture of Experts с 24 экспертами; размер базовой модели — 20B параметров. Доступны варианты квантизации IQ4_NL, Q5_1 и Q8_0, включая варианты с одной, двумя или тремя Imatrix-матрицами. Удаление ограничений и отказов делает модель менее склонной к цензурированным ответам, но автор предупреждает, что из-за abliteration она может быть менее стабильной и «грубоватой»; поведение зависит от варианта квантизации и настроек. README также отмечает, что Q5_1 может быть стабильнее IQ4_NL, тогда как IQ4_NL иногда дает более непредсказуемые и творческие ответы. Модель распространяется по лицензии Apache-2.0. Для работы требуется среда, совместимая с форматом GGUF и соответствующим вариантом квантизации; конкретные аппаратные требования в README не указаны.

Melvin56/Phi-4-mini-instruct-abliterated-GGUF — это GGUF-квантизированная версия модели Phi-4-mini-instruct-abliterated, разработанная на основе модели huihui-ai/Phi-4-mini-instruct-abliterated. Модель предназначена для генерации текста, включая задачи обработки естественного языка и работы с кодом, и может использоваться в локальных приложениях через совместимые средства инференса GGUF. Модель поддерживает мультиязычную генерацию, включая арабский, китайский, чешский, датский, нидерландский, английский, финский, французский, немецкий, иврит, венгерский, итальянский, японский, корейский, норвежский, польский, португальский, русский, испанский, шведский, тайский, турецкий и украинский языки. Доступны варианты квантования Q2_K_S, Q2_K, Q3_K_M, Q3_K_L, Q4_K_M, Q5_K_M, Q6_K, Q8_0 и F16 размером примерно от 1,59 до 7,68 ГБ. Кванты подготовлены с использованием imatrix dataset и поддерживают различные режимы вычислений на CPU и GPU, включая AVX2, ARM NEON, Metal, cuBLAS, rocBLAS и SYCL; отдельные конфигурации могут работать медленнее или иметь ограничения совместимости. Сильными сторонами модели являются широкий выбор размеров квантования, мультиязычность и возможность локального запуска на разнообразном оборудовании. Ограничения включают отсутствие сведений о точном размере архитектуры, длине контекста и результатах тестирования, а также возможное снижение качества и скорости при использовании компактных квантов. Модель распространяется по лицензии MIT.

Карточка модели xuanguan5525/Qwen2.5-1.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

YOYO-AI разработала Qwen3-30B-A3B-YOYO-AutoThink как диалоговую модель с автоматическим переключением между кратким ответом и более развёрнутым рассуждением. Она основана на объединении Qwen3-30B-A3B-Instruct-2507 и Qwen3-30B-A3B-Thinking-2507 методом arcee_fusion с последующей заменой экспертных весов из thinking-модели. Архитектура — Qwen3 MoE для генерации текста; репозиторий содержит веса safetensors. Метаданные указывают 2,6 млрд параметров и контекст до 262 144 токенов, а README также заявляет длину контекста 1 010 000 токенов без пояснения условий для этого значения. Модель предназначена для диалогов, выполнения инструкций и генерации ответов с глубиной рассуждения, меняющейся в зависимости от сложности запроса; метаданные также отмечают интерфейс вызова инструментов. В карточке перечислены английский и китайский языки. Лицензия — Apache-2.0. README приводит рекомендованные параметры генерации: temperature 0.6, top_p 0.95 и top_k 20.

Qwen3.5-21B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking — плотная мультимодальная модель на 21 млрд параметров, созданная DavidAU на основе Qwen3.5-27B-Deckard-PKD-Heretic-Uncensored-Thinking. По карточке, модель уменьшена с 27B, дообучена на наборах Deckard/PDK и данных рассуждений Claude 4.6 Opus; заявлен режим пошагового рассуждения переменной длины. Архитектура Qwen3.5 поддерживает текстовый диалог и обработку изображений; заявленное родное контекстное окно — 256K токенов. Модель предназначена для диалога, ответов на вопросы, генерации кода и творческого письма, включая художественные жанры и ролевые сценарии. Автор отмечает отсутствие ограничений на контент и предупреждает о возможности откровенных или графичных ответов. В карточке также указаны возможные повторы при низких квантизациях или недостаточно содержательных запросах; качество и скорость могут зависеть от квантизации и настроек генерации. Доступна под лицензией Apache-2.0. Для использования изображений и инструментальных вызовов автор рекомендует качественные квантизации; практические характеристики следует оценивать на выбранной сборке и конфигурации.

Карточка модели spinochenza/Qwen3.6-27B-uncensored-heretic-v2 на Hugging Face совпадает с карточкой llmfan46/Qwen3.6-27B-uncensored-heretic-v2, поэтому описание составлено по ней. Qwen3.6-27B-uncensored-heretic-v2 — мультимодальная модель на 27 млрд параметров, созданная независимым автором на основе Qwen/Qwen3.6-27B методом abliteration. Модель предназначена для диалогов, работы с изображениями, программирования и агентных сценариев с вызовом инструментов; автор сообщает о снижении частоты отказов по сравнению с исходной моделью. Архитектура — плотная Qwen3.5 с языковой моделью и визуальным энкодером. Базовая модель поддерживает контекст 262 144 токена с возможностью расширения; в карточке указана работа с изображениями и чат-возможности. В README приведены результаты MMLU исходной модели, но сопоставимых результатов для этой версии нет. Модель распространяется в формате safetensors по лицензии Apache-2.0. Уменьшение числа отказов не гарантирует их полного отсутствия, а результаты тестирования базовой модели нельзя считать оценкой качества этой производной версии.

Qwen3.6-35B-A3B-Brainwaves-Nex-i1-GGUF — это GGUF-квантизированная версия модели nightmedia/Qwen3.6-35B-A3B-Brainwaves-Nex, подготовленная mradermacher. Модель предназначена для локального запуска задач генерации текста и диалогов, включая рассуждения, математику, STEM, программирование и многоязычные сценарии. В README также указано, что это vision-модель, поэтому для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория. Заявлены языки English, Chinese, Japanese и Spanish. Доступны варианты квантизации i1 от Q2_K до Q6_K, включая IQ-квантизации и imatrix-файл; размер файлов составляет примерно от 13,3 до 29,3 ГБ. Вариант Q4_K_M отмечен как быстрый и рекомендуемый, а Q4_K_S — как компромисс между размером, скоростью и качеством. Точный размер контекста, детальные сведения об архитектуре, результаты тестирования и системные требования в README не указаны. Модель распространяется по лицензии Apache-2.0. К ограничениям относятся неизбежная потеря качества при низких уровнях квантизации, отсутствие подробных бенчмарков и неполная документация по использованию мультимодальных возможностей.

Карточка модели miss-t/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 на Hugging Face совпадает с карточкой lactroiii/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16, поэтому описание составлено по ней. Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 — дообученная методом abliteration версия мультимодальной модели Qwen3.8-27B от Alibaba, опубликованная lactroiii. Это плотная модель на 27 млрд параметров в формате BF16 на базе архитектуры Qwen3.5; она принимает текст и изображения и генерирует текст. В README описана проверка на NVIDIA H200 через vLLM, включая работу с изображениями, режим рассуждений и вызов инструментов. Для обслуживания автор проверял контекст 16 384 токена и указывает, что базовое окно модели достигает 262 144 токенов. Модель предназначена для диалогов и инструкций, рассуждений, программирования, анализа изображений, вызова инструментов, творческого письма и исследований безопасности и выравнивания. Abliteration уменьшает склонность модели отказывать и делает ответы более прямыми; автор сообщает о сохранении связности ответов, но это не является независимой оценкой качества. Модель может выдавать опасный, незаконный или откровенный контент и не должна использоваться в сценариях высокого риска без внешних мер безопасности. Лицензия — Apache-2.0.

blastbeng/Qwen3.8-27B-TURBO — открытая многоэтапно дообученная и объединённая версия модели Qwen3.8-27B, разработанная автором репозитория blastbeng на базе модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В README указано использование Unsloth, методов Cold Fusion и Fable Fusion, а также наборов данных DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Модель распространяется в вариантах GGUF, включая обычные и MTP-квантизации, с матрицами Neo-CODER MAX DI-MATRIX. Модель предназначена для широкого круга задач: рассуждений и решения задач, программирования, творческого письма, генерации художественных текстов и ролевых сценариев. Заявлены поддержка английского и китайского языков, текстово-изображенческий pipeline tag, а также три режима мышления. Основной размер модели — 27 млрд параметров; доступны как минимум 4-битные и 8-битные варианты. По утверждению автора, Turbo-версия сокращает объём рассуждений до примерно половины, а в отдельных случаях до одной десятой от объёма базовой версии, сохраняя детализацию и качество вывода. Сильными сторонами заявлены высокая скорость генерации, сниженное избыточное рассуждение, развитые способности к программированию, творческим задачам и вызову инструментов, а также производительность на потребительском оборудовании. В README приведены авторские результаты ARC-C до 735 в 8-битном режиме и свыше 718 в 4-битном, однако методика и независимое подтверждение этих показателей не описаны. Ограничения включают отсутствие сведений о размере контекста, точной поддержке изображений, системных требованиях и стабильности поведения; характеристики следует проверять отдельно для выбранной квантизации. Лицензия указана как Apache-2.0.

Solstice-AI/Qwen3.8-27B-Uncensored-mlx-6Bit — 6-битная MLX-квантизация модели orcarouter/Qwen3.8-27B-Uncensored, основанной на архитектуре Qwen 3.8 с 27,5 млрд параметров. Релиз подготовлен Solstice-AI и оптимизирован для запуска на Apple Silicon через Anvil Runtime с ускорением Metal или библиотеку mlx-lm. Модель ориентирована на английский и китайский языки. Модель предназначена для рассуждений, математических задач, агентского использования инструментов, анализа кода, аудита систем, исследования уязвимостей и red teaming. Заявлена поддержка контекстного окна до 262 144 токенов, что подходит для работы с большими репозиториями и многофайловым кодом. Используется аффинная 6-битная квантизация MLX с group_size 64; размер файлов модели составляет около 21,85 ГБ, а рекомендуемый объём unified memory — от 32 ГБ. Производительность зависит от устройства и заявлена примерно на уровне 42–62 токенов в секунду на совместимых Mac. К сильным сторонам относятся нативная оптимизация под Apple Silicon, сниженное потребление памяти по сравнению с BF16-версией, большой контекст и ориентация на технические и исследовательские сценарии. Ограничения связаны с необходимостью совместимого оборудования Apple Silicon и достаточного объёма unified memory, а также с тем, что заявленные показатели производительности зависят от конкретной конфигурации и длины контекста. Модель описана как abliterated и uncensored, то есть механизмы отказа были удалены на уровне весов; это может повысить гибкость для red teaming, но требует самостоятельного контроля безопасного применения. Лицензия — Apache 2.0.

AleaiactaEst1/Qwen3.8-27B-Unleashed-GGUF — это квантизированная GGUF-версия uncensored-модели Qwen3.8-27B, основанная на JonathanColetti/Qwen3.8-27B-Uncensored. Модель предназначена для генерации текста, диалогов, написания кода и других задач, поддерживаемых text-generation-моделями. Указанные языки — английский и китайский. Модель имеет размер 27B параметров и поддерживает контекст до 262 144 токенов. Используется динамическая покомпонентная квантизация Unsloth Dynamic 3.0: чувствительные тензоры сохраняют больше точности, а менее чувствительные сжимаются сильнее. Доступны девять уровней квантизации, включая UD-IQ4_XS, UD-Q3_K_XL и UD-IQ3_XXS. Для UD-Q3_K_XL заявлены размер 13,2 ГБ, скорость 112,8 токена в секунду в специализированном тесте на RTX 4090 и успешное извлечение данных из контекста длиной 250 806 токенов. К сильным сторонам относятся uncensored-поведение, длинный контекст, хорошее соотношение качества и размера, а также преимущество динамической квантизации над протестированными равномерными вариантами. Ограничения включают зависимость скорости от длины генерации и оборудования: для коротких ответов на RTX 4090 измерялось около 24,9 токена в секунду, а приведённые показатели получены на одной конфигурации и не универсальны. Самые низкие уровни квантизации могут заметно снижать качество; в README уровень Q2 назван практическим нижним пределом. Модель распространяется по лицензии Apache 2.0. Карта квантизации заимствована из unsloth/Qwen3.8-27B-GGUF, а веса и матрица важности — из JonathanColetti/Qwen3.8-27B-Uncensored; автор README отдельно указывает, что рецепт разработан Unsloth.

Sonclo/Qwen3.8-sonclo — многоэтапная fine-tune-модель на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Модель создана для широкого спектра задач: решения задач и рассуждений, программирования, творческого письма, генерации художественных текстов и ролевых сценариев. В README также заявлена специализация на снижении избыточного рассуждения и расхода токенов при сохранении подробности ответов. Модель относится к семейству Qwen3.8 и имеет 27B параметров. Указаны три режима рассуждения, поддержка английского и китайского языков, а также варианты GGUF-квантизации с обычными и MTP-квантами, включая 4- и 8-битные версии. Обучение описано как multi-stage fine-tune и multi-stage merge с применением методов COLD FUSION, Fable Fusion и Unsloth. Репозиторий помечен как image-text-to-text, однако подробности о фактической поддержке изображений и максимальном размере контекста в README не приведены. К заявленным сильным сторонам относятся высокая скорость генерации, сокращение объёма рассуждений, развитые способности к программированию, решению задач и творческой генерации, а также возможность запуска на потребительском оборудовании благодаря GGUF-квантам. Ограничения включают отсутствие независимого подтверждения заявленных бенчмарков в представленном README, возможные риски и особенности uncensored/abliterated-настройки и неизвестные требования к аппаратным ресурсам для конкретных вариантов. Модель распространяется по лицензии Apache-2.0.

unsloth/QwQ-32B-GGUF — это GGUF-версия языковой модели QwQ-32B, разработанная Unsloth на базе Qwen/QwQ-32B. Модель предназначена для генерации текста в диалоговых сценариях и задач, требующих рассуждений, включая программирование и решение сложных инструкций. Она работает с текстом и ориентирована на английский язык. Модель содержит 32 млрд параметров и использует выборочную динамическую квантизацию Unsloth Dynamic v2.0, призванную сохранить более высокую точность по сравнению со стандартными вариантами 4-битной квантизации. Доступны форматы GGUF, включая Q4_K_M, совместимые, в частности, с llama.cpp и Ollama. README не указывает точную архитектуру, максимальный размер контекста и перечень поддерживаемых языков помимо английского. Сильными сторонами являются локальный запуск в распространённых inference-инструментах, уменьшенный объём хранения и вычислительных ресурсов благодаря квантизации, а также улучшения Unsloth и исправления, связанные с бесконечной генерацией. Для стабильной работы могут потребоваться специальные параметры семплирования; квантизированная версия потенциально уступает полной модели по точности. Модель распространяется по лицензии Apache-2.0.

BenevolenceMessiah/QwQ-32B-Preview-abliterated-Self-instruct-3x-TIES-v1.0 — языковая модель на 32 млрд параметров, созданная BenevolenceMessiah слиянием предобученных моделей через TIES с помощью mergekit. В качестве базовой использована huihui-ai/QwQ-32B-Preview-abliterated; в слияние также вошли EVA-UNIT-01/EVA-Qwen2.5-32B-v0.2, rombodawg/Rombos-Coder-V2.5-Qwen-32b и rombodawg/Rombos-LLM-V2.5-Qwen-32b. Модель построена на плотной архитектуре Qwen2 и предназначена для генерации текста и диалогов. Поддерживает контекст до 32 768 токенов, распространяется в формате safetensors и работает через Transformers. В каталоге также отмечен интерфейс вызова инструментов. Состав моделей предполагает применение для общих диалогов, работы с кодом и написания историй, однако отдельные языки и качество на конкретных задачах не подтверждены предоставленными данными. Условия лицензирования в предоставленных источниках не приведены, поэтому перед использованием следует проверить лицензию репозитория и условия базовых моделей. Модель создана слиянием и может наследовать особенности и ограничения включённых чекпойнтов.

jondurbin выпустил эту плотную авторегрессионную модель семейства LLaMA с 12,9 млрд параметров, дообученную на синтетических данных, созданных GPT‑4. Она генерирует текст в формате диалога Vicuna и предназначена для ответов на вопросы, рассуждений, работы с викторинами, математическими задачами, кодом, заданиями с выбором ответа и пропусками, а также для ответов по предоставленному контексту. Особенность модели — обучение следовать заданному контексту и по возможности ограничивать ответы сведениями из него, чтобы уменьшить галлюцинации. Репозиторий содержит веса PyTorch; заявленное метаданными контекстное окно — 4096 токенов, однако автор предупреждает, что работа на такой длине не проверена и качество может снижаться за пределами примерно 2048 токенов. Модель основана на LLaMA, для которой README описывает использование шаблона Vicuna; лицензия CC BY-NC 4.0 допускает использование с ограничением на коммерческое применение.

Карточка модели NormalGuy85/Crunch-Ai2 на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

unsloth/DeepSeek-R1-GGUF — GGUF-версия модели DeepSeek-R1, разработанной DeepSeek и подготовленной компанией Unsloth. Модель предназначена для локального запуска через llama.cpp и сценариев, требующих рассуждений, генерации и анализа текста, а также написания программного кода. В README указан английский язык; другие языки не заявлены. Модель использует архитектуру MoE и представлена в нескольких вариантах динамической квантизации: 1,58 бит, 1,73 бит, 2,22 бит и 2,51 бит. Размер файлов составляет примерно от 131 до 212 ГБ. Более точные варианты требуют больше дискового пространства, но характеризуются лучшей заявленной точностью: от Fair для 1,58-битной версии до Best для 2,51-битной. Для запуска рекомендуется llama.cpp; возможна частичная выгрузка слоёв на GPU. В примерах используется контекст 8192 токена, однако максимальный размер контекста в README не указан. К сильным сторонам относятся существенное уменьшение размера весов за счёт агрессивной квантизации, возможность локального запуска и наличие вариантов с разным компромиссом между качеством и требованиями к ресурсам. Ограничениями являются очень большой объём файлов даже у наиболее сжатых вариантов, необходимость совместимого оборудования и ПО, а также потенциальное снижение точности из-за низкой разрядности. Модель распространяется по лицензии MIT.

DeepSeek-TNG-R1T2-Chimera-GGUF — GGUF-версия 671-миллиардной языковой модели DeepSeek-TNG R1T2 Chimera, разработанной командой TNG Tech из Мюнхена и распространяемой в формате Unsloth Dynamic 2.0. Модель создана методом Assembly of Experts на основе трёх моделей DeepSeek: R1-0528, R1 и V3-0324. Архитектура — трансформер DeepSeek-MoE; точные сведения о поддерживаемых языках и размере контекста в README не указаны. Модель предназначена для генерации текста и задач, требующих рассуждений, включая математические и другие сложные интеллектуальные запросы. По заявлению разработчиков, она примерно на 20% быстрее обычной R1 и более чем вдвое быстрее R1-0528, при этом превосходит R1 в ряде тестов, включая GPQA и AIME-24. По сравнению с первой R1T Chimera она обеспечивает более стабильное использование токенов рассуждений и более высокие интеллектуальные показатели. Ограничения включают более слабые результаты на сложных бенчмарках по сравнению с R1-0528, большую сдержанность в ответах относительно R1T и отсутствие рекомендации для интенсивных сценариев с function calling из-за влияния родительской модели R1. Модель выпущена 2 июля 2025 года. В README указана лицензия MIT; также пользователям предлагается учитывать рекомендации по ответственному использованию моделей DeepSeek и требования EU AI Act.

G9v3-3B-Heretic-Abliterated-GGUF — плотная каузальная языковая модель с 3 млрд параметров, разработанная командой AI9Stars. Это GGUF-сборка базовой модели Vortecks/G9v3-3B-Heretic-Abliterated, предназначенная для локального запуска на устройствах с ограниченными ресурсами. Модель относится к задачам генерации текста и рассчитана на повседневное использование в роли ассистента, программирование, сценарии с вызовом инструментов и задачи, требующие рассуждений. Заявлена поддержка английского и китайского языков, а также сценариев с длинным контекстом, однако точный размер контекстного окна в README не указан. Сборка представляет собой вариант heretic abliterated: из активационного пространства удалены направления, связанные с отказами, поэтому модель позиционируется как uncensored и обычно отвечает на более широкий круг запросов, чем исходная instruction-tuned версия. Это одновременно является ограничением: у варианта отсутствуют обычные защитные механизмы safety-alignment, поэтому его ответы требуют дополнительной фильтрации и контроля. Доступны варианты GGUF с точностью от F32, F16 и BF16 до различных квантов Q8, Q6, Q5, Q4, Q3 и IQ; размер файлов составляет примерно от 1,4 до 12 ГБ. Квантизации созданы с помощью llama.cpp, а низкобитные варианты IQ1_*–IQ3_XXS — с использованием importance matrix. Модель распространяется по лицензии Apache-2.0. Для запуска и выбора компромисса между качеством, скоростью и потреблением памяти рекомендуется использовать совместимые с llama.cpp GGUF-квантизации; в README отдельно отмечены Q6_K, Q5_K_M, Q5_K_S и Q4_K_M.

Galactic-Qwen-14B-Exp2 — языковая модель PrithivMLmods для генерации текста, диалогов и решения задач на рассуждение. Это плотная модель семейства Qwen2, содержащая 14 млрд параметров и дообученная на базе prithivMLmods/Lacerta-Opus-14B-Elite8 с использованием модели, обученной на длинных цепочках рассуждений, и специализированных наборов данных. В метаданных указаны библиотека Transformers и формат safetensors. Модель предназначена для ответов на вопросы, логических выводов, многошагового решения задач, следования инструкциям, объяснений, суммаризации и генерации структурированного текста, включая JSON. Она поддерживает контекст до 131 072 токенов; в карточке также заявлена генерация до 8 000 токенов за один ответ и поддержка более 29 языков, включая английский, китайский и русский. Заявленные сценарии включают образовательную помощь, чат-ботов, многоязычную коммуникацию и создание длинных текстов. Карточка приводит результаты IFEval (66,20%) и BBH (59,92%), но не содержит подробностей методики оценки. Среди ограничений указаны высокие требования к памяти при работе с длинным контекстом, возможная предвзятость и ошибки, чувствительность к формулировке запроса и отсутствие доступа к актуальным событиям. Лицензия — Apache-2.0.

Abiray/Gemma-4-12B-it-AEON-Abliterated-K4-GGUF — это GGUF-квантизированная версия инструкционной модели Gemma-4-12B-it-AEON-Abliterated, разработанной AEON-7 на основе Google Gemma-4-12B-it. Модель предназначена для генерации текста, чат-взаимодействия, выполнения инструкций, рассуждений, программирования, а также сценариев с tool calling и function calling. В карточке указана поддержка английского языка. Модель использует архитектуру gemma4_unified и содержит около 12 миллиардов параметров. Отличительная особенность — abliteration с применением пользовательской K=4 multi-direction norm-preserving biprojection, призванной сохранять качество генерации и устранять стандартные шаблоны отказов. Репозиторий предоставляет варианты квантизации от 3 до 8 бит: размеры файлов составляют примерно от 6,09 до 12,70 ГБ. Рекомендуемый вариант Q4_K_M занимает 7,38 ГБ и рассчитан на запуск на одной видеокарте уровня T4 или RTX 3060/4060; Q8_0 близок к точности BF16 и требует около 16 ГБ видеопамяти. В примере запуска указан контекст 4096 токенов, но максимальный размер контекста в README не заявлен. Сильными сторонами являются широкий выбор уровней квантизации, возможность запуска через llama.cpp и llama-cpp-python, поддержка локального развёртывания и ориентация на сценарии, где требуется меньше отказов. Ограничения включают отсутствие заявленных сведений о качестве на стандартных бенчмарках, неполные данные о мультимодальности и максимальном контексте, а также возможные риски, связанные с удалением стандартных механизмов отказа. Модель распространяется под лицензией Gemma.

google/gemma-4-31B-it-assistant — вариант Gemma 4 от Google DeepMind с инструкционной настройкой и поддержкой Multi-Token Prediction (MTP). В спекулятивном декодировании небольшой черновой модуль предлагает несколько следующих токенов, которые основная модель проверяет параллельно; карточка заявляет ускорение генерации до 3 раз при сохранении того же качества, что и при обычной генерации. Архитектура плотная, веса опубликованы в формате safetensors, библиотека — Transformers. Модель предназначена для ускорения генерации текста с низкой задержкой, в том числе при локальном развёртывании. Семейство Gemma 4 поддерживает работу с текстом и изображениями, а также генерацию кода, рассуждения и вызов инструментов; у модели заявлено контекстное окно до 256 тысяч токенов и многоязычная поддержка. Карточка семейства также описывает видео и аудио, но аудио поддерживается только вариантами E2B, E4B и 12B, а не 31B. Лицензия — Apache 2.0. Ускорение зависит от использования в совместимом конвейере спекулятивного декодирования; MTP-черновик не является самостоятельной заменой целевой модели. В карточке не приведены отдельные сведения об оценках и ограничениях именно этого чекпойнта.

abenzerps/K2-Horizon-7B-MLX-4bit — это 4-битная конверсия модели IFM/K2-Horizon-7B для MLX. Исходная модель представляет собой плотную decoder-only модель примерно на 7 миллиардов параметров, разработанную IFM, а данный вариант подготовлен для использования в экосистеме MLX и MLX-LM. Модель предназначена для генерации текста, рассуждений, программирования, работы с длинным контекстом и использования инструментов. Она поддерживает только текстовую модальность, без vision-проектора и файлов MTP. Заявленный нативный размер контекста исходной модели составляет 524 288 токенов (512K), язык в карточке указан как английский. Вес модели представлен в формате MLX safetensors с аффинным 4-битным квантованием и размером группы 64; общий размер файлов составляет около 5,06 ГБ. Квантование уменьшает требования к памяти и делает модель более удобной для локального запуска на совместимом оборудовании, однако README не приводит сравнений качества именно квантованной версии с исходной моделью. Для загрузки требуется MLX-LM и доверенный удалённый код, поскольку используется специальный загрузчик, сохраняющий grouped RMSNorm. Модель распространяется по лицензии Apache-2.0. README не содержит подробных сведений о результатах бенчмарков, аппаратных требованиях, скорости работы или ограничениях исходной модели, поэтому эти характеристики нельзя оценить точнее.

Kiel-2-Sol — диалоговая языковая модель KielTech для генерации текста, созданная дообучением Meta Llama 3.2 3B Instruct с помощью параметрически эффективной адаптации слоёв внимания и MLP. Модель содержит 3,2 млрд параметров, использует плотную архитектуру Transformer и поддерживает контекст до 131 072 токенов; в репозитории есть веса Safetensors и варианты GGUF Q4_K_M и Q8_0. Модель предназначена для многоходовых диалогов, многошаговых рассуждений, структурированного вывода, включая JSON, и автоматизации API-сценариев. В карточке заявлен английский язык и лицензия Apache 2.0. Метаданные отмечают возможность чата; README предлагает развёртывание через vLLM, но пример ограничивает длину контекста до 2048 токенов.

T145/KRONOS-8B-V5 — объединённая языковая модель, созданная автором репозитория методом TIES с помощью mergekit. В качестве основы использована unsloth/Meta-Llama-3.1-8B; в объединение также вошли mukaj/Llama-3.1-Hawkish-8B, T145/KRONOS-8B-V1-P2, T145/KRONOS-8B-V1-P3 и unsloth/Meta-Llama-3.1-8B-Instruct. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, рассчитанная на генерацию текста и диалоги. Она принимает текст и генерирует текст, поддерживает интерфейс вызова инструментов и контекст до 131 072 токенов. Карточка приводит результаты Open LLM Leaderboard, включая среднее значение 25,43 и IFEval 54,05; они характеризуют оценивание, но сами по себе не гарантируют качество в конкретных задачах. Лицензия в предоставленных данных не указана. Как и другие генеративные языковые модели, она может выдавать неточные или неподходящие ответы; результаты оценивания ограничены указанными тестами.

QuantFactory/Llama-3-8B-Instruct-Gradient-1048k-GGUF-v2 — квантованная GGUF-версия модели gradientai/Llama-3-8B-Instruct-Gradient-1048k, созданная QuantFactory с использованием llama.cpp. В основе лежит Meta Llama 3 8B Instruct, дообученная Gradient при спонсорской поддержке вычислительной инфраструктуры Crusoe Energy. Версия v2 использует обновлённые веса исходной модели и дополнительно усиливает диалоговые возможности ассистента. Модель предназначена для генерации текста и кода, диалоговых сценариев и обработки исключительно текстовых входных данных. Её ключевая особенность — расширенный контекст длиной более 1,04 млн токенов вместо стандартных 8 тысяч у базовой Llama 3. Для этого применялись NTK-aware interpolation, оптимизация параметра RoPE theta и прогрессивное обучение на последовательно увеличивающихся длинах контекста. Архитектурно это авторегрессионная модель на основе оптимизированного Transformer с Grouped-Query Attention; размер — 8 млрд параметров. Заявлена поддержка английского языка. Сильная сторона модели — способность работать с очень большими текстовыми контекстами; в README приведены результаты тестов Needle-in-a-Haystack на длинах до 1 040 200 токенов, включая высокую точность на описанных сценариях. Ограничения включают текстовую модальность, зависимость практической производительности от используемой квантовки и аппаратного обеспечения, а также отсутствие подробных сведений о конкретном формате квантования, требованиях к памяти и скорости инференса. Модель распространяется по лицензии Llama 3.

Модель gradientai/Llama-3-8B-Instruct-Gradient-4194k — англоязычная диалоговая версия Llama 3, разработанной Meta и опубликованной Gradient AI. Это плотная авторегрессионная трансформерная языковая модель класса LlamaForCausalLM с Grouped-Query Attention; в репозитории заявлено около 7,5 млрд параметров. Она принимает текст и генерирует текст или код, подходит для чат-ассистентов и задач генерации естественного языка. Метаданные указывают поддержку чата и тег английского языка; README описывает исходную Llama 3 как предназначенную для английского. Модель распространяется в формате safetensors по лицензии llama3, то есть по условиям лицензии и политики допустимого использования Meta Llama 3. README описывает семейство Llama 3, а не изменения Gradient-варианта, поэтому дополнительные свойства, подразумеваемые суффиксом названия, здесь не подтверждены. Как и другие базовые генеративные модели, она может выдавать неточные или небезопасные ответы; для прикладного развертывания нужны проверки и защитные меры.

QuantFactory/LLaMA3-iterative-DPO-final-GGUF — это неофициальная GGUF-квантизованная версия инструкционной языковой модели LLaMA3-iterative-DPO-final, созданная QuantFactory с использованием llama.cpp на основе модели RLHFlow. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций, ответы на вопросы и использование в conversational-приложениях. Модель имеет около 8 млрд параметров и обучена методом Iterative DPO — вариантом онлайн-RLHF, основанным на Direct Preference Optimization. По данным README, обучение проводилось на открытых наборах данных без дополнительной разметки людьми или GPT-4. В опубликованных результатах модель показывает высокие показатели на Alpaca-Eval-V2, MT-Bench и Chat-Arena-Hard, а также на академических тестах GSM-8K, MMLU, HumanEval, TruthfulQA, ARC и MBPP. Конкретный формат квантизации, поддерживаемые языки, длина контекста и точные требования к ресурсам не указаны. К сильным сторонам относятся компактный для инструкционной модели размер, возможность запуска в GGUF-совместимой инфраструктуре и хорошие заявленные результаты в диалоговых, математических, кодовых и общеобразовательных задачах. Ограничения включают неофициальный статус чекпойнта, возможные потери качества из-за квантизации и отсутствие подробных сведений о её параметрах. Указана лицензия llama3; дополнительные условия использования в README не раскрыты.

Карточка модели kaivoss/MiMo-V2.6-Distill-Qwen-9B-compat на Hugging Face совпадает с карточкой XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B, поэтому описание составлено по ней. MiMo-V2.6-Distill-Qwen-9B — плотная мультимодальная модель на 9 млрд параметров, разработанная Xiaomi MiMo посредством supervised fine-tuning Qwen3.5-9B на данных, созданных MiMo. Модель предназначена для диалогов и агентных сценариев, включая программирование, визуальное программирование и задачи кибербезопасности; также поддерживает обработку изображений. Карточка публикует результаты SFT-чекпойнта на бенчмарках по программированию. Это контрольная точка для дальнейших исследований в области агентного обучения с подкреплением. Для запуска README рекомендует свежую сборку SGLang с поддержкой Qwen3.5; модель включает токенизатор и шаблон чата MiMo v2.6. Репозиторий содержит веса safetensors. Лицензия — MIT. README не описывает конкретные ограничения качества или безопасности модели.

MiMo-V2.6-Distill-Qwen-9B-GGUF — это квантизированная версия модели MiMo-V2.6-Distill-Qwen-9B, разработанной XiaomiMiMo и подготовленной в формате GGUF пользователем bartowski с использованием llama.cpp. Модель содержит около 9 млрд параметров и предназначена для локального запуска в задачах генерации текста, программирования, агентских сценариев и использования инструментов. Также заявлена поддержка изображений, но для работы с ними требуется отдельный файл mmproj. Модель поддерживает текстовые и графические входные данные, однако сведения о языках и размере контекстного окна в README не указаны. Доступны варианты с разными уровнями квантизации — от BF16 и Q8_0 до более компактных Q3 и IQ-форматов. В качестве компромисса между качеством и требованиями к памяти рекомендуется Q4_K_M размером около 5,84 ГБ; варианты Q6 и Q8 обеспечивают более высокое качество, но требуют больше памяти. Поддержка speculative decoding отсутствует, при этом использовалась imatrix-квантизация. Для корректной работы необходимо применять указанный шаблон промпта на основе специальных токенов ChatML; модель также поддерживает передачу определений инструментов в системном сообщении. README не содержит сведений о лицензии, точной архитектуре, языковом охвате и контекстном окне, поэтому эти характеристики нельзя подтвердить.