II.4Отладка, тестирование и качество ПО

Qwick-3.5-9B — модель Nobuyuki Horiuchi, дообученная на основе Qwen/Qwen3.5-9B. Это самостоятельный чекпойнт BF16 в формате Transformers, предназначенный для генерации текста с более короткими рассуждениями: при близких результатах на MMLU-Pro и GPQA-Diamond длина ответов в приведённых сравнениях сокращалась примерно на 29–40%. Модель также оценивалась на следовании инструкциям, японских вопросах и генерации кода. Основные сценарии — текстовые рассуждения и ответы на вопросы; README приводит оценку сохранения возможностей на изображениях по валидационной выборке MMMU, но автор не квалифицирует модель для широкого мультимодального развёртывания. Модель рассчитана в первую очередь на японский и английский языки. Репозиторий содержит веса Safetensors и использует библиотеку Transformers; лицензия — Apache-2.0. Качество зависит от задачи и профиля генерации: например, в README зафиксировано снижение результата на HMMT и регрессия в разделе инженерии MMLU-Pro. Модель не оценивалась для критически важных рекомендаций, решений с высоким воздействием без надзора или автономных действий; результаты для других форматов, настроек и распределений изображений требуют отдельной проверки.

360Zhinao-7B-Base — базовая авторегрессионная языковая модель семейства 360Zhinao, разработанная командой 360 (Qihoo 360). Модель содержит 7,1 млрд параметров и обучена на корпусе объёмом 3,4 трлн токенов, преимущественно на китайском и английском языках, а также на коде. Это базовая, а не чат-версия; для диалогового применения в серии отдельно выпущены модели Chat. Модель предназначена для генерации текста и служит основой для задач понимания языка, работы со знаниями, математики, логических рассуждений и генерации кода. Она поддерживает контекст до 4096 токенов, построена на архитектуре ZhinaoForCausalLM и распространяется в формате safetensors для Transformers. README сообщает о сравнительной оценке базовой модели на наборах OpenCompass, включая C-Eval, MMLU, GSM8K и HumanEval. Лицензия — Apache-2.0. Как базовая языковая модель, она не настроена специально для следования инструкциям или ведения диалога; качество ответов зависит от промпта и сценария применения.

AgenticCoder‑4B — компактная языковая модель, созданная yasserrmd слиянием Menlo/Jan-nano и ertghiu256/qwen3-4b-code-reasoning методом SLERP. Это плотная Qwen3-архитектура для генерации текста и диалоговых сценариев; размер — 3,7 млрд параметров, контекст — до 40 960 токенов. Репозиторий использует Transformers и формат safetensors. Модель предназначена для агентных сценариев, рассуждений о коде и помощи в разработке: она может генерировать и объяснять Python-код, помогать декомпозировать задачи и вести многошаговый диалог. В примерах также показаны сценарии анализа CSV, извлечения текста из изображений и разбора файлов через код и имитацию взаимодействия с инструментами. Карточка заявляет ориентацию на MCP, однако это не подтверждает наличие встроенного интерфейса вызова инструментов. Модель поддерживает текстовый ввод и выдаёт текст; сведения о конкретных естественных языках не приведены. Карточка характеризует её как компактную для экономичного развёртывания и интеграции в устройства с ограниченными ресурсами, но фактические показатели качества и скорости не указаны. Лицензия в предоставленных данных не приведена.

liuyanyi/AlignScore-large-hf — версия AlignScore Large в формате Hugging Face, подготовленная для запуска через Transformers без пакета alignscore. Это производная от yzha/AlignScore модель объёмом 454,1 млн параметров; в репозитории указаны архитектура AlignscoreModel и веса safetensors. Модель предназначена для классификации текста и оценки согласованности между текстовыми фрагментами, например для проверки, подтверждает ли контекст заданное утверждение. Контекст модели — 514 токенов. Модель принимает текст и выдаёт классификационную оценку. Карточка указывает лицензию MIT. README содержит мало сведений о методике использования и качестве, поэтому конкретные метрики и дополнительные сценарии применения подтвердить нельзя.

Chichu 1.5 Flash — компактная языковая модель Sebastianpro88, дообученная методом LoRA на базе HuggingFaceTB/SmolLM2-135M-Instruct. Модель построена на плотной архитектуре семейства Llama, содержит около 134,5 млн параметров и использует контекст до 8192 токенов. Модель предназначена для диалогов и генерации текста, выполнения инструкций, написания кода, математических задач и рассуждений. Для обучения использованы трассы дистилляции от нескольких моделей-учителей по темам математики, кода, рассуждений, инструкций и работы с инструментами. В README указана поддержка английского языка, а генерация кода показана для Python и JavaScript. Веса опубликованы в формате safetensors. Лицензия обозначена как other; конкретные условия использования в предоставленных данных не раскрыты. Компактный размер ориентирован на быстрый запуск, но сам по себе не гарантирует точность: качество ответов и сложных рассуждений следует проверять на целевых задачах.

InternVL3.5-30B-A3B-Instruct — мультимодальная модель семейства InternVL3.5, разработанная OpenGVLab и представленная в формате Transformers. Это дообученная версия InternVL3_5-30B-A3B-Pretrained с архитектурой InternVLChatModel; репозиторий содержит веса в safetensors и распространяется по лицензии Apache-2.0. Модель принимает изображения и текст и генерирует текстовые ответы. Она предназначена для диалога по изображениям, визуального рассуждения и решения задач на понимание текста в изображениях; семейство также заявляет поддержку взаимодействия с графическим интерфейсом и embodied-сценариев. README описывает Cascade RL для улучшения рассуждений и Visual Resolution Router для адаптивной обработки визуальных токенов. В названии указана конфигурация 30B-A3B; README сообщает, что модели семейства до 30B параметров могут работать на одной GPU A100. Карточка не уточняет длину контекста и языки помимо общего указания на многоязычность в метаданных. Ограничения, связанные с точностью или безопасностью, для этой конкретной версии не описаны.

Marin 8B Base — базовая языковая модель для генерации текста, разработанная сообществом marin-community. Данный репозиторий содержит её квантованные версии в формате GGUF, подготовленные mradermacher с использованием imatrix-квантования. Модель ориентирована на работу с англоязычным текстом и предназначена для локального запуска в совместимых инструментах и библиотеках. Модель обучалась на смеси наборов данных, включающей Dolmino и OLMo Mix, StarCoderData, Proof-Pile-2, MegaWika, DCLM, FineMath, материалы ar5iv, научные вопросы, Stack Exchange и Wikipedia. Это делает её пригодной для общих задач генерации и продолжения текста, работы с техническими и научными материалами, программным кодом и структурированным контентом. Из доступных данных известно, что это модель примерно на 8 миллиардов параметров; сведения об архитектуре, размере контекста и поддержке дополнительных модальностей не указаны. Репозиторий предлагает широкий диапазон квантований с размером файлов примерно от 2,1 до 6,7 ГБ. Более компактные варианты требуют меньше памяти, но могут заметно уступать по качеству; в README в качестве сбалансированных вариантов отмечены i1-Q4_K_S и i1-Q4_K_M, а i1-Q6_K описан как близкий к статическому Q6_K по качеству. Модель является базовой, поэтому её возможности диалогового взаимодействия и следования инструкциям отдельно не заявлены. Распространение выполняется по лицензии Apache 2.0.

Dingdust/MiniCPM5-1B-heretic — текстовая генеративная модель на базе MiniCPM5-1B, изменённая методом abliteration для снижения склонности к отказам. В карточке приведено сравнение: доля отказов снизилась с 97 до 7 из 100, а KL-дивергенция относительно исходной модели составляет 0,0253. Модель сохраняет архитектуру LlamaForCausalLM и контекстное окно 131 072 токена; метаданные указывают 837,6 млн параметров и формат Safetensors. Модель предназначена для локальных диалоговых ассистентов, генерации кода, рассуждений и сценариев с использованием инструментов. Исходная карточка MiniCPM5-1B описывает режимы быстрого ответа и пошагового рассуждения, однако метаданные этого репозитория подтверждают только генерацию текста и чат; отдельная проверка tool calling для данной версии не приведена. Языковые теги — английский и китайский. Репозиторий распространяется по лицензии Apache-2.0. Снижение отказов может повысить вероятность ответа на запросы, на которые исходная модель отказалась бы отвечать, но не гарантирует точность или безопасность результата. Модель может выдавать неточную, предвзятую или небезопасную информацию; ответы следует проверять, особенно перед применением в ответственных сценариях.

Mharbulous/moondream2-syncopaid — это репозиторий модели Moondream, небольшой модели компьютерного зрения и языка, рассчитанной на эффективный запуск на разных устройствах. Карточка описывает выпуски Moondream и улучшения в понимании диаграмм, документов, таблиц, экранов и текста на изображениях. Модель принимает изображение и текстовый запрос, а отвечает текстом; поддерживает также распознавание текста, описание изображений, подсчёт объектов, поиск объектов и открытое тегирование изображений. Репозиторий содержит файлы в форматах safetensors и GGUF F16. В качестве задач Hugging Face указаны image-text-to-text и text-generation; для работы с изображениями основная задача — image-text-to-text. Лицензия — Apache-2.0. В карточке указано имя семейства moondream1, при этом README называет модель Moondream. Для репозитория не приведены сведения о конкретной базовой модели, числе параметров, контекстном окне и поддерживаемых языках. README рекомендует фиксировать revision в производственных приложениях, поскольку модель часто обновляется; в заметках также отмечены улучшения точности распознавания текста и обнаружения объектов.

NVIDIA-Nemotron-3-Nano-4B-GGUF — небольшая языковая модель, разработанная NVIDIA Corporation. Это квантизированная версия NVIDIA-Nemotron-3-Nano-4B-BF16 в формате Q4_K_M, предназначенная для коммерческого использования и работы на периферийных устройствах. Модель обучена с нуля и рассчитана на единое выполнение задач с рассуждением и без него: она может сначала формировать трассу рассуждений, а затем итоговый ответ, причём режим рассуждений управляется системным промптом. Архитектура гибридная: преимущественно слои Mamba-2 и MLP, дополненные четырьмя слоями Attention. Модель сжата из NVIDIA-Nemotron-Nano-9B-v2 с использованием фреймворка Nemotron Elastic. Поддерживается английский язык и языки программирования; в README также указано улучшение с использованием Qwen. Заявлено окно контекста 128k, подтверждённое оценкой RULER. Данные предобучения актуальны по сентябрь 2024 года. Модель ориентирована на Agentic AI в edge-средах, включая Jetson Thor, GeForce RTX и DGX Spark. Основные сценарии — игровые NPC, локальные голосовые ассистенты для устройств, приложений и игр, а также автоматизация IoT. Сильными сторонами являются компактность, пригодность для периферийного развертывания, поддержка рассуждений и сочетание эффективности гибридной архитектуры с большим контекстом. При отключении трасс рассуждений ответы могут быть быстрее и компактнее, но для сложных запросов возможно некоторое снижение точности. Использование регулируется лицензией NVIDIA Nemotron Open Model License.

Pulsar Coder v1 — кодовый ассистент Exo на базе архитектуры Qwen2 с 1,5 млрд параметров. README называет модель обученной с нуля, однако метаданные Hugging Face указывают на дообучение cognitivecomputations/Dolphin3.0-Qwen2.5-1.5B, поэтому происхождение модели в источниках расходится. Модель предназначена для ответов на русском языке и генерации кода на Python, JavaScript и TypeScript, Go, Rust, C++, C#, Java, SQL, Bash, HTML и CSS. Она поддерживает чат; заявленная длина контекста — 131 072 токена. Шаблон чата задаёт идентичность Pulsar по умолчанию. Модель распространяется в формате safetensors по лицензии Apache-2.0. README рекомендует настройки генерации с температурой 0,3–0,7, top_p 0,9 и штрафом за повторы 1,1–1,2, но не приводит результатов оценки качества. Учитывая небольшой размер, пригодность для сложных задач кодирования следует проверять на собственных примерах.

Qwen3.5-9B-Brainwaves — экспериментальная объединённая модель от независимой лаборатории NightmediaAI. Она получена слиянием nightmedia/Qwen3.5-9B-Holodeck-Lounge и schneewolflabs/Wichtelchen-Qwen3.5-9B; в основе используется семейство Qwen3.5 с плотной архитектурой и 9 млрд параметров. Модель предназначена для диалогов и следования инструкциям, включая творческое письмо, программирование и рассуждения. Метаданные также заявляют поддержку изображений на входе и языков английского, китайского, японского и испанского. Модель распространяется в формате safetensors, использует библиотеку Transformers и лицензирована по Apache-2.0. Карточка называет слияние экспериментальным; приведённые в README результаты бенчмарков и описания поведения не являются независимой оценкой качества. Длина контекста в предоставленных сведениях не подтверждена.

Qwen3.6-27B-Seven — экспериментальная мультимодальная модель на 27 млрд параметров от независимой лаборатории Nightmedia. Это многоэтапное слияние NuSLERP нескольких моделей семейства Qwen и MusaCoder-27B; среди компонентов есть модели для диалогов, рассуждений, творческого письма и генерации GPU-ядер. Архитектура — плотная Qwen3.5ForConditionalGeneration, модель поддерживает чат, следование инструкциям и визуальные входы. В карточке указаны английский, китайский, японский и испанский языки, а метаданные заявляют контекст до 1 млн токенов. Модель подходит для диалогов, творческой генерации текста, задач рассуждения и кода, в том числе синтеза CUDA/MUSA-ядер по PyTorch-примерам. В README приведены отдельные результаты замеров perplexity и скорости для нескольких точностей, но не показаны метрики качества итогового слияния. Возможности самой модели для генерации изображений или других выходов не заявлены. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B Uncensored ROCmFP4-STRIX-MTP-GGUF — это исследовательская квантованная версия модели Qwen3.8-27B, опубликованная пользователем kingjones777. Модель поставляется в формате GGUF и оптимизирована для запуска через llama.cpp на графике AMD Strix Halo (gfx1151) с ROCm. Вариант Uncensored создан методом abliteration, уменьшающим отказы от ответов на вредоносные запросы; этот метод не добавляет модели новых возможностей. Модель предназначена для генерации текста и кода, локального инференса и экспериментов со speculative decoding через отдельную MTP-модель-черновик. Доступны варианты ROCmFP4 FAST и STRIX_LEAN, а также Q6-квантизации; размер STRIX_LEAN составляет около 13,59 GiB, FAST — около 13,33 GiB. Для заявленной производительности рекомендуется AMD Ryzen AI Max+ 395 с Radeon 8060S, ROCm 7.2.4, контекстом 8192 и MTP с параметром n=4; в этих условиях приведены скорости до 24,73 токена/с для прозы и около 42,70 токена/с для кода. Для работы требуется совместимая сборка llama.cpp или ROCmFPX и отдельный draft-файл Q4_0. Преимущества модели — локальный запуск, поддержка AMD ROCmFP4 и сниженное число отказов, а ограничения — экспериментальный статус, зависимость производительности от оборудования и настроек, отсутствие гарантий сохранения выравнивания и потенциальные проблемы совместимости отдельных сборок. Лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-W4A16-AutoRound — квантизированная версия модели Qwen3.8-27B-Uncensored от orcarouter, созданная с использованием Intel AutoRound. Она основана на Qwen/Qwen3.8-27B и представляет собой abliterated-производную с существенно удалённым защитным выравниванием. Модель предназначена для исследовательских задач, включая интерпретируемость, исследования безопасности ИИ, red teaming, оценку моделей и интеграцию в собственные защищённые системы. Модель поддерживает работу с текстом и изображениями, языки English и Chinese, а также контекст до 262 144 токенов. Используется архитектура Qwen3.8 с сохранённой vision tower и MTP-головой для speculative decoding. Квантизация W4A16 выполнена методом AutoRound: основные линейные слои используют 4-битные веса и 16-битные активации, а vision tower, lm_head, embed_tokens и отдельные проекции GatedDeltaNet сохранены в bf16. Для запуска рекомендуется vLLM; заявлены показатели 0,9052 на GSM8K, 0,761 на MMLU-Pro и 0,880 на MMLU. Сильными сторонами являются большой контекст, поддержка изображений, сниженные требования к памяти по сравнению с полноразмерной моделью и сохранение значительной части исходных возможностей после квантизации. Ограничения включают возможное снижение качества из-за квантизации и abliteration, а также отсутствие эффективных встроенных защитных механизмов: модель может выполнять вредоносные, незаконные или неэтичные запросы. Её не следует предоставлять конечным пользователям без собственной системы безопасности. Лицензия — Apache-2.0; ответственность за использование и последствия вывода несёт пользователь.

Skywork-13B-Base — базовая авторегрессионная языковая модель семейства Skywork, разработанная командой Skywork. Она предварительно обучена на 3,2 трлн токенов очищенных многоязычных текстов и кода; в обучающем наборе преобладают английский и китайский языки. Модель содержит 13,6 млрд параметров, использует плотную архитектуру SkyworkForCausalLM с 52 слоями и токенизатор BPE с размером словаря 65 536. Длина контекста — 4096 токенов. Модель предназначена для генерации и продолжения текста, а также для дообучения под прикладные сценарии. Карточка приводит результаты сравнительных оценок и бенчмарков, включая C-Eval, MMLU, CMMLU и GSM8K. Она ориентирована прежде всего на китайский и английский текст и также обучалась на коде. В репозитории указаны веса PyTorch и лицензия «other»; конкретные условия следует сверять с лицензионными файлами модели. Модель базовая, а не диалоговая инструкционная версия, поэтому для ассистентского общения может потребоваться дополнительное дообучение. Заявленные в карточке преимущества основаны на оценках разработчиков и не гарантируют качество на любых пользовательских данных.

Unbound E4B — мультимодальная модель для диалога, дообученная командой Chromia & Eval Engine на Google Gemma 4 E4B Instruct. Она принимает текст и изображения и генерирует текст; предназначена для открытых диалогов, ответов на вопросы, рассуждений и анализа изображений. В карточке сообщается, что по знаниям и рассуждениям она сильнее младшей Unbound E2B и сохраняет результаты базовой модели на GPQA-Diamond и BBH в пределах статистической погрешности. Модель снижает частоту отказов на тесте AdvBench с 98,08% у базовой модели до 2,69%, поэтому чаще отвечает на запросы, от которых базовая модель отказалась бы. Разработчики также отмечают увеличение галлюцинаций на вредоносных запросах с 1,35% до 13,08%. Модель может выдавать вредные, ложные, предвзятые или небезопасные ответы; используйте результаты с проверкой. В репозитории находятся объединённые веса Transformers в формате Safetensors; для запуска на устройстве доступны отдельные сборки GGUF. Лицензия — Apache-2.0.

AmberYifan/capsd-marin-8b-base-code_cap_b16000_s0 — дообученная модель семейства Llama на базе marin-community/marin-8b-base. По карточке, обучение проводилось на наборе capsd_marin-8b-base-n80000-opc__mix_code_cap_b16000_s0, что указывает на адаптацию для генерации текста и кода. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM, формат safetensors и библиотеку Transformers; максимальный контекст — 4096 токенов. Модель подходит для генерации и продолжения текста, включая сценарии с кодом и диалоговым интерфейсом. Базовая модель описана как англоязычная, однако README не уточняет языковые возможности именно этой версии. Лицензия указана как other, поэтому условия использования следует сверить с лицензией репозитория и базовой модели. README не содержит результатов оценки или подробных рекомендаций по применению.

EmanuelOverride/gemma-4-26B-A4B-it-heretic-APEX-GGUF — экспериментальная коллекция GGUF-квантов модели coder3101/gemma-4-26B-A4B-it-heretic. Модель относится к семейству Gemma 4, использует архитектуру mixture-of-experts (MoE) и предназначена для генерации текста. В репозитории представлены пользовательские конфигурации APEX, оптимизированные для многоуровневого квантования экспертных блоков и внимания к контексту. Доступны варианты с размером примерно от 12,9 до 15,8 GiB и плотностью квантования от 4,29 до 5,25 BPW. Конфигурации различаются распределением уровней точности, включая Q3_K, Q4_K и Q5_K, а также способом защиты routing-блоков, shared experts и Global Attention. Заявленные преимущества включают более эффективное использование памяти, потенциально высокую скорость на устаревшем оборудовании, сохранение связности и улучшенное внимание к деталям длинного контекста. Однако варианты являются экспериментальными, а заявленные различия в качестве, скорости и стабильности основаны на тестировании автора и могут зависеть от оборудования и сценария. Указан английский язык. Модель предназначена для инференса через инструменты, поддерживающие формат GGUF и соответствующую MoE-архитектуру. Стандартные и предсказуемые конфигурации APEX рекомендуется искать в репозитории mudler; разработчик также отмечает вклад авторов исходной архитектуры, abliteration-механики и imatrix-датасета. Лицензия — Apache-2.0.

Ayodele01/gemma-4-E4B-Gemini-3.1-Pro-Reasoning-Distill-GGUF — GGUF-квантизированные версии инструкционно дообученной модели Google Gemma-4 E4B с 4 млрд параметров. Модель доработана методом LoRA на наборах данных с примерами рассуждений, созданных на основе Gemini 3.1 Pro, чтобы улучшить способности к пошаговому reasoning и решению сложных задач. Модель ориентирована на генерацию текста и указана как англоязычная. Модель предназначена для локального запуска через llama.cpp и Ollama, включая задачи ответов на вопросы, логического вывода, решения математических и других требующих рассуждений запросов. Доступны варианты F16, Q8_0, Q5_K_M, Q4_K_M и Q3_K_M размером примерно от 4,6 до 15 ГБ; вариант Q5_K_M обозначен как сбалансированный и рекомендуемый. Заявлена поддержка контекста до 128K токенов, при этом в рекомендуемых настройках указана длина 8192 токена. Сильными сторонами модели являются компактный размер, возможность работы на локальных устройствах и специализация на reasoning-задачах. Качество и требования к памяти зависят от выбранного уровня квантизации: F16 обеспечивает наилучшее качество, а Q3_K_M подходит для наиболее ограниченных устройств, вероятно снижая точность. В README не приведены независимые результаты оценки, подробные сведения об архитектуре Gemma-4 или гарантии качества рассуждений. Модель распространяется по лицензии Gemma.

GPT-5 Image — модель OpenAI, объединяющая GPT-5 с возможностями генерации изображений GPT Image 1. Она предназначена для взаимодействия с текстом и создания изображений по инструкциям; в карточке также отмечены улучшения в рассуждениях, качестве кода и следовании запросам. Доступный фрагмент карточки не сообщает архитектуру, размер, языки, длину контекста или лицензию.

AlexWortega/instruct_rugptSmall — небольшая авторская версия ruGPT Small, дообученная на инструкциях, материалах Habr, данных для вопросов и ответов и коде. Модель на архитектуре GPT-2 предназначена для генерации текста по запросу и может использоваться для ответов на вопросы и помощи с кодом. Модель работает через библиотеку Transformers, принимает текст и генерирует текст. Контекст составляет 2048 токенов. В метаданных указана лицензия Apache-2.0. Размер модели и список поддерживаемых естественных языков явно не приведены; русский язык подтверждён примером запроса и описанием дообучения на русскоязычных инструкциях.

QuantFactory/INTELLECT-1-GGUF — это квантизированная версия базовой языковой модели INTELLECT-1, подготовленная QuantFactory с использованием llama.cpp. Исходную модель разработала Prime Intellect совместно с 30 независимыми участниками, предоставлявшими вычислительные ресурсы. Модель предназначена для генерации английского текста и кода, а также исследовательских и прикладных сценариев, где требуется базовая языковая модель. Для диалогового использования рекомендуется отдельная версия INTELLECT-1-Instruct. INTELLECT-1 содержит 10 миллиардов параметров, 42 слоя, 32 attention heads, hidden size 4096, контекст длиной до 8192 токенов и словарь из 128256 токенов. Она обучена с нуля на 1 триллионе токенов преимущественно англоязычного текста и кода, включая FineWeb-Edu, FineWeb, Stack V1, DCLM и OpenWebMath. Обучение выполнялось распределённо на узлах в разных частях мира с применением DiLoCo и оптимизированного int8 all-reduce. К сильным сторонам относятся крупный объём обучения, открытая базовая архитектура и возможность запуска в формате GGUF через llama.cpp, включая сценарии локального инференса с подходящим уровнем квантизации. Ограничения связаны с тем, что это base-модель, не оптимизированная для инструкций и диалогов; заявленный основной язык — английский, а характеристики конкретного варианта квантизации в README не указаны. При подготовке входных данных необходимо добавлять BOS-токен, иначе производительность может снизиться. Модель распространяется по лицензии Apache 2.0.

KAI-7B — языковая модель Keynote Technology на архитектуре Mistral с 7,1 млрд параметров, дообученная на основе Mistral 7B. Она предназначена для генерации текста и может применяться для ответов на вопросы и работы с задачами STEM; в карточке также отмечены возможности в области кода. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и рассчитана прежде всего на английский язык. Автор заявляет о высоких результатах на проведённых им бенчмарках, особенно в STEM, но отмечает, что математические и кодовые задачи требуют улучшения. Это предварительно обученная базовая модель без механизмов модерации. Репозиторий распространяется по лицензии Apache-2.0; README отдельно запрещает использовать модели KAI для разжигания ненависти.

Llama-3.1-Nemotron-Nano-4B-v1.1-bf16 — версия компактной языковой модели NVIDIA, опубликованная mlx-community и преобразованная из nvidia/Llama-3.1-Nemotron-Nano-4B-v1.1 для запуска с библиотекой MLX. Это плотная авторегрессионная модель семейства Llama с 3,9 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для диалоговой генерации текста. Базовая модель NVIDIA ориентирована на рассуждения, код, математику, RAG и вызов инструментов; эти сценарии могут быть полезны и для данной версии, но README подтверждает только конверсию и не приводит отдельной оценки её качества или результатов тестирования. В карточке заявлена поддержка английского языка. Репозиторий содержит веса safetensors в формате для MLX, а не отдельную квантизацию. Лицензия указана как other, поэтому перед использованием следует свериться с условиями лицензирования исходной модели NVIDIA и репозитория.

RedHatAI/Llama-3.2-1B-FP8 — это FP8-квантизированная версия базовой языковой модели Llama 3.2 1B. Репозиторий опубликован Red Hat AI, а исходная модель разработана Meta. Это авторегрессионная текстовая модель для генерации текста и кода; она не является мультимодальной и не относится к instruction-tuned версии. Модель содержит около 1,23 млрд параметров и использует оптимизированную Transformer-архитектуру Llama с Grouped-Query Attention: 16 слоёв, 32 attention heads и 8 key-value heads. В конфигурации репозитория указано контекстное окно до 131 072 токенов. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. FP8-представление весов и активаций предназначено для снижения требований к памяти и ускорения инференса на совместимом оборудовании. Сильными сторонами являются небольшой размер, возможность локального развертывания и повышенная эффективность по сравнению с полноточной версией. Ограничения включают меньшую ёмкость по сравнению с более крупными моделями, возможные потери качества из-за квантизации и отсутствие в карточке репозитория собственных подробных оценок качества или описания ограничений. Для исходной Llama 3.2 указана Llama 3.2 Community License — специальная коммерческая лицензия Meta; условия применения производной FP8-модели следует проверять по лицензии базовой модели и файлам репозитория.

QuantFactory/Llama-3-Groq-8B-Tool-Use-GGUF — квантизированная версия модели Llama-3-Groq-8B-Tool-Use, созданная QuantFactory с использованием llama.cpp на основе модели Groq. Это авторегрессионная языковая модель с оптимизированной transformer-архитектурой и примерно 8 млрд параметров, дообученная полным fine-tuning и методом Direct Preference Optimization (DPO) на базе Llama 3 8B. Модель предназначена прежде всего для tool use и function calling: взаимодействия с API, обработки структурированных данных и выполнения сложных последовательностей вызовов инструментов. Она принимает текст и генерирует текст с поддержкой вызовов функций в структурированном формате. Заявленный язык — английский; сведения о размере контекста и мультимодальных возможностях отсутствуют. На Berkeley Function Calling Leaderboard модель получила 89,06% общей точности, что в карточке указано как лучший результат среди открытых 8B-моделей. Для общих вопросов и открытой генерации может быть предпочтительнее универсальная языковая модель. Модель способна генерировать неточный или предвзятый контент и требует дополнительных мер безопасности. Результаты чувствительны к параметрам sampling; в качестве отправной точки рекомендованы temperature 0,5 и top_p 0,65. Указана лицензия Meta Llama 3 Community License.

Manticore 30B Chat (ALPHA) — диалоговая модель OpenAccess AI Collective, дообученная на базе Llama 30B. Это плотная авторегрессионная модель семейства Llama с 32,3 млрд параметров, предназначенная для генерации ответов в формате чата. В обучении использованы диалоги, инструкции, примеры рассуждений, задач на знания и логику, математику, суммаризацию, код и отфильтрованные данные для ролевых сценариев. Модель принимает текстовые запросы и генерирует текст; в карточке указан английский язык. Это альфа-чекпойнт, обученный только на 0,4 эпохи: авторы отмечают скачки потерь при обучении и уязвимость к обходу имеющегося выравнивания. Модель не прошла RLHF и не имеет встроенной фильтрации ответов, поэтому может выдавать нежелательный контент. Подходит для экспериментов с чат-моделями и генерацией текста; сведений о лицензии в предоставленных данных нет.

Nemotron-3-Nano-30B-A3B-Base — базовая большая языковая модель, разработанная NVIDIA и опубликованная в репозитории Unsloth. Это вариант модели NVIDIA-Nemotron-3-Nano-30B-A3B-Base-BF16; заявленная архитектура — гибрид Mamba2 и Transformer с Mixture of Experts (MoE), общий размер — 30 млрд параметров. Модель предназначена как основа для дообучения под инструкции и создания специализированных ИИ-агентов, а не как готовый чат-ассистент. Модель принимает и генерирует текст, поддерживает длинные последовательности: в README указаны вход и выход до 128 тыс. токенов, а также возможность контекста до 1 млн токенов при соответствующей настройке. Она рассчитана на английский и ряд других естественных языков, включая русский, и обучалась на данных по коду, математике, естественным наукам и общим знаниям. Репозиторий содержит веса в формате safetensors; README отмечает исправления chat template для Unsloth. Модель подходит разработчикам, которые создают и дообучают языковые модели для генерации текста и агентских сценариев. README заявляет готовность к коммерческому использованию, однако в метаданных указана лицензия other, поэтому перед применением следует свериться с её условиями. Для работы рекомендуются NVIDIA GPU; указанная в README совместимость включает H100-80GB и A100.

Olmo-3-7B-Instruct-OPSA — англоязычная авторегрессионная языковая модель на архитектуре Transformer, разработанная Allen Institute for AI (Ai2). Это чекпойнт шага 319 базовой модели allenai/Olmo-3-7B-Instruct, дообученный методом On-Policy Self-Adaptation (OPSA) на вопросах из DAPO-17k. Модель содержит 6,9 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. Модель предназначена для диалогов и генерации ответов с упором на математические рассуждения, а также подходит для общих текстовых и кодовых задач. В оценках с 32 генерациями на запрос OPSA-чекпойнт показал улучшение относительно базовой модели на AIME 2024, AIME 2025, HMMT 2025, MBPP+ и GPQA_D. Модель распространяется в формате safetensors по лицензии Apache 2.0. Ответы могут содержать фактические ошибки и предвзятые или вредоносные формулировки; результаты следует проверять, а при использовании учитывать риски генерации небезопасного контента.