II.3Рефакторинг, миграция и модернизация

MergeBench опубликовала эту текстовую авторегрессионную модель для генерации кода и других текстовых продолжений. По метаданным, это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 3,2 млрд параметров; репозиторий содержит веса Safetensors и использует Transformers. Карточка Hugging Face автоматически сгенерирована и не уточняет обучение, языки, контекст или лицензию. Название и принадлежность к коллекции моделей Llama-3.2-3B указывают на кодовую специализацию, но подробности о её качестве и ограничениях не приведены.

Minotaur 15B 8K — инструктивно дообученная модель OpenAccess AI Collective на базе StarCoderPlus. Она предназначена для диалоговых запросов в формате USER:/ASSISTANT:, генерации и объяснения кода, ответов на вопросы, решения задач по математике и естественным наукам, а также краткого пересказа текста. Модель имеет плотную архитектуру GPTBigCodeForCausalLM с 15 млрд параметров и контекстом до 8192 токенов; она принимает и генерирует текст, включая программный код. Обучение проводилось методом QLoRA на открытых наборах инструкций, кода, математики и научных задач. Модель рассчитана прежде всего на английский язык и программный код. Карточка указывает, что она не проходила RLHF и не использует фильтрацию ответов, поэтому может выдавать проблемный контент по запросу. Генерируемый код может содержать ошибки, быть неэффективным или уязвимым; также возможны предвзятость и дословное воспроизведение фрагментов обучающих данных с лицензионными условиями. Лицензия в предоставленных сведениях не указана.

OpenCoder-1.5B-Instruct-GGUF — это квантизированная в формате GGUF версия инструкционной языковой модели OpenCoder-1.5B-Instruct, разработанной Infly. Квантизация выполнена участником сообщества bartowski на основе llama.cpp release b4014. Модель предназначена прежде всего для генерации и обработки программного кода, а также для сценариев, где требуется следование инструкциям при работе с кодом. Она поддерживает запросы на английском и китайском языках. Модель обучалась на 2,5 триллиона токенов, включая 90% исходного кода и 10% связанного с кодом веб-контента, а затем прошла дообучение на 4,5 миллиона высококачественных примеров. Размер базовой модели — 1,5 млрд параметров, максимальная длина контекста — 8 тысяч токенов. Ключевые преимущества — специализация на коде, поддержка английского и китайского языков и возможность использования в GGUF-совместимой инфраструктуре. Ограничения включают относительно небольшой размер, контекст в 8 тысяч токенов и отсутствие в представленных данных результатов бенчмарков, поэтому качество на конкретных задачах не определено. В метаданных указана лицензия inf и ссылка на лицензию исходной модели; точные условия использования следует уточнять по этому документу.

lopezhansel/phined-tuned-2 — конвертированная в формат MLX версия модели microsoft/Phi-3-mini-4k-instruct. Это плотная авторегрессионная языковая модель семейства Phi-3 с 3,7 млрд параметров, предназначенная для генерации текста в диалоговом и кодовом сценариях. Модель принимает текст и выдаёт текст; заявленный контекст — 4096 токенов. В метаданных указаны английский язык и поддержка чата и кода. Модель опубликована в формате safetensors и подготовлена с помощью mlx-lm версии 0.15.3 для использования с MLX. Лицензия — MIT. Карточка не приводит отдельных сведений о качестве или дополнительных ограничениях.

Это готовая к использованию модель Qwen3 с 1,7 млрд параметров, созданная в проекте RL-Forgetting-Experiments-3 на основе Qwen/Qwen3-1.7B-Base. Она дообучена методом supervised fine-tuning на данных для программирования; указаны упорядоченная последовательность обучения и шаг оптимизатора 102. Модель построена на плотной архитектуре Qwen3ForCausalLM и предназначена для генерации текста, в том числе кода и ответов в диалоговом формате. Она принимает текст и выдаёт текст, а максимальный контекст составляет 32 768 токенов. Модель подходит для генерации фрагментов кода, решения задач программирования и диалоговой помощи при разработке. Карточка не приводит оценок качества или подробностей о языках программирования и лицензии, поэтому выводы о точности и условиях коммерческого использования сделать нельзя.

Это финальная модель, подготовленная для инференса и предназначенная для генерации кода после supervised fine-tuning. Она основана на Qwen3-1.7B-Base и содержит 1,7 млрд параметров; архитектура — плотная авторегрессионная Qwen3ForCausalLM. Обучение включало данные для кодирования и равномерное воспроизведение обучающих примеров; указан шаг оптимизатора 102. Модель принимает текст и генерирует текст, в том числе код, а контекст составляет до 32 768 токенов. Модель подходит для генерации фрагментов кода и ответов на запросы по программированию. В карточке указаны Transformers и формат Safetensors. Условия лицензии в предоставленных данных не описаны.

Qwen3.5-9b-Sushi-Coder-RL-MLX — мультимодальная модель для генерации кода, разработанная bigatuna на базе Qwen3.5-9b-Sushi-Coder-RL. Это 4-битная affine-квантизированная конверсия RL-чекпойнта в формат MLX, предназначенная для запуска на устройствах с Apple Silicon через mlx-vlm. Модель поддерживает работу с текстом и изображениями, включая анализ скриншотов с ошибками и предложение исправлений. В метаданных указан английский язык, однако полный набор поддерживаемых языков и размер контекстного окна не приведены. Модель дообучалась на наборах данных с рассуждениями и задачами программирования, включая open-r1/codeforces-cots и nohurry/Opus-4.6-Reasoning-3000x-filtered. Этап обучения с подкреплением был выполнен для задач кодирования с использованием NousResearch/hermes-agent и atropos. К сильным сторонам относятся специализация на программировании, поддержка мультимодальных сценариев и возможность относительно экономичного локального запуска благодаря 4-битной квантизации. Ограничения — зависимость от экосистемы MLX и Apple Silicon, необходимость использования mlx-vlm вместо llama.cpp, а также отсутствие в README подробных результатов тестирования, сведений о точности и ограничений по качеству работы с языками и изображениями. Модель распространяется по лицензии Apache-2.0.

KridgeDookie выпустил PHILADELPHIA CLASS — дообученную мультимодальную модель на 27,36 млрд параметров на базе Qwen/Qwen3.6-27B. Она сохраняет гибридную архитектуру обработки текста и изображений и предназначена для общения, программирования, творческих задач и экспериментов с мультимодальными сценариями. Версия Safetensors включает обработку изображений; вариант GGUF в BF16 предназначен только для генерации текста. Разработчик сообщает о снижении склонности к отказам: модель не отказала ни на одном из 842 внутренних проверочных запросов и на отдельной выборке из 126 запросов; 23 из 24 проверок связности пройдены. Это внутренние автоматизированные оценки, а не независимые или стандартизированные тесты, и они не подтверждают фактическую точность или безопасность модели. Контекст настроен на 262 144 токена, но доступность полного окна зависит от оборудования. Сниженная склонность к отказам может приводить к вредным, вводящим в заблуждение, предвзятым или незаконным ответам. Модель распространяется по лицензии Apache-2.0.

eme/Qwen3.6-35B-A3B-FP8-Q4_K_M-MTP-GUFF — это GGUF-конверсия модели Qwen3.6-35B-A3B от команды Qwen, подготовленная пользователем eme. Модель основана на варианте Qwen/Qwen3.6-35B-A3B-FP8 и предназначена для локального запуска и эффективного инференса через llama.cpp. В README также упоминаются возможности Qwen3.6 для агентного программирования, работы с фронтенд-разработкой и рассуждений на уровне репозитория, однако эти сведения приведены для другой конфигурации Qwen3.6 и не позволяют полностью подтвердить характеристики данного варианта. Финальные веса используют квантизацию Q4_K_M для формата GGUF; исходная модель экспортирована в FP8 с форматом F8_E4M3. Такое представление уменьшает объём памяти и нагрузку на пропускную способность по сравнению с BF16, сохраняя близкое к BF16 качество для большинства задач инференса. В модель интегрирован Multi-Token Prediction (MTP), который может ускорять декодирование за счёт спекулятивного предсказания нескольких токенов. Точные сведения о контекстном окне, поддерживаемых языках и мультимодальности для этого конкретного файла не указаны; тег image-text-to-text присутствует в метаданных, но не подтверждает фактическую поддержку изображений. Для работы рекомендуется свежая версия llama.cpp с поддержкой CUDA и MTP-aware decoding; требуется достаточно VRAM в зависимости от длины контекста и размера батча. Пример запуска из README показывает работу на RTX 4080 с 16 ГБ памяти, но это не является гарантией совместимости или производительности в других конфигурациях. Ограничения включают возможные потери качества из-за Q4_K_M и зависимость ускорения от поддержки MTP и оптимизированных ядер в используемом рантайме. Лицензия указана как Apache-2.0.

iliaosipov998/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — многоэтапная fine-tune и merge-модель на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU, подготовленная с использованием Unsloth и методов COLD FUSION и Fable Fusion. Репозиторий содержит обычные и MTP-варианты GGUF-квантов, включая версии с 4- и 8-битным представлением. Разработчик заявляет о создании модели для потребительского оборудования и о снижении объёма рассуждений по сравнению с базовой Qwen 3.8 27B при сохранении детализации и качества ответов. Модель предназначена для широкого спектра сценариев: решения задач и рассуждений, программирования, творческого письма, создания художественных текстов, ролевых диалогов и других универсальных применений. Заявлены поддержка английского и китайского языков, текстовый ввод и вывод; при этом в карточке присутствует тег image-text-to-text, но подробности о фактических мультимодальных возможностях не приведены. Архитектура, точное окно контекста и полный набор режимов работы не описаны, однако из названия и карточки следует размер базовой модели около 27B параметров и наличие MTP-режима. К заявленным сильным сторонам относятся высокая производительность на внутренних и упомянутых ARC-C и ARC-E тестах, уменьшенное количество рассуждающих токенов, ускоренная генерация, развитые способности к программированию и генерации подробных текстов. Эти результаты представлены авторами модели и не подтверждены независимыми измерениями в предоставленных данных. Ограничения включают возможную необъективность заявленных бенчмарков, отсутствие подробной информации о качестве, безопасности и поведении на других языках, а также позиционирование как uncensored/abliterated-модели, что может означать ослабленные защитные ограничения. Лицензия — Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — это GGUF-квантизированная версия многоэтапно дообученной и объединённой модели на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Модель подготовлена с использованием Unsloth, методов COLD FUSION и Fable Fusion 711; репозиторий konizquants содержит обычные и MTP-варианты Neo-CODER MAX DI-MATRIX GGUF-квантов. Заявлены языки английский и китайский, а также лицензия Apache 2.0. Точные сведения о длине контекста и полном устройстве архитектуры в README не указаны. Модель предназначена для общих задач, рассуждений и решения задач, программирования, генерации творческих текстов, художественной прозы, ролевых сценариев и работы с различными жанрами. Ключевая цель дообучения — сократить объём токенов рассуждения и ускорить генерацию при сохранении подробности и качества ответов; автор заявляет сокращение от примерно половины до одной десятой по сравнению с обычной Qwen3.8. Доступны варианты с 4- и 8-битным представлением, включая MTP, что ориентировано на запуск на потребительском оборудовании. README приводит высокие результаты внутренних и заявленных бенчмарков ARC, но не содержит независимой верификации. Ограничениями являются зависимость качества и скорости от конкретного кванта и оборудования, отсутствие подробных данных о контекстном окне и модальностях, а также заявленная «uncensored» направленность, из-за которой модель может требовать дополнительного контроля безопасности.

Kukedlc/Smart-LLama-3-8b-Python-v5 — разработанная Kukedlc дообученная языковая модель семейства Llama для генерации текста и диалогов. Она основана на Kukedlc/Smart-LLama-3-8b-Python-v2-16bit и рассчитана на сценарии, связанные с Python, согласно описанию базовой модели в каталоге. Модель имеет плотную архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров. Она принимает текст и генерирует текст, поддерживает английский язык, а контекст составляет до 8192 токенов. Обучение проводилось с использованием Unsloth и библиотеки Hugging Face TRL. Модель распространяется в формате safetensors по лицензии Apache 2.0. Карточка не приводит оценок качества или подробностей ограничений; применимость ответов по Python следует проверять на целевых задачах.

0pen — экспериментальная разговорная модель от 0penAGI для совместного инженерного проектирования и решения задач. Это LoRA-дообучение Google Gemma 4 E4B с 4 млрд параметров; опубликованная версия представлена в формате GGUF Q4_K_M и рассчитана на запуск через llama.cpp или Ollama. По карточке, обучение проводилось на 4-битной MLX-конверсии базовой модели с адаптацией 12 из 34 слоёв. Модель предназначена для диалогов, в которых нужно быстро предложить практичный план, спроектировать систему или алгоритм и учитывать заданные ограничения. Разработчик отмечает естественные ответы на русском и работу на русском и английском языках; сильная сторона модели — прямой инженерный стиль в ответ на конкретные проектные запросы. Лицензия — MIT. Это исследовательский предварительный выпуск, не рекомендованный автором для использования в производстве без дополнительной проверки. В длинных цепочках рассуждений модель может отклоняться от темы или повторяться, быть излишне краткой в творческих задачах и предпочитать упрощённые инженерные решения глубокому теоретическому разбору.

BAAI/AquilaCode-multi — модель генерации текста из семейства Aquila, опубликованная BAAI. В карточке указаны версия v0.9 и файлы AquilaCode-mutil; README описывает Aquila как двуязычную китайско-английскую языковую модель, обученную с нуля, а семейство — как основанное на архитектурных решениях GPT-3 и LLaMA. По метаданным эта модель имеет плотную архитектуру Aquila, около 6,9 млрд параметров и контекст до 2048 токенов. Модель предназначена для генерации текста и задач с кодом в нескольких языках программирования. README не уточняет полный перечень языков программирования и не приводит отдельные показатели качества именно AquilaCode-multi. Метаданные указывают формат PyTorch и задачу text-generation. Для весов действует лицензия BAAI Aquila Model License Agreement; коммерческое использование допускается при соблюдении её ограничений.

AmberYifan/capsd-marin-8b-base-code_qurating_b10000_s0 — дообученная модель семейства Llama, созданная на основе marin-community/marin-8b-base. Она содержит около 7,5 млрд параметров и предназначена для генерации и продолжения текста; карточка указывает на дообучение на наборе capsd_marin-8b-base-n80000-opc__mix_code_qurating_b10000_s0, название которого указывает на смесь данных с кодом и задачей question answering, но подробности обучения не приведены. Модель использует плотную архитектуру LlamaForCausalLM, библиотеку Transformers и формат safetensors, поддерживает чат и имеет контекст до 4096 токенов. Базовая Marin 8B Base описана как англоязычная модель для генерации и продолжения текста, поэтому английский — основной язык модели. Лицензия обозначена как other, без дополнительных условий в предоставленных данных; перед применением следует проверить лицензию репозитория. README не приводит оценок качества, поэтому пригодность для кода и ответов на вопросы стоит проверять на целевых примерах.

CodeGen2.5-7B-mono — авторегрессионная модель для генерации программного кода, разработанная Salesforce. Она обучена на корпусе StarCoderData объёмом 1,4 трлн токенов, а затем дополнительно обучена на данных Python. Модель содержит 6,7 млрд параметров, использует архитектуру Llama и имеет контекст 2048 токенов. Модель предназначена для генерации исполняемого кода по подсказкам на естественном языке, автодополнения частично написанного кода и заполнения пропусков внутри фрагмента. Поддерживает несколько языков программирования; карточка особо указывает дополнительное обучение на Python. Для генерации по описанию README рекомендует формулировать подсказки на английском в виде комментария. Модель может воспроизводить фрагменты исходного кода из обучающих данных, поэтому перед использованием сгенерированного кода следует проверять его происхождение и применимые условия лицензии. Указана лицензия Apache-2.0; разработчики также рекомендуют проверять точность, безопасность и соответствие предполагаемому сценарию применения.

Это текстовый Sentence Transformer, дообученный на базе sentence-transformers/all-MiniLM-L6-v2 для поиска соответствий между запросами и фрагментами кода. Модель преобразует предложения и абзацы в плотные векторы размерности 384; для сравнения используется косинусное сходство. Архитектура включает BERT-энкодер, mean pooling и нормализацию векторов. Модель предназначена для семантического поиска по коду и извлечения релевантных фрагментов по текстовому запросу. Обучение проведено на 393 427 парах «запрос — код» с MultipleNegativesRankingLoss. Метаданные указывают 25,9 млн параметров и контекст до 512 токенов; README задаёт максимальную длину последовательности 256 токенов, поэтому при использовании следует учитывать это ограничение. Язык корпуса и лицензия в предоставленных данных не указаны.

DeepCoder-1.5B-Preview — языковая модель для генерации и рассуждения над программным кодом, разработанная проектом Agentica. Она создана на основе DeepSeek-R1-Distill-Qwen-1.5B и дообучена с использованием распределённого reinforcement learning, включая улучшенный алгоритм GRPO+ и поэтапное увеличение длины контекста. Модель предназначена для решения задач программирования, генерации кода и задач с проверяемыми тестами. В обучении использовались наборы Taco-Verified, PrimeIntellect SYNTHETIC-1 и LiveCodeBench; заявленный язык — английский. Размер модели — 1,5 млрд параметров. Она относится к текстовым моделям и поддерживает контекст до 64K токенов при инференсе, хотя обучение проводилось с длиной до 32K. Модель можно разворачивать через vLLM, Hugging Face TGI, SGLang и TensorRT-LLM с поддержкой формата OpenAI Chat Completions API. По приведённым оценкам, DeepCoder-1.5B-Preview показывает лучшие результаты, чем исходная DeepSeek-R1-Distill-Qwen-1.5B, на LiveCodeBench v5, Codeforces и HumanEval+. Сильными сторонами являются кодовое рассуждение, работа с длинным контекстом и открытая исследовательская направленность. Ограничения включают статус Preview, меньший размер по сравнению с крупными моделями и отсутствие в README подробностей о фактическом качестве на других языках программирования, системных требованиях и характеристиках именно GGUF-сборки. Проект распространяется по лицензии MIT.

Akahsizrr/fuse-1-Lite-MLX — сборка модели fuse-1 Lite в формате MLX для запуска на компьютерах Apple Silicon. Это разговорная модель для генерации текста и задач программирования; карточка указывает библиотеку MLX и объём 2,6 млрд параметров. Модель создана слиянием Akahsizrr/fuse-1-Lite, LiquidAI/LFM2.5-2.6B и Qwen/Qwen3.6-35B-A3B. Для запуска требуются Mac с Apple Silicon и пакет mlx-lm; в README предлагается загрузка с trust_remote_code=True. Указанная длина контекста — 131 072 токена. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает качество на конкретных задачах или подробности архитектуры и ссылается за ними на карточку основной модели.

Kukedlc/Gemma-2b-it-FT-Code — дообученная для программирования и анализа данных языковая модель на основе Gemma. В карточке указано, что для обучения использован датасет MagiCoder. Модель предназначена для генерации текста в диалоговом режиме и может применяться для помощи с программированием и задачами Data Science. Это плотная причинная архитектура GemmaForCausalLM на 2,5 млрд параметров с контекстом до 8192 токенов; репозиторий содержит веса в формате safetensors. Карточка не уточняет поддерживаемые языки и конкретные языки программирования. Модель распространяется по лицензии Apache-2.0. Данных о качестве на отдельных задачах или специальных ограничениях нет.

Карточка модели Mimoniske/gemma-3-it-vl-40B-Gemini-Heretic-Uncensored-Thinking на Hugging Face совпадает с карточкой DavidAU/gemma-3-it-vl-40B-Gemini-Heretic-Uncensored-Thinking, поэтому описание составлено по ней. Это мультимодальная чат-модель DavidAU на архитектуре Gemma 3: исходную Gemma 3 27B IT-VL расширили до плотной модели на 40 млрд параметров, а затем дообучили с помощью Unsloth на наборе Gemini reasoning. По описанию автора, дообучение добавляет пошаговое рассуждение; модель также рассчитана на творческое письмо, ролевые сценарии, генерацию кода и работу с изображениями. Карточка заявляет контекст до 128K токенов и проверку обработки изображений и генерации кода. Модель принимает текст и изображения, отвечает текстом и ориентирована прежде всего на английский и китайский языки. Автор позиционирует её как модель с ослабленными ограничениями на генерируемый контент; ответы могут быть резкими, содержать ненормативную лексику или графические описания. В отдельных случаях модель может переключаться в режим инструкций; автор рекомендует явно просить её рассуждать, если это происходит. Распространяется по лицензии Apache-2.0.

Мультимодальная инструкционная модель Gemma 4 Unified, созданная tepirale слиянием через Task Arithmetic на базе google/gemma-4-12B-it и двух производных моделей, ориентированных на программирование и агентные сценарии. Репозиторий содержит веса Safetensors и предназначен для диалогового использования; модель принимает текст и изображения и генерирует текстовые ответы. Слияние объединяет возможности исходной модели Google с направлениями coder и agentic. По данным карточки, модель поддерживает зрительные входы и относится к задаче image-text-to-text; базовая Gemma 4 также описана как мультимодальная модель для диалога, анализа изображений, видео и аудио, а также генерации кода. README не приводит отдельной оценки качества или подробностей об используемых сценариях. Лицензия, размер параметров, поддерживаемые языки и длина контекста в предоставленных данных не указаны. Практические ограничения и качество объединённых возможностей не описаны; сведения о лицензии исходной модели не позволяют установить условия лицензирования этого репозитория.

Grug-35B-A3B-GGUF — квантизированная версия модели Grug-35B-A3B, разработанной kai-os и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и задач, требующих рассуждений, включая математические и программные сценарии, отладку кода и компактное reasoning. Она обучалась с применением QLoRA и использовала наборы данных для общего, математического и программного reasoning. Модель имеет архитектуру MoE с заявленными 35B общих параметров и 3B активных параметров, однако сведения о точном контекстном окне, поддерживаемых языках и дополнительных модальностях в README отсутствуют. Квантизация выполнена с использованием llama.cpp и imatrix; доступны варианты от IQ3_M и Q3 до Q8_0, а также исходные веса BF16. Старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти. Запуск поддерживается через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты, при условии поддержки модели. Сильной стороной является сочетание большой общей ёмкости MoE с небольшим числом активных параметров, что может снизить требования к вычислениям по сравнению с плотной моделью аналогичного размера. Ограничения включают значительные требования к памяти даже для большинства квантизированных вариантов, отсутствие подробных результатов независимых оценок и неполные сведения о языках и контексте. Модель распространяется по лицензии Apache-2.0.

lexi-coder-v4.2 — дообученная Reallexi модель для генерации текста и кода на основе Microsoft Phi-4-mini-instruct. LoRA-адаптер объединён с базовыми весами, поэтому запускать отдельный PEFT-адаптер не требуется. Модель содержит около 3,85 млрд параметров, использует архитектуру Phi-3 для авторегрессионной генерации и обучена на контекстном окне 2048 токенов; метаданные каталога указывают нативный контекст 4096 токенов. Модель рассчитана на диалоговое использование и задачи кодирования, однако README не приводит результатов оценки, перечня поддерживаемых языков или подробного описания обучения. Репозиторий содержит веса safetensors; лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии на странице модели.

Llama3.1-8B-Enigma-GGUF — это квантизированная версия языковой модели Llama3.1-8B-Enigma от ValiantLabs, подготовленная и опубликованная bartowski в формате GGUF для llama.cpp. Модель основана на архитектуре Llama и предназначена для генерации текста, диалогового взаимодействия, выполнения инструкций и задач, связанных с программированием, в частности с Python. Заявленный язык — английский. Доступны варианты с разной степенью квантизации: от полноразмерной F32-версии около 32,13 ГБ до компактных IQ2_M и Q2_K. Наиболее качественными и рекомендуемыми в README названы варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; более компактные варианты требуют меньше оперативной памяти, но заметнее снижают качество. Квантизация выполнена с использованием imatrix и llama.cpp release b3583, запуск рекомендуется через LM Studio. Сильными сторонами являются выбор размеров файлов, возможность локального запуска и сохранение высокого качества у старших вариантов квантизации. Ограничения включают зависимость качества от выбранного варианта, преимущественную ориентацию на английский язык и отсутствие в README данных о размере контекста, производительности, мультимодальности и результатах тестирования. Модель распространяется по лицензии llama3.1.

Kukedlc разработал экспериментальную модель для генерации текста и решения задач на логику, математику и программирование. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов, дообученная на основе Kukedlc/NeuralExperiment-7b-dare-ties. При обучении обновлялись слои начиная с последнего; использовались наборы задач по математике и программированию, включая Orca Math и Magicoder. Модель предназначена для генерации кода, решения математических текстовых задач и логических головоломок. Автор сообщает о предварительных обнадёживающих результатах, но количественная оценка возможностей ещё проводится. Файлы представлены в формате safetensors; лицензия — Apache-2.0.

NVIDIA-Nemotron-3-Nano-4B — компактная языковая модель NVIDIA для диалога, рассуждений и агентных сценариев. Репозиторий unsloth содержит дообученную версию базовой модели nvidia/NVIDIA-Nemotron-3-Nano-4B-BF16. В карточке указаны 6,4 млрд параметров и гибридная архитектура Nemotron-H с Mamba-2, MLP и четырьмя слоями Attention; модель принимает и генерирует текст, поддерживает контекст до 262 144 токенов и имеет интерфейс для вызова инструментов. Модель предназначена для локальных голосовых помощников, игровых NPC-компаньонов и автоматизации IoT, а также для задач программирования и работы агента на устройствах с ускорением NVIDIA. Карточка заявляет английский как поддерживаемый язык; в описании обучения также перечислены многоязычные данные, в том числе русский, но это не гарантирует одинаковое качество на всех языках. Модель может формировать рассуждения перед ответом; отключение этого режима может снизить точность на сложных запросах. Для запуска описана поддержка Transformers, vLLM и TensorRT-LLM, а также других движков инференса. README называет модель пригодной для коммерческого использования, однако метаданные указывают лицензию «other», поэтому перед внедрением следует проверить условия лицензии репозитория.

Карточка модели unsloth/NVIDIA-Nemotron-3-Nano-4B-FP8 на Hugging Face совпадает с карточкой unsloth/NVIDIA-Nemotron-3-Nano-4B, поэтому описание составлено по ней. NVIDIA-Nemotron-3-Nano-4B — компактная языковая модель NVIDIA для диалога, рассуждений и агентных сценариев. Репозиторий unsloth содержит дообученную версию базовой модели nvidia/NVIDIA-Nemotron-3-Nano-4B-BF16. В карточке указаны 6,4 млрд параметров и гибридная архитектура Nemotron-H с Mamba-2, MLP и четырьмя слоями Attention; модель принимает и генерирует текст, поддерживает контекст до 262 144 токенов и имеет интерфейс для вызова инструментов. Модель предназначена для локальных голосовых помощников, игровых NPC-компаньонов и автоматизации IoT, а также для задач программирования и работы агента на устройствах с ускорением NVIDIA. Карточка заявляет английский как поддерживаемый язык; в описании обучения также перечислены многоязычные данные, в том числе русский, но это не гарантирует одинаковое качество на всех языках. Модель может формировать рассуждения перед ответом; отключение этого режима может снизить точность на сложных запросах. Для запуска описана поддержка Transformers, vLLM и TensorRT-LLM, а также других движков инференса. README называет модель пригодной для коммерческого использования, однако метаданные указывают лицензию «other», поэтому перед внедрением следует проверить условия лицензии репозитория.

Occiglot-7B-EU5 — базовая многоязычная генеративная языковая модель, разработанная Occiglot Research Collective. Это плотный авторегрессионный трансформер с архитектурой Mistral и 7,1 млрд параметров. Модель создана продолжительным предобучением Mistral-7B-v0.1 на 293 млрд дополнительных токенов многоязычных данных и кода; максимальная длина контекста по метаданным — 32 768 токенов. Модель предназначена для генерации и продолжения текста на английском, немецком, испанском, французском и итальянском языках, а также для работы с кодом. Её можно использовать как основу для собственных дообучений и оценок. Это базовая модель без дообучения на инструкциях, поэтому она не оптимизирована для диалога или чат-приложений; для таких сценариев авторы предлагают вариант Occiglot-7B-EU5-Instruct. Лицензия — Apache 2.0.

Ouro-2.6B-Thinking — языковая модель ByteDance для генерации текста с упором на рассуждения. Это дообученная версия Ouro-2.6B: модель прошла supervised fine-tuning на наборах примеров по математике, программированию, науке и диалогам. Архитектура — плотная рекуррентная OuroForCausalLM с 2,6 млрд параметров и 24 слоями; по умолчанию используются четыре рекуррентных шага. Контекст — до 65 536 токенов. Модель рассчитана на математические и научные задачи, написание и анализ кода, а также диалоговые сценарии; она может выдавать подробные шаги рассуждения. В карточке заявлены компактный размер и согласованность промежуточных рекуррентных выходов. Число шагов можно менять, выбирая компромисс между вычислительными затратами и качеством; адаптивный выход не поддерживается в vLLM. Для совместимости README указывает Transformers 4.54.1, а в разделе быстрого старта — версию 4.56.0. Разработчик предупреждает, что модель предоставляется без гарантий пригодности для промышленного использования и предназначена для исследований. Лицензия — Apache-2.0.