II.4Отладка, тестирование и качество ПО

Nondzu/Mistral-7B-code-16k-qlora — экспериментальная модель для генерации кода и помощи в роли copilot, созданная автором репозитория на основе семейства Mistral. В карточке указано обучение на наборе nickrosh/Evol-Instruct-Code-80k-v1 с шаблоном запросов Alpaca; модель имеет плотную архитектуру MistralForCausalLM и около 7,1 млрд параметров. Модель принимает текстовые инструкции и генерирует текстовые ответы, включая код. В README автор приглашает пользователей тестировать модель и приводит сравнение с исходной Mistral, поэтому качество и пригодность для конкретных задач следует оценивать на собственных примерах. Метаданные указывают контекст до 32 768 токенов; лицензия — Apache-2.0.

NeuralMonarchCoderPearlBeagle — объединённая авторская модель на базе Mistral, созданная с помощью LazyMergekit методом TIES из abideen/MonarchCoder-7B и eldogbbhed/NeuralPearlBeagle. По описанию автора, эксперимент проверяет, можно ли усилить навыки программирования и математики модели NeuralBeagle14-7B, сохранив её способности к диалогу. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации кода и текста, диалогов, математических задач и рассуждений. Автор характеризует слияние как экспериментальное и несколько хаотичное, поэтому качество на конкретных задачах может быть нестабильным. Репозиторий распространяется в формате safetensors по лицензии CC BY-NC 4.0, которая не разрешает коммерческое использование.

Ornith-1.0-397B-FP8 — открытая языковая модель семейства Ornith-1.0, предназначенная прежде всего для агентного программирования. Проект разработан командой Ornith; в материалах также упоминается Deep Reinforce. Модель доступна для генерации текста и ориентирована на сценарии, в которых агент самостоятельно планирует действия, работает с терминалом и решает задачи разработки программного обеспечения. Модель относится к варианту на 397 млрд параметров с архитектурой MoE и представлена в формате FP8. Семейство Ornith обучалось поверх Gemma 4 и Qwen 3.5 с применением reinforcement learning: оптимизируются не только итоговые решения, но и scaffolding — структура поиска и последовательность действий, приводящих к решению. Для Ornith-1.0-397B заявлена эффективная работа в конфигурации с одним GPU. Сведения о размере контекстного окна, поддерживаемых языках и мультимодальности в карточке не указаны. Сильная сторона модели — специализация на агентных задачах программирования; в README приведены результаты на Terminal-Bench 2.1 и SWE-bench Verified, включая показатели 77,5–78,2 и 82,4 соответственно. Эти результаты характеризуют заявленные авторами тестовые условия и не гарантируют аналогичную эффективность в других сценариях. Модель распространяется по лицензии MIT, без региональных ограничений, однако требования к аппаратным ресурсам и практическая совместимость с конкретными средствами запуска требуют отдельной проверки.

Qwen2.5-Coder-1.5B-Instruct-GGUF — квантованные модели семейства Qwen2.5-Coder-1.5B-Instruct, разработанного Qwen и подготовленного в формате GGUF компанией Second State Inc. Модель предназначена для генерации текста и работы с программным кодом в диалоговом режиме, включая задачи программирования и использования в чат-приложениях. Указан английский язык, применяется шаблон запросов ChatML. Модель имеет размер 1,5 млрд параметров и поддерживает контекст до 128 000 токенов. Доступны варианты квантования от 2 до 8 бит, f16, с размером файлов примерно от 676 МБ до 3,09 ГБ. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с очень небольшой потерей качества. Более агрессивное квантование уменьшает требования к памяти, но может заметно снижать качество ответов. Модель рассчитана на локальный запуск через LlamaEdge и совместима с llama.cpp. README не содержит подробностей об архитектуре, полном наборе поддерживаемых языков, результатах оценки или специфических ограничениях качества. Распространяется по лицензии Apache 2.0.

Qwen3-4B-AgentCoder — языковая модель Брюно Пистоне на 4 млрд параметров, дообученная на базе Qwen/Qwen3-4B-Thinking-2507. Она предназначена для генерации кода, многошаговых рассуждений и вызова инструментов в диалоговых сценариях. Модель — причинная языковая модель с режимом рассуждения и контекстом около 264 тысяч токенов; при дообучении использовались наборы данных для работы с инструментами, генерации кода и рассуждений, а затем применялся DPO для предпочтения более связных и качественных ответов. Модель подходит для задач программирования на Python, JavaScript и других языках, математических и логических задач, ответов на вопросы и сценариев с инструментами. Карточка сообщает о результатах на HumanEval, HumanEval+ и GSM8K, но качество вызова инструментов зависит от сложности сценария, а код может содержать синтаксические ошибки. Модель не рекомендуется для конфиденциальных данных, критически важных решений и задач, требующих экспертной специализации или полной объяснимости. Лицензия — Apache 2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — модель на базе Qwen 3.8 27B, дообученная и объединённая в рамках многоэтапного пайплайна Fable Fusion и COLD FUSION с использованием Unsloth. Разработчик позиционирует её как открытую модель для потребительского оборудования. Доступны обычные и MTP GGUF-квантизации, включая варианты с точностью 4 и 8 бит. В README заявлены поддержка английского и китайского языков, а также image-text-to-text как тип задачи, однако подробности мультимодальной архитектуры не указаны. Модель предназначена для общего решения задач, рассуждений, программирования, творческого письма, создания художественных текстов, ролевых сценариев и других текстовых применений. Основной акцент сделан на сокращении объёма «размышлений» и ускорении генерации при сохранении детализации и качества ответов. Также заявлена ориентация на MTP и высокую производительность в задачах кодирования. По утверждению автора, модель превосходит базовые Qwen 3.8 27B и ряд других моделей в семи ключевых бенчмарках, включая ARC-C и ARC-E; независимое подтверждение этих результатов в предоставленных данных отсутствует. К сильным сторонам относятся сравнительно компактный размер для заявленного уровня возможностей, поддержка GGUF, наличие 4- и 8-битных вариантов, сниженное чрезмерное рассуждение и специализация на коде и творческой генерации. Ограничениями являются отсутствие точных данных о размере контекстного окна, параметрах мультимодальности, системных требованиях и реальной производительности на разных устройствах. Модель описывается как uncensored и abliterated, поэтому её поведение в вопросах безопасности может отличаться от исходной модели. Лицензия — Apache-2.0.

Qwen3.8-3.6-27B-blend — неофициальная производная модель, подготовленная JetBrains на основе моделей Qwen от Alibaba Cloud. Это плотная мультимодальная модель семейства Qwen3.5 с архитектурой Qwen3_5ForConditionalGeneration; её параметры получены линейным слиянием в пропорции 50/50 чекпойнтов Qwen3.6-27B и Qwen3.8-27B. Конфигурация, токенизатор, процессор и шаблон чата взяты от Qwen3.8-27B. Модель предназначена для диалогов, работы с изображениями и программирования; поддерживает интерфейс вызова инструментов. JetBrains приводит результаты внутреннего бенчмарка на задачах программирования, однако описание не содержит численных результатов качества. Доступны варианты BF16, GGUF, MLX 4-bit и MTP MLX 4-bit; в репозитории Hugging Face указаны веса safetensors. Дополнительного обучения или тонкой настройки не проводилось. Модель распространяется по лицензии Apache 2.0. Ограничения качества и поддерживаемые языки отдельно не описаны; применение для видео и многошаговых задач указано в сведениях о базовой модели, но карточка производной модели подтверждает только задачу image-text-to-text.

Qwen3.8-Flash-Next-ik-llama-GGUF — это текстовая GGUF-конверсия модели Qwen3.8-Flash-Next, опубликованная пользователем ji-farthing. Файлы собраны непосредственно из BF16-релиза Qwen и предназначены для локального запуска через ik_llama.cpp, прежде всего для генерации текста и агентских задач, включая программирование. Модель использует архитектуру с маршрутизируемыми экспертами, а также поддерживает собственную MTP-head для speculative decoding. Доступны варианты квантизации IQ3_KT и IQ4_KT объёмом соответственно 80,22 и 88,42 ГиБ. Отдельно поставляется MTP-head IQ4_KT объёмом 2,21 ГиБ; она не является самостоятельной моделью и должна загружаться вместе с основной моделью. Указан контекст до 131 072 токенов. Модель текстовая, сведения о поддерживаемых языках в README не приведены. Для работы требуются ik_llama.cpp и сборка с поддержкой qwen4exp MTP; маршрутизируемые эксперты требуют примерно 50,4 ГиБ RAM или VRAM для IQ3_KT и 58,6 ГиБ для IQ4_KT. Ключевые сильные стороны — квантизация с importance matrix, настроенная для агентского программирования, сохранение собственного механизма MTP и высокая эффективность использования памяти за счёт размещения PLE-таблицы на диске. По приведённым измерениям на коде IQ4_KT показывает perplexity 1,8209 против 1,7218 у BF16-версии, а IQ3_KT — 1,8273. Ограничения включают очень большой размер файлов, высокие требования к оперативной памяти и необходимость специализированного runtime; MTP увеличивает объём вычислительного буфера. Лицензия указана как qwen-community-license-1.0.

WaveCut/Qwen3.8-Flash-Next-REAM-288-MLX-4bit — 4-битная MLX-квантизированная версия модели WaveCut/Qwen3.8-Flash-Next-REAM-288, построенная на базе Qwen3.8-Flash-Next и предназначенная для запуска через mlx-vlm. Это разреженная Mixture-of-Experts-модель с 288 слотами экспертов; в отличие от варианта REAP, удаляемые эксперты здесь объединяются с наиболее похожими сохранёнными экспертами. Модель поддерживает сценарии генерации текста и кода, включая рефакторинг программ, а также заявлена для конвейера image-text-to-text. Контекст модели, её точный общий размер и полный список языков в карточке не указаны. Эксперты и основные тензоры представлены в 4-битном формате с групповой схемой квантования; таблица n-грамм использует отдельную 4-битную схему. Модель совместима со стандартным mlx-vlm из ветки main с поддержкой qwen4_exp. Для спекулятивного декодирования MTP-тензоры не включены, поэтому требуется отдельная совместимая модель-драфтер. В опубликованных сравнениях сборка немного превосходит REAP-версию по KL-дистанции, а в тестах MLX получила 89,6% на HumanEval-164, 58,0% на GSM8K-200 и 62,7% в тесте редких имён. К ограничениям относятся 4-битные потери качества на нелатинских именах, ограниченная статистическая надёжность части оценок и зависимость результатов GSM8K от лимита длины генерации. Данные о контекстном окне и системных требованиях явно не приведены. Модель распространяется по лицензии qwen-community-license-1.0; в метаданных также указана общая лицензия other.

Qwen3-Coder-30B-A3B-Instruct-GGUF — квантованная GGUF-версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной Qwen и подготовленной Second State Inc. Модель предназначена для генерации текста и работы с задачами программирования в формате инструкций; конкретные поддерживаемые языки программирования и естественные языки в README не указаны. Модель рассчитана на использование с LlamaEdge и совместима с шаблоном запросов chatml. Указан контекст размером до 256 000 токенов. Доступны варианты квантования GGUF от Q2_K до Q8_0, а также f16; рекомендуемыми названы Q4_K_M, Q5_K_M и Q5_K_S, обеспечивающие различный баланс между размером файла и потерей качества. Описанная конфигурация использует Q5_K_M размером около 5,85 ГБ. Архитектура, точное число активируемых параметров, поддержка мультимодальности и фактические характеристики качества в README не раскрыты. Ограничения связаны с потерями качества при низкобитном квантовании и необходимостью совместимого окружения для запуска. Модель распространяется по лицензии Apache-2.0. Для запуска через LlamaEdge требуется соответствующая версия LlamaEdge и GGUF-файл модели; в README указано, что поддержка LlamaEdge находится в стадии подготовки.

Qwen3-Coder-480B-A35B-Instruct-MLX-6bit — это 6-битно квантованная версия Qwen3-Coder-480B-A35B-Instruct, разработанная сообществом и предоставленная в формате MLX командой LM Studio. Базовую модель создала Qwen, а квантование выполнено с использованием mlx-lm для работы на устройствах Apple Silicon. Модель предназначена для генерации текста и, прежде всего, задач, связанных с программированием, однако подробные сценарии применения в README не указаны. Модель имеет архитектуру и характеристики исходной Qwen3-Coder-480B-A35B-Instruct, но README не содержит сведений о конкретной архитектуре, числе активных параметров, поддерживаемых языках, модальностях и размере контекста. Ключевое преимущество версии — 6-битное квантование и оптимизация под Apple Silicon, что может снизить требования к памяти по сравнению с полноразмерной версией. Ограничения производительности, требования к оборудованию и фактическое качество квантованной версии не приведены; для запуска требуется LM Studio версии 0.3.20 или новее. Модель распространяется по лицензии Apache-2.0. Указанные в README отказ от гарантий и предупреждения относятся к программе Community Model Program LM Studio; ответственность за использование модели лежит на пользователе.

Qwen3-Coder-64B — сжатая методом REAP модель семейства Qwen3-Coder, опубликованная 0xSero на основе Qwen/Qwen3-Coder-Next. Это причинная языковая модель архитектуры MoE с гибридным линейным и полным вниманием; из 512 экспертов в слоях удалено 20%, осталось 410 экспертов на слой, при этом на токен активируются 10. В README указан размер 64,26 млрд параметров, тогда как метаданные каталога сообщают 2,3 млрд; размер следует считать противоречивым. Контекстное окно — до 262 144 токенов. Модель предназначена для генерации кода и многошаговой разработки, включая сценарии кодирующих агентов. В README сообщается о сокращении размера модели примерно на 14% с небольшим снижением совокупных результатов в тестах: среднее упало с 66,7% до 64,6%, а качество на математических задачах снизилось заметнее. Карточка содержит результаты ограниченного набора тестов, поэтому они не гарантируют качество на конкретных задачах. Модель принимает текст и генерирует текст. В метаданных указан английский язык; карточка не подтверждает поддержку других языков. Распространяется в формате BF16, а метаданные указывают файлы safetensors и библиотеку Transformers. Лицензия — Apache-2.0.

Qwopus3.6-27B-Coder-AutoRound-W4A16-RTN — квантизированная версия языковой модели Jackrong/Qwopus3.6-27B-Coder. Модель предназначена для генерации текста и, прежде всего, для задач программирования, включая написание исходного кода и алгоритмов. Разработчик базовой модели — Jackrong; квантизация выполнена с помощью инструмента AutoRound от Intel. Модель использует 4-битное симметричное квантование только весов с group_size 128 по схеме W4A16, при которой веса представлены в формате int4, а активации сохраняются в 16-битном формате. Размер квантизированной модели составляет около 18 117 МБ. В README не указаны точное число параметров базовой модели, поддерживаемые языки, размер контекстного окна или дополнительные модальности, поэтому модель следует рассматривать как текстовую. К преимуществам относятся существенно уменьшенный размер по сравнению с полноточной версией и возможность запуска через Transformers и vLLM. Результаты оценки показывают, в частности, accuracy 0,8503 на MMLU и 0,8215 на PIQA, однако качество зависит от задачи, а приведённые метрики не гарантируют корректность ответов в практических сценариях. Модель может выдавать фактически неверные, предвзятые, оскорбительные или непристойные ответы и требует предварительного тестирования безопасности. Лицензия в README не указана: необходимо соблюдать лицензию оригинальной модели Jackrong/Qwopus3.6-27B-Coder. Для использования рекомендуется установить AutoRound; также приведены инструкции для запуска через Transformers и vLLM.

RavenX Chaos Agent — Qwen3.8-27B OBLITERATED — это текстовая языковая модель в формате GGUF, разработанная RavenX AI Labs LLC на базе OBLITERATUS/Qwen3.8-27B-OBLITERATED. По данным карточки, модель обучалась методом Soul Injection на 1 903 806 примерах, объединяющих программирование, рассуждения, агентное взаимодействие, анализ кибербезопасности и другие предметные области. Заявлена поддержка английского языка; сведения о других языках, длине контекста и мультимодальности не приведены. Модель предназначена для генерации кода, технического анализа, работы с инструментами и цепочками вызовов, задач red team и пентестинга, анализа уязвимостей, подготовки bug bounty-отчётов, сопоставления с MITRE ATT&CK, а также для торгового, блокчейн- и криптографического анализа, математического рассуждения и творческого письма. Заявлена совместимость с llama.cpp, Ollama и LM Studio. Версия GGUF Q4_K_M имеет размер около 15,7 ГБ и заявленную скорость 21,6 токена в секунду; также доступна отдельная версия MLX для Apple Silicon. Сильными сторонами заявлены широкий охват задач, специализированные знания по кибербезопасности, генерация производственного кода, вызов инструментов и автономная оркестрация. При этом заявления о результатах основаны на приведённых разработчиком описаниях и внутренних тестах, поэтому их следует дополнительно проверять. Карточка не содержит подробностей о качестве на независимых бенчмарках, длине контекста и точных системных требованиях. Модель описана как abliterated и имеющая нулевые отказы и защитные ограничения, что повышает риск небезопасной генерации и требует контроля при использовании в реальных системах. Лицензия — Apache-2.0.

Refact-1.6B — компактная модель генерации исходного кода, представленная в формате GGUF под идентификатором Mungert/Refact-1_6B-fim-GGUF. Разработчик в предоставленном README явно не указан. Модель предназначена для автодополнения и генерации кода, включая сценарии fill-in-the-middle, а также для исправления, документирования и объяснения программного кода. Размер модели составляет 1,6 млрд параметров. В README не указаны точная архитектура, размер контекста, поддерживаемые языки в полном объёме и модальности; приведены результаты для Python, JavaScript, Java, C++, Go и Rust. Для обучения использовались, среди прочего, The Stack, GitHub-код с разрешительной лицензией, книги, arXiv, C4, Wikipedia и наборы commitpackft. В HumanEval заявлены pass@1 32,0 при температуре 0,01 и pass@100 76,9 при температуре 0,8, однако все приведённые метрики помечены как непроверенные. Сильная сторона модели — специализация на задачах программирования при относительно небольшом размере, что может упростить локальное развертывание. Ограничения включают отсутствие подробных сведений об архитектуре, контекстном окне и языковом покрытии, а также непроверенный статус опубликованных оценок; качество генерации следует дополнительно проверять тестами. Лицензия — BigScience OpenRAIL-M.

Shark-Coder — слитая модель генерации текста для задач программирования, созданная powermove72 с помощью LazyMergekit на основе powermove72/Shark-1 и S-miguel/The-Trinity-Coder-7B. В конфигурации объединены слои 0–15 Shark-1 и слои 16–31 The-Trinity-Coder-7B методом passthrough; для токенизатора используется union, а веса представлены в FP16 формате safetensors. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации и дополнения кода. Метаданные каталога также характеризуют базовую модель как подходящую для логических рассуждений и решения задач по программированию; отдельные языки программирования или естественные языки не перечислены. Лицензия в предоставленных данных не указана.

mlx-community/stable-code-instruct-3b-4bit — преобразованная сообществом mlx-community версия модели stabilityai/stable-code-instruct-3b, подготовленная для запуска с MLX. Это плотная авторегрессионная модель StableLM с 2,7 млрд параметров, предназначенная для генерации текста и помощи с кодом в диалоговом режиме. Она принимает текст и выдаёт текст; максимальная длина контекста составляет 16 384 токена, основной язык карточки — английский. README указывает на преобразование с помощью mlx-lm версии 0.4.0; метаданные обозначают файлы как safetensors и не подтверждают тип квантизации, несмотря на суффикс 4bit в названии. Лицензия указана как other; подробности лицензии и ограничения качества следует сверять с карточкой исходной модели.

Starling-LM-7B-beta-GGUF — это квантизированная GGUF-версия языковой модели Starling-LM-7B-beta, разработанной Nexusflow на основе openchat/openchat-3.5-0106 и Mistral-7B-v0.1. GGUF-квантизация выполнена bartowski с использованием llama.cpp. Модель содержит около 7 млрд параметров и предназначена для генерации текста. Модель ориентирована на многошаговый диалог, общие вопросы, выполнение повседневных текстовых задач и программирование. Она обучалась с применением reward model Nexusflow/Starling-RM-34B и оптимизации PPO на данных berkeley-nest/Nectar, что направлено на улучшение качества ответов и следования предпочтениям в диалогах. Поддерживается английский язык. Модель текстовая и не предназначена для обработки изображений или других мультимодальных данных. Для работы рекомендуется шаблон OpenChat; для задач программирования предусмотрен шаблон OpenChatCode. Системный промпт модель не поддерживает. README не указывает размер контекстного окна и конкретные требования к ресурсам, поэтому эти характеристики нельзя надежно определить из доступных данных. К преимуществам относятся компактный размер, пригодность для локального запуска в формате GGUF и специализация на диалогах и коде; ограничения включают англоязычную ориентацию, отсутствие мультимодальности и зависимость качества от выбранной квантизации и параметров запуска. Модель распространяется по лицензии Apache-2.0.

Trinity-2-Codestral-22B-v0.2-GGUF — набор GGUF-квантизаций базовой модели migtissera/Trinity-2-Codestral-22B-v0.2, подготовленный пользователем bartowski с использованием llama.cpp и метода imatrix. Модель относится к задачам генерации текста и ориентирована прежде всего на работу с кодом; запуск возможен через llama.cpp и LM Studio. Доступны варианты от исходных весов F16 размером 44,50 ГБ до компактных квантов IQ3 и Q3 размером около 10–12 ГБ, а также форматы Q4, Q5, Q6 и Q8. Более высокие уровни квантования обеспечивают лучшее сохранение качества, а варианты Q4_0_8_8, Q4_0_4_8 и Q4_0_4_4 оптимизированы для более быстрой инференции на ARM и CPU. В README не указаны архитектура, поддерживаемые языки, модальности и размер контекстного окна. Для работы рекомендуется использовать шаблон prompt format с ролями system, user и assistant. Сильной стороной набора является широкий выбор компромиссов между качеством, размером и скоростью запуска; варианты Q5–Q6 заявлены как высококачественные, а Q4 — как практичные для систем с ограниченными ресурсами. К ограничениям относятся возможная потеря качества при низких уровнях квантования и отсутствие подробных сведений о возможностях исходной модели. Лицензия указана как other, без дополнительных условий в представленном README.

Absolute_Zero_Reasoner-Coder-14b-GGUF — это квантованная версия языковой модели Absolute_Zero_Reasoner-Coder-14b, разработанной andrewzh. Квантование выполнил bartowski с использованием llama.cpp и метода imatrix; модель распространяется в формате GGUF и предназначена для запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель относится к классу text-generation и ориентирована на задачи рассуждений и генерации программного кода. Известен размер базовой модели — 14 млрд параметров. В карточке не указаны архитектура, поддерживаемые языки, контекстное окно и мультимодальные возможности, поэтому подтвердить эти характеристики нельзя. Доступны варианты от BF16 до различных квантований Q8, Q6, Q5, Q4, Q3 и IQ. Более высокие уровни квантования сохраняют лучшее качество, но требуют больше памяти; варианты Q4 и Q5 описаны как сбалансированные по качеству и размеру, а Q3 предназначены для систем с ограниченным объёмом RAM. Квантованные файлы удобны для локального запуска, однако снижение точности по сравнению с исходной моделью зависит от выбранного варианта. Лицензия в README не указана.

CodeGemma 1.1 7B IT — это инструкционно дообученная языковая модель для генерации и работы с программным кодом, разработанная Google. Данная версия опубликована в формате GGUF и квантизирована bartowski с использованием llama.cpp и метода imatrix. Размер исходной модели — 7 миллиардов параметров. Модель предназначена для сценариев, связанных с программированием, включая генерацию кода по описанию задачи; в README приведён пример создания функции на Python для вычисления числа Фибоначчи. Для работы требуется специальный формат prompt с маркерами ролей CodeGemma. Модель не поддерживает system prompt. Сведения о поддерживаемых языках программирования, естественных языках и размере контекстного окна в предоставленных данных отсутствуют. Доступно множество вариантов квантизации с разным соотношением качества и требований к памяти: от Q8_0 размером 9,07 ГБ до компактных вариантов семейства IQ и Q2. В README наиболее рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и некоторые IQ-квантизации; варианты с более низкой разрядностью экономят память, но могут заметно уступать по качеству. Модель распространяется по лицензии Gemma, условия которой указаны по ссылке Google.

Code Llama 34B — базовая авторегрессионная языковая модель Meta для генерации и понимания кода. Это версия на 34 млрд параметров в формате Transformers с весами PyTorch и Safetensors; архитектура основана на оптимизированном трансформере. Модель принимает текст и генерирует текст, включая завершение кода. Она предназначена для коммерческого и исследовательского использования с английским языком и языками программирования. Модель подходит для автодополнения кода и адаптации под задачи синтеза и анализа программ. Эта базовая версия не предназначена специально для диалогового следования инструкциям или для Python: для таких сценариев в семействе есть отдельные варианты Instruct и Python. Модель обучена на данных Llama 2 с изменёнными весами; её ответы могут быть неточными или нежелательными, поэтому перед внедрением требуется оценка в конкретном приложении. Использование регулируется лицензией Meta Llama 2.

Bud Code Millenials 34B — языковая модель для генерации программного кода, разработанная Bud Ecosystem и дообученная для задач программирования. Это плотная авторегрессионная модель семейства Llama с 33,5 млрд параметров; репозиторий содержит веса в формате safetensors, а максимальная длина контекста составляет 16 384 токена. Модель предназначена для генерации кода по текстовому запросу и помощи в программировании. В README указаны результаты HumanEval 80,48 pass@1 и MBPP 74,68, полученные авторами; эти показатели зависят от методики оценки и не гарантируют такой же результат в пользовательских сценариях. Модель может ошибаться и хуже справляться с задачами, не связанными с кодированием. Использование регулируется лицензией Llama 2.

crane-30b-i1-GGUF — это квантованная версия модели crane-30b, разработанной пользователем или организацией zmzfpc и опубликованной в формате GGUF пользователем mradermacher. По метаданным, модель связана с объединением моделей, семейством Qwen3, архитектурой MoE и задачами генерации кода и рассуждений. Указан английский язык. Точное число активных и общих параметров, размер контекста, поддерживаемые модальности и подробности исходного обучения в README не приведены. Модель предназначена для локального запуска через совместимые инструменты, поддерживающие формат GGUF, включая различные варианты квантования с разным компромиссом между размером, скоростью и качеством. Доступны файлы размером примерно от 6,5 до 25,2 ГБ; среди рекомендуемых вариантов отмечен i1-Q4_K_M как быстрый, а i1-Q4_K_S — как сбалансированный по размеру, скорости и качеству. Низкобитные варианты могут заметно уступать в качестве, тогда как i1-Q6_K заявлен как практически сопоставимый со статическим Q6_K. В репозитории также доступен imatrix-файл для самостоятельного создания квантованных версий. Лицензия модели указана как Apache-2.0. README не содержит результатов бенчмарков, подробной документации по применению, системного промпта или ограничений исходной модели, поэтому качество на конкретных задачах и точные требования к аппаратным ресурсам следует оценивать отдельно.

Карточка модели TechxGenus/CursorCore-Yi-1.5B-LC на Hugging Face совпадает с карточкой TechxGenus/CursorCore-DS-1.3B, поэтому описание составлено по ней. CursorCore-DS-1.3B — модель из серии CursorCore, разработанной Hao Jiang, Qi Liu, Rui Li, Shengyu Ye и Shijin Wang для помощи в программировании. Она дообучена на базе deepseek-ai/deepseek-coder-1.3b-base и предназначена для генерации кода и диалоговой поддержки в сценариях AI-помощника программиста, включая редактирование кода, встроенный чат и автодополнение. Модель использует плотную архитектуру семейства LLaMA с причинно-следственной языковой моделью на 1,3 млрд параметров. Она принимает текстовые запросы и контекст с кодом и генерирует текст, включая программный код; заявленная длина контекста — 16 384 токена. README показывает сценарии обычного чата и взаимодействия с кодом, но примеры для конкретной модели частично используют другие модели CursorCore. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели.

DreamReasoner-8B FineCode any-order CPT — это контрольная точка DreamReasoner-8B, которую zimplex получил продолжением предварительного обучения базовой модели Dream-org/DreamReasoner-8B на наборе FineCode B64. Модель относится к семейству Dream, использует плотную архитектуру DreamForCausalLM и содержит 7,6 млрд параметров; контекст — до 32 768 токенов. Модель предназначена для генерации кода и диалогового взаимодействия по задачам программирования. В README приведены результаты greedy confidence decoding на HumanEval — 85,98% Pass@1, MBPP sanitized — 83,27% и LiveCodeBench Pro — 15,01%; это снимок оценки с лимитом генерации 4096 токенов, а не гарантия качества в других условиях. Для загрузки используются Transformers и пользовательский код модели с параметром trust_remote_code=True. Лицензия — Apache-2.0. Это исследовательская контрольная точка без отдельной оценки безопасности и готовности к развёртыванию.

Fleet Llama Release — экспериментальная архитектура маршрутизации запросов по специалистам, разработанная Noumenon Labs на базе Meta Llama 3.2 3B Instruct. Модель содержит общий языковой backbone и обученный семантический маршрутизатор, который выбирает подходящий эксперт для каждого пользовательского хода; затем выбранный маршрут сохраняется на время генерации ответа. Среди маршрутов указаны Python, медицина, математика, вызов функций, SQL и базовая модель. Специалисты реализованы как лёгкие адаптеры или дельты весов. Модель предназначена для диалоговой генерации текста с выборочной специализацией по содержанию запроса. В карточке указаны 3,2 млрд параметров, контекст до 131 072 токенов, поддержка интерфейса вызова инструментов и формат safetensors. Для загрузки требуется пользовательский код модели Transformers с параметром trust_remote_code=True. Авторы называют релиз экспериментальным; производительность зависит от оборудования и конфигурации, а универсальное ускорение не заявлено. Лицензия — Llama 3.2 Community License. Основа — Meta Llama 3.2 3B Instruct; языки в карточке модели напрямую не перечислены.

JANGQ-AI выпустила JANGH2 — квантизированный вариант GLM-5.3-Flash для запуска на компьютерах Mac с 128 ГБ памяти. В основе — модель класса 300 млрд параметров с архитектурой MoE: 288 маршрутизируемых экспертов, из которых активируются восемь вместе с общим экспертом. Также используются линейное внимание KDA, разреженное внимание и отдельные компоненты для обработки изображений и видео. Эксперты квантизированы до 2–3 бит с калибровкой GPTQ и матрицей важности; остальные веса преимущественно хранятся в 8-битном формате, а визуальная башня — в bf16. Модель доступна в формате MLX safetensors и требует vMLX версии 1.6.68 или новее. Модель предназначена для диалогов, рассуждений, задач с кодом, вызова инструментов и анализа изображений и видео. README приводит сравнительные измерения согласованности с исходной моделью и сообщает, что вторая ревизия лучше завершает длинные цепочки рассуждений, чем первая. Эти результаты получены на тестовых наборах и не гарантируют такое же качество на произвольных запросах. Распознавание содержимого видео описано как несовершенное: модель может принять текст наложения или перехода за часть самого клипа. Лицензия — MIT.

Hemlock2-Coder-7B-i1-GGUF — это квантизированная версия языковой модели для генерации и обработки программного кода Hemlock2-Coder-7B. Базовую модель разработала команда hemlang, а квантизацию выполнил mradermacher. Модель распространяется в формате GGUF и предназначена для локального запуска в совместимых инструментах вывода. Модель содержит около 7 миллиардов параметров и ориентирована прежде всего на задачи кодинга и текстовой генерации. В метаданных указан английский язык; сведения о поддерживаемых языках помимо английского, контекстном окне, точной архитектуре и мультимодальности отсутствуют. В качестве связанного набора данных указан hemlang/Hemlock2-DPO, а среди тегов упоминается ORPO, однако подробности обучения и результаты тестирования не приведены. Доступны варианты квантизации от очень компактных IQ1 и IQ2 до более качественного Q6_K. Это позволяет выбирать между требованиями к памяти, скоростью и качеством генерации; для баланса размера, скорости и качества в README рекомендуются варианты i1-Q4_K_S и особенно i1-Q4_K_M. Сильной стороной является широкий выбор GGUF-квантизаций для локального использования, однако низкобитные варианты могут заметно терять в качестве. Лицензия модели в README не указана, поэтому условия использования необходимо уточнять отдельно у разработчиков базовой модели и автора квантизации.

Hercules-5.0-Qwen2-1.5B — дообученная компанией M4-ai плотная языковая модель на 1,5 млрд параметров на базе Qwen2-1.5B. Она предназначена для общего ассистентского общения и поддерживает формат запросов ChatML; заявленные области применения включают ответы на вопросы, математику, программирование и написание текстов. Модель работает с текстом и имеет контекст до 131 072 токенов. Для обучения использован набор данных Locutusque/hercules-v5.0. Модель опубликована в формате safetensors под лицензией Apache-2.0. В карточке не приведены результаты оценки качества; разработчики также отмечают, что сведения о рисках, смещениях и ограничениях требуют уточнения.