II.4Отладка, тестирование и качество ПО

Карточка модели rwiecekgmailcom/qwen35-claude-coder на Hugging Face совпадает с карточкой Dzluck/qwen35-claude-coder-GGUF, поэтому описание составлено по ней. Dzluck опубликовал GGUF-сборку Qwen3.5 Claude Coder — дообученной модели для автономной работы в Claude Code в роли агента-программиста и системного администратора. Репозиторий содержит варианты на 4 и 9 млрд параметров; карточка указывает базовую модель Qwen/Qwen3.5-9B. Модель рассчитана на контекст до 64 тыс. токенов, диалог и вызов инструментов через совместимый с Anthropic API. Она предназначена для локальных задач с кодом, файлами, диском и сетью: README подчёркивает выполнение действий через инструменты и опору на их фактический вывод. Указана лицензия Apache-2.0. Заявления о качестве и скорости основаны на тестировании автора на компьютерах Apple Silicon через Ollama; приведённые результаты не являются независимой оценкой.

armand0e/Qwen3.6-35B-A3B-Fable-5-Distill — мультимодальная модель семейства Qwen3.5 MoE, дообученная armand0e на базе Qwen/Qwen3.6-35B-A3B. Она предназначена для диалогов, анализа изображений и агентных сценариев программирования; поддерживает интерфейс вызова инструментов. В метаданных указан английский язык, архитектура Qwen3_5MoeForConditionalGeneration и формат safetensors. Модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Модель принимает текст и изображения и генерирует текст. Репозиторий распространяется по лицензии Apache-2.0. README не сообщает размер контекстного окна или конкретные результаты оценки качества.

LocateAnything-3B — разработанная NVIDIA Labs в рамках семейства Eagle компактная трансформерная модель «зрение–язык» для локализации объектов по изображениям и текстовым запросам. Она предназначена для разработчиков и исследователей, которым нужны обнаружение объектов, привязка текстовых описаний к областям изображения и разметка визуальных элементов. Модель дообучена на базе Qwen/Qwen2.5-3B-Instruct; архитектура включает визуальный энкодер MoonViT, языковую модель и MLP-проектор. Веса представлены в формате safetensors. Модель принимает изображение и запрос на естественном языке, а выдаёт текст с метками и структурированными координатами рамок или точек. Поддерживаются поиск объектов по категориям и описаниям, плотное обнаружение в загруженных сценах, привязка элементов интерфейса и локализация текста в документах. Механизм Parallel Box Decoding предсказывает координаты блоками, что, согласно карточке, повышает пропускную способность до 2,5 раза относительно предшествующих подходов. Карточка сообщает о поддержке изображений исходного разрешения до 2,5K, запросов до 24K токенов и генерации до 8192 токенов. Основной указанный язык — английский. Модель предназначена для исследований и разработки. В метаданных указана лицензия other; конкретные условия использования следует сверить с лицензией в репозитории. Для запуска README приводит тестовое оборудование H100, поэтому требования к ресурсам могут быть существенными.

Tinytron TinyLlama Instruct Code Python Spanish English Assistant 16Bit V2 — чат-модель для генерации кода, опубликованная Francisco Angulo de Lafuente (Agnuxo) в экосистеме P2PCLAW. Это плотная авторегрессионная модель семейства Llama с примерно 1 млрд параметров и контекстом 2048 токенов; веса представлены в формате safetensors и предназначены для локального запуска. Модель ориентирована на помощь с программированием: в карточке заявлены Python, JavaScript, TypeScript, Rust, Go и C++, научные вычисления с NumPy, SciPy и Pandas, а также задачи машинного обучения с PyTorch, TensorFlow и JAX. README называет английский и испанский языки; метаданные подтверждают языковые коды en и es. Указана лицензия Apache-2.0. Компактный размер подходит для локального использования, однако контекст ограничен 2048 токенами; независимые результаты оценки качества в предоставленных данных отсутствуют.

AlchemistCoder-L-7B-GGUF — это набор GGUF-квантизаций языковой модели AlchemistCoder-L-7B, опубликованный bartowski и созданный на основе исходной модели internlm/AlchemistCoder-L-7B с использованием llama.cpp и метода imatrix. Модель предназначена прежде всего для генерации кода и запуска локального текстового вывода через совместимые движки, включая llama.cpp. В README не указаны точные сведения о разработчике исходной модели, архитектуре, поддерживаемых языках, длине контекста и мультимодальности. Доступны варианты с разным уровнем квантизации: от Q8_0 размером 7,16 ГБ до Q2_K размером 2,53 ГБ, включая рекомендуемые Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Более качественные варианты требуют больше памяти, а низкобитные занимают меньше места ценой качества; Q3_K_S отмечен как нерекомендуемый, тогда как некоторые I-кванты могут обеспечивать выгодное соотношение размера и производительности в определённых конфигурациях оборудования. Формат приглашений в README не подтверждён и может быть некорректным. Модель распространяется по лицензии Apache-2.0. Ограничения включают отсутствие подробной информации об исходной модели, языках и контексте, а также зависимость доступного качества и скорости от выбранной квантизации и используемого оборудования. Для IQ-квантов важна совместимость с конкретным backend: в README отдельно отмечено ограничение для Vulkan.

Matthieufromparis разработал bge-small-code-search-v1 — компактную плотную BERT-модель для семантического поиска по исходному коду. Она дообучена на Python-подмножестве CodeSearchNet на базе BAAI/bge-small-en-v1.5 и создаёт 384-мерные эмбеддинги текстовых запросов на естественном языке и фрагментов кода в общем пространстве. Модель рассчитана на асимметричный поиск: пользователь описывает нужную функцию, а система находит подходящие участки кода; также её можно применять для поиска документации, похожих реализаций и извлечения кода для RAG-ассистентов. В README приведены результаты оценки на 500 отложенных парах Python-кода и комментариев, однако они не гарантируют такое же качество на других данных и языках программирования. Модель содержит около 40 млн параметров, принимает текст и имеет контекстное окно 512 токенов. Лицензия — Apache 2.0.

Это экспериментальный чекпойнт языковой модели Qwen3-4B от автора репозитория, полученный дообучением Qwen/Qwen3-4B-Instruct-2507 методом GRPO с помощью OpenRLHF. Модель предназначена для генерации кода и решения задач программирования, где корректность программы проверяется тестами. Обучение нацелено на сложные задачи, которые базовая модель решала редко; контрольная оценка использовала восемь генераций на задачу. Модель имеет плотную архитектуру Qwen3ForCausalLM, около 3,7 млрд параметров и контекст до 262 144 токенов. В README указаны оценка pass@1 0,4102 и pass@8 1,0587 на отложенной выборке из 112 задач; значение pass@8 приведено как в карточке. Веса доступны в формате safetensors и загружаются через Transformers. Лицензия в предоставленных данных не указана.

ColBERT-Zero-6L-CodeSearch — компактная модель для семантического поиска по коду, созданная разработчиком ctrltokyo на основе lightonai/ColBERT-Zero. Она использует архитектуру ModernBERT с 6 слоями, 768 скрытыми измерениями и 12 головами внимания; число параметров — 68,8 млн, контекст — до 8192 токенов. Модель формирует много-векторные представления токенов размерности 128 и предназначена для поиска и ранжирования фрагментов кода по текстовому запросу. Модель получена дистилляцией: из 22-слойной модели ColBERT-Zero выбраны 6 слоёв, а обучение на 10 000 парах CodeSearchNet воспроизводило оценки релевантности учителя. В описанных тестах качество достигло 65,9% от учителя на корпусе jq на C, 85,6% на Rails и 98% на FastAPI; автор сообщает о примерно 13-кратном ускорении запросов. Модель поддерживает английский язык и может использоваться для поиска по коду, в том числе через PyLate и litembeddings. Лицензия — Apache-2.0. Ограничения: качество слабее на C-коде, обучение проведено на сравнительно небольшом наборе данных, а возможности модели наследуют языковые ограничения ColBERT-Zero. Вместо префиксов search_query:/search_document: используются [Q]/[D].

DASD-30B-A3B-Thinking-Preview — предварительная языковая модель Alibaba Apsara на архитектуре Qwen3 MoE, предназначенная для рассуждений с длинной цепочкой вывода, решения математических и научных задач и генерации кода. Модель дообучена на основе Qwen3-30B-A3B-Instruct-2507 и дистиллирована из gpt-oss-120b методом распределённо-согласованной последовательной дистилляции. В README указано обозначение 30B-A3B, тогда как метаданные каталога сообщают 2,6 млрд параметров. Модель принимает текст и генерирует текст; поддерживает контекст до 262 144 токенов. Карточка описывает её как специализированную на математике, программировании и научных рассуждениях, но не приводит список поддерживаемых естественных языков. Для работы авторы рекомендуют включать системный промпт, использованный при обучении, и задавать Temperature=1.0 и TopP=1.0. Это предварительный исследовательский артефакт, обученный только на первой стадии рецепта с примерно 105 тысячами примеров и без дополнительного RL. README указывает, что модель не интегрирована с инструментами и не может взаимодействовать с исполнителями кода или API; при этом метаданные каталога отмечают интерфейс вызова инструментов. Использовать следует с учётом этого расхождения. Лицензия — Apache-2.0.

DeepSeek V4 Flash REAP K128 Mixed NVFP4 — это экспериментальная производная модели DeepSeek, подготовленная sleepyeldrazi на основе deepseek-ai/DeepSeek-V4-Flash. Это текстовая MoE-модель для генерации текста и диалогов; в ней оставлено 128 маршрутизируемых экспертов на слой, что соответствует примерно 50% сокращению экспертов. Дообучение не проводилось: модель создана структурным удалением части экспертов и преобразованием формата весов. Веса экспертов gate и up представлены в NVFP4 после заявленного в карточке преобразования шкал из MXFP4, down-эксперты — в Q2_K; внимание и общие эксперты используют Q8_0. Репозиторий распространяется в формате GGUF, но для запуска необходимы специализированный движок ds4 и NVFP4 CUDA-ядра: стандартные среды llama.cpp и GGUF модель не загружают. Автор ориентирует сборку на DGX Spark с GB10 Blackwell и заявляет поддержку контекста до 1 млн токенов при использовании FP8 KV-кэша. Карточка указывает английский язык и лицензию MIT. Практические сценарии включают программирование, вызовы инструментов, исследовательские и справочные диалоги; характеристики качества в README описаны без независимых оценок.

Hemlock-Qwopus3.5-9B-Coder-i1-GGUF — квантизированная версия модели Hemlock-Qwopus3.5-9B-Coder, опубликованная mradermacher и созданная на базе nbeerbower/Hemlock-Qwopus3.5-9B-Coder. Модель дообучалась на наборах hemlang/Hemlock2-DPO, hemlang/hemlock-formulary-SFT и hemlang/hemlock-codex-SFT; для базовой версии заявлено около 9 млрд параметров. В карточке также указаны теги vision-language-model и image-text-to-text, поэтому модель предназначена для работы с текстом и изображениями, включая задачи генерации и анализа кода, однако подробные сценарии применения не описаны. Распространяется в формате GGUF с imatrix-квантизациями различных уровней — от i1-Q2_K до i1-Q6_K, размером примерно от 4,0 до 7,7 ГБ. Для запуска мультимодальных возможностей могут потребоваться файлы mmproj из статического репозитория. Заявлен английский язык; сведения о размере контекста, точной архитектуре, поддерживаемых форматах изображений и результатах тестирования отсутствуют. Более компактные варианты требуют меньше памяти, а варианты более высокого качества занимают больше места; в README отдельно отмечены рекомендации по i1-Q4_K_M как быстрому варианту и i1-Q4_K_S как компромиссу размера, скорости и качества. Лицензия в карточке модели не указана, поэтому условия коммерческого и иного использования необходимо уточнять отдельно. Модель опубликована как набор готовых квантованных файлов и также содержит imatrix-файл для самостоятельного создания квантов.

Ttimms/KAT-Coder-V2.5-Dev-REAP-50-bf16 — вариант модели KAT-Coder-V2.5-Dev, подготовленный автором репозитория как чекпойнт после прореживания на 50% методом REAP и сохранённый в формате bf16. Он служит исходными весами для создания собственных квантованных сборок, включая AWQ, EXL2, MLX и GGUF. Модель предназначена для генерации кода и агентных сценариев программирования; в каталоге отмечена поддержка диалога и кода. Архитектура связана с семейством Qwen 3.5 MoE и классом Qwen3_5MoeForConditionalGeneration; для запуска указана библиотека Transformers. Репозиторий распространяется по лицензии Apache-2.0.

Karma Electric v9 (KE-v9) — диалоговая языковая модель на базе Apertus-8B-Instruct-2509, дообученная разработчиком репозитория методом QLoRA. Она предназначена для генерации ответов с акцентом на оценку последствий, безопасность и уважительное взаимодействие, а также поддерживает общие диалоговые и программные задачи. Обучение включало этапы Model Spec Midtraining и Alignment Fine-Tuning с примерами рассуждений о последствиях, программирования, работы с инструментами и многоязычных диалогов. Модель использует плотную архитектуру ApertusForCausalLM, содержит 10,3 млрд параметров и имеет нативный контекст 65 536 токенов по метаданным; в README для базовой модели указано 256K. В репозитории доступны веса safetensors и GGUF в вариантах F16 и Q8_0. В README приведены результаты StrongReject и DystopiaBench, указывающие на повышенную устойчивость к некоторым попыткам обойти защиту по сравнению с базовой моделью; это результаты конкретных тестов, а не гарантия безопасности. Карточка указывает поддержку английского, чешского, немецкого и французского языков. README отмечает ограниченные возможности модели размера 8B в сложных рассуждениях и многоязычных задачах, низкое качество тибетского и избыточные отказы на части запросов с угрожающими ключевыми словами. Модель не проверена для производственного развертывания. Лицензия — Apache-2.0.

Agnuxo публикует Mamba-Codestral-7B-Instruct_CODE_Python-Spanish_English_GGUF_16bit — локально запускаемую модель генерации кода на 7 млрд параметров. Карточка описывает её как помощника для написания кода и указывает семейство Mistral; репозиторий содержит веса в формате GGUF F16. В метаданных Hugging Face основная задача обозначена как text-generation, а языки карточки — английский и испанский. Модель предназначена для генерации и помощи с кодом, включая Python, JavaScript, TypeScript, Rust, Go и C++, а также научные вычисления и машинное обучение с библиотеками NumPy, SciPy, Pandas, PyTorch, TensorFlow и JAX. README также заявляет навыки координации агентов и интеграции MCP/A2A. Модель можно запускать локально через Ollama; лицензия — Apache-2.0. Ограничения: README не приводит результатов тестирования, подробностей об обучении или точного контекста. Перечисленные языки программирования и агентные возможности заявлены в карточке, но не подтверждены метаданными или оценками.

Olmo2-7B-Breadcrumbs-v1 — объединённая текстовая языковая модель, созданная Alelcv27 методом mergekit Breadcrumbs на основе OLMo-2-1124-7B-Instruct и моделей Olmo2-7B-Code и Olmo2-7B-Math-CoT. Она предназначена для генерации текста в диалогах и сочетает возможности следования инструкциям с решением задач по программированию и математике. Модель имеет плотную архитектуру OLMo 2 с причинным декодированием, содержит 6,9 млрд параметров и рассчитана на контекст до 4096 токенов. Репозиторий использует формат safetensors, для работы применяется Transformers. Основной язык базовой модели — английский; сведения о поддержке других языков не приведены. Модель подходит для диалоговых ответов, генерации и объяснения кода, а также пошагового решения математических задач. Качество на этих задачах отдельно не подтверждено в карточке, а объединение нескольких моделей может приводить к непредсказуемым результатам. Условия лицензии в предоставленных данных не указаны.

Ornith-1.5-35B-A3B Abliterated — CyberTiel-Calibrated MTPv2 ICE — это модель для генерации текста в формате GGUF, разработанная на основе huihui-ai/Huihui-Ornith-1.5-35B-A3B-abliterated с использованием материалов peculiar-ragdoll/Cyber-Tiel-Coder-35B-A3B-GGUF-MTP. Модель предназначена для запуска через llama.cpp и других совместимых инструментов. Указаны поддерживаемые языки English и Chinese. Модель использует архитектуру MoE с заявленным размером 35B и примерно 3B активных параметров, а также собственную обученную MTPv2 head. В репозитории доступны несколько ICE-квантовок размером примерно от 18,82 до 24,85 ГБ и мастер-версия BF16 размером 71,07 ГБ. Встроены шаблон чата Qwen-Sharp v22.4.1 и importance matrix, согласованная с исходной моделью. Рекомендуемый вариант 23G-ICE занимает 22,84 ГБ и рассчитан на системы с 24–32 ГБ совокупной RAM и VRAM; фактический доступный контекст зависит от оборудования и выбранного квантования. Сильными сторонами являются несколько вариантов квантования с разным балансом качества и требований к памяти, хорошие результаты измерений на английском тексте и коде, а также оптимизация для локального запуска. Ограничения включают потерю качества при более агрессивном квантовании и отсутствие гарантированного поведения в задачах, языках и контекстах, не представленных в README. Это abliterated-модель с подавленным поведением отказа, поэтому она может выполнять запросы, от которых стандартная модель отказалась бы; запуск требует изоляции и контроля доступа к сети и выполнению кода. Модель распространяется по лицензии MIT.

Python-Tab-Completion-CodeLlama-70b — вариант Code Llama на 70 млрд параметров, разработанный Meta и размещённый в неофициальном репозитории emissary-ai. Это авторегрессионная плотная Transformer-модель для генерации и понимания кода, настроенная для Python и предназначенная, в частности, для автодополнения кода. Она принимает текст и генерирует текст; поддерживает контекст до 4096 токенов. Модель не предназначена для диалогового следования инструкциям или инфиллинга. Модель может помогать дописывать фрагменты Python и создавать или разбирать код. Карточка указывает на применение в коммерческих и исследовательских сценариях, но README ограничивает предполагаемые естественные языки английским; основная специализация — язык программирования Python. Веса доступны в форматах PyTorch и Safetensors. Использование регулируется лицензией Meta для Llama 2.

Quillan-Ronin — диалоговая модель генерации текста от CrashOverrideX, представленная как смесь экспертов (MoE) и предназначенная для работы на потребительском оборудовании. В карточке описаны разреженная маршрутизация экспертов, тернарное квантование BitNet и инструменты для агентных сценариев, однако метаданные указывают 177,3 млн параметров и архитектуру QuillanOniForCausalLM, тогда как README приводит другие, противоречивые характеристики; поэтому подробности о слоях и размере из README нельзя считать подтверждёнными. Модель заявлена для диалогов, генерации кода и автономных агентных сценариев с инструментами и памятью, а также для исследований квантования и рекурсивного вывода. Метаданные перечисляют объединение с Qwen/Qwen3.5-0.8B, Llama-3.2-1B-Instruct и BitNet b1.58-2B-4T, но не позволяют установить, как именно устроено это объединение. Указаны английский язык и контекст 512 токенов; поддержка изображений, аудио и видео отмечена в тегах README, но основная задача и каталог классифицируют модель как генерацию текста. Лицензия — Apache-2.0. Среди заявленных ограничений — возможные отказы на некоторых запросах, повышенная задержка и вариативность в Mini-Ronin, а также галлюцинации мультимодальных компонентов на данных вне обучающего распределения. README отдельно предостерегает от применения в медицинских и иных критически важных сценариях.

alphaduriendur/Qwen2.5-Coder-1.5B-Instruct-Q4_K_M-GGUF — это квантизированная версия Qwen2.5-Coder-1.5B-Instruct, преобразованная в формат GGUF с использованием llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и работы с программным кодом в инструкционном и чат-сценариях, включая локальный запуск через llama.cpp. Модель имеет размер 1,5 млрд параметров и использует квантизацию Q4_K_M, что снижает требования к памяти и делает её подходящей для запуска на локальных устройствах. В карточке указана поддержка английского языка и текстовая модальность. Для запуска доступны llama-cli и llama-server; в примере конфигурации сервера используется контекст размером 2048 токенов, однако максимальный размер контекста в карточке отдельно не указан. К сильным сторонам относятся компактность, совместимость с экосистемой llama.cpp и удобство локального инференса. Ограничениями являются небольшой размер модели по современным меркам и возможная потеря качества из-за квантизации; подробные результаты оценки, перечень поддерживаемых языков и характеристики исходной модели в этой карточке не приведены. Модель распространяется по лицензии Apache-2.0.

khazarai/Qwen3-4B-Qwen3.6-plus-Reasoning-Distilled-GGUF — текстовая генеративная модель в формате GGUF, разработанная khazarai на базе Qwen3-4B-Thinking-2507. Модель создана методом reasoning distillation: её дообучили с помощью QLoRA и Unsloth на данных khazarai/qwen3.6-plus-high-reasoning-500x, чтобы перенести способности более крупной модели Qwen3.6-plus к рассуждению на компактную модель размером 4B параметров. В карточке указана поддержка английского языка и задача text-generation. Модель предназначена для сложных задач, требующих последовательного анализа, включая решение алгоритмических и графовых задач, разбор ограничений, формулирование алгоритмов, оценку сложности и подготовку псевдокода. По сравнению с базовой моделью она ориентирована на более структурированные, concise и профессиональные ответы с разделением на анализ проблемы, интуицию, алгоритм и оценку сложности. На указанном Multi-Domain-Reasoning-Benchmark из 100 вопросов дистиллированная модель получила 75,64 балла против 73,73 у Qwen/Qwen3-4B-Thinking-2507, однако эти результаты представлены разработчиком и не заменяют независимую оценку. Доступны варианты квантования Q4_K_1 размером около 2,3 ГБ, Q6_K около 3,3 ГБ, Q8_0 около 4,2 ГБ и bf16 около 8 ГБ; выбор варианта влияет на требования к памяти, скорость и качество. Обучение выполнялось на последовательностях длиной до 6500 токенов, но отдельный размер контекстного окна в карточке не указан. Сильные стороны модели — компактность, структурированность рассуждений и снижение избыточных самокоррекций; ограничения — специализация на английском языке, отсутствие заявленных мультимодальных возможностей и возможная зависимость качества от выбранного квантования. Лицензия — Apache-2.0.

onnx-community/Qwen3.5-0.8B-ONNX-OPT — ONNX-версия постобученной мультимодальной модели Qwen3.5-0.8B, разработанной командой Qwen. Это каузальная языковая модель с vision encoder, предназначенная для обработки текста и изображений, включая задачи рассуждения, программирования, визуального понимания, агентных сценариев, прототипирования, исследовательской разработки и специализированного дообучения. Артефакты совместимы с Hugging Face Transformers.js и ONNX Runtime. Модель содержит 0,8 млрд параметров, 24 слоя и скрытое измерение 1024. В архитектуре сочетаются Gated Delta Networks, Gated Attention и feed-forward блоки; заявлена гибридная архитектура с sparse Mixture-of-Experts на уровне семейства Qwen3.5. Нативная длина контекста составляет 262 144 токена. Модель поддерживает 201 язык и диалект, а также мультимодальный ввод текста и изображений. Благодаря небольшому размеру она ориентирована на более экономичный инференс и локальные эксперименты, однако уступает более крупным моделям по качеству и предназначена прежде всего для задач разработки и исследований. Модель распространяется по лицензии Apache 2.0. README не содержит подробностей о требованиях к аппаратному обеспечению, точных форматах входных изображений и ограничениях коммерческого применения, поэтому эти аспекты следует уточнять отдельно.

cyankiwi/Qwen-AgentWorld-35B-A3B-AWQ-INT4 — квантизированная сборка модели Qwen-AgentWorld-35B-A3B, разработанной командой Qwen. Это языковая мировая модель для симуляции агентных сред: она прогнозирует следующее состояние окружения на основе действия агента и истории взаимодействий. Модель предназначена для сценариев с вызовом инструментов MCP, поиском, работой в терминале, программной инженерией, Android, веб-интерфейсами и операционными системами, включая текстовые и графические среды. Архитектура — каузальная языковая модель с Mixture of Experts: 35 млрд параметров всего, около 3 млрд активируются при обработке токена. Она содержит 40 слоёв, использует комбинацию Gated DeltaNet и Gated Attention, а также контекст длиной до 262 144 токенов. Модель поддерживает английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский языки. Версия AWQ-INT4 рассчитана на эффективное инференс-развёртывание; размер представленных файлов составляет 23,54 ГБ. Сильные стороны модели — единая симуляция семи типов агентных окружений, обучение как нативной мировой модели с этапами CPT, SFT и RL, возможность обобщения на неизвестные среды и управляемого моделирования. Ограничения включают необходимость специализированной инфраструктуры для запуска крупной модели, а также то, что приведённые в README сведения не описывают точные требования к памяти, лицензирование именно квантизированной сборки и возможные потери качества из-за INT4-квантизации. Базовая модель распространяется по лицензии Apache-2.0.

Rain-2x7B-MoE-32k-v0.2 — экспериментальная языковая модель с архитектурой Mixtral MoE, опубликованная yuuko-eth. Она объединяет два эксперта размером 7B: Breeze-7B-Instruct-v0_1 для китайского языка и CodeNinja-1.0-OpenChat-7B для задач программирования; в README базой указан Marcoro14-7B-slerp. Модель предназначена для генерации текста, диалогов на китайском языке и помощи с кодом. Поддерживает контекст до 32 768 токенов и использует формат safetensors; для работы предлагаются шаблоны запросов базовых моделей. В версии v0.2 обновлены параметры токенизатора. Модель экспериментальная: автор рекомендует оценить её перед применением в рабочем конвейере. Условия лицензирования в доступных данных не определены.

SFR-Embedding-Code-400M_R — модель встраиваний Salesforce Research для поиска по коду и тексту. Версия содержит около 433,9 млн параметров, поддерживает контекст до 8192 токенов и распространяется в форматах Safetensors и ONNX. Модель предназначена для многоязычного и многозадачного поиска: она преобразует текстовые запросы и код в эмбеддинги, которые можно использовать для поиска релевантных фрагментов кода и других задач извлечения информации. В README семейство SFR-Embedding-Code описано как превосходящее ряд открытых моделей на задачах поиска по коду; приведённый результат CoIR относится к модели на 2 млрд параметров, поэтому его нельзя напрямую считать оценкой этой версии на 400 млн параметров. Модель разработана Salesforce Research. README указывает, что выпуск предназначен для исследований и требует самостоятельной оценки точности, безопасности и справедливости перед применением. Лицензия — CC BY-NC 4.0, которая ограничивает коммерческое использование.

Buelfhood/SOCO-Java-CODEBERTA-MNRL-TRIPLETS-E1-B32-LR1e-05-Split0.1 — модель Sentence Transformers, дообученная на наборе SOCO_TRAIN_java на основе huggingface/CodeBERTa-small-v1. Она преобразует текст в плотные векторы размерностью 768 и предназначена для сравнения семантической близости, семантического поиска и других задач сопоставления текстов, особенно связанных с Java-кодом. Архитектура основана на RoBERTa и использует усреднение токенных представлений; сходство векторов можно оценивать косинусной мерой. Модель содержит 96,6 млн параметров, поддерживает последовательности до 514 токенов по метаданным (в README указан предел 512) и распространяется в формате safetensors. Также её можно применять для поиска парафраз, кластеризации и классификации текста. Данные не уточняют лицензию; модель рассчитана на текстовые входы и векторные представления на выходе.

darioooooo0o/spark-4b-engram — экспериментальная специализированная на программировании модель, созданная автором репозитория на базе Spark-X2.5-4B. Она добавляет к замороженной базовой модели модуль условной памяти Engram для поиска шаблонов кода и предназначена для генерации кода на нескольких языках программирования и алгоритмических рассуждений. Архитектура — плотная причинная языковая модель Spark2_5ForCausalLM; в репозитории указаны 3,8 млрд параметров модели, а модуль Engram содержит около 826 млн параметров. Контекст — до 1 048 576 токенов. Модель принимает текстовые запросы и выдаёт текст, включая код; в карточке перечислены Python, C++, Java, JavaScript, C#, SQL, Bash, PHP и Rust. Engram обучался на 25 млн токенов кода и инструкций. README приводит предварительный результат HumanEval: 72% на варианте Spark-4B с Engram против 30% у исходной модели, однако автор предупреждает, что модуль обучен лишь на 20% и результаты предварительные. Для запуска предназначен стек Transformers и PyTorch; стандартный llama.cpp/GGUF не поддерживается. Лицензия репозитория — Apache-2.0.

Duyntnet/stable-code-instruct-3b-imatrix-GGUF — набор imatrix-квантизованных версий модели Stable Code Instruct 3B, разработанной Stability AI. Модель предназначена для генерации текста и выполнения инструкций, связанных прежде всего с программированием, например для написания HTML-кода и других фрагментов программ. Поддерживаемый язык — английский. Модель содержит около 3 миллиардов параметров и распространяется в формате GGUF, что ориентировано на запуск с использованием совместимых локальных средств инференса. В README не указаны точная архитектура, размер контекстного окна, перечень поддерживаемых модальностей и конкретные варианты квантизации. Пример использования предусматривает диалоговый шаблон, генерацию до 1024 новых токенов и настройку параметров sampling. Сильной стороной модели является специализация на инструкциях для задач программирования и возможность локального запуска в квантизованном формате. Ограничения включают англоязычную специализацию, отсутствие заявленной поддержки других модальностей и неполное описание технических характеристик. В метаданных указана лицензия other, однако её точные условия в README не приведены.

QuantFactory/starcoder2-7b-GGUF — квантованная версия модели StarCoder2-7B, разработанной проектом BigCode и преобразованной с использованием llama.cpp. Модель предназначена для генерации и дополнения программного кода, включая сценарии автодополнения, редактирования кода и работы с фрагментами в режиме Fill-in-the-Middle. Она не является instruction-моделью, поэтому плохо подходит для выполнения команд, сформулированных как обычные инструкции на естественном языке. Модель содержит около 7 млрд параметров и обучена более чем на 3,5 трлн токенов из набора The Stack v2, включая данные на 17 языках программирования; также использовались отдельные материалы из Arxiv и Wikipedia. Она использует Grouped Query Attention, контекстное окно 16 384 токена и sliding window attention размером 4 096 токенов. Квантование снижает требования к памяти по сравнению с полноразмерной версией, что упрощает локальный запуск, однако конкретные характеристики зависят от варианта квантования. В README приведены результаты на задачах генерации и понимания кода, включая HumanEval, HumanEval+, DS-1000, CruxEval-I и RepoBench. К ограничениям относятся слабая пригодность для диалогового следования инструкциям, возможные ошибки и небезопасные или неэффективные фрагменты кода, а также потери качества, связанные с квантованием. Для модели указана лицензия bigcode-openrail-m.

Uraion Forge 2B — компактная языковая модель Uraion Labs для генерации текста, агентных сценариев и рассуждений. Это дообучение openbmb/MiniCPM5-2B с плотной архитектурой LlamaForCausalLM; модель содержит 2,2 млрд параметров и принимает контекст до 131 072 токенов. Репозиторий содержит веса Safetensors, а карточка описывает использование через Transformers и развёртывание на GPU и устройствах с ограниченными ресурсами. Модель предназначена для многошаговых рабочих процессов с вызовом инструментов, генерации кода, количественных задач и ответов в структурированном JSON. Разработчик заявляет, что обучение направлено на сокращение затянутых рассуждений, ошибок в параметрах вызовов и потери состояния между ходами; в карточке также приведены результаты внутренних тестов на агентных сценариях, коде и длинном контексте. Указанная лицензия — Apache-2.0. Результаты бенчмарков в README относятся к тестам разработчика; в частности, показатели генерации кода заметно ниже результатов агентных рабочих процессов. Модель компактна, поэтому её общие возможности ограничены по сравнению с более крупными языковыми моделями.

Veritas-0.6B-Fact-Checker-Non-Thinking-1.0 — компактная языковая модель Resect Research Labs, дообученная на базе Qwen/Qwen3-0.6B для проверки фактов и фактической согласованности. Это плотная авторегрессионная модель семейства Qwen3 с 507,9 млн параметров и контекстом до 40 960 токенов; она принимает текст и генерирует текстовый ответ в виде бинарной оценки по заданному шаблону. Модель предназначена для проверки утверждений и оценки фактической опоры ответов, в том числе в сценариях проверки ответов систем с поиском по документам. В тестировании на LLM-AggreFact, который объединяет 11 размеченных наборов данных, авторы сообщают средний результат 72,30%, выше базового Qwen3-0.6B в режиме non-thinking. Использовать модель следует только в предписанном режиме бинарной оценки и с указанным шаблоном: отклонение от него может приводить к неожиданным результатам. Распространяется по лицензии Apache-2.0.