II.4Отладка, тестирование и качество ПО

mergekit-community/mergekit-slerp-fecxcxs — слитая языковая модель, созданная сообществом с помощью mergekit методом SLERP из budecosystem/code-millenials-34b и oobabooga/CodeBooga-34B-v0.1. Модель относится к семейству Llama, использует плотную архитектуру LlamaForCausalLM и содержит 22,4 млрд параметров. Она предназначена для генерации текста, включая код и ответы на инструкции по программированию. Модель принимает текст и генерирует текст; заявленная длина контекста составляет 16 384 токена. Веса опубликованы в формате safetensors. Лицензия в предоставленных данных не указана.

Карточка модели Openintelligent123/MiniCPM5-2B-CRACK-JANG_8M на Hugging Face совпадает с карточкой dealignai/MiniCPM5-2B-CRACK-JANG_8M, поэтому описание составлено по ней. dealignai выпустила MiniCPM5-2B-CRACK-JANG_8M — дообученную версию openbmb/MiniCPM5-2B в формате MLX для запуска на Apple Silicon через vMLX. Это плотная Llama-совместимая языковая модель с 2,2 млрд параметров и контекстом до 131 072 токенов; модель принимает и генерирует текст, поддерживает английский и китайский языки, режим рассуждения с включением и выключением, а также вызов инструментов через XML. Модель предназначена для диалогов, программирования, рассуждений и тестирования поведения при удалённом отказе от ответов: README сообщает, что механизм отказов удалён на уровне весов. В карточке приведены результаты MMLU и HarmBench для этой сборки. Модель поставляется в 8-битном MLX-бандле JANG8M и заявлена как бесплатная для macOS; лицензия — Apache-2.0. Это текстовая модель без поддержки изображений. Поскольку поведение отказов удалено, модель может выдавать ответы на опасные запросы; применяйте её с учётом этого ограничения.

MiniCPM5-2B GGUF — набор GGUF-квантизаций модели MiniCPM5-2B, разработанной OpenBMB и подготовленной для локального развертывания. Это плотная Llama-based модель примерно на 2 млрд параметров, предназначенная для генерации текста, программирования, рассуждений, работы с длинным контекстом и использования инструментов. Модель работает только с текстом и поддерживает английский и китайский языки. Исходная модель имеет нативный контекст до 131 072 токенов (128K). Доступны варианты квантизации Q2_K, Q3_K_M, Q4_0, Q4_K_S, Q4_K_M, Q5_K_M, Q6_K, Q8_0, IQ2_M, IQ3_M и IQ4_XS размером примерно от 0,97 до 2,68 ГБ. Файлы содержат встроенный chat template и рассчитаны на использование с актуальными сборками llama.cpp с поддержкой MiniCPM5. К сильным сторонам относятся небольшой размер, возможность локального запуска, поддержка очень длинного контекста и широкий выбор квантизаций для компромисса между качеством и требованиями к памяти. Поддержка вызова инструментов зависит от парсера и API-интеграции конкретного сервера, поэтому её необходимо проверять в целевом окружении. Модель распространяется по лицензии Apache-2.0.

Pythia 6.9B Tulu — языковая модель Allen Institute for AI, дообученная на смеси наборов инструкций FLAN V2, CoT, Dolly, OpenAssistant 1, GPT4-Alpaca, Code-Alpaca и ShareGPT. Это плотная авторегрессионная модель GPT-NeoX с 8,8 млрд параметров в метаданных и контекстом до 2048 токенов. Модель предназначена для генерации ответов на инструкции, диалоговых запросов, рассуждений и кода. В карточке приведены результаты на наборах тестов для общих знаний, математики, вопросов и ответов и генерации кода; авторы отмечают, что результат зависит от соблюдения обучающего формата с переводом строки после маркера сообщения. Модель поддерживает английский язык. Она распространяется в формате PyTorch и является полным набором весов, а не diff. Условия использования определяются лицензией модели из LICENSE.txt и исходной лицензией Pythia из pythia_license.txt; их конкретные положения в предоставленных данных не приведены.

Phi-4-reasoning-plus-GGUF — квантизированная в формате GGUF версия модели Phi-4-reasoning-plus, разработанной Microsoft. Квантизация выполнена bartowski на основе llama.cpp. Модель предназначена для генерации текста, диалогов, программирования, математики и решения многошаговых задач, требующих логического рассуждения. Модель поддерживает контекст до 32 000 токенов и работает с текстом на английском языке. Она дообучена на базе Phi-4 и дополнительно обучалась с применением Reinforcement Learning для повышения точности. Ключевая особенность — ориентация на сложные математические и логические задачи; при этом модель в среднем генерирует примерно на 50% больше токенов, чем базовая версия. В README не указаны точный размер модели, архитектурные детали и наборы данных. Модель распространяется по лицензии MIT. GGUF и llama.cpp упрощают локальный запуск, однако конкретные требования к оборудованию зависят от выбранного уровня квантизации, который в предоставленных данных не указан. Как и другие языковые модели, она может генерировать неточные или неподходящие ответы.

plato-9b — диалоговая языковая модель на 9 млрд параметров, разработанная DeepVK дообучением google/gemma-2-9b-it. Она предназначена прежде всего для генерации ответов на русском языке и общения в формате диалога. Модель обучали с supervised fine-tuning и оптимизацией предпочтений на инструкционных данных, включавших диалоги, математику, биологию, химию, код и общие знания. Архитектура — плотная Gemma 2 для причинной генерации текста; контекст — до 8192 токенов. Метаданные указывают поддержку русского и английского языков. В карточке приведены оценки на русскоязычных наборах arena-general-ru и arena-hard-ru с оцениванием LLM-as-a-judge. Эти результаты характеризуют конкретные тесты и не гарантируют качество для каждой задачи. Модель принимает текст и генерирует текст. Распространяется по лицензии Apache-2.0.

QuasarLM — открытая плотная языковая модель семейства Llama от Northwind AI Research для генерации текста и работы в роли чат-ассистента. Разработчики сообщают о дообучении с обновлённой смесью инструкций, расширенной программой проверяемых задач с вознаграждением и улучшенной поддержкой вызова инструментов. Модель предназначена для математических задач, программирования, логических рассуждений и диалогов общего назначения. В карточке приведены результаты внутренних сравнений, включая точность 81,2% на AIME 2026, а также заявлены снижение галлюцинаций и более длинные цепочки рассуждений. Репозиторий содержит веса PyTorch, модель загружается через Transformers. Лицензия — Apache-2.0. Указанные в README длинные рассуждения могут повышать расход токенов; бенчмарки и сравнительные заявления приведены разработчиками и не подтверждают качество на всех пользовательских сценариях.

BenevolenceMessiah/Qwen2.5-Coder-7B-Chat-Instruct-TIES — объединённая методом TIES языковая модель на архитектуре Qwen2 для генерации кода и диалогового взаимодействия. Она создана с помощью mergekit на основе Qwen/Qwen2.5-Coder-7B-Instruct и Qwen/Qwen2.5-Coder-7B; в метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации кода по запросу и ответов в чате на задачи, связанные с программированием. Метаданные также отмечают интерфейс вызова инструментов, однако README не описывает его поведение или качество. Модель опубликована в формате safetensors и используется через библиотеку Transformers. Лицензия в предоставленных данных не указана.

unsloth/Qwen3-4B-Base-unsloth-bnb-4bit — 4-битная версия базовой языковой модели Qwen3-4B-Base, подготовленная Unsloth и основанная на модели Qwen от команды Qwen. Это каузальная языковая модель на стадии предобучения, предназначенная для генерации и продолжения текста, обработки естественного языка, программирования, STEM-задач, логического рассуждения и работы с многоязычными данными. Поскольку модель является базовой, она не заявлена как специально обученная для диалогов или следования инструкциям. Модель содержит около 4,0 млрд параметров, из них 3,6 млрд без учёта embedding-слоёв, имеет 36 слоёв и использует Grouped-Query Attention с 32 головами для Q и 8 для KV. Максимальная длина контекста составляет 32 768 токенов. Семейство Qwen3 предварительно обучалось на 36 трлн токенов на 119 языках с использованием данных для кодирования, STEM, рассуждений, книг, многоязычных и синтетических источников. Ключевое преимущество варианта — 4-битное представление, снижающее требования к памяти; при этом квантование может ограничивать точность по сравнению с полной или менее агрессивно квантованной версией. Модель распространяется по лицензии Apache-2.0. Для работы рекомендуется актуальная версия библиотеки Transformers; версии ниже 4.51.0 не поддерживают архитектуру Qwen3.

Карточка модели pupsipups/Qwen3.5-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking на Hugging Face совпадает с карточкой DavidAU/Qwen3.5-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking, поэтому описание составлено по ней. DavidAU/Qwen3.5-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking — плотная мультимодальная модель семейства Qwen 3.5 с 40 млрд параметров, созданная автором DavidAU на основе DavidAU/Qwen3.5-27B-Deckard-PKD-Heretic-Uncensored-Thinking. По карточке, модель дообучали на внутренних наборах Deckard/PDK и наборе высокоуровневых рассуждений Claude 4.5 Opus; также применялись расширение модели с 27B до 40B параметров и шаблон Unsloth. Архитектура использует 96 слоёв, заявлено окно контекста 256 тысяч токенов и переменная длина рассуждений. Модель предназначена для диалогов, рассуждений, написания художественных текстов, генерации кода и анализа изображений. Автор отмечает сохранённую обработку изображений, проверенную генерацию кода и отсутствие ограничений на взрослый и графический контент. В метаданных указаны задачи image-text-to-text, возможности chat и vision, языки английский и китайский, библиотека Transformers и формат safetensors. Автор сообщает о склонности к зацикливанию при низких квантизациях или слишком коротких запросах и рекомендует более качественные кванты и содержательные промпты. Модель распространяется по лицензии Apache-2.0; заявление о превосходстве над базой основано на бенчмарках автора и не является независимой оценкой.

tvall43/Qwen3.6-14B-A3B-VibeForged-v2-GGUF — это мультимодальная квантизированная версия модели tvall43/Qwen3.6-14B-A3B-VibeForged-v2, основанной на восстановленной и дообученной версии прореженной Qwen3.6-35B-A3B-heretic. Модель распространяется в формате GGUF для запуска через llama.cpp и совместимые инструменты, включая LM Studio, Ollama и text-generation-webui. Разработчик описывает её как MoE-модель с 14B параметров, созданную с использованием QLoRA после дообучения на тысячах практических сессий vibecoding и данных Evol-Instruct для программирования. Модель предназначена прежде всего для генерации текста и кода, рассуждений, работы с инструментами и сценариев локального программирования. В ходе дообучения акцент сделан на строгих границах рассуждений в формате <think>...</think> и чистом JSON-синтаксисе вызова инструментов. Поддерживаются текстовая и визуальная модальности: в репозитории доступны мультимодальные проекторы mmproj в форматах F16 и Q8_0, унаследованные от базовой модели. В метаданных указан английский язык; размер контекста в README не указан. Доступны варианты F16, Q8_0, Q6_K, Q4_K_M, Q3_K_M, Q2_K и MXFP4_MOE, что позволяет выбирать между качеством, размером и скоростью в зависимости от ресурсов. Q8_0 требует около 15 ГБ памяти, а Q4_K_M ориентирован на локальный запуск примерно на 8 ГБ VRAM; характеристики других вариантов зависят от среды выполнения. Ограничения включают возможное снижение качества в сильно сжатых вариантах и необходимость поддержки MXFP4_MOE со стороны inference-движка. Модель распространяется по лицензии Apache-2.0.

Bazwilks/Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking-NEO-CODE-Di-IMatrix-MAX-GGUF — GGUF-квантизированная языковая модель, опубликованная Bazwilks и основанная на Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking. В README также указаны разработки и методы DavidAU, включая обучение через Unsloth, датасеты TeichAI/claude-4.5-opus-high-reasoning-250x и DavidAU/PkDick-Deckard-5-Datasets, а также специальные процедуры квантизации NEO-CODE-Di-IMatrix-MAX. Модель предназначена для широкого круга задач: диалогов, рассуждений, программирования, математики, творческого письма, генерации сюжетов и сцен, ролевых сценариев и работы с текстами различных жанров. Заявлены английский и китайский языки, поддержка изображений через отдельный mmproj-файл и контекст до 256K токенов. Архитектура плотная, не MoE, содержит около 40 миллиардов параметров, 96 слоёв и 1275 тензоров; предусмотрен режим переменной длины рассуждений. К сильным сторонам относятся большой контекст, акцент на рассуждениях, коде и творческих задачах, а также набор квантизаций с разным компромиссом между качеством и требованиями к ресурсам. Модель позиционируется как uncensored и unfiltered, поэтому может генерировать небезопасный или NSFW-контент; это одновременно ограничение для сценариев с повышенными требованиями к модерации. Для работы с изображениями требуется совместимый mmproj-файл. Указанная лицензия — Apache-2.0.

unsloth/Qwen3-VL-2B-Instruct — версия мультимодальной модели Qwen3-VL-2B-Instruct, подготовленная Unsloth; это плотная модель семейства Qwen3-VL с архитектурой Qwen3VLForConditionalGeneration и весами в формате safetensors. Она принимает текст и изображения, а также предназначена для анализа видео в диалоге: отвечает на вопросы по визуальным данным, распознаёт текст, рассуждает о пространственных отношениях и помогает взаимодействовать с графическими интерфейсами и инструментами. Карточка базовой модели указывает контекст 256 тысяч токенов с возможностью расширения до миллиона; README также заявляет поддержку OCR на 32 языках и обработку длинных видео. Модель подходит для описания изображений и видео, извлечения текста из документов, визуальных вопросов и ответов, генерации кода интерфейсов по визуальному примеру и сценариев с визуальными агентами. README отмечает исправления шаблона чата Unsloth; для llama.cpp требуется параметр --jinja. Заявления о качестве и производительности приведены без таблиц результатов в доступном README. Лицензия — Apache-2.0.

Карточка модели hflog/RESMPDEV-Wukong-0.1-Mistral-7B-v0.2 на Hugging Face совпадает с карточкой RESMPDEV/Wukong-0.1-Mistral-7B-v0.2, поэтому описание составлено по ней. Wukong-0.1-Mistral-7B-v0.2 — чат-модель, созданная RESMPDEV путём дообучения Mistral-7B-v0.2 от Mistral. Она предназначена для диалогов и генерации ответов по инструкциям; обучение проводилось на OpenHermes-2.5, наборах данных для кода от Multimodal Art Projection и наборе Dolphin от Cognitive Computations. Модель использует плотную архитектуру MistralForCausalLM с 7,1 млрд параметров, принимает текст и рассчитана на контекст до 32 768 токенов. Репозиторий содержит веса в форматах PyTorch и safetensors. Лицензия — Apache-2.0. Автор описывает настройку как «dealigned», но не уточняет её практический эффект; примеры выходов в карточке не приведены.

speechless-code-mistral-7b-v1.0 — языковая модель для генерации кода и выполнения инструкций, созданная Uukuguy на базе Mistral-7B-v0.1. Модель дообучена на 201 981 примере с задачами программирования, рассуждения и планирования; среди источников данных — наборы Airoboros, OpenOrca, Open-Platypus, WizardLM, TokenBender и Spider. Для общения используется формат инструкций Alpaca. Это плотная авторегрессионная архитектура Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Карточка приводит результаты HumanEval и Big Code Evaluation и описывает возможности генерации кода, включая Python и ряд других языков программирования. Модель принимает текстовые инструкции и выдаёт текст с кодом или пояснениями; основной заявленный язык естественного общения — английский. Модель подходит для генерации и дополнения кода, решения задач по программированию, а также для запросов, требующих рассуждения и планирования. Лицензия — Apache 2.0. В карточке также перечислены сторонние AWQ, GPTQ и GGUF варианты для инференса, однако метаданные этого репозитория указывают формат PyTorch; приведённые оценки на тестах не гарантируют качество для конкретных задач.

Toffee-3B-β — языковая модель для генерации текста и диалогового взаимодействия, разработанная maxzt. Модель дообучена на базе mistralai/Ministral-3-3B-Base-2512 с целью создания компактного полезного ассистента. Основной язык — английский; заявленные сценарии включают чат, выполнение инструкций, ответы на вопросы, рассуждения, математические задачи и программирование. Модель содержит около 3 млрд параметров и использует архитектуру Ministral 3 семейства Mistral. Длина контекста составляет 8 192 токена, размер словаря — 131 072, размер скрытого состояния — 3 072, 26 слоёв, 32 attention heads и 8 KV heads. Базовая точность указана как BF16. Дообучение выполнено методом SFT с LoRA на наборах UltraChat 200k, OpenMathInstruct-2 и CodeFeedback-Filtered-Instruction; использовалось до 80 000 примеров. Сильными сторонами являются компактный размер, пригодность для локального развёртывания и хорошие результаты на ряде стандартных тестов для моделей этого класса: 63,10% на MMLU, 72,04% на HellaSwag, 84,98% на BoolQ и 68,11% на Winogrande. Ограничения включают преимущественно англоязычную специализацию, небольшой контекст в 8 192 токена и отсутствие заявленной мультимодальности. Результаты на бенчмарках могут зависеть от настроек оценки и не гарантируют аналогичное качество в прикладных сценариях. Лицензия — MIT.

Agents-A1-4B-Fable-Preview-heretic-GGUF — это GGUF-квантизированная vision-language модель, разработанная hotdogs на основе Agents-A1-4B от InternScience. Модель предназначена для диалогов, понимания изображений, агентских сценариев, пошагового рассуждения, вызова инструментов и function calling, а также выполнения задач с кодом и shell-командами. Поддерживаются английский и тайский языки, формат ChatML и инференс через llama.cpp с использованием vision-проектора mmproj. Модель содержит около 4,29 млрд параметров и использует гибридную архитектуру Qwen3.5 с линейным и полным вниманием. Для обработки изображений применяется 24-слойный ViT-энкодер, контекст поддерживает до 128K токенов. Обучение включало 3 500 примеров Fable-style reasoning traces в течение трёх эпох; заявлена поддержка многошаговых агентских траекторий и блоков рассуждений <think>. Доступны варианты GGUF с разными уровнями квантизации, включая рекомендуемый IQ4_NL размером около 2,61 ГБ. К сильным сторонам относятся мультимодальность, поддержка инструментов, двуязычность, большой контекст и возможность запуска на видеокартах с ограниченной памятью. Abliteration с использованием heretic снизила заявленный уровень отказов примерно до 11%, однако модель может генерировать вредный, оскорбительный или неподходящий контент, поэтому требует осторожного применения. Лицензия — AGPL-3.0.

AIGCodeGeek-DS-6.7B — языковая модель для генерации кода, разработанная Leon Li. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 6,6 млрд параметров; она дообучена со всеми параметрами на основе deepseek-ai/deepseek-coder-6.7b-base. Модель предназначена для диалоговой помощи в программировании и генерации кода, обучалась на смеси открытых и частных наборов данных, включая WizardLM Evol-Instruct, Code-Feedback, UltraInteract, Magicoder Evol-Instruct и набор примеров Python. Контекст составляет 16 384 токена. Модель распространяется в формате safetensors и рассчитана на работу через Transformers. В карточке заявлена лицензия DeepSeek, однако результаты оценки качества ещё не приведены. Языки естественного текста явно не перечислены; модель ориентирована на код, включая примеры Python. Перед использованием следует проверить условия лицензии DeepSeek и качество на целевых задачах.

airoboros-7b-gpt4-1.2 — плотная причинно-языковая модель семейства LLaMA примерно на 6,6 млрд параметров, дообученная Джоном Дёрбином методом QLoRA на синтетических инструкционных данных, созданных GPT-4. Она предназначена для диалоговых ответов и генерации текста по инструкциям; карточка описывает формат общения с ролями USER и ASSISTANT и шаблон Vicuna. Модель рассчитана на программирование, математические задачи и рассуждения, викторины, ролевые диалоги, вопросы с вариантами ответа и заполнением пропусков, а также ответы с учётом заданного контекста. Для запросов на генерацию кода обучалась выводить код без Markdown-разметки при добавлении маркера PLAINFORMAT, но это поведение не гарантируется. Контекст — 2048 токенов; формат репозитория — PyTorch. Лицензия CC BY-NC 4.0 запрещает коммерческое использование.

BerkeliumGPT2-Coder-3b — дообученная на коде модель генерации текста на архитектуре Qwen2.5 с 3,1 млрд параметров. Разработчик обучал её на наборе BerkeliumCoding, составленном из 176 репозиториев с разрешительными лицензиями. Модель предназначена для генерации кода и диалоговой работы с запросами о программировании. Модель распространяется в формате SafeTensors с точностью bfloat16 и поддерживает запуск через Apple MLX и Transformers; в метаданных также указана совместимость с vLLM. Карточка README указывает контекст 4096 токенов, тогда как метаданные каталога — 32768 токенов, поэтому фактическую длину контекста следует проверять для используемой конфигурации. Лицензия — Apache-2.0.

Карточка модели jinreiyu/cloned-Bonsai-27B-mlx-1bit на Hugging Face совпадает с карточкой prism-ml/Bonsai-27B-mlx-1bit, поэтому описание составлено по ней. Bonsai-27B-mlx-1bit — 27-миллиардная модель для генерации текста и диалогов, представленная Prism ML. Это производная от Qwen/Qwen3.6-27B модель с гибридной архитектурой внимания: около 75% линейного и 25% полноразмерного внимания. Языковые веса представлены в бинарном формате с эффективной точностью 1,125 бита на параметр; башня зрения использует 4-битное HQQ-представление. Модель рассчитана на локальный запуск на устройствах Apple через MLX, а также поддерживает CUDA. Модель предназначена для рассуждений, работы с кодом, агентных сценариев, длинных диалогов и анализа документов. Заявлены контекст до 262 тысяч токенов и footprint около 3,9 ГБ; авторы сообщают о скорости около 11 токенов/с на iPhone 17 Pro Max и сохранении примерно 90% качества FP16-версии по выбранным бенчмаркам. Компактное представление позволяет запускать модель локально, включая смартфоны, ноутбуки и потребительские GPU. Основной компромисс — снижение качества относительно полной точности, особенно в наиболее сложных категориях; авторы также отмечают, что длительные агентные задачи программирования пока не являются сильной стороной этой версии. Производительность на телефоне зависит от теплового режима. Модель распространяется по лицензии Apache-2.0.

CodeBooga-34B-v0.1 — языковая модель для генерации кода, созданная автором репозитория слиянием Phind-CodeLlama-34B-v2 и WizardCoder-Python-34B-V1.0 с помощью BlockMerge Gradient. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 33,5 млрд параметров и контекстом до 16 384 токенов. Модель предназначена для ответов на инструкции и решения задач программирования, в частности на Python и JavaScript. Для работы используется шаблон Alpaca: запрос помещается после заголовка Instruction, ответ модели следует после Response. Автор приводит неформальную сравнительную оценку на небольшом наборе вопросов по Python и JavaScript; она указывает на хорошие результаты, но не является строгим бенчмарком. Модель распространяется в формате safetensors по лицензии Llama 2. В README также упомянуты сторонние квантизованные варианты GGUF, но они не являются форматом весов этого репозитория.

CodeFuse-CodeLlama-34B — языковая модель для программирования, разработанная CodeFuse AI. Это плотная авторегрессионная модель семейства Llama с 33,5 млрд параметров, дообученная методом QLoRA на базе CodeLlama-34b-Python на наборах инструкций для разных задач программирования. Она предназначена для генерации кода и ответов на инструкции, связанные с кодом; в карточке приведён результат 74,4% HumanEval pass@1 при жадном декодировании. Модель принимает текстовые запросы в специальном последовательном формате диалога system/human/bot и генерирует текст, включая код. Длина контекста, использованная при дообучении, составляла 4 тыс. токенов; метаданные указывают нативный контекст 16 384 токена. В тегах карточки перечислены английский и китайский языки. Для запуска карточка описывает стек Transformers и PyTorch. Модель рассчитана на помощь при написании кода, решении задач программирования и ответах на инструкции по коду. Карточка указывает лицензию «other», поэтому конкретные условия использования следует сверить с файлами лицензии репозитория перед применением. Показатель HumanEval приведён разработчиками и сам по себе не гарантирует качество на иных задачах.

Codetulu 2 34B — языковая модель-помощник из серии Tulu, разработанная Allen Institute for AI (AI2). Это дообученная на смеси открытых, синтетических и созданных людьми данных модель CodeLlama-34B; в обучающую смесь вошли инструкции и диалоги, в том числе набор allenai/tulu-v2-sft-mixture. Модель предназначена для генерации текста и ответов на пользовательские инструкции, прежде всего на английском языке. Модель построена на архитектуре Llama с плотной causal language model, содержит 33,5 млрд параметров и поддерживает контекст до 8192 токенов. Для корректного форматирования входа карточка рекомендует заключать сообщение пользователя в формат инструкций модели и добавлять завершающий перевод строки. Модель не проходила этап RLHF-настройки на безопасные ответы и не использует фильтрацию ответов во время работы, поэтому может выдавать проблемный контент, особенно в ответ на соответствующие запросы. Распространяется по лицензии AI2 ImpACT Low-risk; перед использованием следует проверить её условия.

DeepSeek-V4-Flash-NVFP4-FP8 — это оптимизированная и квантизованная версия базовой модели DeepSeek-V4-Flash, разработанная Red Hat AI на основе модели deepseek-ai. Модель предназначена для развёртывания и инференса через Transformers и vLLM, в частности для задач общего инструктирования, математического рассуждения, reasoning и генерации кода. Она ориентирована на высокопроизводительное серверное использование с тензорным параллелизмом на нескольких GPU. Ключевая особенность модели — применение формата NVFP4, а также FP8 для KV-кэша. Для запуска рекомендуется использовать четыре GPU и FP8 KV cache; оценивание проводилось на 8 GPU B200. Точные архитектурные параметры, размер модели, поддерживаемые языки, модальности и длина контекста в README не указаны. На GSM8K модель показала точность 91,0%, а на MMLU-Pro — 55,4%. В сравнении с базовой моделью восстановление качества различается по задачам: оно составляет около 91–98% на большинстве указанных бенчмарков, при этом на AIME 2025 результат оказался выше базового. Основные преимущества модели — совместимость с vLLM, использование низкоразрядного представления для эффективного инференса и высокая пропускная способность. Ограничение заключается в заметной потере точности относительно базовой модели, связанной с тем, что исходная модель уже была выпущена в квантизованном формате, а также с различиями между форматами MXFP4 и NVFP4. В README упоминается, что более продвинутые методы, например GPTQ, могут улучшить восстановление точности. Модель распространяется по лицензии MIT.

DeepSeek-V4-Pro-Qwen3.5-4B-bf16 — конверсия в формат MLX модели Jackrong/DeepSeek-V4-Pro-Qwen3.5-4B, подготовленная mlx-community с помощью mlx-vlm 0.4.4. Это плотная мультимодальная модель семейства Qwen3.5, доступная в точности BF16 и рассчитанная на инференс на компьютерах Apple Silicon через MLX. Модель принимает текстовые запросы, изображения и видеоданные; поддерживает чат и интерфейс вызова инструментов. Базовая модель дообучена на дистиллированных ответах DeepSeek-V4-Pro для пошагового решения задач по математике и естественным наукам. Метаданные карточки также указывают поддержку английского, китайского, испанского, русского и японского языков. Конверсия сохраняет шаблон чата и мультимодальный процессор исходной модели. Для работы с изображениями и видео README рекомендует mlx-vlm. Лицензия — Apache 2.0, унаследованная от исходной модели. Подробности о качестве и ограничениях следует сверять с карточкой исходной модели.

Dolphin-2.9.2-Phi-3-Medium-abliterated-GGUF — это квантованное в формате GGUF семейство версий языковой модели Dolphin-2.9.2-Phi-3-Medium-abliterated. Исходная модель опубликована cognitivecomputations, а квантование выполнено bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста в диалоговых и инструкционных сценариях, включая программирование, решение математических задач, работу с агентскими инструкциями и обычный чат. Указан английский язык; сведения о поддержке других языков отсутствуют. Модель основана на unsloth/Phi-3-mini-4k-instruct и обучалась на наборах Dolphin-2.9.2, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, samantha-data, Orca Math, Agent-FLAN и других. Доступны варианты квантования от Q8_0 до Q2_K и IQ2/IQ3/IQ4; размер файлов составляет примерно от 4,19 до 14,83 ГБ. Более высокие уровни квантования обычно сохраняют лучшее качество, а низкие уменьшают требования к памяти ценой качества. Архитектура, точное число параметров, модальности и фактический размер контекста в README не указаны, однако название базовой модели указывает на вариант с контекстом 4K. Сильными сторонами являются локальный запуск через llama.cpp, широкий набор инструкционных и кодовых данных, а также выбор вариантов квантования для разного объёма доступной памяти. Ограничения включают возможное снижение качества у низкобитных вариантов и отсутствие подтверждённых характеристик производительности или безопасности; обозначение abliterated также указывает на модификацию исходной модели, поэтому ответы требуют проверки. Модель распространяется по лицензии MIT.

EpistemeAI-codegemma-2-9b-ultra — языковая модель EpistemeAI на архитектуре Gemma 2, дообученная на модели unsloth/gemma-2-9b-bnb-4bit. В карточке указано дополнительное обучение на 297 тысячах примеров с отзывами и инструкциями по коду, включая инструкции по Python; общий объём этих данных составляет около 31,4 млн токенов. Модель содержит 9 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации кода и ответов на инструкции, в том числе для задач программирования на Python. Также её можно применять для диалога и генерации текстов. Метаданные Hugging Face указывают text-classification, но каталог относит модель к text-generation; описание и обучение в README поддерживают прежде всего сценарии генерации текста и кода. Для работы с Transformers в README рекомендуется форматировать запросы по шаблону Alpaca. Модель может ошибаться в фактах и сложных или неоднозначных задачах, а результаты зависят от данных обучения и контекста. Лицензия указана противоречиво: README сообщает Apache-2.0, тогда как метаданные Hugging Face указывают Gemma; перед использованием следует проверить применимые условия распространения.

Falcon3-Mamba-7B-Base — базовая предварительно обученная языковая модель семейства Falcon3, разработанная Technology Innovation Institute. Это плотный авторегрессионный декодер на основе Mamba1: 64 блока, ширина 4096, размер состояния 16 и словарь на 65 тысяч токенов. Модель продолжает предварительное обучение Falcon-Mamba-7B на дополнительных данных из веба, кода, STEM и других высококачественных источников. Модель предназначена для генерации текста и служит основой для сценариев рассуждения, понимания языка, следования инструкциям, работы с кодом и математикой. Контекстное окно достигает 32 тысяч токенов; обучение велось преимущественно на английских данных. В репозитории представлены веса Safetensors для Transformers. Разработчик сообщает о сильных результатах на задачах рассуждения, понимания языка, кода и математики по сравнению с моделями SSM схожего размера на момент выпуска. Это базовая модель, поэтому качество следования инструкциям в прикладном чате может уступать специализированным instruct-версиям. Лицензия — TII Falcon-LLM License 2.0.

GLM-4.6V-Flash — компактная мультимодальная модель семейства GLM-V от Z.ai, предназначенная для локального развёртывания и приложений с низкой задержкой. Это плотная модель с 9 млрд параметров, работающая с изображениями и текстом; карточка Hugging Face указывает архитектуру GLM4V, библиотеку Transformers и формат Safetensors. Модель поддерживает диалог и визуальное понимание, а контекстное окно серии GLM-4.6V достигает 128 тыс. токенов. Модель подходит для анализа изображений, скриншотов и страниц документов, включая понимание их текста, компоновки, таблиц, графиков и иллюстраций. Она также рассчитана на мультимодальное использование инструментов и на создание HTML/CSS по скриншотам интерфейсов. Заявленные в карточке возможности серии включают генерацию смешанного текста и визуального содержимого; README уточняет, что Flash — облегчённая версия для локального использования. Разработчики отмечают, что чисто текстовые ответы слабее мультимодальных возможностей. Модель может чрезмерно рассуждать, повторять ответ, ошибаться при подсчёте объектов и распознавании конкретных людей. Лицензия — MIT.