II.4Отладка, тестирование и качество ПО

Gemma-4 26B-A4B-it — текстовая instruction-tuned модель Google, представленная в формате GGUF. Данная версия конвертирована и квантизирована Arun Prasath E G для запуска через llama.cpp на CPU без GPU; дообучения не выполнялось. Модель использует архитектуру mixture-of-experts с 26 млрд параметров и восемью экспертами. В описании указан английский язык, другие языки и размер контекста не заявлены. Модель предназначена для генерации текста, включая диалоговые ответы, решение задач, ответы на фактические вопросы и написание кода. Основной вариант использует квантизацию Q4_0; также доступна версия с дополнительной квантизацией выходной головы до 2,4 бит на вес. Для ускорения предусмотрен официальный MTP-drafter и speculative decoding. В CPU-сценариях на i9-13900K с 64 ГБ памяти заявлена скорость около 40 токенов в секунду в однопоточном потоке генерации и около 124 токенов в секунду совокупно при batch 32. Сильные стороны модели — возможность локального запуска без GPU, высокая скорость при подходящей конфигурации и сохранение идентичного вывода базовой Q4_0-версии при использовании speculative decoding. Результаты зависят от процессора, пропускной способности памяти, температуры и параметров запуска. Использование только трёх из восьми экспертов является приближением: на тестовых запросах ответы совпали с режимом top-8, но perplexity на необработанном тексте выросла. Для работы требуются совместимые форки llama.cpp и значительный объём памяти; заявленные показатели относятся к конкретному стенду и не гарантируются на другом оборудовании. Базовые веса и MTP-drafter распространяются по условиям Gemma Terms of Use. В репозитории представлены конвертации и квантизации официальных весов Google, а не отдельная дообученная модель.

GPT-6.1 Sol — модель OpenAI из серии GPT-6, представленная как обновление GPT-6 Sol и расположенная ниже флагманской GPT-6 Astra. Она предназначена для агентного программирования, управления компьютером и работы с документами в профессиональных сценариях. Метаданные каталога классифицируют её как image-text-to-text, что указывает на обработку изображений и выдачу текста. Доступные сведения не позволяют определить размер, архитектуру, языки, контекст или лицензию модели. README обрывается на описании назначения, поэтому её характеристики и условия использования нельзя уточнить.

LinguaForge-BestModel-v2 — языковая модель семейства Llama, представленная пользователем dusersad12. Она предназначена для генерации текста и диалогов, решения математических и логических задач, программирования и работы в роли помощника. В README заявлены улучшения рассуждений после постобучения, снижение галлюцинаций и поддержка вызова функций; приведены результаты бенчмарков, но подробности методики и независимая проверка не описаны. Модель содержит 1,3 млрд параметров, использует архитектуру LlamaForCausalLM и доступна в формате PyTorch через Transformers. README предлагает шаблон системного промпта для чат-сценариев, а также шаблоны запросов с файлами и результатами веб-поиска. Лицензия — Apache-2.0. Карточка не сообщает контекстное окно и явно поддерживаемые естественные языки.

LuxAI 1 Nemo — выпущенная LuxAI объединённая модель на архитектуре Mistral 3 для диалога на чешском и английском языках, программирования, математики и работы с инструментами. Репозиторий содержит самостоятельные веса BF16 в формате safetensors; обучение включало текстовые адаптеры и настройку выбранных строк токенов, а затем их слияние с моделью. В README указана корректирующая эпоха на 21 530 примерах: среди обучающих задач были математические и программные рассуждения, диалоги с инструментами и чешская беседа. Модель предназначена для генерации текста, ответов в чате, кода и вызовов инструментов. На диагностическом чешском наборе Lux Core 1 она набрала 72,92% (175 из 240); это специализированная оценка, а не общий рейтинг. Авторы рекомендуют начинать работу с контекста 8 192 токена, поскольку качество на большей длине не установлено. Также опубликованы варианты GGUF, включая смешанную 4-битную квантизацию, но их точность не следует считать равной результату BF16. Ограничения включают возможные фактические, математические и программные ошибки, ненадёжное формирование native-блоков рассуждений на чешских запросах и иногда пропущенные или повторяющиеся разделители протокола. Синтаксически корректный вызов инструмента не гарантирует верный выбор инструмента; структурированный вывод следует проверять. В README сведения о лицензии отсутствуют.

MiniCPM5-2B-Base — базовая плотная авторегрессионная языковая модель семейства MiniCPM5, разработанная OpenBMB. Она предназначена для локальных ассистентов, агентных сценариев, работы с инструментами и рассуждений на устройствах с ограниченными ресурсами. Модель содержит около 2,2 млрд параметров; в карточке указана архитектура LlamaForCausalLM с 42 слоями и поддержка длинного контекста. README указывает контекст 131 072 токена, тогда как метаданные каталога сообщают 524 288 токенов. Модель работает с текстом и ориентирована на английский и китайский языки. Среди заявленных сильных сторон — код, математика, понимание длинного контекста, использование инструментов и агентные задачи; это характеристики, заявленные разработчиком, а не независимая оценка. Для фактических результатов важны вычислительные ресурсы, среда запуска и проверка ответов: генерация может быть неточной, предвзятой или оскорбительной и уязвима к специально составленным запросам. Лицензия — Apache-2.0.

RoroMachine14/nanbeige-4.1-3b-deepseek-distilled — дообученная версия Nanbeige4.1-3B, созданная автором RoroMachine14 на датасете sequelbox/Tachibana4-DeepSeek-V4-Pro. Модель относится к классу text-generation и предназначена для генерации текста, структурированного рассуждения, решения математических задач, включая суммирование и интегрирование, а также написания кода с пошаговым объяснением. Модель содержит около 3 млрд параметров и наследует встроенную способность Nanbeige4.1 к reasoning/thinking, усиленную трассами рассуждений DeepSeek-V4-Pro в задачах программирования и математики. Заявлена поддержка английского и китайского языков. Модель может запускаться на пользовательском оборудовании через transformers или llama.cpp, что делает её пригодной для локального использования при ограниченных аппаратных ресурсах. Данные о размере контекста, поддерживаемых модальностях, конкретных ограничениях качества и дополнительных требованиях отсутствуют. Распространяется по лицензии Apache-2.0.

OpenAi-GPT-oss-20b-abliterated-uncensored-NEO-Imatrix-gguf — это квантизированная GGUF-версия текстовой модели на базе huihui-ai/Huihui-gpt-oss-20b-BF16-abliterated. В README указано, что модель подготовлена DavidAU с использованием наборов данных NEO, Horror и NEOCode для Imatrix-квантизации. Модель ориентирована на генерацию текста, чат, программирование и генерацию кода, рассуждения, решение задач, мозговой штурм, творческие сценарии и работу с общими запросами. Заявлена поддержка английского языка и контекста до 128K токенов. Архитектура описана как Mixture of Experts с 24 экспертами; размер базовой модели — 20B параметров. Доступны варианты квантизации IQ4_NL, Q5_1 и Q8_0, включая варианты с одной, двумя или тремя Imatrix-матрицами. Удаление ограничений и отказов делает модель менее склонной к цензурированным ответам, но автор предупреждает, что из-за abliteration она может быть менее стабильной и «грубоватой»; поведение зависит от варианта квантизации и настроек. README также отмечает, что Q5_1 может быть стабильнее IQ4_NL, тогда как IQ4_NL иногда дает более непредсказуемые и творческие ответы. Модель распространяется по лицензии Apache-2.0. Для работы требуется среда, совместимая с форматом GGUF и соответствующим вариантом квантизации; конкретные аппаратные требования в README не указаны.

Open-Instruct Stanford Alpaca 13B — языковая модель семейства LLaMA с плотной архитектурой, дообученная Allen Institute for AI на наборе инструкций Stanford Alpaca в рамках исследования по instruction tuning на открытых ресурсах. Модель предназначена для генерации ответов на инструкции и запросы на английском языке; для работы с ней следует использовать описанный в карточке формат входного запроса. Модель содержит 12,9 млрд параметров, принимает текст и выдаёт текст. Её контекст составляет 2048 токенов. В карточке приведены результаты на наборах тестов по общим знаниям, математике, рассуждениям, вопросам и ответам, программированию и следованию инструкциям. Это diff весов, для использования которого требуется модель LLaMA в формате Hugging Face. Условия использования определяются лицензией AI model license и исходной лицензией LLaMA.

Ornith-1.0-9B-ASHQ1-MTP-GGUF — квантованная версия Ornith-1.0-9B, подготовленная wepiqx для запуска локально через llama.cpp и совместимые приложения. Модель основана на архитектуре Qwen3.5-9B с 32 слоями, GQA, SSM и головами Multi-Token Prediction (MTP); в README заявлен контекст 262 тыс. токенов. Доступны варианты размером примерно 4,7–7,3 ГБ; MTP-головы сохраняются в Q8_0, а ASHQ1 распределяет точность по основным слоям с помощью приоритетной очереди. Модель предназначена для диалогов, генерации текста, а также задач программирования и агентных сценариев. README рекомендует вариант 4850 для более лёгких задач, а 5500 и выше — для программирования и агентных нагрузок; для конфигурации с контекстом 8192 токена указано требование от 8 ГБ видеопамяти. Русский язык отдельно не заявлен; в метаданных указан английский. Лицензия — MIT.

lmstudio-community/Phi-4-reasoning-plus-MLX-4bit — это версия модели Microsoft Phi-4-reasoning-plus, преобразованная сообществом lmstudio-community в формат MLX с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и диалогового взаимодействия на английском языке, включая задачи рассуждения, математики, программирования и обработки естественного языка. Модель поддерживает использование через библиотеку mlx-lm и совместима с чатовым шаблоном токенизатора. В названии указано 4-битное представление, однако архитектура, количество параметров, размер контекста и точные характеристики модальностей в README не приведены; по указанным данным модель является текстовой и не предназначена для обработки изображений или других мультимедийных данных. Лицензия — MIT. README не содержит результатов тестирования, поэтому количественно оценить сильные стороны и ограничения модели невозможно; к ограничениям относятся неизвестные параметры производительности и качества, а также заявленная языковая поддержка только английского языка.

Jongbin-kr/qwen2.5-coder-7b-verireason-grpo-official-full-ft — дообученная модель генерации текста на базе Jongbin-kr/qwen2.5-coder-7b-verireason_sft-reasoning_official-full-ft. Разработчик карточки указывает, что обучение выполнялось с использованием TRL; архитектура — плотная Qwen2, размер — 7,1 млрд параметров. Модель предназначена для генерации ответов в диалоговом формате. Базовая модель описана в каталоге как Qwen2.5-Coder-7B-Instruct, настроенная для диалога, рассуждений и программирования. Контекст составляет до 32 768 токенов; репозиторий содержит веса в формате safetensors и рассчитан на использование через Transformers. Карточка не приводит результатов оценки качества или подробных ограничений; возможности программирования и рассуждений следуют из описания базовой модели. Лицензия в предоставленных данных не указана.

RESMPDEV/Qwen2-Wukong-7B — разговорная модель на базе Qwen2-7B, дообученная автором репозитория как dealigned chat finetune на наборе OpenHermes-2.5 и дополнительных данных от Cognitive Computations. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2 на базе Transformer и предназначена для генерации текста в формате чата. Заявленная длина контекста — 131 072 токена. Модель подходит для диалоговых ответов, генерации текста и вспомогательных задач вроде вопросов и ответов, рассуждений, математики и программирования. Карточка описывает базовую Qwen2 как многоязычную, а метаданные этой модели указывают английский язык; поэтому поддержку других языков для данного дообучения следует считать не подтверждённой. Репозиторий содержит веса Safetensors. Лицензия — Apache-2.0.

Qwen3.5-9B-GLM5.1-Distill-v1-i1-GGUF — квантизированная GGUF-версия модели Jackrong/Qwen3.5-9B-GLM5.1-Distill-v1, подготовленная mradermacher для локального запуска через llama.cpp и совместимые инструменты. Модель основана на Qwen3.5 с заявленным размером 9 млрд параметров и обучалась с использованием дистилляции, SFT и LoRA на наборах данных, связанных с reasoning и длинными цепочками рассуждений, включая Qwen3.5-reasoning-700x и GLM-5.1 Reasoning. Модель предназначена для диалоговой генерации текста, рассуждений, математических и STEM-задач, программирования, исследовательских сценариев и многоязычного применения. В карточке заявлена поддержка английского, китайского, японского и испанского языков. README также описывает модель как vision model; для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория. Точный размер контекстного окна и детальная архитектура не указаны. Основное преимущество — наличие нескольких вариантов квантизации, позволяющих выбирать компромисс между размером, скоростью и качеством; среди рекомендуемых указаны i1-Q4_K_M и i1-Q4_K_S. Низкобитные варианты экономят память, но могут заметно снижать качество, а модель и её характеристики обозначены как экспериментальные. Распространение заявлено по лицензии Apache-2.0.

Qwen3.8-27B-NVFP4-Q8-Hybrid-Analytical-GGUF — производная GGUF-конверсия модели unsloth/Qwen3.8-27B-NVFP4, опубликованная Costanzo Padovano. Это неофициальный релиз Qwen, Unsloth, ggml-org или Z-Lab, подготовленный для локальных биоинформатических, программных, длинноконтекстных и vision-сценариев, включая задачи с инструментами и аналитическим выводом. Модель содержит 1 202 тензора: 168 матриц NVFP4, 338 аналитически чувствительных матриц Q8_0 и 696 тензоров F32. Заявленный нативный контекст составляет 262 144 токена. Для обработки изображений используется отдельный F16-проектор mmproj-F16.gguf. Валидация включала биоинформатические агентские задачи, vision-проектор и длинный контекст до 131 тысячи токенов; заявлена совместимость с llama.cpp и экспериментальной схемой спекулятивного декодирования DFlash2. Сильными сторонами являются гибридное квантование с сохранением точности чувствительных компонентов, поддержка длинного контекста, кода, биоинформатики и изображений, а также проверенные сценарии вызова инструментов. Экспериментальная конфигурация рассчитана на две NVIDIA RTX 5060 Ti по 16 ГБ, но это аппаратно-зависимая точка настройки, а универсальное ускорение DFlash2 не гарантируется. Стандартные сборки llama.cpp могут не поддерживать все использованные параметры. Производная модель распространяется по лицензии Apache-2.0; для работы требуются основной GGUF-файл и, при использовании vision, проектор.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — модель семейства Qwen3.8 с 27 млрд параметров, представленная в виде GGUF-квантовок. По README, это многоэтапная fine-tune-модель и результат объединения нескольких обученных версий, созданная с использованием Unsloth, методов Cold Fusion и Fable Fusion. В репозитории доступны обычные GGUF-варианты и варианты с MTP, включая 4- и 8-битные квантовки. Заявлены поддержка английского и китайского языков; максимальный размер контекста не указан. Метаданные также содержат тег image-text-to-text, однако подробности мультимодальных возможностей не приведены. Модель ориентирована на широкий спектр сценариев: решение задач и рассуждение, программирование, творческое письмо, художественную прозу, ролевые диалоги и другие универсальные задачи. Основной заявленный акцент — повышение качества при одновременном сокращении объёма внутренних thinking-токенов, что должно уменьшать задержку и расход вычислительных ресурсов. Автор README заявляет превосходство над базовой Qwen3.8-27B и рядом других моделей по семи ключевым бенчмаркам, а также высокие результаты ARC-C и ARC-E, но эти утверждения требуют независимой проверки. К сильным сторонам относятся ориентация на потребительское оборудование, наличие разных уровней квантования, поддержка MTP и заявленное сочетание подробных ответов с более быстрым выводом. Ограничения включают отсутствие в README точных сведений о контекстном окне, архитектурных деталях, системных требованиях, качестве мультимодальной обработки и воспроизводимых результатах тестов. Модель распространяется по лицензии Apache-2.0.

Qwopus3.8-27B-Flash-V2 — экспериментальная мультимодальная модель на архитектуре Qwen3.5, разработанная Jackrong. Это обновлённый пост-тренировочный вариант Qwopus3.8-27B-Flash, который, согласно карточке, основан на Qwen3.8-27B. Модель принимает текст и изображения и предназначена для диалогов, следования инструкциям, рассуждений, работы с инструментами и генерации кода. Вторая версия прошла дополнительное пост-обучение с изменёнными функциями вознаграждения и методами обучения с подкреплением. Разработчик делает упор на эффективность вывода и длительные агентные сценарии с повторяющимися вызовами инструментов. Указаны поддержка спекулятивного декодирования MTP и улучшения форматирования Python; приведённые в README результаты относятся к описанным там тестам и не гарантируют аналогичное качество на других задачах. Ограничения включают возможный дрейф рассуждений и неэффективные траектории, а качество работы с инструментами зависит от промпта, среды и оркестрации. Разработчик отмечает, что модель не проходила широкую оценку безопасности и надёжности агентов. Лицензия — Apache-2.0.

BenevolenceMessiah выпустил объединённую модель QwQ-32B-Preview-abliterated-Self-instruct-2x-TIES-v1.0, созданную методом TIES с помощью mergekit. В качестве базовой модели использована huihui-ai/QwQ-32B-Preview-abliterated; также в объединение вошли Rombos-LLM-V2.5-Qwen-32b и Rombos-Coder-V2.5-Qwen-32b. Модель построена на архитектуре Qwen2ForCausalLM, содержит 32 млрд параметров и предназначена для генерации текста в диалоговом формате, включая сценарии с кодом. Контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Карточка не приводит результатов оценки качества, подробных сведений о языках или условий лицензии, поэтому эти характеристики нельзя уточнить. Поскольку это слияние нескольких моделей, поведение и качество могут отличаться от исходных моделей.

rombodawg/rombos_Replete-Coder-Instruct-8b-Merged — объединённая методом TIES языковая модель для генерации кода и диалоговых инструкций. Она основана на слиянии трёх моделей семейства Llama 3 8B, включая NousResearch/Meta-Llama-3-8B, NousResearch/Meta-Llama-3-8B-Instruct и Replete-AI/Llama3-8B-Instruct-Replete-Adapted. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и принимает контекст до 8192 токенов. Модель предназначена для генерации и дополнения кода, а также для ответов в формате инструкционного диалога. В README автор сообщает, что кодовые и общие результаты кажутся лучше, чем у обеих базовых моделей, но подробные будущие бенчмарки ещё не представлены; в карточке также приведены отдельные результаты Open LLM Leaderboard. Поддержка языков программирования и естественных языков отдельно не описана. Веса опубликованы в формате safetensors. Лицензия — Apache-2.0.

MaziyarPanahi/Trinity-Mini-GGUF — набор файлов модели Trinity-Mini в формате GGUF, подготовленный MaziyarPanahi на основе оригинальной модели arcee-ai. Модель разработана Arcee AI и предназначена для генерации текста, рассуждений, а также прикладных сценариев, включая работу с математикой и кодом. Формат GGUF ориентирован на локальный запуск через llama.cpp и совместимые приложения и библиотеки. Trinity-Mini — разреженная Mixture-of-Experts модель архитектуры AfmoeForCausalLM с 26 млрд общих параметров и 3 млрд активных параметров. Она содержит 128 экспертов, из которых одновременно используются 8, а также одного общего эксперта. Контекстное окно составляет 128 тысяч токенов. Модель обучалась на 10 трлн токенов, включая дополнительные данные по математике и программированию. В репозитории доступны варианты квантования с разной разрядностью — от 2 до 8 бит. К сильным сторонам относятся большое контекстное окно, эффективная MoE-архитектура и возможность локального запуска с выбором уровня квантования. README не содержит сведений о поддерживаемых языках, результатах конкретных бенчмарков и ограничениях качества, поэтому эти характеристики нельзя оценить точнее. Для работы требуются совместимые версии llama.cpp или других клиентов, поддерживающих GGUF. Модель распространяется по лицензии Apache 2.0.

Tulu V2.5 PPO 13B — англоязычная диалоговая модель-помощник, разработанная AllenAI. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, дообученная на основе Tulu 2 с применением PPO и данных предпочтений UltraFeedback; для обучения использовалась reward-модель на 70 млрд параметров и смесь промптов. Контекст модели — до 4096 токенов. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате: её можно применять для вопросов и ответов, помощи с кодом и математическими задачами. В карточке указан шаблон чата с сообщением пользователя между маркерами начала и конца, а токенизатор содержит соответствующий chat template. Модель поддерживает английский язык и распространяется по лицензии Apache 2.0. В карточке отмечено, что модель не обучали выдавать безопасные ответы на этапе RLHF и не снабдили фильтрацией ответов во время работы, поэтому она может генерировать проблемный контент, особенно при соответствующих запросах.

Agnuxo/Agente-GPT-Qwen-2.5-7B_GGUF_16bit — локальная чат-модель на базе семейства Qwen 2.5, представленная Francisco Angulo de Lafuente в экосистеме P2PCLAW. По README, модель рассчитана на работу в роли автономного агента и может запускаться локально через Ollama; в карточке указаны 7 млрд параметров и архитектура Qwen2. Формат весов — GGUF F16, лицензия — Apache-2.0. Модель предназначена для генерации текста и кода, декомпозиции задач и взаимодействия с агентными системами через MCP и A2A. README описывает навыки для Python, JavaScript, TypeScript, Rust, Go и C++, а также научных вычислений и машинного обучения. При запросе на подготовку научной статьи README предписывает перенаправлять задачу в P2PCLAW; это ограничивает её самостоятельное использование для генерации таких текстов. Языки карточки — английский и испанский; сведения о контекстном окне и независимых оценках качества не приведены.

Code-Writer-V2-Obliterated-BF16 — модель на базе Qwen3.5, опубликованная groxaxo. Согласно README, это результат слияния базовой модели llmfan46/Qwen3.5-27B-Writer-V2-uncensored-heretic с LoRA-адаптером для программирования; веса сохранены в BF16 без квантизации. Метаданные указывают архитектуру Qwen3.5 с плотной моделью типа Qwen3_5ForConditionalGeneration и формат safetensors. В README заявлен размер 27 млрд параметров и контекст до 200 000 токенов; эти значения не подтверждены метаданными. Модель предназначена для генерации кода и творческих текстов, а также для работы с длинными запросами, например с крупными фрагментами кодовой базы или рукописями. Метаданные классифицируют её как text-generation и отмечают поддержку чата и кода. README описывает визуальный модуль, но указывает, что обработка изображений не проверена; поэтому основное подтверждённое назначение — текстовое. Естественный язык в метаданных карточки — английский. Модель выпущена по лицензии Apache-2.0. Возможны неточные или неподходящие ответы; результаты кода и текста следует проверять. Визуальные сценарии требуют отдельной проверки совместимости и качества.

usermma/Darwin-28B-Coder-mlx-fp16 — версия модели Darwin-28B-Coder в формате MLX, подготовленная для запуска на устройствах Apple с MLX. Исходная модель FINAL-Bench/Darwin-28B-Coder относится к семейству Qwen 3.5 и предназначена для генерации кода и диалогового взаимодействия; в каталожных метаданных также указана поддержка работы с кодом. Модель принимает текст и генерирует текст, в частности программный код и ответы в диалоге. В карточке указана конвертация с помощью mlx-lm 0.31.2; репозиторий использует формат safetensors, а лицензия — Apache-2.0. Сведений о числе параметров и длине контекста в предоставленных данных нет.

huihui-ai/DeepSeek-R1-Distill-Qwen-32B-abliterated — версия DeepSeek-R1-Distill-Qwen-32B, созданная разработчиком huihui-ai методом abliteration для удаления отказов модели. Это плотная языковая модель семейства Qwen2, предназначенная для диалоговой генерации текста и решения задач рассуждения, математики и программирования с меньшим числом отказов на запросы. Модель содержит 32 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов; для работы указана библиотека Transformers и формат Safetensors. В README разработчик называет реализацию грубой проверкой концепции. Удаление отказов не гарантирует корректности или безопасности ответов. Базовая модель — DeepSeek-R1-Distill-Qwen-32B. Условия лицензии в предоставленных материалах не описаны.

unsloth/DeepSeek-V3-0324-GGUF — это набор динамически квантованных GGUF-версий модели DeepSeek-V3-0324, подготовленный Unsloth на основе базовой модели deepseek-ai/DeepSeek-V3-0324. Модель предназначена для локального запуска в llama.cpp, LM Studio, Open WebUI и других фреймворках инференса, включая задачи генерации текста и кода. В README указан английский язык; сведения о других языках и мультимодальных возможностях отсутствуют. Доступны варианты с квантованием от 1,78 до 4,5 бит и размером файлов примерно от 186 до 405 ГБ. Используется динамическое селективное квантование, призванное сохранить более высокую точность по сравнению со стандартными вариантами. Рекомендуются конфигурации IQ2_XXS 2,42 бит и Q2_K_XL 2,71 бит как удачный баланс размера и производительности; версия Q4_K_XL 4,5 бит получила наивысшую оценку качества. Для запуска желательно иметь не менее 180 ГБ совокупной VRAM и RAM. Ограничения включают очень высокие требования к памяти, а предварительные версии 1,78 и 1,93 бит могут хуже справляться с некоторыми задачами программирования. Лицензия модели — MIT.

ori-ai-fabric/ds-trinity-7b-v1 — объединённая языковая модель на базе DeepSeek Coder, созданная методом TIES с помощью mergekit. В объединение вошли deepseek-ai/deepseek-coder-6.7b-instruct и m-a-p/OpenCodeInterpreter-DS-6.7B; базой служит deepseek-ai/deepseek-coder-6.7b-base. Модель содержит 6,6 млрд параметров, использует архитектуру Llama с причинной языковой моделью и работает через Transformers. Нативный контекст — 16 384 токена. Модель предназначена для генерации кода и диалоговых сценариев, связанных с программированием: например, для написания и дополнения фрагментов кода, ответов на вопросы о коде и его объяснения. Информация о конкретных языках программирования и сравнительных преимуществах в карточке отсутствует. Репозиторий содержит веса safetensors; лицензия в предоставленных данных не указана.

EvaByte — авторская байтовая языковая модель на 6,5 млрд параметров, разработанная командой авторов работы EvaByte: Lin Zheng, Xueliang Zhao и соавторами. Она использует плотную архитектуру EvaByteForCausalLM, механизм эффективного внимания EVA и предсказание нескольких байтов за шаг; обучена на 1,5 трлн байт текстов, математических данных и кода. Модель предназначена для генерации текста, работы с кодом и математическими задачами. Размер контекста составляет 32 768 токенов; модель обрабатывает текст на уровне байтов, поэтому отдельный токенизатор не требуется. В README также описан вариант EvaByte-SFT, прошедший supervised fine-tuning, однако представленный репозиторий называется EvaByte. Авторы заявляют, что EvaByte сопоставима с ведущими открытыми токенизаторными языковыми моделями при использовании в пять раз меньшего объёма обучающих данных, особенно сильна в задачах программирования и может декодировать до двух раз быстрее. Эти сравнительные характеристики приведены авторами; независимые результаты оценки в карточке не представлены. Модель выпущена под лицензией Apache-2.0.

FluentlyQwen3 1.7B — языковая модель Project Fluently на архитектуре Qwen3ForCausalLM, дообученная с помощью SFT и GRPO и собранная поэтапным слиянием. Она предназначена для генерации текста, диалогов и выполнения инструкций; разработчик сообщает об улучшениях в обычном общении, переводе и математике. Модель содержит 1,7 млрд параметров, имеет 28 слоёв и контекст до 40 960 токенов по метаданным. Поддерживает режим рассуждений, который можно отключить для более быстрой генерации. Заявлены английский и русский языки, а также работа с кодом. Модель доступна в формате Safetensors и распространяется по лицензии Apache-2.0. Как и другие компактные языковые модели, она может ошибаться в фактах, переводах, математике и коде; заявленные улучшения не сопровождаются в карточке количественными результатами оценки.

Vegss/gemma-4-12B-it-Claude-4.6-4.8-Opus-GGUF — дообученная на данных рассуждений Opus 4.6, 4.7 и 4.8 модель Google Gemma 4 12B Instruct в форматах GGUF и Safetensors. Она предназначена для локального диалога, рассуждений, ответов на вопросы и написания кода; поддерживает режим thinking через родной канал Gemma. Репозиторий содержит варианты GGUF от Q2_K до Q8_0 и BF16/F16, а также черновую MTP-модель для ускорения генерации. В README заявлен контекст до 131 тыс. токенов и возможность запуска через llama.cpp и приложения вроде LM Studio и Jan. Модель ориентирована прежде всего на английский язык. README отмечает, что рассуждения представляют собой синтетический CoT, поэтому факты и числовые выводы следует проверять. Обучение снижает частоту отказов и, по описанию автора, модель не имеет полноценного выравнивания по безопасности; для практического применения нужны внешние ограничения. Лицензия — Gemma.

Карточка модели khaojai-it/GLM-4.6V-Flash на Hugging Face совпадает с карточкой unsloth/GLM-4.6V-Flash, поэтому описание составлено по ней. GLM-4.6V-Flash — компактная мультимодальная модель семейства GLM-V от Z.ai, представленная в карточке Unsloth с исправлениями шаблона диалога. Это версия на 9 млрд параметров, рассчитанная на локальное развёртывание и приложения с низкой задержкой; архитектура GLM4V использует условную генерацию текста по изображениям. Модель принимает изображения и текст, понимает документы, страницы с таблицами, диаграммами и иллюстрациями, а также снимки экранов. Контекстное окно семейства заявлено до 128 тысяч токенов. Модель подходит для визуальных диалогов, анализа документов, интерпретации интерфейсов и генерации кода HTML/CSS по скриншотам. Поддерживает вызов инструментов и смешанную генерацию текста и визуального контента. По README, её сильная сторона — мультимодальные сценарии; чисто текстовые ответы слабее, а на сложных запросах возможны чрезмерные рассуждения и повторы. Также отмечены ошибки при подсчёте объектов и распознавании конкретных людей. Репозиторий распространяется по лицензии MIT.