II.8Инженерия данных и аналитика

Llama-3.1-Nemotron-Nano-8B-v1 — языковая модель NVIDIA, опубликованная в репозитории Unsloth в формате Safetensors. Это плотный декодерный Transformer на архитектуре Llama 3.1, дообученный для рассуждений, диалогов, следования инструкциям, математики, программирования, RAG и вызова инструментов. В метаданных указано 7,5 млрд параметров, а контекстное окно составляет до 131 072 токенов. Модель принимает и генерирует текст. Она рассчитана прежде всего на английский язык и также поддерживает немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Режим рассуждений включается системным промптом; для локального запуска карточка указывает, что модель помещается на одну RTX GPU. Поддерживаются диалоговый режим и интерфейс вызова инструментов. Модель предназначена для чат-ботов, агентных систем, RAG-приложений и типовых задач по инструкциям. README заявляет коммерческую готовность, однако метаданные указывают лицензию «other» без конкретных условий в предоставленных сведениях; перед использованием следует сверить лицензионные условия исходной карточки. Результаты оценки зависят от режима рассуждений и формата промпта, а русская поддержка не заявлена.

FriendliAI публикует FP8-квантизированную версию Meta Llama 3 70B Instruct — авторегрессионной плотной трансформерной модели для генерации текста. Модель содержит 69,5 млрд параметров, использует Grouped-Query Attention и рассчитана на контекст до 8192 токенов. Вариант Instruct настроен для диалогов и работы в формате ассистента; модель принимает текст и генерирует текст и код на английском языке. FP8 повышает эффективность инференса при сохранении высокой точности, однако для этого формата требуются GPU NVIDIA Ada, Hopper или Blackwell. Модель основана на Meta-Llama-3-70B-Instruct и предназначена для коммерческого и исследовательского применения. Репозиторий указывает лицензию other; в README описана пользовательская коммерческая лицензия Meta Llama 3, условия которой необходимо соблюдать.

CQDU/MiniMax-M3 — мультимодальная модель семейства MiniMax-M3, разработанная MiniMax. Она предназначена для диалогов с изображениями и видео, программирования и длительных агентных задач. Модель использует разреженное внимание MiniMax Sparse Attention (MSA), имеет около 428 млрд параметров, из которых активируется около 23 млрд, и заявленный контекст до 1 млн токенов. Обучение с совместными текстовыми, визуальными и видеоданными заявлено с самого начала, что поддерживает объединение информации из разных модальностей. Для запуска авторы указывают MiniMax Agent и MiniMax API; README также описывает локальное использование через Transformers и safetensors. Лицензия в метаданных обозначена как other, поэтому условия следует проверять в карточке модели и связанных документах.

Nail-Qwen3.6-35B-A3B-GGUF — это 4-битная GGUF-квантизация модели Qwen3.6-35B-A3B, разработанной Qwen и опубликованной peculiar-ragdoll. Модель предназначена для локального запуска через llama.cpp, прежде всего для рассуждений, многошаговых диалогов, агентной работы и автономной разработки программного обеспечения. В поставку также входит улучшенный chat template с принудительно добавляемым системным промптом, который настраивает модель на прямые, лаконичные и ориентированные на результат ответы. Модель использует архитектуру MoE с заявленным размером 35B и активной частью около 3B параметров; доступна в формате GGUF с квантизацией UD-Q4_K_XL. Заявлен нативный контекст до 262 144 токенов, поддерживаются английский и китайский языки. По данным автора, модель особенно сильна в скорости получения ответа, агентном программировании и многоходовых сценариях, сохраняя сопоставимую с более крупными моделями точность на ряде тестов. Увеличенный объём рассуждений может быстрее расходовать контекст, поэтому для очень длинных сессий модель уступает некоторым альтернативам по выносливости. Модель рассчитана на локальное использование и может работать на совместимом оборудовании с ограниченным объёмом памяти; автор указывает, что примерно 180 тысяч токенов контекста с 8-битным KV-кэшем должны помещаться в 24 ГБ памяти. Лицензия — Apache 2.0.

Nanbeige4.2-3B — компактная языковая модель Nanbeige Lab на 3,2 млрд параметров, дообученная на базе Nanbeige/Nanbeige4.2-3B-Base для диалогов и агентных сценариев. Она использует плотную Looped Transformer архитектуру, повторно применяющую слои трансформера для увеличения эффективной ёмкости без добавления параметров. Модель поддерживает контекст до 262 144 токенов и доступна в формате safetensors для Transformers; лицензия — Apache 2.0. Модель предназначена для генерации текста, рассуждений, работы с инструментами и многошаговых задач общего назначения. Среди заявленных сценариев — программирование и задачи кодовых агентов, офисные процессы, математические и научные рассуждения, а также локальный персональный ассистент при интеграции с подходящей агентной средой. Карточка описывает обучение с учителем и обучение с подкреплением с оценкой результата и процесса. Заявленные языки — английский и китайский. Модель поддерживает чат и интерфейс вызова инструментов; сама по себе она генерирует текст, а выполнение действий зависит от внешней агентной оболочки и подключённых инструментов. Показатели из карточки основаны на бенчмарках и конкретных средах оценки, поэтому не гарантируют аналогичного качества во всех приложениях.

NimbusMind — причинно-языковая модель семейства NimbusT, представленная как обновлённый чат-ассистент. По данным карточки, обновление улучшает рассуждения и выводы за счёт дополнительных вычислений и алгоритмических изменений на этапе постобучения; авторы сообщают о результатах в математике, программировании и логике, а также о снижении частоты галлюцинаций и поддержке вызова функций. Модель предназначена для диалогов, решения сложных задач и генерации текста; в README также описаны сценарии работы с загруженными файлами и результатами веб-поиска. Репозиторий содержит веса PyTorch для Transformers и распространяется по лицензии Apache-2.0. В README приведён результат 89,1% на AIME 2026 и среднее расходование 27 тысяч токенов на вопрос этого набора; длина контекста и число параметров в доступных сведениях не приведены. Заявления о бенчмарках и качестве принадлежат авторам модели и не сопровождаются полным протоколом оценки в предоставленном README.

Карточка модели Openintelligent123/Phi-4-mini-instruct на Hugging Face совпадает с карточкой microsoft/Phi-4-mini-instruct, поэтому описание составлено по ней. Phi-4-mini-instruct — компактная языковая модель Microsoft семейства Phi-4 с архитектурой Phi-3 и 3,8 млрд параметров. Она обучена на синтетических данных и отфильтрованных общедоступных веб-материалах, а затем дообучена с учителем и оптимизирована по предпочтениям для следования инструкциям и повышения безопасности. Метаданные указывают контекст 4096 токенов; в README заявлен контекст до 128K токенов. Модель предназначена для диалоговых и генеративных приложений общего назначения, особенно при ограниченных вычислительных ресурсах или требованиях к низкой задержке. Среди заявленных сильных сторон — рассуждения, в особенности математические и логические задачи, следование инструкциям, работа с кодом и интерфейс вызова инструментов. Поддерживается многоязычная работа, включая русский и английский; качество может различаться между языками. Модель принимает текст и генерирует текст. Она выпущена под лицензией MIT. README предупреждает о возможных ошибках и вредных ответах, уязвимости к длительным многоходовым jailbreak-атакам и галлюцинациях имён функций или URL при вызове инструментов; для конкретных сценариев рекомендуется оценивать точность, безопасность и справедливость.

Qwen-14B — плотная авторегрессионная языковая модель семейства Qwen, разработанная Alibaba Cloud. Она построена на архитектуре Transformer и содержит 21,8 млрд параметров по метаданным; в карточке описаны RoPE, SwiGLU, RMSNorm и словарь более чем из 150 тысяч токенов. Модель обучена на более чем 3 трлн токенов из веб-текстов, книг, кода, математических и других материалов; заявленная длина контекста — 8192 токена. Модель предназначена для генерации текста и может служить основой для диалоговых систем, а также для задач на знания, рассуждения, перевод, математику и программирование. Наиболее подробно описана поддержка китайского и английского языков; словарь также ориентирован на ряд других языков, включая русский. Репозиторий содержит исходную предварительно обученную модель, а не вариант Qwen-14B-Chat. В README заявлены конкурентные результаты на ряде китайских и англоязычных тестов, однако это оценки разработчика, а качество зависит от задачи и способа применения. Для запуска требуются PyTorch и Transformers; модель крупная и требует значительных вычислительных ресурсов. Лицензия в предоставленных данных не указана.

TeichAI/Qwen3.5-27B-Claude-Opus-4.6-Distill — плотная мультимодальная модель семейства Qwen3.5 с 27 млрд параметров, дообученная TeichAI на базе unsloth/Qwen3.5-27B. В README указаны датасет crownelius/Opus-4.6-Reasoning-2100x-formatted и личные данные Claude от EclipseMist; также отмечено, что LoRA предоставил EclipseMist. Модель предназначена для программирования, творческого письма, общего диалога и понимания изображений. Модель принимает текст и изображения и выдаёт текст; карточка также приводит рекомендации для работы с видео. Среди опубликованных проверок — ARC Challenge, GPQA Diamond, HellaSwag и отдельные разделы MMLU; результаты на ARC Challenge и HellaSwag выше, чем у указанной базовой модели, а на GPQA Diamond совпадают. Репозиторий содержит веса safetensors и опубликован под лицензией Apache-2.0. Метаданные относят модель к задачам image-text-to-text и указывают возможности чата и работы с изображениями.

Это мультимодальная модель Qwen3.6-27B, созданная darkc0de на основе Qwen/Qwen3.6-27B и дообученная на примерах рассуждений Claude Opus. Затем модель прошла decensoring методом abliteration с помощью Heretic v1.3.0; опубликованные параметры и сравнение показывают снижение частоты отказов с 98 до 8 на 100 запросах относительно исходной версии distill. Модель предназначена для диалогов, программирования, творческого письма, понимания изображений и задач общего назначения. Архитектура плотная, с 27 млрд параметров; заявлена поддержка изображений и текстового чата. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0. Для запуска автор отсылает к инструкциям команды Qwen.

TelperionAI/Qwen3.8-27B-INT4-AWQ-GPTQ — квантизированная версия языковой модели Qwen3.8-27B, основанная на базовой модели Qwen/Qwen3.8-27B. Модель создана с использованием llm-compressor и сочетает AWQ-масштабирование, учитывающее активации, с последующей GPTQ-квантизацией. Она предназначена для запуска и генерации текста в задачах общего назначения, включая программирование, математику, STEM, диалоговые и многоязычные сценарии. Основная часть MLP-слоёв квантизирована в INT4 с группами размера 32 и асимметричными шкалами, отдельные компоненты используют INT8, а эмбеддинги, lm_head, нормализации, параметры состояния GDN, vision tower и MTP-head сохранены в BF16. Размер модели на диске составляет около 25,1 ГБ; требуется видеокарта с Compute Capability не ниже 7.5, поэтому поддерживаются Turing, Ampere, Ada и Blackwell без необходимости FP8 или FP4. Контекст, точное число языков и полный набор модальностей в README не указаны, однако присутствует vision tower и заявлена калибровка на многоязычных данных. Ключевое преимущество модели — повышенная близость к исходной BF16-версии по сравнению с некоторыми другими 4-битными сборками: в заявленном тесте совпадение top-1 составило 96,30%, а медианная позиция первого расхождения генерации — 48 токенов. Модель поддерживает vLLM и MTP speculative decoding, но скорость на Blackwell примерно в 2,3 раза ниже, чем у NVFP4-варианта. Размер 25,1 ГБ не позволяет комфортно разместить её на одной видеокарте с 24 ГБ памяти с учётом KV-кэша, а результаты оценены только на одном корпусе и не проверены на независимом распределении. Распространяется по лицензии Apache-2.0.

Qwythos-9B-Claude-Mythos-5-1M-NVFP4-GGUF — квантованная версия в формате GGUF модели empero-ai/Qwythos-9B-Claude-Mythos-5-1M, разработанной Empero AI на базе Qwen3.5-9B. Модель предназначена для рассуждений, диалогов, работы с изображениями и вызова инструментов. Она принимает контекст до 1 048 576 токенов с масштабированием YaRN и использует отдельный визуальный энкодер SigLIP; указанный в карточке основной язык — английский. По данным README, модель дообучали на более чем 500 млн токенов трасс Claude Mythos и Claude Fable. Среди заявленных сильных сторон — работа с длинными документами и кодовыми базами, математические задачи, кибербезопасность, биомедицина и клинические вопросы. В README также заявлены нативный вызов инструментов и улучшение результатов бенчмарков относительно базовой модели. Основные веса представлены в NVFP4, а визуальный энкодер — в F16; README рекомендует NVFP4 для ускорения на видеокартах NVIDIA Blackwell. Модель не проходила дополнительную настройку зрения: визуальные возможности унаследованы от базовой модели. Она может выдавать чрезмерно уверенные конкретные сведения, включая идентификаторы CVE и дозировки препаратов; для точных ответов рекомендуются проверка инструментами и прикладной защитный слой. Лицензия — Apache-2.0.

KingName1/sentence_transformer — модель Sentence Transformers на архитектуре MPNet, предназначенная для преобразования предложений и коротких абзацев в плотные семантические векторы размерности 768. README описывает её как дообученную на основе microsoft/mpnet-base с контрастивной целью на более чем миллиарде пар предложений; метаданные указывают 136,7 млн параметров и библиотеку sentence-transformers. Входной текст кодируется для семантического поиска, сравнения сходства и кластеризации.

Swift-Qwen3.8-27B-Uncensored-FP8 — модель от d0xin, представляющая собой независимую производную UkisAI Swift-Qwen3.8-27B. Она создана с применением rank-1 directional residual-stream ablation для удаления поведения отказа, после чего выполнено квантование в compressed-tensors FP8. Базовая модель — d0xin/Swift-Qwen3.8-27B-Uncensored-BF16. Модель предназначена для задач рассуждения, программирования, агентных сценариев, вызова инструментов и обработки изображений. Сохраняются мультимодальная архитектура Qwen с vision tower, поддержка tool calling и длинного контекста. Заявленный размер чекпойнта составляет около 29 ГБ, настроенный максимальный контекст — 262 144 токена; извлечение информации проверялось на запросах длиной до 235 032 токенов. Поддерживаются режимы reasoning_effort low, medium и xhigh; режим high в протестированном стеке отклоняется. К сильным сторонам относятся FP8-квантование, поддержка мультимодальных и агентных нагрузок, вызова инструментов и длинного контекста, а также отсутствие отказов в зафиксированном тесте из 100 запросов: 89 прямых ответов, 10 ответов с предупреждениями и 1 другая ошибка. При этом заявленный результат отражает только конкретный набор запросов и конфигурацию инференса и не гарантирует отсутствие отказов во всех условиях. На ограниченной валидации из 298 примеров FP8 показала 37,92% против 39,93% у модифицированной BF16-версии, поэтому статистическая эквивалентность не установлена. Языки модели в README не указаны. Лицензия — swift-open-license-1.0.

Карточка модели CollectionStudio/Trinity-Large-Thinking на Hugging Face совпадает с карточкой arcee-ai/Trinity-Large-Thinking, поэтому описание составлено по ней. Trinity-Large-Thinking — ориентированная на рассуждения и агентные сценарии модель семейства Trinity-Large от Arcee AI. Это дообученная на базе arcee-ai/Trinity-Large-Base разреженная MoE-модель для генерации текста; по README, в семействе около 398 млрд параметров и примерно 13 млрд активных параметров на токен, используется 256 экспертов, включая одного общего. Метаданные указывают 8,7 млрд параметров, поэтому точный размер данного чекпойнта в источниках расходится. Модель предназначена для многошагового планирования, вызова инструментов, диалогов и задач, требующих развёрнутых рассуждений. Она формирует трассы рассуждений в специальных блоках, которые следует сохранять в контексте при многоходовом взаимодействии и циклах агента. Поддерживает 262 144 токена контекста и языки en, es, fr, de, it, pt, ru, ar, hi, ko и zh. Метаданные указывают лицензию other; конкретные условия использования следует сверять с карточкой модели.

airoboros-l2-13b-3.0 — экспериментальная языковая модель jondurbin на архитектуре Llama 2 с 12,9 млрд параметров. Она дообучена на преимущественно синтетическом наборе airoboros-3.0, продолжающем airoboros-2.2.1; в данных также есть созданные человеком многоходовые диалоги для ролевого общения. Модель предназначена для генерации текста и выполнения инструкций, особенно для ответов на вопросы по заданному контексту, суммаризации, программирования и подготовки структурированных ответов. Модель поддерживает диалоговый шаблон Llama 2 Chat и контекст до 4096 токенов. Для математических запросов она может формулировать решения в формате MathJSON, которые затем вычисляются внешним инструментом. В README отмечено, что ответы по контексту следует явно оформлять специальными разделителями, а для MathJSON рекомендуется низкая температура генерации. Указанная лицензия — Llama 2; модель не следует считать надёжным средством вычислений, а генерацию MathJSON нужно проверять внешним вычислителем.

airoboros-l2-13b-gpt4-2.0 — языковая модель, дообученная Jondurbin на основе Llama 2 с использованием синтетических инструкций, созданных GPT-4 версии 0614. Это плотная авторегрессионная модель на 12,9 млрд параметров с контекстом до 4096 токенов, опубликованная в формате PyTorch. Модель предназначена для диалогов и выполнения инструкций: она отвечает на вопросы, в том числе по предоставленному контексту, помогает с программированием, формирует структурированные ответы и планы для сценариев с инструментами. Карточка описывает настройку формата промпта с метками USER и ASSISTANT; для контекстных вопросов рекомендуются явные разделители источников. Функциональность вызова инструментов требует внешнего механизма, который разбирает и исполняет сгенерированный план. Модель обучена на синтетических данных, поэтому ответы могут содержать ошибки или выдуманные сведения; инструкция «не выдумывай ответ» может помочь в вопросах по контексту, но не гарантирует точность. В карточке указана неоднозначная лицензия для вариантов Llama 2; коммерческие условия следует проверять по лицензии репозитория. Ограничение «только исследования» в README относится к оригинальным Llama-моделям 33B/65B, а не к этому варианту Llama 2.

Bagel-20B-v04 — дообученная модель jondurbin на базе InternLM2-20B, созданная для диалогов и широкого круга инструктивных задач. Это плотная языковая архитектура InternLM2 с 19,3 млрд параметров, контекстом до 32 768 токенов и форматом весов safetensors. Хотя в метаданных Hugging Face указана задача feature-extraction, каталог и описание модели подтверждают её применение для генерации текста; основная задача здесь — text-generation. Модель обучалась на наборах данных для диалогов, вопросов и ответов, суммаризации, математики, естественных наук, программирования, ролевого общения и вызова функций. README указывает четыре варианта форматирования запросов: Vicuna, Llama 2, Alpaca и ChatML; шаблон по умолчанию использует формат Llama 2. Она принимает текст и генерирует текст. Поддержка русского языка отдельно не заявлена; в данных есть многоязычное чтение и задачи на нескольких языках. Лицензия в метаданных обозначена как other, без уточнения конкретных условий. Модель унаследовала ограничения базовой языковой модели и обучающих данных; README также отмечает, что часть обучающих данных содержит токсичный контент. Результаты могут различаться в зависимости от формата запроса.

Caelum-G4-38B-A12.5B — экспериментальная общественная модель сообщества EryriLabs на архитектуре Gemma 4 Unified. Это разреженная MoE-модель с 38,01 млрд параметров, из которых на каждом токене активируется около 12,53 млрд; маршрутизатор top-1 выбирает одного из четырёх специализированных экспертов. Эксперты ориентированы на общие инструкции, агентные и кодовые задачи, системное администрирование и DevOps, а также научные и медицинские сценарии. В README также заявлена языковая архитектура из 48 слоёв и предел контекста 262 тыс. токенов, но практичность и качество на такой длине не проверялись. Модель предназначена для генерации текста, рассуждений, написания кода, планирования действий агента и структурированного использования инструментов. Веса и мультимодальный тракт унаследованы от Gemma 4 Unified, однако этот выпуск проверен только для генерации текста; работа с изображениями, видео и аудио не валидирована. Внутренний тест на 28 случаях дал обнадёживающий результат, но этого недостаточно для широких выводов о качестве. Модель требует совместимой версии Transformers и содержит пользовательский код; перед включением trust_remote_code следует изучить код репозитория. Лицензия — Apache-2.0.

ChatGLM3-6B-32K 是由 ChatGLM 项目团队开发的中文、英文对话模型，基于 ChatGLM3-6B，并针对长文本对话进行了扩展训练。 Это плотная архитектура ChatGLM примерно с 7,5 млрд параметров; модель принимает текст и поддерживает контекст до 32 768 токенов. Модель предназначена для многоходового диалога и работы с длинными текстами: она может отвечать на вопросы по объёмным материалам, обобщать их и поддерживать сценарии с вызовом инструментов и исполнением кода, заявленные для семейства ChatGLM3. В карточке также указаны задачи генерации текста и классификации текста. Для контекстов до 8K токенов разработчики рекомендуют ChatGLM3-6B; вариант 32K рассчитан на более длинный ввод. Модель работает с PyTorch и Transformers. Веса открыты для академических исследований; бесплатное коммерческое использование допускается после регистрации через анкету.

Карточка модели sickcell/cti-semantic-search-minilm на Hugging Face совпадает с карточкой yosuaw/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers на базе MiniLM, разработанная в рамках проекта Hugging Face Community Week. Она кодирует предложения и короткие абзацы в плотные векторы размерности 384, отражающие семантическое содержание. Модель обучена контрастивным дообучением предварительно обученной nreimers/MiniLM-L6-H384-uncased на наборе более чем из миллиарда пар предложений. Модель предназначена для семантического поиска, извлечения информации, сравнения сходства предложений и кластеризации текстов. Архитектура — BERT-подобный MiniLM с 25,9 млн параметров; максимальная длина контекста — 512 токенов, а по умолчанию входы длиннее 256 WordPiece-токенов обрезаются. Карточка указывает поддержку английского языка. Веса доступны в форматах PyTorch, Safetensors и TensorFlow; лицензия — Apache-2.0.

Это 4-битная версия модели DeepSeek-R1-0528-Qwen3-8B, подготовленная mlx-community для запуска в формате MLX. Исходная модель основана на плотной архитектуре Qwen3 с 7,6 млрд параметров; версия создана конвертацией с применением AWQ-квантизации через mlx-lm 0.25.2. Контекстное окно составляет 131 072 токена. Модель предназначена для диалогов и генерации текста, включая задачи рассуждения, математики, программирования и логики. Репозиторий предоставляет интерфейс для вызова инструментов. Метаданные указывают на лицензию MIT; запуск рассчитан на экосистему MLX.

mlx-community/Dolphin-2.9.3-Mistral-Nemo-12b-bf16 — преобразованная в формат MLX версия Dolphin 2.9.3 на базе Mistral Nemo, подготовленная сообществом mlx-community. Это плотная языковая модель с архитектурой MistralForCausalLM и 12,1 млрд параметров, предназначенная для генерации текста и диалогового общения. Модель дообучена на базе mistralai/Mistral-Nemo-Base-2407; среди датасетов указаны Dolphin-2.9, OpenHermes-2.5, наборы для программирования, математики, вызова функций и агентных сценариев. Каталог указывает контекст до 1 024 000 токенов. Репозиторий содержит веса safetensors, а README описывает конвертацию в MLX с помощью mlx-lm 0.16.1, поэтому модель рассчитана на запуск в экосистеме MLX. Подходит для ответов на вопросы, следования инструкциям, генерации кода и решения математических задач. В метаданных указана лицензия Apache-2.0. Практическая применимость заявленной длины контекста и качество на конкретных задачах отдельно не подтверждены в предоставленной карточке.

Elephant Embeddings V1 Text Small — многоязычная модель текстовых эмбеддингов от Agentic Intelligence Lab, предназначенная для семантического поиска и сопоставления в агентных системах. Это дообученный энкодер ModernBERT на базе llm-semantic-router/mmbert-32k-yarn с 306,9 млн параметров и контекстом до 32 768 токенов. Модель формирует векторы размерностью 768 и поддерживает обучение Matryoshka, позволяющее использовать сокращённые представления размерностью 512, 256, 128 или 64. Модель подходит для поиска по базе знаний и RAG, извлечения записей памяти агентов, сопоставления запросов с инструментами и маршрутами, а также для кластеризации и удаления дубликатов. README приводит оценки MTEB mean 61,4 и STS Benchmark 80,5 и сообщает о сохранении 99% качества при 256 измерениях и 98% при 64 измерениях. Модель доступна в формате safetensors и распространяется по лицензии Apache-2.0. Сокращение векторов или слоёв ускоряет обработку и уменьшает расходы на хранение, но может ухудшить качество; для важных финальных этапов поиска README рекомендует полные 768 измерений. Длинные входы увеличивают затраты памяти и вычислений. Модель предназначена для получения эмбеддингов и семантического сопоставления, а не для генерации текста.

DuoNeural разработала Gemma-4-26B-A4B-Abliterated — изменённую версию диалоговой Gemma 4 от Google DeepMind. Это модель генерации текста на архитектуре MoE с 26 млрд параметров, из которых около 3,8 млрд активны при обработке токена; в README указано 128 маршрутизируемых экспертов и один общий, из которых одновременно задействуются восемь. Модель принимает текстовые запросы и предназначена для диалога, следования инструкциям, рассуждений, генерации кода, работы с инструментами и структурированного вывода. От базовой Gemma-4-26B-A4B-it она отличается удалением отказов с помощью изменения весов методом representation engineering. README заявляет сохранение общих возможностей и многоязычной генерации, но не приводит конкретного перечня поддерживаемых языков; метаданные отмечают английский и многоязычность. В карточке также приведён пример запуска GGUF через llama.cpp с контекстом 16 384 токена, однако метаданные этого репозитория указывают формат safetensors и библиотеку Transformers. Модель рассчитана на пользователей, которым нужна инструкция-следующая языковая модель с менее ограничительным поведением. Удаление отказов означает, что она может отвечать на запросы, которые базовая модель отклонила бы; качество и безопасность таких ответов требуют проверки. README указывает исследовательское и образовательное применение и отсылает к условиям Google Gemma Terms of Use; метаданные обозначают лицензию как gemma.

Gemma-4-31B-JANG_4M-CRACK — мультимодальная чат-модель dealignai на архитектуре Gemma 4 Dense с 31 млрд параметров, основанная на google/gemma-4-31b-it. Веса изменены методом abliteration для снижения отказов на запросы; автор сообщает результаты тестирования на HarmBench и MMLU, а также отмечает улучшение устойчивости режима рассуждений в версии v2. Модель предназначена для диалогов, программирования, общих вопросов и анализа изображений. Она принимает текст и изображения, поддерживает режим thinking и гибридное скользящее и глобальное внимание. Для запуска автор рекомендует vMLX на Apple Silicon Mac с не менее чем 32 ГБ объединённой памяти; стандартные mlx_lm и mlx_vlm, согласно карточке, Gemma 4 не поддерживают. Это изменённая версия инструкционной модели Google, а не базовый чекпойнт. Abliteration снижает склонность к отказам, но автор сообщает, что модель всё ещё может отказывать на некоторые категории запросов и что режим thinking может зацикливаться при неподходящих настройках генерации. Лицензия — Gemma; карточка указывает исследовательское назначение и возлагает соблюдение применимых законов на пользователя.

google-gemma-4-12B-it-GGUF-Q4_K_M — квантизированная версия базовой модели google/gemma-4-12B-it, опубликованная пользователем sigmanih с использованием Sigma Studio. Модель предназначена для генерации текста, диалоговых помощников, программирования, повседневных задач, рассуждений и агентских сценариев с вызовом инструментов. Она распространяется в формате GGUF с квантизацией Q4_K_M и рассчитана на запуск через совместимые движки, включая llama.cpp и SigmaEngine. Заявлены архитектура gemma4, 12 млрд активных параметров, 48 transformer-слоёв, скрытое измерение 3840 и контекстное окно до 262 144 токенов. Размер файла составляет около 6,87 ГБ; для полной выгрузки на GPU рекомендуется около 19,5 ГБ видеопамяти, а для CPU или гибридного режима — около 19,3 ГБ оперативной памяти. В README указаны английский и итальянский языки. Рекомендуемое оборудование — видеокарта с 24 ГБ VRAM либо система с 32–64 ГБ RAM. По приведённым автором оценкам, модель набрала 77% на совокупности из 100 тестовых заданий, показала 100% на HumanEval, 89% на ARC-Challenge, GSM8K, MATH, MMLU-Pro и TruthfulQA, но существенно слабее выступила на GPQA, HellaSwag и MMLU. В режиме пошагового рассуждения заявлено преимущество над прямой генерацией, однако приведённые бенчмарки являются результатами собственной оценки публикации и не гарантируют аналогичную точность в прикладных задачах. К ограничениям также относятся требования к памяти, потери качества из-за квантизации и неполная информация о мультимодальности и точных условиях обучения. В README лицензия в метаданных обозначена как other, а в отдельном значке указана Apache-2.0, поэтому перед использованием необходимо проверить фактические лицензионные условия репозитория и исходной модели.

Baekpica подготовил смешанно-квантованную версию GGUF модели IFM/K2-Horizon-375B-A23B для запуска крупной разреженной языковой модели на системах с ограниченной памятью. Репозиторий содержит веса в четырёх частях объёмом около 86,7 ГиБ; применены несколько типов квантования, включая Q8_0, IQ1_S, IQ1_M, IQ2_XXS и IQ2_XS. По карточке базовая модель имеет архитектуру MoE и контекст до 524 288 токенов. Модель предназначена для диалоговой генерации текста и сценариев с длинными запросами, рассуждениями, кодом и использованием инструментов. README описывает калибровку на данных для программирования, математики, науки и общих рассуждений, а также оптимизации инференса и проверки совместимости с llama.cpp. Указанные в README показатели скорости относятся к конкретной тестовой конфигурации и не гарантируют такую же производительность на другом оборудовании. Модель преобразована из BF16-чекпойнта, а не повторно квантована из FP8. Лицензия репозитория — Apache-2.0. Автор отмечает, что для производственного обслуживания ещё требуются проверки на DGX Spark GB10 и устранение проблемы согласования управления памятью; описана проверка на H200.

KAT-V1-40B (Kwaipilot-AutoThink) — открытая большая языковая модель, разработанная Kwaipilot. Она обучена выбирать, когда явно разворачивать ход рассуждений, а когда отвечать напрямую, чтобы снижать избыточные рассуждения. Модель построена на архитектуре Qwen2, имеет 39,8 млрд параметров и контекстное окно 131 072 токена; для работы с ней указана библиотека Transformers. Модель предназначена для генерации текста в диалогах и решения задач, где полезны как развёрнутые рассуждения, так и краткие ответы. README описывает структурированный формат ответа с режимами включённого и пропущенного рассуждения; метаданные также отмечают интерфейс вызова инструментов. В README сообщается о высоком результате Kwaipilot-AutoThink на LiveCodeBench Pro, но это не раскрывает показатели именно данного чекпойнта KAT-V1-40B. Репозиторий содержит веса Safetensors. Лицензия указана как other, поэтому конкретные условия использования следует проверять в карточке модели. README сообщает, что документация AutoThink и дополнительные обучающие ресурсы планируются к публикации; подробности обучения и ограничения качества этой версии в предоставленных данных не раскрыты.

Klear-46B-A2.5B-Instruct — инструктивная версия разреженной языковой модели семейства Klear, разработанная командой Kwai-Klear компании Kuaishou и дообученная с помощью DPO на базе Kwai-Klear/Klear-46B-A2.5B-Base. Архитектура MoE содержит 46 млрд параметров, из которых при генерации активны около 2,5 млрд; в каждом слое задействуются 8 экспертов и один общий эксперт. Модель принимает текст и генерирует текст в диалоговом формате, поддерживает китайский и английский языки и контекст до 65 536 токенов. Модель предназначена для диалогов, следования инструкциям и генерации текста, включая задачи общего характера, программирование и рассуждения. Разреженная активация экспертов рассчитана на повышение эффективности инференса по сравнению с плотной моделью сопоставимого общего размера. Для запуска README указывает Transformers версии 4.56.0 или новее с trust_remote_code=True, а для vLLM — форк разработчиков. Модель распространяется по лицензии Apache-2.0.