II.1Анализ требований и архитектура ПО

Rnj-1.5-Instruct — диалоговая языковая модель Essential AI, дообученная на основе EssentialAI/rnj-1. Она содержит 8,3 млрд параметров и использует плотную архитектуру семейства Gemma 3 Text с чередованием блоков локального и глобального внимания. Окно контекста расширено до 163 840 токенов; модель рассчитана на диалоги, программирование и работу с длинными текстами, включая кодовые репозитории и научные материалы. Модель предназначена для генерации и анализа кода, понимания контекста проекта, ответов на вопросы по длинным документам и использования инструментов в диалоговом интерфейсе. В README отмечены результаты на оценках длинного контекста и SWE-Bench, но они не гарантируют аналогичного качества в конкретных задачах. Модель оптимизирована для понимания длинного контекста, а не для его продолжительной генерации: при очень длинных ответах иногда появляются бессмысленные токены. Распространяется по лицензии Apache 2.0.

Solar-Open2-250B-Nota-INT4 — 4-битная квантованная версия языковой модели Solar-Open2-250B от Upstage, подготовленная компанией Nota AI. Модель предназначена для генерации текста, диалоговых приложений, рассуждений, программирования, вызова инструментов и других задач обработки естественного языка. Заявлены языки английский, корейский и японский. Модель основана на архитектуре Mixture-of-Experts (MoE) и использует квантование весов W4A16 с форматом INT4, размером группы 128 и упаковкой AutoRound, совместимой с GPTQ. Весовой объём составляет около 142,9 ГБ против 500,6 ГБ в формате BF16. Модель рассчитана на развёртывание через vLLM; в README приведена конфигурация с tensor parallelism для четырёх GPU. Размер контекста в предоставленных данных не указан. Ключевое преимущество — снижение требований к памяти при сохранении близкого к BF16 качества: средний результат на приведённых бенчмарках составляет 81,17 против 81,57 у BF16. Для квантования применены методы Nota AI, ориентированные на сохранение маршрутизации экспертов, включая DREAM-MoE и SRA-MoE. Ограничениями являются необходимость значительных вычислительных ресурсов для запуска, зависимость от совместимой версии vLLM и возможное небольшое снижение качества на отдельных задачах по сравнению с BF16. Модель распространяется по лицензии Upstage Solar License. Для производных моделей требуется использовать префикс Solar в названии, указывать формулировку Built with Solar в публичных материалах и включать копию лицензии Upstage Solar.

Supertron2-24B — плотная языковая модель на 24 млрд параметров, разработанная Surpem на основе mistralai/Devstral-Small-2-24B-Instruct-2512 и дообученная для следования инструкциям. Это причинный Transformer для генерации текста; модель доступна в формате safetensors и использует библиотеку Transformers. Лицензия — Apache 2.0. Модель предназначена для помощи в программировании, структурированных рассуждений, математических и научных объяснений, общего диалога и повседневного выполнения инструкций. Она может помогать писать, объяснять и отлаживать код, разбирать ошибки, планировать реализацию, сравнивать варианты, решать арифметические и алгебраические задачи, писать и кратко пересказывать тексты. Карточка указывает английский язык; длина контекста не приведена. Модель может выдавать ошибочный код, неполные рассуждения и устаревшие сведения. Важные результаты следует проверять; модель не подходит как единственный источник для медицинских, юридических, финансовых решений и задач, связанных с безопасностью.

TeleChat2-3B — плотная авторегрессионная языковая модель семейства TeleChat2, разработанная и обученная Институтом искусственного интеллекта China Telecom на отечественных вычислительных ресурсах. Версия 3B выпущена в ноябре 2024 года; в метаданных указано около 4 млрд параметров. Модель построена на архитектуре decoder-only с Rotary Embedding, SwiGLU и RMSNorm; заявленная длина контекста — 32 768 токенов. Модель предназначена для многоходового диалога, ответов на общие и предметные вопросы, суммаризации, длинных текстов, математики, рассуждений и генерации кода. Для этой версии заявлена поддержка вызова инструментов через Function Call. В README приведены результаты тестирования на китайских и англоязычных бенчмарках; основной языковой фокус — китайский и английский. Модель принимает текст и генерирует текст. Доступны веса в формате PyTorch, лицензия — Apache-2.0. Возможные ограничения включают ошибки и ненадёжные ответы, а также риски, связанные с использованием сгенерированного кода и вызовом инструментов; разработчики отдельно требуют соблюдать применимые нормы и не использовать модель для незаконной деятельности.

Карточка модели CollectionStudio/Trinity-Large-Thinking на Hugging Face совпадает с карточкой arcee-ai/Trinity-Large-Thinking, поэтому описание составлено по ней. Trinity-Large-Thinking — ориентированная на рассуждения и агентные сценарии модель семейства Trinity-Large от Arcee AI. Это дообученная на базе arcee-ai/Trinity-Large-Base разреженная MoE-модель для генерации текста; по README, в семействе около 398 млрд параметров и примерно 13 млрд активных параметров на токен, используется 256 экспертов, включая одного общего. Метаданные указывают 8,7 млрд параметров, поэтому точный размер данного чекпойнта в источниках расходится. Модель предназначена для многошагового планирования, вызова инструментов, диалогов и задач, требующих развёрнутых рассуждений. Она формирует трассы рассуждений в специальных блоках, которые следует сохранять в контексте при многоходовом взаимодействии и циклах агента. Поддерживает 262 144 токена контекста и языки en, es, fr, de, it, pt, ru, ar, hi, ko и zh. Метаданные указывают лицензию other; конкретные условия использования следует сверять с карточкой модели.

Vikhr-Llama3.1-8B-Instruct-R-21-09-24 — русско- и англоязычная унимодальная языковая модель команды VikhrModels, дообученная на базе Meta-Llama-3.1-8B-Instruct. Это плотная causal language model семейства Llama с 7,5 млрд параметров, предназначенная для диалогов и генерации текста. Модель поддерживает контекст до 131 072 токенов и распространяется в формате Safetensors по лицензии Apache-2.0. Модель подходит для ответов на инструкции и вопросы, рассуждений, суммаризации, генерации кода и ролевого диалога. Отдельно обучена для grounded RAG: может использовать предоставленные документы и выбирать их идентификаторы для ответа. В README авторы описывают этапы SFT и собственный метод выравнивания SMPO и приводят результаты внутренних бенчмарков; эти оценки не гарантируют качество на иных данных. У модели отмечен низкий уровень безопасности ответов, поэтому перед применением в пользовательских сценариях нужны собственные проверки. Для режима RAG требуется специальный системный промпт, и модель может дополнять сведения из документов собственными знаниями. Авторы рекомендуют низкую температуру генерации; системные промпты лучше использовать для задания стиля, а не персонажа.

airoboros-l2-13b-gpt4-2.0 — языковая модель, дообученная Jondurbin на основе Llama 2 с использованием синтетических инструкций, созданных GPT-4 версии 0614. Это плотная авторегрессионная модель на 12,9 млрд параметров с контекстом до 4096 токенов, опубликованная в формате PyTorch. Модель предназначена для диалогов и выполнения инструкций: она отвечает на вопросы, в том числе по предоставленному контексту, помогает с программированием, формирует структурированные ответы и планы для сценариев с инструментами. Карточка описывает настройку формата промпта с метками USER и ASSISTANT; для контекстных вопросов рекомендуются явные разделители источников. Функциональность вызова инструментов требует внешнего механизма, который разбирает и исполняет сгенерированный план. Модель обучена на синтетических данных, поэтому ответы могут содержать ошибки или выдуманные сведения; инструкция «не выдумывай ответ» может помочь в вопросах по контексту, но не гарантирует точность. В карточке указана неоднозначная лицензия для вариантов Llama 2; коммерческие условия следует проверять по лицензии репозитория. Ограничение «только исследования» в README относится к оригинальным Llama-моделям 33B/65B, а не к этому варианту Llama 2.

Карточка модели jondurbin/airoboros-l2-7b-gpt4-2.0 на Hugging Face совпадает с карточкой jondurbin/airoboros-65b-gpt4-2.0, поэтому описание составлено по ней. airoboros-65b-gpt4-2.0 — плотная языковая модель семейства LLaMA на 65 млрд параметров, дообученная jondurbin для следования инструкциям на синтетических примерах, созданных GPT-4. Серия 2.0 использует данные GPT-4 версии 0614; вариант m2.0 дополнительно объединяет набор данных 1.4.1 без дубликатов и категории system. Модель предназначена для диалоговых ответов, вопросов по предоставленному контексту, программирования, построения планов и генерации структурированных аргументов функций в JSON или YAML. Для диалога используется текстовый шаблон с ролями USER и ASSISTANT; заявленная длина контекста — 2048 токенов. В README для моделей 65B отмечено QLoRA-дообучение. Это текстовая модель, и качество её ответов не гарантирует точность: карточка рекомендует явно просить не придумывать ответ при недостатке данных. Лицензия CC BY-NC 4.0 разрешает некоммерческое использование; коммерческое использование запрещено.

Apodex-1.1-mini MLX — MLX-конверсия модели Apodex-1.1-mini от Apodex AI, предназначенная для исследовательских задач, работы с данными, файлами, кодом и инструментами. Это текстовая модель для генерации текста, оптимизированная для запуска на устройствах Apple silicon с библиотекой mlx-lm. Заявлены поддерживаемые языки — английский и китайский. Модель построена на архитектуре Qwen3.5 MoE и содержит 35,95 млрд параметров. Релиз использует аффинное 4-битное квантование с размером группы 64; веса маршрутизатора MoE и общих экспертов сохранены в 8-битном формате. Размер MLX-весов составляет 19,5 ГБ, поэтому для работы требуется дополнительная unified memory под выполнение модели и KV-кэш, особенно при длинном контексте. В этой версии отсутствуют обработка изображений и native MTP. Модель распространяется по лицензии Apache-2.0.

Apriel-1.5-15b-Thinker — мультимодальная модель рассуждений из серии Apriel SLM, разработанная ServiceNow. Модель с плотной архитектурой на 15 млрд параметров принимает текст и изображения и генерирует ответы в формате диалога; её назначение включает рассуждения по тексту и изображениям, помощь с кодом, ответы на вопросы и вызов инструментов. Для обработки изображений используется архитектура LlavaForConditionalGeneration. Модель прошла продолжительное предварительное обучение на текстовых и визуальных данных, а последующее обучение с учителем выполнялось только на тексте; RL и дообучение на изображениях не применялись. Она рассчитана на общие инструкции, многошаговые задачи и агентные сценарии. Разработчики отмечают высокие результаты на ряде тестов, а также повышенный расход токенов и более долгие ответы из-за развёрнутого рассуждения по умолчанию. Лицензия — MIT. Разработчики предупреждают, что ответы могут содержать фактические ошибки и предвзятость, качество ниже на языках, представленных в обучении слабее, а в медицинских, юридических, финансовых и других критически важных сценариях требуется проверка человеком.

ChatGLM3-6B-128K 是由 Z.ai（智谱 AI）推出的 ChatGLM3 系列长文本对话模型，基于 ChatGLM3-6B 并针对长上下文更新了位置编码和训练方法。Модель поддерживает контекст до 131072 токенов и предназначена для многоходового диалога, анализа длинных документов и сценариев с вызовом инструментов, выполнением кода и агентскими задачами. Архитектура — плотная ChatGLM, размер — 7,5 млрд параметров; модель работает с текстом и поддерживает китайский и английский языки. Для контекстов до 8K авторы рекомендуют ChatGLM3-6B, а эту версию — для более длинных входов. Веса доступны для академических исследований; бесплатное коммерческое использование разрешено после регистрации через анкету.

Statuo выпустил Deepseeker-Kunou-Qwen2.5-14b — объединение языковых моделей, созданное с помощью mergekit и линейного слияния. В него вошли Sao10K/14B-Qwen2.5-Kunou-v1 и deepseek-ai/DeepSeek-R1-Distill-Qwen-14B; итоговая модель имеет архитектуру Qwen2ForCausalLM и содержит 14 млрд параметров. Модель предназначена для диалогов и генерации текста, включая задачи рассуждения, математики и программирования. Разработчик отмечает, что она кажется достаточно интеллектуальной, но может уступать в творческом письме; оценка улучшения относительно Kunou субъективна. Поддерживается контекст до 131 072 токенов, файлы представлены в формате safetensors. Лицензия в метаданных — Apache-2.0; README также упоминает Qwen License, поэтому условия лицензирования стоит сверить с файлами репозитория.

unsloth/DeepSeek-R1-0528-GGUF — это GGUF-квантизированное представление модели DeepSeek-R1-0528, разработанной DeepSeek и опубликованной в формате GGUF командой Unsloth. Модель предназначена для локального запуска и инференса через совместимые инструменты, включая llama.cpp, а также для задач, требующих углублённого рассуждения. DeepSeek-R1-0528 ориентирована на решение математических задач, программирование, общую логику и сложные аналитические запросы. По сравнению с предыдущей версией заявлены улучшения глубины рассуждений и инференса, снижение частоты галлюцинаций, расширенная поддержка function calling и более качественная работа в сценариях vibe coding. Для модели указан язык English; модальность — текстовая. Размер и архитектура базовой модели в предоставленных данных не указаны. Модель использует чат-шаблон, совместимый с оригинальной DeepSeek-R1; для генерации рекомендуется temperature 0.5–0.7 и Top_P 0.95. Основное преимущество — усиленные способности к сложному рассуждению, программированию и математике; в README также сообщается о результатах, приближающихся к ведущим моделям в ряде бенчмарков. Ограничения включают необходимость корректной настройки шаблона чата и параметров генерации, а также зависимость характеристик от выбранного уровня GGUF-квантизации и аппаратного обеспечения. Лицензия — MIT.

unsloth/DeepSeek-R1-BF16 — версия DeepSeek-R1, опубликованная Unsloth и представленная в формате Safetensors для Transformers. Модель основана на DeepSeek-R1 от DeepSeek и предназначена для диалоговой генерации текста с упором на рассуждения, решение математических задач и помощь с кодом. В карточке указана архитектура DeepSeek-V3; размер составляет 37,6 млрд параметров, длина контекста — до 163 840 токенов. Модель может применяться для пошагового анализа сложных вопросов, объяснения решений, генерации и разбора кода, а также ответов в диалоге. Указанная лицензия — MIT. Для практического использования учитывайте, что ответы могут содержать ошибки, а многошаговые рассуждения — быть избыточными; README не приводит оценок качества именно этой сборки.

casperhansen/deepseek-r1-distill-qwen-7b-awq — это 4-битная AWQ-квантизованная версия DeepSeek-R1-Distill-Qwen-7B, опубликованная пользователем casperhansen. Исходную модель разработала DeepSeek; она создана на базе Qwen2.5-7B и дообучена на синтетических данных, сгенерированных DeepSeek-R1, для усиления способностей к рассуждению. Модель предназначена для текстовой генерации, диалогов и задач, требующих пошагового рассуждения, включая математику, программирование и ответы на вопросы. Это decoder-only модель архитектуры Qwen2ForCausalLM примерно с 7 млрд параметров, 28 слоями, 28 attention heads и контекстом до 131072 токенов. Она работает только с текстом; сведения о гарантированном наборе поддерживаемых языков в карточке этой версии не указаны. Ключевое преимущество версии casperhansen — снижение требований к памяти благодаря 4-битной AWQ-квантизации с group size 128 и размеру файлов около 5,58 ГБ, что упрощает локальный запуск. Ограничения включают возможную потерю качества из-за квантизации, зависимость результатов от используемого inference-движка и промпта, а также отсутствие в карточке подробных бенчмарков, описания безопасности и заявленных гарантий качества для разных языков. Репозиторий распространяется по лицензии MIT; для производных моделей также следует учитывать условия лицензии исходной модели Qwen.

DeepSeek-V3-Base — базовая языковая модель семейства DeepSeek-V3, разработанная командой DeepSeek AI. Это Mixture-of-Experts (MoE) модель с 671 млрд общих параметров, из которых 37 млрд активируются для каждого токена. Модель предварительно обучена на 14,8 трлн разнообразных токенов и предназначена для использования в качестве основы для генерации и понимания текста, а также последующей адаптации под прикладные задачи. В архитектуре применяются Multi-head Latent Attention (MLA) и DeepSeekMoE. Для балансировки нагрузки используется стратегия без вспомогательной функции потерь, а обучение дополнено целью Multi-Token Prediction, которая может применяться и для ускорения вывода посредством speculative decoding. Обучение проводилось с использованием смешанной точности FP8; заявлены высокая эффективность обучения и стабильность процесса. Длина контекста в предоставленных данных не указана, как и точный перечень поддерживаемых языков и сведения о мультимодальности. Сильными сторонами модели являются крупный общий объём параметров, высокая вычислительная эффективность за счёт разреженной активации экспертов и заявленная конкурентоспособность среди открытых базовых моделей. Ограничения включают значительные требования к инфраструктуре для запуска и отсутствие в предоставленном описании подробных характеристик инференса, языкового покрытия и результатов по отдельным прикладным сценариям. Код распространяется по лицензии MIT, а сама модель — по Model Agreement.

unsloth/DeepSeek-V3-bf16 — версия DeepSeek-V3 в формате BF16, размещённая Unsloth и предназначенная для генерации текста и диалогового использования. Согласно карточке модели, DeepSeek-V3 — языковая модель архитектуры Mixture-of-Experts с 671 млрд параметров, из которых около 37 млрд активируются на каждом токене; используются DeepSeekMoE и Multi-head Latent Attention. Метаданные этой версии указывают 37,6 млрд параметров, контекст до 163 840 токенов и поддержку интерфейса вызова инструментов. Модель подходит для диалогов, ответов на вопросы, написания и преобразования текста, а также сценариев с вызовом инструментов. В карточке заявлена поддержка английского языка. Репозиторий использует Transformers и формат safetensors; лицензия — MIT. Для запуска требуются значительные вычислительные ресурсы, характерные для крупной языковой модели.

Dolphin 2.9.1 Mixtral 1x22b — чат-модель, подготовленная Эриком Хартфордом, Лукасом Аткинсом, Фернандо Фернандесом и Cognitive Computations. Она основана на Mixtral-8x22B-v0.1 и прошла полное дообучение всех слоёв; в карточке указано 22 млрд параметров. Модель представляет собой извлечённый эксперт, полученный объединением SLERP экспертов исходной архитектуры Mixtral. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Модель предназначена для диалогов и выполнения инструкций, помощи с программированием, начального уровня агентных задач и вызова функций. Контекст базовой модели составляет 64 тыс. токенов, а дообучение проводилось с длиной последовательности 16 тыс. токенов. В качестве обучающих данных использовались, среди прочего, наборы Dolphin-2.9, OpenHermes-2.5 и датасеты для кода, математики и вызова функций. Модель описана авторами как uncensored и может с высокой готовностью выполнять запросы, в том числе небезопасные; перед предоставлением её пользователям авторы рекомендуют добавить собственный слой выравнивания. Язык карточки и метаданных — английский.

Dolphin-2.9.2-Phi-3-Medium-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Dolphin 2.9.2 на базе unsloth/Phi-3-mini-4k-instruct. Оригинальную модель разработала команда cognitivecomputations, а квантизации подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для диалогов, следования инструкциям, программирования, математических задач и агентских сценариев. В README указана поддержка английского языка и текстовая модальность. Доступны варианты от Q8_0 до Q2_K и IQ-квантизаций размером примерно от 4,19 до 14,83 ГБ. Для запуска используется шаблон чата с ролями system, user и assistant. Точное число параметров и размер контекста в README явно не указаны, однако базовая модель идентифицируется как Phi-3-mini-4k-instruct. Более высокие квантизации обеспечивают лучшее качество, но требуют больше памяти; варианты Q4–Q6 и Q5_K_M указаны как рекомендуемые, тогда как низкобитные варианты экономят память ценой снижения качества. Модель распространяется по лицензии MIT.

Dolphin 2.9.3 Yi 1.5 34B 32k — разговорная языковая модель, созданная Eric Hartford, Lucas Atkins, Fernando Fernandes и командой Cognitive Computations. Это дообученная на основе 01-ai/Yi-1.5-34B-32k плотная модель семейства Llama с 33,9 млрд параметров; она использует шаблон ChatML и формат PyTorch. Контекст базовой модели составляет 32 768 токенов, а дообучение проводилось с длиной последовательности 8 192 токена. Модель предназначена для диалогов, следования инструкциям, написания и анализа кода, решения математических задач, вызова функций и начальных агентных сценариев. В карточке перечислены наборы данных для диалогов, программирования, математики и работы с инструментами. Модель описана разработчиками как uncensored и склонная выполнять запросы без защитных ограничений, поэтому её ответы могут включать небезопасный или неэтичный контент. Лицензия Apache 2.0 разрешает коммерческое использование; разработчики рекомендуют самостоятельно добавить слой выравнивания перед предоставлением модели пользователям.

Dolphin 2.9 Mixtral 8x22B — диалоговая модель Cognitive Computations, подготовленная Eric Hartford, Lucas Atkins и Fernando Fernandes на основе mistral-community/Mixtral-8x22B-v0.1. Это дообученная модель с разреженной архитектурой Mixtral MoE, представленная в формате safetensors и предназначенная для генерации текста по инструкциям и ведения диалогов. Модель подходит для ответов на вопросы, программирования, математических задач и сценариев с вызовом функций; README также отмечает начальные агентные возможности. Она обучалась в формате ChatML, а полное дообучение проводилось на последовательностях длиной 4 тыс. токенов. Для базовой модели заявлен контекст до 64 тыс. токенов. В метаданных указан английский язык. Dolphin описана авторами как неконтролируемая модель, которая может охотно выполнять в том числе неэтичные запросы; перед предоставлением пользователям сервиса авторы рекомендуют добавить собственный слой ограничений. В данных обучения обнаружена проблема, из-за которой модель может излишне упоминать системное сообщение; README предлагает явно просить её этого не делать. Лицензия Apache-2.0 допускает коммерческое использование при соблюдении её условий.

Это экспериментальная дообученная версия Gemma 4 26B A4B IT, подготовленная glyphsoftware с помощью Unsloth. Модель обучена методом supervised fine-tuning на примерно 8,7 тыс. примеров рассуждений, дистиллированных из Claude Opus 4.6 и 4.7. Она предназначена для диалогов и генерации текста с упором на многошаговое рассуждение, планирование и самопроверку; поддерживает интерфейс вызова инструментов. Основа — мультимодальная архитектура Gemma4ForConditionalGeneration с экспертной архитектурой MoE. Базовая модель принимает текст, изображения, аудио и видео; README заявляет контекст до 262 тыс. токенов. Метаданные указывают формат safetensors и лицензию GPL-3.0. Обучающие примеры акцентируют математику, код, логику и разбиение задач на шаги. Мультимодальные возможности унаследованы от базовой модели и специально не улучшались этим дообучением. Небольшой обучающий набор скорее влияет на стиль рассуждений, чем обеспечивает широкий прирост возможностей; возможны ошибки и перенос особенностей стиля и отказов Claude. Дополнительная настройка безопасности не проводилась, поэтому для высокорисковых сценариев нужны проверка человеком и собственные защитные меры.

RedHatAI/gemma-4-31B-it-NVFP4 — мультимодальная instruction-tuned модель, разработанная RedHatAI на основе google/gemma-4-31B-it от Google. Она принимает текст и изображения, а генерирует текст; предназначена для диалоговых приложений, генерации текста, рассуждений, следования инструкциям и вызова инструментов. Модель использует архитектуру Gemma4ForConditionalGeneration и поддерживает режим thinking, function calling и tool calling. Доступна для инференса через vLLM; в README указана максимальная длина контекста 32 768 токенов. Вариант NVFP4 применяет 4-битное квантование весов и активаций линейных слоёв трансформерных блоков с group_size=16 и локальным масштабированием по группам. Vision tower, embeddings и output head сохраняются в исходной точности, что снижает требования к дисковому пространству и памяти GPU примерно на 75% по сравнению с 16-битным представлением. К сильным сторонам относятся поддержка текстово-визуальных сценариев, вызова инструментов, режима рассуждений и эффективный инференс на совместимом оборудовании. К ограничениям относятся зависимость от NVFP4-совместимого окружения и vLLM, а также возможная небольшая потеря качества из-за квантования; в приведённых оценках результаты сопоставлялись с исходной моделью, но полный набор таблиц в представленном README обрезан. Модель распространяется по лицензии Apache-2.0.

Gemma-4-e4b-it-OptiQ-4bit — это локальная квантизированная версия языковой модели google/gemma-4-e4b-it, подготовленная сообществом mlx-community с помощью инструментария mlx-optiq для Apple Silicon. Модель предназначена для генерации текста, включая объяснения, рассуждения, программирование, выполнение инструкций, работу с агентскими сценариями и вызовами инструментов. Она запускается локально через MLX и не требует PyTorch или облачной инфраструктуры. Модель использует смешанную точность: 224 слоя представлены в 4-битном формате, а 155 наиболее чувствительных слоя — в 8-битном; всего квантизировано 379 слоёв, размер группы — 64. Калибровка выполнялась на данных из шести областей: обычный текст, рассуждения, код, агенты, вызовы инструментов и инструкции с ограничениями. Размер модели на диске составляет около 6,1 ГБ. Для ускорения декодирования поддерживается speculative decoding с отдельной моделью-драфтером gemma-4-e4b-it-assistant-bf16. По заявленным оценкам, версия OptiQ превосходит равномерную 4-битную квантизацию на тестах MMLU, GSM8K, IFEval, BFCL, HumanEval и HashHop; средний Capability Score составляет 68,92 против 55,20. Ограничения включают привязку к экосистеме MLX и Apple Silicon, а также увеличение размера примерно на 1,2 ГБ по сравнению с равномерной 4-битной версией. Языки, максимальный контекст и точная архитектура в README не указаны. Модель распространяется по лицензии Gemma, унаследованной от базовой модели; применяются условия Google Gemma.

GLM-4.7-FP8 — языковая модель семейства GLM, разработанная организацией Z.ai (zai-org). Это версия с представлением FP8, предназначенная прежде всего для генерации текста, программирования и агентских сценариев. Модель ориентирована на многоязычное программирование, выполнение задач через терминал, использование инструментов, веб-навигацию, сложное математическое рассуждение, чат, творческое письмо и ролевые сценарии. Также заявлены улучшенные возможности «vibe coding»: генерация веб-страниц и презентаций с более качественным дизайном, компоновкой и размерами элементов. Поддерживаются английский и китайский языки. Модель умеет использовать interleaved thinking и сохраняемое рассуждение перед выполнением действий. К сильным сторонам относятся заметные улучшения по сравнению с GLM-4.6 в SWE-bench, SWE-bench Multilingual, Terminal Bench 2.0, τ²-Bench, BrowseComp и задачах математического и общего рассуждения. README не содержит достоверных сведений о числе параметров, точной архитектуре, размере контекстного окна, поддерживаемых модальностях помимо текста и системных требованиях, поэтому эти характеристики нельзя определить по представленным данным. Модель распространяется по лицензии MIT.

GLM-5.3-Flash-GGUF-Finetuning — GGUF-квантованная версия модели GLM-5.3-Flash, связанная с экосистемой Unsloth и основанная на модели zai-org/GLM-5.3-Flash. Исходную модель разработала команда GLM-5; README также содержит ссылки на материалы Z.ai. Модель предназначена для генерации текста, программирования, агентских сценариев и задач, требующих работы с длинным контекстом. Она поддерживает английский и китайский языки. GLM-5.3-Flash — нативно мультимодальная модель с гибридной архитектурой, объединяющей sparse attention и linear attention. Объём модели составляет 320 млрд параметров, из которых 18 млрд активируются при обработке запроса. Для повышения эффективности масштабирования используется Manifold-Constrained Hyper-Connections, а обучение проводилось на мультимодальном корпусе объёмом 30 трлн токенов. Заявлена поддержка длинного контекста; в оценках использовались контексты до 300 000 и 1 млн токенов, однако точное штатное ограничение для данной GGUF-версии не указано. К сильным сторонам относятся сочетание высокой заявленной производительности, экономичности инференса, мультимодальности, возможностей программирования и агентской работы, а также снижение стоимости обработки длинного контекста. Ограничения конкретной квантованной сборки, включая точный уровень квантования, требования к оборудованию и возможную потерю качества, в README не описаны. Лицензия указана как MIT; для запуска рекомендуются совместимые версии llama.cpp или Unsloth Desktop.

HermesNova — языковая модель на архитектуре Llama 3.1, созданная линейным слиянием Hermes-3-Llama-3.1-8B от Nous Research и Llama-3.1-SuperNova-Lite от Arcee AI с помощью mergekit. Модель содержит 7,5 млрд параметров и рассчитана на генерацию текста в диалоговом формате, включая вызов инструментов. Модель подходит для ведения диалогов, ответов на инструкции, рассуждений и генерации кода. Заявленная длина контекста — 131 072 токена. Репозиторий содержит веса в формате safetensors; лицензия — llama3.1.

INTELLECT-3-REAP-50-heretic — текстовая чат-модель jtl11, созданная на основе PrimeIntellect/INTELLECT-3. Это версия INTELLECT-3 с удалением 50% экспертов методом REAP (Router-weighted Expert Activation Pruning) и изменением поведения отказов с помощью abliteration. Модель сохраняет архитектуру GLM-4 MoE; в репозитории указано 8,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для генерации текста в диалоге, включая ответы на запросы, код и сложные многошаговые задачи. Калибровка REAP использовала примеры генерации кода, вызова функций и многоходовых сценариев для агентов. В сравнении с исходной моделью в README указано 3 отказа из 100 запросов против 60 из 100; измеренная KL-дивергенция составляет 0,0413. Модель доступна в формате safetensors по лицензии Apache-2.0.

IFM/K2-Horizon-32B-FP8 — открытая FP8-квантизированная версия K2-Horizon-32B-Stage1, разработанная IFM. Это плотная decoder-only языковая модель с 32 млрд параметров, предназначенная для генерации текста, агентских сценариев, программирования и задач рассуждения. Модель поддерживает английский язык и нативное контекстное окно до 524 288 токенов. Веса всех линейных слоёв, кроме lm_head, квантизированы в FP8: для весов используется статическое масштабирование по блокам 128×128, а для активаций — динамическое масштабирование по группам 1×128. По данным разработчиков, FP8-версия близка к исходной BF16-модели по результатам оценивания, при этом требует меньше памяти и обеспечивает более быстрый вывод на совместимом с FP8 оборудовании. Модель относится к этапу Stage1 обучения, а финальный чекпойнт на момент публикации ещё не выпущен, поэтому заявленные характеристики могут быть неполными. Указано, что тренировочные данные, рецепт и код обучения будут открыты, а промежуточные чекпойнты планируется публиковать для анализа изменений возможностей. Модель распространяется по лицензии Apache-2.0.

WhiskyAKM публикует GGUF-версию K2-Horizon-MoVA-36B-A4B, производной от IFM/K2-Horizon-MoVA-36B-A4B. Это разрежённая языковая модель архитектуры MoE с механизмом внимания Mixture-of-Values: всего 36 млрд параметров, из которых активны 4 млрд на токен. Модель предназначена для генерации текста и диалогов, рассуждений, программирования и агентных задач с использованием инструментов. Репозиторий содержит квантизованные в NVFP4 веса в формате GGUF для запуска через llama.cpp и совместимые движки. Заявленное контекстное окно — 524 288 токенов. Карточка отмечает английский язык. Лицензия — Apache-2.0. Для NVFP4 автор указывает оптимизацию под NVIDIA Blackwell и совместимое оборудование; фактическая производительность и доступность поддержки зависят от движка и аппаратуры.