II.3Рефакторинг, миграция и модернизация

Qemma-GEI — англоязычная чат-модель для следования инструкциям, пошаговых рассуждений, помощи с кодом и анализа, разработанная Convergent Intelligence LLC: Research Division. Это дообученная версия Qemma-redux, которая, согласно карточке модели, объединяет веса Gemma 3 и Qwen 3 и использует масштабирование RoPE на основе YaRN. Архитектура — плотная Gemma3ForCausalLM примерно с 1 млрд параметров: основа Gemma 3 с вниманием в стиле Qwen, скрытым размером 1152 и 26 слоями. Модель принимает текст, использует токенизатор и шаблон чата Gemma 3; заявленная длина контекста — 131 072 токена. Модель предназначена для диалога, анализа и дальнейшего дообучения. Карточка указывает на возможные галлюцинации и не рекомендует полагаться на ответы в критически важных, медицинских, юридических или финансовых решениях. Лицензия — OSL-3.0; при использовании следует учитывать лицензии датасетов и базовых моделей.

Qwen1.5-72B-Chat-GGUF — квантованный вариант чат-модели Qwen1.5, разработанной командой Qwen. Это авторегрессионная языковая модель на основе архитектуры Transformer decoder-only, предназначенная для ведения диалогов и генерации текста. Модель подходит для чат-ботов, ответов на вопросы, обработки инструкций и других сценариев текстовой генерации. Модель содержит 72 миллиарда параметров и поддерживает контекст длиной до 32K токенов. Она работает с текстом и обучена для многоязычных сценариев, включая естественные языки и программный код; в метаданных README явно указан английский язык. После предварительного обучения модель прошла supervised fine-tuning и direct preference optimization, что направлено на улучшение качества диалогов и соответствия человеческим предпочтениям. Архитектура включает SwiGLU и attention с QKV bias; для beta-версии заявлено отсутствие GQA и сочетания sliding window attention с full attention, кроме отдельных вариантов. Репозиторий предоставляет GGUF-квантизации q2_k, q3_k_m, q4_0, q4_k_m, q5_0, q5_k_m, q6_k и q8_0, позволяющие выбирать компромисс между качеством, размером файлов и требованиями к ресурсам. Сильными сторонами являются большой размер, контекст 32K и поддержка локального запуска через llama.cpp. Ограничения включают высокие требования к памяти и вычислительным ресурсам для 72B-модели, а также возможные потери качества при более агрессивной квантизации. Лицензия указана как other, с названием tongyi-qianwen; подробные условия доступны по ссылке на LICENSE.

igriv/Qwen3-32B-heretic — разговорная языковая модель семейства Qwen3, созданная изменением Qwen3-32B методом abliteration, чтобы существенно снизить частоту отказов. В приведённом сравнении модель отказывает в 3 случаях из 100 против 99 у исходной модели; это оценка из карточки, а не гарантия поведения во всех запросах. Модель предназначена для генерации текста и диалогов, в том числе для рассуждений, программирования, перевода и следования инструкциям. Архитектура — плотная авторегрессионная Qwen3ForCausalLM; в метаданных указаны 29,7 млрд параметров, контекст 40 960 токенов и формат safetensors. README приписывает семейству Qwen3 поддержку более 100 языков, но не приводит отдельную оценку языков именно этой производной модели. Модель разработана автором репозитория igriv на основе Qwen3-32B. Лицензия — Apache-2.0. Снижение отказов может означать меньшую защиту от небезопасных запросов; опубликованная таблица не раскрывает полный протокол оценки, а качество и безопасность ответов требуют самостоятельной проверки.

furiosa-ai/Qwen3-4B-FP8 — это версия модели Qwen3-4B-FP8, подготовленная FuriosaAI для запуска на ускорителях FuriosaAI RNGD с использованием Furiosa-LLM. Модель представляет собой плотный causal transformer с grouped-query attention и примерно 4 млрд параметров. Разработчик базовой модели — команда Qwen, а FuriosaAI предоставляет исполняемый пакет FXB и интеграцию с собственным программным стеком. Модель предназначена для генерации текста, общего диалога, сложных рассуждений, математических и программных задач, вызова инструментов и агентских сценариев. Она поддерживает гибридный режим: по умолчанию может формировать рассуждение перед ответом, а для отдельных запросов рассуждение можно отключить ради более эффективной работы. Также поддерживается multilingual-использование, однако в карточке явно указан английский язык. Входные и выходные данные — текстовые, доступен OpenAI-совместимый API. Веса статически квантизированы в FP8, активации во время выполнения используют динамическую FP8-квантизацию, а KV-cache сохраняется в 16-битной точности. На FuriosaAI RNGD модель работает с tensor parallelism на 8 вычислительных элементах одной карты. Ограничения связаны с зависимостью данной сборки от Furiosa-LLM и оборудования RNGD; сведения о размере контекста и точном перечне поддерживаемых языков в README не приведены. Модель распространяется по лицензии Apache 2.0.

QuantFactory/Qwen3-4B-Thinking-2507-GGUF — квантизированная версия Qwen3-4B-Thinking-2507, созданная QuantFactory с использованием llama.cpp на основе модели Qwen. Это каузальная языковая модель для генерации текста, ориентированная на задачи, требующие рассуждений: логика, математика, естественные науки, программирование, академические задания, следование инструкциям, использование инструментов и взаимодействие с агентными системами. Модель содержит около 4 млрд параметров, из которых 3,6 млрд не относятся к эмбеддингам, и имеет 36 слоёв. Архитектура внимания использует GQA: 32 головы для запросов и 8 для ключей и значений. Нативная длина контекста составляет 262 144 токена. Модель поддерживает только режим рассуждений; используется автоматическое добавление маркера <think>, поэтому в выводе могут присутствовать специальные маркеры рассуждений. В README явно описана текстовая модальность; перечень поддерживаемых языков не указан. Сильными сторонами являются улучшенные возможности рассуждения, следования инструкциям, генерации текста, работы с инструментами и обработки длинного контекста. Модель рассчитана на сложные задачи и может генерировать длинные цепочки рассуждений, что следует учитывать при настройке лимита вывода и потреблении ресурсов. Ограничения включают работу только в thinking-режиме, отсутствие сведений о конкретном формате и уровне квантизации в карточке, а также отсутствие опубликованных требований к аппаратному обеспечению и подробных характеристик производительности именно этой GGUF-сборки. Указанная лицензия — Apache-2.0.

Qwen3.5-9B-NVFP4 — квантизированная версия модели Qwen3.5-9B, подготовленная IG1. Модель предназначена для задач генерации текста и мультимодального взаимодействия в формате image-text-to-text, включая диалоги, рассуждения, программирование, работу с мультиязычными запросами и, при соответствующей поддержке сервера, вызов инструментов. Базовая модель разработана командой Qwen; в карточке также указаны наборы данных UltraChat, GSM8K, CodeAlpaca и Aya, использованные для калибровки квантизации. Модель использует гибридную архитектуру Mamba с компонентами attention и поставляется в формате NVFP4. При квантизации длина последовательности была увеличена до 8192 токенов, а калибровочная выборка — до 1024 примеров из разговорных, математических, программных и мультиязычных данных. Для запуска рекомендуется vLLM на GPU NVIDIA; в примере конфигурации для RTX 5090 заявлена максимальная длина контекста около 110 880 токенов, однако фактический размер зависит от настроек и доступной видеопамяти. К сильным сторонам относятся сниженное потребление памяти благодаря NVFP4, поддержка режимов с рассуждением и без него, а также профили для общих, программных и творческих сценариев. Ограничением является несовместимость или нестабильная работа FP8 KV cache: по данным автора, его использование может приводить к быстрой деградации качества или повреждению результатов квантизации. Карточка рекомендует развертывание через vLLM и содержит настройки для оптимизации работы на RTX 5090. Модель распространяется по лицензии Apache 2.0.

Dingdust/Qwen3.8-27B-heretic — производная от Qwen3.8-27B версия, созданная методом abliteration: в README приведены параметры изменения весов и сравнение частоты отказов с исходной моделью. Это плотная причинная языковая модель с визуальным энкодером на 27 млрд параметров, совместимая с Transformers и рассчитанная на диалог с текстом и изображениями. Семейство поддерживает также понимание видео; карточка этой версии описывает её как vision-language модель. Модель предназначена для диалога, анализа изображений и видео, а также сложных многошаговых задач, включая программирование, исследования и работу с документами. Архитектура основана на Qwen3.5 и сочетает Gated DeltaNet и Gated Attention; базовая модель имеет контекст 262 144 токена с расширением до 1 000 000. README сообщает, что режим рассуждений включён по умолчанию и может настраиваться. В сравнении с исходной моделью в карточке указано меньше отказов: 10 из 100 против 89 из 100; это указывает на ослабление отказного поведения, но не гарантирует конкретные ответы. Для производных весов модели отдельные оценки качества не приведены. Репозиторий распространяется по лицензии Apache-2.0.

Qwen3.8-27B-heretic-ara-fp8 — мультимодальная модель на базе Qwen3.8-27B, разработанная Qwen Team и преобразованная в производный checkpoint проектом Heretic с использованием метода Arbitrary-Rank Ablation (ARA). FP8-квантизацию, проверку и публикацию выполнил magiccodingman. Квантизация не включает дополнительное дообучение, слияние моделей или новую abliteration; поведение унаследовано от upstream-модели heretic-org/Qwen3.8-27B. Модель предназначена для работы с текстом и изображениями, а конфигурация репозитория также содержит процессор для изображений и видео. Она может применяться в задачах программирования, математики, науки, генерации структурированных данных, SQL, многоязычного текста, работы с инструментами и инженерии вывода. Точный набор поддерживаемых языков, архитектурные детали, размер контекста и результаты исходных бенчмарков в данном README не приведены. Модель содержит около 27 миллиардов параметров; веса представлены в формате FP8 E4M3 с блочной гранулярностью масштабирования 128×128, а объём тензорных данных составляет около 30,87 ГБ. К сильным сторонам относятся существенное снижение размера весов по сравнению с BF16 и близость поведения к исходной BF16-модели: при проверке средняя дивергенция KL составила 0,00315279, а совпадение наиболее вероятного токена — 96,5517%. Однако поддержка нативных FP8-ядер и FP8 KV-cache зависит от ускорителя, backend и версии программного обеспечения; при отсутствии совместимой реализации веса могут быть деквантизированы. Модель наследует ограничения исходного checkpoint и намеренно сниженное поведение отказа, поэтому требует самостоятельной проверки, защитных мер и контроля безопасности. Лицензия — Apache License 2.0; применяются также уведомления и атрибуции upstream-компонентов.

ThinkingCap-Qwen3.6-27B-AWQ-INT4 — квантизированная версия модели ThinkingCap: Qwen 3.6 27B, разработанной BottleCap AI на основе Qwen3.6-27B от команды Qwen. Модель дообучена с применением современных алгоритмов на тщательно отобранном наборе задач из разных областей и предназначена для рассуждений, ответов на вопросы, математики, программирования, многошагового диалога, соблюдения системных инструкций, безопасного поведения и агентских сценариев. Ключевая особенность модели — повышение эффективности рассуждений: по заявлению разработчиков, она использует в среднем на 50% меньше токенов рассуждения, а в лучших случаях сокращение превышает 90%, при сохранении исходного качества и стиля ответов Qwen. Калибровка выполнялась на задачах STEM и агентских сценариях. Указаны языки English, Chinese, Hindi, Arabic, Russian, Japanese, Korean, Dutch, French и Spanish. Размер файла модели составляет 20,97 ГБ. Архитектура и размер контекстного окна в README не указаны. Модель подходит для ресурсоэффективного решения сложных задач, где важны качество рассуждений, скорость и снижение расхода токенов. Ограничением является вариативность качества рассуждений при рекомендованной для Qwen температуре 1.0, поэтому разработчики оценивали модель с несколькими случайными сидами и статистической проверкой. Распространяется по лицензии Apache-2.0.

WizardLM-70B-V1.0 — большая языковая модель команды WizardLM, выпущенная в августе 2023 года. Это плотная авторегрессионная модель семейства LLaMA с архитектурой LlamaForCausalLM и 68,7 млрд параметров; репозиторий содержит веса PyTorch. Модель предназначена для генерации текста и диалогов, в том числе многоходовых бесед по формату запросов, совместимому с Vicuna, и ответов на сложные инструкции. В карточке приведены результаты на MT-Bench, AlpacaEval, GSM8K и HumanEval; они указывают на возможности диалога, решения математических задач и генерации кода. Контекст модели составляет 4096 токенов. Для использования указана лицензия Llama 2; следует соблюдать её условия. Карточка не сообщает о поддержке изображений, аудио или иных модальностей помимо текста.

airoboros-65b-gpt4-2.0 — плотная языковая модель семейства LLaMA на 65 млрд параметров, дообученная jondurbin для следования инструкциям на синтетических примерах, созданных GPT-4. Серия 2.0 использует данные GPT-4 версии 0614; вариант m2.0 дополнительно объединяет набор данных 1.4.1 без дубликатов и категории system. Модель предназначена для диалоговых ответов, вопросов по предоставленному контексту, программирования, построения планов и генерации структурированных аргументов функций в JSON или YAML. Для диалога используется текстовый шаблон с ролями USER и ASSISTANT; заявленная длина контекста — 2048 токенов. В README для моделей 65B отмечено QLoRA-дообучение. Это текстовая модель, и качество её ответов не гарантирует точность: карточка рекомендует явно просить не придумывать ответ при недостатке данных. Лицензия CC BY-NC 4.0 разрешает некоммерческое использование; коммерческое использование запрещено.

Карточка модели jondurbin/airoboros-l2-70b-gpt4-2.0 на Hugging Face совпадает с карточкой jondurbin/airoboros-65b-gpt4-2.0, поэтому описание составлено по ней. airoboros-65b-gpt4-2.0 — плотная языковая модель семейства LLaMA на 65 млрд параметров, дообученная jondurbin для следования инструкциям на синтетических примерах, созданных GPT-4. Серия 2.0 использует данные GPT-4 версии 0614; вариант m2.0 дополнительно объединяет набор данных 1.4.1 без дубликатов и категории system. Модель предназначена для диалоговых ответов, вопросов по предоставленному контексту, программирования, построения планов и генерации структурированных аргументов функций в JSON или YAML. Для диалога используется текстовый шаблон с ролями USER и ASSISTANT; заявленная длина контекста — 2048 токенов. В README для моделей 65B отмечено QLoRA-дообучение. Это текстовая модель, и качество её ответов не гарантирует точность: карточка рекомендует явно просить не придумывать ответ при недостатке данных. Лицензия CC BY-NC 4.0 разрешает некоммерческое использование; коммерческое использование запрещено.

Apodex-1.1-mini MLX — MLX-конверсия модели Apodex-1.1-mini от Apodex AI, предназначенная для исследовательских задач, работы с данными, файлами, кодом и инструментами. Это текстовая модель для генерации текста, оптимизированная для запуска на устройствах Apple silicon с библиотекой mlx-lm. Заявлены поддерживаемые языки — английский и китайский. Модель построена на архитектуре Qwen3.5 MoE и содержит 35,95 млрд параметров. Релиз использует аффинное 4-битное квантование с размером группы 64; веса маршрутизатора MoE и общих экспертов сохранены в 8-битном формате. Размер MLX-весов составляет 19,5 ГБ, поэтому для работы требуется дополнительная unified memory под выполнение модели и KV-кэш, особенно при длинном контексте. В этой версии отсутствуют обработка изображений и native MTP. Модель распространяется по лицензии Apache-2.0.

unsloth/DeepSeek-R1-Distill-Llama-8B — текстовая языковая модель семейства Llama, опубликованная Unsloth на основе DeepSeek-R1-Distill-Llama-8B от DeepSeek. Это плотная авторегрессионная модель примерно на 7,5 млрд параметров с контекстом до 131 072 токенов; репозиторий содержит веса Safetensors и рассчитан на Transformers. Модель предназначена для диалоговой генерации текста и многошаговых рассуждений, включая решение математических задач и помощь в программировании. Её веса происходят от модели Llama 3.1 8B, дообученной на примерах рассуждений, сгенерированных DeepSeek-R1. В карточке заявлена поддержка английского языка; метаданные также отмечают чат и интерфейс вызова инструментов. Модель подходит для прототипирования ассистентов и задач, где полезны длинный контекст и развернутые рассуждения. Качество ответов может быть нестабильным, а сгенерированные выводы требуют проверки; README указывает максимальную длину генерации 32 768 токенов для описанной оценки. Лицензия репозитория — Llama 3.1, поэтому использование должно соответствовать её условиям.

Dolphin 2.6 Mistral 7B DPO LASER — разговорная языковая модель, созданная Eric Hartford и Fernando Fernandes на основе Mistral-7B. Это специальный выпуск Dolphin-DPO: авторы применили к весам метод LASER со снижением ранга отдельных слоёв и дополнительным шумоподавлением на основе SVD. Модель имеет плотную архитектуру MistralForCausalLM, около 7,1 млрд параметров и контекст до 32 768 токенов по метаданным. Она принимает текст в формате ChatML и генерирует текст. Модель предназначена для диалогов, ответов на вопросы, помощи с кодом и выполнения инструкций. В обучении использовались наборы Dolphin, Airoboros, OpenHermes, Magicoder и Capybara. Карточка заявляет улучшение оценок относительно Dolphin 2.6 и 2.6-DPO и более устойчивые ответы, но пример вывода не приведён. Авторы характеризуют модель как uncensored и предупреждают о высокой готовности отвечать на любые запросы; перед использованием в сервисе рекомендуют добавить собственный слой выравнивания. Лицензия — Apache-2.0.

ERNIE-4.5-21B-A3B-Thinking — текстовая MoE-модель семейства ERNIE от Baidu, представленная в репозитории Unsloth как дообучение baidu/ERNIE-4.5-21B-A3B-Thinking. Она предназначена для генерации текста и сложных рассуждений: логических задач, математики, науки, программирования и академических вопросов, а также для работы с инструментами. В модели 21 млрд параметров всего, из которых для каждого токена активируются около 3 млрд; архитектура включает 28 слоёв, а длина контекста составляет 131 072 токена. Модель принимает и генерирует текст, поддерживает английский и китайский языки. Карточка отмечает улучшенные рассуждения, использование инструментов и понимание длинного контекста; для сложных задач рекомендован режим с увеличенной длиной рассуждения. Для запуска описана поддержка Transformers версии 4.54.0 или новее, а также интеграции с FastDeploy и vLLM; парсеры рассуждений и вызовов инструментов для vLLM указаны как находящиеся в разработке. Лицензия — Apache-2.0.

Карточка модели ApocalypseParty/G4-26B-SFT-v2-1 на Hugging Face совпадает с карточкой vmo247/vmo-gemma-4-26b-a4b-ft, поэтому описание составлено по ней. vmo247/vmo-gemma-4-26b-a4b-ft — мультимодальная модель, дообученная на базе Google Gemma 4 26B A4B. Она построена на архитектуре Gemma 4 для генерации текста по текстовым и графическим запросам и поддерживает диалоговый режим и анализ изображений. Вариант 26B A4B относится к MoE-моделям семейства; для Gemma 4 этого размера заявлено контекстное окно до 256K токенов и поддержка более 140 языков на уровне семейства. Модель подходит для ответов на вопросы по изображениям и документам, распознавания текста на изображениях, анализа графиков и интерфейсов, а также для диалогов, рассуждений, написания и исправления кода. В карточке этой производной модели не приведены отдельные результаты оценки качества; возможности видео и аудио, упомянутые для семейства Gemma 4, не подтверждены для данного 26B-варианта. Распространяется по лицензии Apache 2.0.

unsloth/gemma-4-E2B-it-unsloth-bnb-4bit — 4-битно квантованная версия инструкционно настроенной модели Google Gemma 4 E2B, подготовленная Unsloth. Модель предназначена для генерации текста, рассуждений, программирования, агентных сценариев и мультимодального понимания входных данных на локальных устройствах, включая ноутбуки и мобильные устройства. Модель использует плотную архитектуру Gemma 4 с 2,3 млрд эффективных параметров и 5,1 млрд параметров с учётом эмбеддингов, 35 слоями, гибридным механизмом внимания и контекстом до 128 тысяч токенов. Она принимает текст, изображения и аудио и генерирует текст; поддерживается более 140 языков. Доступны настраиваемые режимы рассуждения, нативная поддержка системных инструкций и вызова функций. Квантование BNB в формате 4-bit снижает требования к памяти и облегчает локальный запуск, однако может уменьшать точность по сравнению с полноразмерной версией. Модель распространяется по лицензии Apache 2.0. В README не приведены подробные результаты бенчмарков, требования к аппаратному обеспечению или количественная оценка влияния квантования на качество, поэтому её производительность в конкретных задачах требует практической проверки.

GigaChat3-10B-A1.8B — диалоговая модель семейства GigaChat, представленная авторами семейства. Это дообученная методом SFT версия GigaChat3-10B-A1.8B-base. В карточке описана разреженная MoE-архитектура с 10 млрд общих и 1,8 млрд активных параметров; модель использует Multi-head Latent Attention и Multi-Token Prediction. В репозитории ai-sage/GigaChat3-10B-A1.8B-bf16 хранятся веса в формате safetensors с точностью bf16. Модель предназначена для диалогов и генерации текста, в том числе ответов на вопросы, задач по математике и программированию. Заявлены контекст до 256 тысяч токенов и обучение на 20 трлн токенов; авторы сообщают о включении данных на десяти языках, а метаданные карточки отмечают русский и английский. MLA снижает требования к памяти KV-кэша, а MTP рассчитан на ускорение генерации при поддерживаемом инференсе. Лицензия репозитория — MIT. Опубликованные результаты бенчмарков и скорости получены в конкретных условиях измерения, поэтому они не гарантируют аналогичного качества и производительности для любого оборудования и сценария.

GLM-4-32B-0414 — плотная авторегрессионная языковая модель семейства GLM-4 от Z.ai с 31,6 млрд параметров. Она предназначена для диалогов и генерации текста; карточка отмечает интерфейс вызова инструментов. Модель обучалась на больших объёмах данных, а этап постобучения включал выравнивание по предпочтениям людей и улучшение следования инструкциям, написания кода и вызова функций. Модель подходит для генерации и объяснения кода, ответов на вопросы с опорой на поиск, подготовки отчётов и выполнения агентных задач с инструментами. В README указана поддержка удобного локального развертывания. Контекст составляет 32 768 токенов; заявлены китайский и английский языки. Репозиторий содержит веса Safetensors и распространяется по лицензии MIT. README содержит посторонний фрагмент о детской литературе и не предоставляет технических сведений о производительности модели, поэтому её заявленные сильные стороны следует считать описанием разработчика, а не независимой оценкой. Также в карточке приведены материалы о других моделях серии GLM, которые не следует приписывать этой модели.

GLM-4-9B-Chat imatrix GGUF — это квантизированные версии диалоговой языковой модели GLM-4-9B-Chat, разработанной Zhipu AI. Данный репозиторий содержит сборки в формате GGUF с использованием imatrix, предназначенные для локального запуска через llama.cpp и совместимые с рядом клиентских приложений, включая JanAI, KoboldCPP, text-generation-webui, Ollama и GPT4All. Модель предназначена для многораундовых диалогов, генерации и понимания текста, рассуждений, работы с математическими и программными задачами, а также вызова пользовательских инструментов и выполнения кода в поддерживаемых средах. GLM-4-9B-Chat имеет около 9 миллиардов параметров, поддерживает контекст до 128K токенов и многоязычность, включая английский, китайский, японский, корейский и немецкий языки; всего заявлена поддержка 26 языков. Это текстовая модель, соответствующая задаче text-generation. К сильным сторонам относятся заявленная производительность, превосходящая Llama-3-8B на ряде оценок, поддержка длинного контекста и диалоговых функций. Ограничения связаны с необходимостью использовать совместимое программное обеспечение и включить Flash Attention при запуске через llama.cpp, иначе возможен сбой. В карточке указана лицензия other; подробные условия лицензии не приведены.

dealignai/GLM-5.3-UNCENSORED-FP8 — многоязычная текстовая генеративная модель, разработанная dealignai на основе JANGQ-AI/GLM-5.3-FP8 и upstream-модели zai-org/GLM-5.3. Это версия с уменьшенным поведением отказа от ответа, полученная прямым изменением весов без дообучения, LoRA, runtime-хуков или prompt-трюков. Модель предназначена для универсальной генерации текста, рассуждений, программирования, агентских и инструментальных сценариев, включая задачи, где требуется минимизация отказов по широкому спектру тематик. Модель использует архитектуру glm_moe_dsa с 753 млрд параметров, 78 слоями и текстовой модальностью. Применяется квантизация FP8; заявлена нативная производительность tensor cores на GPU Hopper, включая H100 и H200. Поддерживаются английский, китайский, русский, сербский, хинди, французский, испанский, арабский, корейский и японский языки. Для рассуждений доступны режимы low и high, однако отключить рассуждение на этом checkpoint нельзя; при больших значениях усилия рассуждения модель может исчерпать лимит токенов внутри блока размышлений и не выдать ответ. Сильными сторонами являются сохранение общей интеллектуальной способности относительно базовой модели, широкая многоязычность, снижение отказов и исправление обнаруженной в предыдущей версии проблемы циклического рассуждения. Ограничения включают чувствительность результата к настройкам reasoning_effort и max_tokens, практические ограничения длины контекста и неполную совместимость некоторых функций ускорения с vLLM. Модель распространяется по лицензии MIT.

QuantFactory/Hermes-2-Pro-Llama-3-8B-GGUF — квантованная версия текстовой языковой модели NousResearch/Hermes-2-Pro-Llama-3-8B, созданная с использованием llama.cpp. Модель разработана в рамках сотрудничества Nous Research, @interstellarninja и Fireworks.AI и обучена на обновлённой версии датасета OpenHermes 2.5, дополненной внутренними наборами данных для Function Calling и JSON Mode. Указанный язык — английский; модель предназначена для генерации текста и диалогового взаимодействия. Модель ориентирована на универсальные задачи ассистирования, ведение многоходовых диалогов, написание текстов и кода, вызов функций и формирование структурированных JSON-ответов. Она использует формат промптов ChatML и специальную структуру многоходового взаимодействия с инструментами; токены <tools>, <tool_call> и <tool_response> представлены как отдельные токены для удобства потоковой обработки. По данным README, модель показала 90% в заявленной оценке Function Calling и 84% в оценке структурированного JSON-вывода. Размер исходной модели — 8B параметров, однако конкретный тип и уровень квантования данного GGUF-файла, максимальный контекст и требования к ресурсам не указаны. Модель распространяется по лицензии Apache-2.0.

unsloth/Kimi-K2-Instruct-GGUF — это GGUF-квантизированная версия Kimi-K2-Instruct, разработанного Moonshot AI и подготовленная Unsloth. Модель предназначена для общего диалога, решения задач на знания и рассуждения, программирования, использования инструментов и агентских сценариев. Версия Instruct ориентирована на готовое применение без длительного режима пошагового размышления. Модель использует архитектуру Mixture-of-Experts (MoE): 1 триллион общих параметров, из которых 32 миллиарда активируются для каждого токена. Архитектура включает 61 слой, 384 эксперта с выбором 8 экспертов на токен, один общий эксперт, 64 головы внимания, механизм MLA, активацию SwiGLU и словарь размером 160 тысяч токенов. Длина контекста составляет 128 тысяч токенов. В README языки и дополнительные модальности не указаны. GGUF-версии предназначены для локального запуска, в частности через актуальную версию llama.cpp. Для небольших квантов рекомендуется не менее 128 ГБ объединённой оперативной памяти; при наличии 16 ГБ VRAM и 256 ГБ RAM ожидается скорость свыше 5 токенов в секунду. Для наилучшего качества рекомендуются 2-битные XL-кванты или более высокие варианты, а температура 0,6 помогает снизить повторения и несвязность. Ограничениями являются очень высокие требования к памяти и возможные потери качества, зависящие от выбранного уровня квантования. Лицензия указана как modified MIT; также приведена ссылка на файл LICENSE.md.

Ling-3.0-tiny — компактная гибридная языковая модель семейства Ling, разработанная inclusionAI. Она предназначена для диалогов, многошаговых рассуждений и агентных сценариев с умеренными затратами на инференс, включая локальное развертывание на ограниченных ресурсах. Модель принимает текст и генерирует текст; заявлены задачи программирования, математики, научных рассуждений, понимания длинного контекста и следования инструкциям. В README указаны архитектура MoE с чередованием слоёв KDA и MLA, 128 маршрутизируемых экспертов, 7,9 млрд параметров всего и 1,3 млрд активируемых на токен. Метаданные Hugging Face указывают 977,5 млн параметров и контекст 131072 токена, что расходится с README по числу параметров; число параметров здесь поэтому не следует считать однозначно установленным. Для режимов рассуждения можно включать или выключать thinking mode. Доступны веса BF16, FP8 и INT4; заявлена проверка на NVIDIA DGX Spark и компьютерах Apple Silicon. Модель подходит для локального ассистента, программирования, решения математических задач и агентных рабочих процессов. README приводит результаты внутренних оценок и скорости для конкретных конфигураций оборудования, которые не гарантируют такую же производительность в других условиях. Лицензия — MIT.

bartowski/Meta-Llama-3-70B-Instruct-GGUF — это GGUF-версия 70-миллиардной инструкционно-ориентированной языковой модели Meta Llama 3, разработанной Meta и подготовленной пользователем bartowski для запуска в совместимых средах инференса. Модель предназначена для генерации текста и выполнения задач по инструкциям, включая диалоговые сценарии и другие приложения обработки естественного языка. В доступных данных указано, что модель поддерживает английский язык и относится к классу text-generation. Она основана на архитектуре Llama 3 и поставляется в формате GGUF, однако сведения о конкретном варианте квантования, размере контекста, точной архитектуре, мультимодальности и дополнительных языках отсутствуют. Размер 70B обеспечивает значительный потенциал для сложных языковых задач, но обычно требует существенных вычислительных ресурсов; характеристики производительности зависят от выбранной сборки и среды запуска. Модель распространяется по Meta Llama 3 Community License. При распространении материалов или продуктов на их основе требуется соблюдать условия лицензии, включая указание «Built with Meta Llama 3», сохранение уведомления об авторских правах и соблюдение Acceptable Use Policy. Лицензия также содержит ограничения на использование результатов для улучшения других больших языковых моделей и дополнительные коммерческие условия для организаций с более чем 700 миллионами активных пользователей в месяц.

MiMo-V2-Flash — большая языковая модель Xiaomi для генерации текста, диалогов, рассуждений и агентных сценариев, включая работу с инструментами. В README она описана как MoE-модель с гибридным вниманием, многотокенным предсказанием и 309 млрд параметров, из которых активно используются 15 млрд. Метаданные Hugging Face указывают архитектуру MiMoV2FlashForCausalLM, 12 млрд параметров и файлы Safetensors в формате FP8; это расходится с характеристиками размера в README. Модель принимает текст и рассчитана на контекст до 262 144 токенов. Модель предназначена для быстрых ответов, сложных рассуждений и агентных рабочих процессов; карточка также сообщает о результатах на SWE-Bench и других тестах. Для развёртывания README рекомендует SGLang и описывает вариант запуска с выгрузкой MoE-экспертов на CPU через KTransformers. Языки в предоставленных данных не перечислены. Лицензия — MIT. Реальное качество зависит от задачи и конфигурации развёртывания; заявленные в README результаты бенчмарков являются оценками разработчика.

Карточка модели NarsAI/mini-2.0 на Hugging Face совпадает с карточкой inclusionAI/Ling-mini-2.0, поэтому описание составлено по ней. Ling-mini-2.0 — компактная разговорная языковая модель семейства Ling 2.0 от inclusionAI, предназначенная для генерации текста, следования инструкциям и решения задач на рассуждение. Это дообученная версия Ling-mini-base-2.0; по метаданным, она использует архитектуру Bailing MoE для причинного языкового моделирования и содержит 1,2 млрд параметров. README описывает семейство Ling-mini-2.0 как разреженную MoE-модель с 16,26 млрд параметров всего и примерно 1,43 млрд активных на токен, обученную на более чем 20 трлн токенов с многоэтапной настройкой и обучением с подкреплением. Модель подходит для диалоговых приложений, сложных рассуждений, математики, программирования и ответов на вопросы, а также предоставляет интерфейс вызова инструментов. Метаданные указывают контекст 32 768 токенов; README сообщает о расширении до 128K с YaRN. Разработчик заявляет о высокой скорости генерации и сильных результатах на тестах рассуждения, однако приведённые показатели зависят от оборудования и режима развёртывания. Веса доступны в формате safetensors, библиотека — Transformers; лицензия MIT.

OpenHermes 2.5 Mistral 7B — языковая модель Teknium, дообученная на базе Mistral-7B-v0.1 для диалогов и следования инструкциям. Она содержит около 7,1 млрд параметров, использует плотную архитектуру Mistral и формат диалога ChatML; заявленная длина контекста — 32 768 токенов. Модель обучалась на наборе примерно из миллиона примеров, преимущественно сгенерированных GPT-4, включая дополнительные данные по программированию. Модель предназначена для многошагового общения, ответов на вопросы, выполнения инструкций и помощи с программированием. В карточке приводится результат HumanEval 50,7% при Pass@1, а также сообщается об улучшении ряда общих бенчмарков по сравнению с предыдущей версией; это результаты авторов, не гарантия качества в конкретных сценариях. Указанный в метаданных язык — английский. Модель принимает текстовые запросы и генерирует текст. Веса доступны в форматах PyTorch и safetensors. Лицензия — Apache-2.0. Как и другие генеративные языковые модели, она может выдавать неверные сведения или код с ошибками; результаты следует проверять.

mateussj выпустил объединённую модель Phi-3.5-mini-instruct-2x-v1 на основе microsoft/Phi-3.5-mini-instruct. Она использует архитектуру Phi-3 с плотной причинной языковой моделью на 3,7 млрд параметров и предназначена для диалогов и генерации текста по инструкциям. В README описано слияние методом TIES с помощью mergekit; базовая модель включена в конфигурацию с разными значениями плотности и весов. Модель принимает текст и выдаёт текст, поддерживает контекст до 4096 токенов. Метаданные указывают формат safetensors и библиотеку Transformers. Условия лицензии и отдельные языки этой версии в предоставленных данных не раскрыты; базовая модель описана как многоязычная.