II.3Рефакторинг, миграция и модернизация

Falcon-H1-1.5B-Deep-Instruct — компактная инструктивно дообученная языковая модель семейства Falcon-H1 от TII, основанная на Falcon-H1-1.5B-Deep-Base. Это плотная причинная модель-декодер с гибридной архитектурой Transformers и Mamba, примерно на 1,2 млрд параметров. Она предназначена для диалоговой генерации текста, рассуждений и решения общих задач; среди сценариев применения — ответы на вопросы и помощь с написанием кода. Модель поддерживает английский и многоязычный ввод, а контекст составляет до 131 072 токенов. Для запуска подходят Transformers, vLLM и llama.cpp; в репозитории указаны веса Safetensors. В README приведено сравнение Falcon-H1 с несколькими компактными языковыми моделями на тестах рассуждений и общих задач. Лицензия — Falcon-LLM License; перед использованием следует проверить её условия.

Hermes-2-Pro-Llama-3-8B-GGUF — квантизированная версия языковой модели Hermes 2 Pro, созданной на базе Meta-Llama-3-8B командой NousResearch. Квантизацию в формате GGUF выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалоговых систем и задач ассистирования, включая function calling и формирование структурированных ответов в JSON. Модель имеет около 8 млрд параметров, работает с текстом и ориентирована на английский язык. Она обучена с применением дообучения, DPO, RLHF, синтетических данных и дистилляции; в качестве набора данных указан OpenHermes-2.5. Для взаимодействия используется шаблон ChatML. Доступны варианты квантизации от Q8_0 до Q2 и IQ-квантов размером примерно от 2,75 до 8,54 ГБ, что позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти. Сильными сторонами являются поддержка диалогового режима, function calling, JSON-ответов и возможность локального запуска через совместимые инструменты, включая llama.cpp. Более агрессивная квантизация уменьшает требования к памяти, но может снижать качество генерации; точные ограничения контекстного окна и результаты бенчмарков в представленных данных не указаны. Модель распространяется по лицензии Apache-2.0.

Это точная копия весов, токенизатора и конфигурации Llama 3.1 8B Instruct от Meta, размещённая Positron AI как зафиксированный исходный снимок для собственных GPTQ-квантизаций организации. Модель представляет собой плотную авторегрессионную языковую модель семейства Llama с 7,5 млрд параметров и контекстом до 131 072 токенов; поддерживает диалоги и генерацию текста, включая интерфейс вызова инструментов. Модель предназначена для инструкционного диалога и генерации текста. Метаданные перечисляют английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Репозиторий использует формат safetensors и лицензию Llama 3.1. Это неизменённая перепубликация базовой модели, поэтому её возможности и ограничения соответствуют исходной карточке Meta; отдельные оценки качества и дополнительные ограничения в этой карточке не приведены.

brittlewis12/Llama-3.1-Tulu-3.1-8B-GGUF — это квантизированная версия языковой модели Tülu 3.1 8B, разработанной Allen Institute for AI (AI2) на базе Llama 3.1. Модель предназначена для генерации текста и следования инструкциям в диалоговых и прикладных сценариях, включая общение, решение математических задач, ответы на вопросы, выполнение заданий с ограничениями и генерацию кода. Указан английский язык. Модель использует архитектуру Llama и содержит около 8 миллиардов параметров. Она распространяется в формате GGUF для запуска с совместимыми инструментами, включая llama.cpp, в том числе локально на устройствах. В версии Tülu 3.1 был улучшен финальный этап обучения с переходом от PPO к GRPO без reward model и дополнительной настройкой гиперпараметров. В README не указан размер контекстного окна и не описаны конкретные схемы квантизации представленных файлов. Сильными сторонами модели являются следование инструкциям, математические рассуждения, выполнение заданий с формальными ограничениями и ответы на вопросы; согласно приведённым оценкам, особенно высокие результаты показаны в GSM8K, IFEval, DROP и BigBenchHard. Ограничениями являются ориентация преимущественно на английский язык, меньший размер по сравнению с крупными моделями и возможные потери качества, связанные с квантизацией. Модель распространяется по лицензии llama3.1.

Диалоговая модель shibing624 на базе Llama-3-8B-Instruct-262k, дообученная методом ORPO на наборе предпочтений для китайского и английского языков. Модель использует плотную архитектуру LlamaForCausalLM и содержит около 7,5 млрд параметров; поддерживает контекст до 262 144 токенов и рассчитана на многоходовый диалог, генерацию текста, кодирование и рассуждения, а также сценарии RAG с длинными документами. Модель поддерживает китайский и английский языки. В README отмечены ограничения: при ответах на вопросы о знаниях возможны галлюцинации, особенно по китайской тематике и классической китайской литературе. Для запуска приведены ориентиры по видеопамяти: около 18,66 ГБ для кодирования 2 048 токенов и 24,58 ГБ для генерации 8 192 токенов в FP16/BF16; для Int4 — около 9,21 ГБ и 14,62 ГБ соответственно. Лицензия указана как other, поэтому конкретные условия использования следует сверять с лицензией репозитория.

llm-jp-4.1-8b-thinking — языковая модель, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это плотная трансформерная модель семейства Llama с 7,8 млрд параметров по метаданным и контекстом до 65 536 токенов. Репозиторий содержит веса в формате safetensors; для диалогов предусмотрен шаблон, совместимый с форматом ответов OpenAI Harmony, но для токенизации требуется прилагаемый токенизатор модели. Модель предназначена для генерации ответов и рассуждений в диалоге, а также для задач математики, естественных наук, вопросов и ответов, программирования, следования инструкциям и перевода между японским и английским. Она обучалась на японском и английском; после предварительного обучения прошла дообучение с учителем и выравнивание методом DPO, без обучения с подкреплением. Контекст и наличие диалогового режима делают её пригодной для многошаговых запросов и работы с длинными текстами. Разработчики оценивают модель на общих задачах, безопасности и вызове инструментов. Карточка предупреждает, что ответы могут быть неточными, неподходящими или нежелательными, поэтому результаты следует проверять. Разработчики не предназначают модель для непосредственного применения в производственных сервисах. Лицензия — Apache-2.0.

mistral-community/mixtral-8x22B-v0.3 — текстовая генеративная модель семейства Mixtral, опубликованная сообществом mistral-community. Архитектура — MixtralForCausalLM с механизмом смеси экспертов (MoE); модель предназначена для генерации текста и диалогового взаимодействия, включая интерфейс вызова инструментов. Контекстное окно составляет до 65 536 токенов. Эта версия соответствует v0.1, но использует токенизатор большего размера. В репозитории представлены веса Safetensors; лицензия — Apache-2.0. Карточка предупреждает, что чекпойнт может быть неактуальным, и рекомендует использовать соответствующую версию у организации-разработчика.

OpenAI o3 Pro — модель семейства o, обученная с подкреплением рассуждать перед ответом и решать сложные задачи. По сравнению с o3 она использует больше вычислений на этапе рассуждения, чтобы давать более последовательные ответы. Модель предназначена для сложных запросов, где полезны многоэтапное рассуждение и тщательная проработка ответа. Данных о размере, модальностях, поддерживаемых языках, длине контекста и лицензии в предоставленной карточке нет.

Omni-Reasoner4-Merged — объединённая языковая модель от prithivMLmods, созданная методом Model Stock с помощью mergekit. В объединение вошли Qwen/QwQ-32B-Preview, Qwen/Qwen2.5-32B и prithivMLmods/Blaze.1-32B-Instruct; в качестве базовой модели указана Qwen/QwQ-32B-Preview. Модель имеет архитектуру Qwen2ForCausalLM, содержит 32 млрд параметров и принимает текст для генерации текста и диалоговых ответов. Длина контекста — 32 768 токенов; заявлена поддержка интерфейса вызова инструментов. Модель подходит для диалоговых сценариев и генерации текста, включая задачи рассуждения, на которые указывает название и включение QwQ-32B-Preview. Поддерживаемые языки в карточке не перечислены. Файлы представлены в формате safetensors и предназначены для использования с Transformers. Лицензия в предоставленных данных не указана.

Open-Instruct ShareGPT 65B — языковая модель AllenAI на архитектуре LLaMA с 65 млрд параметров, дообученная на очищенном наборе ShareGPT. Она предназначена для генерации ответов на инструкции и диалоговые запросы; карточка также приводит результаты на тестах знаний, математики, рассуждений, вопросов и ответов и генерации кода. Модель принимает текст и выдаёт текст, рассчитана на английский язык и поддерживает контекст до 2048 токенов. Это diff-модель: для использования нужны исходные веса LLaMA в формате Hugging Face, к которым применяются изменения модели. В README указаны лицензия AI model license и исходная лицензия LLaMA; перед использованием необходимо учитывать условия обеих лицензий. Качество генерации зависит от соблюдения описанного в карточке формата входного запроса.

Locutusque/Orca-2-13b-SFT_v5 — плотная языковая модель на архитектуре Llama, созданная полным дообучением Microsoft Orca-2-13b на наборах No Robots, EverythingLM, Guanaco, OpenAssistant и Open-Platypus. Модель содержит 12,9 млрд параметров и рассчитана на генерацию текста; карточка отмечает поддержку кода и языки английский, французский, испанский, хинди и китайский. Контекст составляет 4096 токенов, для запросов используется шаблон ChatML. Модель подходит для диалоговых ответов, следования инструкциям, решения задач и генерации кода. В README сообщается о тестовом loss 0,38 на Open-Platypus, но сравнительные оценки качества не приведены. Репозиторий содержит веса в формате safetensors. Для использования необходимо соблюдать исследовательскую лицензию Microsoft Orca-2; метаданные обозначают лицензию как other.

SII-Enigma/Qwen2.5-7B-Ins-SFT-32k — плотная причинно-языковая модель семейства Qwen2.5 с 7,1 млрд параметров, дообученная на основе Qwen/Qwen2.5-7B-Instruct. В README описан подход AMPO: он использует решения нескольких моделей-учителей, вмешиваясь, когда модель не справляется самостоятельно, и выбирая понятные ей варианты решений. Авторы заявляют, что подход улучшает результативность и эффективность по сравнению с одним RL или SFT. Модель предназначена для генерации текста и диалогов, в том числе для задач рассуждения. Контекст составляет 32 768 токенов; репозиторий использует формат Safetensors и библиотеку Transformers. Метаданные указывают интерфейс вызова инструментов, но README не приводит подробных примеров или результатов оценки именно этого чекпойнта. Указана лицензия Apache-2.0.

bunnycore/Qwen2.5-7B-Instruct-Fusion — языковая модель для генерации текста, созданная автором репозитория с помощью слияния нескольких предварительно обученных моделей методом Model Stock через mergekit. В качестве основы использована Qwen/Qwen2.5-7B; также объединены rombodawg/Rombos-LLM-V2.5-Qwen-7b, fblgit/cybertron-v4-qw7B-MGS и sethuiyer/Qwen2.5-7B-Anvita. Модель имеет плотную архитектуру Qwen2 и 7,1 млрд параметров. Она принимает текст и генерирует текст, поддерживает диалоговый интерфейс и интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Подходит для диалогов и широких задач генерации текста; в README приведены результаты оценивания на IFEval и BBH. Веса опубликованы в формате Safetensors и указана библиотека Transformers. Лицензия в предоставленных данных не указана, поэтому условия использования по ним определить нельзя.

NVIDIA Qwen3-14B NVFP4 — квантизированная версия авторегрессионной языковой модели Qwen3-14B, разработанной Alibaba и подготовленной с помощью NVIDIA TensorRT Model Optimizer. Модель предназначена для генерации текста и может использоваться в AI-агентах, чат-ботах, RAG-системах и других приложениях на основе искусственного интеллекта. Модель построена на архитектуре Transformers и содержит около 14,8 млрд параметров. Она принимает и генерирует текстовые последовательности, поддерживает контекст до 131K токенов и использует квантизацию весов и активаций линейных операторов в трансформерных блоках до формата FP4. Модель подготовлена для инференса через TensorRT-LLM, оптимизирована для систем с GPU NVIDIA, включая микроархитектуру Blackwell, и рассчитана прежде всего на Linux. Версия Model Optimizer — 0.35.0. К сильным сторонам относятся уменьшенное представление модели за счёт FP4-квантизации, поддержка длинного контекста и возможность производительного развёртывания на совместимом оборудовании NVIDIA. Ограничения включают зависимость от TensorRT-LLM и совместимой NVIDIA-платформы; сведения о языках, результатах тестирования, обучающих данных и характеристиках качества в карточке не раскрыты. Использование регулируется лицензией Apache 2.0 и допускается для коммерческих и некоммерческих задач.

Qwen3-30B-A3B-Instruct-2507-FP8 — это инструктивная авторегрессионная текстовая модель семейства Qwen3, представленная в репозитории furiosa-ai и предназначенная для запуска на аппаратной платформе FuriosaAI RNGD с использованием Furiosa-LLM. В основе лежит архитектура Mixture-of-Experts (MoE): модель содержит около 30,5 млрд параметров, из которых примерно 3,3 млрд активируются для каждого токена. Модель работает только в режиме non-thinking, поддерживает ввод и вывод текста, а также выпущена под лицензией Apache 2.0. Модель предназначена для следования инструкциям, рассуждений над текстом, многоязычных задач и использования инструментов через function calling. Она поддерживает вызовы инструментов с parser hermes, применяемым в серии Qwen3, и может обслуживаться через OpenAI-совместимый API Furiosa-LLM. Указанный вариант рассчитан на работу с четырьмя картами FuriosaAI RNGD, использующими tensor parallelism с размером 32 processing elements. Веса статически квантизированы в FP8, активации динамически квантизируются в FP8 во время выполнения, а KV-кэш сохраняется в 16-битной точности. Это может снизить требования к памяти и повысить эффективность инференса, но README не содержит данных о размере контекстного окна, поддерживаемых языках, точных показателях качества и производительности, поэтому эти характеристики оценить нельзя. Основное ограничение — привязка описанной конфигурации к Furiosa-LLM и оборудованию FuriosaAI RNGD; для других фреймворков следует обращаться к карточке исходной модели Qwen.

techwithsergiu/Qwen3.5-text-9B-bnb-4bit — текстовая производная модели Qwen3.5-9B, подготовленная разработчиком techwithsergiu на основе text-only версии techwithsergiu/Qwen3.5-text-9B. Модель предназначена для генерации текста и диалоговых сценариев, а также для адаптации под специализированные задачи с помощью LoRA и QLoRA. Поддерживает режимы прямого ответа и пошагового рассуждения, указанные в README. Модель имеет размер 9B параметров и использует текстовый backbone, без visual tower, поэтому принимает только текстовые входные данные и не предназначена для обработки изображений. Backbone подвергнут 4-битному квантованию BNB NF4 с double quantization и вычислениями в bfloat16; веса lm_head сохранены в bf16 для повышения качества и стабильности вывода. Такое представление уменьшает требования к видеопамяти по сравнению с полноразмерной версией и упрощает использование в text-only LoRA fine-tuning. К ограничениям относятся отсутствие мультимодальных возможностей и отсутствие в README точных сведений о поддерживаемых языках и размере контекстного окна. Документация по тонкой настройке отмечена как находящаяся в разработке, хотя inference проверен, а применение с Unsloth и QLoRA заявлено как основной сценарий обучения. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-W4A16-AWQ — это 4-битная версия мультимодальной модели Qwen3.6-35B-A3B, разработанной командой Qwen и дополнительно квантованной пользователем hyperhuzaifa. Квантизация выполнена методом AWQ в формате compressed-tensors pack-quantized с симметричной схемой int4, размером группы 128 и разрядностью W4A16. Модель использует MoE-архитектуру с 35 млрд параметров и рассчитана на запуск с длинным контекстом на одной потребительской видеокарте с 24 ГБ памяти. На диске она занимает около 20,5 ГБ, а в памяти GPU — около 19,06 GiB. Модель предназначена для генерации текста и обработки изображений, поскольку сохраняет vision tower. В архитектуре используются 40 слоёв, включая 30 слоёв gated DeltaNet с линейным вниманием и 10 блоков полного внимания, а маршрутизация MoE выбирает 8 экспертов из 256. Также сохранена MTP-голова для спекулятивного декодирования. Квантированы языковые Linear-слои, включая routed и shared experts, но эмбеддинги, lm_head, vision tower, маршрутизаторы, нормализации и MTP-голова оставлены в bf16 для сохранения качества и совместимости. Основные преимущества — заметно сниженные требования к памяти, поддержка длинного контекста, мультимодальность и совместимость с vLLM версии 0.26.0 и новее. На одной 24-ГБ видеокарте заявлена работа с контекстом до 32K при использовании CUDA graphs; на двух GPU через tensor parallelism поддерживается до 262K токенов. Ограничения включают невысокую допустимую конкурентность на одной карте из-за recurrent cache для DeltaNet, резкое снижение скорости при использовании enforce-eager и необходимость корректно выбирать мультимодальный класс загрузки. MTP не рекомендуется включать на одной 24-ГБ карте из-за резкого уменьшения доступного KV-кэша; на двух PCIe-GPU он также может снижать итоговую производительность. Модель распространяется по лицензии Apache-2.0.

RentedNoodle/Qwen3.8-27B-GSQ-RCO-IQ3_XXS-Uncensored — это квантизированная GGUF-версия модели Qwen3.8-27B, созданная на основе abliterated-чекпойнта huihui-ai/Huihui-Qwen3.8-27B-abliterated. Это не новая дообученная модель: снижение выраженности отказов унаследовано от Huihui, а квантизация выполнена по методологии GSQ/RCO, разработанной ISTA-DASLab. Модель ориентирована на генерацию текста, диалоги, рассуждения, программирование, извлечение информации, работу с инструментами и мультимодальные сценарии, заявленные для базовой Qwen3.8. В README явно указаны английский и китайский языки, а также поддержка long-context и vision; конкретные характеристики мультимодального ввода для этого файла отдельно не подтверждены. Модель использует смешанную 3-битную квантизацию IQ3_XXS с размером файла около 9,75 GiB и примерно 27,3 млрд параметров. Сохранена MTP-head для speculative decoding, а 96 чувствительных тензоров оставлены в BF16. Заявлен контекст до 196K токенов с KV-кэшем q4_0 на видеокарте с 16 ГБ памяти, однако полноценная точность извлечения на всём окне 196K ещё не подтверждена: основные проверки проводились при 32K и 64K. Есть шаблон froggeric-qwen3.8-tool-use.jinja для вызова инструментов. Сильные стороны модели — возможность размещения большого контекста на одной 16-ГБ GPU, поддержка MTP и заметное ускорение генерации при совместимом llama.cpp, а также хорошие результаты в тестах извлечения из контекста, базового tool calling, связности диалога и смешанных задач. Ограничения связаны с потерями качества из-за квантизации и abliteration: для конкретного файла GPQA-Diamond составил 60,6% без рассуждений и 61,6% с рассуждениями, а расширенный тест вызова инструментов дал 9/14. Снижение отказов не гарантирует универсального соблюдения запросов, поэтому ответственность за безопасное и соответствующее требованиям использование несёт развёртывающая сторона. Модель распространяется по лицензии Apache-2.0.

SmolLM2-1.7B-Instruct-bnb-4bit — компактная 4-битная предварительно квантованная версия инструкционной языковой модели SmolLM2-1.7B, разработанной Hugging Face. Модель предназначена для выполнения широкого спектра текстовых задач и достаточно легковесна для запуска на устройствах с ограниченными ресурсами. Вариант Instruct дополнительно обучен следовать инструкциям с помощью supervised fine-tuning и Direct Preference Optimization (DPO). Модель содержит 1,7 млрд параметров и работает с текстом на английском языке. Она ориентирована на диалоговые сценарии, переписывание и суммаризацию текста, решение задач, работу с кодом и function calling. Обучение базовой модели проводилось на 11 трлн токенов из наборов FineWeb-Edu, DCLM, The Stack, а также математических и кодовых данных; инструкционная версия использовала публичные и подготовленные разработчиками наборы, включая UltraFeedback и Synth-APIGen-v0.1. README не содержит сведений о размере контекстного окна и точной архитектуре. Ключевые преимущества — малый размер, сниженные требования к памяти благодаря 4-битной квантованию и улучшения в следовании инструкциям, знаниях, рассуждениях и математике по сравнению с SmolLM1-1.7B. Ограничения включают заявленную поддержку только английского языка и потенциальные компромиссы в качестве, вызванные квантованием и компактным размером. Модель распространяется под лицензией Apache-2.0.

Ziya2-13B-Chat 是由 Fengshenbang-LM 团队开发的中文和英文对话模型，基于 LLaMA2 系列的 Ziya2-13B-Base 构建。它采用约 12.9B 参数的稠密 LLaMA 架构，以 PyTorch 格式提供，原生上下文长度为 4096 个 token。 模型先经过通用指令和知识增强指令的监督微调，再使用人类偏好数据进行全参数 RLHF 训练，面向问答、推理、写作、代码、常识、对话、自然语言理解和安全相关场景。 README указывает, что в supervised fine-tuning использовалось окно 8k токенов; указанная в метаданных нативная длина контекста модели — 4096 токенов. Модель рассчитана на текстовый ввод и генерацию текста на китайском и английском языках. Карточка сообщает о сравнительных человеческих оценках, но не даёт оснований считать ответы всегда точными или безопасными; длинные запросы сверх нативного контекста могут быть ограничены. Лицензия — Apache-2.0.

Aether-492B — заявленная в README универсальная языковая модель CortexAether для диалогов, рассуждений, программирования, математики, анализа и творческой генерации. Метаданные Hugging Face описывают её как decoder-only MoE-модель семейства AetherMind с архитектурой AetherMindForCausalLM, библиотекой Transformers и форматом safetensors. При этом метаданные указывают 5,8 млн параметров, контекст 1024 токена и теги языков fa и en; заявленные в названии 492 млрд параметров этому не соответствуют. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, перевода, помощи с кодом и многошаговых задач. Возможны диалоговые и агентные сценарии, в том числе использование в качестве языкового компонента RAG-систем. README заявляет поддержку многоязычного общения, но не приводит результатов оценки; перечисленные там длинный контекст и широкий набор способностей следует считать заявленными, а не подтверждёнными характеристиками. Лицензия — Apache-2.0.

Agents-A1-4B — плотная языковая модель на 4 млрд параметров от InternScience, созданная для автономного выполнения многошаговых задач. Она основана на архитектуре Qwen3.5 и дообучена для агентных сценариев: поиска, инженерной работы, научных исследований, следования инструкциям и вызова инструментов. Модель поддерживает диалог и интерфейс вызова функций; веса доступны в формате safetensors и совместимы с Transformers, vLLM и SGLang. В README заявлена длина контекста до 262 144 токенов при указанной конфигурации SGLang. Модель предназначена для разложения сложных запросов на шаги, планирования, использования внешних инструментов и ответов на научные и профессиональные вопросы. В README приведены высокие результаты на тестах поиска, агентных задач и следования инструкциям, однако это заявления разработчика, и они не гарантируют качество в конкретном приложении. Лицензия Apache-2.0.

Карточка модели thoddnn/Bonsai-27B-mlx-1bit на Hugging Face совпадает с карточкой prism-ml/Bonsai-27B-mlx-1bit, поэтому описание составлено по ней. Bonsai-27B-mlx-1bit — 27-миллиардная модель для генерации текста и диалогов, представленная Prism ML. Это производная от Qwen/Qwen3.6-27B модель с гибридной архитектурой внимания: около 75% линейного и 25% полноразмерного внимания. Языковые веса представлены в бинарном формате с эффективной точностью 1,125 бита на параметр; башня зрения использует 4-битное HQQ-представление. Модель рассчитана на локальный запуск на устройствах Apple через MLX, а также поддерживает CUDA. Модель предназначена для рассуждений, работы с кодом, агентных сценариев, длинных диалогов и анализа документов. Заявлены контекст до 262 тысяч токенов и footprint около 3,9 ГБ; авторы сообщают о скорости около 11 токенов/с на iPhone 17 Pro Max и сохранении примерно 90% качества FP16-версии по выбранным бенчмаркам. Компактное представление позволяет запускать модель локально, включая смартфоны, ноутбуки и потребительские GPU. Основной компромисс — снижение качества относительно полной точности, особенно в наиболее сложных категориях; авторы также отмечают, что длительные агентные задачи программирования пока не являются сильной стороной этой версии. Производительность на телефоне зависит от теплового режима. Модель распространяется по лицензии Apache-2.0.

DeepSeek-V2.5-1210-FP8 — квантованная версия языковой модели DeepSeek-V2.5-1210, разработанная Neural Magic. Модель принимает текст и генерирует текст, предназначена для задач генерации и обработки естественного языка, включая развертывание чат-сервисов и других приложений на базе causal language model. В README указано, что модель доступна для инференса через библиотеку Transformers и оптимизирована для vLLM версии 0.5.2 и выше. Модель использует архитектуру DeepSeek-V2.5-1210 и формат квантования FP8 для весов и активаций. Квантованию подвергаются линейные операторы в блоках трансформера, за исключением маршрутизаторов MLP. Переход с 16 на 8 бит примерно на 50% уменьшает размер модели на диске и требования к памяти GPU. Указанный максимальный размер контекста для примера развертывания составляет 4096 токенов; язык в карточке заявлен как английский. На OpenLLM Leaderboard V1 модель получила средний результат 77,8, практически совпавший с результатом неквантованной версии 77,82. Сильными сторонами модели являются снижение требований к дисковой и GPU-памяти при сохранении близкой к исходной результативности, а также поддержка эффективного инференса и OpenAI-совместимой подачи через vLLM. Ограничения включают зависимость от совместимого стека vLLM, необходимость использования tensor parallelism для конфигурации из примера и отсутствие в README подробных сведений о числе параметров, полном списке языков и характеристиках исходной архитектуры. Модель распространяется по лицензии DeepSeek; точные условия указаны в файле лицензии по ссылке, приведенной в карточке.

DeepSeek-V3.1-Terminus-W4AFP8 — смешанно-точная квантованная версия DeepSeek-V3.1-Terminus. Репозиторий модели связан с deepseek-ai/DeepSeek-V3.1-Terminus; по метаданным это производная модели с архитектурой DeepSeek V3 и классом DeepseekV3ForCausalLM. Модель содержит 37,6 млрд параметров и рассчитана на генерацию текста, включая диалог и вызов инструментов через соответствующий интерфейс. Контекст составляет до 163 840 токенов. Веса плотных слоёв сохраняют формат FP8 исходной модели, а веса MoE-слоёв представлены в INT4 с активациями FP8 (W4AFP8). В README приведены результаты тестирования в режиме без рассуждений; для инференса описан запуск через SGLang версии 0.5.2 или новее с tensor parallel. Модель распространяется по лицензии MIT. Карточка не уточняет языки и специфические ограничения качества.

mlx-community/dolphin-2.9-llama3-8b-4bit-mlx — 4-битная конверсия в формат MLX модели Dolphin 2.9 от Cognitive Computations, выполненная сообществом mlx-community с помощью mlx-lm 0.10.0. В основе — дообученная Meta Llama 3 8B с плотной архитектурой LlamaForCausalLM; в метаданных указано 7,5 млрд параметров и контекст 8192 токена. Модель предназначена для диалоговой генерации текста и ответов на инструкции; среди обучающих данных есть наборы для кода, математики, общения и вызова функций. Модель принимает текст и генерирует текст. Карточка описывает запуск через mlx-lm. Лицензия указана как other, поэтому условия использования следует сверить с исходной карточкой модели и лицензией базовой Meta Llama 3. Подробные сведения об ограничениях и языковом покрытии в доступной карточке не приведены.

Dolphin-Mistral-24B-Venice-Edition-1.2-GGUF — это набор квантованных GGUF-версий модели Dolphin-Mistral-24B-Venice-Edition, разработанный пользователем douganger на основе релиза 1.2 от dphn. Модель предназначена для запуска локально с использованием совместимых инструментов, включая llama.cpp, и ориентирована на мультимодальные сценарии с обработкой текста и изображений, а также на работу с инструментами. Архитектурно это модель семейства Mistral с размером около 24 млрд параметров; доступны варианты квантования от Q3_K_M до Q8_0 размером примерно от 10,69 до 23,33 ГБ. Для версии 1.2 заявлены поддержка vision, контекст длиной до 131 тыс. токенов и улучшенный tool calling. Vision-адаптеры и importance matrix включены в сборку. README не указывает полный перечень поддерживаемых языков. Сильные стороны модели — широкий контекст, мультимодальность, улучшенная работа с инструментами и несколько вариантов квантования с разным компромиссом между размером и качеством; Q4_K_M обозначен как хороший вариант по умолчанию, а Q8_0 — практически эквивалентный исходным весам BF16. Ограничения связаны с требованиями к памяти, зависящими от выбранного квантования, а также с тем, что фактическая поддержка vision и tool calling зависит от совместимого программного обеспечения. Модель распространяется по лицензии Apache-2.0.

Dolphin X1 405B — диалоговая модель общего назначения, разработанная командой Dolphin на базе allenai/Llama-3.1-Tulu-3-405B. Это плотная авторегрессионная модель семейства Llama с 403,7 млрд параметров и контекстом до 131 072 токенов. Она сохраняет способности базовой модели следовать инструкциям и предназначена для диалогов и генерации текста; разработчики подчёркивают управляемость системным промптом и более низкий уровень отказов по сравнению с другими моделями этого класса. Модель рассчитана на развёртывание в собственных приложениях и инфраструктуре, где владелец задаёт системный промпт и правила поведения. В README приведены способы запуска через vLLM, Transformers и llama.cpp. Модель доступна по лицензии Apache-2.0. README заявляет о снижении частоты отказов, поэтому модель может выдавать ответы на запросы, которые другие модели отклоняют; качество и поведение следует оценивать в целевом сценарии.

Hermes-3-Llama-3.1-70B-GGUF — это квантизированная в формате GGUF версия языковой модели Hermes-3-Llama-3.1-70B, разработанной NousResearch. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалогового взаимодействия, включая задачи ассистирования, ролевого общения, работу с синтетическими данными и дистилляцией, вызов функций и формирование структурированных ответов в JSON. Модель основана на Llama 3.1 с 70 млрд параметров и ориентирована на англоязычные сценарии. Она поддерживает инструкционный формат общения ChatML, режим JSON и function calling; в README приведён специальный шаблон промпта с системными, пользовательскими и ассистентскими сообщениями. Доступно множество вариантов квантизации с разным соотношением качества, размера и требований к памяти: от Q8_0 размером около 75 ГБ до крайне компактных IQ1_M и IQ2-вариантов. Рекомендуемыми названы, в частности, Q6_K, Q5_K_M и варианты Q4. Сильной стороной модели является высокое качество старших вариантов квантизации и поддержка расширенных сценариев инструкционного использования, включая структурированный вывод и вызов функций. Ограничения связаны с большим размером 70-миллиардной модели, значительными требованиями к оперативной или видеопамяти и неизбежной потерей качества у низкобитных вариантов. Сведения о длине контекста и мультимодальных возможностях в README не указаны. Лицензия обозначена как llama3.

Huihui-Qwen3.6-35B-A3B-abliterated-NVFP4 — квантованная версия модели huihui-ai/Huihui-Qwen3.6-35B-A3B, подготовленная пользователем YuYu1015. Модель предназначена для генерации текста, диалоговых и рассуждающих сценариев, а также использования с вызовом инструментов. Она поддерживает режим рассуждений, tool calling через парсер qwen3_xml и спекулятивное декодирование MTP; совместимость с DFlash также заявлена. В основе лежит MoE-архитектура с 35 млрд параметров в общей сложности и примерно 3 млрд активных параметров: 256 экспертов, 8 маршрутизируемых и 1 общий эксперт, в сочетании с GDN/Mamba и механизмом внимания. Поддерживается контекст до 262 144 токенов, языки — английский и китайский. Модель использует NVFP4-квантизацию W4A4, занимает около 25,1 ГБ вместо примерно 71,9 ГБ в исходном формате BF16 и оптимизирована для NVIDIA DGX Spark с GPU GB10 SM121. Основные преимущества — существенно сниженные требования к памяти, сохранённые MTP-веса в BF16 и специальная смешанная калибровка на диалоговых и рассуждающих данных для восстановления точности. Ограничения включают зависимость от совместимых версий vLLM, FlashInfer и CUDA, а также необходимость подходящего оборудования и программного стека для заявленного режима W4A4. После abliteration распределение активаций отличается от исходного, поэтому эффективность DFlash снижается; для этой версии рекомендуется MTP с одним спекулятивным токеном. Модель распространяется по лицензии Apache-2.0.