II.1Анализ требований и архитектура ПО

Qwen1.5-72B-Chat-GGUF — квантованный вариант чат-модели Qwen1.5, разработанной командой Qwen. Это авторегрессионная языковая модель на основе архитектуры Transformer decoder-only, предназначенная для ведения диалогов и генерации текста. Модель подходит для чат-ботов, ответов на вопросы, обработки инструкций и других сценариев текстовой генерации. Модель содержит 72 миллиарда параметров и поддерживает контекст длиной до 32K токенов. Она работает с текстом и обучена для многоязычных сценариев, включая естественные языки и программный код; в метаданных README явно указан английский язык. После предварительного обучения модель прошла supervised fine-tuning и direct preference optimization, что направлено на улучшение качества диалогов и соответствия человеческим предпочтениям. Архитектура включает SwiGLU и attention с QKV bias; для beta-версии заявлено отсутствие GQA и сочетания sliding window attention с full attention, кроме отдельных вариантов. Репозиторий предоставляет GGUF-квантизации q2_k, q3_k_m, q4_0, q4_k_m, q5_0, q5_k_m, q6_k и q8_0, позволяющие выбирать компромисс между качеством, размером файлов и требованиями к ресурсам. Сильными сторонами являются большой размер, контекст 32K и поддержка локального запуска через llama.cpp. Ограничения включают высокие требования к памяти и вычислительным ресурсам для 72B-модели, а также возможные потери качества при более агрессивной квантизации. Лицензия указана как other, с названием tongyi-qianwen; подробные условия доступны по ссылке на LICENSE.

RedHatAI/Qwen3-30B-A3B-FP8-block — это текстовая causal language model, разработанная Red Hat на основе Qwen/Qwen3-30B-A3B. Модель принимает текст и генерирует текст, поэтому предназначена для диалоговых систем, ответов на вопросы, следования инструкциям, общего анализа текста и программирования. В README также приведены оценки на OpenLLM leaderboard и coding-бенчмарках HumanEval и MBPP. Архитектура модели обозначена как Qwen3MoeForCausalLM. Это версия с FP8-квантизацией весов и активаций линейных операторов внутри transformer-блоков; используется пок блочная квантизация весов и динамическая токенная квантизация активаций. Снижение разрядности с 16 до 8 бит уменьшает размер на диске и требования к GPU-памяти примерно на 50%. Число параметров указано в идентификаторе и базовой модели как 30B-A3B, однако размер контекста и поддерживаемые языки в README не указаны. К сильным сторонам относятся существенно сниженные требования к хранению и памяти при сохранении качества, близкого к исходной модели: средний результат в OpenLLM V1 составил 73,74 против 73,65 у базовой версии. Модель ориентирована на развёртывание с vLLM и форматом compressed-tensors. Ограничения включают возможные потери качества из-за квантизации, а также отсутствие в предоставленных данных подробностей о языковом покрытии и контекстном окне. Модель распространяется по лицензии Apache-2.0.

AtomicChat/Qwen3.5-9B-GGUF — квантизированная версия базовой модели Qwen/Qwen3.5-9B, подготовленная Atomic Chat. Модель распространяется в формате GGUF для локального и полностью офлайн-использования, в том числе через llama.cpp, Ollama, LM Studio и Jan. Репозиторий содержит текстовые варианты модели без vision projector, поэтому мультимодальные возможности базовой версии здесь недоступны. Модель имеет 9,7 млрд параметров, 32 слоя и заявленный контекст до 262 144 токенов. Архитектура описана как плотный декодер с 16 attention heads и 4 KV heads; базовая модель поддерживает текст и изображения, а опубликованные файлы предназначены только для генерации текста. Указаны варианты квантизации Q4_K_M, UD-Q4_K_XL, Q5_K_M, Q6_K и Q8_0 с размером примерно от 5,6 до 9,5 ГБ. Квантизация выполнена с importance matrix, что помогает сохранить качество при уменьшении требований к памяти; Q4_K_M позиционируется как оптимальный баланс размера, скорости и качества, тогда как Q8_0 обеспечивает почти исходную точность. Модель подходит для диалогов, генерации текста, программирования, рассуждений и агентских сценариев при локальном запуске. Ограничения включают отсутствие поддержки изображений в данном репозитории, зависимость качества и скорости от выбранного уровня квантизации и оборудования, а также необходимость применять chat template Qwen3.5. Исходная модель выпущена под лицензией Apache 2.0; квантизацию выполнила Atomic Chat.

Карточка модели dshive/Qwen3.6-35B-A3B на Hugging Face совпадает с карточкой Qwen/Qwen3.6-35B-A3B, поэтому описание составлено по ней. Qwen3.6-35B-A3B — открытая модель весов от Qwen, представленная как языковая модель с энкодером изображений и архитектурой смеси экспертов. В ней 35 млрд параметров, из которых при генерации активируются около 3 млрд; конфигурация включает 40 слоёв и 256 экспертов. Модель предназначена для диалогов, программирования и работы с изображениями, а также поддерживает вызов инструментов через соответствующий интерфейс. Основные сценарии — агентное программирование, анализ репозиториев, создание веб-интерфейсов и итеративная разработка с сохранением контекста рассуждений между сообщениями. Модель принимает текст и изображения и генерирует текст. Нативное окно контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. В README приведены англоязычные и китайскоязычные примеры оценки веб-разработки; полная таблица поддерживаемых языков опущена. Веса доступны в формате Safetensors и совместимы с Transformers, vLLM, SGLang и другими указанными средами. Для работы с длинным контекстом требуются значительные вычислительные ресурсы; README рекомендует уменьшать окно при нехватке памяти и современные серверные движки для производительных нагрузок. Лицензия — Apache 2.0.

Карточка модели Iambackup/Qwen3.6-35B-A3B на Hugging Face совпадает с карточкой Qwen/Qwen3.6-35B-A3B, поэтому описание составлено по ней. Qwen3.6-35B-A3B — открытая модель весов от Qwen, представленная как языковая модель с энкодером изображений и архитектурой смеси экспертов. В ней 35 млрд параметров, из которых при генерации активируются около 3 млрд; конфигурация включает 40 слоёв и 256 экспертов. Модель предназначена для диалогов, программирования и работы с изображениями, а также поддерживает вызов инструментов через соответствующий интерфейс. Основные сценарии — агентное программирование, анализ репозиториев, создание веб-интерфейсов и итеративная разработка с сохранением контекста рассуждений между сообщениями. Модель принимает текст и изображения и генерирует текст. Нативное окно контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. В README приведены англоязычные и китайскоязычные примеры оценки веб-разработки; полная таблица поддерживаемых языков опущена. Веса доступны в формате Safetensors и совместимы с Transformers, vLLM, SGLang и другими указанными средами. Для работы с длинным контекстом требуются значительные вычислительные ресурсы; README рекомендует уменьшать окно при нехватке памяти и современные серверные движки для производительных нагрузок. Лицензия — Apache 2.0.

Карточка модели Wudiam/Qwen3.6-35B-A3B на Hugging Face совпадает с карточкой Qwen/Qwen3.6-35B-A3B, поэтому описание составлено по ней. Qwen3.6-35B-A3B — открытая модель весов от Qwen, представленная как языковая модель с энкодером изображений и архитектурой смеси экспертов. В ней 35 млрд параметров, из которых при генерации активируются около 3 млрд; конфигурация включает 40 слоёв и 256 экспертов. Модель предназначена для диалогов, программирования и работы с изображениями, а также поддерживает вызов инструментов через соответствующий интерфейс. Основные сценарии — агентное программирование, анализ репозиториев, создание веб-интерфейсов и итеративная разработка с сохранением контекста рассуждений между сообщениями. Модель принимает текст и изображения и генерирует текст. Нативное окно контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. В README приведены англоязычные и китайскоязычные примеры оценки веб-разработки; полная таблица поддерживаемых языков опущена. Веса доступны в формате Safetensors и совместимы с Transformers, vLLM, SGLang и другими указанными средами. Для работы с длинным контекстом требуются значительные вычислительные ресурсы; README рекомендует уменьшать окно при нехватке памяти и современные серверные движки для производительных нагрузок. Лицензия — Apache 2.0.

tvall43/Qwen3.6-35B-A3B-heretic — созданная сообществом декензурированная версия Qwen3.6-35B-A3B, полученная с помощью Heretic v1.2.0 и метода ablation/abliteration, изменяющего проекции внимания. Это мультимодальная модель семейства Qwen с архитектурой MoE: всего 35 млрд параметров, из которых активируются около 3 млрд; она принимает текст и изображения и генерирует текст. Модель предназначена для диалогов, анализа изображений и задач программирования, включая работу с репозиториями и агентные сценарии с вызовом инструментов. В README приведено сравнение с исходной моделью: на указанной авторами выборке доля отказов снизилась с 86 из 100 до 5 из 100, а KL-дивергенция составила 0,0097. Контекст — 262 144 токена с возможностью расширения до 1 010 000 токенов. Для запуска используются веса safetensors и совместимые с Transformers среды, включая vLLM, SGLang и KTransformers. Модель опубликована по лицензии Apache-2.0. Изменение поведения отказов может приводить к ответам на запросы, которые исходная модель отклоняла; приведённые показатели относятся к оценке автора и не гарантируют качество или безопасность в иных сценариях.

Это квантованная сборка Qwen3.8-27B, подготовленная автором репозитория для запуска на Apple Silicon через oMLX. В основе — плотная мультимодальная архитектура Qwen3.5 с 27,8 млрд параметров, гибридом GatedDeltaNet и полнослойного attention, визуальным модулем в стиле SigLIP и контекстом до 256 тыс. токенов. Веса квантованы методом AWQ в среднем до 4,85 бита на параметр; размер сборки — 16,83 ГБ. Модель предназначена для диалогов, анализа изображений, программирования, математических и многошаговых задач. В README приведены результаты HumanEval, GSM8K и MMLU, близкие к исходной версии bf16 на использованных тестовых выборках. Интерфейс поддерживает вызов инструментов; для ускорения генерации доступна голова MTP. Для корректной загрузки требуется oMLX: README предупреждает, что другие загрузчики могут неверно обработать веса и выдавать некорректный текст. Для быстрой обработки длинного префикса требуется настроить указанные в карточке переменные окружения, пока исправление не включено в oMLX. Лицензия — Apache-2.0. Указанные языки в карточке модели не перечислены.

batiai/Qwen3.8-27B-GGUF — это квантизированная версия модели Qwen3.8-27B, основанной на архитектуре Qwen3.5. Квантизацию выпустила BatiAI на базе официального релиза Qwen. Модель предназначена для локального запуска через llama.cpp и Ollama, включая использование на устройствах Apple Silicon. Модель представляет собой плотную модель на 27 млрд параметров с 64 слоями, скрытым размером 5120 и словарём из 248 320 токенов. Она использует гибридную архитектуру с преимущественно линейным вниманием Gated DeltaNet и полным вниманием в каждом четвёртом блоке. Нативный контекст составляет 262 144 токена и заявлена возможность расширения до 1 млн токенов. Поддерживаются текстовые сценарии, а при подключении vision-проектора BF16 — анализ изображений и видео. Заявлены языки английский, корейский и китайский. Модель ориентирована на генерацию текста, рассуждения, планирование и агентские сценарии с обработкой обратной связи от окружения. Режим рассуждений включён по умолчанию, его можно отключать и настраивать через reasoning_effort. Доступно несколько вариантов квантизации объёмом примерно от 10,2 до 22,1 ГБ, а vision-проектор требует ещё около 0,93 ГБ. Квантизация снижает требования к памяти, но может влиять на качество по сравнению с полноточной моделью; конкретные требования зависят от выбранного варианта и оборудования. На Apple Silicon производительность разных квантизаций неодинакова, поэтому меньший файл не всегда означает более высокую скорость. Распространение указано по лицензии Apache-2.0.

Lucebox/Qwen3.8-27B-IQ4_XS-fast-GGUF — квантизированная GGUF-версия базовой модели Qwen/Qwen3.8-27B, подготовленная для проекта lucebox. Файл создан на основе IQ4_XS с imatrix-калибровкой от bartowski и полностью переквантизирован в IQ4_XS для снижения объёма и ускорения декодирования. Разработчик исходной модели — Qwen; сборку и оптимизацию файла выполнил Lucebox. Модель предназначена для генерации текста, программирования, математических задач и мультимодальных сценариев с анализом изображений. При использовании отдельного проектора Qwen3.8-27B-mmproj-Q8_0.gguf поддерживает ввод изображений через OpenAI-совместимый формат сообщений, до четырёх изображений за запрос. В README указан максимальный контекст до 131 072 токенов при соответствующей конфигурации сервера. Размер файла составляет 13,54 GiB. Для ускорения текстовой генерации предусмотрена совместная работа с черновой моделью DFlash2 и speculative decoding. Главное преимущество версии — более высокая скорость по сравнению с Unsloth UD-IQ4_XS: на указанном AMD Radeon AI PRO R9700 измерено 37,4 токена/с при обычном декодировании и 174,5 токена/с в сквозном тесте с draft-моделью. Компромисс — немного более низкое качество: относительно Q8_0 зафиксированы рост perplexity на 1,9%, top-1 agreement 92%, результат HumanEval 144/164 и GSM8K 171/200. Показатели зависят от оборудования, настроек и сценария; для задач, чувствительных к качеству, README рекомендует UD-IQ4_XS. Модель распространяется по лицензии Apache-2.0.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-NEO-CODER-GGUF — это набор моделей в формате GGUF на базе Qwen3.8-27B, первоначально разработанной Qwen / Alibaba Cloud. Некорректированные и оптимизированные для программирования веса предоставлены DavidAU, а сборка и упаковка выполнены Solstice-AI. Модель ориентирована на генерацию и анализ кода, агентные сценарии, сложное алгоритмическое проектирование, математические рассуждения и задачи, связанные с SWE-bench. Также заявлена поддержка обработки изображений через отдельный мультимодальный vision-проектор mmproj-BF16.gguf. Основная модель имеет размер 27B параметров и поставляется в вариантах квантования от Q4_K_M до Q8_0; рекомендуемый Q4_K_M занимает около 16,81 ГБ. Заявлены контекст до 131 072 токенов, языки English и Chinese, управление интенсивностью рассуждений через reasoning_effort, детерминированный XML-вызов инструментов и поддержка Multi-Token Prediction для speculative decoding. Для ускорения вывода доступны MTP-модели и DSpark drafter; README заявляет ускорение speculative decoding до 1,8 раза. Сильные стороны модели — специализация на программировании, поддержка многофайлового рефакторинга, инструментального взаимодействия, мультимодального ввода и нескольких уровней точности. Ограничения включают значительные требования к памяти, зависящие от выбранного квантования, а также необходимость совместимого программного обеспечения и отдельных компонентов для vision и speculative decoding. Модель распространяется по лицензии Apache-2.0.

Qwen3-8B-GGUF — это квантизированная версия языковой модели Qwen3-8B, разработанной командой Qwen. Модель подготовлена в формате GGUF пользователем bartowski на основе llama.cpp, релиз b5200, и предназначена для генерации текста и локального использования через совместимые инструменты, включая LM Studio. Модель ориентирована на творческое письмо, ролевые сценарии, многошаговые диалоги, следование инструкциям, математику, программирование, рассуждения и агентские задачи. Она поддерживает более 100 языков и диалектов, а также режимы с рассуждением и без него; режим рассуждения можно отключить, добавив в запрос параметр /no_think. Заявлена поддержка контекста до 131 072 токенов с использованием YaRN, при этом стандартное значение составляет 32 000 токенов. Ключевое ограничение — это квантизированная сборка, поэтому фактические требования к ресурсам и качество могут зависеть от выбранного варианта квантизации и используемого программного обеспечения. Модель может генерировать неточные, вредные или неподходящие ответы, поэтому результаты требуют проверки. Лицензия модели — Apache-2.0.

local-inference-lab/Qwen3.8-Flash-Next-NVFP4 — мультимодальная conversational-модель, дистиллированная из Qwen/Qwen3.8-Flash-Next с применением quantization-aware distillation. Она предназначена для диалогов, общего следования инструкциям, reasoning, программирования, multilingual-сценариев и обработки изображений с текстом. В качестве учителя использовалась исходная BF16-модель Qwen, а обучение проводилось на корпусе из 200 004 844 prompt-and-response токенов и 53 573 документов с последовательностями до 8 192 токенов. Архитектура сохранена без сокращения числа слоёв и экспертов: 48 decoder layers, 512 routed experts на слой, из которых для каждого токена активны 10, гибрид Gated DeltaNet/Qwen Sparse Attention и n-gram embedding tables. Сжатие достигается пониженной точностью весов: routed experts и часть компонентов используют NVFP4, другие проекции — MXFP8, а отдельные параметры остаются в BF16. Также сохранены vision encoder, MTP-модуль, tokenizer, chat template и vision assets. Размер checkpoint составляет около 98 GiB; заявлены оценки AA-LCR 79.4, GPQA Diamond 89.9 и Tool Eval Bench 91. Сильные стороны модели — сохранение исходной архитектуры, обучение с компенсацией ошибок квантования и более высокая эффективность по сравнению с NVFP4 PTQ на GPQA Diamond: при сопоставимом качестве модель использовала меньше токенов. Ограничения включают значительный объём checkpoint, дополнительные требования к памяти для KV cache и runtime buffers, а также необходимость runtime с поддержкой Qwen3.8-Flash-Next и смешанного ModelOpt-формата NVFP4/MXFP8, включая NVFP4 PLE tables. Модель распространяется по лицензии qwen-community-1.0; точные условия следует проверять по указанной license-ссылке.

Radiantloom Llama 70B Instruct — большая языковая модель Radiantloom AI на архитектуре Llama с 68,7 млрд параметров. Это дообученная модель для генерации текста и диалогов; в карточке указаны формат safetensors и лицензия Llama 2. Модель предназначена для чата, написания и суммаризации текстов, ответов на вопросы, программирования, ролевых сценариев и работы в RAG-системах. README отмечает генерацию развернутых ответов и поддержку многоходовых диалогов. Длина контекста — 32 764 токена. Для диалогов рекомендуется шаблон ChatML, хотя пример в карточке показывает другой формат. По заявлению разработчика, модель показывает хорошие результаты в письме, коде и рассуждениях, однако оценка пока предварительная и основана на LLM-as-a-Judge. Ответы могут содержать фактические ошибки, предвзятый или оскорбительный контент, включая материалы NSFW; перед применением в пользовательских системах нужна проверка безопасности.

Radiantloom Mixtral 8X7B Fusion — языковая модель компании Radiantloom AI на архитектуре Mixtral с Mixture of Experts. README указывает около 47 млрд параметров, а метаданные — 7,1 млрд; контекст в метаданных составляет 32 768 токенов. Модель принимает текст и генерирует текст, поддерживает диалоговый режим и использует шаблон запросов с токенами [INST] и [/INST]. Модель предназначена для генерации текста, творческого письма, многошагового диалога, суммаризации, ответов на вопросы, программирования и сценариев RAG. В README отмечены развёрнутые ответы и сильные результаты в задачах письма; приведены начальные оценки на бенчмарках, но они не заменяют независимую проверку. Модель не проходила настройку на безопасность и может выдавать токсичный, предвзятый, NSFW или фактически неверный контент. Для предоставления пользователям рекомендуется добавить собственный слой выравнивания и провести проверки безопасности. Метаданные указывают лицензию Apache-2.0. README сообщает длину контекста 4096 токенов, что расходится с метаданными; здесь приведено значение метаданных.

Rombo-LLM-V2.5-Qwen-7b — дообученная разработчиком Rombo-Org языковая модель на архитектуре Qwen2, основанная на Qwen/Qwen2.5-7B-Instruct. В README указано, что модель получена непрерывным дообучением и объединением instruct- и базовой версий методом TIES; заявлено повышение производительности относительно исходных моделей. Модель содержит 7,1 млрд параметров, принимает текст и предназначена для генерации текста и диалогов. Максимальная длина контекста составляет 131 072 токена. В метаданных указаны интерфейс вызова инструментов и формат весов safetensors; README также упоминает наличие квантованных версий GGUF. Модель опубликована по лицензии Apache-2.0.

Seed-OSS-36B-Base — базовая большая языковая модель команды ByteDance Seed, опубликованная под лицензией Apache-2.0. Это плотная авторегрессионная модель на архитектуре Seed-OSS с 31,7 млрд параметров по метаданным; в карточке семейства указаны RoPE, групповое внимание GQA, RMSNorm и активация SwiGLU. Модель принимает текст и генерирует текст. Модель предназначена для дообучения и применения в задачах общего назначения, рассуждений, работы с длинными контекстами и построения агентных систем. Она обучена на 12 трлн токенов, нативно поддерживает контекст до 524 288 токенов и позволяет управлять бюджетом рассуждений. Версия Base включает синтетические инструкционные данные в предобучение; команда также выпустила вариант без этих данных и отдельную версию Instruct. Семейство ориентировано на международное использование. Карточка рекомендует выбирать длину рассуждений с учётом сложности задачи; результаты зависят от бюджета и настроек генерации. Для запуска доступны Transformers и vLLM.

Tess-v2.5.2-Qwen2-72B — языковая модель для диалоговой генерации текста, созданная Мигелем Тиссерой (Migel Tissera) в серии Tess. Это плотная модель Qwen2 с 71,5 млрд параметров и контекстом до 131 072 токенов; она принимает текст и обучена следовать формату диалога ChatML. Модель дообучена на Qwen2-72B с использованием набора Tess-v2.5 из 300 тысяч синтетических примеров по широкому кругу тем, включая программирование, математику, STEM, бизнес, историю, общественные науки и искусство. Автор указывает на улучшения в рассуждениях, программировании и математике. Модель может поддерживать беседу и задавать уточняющие вопросы; чтобы отключить их, в системной инструкции можно попросить не задавать дополнительных вопросов. Обучение проводилось без RLHF и DPO. Модель подходит для диалоговых помощников, объяснений, рассуждений и помощи с кодом. Она может выдавать неточные, вводящие в заблуждение, предвзятые или оскорбительные ответы; результаты следует проверять. Автор характеризует модель как uncensored. Лицензия в метаданных обозначена как other, конкретные условия использования следует проверять в репозитории.

T-pro-it-2.1 — русскоязычная диалоговая модель семейства Qwen3, разработанная командой T-tech и дообученная на базе Qwen/Qwen3-32B. Это плотная языковая модель с 29,7 млрд параметров и контекстом до 40 960 токенов по метаданным; README отдельно указывает нативный контекст 32 768 токенов. Модель предназначена для диалога, следования сложным инструкциям, генерации текстов в несколько шагов и сценариев с вызовом инструментов. По заявлению разработчиков, она улучшена относительно T-pro-it-2.0 в следовании инструкциям и вызове инструментов; обучение включало инструкционный midtraining, SFT и оптимизацию GRPO с последующим слиянием экспертов методом SLERP. Модель принимает текст и генерирует текст, поддерживает русский язык, а также показывает результаты на англоязычных наборах оценки. README указывает режим без рассуждений (non-thinking). Для использования доступны веса в формате Safetensors и библиотека Transformers; лицензия — Apache-2.0. Разработчики предупреждают, что внедряющие модель самостоятельно отвечают за дополнительное обучение, надзор и приемлемость ответов. Приведённые в карточке бенчмарки являются результатами разработчиков и не гарантируют качество в конкретной прикладной системе.

Trinity-Large-Thinking — ориентированная на рассуждения и агентные сценарии модель семейства Trinity-Large от Arcee AI. Это дообученная на базе arcee-ai/Trinity-Large-Base разреженная MoE-модель для генерации текста; по README, в семействе около 398 млрд параметров и примерно 13 млрд активных параметров на токен, используется 256 экспертов, включая одного общего. Метаданные указывают 8,7 млрд параметров, поэтому точный размер данного чекпойнта в источниках расходится. Модель предназначена для многошагового планирования, вызова инструментов, диалогов и задач, требующих развёрнутых рассуждений. Она формирует трассы рассуждений в специальных блоках, которые следует сохранять в контексте при многоходовом взаимодействии и циклах агента. Поддерживает 262 144 токена контекста и языки en, es, fr, de, it, pt, ru, ar, hi, ko и zh. Метаданные указывают лицензию other; конкретные условия использования следует сверять с карточкой модели.

Yi-1.5-34B-Chat-GGUF — квантизированная в формате GGUF версия диалоговой языковой модели Yi-1.5-34B-Chat, разработанной компанией 01-ai. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для локального текстового общения и широкого круга задач: генерации текста, следования инструкциям, программирования, математики, рассуждений, понимания языка, здравого смысла и чтения с пониманием. Модель содержит около 34 млрд параметров и относится к семейству текстовых моделей с архитектурной основой Llama. Она поддерживает диалоговый шаблон ChatML и рассчитана на общий сценарий использования. Yi-1.5 была дополнительно обучена на корпусе объёмом 500 млрд токенов и дообучена на 3 млн разнообразных примеров; точная длина контекста, языки и другие технические характеристики в README не указаны. Сильные стороны модели — универсальность, развитое следование инструкциям, способности к программированию, математике, рассуждениям и пониманию текста. Ограничения включают отсутствие опубликованных подробных технических характеристик, а также типичные для генеративных моделей риски неточностей, неподходящего или вредного содержания. Модель распространяется по лицензии Apache-2.0.

Карточка модели DIYIN/Youtu-LLM-2B на Hugging Face совпадает с карточкой tencent/Youtu-LLM-2B, поэтому описание составлено по ней. Youtu-LLM-2B — инструктивная языковая модель Tencent для диалогов, рассуждений и выполнения задач агентного типа. Это плотная авторегрессионная модель с архитектурой YoutuForCausalLM и механизмом Dense MLA; в ней около 2 млрд параметров, 32 слоя и словарь из 128 256 токенов. Модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и режим рассуждений, включаемый через шаблон диалога. Модель предназначена для чат-ботов, ответов на вопросы, задач STEM и программирования, работы с длинными контекстами и многошаговых агентных сценариев. Карточка приводит сравнительные результаты на общих и агентных бенчмарках, но эти оценки не гарантируют качество на конкретных данных. В репозитории указана лицензия other; конкретные условия следует сверять с текстом лицензии проекта.

AI21-Jamba-Reasoning-3B — компактная модель рассуждений компании AI21 для генерации текста и диалогов. Она предназначена для решения задач, требующих пошагового анализа, и работы с длинными входными материалами; в карточке заявлено преимущество на совокупности нескольких интеллектуальных бенчмарков по сравнению с рядом моделей сходного размера. Модель содержит около 2,3 млрд параметров по метаданным каталога. Её гибридная архитектура Jamba сочетает слои Transformer и Mamba: 26 слоёв Mamba и 2 слоя внимания, 20 голов внимания с multi-query attention и словарь размером 64 тыс. токенов. Контекст достигает 262 144 токенов. Модель принимает текст и генерирует текст; в метаданных также заявлен интерфейс для вызова инструментов. Поддерживаются английский, испанский, французский, португальский, итальянский, нидерландский, немецкий, арабский и иврит. AI21 рекомендует запуск через vLLM версии 0.11.0 или выше с настройкой кэша Mamba; README также описывает локальный запуск через отдельную GGUF-сборку. Репозиторий распространяется под лицензией Apache-2.0. Практические ограничения: опубликованные в README сравнительные результаты приведены не для всех конкурентов в доступном фрагменте, а обучение через VeRL на момент карточки ещё описано как будущее расширение.

airoboros-33b-gpt4-m2.0 — плотная авторегрессионная языковая модель семейства LLaMA с 32,3 млрд параметров, созданная Джоном Дурбином как дообучение с инструкциями на синтетических примерах Airoboros. Версия m2.0 объединяет набор данных версии 1.4.1 с данными серии 2.0 без дубликатов и категории system; данные серии 2.0 были сгенерированы GPT-4 от 14 июня 2023 года. Модель работает с текстом и предназначена для диалогов и выполнения инструкций. Модель подходит для ответов на вопросы по заданному контексту, помощи с программированием, планирования действий с инструментами и генерации структурированных ответов в JSON или YAML. Для контекстных вопросов README рекомендует явно размечать блоки входных данных и инструкций; автор также предупреждает, что модель может выдумывать ответы, если контекст не содержит нужной информации. Формат диалога использует префикс USER/ASSISTANT и системное описание помощника. Указанное в метаданных ограничение контекста — 2048 токенов. Для версии на 33 млрд параметров README сообщает о QLoRA-дообучении и исследовательском, некоммерческом назначении. Лицензия репозитория — CC BY-NC 4.0, поэтому коммерческое использование не допускается по указанным условиям.

airoboros-65b-gpt4-2.0 — плотная языковая модель семейства LLaMA на 65 млрд параметров, дообученная jondurbin для следования инструкциям на синтетических примерах, созданных GPT-4. Серия 2.0 использует данные GPT-4 версии 0614; вариант m2.0 дополнительно объединяет набор данных 1.4.1 без дубликатов и категории system. Модель предназначена для диалоговых ответов, вопросов по предоставленному контексту, программирования, построения планов и генерации структурированных аргументов функций в JSON или YAML. Для диалога используется текстовый шаблон с ролями USER и ASSISTANT; заявленная длина контекста — 2048 токенов. В README для моделей 65B отмечено QLoRA-дообучение. Это текстовая модель, и качество её ответов не гарантирует точность: карточка рекомендует явно просить не придумывать ответ при недостатке данных. Лицензия CC BY-NC 4.0 разрешает некоммерческое использование; коммерческое использование запрещено.

airoboros-65b-gpt4-m2.0 — плотная авторегрессионная модель семейства LLaMA на 65 млрд параметров, разработанная Jon Durbin и дообученная для следования инструкциям на синтетических данных Airoboros. Версия m2.0 объединяет данные набора 1.4.1 без дубликатов и категории system с данными GPT-4, созданными на основе версии от июня 2023 года; исходная серия также включала данные GPT-4 от марта 2023 года. Модель предназначена для диалога и генерации текста по инструкциям: ответов на вопросы по предоставленному контексту, помощи с программированием, планирования шагов для задач с инструментами и генерации аргументов функций в JSON или YAML. Для общения используется текстовый шаблон с ролями USER и ASSISTANT. Контекст составляет 2048 токенов. Модель обучена с QLoRA; README отмечает, что варианты 65B основаны на оригинальной LLaMA, а не Llama 2. Карточка описывает модель как дающую подробные ответы, ориентированную на использование контекста в закрытых вопросах и включающую примеры планирования и вызова функций. Возможны галлюцинации, особенно если запрос не содержит достаточных сведений; для вопросов по контексту автор рекомендует явно просить не придумывать ответ. Модель выпускается по лицензии CC BY-NC 4.0, допускающей использование с указанием авторства и ограничивающей коммерческое применение.

Apertus-8B-2509 — открытая языковая модель семейства Apertus, разработанная Swiss AI. Это плотный авторегрессионный трансформер-декодер с 10,3 млрд параметров, обученный с нуля на 15 трлн токенов и дообученный с учителем с последующим выравниванием. Модель предназначена для генерации текста, многоязычного общения и работы с длинным контекстом; поддерживает вызов инструментов. Контекстное окно — до 65 536 токенов. Карточка заявляет поддержку более 1 800 языков. Модель ориентирована на открытое и прозрачное применение: разработчики публикуют веса, данные и сведения о процессе обучения. Репозиторий использует формат Safetensors и библиотеку Transformers; лицензия — Apache-2.0. Модель может генерировать фактически неточный или непоследовательный текст и отражать предвзятость обучающих данных. Фильтр для персональных данных в комплект не входит, поэтому важные ответы следует проверять, а выводы с персональными данными — обрабатывать с осторожностью.

Azure99/Blossom-V7.1-9B-GGUF — открытая мультимодальная модель общего назначения семейства Blossom-V7.1, разработанная командой Azure99. Эта версия представлена в формате GGUF и основана на Qwen3.5-9B, поэтому ориентирована на локальный запуск на устройствах с ограниченными ресурсами, включая компактные GPU и мобильные устройства. Модель предназначена для повседневного диалога, работы с общими знаниями, математики и рассуждений, программирования, веб-разработки, визуализации данных и агентных сценариев с использованием инструментов. Она принимает текст и изображения, поддерживает два режима рассуждений — medium и max — и умеет рассуждать перед каждым вызовом инструмента. Заявлена поддержка английского и китайского языков. Максимальная длина контекста составляет 262 144 токена, при этом для наилучших результатов рекомендуется использовать до 131 072 токенов. К сильным сторонам относятся мультимодальное понимание изображений, расширенный контекст, поддержка инструментального использования и спекулятивного декодирования MTP в vLLM и llama.cpp. Ограничениями являются меньший размер и, вероятно, более низкие возможности по сравнению с вариантами Blossom на 27B и 35B-A3B, а также необходимость использовать встроенный специализированный chat template и сохранять сообщения с рассуждениями в многоходовых диалогах. Модель распространяется по лицензии Apache-2.0.

C4AI Command-R v01 — авторегрессионная плотная языковая модель Cohere и Cohere For AI на 35 млрд параметров, выпущенная с открытыми весами. Она предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений и работы с RAG; также обучена формировать вызовы инструментов в специальном формате диалога. Модель принимает и генерирует текст. Она построена на оптимизированном трансформере, после предварительного обучения прошла дообучение с учителем и обучение на предпочтениях. Контекст составляет 128K токенов. Модель рассчитана на английский, французский, немецкий, испанский, итальянский, бразильский португальский, японский, корейский, упрощённый китайский и арабский; русский входил в дополнительные языки предобучения, но не указан среди языков, на которых модель специально оптимизирована. Весам требуется следовать лицензии CC-BY-NC-4.0 и Политике допустимого использования C4AI. Для вызова инструментов рекомендуется использовать предусмотренный шаблон диалога: отклонение от него может снизить качество. README указывает на сильные возможности RAG, но для их использования нужно предоставить модели найденные документы и соответствующий формат запроса.

MaziyarPanahi/calme-2.4-rys-78b — плотная авторегрессионная языковая модель семейства Qwen2, дообученная Maziyar Panahi на базе calme-2.1-rys-78b. Она предназначена для диалогов и генерации текста: ответов на вопросы, работы виртуальных помощников, создания и суммаризации контента, а также генерации и анализа кода и решения сложных задач. Модель насчитывает 76,7 млрд параметров, поддерживает контекст до 32 768 токенов и использует шаблон диалога ChatML. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH, но конкретных гарантий качества для отдельных сценариев нет. Модель может наследовать смещения и давать ненадёжные ответы; для применения нужны проверка результатов и человеческий контроль. Лицензия — MIT.