II.3Рефакторинг, миграция и модернизация

C4AI Command R7B 12-2024 — авторегрессионная языковая модель семейства Cohere2, разработанная Cohere и Cohere For AI. В карточке заявлены 7 млрд параметров, а метаданные указывают 8 млрд; модель использует архитектуру Transformer с чередованием слоёв скользящего и глобального внимания. Метаданные указывают контекст 8192 токена, тогда как README заявляет 128K, поэтому фактическую длину контекста следует проверять для используемой конфигурации. Модель предназначена для диалогов и инструктивных задач: ответов на вопросы, суммаризации, рассуждений, перевода, категоризации и генерации кода. Она обучена для сценариев RAG и использования инструментов, включая многошаговое взаимодействие с ними. Поддерживает текст на 23 языках, среди которых русский и английский; принимает и генерирует только текст. Весам требуется Transformers с поддержкой этой модели. Лицензия CC-BY-NC-4.0, также необходимо соблюдать политику допустимого использования Cohere AI. README описывает выпуск как исследовательский и приводит оценки на бенчмарках; качество в конкретных задачах следует проверять отдельно.

RedHatAI публикует инструкционно дообученную версию Gemma 4 26B A4B от Google DeepMind. Это мультимодальная модель семейства Gemma 4 с архитектурой Gemma4ForConditionalGeneration; вариант 26B A4B использует архитектуру Mixture of Experts и принимает текст и изображения, генерируя текст. Семейство поддерживает контекст до 256 тысяч токенов и работу более чем с 140 языками на уровне предобучения; авторы указывают практическую поддержку более 35 языков. Модель предназначена для диалогов, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания текста на изображениях, понимания графиков и интерфейсов, а также для сценариев с вызовом инструментов. Длинный контекст и чередование текста с изображениями подходят для анализа больших материалов и визуальных данных. Аудиовозможности в README заявлены только для меньших вариантов E2B и E4B, поэтому их не следует считать возможностью этой модели. Модель распространяется в формате Safetensors под лицензией Apache 2.0. Авторы отмечают общие ограничения моделей Gemma 4, но не приводят конкретных для этой версии показателей качества; результаты могут зависеть от задачи и языка.

Neuron-4B-Instruct — мультиязычная языковая модель с настройкой на выполнение инструкций, разработанная Neura Tech AI на основе Qwen/Qwen3-4B-Instruct-2507. Это плотная авторегрессионная модель семейства Qwen3 с архитектурой Transformer Decoder и примерно 3,7 млрд параметров. Модель предназначена для диалогов и работы в роли ИИ-ассистента: она помогает с программированием, рассуждениями, математическими задачами, творческим письмом, переводом и вызовом инструментов. Поддерживает контекст до 262 144 токенов и множество языков, включая английский, русский, китайский, хинди, японский, корейский, европейские и южноазиатские языки. Модель принимает текст и генерирует текст. Карточка приводит сравнительные результаты на тестах знаний, но они не гарантируют качество в конкретных задачах; ответы могут содержать ошибки. Распространяется по лицензии Apache-2.0.

NVIDIA Nemotron-3-Super-120B-A12B-BF16 — разговорная большая языковая модель NVIDIA для рассуждений, следования инструкциям и построения агентных систем. В карточке указаны 120 млрд параметров, из которых активно используются 12 млрд; архитектура LatentMoE сочетает слои Mamba-2, Mixture-of-Experts и внимания, а Multi-Token Prediction (MTP) предназначен для ускорения генерации. Метаданные каталога указывают архитектуру Nemotron-H и 6,6 млрд параметров, что расходится с числами в README; эти характеристики требуют осторожной интерпретации. Модель рассчитана на чат, сложные инструкции, код, математику, длинноконтекстные рассуждения и работу в совместных агентных сценариях, включая автоматизацию IT-заявок, RAG и обработку нескольких документов. README заявляет контекст до 1 млн токенов, тогда как метаданные указывают 262 144 токена. Поддерживаются английский, французский, немецкий, итальянский, японский, испанский и китайский языки. Модель принимает текст и генерирует текст. Модель опубликована как BF16, но в README также описано обучение с NVFP4-квантизацией; формат файлов репозитория в метаданных — safetensors. Указана лицензия other, а README заявляет готовность к коммерческому использованию; конкретные условия лицензии следует сверять с карточкой. Модель версии v1.0 GA предназначена для практического применения.

Карточка модели Gensyn/Qwen2.5-7B-Instruct на Hugging Face совпадает с карточкой unsloth/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. unsloth/Qwen2.5-7B-Instruct — инструктивная языковая модель семейства Qwen2.5, опубликованная Unsloth как производная от Qwen/Qwen2.5-7B-Instruct. Это плотная авторегрессионная модель с 7,1 млрд параметров; карточка указывает архитектуру Qwen2 и поддержку Transformers, а README описывает 28 слоёв, RoPE, SwiGLU, RMSNorm и механизм группового внимания GQA. Метаданные указывают контекст 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Она подходит для ответов на вопросы, написания и анализа кода, математических задач, создания длинных текстов и выдачи структурированных ответов, включая JSON. Поддерживает английский, русский, китайский и ряд других языков; заявлена поддержка более 29 языков. Метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. README описывает возможность работы с более длинным контекстом через YaRN, но отмечает, что статическое масштабирование может ухудшить качество или производительность на коротких запросах. Модель выпущена под лицензией Apache-2.0.

Qwen3-4B-AWQ — причинная языковая модель из серии Qwen, разработанная командой Qwen. Она предназначена для генерации текста, диалогов, следования инструкциям, математического и логического рассуждения, написания кода, творческих задач, перевода и сценариев с использованием внешних инструментов. Модель поддерживает переключение между режимом рассуждения для сложных задач и нерешающим режимом для более быстрых ответов в рамках одной модели. Модель содержит 4,0 млрд параметров, из которых 3,6 млрд не относятся к embedding, и включает 36 слоёв. Используется Grouped-Query Attention с 32 головами запросов и 8 головами ключей и значений. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN может достигать 131 072 токенов. Доступна 4-битная AWQ-квантизация, уменьшающая требования к памяти. Qwen3 заявляет поддержку более 100 языков и диалектов, включая многоязычное следование инструкциям и перевод. Сильными сторонами являются сочетание рассуждения и эффективного общего диалога, возможности работы с инструментами, поддержка длинного контекста и сниженные требования к ресурсам благодаря квантизации. Ограничения включают возможное ухудшение качества и зацикливание при жадном декодировании в режиме рассуждения; для него рекомендуются Temperature 0,6, TopP 0,95 и TopK 20. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B — плотная мультимодальная модель семейства Qwen от команды Qwen. Это постобученная причинная языковая модель с визуальным энкодером, содержащая 27 млрд параметров и построенная на архитектурной основе Qwen3.5. Репозиторий включает веса и конфигурацию в формате Hugging Face Transformers; модель также совместима с vLLM, SGLang и другими средами инференса. Лицензия — Apache-2.0. Модель предназначена для диалогов, программирования, профессиональных и исследовательских задач, а также многошаговых агентных сценариев. Она принимает текст, изображения и видео и умеет разбирать документы, диаграммы и длительные видеоматериалы. Режим рассуждения включён по умолчанию, его можно отключить для отдельного запроса, а глубину настраивать параметром reasoning_effort. Контекст составляет 262 144 токена и может расширяться до 1 000 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN-блоки; предусмотрено обучение с Multi-Token Prediction. В карточке заявлены улучшения планирования и выполнения задач с учётом обратной связи среды, однако приведённые описания бенчмарков сами по себе не гарантируют качество в конкретном применении. Модель ориентирована на применение и распространяется по лицензии Apache-2.0.

Карточка модели sdb114514/Qwen3.8-27B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-27B, поэтому описание составлено по ней. Qwen3.8-27B — плотная мультимодальная модель семейства Qwen от команды Qwen. Это постобученная причинная языковая модель с визуальным энкодером, содержащая 27 млрд параметров и построенная на архитектурной основе Qwen3.5. Репозиторий включает веса и конфигурацию в формате Hugging Face Transformers; модель также совместима с vLLM, SGLang и другими средами инференса. Лицензия — Apache-2.0. Модель предназначена для диалогов, программирования, профессиональных и исследовательских задач, а также многошаговых агентных сценариев. Она принимает текст, изображения и видео и умеет разбирать документы, диаграммы и длительные видеоматериалы. Режим рассуждения включён по умолчанию, его можно отключить для отдельного запроса, а глубину настраивать параметром reasoning_effort. Контекст составляет 262 144 токена и может расширяться до 1 000 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN-блоки; предусмотрено обучение с Multi-Token Prediction. В карточке заявлены улучшения планирования и выполнения задач с учётом обратной связи среды, однако приведённые описания бенчмарков сами по себе не гарантируют качество в конкретном применении. Модель ориентирована на применение и распространяется по лицензии Apache-2.0.

Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

unsloth/Qwen3-8B-128K-GGUF — это распространённая в формате GGUF версия языковой модели Qwen3-8B, разработанной командой Qwen и подготовленной Unsloth. Модель предназначена для генерации текста, диалогов, следования инструкциям, программирования, математических и логических задач, творческого письма, многошагового взаимодействия и сценариев с внешними инструментами. Она поддерживает более 100 языков и диалектов, включая многоязычные инструкции и перевод. Модель представляет собой авторегрессионную causal language model с 8,2 млрд параметров, включая 6,95 млрд параметров без учёта эмбеддингов, и 36 слоями. Используется Grouped-Query Attention: 32 головы для запросов и 8 для ключей и значений. Нативная длина контекста составляет 32 768 токенов, а с YaRN может достигать 131 072 токенов. Qwen3 поддерживает переключение между режимом размышлений для сложных задач и обычным режимом для более эффективного диалога. Сильными сторонами являются сочетание рассуждений и универсального диалога, возможности работы с агентами, многоязычность и расширенный контекст. Ограничения включают зависимость качества и скорости от конкретной GGUF-квантизации и доступного оборудования; сведения о точном варианте квантизации, требованиях к памяти и производительности в карточке не указаны. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-8B-FP8 — FP8-квантизированная версия языковой модели Qwen3-8B, разработанной командой Qwen и опубликованной в репозитории Unsloth. Это авторегрессионная causal language model для генерации текста, диалогов, следования инструкциям, математических задач, программирования, рассуждений, творческого письма, ролевого взаимодействия, перевода и агентских сценариев с использованием внешних инструментов. Модель содержит около 8,2 млрд параметров, из которых 6,95 млрд не относятся к embedding, и включает 36 слоёв. Используется Grouped-Query Attention: 32 головы для Q и 8 для KV. Нативная длина контекста составляет 32 768 токенов, а с YaRN может достигать 131 072 токенов. Поддерживаются более 100 языков и диалектов. Модель допускает переключение между режимами thinking для сложных задач и рассуждений и non-thinking для более быстрых обычных ответов. FP8-квантизация выполнена методом fine-grained FP8 с размером блока 128, что ориентировано на повышение эффективности инференса. Модель совместима с Transformers, SGLang и vLLM, однако для распределённого инференса через Transformers указаны известные ограничения. Лицензия — Apache 2.0.

Virtuoso-Medium-v2 — языковая модель на 32 млрд параметров от Arcee AI для генерации текста и диалоговых сценариев. Она основана на архитектуре Qwen2.5-32B и использует токенизатор Qwen; по карточке модели, её обучали дистилляцией логитов Deepseek-v3 на большом объёме данных, затем применяли слияние и DPO. Метаданные каталога обозначают связь с Qwen/Qwen2.5-32B как дообучение, поэтому происхождение модели указано как дообучение. Модель рассчитана на чат-ботов и виртуальных помощников, анализ данных и автоматизацию рабочих процессов, а также задачи в технических, научных и STEM-сценариях, включая код и математику. Контекст достигает 131 072 токенов. Модель поддерживает генерацию текста и имеет интерфейс для вызова инструментов. В карточке заявлены высокие результаты на ряде бенчмарков, однако конкретные численные результаты и условия оценки не приведены. База знаний может не охватывать события после июня 2024 года, а ответы могут содержать ошибки, предвзятость или вредный контент. Лицензия — Apache-2.0.

Карточка модели Terom/gemma-4-12B-it-qat-q4_0-unquantized на Hugging Face совпадает с карточкой google/gemma-4-12B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. Google DeepMind разработала Gemma 4 12B IT QAT Q4_0 Unquantized — мультимодальную инструкционную модель с плотной архитектурой Gemma4UnifiedForConditionalGeneration, полученную на основе google/gemma-4-12B-it с применением обучения с учётом квантования (QAT). Несмотря на обозначение Q4_0, в этом варианте используются веса половинной точности, извлечённые из QAT-конвейера; он предназначен для последующей компиляции и исследовательской работы. Репозиторий содержит веса в формате safetensors. Модель принимает текст и изображения, а также аудио и видеокадры; генерирует текст. Она подходит для диалога, рассуждений, анализа документов и изображений, распознавания речи, работы с видео, написания и исправления кода и вызова инструментов. Вариант 12B поддерживает контекст до 256 тысяч токенов; семейство Gemma 4 обучено на более чем 140 языках, а карточка заявляет поддержку более 35 языков для мультимодальных задач. Среди заявленных возможностей — понимание документов и PDF, OCR, распознавание рукописного текста, анализ диаграмм и интерфейсов, а также распознавание речи и перевод аудио в текст. Это открытая модель с лицензией Apache 2.0. Указанные в карточке возможности относятся к семейству Gemma 4; отдельные показатели качества для данного чекпойнта не приведены.

Карточка модели Terom/gemma-4-12B-it-qat-q4_0-unquantized-assistant на Hugging Face совпадает с карточкой google/gemma-4-12B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. Google DeepMind разработала Gemma 4 12B IT QAT Q4_0 Unquantized — мультимодальную инструкционную модель с плотной архитектурой Gemma4UnifiedForConditionalGeneration, полученную на основе google/gemma-4-12B-it с применением обучения с учётом квантования (QAT). Несмотря на обозначение Q4_0, в этом варианте используются веса половинной точности, извлечённые из QAT-конвейера; он предназначен для последующей компиляции и исследовательской работы. Репозиторий содержит веса в формате safetensors. Модель принимает текст и изображения, а также аудио и видеокадры; генерирует текст. Она подходит для диалога, рассуждений, анализа документов и изображений, распознавания речи, работы с видео, написания и исправления кода и вызова инструментов. Вариант 12B поддерживает контекст до 256 тысяч токенов; семейство Gemma 4 обучено на более чем 140 языках, а карточка заявляет поддержку более 35 языков для мультимодальных задач. Среди заявленных возможностей — понимание документов и PDF, OCR, распознавание рукописного текста, анализ диаграмм и интерфейсов, а также распознавание речи и перевод аудио в текст. Это открытая модель с лицензией Apache 2.0. Указанные в карточке возможности относятся к семейству Gemma 4; отдельные показатели качества для данного чекпойнта не приведены.

reinforce20001/gemma4-26b-a4b-it-qat-w4a16-ct — квантованная instruction-tuned модель семейства Gemma 4, разработанного Google DeepMind. Она основана на Google Gemma 4 26B A4B и предназначена для генерации текста, рассуждений, программирования, агентских сценариев и мультимодального анализа изображений с текстом. Модель использует архитектуру Mixture-of-Experts: всего 25,2 млрд параметров, из которых при обработке активируется около 3,8 млрд. Она содержит 30 слоёв, поддерживает контекст до 256K токенов, словарь из 262 тысяч токенов и работает с текстовыми и визуальными входными данными, выдавая текст. Семейство Gemma 4 поддерживает более 140 языков, нативный system prompt, function calling и настраиваемые режимы рассуждений. Гибридное внимание с локальными sliding window и глобальными слоями рассчитано на эффективную работу с длинным контекстом. К сильным сторонам относятся сочетание возможностей крупной модели с вычислительной эффективностью MoE, поддержка длинного контекста, мультимодальность, кодирование, рассуждения и агентские задачи. Суффикс QAT W4A16 указывает на квантованный вариант с 4-битными весами и 16-битными активациями, однако README не содержит подробностей о фактических требованиях к памяти, совместимости или потере качества относительно исходной модели. Модель распространяется по лицензии Apache 2.0.

Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Mungert/Mistral-Small-3.2-24B-Instruct-2506-GGUF — GGUF-квантизированные версии языково-мультимодальной модели Mistral-Small-3.2-24B-Instruct-2506, разработанной Mistral AI и опубликованной пользователем Mungert. Модель является обновлением Mistral-Small-3.1-24B-Instruct-2503 и предназначена для диалогов, следования инструкциям, генерации текста и кода, решения STEM-задач, function calling, а также анализа изображений, документов, таблиц и диаграмм. Модель содержит около 24 млрд параметров, поддерживает текстово-визуальный ввод и языки английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский, арабский, персидский и ряд других языков, перечисленных в карточке. Версия 3.2 улучшает точность следования инструкциям, снижает вероятность зацикленной генерации и предлагает более надёжный шаблон function calling. Для создания GGUF-файлов использовался llama.cpp; автор применяет дополнительное повышение точности отдельных слоёв при квантовании, что может улучшать качество на низких разрядностях за счёт увеличения размера файлов. Сильные стороны модели — улучшенные результаты в instruction following, программировании, математике, STEM-бенчмарках и отдельных задачах компьютерного зрения. Ограничения включают зависимость качества, размера и скорости от выбранного уровня квантования, а также несколько более низкие результаты в некоторых vision-бенчмарках по сравнению с предыдущей версией. В карточке не указана длина контекстного окна. Модель распространяется по лицензии Apache-2.0 и рекомендуется к использованию через vLLM; также заявлена совместимость с transformers.

Qwen3-30B-A3B-Instruct-2507 — инструкционная языковая модель семейства Qwen3, представленная в репозитории Unsloth как версия с исправлениями chat template. Это причинная MoE-модель: в исходной карточке указаны 30,5 млрд параметров всего и 3,3 млрд активных, 48 слоёв и 128 экспертов, из которых для обработки запроса активируются 8. Метаданные каталога указывают 2,6 млрд параметров; оценки размера в источниках расходятся. Модель предназначена для диалогов и выполнения инструкций, генерации текста, рассуждений, математики, научных и программных задач, а также вызова инструментов. Она поддерживает несколько языков и контекст до 262 144 токенов. Работает только в режиме без «thinking». В репозитории указаны веса Safetensors и библиотека Transformers; README рекомендует использовать актуальную версию Transformers. Лицензия — Apache-2.0. Модель может допускать смешение языков и повторы; для задач с высокой точностью ответы следует проверять.

cyankiwi/Qwen3.5-122B-A10B-AWQ-4bit — 4-битная AWQ-квантизованная версия мультимодальной модели Qwen3.5-122B-A10B, разработанной командой Qwen. Модель предназначена для обработки текста и изображений, включая рассуждения, программирование, визуальное понимание и агентские сценарии. Она распространяется в формате, совместимом с Hugging Face Transformers, vLLM, SGLang и KTransformers. Модель представляет собой каузальную языковую модель с vision encoder и гибридной архитектурой, объединяющей Gated Delta Networks и разреженную Mixture-of-Experts. Общее число параметров составляет 122 млрд, из которых при обработке активируется около 10 млрд. Архитектура включает 48 слоёв, 256 экспертов, 8 маршрутизируемых и 1 общий активный эксперт. Нативная длина контекста — 262 144 токена, с возможностью расширения до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. К сильным сторонам относятся мультимодальность, большой контекст, высокая вычислительная эффективность разреженной архитектуры и возможность локального запуска благодаря AWQ-квантизации. Ограничения включают потенциальные потери качества и точности, характерные для 4-битного представления, а также повышенные требования к памяти и инфраструктуре по сравнению с меньшими моделями. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B-f32-GGUF — мультимодальная причинная языковая модель с 9 млрд параметров, основанная на Qwen3.5-9B и разработанная командой Alibaba Qwen. Данная версия распространяется в формате GGUF и предназначена для локального и серверного инференса с использованием llama.cpp, vLLM или SGLang. Модель обрабатывает текст, изображения и видео и рассчитана на OCR, визуальные вопросы и ответы, анализ документов, программирование, математические задачи, многоязычное рассуждение и создание мультимодальных агентов. Архитектура включает интегрированный vision encoder, гибридную схему Gated DeltaNet и Gated Attention, 32 слоя, скрытую размерность 4096, словарь из 248 тысяч токенов для 201 языка и нативный контекст до 262 тысяч токенов с возможностью расширения свыше 1 млн с помощью YaRN. Для обработки визуальных данных используется DeepStack ViT, включая временную динамику видео. К сильным сторонам относятся сочетание текстовых и визуальных возможностей, длинный контекст, поддержка большого числа языков и возможность запуска на одном RTX 4090: около 18 ГБ в BF16 или 5 ГБ в 4-битном представлении. Ограничения включают требования к значительным вычислительным и видеоресурсам для полноразмерных вариантов, а также зависимость мультимодального инференса от отдельного файла mmproj. В репозитории доступны варианты BF16, F16, F32 и Q8_0, а также соответствующие мультимодальные проекции. Лицензия — Apache 2.0.

Карточка модели OpenIntelligenceNet/Qwen-3.8-27B-Heretic на Hugging Face совпадает с карточкой Qwen/Qwen3.8-27B, поэтому описание составлено по ней. Qwen3.8-27B — плотная мультимодальная модель семейства Qwen от команды Qwen. Это постобученная причинная языковая модель с визуальным энкодером, содержащая 27 млрд параметров и построенная на архитектурной основе Qwen3.5. Репозиторий включает веса и конфигурацию в формате Hugging Face Transformers; модель также совместима с vLLM, SGLang и другими средами инференса. Лицензия — Apache-2.0. Модель предназначена для диалогов, программирования, профессиональных и исследовательских задач, а также многошаговых агентных сценариев. Она принимает текст, изображения и видео и умеет разбирать документы, диаграммы и длительные видеоматериалы. Режим рассуждения включён по умолчанию, его можно отключить для отдельного запроса, а глубину настраивать параметром reasoning_effort. Контекст составляет 262 144 токена и может расширяться до 1 000 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN-блоки; предусмотрено обучение с Multi-Token Prediction. В карточке заявлены улучшения планирования и выполнения задач с учётом обратной связи среды, однако приведённые описания бенчмарков сами по себе не гарантируют качество в конкретном применении. Модель ориентирована на применение и распространяется по лицензии Apache-2.0.

Карточка модели Z-keiu/Qwen3-8B на Hugging Face совпадает с карточкой Qwen/Qwen3-8B, поэтому описание составлено по ней. Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

Bagel 34B v0.5 — это дообученная jondurbin модель на базе 01-ai/yi-34b-200k, созданная для диалогов и широкого круга инструктивных задач. Модель использует плотную архитектуру семейства Llama с причинным языковым моделированием, содержит 33,9 млрд параметров и рассчитана на контекст до 200 000 токенов. Модель обучалась на наборах для вопросов и ответов, рассуждений, математики, программирования, суммаризации, ролевого общения, работы с контекстом и вызова функций. Для обучения использовались SFT- и DPO-данные; карточка описывает несколько форматов запросов, а шаблон токенизатора по умолчанию использует формат Llama 2. Это текстовая модель, которая принимает текст и генерирует текст. В метаданных указана лицензия other, без уточнения её условий.

MaziyarPanahi/calme-2.2-llama3.1-70b — языковая модель, дообученная Maziyar Panahi на базе Meta Llama 3.1 70B Instruct. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, рассчитанная на генерацию текста и диалог в формате ChatML. Заявленная длина контекста — 131 072 токена; модель работает через библиотеку Transformers и распространяется в формате safetensors. Модель предназначена для ответов на вопросы, чат-ботов и виртуальных помощников, создания и суммаризации текстов, генерации и анализа кода, а также решения сложных задач. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH, но они не гарантируют качество в конкретном приложении. Указанный в метаданных датасет дообучения — MaziyarPanahi/truthy-dpo-v0.1-axolotl. README предупреждает о возможных смещениях и ограничениях больших языковых моделей и рекомендует применять защитные меры и проверку человеком. Лицензия в предоставленных данных не указана.

mattbucci/gemma-4-12B-AWQ — 4-битная AWQ-Marlin-квантизированная версия модели google/gemma-4-12B-it, подготовленная mattbucci. Это унифицированная безэнкодерная модель Gemma 4 с архитектурой Gemma4UnifiedForConditionalGeneration. Она поддерживает работу с текстом, рассуждениями, инструментами, изображениями и аудио; заявленный нативный контекст составляет около 262 тысяч токенов. Модель использует attention с global-MQA и сочетание скользящего и полного внимания в пропорции 5:1. Квантизация выполнена в формате int4 W4A16 с размером группы 128. Линейные слои текстового декодера переведены в AWQ int4, тогда как эмбеддеры изображений и аудио, нормализации и связанная с эмбеддингами матрица lm_head сохранены в BF16 для поддержки мультимодальных возможностей. Согласно README, модель демонстрирует результаты 80% на MMLU, 95% на HumanEval, 100% на тесте Needle@long-ctx и 100% на тесте использования инструментов до контекста 256K; также заявлена работоспособность с изображениями и качественное рассуждение. Веса занимают около 5,4 ГБ на ранг при использовании int4. Модель предназначена для ресурсоэффективного инференса задач генерации и понимания текста, программирования, длинноконтекстного анализа, вызова инструментов, а также обработки изображений и аудио. Для запуска через SGLang требуются back-port-патчи 042–048 из указанного репозитория; на GPU Ampere рекомендуется использовать attention-backend triton и отключить CUDA Graph. Ограничения включают зависимость от специальной версии архитектуры и дополнительных патчей серверного ПО. Модель распространяется на условиях Gemma Terms of Use и является производной от google/gemma-4-12B-it.

Это зеркальная копия инструкционной мультимодальной модели Gemma 4 12B от Google DeepMind, подготовленная пользователем chibifire. В репозитории находятся веса в формате safetensors с половинной точностью из конвейера обучения с учетом квантования Q4_0 (QAT); сами веса здесь не квантованы до Q4_0. Также включены токенизатор, шаблон чата и конфигурации процессора и генерации. Модель предназначена для локального инференса и дальнейшего преобразования; её можно загружать через Transformers. Базовая Gemma 4 12B IT поддерживает диалог и работу с текстом, изображениями, видео и аудио, а также генерацию кода. Карточка этой копии не приводит отдельные характеристики по языкам или длине контекста. Репозиторий распространяется по лицензии Apache-2.0.

Gemma 4 26B A4B IT QAT GGUF — это мультимодальная instruction-tuned модель семейства Gemma 4, разработанная Google DeepMind и представленная в формате GGUF пользователем prithivMLmods. Она основана на разреженной Mixture-of-Experts архитектуре: содержит около 25,2 млрд параметров, из которых при генерации активны примерно 3,8 млрд. Модель поддерживает текст и изображения, но не аудио, и предназначена для диалогов, анализа изображений, OCR, анализа кадров видео, генерации текста и кода, вызова функций и задач, требующих рассуждений. Доступен настраиваемый режим reasoning. Модель использует около 550 млн параметров в vision encoder, контекстное окно до 256K токенов, скользящее окно 1024 токена и словарь примерно из 262 тысяч токенов для более чем 140 языков. Quantization-Aware Training помогает сохранить качество, близкое к bfloat16, при меньших требованиях к памяти. Репозиторий предоставляет варианты GGUF с квантованием от Q2_K до Q8_0, а также BF16, F16 и F32; размеры файлов составляют примерно от 10,6 до 101 ГБ, поэтому практическое использование зависит от доступной памяти и аппаратных ресурсов. К ограничениям относятся отсутствие аудиомодальности, высокие требования к ресурсам для полноразмерных вариантов и зависимость качества от выбранного уровня квантования. Лицензия — Apache 2.0.

Карточка модели katiyardinesh/gemma-4-31B-it-custom на Hugging Face совпадает с карточкой google/gemma-4-31B-it, поэтому описание составлено по ней. Gemma 4 31B IT — мультимодальная инструкционно-настроенная модель Google DeepMind на плотной архитектуре Gemma 4, предназначенная для диалогов и генерации текста по текстовым и визуальным запросам. Она принимает текст и изображения и выдаёт текст; поддерживает анализ изображений, рассуждения, программирование и работу с инструментами. Для этой версии заявлено контекстное окно до 256 тыс. токенов. Семейство Gemma 4 обучено на более чем 140 языках, однако для этой карточки отдельный перечень поддерживаемых языков не приведён. Модель подходит для ответов по изображениям и документам, распознавания текста на изображениях, анализа диаграмм и интерфейсов, а также для создания и редактирования текста и кода. Семейство Gemma 4 использует гибридное внимание с локальными и глобальными слоями, рассчитанное на работу с длинным контекстом. Аудиовход в README указан только для вариантов E2B, E4B и 12B, поэтому его не следует приписывать версии 31B. Лицензия — Apache 2.0.

Карточка модели jung360crowley/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Карточка модели mbdk0/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.