II.10Разработка и эксплуатация AI/ML-систем

Smaug-slerp-30b-v0.1 — языковая модель для генерации текста, созданная автором liminerity путём слияния весов abacusai/Smaug-72B-v0.1 методом SLERP с помощью mergekit. В репозитории указана архитектура LlamaForCausalLM с плотной сетью из 29,2 млрд параметров и контекстом до 32 768 токенов; веса представлены в формате safetensors. Модель предназначена для генерации ответов и продолжения текста в сценариях диалога, вопросов и ответов, а также рассуждений — эти возможности описаны для базовой Smaug-72B-v0.1. README показывает слияние двух ссылок на одну и ту же базовую модель, поэтому самостоятельное изменение возможностей этим слиянием не подтверждено. Лицензия — Apache-2.0.

steiner-32b-preview-GGUF — это набор квантизированных GGUF-версий языковой модели steiner-32b-preview, разработанной peakji и подготовленной пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые приложения, включая LM Studio. В README указана поддержка английского и китайского языков, однако сведения о точной архитектуре, размере контекста, мультимодальности и результатах тестирования отсутствуют. Доступны варианты от BF16 и Q8_0 до низкобитных Q2 и Q3, поэтому можно выбирать между качеством ответов, требованиями к памяти и скоростью инференса. Для квантования использовался imatrix в llama.cpp; автор рекомендует варианты Q4_K_M, Q5, Q6 и некоторые IQ-версии, тогда как низкобитные варианты имеют заметно более низкое качество. Модель использует формат диалога с маркерами <|im_start|> и <|im_end|>. Распространяется по лицензии Apache-2.0.

T3qm7xNeuralsirkrishna_YamExperiment26 — объединённая модель на архитектуре Mistral, созданная путём слияния automerger/T3qm7xNeuralsirkrishna-7B и automerger/YamExperiment26-7B. Она предназначена для генерации текста и диалоговых ответов; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель может служить основой для приложений, которым нужна генерация текста с длинным контекстом. В README не описаны специальные преимущества или ограничения качества. Лицензия — Apache-2.0.

Карточка модели cuong1692001/Terminal-complete-12k на Hugging Face совпадает с карточкой cuong1692001/Terminal_complete_12k, поэтому описание составлено по ней. Terminal-complete12k — дообученная модель на базе Qwen/Qwen3-8B, созданная автором репозитория cuong1692001. Это плотная языковая модель с архитектурой Qwen3ForCausalLM и 7,6 млрд параметров; она принимает текст и генерирует текст. Карточка указывает на диалоговый сценарий, а базовая модель поддерживает многоязычную генерацию, рассуждения, следование инструкциям, работу с кодом и вызов инструментов. Максимальная длина контекста составляет 40 960 токенов. Модель можно применять для диалога и генерации текста. README сообщает о дообучении на наборе qwen_data_complete, но не описывает его состав, целевые задачи или результаты оценки, поэтому специфические преимущества Terminal-complete12k подтвердить нельзя. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия указана как other; конкретные условия использования в доступных данных не раскрыты.

Tesslate_Tessa-T1-32B-GGUF — набор GGUF-квантизованных версий текстовой генеративной модели Tessa-T1-32B, разработанной Tesslate и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и запуска в локальных приложениях и средах, совместимых с llama.cpp, включая LM Studio. В README заявлена поддержка английского языка; сведения о мультимодальности отсутствуют. Модель содержит 32 млрд параметров и распространяется в форматах от BF16 до различных вариантов квантования Q8, Q6, Q5, Q4, Q3 и Q2, включая IQ-форматы. Размер файлов варьируется примерно от 13,07 до 65,54 ГБ, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Для работы рекомендуется использовать указанный в README prompt format с ролями system, user и assistant. Точная длина контекста и дополнительные архитектурные характеристики не указаны. Сильная сторона набора — широкий выбор степеней квантования и возможность локального запуска; варианты Q6 и Q5 описаны как обеспечивающие очень высокое или высокое качество, а Q4_K_M — как оптимальный вариант для большинства сценариев. Более сильное квантование экономит память, но может снижать качество, особенно у вариантов Q3 и Q2. Модель распространяется по лицензии Apache-2.0.

spjabech/th_pos_neg_3epochs — дообученная диалоговая языковая модель на архитектуре Llama 3, разработанная spjabech на базе gradientai/Llama-3-8B-Instruct-262k. Модель содержит 7,5 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 262 144 токена. Карточка не описывает предметную специализацию или конкретный сценарий, связанный с названием модели, поэтому модель можно характеризовать только как генеративную диалоговую. Она дообучалась с использованием Unsloth и TRL. Распространяется по лицензии Apache-2.0.

bengaliAI/tugstugi_bengaliai-asr_whisper-medium — модель распознавания речи, опубликованная Bengali.AI. Она предназначена для преобразования аудиозаписей в текст и доступна для запуска через Transformers как задача automatic-speech-recognition. Модель построена на архитектуре WhisperForConditionalGeneration семейства Whisper и содержит около 455,8 млн параметров. В репозитории указана лицензия Apache-2.0. Карточка модели практически не содержит описания обучения и результатов, поэтому нельзя подтвердить её качество на конкретных вариантах бенгальского языка или других языках. Конфигурация ограничивает декодирование 448 токенами; модель принимает аудио и выдаёт текст.

Nitral-Archive выпустила Violet_Eris-BMO-12B — объединённую методом SLERP чат-модель на базе архитектуры Mistral. В слиянии использованы Nitral-AI/Captain_BMO-12B и Epiculous/Violet_Twilight-v0.2; модель содержит 12,1 млрд параметров и распространяется в формате safetensors для библиотеки Transformers. Модель предназначена для диалогов и генерации текста. Её можно применять для продолжения текста и создания ответов в чат-сценариях. В метаданных указан контекст до 1 024 000 токенов. Язык лицензии в предоставленных сведениях не указан.

Violet-Lyra-Gutenberg — языковая модель для генерации текста, собранная автором репозитория методом слияния нескольких моделей на базе Mistral-Nemo. Она содержит 12,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 131 072 токенов. Веса сохранены в формате safetensors. Модель предназначена для диалоговой генерации и продолжения текста; в карточке рекомендованы форматы промптов ChatML или MistralNemo. Слияние выполнено методом della_linear с объединённым токенизатором; в состав вошли Grey-12b, Violet_Twilight-v0.2, Lyra-Gutenberg-mistral-nemo-12B и mistral-nemo-gutenberg-12B-v4, с базой Mistral-Nemo-Base-2407. Автор оценивает результат как особенно удачный среди использованных им моделей Nemo. В README не приведены результаты независимых оценок качества или подтверждённый перечень языков. Лицензия в предоставленных данных не указана.

nguyenvulebinh/wav2vec2-bartpho — модель распознавания вьетнамской речи, разработанная пользователем nguyenvulebinh на Hugging Face. Это последовательная архитектура speech-encoder-decoder: аудио подаётся на вход, а модель выдаёт текст. Карточка указывает поддержку нормализации распознанного текста, временных меток и сегментации речи нескольких говорящих. Модель предназначена для автоматической транскрибации вьетнамской речи, в том числе с разметкой времени и разделением реплик по говорящим. Репозиторий содержит веса PyTorch. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Whisper Base Indonesian — дообученная модель OpenAI Whisper Base, созданная для распознавания индонезийской речи в аудио. Она основана на архитектуре Whisper и содержит 51,7 млн параметров. Модель обучена на индонезийской части Common Voice 16.0 и предназначена для преобразования речи в текст. На тестовой выборке указаны loss 0,4198 и WER 26,6078. Это значение WER следует учитывать при оценке пригодности модели для конкретной аудиозаписи и сценария. Модель принимает аудио и выдаёт распознанный текст; лицензия — Apache 2.0.

Whisper Hinglish Preview — модель распознавания речи на основе Whisper large-v3, разработанная Trelis и специализированная для хинглиша: речи с переключением между хинди и английским. Она также предназначена для транскрибации преимущественно хинди и английской речи; архитектура — WhisperForConditionalGeneration, размер — 905,3 млн параметров. Модель принимает аудио и выдаёт текст. Для заявленного качества автор рекомендует явно задавать язык распознавания в стандартном интерфейсе Whisper. Внутренние оценки автора показывают улучшение относительно исходных Whisper large-v3 и Vaani на ряде тестов хинглиша и хинди, но не лидерство на всех наборах; результаты получены по собственному протоколу нормализации и сопоставления. Это исследовательская предварительная версия, и веса или результаты могут измениться. Модель распространяется по лицензии Apache-2.0.

sadrasa97/whisper-large-v3-turbo-fa — модель автоматического распознавания речи, созданная дообучением OpenAI Whisper Large V3 Turbo на персидском языке (фарси). Она принимает аудио и преобразует речь в текст; архитектура — WhisperForConditionalGeneration, библиотека — Transformers. В метаданных также указана поддержка английского языка. Модель предназначена для транскрибации персидской речи и может применяться в системах преобразования аудиозаписей в текст. Базовая модель Whisper Large V3 Turbo — ускоренная мультиязычная модель распознавания речи. Модель распространяется по лицензии Apache-2.0.

Whisper Medium Romanian — модель распознавания речи, созданная дообучением gigant на базе openai/whisper-medium. Она преобразует румынскую речь в текст и рассчитана на расшифровку аудио, включая записи, похожие на обучающие данные из Common Voice 11.0 и румынского корпуса синтезированной речи. Модель использует архитектуру Whisper и содержит 455,8 млн параметров. Для оценки применялся тестовый набор Common Voice 11.0; в карточке указана метрика WER 4,717. Модель принимает аудио и выдаёт текст, поддерживаемый язык — румынский. Лицензия — Apache-2.0.

Это дообученная Zainab11 модель распознавания речи на базе OpenAI Whisper Small с архитектурой WhisperForConditionalGeneration и 153,1 млн параметров. Она обучена на арабской части Google FLEURS ar_eg: примерно шесть часов записанной речи на современном стандартном арабском языке от дикторов с египетским акцентом. Модель предназначена для преобразования арабской речи в текст. На тестовой выборке FLEURS она показала нормализованный WER 19,9% против 28,0% у исходной Whisper Small. На спонтанной египетской разговорной речи результаты заметно хуже: нормализованный WER составил 81,2%, поэтому для такого сценария модель не подходит без дополнительного дообучения. Использование библиотеки Transformers и весов safetensors указано в метаданных; лицензия — Apache-2.0. Пример использования ограничивает аудио 30 секундами и обрезает более длинные записи; для них README рекомендует разбиение на фрагменты или chunked pipeline. Модель также наследует известное поведение Whisper: повторы и галлюцинации при обработке длинной речи.

YamshadowStrangemerges_32_AlloyingotneoyExperiment24 — объединённая модель семейства Mistral, созданная MaziyarPanahi на основе automerger/YamshadowStrangemerges_32-7B и automerger/AlloyingotneoyExperiment24-7B. Она предназначена для генерации текста и имеет 7,1 млрд параметров с контекстом до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache 2.0. Данные карточки не описывают специальные предметные навыки или результаты оценки качества; пригодность для конкретного сценария стоит проверять на собственных примерах.

Qwen2.5-32B-Instruct-GGUF — языковая instruction-tuned модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для генерации текста, диалоговых сценариев, следования инструкциям, программирования, математических задач, работы со структурированными данными и создания структурированных ответов, включая JSON. Модель поддерживает более 29 языков, в том числе английский, китайский, русский, французский, испанский, немецкий, японский и арабский. Модель представляет собой causal language model в формате GGUF с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm и смещениями в Attention QKV. Она содержит 32,5 млрд параметров, из которых 31 млрд — непараметры эмбеддингов, 64 слоя и GQA с 40 головами для Q и 8 для KV. Полная длина контекста GGUF-версии составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Доступны варианты квантования q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. К сильным сторонам относятся улучшенные знания, возможности в программировании и математике, следование инструкциям, обработка длинных текстов, таблиц и структурированных форматов, а также устойчивость к разнообразным системным промптам. Ограничение GGUF-версии — контекст до 131 072 токенов требует YARN и на данный момент поддерживается только в vLLM; для такого сценария рекомендуется использовать не-GGUF версии. Модель распространяется по лицензии Apache-2.0.

Карточка модели RedHatAI/granite-4.1-8b на Hugging Face совпадает с карточкой ibm-granite/granite-4.1-8b, поэтому описание составлено по ней. Granite-4.1-8B — языковая модель с 8,4 млрд параметров, разработанная командой Granite компании IBM. Это плотный декодерный трансформер с GQA, RoPE, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Модель дообучена на основе Granite-4.1-8B-Base с помощью supervised fine-tuning и обучения с подкреплением; доступна в формате Safetensors и рассчитана на контекст до 131 072 токенов. Модель предназначена для следования инструкциям и создания диалоговых помощников, в том числе агентов с вызовом инструментов. Она подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и многоязычного диалога. Поддерживаемые языки: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Лицензия — Apache 2.0. Качество на многоязычных задачах может уступать английскому; модель также может выдавать неточные, предвзятые или небезопасные ответы. Для конкретных сценариев рекомендуется проводить проверку безопасности и настройку.

nicecurls/gemma-4-12B-it — дообученная instruction-tuned версия Gemma 4 12B Unified, мультимодальной модели Google DeepMind. Она предназначена для диалогов, генерации текста и кода, рассуждений, работы с изображениями, видео и аудио, а также для сценариев с вызовом инструментов. Модель принимает текст, изображения, видео и аудио и генерирует текст. Архитектура — плотная Gemma4UnifiedForConditionalGeneration; веса опубликованы в формате safetensors и доступны через Transformers. Для базовой Gemma 4 12B заявлено контекстное окно до 256 тысяч токенов. Семейство поддерживает более 140 языков при обучении и мультиязычные сценарии; распознавание речи и перевод речи в текст поддерживаются для варианта 12B. Модель подходит для локального развертывания на достаточно мощном оборудовании, анализа документов и визуального содержимого, транскрибации речи и агентных рабочих процессов. Лицензия — Apache 2.0. Конкретные ограничения производительности этой производной версии не описаны; как и другие генеративные модели, она может ошибаться в ответах и интерпретации мультимодальных данных.

Gemma 4 12B IT — мультимодальная модель Google DeepMind на архитектуре Gemma4 Unified, дообученная для следования инструкциям. Она принимает текст, изображения, видео и аудио и генерирует текст; поддерживает диалоги, рассуждения, программирование и вызов инструментов. Модель подходит для локального развёртывания на потребительских устройствах и для задач с длинным контекстом до 256 тыс. токенов. Модель может анализировать изображения и документы, распознавать текст и рукописный ввод, разбирать диаграммы и интерфейсы, а также анализировать видео по кадрам. Для аудио доступны распознавание речи и перевод речи в текст. Семейство Gemma 4 поддерживает более 140 языков в обучении, а карточка сообщает о мультиязычных возможностях; точный список языков для этой версии не приведён. Модель распространяется под лицензией Apache 2.0. Как и другие генеративные модели, она может допускать фактические ошибки; результаты распознавания, перевода и анализа следует проверять. Для видеовхода анализ выполняется по последовательностям кадров.

Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Это мультимодальная инструктивная модель Gemma 4 E2B IT с весами, полученными из конвейера обучения с учётом квантования (QAT). Её разработала Google DeepMind; репозиторий опубликован Unsloth. Вариант Q4_0 содержит веса половинной точности, извлечённые из QAT-конвейера, и предназначен для последующей компиляции и исследовательской работы; это не готовая квантованная сборка GGUF. Модель принимает текст и изображения и выдаёт текст. Она подходит для диалога, рассуждений, программирования, анализа изображений и документов, включая OCR, а также для вызова инструментов. Семейство Gemma 4 поддерживает длинный контекст: для E2B заявлено до 128K токенов, а семейство обучалось на более чем 140 языках. В README аудиовозможности указаны для E2B, однако входная модальность видео для данного репозитория отдельно не подтверждена. QAT нацелен на сохранение качества, близкого к bfloat16, при снижении требований к памяти в соответствующих квантованных вариантах. Этот репозиторий предоставляет извлечённые полутонные веса для пользовательской компиляции, поэтому сам по себе не гарантирует компактный запуск без дополнительной обработки. Лицензия — Apache 2.0.

DeepXR/Helion-V2.0-Thinking — мультимодальная модель семейства LLaVA от DeepXR для диалогов и анализа изображений. По README, она содержит 10,2 млрд параметров: языковую часть на базе Llama 2 и визуальный энкодер SigLIP; заявлены контекст до 200 000 токенов, поддержка нескольких изображений и работа через Transformers. Модель принимает текст и изображения и генерирует текст, включая ответы на вопросы, пояснения и вызовы инструментов в структурированном формате. Модель предназначена для анализа документов, диаграмм, графиков и скриншотов, генерации и объяснения кода, многошаговых диалогов и интеграции с API. README заявляет поддержку более 12 языков, однако указывает, что модель в первую очередь оптимизирована для английского. Репозиторий распространяется по лицензии Apache 2.0. Заявленные ограничения: качество визуального анализа зависит от четкости и освещения изображения; обработка контекста длиной свыше 150 000 токенов требует значительной видеопамяти; ответы могут содержать ошибки. Для медицинских и юридических решений README рекомендует проверку человеком.

unsloth/Qwen3-235B-A22B-GGUF — GGUF-версия модели Qwen3-235B-A22B, подготовленная Unsloth на основе разработки Qwen. Это каузальная языковая MoE-модель для генерации текста, диалогов, следования инструкциям, математического и логического рассуждения, программирования, творческого письма, перевода и агентских сценариев с интеграцией внешних инструментов. Модель содержит 235 млрд параметров, из которых 22 млрд активируются при обработке запроса. Она включает 94 слоя, архитектуру GQA с 64 головами внимания для Q и 4 для KV, 128 экспертов, из которых активируются 8. Нативная длина контекста составляет 32 768 токенов, а с использованием YaRN может достигать 131 072 токенов. Поддерживаются более 100 языков и диалектов. Модель позволяет переключаться между режимами рассуждения и обычной генерации, сочетая качество решения сложных задач с более эффективными ответами в общем диалоге. К сильным сторонам относятся развитые способности к рассуждению, программированию, многоязычному взаимодействию, следованию инструкциям и работе в агентских системах. GGUF-формат удобен для локального запуска через llama.cpp, Ollama, LM Studio и совместимые инструменты, однако модель остаётся крайне крупной и требует значительных вычислительных ресурсов; конкретные требования зависят от выбранной квантизации, сведения о которой в карточке не приведены. Модель предназначена для текстовых задач, данных о поддержке изображений или других модальностей нет. Указана лицензия Apache-2.0.

Карточка модели simonycl/qwen3-30b-plateau-6skill-0617-iter31 на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Instruct-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Instruct-2507 — языковая модель компании Qwen на архитектуре причинного MoE-декодера. В модели 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; она включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель обучена для режима без рассуждений в специальном формате и доступна под лицензией Apache 2.0. Модель предназначена для диалогов и выполнения инструкций, генерации и понимания текста, логических и математических задач, вопросов по науке, программирования и вызова инструментов. Она поддерживает многоязычные сценарии и нативный контекст до 262 144 токенов; в README также описана экспериментальная настройка обработки контекста около миллиона токенов с DCA и разреженным вниманием, требующая примерно 240 ГБ видеопамяти. К сильным сторонам относятся следование инструкциям, работа с длинным контекстом и инструментами. Ограничение: модель работает только в режиме без рассуждений; обработка около миллиона токенов требует дополнительной настройки и значительных ресурсов.

cyankiwi/gemma-4-26B-A4B-it-AWQ-8bit — инструкцияно дообученная мультимодальная модель семейства Gemma 4, разработанная Google DeepMind и представленная в формате AWQ 8bit. Она основана на Google Gemma 4 26B A4B и использует архитектуру Mixture-of-Experts с 25,2 млрд параметров, из которых около 3,8 млрд активируются при обработке запроса. Модель предназначена для генерации текста, программирования, рассуждений, мультимодального анализа изображений и построения агентных сценариев с вызовом функций. Модель принимает текст и изображения и генерирует текст. Она поддерживает более 140 языков, контекст до 256 тысяч токенов и использует гибридный механизм внимания с чередованием локального sliding window attention и глобального внимания. В конфигурации MoE предусмотрены 128 экспертов, 8 активных экспертов и один общий эксперт; размер скользящего окна составляет 1024 токена, словарь — 262 тысячи токенов. Поддерживаются настраиваемые режимы рассуждений и системные сообщения. Ключевое преимущество — сочетание возможностей модели класса 26B с вычислительной нагрузкой, близкой к модели примерно на 4 млрд активных параметров, что делает инференс быстрее плотной модели Gemma 4 31B. Большой контекст и поддержка изображений подходят для анализа длинных документов, сложных задач рассуждения, программного кода и визуальных данных. Ограничения включают необходимость совместимого оборудования и программного обеспечения для AWQ 8bit, а также потенциальные ошибки и ограничения, свойственные генеративным мультимодальным моделям; конкретные показатели производительности в предоставленном фрагменте README приведены не полностью. Лицензия — Apache 2.0.

Gemma 4 26B A4B NVFP4 — мультимодальная модель для генерации текста, разработанная Google DeepMind и квантизированная NVIDIA с помощью Model Optimizer. Модель принимает текст и изображения, поддерживает обработку видео как последовательности кадров, а её выходом является текст. Она предназначена для диалоговых систем, чат-ботов, суммаризации, извлечения данных из изображений, рассуждений, программирования, мультимодального анализа, function calling, а также исследовательских и образовательных задач. Модель построена на архитектуре Transformers с разреженной MoE-структурой: содержит около 25,2 млрд параметров, из которых активно используется около 3,8 млрд, 30 слоёв, 128 экспертов и один общий эксперт. Она поддерживает контекст до 256K токенов, скользящее окно внимания размером 1024 токена, словарь из 262 тысяч токенов и более 140 языков. Для обработки изображений предусмотрен vision encoder примерно на 550 млн параметров, поддерживаются различные соотношения сторон и разрешения, а также настраиваемые бюджеты визуальных токенов. Видео длительностью до 60 секунд обрабатывается со скоростью один кадр в секунду. К сильным сторонам относятся большой контекст, мультимодальность, поддержка длинных документов, задач рассуждения и кода, а также сниженное вычислительное потребление благодаря MoE-архитектуре и формату NVFP4. Ограничения связаны с зависимостью от NVIDIA GPU, заявленной совместимостью прежде всего с архитектурой Blackwell, использованием Linux и поддержкой runtime vLLM. Квантизация может влиять на точность по сравнению с исходной моделью. Релиз не обучался заново: NVIDIA выполнила квантизацию и калибровку, тогда как исходная модель принадлежит Google. Модель доступна для коммерческого и некоммерческого использования по лицензии Apache License 2.0 с дополнительными условиями Gemma. Версия модели — v1.0, квантизация выполнена с помощью nvidia-modelopt v0.43.0.

Granite-3.2-8B-Instruct-GGUF — это GGUF-конверсия модели Granite-3.2-8B-Instruct, разработанная командой Granite в IBM. Модель содержит 8 миллиардов параметров, создана на основе Granite-3.1-8B-Instruct и дообучена с использованием открытых наборов данных с разрешительными лицензиями и синтетических данных для задач рассуждения. Доступна в различных вариантах квантования. Модель предназначена для выполнения общих инструкций и интеграции в AI-ассистентов, включая бизнес-приложения. Она поддерживает рассуждение с управляемым включением этой возможности только при необходимости, суммаризацию, классификацию и извлечение текста, ответы на вопросы, Retrieval Augmented Generation (RAG), задачи, связанные с кодом, function calling, многоязычный диалог и работу с длинным контекстом, например суммаризацию документов и встреч или ответы на вопросы по большим документам. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков; дообучение возможно и для других языков. К сильным сторонам относятся сочетание возможностей рассуждения, управляемость их применения, поддержка длинного контекста, многоязычность и широкий набор прикладных сценариев. README не содержит точного размера контекстного окна, сведений о модальностях помимо текстовой генерации, конкретных характеристик квантованных вариантов или подробностей об ограничениях качества. Модель распространяется по лицензии Apache 2.0.

Granite-4.0-350M — компактная инструктивная языковая модель команды Granite компании IBM, дообученная на базе ibm-granite/granite-4.0-350m-base с помощью supervised fine-tuning, обучения с подкреплением и слияния моделей. Она использует архитектуру decoder-only dense Transformer; в метаданных указано 352,3 млн параметров и контекст до 32 768 токенов. Модель предназначена для диалогов, локального запуска на устройствах и дообучения под специализированные задачи с умеренными вычислительными ресурсами. Модель подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова инструментов. Она поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Лицензия — Apache 2.0. Качество на языках, кроме английского, может быть ниже; модель также может выдавать неточные, предвзятые или небезопасные ответы, поэтому перед применением в конкретной задаче её следует оценить и настроить.

Kimi K3 — открытая мультимодальная модель AMAImedia, выпущенная в составе платформы автоматизации профессионального дубляжа NOESIS. В карточке заявлены архитектура Kimi Delta Attention с Attention Residuals, размер 2,8 трлн параметров и контекст до 1 млн токенов; метаданные указывают класс KimiK3ForConditionalGeneration и формат safetensors. Модель принимает текст и изображения, а README также заявляет поддержку видео; её назначение включает диалог, рассуждения, длительные задачи программирования и агентную работу с инструментами. Модель рассчитана на анализ больших репозиториев и документов, помощь в разработке, исследовательские задачи и мультимодальную работу с изображениями и видео. README сообщает, что режим размышления включён постоянно и ответ может содержать reasoning_content; усилие рассуждения настраивается параметром reasoning_effort. Указанная в карточке лицензия — other, а README называет её Kimi K3 License, поэтому конкретные условия следует проверять в тексте лицензии репозитория. Метаданные классифицируют модель как image-text-to-text, при этом каталог дополнительно относит её к text-generation.