I.6Перевод и языковая адаптация

Noromaid-7b-v0.1.1-Mistral-7B-Instruct-v0.1 — диалоговая языковая модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и NeverSleep/Noromaid-7b-v0.1.1 методом SLERP. Модель содержит 7,1 млрд параметров, представлена в формате safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста по инструкциям и ведения диалогов. Её можно применять для ответов на вопросы, написания текстов и интерактивных чат-сценариев. Карточка не сообщает специальных предметных областей или перечня поддерживаемых естественных языков. Модель распространяется по лицензии Apache-2.0. Качество ответов и безопасность генерации могут зависеть от запроса; сведений о специальных мерах защиты или оценках качества в карточке нет.

pankajmathur/orca_mini_v4_8b — плотная авторегрессионная языковая модель семейства Llama 3, дообученная разработчиком в стиле Orca Mini на наборах данных Orca. Модель рассчитана на диалоговое использование и генерацию текста; в карточке приведён формат запросов ChatML и указано, что модель задумана как универсальная дообученная модель для дальнейшей настройки и объединения с другими моделями. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. В карточке приведены результаты оценки на отдельных бенчмарках, включая AI2 Reasoning Challenge и HellaSwag. Лицензия — Llama 3; автор разрешает дальнейшую настройку при условии указания авторства и предоставления атрибуции.

PaddleOCR-VL-1.6-GGUF — набор квантованных версий мультимодальной модели PaddleOCR-VL-1.6, разработанной PaddlePaddle и распространяемой в формате GGUF пользователем mradermacher. Модель предназначена для распознавания и структурированного анализа документов по изображениям: извлечения текста, определения компоновки страниц, обработки таблиц, формул, диаграмм, печатей и других элементов, а также задач image-to-text и document parsing. Указана поддержка английского, китайского и других многоязычных сценариев. README не содержит сведений о точной архитектуре, количестве параметров или размере исходной модели, контекстном окне и перечне поддерживаемых языков. Доступны варианты квантования Q2_K, Q3_K, IQ4_XS, Q4_K, Q5_K, Q6_K, Q8_0 и f16 размером примерно от 0,3 до 1,0 ГБ. Более сильное квантование уменьшает требования к ресурсам, но может снижать качество; в README варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как обеспечивающий очень хорошее качество, а Q8_0 — как быстрый вариант с лучшим качеством. Модель удобна для локального запуска в совместимых с GGUF инструментах и позволяет выбирать компромисс между скоростью, размером файла и качеством. Ограничения включают отсутствие подробных данных о результатах тестирования, производительности, требованиях к оборудованию и точных характеристиках исходной модели. Указана лицензия Apache-2.0.

Theros/Qwen2.5-ColdBrew-R1-test5 — объединённая языковая модель, созданная с помощью mergekit методом SLERP из Theros/Qwen2.5-ColdBrew-R1-test3 и bunnycore/Qwen-2.5-7B-Stock-Deep-Bespoke-v2. Модель разработана для диалогов и генерации текста; её архитектура — плотная Qwen2, размер — 7,1 млрд параметров, а родной контекст составляет 131 072 токена. Репозиторий содержит веса в формате safetensors и предназначен для использования с библиотекой Transformers. Модель подходит для ведения диалогов и генерации текста с длинным контекстом. В карточке не приведены сведения о языках, лицензии и специальных прикладных областях, поэтому их нельзя уточнить. Качество и поведение объединённой модели зависят от исходных моделей; отдельные ограничения в карточке не описаны.

Qwen2-VL-OCR-2B-Instruct — дообученная PrithivMLmods мультимодальная модель на базе Qwen/Qwen2-VL-2B-Instruct для распознавания текста на изображениях, преобразования изображений в текст и решения математических задач с выводом формул в LaTeX. Модель семейства Qwen2-VL имеет плотную архитектуру условной генерации, содержит 1,5 млрд параметров и работает с изображениями и текстовыми запросами; заявленная длина контекста — 32 768 токенов. Модель подходит для извлечения текста и формул из изображений, ответов на вопросы по визуальным материалам и диалоговой работы с изображениями. В карточке заявлена поддержка текста на английском и китайском, а также многих других языков внутри изображений. Унаследованные возможности базовой Qwen2-VL включают анализ видео, однако специальное дообучение здесь описано прежде всего для OCR и математических задач. Модель распространяется в формате Safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Карточка не приводит независимых оценок точности именно этой версии; заявленные характеристики базового семейства не гарантируют аналогичные результаты на всех типах документов и языках.

Aimin12/Qwen3-4B-Thinking-2507-Distill-Claude-Opus-4.6-Reasoning-Abliterated — плотная языковая модель семейства Qwen3 с 3,7 млрд параметров для генерации текста и диалоговых ответов. Модель дообучена на наборе Opus-4.6-Reasoning-3000x-filtered; в README указаны LLaMA-Factory и Unsloth как использованные инструменты обучения. Модель принимает текст и выдаёт текст. Её контекстное окно составляет 262 144 токена. Карточка связывает её с базовой Huihui-Qwen3-4B-Thinking-2507-abliterated, описанной в каталоге как Qwen3 с уменьшенной склонностью к отказам. Репозиторий распространяется под лицензией Apache-2.0.

trohrbaugh/Qwen3.5-9B-heretic-v2 — мультимодальная модель на основе Qwen3.5-9B-Base, дообученная разработчиком trohrbaugh методом abliteration. Она предназначена для диалогов и задач понимания изображений; модель может вызывать инструменты через совместимый интерфейс. В README указаны 9 млрд параметров, гибридная архитектура с Gated Delta Networks и механизмом внимания, а также контекст до 262 144 токенов с возможностью расширения. Базовая карточка Qwen3.5 заявляет поддержку 201 языка и диалекта; отдельный список языков этой версии в предоставленных данных отсутствует. По сравнению с исходной моделью в тесте из README она отказала в 6 из 100 запросов против 100 из 100 у исходной модели. Это указывает на ослабление отказов, поэтому модель может отвечать на большее число запросов, но не гарантирует корректность или безопасность таких ответов. Доступны веса в формате Safetensors для Transformers и совместимых сред. Лицензия — Apache-2.0.

Это GGUF-копия модели unsloth/Qwen3.6-35B-A3B-NVFP4-Fast, преобразованная из исходного репозитория с помощью конвертера llama.cpp. Репозиторий публикует catlilface; модель предназначена для диалогов и задач с изображениями и текстом, включая агентные сценарии. В метаданных указаны архитектура Qwen, возможности чата и vision, а формат файлов — GGUF. Карточка рекомендует запускать модель на GPU с актуальной сборкой llama.cpp; также возможно выполнение с выгрузкой части вычислений на CPU. В README приведены ориентировочные показатели скорости для нескольких конфигураций оборудования, но качество предлагается оценивать по материалам базовой модели. Лицензия — Apache-2.0.

Qwen3.8-27B-nvfp4-NInfer — мультимодальная разговорная модель для генерации текста и ответов на вопросы по изображениям. Релиз подготовлен пользователем neroued на основе Qwen3.8-27B от Qwen и unsloth/Qwen3.8-27B-NVFP4; модель предназначена для работы в инференсном движке NInfer. Модель использует архитектуру Qwen3.5 Dense и имеет 27B параметров. Артефакт объединяет NVFP4, row-scaled FP8 и BF16-веса: текстовые слои 0–55 используют NVFP4 для MLP, часть текстовых компонентов и выходная голова — FP8, управляющие веса — BF16. В комплект входят текстовые, визуальные и speculative decoding-компоненты, включая Vision, MTP и DFlash2. Поддерживаются сценарии text-generation и image-text-to-text; конкретные языки и размер контекстного окна в карточке не указаны. Сильными сторонами являются мультимодальность, существенно уменьшенное представление весов и поддержка ускоренного вывода через MTP или DFlash2. В опубликованных оценках указаны высокие результаты на AIME 2025 и 2026 — по 96,67%, GPQA-Diamond — 90,40%, IFBench — 77,00%, а также на задачах работы с изображениями RealWorldQA — 83,53% и ERQA — 66,25%. Артефакт нельзя использовать напрямую как checkpoint Transformers, Safetensors или GGUF: он предназначен только для NInfer. Для запуска требуется NInfer не ниже указанной ревизии, 64-разрядный Linux, NVIDIA GeForce RTX 5090 с архитектурой sm_120a и CUDA Toolkit 13.1 или новее; NInfer необходимо собрать из исходного кода. Лицензия модели — Apache-2.0.

Это квантованный вариант Qwen/Qwen3.8-Flash-Next, подготовленный с помощью AutoRound и схемы MXFP4-Mixed. Репозиторий содержит веса в формате safetensors; модель предназначена для диалоговой генерации текста и интерфейсов вызова инструментов. В README приведены результаты оценки на нескольких тестах и измерения на контексте длиной 131 072 токена. Для запуска требуется сборка vLLM с поддержкой MXFP4-Mixed и архитектуры модели. Для FP8-кэша KV его нужно включить отдельным параметром времени запуска; README также описывает ограничения совместимости некоторых сборок vLLM с этой архитектурой и форматом compressed-tensors. Лицензия наследуется от исходной модели Qwen/Qwen3.8-Flash-Next.

Raptor 0.6 — это лёгкая supervised fine-tune модели XHToken/Spark-X2.5-4B, подготовленная Jinho Jang для Osaurus. Модель использует плотную архитектуру Spark2_5ForCausalLM с 36 слоями и примерно 3,8 млрд параметров; она предназначена для диалога, рассуждений и работы с инструментами. Репозиторий содержит веса в формате safetensors, а конфигурация JANG_6M задаёт смешанную точность: внимание и связанные эмбеддинги — 8-битные, MLP — 6-битный, масштабы групп — bfloat16, нормализации и attention gate — полной точности. Указанное базовой моделью окно контекста — до 1 048 576 токенов. Модель рассчитана на запуск в Osaurus на Apple Silicon и требует Osaurus версии 0.25.0 или новее. Шаблон поддерживает диалог с включённым по умолчанию режимом рассуждений и вызовами инструментов; карточка сообщает о калибровке и оценке на наборах промптов, но не устанавливает универсальное качество для всех сценариев. README предупреждает, что это практический чекпойнт с обычными для модели 4B ошибками; длинные рассуждения могут превышать 8 192 выходных токена. Лицензия — Apache-2.0.

Seraph-7B-Mistral-7B-Instruct-v0.1 — чат-модель MaziyarPanahi, созданная слиянием Mistral-7B-Instruct-v0.1 и Weyaxi/Seraph-7B методом SLERP. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и принимает текстовые инструкции и диалоговые запросы для генерации ответов. Модель предназначена для диалоговых приложений и генерации текста по инструкциям. Нативный контекст составляет 32 768 токенов; файлы опубликованы в формате safetensors. Лицензия — Apache-2.0. Данных о языковой специализации и ограничениях качества в карточке нет.

UNA-Neural-Chat-v3-3-Phase2 — языковая модель OneManArmy, созданная с применением метода выравнивания UNA (Uniform Neural Alignment) и обученная с использованием Zephyr Trainer на очищенном наборе UltraFeedback. Это дообучение модели one-man-army/una-neural-chat-v3-3-P1-OMA; архитектура MistralForCausalLM, около 7,1 млрд параметров, контекст до 32 768 токенов. Модель предназначена для генерации текста в диалогах и ответов на запросы. В карточке приведены результаты бенчмарков ARC и HellaSwag, но подробные результаты доступны по внешней ссылке и не представлены здесь. Лицензия — Apache-2.0.

MaziyarPanahi/zephyr-7b-alpha-sharded-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием mistralai/Mistral-7B-Instruct-v0.2 и anakin87/zephyr-7b-alpha-sharded методом SLERP. Это плотная авторегрессионная архитектура Mistral с 7,1 млрд параметров; веса представлены в формате safetensors, а конфигурация слияния использует bfloat16. Модель предназначена для генерации текста и диалоговых ответов на инструкции. Её можно использовать в чат-ботах, для ответов на вопросы и создания черновиков текста. Заявленная длина контекста составляет до 32 768 токенов. Данные о конкретно поддерживаемых естественных языках в карточке не приведены. Модель распространяется по лицензии Apache-2.0. README описывает способ объединения чекпойнтов, но не приводит сравнительных оценок качества; поэтому пригодность для конкретных задач стоит проверять на собственных примерах.

ZeproSolar-2x7B — разговорная языковая модель Ionio-ai, созданная с помощью MergeKit путём объединения HuggingFaceH4/zephyr-7b-alpha и NousResearch/Nous-Hermes-2-SOLAR-10.7. Это модель семейства Mixtral с архитектурой MoE, предназначенная для генерации текста в диалогах и работе в роли помощника. Она принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. Модель подходит для чат-ботов, виртуальных помощников и создания текстового контента. Карточка отмечает риск смещений в ответах и возможность генерации вводящего в заблуждение или вредоносного контента. Распространяется по лицензии Apache-2.0.

ZraldAI v1.1 — сжатая дообученная версия Qwen3-8B от Zrald для генерации текста и диалогов. Это плотная авторегрессионная языковая модель на 7,6 млрд параметров с контекстом до 40 960 токенов; репозиторий содержит веса в формате safetensors. Модель загружается через Transformers и предназначена для генерации ответов и ведения диалога.

Mistral Small 4 119B A6B — мультимодальная модель общего назначения от Mistral AI, объединяющая возможности семейств Instruct, Reasoning и Devstral. Архитектура MoE содержит 128 экспертов, из которых активны 4; всего модель насчитывает 119 млрд параметров, а на токен активируется 6,5 млрд. Контекстное окно — 256 тысяч токенов. Репозиторий содержит веса safetensors в формате FP8. Модель принимает текст и изображения и выдаёт текст. Она предназначена для диалоговых ассистентов, рассуждений, программирования, агентных сценариев с вызовом функций, разбора документов и анализа изображений. Режим рассуждений можно настраивать для каждого запроса; заявлена поддержка множества языков, включая русский. Для инференса рекомендована библиотека vLLM. Лицензия Apache 2.0 разрешает коммерческое и некоммерческое использование. В метаданных не указаны базовая модель или отдельное дообучение; FP8 здесь обозначает точность представленных весов. Для запуска README рекомендует актуальный vLLM, а для Transformers — основную ветку проекта.

Mistral-Large-Instruct-2411 — плотная большая языковая модель Mistral AI с 122,2 млрд параметров, представленная в ноябре 2024 года. Она предназначена для диалоговой генерации текста, сложных рассуждений, работы с кодом и задач с длинным контекстом. По сравнению с Mistral-Large-Instruct-2407 улучшены обработка длинного контекста, вызов функций и следование системным инструкциям. Модель поддерживает контекст до 131 072 токенов и многоязычную работу; карточка перечисляет английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский. Также заявлены структурированный вывод JSON, вызов функций и применение в сценариях RAG. Для запуска рекомендована библиотека vLLM; карточка указывает, что для инференса на GPU требуется более 300 ГБ видеопамяти. Модель выпущена Mistral AI по Mistral Research License, разрешающей использование и модификацию в некоммерческих целях. Это текстовая модель общего назначения; заявленные возможности и результаты зависят от сценария и развертывания.

Mistral Small 3.1 24B Instruct — мультимодальная инструкционная модель Mistral AI с плотной архитектурой Mistral3 и 24 млрд параметров, дообученная на базе mistralai/Mistral-Small-3.1-24B-Base-2503. Она принимает текст и изображения, отвечает на вопросы о визуальном содержимом и поддерживает контекст до 128 тысяч токенов. Модель предназначена для диалоговых помощников, вызова функций и генерации JSON, программирования, математических рассуждений и анализа длинных документов. Модель поддерживает множество языков, включая английский, русский, французский, немецкий, испанский, китайский, японский, арабский и хинди. Среди описанных возможностей — локальный запуск, системные инструкции и визуальный анализ; для инференса рекомендована библиотека vLLM. Квантизированную версию можно разместить на одной RTX 4090 или MacBook с 32 ГБ памяти, согласно карточке модели. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое и некоммерческое использование и модификацию. Качество ответов может различаться в зависимости от задачи; в карточке приведены результаты отдельных бенчмарков, которые не гарантируют точность в каждом практическом сценарии.

Qwen3-4B-Instruct-2507 — плотная причинно-языковая модель семейства Qwen3, разработанная командой Qwen. Это обновлённая версия Qwen3-4B в режиме без рассуждений: модель обучена следовать инструкциям и вести диалог, а также поддерживает интерфейс вызова инструментов. В репозитории указано 4,0 млрд параметров, метаданные Hugging Face указывают 3,7 млрд; нативная длина контекста составляет 262 144 токена. Модель предназначена для генерации ответов, понимания текста, логических и математических задач, вопросов по естественным наукам, программирования и работы с инструментами. Большое окно контекста подходит для анализа длинных документов и диалогов; заявлена поддержка нескольких языков и улучшенное покрытие редких знаний. Модель принимает текст и выдаёт текст. В README отмечены улучшения следования инструкциям, рассуждений, генерации текста и работы с длинным контекстом. Модель работает только в режиме без рассуждений и не выводит блоки рассуждений. Лицензия — Apache-2.0.

Qwen3.5-27B — постобученная мультимодальная модель семейства Qwen3.5, разработанная командой Qwen. Это причинная языковая модель с визуальным энкодером на 27 млрд параметров, объединяющая Gated Delta Networks и разреженную архитектуру Mixture-of-Experts. Репозиторий содержит веса и конфигурацию в формате Hugging Face Transformers; заявлена совместимость с Transformers, vLLM, SGLang и KTransformers. Модель предназначена для диалогов и рассуждений по тексту и изображениям, программирования, визуального понимания и сценариев с вызовом инструментов. Она поддерживает 201 язык и диалект. Нативная длина контекста составляет 262 144 токена с возможностью расширения до 1 010 000 токенов; режим рассуждений включён по умолчанию. Разработчик отмечает высокую эффективность гибридной архитектуры и широкие мультимодальные возможности. Лицензия — Apache-2.0. Для запуска доступны популярные фреймворки инференса; README рекомендует специализированные серверы для производительных нагрузок. Модель крупная, поэтому длинный контекст может требовать значительных ресурсов и при нехватке памяти его рекомендуют уменьшать.

Granite-4.2-8B (FP8) — квантизированная в формате FP8 версия языковой модели Granite 4.2, разработанной IBM Research и распространяемой через IBM Granite. Это dense reasoning language model примерно на 8 млрд параметров; в репозитории FP8-версии указано около 9 млрд параметров с тензорами BF16 и F8_E4M3. Модель предназначена для генерации текста, диалога, следования инструкциям, программирования, решения математических и многошаговых задач, а также для построения корпоративных AI-агентов с вызовом инструментов. Granite 4.2 поддерживает встроенное пошаговое рассуждение, режимы полного, отключённого и облегчённого reasoning, а также reasoning-augmented tool calling. Заявлено контекстное окно 128K токенов. Модель протестирована для диалога на английском, немецком, испанском, французском, японском, португальском, арабском, чешском, итальянском, корейском, нидерландском и китайском языках. FP8-представление снижает требования к памяти и подходит для развёртывания через Transformers, vLLM и SGLang, но требует совместимой поддержки FP8 и квантизированных тензоров. Сильные стороны модели — сочетание reasoning, кодирования, многошагового планирования и вызова инструментов при относительно компактном размере, а также возможность выбора баланса между качеством рассуждения и задержкой. В доступных первоисточниках не приведены подробные сведения о внутренней конфигурации слоёв именно FP8-варианта, полном наборе ограничений безопасности и численных характеристиках для всех сценариев; поэтому результаты требуют проверки в прикладных задачах. Репозиторий распространяется по лицензии Apache 2.0, допускающей коммерческое и академическое использование.

Mistral-Small-3.2-24B-Instruct-2506-bnb-4bit — 4-битная квантованная версия инструкционной мультимодальной модели Mistral-Small-3.2-24B-Instruct-2506 от Mistral AI. Модель предназначена для диалоговых ассистентов, выполнения инструкций, генерации текста и кода, решения STEM-задач, вызова функций и анализа изображений, документов, графиков и диаграмм. Модель содержит 24 млрд параметров и поддерживает текстово-графический сценарий image-text-to-text. Заявлена поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского, персидского и ряда других языков. По сравнению с Mistral-Small-3.1 улучшены следование точным инструкциям, устойчивость к повторяющимся и бесконечным генерациям, а также шаблон function calling. В тестах модель показывает сильные результаты в генерации кода, следовании инструкциям, обработке документов и диаграмм, однако в отдельных vision-бенчмарках уступает предыдущей версии. Размер контекста в README не указан. Модель рекомендуется запускать через vLLM или Transformers; для корректной работы с инструментами требуются совместимые настройки Mistral и vLLM. Квантование bnb-4bit снижает требования к памяти по сравнению с полноформатными вариантами, но точные требования для этой сборки не приведены. Для повышения качества рекомендуется низкая температура генерации и системный промпт. Лицензия — Apache-2.0.

Qwen2-7B-Instruct-AWQ — инструкционная языковая модель из серии Qwen, разработанная командой Qwen. Это текстовая модель для генерации ответов в диалогах, следования инструкциям, понимания и создания текста, а также задач программирования, математики, рассуждений и многоязычной обработки. Модель предназначена для локального развертывания и интеграции в приложения через Transformers или vLLM. Модель содержит около 7 миллиардов параметров и основана на decoder-only архитектуре Transformer с активацией SwiGLU, смещениями в QKV-проекциях и Grouped Query Attention. Она прошла предварительное обучение, supervised fine-tuning и Direct Preference Optimization. Вариант AWQ использует квантованные веса для снижения требований к памяти и ускорения инференса. Модель работает с текстом, поддерживает английский язык, а токенизатор адаптирован также к нескольким естественным языкам и языкам программирования. Заявлена длина контекста до 131 072 токенов; для обработки очень длинных входов применяется метод YARN. Сильными сторонами модели являются большой контекст, инструкционное выравнивание, поддержка многоязычных и технических сценариев, а также более экономичное развертывание благодаря квантованию. Модель не является мультимодальной и ориентирована на текстовую генерацию. При использовании YARN в vLLM статический коэффициент масштабирования может отрицательно влиять на качество или производительность на коротких текстах, поэтому его рекомендуется включать только при необходимости длинного контекста. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-122B-A10B — мультимодальная причинная языковая модель с визуальным энкодером, разработанная командой Qwen. Репозиторий содержит постобученные веса и конфигурацию в формате Transformers; модель сочетает Gated Delta Networks с разреженной архитектурой Mixture-of-Experts. Всего в модели 122 млрд параметров, из которых при генерации активируются 10 млрд; предусмотрено 256 экспертов, 8 маршрутизируемых и один общий активируются для каждого шага. Модель предназначена для диалога и решения задач по тексту и изображениям, включая рассуждения, программирование, понимание визуального содержимого и работу с инструментами. README также описывает обработку видео и расширенный контекст. Нативное окно контекста — 262 144 токена, с возможностью расширения до 1 010 000. Заявлена поддержка 201 языка и диалекта; точный перечень языков в предоставленной карточке опущен. Среди сильных сторон — сочетание мультимодального понимания, инструментального взаимодействия и разреженной архитектуры, рассчитанной на эффективный инференс. Для запуска требуются совместимые версии Transformers или специализированные движки, например vLLM, SGLang или KTransformers; производительность и расход памяти зависят от инфраструктуры, а README предупреждает о риске нехватки памяти при большом контексте. Лицензия — Apache-2.0.

Granite-4.1-8B — языковая модель с 8,4 млрд параметров, разработанная командой Granite компании IBM. Это плотный декодерный трансформер с GQA, RoPE, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Модель дообучена на основе Granite-4.1-8B-Base с помощью supervised fine-tuning и обучения с подкреплением; доступна в формате Safetensors и рассчитана на контекст до 131 072 токенов. Модель предназначена для следования инструкциям и создания диалоговых помощников, в том числе агентов с вызовом инструментов. Она подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и многоязычного диалога. Поддерживаемые языки: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Лицензия — Apache 2.0. Качество на многоязычных задачах может уступать английскому; модель также может выдавать неточные, предвзятые или небезопасные ответы. Для конкретных сценариев рекомендуется проводить проверку безопасности и настройку.

RedHatAI/Mistral-Small-3.1-24B-Instruct-2503-quantized.w8a8 — это квантизированная версия инструкционной мультимодальной модели Mistral-Small-3.1-24B-Instruct-2503, разработанная Red Hat совместно с Neural Magic на базе модели Mistral AI. Архитектура обозначена как Mistral3ForConditionalGeneration. Модель принимает текст и изображения и генерирует текст; заявлена поддержка языков, включая английский, французский, немецкий, испанский, итальянский, португальский, хинди, арабский, китайский, японский, корейский, русский, украинский и другие языки из указанного перечня. Модель предназначена для быстрых диалоговых агентов, вызова функций с низкой задержкой, программирования, математического рассуждения, анализа длинных документов и визуального понимания. Она также подходит для локального развертывания, включая сценарии обработки чувствительных данных, и для адаптации под предметные области посредством дообучения. Максимальный контекст в README явно не указан, однако в примере развертывания используется ограничение 32768 токенов. Веса и активации линейных операторов в трансформерных блоках квантизированы в INT8. Для весов применяется статическая симметричная поканальная схема, для активаций — динамическая симметричная потокенная схема; используются методы SmoothQuant и GPTQ. По данным README, это примерно вдвое снижает требования к памяти GPU и размер диска, а также может примерно вдвое повысить пропускную способность матричных умножений. Компромиссом являются возможные потери точности по сравнению с исходной моделью, при этом конкретные результаты бенчмарков не приведены. Модель распространяется по лицензии Apache 2.0 и валидирована с RHOAI 2.20, RHAIIS 3.0, RHELAI 1.5 и vLLM 0.8.4.

Qwen3.5-35B-A3B — мультимодальная модель Alibaba с языковой частью и визуальным энкодером. Это post-trained версия базовой Qwen3.5-35B-A3B-Base, распространяемая в формате Transformers и совместимая с Transformers, vLLM, SGLang и KTransformers. Модель принимает текст и изображения и генерирует текст; поддерживает диалог и интерфейс вызова инструментов. Архитектура сочетает Gated Delta Networks и разреженную Mixture-of-Experts: всего 35 млрд параметров, из которых активны около 3 млрд; используются 40 слоёв и 256 экспертов, из которых на шаг активируются 8 маршрутизируемых и один общий. Контекст составляет 262 144 токена с возможностью расширения примерно до 1,01 млн. В README заявлена поддержка 201 языка и диалекта, включая задачи рассуждения, программирования, работы с агентами и визуального понимания. Модель подходит для анализа изображений и документов, диалоговых помощников, задач с длинным контекстом и агентных сценариев с вызовом инструментов. Режим рассуждения включён по умолчанию; для высоких нагрузок разработчик рекомендует специализированные движки инференса. Доступны веса и конфигурации, лицензия — Apache-2.0.

GigaChat 3.5 Ultra — русско-английская инструктивная языковая модель семейства GigaChat, представленная в репозитории ai-sage как версия весов bf16. Это дообученная на основе ai-sage/GigaChat3.5-432B-A28B-base модель для диалогового ассистента, рассуждений, программирования и сценариев с вызовом инструментов. В карточке описана архитектура MoE с 432 млрд параметров всего и 28 млрд активных параметров; метаданные каталога указывают 25 млрд параметров. Архитектура внимания сочетает MLA и линейные слои GatedDeltaNet, а два MTP-выхода предназначены для ускорения генерации. Контекст модели — до 262 144 токенов. Модель рассчитана на многоязычные запросы, следование инструкциям, математику, код и агентные задачи; README приводит результаты тестов на общих знаниях, математике, генерации кода и использовании инструментов. Репозиторий содержит веса safetensors в bf16, а карточка упоминает отдельные версии fp8 и GGUF. Лицензия — MIT. Для развёртывания рекомендованы SGLang или vLLM; по масштабу модель ориентирована на крупные вычислительные кластеры. Приведённые в README показатели бенчмарков относятся к разным вариантам и условиям оценки, поэтому они не гарантируют такой же результат в конкретном приложении.

Granite-3.3-8B-Instruct — плотная языковая модель с 8,2 млрд параметров, разработанная командой Granite компании IBM и дообученная на базе ibm-granite/granite-3.3-8b-base для следования инструкциям и улучшенного рассуждения. Она принимает текст и генерирует ответы, поддерживает диалог и интерфейс вызова инструментов. Контекстное окно составляет 131 072 токена. Модель предназначена для общих задач ассистента и бизнес-приложений: ответов на вопросы, суммаризации длинных документов и встреч, классификации и извлечения текста, RAG, задач по математике и программированию, а также многоязычного диалога. В README заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Модель доступна в формате safetensors для Transformers. Лицензия — Apache 2.0. В README отмечено, что применимы этические ограничения и ограничения базовой модели Granite-3.3-8B-Base; подробности этих ограничений в предоставленных материалах не раскрыты.