I.6Перевод и языковая адаптация

unsloth/Qwen3-VL-4B-Thinking-GGUF — GGUF-версия мультимодальной модели Qwen3-VL-4B-Thinking, разработанной командой Qwen и подготовленной Unsloth с исправлениями шаблона чата. Модель предназначена для обработки текста и изображений, визуального понимания и рассуждений, анализа документов, OCR, STEM- и математических задач, пространственного анализа, понимания видео, а также взаимодействия с графическими интерфейсами и инструментами. Модель имеет плотную архитектуру с 4 млрд параметров и относится к reasoning-ориентированной версии Thinking. Заявлена поддержка контекста длиной 256K токенов с возможностью расширения до 1M, а также обработки изображений, видео и текста. Среди архитектурных особенностей указаны Interleaved-MRoPE для временных и пространственных измерений, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками для анализа событий в видео. OCR поддерживает 32 языка, однако полный перечень языков в README не приведён. Сильные стороны модели — сочетание языкового и визуального понимания, мультимодальное рассуждение, работа с длинным контекстом, пространственными отношениями, видео и сложными визуальными документами. Ограничения, связанные с точностью, вычислительными требованиями и конкретными параметрами GGUF-квантизации, в README не описаны; фактические возможности зависят от используемого варианта файла и среды запуска. Модель распространяется по лицензии Apache-2.0.

JC1DA/Qwopus3.8-27B-Flash-INT4-W4A16 — экспериментальная 4-битная версия модели Qwopus3.8-27B-Flash, разработанной Jackrong на основе Qwen/Qwen3.8-27B. Модель ориентирована на генерацию текста, диалоговые сценарии, рассуждения, написание кода, агентские рабочие процессы, использование инструментов и function calling. Заявлена поддержка английского, китайского, испанского, русского и японского языков. В карточке также указан мультимодальный pipeline image-text-to-text и сохранённый visual encoder, однако подробности о возможностях работы с изображениями не приведены. Квантование выполнено с помощью AutoRound 0.12.3 и GPTQ: 4 бита для весов, 16 бит для активаций, размер группы 128. Размер модели составляет около 19 ГБ вместо примерно 54 ГБ в FP16, что уменьшает объём памяти приблизительно на 65%. В FP16 сохранены проекционные матрицы linear attention во всех 64 слоях, модуль MTP и visual encoder. Модель совместима с Transformers и другими средами, поддерживающими GPTQ/AutoRound, а также предназначена для высокопроизводительного сервинга через vLLM. Сильные стороны модели — сниженное потребление памяти, пригодность для локального запуска, длительных агентских сценариев и speculative decoding. На ARC-Easy квантованная версия показала 84,13% точности против 83,71% у FP16-версии. Ограничения включают возможный компромисс между эффективностью и точностью: в указанном наборе MMLU-Pro модель получила 91,28% против 92,73% у базовой Qwen3.8. Возможны нестабильность рассуждений, циклы и неэффективные траектории; качество применения инструментов зависит от промпта, окружения и оркестрации. Релиз обозначен как экспериментальный и предназначен для исследований, локальной оценки и технических экспериментов. Лицензия — Apache-2.0.

Sinythos 5.5 — это готовый к запуску вариант Qwen3-30B-A3B-Thinking-2507, подготовленный HTPQoo и распространяемый в формате GGUF для LM Studio, Jan, Atomic Chat и llama.cpp. Это модель MoE с 30 млрд параметров, из которых активны 3,3 млрд на токен; README сообщает, что все 579 тензоров побайтно совпадают с квантованной сборкой UD-Q4_K_XL базовой модели. Изменены встроенный шаблон чата и системная директива с шестью правилами поведения, поэтому модель не является обученной с нуля или дообученной версией. Модель предназначена для диалогов и генерации текста, включая рассуждения, помощь с программированием и агентские сценарии с внешними инструментами, выполнением кода и повторной проверкой ответа. Встроенная директива ориентирует ответы на язык пользователя; в метаданных отмечены итальянский, английский и многоязычность. Для применения в llama.cpp требуется включить обработку шаблона через `--jinja`; без неё пользовательские инструкции из шаблона не применяются. README указывает файл размером 17,7 ГБ и возможность запуска на CPU при достаточном объёме RAM. Веса распространяются по лицензии Apache 2.0, унаследованной от Qwen; для кода runtime указана MIT. Для полной реализации агентского сценария требуются runtime и инструменты, которые предоставляет приложение, а не только файл модели.

Это объединённая модель для генерации текста, созданная слиянием mistralai/Mistral-7B-Instruct-v0.2 и cognitivecomputations/dolphin-2.0-mistral-7b методом SLERP. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для диалога и выполнения инструкций в текстовом формате. Контекст составляет до 32 768 токенов, что позволяет использовать её для многошаговых бесед и работы с длинными текстовыми запросами. В карточке указаны формат safetensors и лицензия Apache-2.0.

Карточка модели aoiandroid/LFM2.5-2.6B на Hugging Face совпадает с карточкой LiquidAI/LFM2.5-2.6B, поэтому описание составлено по ней. LFM2.5-2.6B — компактная текстовая модель Liquid AI из семейства гибридных LFM2.5, настроенная для локального запуска на устройствах и агентных сценариев. Это дообученная версия LFM2.5-2.6B-Base с 2,6 млрд параметров; архитектура LFM2 использует 30 слоёв, включая блоки свёртки с двойным гейтингом и слои GQA. Модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и работает с 17 языками, включая русский. Модель предназначена для вызова инструментов, следования инструкциям, многошаговых агентных задач, извлечения данных, RAG и работы с длинным контекстом. В карточке заявлены скорость до 220 токенов в секунду на Apple M5 Max и до 113 токенов в секунду на процессоре AMD Ryzen при использовании менее 2,5 ГБ памяти; фактические показатели зависят от оборудования и конфигурации. Liquid AI не рекомендует её для агентного программирования и задач, требующих обширных знаний. Лицензия указана как other; её условия следует уточнить в репозитории модели.

Abiray/MiniCPM5-2B-GGUF — набор квантованных весов модели MiniCPM5-2B, разработанной OpenBMB и входящей в серию MiniCPM5. Это плотная Transformer-модель примерно на 2 млрд параметров, представленная в формате GGUF для локального запуска через llama.cpp, Ollama и LM Studio, включая сценарии on-device и edge AI. Модель ориентирована на генерацию текста и поддерживает английский и китайский языки. Модель предназначена для генерации кода и текста, решения математических задач, работы с длинным контекстом до 128 тысяч токенов, вызова инструментов и многошаговых агентских сценариев. Доступны варианты квантования от Q3_K_M до Q8_0 размером примерно от 1,29 до 2,68 ГБ; Q4_K_M указан как рекомендуемый баланс скорости, качества и занимаемой памяти, а Q8_0 — как вариант с минимальными потерями относительно исходных весов. Квантование уменьшает требования к памяти, но может влиять на точность, особенно в компактных вариантах. Модель распространяется по лицензии Apache-2.0.

MiniMax-M3-FP8-dynamic — это динамически квантизированная в формате FP8 версия мультимодальной модели MiniMax-M3, разработанной MiniMaxAI. Модель является производным checkpoint от MiniMaxAI/MiniMax-M3 и распространяется в форматах safetensors и compressed-tensors. Она предназначена для диалоговых и мультимодальных задач, включая работу с текстом и изображениями, рассуждения, математику, ответы на вопросы, следование инструкциям и генерацию кода. Базовая MiniMax-M3 описывается как нативная мультимодальная MoE-модель примерно на 428 млрд параметров, из которых около 23 млрд активируются при обработке запроса. Заявлена поддержка контекста до 1 млн токенов. FP8 dynamic quantization уменьшает требования к памяти и дисковому пространству; согласно приведённой оценке, качество в большинстве тестов близко к BF16-версии, хотя на отдельных задачах наблюдается снижение результатов. Модель проверялась в vLLM через OpenAI-compatible server и на оборудовании AMD MI350 с tensor parallel size 8. Основные ограничения связаны с высокими аппаратными требованиями, обусловленными размером исходной MoE-модели и мультимодальной архитектурой. В README не указаны точный набор поддерживаемых языков, подробности входных и выходных модальностей, минимальная конфигурация для запуска и дополнительные ограничения применения. Квантизированный checkpoint следует условиям лицензии базовой MiniMax-M3; конкретный текст лицензии в карточке не приведён, а в метаданных указано license: other.

mlx-community/Qwen3-32B-bf16 — конверсия модели Qwen/Qwen3-32B в формат MLX, выполненная сообществом mlx-community с помощью mlx-lm версии 0.24.0. Это плотная авторегрессионная языковая модель семейства Qwen3 с 29,7 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст. Для неё указан контекст длиной до 40 960 токенов. Базовая Qwen3 — многоязычная модель для диалога, рассуждений, программирования и работы с инструментами; конкретный перечень поддерживаемых языков в карточке этой конверсии не приведён. Репозиторий содержит веса safetensors и предназначен для использования с библиотекой MLX, в частности через mlx-lm. Модель доступна по лицензии Apache-2.0. Качество и скорость могут зависеть от оборудования и программной среды MLX; приведённые сведения не описывают отдельную проверку этой конверсии.

unsloth/Qwen3-8B-Base-bnb-4bit — 4-битная версия базовой языковой модели Qwen3-8B-Base, подготовленная Unsloth на основе модели Qwen Team. Это причинная языковая модель на этапе предварительного обучения, предназначенная для генерации и продолжения текста, адаптации под прикладные задачи, программирования, STEM, рассуждений и работы с многоязычными данными. Модель содержит около 8,2 млрд параметров, из которых 6,95 млрд не относятся к embedding-слою, и имеет 36 слоёв. Используется Grouped-Query Attention: 32 головы запросов и 8 голов ключей и значений. Максимальная длина контекста составляет 32 768 токенов. Qwen3 обучалась на 36 трлн токенов на 119 языках, однако README не уточняет точный перечень языков и отдельно не описывает мультимодальные возможности; по указанным характеристикам это текстовая модель. 4-битное представление снижает требования к памяти и облегчает локальный запуск, сохраняя совместимость с экосистемой Transformers, но может влиять на точность по сравнению с полноразмерной версией. Это базовая, а не инструкционно настроенная модель, поэтому для диалоговых сценариев и следования сложным инструкциям может потребоваться дополнительное дообучение или специальное форматирование запросов. Для работы рекомендуется актуальная версия transformers; версии ниже 4.51.0 могут вызывать ошибку KeyError: qwen3. Лицензия — Apache-2.0.

Qwen3.8-Flash-Next-113B-A5B-Niwaki-3bit-mlx — текстовая Mixture-of-Experts-модель, созданная проектом Niwaki на базе Qwen3.8-Flash-Next от команды Qwen. Модель была подвергнута структурному прореживанию экспертов, реконструкции и дистилляции, после чего сохранена в 3-битном формате для MLX. Она предназначена для генерации текста, диалогов, программирования, рассуждений и творческих задач на компьютерах Apple Silicon, особенно моделях с 64 ГБ unified memory. Модель содержит 113B параметров, из которых около 5,4B активны для каждого токена. Архитектура включает 48 слоёв, до 512 маршрутизируемых экспертов и top-k 10; эксперты используются в 32 слоях и имеют промежуточный размер 448. Эксперты хранятся в 3-битном формате с группировкой 64, backbone — в 4-битном, а таблица n-gram embeddings PLE — в 2-битном формате. Размер модели на диске составляет 42,2 ГБ, поддерживается только текстовая модальность, языки явно не указаны. Для запуска требуются MLX, mlx-vlm и специальный загрузчик Niwaki; заявлена производительность около 31 токена в секунду на M4 Max. Главное преимущество — существенное сокращение требований к памяти при сохранении 99,8% среднего результата базовой 4-битной модели на указанном наборе задач. Ограничения включают повышенную perplexity, меньшую надёжность чисел и редких технических фактов, недостаточную проверку поведения в узких предметных областях и унаследованные от базовой модели смещения. При включённом режиме рассуждений модель может генерировать чрезмерно длинные ответы; для кратких задач рекомендуется отключать thinking. Лицензия указана как other со ссылкой на лицензию базовой модели Qwen3.8-Flash-Next.

Qwen3-VL-32B-Instruct-GGUF — мультимодальная instruction-модель, разработанная Unsloth на основе Qwen/Qwen3-VL-32B-Instruct. Она предназначена для диалогов и генерации ответов по тексту и изображениям, а также для анализа видео, визуального распознавания, OCR, пространственного рассуждения, STEM- и математических задач, визуального программирования и взаимодействия с графическими интерфейсами через инструменты. Модель использует плотную архитектуру размером 32B параметров и поставляется в формате GGUF. Заявлены контекст длиной 256K токенов с возможностью расширения до 1M, поддержка изображений, видео и текста, а также OCR для 32 языков. Среди архитектурных особенностей указаны Interleaved-MRoPE для пространственно-временного позиционирования, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками для анализа событий в видео. Репозиторий также включает исправления chat template от Unsloth. Сильные стороны модели — объединённое понимание текста и визуальных данных, детальное распознавание объектов и документов, работа с длинным контекстом и видео, а также расширенные возможности пространственного и агентного рассуждения. Ограничения связаны с высокой вычислительной и памятьевой нагрузкой 32B-модели, а GGUF предполагает использование совместимого программного обеспечения для запуска; конкретные требования к ресурсам и поддерживаемые языки вне OCR в README не указаны. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-VL-4B-Instruct-bnb-4bit — это 4-битно квантованная версия мультимодальной инструкционной модели Qwen3-VL-4B-Instruct, подготовленная Unsloth на базе модели Qwen Team. Модель предназначена для задач, в которых требуется совместная обработка текста и изображений, включая визуальные вопросы и ответы, описание изображений, OCR, анализ документов, визуальное рассуждение, работу с видео и взаимодействие с графическими интерфейсами. Модель имеет плотную архитектуру и около 4 миллиардов параметров; поддерживает текстово-визуальный ввод и вывод текста. Для семейства Qwen3-VL заявлены нативный контекст до 256 тысяч токенов с возможностью расширения до 1 миллиона, анализ продолжительных видео, распознавание текста на 32 языках, улучшенное пространственное рассуждение, временная привязка событий в видео и генерация кода HTML/CSS/JS или схем Draw.io по визуальным материалам. В README также указаны механизмы Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками, однако конкретные языки интерфейса и точные параметры именно этой квантованной сборки не уточняются. К сильным сторонам относятся сочетание визуального восприятия и текстового понимания, работа с документами и видео, распознавание текста в сложных условиях, а также возможность применения в агентских сценариях и на устройствах с ограниченными ресурсами благодаря 4-битной квантизации. Ограничения включают возможное снижение точности по сравнению с полноформатной моделью и неуточнённые требования к аппаратному обеспечению и совместимости. Лицензия — Apache-2.0.

Qwen3-VL-4B-Instruct-GGUF — это мультимодальная vision-language модель серии Qwen, разработанная командой Qwen. Репозиторий содержит веса модели Qwen3-VL-4B-Instruct в формате GGUF: языковую модель и отдельный vision encoder в вариантах FP16, Q8_0 и Q4_K_M. Модель предназначена для понимания и генерации текста с учётом изображений, а также для анализа видео. Модель ориентирована на визуальные вопросы и ответы, OCR, распознавание объектов и сцен, пространственное рассуждение, анализ документов и видео, STEM-задачи, генерацию кода и взаимодействие с графическими интерфейсами через инструменты. Заявлены контекст до 256 тысяч токенов с возможностью расширения до 1 миллиона, понимание длительных видео и поддержка OCR на 32 языках. В архитектуре используются Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками для улучшения пространственного и временного анализа. К сильным сторонам относятся сочетание текстового и визуального понимания, работа с мелкими деталями изображений, пространственным контекстом, документами и видео, а также возможность запуска локально на CPU, NVIDIA GPU, Apple Silicon и Intel GPU через llama.cpp, Ollama и другие инструменты GGUF. Выбор точности компонентов позволяет адаптировать потребление памяти и производительность под оборудование, однако квантованные варианты могут уступать FP16 по качеству, а README не содержит подробных числовых результатов бенчмарков, точного перечня поддерживаемых языков для обычного диалога и требований к ресурсам. Лицензия — Apache-2.0.

Карточка модели txchmechanicus/Qwopus3.6-35B-A3B-v1 на Hugging Face совпадает с карточкой Jackrong/Qwopus3.6-35B-A3B-v1, поэтому описание составлено по ней. Qwopus3.6-35B-A3B-v1 — экспериментальная мультимодальная модель с разреженной архитектурой MoE, созданная Jackrong путём дообучения Qwen3.6-35B-A3B с помощью LoRA и трёх этапов supervised fine-tuning. В базовой модели 35 млрд параметров, из которых активно около 3 млрд на токен; она сочетает линейное внимание Gated DeltaNet с обычными слоями gated attention и рассчитана на контекст до 262 тысяч токенов. Модель предназначена для диалогов, рассуждений, работы с изображениями и инструментами, а также задач программирования, математики, науки и следования инструкциям. Автор заявляет улучшения в структурированности рассуждений и последовательности ответов; карточка приводит результаты независимого теста, но отмечает, что полная оценка производительности и безопасности не проводилась. Поддерживаются английский, китайский, испанский, русский и японский языки. Лицензия — Apache-2.0.

Step-3.7-Flash-GGUF — набор GGUF-квантизаций модели Step-3.7-Flash, разработанной StepFun-ai. Это мультимодальная vision-language модель для понимания изображений и работы с текстом, ориентированная на агентные сценарии, включая вызов инструментов, многошаговое рассуждение, программирование и математические задачи. Модель поддерживает входные изображения через отдельный файл проектора mmproj и может запускаться с помощью llama.cpp. Исходная модель содержит около 198 млрд параметров и использует разреженную архитектуру Mixture-of-Experts, активируя примерно 11 млрд параметров на токен. Она включает языковую часть на 196 млрд параметров и vision-энкодер на 1,8 млрд параметров, поддерживает контекст до 256K токенов и три уровня рассуждения: low, medium и high. Заявлена поддержка английского, китайского, японского, корейского, арабского, хинди, немецкого, французского, испанского и русского языков. В набор входят варианты от BF16 до агрессивных IQ3_XXS и Q3-квантизаций размером примерно от 76 до 394 ГБ; отдельный vision-проектор F16 занимает около 4 ГБ. К сильным сторонам относятся мультимодальность, большой контекст, поддержка рассуждений и инструментального взаимодействия, а также возможность локального и приватного запуска. К ограничениям относятся очень высокие требования к памяти и зависимость качества от выбранного уровня квантизации: компактные варианты могут давать заметную потерю качества. Для работы с изображениями необходим отдельный mmproj-файл. Модель распространяется по лицензии Apache-2.0.

fearlessdots/WizardLM-2-7B-abliterated — это версия диалоговой модели WizardLM-2 7B, опубликованная fearlessdots. Веса в формате bfloat16 Safetensors ортогонализированы по методике, основанной на реализации @failspy; базовая модель — mistralai/Mistral-7B-v0.1, дообученная WizardLM@Microsoft AI. Модель имеет плотную архитектуру MistralForCausalLM и около 7,1 млрд параметров. Модель предназначена для многоходового диалога и генерации ответов на инструкции, включая задачи письма, программирования, математики, рассуждений и многоязычного общения. В README заявлена поддержка нескольких языков, но конкретные языки не перечислены. Контекст составляет до 32 768 токенов; используется шаблон диалога Vicuna. Лицензия — Apache-2.0. Заявленные возможности унаследованы от WizardLM-2 7B, однако карточка не приводит отдельной оценки именно этой ортогонализированной версии. Ортогонализация весов описана как abliterated-вариант, но README не уточняет, какие ограничения или побочные эффекты она создаёт.

Calcium-Opus-14B-Elite3 — диалоговая языковая модель на базе Qwen2.5-14B-Instruct, дообученная разработчиком на данных для пошагового рассуждения. Это плотная архитектура Qwen2 с 14 млрд параметров, предназначенная для генерации текста, следования инструкциям и решения многоэтапных задач, включая математику и программирование. Модель принимает текст и формирует текстовые ответы; поддерживает контекст до 131 072 токенов и, по карточке, генерацию ответов длиной более 8 тысяч токенов. Карточка заявляет поддержку более 29 языков, включая английский, русский, китайский, французский, испанский, немецкий, японский и арабский. Среди описанных сильных сторон — структурированные ответы, в том числе JSON, работа с таблицами, кодом и математическими задачами. Модель доступна в формате safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Карточка предупреждает о возможных ошибках и повторениях в длинных или творческих ответах, неодинаковом качестве между языками и отсутствии актуальных сведений о событиях после обучения; для работы с длинным контекстом нужны значительные вычислительные ресурсы.

ChatGLM3-6B-32K 是由 ChatGLM 项目团队开发的中文、英文对话模型，基于 ChatGLM3-6B，并针对长文本对话进行了扩展训练。 Это плотная архитектура ChatGLM примерно с 7,5 млрд параметров; модель принимает текст и поддерживает контекст до 32 768 токенов. Модель предназначена для многоходового диалога и работы с длинными текстами: она может отвечать на вопросы по объёмным материалам, обобщать их и поддерживать сценарии с вызовом инструментов и исполнением кода, заявленные для семейства ChatGLM3. В карточке также указаны задачи генерации текста и классификации текста. Для контекстов до 8K токенов разработчики рекомендуют ChatGLM3-6B; вариант 32K рассчитан на более длинный ввод. Модель работает с PyTorch и Transformers. Веса открыты для академических исследований; бесплатное коммерческое использование допускается после регистрации через анкету.

Dolphin X1 8B — языковая модель для генерации текста, разработанная командой Dolphin на основе dphn/Dolphin-X1-8B и Llama 3.1 8B Instruct. Версия с идентификатором dphn/Dolphin-X1-8B-GGUF предназначена для запуска моделей в формате GGUF. Модель ориентирована на общее назначение и диалоговое взаимодействие, включая сценарии, аналогичные использованию универсальных ассистентов. Модель имеет архитектуру Llama 3.1 с размером около 8 миллиардов параметров и поддерживает текстовую модальность. Она сохраняет стандартный шаблон чата Llama 3 и позволяет задавать тон, характер и правила поведения через системный промпт. Заявленная особенность Dolphin — повышенная управляемость: владелец приложения самостоятельно определяет системные инструкции, выравнивание и способы обработки данных. Сведения о поддерживаемых языках и размере контекста в README не указаны. К сильным сторонам относятся универсальность, возможность локального или контролируемого развёртывания, совместимость с Ollama, LM Studio, Transformers, vLLM, SGLang и TGI, а также стремление сохранить или улучшить возможности Llama 3.1 8B Instruct при снижении ограничений на ответы. Ограничения модели и её поведения зависят от выбранных инструкций и настроек выравнивания; заявленная доля успешного прохождения набора Dolphin-refusals составляет 95,96%, а показатели MMLU и IFEVAL приведены в README без дополнительного описания методики. Лицензия указана как Llama 3.1.

QuantTrio/GLM-5.2-Int4-Int8Mix — квантизированная версия языковой модели GLM-5.2, разработанной командой zai-org. Репозиторий содержит data-free квантизацию без использования калибровочного набора данных и подготовлен прежде всего для инференса через vLLM с форматом compressed-tensors. Модель предназначена для генерации текста, диалоговых приложений, программирования и выполнения сложных долгосрочных задач. Базовая GLM-5.2 поддерживает контекст до 1 млн токенов и использует архитектурные улучшения IndexShare, разреженное внимание и MTP для спекулятивного декодирования. В данной версии применено смешанное weight-only-квантизирование: обычные линейные веса преимущественно W8A16, веса MoE-экспертов W4A16, с group size 128; отдельные компоненты сохранены в BF16, FP32 или квантизированы поканально. Размер файлов модели составляет около 378 GiB. Основное преимущество версии — снижение требований к памяти по сравнению с полноразмерными весами при сохранении высокой производительности. В приведённом ориентировочном тесте AIME25 результат составил 92,92% при reasoning_effort=max и 86,46% при medium-high, однако это не является полноценным формальным бенчмарком. Ограничение — заявлена совместимость прежде всего с vLLM и compressed-tensors; совместимость с SGLang и другими runtime не гарантируется. Проверка проводилась на конфигурации из 8 GPU H200 с vLLM 0.23.0 и Transformers 5.12.1. Модель распространяется по лицензии MIT.

GLM-5.3-Prime — высокоскоростной вариант модели GLM-5.3 от Z.ai. По описанию, ускорение инференса повышает пропускную способность генерации в 1,5–2 раза при сохранении возможностей GLM-5.3. Модель принимает и выдаёт текст; заявлен контекст длиной до 1 млн токенов. Модель предназначена для сценариев генерации текста, где важны высокая скорость ответа и работа с длинным контекстом. Сведения о лицензии и конкретных ограничениях в доступных данных отсутствуют.

LFM2.5-2.6B-etheroi — многоязычная текстовая модель на 2,6 млрд параметров, созданная на базе LiquidAI/LFM2.5-2.6B-Base и дообученная для агентных сценариев. Она использует гибридную архитектуру LFM2: 30 слоёв, включая блоки коротких свёрток и GQA, и поддерживает контекст до 131 072 токенов. Модель предназначена для локального и периферийного развёртывания; карточка указывает поддержку Transformers, vLLM и SGLang. Модель подходит для вызова инструментов, выполнения многошаговых инструкций, извлечения данных, RAG и работы с длинным контекстом. Она поддерживает английский, арабский, китайский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, польский, португальский, русский, испанский, тайский и вьетнамский языки. По карточке, она не рекомендуется для агентного программирования и задач, требующих обширных знаний. Лицензия указана как other; конкретные условия следует проверить в репозитории модели.

Mixtral-8x22B-Instruct-v0.1 — инструктивная языковая модель от команды Mistral AI на архитектуре Mixtral с причинным декодированием и смесью экспертов (MoE). Это дообученная версия Mixtral-8x22B-v0.1; в метаданных указан размер 22B параметров и контекст до 65 536 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Её можно использовать для ответов на вопросы, объяснений и взаимодействия с инструментами через предусмотренный формат function calling. Метаданные указывают поддержку английского, испанского, итальянского, немецкого и французского языков. Для запуска README описывает токенизацию и инференс через mistral-common и mistral-inference; в метаданных также указана библиотека vLLM. Модель распространяется по лицензии Apache-2.0. README отмечает, что для function calling нужно корректно применять специальные токены и формат токенизатора SentencePieceTokenizerV3; результаты вызова инструментов зависят от совместимой обработки этого формата.

Muse Glimmer 30B NVFP4 — квантизированная версия мультимодальной vision-language модели Muse Glimmer 30B с базовой моделью meta-models/Muse-Glimmer-30B. Конверсия выполнена в формат NVIDIA ModelOpt NVFP4 W4A4; публикация содержит модель примерно на 29,8 млрд параметров. Модель предназначена для задач, объединяющих обработку текста и изображений, включая диалоговые, агентские, программные, математические и мультимодальные сценарии. В 52 слоях квантизированы 416 линейных проекций декодера: компоненты attention и MLP. Веса и активации представлены 4-битными значениями с блочной обработкой по 16 элементов, тогда как vision tower, адаптеры и проекции зрения, эмбеддинги, нормализации и LM head сохранены в BF16. KV-кэш не квантизирован. Размер файлов safetensors составляет около 23,38 ГБ без учёта токенизатора и конфигурации. В калибровке использовались данные для программирования, агентских задач, рассуждений, математики, мультиязычных и мультимодальных запросов, однако точный список поддерживаемых языков README не указывает. По заявленным проверкам, на сопоставимом тесте MMLU-Pro квантизированная версия показала тот же результат, что и BF16, а рост perplexity на WikiText-2 составил 4,25%; средняя дивергенция распределений следующего токена — 0,091815 ната. Это указывает на высокую близость к исходной модели, но возможна некоторая потеря качества. Работоспособность квалифицирована на одной NVIDIA RTX PRO 6000 Blackwell с native vLLM, специальным NVFP4-ядром FlashInfer, CUDA graphs и speculative decoding через Muse Glimmer DFlash; совместимость с другими конфигурациями не гарантируется. Модель распространяется по лицензии Apache-2.0.

ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF — набор неравномерно квантованных версий базовой модели Qwen3.8-27B, разработанный лабораторией Deep Algorithms and Systems Lab (DASLab) при Institute of Science and Technology Austria. Модель предназначена для локального запуска текстовых и мультимодальных сценариев с обработкой изображений, включая генерацию текста, рассуждения и задачи, поддерживаемые базовой моделью Qwen3.8-27B. Формат GGUF обеспечивает совместимость с llama.cpp, Ollama и LM Studio. В набор входят варианты размером от 8,4 до 11,8 ГБ со средней разрядностью от 2,50 до 3,50 бит на вес. Квантование использует GSQ для оптимизации скалярных квантованных представлений и RCO для назначения разных типов квантования отдельным тензорам с соблюдением общего ограничения размера. Для мультимодальной работы используется отдельный vision-проектор mmproj в формате BF16 размером около 0,9 ГБ. Опциональные сборки с суффиксом -mtp содержат Multi-Token Prediction head для speculative decoding в llama.cpp и примерно на 0,35 ГБ больше. Рекомендуемым вариантом указан IQ3_S: по заявленным результатам он совпадает с базовой моделью на AIME25 и LiveCodeBench v6 и находится в пределах 0,51 балла от неё на GPQA-Diamond, занимая немногим более пятой части размера BF16-версии. Более компактные варианты уменьшают требования к хранилищу, но могут сильнее ограничивать качество. Языки и размер контекстного окна в README не указаны. Модель распространяется по лицензии Apache-2.0.

Карточка модели gradients-io-tournaments/tournament-tourn_5c64e784a087074a_20260914-90d361cb-0b97-464a-9fda-36eb34c99261-5HBgDWKx на Hugging Face совпадает с карточкой LiquidAI/LFM2.5-2.6B, поэтому описание составлено по ней. LFM2.5-2.6B — компактная текстовая модель Liquid AI из семейства гибридных LFM2.5, настроенная для локального запуска на устройствах и агентных сценариев. Это дообученная версия LFM2.5-2.6B-Base с 2,6 млрд параметров; архитектура LFM2 использует 30 слоёв, включая блоки свёртки с двойным гейтингом и слои GQA. Модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и работает с 17 языками, включая русский. Модель предназначена для вызова инструментов, следования инструкциям, многошаговых агентных задач, извлечения данных, RAG и работы с длинным контекстом. В карточке заявлены скорость до 220 токенов в секунду на Apple M5 Max и до 113 токенов в секунду на процессоре AMD Ryzen при использовании менее 2,5 ГБ памяти; фактические показатели зависят от оборудования и конфигурации. Liquid AI не рекомендует её для агентного программирования и задач, требующих обширных знаний. Лицензия указана как other; её условия следует уточнить в репозитории модели.

Whittle-Qwen-3.8-35B-A3B-GGUF — это GGUF-квантизированная версия модели Whittle-Qwen-3.8-35B-A3B, разработанной logic65 и подготовленной квантизатором mradermacher. Модель предназначена для генерации текста, диалоговых сценариев, рассуждений, программирования и математических задач. В описании указаны архитектура Mixture-of-Experts, механизмы n-gram memory и conditional memory, hyper-connections и knowledge distillation. Поддерживаются текстовые запросы; заявлены английский, китайский и многоязычный режимы. Размер контекстного окна не указан. Модель распространяется в формате GGUF для запуска через llama.cpp и совместимые инструменты. Доступны варианты квантизации от Q2_K размером около 13,1 ГБ до Q8_0 размером около 37,9 ГБ; варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, а Q6_K — как обеспечивающий очень хорошее качество. Более сильная квантизация обычно требует больше памяти, но лучше сохраняет качество, тогда как малые варианты экономичнее, однако могут заметнее уступать в точности. В README не приведены результаты бенчмарков и подробные ограничения по производительности. Лицензия модели — Apache-2.0.

DeepSeek-R1-Distill-Qwen-7B — текстовая генеративная модель на архитектуре Qwen2 с 7,1 млрд параметров, созданная DeepSeek и размещённая ljsysfurry как зеркало полных весов. Она предназначена для диалогов, генерации текста и рассуждений, а также может служить локальной базой для агентных приложений. Модель принимает текст и выдаёт текст; README указывает исходный репозиторий deepseek-ai/DeepSeek-R1-Distill-Qwen-7B и описывает интеграцию с AgentFrame. В метаданных заявлен контекст длиной 131 072 токена. README отдельно упоминает до 1,38 млн токенов при использовании AgentFrame и сжатия KV-кэша; это характеристика связки с фреймворком, а не подтверждённый нативный контекст модели. Модель имеет формат safetensors и поддерживает чатовый интерфейс и интерфейс вызова инструментов. Карточка называет репозиторий резервной копией исходных весов, поэтому это зеркало, а не отдельное дообучение. Лицензия — MIT. Данные не подтверждают отдельные результаты оценки качества; для длинного контекста сверх 131 072 токенов требуется описанная в README инфраструктура AgentFrame.

ELYZA-Thinking-1.0-llm-jp-4-33b — языковая модель с рассуждениями, разработанная ELYZA, Inc. на основе llm-jp/llm-jp-4-33b-base. Это плотная авторегрессионная модель семейства Llama с 32,2 млрд параметров и контекстом 65 536 токенов; веса доступны в формате safetensors, лицензия — Apache 2.0. Модель предназначена прежде всего для японского рассуждения и следования инструкциям, включая задачи по математике, программированию, STEM, японским знаниям и работе с инструментами. ELYZA провела промежуточное обучение, дообучение на инструкциях и обучение с подкреплением на проверяемых задачах, добавляя японские данные и сохраняя англоязычные материалы. Поддерживаются японский и английский языки. Модель подходит для диалоговых приложений, решения сложных задач и сценариев с вызовом инструментов. README отмечает ограничение формата Harmony: параллельные вызовы инструментов не поддерживаются. Для работы с моделью описаны варианты запуска через vLLM и Transformers.

unsloth/gemma-3-12b-pt — вариант Gemma 3 от Unsloth, основанный на дообучении предобученной модели Google google/gemma-3-12b-pt. Это плотная мультимодальная модель с архитектурой Gemma3ForConditionalGeneration и 12 млрд параметров. Она принимает текст и изображения и генерирует текст; семейство Gemma 3 поддерживает контекст до 128 тыс. токенов и более 140 языков. Модель подходит для ответов на вопросы по изображениям, извлечения и пересказа визуальной информации, суммаризации и генерации текста, включая диалог, черновики писем и код. Карточка Unsloth ориентирована на использование модели как основы для дальнейшего дообучения и описывает экспорт дообученных вариантов в GGUF, Ollama, llama.cpp и формат Hugging Face. Возможности и качество ответов зависят от обучающих данных и формулировки запроса: модель может ошибаться в фактах, упускать языковые нюансы и отражать предвзятости данных. Лицензия — Gemma; условия использования следует сверять с лицензией Google Gemma.