I.6Перевод и языковая адаптация

lmstudio-community/Qwen3-32B-MLX-8bit — языковая модель для генерации текста, представленная сообществом lmstudio-community и созданная на основе Qwen/Qwen3-32B. Модель преобразована в формат MLX с использованием mlx-lm версии 0.24.0 и предназначена для запуска и генерации текста в экосистеме MLX, в том числе через библиотеку mlx-lm с поддержкой чат-шаблона, если он задан в токенизаторе. Ключевые характеристики модели — размер базовой модели 32B параметров, 8-битное представление и специализация на текстовой генерации. Формат MLX ориентирован на использование в совместимой среде, однако README не содержит сведений о поддерживаемых языках, длине контекста, архитектуре, мультимодальности, производительности и ограничениях. Модель распространяется по лицензии Apache-2.0.

Qwen3-4B-Instruct-2507-MLX-8bit — 8-битная квантованная версия языковой модели Qwen3-4B-Instruct-2507, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX — фреймворка Apple Machine Learning Research, ориентированного на эффективное выполнение моделей на устройствах Apple Silicon. Модель предназначена для генерации текста в инструкционном формате и локального использования на совместимых компьютерах Apple Silicon. Она подходит для диалоговых приложений, обработки инструкций и других задач текстовой генерации. Модель имеет размер 4B параметров, относится к текстовым моделям и доступна в 8-битном формате MLX. Другие характеристики, включая поддерживаемые языки, длину контекста и точные параметры архитектуры, в README не указаны. Ключевое преимущество модели — сочетание компактного размера, 8-битной квантования и оптимизации под Apple Silicon, что делает её более подходящей для локального запуска с ограниченными ресурсами. Ограничения включают возможное снижение точности по сравнению с исходной моделью и типичные для языковых моделей риски генерации неточной, вредной или неподходящей информации. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-w4a16-llmcompressor — квантизированная версия модели Qwen3.6-35B-A3B, созданная AMD с использованием LLM Compressor и формата compressed-tensors. Модель предназначена для генерации текста и обработки изображений и текста; её архитектура обозначена как Qwen3_5MoeForConditionalGeneration. Основной сценарий использования — инференс на CPU AMD EPYC под Linux через vLLM с оптимизациями ZenDNN. Модель использует 4-битную квантизацию только весов W4A16 по алгоритму GPTQ: веса представлены в INT4, симметрично и группами по 128 параметров, а активации сохраняются в BF16. Размер весов уменьшен примерно с 67,0 до 18,1 GiB, то есть примерно на 73%. Квантизации подвергнуты, в частности, 256 маршрутизируемых MoE-экспертов, общий эксперт и проекции линейного внимания; vision tower, маршрутизатор MoE, отдельные gate-компоненты, lm_head, эмбеддинги и layer norms сохранены в BF16. В README явно указан английский язык, но сведения о полном контекстном окне отсутствуют. Сильными сторонами являются существенное сокращение объёма модели и ориентация на эффективный CPU-инференс на аппаратной платформе AMD при сохранении наиболее чувствительных к качеству компонентов в BF16. Ограничения связаны с зависимостью от совместимого стека: ZenDNN 6.1.0, ZenTorch 2.13.0.0, PyTorch 2.13.0.0, LLM Compressor 0.12.0 и vLLM 0.28.0, а также с потенциальными потерями качества, характерными для 4-битной квантизации. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-GGUF — это общественная квантованная сборка базовой модели Qwen/Qwen3.8-27B, подготовленная сообществом bowmanslayer для запуска через llama.cpp. Это неофициальный релиз, не одобренный и не связанный с командой Qwen или Alibaba Cloud. Модель предназначена прежде всего для генерации текста, локального инференса и сценариев, где важны большой контекст и работа на одной видеокарте. Лицензия артефакта — Apache-2.0. Основные веса представлены в формате GGUF с importance-matrix-квантизацией, доступны варианты от Q3_K_M до Q8_0. В зависимости от варианта требуется примерно от 14 до 26,6 ГиБ памяти; для одной видеокарты на 24 ГиБ автор рекомендует Q4_K_M для скорости или Q6_K для качества, а для 16 ГиБ — IQ4_XS. Модель имеет гибридную архитектуру: из 64 слоёв только 16 используют полноценное attention, остальные 48 используют Gated DeltaNet, благодаря чему снижается расход KV-кэша и поддерживается контекст до примерно 111 872 токенов для Q4_K_M на RTX 3090. Точные характеристики исходной модели, включая языки и число параметров, в README дополнительно не раскрыты, однако название указывает на класс 27B. Мультимодальный режим с изображениями поддерживается через отдельный файл mmproj размером около 0,9 ГиБ; он позволяет, например, описывать изображения, но специализированные Qwen3-VL-модели должны быть лучше для плотного OCR и подсчёта небольших объектов. Также доступен отдельный MTP-файл для speculative decoding, который на CUDA в приведённом тесте увеличивал скорость генерации до 36 процентов при определённой настройке. Ограничения включают компромисс между качеством, скоростью и объёмом памяти при выборе квантизации, заметное замедление IQ4_XS по сравнению с Q4_K_M и слабую эффективность MTP на Vulkan. Для работы требуются совместимые сборки llama.cpp; режим draft-mtp поддерживается начиная со сборки b10502.

Minachist/Qwen3.8-27B-INT6-Mixed-AutoRound — это квантизированный мультимодальный чекпойнт на базе Qwen/Qwen3.8-27B, разработанный пользователем Minachist. Модель предназначена для запуска через vLLM на системах примерно с 48 ГБ суммарной видеопамяти, включая сценарии с обработкой изображений, полным контекстом и включённым MTP. Модель содержит 64 языковых слоя: 48 слоёв с gated-delta linear attention и 16 слоёв с полноценным attention. Используется смешанная квантизация AutoRound в формате compressed-tensors pack-quantized с эффективной плотностью 7,30 бит на вес: отдельные компоненты работают в INT5, INT6, INT7 или INT8, а часть параметров, включая vision tower, нормы и некоторые проекции, сохранена в BF16. Заявленный максимальный контекст составляет 262 144 токена. Поддерживаются текстовая и визуальная модальности; конкретный набор языков в README не указан. По измерениям автора, на тесте WikiText-2 средняя KL-дивергенция относительно BF16-версии составила 0,001980, согласие top-1 предсказаний — 97,905%, а perplexity — 7,9183 против 7,9112 у базовой модели. Это указывает на небольшую потерю качества при существенном сокращении требований к памяти. Ограничение модели — она не загружается в стандартный vLLM: требуются версия с поддержкой 5–8-битных схем, пакет humming-kernels и патч для qwen3_5.py и qwen3_5_mtp.py. В README рекомендована лицензия Apache-2.0.

nytopop/Qwen3-8B.w8a8 — это квантованная версия языковой модели Qwen3-8B, разработанная на основе Qwen/Qwen3-8B. Модель предназначена для генерации текста и может использоваться в сценариях диалоговых приложений, ассистентов и других задач, поддерживаемых causal language models. В README также указана совместимость с reasoning parser qwen3. Модель использует 8-битное квантование W8A8 с применением SmoothQuant и GPTQ; вариант оптимизирован для производительности на GPU архитектуры Ampere. При создании использовались 256 калибровочных примеров с максимальной длиной последовательности 4096 токенов, однако эти параметры не подтверждают предельный контекст исходной модели. Размер модели, архитектурные детали, поддерживаемые языки и модальности в README не указаны. Основное преимущество версии — снижение вычислительных и, вероятно, ресурсных затрат по сравнению с полноразмерной моделью при сохранении назначения исходной Qwen3-8B. Ограничения квантования и точность на конкретных задачах не описаны, поэтому качество следует оценивать отдельно. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-Flash-CIRU-STRIX-IU4 — специализированная сборка семейства Qwen3.8-Flash-Next, разработанная проектом CIRU при участии Peonist.ai и pwilkin. Модель распространяется в формате GGUF и предназначена для локального запуска на компьютерах с AMD Strix Halo, в частности с 128 ГБ памяти и графикой Radeon на базе Ryzen AI Max 395. Она ориентирована на генерацию текста с длинным контекстом, работу через OpenAI-совместимый API, веб-интерфейс и обработку изображений. Сборка использует архитектуру mixture-of-experts, поддержку vision и image-text-to-text, а также MTP для speculative decoding. В неё включены оптимизации предварительной обработки, кэширования, внимания и GPU-исполнения под AMD ROCm; заявлена возможность работы с контекстами до 256K и отдельные измерения для предварительной обработки до 512K токенов. README не указывает точное число параметров, перечень языков и полную спецификацию модальностей. Сильные стороны модели — высокая скорость локального инференса на совместимых системах, эффективная обработка длинного контекста, поддержка изображений и интеграция с локальными серверными сценариями. Ограничения включают жёсткую зависимость от специализированного CIRU runtime и подходящей AMD-платформы: стандартные llama.cpp и размещённый inference Hugging Face не поддерживаются. Для vision и MTP требуется версия runtime с исправлением v4.4.1; приведённые в README показатели производительности относятся к конкретной тестовой конфигурации и не гарантируют такие же результаты на другом оборудовании. Лицензия указана как other с названием qwen-community-1.0; ссылка ведёт на файл LICENSE. Условия использования следует уточнять по этому файлу.

Sawfwair/Qwen3.8-Flash-Next-MLX-Mixed-2bit — воспроизводимая конверсия модели Qwen/Qwen3.8-Flash-Next в формат MLX, предназначенная для локального запуска на Apple Silicon Mac. Разработчик — Sawfwair, исходная модель создана Qwen. Распространяемая версия рассчитана на профиль Mac с 128 ГБ unified memory и использует смешанное квантование для снижения требований к памяти. Модель имеет архитектуру с маршрутизацией экспертов и мультимодальной поддержкой upstream-версии, включая обработку текста и изображений. Общий объём — около 180B параметров: 125B в основной модели, 51B в n-gram embedding и 4B в MTP-компоненте. 48 банков routed experts используют MLX affine Q2 с group-128, часть матриц — Q4, а embeddings, QSA indexers, routers, vision и MTP fusion heads сохранены в BF16. Нативный контекст составляет 262 144 токена, однако в mere.run v0.45.0 доступный бюджет ограничен 2 048 токенами на prompt и output вместе, а ввод изображений ещё не квалифицирован. Основные сценарии — локальная генерация текста, чат и развёртывание локального OpenAI-compatible API; встроенный MTP head может ускорять декодирование за счёт speculative decoding с проверкой целевой моделью. Для работы требуются Apple Silicon, macOS 15 или новее, около 68,08 GiB для checkpoint и совместимый Qwen4Exp-aware MLX runtime, например mere.run v0.45.0 или новее. Модель распространяется по Qwen Community License 1.0, которая включает требования к атрибуции и отображению для очень крупных коммерческих продуктов, а также отдельные лицензионные условия для некоторых коммерческих Model-as-a-Service и AI Work Assistant-сценариев.

Vontra/Qwen3.8-Flash-Next-MLX-oQ8-MTP — общественная MLX-конверсия мультимодальной vision-language модели Qwen3.8-Flash-Next, разработанной Qwen, с сохранённым нативным блоком MTP для speculative decoding. Конверсия выполнена Vontra напрямую из официальных BF16-весов; это не официальный релиз Qwen. Модель предназначена для генерации текста и обработки изображений в совместимых MLX-VLM или oMLX-средах, прежде всего на устройствах Apple Silicon. Модель использует архитектуру sparse MoE с обозначением qwen4_exp, включает Gated DeltaNet, Qwen Sparse Attention, разреженные mixture-of-experts-слои, расширенные gated residual-потоки и хешированные биграммные и триграммные embedding-таблицы. Всего заявлено 125 млрд параметров, из которых активно около 6 млрд, 48 слоёв, 512 маршрутизируемых экспертов с выбором 10 экспертов и одного общего, 24 attention heads и 2 KV heads, размер скрытого состояния 2560 и контекст до 262 144 токенов. Формат — MLX safetensors, квантизация oQ8, близкая к равномерной 8-битной аффинной, с group size 32; размер весов составляет около 202,75 ГБ. Сильная сторона конверсии — встроенный совместимый MTP-блок, который может существенно повысить скорость генерации: в измерении на Apple M3 Studio производительность выросла с 19,5 до 35,7 токена в секунду. Однако модель требует runtime с явной поддержкой qwen4_exp и native MTP; стандартные среды без такой поддержки могут отклонить веса. Указанные результаты зависят от длины запроса, настроек генерации, версии runtime и доступной памяти. Модель распространяется по Qwen Community License 1.0; текст лицензии включён в репозиторий.

Qwen3-VL-8B-Instruct (Abliterated) — модифицированная мультимодальная vision-language модель на базе Qwen3-VL-8B-Instruct. В README разработчик исходной модели не указан. Модель дообучена для следования инструкциям и, согласно описанию, дополнительно подвергнута abliteration — удалению защитных ограничений и фильтрации контента. Модель предназначена для анализа изображений, графиков, схем, скриншотов и документов, визуального ответа на вопросы, генерации описаний изображений, OCR, извлечения и понимания текста, обработки отсканированных форм и многошагового визуального рассуждения. Поддерживает мультимодальные диалоги, включая многоходовое взаимодействие с визуальным содержимым. Заявлены мультиязычность, включая английский и китайский языки, а также контекст до 32 тысяч токенов с учётом текстовых и визуальных токенов. Архитектура описана как Vision Transformer encoder в сочетании с языковым decoder на базе Qwen3-8B; размер языковой модели — около 8 миллиардов параметров. Доступны варианты в форматах safetensors и GGUF, включая FP16, Q8_0 и Q4_K_M, что позволяет запускать модель через Transformers, llama.cpp, Ollama или LM Studio на системах с разным объёмом памяти. Сильными сторонами являются поддержка изображений и документов, OCR, визуальное рассуждение и наличие квантованных вариантов. Ограничение модели — отсутствие встроенных защитных механизмов, поэтому её ответы требуют дополнительного контроля и могут быть небезопасными. Лицензия — Apache-2.0.

Reelva 12B — разговорная модель-компаньон с 12 млрд параметров, разработанная VVO Labs / Hagoiteknologi Indonesia в Паланкарае, Индонезия. Она построена на архитектуре Gemma4 Unified и распространяется в формате safetensors; веса получены посредством supervised fine-tuning с QLoRA и последующего слияния адаптера с моделью.

RWKV-4 World — многоязычная языковая модель семейства RWKV, представленная BlinkDL и предназначенная для генерации текста и диалогов. По карточке, при обучении использовались данные на более чем 100 языках: 70% английского, 15% многоязычных данных и 15% кода. Среди названных источников — Pile, RedPajama, OSCAR, Википедия и данные ChatGPT; метаданные также отмечают Pile и RedPajama. Модель можно применять для продолжения текста, ответов на вопросы и диалогового взаимодействия с форматами промпта Question/Answer, User/AI или Human/Bot. Для работы предусмотрены PyTorch и пакет rwkv; карточка указывает на специальный токенизатор rwkv_vocab_v20230424. Размер модели и длина контекста в предоставленных сведениях не указаны. Для вариантов на 0,1, 0,4 и 1,5 млрд параметров README предупреждает о переполнении первого слоя при fp16 и рекомендует fp32 для него либо bf16 на GPU серий 30xx/40xx. Модель распространяется по лицензии Apache-2.0.

SambaLingo-Russian-Chat — диалоговая языковая модель SambaNova Systems на архитектуре Llama 2. Модель размером 6,7 млрд параметров дообучена методом direct preference optimization на базе SambaLingo-Russian-Base и предназначена для общения на русском и английском языках. Базовая модель адаптировала Llama 2-7B к русскому языку на 63 млрд токенов русскоязычной части Cultura-X; словарь токенизатора расширен с 32 000 до 57 000 токенов. Модель подходит для ответов на вопросы, диалоговых ассистентов и генерации текста по запросу. Максимальная длина контекста — 4096 токенов. Для загрузки токенизатора README рекомендует отключить fast tokenizer и использовать указанный в карточке chat template. Модель может галлюцинировать, повторяться, переключать язык или диалект внутри ответа, а также хуже справляться с программированием и сложной математикой; возможна генерация токсичного или неподходящего текста. Не предназначена для критически важных задач и решений, влияющих на безопасность людей. Использование регулируется лицензией Meta Llama 2 Community License Agreement.

protectai/xlm-roberta-base-language-detection-onnx — модель для автоматического определения языка текста. Она разработана как ONNX-конверсия модели papluca/xlm-roberta-base-language-detection с использованием библиотеки Hugging Face Optimum и основана на xlm-roberta-base, дообученной на наборе данных Language Identification. Проект связан с ProtectAI и LLM Guard, однако в README указано, что он архивирован и больше не поддерживается. Модель предназначена для задач классификации последовательностей и языковой идентификации, включая маршрутизацию многоязычных запросов, предварительную обработку текста и проверки в системах безопасности LLM. Архитектура представляет собой трансформер XLM-RoBERTa с классификационной головой на основе линейного слоя поверх pooled output. Поддерживаются 20 языков: арабский, болгарский, немецкий, современный греческий, английский, испанский, французский, хинди, итальянский, японский, нидерландский, польский, португальский, русский, суахили, тайский, турецкий, урду, вьетнамский и китайский. Формат ONNX рассчитан на использование через ONNX Runtime и Optimum. Сильные стороны модели — многоязычность, готовность к эффективному инференсу в ONNX-экосистеме и специализация на определении языка. Ограничение — поддержка только перечисленных 20 языков; сведения о размере модели, максимальной длине контекста, точных показателях качества и других ограничениях в README не приведены. Модель распространяется по лицензии MIT.

APUS-xDAN-4.0-MoE-v2 — авторская decoder-only трансформерная языковая модель с архитектурой Mixture of Experts, разработанная командой xDAN. В карточке указаны 136 млрд параметров и активация двух экспертов на токен; метаданные репозитория классифицируют веса как MixtralForCausalLM с 33,9 млрд параметров. Модель продолжает обучение на архитектуре LLaMA и опирается на возможности серии xDAN-L2; README сообщает об использовании обратной связи от людей для улучшения рассуждений, математических и логических задач. Модель предназначена для генерации текста и диалогового использования. Заявленная длина контекста — 32 768 токенов; метаданные указывают английский и китайский языки. README также описывает варианты квантования от 1,5 до 4 бит и совместимость открытой версии с потребительскими GPU. Репозиторий распространяется по лицензии CC BY 4.0.

Aria-Base-8K — базовая плотная мультимодальная модель семейства Aria от rhymes.ai, представленная как чекпойнт после этапа мультимодального предобучения. На этом этапе модель обучалась на 1,4 трлн токенов: 1 трлн языковых и 400 млрд мультимодальных; длина последовательностей составляла 8192 токена. Модель предназначена прежде всего для продолжения предобучения, например на специализированных данных для OCR, агентных сценариев или многоязычия, а также для языковых и визуально-языковых задач.

Это квантованная версия Cohere Transcribe, разработанная на основе модели CohereLabs/cohere-transcribe-03-2026. Она предназначена для автоматического распознавания речи и транскрибации аудио на 14 языках. Архитектура включает Conformer-энкодер на 48 слоёв и Transformer-декодер на 8 слоёв; модель содержит около 2 млрд параметров и использует токенизатор SentencePiece с размером словаря 16 384. Квантование NVFP4 W4A16 представляет веса в формате NVIDIA FP4, а активации — в BF16. Модель принимает аудио и выдаёт текстовую транскрипцию. Поддерживаемые языки: арабский, немецкий, греческий, английский, испанский, французский, итальянский, японский, корейский, нидерландский, польский, португальский, вьетнамский и китайский (мандаринский). Репозиторий распространяется по лицензии Apache-2.0. Карточка описывает запуск с vLLM и Transformers; фактическая точность и качество на конкретных аудиоданных в предоставленных сведениях не приводятся.

atmzed/Darwin-4B-David-mlx-fp16 — текстовая генеративная модель семейства Gemma 4 с плотной архитектурой, представленная в формате MLX для запуска на устройствах Apple. Репозиторий создан atmzed и содержит конверсию модели FINAL-Bench/Darwin-4B-David с помощью mlx-lm версии 0.31.2; метаданные также связывают её с этой базовой моделью как с дообучением. Модель предназначена для диалогового взаимодействия и генерации текста. В карточке указана поддержка английского, корейского, японского и китайского языков, а также многоязычность. Модель распространяется по лицензии Apache-2.0. Данных о размере и длине контекста в предоставленных источниках нет.

bartowski/DeepSeek-R1-Distill-Qwen-14B-GGUF — это набор GGUF-квантизаций модели DeepSeek-R1-Distill-Qwen-14B, разработанной DeepSeek. Квантизация выполнена bartowski с использованием llama.cpp b4514 и метода imatrix. Модель предназначена для генерации текста и локального запуска, в частности через LM Studio, с применением формата промпта, указанного в README. Доступны варианты от полных F32 и F16 весов до квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, размером примерно от 6,66 до 59,09 ГБ. Более высокие разрядности обеспечивают лучшее сохранение качества, но требуют больше памяти; Q4_K_M обозначен как вариант по умолчанию для большинства сценариев, а Q5 и Q6 — как рекомендуемые варианты высокого качества. Некоторые форматы оптимизированы для работы на CPU и Apple Silicon, включая online repacking для ARM и AVX. В README не указаны архитектурные детали, длина контекста, поддерживаемые языки и модальности, а также лицензия. Поэтому модель следует рассматривать как текстовую локальную модель, совместимость и фактические требования к памяти которой зависят от выбранного файла квантизации и используемого программного обеспечения.

DeepSeek-V4-Flash-0731-GGUF — это квантизированная версия языковой модели DeepSeek-V4-Flash-0731, разработанной deepseek-ai и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. Модель предназначена для генерации текста и запуска локально через llama.cpp и совместимые приложения, включая LM Studio, KoboldCpp и Text Generation Web UI. Модель содержит 284 млрд параметров, поддерживает текстовый ввод и поставляется только в формате MXFP4. Доступен вариант размером около 156,38 ГБ, сохраняющий исходное качество квантизации. В модели предусмотрены веса MTP (Multi-Token Prediction) в виде отдельной DSpark draft-модели, которую можно использовать для speculative decoding и ускорения генерации. Языки, максимальная длина контекста и дополнительные модальности в README не указаны. К сильным сторонам относятся большой размер модели, сохранение исходного качества MXFP4 и возможность ускорения вывода с помощью DSpark. Ограничения включают очень высокие требования к дисковому пространству и аппаратным ресурсам, отсутствие imatrix-калибровки на момент публикации и неопределённость стандартного chat template, который может быть задан некорректно. Модель распространяется по лицензии MIT.

dqnGPT-v1 — это универсальный мультимодальный AI-ассистент, разработанный DQN Labs как центральный интерфейс экосистемы моделей DQN. Модель предназначена для повседневного общения, объяснения учебных и общих тем, творческого письма, мозгового штурма и решения бытовых задач. В модульных системах она может выступать разговорным фронтендом и координировать взаимодействие со специализированными моделями dqnCode, dqnMath и dqnScience, рекомендуя их для задач, требующих более глубокой экспертизы. В основе модели лежит архитектура Gemma 4 E4B с Mixture-of-Experts (MoE). Это causal language model примерно с 8 млрд параметров, из которых около 4,5 млрд активны при обработке запроса. Указан основной язык English. Модель поддерживает обработку изображений, визуальных материалов, диаграмм и структурированных входных данных, однако качество мультимодальной работы зависит от возможностей используемого runtime. Предоставляется в формате GGUF и ориентирована на эффективный локальный запуск, включая потребительские GPU и конфигурации с квантованием, в том числе 4-bit. dqnGPT-v1 делает акцент на естественном разговорном стиле, понятных объяснениях, следовании инструкциям, контекстной делегации и выразительной, слегка игривой манере общения. Ограничения модели включают отсутствие оптимизации для узкоспециализированных областей, возможную передачу сложных задач специализированным моделям, зависимость мультимодальных возможностей от runtime и непредназначенность для крупномасштабных корпоративных нагрузок. Модель не дообучалась на предметно-ориентированных датасетах: поведение формируется промптами, структурированным форматом диалогов и системными настройками. Лицензия — Apache 2.0.

EtherealAurora-12B — разговорная языковая модель на архитектуре Mistral, опубликованная yamatazen. Это объединение предварительно обученных моделей, созданное с помощью mergekit методом Model Stock на базе yamatazen/Aurora-SCE-12B. Модель содержит 12,1 млрд параметров, распространяется в формате safetensors и использует шаблон диалога ChatML. Метаданные указывают контекст до 1 024 000 токенов. Модель предназначена для генерации текста и диалогового общения. Её можно использовать для ответов на вопросы, написания и продолжения текстов на английском и японском языках. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит сравнительных оценок качества или подробных рекомендаций по настройке.

Flux-Japanese-Qwen2.5-32B-Instruct-V1.0 — языковая модель на 32 млрд параметров от Flux, созданная на основе Qwen2.5-32B-Instruct и предназначенная для генерации ответов и диалогов. Она дообучена с акцентом на знания, рассуждения и работу с японским языком; в карточке также заявлены результаты на задачах вопросов и ответов, понимания текста, суммаризации и генерации кода. Архитектура — плотная Qwen2 с причинной генерацией текста, формат весов — safetensors, контекст — 32 768 токенов. Заявлены сильные результаты на японских оценочных наборах при сохранении близкого к базовой модели уровня на общих задачах и английском языке. Модель подходит для японских диалоговых ассистентов, ответов на вопросы, анализа и суммаризации текстов, рассуждений и генерации кода. Также доступны интерфейсы чата и вызова инструментов. Указана лицензия Apache 2.0. Как и другие большие языковые модели, она может выдавать неточные, вводящие в заблуждение или предвзятые ответы; авторы не дают гарантий и возлагают ответственность за применение на пользователя.

Gemma-4-31B-CoreAI — конвертация модели Google Gemma 4 31B, выполненная сообществом пользователем mlboydaisuke для запуска в формате .aimodel на Apple Core AI. Модель предназначена для локальной генерации текста, диалогов, суммаризации и других задач, поддерживаемых текстовыми языковыми моделями, полностью на устройстве без обязательной передачи данных в облако. Она ориентирована на компьютеры Mac с Apple Silicon и интеграцию через CoreAIKit или совместимые инструменты Core AI. Это плотный текстовый декодер Gemma 4 с 60 слоями, скрытым размером 5376, 32 головами внимания и словарём из 262 144 токенов. Архитектура использует чередование скользящего и глобального внимания в соотношении 5:1; размер головы составляет 256 для скользящего внимания и 512 для глобального. Модель подвергнута int4-квантизации на основе QAT-релиза Google, занимает около 19 ГБ и имеет заявленную скорость декодирования 17,2 токена в секунду на M4 Max. Поддерживаются только текстовые входы и выходы; сведения о языках и максимальном размере контекста в README не указаны. К сильным сторонам относятся запуск крупной 31-миллиардной модели на стандартном конвейерном движке Core AI, выполнение вычислений локально на GPU или Neural Engine и отсутствие необходимости в специальной модификации движка благодаря пользовательскому Metal-ядру для декодирования внимания. Ограничения включают высокие требования к памяти, размер загрузки около 20,1 ГБ, совместимость прежде всего с Mac-классом устройств и отсутствие заявленной поддержки iPhone. Модель распространяется по лицензии Apache 2.0.

GLM-5.3-Flash-UNCENSORED-GGUF — мультимодальная модель семейства GLM, разработанная на основе архитектуры Zhipu AI / ZAI. Некензурированные веса предоставлены dealignai, а GGUF-квантизация и мультимодальный релиз выполнены Solstice-AI. Модель предназначена для генерации и понимания текста, анализа изображений и видео, а также запуска через llama.cpp и совместимые инструменты. В качестве базовой модели указана dealignai/GLM-5.3-Flash-UNCENSORED-FP8. Релиз включает мультимодальный проектор mmproj-BF16.gguf размером 1,11 ГБ с Vision Transformer и временным и пространственным объединением патчей. Поддерживаются английский и китайский языки; заявлены модальности текста, изображений и видео. Для работы указан контекст до 131 072 токенов. В комплект также входят веса DFlash 2 для speculative decoding, позволяющие ускорить генерацию при использовании совместимой конфигурации. Доступны варианты GGUF-квантизации, включая Q4_K_M и Q8_0, а также BF16-компоненты. Сильными сторонами модели являются мультимодальный анализ, поддержка видео, большой контекст, интеграция с llama.cpp и возможность ускорения вывода посредством speculative decoding. Ограничения связаны с необходимостью отдельного мультимодального проектора, совместимого рантайма и, вероятно, значительных вычислительных ресурсов; конкретные требования к памяти и производительности в README не указаны. Модель распространяется по лицензии MIT.

Intel/GLM-5.3-Flash-W4A16-AutoRound — это квантованная версия языковой модели GLM-5.3-Flash, разработанная Intel с использованием инструмента Intel Auto-Round в режиме Tuning. Базовая модель опубликована организацией zai-org. Модель предназначена для генерации текста и может применяться в задачах обработки естественного языка, включая работу с английским и китайским языками. В карточке указаны библиотека Transformers и тип задачи text-generation. Модель использует формат квантования INT4 по схеме W4A16, то есть веса представлены в 4-битном формате, а активации — в 16-битном. По приведённым тестам её средний результат составляет 0,8386 против 0,8399 у версии BF16, что соответствует 99,84% относительного качества; результаты также приведены для GSM8K, MMLU, PIQA и HellaSwag. Такое квантование потенциально снижает требования к памяти и облегчает развёртывание, однако README не содержит сведений о размере модели, архитектуре, длине контекста, поддерживаемых модальностях или системных требованиях. Модель может генерировать фактически неверные, предвзятые, оскорбительные или непристойные ответы, поэтому перед использованием необходимы тестирование безопасности и оценка пригодности для конкретного сценария. В карточке указана лицензия MIT, при этом рекомендуется соблюдать лицензию исходной модели; юридические условия коммерческого использования следует проверить отдельно.

Granite-4.1-30B (FP8) — это версия модели IBM Granite 4.1-30B, представленная в формате FP8. Репозиторий подготовлен для использования с библиотекой Transformers и предназначен для языковых задач; более подробные сведения о возможностях и сценариях применения приведены в карточке исходной модели ibm-granite/granite-4.1-30b, которая в предоставленных данных отсутствует. Ключевая характеристика этой версии — представление весов в формате FP8, что может быть полезно для более эффективного хранения и выполнения модели в совместимой инфраструктуре. Из доступного README не указаны архитектура, точный размер в параметрах помимо обозначения 30B, поддерживаемые языки, длина контекста, модальности, результаты тестирования, сильные стороны и ограничения. Модель распространяется по лицензии Apache-2.0.

Карточка модели Enronld/llama3.1 на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-8B, поэтому описание составлено по ней. Meta Llama 3.1 8B — авторегрессионная языковая модель на оптимизированной архитектуре Transformer с Grouped-Query Attention. Это базовая предварительно обученная версия семейства Llama 3.1; веса представлены в формате Safetensors и предназначены для генерации текста и последующей адаптации под разные задачи. Модель принимает текст и генерирует текст. Модель подходит для генерации естественного языка, создания диалоговых и прикладных систем после настройки, а также для подготовки синтетических данных. В карточке семейства заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Для этой базовой версии README не заявляет оптимизацию под диалоговые сценарии: она отличается от instruction-tuned вариантов, которые обучались с SFT и RLHF. Разработчик — Meta. Для использования действует специальная коммерческая лицензия Llama 3.1 Community License и Acceptable Use Policy. Модель обучена на статическом наборе данных; качество и безопасность генерации могут различаться между языками, а применение на языках за пределами восьми заявленных требует дополнительной настройки и мер контроля.

mlx-community/Llama-3.2-1B-Instruct-MLXTuned — конверсия модели Meta Llama 3.2 1B Instruct в формат MLX, выполненная сообществом mlx-community с помощью mlx-lm версии 0.20.5. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 1,2 млрд параметров, предназначенная для генерации текста и диалогового использования. Она поддерживает контекст до 131 072 токенов и ориентирована на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель подходит для ответов на вопросы, суммаризации, помощи в написании текстов и диалоговых сценариев. Репозиторий содержит веса в формате safetensors; README описывает преобразование в MLX и использование через mlx-lm. Лицензия — Llama 3.2 Community License. Возможности и качество унаследованы от базовой модели; результаты компактной модели могут быть менее надёжными и подробными, чем у более крупных моделей.

Llama3-8B-Chinese-Chat — диалоговая языковая модель, разработанная Shenzhi Wang, Yaowei Zheng, Guoyin Wang, Shiji Song и Gao Huang на основе Meta-Llama-3-8B-Instruct. В репозитории представлена версия v2.1, дообученная полными параметрами методом ORPO на смешанных китайско-английских данных предпочтений. Архитектура — плотная LlamaForCausalLM; размер составляет около 7,5 млрд параметров по метаданным, контекст — 8192 токена. Модель принимает текст и генерирует текст на китайском и английском языках. Она предназначена для диалогов и ответов по инструкциям, ролевых сценариев, вызова инструментов и решения математических задач. Авторы отмечают, что дообучение уменьшает вероятность ответа на китайский запрос по-английски и смешения языков; версия v2.1 улучшает ролевые ответы, вызов функций и математику по сравнению с предыдущими версиями. Модель не проходила настройку идентичности, поэтому ответы о том, кто она и кто её разработал, могут быть случайными. Используется лицензия Llama 3.