I.6Перевод и языковая адаптация

laion/anh-xglm-7.5b-cross-lingual — мультиязычная модель генерации текста, созданная дообучением XGLM-7.5B на инструкционном наборе cross_lingual.jsonl из датасета laion/Anh. Модель построена на архитектуре XGLM с плотной causal language modeling архитектурой и содержит 8,6 млрд параметров. Модель предназначена для генерации ответов по инструкциям на разных языках. Метаданные указывают на поддержку instruction following; возможны сценарии с многоязычными запросами и генерацией текста. Контекст ограничен 2048 токенами. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.

Ąžuolas — модель распознавания литовской речи из аудиозаписей, созданная akisviete на основе Whisper large-v3 и дообученная методом SFT на корпусе LIEPA-3. В обучении использовано около 9,8 тысячи часов литовской речи: чтение, спонтанная речь и фонетические записи. Модель содержит около 905,2 млн параметров, построена на архитектуре Whisper и доступна в формате safetensors для Transformers. Модель предназначена для транскрибации литовской речи, в том числе длинных записей и выступлений. В описанных тестах она показала более низкий WER, чем сравниваемые литовские модели, но работала медленнее. Лицензия — CC BY 4.0. Известное ограничение: модель может генерировать связные литовские фразы на участках тишины или фонового шума. Для длинных записей автор рекомендует использовать обработку с фильтром тишины и нарезкой аудио на паузах.

BgGPT-Gemma-3-12B-IT — плотно-архитектурная мультимодальная модель семейства Gemma 3, разработанная INSAIT и дообученная на базе google/gemma-3-12B-it для болгарского языка. Она принимает текст и изображения, поддерживает диалоговый режим и предназначена для следования инструкциям, многоходовых бесед, ответов на вопросы и понимания изображений в контексте с текстом. Модель содержит 12 млрд параметров и имеет заявленную эффективную длину контекста 131 тыс. токенов. Данные предварительного обучения охватывают период до мая 2025 года, а инструкционное дообучение — до октября 2025 года. Карточка указывает поддержку болгарского и английского языков; веса опубликованы в формате safetensors для Transformers. Лицензия Gemma.

BLEURT-20 — модель семейства BLEURT от lucadiliello для оценки качества текста с помощью классификации последовательностей. Она принимает текстовые входы и выдаёт оценку, которую можно использовать для автоматической оценки сходства или качества кандидата относительно эталонного текста. Модель построена на Transformer, содержит около 967,8 млн параметров, работает с контекстом до 512 токенов и доступна в формате PyTorch. Модель предназначена для автоматической оценки текстов, в частности для сравнения с эталонными формулировками. README указывает на реализацию BLEURT для PyTorch, но не описывает обучение, языковой охват или лицензию; этих сведений здесь недостаточно для точных выводов.

EraX-WoW-Turbo-V1.0 — модель распознавания речи команды EraX, дообученная на базе OpenAI Whisper Large-v3 Turbo. Она преобразует аудио в текст и предназначена для быстрой транскрибации, создания субтитров, расшифровки встреч и работы голосовых приложений. Архитектура Whisper, размер — 905,2 млн параметров. В карточке заявлены обучение на примерно 300 тысячах примеров (около 1000 часов аудио) и поддержка вьетнамского, хинди, китайского, английского, русского, немецкого, украинского, японского, французского, нидерландского и корейского языков; также заявлена обработка аудио в реальном времени. Автор приводит предварительную оценку WER около 12%, но сообщает, что бенчмарки ещё завершаются. Модель может быть полезна для автоматической расшифровки речи, субтитров и голосовых интерфейсов. README отмечает возможные трудности с детской речью и тихим шёпотом. Указана лицензия MIT.

FarukSTT — модель распознавания речи и преобразования аудио в текст для тунисского арабского диалекта Derja. Она разработана на основе Whisper Large v3 с дообучением на 54 156 парах аудио и транскрипций реальной разговорной речи. Модель обрабатывает переключение между арабским, французским и английским языками в одной фразе; размер — 905,2 млн параметров. В тесте на валидационной выборке FARUKxAUTO/tunisian-asr-cleaned версия v2 показала WER 31,99% против более 50% у исходной Whisper Large v3. Модель предназначена для транскрибации тунисской речи из разговоров, интервью, подкастов и встреч, а также для подготовки текста Derja к последующей обработке. Она ориентирована на диалект, а не на литературный арабский; заявленная точность подходит для транскрибации с проверкой человеком, а в сильном шуме качество может снижаться. В карточке указана лицензия MIT.

Это сборка классификатора fastText LID-176 в формате GGUF от автора репозитория cstr. Она определяет язык короткого текста и предназначена, в частности, для распознавания языка транскрипции после ASR и использования в runtime crispasr. Модель охватывает 176 языков и возвращает ISO 639-1 код языка; для одного текста можно получить несколько наиболее вероятных вариантов. В основе — оригинальный fastText `lid.176.bin` от Facebook с классификацией через hierarchical softmax. Репозиторий содержит веса F16 размером около 63 МБ; конверсия в GGUF сохраняет пути и коды дерева Huffman. Сборка распространяется по лицензии CC-BY-SA-3.0. README сообщает, что на коротких входах из двух слов для маратхи и хинди возможна перестановка предсказаний; это ограничение исходной модели.

Hebrew-Mistral-7B — открытая базовая языковая модель, разработанная Ямом Пелегом при участии Джонатана Руаха и Arjeo, Inc. Модель основана на Mistral-7B-v1.0 и продолжительно предобучена на текстах на иврите и английском языке. Она содержит 7,2 млрд параметров, использует архитектуру Mistral с плотной causal language model, расширенный токенизатор на 64 000 токенов и контекст до 32 768 токенов. Модель предназначена для генерации текста и широкого круга языковых задач, особенно для понимания и создания текстов на иврите; также обучалась на английском. Её можно использовать как базовую модель для собственных приложений или последующего дообучения. Доступны веса в формате safetensors для библиотеки Transformers. Это базовая предварительно обученная модель без механизмов модерации, поэтому её ответы могут содержать нежелательный контент. Лицензия Apache-2.0 разрешает использование на её условиях.

Blaxzter/LaBSE-sentence-embeddings — копия setu4993/LaBSE с выдачей векторных представлений предложений через pooler_output и кэшированием. Это мультиязычная модель на архитектуре BERT, предназначенная для получения сопоставимых эмбеддингов предложений на 109 языках и поиска соответствующих фрагментов между языками. В метаданных указаны 498,1 млн параметров и контекст до 512 токенов; доступны веса в форматах PyTorch, TensorFlow и Flax. Модель подходит для межъязыкового поиска по предложениям и сравнения их семантического сходства, в том числе в многоязычных коллекциях. Обучение исходной LaBSE сочетало masked language modeling и translation language modeling; данная копия также реализует кэширование эмбеддингов. Лицензия — Apache-2.0. Возможности зависят от поддерживаемых языков и качества исходного текста; README не приводит метрик этой копии.

unsloth/LFM2-1.2B-unsloth-bnb-4bit — 4-битная версия модели LFM2-1.2B, разработанной Liquid AI и подготовленной Unsloth. Это гибридная Liquid-модель для edge AI и локального запуска на устройствах, включая смартфоны, ноутбуки и автомобили. Она поддерживает выполнение на CPU, GPU и NPU и предназначена для эффективного использования памяти и высокой скорости инференса. Модель содержит около 1,17 млрд параметров, 16 слоёв, включая 10 сверточных и 6 attention-слоёв, использует архитектуру с мультипликативными gates и короткими свёртками, а также поддерживает контекст до 32 768 токенов. Модель обучена на 10 трлн токенов и рассчитана на английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Она предназначена для агентских сценариев, извлечения данных, RAG, творческого письма и многоходовых диалогов; для узких задач рекомендуется дополнительная настройка. К сильным сторонам относятся компактность, скорость обучения и инференса, эффективность на CPU и сравнительно высокая производительность среди моделей аналогичного размера в задачах знаний, математики, следования инструкциям и многоязычности. Ограничения связаны с небольшим размером: модель не рекомендуется для ресурсоёмких задач, требующих глубоких знаний или программирования. В карточке указана лицензия LFM Open License v1.0; конкретные условия использования следует проверять в тексте лицензии Liquid AI.

LFM2-24B-A2B-GGUF — языковая модель семейства LFM2, разработанная Liquid AI для эффективного развертывания на периферийных устройствах и пользовательских компьютерах. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск на ноутбуках и настольных компьютерах; доступна в формате GGUF с поддержкой llama.cpp, а также заявленной совместимостью с vLLM и SGLang. Модель использует гибридную архитектуру Mixture-of-Experts с 24 миллиардами общих параметров, из которых около 2 миллиардов активируются для каждого токена. По данным разработчика, она рассчитана на работу в пределах 32 ГБ оперативной памяти и обеспечивает высокую скорость инференса на совместимом оборудовании. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский, испанский и португальский языки. Размер контекста, конкретный вариант квантования и подробные результаты оценки в README не указаны. Сильными сторонами модели являются сочетание крупного общего числа параметров с низкими вычислительными затратами на токен, ориентация на локальное выполнение и высокая заявленная скорость генерации. Ограничения включают отсутствие в предоставленных данных подробностей о качестве по отдельным задачам, требованиях к точному объёму памяти для разных вариантов GGUF и поддерживаемом размере контекста. Модель распространяется по лицензии lfm1.0; условия лицензии следует уточнять в файле LICENSE.

LiquidAI/LFM2.5-8B-A1B-MLX-8bit — языковая text-generation модель, разработанная Liquid AI и преобразованная в формат MLX из базовой модели LiquidAI/LFM2.5-8B-A1B с использованием mlx-lm 0.31.3. Она предназначена для запуска локально, в том числе в качестве персонального ассистента на ноутбуке, генерации текста, диалогового взаимодействия и сценариев с function calling. Модель использует архитектуру Mixture of Experts (MoE); обозначение 8B-A1B указывает на конфигурацию базовой модели, однако подробности архитектуры в README не приведены. Веса квантизированы до 8 бит с group size 64 и affine mode, а MoE-gates сохранены в 8-битном формате. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский, испанский и португальский языки. Модель работает через mlx-lm, использует ChatML-подобный шаблон и поддерживает явные рассуждения перед итоговым ответом, а также вызов функций. К сильным сторонам относятся оптимизация для MLX, 8-битная квантизация, возможность локального использования и поддержка многоязычного диалога и инструментов. Ограничения связаны с отсутствием в README сведений о размере контекста, точных характеристиках производительности, требованиях к памяти и результатах оценивания; модель также ориентирована на экосистему MLX. Условия использования определяются лицензией LFM Open License v1.0.

SanctumAI/Llama-3.2-3B-Instruct-GGUF — квантизированная версия языковой модели Meta Llama 3.2 3B Instruct, подготовленная SanctumAI. Это текстовая модель формата GGUF с генерацией текста на входе и выходе, предназначенная для многоязычного диалога, агентского поиска с извлечением данных и суммаризации. Модель имеет 3 млрд параметров и поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. В репозитории доступны варианты квантизации Q2_K–Q8_0, а также f16; их размер составляет примерно от 1,36 до 6,43 ГБ, а требуемый объём памяти — от 4,66 до 9,38 ГБ. Квантизация облегчает локальный запуск на устройствах с ограниченными ресурсами, однако может снижать точность по сравнению с исходной моделью. README не содержит сведений о размере контекстного окна и конкретной архитектуре. Модель ориентирована на прикладные сценарии общения и обработки текста, но, как и другие компактные языковые модели, может генерировать неточные, вредные или неподходящие ответы. Для использования рекомендуется применять шаблон чата Llama 3. Лицензия указана как Llama 3.2; исходная модель принадлежит Meta, при этом SanctumAI отвечает за квантизацию данного варианта.

LumiOpen Llama-Poro-2-70B-base — базовая языковая модель, разработанная AMD Silo AI, группой TurkuNLP Университета Турку и HPLT. Это плотный декодерный трансформер на архитектуре Llama 3.1 с 69,5 млрд параметров; модель создана продолжением предобучения Llama 3.1 70B на 165 млрд токенов, чтобы усилить поддержку финского языка, сохранив навыки английского, программирования и математики. Контекст модели составляет 8192 токена; доступны веса Safetensors, библиотека Transformers, лицензия Llama 3.1 Community License. Это базовый чекпойнт для дальнейшей тонкой настройки, а не готовая инструкционная модель. Он подходит как основа для разработки финно- и англоязычных генеративных приложений, включая генерацию текста и кода, математические задачи и перевод между финским и английским. В карточке отмечено улучшение результатов на финских бенчмарках относительно Llama 3.1 70B при сохранении сильных результатов на английском. Модель слабее владеет языками, кроме финского и английского; ответы могут быть фактически неверными, предвзятыми или неподходящими. Для большинства прикладных сценариев требуется дополнительная настройка.

llm-jp-3.1-13b-instruct4 — языковая модель семейства LLM-jp, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это плотная Transformer-модель на архитектуре Llama с 13,2 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие. Контекстное окно составляет 4096 токенов; модель распространяется в формате safetensors для Transformers. Модель прошла дополнительное инструкционное предобучение, контролируемое дообучение и выравнивание методом Direct Preference Optimization. Она предназначена для выполнения инструкций, ответов на вопросы и диалога на японском и английском языках. Разработчики сообщают об оценке на японском и английском MT Bench и о проверке безопасности японских ответов. Модель находится на раннем этапе исследований и разработок, и её ответы не гарантированно соответствуют намерениям пользователя или требованиям безопасности. Для запуска README указывает PyTorch, Transformers, Tokenizers, Accelerate и Flash Attention. Лицензия — Apache-2.0.

llm-jp-3-8x13b-instruct2 — диалоговая языковая модель, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это трансформерная модель семейства Mixtral с архитектурой Mixture of Experts: 8 экспертов, из которых активируются 2. Вариант содержит около 73,2 млрд параметров всего и около 22,2 млрд активируемых параметров; метаданные каталога указывают 13,2 млрд параметров. Контекст — 4096 токенов. Модель обучена на смеси данных, включая японские, и дообучена на инструкциях с последующим выравниванием методом Direct Preference Optimization. Модель предназначена для диалога и генерации текста, особенно на японском и английском языках. Её можно использовать для ответов на вопросы, следования инструкциям, краткого изложения и других текстовых задач. Карточка приводит оценки на японских тестах, но результаты относятся к отдельным оценочным выборкам и не гарантируют качество в конкретном приложении. Разработчики предупреждают, что модель находится на ранней стадии разработки и не настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.

MamayLM-Gemma-2-9B-IT-v0.1 — инструктивная языковая модель INSAIT, института при Софийском университете. Это плотный трансформер-декодер Gemma 2 с 9 млрд параметров и контекстом 8192 токена, предназначенный для диалога и генерации текста на украинском и английском языках. Модель построена на основе Google Gemma 2 9B и Gemma 2 9B IT: её дополнительно предварительно обучали на 75 млрд токенов украинских и английских данных, а затем дообучили следовать инструкциям на украинских наборах данных. Она ориентирована на ответы на вопросы, рассуждения, суммаризацию и другие текстовые задачи; авторы сообщают о сильных результатах на украинских тестах при сохранении английских возможностей. Распространяется по условиям Gemma Terms of Use.

fidoriel/moonshine-base-de — модель распознавания речи на базе архитектуры Moonshine, созданная переносным дообучением англоязычной UsefulSensors/moonshine-base для немецкого языка. Она преобразует аудиоречь в текст и предназначена для сценариев автоматической транскрипции на немецком языке. В метаданных указан класс MoonshineForConditionalGeneration, формат весов Safetensors и контекст 194 токена. В оценке на тестовой части Common Voice указаны WER 0,069 и CER 0,024. Модель распространяется по лицензии CC BY-NC-SA 4.0: требуется указание авторства, использование ограничено некоммерческими целями, а производные работы должны распространяться на тех же условиях. Финансирование исходного проекта обеспечило Федеральное министерство исследований, технологий и космоса Германии.

rinna/nekomata-7b-instruction — это дообученная по инструкциям версия языковой модели rinna/nekomata-7b, разработанная rinna при участии Tianyu Zhao и Kei Sawada. Модель построена на плотном трансформере Qwen с 32 слоями и размером 11,4 млрд параметров; контекст — до 32 768 токенов. Для запросов используется формат Alpaca. Модель предназначена для генерации текста и выполнения инструкций на японском и английском языках. При дообучении использовались подмножества Databricks Dolly, японской версии Dolly, FLAN Instruction Tuning и японских наборов из корпуса Izumi lab LLM Japanese; некоторые секции оценочных корпусов были исключены для снижения риска утечки данных. Репозиторий содержит веса PyTorch и Safetensors. Лицензия указана как other, поэтому перед использованием следует проверить условия на странице модели. Карточка ссылается на страницу бенчмарков rinna, но не приводит результаты непосредственно; качество для конкретной задачи следует оценить отдельно.

OpenBuddy-mistral2-7b-v20.3-32k — плотная чат-модель семейства Mistral с 7,1 млрд параметров, разработанная проектом OpenBuddy. Она предназначена для многоязычного диалога и генерации ответов; поддерживает контекст до 32 768 токенов. Метаданные указывают на поддержку китайского, английского, французского, немецкого, японского, корейского, итальянского и русского языков. Модель распространяется в формате Safetensors и использует библиотеку Transformers. Модель подходит для чат-ботов, ответов на вопросы и генерации текста на поддерживаемых языках. Лицензия — Apache 2.0. Авторы предупреждают, что ответы могут быть ошибочными, вредными или оскорбительными; модель не следует применять в критических сценариях, включая медицину и важные финансовые или юридические решения.

Openbuddy Mistral 7B v13 — языковая модель для генерации текста и диалогового взаимодействия, разработанная командой OpenBuddy на базе архитектуры Mistral. Представленная версия распространяется в формате GGUF и квантизирована TheBloke, что позволяет запускать её локально с использованием llama.cpp и совместимых приложений и библиотек. Модель предназначена для ответов на вопросы, ведения многоязычных диалогов и других сценариев текстовой генерации. В README заявлена поддержка китайского, английского, французского, немецкого, японского, корейского, итальянского и русского языков. Размер модели — 7B параметров; модальность — текстовая. Длина контекста в предоставленных данных не указана. К сильным сторонам относятся компактный размер по сравнению с крупными моделями, возможность локального запуска на CPU и GPU, а также доступность нескольких вариантов квантизации — от 2 до 8 бит. Ограничения включают неизвестную длину контекста и отсутствие в README подробных сведений о качестве, датасете обучения и результатах оценки. Модель следует использовать с учетом возможных ошибок и устаревания знаний; в шаблоне указана граница знаний 2021 года. Лицензия модели указана как Apache-2.0. Репозиторий содержит именно GGUF-версии исходной модели OpenBuddy; конкретный уровень квантизации следует выбирать отдельно в зависимости от доступной памяти и требований к качеству.

OpenBuddy/openbuddy-mixtral-7bx8-v18.1-32k — многоязычная чат-модель проекта OpenBuddy на архитектуре Mixtral с разреженной смесью экспертов (MoE). Она предназначена для диалогов и генерации текста; карточка приводит размер 7,1 млрд параметров и контекстное окно до 32 768 токенов. Модель работает с китайским, английским, французским, немецким, японским, корейским, итальянским и русским языками. Модель подходит для чат-ботов, ответов на вопросы и генерации текста на поддерживаемых языках. В README приведены результаты бенчмарков рассуждений и здравого смысла, но они не гарантируют качество в конкретной задаче. Распространяется по лицензии Apache 2.0. Авторы предупреждают о возможности ошибочных, вредных или оскорбительных ответов и не рекомендуют использовать модель в критических и высокорисковых сценариях, включая медицинские, финансовые и юридические решения.

OpenBuddy/openbuddy-qwen1.5-14b-v21.1-32k — мультиязычная чат-модель OpenBuddy на архитектуре Qwen2 с 13,4 млрд параметров. Она предназначена для диалогов и генерации текста; заявленный контекст составляет 32 768 токенов. Модель работает с текстом и поддерживает китайский, английский, французский, немецкий, японский, корейский, итальянский, русский и финский языки. Модель можно использовать для чат-ботов, ответов на вопросы и генерации текста на поддерживаемых языках. Карточка рекомендует быстрый токенизатор Transformers и указывает на возможность развёртывания через vLLM. Указана лицензия other; README описывает модель как предоставляемую «как есть» без гарантий и предостерегает от применения в медицинских, финансовых, юридических и других критически важных сценариях.

unsloth/Qwen2.5-Omni-3B — мультимодальная модель на базе Qwen2.5-Omni-3B, опубликованная Unsloth. Она принимает текст, изображения, аудио и видео и может отвечать текстом или генерировать речь; архитектура Thinker-Talker поддерживает потоковую обработку и синхронизацию временных меток аудио и видео. Модель подходит для голосового и видеодиалога, распознавания и понимания речи, анализа изображений и видео, а также выполнения инструкций с аудиовходом. Карточка описывает возможности семейства Qwen2.5-Omni, включая распознавание речи, перевод, рассуждения по изображениям, понимание видео и генерацию речи. Для работы рекомендуется актуальная версия Transformers; генерацию аудио можно отключить, чтобы сократить расход видеопамяти примерно на 2 ГБ. В метаданных указаны формат safetensors и лицензия other; конкретные условия этой лицензии следует проверить на странице модели.

maywell разработал мультиязычную разговорную модель Qwen2 с 7,1 млрд параметров для генерации текста в формате диалога ChatML. Она рассчитана на контекст до 32 768 токенов и поддерживает английский, корейский, японский, китайский и испанский языки. В карточке указано, что модель частично ориентирована на ERP-контент; примеры включают корейский диалог. Модель подходит для чат-ботов и генерации ответов на нескольких языках. Весовые файлы опубликованы в формате safetensors. Лицензия — Apache-2.0.

duyntnet/Qwen3-0.6B-imatrix-GGUF — набор imatrix-квантизаций модели Qwen3-0.6B в формате GGUF, опубликованный пользователем duyntnet на Hugging Face. Это причинная языковая модель для генерации текста, диалогов, следования инструкциям, решения задач, написания кода и локального запуска через совместимые приложения и inference-клиенты, включая llama.cpp, KoboldCPP, Ollama, LM Studio и GPT4All. Базовая модель содержит около 0,6 млрд параметров, из которых 0,44 млрд приходятся на параметры без эмбеддингов. Она имеет 28 слоёв, Grouped-Query Attention с 16 головами запросов и 8 головами ключей и значений, а также контекст длиной до 32 768 токенов. Qwen3 поддерживает переключение между режимами с рассуждением и без него, предназначенными соответственно для сложных логических, математических и программных задач либо для более быстрой генерации и обычного диалога. Семейство заявляет поддержку более 100 языков и диалектов, включая многоязычные инструкции и перевод. К сильным сторонам относятся малый размер, возможность локального использования в GGUF-совместимой инфраструктуре, поддержка рассуждений и широкий спектр текстовых сценариев. Ограничениями являются отсутствие мультимодальности в заявленных характеристиках, небольшой по современным меркам объём модели и потенциальная зависимость качества и скорости от выбранного уровня квантизации; конкретные варианты квантизации в README не перечислены. В карточке указана лицензия «other», но её точные условия не приведены, поэтому перед использованием необходимо проверить лицензионные условия исходной Qwen3-0.6B и опубликованных файлов.

AMAImedia выпустила эту модель в рамках платформы NOESIS для автоматизации многоязычного дубляжа. Это дообученная версия Qwen3.8-27B с плотной архитектурой Qwen3_5ForConditionalGeneration: мультимодальный чекпойнт BF16 в формате Safetensors принимает текст и изображения, поддерживает диалог и режим рассуждений, а также доступен в текстовых вариантах GGUF с квантизацией. В карточке указаны поддержка русского, английского, китайского, вьетнамского, японского и других языков; лицензия — Apache 2.0. Главное изменение модели — снижение числа отказов при ответах. Разработчик сообщает о внутренних проверках на 842 запросах и отдельной выборке из 126 запросов, а также о прохождении 23 из 24 проверок связности. Это внутренние автоматические оценки: основная выборка использовалась при настройке, а показатели не подтверждают точность фактов или сохранение исходных результатов по рассуждениям, программированию и зрению. Заявления о снижении отказов не гарантируют одинакового поведения для всех языков, настроек генерации и сред выполнения. Мультимодальный путь с изображениями заявлен для Safetensors; GGUF-варианты рассчитаны на генерацию текста и не включают обработку изображений без совместимого vision-проектора. Для BF16-весов требуется около 56 ГБ памяти, не считая накладных расходов среды выполнения и KV-кэша. Голова MTP отсутствует, поэтому спекулятивное декодирование с её использованием не поддерживается.

TheCluster/Qwen3.8-27B-ABLITERATED-UNCENSORED-PHILADELPHIA-CLASS — модель семейства Qwen3.8 с 27 млрд параметров, опубликованная TheCluster. Она преобразована в формат MLX из KridgeDookie/Qwen3.8-27B-ABLITERATED-UNCENSORED-PHILADELPHIA-CLASS с использованием mlx-vlm 0.6.13. По метаданным модель предназначена для сценариев image-text-to-text и поддерживает работу с текстом и изображениями в совместимых фреймворках. Модель использует смешанное квантование: большинство тензоров представлены в 8-битном аффинном формате с размером группы 32, а отдельные важные тензоры сохранены в bf16. Итоговая точность составляет 9,450 бит на вес, что снижает требования к памяти по сравнению с полноразмерной моделью, но может ограничивать качество относительно исходной версии. Заявлена поддержка множества языков, включая английский, китайский, русский, испанский, французский, немецкий, японский, корейский, арабский, украинский и другие; размер контекста в README не указан. Модель ориентирована на универсальные задачи генерации и анализа с заявленным режимом без ограничений содержательного характера. По умолчанию reasoning_effort установлен в low, чтобы избегать избыточного рассуждения. Для режима рассуждений рекомендуются temperature 1.0, top_p 0.95 и top_k 20, а для instruct-режима — temperature 0.7, top_p 0.80, top_k 20 и presence_penalty 1.5. Повышение presence_penalty может уменьшать повторения, но иногда приводит к смешению языков и снижению качества. Лицензия — Apache-2.0.

Qwen3.8-27B-Pessoa-5090 (AR11) — квантованный вариант Qwen/Qwen3.8-27B, подготовленный автором lribeiro. Это vision-language model для обработки текста и изображений, включая сценарии image-text-to-text; языковая часть поддерживает multilingual-данные. Модель предназначена для запуска через vLLM на одной видеокарте NVIDIA RTX 5090 с архитектурой Blackwell SM120 и поддерживает speculative decoding с помощью MTP. Модель содержит 27,79 млрд параметров и использует архитектуру Qwen3_5ForConditionalGeneration: 27-слойный ViT-энкодер изображений и языковую модель из 64 слоёв, объединяющую 48 слоёв линейного внимания GatedDeltaNet и 16 слоёв полного внимания. Максимальный контекст составляет 262 144 токена, словарь — 248 320 токенов. Квантование выполнено методом AutoRound 0.14.2 в формате compressed-tensors: ранние MLP-слои используют INT4, поздние — INT5, а проекции внимания — INT6; активации, KV-cache, визуальный энкодер, эмбеддинги, lm_head и MTP-head сохраняются в BF16. Главное преимущество — уменьшение размера с 55,6 до 22,59 ГБ при сохранении качества: заявлены KLD 0,00397 наты и совпадение top-1 в 97,64% случаев на тесте из 278 392 позиций. Ограничения включают зависимость от совместимого стека vLLM, FlashInfer и оборудования Blackwell, а также потенциальные потери точности из-за квантования весов. Модель распространяется по лицензии Apache-2.0.

cstr/qwen3-asr-1.7b-GGUF — это набор GGUF-квантизаций модели автоматического распознавания речи Qwen3-ASR-1.7B, разработанной Qwen. Репозиторий предназначен для запуска модели с CrispASR и содержит варианты Q4_K, Q8_0 и F16. Модель поддерживает 30 языков, 22 китайских диалекта, а также распознавание речи, вокала и песен с фоновой музыкой; принимает аудио длительностью до 5 минут. Указаны языки, включая английский, китайский, японский, корейский, немецкий, французский, испанский, португальский, русский и итальянский. Архитектура включает 24-слойный Whisper-подобный аудиоэнкодер с размерностью 1024, 2-слойный MLP-проектор и 28-слойный декодер Qwen3 с размерностью 2048. Размеры файлов составляют около 1,5 ГБ для Q4_K, 2,5 ГБ для Q8_0 и 4,7 ГБ для F16. Вариант Q4_K рекомендуется для большинства сценариев; после обновления аудиоэнкодер в нём хранится в Q8_0, что устраняет проблемы с пустыми или повторяющимися транскрипциями. На 11-секундном английском аудиофрагменте заявлена скорость 0,2 от реального времени на CPU с четырьмя потоками и идеальная точность транскрипции, однако это не гарантирует аналогичных результатов на всех данных. Модель подходит для локального многоязычного распознавания речи и перевода через CrispASR. Ограничениями являются необходимость совместимого запускающего ПО, зависимость качества и скорости от выбранной квантизации и оборудования, а также ограничение длительности входного аудио до 5 минут. Репозиторий содержит только конвертацию и квантизацию исходных весов без дообучения, слияния или изменения архитектуры. Распространяется по лицензии Apache 2.0; права и ограничения исходной модели Qwen3-ASR-1.7B сохраняются.