I.6Перевод и языковая адаптация

Yi-6B-Chat — разговорная языковая модель, разработанная компанией 01.AI и обученная с нуля. Она предназначена для диалога, генерации текста, ответов на вопросы и работы с задачами на понимание прочитанного и рассуждение. Модель использует плотную архитектуру Transformer семейства Llama и содержит около 5,8 млрд параметров; контекст составляет до 4096 токенов. Серия Yi ориентирована прежде всего на английский и китайский языки и обучалась на многоязычном корпусе. Yi использует архитектуру Llama, но не является производной от Llama и не использует её веса. Модель распространяется в формате safetensors; лицензия — Apache-2.0. Результаты конкретной версии Yi-6B-Chat в README отдельно не приведены.

0x Lite — диалоговая языковая модель Ozone AI, дообученная на базе Qwen/Qwen2.5-14B-Instruct. Это плотная модель архитектуры Qwen2 с 14 млрд параметров, предназначенная для генерации текста и общения; README также описывает применение для дополнения текста, суммаризации, перевода и создания контента. Модель принимает текст и выдаёт текст, поддерживает английский и китайский языки, использует формат Safetensors и рассчитана на контекст до 32 768 токенов. В карточке заявлены высокая скорость генерации и пригодность для чат-ботов, письма и учебных задач, однако сравнительные показатели качества и скорости не приведены. Модель распространяется по лицензии Apache-2.0. README содержит инструкцию загрузки через Transformers, но указанный там идентификатор репозитория отличается от идентификатора модели.

AutomatosX AX-Qwen3.8-27B-MLX-AXQ-6bit-MTP — это смешанно-точный квантованный MLX-чекпойнт на базе Qwen/Qwen3.8-27B, преобразованный компанией AutomatosX непосредственно из исходной модели BF16. Модель предназначена для генерации текста и запуска на устройствах Apple Silicon через MLX-LM, а также для нативного выполнения в AX Engine и интеграции с oMLX Lightning MTP. Модель имеет плотную архитектуру Qwen3_5ForConditionalGeneration и 27,36 млрд логических параметров. Основной языковой тракт квантован с использованием AXQuant 1.6.2; заявленный класс хранения — 6 bit, измеренный общий показатель с учётом MTP составляет 6,0001 BPW. Голова multi-token prediction и vision tower сохранены в BF16. Поддерживаются текст и vision-сценарии, аудио не поддерживается. Максимальный заявленный контекст — 262 144 токена, однако практический предел зависит от объёма unified memory. Размер весов составляет около 20,84 ГБ, полный загрузочный объём — около 20,86 ГБ. Сильными сторонами являются сохранение повышенной точности для отдельных компонентов, наличие MTP и vision tower, а также оптимизация под Apple Silicon. При этом стандартный запуск через MLX-LM гарантирует только текстовый inference и может не использовать MTP, vision-компоненты и метаданные AXQuant. Заявления об ускорении MTP ограничены профилями, указанными в сертификатах, поэтому фактическую производительность следует проверять в целевой конфигурации. Репозиторий содержит MLX Safetensors и не содержит весов PyTorch или GGUF. Модель распространяется по лицензии Apache-2.0.

Blind Text 1 — русско- и англоязычная языковая модель семейства Blind, представленная разработчиком Blind. Это универсальный текстовый ассистент для диалога, объяснений, ответов на вопросы, выполнения инструкций и создания писем, публикаций, статей и кратких пересказов. Модель имеет MoE-архитектуру с 20,9 млрд параметров и 32 экспертами, из которых для каждого токена активны четыре; контекст составляет до 131 072 токенов. Весы распространяются в формате GGUF с квантизацией MXFP4 для экспертных весов и Q8_0 для эмбеддингов и выходного слоя. Модель предназначена для локального запуска через llama.cpp, Ollama или llama-cpp-python, включая работу без облачного сервиса. Карточка заявляет хорошее удержание контекста и естественные ответы на русском и английском. По приведённому в README замеру на RTX 5080 скорость генерации составляет около 10 токенов в секунду; CPU-запуск также возможен, но медленнее. Количественные результаты MMLU и других инструментальных бенчмарков пока не приведены. Лицензия — Apache-2.0.

Breeze-7B-Instruct-v0_1 — диалоговая языковая модель MediaTek Research, построенная на архитектуре Mistral и дообученная на базе MediaTek-Research/Breeze-7B-Base-v0_1. Модель содержит 7,2 млрд параметров и предназначена прежде всего для традиционного китайского языка, также поддерживает английский. В версии v0.1 словарь расширен до 62 тысяч токенов для лучшей работы с традиционным китайским; метаданные указывают контекст до 32 768 токенов. Модель рассчитана на использование без дополнительной настройки в типовых сценариях: ответы на вопросы, многошаговый диалог, суммаризация и генерация текста. Её можно применять для ответов по документам в системах RAG. Разработчики сообщают о хороших результатах в бенчмарках на традиционном китайском и английском по сравнению с моделями похожего размера. README отмечает, что для диалога нет специальной обработки вредоносных запросов, поэтому модель может отвечать на них без защитных механизмов. Лицензия — Apache-2.0. Описанная в карточке версия v0.1 не является текущим выпуском Breeze-7B: README указывает на v1.0 как более позднюю версию.

Breeze ASR 25 — это модель распознавания речи MediaTek Research, дообученная на базе Whisper-large-v2. Она предназначена для транскрибации тайваньского мандаринского китайского языка, включая традиционное письмо, а также речи с переключением между китайским и английским языками внутри фраз и между фразами. Улучшенное выравнивание временных меток подходит для автоматического создания субтитров. Модель имеет архитектуру Whisper и содержит около 905,2 млн параметров. В описании приведены результаты на коротких и длинных аудиозаписях: на нескольких тестах Breeze ASR 25 показывает более низкую частоту ошибок слов, чем сравниваемые версии Whisper и COOL-Whisper. Данные обучения включают синтетическую китайскую речь, английскую речь Common Voice и примеры переключения языков. Модель принимает аудио и выдаёт текстовую транскрипцию. Карточка указывает лицензию Apache-2.0. Оптимизация ориентирована на тайваньский мандаринский и китайско-английскую речь; качество для других языков и условий записи в карточке не охарактеризовано.

DeepSeek LLM 67B Chat — диалоговая языковая модель компании DeepSeek с плотной архитектурой семейства Llama и 66,6 млрд параметров. Модель создана на основе deepseek-ai/deepseek-llm-67b-base и дообучена на дополнительных данных с инструкциями. В репозитории представлены веса PyTorch; модель принимает текст и генерирует текст в формате диалога. Модель предназначена для общения и выполнения текстовых запросов на английском и китайском языках. Обучение с нуля проводилось на корпусе объёмом 2 трлн токенов. Контекст модели — 4096 токенов. В карточке приведён шаблон диалога; авторы не рекомендуют использовать системный промпт с этой версией. Лицензия в метаданных указана как other, поэтому конкретные условия использования следует сверить с лицензией репозитория. Карточка не описывает специализированные области применения или гарантии качества.

DeepSeek LLM 7B Chat — разработанная DeepSeek плотная авторегрессионная языковая модель семейства LLaMA с 6,5 млрд параметров в метаданных. Модель создана на основе deepseek-ai/deepseek-llm-7b-base и дообучена на дополнительных инструкционных данных для диалогового взаимодействия. Она обучалась с нуля на корпусе из 2 трлн токенов на английском и китайском языках. Модель предназначена для генерации текста и ответов в чате. Она принимает текстовые сообщения и выдаёт текст; максимальный контекст составляет 4096 токенов. README предупреждает, что системный промпт несовместим с этой версией и не рекомендует его включать во входные сообщения. Указана лицензия other; README представляет выпуск как открытый для исследовательского сообщества, но не уточняет конкретные условия лицензии.

EXAONE-4.5-33B-FP8 — плотная vision-language-модель с 33 млрд параметров, разработанная LG AI Research и подготовленная FuriosaAI для запуска на аппаратуре FuriosaAI RNGD через Furiosa-LLM. Модель объединяет выделенный vision encoder с языковой архитектурой EXAONE 4.5 и принимает изображения вместе с текстом, возвращая текстовые ответы. Модель предназначена для мультимодального диалога, анализа изображений и текстовых запросов, гибридного рассуждения и вызова инструментов через функции. Рассуждение включено по умолчанию, но может отключаться для отдельных запросов. Поддерживаются английский, корейский, испанский, немецкий, японский и вьетнамский языки. Архитектура обозначается как Exaone4_5_ForConditionalGeneration; максимальная длина контекста в README не указана. Вариант использует статическую per-channel FP8-квантизацию выбранных весов линейных слоёв и динамическую token-wise-квантизацию активаций без офлайн-калибровки. Vision encoder, attention projections, LM head и MTP attention projections исключены из FP8-квантизации, а KV-кэш сохраняется в 16-битной точности. Сильными сторонами являются мультимодальность, гибридное reasoning и нативная поддержка tool calling. Ограничения включают зависимость описанной сборки от Furiosa-LLM и RNGD; для работы требуется tensor parallelism на 32 PE, то есть четыре карты RNGD. Модель распространяется по лицензии EXAONE AI Model License.

GEFS-language-detector — модель классификации текста для определения, написан ли текст на немецком, английском, французском или испанском языке. Её разработал Muhammad Imran Zaman; модель дообучена на наборе данных papluca/language-identification на базе xlm-roberta-base. Модель использует архитектуру XLM-RoBERTa для классификации последовательностей, содержит 305,2 млн параметров и принимает текст длиной до 514 токенов. На выходе она предсказывает код одного из четырёх поддерживаемых языков: de, en, fr или es. Автор сообщает о результате F1, близком к 100%, но не приводит подробностей методики оценки. Модель подходит для автоматической сортировки и маршрутизации текстов по языку. Распознавание ограничено четырьмя указанными языками, поэтому для других языков её предсказания могут быть ненадёжны. Лицензия — Apache-2.0.

Это GGUF-квантизированная версия инструкционной модели Gemma 3 12B IT, разработанной Google и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска в LM Studio, llama.cpp и совместимых проектах. Модель поддерживает текстовые сценарии и работу с изображениями через vision-компонент, для которого требуется отдельный файл MMPROJ в формате GGUF. Доступны варианты от BF16 и Q8_0 до более компактных Q3 и IQ-квантизаций объёмом примерно от 6 до 23,5 ГБ; версии Q4–Q6 отмечены как рекомендуемые благодаря балансу качества и требований к памяти. Архитектура, максимальный контекст и список поддерживаемых языков в представленном README не указаны. Основные преимущества — возможность локального запуска, широкий выбор уровней квантизации и поддержка анализа изображений при использовании совместимой сборки llama.cpp. Ограничения связаны с необходимостью подбора квантизации под доступную память, а для мультимодальной работы — с отдельным vision-компонентом и специальной поддержкой Gemma 3. Модель распространяется по лицензии Google Gemma; для доступа на Hugging Face требуется принять условия этой лицензии.

Josiefied-Qwen2.5-14B-Instruct-abliterated-v4 — диалоговая языковая модель, разработанная Gökdeniz Gülmez и дообученная на основе Qwen/Qwen2.5-14B-Instruct. Это плотная модель семейства Qwen2 с 14 млрд параметров в формате Safetensors; она предназначена для генерации текста и общения в чате. Модель ориентирована на менее ограниченные ответы, хотя автор отмечает, что на экстремальные запросы она всё ещё может реагировать сдержанно. Модель принимает текст и генерирует текст, поддерживает интерфейс вызова инструментов и контекст до 32 768 токенов. В карточке указаны английский, немецкий, французский, испанский, португальский, итальянский, русский, китайский, японский, корейский, вьетнамский, тайский и арабский языки. Для обработки более длинного контекста README описывает масштабирование YaRN, которое может снижать производительность на коротких текстах при статической настройке. Модель распространяется по лицензии Apache-2.0. Автор предупреждает о возможных ограничениях и рекомендует использовать её на свой риск; приведённые в карточке результаты оценки не гарантируют качества для конкретных задач.

ddobokki/klue-roberta-base-nli-sts-ko-en — модель эмбеддингов предложений на основе архитектуры RoBERTa, дообученная на данных NLI и STS для корейского и английского языков. Она предназначена для получения векторных представлений текстов и вычисления семантического сходства, например, для сравнения запроса с набором предложений по косинусному сходству. Модель содержит 137,8 млн параметров и принимает последовательности длиной до 514 токенов. Модель подходит для поиска семантически близких предложений и сопоставления текстов на корейском и английском. Карточка демонстрирует сравнение корейского запроса с английскими и корейскими предложениями. Доступна в форматах PyTorch и safetensors. Лицензия в предоставленных данных не указана.

LFM2.5-2.6B-Base — предварительно обученная текстовая базовая модель компании Liquid AI из семейства LFM2.5. Она предназначена для дообучения и экспериментов с новыми методами постобучения; среди подходящих сценариев — создание языковых или предметных ассистентов и обучение на собственных данных. Модель рассчитана на локальное и периферийное развертывание и работает с текстом. Архитектура — плотная гибридная LFM2: 30 слоёв, включая 22 блока коротких свёрток с двойным гейтингом и 8 слоёв GQA. В модели 2,6 млрд параметров, словарь размером 128 000 токенов и контекст до 128 000 токенов. Она обучалась на 34 трлн токенов и поддерживает 17 языков: арабский, китайский, английский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, польский, португальский, русский, испанский, тайский и вьетнамский. Модель опубликована в формате Safetensors и поддерживается Transformers. Это базовый чекпойнт, поэтому для готовых ассистентских сценариев может потребоваться существенное дообучение. Лицензия указана как «other»; конкретные условия использования следует сверить с лицензией в репозитории.

LFM2.5-8B-A1B-Uncensored-Gaston-GGUF — модифицированная GGUF-версия модели Liquid AI LFM2.5-8B-A1B, подготовленная Gastón Parravicini. Это текстовая reasoning-модель для диалогов и генерации текста, ориентированная на локальный запуск через llama.cpp, Ollama и совместимые инструменты. Вариант получил abliteration для существенного снижения отказов от ответов при сохранении рассуждений и общих возможностей базовой модели. Модель использует гибридную архитектуру из свёрточных LIV-блоков, Grouped Query Attention и разреженного MoE: всего около 8,3 млрд параметров, из которых примерно 1,5 млрд активны на каждом токене; задействованы 32 эксперта, четыре из них выбираются для токена. Заявлено контекстное окно 128K, обучение на 38 трлн токенов и поддержка английского, испанского, французского, немецкого, китайского, японского, корейского и арабского языков. Доступны квантизации IQ4_XS, Q4_K_M, Q5_K_M, Q6_K, Q8_0 и F16; Q4_K_M рекомендована как компромисс между качеством и размером. Сильными сторонами являются высокая скорость, компактное активное число параметров, сохранённый режим рассуждений с тегами <think> и заявленная частота отказов 1% на AdvBench после модификации. Ограничение модели — нестандартная гибридная архитектура, из-за которой обычные инструменты abliteration несовместимы без специальной адаптации. Версия предназначена для сценариев, где требуется меньше ограничений на генерацию, поэтому её ответы следует дополнительно проверять на безопасность и достоверность. Указана лицензия lfm-open-license-v1 от Liquid AI; подробные условия приведены по ссылке на лицензию базовой модели.

QuantFactory/Llama-3.1-8B-Instruct-Fei-v1-Uncensored-GGUF — это квантизированная версия модели Llama-3.1-8B-Instruct-Fei-v1-Uncensored, созданная с использованием llama.cpp. Базовая модель разработана на основе Llama 3.1 от Meta, а исходную модификацию подготовил пользователь aifeifei799. Модель предназначена для генерации текста, диалоговых помощников и других задач обработки естественного языка, включая работу с кодом. Это текстовая авторегрессионная модель с оптимизированной архитектурой Transformer и Grouped-Query Attention (GQA), содержащая 8B параметров. Она поддерживает ввод текста и генерирует текст или код, имеет контекст до 128k токенов и рассчитана на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Квантизация в формате GGUF предназначена для более эффективного запуска, в том числе через llama.cpp, однако README не указывает конкретный тип квантизации, требования к памяти или характеристики производительности. Версия обозначена как uncensored, поэтому её поведение в части отказов и защитных ограничений может отличаться от стандартной instruction-tuned модели Meta; ответы по-прежнему могут быть неточными или небезопасными. Использование регулируется кастомной коммерческой лицензией Llama 3.1 Community License и связанными ограничениями Acceptable Use Policy.

RedHatAI/Llama-3.2-1B-Instruct-quantized.w8a8 — квантизированная версия Llama-3.2-1B-Instruct, разработанная Neural Magic на базе модели Meta. Это текстовая autoregressive-модель архитектуры Llama-3, предназначенная прежде всего для диалоговых ассистентов, генерации текста и многоязычных коммерческих и исследовательских сценариев. Поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель использует INT8-квантизацию весов и активаций по схеме W8A8. Для весов применяется статическая симметричная поканальная квантизация, для активаций — динамическая симметричная потокенная квантизация; при подготовке использовались SmoothQuant и GPTQ. По заявлению разработчика, это примерно на 50% снижает требования к памяти GPU и размер модели на диске, а также примерно вдвое повышает пропускную способность матричных умножений. В опубликованных тестах показатели находятся в пределах 5% от неквантизированной версии на MMLU, ARC-Challenge, GSM-8K, HellaSwag, Winogrande и TruthfulQA. Для эффективного развёртывания рекомендуется vLLM; в примере указана максимальная длина контекста 8192 токена. К сильным сторонам относятся компактный размер в 1B параметров, сниженные требования к ресурсам, ускоренное выполнение и сохранение близкой к исходной точности. Ограничения связаны с небольшим размером модели и возможной потерей качества из-за квантизации; README не содержит подробных результатов по каждому языку, полной спецификации контекстного окна и детального анализа безопасности. Модель распространяется по лицензии Llama3.2; использование должно соответствовать применимым законам и нормативным требованиям.

kldzj публикует инструкционно настроенную текстовую модель Llama 3.3 Heretic на 69,5 млрд параметров, основанную на meta-llama/Llama-3.1-70B и представленную в формате safetensors для Transformers. Это авторегрессионная плотная модель семейства Llama с архитектурой оптимизированного трансформера; метаданные указывают контекст до 131 072 токенов и режим диалога. Модель принимает и генерирует текст, а семейство предназначено для многоязычных диалогов и генерации текста. Модель подходит для чат-ассистентов, ответов на вопросы, написания и преобразования текста, а также генерации синтетических данных. Карточка семейства перечисляет английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский; русский среди поддерживаемых языков не указан. Тег heretic и пометки uncensored/decensored/abliterated указывают на вариант с ослабленными ограничениями отказа, но README не описывает точную процедуру его получения. Лицензия указана как llama3.3 — пользовательская лицензия Meta Llama 3.3 Community License Agreement; перед использованием необходимо соблюдать её условия и Acceptable Use Policy. Как и у других языковых моделей, ответы могут содержать ошибки, а качество и безопасность на языках вне заявленного списка могут быть ниже; интеграция с внешними инструментами требует отдельной настройки.

MeaningBERT — модель оценки сохранения смысла между двумя предложениями, представленная автором статьи MeaningBERT: Assessing Meaning Preservation Between Sentences. Она выдаёт оценку смыслового сходства, которую можно использовать как обучаемую метрику при сравнении перефразирований и других пар предложений. В репозитории доступны исходный чекпойнт v1 и рекомендуемый чекпойнт v2 large; карточка указывает архитектуру BERT с 136,7 млн параметров, контекст до 512 токенов и формат safetensors. Для v2 large используется энкодер DeBERTa-v3-large, а результат преобразуется в шкалу от 0 до 100; по данным README, на тесте из 1536 пар он показал корреляцию Пирсона 0,704 ± 0,009. Модель принимает пару текстов и относится к классификации текста, хотя практически её используют как регрессионную метрику сохранения смысла. Она предназначена для оценки результатов перефразирования, упрощения и других преобразований текста. README описывает английские энкодеры bert-base-uncased и deberta-v3-large; основная версия v1 слабее обобщает на некоторые внешние наборы данных, а v2 требует корректного преобразования логита в оценку 0–100. Лицензия в предоставленных данных не указана.

Minerva-7B-instruct-v1.0 — диалоговая языковая модель Sapienza NLP, созданная в рамках проекта FAIR при сотрудничестве с CINECA и участии Babelscape и проекта CREATIVE PRIN. Это дообученная версия Minerva-7B-base-v1.0 на архитектуре Mistral с 7,2 млрд параметров и контекстом до 4096 токенов. Семейство Minerva предварительно обучалось с нуля на итальянских и английских текстах; в составе данных также был код. Версия instruct прошла настройку инструкциями и оптимизацию предпочтений DPO. Модель предназначена для диалога и генерации текста: она может отвечать на вопросы, объяснять темы, помогать с рассуждениями и решать задачи по коду. В первую очередь она рассчитана на итальянский и английский языки. Разработчики предупреждают, что ответы могут содержать фактические ошибки, стереотипы, оскорбительный или иной нежелательный контент, а также быть нерелевантными или повторяющимися. Лицензия — Apache-2.0.

NickyNicky/Mistral-7B-OpenOrca-oasst_top1_2023-08-25-v2 — разговорная языковая модель на архитектуре Mistral, созданная на основе Open-Orca/Mistral-7B-OpenOrca. В карточке указано обучение на данных OpenAssistant/oasst_top1_2023-08-25; метаданные также связывают модель с Open-Orca/OpenOrca. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в диалогах: она может отвечать на вопросы, поддерживать беседу и формулировать текстовые ответы. В карточке и метаданных перечислены болгарский, каталанский, чешский, датский, немецкий, английский, испанский, французский, хорватский, венгерский, итальянский, нидерландский, польский, португальский, румынский, русский, словенский, сербский, шведский и украинский языки. Лицензия — Apache-2.0. Оценки качества и подробные ограничения в доступных сведениях не приведены.

Mobius-RWKV-Chat-12B-128k-v4-HF — разговорная языковая модель TimeMobius на архитектуре RWKV v5.2, представленная в формате Hugging Face. Она построена на базе Mobius-mega-12B-128k-base и содержит 13,8 млрд параметров. Модель предназначена для генерации текста, письма, ролевых диалогов и некоторых сценариев RAG; автор рекомендует использовать несколько примеров в запросе, хотя работает и формат диалога User/Assistant. В карточке заявлена многоязычная поддержка и контекст до 128 тыс. токенов. Архитектура описана как смешанная state-based RNN, CNN и Transformer; для запуска в fp16 требуется около 24 ГБ видеопамяти. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. README также упоминает запуск в int8 и nf4 с меньшими требованиями к памяти, но доступные метаданные не подтверждают наличие соответствующих квантованных файлов.

Occiglot-7B-FR-EN-Instruct — инструктивная языковая модель, разработанная Occiglot Research Collective. Это плотный авторегрессионный трансформер MistralForCausalLM с 7,1 млрд параметров, дообученный на 160 млн токенов многоязычных и программных инструкций. Модель настроена для диалогового взаимодействия по шаблону ChatML и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и выполнения инструкций на французском и английском языках, включая задачи с кодом. Обучающие данные были поровну распределены между французским и английским; в README приведены предварительные результаты оценивания, причём результаты для французского следует трактовать осторожно из-за частично машинного перевода тестов и англоязычных запросов. Это ранний выпуск исследовательского проекта. Модель не проходила выравнивание по безопасности и может выдавать проблематичные ответы. Лицензия — Apache 2.0.

OpenBuddy-Yi1.5-34B-v21.6-32K-FP16 — многоязычная чат-модель OpenBuddy для генерации ответов в диалоге. Она основана на плотной архитектуре семейства Llama и содержит 33,9 млрд параметров; репозиторий включает веса Safetensors для Transformers. Модель рассчитана на общение на китайском, английском, французском, немецком, японском, корейском, итальянском, русском и финском языках. Модель подходит для чат-ботов, ответов на вопросы и генерации текста в многоязычных сценариях. В README описан специальный формат запросов и отмечена совместимость с Transformers и vLLM; в названии модели указано 32K, а метаданные сообщают о нативном контексте 131072 токена. Лицензия — Apache 2.0. Разработчики предупреждают, что ответы могут быть ошибочными, вредными или оскорбительными, и не рекомендуют использовать модель для медицинских, финансовых, юридических и иных критически важных решений.

Qwen3-30B-A3B-Thinking-2507-MLX-4bit — это 4-битная квантованная версия языковой модели Qwen3-30B-A3B-Thinking-2507, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием mlx_lm и оптимизировано для работы на устройствах Apple Silicon. Модель предназначена для генерации текста и локального запуска в сценариях, где важны совместимость с экосистемой Apple и сниженное потребление памяти по сравнению с полноразмерной версией. Архитектура, поддерживаемые языки, размер контекстного окна, модальности и специализированные задачи в README не указаны. Известно, что модель относится к семейству Qwen3 и имеет конфигурацию 30B-A3B, а 4-битное представление обеспечивает более эффективное развертывание, потенциально с компромиссом между требованиями к ресурсам и точностью. Модель распространяется по лицензии Apache-2.0. Следует учитывать, что квантованная версия может наследовать ограничения исходной модели, включая вероятность неточных, вредных или неподходящих ответов.

unsloth/Qwen3.5-0.8B-MTP-GGUF — GGUF-версия мультимодальной модели Qwen3.5-0.8B, разработанной командой Qwen и подготовленной Unsloth. Это авторегрессионная языковая модель с vision-энкодером, предназначенная для локального запуска, прототипирования, исследовательских задач, специализированного дообучения, программирования, рассуждений, работы с изображениями и агентских сценариев. Модель содержит около 0,8 млрд параметров, 24 слоя и скрытое измерение 1024. Она использует гибридную архитектуру Gated Delta Networks и разреженной Mixture-of-Experts, а также обучение с multi-step prediction (MTP), поддерживающее спекулятивное декодирование. Нативная длина контекста составляет 262 144 токена. Заявлена поддержка 201 языка и диалекта. Репозиторий ориентирован на совместное использование с llama.cpp и другими инструментами, поддерживающими GGUF; для MTP в llama.cpp требуется соответствующая ветка или актуальная версия с поддержкой draft-MTP. К сильным сторонам относятся малый размер, возможность эффективного локального запуска, мультимодальность, широкий языковой охват и потенциальное ускорение генерации примерно в 1,5–2 раза благодаря MTP. Ограничениями являются невысокий по современным меркам объём модели и, как следствие, вероятно более слабое качество сложных задач по сравнению с крупными моделями. Для MTP указаны ограничения: не поддерживаются параллельные последовательности с параметром -np больше 1 и использование mmproj. Модель распространяется по лицензии Apache 2.0.

trymirai/Qwen3.6-27B-L — квантизированная версия языковой модели Qwen3.6-27B, подготовленная Mirai Labs для эффективного локального вывода на компьютерах Apple с Apple silicon. Модель предназначена для генерации текста и локальных сценариев использования большой языковой модели, включая задачи, поддерживаемые исходной Qwen3.6-27B. Точные сведения о назначении, языках и контекстном окне в этой карточке не приведены. Модель содержит 27 млрд параметров и использует посттренировочную 8-битную симметричную целочисленную квантизацию с масштабами bfloat16 и размером группы 64. Для уменьшения выбросов активаций и весов применяются блочно-диагональные Random Hadamard Transforms с размером блока 32. По размеру и уровню квантизации checkpoint сопоставим с Unsloth UD-Q8_K_XL в формате GGUF. Ключевые преимущества — сохранение качества при уменьшенном размере и ориентация на эффективный локальный запуск. Основное ограничение — на данный момент поддерживается только inference на Apple silicon; характеристики, оценки и ограничения исходной модели Qwen3.6-27B следует уточнять в её оригинальной карточке. Модель распространяется по лицензии Apache 2.0.

Это GGUF-квантизация мультимодальной модели Qwen3.6-35B-A3B, разработанной Alibaba Cloud; репозиторий FreedomAISVR распространяет её в формате MXFP4_MOE для запуска через llama.cpp. Модель имеет архитектуру MoE: 35 млрд параметров всего, около 3 млрд активируются на токен, используются 256 экспертов и гибридное внимание Gated DeltaNet с полным вниманием. Контекстное окно — 262 144 токена. Модель предназначена для диалогов, генерации текста и анализа изображений. Для обработки изображений вместе с основными весами требуется файл проектора mmproj. В MXFP4 квантизированы веса экспертов, а маршрутизатор и общие экспертные слои сохранены в Q8_0; README указывает размер основных весов 18,4 ГБ. Указана поддержка 201 языка, среди которых английский и китайский. Квантизация снижает требования к памяти, но может повлиять на качество относительно исходных весов; фактическая совместимость и скорость зависят от оборудования и версии llama.cpp. Лицензия репозитория — Apache-2.0.

ggml-org/Qwen3-8B-GGUF — это квантизированная версия языковой модели Qwen3-8B, автоматически преобразованная в формат GGUF проектом ggml-org. Исходная модель разработана командой Qwen; в карточке также указаны связанные исходные модели Qwen/Qwen3-8B, z-lab/Qwen3-8B-DFlash-b16 и deepseek-ai/dspark_qwen3_8b_block7. Модель предназначена для генерации текста и может использоваться через совместимые инструменты, включая llama.app. Объём модели составляет 8B параметров; формат GGUF и квантизация ориентированы на более удобный запуск и эффективное использование ресурсов по сравнению с полноразмерной версией. Сведения о конкретном варианте квантизации, архитектуре, поддерживаемых языках, модальностях и размере контекста в README не указаны. Модель распространяется по лицензии Apache-2.0. Ограничения по качеству, точности, требованиям к оборудованию и рекомендуемым сценариям использования отдельно не описаны.

Qwen3-ASR-0.6B-hf — компактная модель распознавания речи и определения языка из семейства Qwen3-ASR, разработанного командой Qwen. Это плотная модель на 0,6 млрд параметров для Transformers, принимающая аудио и выдающая текстовую расшифровку с указанием языка. Она поддерживает офлайн- и потоковую обработку, длинные аудиозаписи, пакетную транскрибацию и подсказки с контекстом или специализированной лексикой. Модель распознаёт речь на 30 языках и диалектах, включая русский, английский, китайский и кантонский, а также заявлена для пения и песен с фоновой музыкой. В README для версии 0.6B отмечена высокая пропускная способность при параллельной обработке; приведённая оценка на наборе тестов Open ASR Leaderboard показывает средний WER 6,31. Лицензия Apache-2.0 допускает использование на её условиях. Для временных меток слов требуется отдельная модель Qwen3-ForcedAligner; качество распознавания может зависеть от языка и акустических условий.