I.6Перевод и языковая адаптация

BigQwen2.5-125B-Instruct-GGUF — это квантизированная GGUF-версия инструкционной языковой модели BigQwen2.5-125B-Instruct, разработанной mlabonne. Квантизацию выполнил bartowski с использованием llama.cpp и imatrix; модель предназначена для генерации текста и диалогового взаимодействия, включая локальный запуск через llama.cpp и LM Studio. В README указан английский язык. Модель имеет заявленный размер 125 миллиардов параметров и доступна в нескольких вариантах квантизации от Q8_0 до IQ1_M. Более качественные варианты Q6_K, Q5_K_M и Q4_K_M рекомендованы автором, тогда как низкобитные варианты требуют меньше памяти, но заметно уступают по качеству. Размер файлов составляет примерно от 40,59 до 133,22 ГБ, поэтому для запуска необходима система с большим объёмом оперативной или видеопамяти. Модель поддерживает специальный формат промптов Qwen с ролями system, user и assistant. Архитектура, размер контекста и мультимодальные возможности в README не указаны; по представленным данным это текстовая модель без подтверждённой поддержки изображений или других модальностей. Лицензия обозначена как other с названием tongyi-qianwen и ссылкой на лицензию Qwen2-72B-Instruct.

Lajavaness/bilingual-embedding-base — модель эмбеддингов предложений, разработанная Lajavaness для английского и французского языков. Она основана на XLM-RoBERTa и реализована как SentenceTransformer: использует усреднение токенов, затем нормализует векторы. Модель содержит 305,2 млн параметров и кодирует предложения в 1024-мерное векторное пространство; максимальная длина последовательности — 512 токенов по README и 514 токенов по метаданным. Модель предназначена для сравнения семантической близости предложений, семантического поиска, кластеризации текстов и ранжирования похожих фраз на английском и французском. Обучение включало данные SNLI/XNLI и STS Benchmark для обоих языков, а также дообучение с аугментацией пар предложений. Репозиторий использует формат safetensors и лицензию Apache-2.0.

DeepSeek-R1-0528-Qwen3-8B-GGUF — квантизированная версия языковой модели DeepSeek-R1-0528-Qwen3-8B, разработанной deepseek-ai. Квантизацию выполнил bartowski с использованием llama.cpp версии b5524 и метода imatrix. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Это текстовая модель размером 8B параметров, представленная в формате GGUF. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ, с размером файлов примерно от 3,9 до 16,39 ГБ. Более высокие уровни квантизации обычно лучше сохраняют качество, а варианты Q3 и ниже ориентированы на устройства с ограниченным объёмом оперативной памяти. Для работы рекомендуется использовать указанный шаблон prompt format; контекстное окно, поддерживаемые языки и дополнительные модальности в README не указаны. Сильные стороны модели — возможность локального запуска, широкий выбор вариантов квантизации и компромисс между качеством, размером и требованиями к памяти. Ограничения зависят от выбранного варианта: более сильная квантизация может снижать качество генерации, а для запуска требуются совместимые инструменты и достаточно оперативной или видеопамяти. Лицензия модели указана как MIT.

Это GGUF-квантизированная версия модели DeepSeek-V3.1-Terminus, подготовленная пользователем bartowski на основе оригинальной модели deepseek-ai. Квантизация выполнена с помощью llama.cpp версии b6550 с использованием метода imatrix и калибровочных наборов данных. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Доступны варианты квантизации от Q8_0 до Q2_K, различающиеся размером файла и качеством: старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти. Рекомендуемыми автор считает, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. В README не указаны архитектура, точный размер исходной модели, поддерживаемые языки, контекстное окно, мультимодальные возможности и формат промптов; для последнего рекомендуется обратиться к странице оригинальной модели. Лицензия также не указана, поэтому условия использования следует уточнять в репозитории исходной модели DeepSeek-V3.1-Terminus.

MaziyarPanahi/DeepSeek-V3-0324-GGUF — это набор файлов модели DeepSeek-V3-0324 в формате GGUF. Исходную модель разработала команда deepseek-ai, а данную GGUF-версию подготовил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые инструменты и библиотеки. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими решениями, включая варианты с ускорением на GPU и совместимыми API. Это делает модель пригодной для локальных чат-интерфейсов, серверов генерации текста и интеграции в приложения. В README указана 2-битная квантизация, которая может снизить требования к памяти, но потенциально сопровождается ухудшением качества по сравнению с полноразмерной моделью. В предоставленных данных не указаны архитектура, общее число параметров, поддерживаемые языки и размер контекста. Модель распространяется по лицензии MIT.

Это модель определения языка устной речи на основе ECAPA-TDNN от SpeechBrain, обученная на VoxLingua107. Репозиторий содержит неизменённые веса исходной модели speechbrain/lang-id-voxlingua107-ecapa, упакованные в формат GGUF для запуска через loom.cpp и loom-py-rt. На вход модель принимает аудиоклип и выдаёт распределение вероятностей по 107 языкам. Модель предназначена для автоматического определения языка речи в аудиозаписи, например для предварительной сортировки клипов или выбора последующей языковой обработки. Аудио должно быть монофоническим с частотой 16 кГц; каждый клип нужно подавать отдельным вызовом, поскольку пакет с дополненными тишиной клипами не поддерживается. Модель обучена на речи из YouTube, поэтому чистых фрагментов в несколько секунд обычно достаточно, но близкие языки могут путаться — рекомендуется учитывать несколько верхних результатов. Лицензия репозитория — Apache-2.0.

Falcon-H1-3B-Instruct — многоязычная генеративная языковая модель семейства Falcon-H1, разработанная TII. Это причинная decoder-only модель с гибридной архитектурой Transformer и Mamba; в метаданных указано 2,2 млрд параметров и контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста, включая задачи рассуждения. Модель можно запускать через Transformers, vLLM и llama.cpp. В карточке приведены результаты сравнительной оценки на общих тестах, включая BBH и ARC-C. Указана лицензия Falcon-LLM License; её условия следует учитывать перед использованием и распространением.

Это конверсия модели deepdml/whisper-large-v3-turbo в формат CTranslate2, опубликованная aTrain-core. Она предназначена для распознавания речи и используется через CTranslate2 и совместимые проекты, в том числе faster-whisper. Веса сохранены в FP16; при загрузке в CTranslate2 можно выбрать другой тип вычислений через параметр compute_type. Метаданные указывают поддержку множества языков, включая русский и английский. Для использования модели требуется совместимое программное обеспечение на основе CTranslate2. Лицензия репозитория — MIT.

GLM-5.3-Flash-NVFP4-FTW — подготовленный к запуску артефакт модели GLM-5.3 Flash, первоначально разработанной и опубликованной Z.ai. Версию NVFP4 выпустила Red Hat AI, FreeToken предоставил формат FTW и runtime-компоненты, SparkLab — средства подготовки и развёртывания на NVIDIA DGX Spark, а OakMind AI выполнила конвертацию, измерения и публикацию артефакта. Повторного обучения не проводилось. Модель предназначена для генерации текста и диалоговых сценариев с текстовым вводом и выводом. Она основана на Mixture-of-Experts архитектуре: содержит 320 млрд параметров, из которых 18 млрд активируются для отдельного запроса. Артефакт оптимизирован для одного NVIDIA DGX Spark с чипом Grace Blackwell GB10 и использует unified memory, хранение экспертных блоков на локальном NVMe и разреженное выполнение MoE. В исходной модели присутствуют компоненты для работы с изображениями, но в данном пути SparkLab они отключены. Приведённый профиль демонстрирует около 4,98 токена в секунду при пакетном размере 1, однако задержка зависит от NVMe-доступа и состояния кэша экспертов. К сильным сторонам относятся возможность запуска полной модели на одном DGX Spark, снижение объёма резидентных весов за счёт сочетания NVFP4 и FP8 W8A16, а также совместимые с OpenAI и Anthropic API сценарии обслуживания через SparkLab. Ограничения включают зависимость производительности от дискового ввода-вывода, заметную задержку первого запроса при холодном кэше, отсутствие активной поддержки vision-компонентов и то, что опубликованные показатели являются единичным performance-тестом, а не гарантией качества или ёмкости в любых сценариях. Лицензия в README не указана.

GPT-SW3 1.3B Instruct — авторегрессионная языковая модель на архитектуре decoder-only Transformer, разработанная AI Sweden совместно с RISE и WASP WARA for Media and Language. Это версия семейства GPT-SW3 с 1,3 млрд параметров, дообученная на инструкционных данных в форматах диалога и обычного текста; базовая модель предварительно обучалась на 320 млрд токенов, включая шведский, норвежский, датский, исландский, английский языки и программный код. Модель предназначена для генерации связного текста и выполнения инструкций, представленных как текстовые запросы. Её можно применять для диалоговых помощников, черновиков и ответов на вопросы на поддерживаемых языках, а также для языковых задач, сведённых к генерации текста. Метаданные указывают поддержку чата и задачи text-generation; репозиторий содержит веса PyTorch и Safetensors. Модель может воспроизводить предвзятость данных обучения, выдавать галлюцинации, нерелевантные или повторяющиеся ответы, а также небезопасный, оскорбительный или неподходящий для некоторых аудиторий контент. Лицензия указана как other; README называет модифицированную лицензию RAIL.

Карточка модели Goat7777721/Inquisitive-Omni-1.0 на Hugging Face совпадает с карточкой Qwen/Qwen3-Omni-30B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Omni-30B-A3B-Instruct — мультимодальная модель общего назначения от команды Qwen компании Alibaba. Она принимает текст, изображения, аудио и видео и формирует потоковые ответы текстом и естественной речью; вариант Instruct включает компоненты Thinker и Talker. Архитектура MoE использует разделение на Thinker и Talker, а модель рассчитана на низколатентное взаимодействие в реальном времени и управление поведением через системные промпты. Модель предназначена для голосовых диалогов, распознавания и понимания речи, описания аудио и видео, а также ответов на вопросы по изображениям и смешанным мультимодальным входам. README заявляет поддержку 119 языков для текста, 19 языков для речевого ввода и 10 для речевого вывода; среди явно перечисленных языков речи есть русский. В примере запуска указан максимальный контекст 65 536 токенов. Для работы предлагаются Transformers и vLLM; README отмечает, что на момент публикации требовалась установка Transformers из исходников. Лицензия в метаданных обозначена как other, без уточнения условий.

JOSIE-1.1-4B-Instruct — плотная языковая модель на 3,7 млрд параметров, разработанная Gökdeniz Gülmez как полновесная донастройка Qwen3-4B-Instruct-2507. Она предназначена для естественных диалогов, следования инструкциям, повседневной помощи и решения практических задач. Модель выдаёт связные ответы с дружелюбной, прямой манерой общения и ориентирована на генерацию текста в чат-сценариях. Модель поддерживает английский, испанский, французский, португальский, итальянский, арабский, китайский, японский, корейский, индонезийский, русский, вьетнамский, немецкий и тайский языки. Метаданные указывают контекст до 262 144 токенов; README сообщает о 32 768 токенах. Обучение включало дистилляцию рассуждений и преобразование ответов в разговорный стиль. По карточке, модель не имеет встроенной фильтрации контента; качество может снижаться на узкоспециализированных темах, а критические ответы требуют проверки. Лицензия — MIT.

Llama-3.2-3B-Instruct-GGUF — квантованная версия инструкционной языковой модели Llama-3.2-3B-Instruct, разработанной Meta и преобразованной в формат GGUF компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая чат-взаимодействие и вызов инструментов с формированием JSON-запросов функций. Модель содержит около 3 миллиардов параметров, работает с текстом и поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Заявленный размер контекста составляет 128 000 токенов. Доступны варианты квантования от Q2_K до Q8_0 и F16 с размером файлов примерно от 581 МБ до 1,32 ГБ. В README рекомендуются варианты Q4_K_M, Q5_K_M и Q5_K_S как компромисс между размером и качеством; более агрессивное квантование уменьшает размер, но может заметно ухудшать качество ответов. Модель подходит для локального запуска на устройствах с ограниченными ресурсами и интеграции через LlamaEdge, включая сервисный и командный режимы. Для работы требуется совместимая версия LlamaEdge; в README указана версия v0.16.5 или новее. Ограничения включают снижение качества в младших вариантах квантования, а также отсутствие сведений о мультимодальности и подробных результатах оценки. Модель распространяется по лицензии Llama 3.2.

Llama-3-KoEn-8B — плотная авторегрессионная языковая модель Junbum Lee (Beomi), продолжающая предобучение Meta Llama 3 8B на корпусе из корейских и английских текстов. Модель принимает текст и генерирует текст, в том числе код; предназначена для адаптации к задачам генерации и для создания чат- и инструкционных моделей. Модель содержит 7,5 млрд параметров, построена на архитектуре Llama 3 и имеет контекстное окно 8192 токена. Доступна в форматах PyTorch и Safetensors. Это предварительный релиз статической модели, обученной на офлайн-данных. Лицензия указана как CC-BY-NC-SA-4.0 вместе с лицензией сообщества Llama 3; применяются их условия использования. Карточка предупреждает, что ответы могут быть неточными, предвзятыми или нежелательными, и рекомендует проверять безопасность для конкретного приложения. Хотя обучение включало корейский и английский языки, документация ограничивает предполагаемое использование английским и предостерегает от применения на других языках без соблюдения условий лицензии Llama 3.

MuXodious выпустил дообученную версию Ministral-3-14B-Instruct-2512, изменённую методом abliteration с использованием Heretic и слияния с Magnitude-Preserving Orthogonal Ablation. Это мультимодальная плотная модель семейства Mistral 3: языковая часть содержит 13,5 млрд параметров, а визуальный энкодер — 0,4 млрд. Она принимает текст и изображения и предназначена для диалогов, выполнения инструкций и анализа изображений; в README также заявлены вызов функций и вывод JSON. Модель поддерживает английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, китайский, японский, корейский и арабский языки, а контекстное окно базовой модели составляет 256 тыс. токенов. Модификация снижает склонность к отказам: в приведённой оценке Heretic модель отказала в 5 случаях из 100. Автор предупреждает, что модель сильно uncensored, и рекомендует использовать её с осторожностью. Для работы указаны Transformers v5; в метаданных также заявлена поддержка vLLM. Лицензия Apache-2.0 допускает коммерческое и некоммерческое использование.

TheBloke/Mistral-7B-Instruct-v0.1-GPTQ — квантизированная версия Mistral 7B Instruct v0.1, разработанного Mistral AI и подготовленная TheBloke. Модель предназначена для генерации текста и выполнения инструкций в сценариях локального или серверного вывода, включая диалоговые приложения и другие задачи обработки текста. Это языковая модель семейства Mistral с 7 миллиардами параметров, доступная в формате GPTQ для GPU-инференса. В репозитории представлены варианты 4-, 5-, 6- и 8-битной квантизации с разными параметрами group size и Act Order; основной вариант имеет размер около 4,16 ГБ, использует 4-битную квантизацию, group size 128 и поддерживает ExLlama. Для работы также предусмотрена загрузка через Transformers, однако на момент публикации требовалась версия из указанного GitHub-коммита. В README не указаны полный список поддерживаемых языков, точная архитектура контекстного окна исходной модели и конкретные результаты тестирования. К сильным сторонам относятся уменьшенный размер и сниженные требования к видеопамяти по сравнению с полноразмерной моделью, а ограничением может быть небольшая потеря точности из-за квантизации и зависимость от совместимого программного обеспечения. Модель распространяется по лицензии Apache-2.0.

Mistral-7B-Instruct-v0.3-GGUF — набор файлов модели в формате GGUF для Mistral-7B-Instruct-v0.3, разработанной компанией Mistral AI (mistralai) и подготовленной к квантованию MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. GGUF удобен для работы с различными уровнями квантования и локального вывода с использованием CPU или GPU. В основе лежит инструкционно настроенная языковая модель семейства Mistral с заявленным размером 7B параметров. Доступны варианты квантования от 2 до 8 бит, а также поддержка экосистемы Transformers и инструментов, совместимых с GGUF. README не содержит достоверных сведений о длине контекста, списке поддерживаемых языков, конкретной архитектуре или мультимодальности; по представленным данным модель является текстовой и не предназначена для обработки изображений или других модальностей. К сильным сторонам относятся возможность выбирать баланс между качеством и требованиями к памяти, а также широкий выбор локальных средств запуска: llama.cpp, llama-cpp-python, LM Studio, text-generation-webui и другие совместимые инструменты. Ограничения зависят от выбранного уровня квантования, аппаратной конфигурации и используемого клиента; README не приводит результаты бенчмарков или детальную оценку качества. Указанная лицензия — Apache 2.0.

Это GGUF-квантизированная версия Devstral-Small-2505, разработанной Mistral AI и подготовленной пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. README не уточняет её специализированные сценарии применения, однако формат и базовая модель ориентированы на работу с текстовыми запросами и, вероятно, задачами разработки, соответствующими семейству Devstral. Доступны варианты от BF16 до низкобитных квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 11,47 до 47,15 ГБ. Указаны языки: английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский, арабский, персидский и ряд других. README не содержит сведений о числе параметров, архитектуре, размере контекста или точных характеристиках качества. Для vision предусмотрен файл mmproj от Mistral Small 3.1, но эта поддержка неофициальна и может работать неидеально. Сильными сторонами являются широкий выбор квантизаций для разного объёма памяти и возможность локального запуска; варианты Q6_K и Q6_K_L отмечены как близкие к исходному качеству, а Q4_K_M — как подходящий вариант по умолчанию. Ограничениями являются значительные требования к дисковому пространству и памяти, а также возможное снижение качества в компактных вариантах. Модель распространяется по лицензии Apache-2.0.

Карточка модели Griffin88/my_new_model3 на Hugging Face совпадает с карточкой Griffin88/sentence-embedding-LaBSE, поэтому описание составлено по ней. Griffin88/sentence-embedding-LaBSE — PyTorch-порт модели LaBSE, предназначенный для представления предложений на 109 языках в общем векторном пространстве. Модель основана на архитектуре BERT и содержит 498,1 млн параметров; максимальная длина контекста — 512 токенов. Репозиторий предоставляет веса PyTorch и safetensors, а для работы через Sentence-Transformers README рекомендует библиотеку sentence-transformers. Модель подходит для получения эмбеддингов предложений и оценки их семантического сходства, в том числе для сопоставления текстов на разных языках. Лицензия — Apache-2.0. README отсылает к публикации LaBSE, но не уточняет автора этого порта или детали обучения именно этой версии.

OpenBuddy/openbuddy-yi1.5-34b-v21.3-32k — многоязычная чат-модель OpenBuddy, дообученная на базе 01-ai/Yi-1.5-34B-32K. Это плотная авторегрессионная модель семейства Llama с 33,9 млрд параметров, предназначенная для диалоговой генерации текста. Метаданные указывают нативный контекст до 131 072 токенов и поддержку китайского, английского, французского, немецкого, японского, корейского, итальянского, русского и финского языков. Модель рассчитана на создание чат-ботов и развёртывание через Transformers или vLLM с API в стиле OpenAI. Репозиторий содержит веса safetensors; для корректной работы автор рекомендует быстрый токенизатор Transformers, поскольку другие реализации могут некорректно обрабатывать специальные токены. Лицензия — Apache 2.0. Модель может выдавать ошибочные, вредные или нежелательные ответы. Авторы предостерегают от использования в критически важных и высокорисковых сценариях, включая медицину, управление потенциально опасными системами и принятие важных финансовых или юридических решений.

openbuddy-zephyr-7b-v14.1-Mistral-7B-Instruct-v0.1 — объединённая методом SLERP чат-модель на архитектуре Mistral, созданная из mistralai/Mistral-7B-Instruct-v0.1 и OpenBuddy/openbuddy-zephyr-7b-v14.1. Она предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и рассчитана на общение на китайском, английском, французском, немецком, японском, корейском, итальянском и русском языках. Модель подходит для чат-ботов, ответов на вопросы и выполнения текстовых инструкций. В репозитории указана лицензия Apache-2.0. README не приводит результатов оценки качества или подробных сведений о поведении модели; качество ответов и пригодность для конкретных сценариев требуют проверки.

meedan/paraphrase-filipino-mpnet-base-v2 — модель эмбеддингов предложений и абзацев, опубликованная Meedan. Она преобразует текст в плотные векторы размерности 768 для поиска семантически близких фраз и документов, кластеризации и сравнения предложений. Архитектура основана на XLM-R; модель обучена методом «учитель—ученик» с учителем sentence-transformers/paraphrase-mpnet-base-v2 и учеником sentence-transformers/paraphrase-multilingual-mpnet-base-v2. В обучении использовались параллельные пары английских и филиппинских/тагальских текстов из OPUS. Модель содержит 305,2 млн параметров, принимает текст и выдаёт векторы; максимальная длина контекста составляет 514 токенов. В оценке на тесте семантического сходства получена корреляция Спирмена 0,80 для английского и 0,75 для филиппинского текста; авторы отмечают улучшение для филиппинского языка относительно многоязычной базовой модели. Качество обучающих данных было переменным, а оценка на филиппинском проводилась на машинном переводе набора STS, что ограничивает интерпретацию результатов. Лицензия в предоставленных данных не указана.

Richard Young создал эту версию Microsoft Phi-4-mini-instruct с помощью Heretic 2.0.0.dev0: модель подвергнута аблерации, которая уменьшает склонность отказывать в ответах. Это плотная авторегрессионная языковая модель семейства Phi-3 с 3,8 млрд параметров и контекстом 4096 токенов; она распространяется в формате Safetensors и предназначена для генерации текста, диалогов, кода и рассуждений, в том числе в условиях ограниченных вычислительных ресурсов. Модель поддерживает множество языков, включая русский, английский, китайский, японский, арабский, украинский и другие. По данным карточки, в тесте на 100 запросах число отказов снизилось с 99 у исходной модели до 5 у этой версии; автор также сообщает о низком расхождении с исходной моделью по KL-дивергенции. Модель подходит для локального использования, творческого письма и изучения методов выравнивания, однако уменьшение отказов означает, что она может выдавать ответы на запросы, которые исходная модель отклоняет. Как и другие языковые модели, она может ошибаться; для высокорисковых сценариев автор рекомендует отдельную оценку точности, безопасности и справедливости. Лицензия — MIT.

PLLuM-4B-base-2512 — базовая языковая модель для генерации текста, разработанная альянсом HIVE AI на основе Gemma 3 4B. Модель продолжает предобучение на польских и английских корпусах; в семействе PLLuM также есть версии с дообучением для инструкций и диалога, но этот вариант обозначен как base. Модель предназначена для генерации связного текста, суммаризации, извлечения сведений и ответов на вопросы. Её можно использовать как основу для специализированных приложений и ассистентов, в том числе для польской публичной администрации и тематики права и бюрократии; для ответов по документам README рекомендует подключать поиск через RAG. Архитектура — плотная Gemma 3, около 4 млрд параметров; модель принимает и выдаёт текст, в первую очередь на польском, с дополнительными данными на английском. Модель распространяется по лицензии Apache-2.0. Поскольку это базовая, а не instruct- или chat-версия, готовность к диалогу и следованию инструкциям может быть ограниченной; README приводит заявленные результаты семейства PLLuM, но не отдельные оценки этого чекпойнта.

MLX-версия инструкционной языковой модели Qwen3-30B-A3B-Instruct-2507, разработанной командой Qwen и конвертированной сообществом mlx-community в формат MLX с использованием mlx-lm 0.26.3. Модель предназначена для генерации текста и диалогового взаимодействия, включая выполнение пользовательских инструкций в приложениях на базе mlx-lm. Из README известно, что модель представлена в 4-битном формате квантования и распространяется как text-generation-модель. Архитектура, общее число параметров, число активных параметров, поддерживаемые языки, модальности и размер контекста в предоставленных данных не указаны. Преимущество версии заключается в адаптации для экосистемы MLX; ограничением является отсутствие подробных сведений о характеристиках, качестве и производительности. Модель распространяется по лицензии Apache-2.0. Для использования требуется библиотека mlx-lm; приведённый пример ориентирован на запуск через Python и применение chat template токенизатора.

Qwen3.8-27B-Brainwaves-WFH-GGUF — это GGUF-квантизированная версия модели Qwen3.8-27B-Brainwaves-WFH, подготовленная mradermacher на основе модели nightmedia. Модель предназначена для локального запуска и генерации текста в широком спектре сценариев, включая диалог, следование инструкциям, программирование, математические и STEM-задачи, исследования, рассуждения, творческое и художественное письмо, сторителлинг и ролевые взаимодействия. Указана поддержка английского, китайского, японского и испанского языков. Модель относится к семейству Qwen и доступна в формате GGUF с вариантами квантования от Q2_K до Q8_0, а также в форматах IQ4_XS и F16. Размер файлов варьируется примерно от 11 до 29,1 ГБ; для мультимодального использования предусмотрены дополнительные файлы mmproj-Q8_0 и mmproj-f16, однако конкретные поддерживаемые визуальные модальности в README не описаны. В метаданных заявлены контексты 256K и 1M токенов, но их практическая доступность для данной сборки не подтверждена. Сильной стороной модели является выбор вариантов квантования, позволяющий выбирать между размером, скоростью и качеством: Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант очень хорошего качества, а Q8_0 — как вариант наилучшего качества среди указанных. Ограничения включают значительные требования к дисковому пространству и памяти, а также отсутствие подробных данных о производительности, оценках качества, точной архитектуре и рекомендуемых параметрах запуска. Лицензия — Apache-2.0.

Chungulus/Qwen3.8-27B-Q6_K-GGUF — это неизменённая ванильная квантизованная версия модели Qwen3.8-27B, опубликованная Chungulus на основе исходных весов Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, обработки изображений и видео, вызова инструментов и задач reasoning; заявлена совместимость с нативным форматом tool calling Qwen и управлением режимами мышления через enable_thinking, reasoning_effort и preserve_thinking. Модель поставляется в формате GGUF с квантизацией Q6_K на базе llama.cpp. Основной файл занимает около 22,431 ГБ, vision projector в формате F16 — отдельный файл, а полный репозиторий — около 23,371 ГБ. Сохранена гибридная архитектура Hybrid Gated DeltaNet/full-attention, vision-компоненты, tokenizer и MTP-метаданные; спекулятивное ускорение не заявляется. Архитектурный максимальный контекст и полноценные бенчмарки в README не указаны, а самая длинная проверенная последовательность составляла 73 токена. Текстовая генерация, вызов инструментов, обработка изображений и видео, а также шаблон чата прошли заявленные локальные проверки. Квантизация может снижать качество по сравнению с исходными весами, особенно при меньшей разрядности, а для запуска требуется среда с поддержкой графа Qwen3.8, vision tower/projector и MTP-метаданных. Рекомендуется иметь не менее примерно 27 ГБ доступной памяти с учётом модели, vision projector и базовых накладных расходов; KV-cache дополнительно увеличивается с размером контекста. Модель и данная квантизация распространяются по лицензии Apache-2.0.

mlx-community/Qwen3-Next-80B-A3B-Instruct-4bit — это 4-битно квантизированная версия инструкционной языковой модели Qwen3-Next-80B-A3B-Instruct, разработанной командой Qwen и преобразованной сообществом mlx-community в формат MLX с использованием mlx-lm 0.27.1. Модель предназначена для генерации текста и выполнения задач по инструкциям в приложениях, использующих экосистему MLX, включая локальный запуск через библиотеку mlx-lm. Из README известно, что модель является текстовой и относится к pipeline text-generation. В её названии указаны размер 80B и конфигурация A3B, однако подробности архитектуры, поддерживаемые языки, длина контекста и набор модальностей не приведены. Ключевое преимущество версии — 4-битное представление, потенциально уменьшающее требования к памяти при локальном использовании, но README не содержит данных о качестве, производительности или ограничениях квантизации. Модель распространяется по лицензии Apache-2.0.

Qwen3-Next-80B-A3B-Instruct-8bit — языковая модель для генерации текста и диалогового взаимодействия, разработанная сообществом mlx-community на основе Qwen/Qwen3-Next-80B-A3B-Instruct от Qwen. Модель преобразована в формат MLX с использованием mlx-lm версии 0.27.1 и предназначена для запуска через библиотеку mlx-lm. Из README известно, что это 8-битная версия модели с архитектурой и характеристиками базовой модели Qwen3-Next-80B-A3B-Instruct, однако подробности об архитектуре, фактическом числе активных параметров, поддерживаемых языках, модальностях и размере контекста не указаны. Модель ориентирована на текстовую генерацию и может использоваться в чат-сценариях через встроенный chat template. Для работы требуется библиотека mlx-lm; пример запуска предполагает загрузку модели и токенизатора средствами Python. Ключевое преимущество модели — адаптация в MLX-формат и 8-битное представление, что делает её подходящей для экосистемы MLX и потенциально снижает требования к памяти по сравнению с полноточной версией. Ограничения, результаты оценивания и особенности качества в README не описаны. Модель распространяется по лицензии Apache-2.0.

Qwen3-Next-80B-A3B-Instruct-MLX-6bit — это 6-битная версия инструкционной языковой модели Qwen3-Next-80B-A3B-Instruct, разработанной командой Qwen. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и других текстовых сценариях. Данная версия преобразована и квантизирована в формате MLX командой LM Studio с использованием mlx_lm и оптимизирована для работы на устройствах с Apple Silicon. В названии указаны размер исходной модели 80B и конфигурация A3B, однако в README не приведены дополнительные сведения об архитектуре, поддерживаемых языках, размере контекста, модальностях или результатах тестирования. Квантизация до 6 бит может снизить требования к памяти и сделать модель практичнее для локального запуска на совместимых устройствах, но потенциально влияет на точность по сравнению с полной версией. Модель распространяется по лицензии Apache 2.0.