I.6Перевод и языковая адаптация

Это пакет слоёв GGUF модели GLM-5.1-UD-Q4_K_XL для распределённого запуска через Mesh LLM. Он создан из unsloth/GLM-5.1-GGUF: исходное распределение весов разбито на отдельные артефакты по слоям, чтобы объединять память и вычислительные ресурсы нескольких локальных машин. Пакет предназначен для локального приватного инференса, чат-запросов и обслуживания API, совместимого с OpenAI Chat Completions. Модель относится к семейству GLM; вариант весов — UD-Q4_K_XL в формате GGUF. README не приводит размер модели, параметры контекста, поддерживаемые языки или подробности архитектуры. Для архитектурных сведений, шаблона чата и условий лицензии карточка отсылает к исходной модели unsloth/GLM-5.1-GGUF. Указанная в README лицензия не приведена, поэтому условия использования следует проверять в карточке источника.

GLM-5.3-Flash-Alis-MLX-8bit — 8-битная MLX-квантизированная версия модели GLM-5.3-Flash, разработанной zai-org. Модель предназначена для генерации текста и запуска на устройствах Apple Silicon через библиотеку mlx-vlm с поддержкой архитектуры glm5_next и Mixture-of-Experts. Она создана потоковой деквантизацией официального FP8-релиза; размер исходной модели составляет 320B-A18B, а объём файловой системы модели — около 334,1 ГБ. В сборке используются 8-битное affine-кодирование экспертов, attention, общих и плотных MLP-слоёв, embeddings и выходной головы. Маршрутизатор MoE, параметры коррекции, отдельные массивы mHC и параметры затухания KDA сохранены в FP32, vision tower — в BF16. MTP-слой 45 удалён и вынесен в отдельную модель-драфтер, поэтому основное назначение этой версии — высокоточный inference и роль эталонной модели для оценки менее точных 4-битных сборок. Модель поддерживает текстовую генерацию; мультимодальные возможности через vision tower указаны, но подробности о поддерживаемых форматах изображений и языках не приведены. Сильная сторона модели — максимальная среди семейства точность сохранения исходного поведения и отсутствие квантизации маршрутизатора, что делает её reference- или teacher-классом. На M3 Ultra с 512 ГБ памяти ожидается около 24–25 токенов в секунду при декодировании с p512; специальные параметры окружения могут повысить скорость примерно на 12%. Ограничения включают очень большой объём хранения, требования к совместимой версии mlx-vlm и необходимость Apple Silicon. Лицензия — MIT.

GLM-5.3-Flash W4A16 NVFP4 GGUF — преобразованная в формат GGUF версия модели axiomofmind/GLM-5.3-Flash-W4A16-NVFP4, основанной на zai-org/GLM-5.3-Flash-BF16. Это разговорная текстовая модель семейства GLM5Next с архитектурой MoE. Основные маршрутизируемые эксперты используют квантование W4A16 NVFP4 с размером группы 16; внимание, общие эксперты, маршрутизаторы, эмбеддинги, выходной слой, веса MTP и другие сохранённые тензоры остаются в BF16 или F32. Файл модели с весами MTP занимает 204,1 ГБ. Модель предназначена для генерации текста и диалогов. Для запуска требуется сборка llama.cpp с поддержкой GLM5Next и GGUF NVFP4. Репозиторий распространяется по лицензии MIT.

MLX-версия модели Kimi-K2.5, разработанной Moonshot AI и опубликованной в исходном виде как moonshotai/Kimi-K2.5. Модель была конвертирована сообществом mlx-community в формат MLX с использованием mlx-lm версии 0.30.5 с небольшими изменениями. Модель предназначена для генерации текста и запуска через библиотеку mlx-lm, в том числе с применением chat template для диалоговых сценариев. README не содержит сведений об архитектуре, количестве параметров, поддерживаемых языках, модальностях или размере контекста, поэтому эти характеристики нельзя достоверно указать. Также не описаны конкретные сильные стороны, ограничения производительности или требования к оборудованию; из данных следует лишь, что модель адаптирована для экосистемы MLX. Указана лицензия modified-MIT, обозначенная как other в метаданных. Условия использования следует уточнять по тексту лицензии исходной модели и конвертированной версии.

Kosmos-VENN-8B — языковая модель для генерации текста, созданная объединением моделей Khetterman и DreadPoor методом SLERP с помощью mergekit. В основе лежит архитектура Llama с плотной трансформерной моделью примерно на 7,5 млрд параметров; нативная длина контекста составляет 8192 токена. Модель подходит для генерации текста и диалогов, в том числе творческих и ролевых сценариев на русском и английском языках. Веса доступны в формате safetensors для использования с Transformers. Лицензия в предоставленных данных не указана.

Open-Assistant Llama2 70B SFT OASST — языковая модель, разработанная Open-Assistant и дообученная на базе Llama 2 70B на смеси диалогов OASST с оценкой top-1. Это плотный авторегрессионный трансформер-декодер, предназначенный для генерации ответов в диалоговом формате. Для разграничения реплик используются специальные токены начала пользовательского и ассистентского хода и окончания хода. Модель подходит для чат-ботов, ответов на вопросы и генерации текста на английском, немецком, испанском и французском языках; README также отмечает ограниченные возможности на итальянском, португальском, польском, нидерландском, румынском, чешском и шведском. Число параметров составляет 68,7 млрд, контекст — 4096 токенов. Веса представлены в формате PyTorch, лицензия — Apache 2.0. Качество и полнота ответов на языках за пределами основных четырёх могут быть ограничены; контекст ограничен 4096 токенами. Модель предназначена для генерации текста по диалоговым примерам, а не для специализированных задач вроде распознавания изображений или аудио.

cstr/llama3.1-8b-spaetzle-v74 — это текстовая генеративная модель семейства Llama 3.1, созданная автором репозитория cstr путём слияния четырёх моделей серии Spaetzle: v59, v63, v66 и v73. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и рассчитана на контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста, ответов на вопросы и работы с каверзными вопросами на английском и немецком языках. В карточке приведены результаты EQ-Bench v2: 75,27 для английского и 68,05 для немецкого; автор отмечает, что ответы на некоторые каверзные вопросы получаются удачными. Метаданные указывают поддержку интерфейса вызова инструментов. Модель распространяется в формате safetensors под лицензией Llama 3.1. Это слияние ранее опубликованных чекпойнтов, а не конверсия или новое обучение; сведения о тренировочных данных наследуются от составляющих моделей и не полностью прослеживаются по карточке.

Mudassir-75/Llama-3.2-3B-Instruct-ENG-FR-v3 — дообученная разговорная языковая модель семейства Llama, разработанная Mudassir-75 на основе Mudassir-75/Llama-3.2-3B-Instruct-ENG-FR-v2. Это плотная авторегрессионная модель с архитектурой LlamaForCausalLM и 3,2 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. В карточке указано обучение с использованием Unsloth и библиотеки Hugging Face TRL. Модель принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. Метаданные карточки отмечают английский язык, а имя базовой модели указывает на англо-французскую направленность. Весы доступны в формате safetensors. Лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или подробностей сценариев обучения, поэтому пригодность для конкретных задач стоит проверять отдельно.

Llama 4 Scout 17B 16E Instruct — мультимодальная инструкционная модель Meta для диалогов и визуального рассуждения. Она использует авторегрессионную архитектуру Mixture of Experts с ранним объединением модальностей; в активной конфигурации заявлено 17 млрд параметров и 16 экспертов. Модель принимает текст и изображения и предназначена для понимания изображений, визуального распознавания, создания описаний и ответов на вопросы по изображениям. Модель поддерживает арабский, английский, французский, немецкий, хинди, индонезийский, итальянский, португальский, испанский, тагальский, тайский и вьетнамский языки. В карточке указано, что проверено понимание до пяти входных изображений; для большего числа изображений требуется дополнительная проверка и настройка. Модель выпущена как статический чекпойнт, обученный на офлайн-данных. Для использования доступны веса в формате safetensors через Transformers. Лицензия — собственное коммерческое соглашение Llama 4 Community License; применение регулируется его условиями и Acceptable Use Policy.

Magnum-v2-123b — диалоговая языковая модель Anthracite, шестая версия в серии моделей, настроенных на воспроизведение качества прозы Claude 3 Sonnet и Opus. Это полноразмерное дообучение Mistral Large Instruct 2407 с архитектурой MistralForCausalLM и 122,2 млрд параметров; модель распространяется в формате Safetensors и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации диалоговых ответов и связного текста, в том числе для творческого письма. Она использует формат инструкций Mistral и обучалась на данных Stheno, Kalo Opus Instruct и наборах Anthracite для письма и ответов без отказов. В карточке заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Модель может быть полезна для написания прозы и ведения диалогов; качество отдельных задач и языков в README не оценивается. Лицензия указана как «other», поэтому перед использованием следует проверить условия на странице модели Hugging Face.

MeliodasPercival_01_Experiment28Meliodas — объединённая модель генерации текста, созданная MaziyarPanahi на основе automerger/MeliodasPercival_01-7B и automerger/Experiment28Meliodas-7B. Она предназначена для генерации текста и диалогов; архитектура — Mistral с плотной моделью на 7,1 млрд параметров и контекстом до 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

MiniMax-M2.5-MLX-8bit — это 8-битная квантованная версия языковой модели MiniMax-M2.5, разработанной компанией MiniMaxAI. Квантование выполнено командой LM Studio с использованием mlx_lm, а модель оптимизирована для работы на компьютерах Apple Silicon через MLX. Модель предназначена для генерации текста и других сценариев, поддерживаемых задачей text-generation, включая локальный запуск в совместимых средах. README не содержит подробностей о размере исходной модели, архитектуре, поддерживаемых языках, длине контекста или мультимодальных возможностях, поэтому эти характеристики нельзя достоверно указать. Ключевое преимущество модели — снижение требований к памяти по сравнению с полноразмерной версией благодаря 8-битному квантованию и оптимизации под Apple Silicon. Ограничения включают возможную потерю качества из-за квантования, зависимость от совместимого оборудования и программной среды, а также отсутствие в README сведений о результатах тестирования и производительности. Модель распространяется по лицензии modified-MIT; условия следует уточнять в указанном файле лицензии MiniMaxAI.

Это GGUF-квантизированная версия текстовой генеративной модели Qwen3-4B-abliterated, разработанной mlabonne и подготовленной пользователем bartowski. Квантизация выполнена с использованием llama.cpp версии b5200 и метода imatrix, что позволяет запускать модель в локальных приложениях на базе llama.cpp, включая LM Studio. Модель предназначена для генерации текста в диалоговом формате с использованием шаблона prompt формата ChatML. Доступны варианты от BF16 до различных уровней квантизации, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M и более компактные форматы. Размер файлов составляет примерно от 1,8 до 8,05 ГБ; варианты с более высокой точностью обеспечивают лучшее качество, а варианты с низкой разрядностью требуют меньше оперативной памяти. Рекомендуемым компромиссом для большинства сценариев указан Q4_K_M, а для максимального качества — Q6_K или Q6_K_L. В README не указаны архитектурные детали исходной модели, поддерживаемые языки, размер контекста, мультимодальные возможности и лицензия. Поэтому модель следует рассматривать как локальную текстовую LLM для совместимых инструментов llama.cpp, с ограничениями, зависящими от выбранного варианта квантизации и доступной памяти.

Это набор файлов GGUF с разными вариантами квантования модели Qwen2.5-7B-Instruct-bf16, опубликованный featherless-ai-quants на основе mlx-community/Qwen2.5-7B-Instruct-bf16. Модель предназначена для диалоговой генерации текста и использования в чат-приложениях; доступны варианты IQ4_XS, Q2_K и Q3_K_L, а README сообщает о ещё восьми строках вариантов квантования. Веса представлены в формате GGUF с точностью BF16 и вариантами квантования. README описывает файлы и сервис хостинга Featherless AI, но не приводит сведения о контекстном окне, поддерживаемых языках или условиях лицензии; эти параметры здесь не уточняются.

MOSS-Transcribe-Diarize GGUF — это набор весов в формате GGUF для движка moss-transcribe.cpp, представляющий порт модели OpenMOSS MOSS-Transcribe-Diarize. Исходную модель разработала команда OpenMOSS / MOSI.AI, а конвертацию и C++/ggml-инференс подготовила команда LocalAI. Модель предназначена для распознавания речи в длинных аудиозаписях, определения говорящих и формирования временных меток за один проход. Результат содержит текст, идентификаторы говорящих и интервалы начала и окончания реплик. Модель работает локально на CPU, а также может использовать GPU через доступные бэкенды ggml; для инференса не требуются Python, PyTorch или CUDA toolkit. Веса, токенизатор, mel-фильтрбанк и конфигурация полностью включены в GGUF. Доступны варианты от F16 до Q4_0; квантованные версии значительно меньше и быстрее, при этом варианты до Q5 сохраняют побайтное совпадение транскрипта с эталонной моделью на проверочном примере, а Q4 дают совпадение слов с небольшими отличиями во временных метках. Размеры файлов составляют примерно от 511 МБ до 1,8 ГБ. Языки, максимальная длина контекста и точные архитектурные параметры в карточке не указаны. Модель распространяется по лицензии Apache-2.0; движок moss-transcribe.cpp имеет лицензию MIT.

Motif 2.6B v1.1-LC — дообученная плотная языковая модель Motif-Technologies на 2,6 млрд параметров для генерации текста и диалоговых приложений. Версия v1.1-LC поддерживает контекст до 16 384 токенов; карточка приводит результаты тестов MMLU, MMLU-Pro и WinoG. Модель ориентирована на английский и корейский языки. Её можно использовать для диалога и генерации текста в приложениях на базе Transformers; для загрузки в примере README используется trust_remote_code. Модель распространяется по лицензии MIT.

NarutoDolphin-10B — языковая модель для генерации текста, созданная FelixChao слиянием FelixChao/WizardDolphin-7B и FelixChao/NinjaDolphin-7B. Она построена на архитектуре Mistral и содержит 10,6 млрд параметров; нативная длина контекста составляет 32 768 токенов. Модель подходит для диалогов и генерации текста.

Это пакет слоёв GGUF для запуска NVIDIA Nemotron 3 Ultra 550B A55B в распределённой среде Mesh LLM. Его подготовила команда Mesh LLM на основе unsloth/NVIDIA-Nemotron-3-Ultra-550B-A55B-GGUF; вариант UD-Q4_K_S разбивает исходную модель на артефакты по слоям для распределённого вывода на нескольких локальных машинах. Пакет предназначен для локального приватного чат-инференса и сценариев, в которых полная модель слишком велика для одного узла. Mesh LLM может обслуживать запросы через совместимый с OpenAI API, включая endpoint /v1/chat/completions. Модель принимает текст и генерирует текст; в метаданных заявлена задача text-generation и возможность chat. Репозиторий содержит layer-package в формате GGUF и ссылается на квантованный вариант UD-Q4_K_S исходной модели. Размер исходной модели — 550B параметров по её идентификатору, но точный размер пакета и длина контекста в предоставленных данных не указаны. Лицензионные условия следует сверить с карточкой исходной модели, на которую ссылается README.

Это набор GGUF-квантизаций модели nyun-llama3-62B, опубликованный bartowski на основе оригинальной модели nyunai/nyun-llama3-62B. Квантизация выполнена с использованием llama.cpp версии b3070 и метода imatrix. Модель предназначена для локального запуска задач генерации текста через совместимые с llama.cpp средства инференса. В набор входят варианты с разным уровнем квантования: от Q8_0 размером 65,88 ГБ до IQ1_M размером 14,77 ГБ. В README не указаны точные архитектурные характеристики, поддерживаемые языки, размер контекста и модальности; по назначению это текстовая модель. Варианты Q5_K_M, Q4_K_M и IQ4_XS отмечены как рекомендуемые благодаря балансу качества и размера, тогда как самые компактные варианты обеспечивают меньшее качество. I-квантизации могут быть выгоднее по производительности на cuBLAS и rocBLAS, но несовместимы с Vulkan; выбор файла зависит от доступных RAM и VRAM. Шаблон чата в карточке не задан, поэтому приведённый формат может быть некорректен и требует проверки по оригинальной карточке модели. Лицензия в README не указана.

pandafish-dt-7b — языковая модель на 7,1 млрд параметров, созданная объединением моделей Experiment26-7B и MergeCeption-7B-v3 методом dare_ties с помощью LazyMergekit. Она основана на архитектуре Mistral и предназначена для генерации текста и общих языковых задач; заявленная длина контекста составляет 32 768 токенов. В README приведены результаты оценивания на наборе Nous Benchmark, включая AGIEval, GPT4All, TruthfulQA и Bigbench. Модель распространяется в формате safetensors по лицензии Apache-2.0. README также перечисляет сторонние варианты в форматах GGUF и MLX. Данных о целевых языках и специализированных предметных областях нет, поэтому модель следует рассматривать как универсальную.

Parakeet CTC 0.6B — модель автоматического распознавания речи, совместно разработанная командами NVIDIA NeMo и Suno.ai. Она предназначена для преобразования английской речи в текст, например для расшифровки записей и обработки аудио в больших пакетах. Модель построена на архитектуре FastConformer CTC и содержит около 600 млн параметров. Она принимает монофоническое аудио WAV с частотой 16 кГц и возвращает текстовую расшифровку; выход оформляется строчными буквами английского алфавита. Обучение проводилось на 64 тысячах часов английской речи из частных и открытых наборов данных. Для работы предусмотрены NVIDIA NeMo и Transformers. Модель рассчитана на английский язык; в README приведены результаты оценки по Word Error Rate для нескольких наборов данных, но фактическое качество зависит от аудио и предметной области. Лицензия — CC BY 4.0.

Qari-OCR-0.2.2.1-VL-2B-Instruct — мультимодальная модель для оптического распознавания арабского текста на изображениях страниц документов. Она разработана в рамках проекта NAMAA и является дообученной версией Qwen2-VL-2B-Instruct на арабском наборе данных OCR объёмом 50 000 записей. Модель предназначена прежде всего для извлечения текста со страниц документов и поддерживает арабский язык. Модель основана на архитектуре Qwen2-VL и относится к классу vision-language моделей с параметрами порядка 2 млрд. Она рассчитана на обработку изображений и генерацию текстового представления документа, включая арабские диакритические знаки ташкиль. В обучении использовались различные размеры шрифта, форматы страниц и набор арабских шрифтов, поэтому модель подходит для документов с разными шрифтами и макетами. Длина контекста и точный перечень поддерживаемых модальностей в README не указаны. Согласно приведённой оценке, модель показала WER 0,221, CER 0,059 и BLEU 0,597 на тестовом наборе, преимущественно содержащем тексты с диакритическими знаками. Ограничения включают возможное снижение качества на очень мелком или крупном тексте, редких шрифтах, сложных многоколоночных макетах, рукописном или декоративном письме, текстурированных фонах, размытых изображениях, а также на вертикально или диагонально ориентированном тексте. Модель распространяется по лицензии Apache-2.0.

ljsabc/Qwen-1.5-14B-Chat-Fujisaki — разговорная языковая модель на архитектуре Qwen2 с плотной causal language model архитектурой. Карточка описывает запуск через класс AutoModel, а метаданные указывают 13,4 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате. Репозиторий содержит веса в safetensors и распространяется по лицензии MIT. Карточка не описывает специальное назначение или подтверждённые улучшения относительно Qwen-1.5-14B-Chat.

Qwen2-0.5B-Instruct-GGUF — квантованная GGUF-версия малой инструкционной языковой модели Qwen2, разработанной командой Qwen. Модель предназначена для диалогов, генерации и понимания текста, выполнения инструкций, а также задач, связанных с программным кодом, математикой и рассуждениями. Она подходит для локального запуска и развертывания через llama.cpp, включая совместимые с OpenAI API серверы. Модель содержит 0,5 млрд параметров и построена на архитектуре Transformer с активацией SwiGLU, смещениями в QKV внимания и Group Query Attention. Она поддерживает естественные языки и языки программирования; в карточке явно указан английский язык. В репозитории доступны варианты квантования q2_k, q3_k_m, q4_0, q4_k_m, q5_0, q5_k_m, q6_k и q8_0, что позволяет выбирать баланс между размером файла, требованиями к ресурсам и качеством. Модель прошла предварительное обучение, supervised fine-tuning и direct preference optimization. К сильным сторонам относятся небольшой размер, возможность локального использования и поддержка нескольких уровней квантования. Ограничения связаны с малым масштабом модели: по сравнению с более крупными моделями она, вероятно, уступает им в сложности рассуждений, качестве генерации и устойчивости на трудных задачах; конкретные ограничения по длине контекста в README не указаны. Модель распространяется по лицензии Apache-2.0.

MaziyarPanahi/Qwen2.5-7B-Instruct-abliterated-v2-GGUF — это набор файлов модели в формате GGUF для базовой модели huihui-ai/Qwen2.5-7B-Instruct-abliterated-v2, разработанной huihui-ai и квантованной MaziyarPanahi. Модель предназначена для генерации текста и использования в диалоговых и других сценариях, где требуется локальный запуск совместимого языкового генератора. Указано, что модель имеет размер 7B и доступна в вариантах квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит. Формат GGUF поддерживается llama.cpp и рядом совместимых инструментов, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp и другие. README не содержит сведений о поддерживаемых языках, размере контекста, архитектуре, модальностях, результатах оценки или конкретных ограничениях качества. Главные преимущества — выбор уровней квантования и возможность запуска в широком наборе локальных приложений и библиотек, в том числе с GPU-ускорением. Лицензия в README не указана, поэтому условия использования необходимо уточнять отдельно у разработчика исходной модели и владельца репозитория квантованных файлов.

Это пакет слоёв GGUF модели Qwen3.6-35B-A3B-UD-Q4_K_XL, подготовленный для распределённого запуска в Mesh LLM. Он создан на основе unsloth/Qwen3.6-35B-A3B-MTP-GGUF и сохраняет исходное распределение GGUF по отдельным артефактам слоёв; семейство модели — Qwen3, вариант квантования — UD-Q4_K_XL. Пакет предназначен для локального приватного чат-инференса, в том числе на нескольких машинах, когда полный файл модели трудно разместить на одном хосте. Через локальный API Mesh LLM его можно использовать в сценариях, совместимых с OpenAI Chat Completions. Метаданные указывают задачу генерации текста и библиотеку mesh-llm. README не приводит число параметров, длину контекста, поддерживаемые языки, подробности архитектуры или лицензию самого исходного чекпойнта; за ними он отсылает к карточке базовой модели. Возможности и качество зависят от исходной модели и настроек Mesh LLM. Для запуска требуется Mesh LLM и совместимый локальный или распределённый вычислительный кластер.

andrew-paul/Qwen3.8-27B-GGUF — квантованная версия Qwen3.8-27B, опубликованная автором репозитория andrew-paul в формате GGUF. В README описан набор вариантов KERN с поканальной по тензорам квантованием и несколькими уровнями размера и качества; файлы включают веса Q3_K MTP. Приведены объёмы файлов и сравнительные метрики KLD и результата теста 28Q относительно BF16, которые служат скрининговыми показателями и не являются общей оценкой возможностей модели. Модель предназначена для генерации текста и диалогового использования. Для запуска README рекомендует сборку llama.cpp с поддержкой Qwen MTP и приводит пример конфигурации с контекстом 32 768 токенов. Варианты KERN уменьшают требования к хранению по сравнению с BF16, но имеют отличающиеся показатели сохранения качества; например, для eqQ3_S указан объём около 11,59 ГБ и средний KLD ниже 0,1. Базовая модель указана как Qwen/Qwen3.8-27B, лицензия — Apache-2.0. Метаданные описывают базовую модель как мультимодальную, однако README этого репозитория подтверждает только сценарий генерации текста.

Qwen3.8-27B-Uncensored — AWQ 5.0bpw — это квантованная версия модели orcarouter/Qwen3.8-27B-Uncensored, опубликованная ddark-il. Модель предназначена для генерации текста и обработки изображений с текстом, о чём свидетельствуют поддержка vision-language и pipeline image-text-to-text. Ключевой сценарий использования — локальный запуск мультимодальной языковой модели на совместимом оборудовании Apple MLX через oMLX. Модель содержит 27 млрд параметров и занимает около 17,35 ГБ. Используется AWQ-квантование со средней точностью 5,00 бит на вес и группой gs64; отдельные компоненты имеют разрядность от 4 до 8 бит. Квантованы языковая часть, attention, embeddings, lm_head, MTP head и vision tower, при этом 27 тензоров vision linear_fc2 сохранены в формате bf16. В состав чекпойнта входят веса MTP для multi-token prediction. Токенизатор, chat template и конфигурационные файлы взяты из fine-tune-версии. Сильные стороны модели — заметное сокращение требований к памяти по сравнению с полноразмерной версией, сохранение мультимодального vision-компонента и оптимизация квантования с использованием AWQ-калибровки и поиска MSE-клипа для MLP. Ограничение состоит в необходимости использовать oMLX: стандартные mlx_lm и mlx_vlm могут удалять MTP и vision-компоненты либо некорректно применять сдвиг нормализации. Языки и размер контекстного окна в README не указаны. Модель распространяется по лицензии Apache-2.0.

TheDrainFlorist/Qwen3.8-Flash-Next-VQ-2.1bpw — векторно-квантизированная версия Qwen3.8-Flash-Next, разработанная TheDrainFlorist с использованием VQLab и ориентированная на работу на компьютерах Apple Silicon. Модель предназначена для генерации текста, а также поддерживает обработку изображений; для запуска используются MLX, mlx-lm и mlx-vlm. Указанный язык — английский. В основе лежит MoE-архитектура с 180 млрд общих параметров и 10 активными экспертами из 512; также заявлены 51,2 млрд параметров n-gram PLE и vision-компонент. Квантизация выполнена методом vector quantization с разной геометрией по слоям, основной формат — 2.1 bits per weight. Размер основного файла составляет около 45,755 GiB, а дополнительная MTP-голова занимает ещё 2,140 GiB и загружается только при включении speculative decoding. Сведения о размере контекста в README не указаны. Сильными сторонами модели являются возможность разместить крупную MoE-модель на машине с 64 ГБ памяти, поддержка текста и изображений, оптимизированные для Apple Silicon ядра и опциональное ускорение генерации через MTP. Ограничения включают высокие требования к памяти, небольшой запас ресурсов на 64-гигабайтных системах и необходимость специальной поддержки архитектуры qwen4_exp: на момент описания требуется версия mlx-lm из отдельной ветки, поскольку в опубликованных версиях эта архитектура отсутствует. Для изображений нужен mlx-vlm версии 0.6.16 или новее; стандартная версия exo также не подходит без специальной ветки. Модель распространяется по лицензии qwen-community-1.0, обозначенной в карточке как license other.

Карточка модели Jinstudio/Qwen3-ForcedAligner-0.6B-hf на Hugging Face совпадает с карточкой Qwen/Qwen3-ForcedAligner-0.6B-hf, поэтому описание составлено по ней. Qwen3-ForcedAligner-0.6B-hf — модель принудительного выравнивания речи от команды Qwen. Она принимает аудио и готовую расшифровку, а затем предсказывает временные метки для её единиц; распознавать речь для получения текста может отдельная ASR-модель. Модель поддерживает китайский, английский, кантонский, французский, немецкий, итальянский, японский, корейский, португальский, русский и испанский языки и выравнивает аудио длительностью до пяти минут. Модель относится к семейству Qwen3-ASR и использует архитектуру Qwen3ASRForTokenClassification. Нерегрессионный режим выполнения делает её подходящей для пакетной обработки аудио; в README также описано ускорение с помощью torch.compile. Метаданные указывают библиотеку Transformers и формат safetensors. Лицензия — Apache-2.0. Для работы требуется аудио и текстовая транскрипция, полученная заранее, например, с помощью Qwen3-ASR или другой системы распознавания речи. Модель предназначена для разметки времени произнесённых слов или других единиц, а не для самостоятельного распознавания речи; в README также не заявлена поддержка иных типов аудио, кроме речи.