I.6Перевод и языковая адаптация

mlx-community/LFM2.5-2.6B-bf16 — конверсия модели LiquidAI/LFM2.5-2.6B в формат MLX, выполненная сообществом mlx-community. Это компактная плотная языковая модель семейства LFM2.5 на 2,6 млрд параметров для генерации текста и диалогового общения; она рассчитана на локальный запуск на устройствах Apple с MLX. Модель поддерживает 17 языков, включая русский, и имеет контекстное окно до 128 000 токенов. Модель подходит для диалоговых помощников, генерации текста и длинноконтекстных сценариев. В метаданных базовой модели также отмечены вызов инструментов, RAG и агентные задачи. Репозиторий содержит веса safetensors в формате MLX. Лицензия указана как other; README рекомендует обратиться к карточке исходной модели за дополнительными сведениями о модели.

unsloth/LFM2.5-VL-3B-GGUF — это квантизированный вариант мультимодальной модели LFM2.5-VL-3B, разработанной Liquid AI и опубликованной сообществом Unsloth. Модель предназначена для обработки текста и изображений, прежде всего на устройствах с ограниченными ресурсами и для сценариев с низкой задержкой. GGUF-экспорты оптимизированы для запуска на CPU с уменьшенным потреблением памяти через llama.cpp. В основе модели находится языковая модель LFM2.5-2.6B, дополненная vision-энкодером SigLIP2 NaFlex объёмом 400M параметров. Размер словаря составляет 128 000 токенов, длина контекста — до 32 768 токенов. Поддерживаются английский, арабский, китайский, французский, немецкий, итальянский, японский, корейский, португальский, испанский, вьетнамский, тайский, индонезийский, хинди, русский и польский языки. Обработка изображений использует разбиение крупных изображений на неперекрывающиеся патчи 512×512 и уменьшенную копию всего изображения. Сильные стороны модели — распознавание объектов по текстовым запросам, улучшенный visual grounding, OCR целых страниц с разметкой структуры документа, а также высокая скорость и эффективность инференса. Она подходит для обнаружения объектов в автомобильных системах, пакетной обработки сканов и PDF, извлечения текста с сохранением layout, перевода меню и дорожных знаков, а также других однопроходных задач реального времени. Модель не рекомендуется для сложного рассуждения, длительных контекстов, визуального веб-дизайна и ответов на узкоспециализированные технические вопросы по чертежам. Лицензия указана как lfm1.0; подробные условия следует проверять в файле LICENSE репозитория.

LingoWhale-8B — плотная двуязычная языковая модель с авторегрессионной архитектурой LingoWhaleForCausalLM, разработанная DeepLang Technology совместно с лабораторией NLP Университета Цинхуа. Модель содержит 7,7 млрд параметров, обучена на качественных китайских и английских данных и поддерживает контекст до 8192 токенов. Модель предназначена для генерации текста и может использоваться как базовая модель для ответов на вопросы, написания текстов, рассуждений и генерации кода. В README также приведены примеры диалоговой модели, полученной дообучением LingoWhale-8B на открытых SFT-данных; это пример производной модели, а не отдельная возможность исходной базовой модели. Для адаптации доступны примеры тонкой настройки, включая LoRA. Разработчики отмечают, что модель может галлюцинировать, а её математические способности ограничены. Для академических исследований модель открыта; коммерческое использование исходной модели и её производных требует заявки и получения разрешения по лицензии LingoWhale-8B наряду с Apache 2.0.

Lite-Whisper large-v3-turbo-acc — сжатая версия мультиязычной модели распознавания речи OpenAI Whisper, разработанная авторами LiteASR. Модель предназначена для преобразования аудио в текст и доступна для запуска через библиотеку Hugging Face Transformers. В карточке приведено сравнение на наборах ESB: вариант acc показывает средний WER 10,1 при размере энкодера 429 млн параметров и декодера 907 млн; у Whisper large-v3 указаны тот же WER и энкодер 635 млн. По метаданным модель содержит 905,2 млн параметров и основана на openai/whisper-large-v3-turbo. Репозиторий распространяется в формате safetensors под лицензией Apache-2.0.

Richardyoung/Llama-3.1-8B-Instruct-heretic — диалоговая текстовая модель на архитектуре Llama 3.1, основанная на Meta Llama 3.1 8B Instruct и дообученная автором репозитория. Модель содержит 7,5 млрд параметров, использует плотный авторегрессионный Transformer с Grouped-Query Attention и рассчитана на контекст до 131 072 токенов. Репозиторий помечен как uncensored и decensored; заявленный pipeline — генерация текста. Модель подходит для диалогового помощника, ответов на вопросы, написания и преобразования текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Метаданные описывают её как чат-модель; README содержит сведения о базовой модели Meta Llama 3.1, но не отдельные оценки качества или подробное описание изменений в этой версии. Файлы представлены в формате safetensors. Модель распространяется по лицензии Llama 3.1 Community License. Следует учитывать условия этой лицензии и применимые правила использования; удаление или ослабление отказов, подразумеваемое метками uncensored и decensored, может привести к генерации небезопасного или нежелательного содержимого.

Карточка модели teknium/Llama-3.1-AlternateTokenizer на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3.1-8B, поэтому описание составлено по ней. NousResearch/Meta-Llama-3.1-8B — текстовая авторегрессионная модель семейства Llama 3.1, разработанная Meta и опубликованная в репозитории NousResearch. Это плотный трансформер LlamaForCausalLM с 7,5 млрд параметров, механизмом Grouped-Query Attention и контекстом до 131 072 токенов; веса представлены в формате safetensors и предназначены для работы с Transformers. Модель генерирует текст по текстовому запросу. Она подходит для диалогового помощника на нескольких языках, ответов на вопросы, написания и преобразования текста, а также для адаптации к задачам генерации естественного языка. В карточке указаны английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Для семейства Llama 3.1 заявлены коммерческое и исследовательское применение; условия использования определяет лицензия Llama 3.1 Community License и связанная с ней политика допустимого использования. Это предобученная модель, а не версия, настроенная для следования инструкциям: указанное в README SFT и RLHF относится к instruction-tuned версиям семейства. Как и другие языковые модели, она может выдавать неточные или небезопасные ответы; для прикладного использования нужны проверка результатов и меры безопасности. Указания README ограничивают применение поддерживаемыми языками, если модель не дообучена для других языков.

DavidAU/Llama3.1-MOE-4X8B-Gated-IQ-Multi-Tier-Deep-Reasoning-32B-GGUF — текстовая instruct-модель, разработанная DavidAU на базе Llama 3.1 и объединяющая четыре 8B-модели в конфигурации Mixture of Experts. В состав входят Llama-3.1-DeepHermes-3-8B-Preview для рассуждений, а также Llama-3.1-Hermes-3-8B, Llama-3.1-dolphin-2.9.4-8b и Llama-3.1-SuperNova-Lite для генерации и дополнительной обработки. Заявленный общий размер — 32B параметров, при этом модель описывается как имеющая около 25B весов. Распространяется в формате GGUF и рассчитана на контекст до 128K токенов. Модель предназначена для текстовой генерации, глубокого рассуждения, решения задач, творческого письма, сторителлинга, ролевых сценариев и работы с инструментами. Поддерживает управление режимом рассуждений через системные промпты, включая включение, отключение и многоуровневое рассуждение, а также совместима с вызовами инструментов благодаря встроенному Llama 3.1 Instruct. Заявлена поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского и ряда других языков. Сильными сторонами являются сочетание нескольких экспертных моделей, возможность управлять режимом рассуждений и универсальность сценариев применения. README рекомендует шаблон Llama 3 Instruct, контекст не менее 4K–8K токенов и более крупные квантизации для лучшего качества. К ограничениям относятся возможная нестабильность активации блока рассуждений, необходимость повторной генерации и зависимость качества от промпта, температуры и выбранной квантизации; заявленные улучшения производительности не подтверждены независимыми бенчмарками. Лицензия — Apache-2.0.

Magnum-v2-72b — диалоговая языковая модель Anthracite, созданная для генерации связного текста с качеством прозы, которое авторы стремились приблизить к Claude 3 Sonnet и Opus. Это полноразмерное дообучение Qwen2-72B-Instruct на наборах инструкций и текстовых данных; модель содержит 71,5 млрд параметров и распространяется в формате safetensors. Модель принимает текстовые запросы в формате ChatML и предназначена для диалогов, ответов на вопросы и написания текстов. Поддерживает девять языков, включая английский, русский, китайский и японский. Длина контекста — 32 768 токенов. В README приведены результаты отдельных тестов Open LLM Leaderboard, включая IFEval и BBH. Модель рассчитана на генерацию текста и диалоговое взаимодействие. README не приводит подробных результатов по всем сценариям и раскрывает сведения о безопасности лишь частично. Лицензия указана как other, поэтому конкретные условия использования следует сверять с карточкой модели.

Mixtral-8x22B-v0.1 — предварительно обученная генеративная языковая модель семейства Mixtral, разработанная командой Mistral AI. Это разреженная архитектура Mixture of Experts; модель предназначена для генерации текста и может служить базой для адаптации под конкретные задачи. Репозиторий содержит веса в формате safetensors, совместимые с vLLM и библиотекой Transformers. В карточке указано 22B параметров и контекст до 65 536 токенов. Модель поддерживает английский, французский, итальянский, немецкий и испанский языки. Она не содержит механизмов модерации, поэтому выдачу следует проверять при пользовательском применении. Лицензия — Apache 2.0.

Карточка модели jduhmbd/Mixtral-8x7B-Instruct-v0.1-custom на Hugging Face совпадает с карточкой kallam/Mixtral-8x7B-It-v0.1, поэтому описание составлено по ней. kallam/Mixtral-8x7B-It-v0.1 — диалоговая instruction-модель на основе Mixtral-8x7B от Mistral AI. Это генеративная разреженная архитектура Mixture of Experts, предназначенная для выполнения инструкций и ведения диалога. Модель поддерживает контекст до 32 768 токенов и, согласно README, предназначена для запуска через vLLM; в репозитории также приведены сведения о совместимости с Transformers, хотя карточка предупреждает, что веса пока нельзя непосредственно инициализировать через HF Transformers. Файлы представлены в формате safetensors; лицензия — Apache 2.0. Модель подходит для диалоговых помощников, ответов на инструкции и генерации текста на французском, итальянском, немецком, испанском и английском языках. README описывает её как демонстрацию возможностей дообучения базовой модели и отмечает высокие результаты Mixtral-8x7B в сравнении с Llama 2 70B на проверенных авторами бенчмарках. У модели нет встроенных механизмов модерации, поэтому ответы могут требовать внешних ограничителей и проверки.

Nemotron-3.5 ASR Streaming 0.6B — мультиязычная модель автоматического распознавания речи, разработанная NVIDIA. Данная версия портирована в CoreML для локального запуска на устройствах Apple Silicon и предназначена для пакетной и потоковой транскрипции аудио. Модель поддерживает 40 языковых локалей, включая английский, немецкий, французский, русский, китайский, японский и хинди, а также выполняет пунктуацию и капитализацию. На вход подаётся монофонический звук с частотой 16 кГц. Архитектура представляет собой кэшируемый FastConformer с RNN-T и механизмом языкового кондиционирования. Модель содержит около 600 млн параметров; кодировщик состоит из 24 слоёв и квантизован в INT8, а декодер и joint-сеть используют FP16. Потоковая обработка выполняется фрагментами по 320 мс с сохранением внутренних кэшей. Размер набора на диске составляет около 612 МБ. Сильными сторонами являются низкая задержка, высокая скорость потоковой обработки и почти неизменная точность после квантизации. Ограничения включают ориентацию на экосистему CoreML и Apple Silicon, значительное потребление оперативной памяти — около 1 ГБ после загрузки и до 1,24 ГБ во время работы, — а также зависимость качества от языка и акустических условий. Модель распространяется по лицензии OpenMDW 1.1, соответствующей лицензии исходной модели NVIDIA; для исходной модели NVIDIA указана возможность коммерческого использования.

Nemotron-H-4B-Base-8K — базовая языковая модель NVIDIA для продолжения текста. Она использует гибридную архитектуру Nemotron-Hybrid на основе Mamba-2 и слоёв MLP с четырьмя слоями Attention; размер модели — 4 млрд параметров, длина контекста — до 8 тысяч токенов. Модель создана с применением прореживания и дистилляции Nemotron-H-8B-Base-8K на 380 млрд токенов. Модель принимает и генерирует текст. Она поддерживает английский, немецкий, испанский, французский, итальянский, корейский, португальский, русский, японский и китайский языки; в обучающих данных также был код. Модель подходит для дополнения текста, генерации кода, математических задач и рассуждений. Это базовая модель без обязательного формата промпта; для специализированных сценариев NVIDIA рекомендует адаптацию с помощью инструментов NeMo. Модель предназначена для исследований и разработок и оптимизирована для систем с GPU NVIDIA; в карточке указана лицензия other, конкретные условия которой следует сверить с лицензией репозитория. Возможны неточные, неполные или избыточные ответы, токсичные высказывания и усиление предвзятости из обучающих данных; модель уязвима к атакам, нарушающим выравнивание.

NVIDIA Nemotron 3.5 Lightning 30B A3B — языковая модель NVIDIA, представленная сообществом mlx-community в конвертированном формате MLX для запуска на устройствах Apple Silicon. Это гибридная архитектура Mamba-2 и attention с механизмом Mixture-of-Experts: около 31 млрд параметров всего и примерно 3 млрд активных на токен. В репозитории указана версия bf16 без квантизации; модель преобразована из nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 с помощью mlx-lm 0.31.3. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают контекст до 262 144 токенов. В карточке перечислены английский, испанский, французский, немецкий, итальянский и японский языки. Репозиторий использует библиотеку MLX и формат safetensors. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой исходной модели NVIDIA.

Occiglot-7B-DE-EN-Instruct — инструктивная языковая модель Occiglot Research Collective для генерации текста и диалогов на английском и немецком языках. Это плотный decoder-only трансформер на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; модель принимает ChatML-шаблон. Также обучена следовать инструкциям, связанным с кодом. Модель подходит для ответов на вопросы, диалоговых помощников и выполнения текстовых инструкций на английском и немецком. Она прошла полное инструктивное дообучение на 180 млн дополнительных токенов мультиязычных и кодовых инструкций. Авторы предупреждают, что модель не проходила выравнивание по безопасности и может выдавать проблемный контент; результаты оценки для немецкого следует трактовать осторожно из-за использования частично машинно переведённых наборов и английских промптов. Лицензия — Apache 2.0.

OpenBuddy Gemma 7B v19.1 4k — OpenBuddy-разработка на базе дообученной текстовой модели Google Gemma 7B. Это плотная авторегрессионная модель с 8,2 млрд параметров для диалоговой генерации текста: её можно использовать для ответов на вопросы, ведения многоязычного чата и создания текстовых ответов. В метаданных указаны языки китайский, английский, французский, немецкий, японский, корейский, итальянский, русский и финский; контекстная длина — 8192 токена. Модель предназначена для обычных текстовых диалогов и генерации. Она может выдавать ошибочные, вредные, оскорбительные или нежелательные ответы, поэтому её не следует применять в критически важных сценариях, включая медицину, управление потенциально опасными системами и значимые финансовые или юридические решения. Модель предоставляется без гарантий; базовая Gemma распространяется на условиях Gemma Terms of Use.

openbuddy-mistral-7b-v13-base-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и OpenBuddy/openbuddy-mistral-7b-v13-base методом SLERP. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. В метаданных перечислены китайский, английский, французский, немецкий, японский, корейский, итальянский и русский языки. Лицензия — Apache-2.0. Карточка не приводит оценок качества или подробностей об ограничениях; фактическое качество может зависеть от языка и сценария использования.

OpenBuddy Nemotron 70B v23.1 — диалоговая текстовая модель команды OpenBuddy, дообученная на NVIDIA Llama 3.1 Nemotron 70B Instruct. Она предназначена для ответов на запросы и инструкции в чат-сценариях. Модель использует плотную архитектуру Llama, содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. README рекомендует применение на английском и китайском языках; метаданные также отмечают французский, немецкий, японский, корейский, итальянский и финский. Модель распространяется в формате safetensors по лицензии Llama 3.1. README предупреждает, что ответы могут быть ошибочными, вредными или нежелательными, и не рекомендует использовать модель в критически важных сценариях, включая медицину, управление потенциально опасными системами и принятие важных финансовых или юридических решений.

Qwen2.5-4B — плотная языковая модель для генерации текста и диалогового взаимодействия, созданная автором репозитория на основе Qwen/Qwen2.5-3B с помощью mergekit. Слияние выполнено методом passthrough: последовательность слоёв базовой модели собрана из перекрывающихся диапазонов, а веса представлены в формате bfloat16 и safetensors. Модель предназначена для генерации текста и ответов в чате; интерфейс также поддерживает вызов инструментов. Она содержит 3,9 млрд параметров, использует архитектуру Qwen2 и имеет контекст длиной до 32 768 токенов. Метаданные перечисляют поддержку китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. В README не приведены результаты оценки качества или подробности о том, как именно изменённая последовательность слоёв влияет на поведение, поэтому качество на конкретных задачах следует проверять отдельно. Лицензия в предоставленных данных не указана.

Qwen3-4B-INT8-INT4 — квантизированная версия языковой модели Qwen3-4B, разработанной Alibaba Cloud и обработанной командой PyTorch с использованием torchao. Это авторегрессионная модель для генерации текста, диалогов, работы с кодом и математическими задачами; заявлена поддержка многоязычных сценариев. Модель предназначена для локального и мобильного развертывания, в частности через ExecuTorch. Ключевая особенность — схема квантизации INT8-INT4: эмбеддинги используют 8-битные веса, динамические активации представлены в 8 битах, а линейные слои используют 4-битные веса. Размер базовой модели — 4 млрд параметров. Предоставляемый файл model.pte экспортирован с максимальной длиной последовательности и контекстом 1024 токена; этот параметр можно изменить повторным экспортом. На iPhone 15 Pro заявлена скорость около 14,8 токена в секунду при использовании примерно 3379 МБ памяти. Сильные стороны модели — уменьшенные требования к памяти и возможность запуска на мобильных устройствах при сохранении назначения исходной Qwen3-4B для диалогов, генерации текста, кода и решения математических задач. Ограничениями являются возможная потеря качества из-за квантизации, ограничение предоставленной сборки контекстом 1024 токена и зависимость мобильного запуска от ExecuTorch и совместимого устройства. В README приведена лицензия MIT; подробные результаты бенчмарков отсутствуют.

ZuzeTt/Qwen3.5-4B-heretic-GGUF — это децензурированная версия мультимодальной модели Qwen3.5-4B, основанной на разработках команды Qwen. Модель модифицирована с помощью Heretic v1.2.0 методом abliteration, направленным на снижение частоты отказов при ответах. Файлы представлены в формате GGUF и были квантизированы с использованием llama.cpp. Модель предназначена для задач обработки текста и изображений, включая диалоговые сценарии, рассуждения, программирование, работу с агентами и визуальное понимание. Базовая архитектура описана как авторегрессионная языковая модель с vision encoder, гибридной архитектурой Gated Delta Networks и разреженной Mixture-of-Experts. Она содержит около 4 млрд параметров, 32 слоя, скрытое измерение 2560 и поддерживает контекст до 262 144 токенов с возможностью расширения до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Ключевая особенность этой версии — существенно меньшее количество отказов по сравнению с исходной моделью: в приведённом тесте 8 из 100 запросов против 99 из 100 у оригинала, при KL-дивергенции 0,0361. Это может повысить полезность модели в сценариях локального запуска и свободного диалога, но одновременно означает ослабление встроенных ограничений безопасности. Конкретный тип квантизации, требования к оборудованию и фактическое качество на прикладных задачах в README не указаны. Модель распространяется по лицензии Apache-2.0; ссылка на лицензию относится к базовой модели Qwen/Qwen3.5-4B.

Qwen3.5-abliterated-MAX-AIO-GGUF — экспериментальная серия моделей, разработанная prithivMLmods на основе Qwen3.5 от Alibaba. Репозиторий содержит GGUF-варианты размеров 0,8B, 2B, 4B и 9B, а также ссылки на вариант 27B. Модели предназначены для локального и периферийного развертывания с использованием llama.cpp и других совместимых средств инференса. Серия ориентирована на генерацию текста, рассуждения, программирование, математические задачи и мультимодальные сценарии с обработкой изображений и текста. Согласно README, модели используют гибридную архитектуру Gated DeltaNet, поддерживают контекст до 262K токенов, словарь для 201 языка и переключаемые режимы рассуждения. Для мультимодального применения доступны отдельные файлы mmproj, а для разных требований к памяти — варианты BF16, F16, F32 и Q8_0. Ключевая особенность — модификация alignment и снижение количества отказов следовать инструкциям, что может быть полезно для исследовательских задач, создания датасетов и приложений, требующих менее ограниченного поведения. При этом такие изменения ослабляют стандартные защитные механизмы, поэтому модели требуют самостоятельной оценки безопасности. Заявленные улучшения производительности основаны на сообщественных тестах и не подтверждены официальными оценками. Лицензия — Apache-2.0.

SECWIKI/Qwen3.6-27B-Uncensored-HauhauCS-Aggressive — мультимодальная версия Qwen3.6-27B, разработанная HauhauCS на основе модели Qwen/Qwen3.6-27B. Это модификация без встроенных отказов, предназначенная для генерации ответов на широкий круг запросов, включая сценарии, где требуется минимальное количество ограничений. Модель поддерживает текст, изображения и видео, а заявленные языки включают английский, китайский и другие языки в мультиязычном режиме. Модель содержит 27 млрд плотных параметров и распространяется в формате GGUF с различными уровнями квантования, включая специальные варианты K_P, оптимизированные с использованием importance matrix. Архитектура включает 64 слоя, сочетает 48 слоёв линейного внимания Gated DeltaNet и 16 слоёв полного gated attention. Нативная длина контекста составляет 262 тысячи токенов и может быть расширена примерно до 1 млн с помощью YaRN. Для мультимодальной работы поставляется отдельный компонент mmproj. Сильной стороной модели является сочетание большого контекста, мультимодальности, нескольких режимов генерации и отсутствия отказов, а K_P-квантизации позволяют сохранить качество при уменьшенном размере файлов. Ограничения включают возможное добавление кратких дисклеймеров, повышенные требования к памяти: размер файлов варьируется примерно от 10 до 32 ГБ, а также риски, связанные с отсутствием защитных ограничений. В README указана лицензия Apache-2.0.

Svenuks/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive — мультимодальная версия Qwen3.6-35B-A3B, подготовленная HauhauCS. Это модель типа Mixture of Experts с 35 млрд параметров, из которых около 3 млрд активируются при каждом проходе; используется 256 экспертов, из них 8 выбираются для каждого токена. Архитектура включает 40 слоёв и сочетает линейное внимание с полным softmax-вниманием в соотношении 3:1. Модель поддерживает текст, изображения и видео, языки English, 中文 и другие языки, заявленные как multilingual, а её нативный контекст составляет 262K токенов. Модель предназначена для диалогов, генерации и анализа текста, рассуждений, программирования, а также мультимодальных сценариев с обработкой изображений и видео. Вариант Aggressive отличается усиленным снятием встроенных отказов: согласно README, он генерирует ответы без отказов, хотя иногда может добавлять короткие дисклеймеры. Для работы с изображениями требуется отдельный файл mmproj, а для llama.cpp рекомендуется использовать флаг --jinja и контекст не менее 128K токенов для сохранения возможностей рассуждения. Модель распространяется в формате GGUF с вариантами квантования от IQ2_M и Q2_K_P до Q8_K_P; доступны файлы размером примерно от 11 до 44 ГБ. Квантования K_P оптимизированы с использованием importance matrix и анализа конкретной модели, что должно улучшать сохранение качества при умеренном увеличении размера файла. README не приводит результатов независимых тестов, поэтому фактическое качество и производительность зависят от квантования и оборудования. Отсутствие отказов может быть преимуществом для исследовательских и творческих задач, но одновременно означает ослабление защитных ограничений и повышенные риски небезопасного использования. Указанная лицензия — Apache 2.0.

RemySkye/Qwen3.8-Flash-Next-REAM-60Pct-GGUF — пользовательская высококачественная сборка модели Akicou/Qwen3.8-Flash-Next-REAM-60Pct в формате GGUF. Она предназначена для запуска и генерации текста через llama.cpp на системах примерно с 64 ГиБ оперативной памяти, включая локальные сценарии инференса. Лицензия в README не указана. Модель использует архитектуру qwen4exp и разреженную Mixture-of-Experts (MoE). В ней около 129 млрд сохранённых параметров до обрезки PLE, около 90 млрд физических параметров после неё, а на каждый токен активируется примерно 6 млрд параметров. Большая таблица PLE/n-gram была сокращена с 16 до 4 активных голов: сохранены 2 из 8 bigram- и 2 из 8 trigram-голов. Итоговый файл занимает около 56 ГБ, или 52 ГиБ. Применён смешанный профиль квантования BALANCED_MAX_PROTECTED: основные компоненты используют форматы от Q4_K до Q8_0, а критичные малые тензоры сохраняются в BF16/F32. Ключевое преимущество сборки — сохранение более высокой точности основных весов за счёт уменьшения крупной таблицы n-грамм вместо агрессивного квантования всей модели до Q2/Q3. Это делает модель практичнее на машине с 64 ГиБ RAM, оставляя место для контекста, KV-кэша, рабочих буферов и операционной системы. Ограничениями являются большой объём файла, зависимость от актуальной версии llama.cpp с поддержкой Qwen3.8/qwen4exp и возможная потеря части информации PLE из-за удаления 12 из 16 голов. Фактическое потребление памяти зависит от размера контекста, настроек llama.cpp, GPU-offload и используемого backend.

Qwen3-Omni-30B-A3B-Instruct — мультимодальная модель общего назначения от команды Qwen компании Alibaba. Она принимает текст, изображения, аудио и видео и формирует потоковые ответы текстом и естественной речью; вариант Instruct включает компоненты Thinker и Talker. Архитектура MoE использует разделение на Thinker и Talker, а модель рассчитана на низколатентное взаимодействие в реальном времени и управление поведением через системные промпты. Модель предназначена для голосовых диалогов, распознавания и понимания речи, описания аудио и видео, а также ответов на вопросы по изображениям и смешанным мультимодальным входам. README заявляет поддержку 119 языков для текста, 19 языков для речевого ввода и 10 для речевого вывода; среди явно перечисленных языков речи есть русский. В примере запуска указан максимальный контекст 65 536 токенов. Для работы предлагаются Transformers и vLLM; README отмечает, что на момент публикации требовалась установка Transformers из исходников. Лицензия в метаданных обозначена как other, без уточнения условий.

Карточка модели speakguru/Qwen3-Omni-30B-A3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen3-Omni-30B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Omni-30B-A3B-Instruct — мультимодальная модель общего назначения от команды Qwen компании Alibaba. Она принимает текст, изображения, аудио и видео и формирует потоковые ответы текстом и естественной речью; вариант Instruct включает компоненты Thinker и Talker. Архитектура MoE использует разделение на Thinker и Talker, а модель рассчитана на низколатентное взаимодействие в реальном времени и управление поведением через системные промпты. Модель предназначена для голосовых диалогов, распознавания и понимания речи, описания аудио и видео, а также ответов на вопросы по изображениям и смешанным мультимодальным входам. README заявляет поддержку 119 языков для текста, 19 языков для речевого ввода и 10 для речевого вывода; среди явно перечисленных языков речи есть русский. В примере запуска указан максимальный контекст 65 536 токенов. Для работы предлагаются Transformers и vLLM; README отмечает, что на момент публикации требовалась установка Transformers из исходников. Лицензия в метаданных обозначена как other, без уточнения условий.

Карточка модели Koulano/Qwen3-Omni-30B-A3B-Thinking на Hugging Face совпадает с карточкой Qwen/Qwen3-Omni-30B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Omni-30B-A3B-Instruct — мультимодальная модель общего назначения от команды Qwen компании Alibaba. Она принимает текст, изображения, аудио и видео и формирует потоковые ответы текстом и естественной речью; вариант Instruct включает компоненты Thinker и Talker. Архитектура MoE использует разделение на Thinker и Talker, а модель рассчитана на низколатентное взаимодействие в реальном времени и управление поведением через системные промпты. Модель предназначена для голосовых диалогов, распознавания и понимания речи, описания аудио и видео, а также ответов на вопросы по изображениям и смешанным мультимодальным входам. README заявляет поддержку 119 языков для текста, 19 языков для речевого ввода и 10 для речевого вывода; среди явно перечисленных языков речи есть русский. В примере запуска указан максимальный контекст 65 536 токенов. Для работы предлагаются Transformers и vLLM; README отмечает, что на момент публикации требовалась установка Transformers из исходников. Лицензия в метаданных обозначена как other, без уточнения условий.

RWKV-5 World — многоязычная авторегрессионная языковая модель семейства RWKV, разработанная BlinkDL и предназначенная для генерации текста. Модель обучалась на корпусах, включающих Pile, SlimPajama, StarCoder, OSCAR, Википедию и собранные диалоговые данные; заявленный объём обучения для версий World v1 и v2 составляет 0,59 и 1,12 трлн токенов соответственно. Данные обучения охватывают более 100 языков: примерно 70% — английский, 15% — многоязычные данные и 15% — код. Модель можно использовать для продолжения текста, диалоговых ответов и вопросов и ответов; README также описывает рекомендованный формат для дообучения. Для инференса автор рекомендует пакет rwkv версии 0.8.22 или новее. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache 2.0. Доступные сведения не определяют размер конкретного чекпойнта или длину контекста.

VibeVoice-ASR — модель Microsoft для распознавания речи и формирования структурированных расшифровок. Она принимает аудио и в одном проходе обрабатывает записи длительностью до 60 минут, указывая распознанный текст, временные метки и говорящих. Модель также поддерживает пользовательские ключевые слова для имён, терминов и другой специальной лексики. Модель рассчитана на многоязычную речь: README заявляет поддержку более 50 языков, автоматическое определение языка и переключение между языками в ходе записи. По данным карточки, модель построена на плотной архитектуре семейства VibeVoice, использует Transformers и хранит веса в формате safetensors. Указанная лицензия — MIT. Модель подходит для расшифровки длинных записей, где важны привязка реплик ко времени и разделение по говорящим. README заявляет обработку до 60 минут в пределах контекста 64K токенов; фактическое качество распознавания может зависеть от языка, акустики и предметной лексики.

XVERSE-65B — мультиязычная базовая большая языковая модель, самостоятельно разработанная компанией Shenzhen Yuanxiang Technology. Она построена на плотной архитектуре Decoder-only Transformer и предназначена для генерации текста, включая продолжение запросов и подготовку материалов для многошагового диалога, ответов на вопросы и суммаризации. В модели 65,6 млрд параметров, контекст — до 16 384 токенов; она использует BPE-токенизатор с словарём из 100 534 токенов и распространяется в формате PyTorch. Модель обучена на 2,6 трлн токенов из веб-страниц, кода, энциклопедий, книг, научных публикаций и других источников. README указывает поддержку 41 естественного языка, включая китайский, английский, русский и испанский; наибольшие доли обучающих данных приходятся на английский и китайский. Лицензия Apache-2.0. Это базовая, а не специально настроенная для диалога модель, поэтому качество следования инструкциям и ответы в формате ассистента не гарантируются; возможны ошибки и смещения, характерные для генеративных языковых моделей.