I.6Перевод и языковая адаптация

RWKV/RWKV7-G1k-2.9B-20260930 — официальная базовая языковая модель RWKV-7 Goose от BlinkDL в формате для Transformers. Это плотная авторегрессионная модель примерно на 3,1 млрд параметров, предварительно обученная на веб-текстах, коде, синтетических, инструкционных, диалоговых и reasoning-данных. Она предназначена для оценки, дальнейшего дообучения и генерации текста; шаблон чата задаёт формат промпта, но сам по себе не означает, что модель выровнена для безопасного поведения. Архитектура RWKV-7 использует рекуррентное состояние постоянного размера вместо механизма внимания и KV-кэша, поэтому объём состояния не растёт с длиной генерации, а вычисления на токен остаются постоянными; обучение можно распараллеливать. Модель принимает текст и генерирует текст. Карточка и теги указывают поддержку английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского языков. Веса доступны в safetensors, лицензия — Apache-2.0. Качество следования инструкциям и поведение на разных языках зависят от чекпойнта, промптинга и последующего обучения. Модель не заявлена как проверенная на безопасность, предвзятость, токсичность, фактическую точность или применение в критически важных сценариях. Спекулятивное декодирование с откатом рекуррентного кэша не поддерживается без сохранения снимков состояния; оптимизированный запуск зависит от оборудования и конфигурации.

Yamatazen/Shisa-v2-Mistral-Nemo-12B-Abliterated — объединённая методом TIES модель на базе shisa-ai/shisa-v2-mistral-nemo-12b с компонентом natong19/Mistral-Nemo-Instruct-2407-abliterated. Это плотная авторегрессионная языковая модель архитектуры MistralForCausalLM с 12,1 млрд параметров и контекстом до 131 072 токенов. Она предназначена для диалогов и генерации текста на английском и японском языках; в метаданных также отмечен интерфейс для вызова инструментов. Модель распространяется в формате Safetensors и рассчитана на использование через Transformers. Ослабленные направления отказа могут означать меньшую склонность к отказам, однако карточка не приводит отдельной оценки безопасности или качества. Лицензия в предоставленных данных не указана.

Solar-Open2-250B-Mixed-Quant-GGUF — независимая конверсия модели upstage/Solar-Open2-250B в формат GGUF с рецептом смешанной точности MXQ-v1. Автор репозитория Baekpica; это не официальный выпуск Upstage. Вариант состоит из 11 файлов общим размером около 88,973 ГиБ и сохраняет исходную архитектуру Mixture-of-Experts: 48 слоёв, 320 маршрутизируемых экспертов в каждом слое и один общий эксперт. Указанный размер артефакта — около 3,05 бит на вес. Модель предназначена для генерации текста и диалогового применения, включая работу с инструкциями, рассуждениями, кодом и многоязычными запросами. В калибровке использованы английский, корейский, японский и другие многоязычные данные; карточка базовой модели указывает контекст до 1 048 576 токенов, однако автор не заявляет такую длину для работы на DGX Spark. Проверки описывают загрузку и генерации на нескольких GPU-конфигурациях, а также замеры производительности на DGX Spark с конкретным ПО и настройками. Это производный квантованный артефакт для запуска в совместимом с GGUF программном обеспечении; для него приведены контрольные суммы, рецепт квантования и результаты структурной проверки. Репозиторий указывает лицензию «other», но не приводит её условия в предоставленных данных, поэтому коммерческие и иные права использования следует сверить с карточкой Hugging Face и базовой моделью. Результаты проверок качества ограничены описанными тестами и не являются гарантией качества на произвольных задачах.

Trurl 2 13B — диалоговая языковая модель, дообученная Voicelab.AI на основе Llama 2. Это авторегрессионный трансформер с 12,9 млрд параметров и контекстом до 4096 токенов; модель принимает текст и генерирует текст. Модель предназначена для диалогов в формате помощника и других задач генерации естественного языка на польском и английском языках. При обучении использовались более 1,7 млрд токенов из частных и открытых данных, включая диалоги, вопросы и ответы, а также примеры для извлечения и анализа JSON. Для чат-сценариев требуется форматирование запросов по шаблону диалога Llama 2. Модель может давать неточные, предвзятые или нежелательные ответы; её проверка охватывала не все сценарии. Перед внедрением рекомендуется оценить качество и безопасность для конкретного применения. README указывает, что модель предназначена для коммерческого и исследовательского использования, однако конкретная лицензия в предоставленных данных не приведена.

XVERSE-MoE-A4.2B — базовая многоязычная языковая модель, разработанная Shenzhen Yuanxiang Technology. Она предназначена для генерации текста и может служить основой для диалоговых и других приложений на базе языковой модели. Модель использует архитектуру Decoder-only Transformer с механизмом смеси экспертов (MoE): всего 25,8 млрд параметров, из которых при вычислении активируются 4,2 млрд. В ней 64 неспециализированных и 2 общих эксперта, а маршрутизатор выбирает экспертов для каждого вычисления. Модель обучалась на последовательностях длиной 8 тысяч токенов; в метаданных также указано контекстное окно 8192 токена. README приводит разные значения объёма обучающих данных: 2,7 трлн токенов в китайской версии и 3,2 трлн в английской. Модель обучалась на более чем 40 языках, включая китайский, английский, русский и испанский; разработчик отмечает особенно сильные результаты на китайском и английском. README приводит результаты тестов по пониманию языка, вопросам и ответам, рассуждениям, математике и программированию. Это базовая модель, а не Chat-версия, поэтому для диалоговых сценариев может потребоваться дополнительное выравнивание. Как и другие большие языковые модели, она может выдавать неточные, предвзятые или оскорбительные ответы; разработчик рекомендует проверять безопасность перед развёртыванием. Лицензия — Apache-2.0.

Это конверсия модели deepdml/whisper-large-v3-turbo в формат CTranslate2, подготовленная для запуска через CTranslate2 и проекты на его основе, включая faster-whisper. Модель предназначена для автоматического распознавания речи: она принимает аудио и выдаёт текстовую расшифровку. Веса сохранены в FP16; при загрузке в CTranslate2 можно выбрать другой тип вычислений через параметр compute_type. Карточка указывает поддержку распознавания на множестве языков, в том числе русском и английском. Репозиторий распространяется по лицензии MIT.

Это конверсия модели deepdml/whisper-large-v3-turbo в формат CTranslate2, опубликованная jfmdai. Она предназначена для распознавания речи и может использоваться в CTranslate2, включая проекты на его основе, например faster-whisper. Веса сохранены в FP16; при загрузке тип вычислений можно выбрать через параметр compute_type. Модель принимает аудио и выдаёт распознанный текст. По метаданным она поддерживает множество языков, в том числе русский, английский, китайский, немецкий, испанский, французский, японский и корейский. Лицензия репозитория — MIT. Карточка не приводит сведения о контексте или дополнительных ограничениях качества.

gghfez/gemma-3-4b-novision — текстовая версия Gemma 3 4B IT, созданная автором репозитория на основе google/gemma-3-4b-it. Из модели удалены компоненты обработки изображений, а мультимодальная архитектура преобразована в Gemma3ForCausalLM; сохранена генерация текста. Модель содержит 4 млрд параметров, использует Transformers и распространяется в формате safetensors. Модель предназначена для диалогов и генерации текста по текстовым запросам. Она наследует базовую модель Gemma 3 4B IT, а её контекст составляет до 131 072 токенов. Лицензия — Gemma. Поскольку компоненты зрения удалены, модель не принимает изображения; карточка не приводит отдельных оценок качества или дополнительных ограничений.

google_gemma-3-27b-it-qat-GGUF — это GGUF-квантизация instruction-tuned модели Gemma 3 с 27 млрд параметров, разработанной Google. Квантизацию выполнил bartowski на основе QAT-весов Google с использованием llama.cpp и метода imatrix. В карточке модель обозначена как image-text-to-text, поэтому она предназначена для генерации текста по текстовым и, вероятно, визуально-текстовым входным данным. Основной файл Q4_0 имеет размер около 15,62 ГБ и рассчитан на запуск через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты с разными уровнями квантования — от BF16 и Q8_0 до Q3 и IQ-форматов, что позволяет выбирать между качеством, требованиями к памяти и скоростью инференса. Для Q4_0 заявлены улучшения благодаря QAT и поддержка онлайн-репаковки для ARM- и AVX-совместимых CPU. Языки, размер контекста и точные архитектурные характеристики в README не указаны. Модель подходит для локального запуска, диалоговых приложений и мультимодальных сценариев, поддерживаемых Gemma 3 и используемым рантаймом. Более высокие варианты квантования обеспечивают лучшее качество, но требуют больше памяти; низкие варианты экономичнее, однако могут заметно уступать по качеству. Использование регулируется лицензией Google Gemma; для доступа на Hugging Face требуется ознакомиться с условиями и принять лицензию.

Ereeeeef3/llama-3.3-merged — текстовая модель семейства Llama, созданная автором репозитория с помощью mergekit из unsloth/Llama-3.3-70B-Instruct. Использован метод passthrough: слои базовой модели продублированы, а итоговая плотная архитектура LlamaForCausalLM содержит 55,8 млрд параметров. Модель предназначена для генерации текста и диалогового использования; доступен интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов и унаследованные от базовой модели многоязычные возможности. Репозиторий содержит веса safetensors, библиотека — Transformers. Лицензия — Apache-2.0. Карточка описывает способ слияния, но не приводит отдельной оценки качества итоговой модели; дублирование слоёв само по себе не подтверждает улучшение способностей базовой модели.

MamayLM-Gemma-3-12B-IT-v1.0 — мультимодальная инструктивная модель INSAIT, института Софийского университета Св. Климента Охридского. Она создана на базе Gemma 3 12B: модель непрерывно предварительно обучали на данных с акцентом на украинский язык и культуру, применяя смешивание данных и объединение моделей, а затем дообучили на инструкциях. Архитектура — плотный декодерный трансформер Gemma 3 с 12 млрд параметров; модель принимает текст и изображения и отвечает текстом. Модель предназначена для диалогов, выполнения инструкций, рассуждений, ответов на вопросы и понимания изображений. Её основная специализация — украинский язык, при этом README сообщает о сохранении высоких способностей исходной Gemma 3 на английском. В карточке приведены результаты текстовых и визуальных оценок, включая украинские тесты ZNO и ZNO-Vision, но конкретные значения этих результатов здесь не указаны. Модель доступна на условиях Gemma Terms of Use. Она использует библиотеку Transformers и формат весов safetensors; в README также упоминается отдельная версия в формате GGUF. Длина контекста в предоставленных данных не указана.

Megac4ai-command-r-plus — экспериментальная языковая модель, созданная автором nitky с помощью mergekit: слои CohereForAI/c4ai-command-r-plus чередуются с её же слоями методом passthrough. Модель содержит 160,4 млрд параметров, использует архитектуру CohereForCausalLM и формат safetensors; для запуска применяется библиотека Transformers с необходимыми изменениями. README также указывает на отдельную GGUF-версию и вариант квантования bitsandbytes до 4 бит. Модель предназначена для генерации текста и диалоговых ответов. В примере она отвечает на вопрос по японскому диалогу; метаданные перечисляют поддержку английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского и арабского языков. Контекст составляет 8192 токена; доступны интерфейсы чата и вызова инструментов. Указанная лицензия — CC BY-NC 4.0, допускающая использование с атрибуцией, но не коммерческое использование.

Meta-Llama-3.1-8B-Instruct-abliterated-IMat-GGUF — это GGUF-сборка инструкционной языковой модели mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated, подготовленная и квантованная пользователем legraphista с помощью llama.cpp. Модель предназначена для генерации текста и диалогового использования в локальных приложениях, поддерживающих формат GGUF и llama.cpp. Доступны варианты от BF16 и FP16 до квантований Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ4. Для ряда вариантов применена IMatrix-квантизация, призванная сохранить качество при уменьшении размера модели. Размер базовой модели составляет 8B параметров, исходный тип данных — BF16. В README не указаны точный размер контекста, перечень поддерживаемых языков и мультимодальные возможности; по представленным данным это текстовая модель без заявленной поддержки изображений или других модальностей. Сильными сторонами сборки являются широкий выбор уровней квантования, возможность локального запуска и наличие вариантов, оптимизированных по соотношению качества и потребления памяти. Ограничения включают потенциальную потерю качества в низкобитных вариантах, зависимость производительности от оборудования и совместимость с llama.cpp или другим ПО, поддерживающим GGUF. Основа модели обозначена как abliterated и uncensored, поэтому встроенные ограничения безопасности могут быть ослаблены; это следует учитывать при использовании. Указанная лицензия — Llama 3.1.

miiqu-f16 — разговорная языковая модель от Infinimol AI GmbH на архитектуре Llama, представленная в формате safetensors для Transformers. Модель рассчитана на генерацию текста и диалоговое взаимодействие; в README также приведён результат на EQ-Bench — 8-е место в сравнении с несколькими крупными чат-моделями. Заявленное окно контекста — 32 768 токенов. Модель содержит 90,1 млрд параметров по метаданным. README сообщает, что она создана без дообучения и дополнительного обучения; метаданные помечают её как слияние, поэтому происхождение следует считать слиянием моделей. Доступны варианты GGUF Q4_K_M и EXL2 5.0 bpw. Для диалогов указаны шаблоны ChatML и Mistral. Метаданные отмечают поддержку английского, немецкого, французского, испанского и итальянского языков. Лицензия обозначена как other, без конкретных условий в предоставленных данных.

Mistral-7B-v0.3-Chinese-Chat — диалоговая языковая модель, разработанная Shenzhi Wang, Yaowei Zheng, Guoyin Wang, Shiji Song и Gao Huang. Она создана для общения на китайском и английском языках и основана на Mistral-7B-Instruct-v0.3 от Mistral AI. Модель с плотной архитектурой Mistral содержит около 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Это полнопараметрическое дообучение методом ORPO на смешанном китайско-английском наборе примерно из 100 тысяч пар предпочтений. Модель предназначена для диалогов, ролевых сценариев, математики и использования инструментов; разработчики отмечают улучшение ответов на китайском и снижение смешения китайского и английского по сравнению с базовой моделью. Модель принимает текст и генерирует текст. Репозиторий предоставляет веса в формате Safetensors. Лицензия — Apache-2.0. В README отмечено, что ответы на вопросы о личности и разработчиках могут быть случайными и недостоверными.

Это BF16-версия модели Kimi-K2-Thinking, подготовленная автором DevQuasar-2 из исходной INT4-модели moonshotai/Kimi-K2-Thinking с помощью собственного скрипта деквантизации, вдохновлённого скриптом для DeepSeek V3. В метаданных архитектура обозначена как dense, с классом DeepseekV3ForCausalLM; заявлено 37,9 млрд параметров и контекст до 262 144 токенов. Модель предназначена для диалоговой генерации текста.

Nemotron 3.5 ASR — разработанная NVIDIA многоязычная модель автоматического распознавания речи на 600 млн параметров. Она предназначена для потоковой транскрибации с низкой задержкой и пакетной обработки аудио; доступна через NeMo и Transformers, а веса представлены в формате safetensors. Архитектура Cache-Aware FastConformer-RNNT использует кэш контекста, чтобы обрабатывать новые аудиофрагменты без повторных вычислений. Размер фрагментов можно настраивать от 80 до 1120 мс; модель расставляет пунктуацию и заглавные буквы, а при режиме auto может определять язык речи и добавлять языковую метку к транскрипту. Модель поддерживает 40 языковых локалей: для 32 заявлена транскрибация без дополнительной адаптации, а для восьми требуется дообучение на данных целевого домена. Среди языков есть русский, английский, испанский, французский, немецкий, арабский, китайский, японский и другие. Карточка указывает готовность к коммерческому использованию, однако метаданные обозначают лицензию как other, поэтому конкретные условия следует сверить с файлами лицензии репозитория. Для английской речи автор рекомендует отдельную англоязычную модель Nemotron ASR Streaming.

Карточка модели FILM6912/nemotron-3.5-asr-streaming-0.6b на Hugging Face совпадает с карточкой Aliados/nemotron-3.5-asr-streaming-0.6b, поэтому описание составлено по ней. Nemotron 3.5 ASR — разработанная NVIDIA многоязычная модель автоматического распознавания речи на 600 млн параметров. Она предназначена для потоковой транскрибации с низкой задержкой и пакетной обработки аудио; доступна через NeMo и Transformers, а веса представлены в формате safetensors. Архитектура Cache-Aware FastConformer-RNNT использует кэш контекста, чтобы обрабатывать новые аудиофрагменты без повторных вычислений. Размер фрагментов можно настраивать от 80 до 1120 мс; модель расставляет пунктуацию и заглавные буквы, а при режиме auto может определять язык речи и добавлять языковую метку к транскрипту. Модель поддерживает 40 языковых локалей: для 32 заявлена транскрибация без дополнительной адаптации, а для восьми требуется дообучение на данных целевого домена. Среди языков есть русский, английский, испанский, французский, немецкий, арабский, китайский, японский и другие. Карточка указывает готовность к коммерческому использованию, однако метаданные обозначают лицензию как other, поэтому конкретные условия следует сверить с файлами лицензии репозитория. Для английской речи автор рекомендует отдельную англоязычную модель Nemotron ASR Streaming.

NVIDIA Nemotron 3.5 Lightning 30B-A3B NVFP4 GGUF — это форматированный для GGUF и llama.cpp вариант модели NVIDIA Nemotron 3.5 Lightning 30B-A3B NVFP4. Это не переобучение, а побитно точная конвертация исходного контрольного пункта с сохранением NVFP4-весов экспертов; модель предназначена для генерации текста и локального запуска, особенно на GPU NVIDIA Blackwell с поддержкой FP4 tensor cores. Модель использует гибридную архитектуру Mamba-2, Mixture-of-Experts и attention: всего около 30 млрд параметров, из которых примерно 3 млрд активны для каждого токена. Она содержит 52 слоя, включая 6 слоёв с полноценным attention, 128 маршрутизируемых экспертов, из которых активны 6, и одного общего эксперта. Нативная длина контекста составляет 1 048 576 токенов; благодаря фиксированному состоянию Mamba-2 и MoE полный контекст заявлен как доступный на одной видеокарте с 24 ГБ памяти. Поддерживаются английский, испанский, французский, немецкий, итальянский и японский языки. Сильные стороны модели — очень длинный контекст, экономичное число активных параметров, сохранение исходных NVFP4-весов без повторного квантования и возможность использования дополнительной MTP-головы для speculative decoding. MTP-голова может повысить скорость примерно на 7% на быстрых GPU и на величину порядка десятков процентов на более медленном оборудовании, но требует дополнительной памяти и не улучшает качество вывода. Ограничения включают зависимость от совместимого оборудования и llama.cpp, а также потери запаса по контексту при использовании MTP-головы на GPU с 24 ГБ. В README приведены ориентировочные результаты: 79,2% на MMLU-Pro, 70,7% на IFBench и 26,7% на terminal-bench 2.0; авторы отмечают малые выборки и заметную вариативность результатов. Модель распространяется по лицензии OpenMDW License Agreement версии 1.1, унаследованной от базовой модели. Материалы модели принадлежат NVIDIA Corporation и аффилированным лицам; при использовании следует указывать NVIDIA как разработчика исходной модели и NVFP4-экспорта. Репакет не аффилирован с NVIDIA и не предоставляет прав на её товарные знаки.

NVIDIA-Nemotron-Labs-3-Elastic-12B-A2B-FP8 — языковая модель NVIDIA для генерации текста и диалогов, созданная на основе NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 с помощью постобучения Elastic. Репозиторий содержит FP8-веса эластичной модели с вложенными вариантами на 30B, 23B и 12B параметров; вариант 12B можно извлечь из общего чекпойнта. Метаданные указывают 946,5 млн параметров, тогда как README описывает вариант как 12B; поэтому размер из метаданных и заявленный размер варианта расходятся. Модель предназначена для диалогов, рассуждений и других задач генерации текста. Архитектура Nemotron-H объединяет слои Mamba-2, Attention и Mixture-of-Experts; активный вариант 12B использует около 2,0B активных параметров. Заявленная длина контекста — 262 144 токена. Модель поддерживает английский, немецкий, испанский, французский, итальянский и японский языки. README рекомендует её для коммерческого использования, однако метаданные указывают лицензию «other», поэтому условия коммерческого применения следует сверить с полным текстом лицензии репозитория.

OpenBuddy — многоязычная чат-модель, разработанная проектом OpenBuddy. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста в диалоге и ответов на запросы. Метаданные указывают контекстное окно до 32 768 токенов и поддержку китайского, английского, французского, немецкого, японского, корейского, итальянского и русского языков. Модель подходит для диалоговых помощников и генерации ответов на обычные пользовательские запросы. Она распространяется под лицензией Apache 2.0. Разработчики предупреждают, что ответы могут быть ошибочными, вредными или оскорбительными; модель не следует применять для критически важных решений в медицине, финансах, праве и других высокорисковых сценариях.

Qwen2.5-72B-0.6x-Instruct-GGUF — набор GGUF-квантизированных версий инструкционной языковой модели Qwen2.5-72B-0.6x-Instruct. Квантизацию выполнил bartowski с использованием llama.cpp b4058 и метода imatrix. Модель предназначена для текстовой генерации и диалоговых сценариев, включая работу в LM Studio; README указывает английский язык и формат чата с системными и пользовательскими сообщениями. Доступны варианты квантизации от Q8_0 размером 77,26 ГБ до IQ1_M размером 25,49 ГБ. Версии Q6_K, Q5_K_M, Q5_K_S и Q4_K_M обозначены как рекомендованные благодаря хорошему соотношению качества и размера, при этом более сильная квантизация уменьшает требования к памяти, но может снижать качество ответов. Q3 и Q2-варианты рассчитаны на системы с ограниченным объёмом RAM и характеризуются более низким качеством. Некоторые форматы оптимизированы для ARM и AVX, а Q4_0_8_8 требует поддержки SVE на ARM и не рекомендуется для Mac. Модель использует лицензию Qwen; ссылка на текст лицензии ведёт к лицензии исходной модели Qwen2.5-72B-Instruct. В README не указаны архитектурные детали, размер контекстного окна, полный список поддерживаемых языков, мультимодальные возможности и результаты бенчмарков, поэтому эти характеристики нельзя надёжно определить по предоставленным данным.

unsloth/Qwen2.5-7B-bnb-4bit — 4-битная версия базовой языковой модели Qwen2.5-7B, разработанной командой Qwen. Модель предназначена для генерации и продолжения текста, а также для последующего дообучения методами SFT, RLHF или continued pretraining. Для диалоговых сценариев базовую модель использовать не рекомендуется без дополнительного постобучения. Модель относится к классу causal language models и содержит 7,61 млрд параметров, из которых 6,53 млрд не являются параметрами эмбеддингов. Архитектура включает 28 слоёв, RoPE, SwiGLU, RMSNorm и attention с GQA: 28 голов для Q и 4 для KV. Контекстное окно — до 131 072 токенов. Поддерживаются более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество версии — 4-битное представление, снижающее требования к памяти; конкретные показатели качества и производительности для этой сборки в README не приведены. Модель распространяется под лицензией Apache-2.0 и предназначена для использования с библиотекой Transformers.

MaziyarPanahi/Qwen2-7B-Instruct-GGUF — это набор файлов модели в формате GGUF для Qwen2-7B-Instruct, разработанной командой Qwen. Квантизацию и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и использования в диалоговых и других сценариях, где требуется инструкционно настроенная языковая модель. Модель основана на Qwen2-7B-Instruct и содержит около 7 миллиардов параметров. Доступны варианты квантизации с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Формат GGUF поддерживается llama.cpp и рядом совместимых приложений и библиотек, включая llama-cpp-python, LM Studio, text-generation-webui и другие инструменты для локального запуска с возможным ускорением на GPU. Сильными сторонами являются широкий выбор уровней квантизации и совместимость с экосистемой GGUF для локального вывода. Ограничения включают потенциальную потерю качества в более агрессивно квантованных вариантах, а также отсутствие в README сведений о языках, размере контекста, точной архитектуре, исходных данных и результатах тестирования. Лицензия в предоставленных материалах не указана.

Qwen2-Mix-7B — разговорная языковая модель на архитектуре Qwen2, созданная bunnycore путём объединения нескольких моделей с помощью mergekit. Репозиторий содержит веса в формате safetensors; размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Объединение включает bunnycore/Qwen-Mix-7B, maywell/Qwen2-7B-Multilingual-RP и cognitivecomputations/dolphin-2.9.2-qwen2-7b; в конфигурации mergekit указаны метод model_stock и формат bfloat16. Лицензия — Apache-2.0. Модель унаследовала мультиязычную направленность одной из базовых моделей и ориентирована на чат, однако README не приводит результаты оценки качества или подробный перечень языков и специальных навыков. Как и другие генеративные языковые модели, она может выдавать неточные или выдуманные сведения.

ente-ai/Qwen3.5-0.8B-GGUF — это GGUF-версия мультимодальной модели Qwen3.5-0.8B, основанной на Qwen/Qwen3.5-0.8B. Модель разработана в экосистеме Qwen, а данный вариант опубликован ente-ai с использованием подходов Unsloth Dynamic 2.0. Она предназначена для локального запуска, прототипирования, исследовательских и прикладных задач, а также специализированного дообучения. Модель представляет собой каузальную языковую модель со зрительным энкодером и поддерживает обработку текста и изображений. Она содержит 0,8 млрд параметров, 24 слоя, скрытое измерение 1024 и нативный контекст до 262 144 токенов. Архитектура сочетает Gated Delta Networks, Gated Attention и разреженную Mixture-of-Experts; заявлена поддержка 201 языка и диалекта. Артефакты совместимы с инструментами локального и серверного инференса, включая Hugging Face Transformers, vLLM, SGLang и KTransformers. К сильным сторонам относятся компактный размер, мультимодальность, длинный контекст, возможность локального использования и потенциально высокая эффективность инференса. Из-за небольшого масштаба модель прежде всего ориентирована на прототипирование, task-specific fine-tuning и разработку; её возможности могут быть ограничены по сравнению с более крупными моделями в сложных задачах. Модель распространяется по лицензии Apache-2.0.

Fmuaddib/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16-mlx-8Bit — языковая модель для генерации текста, преобразованная в формат MLX из AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 с использованием mlx-lm 0.31.2. Модель относится к семейству Qwen3.8 и имеет 27 млрд параметров; в метаданных указана поддержка английского, китайского и других языков. Модель предназначена для диалоговых и инструкционных сценариев, программирования, рассуждений, а также заявленных в метаданных задач function calling и tool calling. Для запуска используется библиотека mlx-lm, предусмотрена работа с chat template. В метаданных также отмечены vision и multimodal, однако README не содержит подробностей о поддерживаемых форматах входных данных и возможностях обработки изображений. Ключевая особенность этой версии — представление в MLX с 8-битным квантованием, что ориентировано на запуск в экосистеме Apple Silicon и может снизить требования к памяти по сравнению с полноразмерной версией. При этом README не приводит результаты тестов, сведения о размере контекста, точной архитектуре, аппаратных требованиях или сравнительных оценках качества. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-9B-Distill-Uncensored-Heretic-MTPLX-Q6G64 — мультимодальная модель семейства Qwen3.8, опубликованная xy10086. Она создана на основе petruhonk/Qwen3.8-9B-Distill-uncensored-heretic, который, в свою очередь, происходит от empero-ai/Qwen3.8-9B-Distill. Модель предназначена для обработки текста и изображений, включая понимание скриншотов и распознавание текста на изображениях, а также для генерации ответов на английском и китайском языках. Основная языковая часть содержит около 9 миллиардов параметров и сжата методом аффинной 6-битной квантизации с размером группы 64. Зрительная башня и компоненты MTP для speculative decoding сохранены в формате BF16; поддерживаются 15 MTP-тензоров и рекомендованная глубина MTP 2. Модель оптимизирована для Apple Silicon и формата MLX/MTPLX. Рекомендуемое окно контекста — 32768 токенов, максимальная длина ответа — 8192 токена. Сильными сторонами являются мультимодальность, поддержка ускоренного speculative decoding, совместимость с Apple Silicon и высокая скорость генерации в заявленных тестах. Ограничения включают зависимость от MTPLX и MLX, а также требования к памяти и соответствующему программному окружению. Модель имеет пониженный уровень отказов вследствие удаления ограничений цензуры, но это не означает большей фактической точности; результаты в медицинских, юридических, финансовых и других критически важных сценариях необходимо проверять независимо. Модель распространяется по лицензии Apache-2.0; для использования следует также учитывать требования к атрибуции и лицензированию исходных моделей.

Qwen3-4B-Instruct-2507-GGUF — набор квантованных версий инструкционной языковой модели Qwen3-4B-Instruct-2507, разработанной командой Qwen. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; модели распространяются в формате GGUF и предназначены для локального запуска. Модель относится к задачам генерации текста и диалогового взаимодействия. Она может использоваться через LM Studio, llama.cpp и другие проекты на базе llama.cpp. В README указаны варианты от BF16 до 2-битных квантований, объёмом примерно от 1,8 до 8,05 ГБ. Для работы используется форматирование промптов с ролями system, user и assistant. Данные о точной архитектуре, поддерживаемых языках и размере контекста в README не приведены. Сильная сторона набора — широкий выбор квантований с разным компромиссом между качеством, требованиями к памяти и скоростью работы. В README рекомендуются, в частности, варианты Q4_K_M, Q5, Q6 и IQ4_XS; более компактные варианты экономят память, но могут заметно терять в качестве. Некоторые форматы отмечены как legacy и могут иметь особенности при запуске на отдельных архитектурах. Лицензия в предоставленном README не указана; условия использования следует уточнять в документации исходной модели Qwen/Qwen3-4B-Instruct-2507.

bartowski/Qwen_Qwen3-8B-GGUF — набор GGUF-квантизированных версий модели Qwen3-8B, разработанной Qwen. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp; в README также указан формат промпта с разделителями сообщений ChatML. Доступны варианты от BF16 размером 16,39 ГБ до компактных IQ2_M и Q2_K размером около 3 ГБ, а также промежуточные уровни Q8, Q6, Q5, Q4 и Q3. Более высокие уровни квантизации обычно сохраняют лучшее качество, тогда как младшие требуют меньше оперативной памяти, но могут заметно уступать по качеству; для большинства сценариев автор рекомендует Q4_K_M, а также некоторые варианты Q5 и Q6. Архитектура, поддерживаемые языки, модальности и размер контекста в README не указаны, поэтому эти характеристики нельзя подтвердить. Модель распространяется по лицензии Apache-2.0.