I.6Перевод и языковая адаптация

Lambent/qwen2.5-reinstruct-alternate-lumen-14B — объединённая диалоговая языковая модель Lambent на архитектуре Qwen2, созданная с помощью mergekit. В основе объединения лежит Lambent/qwen2.5-lumen-rebased-14B; также использована Qwen/Qwen2.5-14B-Instruct. Модель содержит 14 млрд параметров, распространяется в формате safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста, включая структурированные ответы и интерфейс вызова инструментов. В README приведена оценка EQ-Bench 77,6713; автор отмечает, что она сопоставима с Lumen и исходной Instruct-моделью, но оценка не гарантирует качество для конкретных задач. Метаданные указывают поддержку китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Лицензия в предоставленных источниках не указана.

Qwen2.5 Ultimate 14B Instruct — объединённая инструкционная языковая модель, созданная автором qingy2024 методом TIES из Qwen2.5-14B-Instruct и Qwen2.5 Math 14B Instruct на базе Qwen2.5-14B. Модель с плотной архитектурой Qwen2 и 14 млрд параметров предназначена для диалогов и генерации текста; объединение также ориентировано на математические задачи и ответы по инструкциям. Модель принимает текст и генерирует текст. В карточке заявлена поддержка китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Контекстное окно составляет до 131 072 токенов. В карточке приведены результаты оценивания на наборах IFEval, BBH, MATH, GPQA, MuSR и MMLU-Pro; эти показатели относятся к указанным тестовым настройкам и сами по себе не гарантируют качество в прикладных сценариях. Веса доступны в формате safetensors, библиотека для работы — Transformers. Лицензия в предоставленных данных не указана.

XORTRON.CriminalComputing.LARGE.2026.3 — диалоговая языковая модель, опубликованная darkc0de и созданная дообучением Mistral-Large-Instruct-2411. Это плотная архитектура Mistral с 122,2 млрд параметров и контекстом до 131 072 токенов; модель работает через Transformers и распространяется в формате safetensors. Карточка сообщает о многоязычной поддержке, включая английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. Модель предназначена для генерации текста в диалоге, ответов на вопросы, рассуждений, программирования и сценариев с длинным контекстом. В README указана abliteration: в приведённом сравнении частота отказов составляет 2 из 100 против 87 из 100 у исходной модели, а KL-дивергенция — 0,0578. Это означает, что модель настроена на существенно меньшее число отказов; результаты таблицы не гарантируют поведение на всех запросах. По метаданным лицензия — WTFPL; значительный размер требует мощного оборудования для запуска.

Карточка модели gdorane01/XORTRON.CriminalComputing.larger на Hugging Face совпадает с карточкой darkc0de/XORTRON.CriminalComputing.LARGE.2026.3, поэтому описание составлено по ней. XORTRON.CriminalComputing.LARGE.2026.3 — диалоговая языковая модель, опубликованная darkc0de и созданная дообучением Mistral-Large-Instruct-2411. Это плотная архитектура Mistral с 122,2 млрд параметров и контекстом до 131 072 токенов; модель работает через Transformers и распространяется в формате safetensors. Карточка сообщает о многоязычной поддержке, включая английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. Модель предназначена для генерации текста в диалоге, ответов на вопросы, рассуждений, программирования и сценариев с длинным контекстом. В README указана abliteration: в приведённом сравнении частота отказов составляет 2 из 100 против 87 из 100 у исходной модели, а KL-дивергенция — 0,0578. Это означает, что модель настроена на существенно меньшее число отказов; результаты таблицы не гарантируют поведение на всех запросах. По метаданным лицензия — WTFPL; значительный размер требует мощного оборудования для запуска.

FLAN-T5-XXL — языковая модель семейства T5, разработанная Google и дообученная по инструкциям на более чем тысяче дополнительных задач. Это вариант с 5,8 млрд параметров, построенный на архитектуре encoder-decoder T5; модель принимает текст и генерирует текст в формате text-to-text. Она предназначена для выполнения разнообразных задач по текстовой инструкции, включая ответы на вопросы, рассуждения и few-shot- или zero-shot-сценарии. Карточка указывает английский, немецкий и французский языки; метаданные также отмечают румынский и многоязычность. Модель распространяется в форматах PyTorch и safetensors по лицензии Apache 2.0. FLAN-T5-XXL может служить основой для прототипов и исследований языковых моделей, обработки естественного языка и обучения на примерах в запросе. Авторы сообщают о сильных результатах на разных бенчмарках, однако модель не тестировалась в реальных приложениях. Она может воспроизводить смещения и неподходящий контент из обучающих данных, поэтому перед применением в конкретном продукте необходима оценка качества, безопасности и справедливости.

Galactic-Qwen-14B-Exp2 — языковая модель PrithivMLmods для генерации текста, диалогов и решения задач на рассуждение. Это плотная модель семейства Qwen2, содержащая 14 млрд параметров и дообученная на базе prithivMLmods/Lacerta-Opus-14B-Elite8 с использованием модели, обученной на длинных цепочках рассуждений, и специализированных наборов данных. В метаданных указаны библиотека Transformers и формат safetensors. Модель предназначена для ответов на вопросы, логических выводов, многошагового решения задач, следования инструкциям, объяснений, суммаризации и генерации структурированного текста, включая JSON. Она поддерживает контекст до 131 072 токенов; в карточке также заявлена генерация до 8 000 токенов за один ответ и поддержка более 29 языков, включая английский, китайский и русский. Заявленные сценарии включают образовательную помощь, чат-ботов, многоязычную коммуникацию и создание длинных текстов. Карточка приводит результаты IFEval (66,20%) и BBH (59,92%), но не содержит подробностей методики оценки. Среди ограничений указаны высокие требования к памяти при работе с длинным контекстом, возможная предвзятость и ошибки, чувствительность к формулировке запроса и отсутствие доступа к актуальным событиям. Лицензия — Apache-2.0.

unsloth/gemma-3-12b-it-GGUF — это GGUF-версия инструкционно дообученной модели Google Gemma 3 12B, опубликованная Unsloth. Модель создана Google DeepMind и относится к семейству компактных открытых моделей, разработанных на основе технологий Gemini. Модель предназначена для генерации текста, ответов на вопросы, суммаризации документов, рассуждений и анализа изображений. Она мультимодальная: принимает текст и изображения, но генерирует текст. Для версии 12B заявлено контекстное окно до 128 000 токенов, максимальный объём генерируемого ответа — до 8192 токенов. Изображения нормализуются до разрешения 896×896 и кодируются в 256 токенов каждое. Gemma 3 поддерживает более 140 языков, однако для данной карточки явно указан английский язык. Сильными сторонами модели являются сочетание относительно компактного размера, мультимодальности, большого контекстного окна и пригодности для локального развёртывания на ноутбуках, настольных компьютерах или собственной облачной инфраструктуре. Ограничения включают зависимость качества от выбранного GGUF-квантизованного варианта и аппаратных ресурсов, а также возможное снижение точности по сравнению с более крупными моделями; конкретные параметры квантизации в README не указаны. Модель распространяется по лицензии Gemma; условия использования определяются официальными Terms of Use Google.

OnlyTextLLMs выпустила текстовую версию Gemma 4 26B A4B IT: из исходной модели Google удалены компоненты обработки изображений и аудио, а текстовая часть весов и языковая головка сохранены. Это причинная языковая модель Gemma4ForCausalLM с 25,23 млрд параметров по README; метаданные каталога указывают 2 млрд параметров, поэтому размер модели в источниках расходится. Модель предназначена для диалогов и генерации текста. Она принимает текст и выдаёт текст; её контекст составляет 262 144 токена. Модель распространяется по лицензии Apache 2.0.

Kanana-2-30B-A3B-Instruct-2601 — инструктивная языковая модель компании Kakao для диалогов и сценариев агентного ИИ. Она предназначена для следования сложным инструкциям, логических рассуждений и вызова инструментов; модель можно развернуть, например, через vLLM или SGLang с поддержкой выбора инструментов. Модель основана на архитектуре DeepSeek V3 с механизмом внимания MLA и разреженной смесью экспертов (MoE): всего 30 млрд параметров, из которых активируются около 3 млрд. Контекст составляет до 32 768 токенов. Семейство поддерживает корейский, английский, японский, китайский, тайский и вьетнамский языки. README указывает лицензию как отличную от стандартных вариантов, поэтому перед использованием следует проверить условия на странице репозитория Hugging Face. Для обработки контекста свыше 32 768 токенов требуется отдельно настроить YaRN; такая настройка может повлиять на качество коротких текстов. Метаданные указывают 2,9 млрд параметров, что расходится с описанием серии в README (30 млрд всего и около 3 млрд активных).

Это компактная модель классификации текста для определения языка. Она разработана на базе BERT и обучена автором репозитория на наборе hac541309/open-lid-dataset, который, согласно README, содержит 121 миллион предложений на 200 языках. Архитектура — BertForSequenceClassification: 4 слоя, скрытый размер 384, 6 голов внимания и около 25,2 млн параметров. Максимальная длина входа — 512 токенов. Модель предназначена для автоматического распознавания языка коротких и длинных текстовых фрагментов, например при маршрутизации запросов, сортировке документов или предварительной обработке многоязычных данных. README сообщает об accuracy и F1 около 0,973 на оценочном наборе примерно из 12 миллионов текстов; эти показатели зависят от состава данных и не гарантируют такое же качество на произвольных текстах. В метаданных указаны языки en, fr, de, es, ar и el, а README заявляет обучение на 200 языках. Модель принимает текст и выдаёт метку языка. Она распространяется по лицензии MIT. Возможны ошибки на очень коротких, смешанных по языкам, шумных или не представленных в обучении текстах; максимальная длина обрабатываемого контекста составляет 512 токенов.

Megrez-3B-Instruct —由无问芯穹（Infinigence AI）自主训练的指令微调大语言模型，面向对话、文本生成和端侧部署。模型采用带有 GQA 的 Llama-2 架构，约 2.6B 参数，支持最长 32K token 的上下文，并针对常见硬件优化了推理速度。模型支持中文和英文，适用于问答、写作、摘要、代码与数学推理等场景；还可配合 InfiniWebSearch 部署方案，根据对话内容决定是否调用网页搜索并总结带来源的信息。 README приводит результаты оценок на языковых, диалоговых, длинноконтекстных, кодовых и математических тестах, включая успешное прохождение заявленного 32K-теста поиска фрагмента в длинном контексте. Как и другие компактные языковые модели, Megrez может ошибаться в фактах, математике и рассуждениях; для ответов, требующих актуальных сведений, авторы рекомендуют подключать веб-поиск, а для точных задач — снижать temperature и проверять результаты. Лицензия репозитория — Apache-2.0.

MyAwesomeModel — модель семейства BERT от пользователя bench-induction-ai на Hugging Face, помеченная для извлечения признаков. Метаданные указывают архитектуру BertModel, библиотеку Transformers, формат PyTorch и лицензию MIT. Это позволяет использовать её для получения векторных представлений текста и последующих задач классификации или поиска.

thelamapi/next2.5-i1-GGUF — GGUF-версия Next 2.5, мультимодальной vision-language модели примерно на 4 млрд параметров, разработанной и дообученной компанией Lamapi в Турции на базе Qwen 3.5-4B. Модель ориентирована на работу с текстом и изображениями, включая анализ документов и OCR, визуально-пространственные задачи, рассуждения, математику, программирование и генерацию текста. В README также заявлена поддержка видео, включая длительные видеоматериалы. Модель поддерживает турецкий, английский, немецкий, испанский, французский, русский, китайский, японский и корейский языки; при этом особый акцент сделан на турецком и английском языках и культурном контексте Турции. Заявлен режим рассуждений с блоками <think>...</think> перед ответом и контекст до 262 144 токенов. Обучение включало instruction tuning и DPO, а также наборы данных для рассуждений, мультимодальных задач и генерации текста. К сильным сторонам относятся сочетание компактного размера, мультимодальности, заявленной производительности в задачах знаний и рассуждений и возможность использования на периферийных устройствах. Ограничения включают небольшой по современным меркам объём модели, возможные ошибки в распознавании изображений, видео и фактах, а также то, что приведённые в README сравнительные результаты не подтверждены независимой проверкой. Модель распространяется по лицензии Apache-2.0.

Карточка модели snacher/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.

unsloth/Qwen3-0.6B-unsloth-bnb-4bit — 4-битная версия причинной языковой модели Qwen3-0.6B, подготовленная Unsloth на базе Qwen/Qwen3-0.6B и предназначенная для запуска и дообучения через библиотеку Transformers. Модель ориентирована на генерацию текста, диалог, следование инструкциям, решение задач, написание кода, рассуждения и интеграцию с внешними инструментами. Модель содержит 0,6 млрд параметров, из которых 0,44 млрд приходятся не на embedding, и имеет 28 слоёв. В архитектуре внимания используется GQA с 16 головами Q и 8 головами KV. Максимальная длина контекста составляет 32 768 токенов. Qwen3 поддерживает переключение между режимами рассуждения и обычной генерации, а также более 100 языков и диалектов; при этом в карточке для данной версии явно указан английский язык. Ключевое преимущество версии — 4-битное квантование, снижающее требования к памяти и упрощающее локальный запуск, однако оно может сопровождаться некоторой потерей точности по сравнению с полноразмерными версиями. Для работы рекомендуется использовать актуальную версию Transformers; версии ниже 4.51.0 могут вызывать ошибку, связанную с поддержкой Qwen3. Модель распространяется по лицензии Apache-2.0.

Furiosa-AI Qwen3-30B-A3B-FP8 — оптимизированная сборка модели Qwen3-30B-A3B-FP8, распространяемая вместе с Furiosa Executable Bundle для запуска на ускорителях FuriosaAI RNGD с помощью Furiosa-LLM. Исходная модель относится к семейству Qwen3; карточка Furiosa-AI предназначена для работы с этой моделью в специализированной инфраструктуре. Это авторегрессионный текстовый Transformer с архитектурой Mixture-of-Experts (MoE): всего около 30,5 млрд параметров, из которых примерно 3,3 млрд активируются для каждого токена. Модель работает в режимах с рассуждением и без него, поддерживает переключение режима для каждого запроса, генерацию текста, следование инструкциям, мультиязычные сценарии и вызов инструментов. Входная и выходная модальности — текст; конкретный размер контекста и перечень поддерживаемых языков в README не указаны. Веса статически квантизованы в FP8, активации во время выполнения используют динамическую FP8-квантизацию, а KV-кэш сохраняется в 16-битной точности. Поддерживаются reasoning-parser для отделения рассуждений от ответа и hermes-парсер для вызова функций. Сборка рассчитана на Furiosa-LLM и FuriosaAI RNGD; на этой платформе используется тензорный параллелизм на 32 вычислительных элементах, что соответствует четырём картам RNGD. Это ограничивает непосредственную применимость сборки вне совместимой аппаратной и программной инфраструктуры, хотя исходная модель также запускается в других фреймворках. Модель распространяется по лицензии Apache 2.0.

AxionML/Qwen3.5-2B-NVFP4 — мультимодальная причинная языковая модель с vision encoder, разработанная AxionML на основе Qwen/Qwen3.5-2B. Модель предназначена для задач, сочетающих работу с текстом и изображениями, включая рассуждения, программирование, визуальное понимание, агентские сценарии и развёртывание в открытых системах обслуживания моделей. Модель содержит около 2 млрд параметров, 24 слоя и имеет нативную длину контекста 262 144 токена. Архитектура объединяет Gated Delta Networks, Gated Attention и разреженную Mixture-of-Experts согласно описанию семейства Qwen3.5; заявлена поддержка 201 языка и диалекта. Эта версия использует NVFP4-квантизацию весов и активаций линейных слоёв, выполненную с помощью NVIDIA TensorRT Model Optimizer, что уменьшает размер на диске и потребление GPU-памяти примерно в четыре раза по сравнению с BF16. Квантизация ориентирована на эффективный inference на GPU с архитектурой Blackwell. Сильными сторонами модели являются компактный размер, мультимодальность, длинный контекст и готовность к эффективному обслуживанию. Квантизация может немного снизить точность: в приведённых тестах NVFP4-версия уступает исходной Qwen3.5-2B на ряде языковых бенчмарков. README не содержит полного описания требований к оборудованию, всех результатов для визуальных задач или детальных ограничений применения. Модель доступна для коммерческого и некоммерческого использования по лицензии Apache 2.0.

Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive — мультимодальная модель, созданная HauhauCS на основе Qwen/Qwen3.6-35B-A3B. Это вариант с усиленным удалением отказов: по заявлению автора, модель не отказывается от запросов и сохраняет функциональность исходной модели, хотя иногда может добавлять короткие дисклеймеры. Подходит для диалогов, генерации и анализа текста, программирования, рассуждений, а также работы с изображениями и видео. Модель использует архитектуру MoE с 35 млрд общих параметров и примерно 3 млрд активных параметров на один проход. Она содержит 256 экспертов, из которых для каждого токена выбираются 8, включает 40 слоёв и гибридное сочетание linear attention и full softmax attention в соотношении 3:1. Заявлен нативный контекст до 262K токенов. Поддерживаются текст, изображения и видео; в README указаны английский, китайский и многоязычный режимы. Для работы с изображениями требуется дополнительный файл mmproj. Основные преимущества — высокая заявленная устойчивость к отказам, мультимодальность, большой контекст и доступность множества GGUF-квантизаций, включая оптимизированные HauhauCS варианты K_P. Ограничения включают отсутствие встроенных защитных ограничений в Aggressive-варианте, значительные требования к памяти: размер файлов варьируется примерно от 11 до 44 ГБ, а также необходимость корректно настроить совместимый runtime, например llama.cpp или LM Studio. Для сохранения возможностей режима рассуждений рекомендуется использовать контекст не менее 128K токенов. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — мультимодальная GGUF-версия модели Qwen3.8-27B, разработанная HauhauCS на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, рассуждений, агентских сценариев, обработки изображений и видео, а также работы с длинным контекстом. Профиль Aggressive ориентирован на прямые ответы без выраженного поведения отказа и с минимальными предварительными пояснениями в сложных запросах. Это плотная causal language model на 27 млрд параметров с vision encoder: 64 слоями, размером скрытого представления 5120, FFN размером 17408, словарём 248 320 токенов, 48 слоями Gated DeltaNet и 16 слоями gated attention. Поддерживаются английский, китайский и другие языки; заявлен нативный контекст 262 144 токена с возможностью расширения до 1 000 000. В текстовых GGUF сохранён встроенный NextN/MTP, а отдельный FastMTP-профиль предназначен для ускорения спекулятивного декодирования. Для входных изображений и видео требуется отдельный vision projector BF16. К сильным сторонам относятся широкий набор текстовых и мультимодальных возможностей, очень длинный контекст, несколько вариантов квантизации и ускорение FastMTP. Агрессивный профиль может быть менее подходящим для надёжно контролируемых и критичных к безопасности агентских задач, поскольку он специально уменьшает склонность к отказам. Доступны квантизованные файлы GGUF размером примерно от 10,32 до 31,46 ГБ; K_P-квантизации оптимизированы под эту модель. Лицензия — Apache-2.0.

google/gemma-3-4b-it-qat-int4-unquantized — мультимодальная диалоговая модель Google из семейства Gemma 3, основанная на Gemma 3 4B IT. Она принимает текст и изображения и генерирует текст; поддерживает чат, ответы на вопросы по изображениям, суммаризацию и другие задачи генерации текста. Семейство Gemma 3 рассчитано на контекст до 128 тыс. токенов и поддерживает более 140 языков. В репозитории указаны веса safetensors и лицензия Gemma. Модель подходит для чат-ботов, виртуальных помощников, создания и редактирования текстов, извлечения сведений из изображений и изучения больших текстовых материалов. Компактный размер семейства позволяет развёртывание на локальных компьютерах и собственной облачной инфраструктуре. Ответы могут содержать фактические ошибки, отражать предвзятость обучающих данных и хуже справляться с неоднозначными формулировками и сложными открытыми задачами; для приложений с пользовательским контентом необходимы подходящие меры безопасности.

AtomicChat/gemma-4-31B-it-GGUF — это квантизированная GGUF-версия мультимодальной модели Google Gemma 4 31B Instruct, подготовленная командой Atomic Chat на основе оригинальных весов google/gemma-4-31B-it. Модель предназначена для локального и полностью автономного применения в чат-ботах, генерации и анализе текста, задачах рассуждения, а также обработки изображений совместно с текстом. Для работы с изображениями в репозитории поставляется vision-проектор mmproj. Модель содержит 30,7 млрд параметров и 60 слоёв. Она использует плотную decoder-архитектуру Gemma4ForConditionalGeneration с гибридным вниманием: sliding-window с окном 1024 токена и глобальным вниманием; предусмотрены 32 attention heads и 16 KV heads. Заявленная длина контекста — 256 тысяч токенов, размер словаря — 262 тысячи. Поддерживаются текстовая и визуальная модальности. Доступны варианты квантования от Q2_K до Q8_0; кванты откалиброваны с importance matrix, что должно помогать сохранять качество при уменьшении размера. Рекомендуемым компромиссом между размером, скоростью и качеством указан Q4_K_M. Сильные стороны модели — большой контекст, мультимодальность, возможности рассуждения, автономная работа и широкий выбор вариантов квантования для разных объёмов памяти. Ограничения связаны с высокими требованиями к памяти: размер файлов варьируется примерно от 11,9 до 32,6 ГБ, а низкобитные варианты могут заметно терять качество. Для корректной работы в llama.cpp требуется применять chat template Gemma 4 через параметр --jinja; для изображений необходим vision-проектор и поддержка соответствующих инструментов. Репозиторий распространяется по лицензии Apache-2.0.

QuantFactory/Meta-Llama-3.1-8B-Instruct-GGUF — это квантованная версия инструкционной языковой модели Meta Llama 3.1 с примерно 8 млрд параметров, подготовленная QuantFactory в формате GGUF. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции, поддержку пользователей и другие задачи обработки естественного языка. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель относится к текстовым генеративным системам; сведения о контекстном окне, конкретном методе и уровне квантования, требованиях к памяти и производительности в предоставленных данных отсутствуют. Формат GGUF обычно ориентирован на локальный запуск, однако точные параметры использования для данной сборки не указаны. Модель распространяется по лицензии Llama 3.1 Community License от Meta. При распространении материалов или производных продуктов необходимо соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Llama», сохранение атрибуции и соблюдение Acceptable Use Policy. Для продуктов с более чем 700 млн ежемесячных активных пользователей предусмотрено дополнительное требование получить отдельное разрешение Meta.

Nex-N2.5-mini-APEX-I-MiniPlus-V2.1-GGUF — это квантизированная версия модели Nex-N2.5-mini, разработанной Nex AGI и подготовленной в формате GGUF пользователем IsValorum. Модель предназначена для генерации текста, рассуждений, программирования и локального запуска через llama.cpp, включая сценарии с частичной или полной выгрузкой весов в системную память и большими контекстами. Модель использует разреженную архитектуру Mixture of Experts с 40 слоями и 256 микроэкспертами. Заявлена поддержка контекста до 256K токенов и языков English, Chinese, Spanish, French, German, Portuguese, Italian, Russian, Japanese, Korean, Vietnamese, Thai и Arabic. В текущей версии применена тензорно-ориентированная квантизация: маршрутизаторы gate_inp сохранены в F32, выходная голова — в Q6_K, attention gates — в Q8_0, а основные компоненты используют варианты IQ3_XXS, Q3_K, Q4_K, Q5_K и Q6_K. Размер сборки составляет примерно 13,74 GiB, или около 14,7 GB. К сильным сторонам относятся сравнительно небольшой объём, сохранение точности маршрутизации экспертов, оптимизация для работы в системной RAM и поддержка длинного контекста. README сообщает о perplexity WikiText-2 6,4725 ± 0,1635 и близком к неквантизированной версии качестве, однако эти результаты следует считать заявленными авторами сборки. Ограничения связаны с потерями качества, присущими квантизации, зависимостью скорости от пропускной способности памяти и требований к объёму RAM или VRAM; для комфортной работы с контекстом до 256K могут потребоваться значительные ресурсы. Модель распространяется по лицензии Apache-2.0.

Карточка модели mahrukhsaeed/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.

Карточка модели SpectreFestival/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.

Карточка модели Yahel666/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.

Карточка модели zsansan/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.

unsloth/Qwen3.5-4B-GGUF — компактная мультимодальная модель семейства Qwen3.5, разработанная командой Qwen и подготовленная в формате GGUF компанией Unsloth. Она предназначена для локального запуска, а также для задач, связанных с обработкой текста и изображений: рассуждений, программирования, визуального понимания и агентских сценариев. Модель поддерживает 201 язык и диалект. Это каузальная языковая модель с vision-энкодером и гибридной архитектурой, объединяющей Gated Delta Networks, Gated Attention и разреженный Mixture-of-Experts. Модель содержит около 4 млрд параметров, 32 слоя и имеет нативную длину контекста 262 144 токена с возможностью расширения до 1 010 000 токенов. Указанные характеристики делают её ориентированной на эффективный инференс с относительно низкими требованиями к ресурсам, однако фактическая скорость и доступный контекст зависят от используемого движка и оборудования. Сильные стороны модели — сочетание текстовых и визуальных возможностей, широкий языковой охват, длинный контекст и пригодность для локального развертывания и дообучения с помощью Unsloth. Ограничения, включая качество на конкретных языках, типах изображений и прикладных задачах, в README подробно не описаны и требуют самостоятельного тестирования. Модель распространяется по лицензии Apache 2.0.

FadedRedStar/Qwen3.5-4B-heretic-imatrix-GGUF — это квантизированная GGUF-версия мультимодальной модели Qwen3.5-4B-heretic. Базовая модель разработана командой Qwen компании Alibaba, исходные веса подготовлены coder3101, а GGUF-квантизацию с importance matrix выполнил FadedRedStar. Модель предназначена для мультимодального рассуждения, генерации текста, программирования, вызова инструментов и агентских сценариев, включая работу с изображениями при использовании vision-проектора. Модель представляет собой плотный transformer примерно на 4 млрд параметров с интегрированным vision encoder и поддержкой раннего объединения модальностей. Заявлены контекстное окно до 262 144 токенов с возможностью расширения примерно до 1 млн, поддержка 201 языка и диалекта, tool calling и формат запросов ChatML. Основные варианты весов используют квантизации IQ4_NL, Q4_K_M и Q5_K_M, оптимизированные с помощью importance matrix; vision-тензоры доступны в Q8_0 и BF16. Предусмотрены дополнительные MTP-файлы для speculative decoding. Сильной стороной модели является сочетание мультимодальности, большого контекстного окна и относительно низких требований к ресурсам, а importance matrix должна улучшать сохранение качества при низкой разрядности. Существенное ограничение — модель прошла abliteration с подавлением направлений отказа, поэтому её поведение в части отказов отличается от исходной Qwen3.5-4B и может быть менее безопасным. Приведённые показатели отказов и расхождения KL являются самоотчётными и не подтверждены независимым тестированием. Для запуска требуются совместимые с GGUF инструменты, например llama.cpp, а точные возможности зависят от выбранной квантизации и vision-проектора. В метаданных указана лицензия Apache-2.0.

vmarcelo/Qwen3.8-27B-MIX_GGUF — набор пользовательских смешанных GGUF-квантизаций модели Qwen/Qwen3.8-27B-FP8, подготовленный vmarcelo с использованием llama.cpp, importance matrix и переопределений типов квантизации для отдельных тензоров. Базовая модель представляет собой плотную мультимодальную модель на 27 млрд параметров с гибридной архитектурой GatedDeltaNet и Gated Attention, а также головой Multi-Token Prediction. Поддерживается работа с текстом и изображениями; заявлена многоязычность, включая английский, французский, немецкий и японский языки. Доступны две версии: IQ4-MIX размером 14,10 ГБ и IQ3-MIX размером 12,58 ГБ. IQ4-MIX ориентирована на более высокое качество, программирование, рассуждения и работу с изображениями, тогда как IQ3-MIX обеспечивает примерно на 14% большую скорость генерации, сниженное потребление памяти и больший запас для длинного контекста, но с небольшим снижением качества, особенно из-за более сильного квантования линейного внимания. На видеокарте AMD Radeon RX 9070 XT с 16 ГБ VRAM средняя скорость генерации составляет около 33 токенов в секунду для IQ4-MIX и 37,5 токена в секунду для IQ3-MIX. В зависимости от версии, конфигурации KV-кэша и среды выполнения доступны контексты от 16–64K до 64–128K токенов; измерения зависят от backend, размера пакета и других параметров. Модель предназначена для локального запуска через совместимые GGUF-рантаймы, включая LM Studio и llama.cpp с Vulkan. Для обработки изображений требуется отдельный файл vision encoder mmproj-F16.gguf. Лицензия указана как other с названием qwen-research; применимые условия следует уточнять по лицензии базовой модели Qwen/Qwen3.8-27B-FP8.