I.6Перевод и языковая адаптация

Stockmark-2-100B-Instruct — плотная авторегрессионная языковая модель семейства Llama, разработанная Stockmark Inc. с нуля. Она содержит около 95,1 млрд параметров, обучена примерно на 2 трлн токенов: 60% английских данных, 30% японских и 10% кода. После предобучения модель прошла SFT и DPO на синтетических японских данных для улучшения следования инструкциям. Модель предназначена для диалогов и генерации текста, особенно на японском языке, а также поддерживает английский. Контекстное окно составляет 32 768 токенов; архитектура использует 86 слоёв и групповое запросное внимание с 72 головами Q и 8 головами KV. В опубликованной оценке Japanese MT-bench модель показала средний результат 7,87, включая задачи извлечения информации, ролевого диалога, STEM и программирования. Для запуска доступны веса в формате Safetensors; README приводит примеры использования с Transformers и vLLM. Модель распространяется по лицензии MIT. Для практического развертывания требуется значительный объём вычислительной памяти из-за размера модели; результаты бенчмарка не гарантируют качество в конкретном приложении.

Typhoon2-Qwen2.5-7B-Instruct — инструктивная языковая модель, разработанная командой Typhoon AI и дообученная на базе Qwen2.5-7B. Это плотная авторегрессионная модель архитектуры Qwen2 с 7,1 млрд параметров, предназначенная для диалога и выполнения инструкций на тайском и английском языках. Метаданные указывают контекст до 32 768 токенов; для более длинных текстов README описывает расширение контекста с помощью YaRN. Модель подходит для диалоговых помощников, вызова функций, решения математических задач, программирования и работы с длинными текстами. В приведённых разработчиками оценках она показывает результаты на тайском и английском языках, включая задачи следования инструкциям и переключения между языками. Модель принимает текст и генерирует текст. Это развивающаяся модель: ответы могут быть неточными, предвзятыми или нежелательными, поэтому её следует оценивать применительно к конкретному сценарию. Расширение контекста YaRN может ухудшить качество на коротких запросах при статическом масштабировании. Распространяется по лицензии Apache-2.0.

Aya Vision 8B — мультимодальная модель Cohere Labs с открытыми весами, содержащая 8 млрд параметров. Она принимает изображения и текст и генерирует текст для задач понимания визуального содержимого и диалога по изображениям. Модель построена на мультиязычной языковой модели на основе Command R7B, дополнительно обученной по рецепту Aya Expanse, и визуальном кодировщике SigLIP2-patch14-384, соединённых мультимодальным адаптером. Контекст составляет 16K токенов; изображения произвольного размера преобразуются в поддерживаемое разрешение и кодируются с использованием до 12 тайлов и миниатюры. Модель предназначена для OCR, описания изображений, визуальных рассуждений, суммаризации и ответов на вопросы по изображениям; также поддерживает текстовый ввод. Заявлена работа с 23 языками, включая русский, английский, китайский, арабский, японский и хинди. Веса распространяются по лицензии CC-BY-NC 4.0; использование также должно соответствовать политике допустимого использования Cohere Labs. Лицензия ограничивает коммерческое применение.

EXAONE-4.5-33B-GGUF — квантованная версия открытой мультимодальной модели EXAONE 4.5, разработанной LG AI Research. Модель объединяет причинную языковую модель и специализированный визуальный энкодер и предназначена для работы с текстом и изображениями, включая понимание документов, визуальные вопросы и ответы, мультимодальное рассуждение и задачи на корейском языке. Модель имеет 33 млрд параметров, из которых 31,7 млрд приходятся на языковую часть и 1,29 млрд — на визуальный энкодер. Используется плотная архитектура с 64 основными слоями и одним MTP-слоем, гибридным вниманием, включающим локальное sliding window attention и глобальное внимание, а также Grouped Query Attention в визуальном энкодере. Контекст поддерживает до 262 144 токенов, размер скрытого представления составляет 5120, словарь — 153 600 токенов. Заявлены языки: английский, корейский, испанский, немецкий, японский и вьетнамский. Дата отсечения знаний — декабрь 2024 года. Сильными сторонами модели являются мультимодальность, понимание документов, корейское контекстное рассуждение и конкурентные результаты на общих и визуально-языковых бенчмарках. Версия GGUF доступна с квантованиями языковой модели Q8_0, Q6_K, Q5_K_M, Q4_K_M и IQ4_XS; веса визуального энкодера представлены в форматах F32, F16 и BF16. Ограничения включают зависимость качества от выбранного уровня квантования и значительные требования к вычислительным ресурсам из-за размера модели. Лицензия указана как exaone; конкретные условия следует уточнять в файле LICENSE.

Falcon-H1-1.5B-Instruct-GGUF — инструкционная языковая модель, разработанная Technology Innovation Institute (TII). Это каузальная decoder-only модель с гибридной архитектурой Transformers и Mamba, предназначенная для генерации текста и выполнения инструкций, включая задачи рассуждения, математики, работы с научными вопросами, программирования и следования сложным указаниям. Модель доступна в формате GGUF и рассчитана на использование с llama.cpp; также поддерживается запуск через Transformers и vLLM. Модель относится к семейству Falcon-H1 и имеет размер 1,5 млрд параметров. Она поддерживает английский и многоязычные сценарии, включая арабский, китайский, чешский, немецкий, испанский, французский, хинди, итальянский, японский, корейский, нидерландский, польский, португальский, румынский, русский, шведский и урду. В опубликованных оценках Falcon-H1-1.5B показывает сильные результаты среди сопоставимых компактных моделей в общих задачах, математике, научных вопросах, программировании и следовании инструкциям, однако уступает некоторым моделям на отдельных тестах. Длина контекста и точные требования к ресурсам в README не указаны. Использование регулируется лицензией Falcon-LLM License; приведена ссылка на её условия. Модель подходит для локального запуска и приложений, где важны компактность, многоязычность и эффективность, но результаты следует дополнительно проверять для критически важных задач.

Mungert/gemma-3n-E2B-it-GGUF — инструкционная мультимодальная модель семейства Gemma 3n, разработанная Google DeepMind и представленная в формате GGUF. Репозиторий создан с использованием llama.cpp. Модель предназначена для эффективного запуска на устройствах с ограниченными ресурсами и поддерживает обработку текста, изображений, видео и аудио с генерацией текстовых ответов. Архитектура использует MatFormer и технологию выборочной активации параметров: фактический размер модели составляет около 6 млрд параметров, но за счёт выгрузки редко используемых матриц требования к памяти сопоставимы с традиционной моделью эффективного размера 2 млрд параметров. Поддерживаются изображения с разрешением 256×256, 512×512 или 768×768, аудио одного канала, кодируемое со скоростью 6,25 токена в секунду, и общий контекст до 32 тысяч токенов. Максимальная длина вывода также составляет до 32 тысяч токенов за вычетом токенов входного запроса. Модели Gemma 3n обучались на данных более чем для 140 разговорных языков. Модель подходит для ответов на вопросы, суммаризации документов, анализа изображений, аудио и видео, а также для других инструкционных и мультимодальных сценариев. К сильным сторонам относятся сочетание нескольких модальностей и сниженные требования к ресурсам; при этом в карточке не приведены результаты тестов, точные параметры GGUF-квантизации и подробные сведения о поддерживаемых языках. Использование регулируется лицензией Gemma и условиями Google; доступ к исходной модели на Hugging Face требует принятия условий лицензии.

OnlyTextLLMs выпустила текстовую версию инструкционной модели Google Gemma 4 12B IT: из исходной модели удалены блоки обработки изображений и аудио и мультимодальные специальные токены, а текстовая часть и LM-голова сохранены. Это плотная причинная языковая модель Gemma4UnifiedForCausalLM с 11,6 млрд параметров и контекстом до 262 144 токенов; репозиторий содержит веса Safetensors в формате bfloat16. Модель предназначена для диалогов и генерации текста на основе текстовых запросов. По заявлению авторов, дообучение не проводилось, новые обучающие данные и возможности не добавлялись. Модель распространяется по лицензии Apache-2.0.

GigaChat-20B-A3B-instruct-v1.5-bf16 — диалоговая модель семейства GigaChat, основанная на ai-sage/GigaChat-20B-A3B-instruct-v1.5. В репозитории указана архитектура DeepseekForCausalLM, формат весов PyTorch bf16 и размер 3,1 млрд параметров. Модель рассчитана на диалог и генерацию текста, поддерживает контекст до 131 072 токенов и русский и английский языки. В этой версии улучшен alignment: в README сообщается о росте результатов Arena Hard RU с 20,8 до 29,6 и Arena General с 41,1 до 49,1; остальные приведённые метрики остались на прежнем уровне. Подходит для ведения диалога и генерации ответов на запросы. Для запуска README приводит пример использования с Transformers, PyTorch и Accelerate; также доступны варианты весов fp32 и int8, а отдельно — сборки GGUF и Ollama. Модель дообучена на базовой версии GigaChat-20B-A3B-instruct-v1.5 и распространяется по лицензии MIT. Результаты метрик отражают сведения из карточки модели; независимые оценки качества и ограничения в предоставленном README не описаны.

Mungert/GigaChat3-10B-A1.8B-GGUF — GGUF-квантизированная версия диалоговой модели GigaChat3-10B-A1.8B, созданная на основе ai-sage/GigaChat3-10B-A1.8B-bf16 с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с русским и английским языками, а также другими языками, добавленными в обучающий корпус. Модель использует архитектуру Mixture-of-Experts (MoE) с 10 млрд общих и 1,8 млрд активных параметров, Multi-head Latent Attention (MLA) для снижения требований к памяти и Multi-Token Prediction (MTP) для ускорения генерации. Обучение проводилось на 20 трлн токенов, включая данные по книгам, академическим материалам, программированию и математике, а также около 5,5 трлн токенов синтетических данных. Длина контекста в представленном описании не указана. GGUF-версия ориентирована на эффективный локальный инференс в экосистеме llama.cpp. В сборке применяется квантизация с выборочным повышением точности отдельных важных слоёв, что может улучшать качество при заданном уровне квантизации, но увеличивает размер файла. Ограничениями являются возможная потеря точности по сравнению с исходной bf16-версией и отсутствие в карточке подробностей о конкретных вариантах квантизации, размере файлов и измерениях качества именно этой GGUF-сборки. Лицензия — MIT.

duyntnet/granite-3.0-2b-instruct-imatrix-GGUF — GGUF-квантизации модели Granite-3.0-2B-Instruct, разработанной командой Granite компании IBM. Модель дообучена на базе Granite-3.0-2B-Base с использованием открытых наборов данных для обучения инструкциям, синтетических данных, supervised fine-tuning, обучения с подкреплением для выравнивания и объединения моделей. Она содержит около 2 миллиардов параметров и предназначена для генерации текста по инструкциям. Модель подходит для создания ассистентов и бизнес-приложений, суммаризации, классификации и извлечения текста, ответов на вопросы, Retrieval Augmented Generation (RAG), задач, связанных с кодом, function calling и многоязычного диалога. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Формат GGUF ориентирован на локальный запуск через llama.cpp и совместимые интерфейсы, включая KoboldCPP, Ollama, text-generation-webui, GPT4All и Jan. К сильным сторонам относятся компактный размер, широкий набор прикладных сценариев, структурированный чат-формат и поддержка 12 языков. README не содержит сведений о длине контекста, конкретных вариантах квантизации, требованиях к оборудованию или результатах бенчмарков, поэтому производительность и ограничения в этих аспектах оценить нельзя. Для исходной модели указана лицензия Apache 2.0; для данного репозитория в метаданных отмечена лицензия other, без дополнительных пояснений.

NeuML/language-id — модель NeuML для определения языка по тексту. Это экспорт модели FastText Language Identification в формат staticvectors; инференс выполняется в Python с NumPy, а распознавание опирается на символьные n-граммы, что обеспечивает эффективную работу. Модель предназначена для автоматической классификации коротких или длинных текстовых фрагментов по языку. Её можно использовать для предварительной маршрутизации текста в многоязычных конвейерах обработки данных. Карточка указывает многоязычную поддержку, но не перечисляет отдельные языки. Модель распространяется по лицензии CC BY-SA 3.0.

RedHatAI/Llama-3.2-3B-quantized.w8a8 — это квантованная текстовая языковая модель семейства Llama 3.2, размещённая Red Hat AI и основанная на модели Meta Llama 3.2. В репозитории указаны формат Safetensors, 8-битная точность и схема W8A8; отдельная карточка модели отсутствует, поэтому сведения о точной процедуре квантования и дополнительных оценках для этой конкретной версии не заявлены. Модель предназначена для генерации текста и кода, а также для адаптации под локальные и периферийные сценарии с ограниченными вычислительными ресурсами. Это авторегрессионная модель с оптимизированной Transformer-архитектурой, примерно 3,21 млрд параметров, текстовыми входами и выходами, поддержкой английского, немецкого, французского, итальянского, португальского, hindi, испанского и тайского языков. Для квантованных текстовых моделей Llama 3.2 заявлен контекст до 8 тысяч токенов. Ключевые преимущества — меньшие требования к памяти, размеру хранения и вычислениям по сравнению с полноточной версией; ограничение — возможная потеря качества из-за квантования, а также отсутствие опубликованной карточки и специфических результатов тестирования именно для данного репозитория. Базовая модель Llama 3.2 разработана Meta, а использование регулируется Llama 3.2 Community License — специальной коммерческой лицензией Meta с дополнительными требованиями Acceptable Use Policy.

Bineric Lynx Instruct 30B — языковая модель компании Bineric из Осло, дообученная на основе Qwen/Qwen3-30B-A3B-Instruct-2507 для европейских языков с особым упором на норвежский, шведский, датский и исландский. Она предназначена для диалогов, генерации текстов и выполнения инструкций; в карточке указаны результаты оценки на задачах распознавания именованных сущностей, анализа тональности, чтения с пониманием и суммаризации на северных языках. Модель использует архитектуру Qwen3 MoE с 30 млрд параметров суммарно и примерно 3 млрд активных параметров на токен; контекстное окно составляет 262 144 токена. Репозиторий содержит веса Safetensors, библиотека запуска — Transformers. Карточка заявляет поддержку более 100 языков, а метаданные подтверждают английский, норвежский, шведский и датский; языки с основными оценками — также исландский. Доступны варианты в bf16, 8-битном и 4-битном представлении, причём квантование может снижать качество. Сильные стороны по приведённым оценкам — распознавание сущностей и понимание прочитанного на северных языках, а также датские тесты на знания. Слабее модель справляется с грамматическими суждениями, исландским здравым смыслом и норвежскими идиомами. Лицензия — Apache-2.0; модель доступна для самостоятельного размещения и интеграции через API.

tbhrc/meta_llama_3_1_8b_instruct_4bit — конверсия Meta Llama 3.1 8B Instruct в формат MLX с 4-битным представлением весов. Исходную модель разработала Meta; конверсию выполнил mlx-community, а репозиторий размещён пользователем tbhrc. Модель представляет собой плотную авторегрессионную LlamaForCausalLM с 7,5 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для диалоговой генерации текста и поддерживает интерфейс вызова инструментов. В метаданных перечислены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. README указывает на конверсию MLX из meta-llama/Meta-Llama-3.1-8B-Instruct; лицензия — llama3.1. Репозиторий описывает конвертированную MLX-версию с 4-битными весами, тогда как в метаданных формат файлов указан как safetensors.

MaziyarPanahi/Mistral-Large-Instruct-2407-GGUF — это набор файлов модели в формате GGUF для инструкционной языковой модели Mistral-Large-Instruct-2407, разработанной компанией Mistral AI. Репозиторий содержит квантизированные варианты исходной модели, включая уровни 2-, 3-, 4-, 5-, 6- и 8-битной квантизации. Модель предназначена для генерации текста и выполнения задач по инструкциям, а формат GGUF ориентирован на локальный запуск и эффективное использование ресурсов. Файлы совместимы с llama.cpp и рядом связанных инструментов и приложений, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие. Поддерживаются сценарии локального диалога, генерации текста и интеграции через программные библиотеки или API-совместимые серверы. Ключевые характеристики исходной архитектуры, количество параметров, поддерживаемые языки, размер контекста и мультимодальные возможности в README не указаны. Сильными сторонами являются несколько вариантов квантизации и широкая совместимость с экосистемой GGUF; при этом степень потери качества и требования к памяти зависят от выбранного уровня квантизации. Лицензия в представленном описании не указана.

facebook/mms-lid-126 — модель проекта Massive Multilingual Speech от Facebook, дообученная для определения языка речи. Она принимает аудио и выдаёт распределение вероятностей по 126 языковым классам; построена на архитектуре Wav2Vec2 и дообучена на базе facebook/mms-1b. Размер модели указан в карточке как 1 млрд параметров, а в метаданных — 1,3 млрд. Модель предназначена для автоматической идентификации языка по речевому аудио и поддерживает речь на 126 языках. Для работы с ней подходят аудиозаписи с частотой дискретизации 16 кГц. Лицензия CC-BY-NC 4.0 разрешает использование на условиях Creative Commons «С указанием авторства — Некоммерческое использование».

NVIDIA-Nemotron-Nano-9B-v2-Base — базовая большая языковая модель NVIDIA для продолжения заданного текста. Она обучена с нуля на корпусе примерно из 20 триллионов токенов, а затем подвергнута прореживанию и дистилляции из NVIDIA-Nemotron-Nano-12B-v2-Base на примерно 480 миллиардах токенов. Архитектура Nemotron-Hybrid сочетает преимущественно слои Mamba-2 и MLP с четырьмя слоями внимания; размер модели — 8,89 млрд параметров. Модель принимает и генерирует текст, поддерживает контекст до 128 тысяч токенов и рассчитана на разработчиков и исследователей, создающих языковые модели и приложения на их основе. Она обучалась на английском и 15 других естественных языках, а также на данных для 43 языков программирования; в корпус входят веб-страницы, диалоги, статьи и материалы по математике, науке, финансам и праву. NVIDIA указывает готовность к коммерческому использованию; лицензия в карточке обозначена как other, поэтому перед использованием следует проверить её условия. Модель оптимизирована для ускорения на GPU NVIDIA, а для конкретного сценария требуется отдельная проверка качества и безопасности.

OpenLID-v2 — модель классификации текста для автоматического определения языка. Её разработали Laurie Burchell, Alexandra Birch, Nikolay Bogoychev и Kenneth Heafield; она представляет собой улучшенную версию OpenLID и использует библиотеку fastText. В README модель описана как высокопроизводительная и охватывающая широкий набор языков. Модель подходит для определения языка коротких текстов и строк, например для маршрутизации запросов по языку, предварительной сортировки корпусов и добавления языковых меток к пользовательскому контенту. В карточке указано NLP-язык en, а репозиторий связан с датасетом OpenLID-v2. Лицензия — GPL-3.0.

Карточка модели ashphisher/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.

Карточка модели zomasec/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.

Qwen3-30B-A3B-Instruct-2507-FP8 — это инструктивная авторегрессионная текстовая модель семейства Qwen3, представленная в репозитории furiosa-ai и предназначенная для запуска на аппаратной платформе FuriosaAI RNGD с использованием Furiosa-LLM. В основе лежит архитектура Mixture-of-Experts (MoE): модель содержит около 30,5 млрд параметров, из которых примерно 3,3 млрд активируются для каждого токена. Модель работает только в режиме non-thinking, поддерживает ввод и вывод текста, а также выпущена под лицензией Apache 2.0. Модель предназначена для следования инструкциям, рассуждений над текстом, многоязычных задач и использования инструментов через function calling. Она поддерживает вызовы инструментов с parser hermes, применяемым в серии Qwen3, и может обслуживаться через OpenAI-совместимый API Furiosa-LLM. Указанный вариант рассчитан на работу с четырьмя картами FuriosaAI RNGD, использующими tensor parallelism с размером 32 processing elements. Веса статически квантизированы в FP8, активации динамически квантизируются в FP8 во время выполнения, а KV-кэш сохраняется в 16-битной точности. Это может снизить требования к памяти и повысить эффективность инференса, но README не содержит данных о размере контекстного окна, поддерживаемых языках, точных показателях качества и производительности, поэтому эти характеристики оценить нельзя. Основное ограничение — привязка описанной конфигурации к Furiosa-LLM и оборудованию FuriosaAI RNGD; для других фреймворков следует обращаться к карточке исходной модели Qwen.

Qwen3.6-35B-A3B-imatrix-GGUF — это квантизированная GGUF-версия базовой модели Qwen3.6-35B-A3B, подготовленная liodon-ai с использованием калибровки importance matrix (iMatrix). Базовую модель разработала команда Qwen компании Alibaba Cloud. Модель предназначена для локальной генерации текста, диалогов и выполнения инструкций через llama.cpp, Ollama, LM Studio и Jan. Модель использует MoE-архитектуру с 35 млрд параметров, из которых активно 3,5 млрд, и поддерживает контекст до 128K токенов. Доступны варианты квантизации от Q2_K до Q8_0, включая i-кванты IQ2_M, IQ3_M и IQ4_XS. iMatrix-калибровка повышает связность и качество следования инструкциям при низкой разрядности по сравнению со стандартной квантизацией, сохраняя меньший размер файлов. Ограничения зависят от выбранного варианта: более сильная квантизация снижает качество, а для запуска требуются от 6 до 36,9 ГБ памяти в зависимости от файла. Лицензия Apache 2.0.

Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive — мультимодальная версия модели Qwen3.6-35B-A3B, переобработанная и опубликованная HauhauCS. Это MoE-модель для генерации и понимания текста, изображений и видео, предназначенная для общего общения, рассуждений, программирования, анализа визуального контента и других задач, где требуется модель без встроенных отказов. По данным README, модель полностью сохраняет заявленные возможности исходной модели, но ориентирована на максимально свободную генерацию; иногда она может добавлять короткие оговорки, не являющиеся отказом. Модель содержит 35 млрд параметров, из которых около 3 млрд активируются на каждом проходе. Архитектура включает 256 экспертов, 8 экспертов выбираются для каждого токена, 40 слоёв и гибридное сочетание linear attention и full softmax attention в соотношении 3:1. Заявлен нативный контекст 262 тыс. токенов. Поддерживаются текст, изображения и видео; указаны английский, китайский и другие языки. Распространяется в формате GGUF с вариантами квантования от Q2 до Q8, включая оптимизированные HauhauCS K_P-кванты; для визуального ввода требуется отдельный файл mmproj. Сильными сторонами являются мультимодальность, большой контекст, MoE-эффективность по числу активных параметров, широкий выбор квантований и отсутствие встроенных отказов, что подходит для сценариев, где нужна максимально неограниченная генерация. Ограничения включают потенциально менее безопасное поведение, необходимость достаточных вычислительных ресурсов для крупных квантов и зависимость мультимодального режима от дополнительного mmproj-файла. Модель распространяется по лицензии Apache-2.0.

KridgeDookie/Qwen3.8-27B-ABLITERATED-UNCENSORED-PHILADELPHIA-CLASS — мультимодальная производная модель на базе Qwen/Qwen3.8-27B. Она сохраняет гибридную текстово-визуальную архитектуру исходной модели, имеет 27 млрд параметров и распространяется в формате BF16 Safetensors, а также в нескольких текстовых вариантах GGUF. Модель заявлена как многоязычная и предназначена для диалогов, генерации и анализа текста, программирования, работы с JSON, объяснений, математических задач и обработки изображений. Для запуска в Transformers рекомендуется около 56 ГБ памяти под веса без учёта служебных расходов и KV-кэша; в примере для Ollama указан контекст 32768 токенов, но это не подтверждает максимальный контекст модели. Основная особенность версии PHILADELPHIA CLASS — существенное снижение отказов от ответа. По внутренним автоматизированным проверкам авторов, модель не отказала в 842 основных и 126 отложенных запросах, а также прошла 23 из 24 проверок связности; эти результаты не являются независимым аудитом или публичными бенчмарками, причём часть тестовых запросов использовалась при настройке преобразования. Возможные ограничения включают отсутствие гарантии сохранения исходных показателей рассуждений, точности, программирования и компьютерного зрения, зависимость поведения от квантования и серверной части, а также отсутствие MTP-головы, из-за чего недоступно спекулятивное декодирование на её основе. Safetensors предназначен для проверенного мультимодального режима, тогда как GGUF-файлы являются текстовыми и требуют отдельного совместимого vision projector для работы с изображениями. Модель выпущена по лицензии Apache License 2.0.

PollardWeights/Qwen3.8-27B-Pollard — это квантизированная версия модели Qwen/Qwen3.8-27B, подготовленная командой PollardWeights. Модель предназначена для диалоговых и текстовых задач, а также может работать с изображениями при использовании отдельного vision-проектора mmproj-Qwen3.8-27B-bf16.gguf. Она поставляется в формате GGUF и совместима с llama.cpp, ik_llama.cpp, Ollama, LM Studio и другими приложениями на их основе. Модель содержит около 27,8 млрд параметров и использует архитектуру qwen3_5. В репозитории доступны варианты IQ3_S, IQ4_XS и Q6_K размером примерно 12,08, 15,72 и 22,43 ГБ соответственно. Это варианты mixed-precision квантизации с измеренным распределением битов по слоям, учитывающим их чувствительность, поэтому они рассчитаны на разные ограничения по оперативной памяти или VRAM. Основной README указывает английский язык; размер контекста не указан. К сильным сторонам относятся существенное уменьшение размера по сравнению с версией f16 — с 55,56 до 12,08 ГБ для IQ3_S — и возможность локального запуска на более доступном оборудовании. К ограничениям относятся потенциальная потеря качества из-за квантизации, зависимость производительности от оборудования и необходимость отдельного, неквантизированного vision-проектора для работы с изображениями. Лицензия — Apache-2.0, унаследованная от базовой модели.

Qwen3.8-Flash-Next 4-bit — экспериментальная 4-битная квантованная версия модели Qwen/Qwen3.8-Flash-Next, подготовленная и обслуживаемая проектом Rapid-MLX для компьютеров Apple Silicon. Модель предназначена для генерации текста, диалоговых приложений, программирования и других задач локального инференса через MLX; поддерживаются OpenAI- и Anthropic-совместимые серверные интерфейсы. В данной реализации доступен только текстовый режим: vision tower не включён. Архитектура исходной модели включает около 180 млрд параметров, примерно 6 млрд активируемых на токен, 512 экспертов с маршрутизацией 10 экспертов и одного общего, 48 слоёв, гибрид Gated DeltaNet и sparse attention, а также нативный контекст до 262 144 токенов. Артефакт использует смешанную 4-битную аффинную квантализацию, занимает около 105 ГБ при скачивании и требует примерно 103–105 ГБ активной unified memory во время работы. Поддержка native multi-token prediction доступна как опция и может ускорять генерацию длинных ответов, однако увеличивает требования к памяти и время до первого токена. Сильными сторонами модели являются большой контекст, высокая вычислительная эффективность за счёт разреженной смеси экспертов, локальная работа на Apple Silicon и оптимизации Rapid-MLX для длинного контекста и повторного использования промптов. Ограничения — экспериментальный статус, значительные требования к unified memory, отсутствие физического тестирования на системах с 128 ГБ памяти и недоступность визуального режима. Для использования требуется Rapid-MLX версии 0.13.2 или новее; в Rapid-MLX Desktop модель допускается на Mac с объёмом unified memory от 128 ГБ. Указана лицензия qwen-community-1.0.

Qwen-7B 是阿里云开发的通用预训练大语言模型，采用稠密 Transformer 架构，使用 RoPE、SwiGLU 和 RMSNorm。README указывает размер 7 млрд параметров, тогда как метаданные Hugging Face сообщают 11,4 млрд; поэтому фактический размер в описании не приводится. Модель обучена более чем на 2,4 трлн токенов из веб-текстов, книг, кода, математических и других материалов, а словарь токенизатора tiktoken насчитывает более 150 тысяч токенов. Метаданные указывают контекст до 32 768 токенов и формат safetensors. Модель предназначена для генерации и продолжения текста, а также может служить основой для приложений на китайском, английском и других языках, включая кодовые и математические сценарии. Она не является чат-версией Qwen-7B-Chat: в README отдельно отмечено, что чат-модель обучена с применением выравнивания. Среди описанных характеристик — сильные результаты в ряде китайских и английских оценок и широкое покрытие токенизатора; для практического использования требуется совместимое окружение PyTorch и Transformers, а ускорение на GPU может требовать CUDA. Лицензия в метаданных обозначена как other, конкретные условия следует проверять на странице репозитория.

aquif-3.5-Max-1205-GGUF — это квантизированная GGUF-версия языковой модели aquif-3.5-Max-1205, разработанной aquif-ai. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, рассуждений, математических задач и программирования; запуск возможен через llama.cpp, LM Studio и другие совместимые проекты. В карточке указано, что модель относится к архитектуре MoE, однако точное число параметров, размер активной части, максимальная длина контекста и другие архитектурные характеристики не приведены. Поддерживаются текстовые запросы; заявлены английский, немецкий, итальянский, португальский, французский, хинди, испанский, тайский, китайский и японский языки. Доступны варианты от BF16 до низкобитных Q3-, Q4-, Q5-, Q6- и Q8-квантизаций размером примерно от 19,48 до 84,78 ГБ. Сильной стороной являются разнообразие вариантов квантизации и возможность локального запуска, при этом варианты Q5 и Q6 позиционируются как обеспечивающие высокое качество, а Q4 — как компромисс между качеством и требованиями к памяти. Более агрессивная квантизация уменьшает размер, но может снижать качество ответов. В README не приведены результаты бенчмарков, сведения о мультимодальности или ограничения по применению. Указана лицензия Apache-2.0.

Это двуязычная модель Sentence Transformers на базе FacebookAI/xlm-roberta-large, дообученная для работы с арабскими и английскими предложениями. Она кодирует предложения и абзацы в плотные векторы размерностью 1024 и предназначена для сравнения смысловой близости, семантического поиска и других задач, где нужно сопоставлять тексты. Модель поддерживает как отдельную работу с арабским и английским, так и межъязыковое сопоставление между ними. Модель поддерживает Matryoshka embeddings: векторы можно сокращать до 768, 512, 256, 128 или 64 измерений, чтобы уменьшить потребление памяти и ускорить последующую обработку. Максимальная длина последовательности — 512 токенов по README и 514 токенов в метаданных; используется библиотека sentence-transformers, веса доступны в формате safetensors. Автор сообщает об улучшении метрик MTEB по сравнению с предыдущей версией, особенно для арабско-английских задач, и рекомендует самостоятельно проверять соответствие модели конкретному сценарию. Лицензия в предоставленных данных не указана.

freds0/distil-whisper-large-v3-ptbr — модель автоматического распознавания речи, созданная дообучением distil-whisper/distil-large-v3 для бразильского португальского языка. Она принимает аудио и генерирует текстовую транскрипцию; архитектура основана на WhisperForConditionalGeneration и содержит 905,2 млн параметров. Для работы можно использовать библиотеку Transformers. Модель обучена на Common Voice 16 и частном наборе данных, автоматически размеченном с помощью Whisper Large v3. В README указана частота ошибок слов (WER) 8,221% на валидационном наборе Common Voice 16. Модель распространяется по лицензии MIT.