I.6Перевод и языковая адаптация

lmstudio-community/Qwen3-Next-80B-A3B-Instruct-MLX-5bit — это 5-битная квантованная версия инструкционной языковой модели Qwen3-Next-80B-A3B-Instruct, разработанной Qwen. Квантование выполнено командой LM Studio с использованием mlx_lm; модель оптимизирована для запуска на устройствах Apple Silicon через MLX. Она относится к классу моделей генерации текста и предназначена для диалогов, следования инструкциям и других задач, где требуется создание текстового ответа. В основе лежит модель с заявленным размером 80B и обозначением A3B; README не содержит дополнительных сведений об архитектуре, фактическом числе активируемых параметров, максимальном контексте, поддерживаемых языках или мультимодальных возможностях. Ключевое преимущество этой версии — снижение требований к памяти по сравнению с полной точностью и адаптация к экосистеме Apple Silicon. Ограничения включают возможные потери качества из-за 5-битного квантования, зависимость производительности от оборудования Apple Silicon и стандартные риски генеративных моделей: ответы могут быть неточными, вредными или неуместными. Модель распространяется по лицензии Apache-2.0.

Qwen3-Next-80B-A3B-Instruct-MLX-8bit — это 8-битная квантованная версия языковой модели Qwen3-Next-80B-A3B-Instruct, адаптированная для запуска на устройствах Apple Silicon. Исходную модель разработала команда Qwen, а MLX-квантизацию предоставила команда LM Studio с использованием mlx_lm. Модель предназначена для генерации текста и работы с широким спектром задач, поддерживаемых инструкционной языковой моделью, включая диалоговые сценарии и локальное использование через совместимую программную среду. Модель содержит 80B параметров, при этом заявлена конфигурация A3B; точная архитектура, поддерживаемые языки и размер контекстного окна в README не указаны. Формат MLX и 8-битная квантизация оптимизированы для Apple Silicon, что делает модель более подходящей для локального запуска на таких устройствах по сравнению с полноразмерной версией. Ограничениями являются зависимость от совместимого окружения MLX и оборудования Apple Silicon, а также возможные типичные для генеративных моделей ошибки, неточности и нежелательный контент. Модель распространяется по лицензии Apache-2.0. LM Studio не является разработчиком или владельцем модели и не гарантирует её точность, безопасность, доступность или соответствие конкретным требованиям.

mradermacher/Qwopus3.8-27B-Flash-i1-GGUF — квантованная GGUF-версия модели Qwopus3.8-27B-Flash, подготовленная mradermacher на основе модели Jackrong/Qwopus3.8-27B-Flash. Модель предназначена для локального запуска через llama.cpp и совместимые инструменты, генерации текста, диалоговых сценариев, рассуждений, агентских задач, использования инструментов, function calling и генерации кода. Также заявлена поддержка обработки изображений вместе с текстом. Модель относится к мультимодальным vision-языковым моделям с архитектурой и размером семейства Qwen3 8 / 27B; точные архитектурные параметры и размер контекста в README не указаны. Заявлены английский, китайский, испанский, русский и японский языки. Репозиторий содержит набор imatrix-квантов разных уровней, примерно от 11,0 до 22,5 ГБ; варианты различаются компромиссом между размером, скоростью и качеством. В README отмечены рекомендации по отдельным вариантам, но количественные результаты оценки качества не приведены. Сильными сторонами являются мультимодальность, поддержка нескольких языков, широкий набор сценариев применения и возможность локального инференса при выборе подходящего уровня квантования. Ограничения включают потерю качества по сравнению с полноразмерной моделью из-за квантования, зависимость характеристик от выбранного варианта GGUF и отсутствие подробных данных о производительности, контексте и требованиях к оборудованию. Лицензия — Apache-2.0.

sarvam-m — текстовая многоязычная модель Sarvam AI на архитектуре Mistral-Small, дообученная на базе mistralai/Mistral-Small-3.1-24B-Base-2503. Модель содержит 23,4 млрд параметров, принимает и генерирует текст и поддерживает контекст до 32 768 токенов; для работы с Transformers используются веса в формате Safetensors. Модель предназначена для диалогов на английском и индийских языках, а также для решения математических задач, программирования и логических рассуждений. В режиме think она ориентирована на сложные задачи, а режим non-think подходит для обычного общения. Поддерживаются индийские языки как в родной письменности, так и в латинской транслитерации. Разработчик сообщает об улучшениях относительно базовой модели на тестах индийских языков, математики и программирования. Модель выпущена под лицензией Apache-2.0. В карточке заявлены текстовый ввод и вывод; работа с изображениями и другими модальностями не заявлена.

SmolLM3-3B — открытая языковая модель с 3 млрд параметров, разработанная HuggingFaceTB и преобразованная в формат LiteRT-LM для локального запуска на устройствах и компьютерах. Это decoder-only модель для генерации текста, диалогов, рассуждений и других задач, поддерживаемых базовой SmolLM3. Модель ориентирована на сценарии on-device и edge-инференса, включая Android-смартфоны, iPhone, Raspberry Pi, настольные системы и локальный OpenAI-совместимый API-сервер. Представленная версия использует блочную симметричную int4-квантизацию с размером блока 32 и оптимальным клиппингом OCTAV; эмбеддинги имеют формат INT8, вычисления выполняются в целочисленном формате. Файл основной версии занимает около 1,9 ГБ, контекст KV-кэша ограничен 4096 токенами. В архитектуре базовой модели заявлены GQA, расписание внимания NoPE, мультиязычная поддержка и обучение на длинном контексте. В комплект входят токенизатор и шаблон ChatML, поэтому отдельные файлы токенизатора не требуются. Сильные стороны модели — небольшой размер для класса 3B, открытая лицензия Apache-2.0, поддержка полностью локального инференса и наличие GPU-ускорения на совместимых устройствах. Производительность зависит от оборудования: в приведённых измерениях она достигала 93,2 токена/с при декодировании на Apple M4 Max и 22,5 токена/с на iPhone 17 Pro. Ограничения включают потери качества и возможные особенности поведения, связанные с int4-квантизацией, фиксированный контекст 4096 токенов и зависимость скорости от конкретного LiteRT-LM backend, устройства и объёма доступной памяти.

Whisper-Large-v3-CV11 — мультиязычная модель распознавания речи, разработанная Burak Aydın и дообученная на корпусе Whispered с лицензией CC0. Это контрольная версия OpenAI Whisper large-v3 со стандартной архитектурой без преобразования внимания MHA в MLA; модель содержит 905,2 млн параметров и работает через Transformers без пользовательского кода. Модель предназначена для транскрибации речи на 11 языках. В карточке перечислены английский, немецкий, испанский, французский, русский, турецкий, валлийский, арабский, грузинский, тайский и китайский. README приводит результаты оценки на CommonVoice-17 для части языков и описывает обучение на 15 000 шагах с замороженным энкодером. Данные указывают на применение для чтения вслух речи; модель также можно конвертировать стандартными инструментами для faster-whisper, CTranslate2 и whisper.cpp. Модель принимает аудио и выдаёт текст. Apache-2.0 разрешает широкое использование. Приведённые метрики относятся к тесту CommonVoice-17 с жадным декодированием и заданной нормализацией; они не гарантируют такое же качество на других типах аудио.

Модель OpenVINO/whisper-large-v3-turbo-fp16-ov подготовлена OpenAI на основе Whisper large-v3-turbo и преобразована в формат OpenVINO IR с весами FP16. Архитектура Whisper имеет около 905 млн параметров; в варианте large-v3-turbo число слоёв декодера сокращено с 32 до 4, что ускоряет распознавание при небольшом снижении качества. Модель предназначена для преобразования речи в текст на многих языках. Её можно использовать для расшифровки аудиозаписей и транскрибирования речи в приложениях на базе OpenVINO; совместимость указана для OpenVINO 2026.1.0 и выше и Optimum Intel 1.27.0 и выше. Модель принимает аудио и выдаёт текст. Поддерживает русский, английский и множество других языков. Распространяется по лицензии MIT. В README отмечено, что качество может быть несколько ниже, чем у полной Whisper large-v3; прочие ограничения отсылают к карточке исходной модели.

Apertus-v1.5-8B — мультимодальная языковая модель Swiss AI в семействе Apertus 1.5 с 8 млрд параметров. Это decoder-only Transformer с активацией xIELU; модель создана на основе продолженного предобучения Apertus 1.0 с добавлением мультимодальных данных и улучшенной настройкой для следования инструкциям и работы с инструментами. Модель принимает текст, изображения и аудио, а генерирует текст. Она рассчитана на многоязычные диалоги, понимание изображений и аудио, ответы на вопросы, задачи рассуждения в режиме thinking и интеграцию с внешними инструментами. Заявленная длина контекста — до 262 144 токенов. По карточке, модель обучена на открытых данных; веса распространяются по лицензии Apache-2.0. Ответы могут содержать фактические ошибки, логические несоответствия и смещения из обучающих данных, поэтому важные сведения следует проверять. Для запуска могут потребоваться модифицированные версии Transformers и vLLM: поддержка в основных выпусках на момент карточки находилась в процессе добавления.

BlueLM-7B-Chat-32K — диалоговая языковая модель с архитектурой BlueLMForCausalLM, разработанная лабораторией vivo AI. Модель содержит 6,9 млрд параметров и предназначена для генерации ответов в чате, понимания длинных текстов и решения языковых задач. В репозитории представлены веса PyTorch. Модель обучена на корпусе объёмом 2,6 трлн токенов, преимущественно на китайском и английском языках, с небольшим количеством японских и корейских данных. В README заявлена поддержка контекста до 32K токенов и приведены результаты на LongBench, включая задачи суммаризации, ответов по одному и нескольким документам и работы с кодом. Однако метаданные указывают native_context_tokens 2048, поэтому заявленную длину контекста следует сверить с конфигурацией конкретной версии. Лицензия указана как other; README сообщает, что веса открыты для академических исследований и коммерческого применения.

BSC-LT/Checkpoint_2b_instructed_beta — текстовая чат-модель семейства Llama с плотной архитектурой LlamaForCausalLM и 1,7 млрд параметров. Она принимает текст и генерирует текст; карточка модели указывает на версию 2b модели Sxxxxxx, обученную на базовом наборе инструкций, включающем RAG_Multilingual, без последней эпохи обучения. Модель предназначена для диалоговых ответов и выполнения инструкций, в том числе в многоязычных сценариях с поиском по внешним источникам. Контекст составляет 8192 токена. Репозиторий содержит веса в формате safetensors, библиотека — Transformers. Лицензия Apache-2.0 разрешает использование и распространение на её условиях.

Darwin-36B-Opus — языковая модель FINAL-Bench / VIDRAFT_LAB, полученная эволюционным слиянием Qwen3.6-35B-A3B и её версии, дообученной на примерах рассуждений. Это MoE-модель на архитектуре Qwen3.5 MoE для генерации текста и диалогов с режимом пошаговых рассуждений; в README заявлены 36 млрд параметров всего и около 3 млрд активных, а метаданные указывают 2,9 млрд параметров. Контекст — 262 144 токена. Модель предназначена для сложных вопросов и рассуждений, включая задачи уровня GPQA Diamond; заявлены поддержка нескольких языков и результат 88,4% на GPQA Diamond по описанному авторами протоколу. Модель принимает текстовые запросы и генерирует текст. Доступна в формате Safetensors и распространяется по лицензии Apache 2.0. README описывает её как результат слияния весов без повторной градиентной оптимизации финальной модели; опубликованный бенчмарк включает стохастический повторный отбор ответов, поэтому показатель может зависеть от протокола оценки.

ERNIE-4.5-0.3B-PT-GGUF — GGUF-представление текстовой плотной модели ERNIE-4.5-0.3B, разработанной Baidu; репозиторий подготовлен Unsloth. Модель предназначена для генерации текста, понимания естественного языка и последующего дообучения в сценариях instruction fine-tuning и alignment training, включая SFT, LoRA и DPO. Модель работает с текстом и поддерживает английский и китайский языки. Она содержит около 0,36 млрд параметров, 18 слоёв, 16 Q-голов и 2 KV-головы, а максимальная длина контекста составляет 131 072 токена. Это post-trained модель; формат GGUF ориентирован на удобное локальное или оптимизированное развёртывание, однако конкретные требования к совместимому программному обеспечению и аппаратуре в README не указаны. К сильным сторонам относятся компактный размер, большой контекст и возможность адаптации под прикладные задачи. Ограничения включают отсутствие заявленной поддержки изображений у данной текстовой версии, а также отсутствие в README подробных результатов бенчмарков, описания точного варианта квантизации и эксплуатационных требований. Модель распространяется по лицензии Apache-2.0.

EXAONE 3.5 7.8B Instruct — двуязычная генеративная языковая модель, разработанная LG AI Research и настроенная следовать инструкциям. Она предназначена для диалогов, ответов на вопросы и других задач генерации текста на английском и корейском языках. Модель построена на плотной архитектуре ExaoneForCausalLM, содержит 7,4 млрд параметров по метаданным и поддерживает контекст до 32 768 токенов. В карточке указаны 32 слоя и групповое внимание с 32 Q-головами и 8 KV-головами. Модель рассчитана на повседневные сценарии использования языковой модели и обработку длинного контекста. Доступна в формате safetensors для Transformers; для семейства также упомянуты варианты AWQ и GGUF в отдельных репозиториях. Лицензия указана как other, поэтому конкретные условия следует проверить в лицензии репозитория. Возможны фактические ошибки, устаревшие сведения, предвзятые или неподходящие ответы.

Systran/faster-whisper-tiny — конверсия модели openai/whisper-tiny в формат CTranslate2, подготовленная Systran для запуска через CTranslate2 и проекты на его основе, включая faster-whisper. Модель предназначена для автоматического распознавания речи и представлена в виде весов FP16; при загрузке тип вычислений можно изменить параметром compute_type. Модель принимает аудио и преобразует речь в текст. Whisper поддерживает распознавание и транскрибирование многоязычной речи; метаданные перечисляют языки, включая английский, китайский, немецкий, русский, французский, японский, испанский и другие. Репозиторий содержит именно конвертированные веса и ссылается на карточку исходного Whisper tiny за подробностями о модели. Лицензия репозитория — MIT. Компактный вариант tiny подходит для сценариев, где важны скорость и умеренные вычислительные ресурсы; по сравнению с более крупными моделями качество распознавания может быть ниже, особенно на сложной или шумной речи.

Gemma-2-9B-Chinese-Chat — языковая модель для диалоговой генерации текста, разработанная Shenzhi Wang, Yaowei Zheng, Guoyin Wang, Shiji Song и Gao Huang. Она создана на базе google/gemma-2-9b-it и дообучена для китайско- и англоязычных пользователей с использованием алгоритма ORPO и более чем 100 тысяч пар предпочтений. Обучение проводилось с помощью LLaMA-Factory. Модель предназначена для общения, ролевых сценариев, использования инструментов, решения математических задач, написания текстов и кода. По сравнению с исходной моделью заявлено уменьшение случаев, когда на китайские запросы модель отвечает по-английски, а также снижение смешения китайского и английского языков в ответах. Модель поддерживает китайский и английский языки, содержит около 9,24 млрд параметров и имеет контекстное окно до 8K токенов. Доступны версии BF16 и GGUF, включая варианты q4_k_m, q8_0 и f16. Сильными сторонами модели являются ориентация на китайско-английские диалоги, улучшенные ролевые ответы, работа с инструментами и математикой, а также наличие форматов для локального запуска через совместимые приложения. Ограничения включают контекст длиной 8K токенов и возможную неточность или непредсказуемость ответов в ролевых сценариях; разработчики отдельно предупреждают, что ответы о личности и происхождении модели могут быть случайными. Модель распространяется по Gemma License.

Sci-fi-vy/gemma-3-270m-it-GGUF — модель Gemma 3 270M от Google DeepMind, представленная в формате GGUF. Это instruction-tuned вариант базовой модели google/gemma-3-270m-it, предназначенный для генерации текста по инструкциям и запросам. Модель подходит для ответов на вопросы, суммаризации документов, рассуждений, работы с кодом и других задач генерации текста. Семейство Gemma 3 поддерживает текстовые и графические входы с генерацией текста, однако для вариантов 270M в карточке явно указан контекст до 32K токенов, а параметры обработки изображений для этой размерности не описаны. Заявлена поддержка более 140 языков; обучающие данные включали веб-тексты, код, математические материалы и изображения. Дата отсечения знаний — август 2024 года, размер модели — 270 млн параметров. Небольшой размер облегчает локальное развёртывание на компьютерах с ограниченными ресурсами и в собственной облачной инфраструктуре, но по возможностям и качеству модель может уступать более крупным вариантам Gemma. Для работы рекомендуется использовать temperature 1.0, top_k 64, top_p 0.95 и min_p 0.0. Модель распространяется на условиях лицензии Gemma; точные условия следует уточнять в официальных Terms of Use.

Gemma 4 E2B IT QAT NVFP4 GGUF — мультимодальная разговорная модель на основе контрольной точки Gemma 4 E2B IT с QAT-оптимизацией и преобразованием весов в формат GGUF с квантованием NVFP4. Модель разработана Google DeepMind; этот вариант подготовлен WhiskyAKM для запуска через llama.cpp и другие совместимые с GGUF движки. Эффективный размер составляет 2,3 млрд параметров, или 5,1 млрд с учётом встраиваний; архитектура — Gemma4ForConditionalGeneration, 35 слоёв. Модель принимает текст, изображения и аудио и формирует текстовые ответы. Она предназначена для диалогов, анализа изображений и аудио, локального запуска и сценариев с вызовом инструментов; заявлены контекст до 128 тыс. токенов и поддержка более 140 языков. QAT и NVFP4 снижают требования к памяти, а файлы GGUF позволяют использовать модель в llama.cpp. Для обработки изображений и аудио нужен движок с мультимодальной поддержкой. Лицензия — Apache-2.0.

Gemma-4-E4B-it-NVFP4 — мультимодальная instruct-модель семейства Gemma 4, созданная на основе google/gemma-4-E4B-it и оптимизированная для диалогового и чат-применения. Квантованную версию подготовил Mario Iseli с использованием NVIDIA Model Optimizer на платформе NVIDIA DGX Spark. Модель предназначена для генерации текста, а также обработки изображений и аудио; заявлена поддержка multilingual-сценариев и контекстного окна до 128K токенов. Архитектура основана на плотной модели с механизмом Per-Layer Embeddings (PLE), где каждый из 26 декодерных слоёв получает специализированный 256-мерный сигнал. Вариант использует квантование NVFP4 по схеме W4A4: веса и активации языковых слоёв представлены в FP4, а башни обработки изображений и аудио, соответствующие проекционные слои и lm_head сохранены в BF16. Размер модели на диске составляет около 10,2 ГБ, при этом мультимодальные компоненты занимают значительную часть памяти. Ключевые преимущества — уменьшенный размер, возможность запуска на совместимом оборудовании NVIDIA и высокая заявленная скорость около 65 токенов в секунду на DGX Spark. Ограничения включают необходимость vLLM с transformers версии 5.4 или новее, зависимость от поддержки NVFP4 и сохранение значительного потребления памяти мультимодальными башнями. Это общественная квантованная сборка, а не официальный релиз NVIDIA или Google. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

IndicSBERT — модель семейства BERT, разработанная L3Cube-Pune в рамках проекта MahaNLP. Она основана на google/muril-base-cased и дообучена на наборе данных NLI для десяти основных индийских языков; поддерживает также английский и межъязыковое сравнение предложений. Модель создаёт векторные представления предложений для оценки их смыслового сходства и извлечения признаков. Размер составляет 264,8 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для семантического поиска, сравнения предложений и задач, где требуется сопоставлять тексты на разных языках. Карточка описывает применение через Sentence-Transformers или Transformers с подходящей операцией pooling. Доступна по лицензии CC BY 4.0, требующей указания авторства. README отмечает, что отдельная дообученная версия для сходства предложений опубликована отдельно.

Keural-Cortex-8B — разговорная модель компании MKD Co., Ltd. из Пусана, Южная Корея, созданная на базе Qwen/Qwen3-8B-Base. Модель содержит 7,6 млрд параметров и поддерживает контекст до 65 536 токенов. Её обучали на корейских текстах, расширяли контекст с помощью YaRN и дообучали на инструкциях и диалогах; веса опубликованы в формате safetensors. Модель предназначена для общения на корейском и английском языках, ответов на вопросы, помощи с текстами и кодом, а также для сценариев с вызовом инструментов. По результатам сравнительных тестов из карточки она достигает заявленной цели по корейскому языку, а по английскому сопоставима с Qwen3-8B-Instruct. При этом у неё есть заметная слабость на тестах с выбором фиксированного ответа, включая задачи на логическое следование и ответы «да/нет»; результаты таких тестов могут недооценивать способность модели отвечать на те же вопросы в обычном диалоге. Модель может уверенно выдавать неверные сведения и не проходила оптимизацию предпочтений. Разработчик не рекомендует использовать её для медицинских, юридических и финансовых советов, сведений о самой MKD Co., Ltd., сценариев, требующих thinking mode, или цепочек зависимых вызовов инструментов без внешнего управления порядком. Лицензия — Apache-2.0.

LFM2.5-8B-A1B-Q4_K_M-dequant-bf16 — вариант модели LFM2.5-8B-A1B от Liquid AI, основанный на LiquidAI/LFM2.5-8B-A1B-Base. Это текстовая MoE-модель для генерации ответов и работы в роли локального помощника. Карточка указывает 8,3 млрд параметров всего и около 1,5 млрд активных; метаданные репозитория указывают 1,6 млрд параметров. Модель использует гибридную архитектуру с 24 слоями и поддерживает контекст до 128 000 токенов. Модель предназначена для следования сложным инструкциям, агентных сценариев, вызова инструментов, структурированных ответов и многоязычных помощников, в том числе на устройствах с локальным инференсом. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский, испанский, португальский и итальянский. Карточка не рекомендует её для интенсивного программирования и фактологических ответов без поиска по источникам. Указана лицензия other; конкретные условия следует проверять в файлах репозитория. Имя модели указывает на вариант Q4_K_M, деквантизированный в bf16, но метаданные форматов перечисляют safetensors.

Модель ehristoforu/llama-3-12b-instruct разработана @ehristoforu как объединение нескольких вариантов Llama 3 для диалогов и выполнения инструкций. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 11,4 млрд параметров; она принимает текст и генерирует текст. Поддерживает русский и английский языки, а максимальная длина контекста составляет 8192 токена. Модель подходит для создания чат-ботов, ответов на вопросы и выполнения пользовательских инструкций на русском и английском языках. В её основе лежит Meta-Llama-3-8B-Instruct, объединённая с несколькими моделями Llama 3, включая Saiga, OpenHermes, Smaug, Dolphin и NeuralPaca. В карточке указана лицензия Apache-2.0. Количественных оценок качества и подробных ограничений в доступных данных нет.

unsloth/Llama-3.1-70B — опубликованный Unsloth вариант Meta Llama 3.1-70B с динамической квантизацией Unsloth Dynamic 2.0, предназначенный для генерации текста. В основе — плотная авторегрессионная трансформерная архитектура LlamaForCausalLM с Grouped-Query Attention; модель содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель принимает и генерирует текст. Она подходит для диалоговых приложений и других задач генерации естественного языка на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Вариант Unsloth заявлен как динамически квантованный с акцентом на сохранение точности; карточка не приводит независимых результатов сравнения именно этого репозитория. Для применения требуются значительные вычислительные ресурсы из-за размера модели. Возможны ошибки и небезопасные ответы; результаты следует проверять, а подключение внешних инструментов — контролировать. Модель распространяется по лицензии Llama 3.1 Community License с её условиями и ограничениями.

bunnycore/Llama-3.1-8B-TitanFusion-Mix-2.1 — текстовая генеративная модель семейства Llama 3.1, созданная разработчиком bunnycore слиянием нескольких языковых моделей методом TIES через mergekit. В качестве базовой модели использована NousResearch/Meta-Llama-3.1-8B; в слияние также вошли Llama-3.1-8B-Lexi-Uncensored-V2, Configurable-Llama-3.1-8B-Instruct и две модели TitanFusion от bunnycore. Модель с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров, принимает текст и генерирует текст. Заявленная длина контекста — 131 072 токена. Предназначена для диалогов и генерации текста общего назначения; README не приводит отдельные оценки качества или подробные сценарии применения. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия в предоставленных данных не указана.

CYFRAGOVPL разработала PLLuM — семейство больших языковых моделей для польского и других славянских и балтийских языков с дополнительными англоязычными данными. Эта версия основана на Llama 3.1 и содержит 69,5 млрд параметров; она предназначена для диалогового использования и генерации текста. Модель работает с текстом и поддерживает контекст до 131 072 токенов. Модель подходит для генерации и суммаризации текста, ответов на вопросы и создания специализированных помощников. В README отмечены результаты на задачах, связанных с польским государственным управлением, и пригодность для сценариев с поиском по документам. Обучение семейства включает продолжение предобучения, настройку на инструкциях и обучение на предпочтениях; для этой версии в метаданных указана лицензия Llama 3.1. Учитывайте, что модель может галлюцинировать и воспроизводить смещения; длинный контекст также требует достаточных вычислительных ресурсов.

llm-jp-3-7.2b-instruct — языковая модель, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это плотная Transformer-модель семейства Llama с 7,2 млрд параметров, доступная в формате Hugging Face Transformers и обученная продолжать диалог и выполнять инструкции. Модель принимает текст и генерирует текст; контекст составляет 4096 токенов. Модель подходит для ответов на вопросы, написания и извлечения текста, рассуждений и диалога на японском и английском языках. Она предварительно обучена на смеси данных объёмом 2,1 трлн токенов и дополнительно настроена на наборах инструкций, включая японские инструкции и примеры, ориентированные на безопасность. В оценке Japanese MT Bench версия 7.2b-instruct получила средний балл 5,70. Авторы отмечают, что модель находится на раннем этапе разработки и не настроена для надёжного соответствия намерениям пользователя и требованиям безопасности. Лицензия — Apache-2.0; для запуска требуются Transformers и PyTorch совместимых версий.

llm-jp-4-32b-a3b-thinking — языковая модель семейства LLM-jp-4, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это Transformer-модель с архитектурой Qwen3 MoE: 32 слоя, 128 экспертов, из которых активируются 8; общий размер составляет около 32,1 млрд параметров, а число активных параметров — около 3,8 млрд. Модель предназначена для генерации текста и диалогового общения, в том числе для задач, требующих рассуждений. Контекстное окно составляет 65 536 токенов. Модель обучалась на 11,7 трлн токенов, а постобучение включало SFT и DPO без обучения с подкреплением. Карточка указывает японский и английский языки. Для корректного использования следует применять прилагаемый токенизатор: хотя шаблон чата совместим с форматом OpenAI Harmony, токенизация библиотекой openai-harmony напрямую не поддерживается. Разработчики предупреждают, что модель находится на ранней стадии исследований и разработки и не настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.

Meta Llama 3.1 8B Instruct GGUF — это квантизированная версия инструкционной языковой модели Meta Llama 3.1 с примерно 8 миллиардами параметров. Исходную модель разработала Meta, а данный вариант подготовлен для библиотеки GGUF и распространяется quantizer’ом brooketh; он предназначен для локального использования в приложениях на базе llama.cpp, включая Backyard AI. Модель ориентирована на генерацию текста и диалоговые сценарии, в которых требуется следовать инструкциям. Она поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Заявленный контекст составляет до 131 072 токенов. Формат GGUF позволяет распределять вычисления между CPU и GPU и запускать модель на более широком спектре оборудования, однако квантизация снижает требования к ресурсам ценой возможного ухудшения связности и качества при более низкой точности. Модель не дообучена специально для roleplay. Лицензия указана как llama3.1; перед использованием следует ознакомиться с её условиями. README не содержит сведений о конкретном уровне квантизации, размере файла, требованиях к памяти или результатах тестирования, поэтому производительность и качество на конкретном оборудовании заранее определить нельзя.

Mistral-Nemo-NT-Ko-12B-sft — многоязычная диалоговая модель на архитектуре Mistral, дообученная автором werty1248 на базе mistralai/Mistral-Nemo-Base-2407. Модель содержит 12,1 млрд параметров и распространяется в формате safetensors по лицензии Apache-2.0. Она предназначена для диалогов и генерации инструктивных ответов на английском, корейском, китайском и японском языках. Дообучение ориентировано на языковое выравнивание, перенос знаний между языками и форматирование ChatML; модель обычно отвечает на языке запроса, если не задан другой язык. В карточке приведены результаты тестирования на LogicKor и MT-Bench. Контекст обучения составил 8 тыс. токенов, хотя для базовой модели указано окно до 128 тыс. токенов. Это промежуточная версия без оптимизации предпочтений. Длина ответов зависит от языка: английские ответы обычно длиннее, корейские — короче; поведение на японском и китайском автор продолжает наблюдать. Рекомендуемая температура генерации — 0,3–0,7.

Mixtral-8x7B-Instruct-v0.1-AWQ — это 4-битная AWQ-квантизованная версия инструкционной языковой модели Mixtral 8X7B Instruct v0.1, разработанной Mistral AI и подготовленной для публикации TheBloke. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции, работу в чат-ботах и локальный запуск через совместимые инструменты инференса. Для форматирования запросов используется шаблон [INST] {prompt} [/INST]. Модель основана на архитектуре Mixtral и имеет максимальную длину последовательности 8192 токена. Доступна в формате AWQ с 4-битными весами, группой 128 и размером файлов около 24,65 ГБ; файлы поставляются в формате sharded safetensors. Заявлена поддержка английского, французского, итальянского, немецкого и испанского языков. Квантизация снижает требования к памяти и обеспечивает быстрый инференс на совместимых NVIDIA GPU, однако README не содержит точных требований к видеопамяти, результатов бенчмарков или подробных характеристик базовой архитектуры. Для работы рекомендуются Linux или Windows с NVIDIA GPU и совместимые версии Transformers, vLLM, Text Generation Inference, AutoAWQ или text-generation-webui. На macOS данный формат не рекомендуется; для этой платформы предлагаются GGUF-версии. Модель распространяется по лицензии Apache-2.0.