I.6Перевод и языковая адаптация

Spark-X2.5-1.7B-GGUF — компактная языковая модель в формате GGUF, разработанная XHToken на базе XHToken/Spark-X2.5-1.7B. Она предназначена для общего назначения: диалогов, написания и перевода текстов, рассуждений, программирования, использования инструментов и агентских сценариев. Модель имеет гибридную архитектуру внимания и поддерживает нативный контекст длиной до 1 миллиона токенов. Заявлена поддержка более 200 языков; в карточке модели отдельно указаны английский и китайский. Размер базовой модели — 1,7 млрд параметров. Формат GGUF ориентирован на локальный запуск с помощью llama.cpp, Ollama, LM Studio и Unsloth, однако для нативной поддержки архитектуры требуются совместимые версии этих инструментов. К сильным сторонам относятся компактный размер, широкий набор задач, многоязычность, очень длинный контекст и возможность локального развертывания. README не содержит результатов тестирования, подробностей обучения, сведений о конкретных вариантах квантования или детального описания ограничений качества, поэтому производительность в отдельных задачах по этим данным оценить нельзя. Модель распространяется по лицензии Apache License 2.0.

Карточка модели tokyotech-llm/Swallow-13b-NVE-hf на Hugging Face совпадает с карточкой tokyotech-llm/Swallow-13b-hf, поэтому описание составлено по ней. Swallow-13b-hf — базовая языковая модель TokyoTech-LLM, созданная на основе семейства Llama 2 посредством продолжения предварительного обучения с добавлением преимущественно японских текстов. Это плотная авторегрессионная модель архитектуры LlamaForCausalLM с 12,9 млрд параметров, предназначенная для генерации текста и последующей адаптации под прикладные задачи. Версия использует расширенный на японских данных словарь токенизатора, который эффективнее представляет японский текст и может ускорять вывод. Модель принимает текст и генерирует текст; заявлены японский и английский языки, максимальный контекст — 4096 токенов. Модель подходит для генерации и продолжения текста, вопросов и ответов, суммаризации, машинного перевода и рассуждений на японском и английском языках. В README приведены результаты оценки семейства Swallow на японских и английских наборах задач; они не гарантируют качество для каждого сценария и конкретно этой конфигурации. Разработчики предупреждают, что модели находятся на ранней стадии исследований и разработок и не настроены для соблюдения намерений пользователя и требований безопасности. Лицензия — Llama 2 Community License, указанная в метаданных как llama2.

Swallow-7b-instruct-hf — инструктивная языковая модель TokyoTech-LLM на архитектуре Llama 2. Команда продолжительно предобучила базовую модель семейства Llama 2 на корпусах с дополнительными японскими данными, а затем выполнила supervised fine-tuning. Модель содержит 6,7 млрд параметров, использует расширенный японский словарь токенизатора и принимает контекст до 4096 токенов. Модель предназначена для генерации ответов по инструкциям на японском и английском языках, вопросов и ответов, суммаризации, рассуждений и перевода между японским и английским. В опубликованных оценках Swallow-7B показала улучшение относительно Llama 2 7B на ряде японских задач, тогда как на приведённых английских тестах результаты были ниже. Для использования доступны веса в формате safetensors через Transformers; лицензия — Llama 2. Авторы предупреждают, что модели находятся на раннем этапе исследований и разработки и не настроены для надёжного следования человеческим намерениям и требованиям безопасности. Следует учитывать вероятность ошибочных или небезопасных ответов и условия лицензии Llama 2.

Карточка модели tokyotech-llm/Swallow-7b-NVE-hf на Hugging Face совпадает с карточкой tokyotech-llm/Swallow-13b-hf, поэтому описание составлено по ней. Swallow-13b-hf — базовая языковая модель TokyoTech-LLM, созданная на основе семейства Llama 2 посредством продолжения предварительного обучения с добавлением преимущественно японских текстов. Это плотная авторегрессионная модель архитектуры LlamaForCausalLM с 12,9 млрд параметров, предназначенная для генерации текста и последующей адаптации под прикладные задачи. Версия использует расширенный на японских данных словарь токенизатора, который эффективнее представляет японский текст и может ускорять вывод. Модель принимает текст и генерирует текст; заявлены японский и английский языки, максимальный контекст — 4096 токенов. Модель подходит для генерации и продолжения текста, вопросов и ответов, суммаризации, машинного перевода и рассуждений на японском и английском языках. В README приведены результаты оценки семейства Swallow на японских и английских наборах задач; они не гарантируют качество для каждого сценария и конкретно этой конфигурации. Разработчики предупреждают, что модели находятся на ранней стадии исследований и разработок и не настроены для соблюдения намерений пользователя и требований безопасности. Лицензия — Llama 2 Community License, указанная в метаданных как llama2.

Карточка модели tokyotech-llm/Swallow-7b-plus-hf на Hugging Face совпадает с карточкой tokyotech-llm/Swallow-13b-hf, поэтому описание составлено по ней. Swallow-13b-hf — базовая языковая модель TokyoTech-LLM, созданная на основе семейства Llama 2 посредством продолжения предварительного обучения с добавлением преимущественно японских текстов. Это плотная авторегрессионная модель архитектуры LlamaForCausalLM с 12,9 млрд параметров, предназначенная для генерации текста и последующей адаптации под прикладные задачи. Версия использует расширенный на японских данных словарь токенизатора, который эффективнее представляет японский текст и может ускорять вывод. Модель принимает текст и генерирует текст; заявлены японский и английский языки, максимальный контекст — 4096 токенов. Модель подходит для генерации и продолжения текста, вопросов и ответов, суммаризации, машинного перевода и рассуждений на японском и английском языках. В README приведены результаты оценки семейства Swallow на японских и английских наборах задач; они не гарантируют качество для каждого сценария и конкретно этой конфигурации. Разработчики предупреждают, что модели находятся на ранней стадии исследований и разработок и не настроены для соблюдения намерений пользователя и требований безопасности. Лицензия — Llama 2 Community License, указанная в метаданных как llama2.

QuantFactory/Teuken-7B-instruct-commercial-v0.4-GGUF — квантизированная версия 7-миллиардной instruction-tuned языковой модели Teuken-7B-instruct-commercial-v0.4, созданная с использованием llama.cpp. Исходную модель разработали Fraunhofer, Forschungszentrum Jülich, TU Dresden и DFKI в рамках исследовательского проекта OpenGPT-X при финансировании Федерального министерства экономики и защиты климата Германии. Архитектура модели — decoder-only Transformer. Модель предназначена для генерации текста, диалоговых сценариев и других мультиязычных NLP-задач, включая коммерческое и исследовательское использование. Она ориентирована на все 24 официальных языка Европейского союза: болгарский, чешский, датский, немецкий, греческий, английский, испанский, эстонский, финский, французский, ирландский, хорватский, венгерский, итальянский, литовский, латышский, мальтийский, нидерландский, польский, португальский, румынский, словацкий, словенский и шведский. Предобучение базовой модели выполнено на 4 триллионах токенов из общедоступных источников с датой отсечения данных в сентябре 2023 года. Сильная сторона модели — специализация на мультиязычных задачах и более стабильная работа с европейскими языками по сравнению с англоцентричными моделями. Для корректной работы требуется использовать предусмотренный prompt template или chat template. Модель не предназначена для математических и программных задач; также возможны галлюцинации, предвзятые, токсичные или иным образом вредные ответы. Размер контекста и конкретный формат квантизации в предоставленной карточке не указаны. Модель распространяется по лицензии Apache 2.0.

Babel-83B-Chat-GGUF — это набор GGUF-квантизаций чат-модели Babel-83B-Chat, разработанной Tower-Babel и подготовленной пользователем bartowski для запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель предназначена для генерации текста и диалоговых сценариев, в том числе на множестве языков: английском, китайском, хинди, испанском, французском, арабском, бенгальском, русском, португальском, индонезийском, урду, немецком, японском, суахили, тамильском, турецком, корейском, вьетнамском, яванском, итальянском, хауса, тайском, персидском, тагальском и бирманском. Архитектура и размер исходной модели указаны как 83B; модальность — текстовая. README не содержит сведений о длине контекста и внутренней архитектуре. Доступны варианты квантизации от Q8_0 до Q2_K и IQ-квантизаций, размер файлов составляет примерно от 33,5 до 88,5 ГБ. Более качественные варианты требуют больше памяти, а низкобитные позволяют экономить ресурсы ценой качества. Для работы используется формат prompt с ролями system, user и assistant. Основные сильные стороны — большой размер модели, многоязычная направленность, поддержка локального запуска и широкий выбор вариантов квантизации. Ограничения включают значительные требования к оперативной или видеопамяти, особенно для высококачественных вариантов, а также возможное снижение качества у низкобитных квантизаций. Указана лицензия SeaLLM; подробные условия доступны по ссылке на лицензию SeaLLMs/SeaLLM-13B-Chat.

Ultravox v0.4.1 — мультимодальная речевая языковая модель компании Fixie.ai на базе Llama 3.3 70B Instruct и Whisper Large V3 Turbo. Она принимает речь и текст, объединяя текстовый запрос с аудиовходом, и генерирует текстовые ответы. Модель предназначена для голосовых агентов, анализа устной речи и перевода речи между языками. Для этой версии не применялось preference tuning; README приводит скорость около 150 мс до первого токена и 50–100 токенов в секунду на GPU A100 40GB. В карточке указана лицензия MIT. В метаданных заявлена поддержка арабского, немецкого, английского, испанского, французского, хинди, итальянского, японского, нидерландского, португальского, русского, шведского, турецкого, украинского и китайского языков. Модель выдаёт текст, а генерация аудио в этой версии не поддерживается.

Ultravox v0.6 Llama 3.1 8B — мультимодальная речевая языковая модель от Fixie.ai. Она сочетает языковую модель Llama 3.1 8B с речевым энкодером Whisper large-v3-turbo и принимает аудио вместе с текстовым контекстом, например системной инструкцией или текстовым запросом. Модель выдаёт текстовые ответы и предназначена для голосовых агентов, распознавания и анализа речи, а также перевода устной речи. В версии 0.6 расширены данные для хинди, что улучшило понимание хинди и могло немного снизить качество на других языках. Обучение также включало шумовые данные: модель может лучше справляться с шумом и выводить специальную отметку для слишком шумного аудио или неразборчивой речи. README приводит результаты оценки распознавания, перевода, аудиорассуждений и обнаружения шума. Генерация речевого аудио не поддерживается этой версией; предпочтительная настройка ответов не применялась. Лицензия — MIT.

RedHatAI/Voxtral-Mini-3B-2507-FP8-dynamic — мультимодальная модель компании Mistral, созданная на базе Voxtral-Mini-3B-2507 и оптимизированная Red Hat в формате FP8. Она принимает аудио и текст, а генерирует текст; модель предназначена для автоматического распознавания речи, перевода речи, понимания аудио, ответов на вопросы по аудиозаписям и их суммаризации. Также заявлена поддержка вызова функций на основе голосовых намерений и сохранение возможностей текстового понимания базовой модели Ministral-3B. Модель имеет архитектуру VoxtralForConditionalGeneration, поддерживает контекст до 32 тысяч токенов и работает с аудио длительностью до 30 минут для транскрибации и до 40 минут для анализа. Она автоматически определяет язык речи и поддерживает английский, французский, испанский, португальский, хинди, немецкий, нидерландский и итальянский языки. Веса и активации линейных операторов в трансформерных блоках квантизированы в FP8: это примерно вдвое снижает требования к памяти и размер модели, а также может увеличить пропускную способность матричных умножений примерно в два раза. К сильным сторонам относятся сочетание распознавания речи и языкового анализа в одной модели, мультиязычность, обработка длинных аудиозаписей и возможность работы через vLLM. Ограничения включают зависимость качества от исходной Voxtral-модели и возможные потери точности из-за квантизации; конкретные показатели качества в README не приведены. Модель распространяется по лицензии Apache-2.0 и валидирована для RHOAI 2.25, RHAIIS 3.2.2 и vLLM 0.10.1.1.

RedHatAI/whisper-large-v3-turbo-quantized.w4a16 — квантизированная версия модели openai/whisper-large-v3-turbo, разработанной OpenAI и опубликованной Red Hat AI. Это аудио-текстовая модель архитектуры Whisper с текстовым выходом, предназначенная для автоматического распознавания речи и автоматического перевода речи. В карточке указана поддержка английского языка. Веса модели преобразованы в формат INT4 (W4A16), что ориентировано на более эффективное хранение и инференс. Модель подготовлена для работы с vLLM и проверена в RHOAI 2.25, RHAIIS 3.2.2 и vLLM 0.10.1.1; поддерживается развёртывание через vLLM и OpenAI-совместимый сервер, включая сценарии на Red Hat OpenShift AI и Red Hat AI Inference Server. Ограничения включают снижение численной точности из-за квантизации и зависимость от совместимого серверного окружения и аппаратных ресурсов, однако конкретное влияние на качество распознавания в README не приведено. Модель распространяется по лицензии Apache 2.0.

whisper-small-gguf — набор GGUF-конвертаций модели OpenAI Whisper small, подготовленный handy-computer для работы с transcribe.cpp. Это мультиязычная encoder-decoder Transformer-модель для автоматического распознавания речи, определения языка и перевода речи на английский язык. Поддерживает широкий набор языков, включая русский, английский, немецкий, французский, испанский, китайский, японский и другие. Модель обрабатывает аудио окнами по 30 секунд, а длинные записи расшифровывает с помощью пакетного разбиения на фрагменты. Потоковая обработка не поддерживается; доступны сегментные временные метки. Для скачивания предлагаются варианты F32, F16 и квантизации Q8_0, Q6_K, Q5_K_M и Q4_K_M размером примерно от 172 до 969 МБ. На тесте LibriSpeech test-clean заявленная WER составляет 3,33–3,40% в зависимости от варианта, при этом качество существенно различается между языками и может быть слабее для некоторых из них. Модель подходит для локальной транскрипции аудио, многоязычного распознавания речи, определения языка и перевода речи на английский. Квантизованные версии уменьшают требования к памяти при близком качестве, но точность зависит от языка, качества записи и выбранного уровня квантизации. Модель распространяется по лицензии Apache-2.0.

AIFT-ko-orca-plat-Yi-ko-6b-v1.2는 AIFT가 공개한 한국어 지시 따르기 모델로, Llama 계열의 밀집형 causal language model입니다. 메타데이터에 따르면 모델에는 약 5,9 млрд параметров и контекст до 2048 токенов; веса представлены в safetensors, лицензия — CC BY-SA 4.0. Модель дообучена методом LoRA на примерно 40 тысячах примеров. В README описаны задачи на корейском языке: история, естественные науки, математика, машинное чтение, анализ отзывов, обобщение, грамматика, ответы на вопросы по общим знаниям и перевод между английским и корейским. Также добавлены задания TruthfulQA и учебные примеры для школьной науки и математики. Модель подходит для генерации ответов и выполнения инструкций в перечисленных сценариях. Контекст ограничен 2048 токенами; обучающие данные не опубликованы, поэтому их состав и качество нельзя независимо проверить.

Aitana-7B-S-Instruct-v0.1-i1-GGUF — это квантизированная версия инструкционной языковой модели Aitana-7B-S-Instruct, разработанной GPLSI. Репозиторий подготовлен и квантизирован пользователем mradermacher в формате GGUF для локального запуска. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая ответы на вопросы, работу с многоязычными данными, извлечение информации, задачи рассуждения и обработку специализированных текстов. Модель имеет размер 7B параметров и работает с текстом. В README заявлена поддержка каталанского, испанского и английского языков; обучение и дообучение проводились на наборах данных для инструкционного обучения, многоязычного общения, поиска с дополнением контекста, перевода, юридических вопросов, научных фактов и математических задач. Доступно множество вариантов квантизации с разным размером от примерно 2,4 до 5,7 ГБ. В качестве рекомендуемого варианта указана i1-Q4_K_M, а i1-Q4_K_S описана как компромисс между размером, скоростью и качеством. Сильными сторонами модели являются ориентация на следование инструкциям, поддержка каталанского, испанского и английского языков, а также возможность запуска в ресурсно-ограниченной среде благодаря GGUF-квантизации. Ограничения включают зависимость качества и скорости от выбранного уровня квантизации; наиболее компактные варианты могут давать заметно более низкое качество. Архитектура и размер контекстного окна в README не указаны. Модель распространяется по лицензии Apache-2.0.

Apertus-v1.1-4B-Instruct — мультиязычная инструктивная языковая модель, разработанная Swiss AI Initiative как часть открытой экосистемы Apertus. Это плотный Transformer-декодер с grouped-query attention и активацией xIELU: 24 слоя, размерность модели 3072, 4,6 млрд параметров. Модель поддерживает контекст до 4096 токенов и предназначена для генерации текста в диалоговом формате, включая работу на устройствах с ограниченными ресурсами. Модель получена дистилляцией от Apertus-8B-2509, затем прошла дообучение на инструкциях и выравнивание. Разработчики заявляют нативную поддержку 1811 языков. Среди подходящих сценариев — многоязычный чат, ответы на вопросы, создание и преобразование текста. Репозиторий содержит веса в формате safetensors; библиотека для работы — Transformers. Лицензия Apache-2.0. Модель может выдавать фактически неверные или логически непоследовательные ответы и наследовать смещения обучающих данных; качество сложного следования инструкциям и решения продвинутых математических задач ограничено. Фильтр персональных данных для выходов не предоставляется, поэтому важные ответы следует проверять.

Bactrian-X LLaMA 13B Merged — объединённая модель инструкционного следования, разработанная MBZUAI на основе LLaMA-13B. Она дообучена с помощью LoRA на инструкциях из Stanford Alpaca и Databricks Dolly, переведённых на 52 языка; ответы для обучающих примеров были сгенерированы GPT-3.5-turbo. Модель предназначена для генерации ответов и выполнения текстовых инструкций в разных языках. Модель использует плотную архитектуру LLaMA с 12,9 млрд параметров и контекстом до 2048 токенов. Репозиторий содержит веса PyTorch; лицензия — MIT. Качество на разных языках может различаться: обучающие инструкции переводились машинным способом, а данные могут отражать культурные и языковые смещения английского оригинала.

Bangla LLaMA 7B Instruct v0.1 — языковая модель на архитектуре LLaMA, разработанная BanglaLLM и дообученная для следования инструкциям. Она основана на BanglaLLM/Bangla-llama-7b-base-v0.1, который опирается на оригинальную LLaMA 2, и обучена на наборе Bangla-Alpaca-Orca: переводах Stanford-Alpaca на бенгальский язык и части OpenOrca. Модель содержит 6,7 млрд параметров, использует расширенный бенгальский словарь на 16 000 токенов, принимает текст и генерирует текст; заявленная длина контекста — 4096 токенов. Модель предназначена для ответов на инструкции и запросы на бенгальском и английском языках. Её можно использовать для диалоговых приложений и адаптировать дополнительным дообучением под задачи обработки естественного языка. Для запуска доступны веса PyTorch; в карточке указаны лицензия Llama 2, тогда как README заявляет GNU GPL v3.0, поэтому условия распространения следует сверить с актуальными лицензионными файлами репозитория. Разработчики предупреждают, что модель не проходила детоксикацию и может выдавать вредный или оскорбительный текст; результаты стоит контролировать, особенно в публичных и чувствительных приложениях.

Bielik-11B-v3.0-Instruct-FP8-Dynamic — языковая модель SpeakLeash и ACK Cyfronet AGH, предназначенная для генерации текста и диалоговых сценариев. Это FP8-квантизованная версия Bielik-11B-v3.0-Instruct, дообученная на базе Bielik-11B-v3-Base-20250730. Модель ориентирована на многоязычное использование, поддерживает 32 европейских языка и оптимизирована для польского языка. Модель имеет архитектуру causal decoder-only и содержит около 11 млрд параметров. Квантизация FP8 применена к весам и активациям линейных операторов внутри transformer-блоков с симметричной поканальной для всего тензора схемой масштабирования. Это примерно вдвое уменьшает размер модели на диске и требования к памяти GPU. Модель рассчитана на работу с vLLM версии 0.5.0 и выше или SGLang; вычисления FP8 поддерживаются на GPU NVIDIA с compute capability выше 8.9, включая Ada Lovelace и Hopper. Максимальный контекст в README не указан. К сильным сторонам относятся сниженные требования к памяти и возможность эффективного развёртывания через совместимые серверы и OpenAI-совместимый API. Ограничением является возможное снижение качества ответов и повышение вероятности галлюцинаций из-за квантизации. Модель работает с текстом; сведения о поддержке других модальностей отсутствуют. Распространяется по лицензии Apache 2.0.

c4ai-command-r-plus-08-2024-GGUF — это квантизированная версия языковой модели c4ai-command-r-plus-08-2024, разработанной CohereForAI и преобразованной в формат GGUF компанией Second State Inc. Модель предназначена для задач генерации и обработки текста, включая диалоговые сценарии, ответы на вопросы и работу с многоязычными запросами. В README указана поддержка английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского и арабского языков. Модель распространяется в нескольких вариантах квантизации GGUF с разрядностью от 2 до 5 бит и размером файлов примерно от 15,9 до 39,5 ГБ; некоторые варианты состоят из нескольких частей. Q4_K_M обозначен как рекомендуемый сбалансированный вариант, тогда как более низкие уровни квантизации сопровождаются заметной потерей качества. В README также приведён контекст 128000 токенов и шаблон prompt типа chatml, однако соответствующие инструкции помечены как закомментированные, а поддержка запуска через LlamaEdge указана как находящаяся в разработке. К сильным сторонам относятся широкий набор поддерживаемых языков и возможность запуска в компактных квантизированных форматах, уменьшающих требования к памяти по сравнению с полноразмерной моделью. Ограничения связаны с потерей качества при агрессивной квантизации, значительным размером даже наиболее компактных файлов и отсутствием в README подробностей об архитектуре, числе параметров, мультимодальности и подтверждённых характеристиках производительности. Лицензия модели — CC BY-NC 4.0, допускающая использование с ограничениями, включая некоммерческий характер применения.

bartowski/c4ai-command-r-v01-GGUF — это набор квантованных версий большой языковой модели c4ai-command-r-v01, разработанной CohereForAI и подготовленной в формате GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и может использоваться в локальных сценариях через совместимые реализации llama.cpp. В README указана поддержка английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского и арабского языков. Архитектура, количество параметров, модальности и размер контекста не указаны. Доступны варианты квантования Q2_K–Q8_0 размером примерно от 13,81 до 37,17 ГБ; Q6_K отмечен как рекомендуемый вариант с очень высоким качеством, а Q8_0 — как вариант максимального доступного качества. Более сильное квантование обычно сохраняет лучшее качество, но требует больше места и памяти; варианты Q3 и Q2 экономичнее, однако сопровождаются заметным снижением качества. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

c4ai-command-a-03-2025-GGUF — это квантизированная GGUF-версия языковой модели c4ai-command-a-03-2025, разработанной CohereForAI. Данная сборка подготовлена bartowski с использованием llama.cpp и imatrix-квантизации и предназначена для генерации текста в локальных приложениях, включая LM Studio, llama.cpp и другие проекты на его основе. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, японский, корейский, китайский, арабский, греческий, персидский, польский, индонезийский, чешский, иврит, хинди, нидерландский, румынский, русский, турецкий, украинский и вьетнамский языки. В README не указаны архитектура, число параметров, поддерживаемая длина контекста и мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Доступно несколько вариантов квантизации с размерами от 67,90 до 118,01 ГБ: Q4_K_L, Q4_1, Q5_K_S, Q5_K_M, Q6_K и Q8_0. Более крупные варианты обычно лучше сохраняют качество, но требуют больше памяти. Ограничения включают значительные требования к ресурсам, зависимость от совместимого ПО и отсутствие заявленных характеристик производительности. Лицензия CC-BY-NC-4.0 разрешает только некоммерческое использование; для доступа также предусмотрено принятие лицензионного соглашения Cohere.

nold/CroissantLLMChat-v0.1-GGUF — GGUF-квантизированная версия CroissantLLMChat-v0.1, разработанная в рамках инициативы CroissantLLM и подготовленная с использованием пайплайна llm-quantizer. Исходную модель создали Manuel Faysse, Patrick Fernandes и соавторы. Это чат-модель, дообученная после 190 тысяч шагов обучения на примерно 2,99 трлн токенов с последующей Chat-настройкой. Модель предназначена для диалогов, генерации и редактирования текста, преимущественно на французском и английском языках, а также для задач перевода; её можно запускать на локальном пользовательском оборудовании. Архитектура в README явно не указана, размер исходной модели составляет 1,3 млрд параметров, а поддерживаемая модальность — текст. Для корректной работы рекомендуется использовать заданный chat template и температуру не ниже 0,3. Заявленный контекст модели не указан. К сильным сторонам относятся производительность для своего размера, хорошие результаты в письменных задачах и особенно в переводе, а также открытость проекта. Ограничения включают слабые возможности сложного рассуждения, относительно низкое качество генерации кода и неоптимальную работу с языками, кроме французского и английского. Модель может галлюцинировать и выдавать фактически неверные сведения; ориентировочная граница знаний связана с дампом Wikipedia за ноябрь 2023 года. Модель распространяется по лицензии MIT.

Euraika/EuroLLM-22B-Instruct-GPTQ — 4-битная GPTQ-квантизованная версия инструкционной языковой модели EuroLLM-22B-Instruct-2512, разработанной командой EuroLLM проекта UTTER. Квантизацию выполнила Euraika с использованием GPTQModel; модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, объяснение сложных тем и работу в формате ChatML. Модель поддерживает все 24 официальных языка Европейского союза, а также турецкий, украинский и другие европейские языки: английский, немецкий, французский, итальянский, испанский, португальский, польский, нидерландский, чешский, греческий, венгерский, румынский, финский, шведский, болгарский, словацкий, датский, словенский, литовский, латышский, эстонский, хорватский, ирландский, мальтийский и норвежский. Архитектура базовой модели в README не уточнена; заявлены 22 млрд параметров, 53 трансформерных слоя и размер квантизованной модели около 14 ГБ. Используется GPTQ с точностью 4 бита, group size 128 и desc_act=true. Ключевое преимущество модели — существенное снижение требований к памяти при сохранении заявленного качества квантизации; поддерживаются инференс через GPTQModel, vLLM и Transformers/AutoGPTQ, а также работа на нескольких GPU. Минимально рекомендуется 16 ГБ VRAM, оптимально — 24 ГБ. Ограничения включают зависимость качества от 4-битной квантизации и отсутствие в README сведений о длине контекста базовой модели, мультимодальности, результатах независимых бенчмарков и конкретных гарантиях качества. Модель распространяется по лицензии Apache 2.0.

EuroMoE-2.6B-A0.6B-Instruct-Preview — предварительная многоязычная языковая модель Unbabel и академических партнёров проекта EuroLLM, финансируемого Европейским союзом. Это модель MoE на базе архитектуры Mixtral для генерации текста и диалогового общения; в карточке указаны 2,6 млрд параметров и 0,6 млрд активных параметров, а метаданные каталога приводят 231,7 млн параметров. Контекст — 4096 токенов. Архитектура использует grouped-query attention, RMSNorm, SwiGLU и RoPE. Модель дообучена на наборе EuroBlocks для выполнения инструкций общего назначения и машинного перевода. Она рассчитана на 35 языков, включая языки ЕС, русский, китайский, арабский, хинди, японский и корейский. Подходит для многоязычных диалогов, следования инструкциям и перевода. Выпущена под Apache License 2.0. Это preview-версия в разработке, поэтому её производительность и стабильность могут быть ограничены. Модель не выровнена по человеческим предпочтениям и может выдавать галлюцинации, вредный контент или фактические ошибки; авторы рекомендуют осторожность при применении в production.

EXAONE-4.0-32B-FP8 — мультиязычная большая языковая модель LG AI Research, представленная в формате для запуска на ускорителях FuriosaAI RNGD через Furiosa-LLM. Это авторегрессионный плотный Transformer с 32 млрд параметров, предназначенный для генерации текста, следования инструкциям, решения сложных задач с использованием режима рассуждений, вызова инструментов и агентских сценариев. Модель поддерживает английский, корейский и испанский языки, работает с текстовыми входами и выходами. Модель объединяет обычный режим без рассуждений, включённый по умолчанию, и режим reasoning, который активируется отдельно для запроса. Она поддерживает вызов функций через формат EXAONE-4.0. Веса статически квантизированы в FP8, активации динамически квантизируются в FP8 во время выполнения, а KV-кэш сохраняется в 16-битной точности. На FuriosaAI RNGD используется тензорный параллелизм на 32 PE, что соответствует четырём картам RNGD. Карточка описывает интеграцию с Furiosa-LLM и аппаратным обеспечением FuriosaAI RNGD; для других движков, включая vLLM, SGLang и Transformers, следует обращаться к исходной карточке модели. Ограничения по размеру контекста и дополнительные характеристики производительности не указаны. Модель распространяется по лицензии EXAONE AI Model License Agreement 1.2 - NC, предусматривающей некоммерческое использование.

Gemopus-4-E4B-it — инструкционно дообученная модель, разработанная автором репозитория Jackrong на базе google/gemma4-E4B-it. Модель ориентирована на локальный запуск на периферийных устройствах, включая iPhone, планшеты и тонкие ноутбуки Apple, чтобы обеспечивать низкую задержку и повышенную конфиденциальность данных без обращения к облачным API. Вариант представлен в формате GGUF. Модель предназначена для повседневных текстовых задач: перевода, перефразирования, суммаризации, исправления ошибок, генерации коротких текстов, простых вопросов и ответов, а также многошагового диалога. Автор заявляет улучшение естественности тона, контекстного понимания, теплоты ответов и структурирования результатов по сравнению с исходной Gemma 4 E4B it. В метаданных указана мультимодальная специализация image-text-to-text, а заявленные языки включают английский, китайский, корейский и японский. Ключевые характеристики включают базовую модель Gemma 4 E4B-it, размер класса E4B, инструкционное дообучение и настройку на основе человеческих предпочтений. Контекстное окно в README не указано. Среди сильных сторон — возможность локального использования, потенциально высокая скорость инференса на устройствах Apple и ориентация на приватную обработку данных. При этом приведённые показатели скорости основаны на публичных бенчмарках и сообщениях сообщества, а результаты могут существенно зависеть от оборудования, среды выполнения и версии модели; независимые оценки производительности обозначены как TBD. Модель распространяется по лицензии Apache-2.0.

granite-4.0-h-3b-ar — компактная инструктивная языковая модель, разработанная IBM Research и Mohamed bin Zayed University of Artificial Intelligence (MBZUAI) в рамках IBM–MBZUAI AI Center of Excellence. Она предназначена для диалогов и генерации текста на современном стандартном арабском, нескольких региональных арабских диалектах и английском языке, в том числе для разнородных и межъязыковых сценариев. Модель содержит 2,6 млрд параметров и использует плотную decoder-only архитектуру GraniteMoeHybrid с GQA, Mamba2, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Контекстное окно по метаданным составляет 131 072 токена. Компактный размер позволяет рассматривать её для эффективного развёртывания при ограниченных ресурсах; обучение охватывало общие задачи, а также примеры по математике, программированию и рассуждениям. Качество может зависеть от диалекта, предметной области, формулировки запроса и сложности задачи; результаты на арабских диалектах могут уступать английским. Модель способна выдавать неточные, предвзятые, неподходящие или небезопасные ответы, поэтому перед использованием в конкретной задаче рекомендуется оценка и настройка, а для рискованных сценариев — модерация входов и выходов. Лицензия — Apache-2.0.

Granite-speech-3.3-2b — компактная речевая языковая модель IBM, основанная на granite-3.3-2b-instruct и адаптированная к обработке аудио. Она предназначена прежде всего для автоматического распознавания речи (ASR) и автоматического перевода речи (AST), а также поддерживает текстовые сценарии через базовую языковую модель. Модель использует двухэтапную схему: сначала преобразует аудио в текст, затем по отдельному вызову обрабатывает этот текст языковой моделью. Модель поддерживает речевой ввод на английском, французском, немецком, испанском и португальском языках. Она ориентирована на преобразование речи в текст и перевод между этими языками и английским, а также на перевод с английского на японский и мандаринский китайский. В версии 3.3.2 улучшена точность распознавания английской речи благодаря более глубокому акустическому энкодеру и дополнительным данным обучения. Модель содержит около 2 млрд параметров; точное максимальное окно контекста в README не указано. Сильными сторонами являются компактность, мультиязычность, поддержка ASR и AST и пригодность для корпоративных приложений, работающих с речевыми данными. Ограничение двухпроходной архитектуры заключается в необходимости явно выполнять отдельный второй вызов для обработки транскрибированного текста. Лицензия — Apache 2.0.

Kara-Kumru-v1.0-2B — турецкоязычная языковая модель, созданная дообучением VNGRS AI модели vngrs-ai/Kumru-2B. Это плотный decoder-only трансформер семейства Mistral с 2,4 млрд параметров и контекстом 8192 токена; модель распространяется в формате safetensors и рассчитана на диалоговую генерацию текста. Модель оптимизирована для ответов на вопросы, извлечения информации, суммаризации и перевода с турецкого на английский, а также для общей генерации текста на турецком языке. В заявленной оценке на Cetvel она улучшила результаты базовой модели по генеративным задачам, включая QA и суммаризацию, но показала снижение качества на некоторых классификационных задачах, NLI и коррекции грамматики. Сопоставление с другими моделями в README частично использует результаты из разных оценочных конвейеров, поэтому рейтинговые сравнения следует трактовать с осторожностью. Модель выпущена под лицензией Apache-2.0. README сообщает о полном дообучении в BF16 и описывает сценарии локального развёртывания, однако фактические требования зависят от используемой версии и оборудования.

bicolino34 выпустил модель Sentence Transformer, дообученную на базе sentence-transformers/LaBSE на 13 304 парах предложений из японского и украинского языков. Она кодирует предложения и абзацы в плотные векторы размерности 768 и предназначена для сопоставления смысла текстов, семантического поиска и поиска парафраз; близость векторов оценивается косинусным сходством. Модель построена на архитектуре BERT, использует библиотеку Sentence Transformers и принимает текст.