I.6Перевод и языковая адаптация

BayLing-13B-diff — версия с разницей весов модели BayLing-13B-v1.0, разработанной группой NLP Института вычислительных технологий Китайской академии наук. Это плотная авторегрессионная языковая модель на архитектуре LLaMA с 12,9 млрд параметров и контекстом 2048 токенов; репозиторий содержит веса в формате PyTorch. Модель рассчитана на генерацию текста по инструкциям, перевод, написание и создание текстов, выдачу предложений и многоходовой диалог на китайском и английском языках. В карточке заявлены сильные стороны в следовании инструкциям, межъязыковом выравнивании и взаимодействии на нескольких ходах. Это именно версия weight-diff: для восстановления параметров BayLing требуется применить apply_delta.py к соответствующим базовым весам; полная модель в карточке не представлена. Лицензия — GPL-3.0. Модель может давать неточные фактические ответы, слабо справляется с рассуждениями, математикой и программированием, а также может генерировать вредный или предвзятый контент.

BayLing-7B-diff — версия с разностью весов модели BayLing-7B, разработанной группой NLP Института вычислительных технологий Китайской академии наук. Это плотная языковая модель семейства Llama на 6,6 млрд параметров с контекстом 2048 токенов; репозиторий содержит веса PyTorch. Для получения параметров BayLing требуется применить разность весов к базовой модели с помощью apply_delta.py. Модель предназначена для генерации текста, следования инструкциям и многоходового диалога на английском и китайском языках. Она подходит для перевода, написания текстов, творческих задач и предложений. Лицензия репозитория — GPL-3.0. По данным авторов, модель может выдавать неточные факты и слабо справляется с рассуждениями, математикой и программированием; также возможна генерация вредного или предвзятого содержания.

BgGPT-7B-Instruct-v0.2 — инструктивно дообученная языковая модель INSAIT Institute при Софийском университете, созданная на основе Mistral-7B-v0.1. Это плотный авторегрессионный трансформер с 7,1 млрд параметров и контекстом до 32 768 токенов; для работы с инструкциями использует формат Mistral с маркерами [INST] и [/INST]. Модель предназначена для диалогов, ответов на вопросы и генерации текста на болгарском и английском языках. В версии 0.2 продолжено предварительное обучение на болгарских веб-данных и специализированных наборах, а также на переводах англоязычных данных; токенизатор расширен для более эффективной обработки болгарского текста на кириллице. Английские данные использовались для сохранения навыков английского языка и логического рассуждения. Модель распространяется по лицензии Apache 2.0. В карточке приведены бенчмарки, основанные на переводах англоязычных тестов; их результаты могут не полностью отражать качество на исходных языковых наборах. Указанный контекст — технический предел модели, а качество ответов и рассуждений зависит от запроса и сценария применения.

domestic-yak-8B — языковая модель LVSTCK, адаптированная для македонского языка на основе Meta Llama 3.1 8B Instruct. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров и контекстом до 131 072 токенов. Авторы продолжили предобучение всех весов на одном проходе по дедуплицированному македонскому корпусу объёмом около 1,6 млрд токенов. Модель предназначена для генерации текста на македонском языке и может применяться для классификации текстов, ответов на вопросы и перевода. В оценке на македонской версии бенчмарка macedonian-llm-eval она превзошла исходную Llama 3.1 8B Instruct в приведённых тестах; корпус при этом содержит много новостных текстов, поэтому качество на узких и слабо представленных темах может быть ниже. Карточка указывает, что эта версия является базовой и её диалоговые возможности могут быть ограничены; для диалогового применения авторы рекомендуют instruct-версию. Распространяется по лицензии Llama 3.1.

EMMA-500 Llama 3.1 8B bi — многоязычная языковая модель MaLA-LM, созданная на архитектуре Llama 3.1 8B посредством продолжительного предобучения на монолингвальных корпусах и двуязычных переводных данных. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации текста. Контекстное окно — до 131 072 токенов. Модель предназначена для генерации текста на большом числе языков, машинного перевода и других многоязычных задач. В README заявлена поддержка 546 языков и обучение на данных более чем для 2 500 языковых пар; в обучающую смесь также входят код, книги, инструкции и научные статьи. Репозиторий использует формат safetensors и библиотеку Transformers. README предупреждает о возможном снижении качества на отдельных задачах и высокоресурсных языках и не рекомендует применять модель в реальных сценариях, особенно в областях с высокими последствиями ошибок. Лицензия — Llama 3. Условия использования также зависят от условий лицензии базовой модели Meta.

EuroLLM-9B-Instruct-GGUF — это квантизированная версия инструкционной языковой модели EuroLLM-9B-Instruct, разработанной проектом utter-project и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста и диалогового взаимодействия, включая выполнение инструкций и локальный запуск через совместимые приложения, например LM Studio. Модель имеет около 9 миллиардов параметров и поддерживает широкий набор языков, включая английский, немецкий, испанский, французский, итальянский, португальский, польский, русский, украинский, китайский, японский, корейский, арабский и хинди. Мультимодальные возможности и размер контекста в README не указаны. Доступны варианты от F16 до Q2_K_L, различающиеся размером файлов, требованиями к памяти и качеством: старшие варианты обеспечивают качество, близкое к исходной модели, а младшие подходят для систем с ограниченным объёмом RAM, но заметно уступают по качеству. Модель удобна для локального инференса благодаря большому выбору квантизаций; рекомендованным вариантом по умолчанию назван Q4_K_M, а для максимального качества — Q6_K или Q6_K_L. Некоторые варианты оптимизированы для ARM или AVX и имеют ограничения совместимости, в частности отдельные сборки не рекомендуются для Mac или GPU. Лицензия — Apache-2.0.

Systran/faster-whisper-large-v1 — конверсия модели распознавания речи Whisper large-v1 от OpenAI в формат CTranslate2, подготовленная для использования в CTranslate2 и проектах на его основе, включая faster-whisper. Модель принимает аудио и выполняет автоматическое распознавание речи; Whisper поддерживает многоязычное распознавание и перевод речи в текст. Репозиторий создан 23 ноября 2023 года, веса сохранены в FP16, а тип вычислений можно менять при загрузке через параметр compute_type. Модель распространяется по лицензии MIT. Это конверсия исходных весов, поэтому её назначение и качество определяются исходной Whisper large-v1; точные ограничения в карточке конверсии не описаны.

Granite-4.0-1b-speech — компактная речевая модель IBM на 1 млрд параметров, полученная адаптацией Granite-4.0-1b-base для работы с аудио. Она предназначена для многоязычного распознавания речи и перевода речи в текст, в том числе перевода между английским и французским, немецким, испанским, португальским и японским; также поддерживается перевод с английского на итальянский и китайский. Модель принимает аудио и выдаёт текст. Для распознавания имён и аббревиатур можно использовать списки ключевых слов; авторы также отмечают высокую скорость распознавания и пригодность для устройств с ограниченными ресурсами. Модель построена на архитектуре Granite Speech и распространяется в формате safetensors для Transformers. Лицензия — Apache 2.0. README описывает обучение на открытых корпусах для распознавания и перевода речи, включая синтетические данные для японского распознавания и распознавания с подсказками по ключевым словам. Модель рассчитана на английский, французский, немецкий, испанский, португальский и японский языки. Итальянский и китайский указаны для перевода только с английского. Результаты могут зависеть от языка, акустических условий и соответствия данных пользователя обучающим корпусам; ключевые слова помогают распознавать заданные имена и аббревиатуры.

Jais-adapted-70b — двуязычная большая языковая модель семейства Jais, разработанная Inception Institute of Artificial Intelligence и адаптированная на основе Llama 2 70B. Это базовая модель с авторегрессионной архитектурой для генерации текста; семейство обучалось на данных на арабском и английском языках, включая код. Модель рассчитана на задачи понимания и генерации текста, а также может служить основой для дальнейшей настройки под конкретные сценарии. Модель подходит для создания арабско-английских ассистентов, анализа тональности и суммирования двуязычных документов. Она оптимизирована для арабского языка и также поддерживает английский; равного качества для других языков ожидать не следует. Ответы могут быть ошибочными, предвзятыми или оскорбительными, поэтому для решений с высокими последствиями нужен контроль человека. Распространяется по лицензии Apache 2.0.

Kona2-small-3.8B — компактная грузинская языковая модель на 3,8 млрд параметров, разработанная на базе Microsoft Phi-3.5-mini-instruct. Это плотный Transformer семейства Phi-3 для генерации текста и диалогов; заявлены дообучение на грузинском и английском корпусе, настройка по инструкциям и предпочтениям, а также расширение словаря примерно на 20 тысяч грузинских токенов. Модель предназначена для чат-сценариев, генерации грузинского текста и перевода, включая запуск на потребительском оборудовании и устройствах с ограниченными ресурсами. В карточке указана длина контекста 8 тысяч токенов, тогда как метаданные каталога сообщают 4096 токенов; поэтому для практического использования следует ориентироваться на значение метаданных. Репозиторий использует формат safetensors и библиотеку Transformers, а для запуска, согласно README, требуется trust_remote_code=True. Заявлены требования около 8 ГБ видеопамяти в FP16 или 3 ГБ при 4-битном запуске. Лицензия — Apache-2.0. Известное ограничение: данные обучения имеют отсечку 2024 года.

KORani-v3-13B — языковая модель компании KRAFTON на архитектуре LLaMA с 12,9 млрд параметров. Это дообученная версия LLaMA 13B, созданная с использованием наборов ShareGPT и KoVicuna и вдохновлённая проектом Vicuna. Модель предназначена для генерации текста на корейском и английском языках, в том числе для диалога, ответов на вопросы, перевода с английского на корейский и суммаризации на корейском. Контекст составляет 2048 токенов. В репозитории указаны веса PyTorch и лицензия Apache-2.0. В README приведены примеры сравнительной оценки на небольших выборках для перевода, вопросов и суммаризации; эти результаты не гарантируют качества в других сценариях. Версия v3 не означает, что модель является лучшей или самой новой.

Lamarck-14B-v0.7 — языковая модель на 14 млрд параметров, собранная sometimesanotion как объединение нескольких моделей семейства Qwen2. Для создания использовалась собственная цепочка слияний весов, включая SLERP и TIES, и объединение ветвей, построенных с помощью LoRA и других методов слияния. В числе предшественников — DeepSeek-R1-Distill-Qwen-14B, Virtuoso-Small и предыдущие версии Lamarck. Модель предназначена для диалогов и генерации текста общего назначения с упором на многошаговые рассуждения, связную прозу, перевод и работу на нескольких языках. Контекст — до 131 072 токенов; в карточке отмечена поддержка английского языка, а автор также заявляет о многоязычных возможностях. Модель доступна в формате safetensors и распространяется по лицензии Apache-2.0. Заявления о качестве основаны на оценках автора и субъективном описании возможностей; независимые результаты бенчмарков в карточке не приведены. Для унаследованных компонентов и слияния качество может различаться в зависимости от задачи.

Lite-Whisper large-v3-acc — сжатая версия мультиязычной модели распознавания речи Whisper large-v3 от OpenAI, разработанная с использованием LiteASR. Она предназначена для преобразования речи в текст. В оценке на наборах данных ESB модель показала средний WER 10,1 — такой же, как у Whisper large-v3; размер энкодера составляет 429 млн параметров против 635 млн у исходной модели, а декодера — 907 млн. Модель построена на архитектуре LiteWhisperForConditionalGeneration и содержит 905,2 млн параметров. Она принимает аудио и выдаёт текст; базовая модель поддерживает многоязычную транскрибацию и перевод аудио в текст. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0.

unsloth/Llama-3.2-3B-Instruct-GGUF — GGUF-версия инструкционно дообученной языковой модели Llama 3.2 с 3 млрд параметров, разработанной Meta и опубликованной Unsloth. Это авторегрессионная модель на оптимизированной архитектуре Transformer с Grouped-Query Attention (GQA); варианты GGUF доступны в форматах квантования от 2 до 16 бит, что позволяет выбирать баланс между качеством, размером и требованиями к памяти. Модель предназначена для генерации текста и мультиязычного диалога, включая агентский поиск по данным и суммаризацию. Она работает в режиме «текст на входе — текст на выходе» и официально поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Инструкционная версия обучалась с использованием supervised fine-tuning (SFT) и reinforcement learning with human feedback (RLHF) для повышения полезности и безопасности. README не указывает размер контекстного окна и конкретные показатели производительности; модель является статичной и обучена на офлайн-данных. Использование регулируется Llama 3.2 Community License — специальной коммерческой лицензией Meta, а также Acceptable Use Policy. GGUF-квантизация может снизить требования к памяти и упростить локальный запуск, но при меньшей разрядности возможна потеря качества. Модель не является мультимодальной: заявлены только текстовые входы и выходы.

Neurona 8B Beta — предварительная экспериментальная языковая модель на основе Meta Llama 3, разработанная Икером Гарсией. Это плотная авторегрессионная модель с 7,5 млрд параметров, дообученная для диалоговых ответов преимущественно на испанском языке. Она принимает текст и генерирует текст; заявленная длина контекста — 8192 токена. Модель обучалась на смешанном наборе англоязычных и испаноязычных данных, включая инструкции, диалоги, перевод, суммаризацию, вопросы и ответы, код и function calling. В README перечислены возможные сценарии применения: ответы на вопросы, суммаризация, помощь с кодом, RAG и вызов функций. Для работы используются Transformers и формат safetensors. Автор отмечает, что это первая итерация для отладки обучающих скриптов и инфраструктуры, а модель ещё разрабатывается и не является финальной версией. Лицензия — Llama 3; применимость её условий следует оценивать вместе с условиями базовой модели.

Llama-3-Swallow-8B-Instruct-v0.1 — диалоговая языковая модель команды Swallow-LLM из Токийского технологического института и AIST, созданная на основе семейства Meta Llama 3. Модель прошла продолжительное предобучение с добавлением японских текстов, а инструктивная версия — дообучение на примерах инструкций и настройку Chat Vector. Архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, длина контекста — 8192 токена; веса опубликованы в safetensors и предназначены для Transformers. Модель рассчитана на диалог и генерацию текста на японском и английском языках. Возможные сценарии включают ответы на вопросы, следование инструкциям, суммаризацию, перевод между японским и английским, рассуждения и генерацию кода. В README приведены результаты оценки на японских и английских бенчмарках, но отдельные строки таблиц для этой модели здесь не представлены, поэтому конкретный уровень качества по ним оценить нельзя. Разработчики предупреждают, что модель находится на раннем этапе разработки и не настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Лицензия — Llama 3; условия использования определяются её положениями.

DNA 1.0 8B Instruct — корейско-английская языковая модель компании Dnotitia Inc. на архитектуре Llama, дообученная на основе Llama 3.1 8B. По карточке, при её создании применялись слияние SLERP, дистилляция с учителем Llama 3.1 405B, дополнительное предобучение на корейских данных, настройка инструкций и DPO. Модель предназначена для диалогов, генерации текста и выполнения инструкций на корейском и английском языках; размер — около 7,5 млрд параметров, контекст — до 131 072 токенов. В карточке приведены результаты сравнительных оценок на корейских бенчмарках KMMLU, KMMLU-hard и KoBEST. Модель может выдавать предвзятые или неподходящие ответы, устаревшую информацию и фактические ошибки; результаты зависят от сложности и предметной области, поэтому ответы следует проверять. Лицензия — CC BY-NC 4.0; карточка сообщает, что коммерческое использование возможно после согласования с разработчиком.

Llama-SEA-LION-v3-70B-IT-GGUF — это 70-миллиардная мультиязычная decoder-модель для генерации текста, разработанная командой Products Pillar организации AI Singapore при финансировании Singapore NRF. Модель ориентирована на языки Юго-Восточной Азии и создана на основе Llama-SEA-LION-v3-70B-IT; аббревиатура SEA-LION расшифровывается как Southeast Asian Languages In One Network. Модель предназначена для диалоговых и других текстовых задач, включая обработку инструкций и генерацию ответов на английском, китайском, вьетнамском, индонезийском, тайском, филиппинском, тамильском, малайском, кхмерском, лаосском, бирманском, яванском и сунданском языках. Она была дообучена примерно на 12,3 млн англоязычных и 4,5 млн инструкционных пар на языках региона. В данном репозитории представлены веса в формате GGUF с вариантами квантования от Q2_K до Q8_0, а также F16; некоторые варианты разделены на несколько файлов. Контекст модели в README не указан. К сильным сторонам относятся широкий охват языков Юго-Восточной Азии, большой размер и специализация на инструкционном взаимодействии. Модель может галлюцинировать, выдавать нерелевантный или вымышленный контент, а её рассуждения могут быть непоследовательными, поэтому ответы требуют проверки. Выпуск не прошёл дополнительное safety-выравнивание: пользователи и разработчики должны самостоятельно реализовать меры безопасности и при необходимости дообучение. Использование регулируется Llama 3.1 Community License.

AlexStamp/marian-finetuned-kde4-en-to-fr — модель машинного перевода на архитектуре MarianMT, дообученная на параллельном англо-французском корпусе локализации KDE4. Она предназначена для перевода строк интерфейса, сообщений об ошибках и документации программного обеспечения с английского на французский, а также технических текстов, где важны единообразная терминология и формальный стиль. Модель принимает обычный английский текст без префикса задачи и выдаёт французский перевод; контекст — до 512 токенов. На проверочной части KDE4 модель показала BLEU 53,0 против 39,3 у базовой модели, однако отдельная тестовая выборка для этого обучения не использовалась. Из-за специализации на локализации KDE4 она может чрезмерно формализовать разговорные фразы и хуже справляться с нетехническими текстами; в переводе могут встречаться HTML-сущности и лишние пробелы перед французской пунктуацией. Основа — Helsinki-NLP/opus-mt-en-fr, лицензия — Apache-2.0.

Mawared_T1 — двуязычная языковая модель, разработанная Daemontatox и дообученная на базе arcee-ai/Meraj-Mini. Она использует плотную трансформерную архитектуру Qwen2 для генерации текста и диалогового взаимодействия. Размер модели — 7,1 млрд параметров, контекст — до 131 072 токенов. Модель предназначена для общения и создания контента на арабском и английском языках. Её можно использовать для чат-ботов и виртуальных помощников, составления текстов, кратких изложений и переводов между этими языками. В карточке также заявлено применение для образовательных материалов и многоязычного анализа текста. Модель распространяется в формате Safetensors по лицензии Apache-2.0. README сообщает о дообучении с использованием Unsloth и Hugging Face TRL, включая методы reinforcement learning; независимые показатели качества для арабского языка в карточке не приведены.

bigscience/mt0-small — многоязычная модель BigScience для выполнения инструкций на естественном языке. Это вариант mT5-small, дообученный на смеси задач xP3; архитектура кодировщик-декодировщик MT5, размер — 157,4 млн параметров. Модель принимает текстовые инструкции и генерирует текстовые ответы, в том числе для задач перевода, классификации по инструкции, объяснения понятий и написания историй. Модель рассчитана на выполнение разнообразных задач без специального обучения под каждую из них и демонстрирует перенос между языками и задачами в zero-shot-сценариях. Карточка приводит примеры на нескольких языках и указывает, что модель понимает языки предобучения mC4 и дообучения xP3; метаданные перечисляют поддерживаемые языки. Доступны веса PyTorch, safetensors и ONNX. Лицензия — Apache-2.0. Качество зависит от формулировки запроса: стоит ясно обозначать границы входного текста и задавать нужный язык и контекст. Модель не гарантирует точность ответов на всех задачах и языках.

Occiglot-7B-FR-EN-Instruct — чат-модель с открытыми весами, разработанная Occiglot Research Collective. Это инструктивно дообученная версия occiglot-7b-fr-en: плотный авторегрессионный трансформер Mistral с 7,1 млрд параметров. Модель предназначена для диалогов и выполнения инструкций на французском и английском языках; в обучении также использовались инструкции для кода. Контекст модели по метаданным составляет 32 768 токенов. Модель обучена методом полного инструктивного дообучения на данных Open-Hermes-2B и нескольких наборах французских инструкций. Она использует шаблон чата ChatML и токенизатор Mistral-7B-v0.1. Авторы называют релиз ранним этапом исследовательского проекта; опубликованные оценки предварительные, а результаты для французского получены на ограниченных наборах и требуют осторожной интерпретации. Модель не проходила выравнивание по безопасности и может выдавать проблемный контент. Лицензия — Apache 2.0.

OpenBuddy-mistral-7b-v13.1 — многоязычная чат-модель проекта OpenBuddy на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для диалогов и генерации текста; заявлены языки китайский, английский, французский, немецкий, японский, корейский, итальянский и русский. Модель принимает текст и генерирует текст, длина контекста составляет 32 768 токенов. Модель распространяется под лицензией Apache 2.0. В README отмечено, что ответы могут быть ошибочными, вредными или оскорбительными; модель не следует использовать для критически важных решений в медицине, управлении потенциально опасными системами, финансах и праве. Она предоставляется без гарантий.

OpenJAI-v1.0-14B — открытая языковая модель Jasmine Technology Solution (JTS), дообученная на базе Qwen/Qwen3-14B для работы на тайском и английском языках. Это плотная трансформерная модель с 14 млрд параметров для диалогов и генерации текста; опубликована в формате Safetensors и использует библиотеку Transformers. Модель предназначена для следования сложным инструкциям, работы с длинными текстами и вызова инструментов или функций. Разработчики сообщают об улучшении результатов относительно базовой модели и других сопоставимых открытых тайских моделей на ряде тестов, сохраняя основные знания Qwen3. Заявлена поддержка контекстов до 120 000 токенов при расширении контекста; штатное окно — 32 768 токенов, а конфигурация модели задаёт 40 960 позиций. Для длинных входов требуются методы масштабирования RoPE, например YaRN; постоянное масштабирование может ухудшать результаты на коротких текстах. Лицензия — Apache-2.0.

OpenThai 2.0 Qwen3.8-27B — дообученная компанией OpenThai мультимодальная модель на архитектуре Qwen3.5 с 27 млрд параметров. Она принимает текст и изображения и предназначена прежде всего для работы с тайскими документами: распознавания печатного и рукописного текста, транскрипции страниц, извлечения структуры и ответов на вопросы по документам. Также подходит для ответов на тайском и английском языках, следования инструкциям, программирования и использования инструментов. Модель заявлена с контекстом 262 144 токена; в производственном API используется контекст до 131 072 токенов. В README приведены результаты оценки тайских экзаменационных знаний, следования инструкциям и распознавания документов, включая улучшение распознавания рукописного текста относительно базовой модели. Модель распространяется под лицензией Apache-2.0. Качество структурированного извлечения данных примерно соответствует базовой модели и слабее в разборе таблиц, извлечении ключевой информации и вопросах по диаграммам. Текст на вывесках и других сценах распознаётся хуже, а рукописный текст остаётся сложным: на сложных примерах возможны ошибки примерно в каждом четвёртом символе. Возможны галлюцинации на нечитаемых изображениях; длинные ответы могут различаться между запусками.

PLaMo-13B-Instruct — языковая модель с инструкционной настройкой, разработанная Preferred Networks, Inc. на основе PLaMo-13B с контекстом 8192 токена. Это плотная авторегрессионная модель с архитектурой decoder-only и 14,7 млрд параметров; для работы с весами в формате safetensors используется библиотека Transformers. Модель предназначена для диалогов и выполнения инструкций на японском и английском языках. Она обучена на 1,5 трлн токенов, включая 1,32 трлн английских и 0,18 трлн японских токенов; при инструкционной настройке использовались публичные датасеты, в том числе японские переводы и подмножества Dolly, Anthropic HH-RLHF, OpenAssistant и Izumi-lab. Модель может выдавать неточные, предвзятые или нежелательные ответы. Проверки проводились на английском и японском языках и не охватывают все сценарии, поэтому перед внедрением рекомендуется тестирование и настройка безопасности под конкретное приложение. Лицензия — Apache License 2.0.

JunHowie/Qwen3-0.6B-GPTQ-Int4 — это 4-битная GPTQ-квантизованная версия языковой модели Qwen3-0.6B, опубликованная JunHowie на базе модели Qwen/Qwen3-0.6B, разработанной командой Qwen. Она предназначена для генерации текста, диалогов, следования инструкциям, решения задач, программирования, перевода и других сценариев применения причинных языковых моделей, включая локальный запуск и развёртывание через vLLM. Модель имеет архитектуру causal language model, 0,6 млрд параметров, из которых 0,44 млрд не относятся к эмбеддингам, 28 слоёв и механизм GQA с 16 головами для Q и 8 для KV. Максимальная длина контекста составляет 32 768 токенов. Qwen3 поддерживает более 100 языков и диалектов, а также переключение между режимами рассуждения и обычной генерации. Квантизация выполнена до 4 бит с размером группы 128; параметр desc_act установлен в false, что, согласно README, повышает эффективность по скорости генерации токенов по сравнению с более ранними квантизованными версиями. К сильным сторонам относятся небольшой размер, сниженные требования к памяти, поддержка мультиязычных задач, диалогов, рассуждений и интеграции с инструментами, а также совместимость с vLLM при наличии версии не ниже 0.9.2. Ограничениями являются малый масштаб модели по сравнению с крупными версиями Qwen3 и возможное снижение качества из-за 4-битной квантизации; конкретные результаты бенчмарков и требования к аппаратному обеспечению в README не приведены. Модель распространяется по лицензии Apache 2.0.

Avesed/Qwen3.8-27B-INT4-W4A16 — это квантизированная версия Qwen/Qwen3.8-27B, разработанная сообществом Avesed. Модель относится к гибридным плотным vision-language моделям: сочетает линейное внимание GatedDeltaNet с периодическим полным вниманием, имеет встроенную vision tower и MTP head для спекулятивного декодирования. Она поддерживает английский и китайский языки, а также обработку изображений и текста. Модель предназначена для генерации и перевода текста, рассуждений, математических задач и мультимодальных сценариев с изображениями. Используется INT4 weight-only квантизация W4A16 с AWQ, symmetric INT4 weights и group size 32. Размер чекпойнта составляет около 20 ГБ, поэтому веса помещаются на одной GPU с 24 ГБ памяти; для обслуживания через vLLM в README указана конфигурация tensor parallel на двух RTX 3090. В чувствительных к качеству компонентах, включая embeddings, lm_head, vision tower и MTP head, сохранён формат bfloat16. На GSM8K модель показала результат 96,4% при описанном в README протоколе оценки; заявлена работоспособность китайской и английской генерации, перевода, vision path и режимов reasoning. MTP-спекулятивное декодирование обеспечивает среднюю длину принятой последовательности около 2,4 токена из 3 при K=2. Ограничения включают зависимость результатов от протокола оценки и параметров сэмплирования, отсутствие результатов MMLU-Pro, а также заметную зависимость производительности от аппаратной конфигурации. Для запуска рекомендуется vLLM; лицензия — Apache-2.0.

SambaLingo-Thai-Base — двуязычная языковая модель SambaNova Systems на архитектуре Llama 2 с 6,7 млрд параметров. Это предварительно обученный чекпойнт, адаптированный к тайскому языку дообучением на 38 млрд токенов тайской части корпуса Cultura-X; словарь токенизатора расширен с 32 000 до 57 000 токенов. Модель предназначена для генерации текста на тайском и английском языках, а также может использоваться в задачах перевода; авторы сообщают о сильных результатах по perplexity и оценке перевода FLORES-200. Модель принимает текст и генерирует продолжение. Контекст составляет 4096 токенов. Для работы рекомендуется генерация без сэмплирования; для эффективного использования базового чекпойнта нужны примеры в few-shot промпте. Для диалогов с прямыми вопросами разработчик рекомендует отдельную чат-версию SambaLingo-Thai-Chat. Модель может галлюцинировать, переключаться между языками или диалектами и повторять фразы; её возможности в программировании и сложной математике ограничены, а ответы могут содержать токсичный или неуместный контент. Не следует применять её в критически важных сценариях и для решений, затрагивающих безопасность людей. Использование регулируется лицензией Meta Llama 2 Community License Agreement.

QuantFactory/SeaLLM3-7B-Chat-GGUF — квантизированная версия чат-модели SeaLLMs/SeaLLM3-7B-Chat, созданная QuantFactory с использованием llama.cpp. Семейство SeaLLMs разработано для работы с языками Юго-Восточной Азии; модель предназначена для генерации текста, диалогов и выполнения пользовательских инструкций. Модель ориентирована на широкий круг задач: ответы на вопросы, следование инструкциям, математическое рассуждение, перевод и работу со знаниями общего назначения. В README заявлены улучшенные возможности многошагового диалога, сниженная склонность к галлюцинациям и более безопасное поведение, в том числе при запросах, связанных с культурой стран Юго-Восточной Азии. Указаны английский, китайский, индонезийский, вьетнамский, тайский и малайский языки; также заявлена поддержка тагальского, бирманского, кхмерского, лаосского, тамильского и яванского языков. Это текстовая autoregressive language model размером 7B параметров в квантизированном формате GGUF; конкретная схема квантизации и размер контекстного окна в README не указаны. Квантизация и совместимость с llama.cpp могут упростить локальный запуск и снизить требования к ресурсам, однако README не содержит точных требований к оборудованию и количественной оценки качества. Модель ограничена текстовой модальностью и, как и другие языковые модели, может допускать ошибки. Лицензия обозначена как other с названием seallms; условия использования приведены по ссылке на лицензию SeaLLMs. Перед применением необходимо ознакомиться с ними.