I.6Перевод и языковая адаптация

ytu-ce-cosmos/turkish-gpt2-large — большая языковая модель семейства GPT-2, предназначенная для генерации текста на турецком языке. Она продолжает заданный фрагмент связным текстом и может использоваться для создания черновиков и других сценариев автодополнения. В метаданных указаны архитектура GPT2LMHeadModel, контекст длиной 1024 токена и обучение на наборе CulturaX. Доступны веса в форматах PyTorch, Safetensors и TensorFlow. Модель может воспроизводить предвзятости из обучающих данных, включавших веб-страницы, книги и другие источники. Репозиторий распространяется по лицензии MIT.

Pectics разработала vad-macbert — модель регрессии для оценки китайского текста по трём измерениям VAD: валентности, возбуждению и доминированию. Она дообучена на базе hfl/chinese-macbert-base и использует архитектуру BERT с головой классификации последовательностей, настроенной на три непрерывных значения. Размер модели — 129,5 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для оценки эмоциональной окраски китайских реплик, например при анализе диалогов и субтитров. Обучающие метки получены от англоязычной модели RobroKools/vad-bert и перенесены на китайские тексты из параллельного корпуса OpenSubtitles. В README приведены результаты оценки на подготовленных выборках; на длинных текстах модель также проверялась, но примеры длиной более 400 символов представлены недостаточно для надёжной оценки. Модель распространяется под лицензией MIT. Её оценки наследуют возможные смещения англоязычной модели-разметчика и погрешности параллельного выравнивания; корпус субтитров содержит переводные артефакты, а очистка не устраняет весь форматный шум.

VisCPM-Chat — открытая мультимодальная модель диалога с изображениями, разработанная командой OpenBMB. Она принимает изображение и текстовый вопрос и формирует текстовый ответ на китайском или английском языке. Модель содержит 13,2 млрд параметров; в её архитектуре VisCPM-Chat используется визуальный энкодер Q-Former и языковая модель CPM-Bee с 10 млрд параметров. Модель предварительно обучали на англоязычных парах изображение–текст, затем дообучали на инструкциях LLaVA-150K и их переводах на китайский. Она предназначена для диалога об изображениях, описания визуальных деталей и ответов на вопросы, требующие визуального рассуждения. В README также приведены оценки на англоязычном и переведённом китайском тестовых наборах LLaVA; конкретные результаты в карточке опущены. Для запуска требуется GPU с объёмом памяти не менее 40 ГБ согласно README. Репозиторий содержит веса PyTorch; метаданные указывают pipeline-тег feature-extraction, хотя описание модели в README относится к мультимодальному диалогу. Лицензия в предоставленных данных не указана.

Al Baka — экспериментальная версия Llama 3, дообученная Omartificial Intelligence Space на арабском варианте набора инструкций Alpaca, Yasbok/Alpaca_arabic_instruct. Это плотная авторегрессионная языковая модель с архитектурой LlamaForCausalLM и 7,5 млрд параметров, предназначенная для генерации текста и ответов на инструкции на арабском языке. Контекст модели — до 8192 токенов. Модель прошла лишь 1000 шагов дообучения в 4-битном режиме с использованием Unsloth на одной видеокарте NVIDIA T4. Она пригодна для экспериментов с ответами Llama 3 на арабском, но короткое обучение ограничивает ожидаемую надёжность и качество ответов. Доступна в формате PyTorch по лицензии Apache 2.0.

Bakpia V1 1.5B — чат-модель семейства Bakpia, разработанная для ответов на яванском языке. Это дообученная версия Qwen 2 1.5B Instruct с архитектурой Qwen2ForCausalLM и 1,5 млрд параметров; модель выпущена в формате safetensors под лицензией Apache-2.0. Для обучения использованы синтетические данные: 36 тысяч пар запросов и ответов, включая примеры на яванском регистре Krama. Контекст составляет до 32 768 токенов. Модель предназначена для одношаговых вопросов и ответов по разным темам, а также для диалогового текстового общения на яванском языке. Авторы отмечают, что это бета-версия и что регистр Ngoko пока не поддерживается. Качество и надёжность ответов могут зависеть от темы и формулировки запроса; обучение на синтетических данных также может ограничивать разнообразие ответов.

BELLE-2/BELLE-Llama2-13B-chat-0.4M — чат-модель на архитектуре Llama 2, разработанная командой BELLE. Модель получена полным дообучением Llama-2-13B-chat на 0,4 млн китайских инструкций и предназначена для диалогов и выполнения инструкций с генерацией ответов на китайском языке. Она содержит 12,9 млрд параметров, принимает текст и поддерживает контекст до 2048 токенов. Модель рассчитана на китайские инструкции и диалоги; в метаданных также указана поддержка английского языка. Авторы отмечают, что ответы могут содержать фактические ошибки, вредный контент, а возможности рассуждения и программирования требуют улучшения. Лицензия указана как Llama 2; авторы запрещают коммерческое и потенциально вредоносное использование и ограничивают применение исследовательскими целями.

Предварительно обученная модель BERT-Large для монгольского языка, созданная tugstugi, enod и sharavsambuu. Репозиторий основан на проектах Google Research BERT, pytorch-pretrained-BERT и bert-japanese. Модель предназначена для задачи fill-mask: предсказывает скрытые токены в монгольском тексте. Она обучалась на монгольской Википедии и наборе новостных текстов объёмом 700 миллионов слов. Размер модели составляет 435,4 млн параметров, длина контекста — до 512 токенов; доступны форматы PyTorch, TensorFlow и Flax. Модель подходит для языковых экспериментов и как основа для дальнейшей адаптации к задачам монгольского языка. Данных о лицензии в предоставленной карточке нет.

CS505_COQE_viT5_train_Instruction0_ASPOL — дообученная модель VietAI/vit5-large на архитектуре T5ForConditionalGeneration с 389,3 млн параметров. Репозиторий указывает, что модель обучалась на наборе данных, название которого не приведено. Карточка не описывает целевые задачи и сценарии применения, поэтому их назначение нельзя определить по доступным сведениям. Базовая VietAI/vit5-large предназначена для генерации текста на вьетнамском языке, в том числе для ответов на вопросы, суммаризации и перевода; это не подтверждает, что данная дообученная версия одинаково хорошо выполняет все эти задачи. Модель распространяется в формате safetensors по лицензии MIT.

Koichi Yasuoka разработал японскую DeBERTaV2-модель на базе deberta-large-japanese-wikipedia-luw-upos для разметки частей речи и синтаксического разбора по схеме Universal Dependencies. Модель дообучена на японской Википедии, текстах 青空文庫 и наборе UD_Japanese-GSDLUW; для обработки субслов использует отношение goeswith. Модель принимает японский текст и присваивает метки токенам, включая части речи и синтаксические зависимости. Это специализированный чекпойнт для лингвистического анализа японских предложений; размер составляет 435,4 млн параметров, контекст — до 512 токенов. Для использования предусмотрена библиотека Transformers и pipeline с aggregation_strategy="simple". Модель распространяется по лицензии CC BY-SA 4.0. Ее применение ограничено разметкой японского текста в рамках поддерживаемой схемы; сведений о поддержке других языков или задач в карточке нет.

gemma2-mitra-base — базовая языковая модель buddhist-nlp, созданная на основе Gemma 2 9B. Модель непрерывно предобучали в течение двух эпох на 7 млрд токенов из буддийских коллекций текстов на санскрите, тибетском, английском и пали. Это плотная трансформерная модель для генерации текста с 9 млрд параметров и контекстом до 8192 токенов; веса опубликованы в формате safetensors, для работы используется Transformers. Модель предназначена для продолжения и анализа буддийских текстов, а также генерации текста в соответствующем тематическом и языковом контексте. Это базовая модель без инструкционного дообучения: для решения задач в формате запросов ей могут потребоваться примеры в контексте, а на общих задачах разработчики предупреждают о слабых результатах. В README не указана лицензия.

HingGPT — языковая модель L3Cube Pune для генерации текста на хинди и английском с переключением между языками. Это модель архитектуры GPT-2, обученная на корпусе L3Cube-HingCorpus на текстах, записанных латиницей; она предназначена для генерации и продолжения смешанного хинди-английского текста. Контекст модели составляет 1024 токена. Модель может быть полезна для экспериментов с генерацией код-свитч текста и создания прототипов приложений для хинглиша в латинской записи. Репозиторий распространяется по лицензии CC BY 4.0, которая требует указания авторства.

Ice-gpt common crawl — компактная авторегрессионная языковая модель семейства GPT-2, созданная Сигурдуром Хауку́ром Биргиссоном и обученная на корпусе Icelandic Common Crawl Corpus от Mideind. Модель предназначена для генерации текста на исландском языке; для токенизации при обучении и использовании применяется BPE-токенизатор ice-tokenizer. Модель доступна в формате PyTorch и работает через библиотеку Transformers. Её контекст составляет 1024 токена. Карточка не сообщает точное число параметров и условия лицензии, поэтому эти характеристики не приводятся.

Модель yujuyeon/internvl3_5-1b-korean-347k — мультимодальная версия InternVL3.5-1B, дообученная автором карточки на 347 тысячах примеров корейского SFT-датасета из 18 подмножеств. Использует архитектуру InternVLChatModel и библиотеку Transformers; веса доступны в формате safetensors. Модель предназначена для диалоговых ответов на корейском языке по текстовым запросам и изображениям. Примеры обучающих данных включают визуальные вопросы и ответы, описание изображений и пересказ. Базовая модель — OpenGVLab/InternVL3_5-1B; указан метод полного дообучения. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует сверить с карточкой модели и базовой модели. Обучение на специализированном корейском наборе может ограничивать качество ответов на других языках и задачах, а сведения о контексте и сравнительной оценке качества в карточке отсутствуют.

Neurlang Whipstr STT — модель распознавания речи, разработанная Neurlang на основе семейства Whipstr и обученная на данных Common Voice 21. Она преобразует аудио в текстовую транскрипцию в международном фонетическом алфавите (IPA), что подходит для фонетической расшифровки речи на разных языках. Модель построена на трансформерной архитектуре encoder-decoder с примерно 107 млн обучаемых параметров и принимает аудио с частотами дискретизации 8, 16, 24, 32 и 48 кГц; при 11,025, 22,05 и 44,1 кГц качество снижается. Заявлена поддержка более 74 языков. Средние по языкам показатели составляют CER 24,89% и WER 60,25%; на языках с большим объёмом обучающих данных модель работает лучше, а ошибки заметно различаются между языками. Модель распространяется по лицензии GPL-2.0.

Karasu-1.1B — языковая модель, созданная Peter Devine и Sho Higuchi на основе контрольной точки TinyLlama-1.1B-intermediate-step-715k-1.5T. Модель представляет собой плотную архитектуру Llama с примерно 1 млрд параметров и была дополнительно предварительно обучена на японских данных в течение 50 004 шагов. В обучающий набор вошли отфильтрованные и выбранные подмножества OSCAR и mC4 на японском языке; модель предназначена для генерации текста, прежде всего на японском. Модель принимает текст и генерирует текст. Указанная длина контекста — 2048 токенов. Веса доступны в формате PyTorch, лицензия — Apache-2.0. Карточка не приводит результатов оценки качества, поэтому пригодность для конкретных сценариев следует проверять отдельно.

KLTN_COQE_viT5_total_APSOL — дообученная ThuyNT03 модель на базе VietAI/vit5-large, построенная на архитектуре T5ForConditionalGeneration и содержащая 389,3 млн параметров. Репозиторий использует формат safetensors и распространяется по лицензии MIT. Карточка сообщает о дообучении на датасете, название которого не приведено, но не описывает назначение, сценарии применения или результаты оценки модели. Базовая модель VietAI/vit5-large предназначена для генерации текста на вьетнамском языке, включая ответы на вопросы, суммаризацию и перевод; эти возможности нельзя уверенно приписать данному дообучению без сведений о его обучающих данных и цели.

ThuyNT03/KLTN_COQE_viT5_total_PASOL_v2 — дообученная ThuyNT03 модель на архитектуре T5, основанная на VietAI/vit5-large. Она содержит 389,3 млн параметров и предназначена для генерации текста; название репозитория указывает на связь с COQE и PASOL, но README не описывает конкретные задачи, данные или результаты обучения. Базовая модель ориентирована на текстовые задачи на вьетнамском языке, включая ответы на вопросы, суммаризацию и перевод, однако применимость этих задач к данной версии не подтверждена. Модель принимает текст и генерирует текст. Опубликована в формате Safetensors под лицензией MIT. README не приводит оценок качества, ограничений или подробностей обучения.

MelayuBERT — маскированная языковая модель на архитектуре BERT, разработанная Steven Limcorn и Wilson Wongso. Авторы дообучили англоязычную модель BERT на малайзийских данных из поднабора OSCAR `unshuffled_original_ms`. Модель содержит 136,7 млн параметров, поддерживает контекст до 512 токенов и доступна для PyTorch и TensorFlow. Модель предназначена для предсказания пропущенных слов в малайском тексте и может помогать анализировать контекст предложений или создавать варианты заполнения пропусков. В README приведён пример на малайском языке и указана perplexity 9,46 на отложенной валидационной выборке. Модель распространяется по лицензии MIT.

facebook/mms-tts-emp — модель синтеза речи на языке Emberá северного диалекта, созданная Meta в рамках проекта Massively Multilingual Speech. Она преобразует текст на этом языке в речевую аудиоволну и предназначена для озвучивания текстов и создания речевых интерфейсов для языка, имеющего ограниченные цифровые ресурсы. Модель использует архитектуру VITS — сквозную генеративную систему, сочетающую вариационный автоэнкодер, нормализующие потоки, состязательное обучение и предиктор длительности. В репозитории указано 3,5 млн параметров; чекпойнт доступен в форматах PyTorch и Safetensors и поддерживается библиотекой Transformers начиная с версии 4.33. Предиктор длительности стохастический, поэтому для повторения идентичного результата требуется фиксированный seed. Модель рассчитана на синтез речи на Emberá северном и не заявлена как многоязычная. Карточка не приводит оценок качества или дополнительных настроек голоса. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

NinjaV1-pre — японскоязычная языковая модель на архитектуре Mistral, созданная umisetokikaze путём слияния двух моделей: models/vectortest1 и NovelHacja/Wizardntq-ja-7B. Она предназначена для генерации текста и диалоговых сценариев на японском языке. Модель содержит 7,1 млрд параметров, принимает текст, выдаёт текст и поддерживает контекст до 4096 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка описывает её как простое слияние моделей и не приводит оценок качества или подробностей обучения; результаты генерации могут быть нестабильными.

NoormontAI — модель для генерации текста, представленная под идентификатором Noormont/NoormontAI. В карточке указано, что она ориентирована на арабский язык и относится к классу text-generation. Разработчик или организация, создавшая модель, явно не указаны; из идентификатора можно лишь установить, что она опубликована в пространстве Noormont. Модель доступна как checkpoint, сохранённый на шаге обучения 20000. Для неё приведены значения Loss 0.8531, Entropy 0.1710 и Deviation from golden ratio 1.4470, однако их методика расчёта и интерпретация не поясняются. Сведения об архитектуре, размере, количестве параметров, длине контекста, дополнительных модальностях и практических сценариях применения отсутствуют. Модель может использоваться для задач генерации текста на арабском языке, но по предоставленным данным нельзя оценить её качество, устойчивость, фактическое покрытие языка или ограничения при использовании. Лицензия Apache-2.0 допускает широкое применение при соблюдении её условий.

Koichi Yasuoka разработал японскую RoBERTa, дообученную на разметке Universal Dependencies для морфосинтаксического анализа. Модель основана на nlp-waseda/roberta-base-japanese, предварительно обученной на японской Википедии и текстах CC-100, и использует архитектуру RoBERTa с головой классификации токенов; в репозитории около 137,8 млн параметров, контекст — 514 токенов. Модель предназначена для определения частей речи и анализа зависимостей в японском тексте, включая обработку подслов с меткой goeswith. Её можно применять для автоматической грамматической разметки и подготовки данных для лингвистического анализа. Для работы через Transformers в README требуется fugashi. Лицензия — CC-BY-SA-4.0.

KoichiYasuoka/roberta-classical-chinese-base-upos — модель RoBERTa на 133,5 млн параметров для морфологической разметки текстов на классическом китайском языке. Она дообучена на основе KoichiYasuoka/roberta-classical-chinese-base-char и присваивает каждому слову метки UPOS и FEATS по стандарту Universal Dependencies. Модель принимает текст и возвращает метки для отдельных токенов; контекстное окно составляет 514 токенов. Модель подходит для автоматической разметки частей речи и признаков слов в корпусах классического китайского, а также для подготовки данных к синтаксическому анализу. В README упоминается dependency parsing, однако среди подтверждённых задач указана токенная классификация. Модель распространяется под лицензией Apache-2.0.

HooshvareLab/roberta-fa-zwnj-base — персидская модель семейства RoBERTa от HooshvareLab, предназначенная для работы с символом полуширинного неразрывного пробела ZWNJ в письменном персидском языке. Она обучена на корпусах разных типов с новым словарём и поддерживает задачу заполнения пропусков в тексте. Модель содержит 145,5 млн параметров, принимает текст и выдаёт текстовые предсказания для замаскированных позиций. Архитектура — RobertaForMaskedLM, максимальная длина контекста — 514 токенов. Доступны версии для PyTorch, TensorFlow и Flax. Модель подходит для восстановления или подбора слов и символов в персидском тексте с учётом орфографического употребления ZWNJ. Лицензия — Apache-2.0; данных о других ограничениях в карточке нет.

SedibaLM V7 — компактная диалоговая языковая модель Sediba AI NPC для языка сепеди (сесото са лебоа), дообученная методом QLoRA на Qwen2.5-1.5B-Instruct. Модель имеет плотную архитектуру Qwen2, содержит около 1,5 млрд параметров и поддерживает контекст до 32 768 токенов; веса сохранены в формате safetensors, а адаптеры сведены с базовыми весами. Модель предназначена для диалогов и генерации текста на сепеди: например, для ответов на вопросы и распространения общественно значимой информации. Для корректной работы нужно подавать запросы через шаблон чата ChatML; при обычном текстовом вводе модель может сразу завершить генерацию без ответа. В сравнительной внутренней оценке V7 чаще отвечала на сепеди, чем базовая модель, однако результаты не являются абсолютной оценкой качества и получены на небольшом закрытом наборе. Модель может переключаться на английский, ограничена размером базовой модели и не предназначена для языков, кроме сепеди. Модель не проходила настройку безопасности с RLHF или DPO. Её не следует использовать для медицинских, юридических и финансовых консультаций, систем безопасности или сценариев реального времени. Лицензия весов — CC BY-SA 4.0: требуется указание авторства Sediba AI NPC и соблюдение условия распространения производных моделей на тех же условиях. Обучающие данные не распространяются по этой лицензии.

brian-lim/smile-style-transfer — дообученная авторами модели Synatra-7B-v0.3-dpo языковая модель для переноса стиля на корейском языке. Для обучения использован набор Smile style от Smilegate AI, преобразованный из табличного формата в пары instruction-input-output и оформленный по шаблону ChatML. Модель построена на архитектуре Mistral с плотной архитектурой и содержит 7,1 млрд параметров; поддерживает контекст до 32 768 токенов и диалоговый режим. Модель предназначена для преобразования текста в заданном стиле на основе корейского набора данных. Опубликована в формате Safetensors под лицензией Apache-2.0. Карточка не приводит количественной оценки качества или подробных ограничений.

Andrija/SRoBERTa-F — языковая модель семейства RoBERTa для хорватского и сербского языков, обученная автором модели на корпусах Leipzig, OSCAR, srWac, hrWac и cc100 общим объёмом 43 ГБ текста. В метаданных указаны архитектура RobertaForMaskedLM, 93,5 млн параметров и контекст до 514 токенов; в README размер модели округлён до 80 млн параметров. Модель предназначена для заполнения пропусков в тексте: она предсказывает подходящее слово или фрагмент вместо маски. Автор приводит perplexity 6,02 на проверочном наборе из 1 620 487 предложений и отмечает, что обучение ещё можно продолжать. Лицензия — Apache-2.0.

Sahithinethi/whisper-marathi-HSBC — дообученная модель распознавания речи на основе Whisper Tiny от OpenAI. Она предназначена для преобразования аудиозаписей в текст; название указывает на ориентацию на язык маратхи, однако README не уточняет данные обучения и сценарии применения. Модель использует архитектуру WhisperForConditionalGeneration и опубликована в формате safetensors. Лицензия — Apache-2.0. В README приведены результаты оценки: loss 0,8263 и WER 114,79; столь высокий WER указывает на серьёзные ограничения качества транскрибации в оценённом наборе. Детали набора данных и дополнительные ограничения не описаны.

YanoljaNEXT-EEVE-2.8B — корейская версия Microsoft Phi-2, разработанная командой Yanolja. Модель расширяет корейский словарь базовой модели и дообучена на корейских веб-данных с использованием причинного языкового моделирования. В архитектуре PhiForCausalLM используются плотные слои; размер модели по метаданным — 3,5 млрд параметров, максимальный контекст — 2048 токенов. Модель предназначена для генерации текста на корейском языке и языковых задач, где полезны исходные возможности Phi-2. Она не проходила обучение на инструкциях, поэтому не рассчитана на надёжное следование запросам в формате ассистента; для прикладных сценариев может потребоваться дополнительное дообучение. Доступна в формате safetensors по лицензии Apache-2.0.

Goldfish — семейство одноязычных языковых моделей, разработанное для сопоставимых экспериментов на 350 языках и работы с языками с ограниченными ресурсами. Эта версия предназначена для центральнокурдского языка, записанного арабской графикой; в README авторы также предлагают рассмотреть модель для макроязыка Kurdish с кодом kur_arab в зависимости от задачи. Модель построена на архитектуре GPT-2 и содержит 124 770 816 параметров. Она генерирует текст, обучена на корпусах центральнокурдского языка из MADLAD-400, NLLB, Glot500, OSCAR и Wikipedia; обучение включало 10 эпох. Максимальная длина последовательности — 512 токенов, размер словаря — 50 000. Для рекомендуемого формата входа перед текстом следует добавлять токен [CLS]. Модель подходит для генерации центральнокурдского текста и языковых экспериментов на этом языке, особенно в условиях ограниченных обучающих данных. Авторы отмечают, что производительность Goldfish на языках с большим количеством ресурсов не рассчитана на сопоставление с современными крупными языковыми моделями. Лицензия — Apache-2.0.