I.6Перевод и языковая адаптация
В разделе собраны самостоятельные задачи, где AI помогает переносить смысл между языками, форматами и культурными контекстами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
16 710 моделейKoichi Yasuoka разработал RoBERTa-base-ainu — модель RoBERTa с 118,5 млн параметров, предварительно обученную на текстах на айнском языке. Корпус включает айнские тексты, записанные катаканой, латиницей и кириллицей; модель принимает текст и предсказывает замаскированные токены. Контекст ограничен 512 токенами. Модель предназначена для заполнения пропусков в айнских текстах и как основа для дообучения под задачи обработки языка, например разметку частей речи и синтаксический анализ зависимостей. Опубликована в формате PyTorch и распространяется по лицензии CC BY-SA 4.0. Результаты для downstream-задач потребуют отдельного дообучения; сведения о качестве таких результатов в карточке не приведены.
SIKU-BERT — языковая модель на архитектуре BERT, разработанная исследователями Нанкинского сельскохозяйственного университета для автоматической обработки древнекитайских текстов. Модель предварительно обучена на проверенном полнотекстовом корпусе «Сыку цюаньшу» и предназначена для задач цифровой гуманитаристики и интеллектуального анализа классических китайских текстов. В репозитории представлена модель для заполнения пропусков в тексте (fill-mask) с 136,1 млн параметров и контекстом до 512 токенов. Она принимает текст и предсказывает замаскированные токены; карточка также упоминает семейство SikuRoBERTa, но метаданные этого репозитория описывают архитектуру BERT. Модель распространяется по лицензии Apache-2.0.
Raju Kandasamy разработал экспериментальную компактную языковую модель на архитектуре LLaMA с 22 млн параметров. Она генерирует связные истории на тамильском и английском языках, а также переводит истории между этими языками. Модель обучалась на датасете TinyStoriesInstruct; заявленная длина контекста — 2048 токенов. Модель предназначена для исследовательских и учебных экспериментов с языковыми возможностями небольших моделей, а также для генерации коротких историй и перевода рассказов. Это игрушечная экспериментальная модель; её пригодность для других задач и качество за пределами описанных сценариев не подтверждены. Лицензия GPL.
Модель ctaguchi/wav2vec2-large-xlsr-japlmthufielta-ipa1000-ns — дообученная Chihiro Taguchi и соавторами модель wav2vec 2.0 для автоматической фонетической транскрипции речи в Международный фонетический алфавит (IPA). Она принимает аудио и предсказывает последовательность фонетических символов; карточка Hugging Face относит её к automatic-speech-recognition и указывает архитектуру Wav2Vec2ForCTC и 403 млн параметров. Модель связана с экспериментом по универсальной транскрипции речи в IPA, предназначенной в том числе для ускорения языковой документации. Для базовой работы авторы использовали данные семи языков Common Voice 11.0 с полуавтоматической IPA-разметкой; конкретный вариант с суффиксом ipa1000-ns обучен на 1000 примерах на язык. Качество зависит от языка, разнообразия данных и качества фонетической разметки, поэтому результат стоит проверять специалистом. Веса опубликованы в формате PyTorch. В карточке репозитория лицензия не указана; условия использования следует уточнять у автора и по лицензиям обучающих данных. Основа — XLSR-53; модель дообучена для отображения речи на IPA.
Koichi Yasuoka разработал компактную модель DeBERTaV2, предварительно обученную на корпусах Coptic Scriptorium. Модель содержит около 11 млн параметров и принимает последовательности длиной до 128 токенов. Она предсказывает замаскированные токены в коптском тексте и может служить основой для дообучения на разметку частей речи, синтаксический разбор зависимостей и другие задачи обработки коптского языка. Доступна в формате PyTorch для Transformers. Модель распространяется по лицензии CC BY-SA 4.0. Для прикладных задач вроде POS-тегирования или синтаксического разбора потребуется дообучение.
GrεBerta — монолингвальная модель семейства RoBERTa, разработанная для задач классической филологии. Это энкодер размером, сопоставимым с RoBERTa-base, с архитектурой RoBERTaForMaskedLM и примерно 153,2 млн параметров. Модель обучена для заполнения пропусков в тексте на древнегреческом языке; её можно дообучать для лингвистических задач. В карточке приведены результаты оценки после дообучения на данных Universal Dependencies 2.10 для древнегреческого набора Perseus, включая показатели морфосинтаксической разметки и синтаксического анализа. Репозиторий содержит веса в форматах PyTorch, SafeTensors и TensorFlow. Модель распространяется по лицензии Apache-2.0.
Logion base model — модель на архитектуре BERT, разработанная Princeton Logion и предварительно обученная на корпусе древнегреческих текстов. Она предназначена для восстановления скрытых слов в тексте и других сценариев с задачей fill-mask. Модель содержит 151,6 млн параметров, использует WordPiece-токенизатор со словарём из 50 000 единиц и поддерживает контекст до 512 токенов. Корпус для обучения включает более 70 млн слов и свыше 95 млн токенов древнегреческого языка. Токенизатор игнорирует регистр и диакритические знаки. Модель распространяется в формате PyTorch по лицензии MIT.
Mistral-7B-v0.1-flashback-v2 — плотная авторегрессионная языковая модель семейства Mistral, созданная автором timpal0l продолжением предобучения Mistral-7B-v0.1. Модель обучена в течение одной эпохи на примерно 2,25 млн форумных веток шведского сайта, около 40 ГБ текста. Модель предназначена для генерации текста и продолжения форумных обсуждений в формате с заголовком темы, автором и последовательностью сообщений. Карточка также упоминает отдельные GGUF- и instruct-версии. Веса представлены в safetensors; размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Языковые теги карточки включают шведский, английский, норвежский и датский; обучение описано на шведских форумных данных. Лицензия — MIT. Модель специализируется на стиле и содержании форумных обсуждений; её пригодность для обычного диалога или других задач зависит от используемого формата и версии. README не приводит подробных оценок качества по языкам и сценариям, поэтому результаты бенчмарков из карточки не следует считать гарантией качества в прикладных задачах.
Модель comma-project/modernbert разработана Тибо Клерисом и группой ALMAnaCH института Inria. Это дообученная ModernBERT-large для заполнения пропусков в текстах на старофранцузском, среднефранцузском, латинском и итальянском языках. Она содержит 133,3 млн параметров, использует архитектуру ModernBertForMaskedLM и поддерживает контекст до 8192 токенов. Модель подходит для восстановления пропущенных слов и анализа исторических текстов. Веса доступны в формате safetensors по лицензии CC BY 4.0. Карточка не сообщает об оценках качества, поэтому пригодность для конкретного корпуса стоит проверять отдельно.
Qwen3-Sex — диалоговая языковая модель, разработанная ystemsrx на основе Qwen/Qwen3-4B-Instruct-2507 с последующим дообучением методом SFT. Она предназначена для многораундового текстового общения, генерации текстов и сценариев, включая контент для взрослых и эротическую художественную литературу. Модель ориентирована на пользователей старше 18 лет и не предназначена для всех аудиторий. Модель работает с текстом на китайском и английском языках, использует архитектуру базовой Qwen3-4B-Instruct-2507 и формат диалогов ChatML. Доступна в формате bfloat16; заявленная длина контекста составляет до 262 144 токенов, хотя для обычных диалогов рекомендуется 4K–32K. В репозитории также представлены варианты GGUF: BF16 размером около 8 ГБ и Q8_0 размером около 4,3 ГБ. Сильной стороной модели является специализация на диалогах и генерации взрослого контента, а также наличие готовых средств запуска через Transformers и Ollama. При использовании GGUF, особенно Q8_0, возможны снижение качества, ухудшение связности в длинном контексте и меньшая стабильность по сравнению с исходными весами. Модель может генерировать фактические ошибки, предвзятые или вредоносные материалы; её нельзя использовать для незаконных целей, контента с участием несовершеннолетних или создания интимных материалов о реальных людях. Лицензия — Apache License 2.0 с учётом условий лицензирования базовой модели.
Koichi Yasuoka разработал RoBERTa-base-coptic — модель RoBERTa с 115,6 млн параметров, предварительно обученную на корпусах Coptic Scriptorium. Она предсказывает пропущенные токены в коптском тексте и может дообучаться для последующих задач анализа языка, включая разметку частей речи и синтаксический анализ зависимостей. Модель принимает текст, имеет контекст до 512 токенов и распространяется в формате PyTorch по лицензии CC BY-SA 4.0. Она предназначена для работы с коптским языком; качество на других языках не заявлено.
Koichi Yasuoka разработал японскую модель RoBERTa для синтаксического анализа: она определяет головное слово для длинных единиц слов, формулируя задачу как ответы на вопросы. Модель дообучена на базе KoichiYasuoka/roberta-base-japanese-aozora-char с использованием UD_Japanese-GSDLUW и предварительно обучалась на текстах Aozora Bunko. Модель принимает японский текст и запрос, указывающий слово, для которого нужно определить синтаксическую вершину; маркер [MASK] в контексте помогает снять неоднозначность, если слово встречается несколько раз. Чекпойнт содержит 120,5 млн параметров, работает с контекстом до 512 токенов и распространяется в формате PyTorch. Лицензия — CC BY-SA 4.0. Назначение модели специализированное: карточка описывает разбор зависимостей и не заявляет о пригодности для общего ответа на вопросы.
VedicBERTa-base — предобученный энкодерный трансформер семейства RoBERTa от mahesh27, обученный на корпусе GRETIL в формате IAST с задачей masked language modeling. Модель подходит для заполнения пропусков и получения контекстных представлений текста на основе санскритских материалов. Веса содержат 128,6 млн параметров, поддерживают контекст до 512 токенов и опубликованы в формате PyTorch. Карточка указывает лицензию Apache-2.0. Модель обучалась на данных в транслитерации IAST; сведения о качестве на других языках и задачах не приведены.
renikud/whisper-he-ipa — модель распознавания речи на базе Whisper Large v3 Turbo, дообученная ivrit-ai для преобразования ивритской речи в фонемную транскрипцию IPA. Она предназначена для транскрибирования произнесённого на иврите текста на уровне фонем, например для лингвистического анализа речи и построения систем обработки произношения. Модель содержит около 905,2 млн параметров, использует архитектуру Whisper и доступна в формате safetensors для Transformers. Результат записывается в ASCII-безопасном варианте иврита IPA: некоторые символы IPA заменены ASCII-символами; README описывает нормализацию вывода в инвентарь фонем иврита. Модель рассчитана на аудио на иврите и выдаёт текстовую фонемную транскрипцию. Лицензия — Apache-2.0.
mehdie/ancient_semitic_bert — модель семейства BERT с 153,2 млн параметров, дообученная для предсказания скрытых токенов (fill-mask). По названию модели и языковым меткам она предназначена для работы с древнесемитскими текстами на арабском и иврите; в метаданных указаны датасеты bigscience-data/roots_ar_openiti_proc и mehdie/sefaria. Контекст модели составляет до 512 токенов. Модель может подставлять пропущенные слова или токены в тексте и помогать исследовать языковые закономерности в древнесемитских корпусах. В README приведены результаты оценки: loss 1,9118 и perplexity 6,77 после 40 эпох, но описание обучения, методики оценки и ограничений отсутствует. Используются веса safetensors. Лицензия в предоставленных данных не указана.
BERTrade-CamemBERT — контекстная языковая модель для старофранцузского языка, разработанная Grobol, Regnault, Ortiz-Suarez и соавторами в рамках работы 2022 года. Она основана на архитектуре CamemBERT и предназначена для получения контекстных представлений текста и подстановки пропущенных токенов; в статье также оценивается её пригодность для синтаксического анализа зависимостей старофранцузского языка. Модель содержит 137,8 млн параметров, принимает текст и обучена обрабатывать последовательности длиной до 514 токенов. Опубликована в форматах PyTorch и safetensors и доступна по лицензии MIT. README рекомендует цитировать исходную научную работу при использовании модели.
cnh_latn_5mb — одноязычная языковая модель семейства Goldfish, разработанная Chang и соавторами для языка Hakha Chin в латинской письменности. Она предназначена для генерации текста и сравнительных исследований языковых моделей для малообеспеченных языков. Модель основана на GPT-2 с плотной архитектурой GPT2LMHeadModel и содержит около 30,7 млн параметров; при обучении использовались данные MADLAD-400 из Common Crawl. Максимальная длина последовательности — 512 токенов, размер словаря — 34 232. Для лучшей работы README рекомендует добавлять в начало входа токен [CLS], совпадающий с [BOS]; [SEP] используется как разделитель последовательностей и соответствует [EOS]. Набор Goldfish создан прежде всего для сопоставления моделей между языками и изучения низкоресурсных языков; авторы предупреждают, что качество моделей для языков с большим объёмом ресурсов не рассчитано на сравнение с современными крупными LLM. Лицензия — Apache-2.0.
clfegg разработал модель на архитектуре GPT-2 для генерации коротких историй на вьетнамском языке. Она обучена на датасете TinyStories и подходит для создания коротких сюжетных текстов. Модель принимает текст и генерирует текст; контекст составляет 1024 токена. Репозиторий содержит веса PyTorch, лицензия — MIT.
gs-GreBerta — дообученная модель CNR-ILC на базе bowphs/GreBerta. Это плотная модель RoBERTa для заполнения пропусков в древнегреческом тексте: она предсказывает вероятные токены в замаскированных позициях. Размер модели — 153,2 млн параметров, максимальный контекст — 514 токенов. Модель доступна в формате Safetensors и распространяется по лицензии Apache-2.0. В README приведены результаты оценки: Top-1 — 36,95%, Top-5 — 62,25%, Top-10 — 68,07%. Датасет обучения и подробности сценариев применения не описаны. Модель подходит для экспериментов с восстановлением пропусков в древнегреческих текстах; результаты предсказания требуют проверки, особенно для текстов вне данных оценки.
拉風輸入法(Llavon IME)LLaMA 250M — это компактная авторегрессионная языковая модель с архитектурой LLaMA, разработанная для преобразования ввода Бопомофо в традиционные китайские иероглифы. Модель предназначена для локальной работы в составе метода ввода (IME), в частности в Windows; проект также предоставляет реализации IME для macOS и Linux. Модель содержит 228,7 млн параметров по метаданным Hugging Face, использует контекст длиной 384 токена и специальный словарь с токенами Бопомофо и традиционными китайскими иероглифами. При обработке можно учитывать уже введённый китайский текст, а для выбора результата рекомендуется ограничивать вероятности набором кандидатов для текущего слога. Модель обучалась на китайских веб-текстах, разговорных данных, словарных записях и пользовательских текстах PTT. Весами можно пользоваться только на условиях лицензии CC-BY-NC-4.0, предусматривающей некоммерческое использование. Исходные обучающие наборы имеют неоднородные сведения о лицензировании, поэтому использование самих наборов требует отдельного соблюдения их условий.
ad019el/m2m100_418M-finetuned-tq-to-ar — модель машинного перевода на архитектуре M2M100 для преобразования текста с языка tq на арабский. В метаданных указаны 332,5 млн параметров, контекст до 1024 токенов и формат PyTorch. README сообщает, что модель обучалась с нуля, но не уточняет датасет; оценка BLEU на тестовом наборе составляет 3,5687. Модель предназначена для перевода текстовых фрагментов на арабский. Низкий BLEU указывает на слабое качество перевода в приведённой оценке; использовать её для важных или требующих точности переводов не рекомендуется. Лицензия не указана в доступных данных.
KantaHayashiAI выпустила экспериментальную языковую модель Mamba для генерации японского текста. Модель построена на архитектуре MambaForCausalLM и содержит около 915,2 млн параметров; для токенизации используется ku-nlp/gpt2-large-japanese-char. Модель создана в рамках 240-часового хакатона LOCAL AI HACKATHON #001. Модель предназначена для генерации текста на японском языке. Автор отмечает, что она обучена недостаточно, поэтому качество и надёжность результатов могут быть ограничены. Для модели указана лицензия Apache 2.0, для токенизатора — CC-BY-SA; при использовании нужно учитывать условия обеих лицензий.
MORENA 1.5B Wolof Instruct — экспериментальный чекпойнт языковой модели, созданный на основе vamboai/morena-1.5b-base и дообученный для следования инструкциям на волоф. Модель предназначена для генерации текста по запросу на волоф; карточка не описывает более узкие сценарии применения. В README указан размер семейства 1,5 млрд параметров, замороженный токенизатор MORENA на 65 тысяч токенов и шаг чекпойнта 1500. Модель использует протокол morena-native и vendored реализацию на PyTorch, не совместимую напрямую с Transformers; для загрузки предлагаются файлы проекта. В опубликованной оценке указаны BPB 11,4207, perplexity 1165865502,11 и BLEU 0,03, что говорит о слабых результатах приведённой оценки. Лицензия в метаданных обозначена как other, без уточнения условий.
nep-spell-hft — модель на базе архитектуры mT5 с 157,4 млн параметров, опубликованная пользователем duraad. В README указано, что модель обучена с нуля на наборе данных, обозначенном как None; описание назначения, обучающих данных и оценки отсутствует. По названию можно предположить, что модель связана с исправлением орфографии непальского языка, однако README и метаданные этого не подтверждают. Метаданные указывают формат safetensors и класс MT5ForConditionalGeneration. Лицензия, поддерживаемые языки, конкретные сценарии применения и ограничения не указаны.
QuBERTa — языковая модель на основе RoBERTa, разработанная для кечуа. Она предварительно обучена на 5 млн токенов южного кечуа, включая диалекты Кольяо и Чанка, и использует токенизатор Byte-level BPE со словарём из 52 000 подслов. Модель имеет 96,6 млн параметров и контекст длиной до 514 токенов. Модель предназначена для заполнения пропусков в тексте на кечуа: она предлагает вероятные токены для позиции, обозначенной маской. Её можно применять для языковых экспериментов и обработки текстов на южном кечуа через Transformers. В README отмечено, что пример использования находится в стадии улучшения, поэтому качество и охват задач за пределами заполнения пропусков не подтверждены. Лицензия в предоставленных данных не указана.
RaDialog — крупная визуально-языковая модель для генерации радиологических заключений и диалоговой помощи, разработанная командой Chantal Pellegrini и представленная в работе «RaDialog: A Large Vision-Language Model for Radiology Report Generation and Conversational Assistance». Модель ориентирована на анализ рентгеновских снимков грудной клетки, формирование раздела описания радиологического отчёта и интерактивное продолжение диалога, включая перевод отчёта на более понятный пациенту язык. В основе используется архитектура LLaVA v1.5 с языковой моделью на 7 млрд параметров и специализированной адаптацией LoRA для задачи RaDialog; визуальная часть связана с Biovil-компонентами. В README указана обработка изображений рентгенографии грудной клетки с преобразованием к размеру 512 и центральным кадрированием 448. Для генерации отчёта модель может использовать изображение и предварительно предсказанные находки CheXpert. В качестве данных упоминаются MIMIC-CXR и специализированный RaDialog instruct dataset. Язык модели явно не заявлен, но приведённые в README запросы и примеры выполнены на английском. Сильная сторона модели — сочетание анализа медицинских изображений с генерацией связного радиологического текста и диалоговым взаимодействием. Ограничения включают узкую специализацию на рентгенограммах грудной клетки, зависимость примера инференса от отдельного классификатора CheXpert и специализированного программного окружения, а также отсутствие в README сведений о клинической валидации, метриках качества и пригодности для самостоятельного медицинского принятия решений. Модель распространяется по лицензии Apache-2.0.
Модель Stanza для древнеанглийского языка (код ang), разработанная командой Stanford NLP. Она предназначена для лингвистического анализа текста и входит в набор моделей Stanza. В метаданных указана задача классификации токенов; формат весов — PyTorch. Модель можно использовать для анализа древнеанглийского текста в конвейерах NLP, где требуется разметка отдельных токенов. Репозиторий автоматически подготовлен из проекта huggingface-models для Stanza. Лицензия — Apache 2.0. Карточка не описывает конкретные виды разметки и подробные характеристики модели.
Stoicheia — модель на 405 млн параметров для совместной разметки и синтаксического анализа древнегреческих текстов. Это символьный энкодер с masked-diffusion и разреженным вниманием: три из каждых четырёх блоков работают в окне 256 символов, а каждый четвёртый учитывает весь текст. Вход разделён на пять выровненных слоёв: буквы, границы слов и предложений, диакритические знаки, регистр и пунктуация. Каждый слой можно независимо заменить явным значением «неизвестно», поэтому модель рассчитана на работу с редакторским текстом, слитным написанием без пробелов и лакунами неизвестной длины. За один проход по общей основе Stoicheia-doc_clean выдаёт факторизованную XPOS-разметку, леммы по скрипту редактирования, вспомогательную UPOS-разметку и зависимости с помощью biaffine-парсера. Модель предназначена для задач классической филологии и анализа древнегреческих корпусов. Релиз анонимный и сопровождает статью на рецензировании; лицензия — Apache-2.0. README не описывает оценку качества.
GHisBERT — модель на архитектуре BERT, разработанная для работы с историческими текстами на немецком языке. Она обучена с нуля на корпусе, охватывающем засвидетельствованные этапы немецкого языка от древневерхненемецкого и средневерхненемецкого до ранненововерхненемецкого и нововерхненемецкого; данные в обучении датируются периодом начиная с 750 года. Модель предназначена для предсказания замаскированных токенов в исторических немецких текстах. Модель содержит 137,8 млн параметров, принимает текст с контекстом до 512 токенов и доступна в формате PyTorch. Лицензия — MIT. Карточка не приводит ссылку на опубликованную статью и не описывает результаты оценки; качество на отдельных периодах, жанрах и вариантах орфографии может различаться.
Captainsl/SinhalaLLM — экспериментальная попытка дообучить SmolLM2-1.7B для генерации текста на сингальском языке. Модель создана в рамках студенческого исследовательского проекта NSBM Green University в 2025 году. Это плотная авторегрессионная архитектура семейства Llama с 1,9 млрд параметров, контекстом до 8192 токенов и поддержкой Transformers; в репозитории есть веса Safetensors и формат GGUF F16. Для адаптации применялся QLoRA с 4-битной квантизацией и LoRA.