I.6Перевод и языковая адаптация
В разделе собраны самостоятельные задачи, где AI помогает переносить смысл между языками, форматами и культурными контекстами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
16 710 моделейTri-1.8B Translation — компактная мультиязычная модель перевода от Trillion Labs. Она основана на плотной архитектуре Llama с причинным языковым моделированием и содержит около 1,5 млрд параметров по метаданным (в README заявлено около 1,8 млрд). Модель поддерживает перевод во всех направлениях между английским, корейским, японским и китайским языками; для работы используется краткая инструкция с указанием исходного и целевого языков. Контекст составляет 16 384 токена. Модель прошла предварительное обучение и supervised fine-tuning, а также дистиллирована из более крупной Tri-21B для компактного развёртывания, в том числе на одной GPU. Её можно адаптировать к предметной области с помощью дообучения или лёгких адаптеров. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия Apache-2.0.
Wav2Vec2-XLS-R-300M-21-EN — модель Facebook для перевода речи с 21 языка на английский. Это модель типа SpeechEncoderDecoderModel: кодировщик основан на facebook/wav2vec2-xls-r-300m, декодер — на facebook/mbart-large-50; модель дообучена на парах перевода из набора CoVoST 2. Она принимает аудио на французском, немецком, испанском, каталанском, итальянском, русском, китайском, португальском, персидском, эстонском, монгольском, нидерландском, турецком, арабском, шведском, латышском, словенском, тамильском, японском, индонезийском и валлийском языках и генерирует перевод на английском. Модель подходит для перевода устной речи и аудиозаписей, например для создания английской версии многоязычного аудиоконтента. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0. В карточке приведена ссылка на оценку качества на CoVoST 2, но конкретные численные результаты здесь не указаны.
allenai/wmt16-en-de-12-1 — модель машинного перевода на основе Transformer, перенесённая с fairseq в Transformers. Она переводит текст с английского на немецкий и предназначена для перевода отдельных фраз и текстов; пример в карточке показывает перевод предложения с английского на немецкий. Модель относится к архитектуре FSMT и содержит 50,3 млн параметров. Она принимает текст и выдаёт текст; для контекста указано 10 000 токенов. В README приведена оценка 25,75 BLEU для версии Transformers; результат зависит от метода токенизации и подсчёта метрики. Веса оставлены идентичными оригинальной модели AllenAI. Модель доступна по лицензии Apache-2.0.
facebook/wmt19-en-ru — перенесённая в формат Transformers модель машинного перевода Fairseq, опубликованная Facebook. Она переводит текст с английского на русский и предназначена для автоматического перевода новостных и других текстов. Модель использует плотную архитектуру FSMTForConditionalGeneration, содержит около 100,7 млн параметров и рассчитана на контекст до 1024 токенов; веса сохранены такими же, как в исходной модели Fairseq WMT19. В тестировании для направления en→ru в карточке указана оценка 33,47 для порта Transformers против 36,4 для исходной версии Fairseq. Перенесена лучшая отдельная контрольная точка, тогда как ансамбль из четырёх моделей и переранжирование в Transformers не поддерживаются. Модель плохо обрабатывает повторяющиеся фрагменты: часть входного текста может обрезаться. Лицензия — Apache-2.0.
wmt19-finetuned-it-de-to-en — дообученная модель FSMT для перевода с немецкого на английский, основанная на facebook/wmt19-de-en. В карточке указаны 100,7 млн параметров, контекст до 1024 токенов и формат весов safetensors. Модель опубликована под лицензией Apache-2.0. Модель предназначена для машинного перевода немецких текстов на английский. В README приведены результаты оценки на наборе для оценки: BLEU 44,9149 и loss 0,1326; обучающий набор данных не раскрыт. Основа модели — портированная FSMT-модель Facebook FAIR для перевода с немецкого на английский.
YanoljaNEXT-Rosetta-27B-2511 — языковая модель Yanolja NEXT на архитектуре Gemma 3, дообученная на базе google/gemma-3-27b-pt. Это плотная авторегрессионная модель с 28,3 млрд параметров, использующая компонент Gemma3ForCausalLM; она предназначена для перевода содержимого JSON, YAML и XML с сохранением исходной структуры. Модель работает с 32 языками, включая русский, английский, корейский, китайский и японский, и поддерживает контекст до 131 072 токенов. Модель подходит для локализации каталогов товаров, перевода отзывов об отелях и других структурированных многоязычных данных. В бенчмарке WMT24++ для перевода с английского на корейский указана оценка CHrF++ 37,21. Репозиторий содержит веса в формате safetensors; для работы используется библиотека Transformers. Лицензия — Gemma. Модель оптимизирована для структурированных данных: на обычном тексте и иных форматах качество может меняться. Иногда она может выдавать некорректную структуру, повторяющийся текст или неточный перевод.
AI-translator-9ja-to-eng — дообученная модель HelpMumHQ для перевода текстов с йоруба, игбо и хауса на английский. Она основана на encoder-decoder архитектуре M2M100 и содержит 332,5 млн параметров; поддерживает контекст до 1024 токенов. Модель обучалась на 1,5 млн пар предложений из открытых параллельных корпусов и специализированных подборок для этих трёх языков. Модель предназначена для перевода на английский и для подготовки текстов на йоруба, игбо и хауса к взаимодействию с языковыми моделями. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия — MIT. Качество зависит от сложности и тематики текста; оно может снижаться на очень длинных предложениях и при неоднозначном контексте.
Alloma-3B-Instruct — узбекски-оптимизированная инструктивная языковая модель серии Alloma, разработанная uzlm на базе Meta Llama 3.2 3B Instruct. Модель содержит 3,2 млрд параметров, использует плотную архитектуру Llama и предназначена для диалогов и генерации текста, в том числе для перевода между узбекским и английским, ответов на вопросы и суммаризации. Разработчики продолжили предобучение на 2,4 млрд токенов узбекских и английских текстов, а затем выполнили дообучение на инструкциях. Токенизатор адаптирован для узбекского: по данным карточки, он использует в среднем 1,7 токена на узбекское слово вместо примерно 3,5 у исходного токенизатора Llama. В README указан контекст 2048 токенов во время обучения; метаданные сообщают нативный контекст 131072 токена. Карточка отмечает возможность запуска примерно с 2 ГБ видеопамяти при квантизации. Модель показывает улучшение относительно базовой версии в приведённых тестах перевода и анализа тональности на узбекском, но авторы отмечают снижение результатов в отдельных англоязычных тестах и классификации новостей, связывая это с забыванием навыков следования английским инструкциям. Для использования действует лицензия Llama 3.2.
ALMA-7B-R — модель машинного перевода, разработанная Haoran Xu и соавторами в рамках проекта ALMA. Она создана на основе ALMA-7B-LoRA и дополнительно дообучена методом LoRA с использованием Contrastive Preference Optimization (CPO), применяющего данные с предпочтениями в формате триплетов. В README модель представлена как объединённый LoRA-чекпойнт. Модель предназначена для перевода между языками по инструкциям в формате естественного языка. В качестве примера приведён перевод с китайского на английский; полный набор поддерживаемых языков в предоставленных данных не указан. Размер модели составляет 7B параметров. Сведения о точной базовой архитектуре, максимальной длине контекста и мультимодальных возможностях отсутствуют; модель ориентирована на работу с текстом. К сильным сторонам относятся применение preference learning через CPO и заявленная авторами конкурентоспособность с GPT-4 и победителями соревнований WMT по качеству перевода. Модель следует использовать именно как компонент системы машинного перевода, а не как исходную monolingual-модель: ALMA-7B-Pretrain без LoRA не является моделью перевода. Лицензия — MIT.
BanglaT5 NMT BN-EN — модель семейства T5, разработанная авторами репозитория csebuetnlp и дообученная на наборе BanglaNMT для перевода с бенгальского на английский. Модель содержит 123,8 млн параметров и доступна в формате PyTorch; для работы в Transformers подаёт текст и генерирует перевод.
BanglaT5 NMT EN-BN — модель семейства T5, разработанная CSEBUET NLP и дообученная на наборе BanglaNMT для перевода с английского на бенгальский. Это генеративная модель типа encoder-decoder с 123,8 млн параметров, предназначенная для машинного перевода текстов между этими языками. Для наилучших результатов входной текст следует нормализовать тем же способом, что и при предварительном обучении, используя рекомендованную в карточке библиотеку нормализации перед токенизацией. В README приведены результаты оценки на тестовом наборе BanglaNMT, но доступная таблица не содержит результата этой модели.
Payoto/bart-base-finetuned-en-to-ro — дообученная Payoto модель facebook/bart-base для преобразования текста с английского на румынский. Она основана на архитектуре BART, содержит 95,2 млн параметров и рассчитана на контекст до 1024 токенов. Модель обучалась на наборе WMT16; в карточке указана оценка loss 1,9824 на проверочной выборке. Модель подходит для перевода предложений и документов с английского на румынский. Доступна в форматах PyTorch и safetensors и распространяется по лицензии Apache-2.0. В карточке нет подробных сведений о качестве перевода на реальных данных или ограничениях применимости.
bert2bert_L-24_wmt_de_en — модель перевода на архитектуре encoder-decoder, представленная Сашей Роте, Шаши Нараяном и Алексей Северыном и впервые опубликованная в этом репозитории. Она использует контрольные точки bert-large для энкодера и декодера и дообучена на переводе с немецкого на английский на датасете WMT. Модель предназначена для машинного перевода немецких текстов на английский. Репозиторий содержит веса PyTorch; модель доступна по лицензии Apache-2.0.
CataLlama-v0.2-Instruct-SFT-DPO-Merged — объединённая модель Laurentiu Petrea на базе Llama 3 от Meta. Это авторегрессионная плотная Transformer-модель с архитектурой LlamaForCausalLM и 7,5 млрд параметров; она принимает текст и выдаёт текст, поддерживая контекст до 8192 токенов. Модель настроена для диалогов и языковых задач преимущественно на каталанском языке. Она подходит для извлечения информации из документов, распознавания именованных сущностей, перевода между каталанским и английским, краткого и развернутого суммирования, анализа тональности и чат-ассистентов. По данным карточки, объединение показало более высокие результаты на MMLU и GSM8K, чем обе родительские модели. Весовые параметры слоёв объединены усреднением двух моделей SFT и DPO; эмбеддинги, нормализация и выходная голова взяты из DPO-модели. Лицензия — Llama 3 Community License. Карточка отмечает, что исходная лицензия Llama 3 задаёт ограничения на использование; разработчики могут адаптировать модель для языков помимо английского при соблюдении лицензии и Acceptable Use Policy.
CAT-Translate-3.3B — языковая модель CyberAgent для двустороннего перевода между японским и английским языками. Это плотная авторегрессионная модель семейства Llama с 3,1 млрд параметров, рассчитанная на контекст до 8192 токенов и работающая через Transformers; для запуска перевода ей требуется инструкция в prompt. Модель дообучена на базе sbintuitions/sarashina2.2-3b. В обучении использовались синтетические параллельные корпуса, двухэтапное supervised fine-tuning и обучение с подкреплением Multi-Objective GRPO; для эффективного обучения применялась LoRA. Разработчики оценивали переводы в направлениях японский—английский и английский—японский на наборах, связанных с диалогами, судебным переводом, медициной, патентами и деловой тематикой. Модель предназначена для перевода текстов и диалогов между японским и английским, в том числе в прикладных сценариях из оценки разработчиков. Репозиторий распространяется по лицензии MIT. Результаты бенчмарков приведены разработчиками; они не гарантируют одинаковое качество на произвольных текстах и доменах.
Модель Discrete Diffusion Speech Translation разработана aiai-laboratory для распознавания вьетнамской речи и перевода речи на английский, китайский и корейский языки. Она предназначена для сценариев, где из аудиозаписи нужно получить распознанный текст или перевод. Архитектура объединяет аудиоэнкодер Moonshine с текстовой моделью XLM-RoBERTa и использует дискретную диффузию. В метаданных указано окно контекста 514 токенов и формат весов safetensors. Лицензия в предоставленных данных не указана.
ENKO-T5-SMALL-V0 — модель машинного перевода с английского на корейский, опубликованная пользователем nlp-with-deeplearning. Она обучена с нуля на архитектуре T5-small: это плотная модель типа encoder-decoder примерно на 52,7 млн параметров. Для токенизации обоих языков используется Byte-level BPE со словарём из 60 тысяч токенов; обучение проводилось на корпусе из 11 млн параллельных примеров, преимущественно из AI-Hub. В README упоминается оценка на пяти тестовых наборах, но конкретные результаты не приведены в доступных данных. Модель предназначена для перевода английских текстов на корейский. Метаданные указывают контекст до 512 токенов и формат весов Safetensors. Лицензия CC BY-NC-SA 4.0 требует указания авторства и распространения производных материалов на тех же условиях, а также ограничивает коммерческое использование. Карточка также отмечает теги text-generation и feature-extraction, однако описанное назначение модели — машинный перевод.
EraX-Translator-V1.0 — компактная мультиязычная модель перевода, разработанная EraX AI на основе Gemma 3 4B IT и дообученная на переводных данных. Она предназначена для перевода между вьетнамским, английским, китайским, кантонским, классическим китайским, русским, украинским, французским, немецким, нидерландским, корейским, японским и хинди. Особое внимание уделено классическому китайскому, в том числе буддийским текстам; модель также рассчитана на практическое развёртывание при ограниченных ресурсах. По данным авторов, обучение включало около 8 млн мультиязычных примеров, среди которых 15 тыс. переводов буддийских текстов с классического китайского на вьетнамский. Модель имеет плотную архитектуру Gemma 3 и около 4 млрд параметров; README сообщает о скорости примерно 80 токенов/с в bfloat16 при использовании vLLM и около 20 ГБ видеопамяти. Рекомендуемый объём одного переводимого фрагмента — не более 1024 токенов. Лицензия — Gemma. Авторы ограничивают назначение переводом и отмечают, что качество зависит от языковой пары и сложности текста; модель не обучалась для перевода математического LaTeX и кода, а качество перевода классического китайского требует дальнейшей проверки.
EraX-Translator-V1.0-i1-GGUF — квантизированная GGUF-версия модели EraX-Translator-V1.0, разработанной erax-ai и подготовленной пользователем mradermacher. Модель предназначена прежде всего для многоязычного машинного перевода, включая работу с вьетнамским, английским, русским, французским, китайским, кантонским китайским, немецким, японским, корейским, хинди и украинским языками. В описании также отмечена специализация на низкоресурсных языках, древнекитайских и буддийских текстах. Модель распространяется в формате GGUF для запуска с совместимыми инструментами, включая llama.cpp и vLLM. Доступно множество вариантов квантизации размером примерно от 1,2 до 3,3 ГБ; они различаются компромиссом между скоростью, требованиями к памяти и качеством. Для некоторых вариантов README указывает заметное снижение качества, тогда как Q4_K_M обозначен как быстрый и рекомендуемый, а Q4_K_S — как оптимальный по соотношению размера, скорости и качества. README помечает модель как vision model, однако подробности о поддерживаемых визуальных входах не приведены. Сильными сторонами модели являются фокус на переводе и поддержка широкого набора языков, включая языки с ограниченными ресурсами и специализированные историко-религиозные тексты. Ограничения включают зависимость качества от выбранного уровня квантизации, отсутствие данных о размере исходной модели, архитектуре, максимальном контексте, точности на тестах и рекомендуемых языковых направлениях. Модель распространяется по лицензии gemma; конкретные условия лицензии следует учитывать при использовании.
NickyNicky/gemma-1.1-2b-it_orpo_traslate_en_es_V1 — дообученная модель семейства Gemma 1.1 от автора NickyNicky для перевода между английским и испанским языками. Она основана на плотной архитектуре GemmaForCausalLM с 2,5 млрд параметров и рассчитана на работу с текстом; модель опубликована в формате Safetensors для Transformers. Длина контекста составляет 8192 токена. Модель обучалась на наборе NickyNicky/Colossal_Translation_EN_ES_ORPO_DPO_Gemma, содержащем 49 252 примера; карточка также приводит p95 длины промпта 620 токенов и p95 длины промпта вместе с предпочтительным ответом 1278 токенов. Основной сценарий — перевод текста с английского на испанский и с испанского на английский. Лицензия — Apache-2.0.
Gemma Ko 7B Instruct v0.52 — дообученная lemon-mint чат-модель семейства Gemma для генерации связного текста, прежде всего на корейском языке. Она подходит для диалога, перевода, суммаризации и ответов на вопросы. Модель содержит 8,2 млрд параметров, использует плотную архитектуру GemmaForCausalLM и принимает контекст длиной до 8192 токенов. Поддерживаемые языки — корейский и английский. Модель дообучена на beomi/gemma-ko-7b; в репозитории указаны веса Safetensors и библиотека Transformers. Лицензия — gemma-terms-of-use. Возможны ошибки и воспроизведение предвзятостей обучающих данных, поэтому ответы требуют проверки.
GemmaX2-28-9B-v0.2 — языковая модель для машинного перевода, разработанная Xiaomi Inc. Модель дообучена на GemmaX2-28-9B-Pretrain, основанной на Gemma2-9B и обученной на смеси монолингвальных и параллельных данных для 28 языков. Архитектура — плотная Gemma2ForCausalLM с 9 млрд параметров; модель работает с текстом и имеет контекст 8192 токена. Модель предназначена для перевода между 28 языками, включая русский, английский, китайский, арабский, японский и хинди. Версия 0.2 использует инструкции перевода, применявшиеся при дообучении моделей MiLMMT-46. Для других языков качество перевода не гарантируется. Лицензия — Gemma.
Griot-MT est un modèle de traduction automatique multilingue développé par Bivariant. Il traduit dans les deux sens entre le français et 18 langues africaines : баатонум, бауле, дьюла, эве, эwондо, фон, фула, хауса, лингала, лугандийский, море, сар, оромо, санго, шона, сомали, суахили и волоф — всего 36 направлений. Модель основана на архитектуре M2M-100 и имеет общий компонент примерно на 1,394 млрд параметров, общий токенизатор и отдельный адаптер LoRA/RSLoRA для каждого языка; обучаемая часть адаптеров составляет около 23,6 млн параметров. Заявленная длина контекста — 1024 токена. В опубликованном бенчмарке модель получила в среднем 38,11 BLEU и 58,00 chrF++ на всех 36 направлениях. Результаты выше для перевода с африканских языков на французский, чем для обратного направления. Качество зависит от домена, диалекта, орфографии, смешения языков и специальной терминологии; приведённые оценки относятся к конкретным тестовым наборам. Модель распространяется в формате safetensors; условия лицензии в предоставленной карточке не описаны.
Huihui-HY-MT1.5-1.8B-abliterated-GGUF — GGUF-квантизированная версия модели Huihui-HY-MT1.5-1.8B-abliterated, разработанной huihui-ai и подготовленной квантизацией пользователем mradermacher. Модель ориентирована прежде всего на машинный перевод и поддерживает широкий набор языков, включая китайский, английский, французский, португальский, испанский, японский, турецкий, русский, арабский, корейский, немецкий и другие языки. Модель имеет размер 1,8 млрд параметров и поставляется в формате GGUF, что делает её пригодной для локального запуска в совместимых инструментах. Доступны варианты квантизации Q2_K, Q3_K, IQ4_XS, Q4_K_S, Q4_K_M, Q5_K_S, Q5_K_M, Q6_K, Q8_0 и f16; размеры файлов составляют примерно от 0,9 до 3,7 ГБ. В README рекомендуются варианты Q4_K_S и Q4_K_M как быстрые, а Q6_K и Q8_0 — как обеспечивающие более высокое качество. К сильным сторонам относятся компактный размер, поддержка множества языков и возможность выбора между скоростью, требованиями к памяти и качеством через разные варианты квантизации. Ограничения — отсутствие в представленном README сведений об архитектуре, размере контекста, результатах оценки, мультимодальности и точных сценариях использования; заявлена только текстовая переводческая специализация. Лицензия в README не указана.
Huihui-HY-MT1.5-7B-abliterated-i1-GGUF — это GGUF-квантизированная версия модели Huihui-HY-MT1.5-7B-abliterated, разработанной huihui-ai и подготовленной к публикации пользователем mradermacher. Модель ориентирована прежде всего на задачи машинного перевода и поддерживает широкий набор языков, включая китайский, английский, французский, португальский, испанский, японский, русский, арабский, корейский, немецкий, итальянский, украинский и другие языки. В основе лежит модель размером 7B параметров; доступны многочисленные варианты GGUF-квантизации от i1-IQ1_S до i1-Q6_K, а также imatrix-файл для создания собственных квантов. В README рекомендуются варианты i1-Q4_K_M как быстрые и сбалансированные, а i1-Q4_K_S — как компромисс между размером, скоростью и качеством. Указаний на архитектуру, размер контекста, мультимодальность и результаты сравнительных тестов нет, поэтому модель следует рассматривать как текстовую, специализированную на переводе, без подтвержденных характеристик вне заявленной области. Преимуществами являются широкий языковой охват, наличие вариантов для запуска при разных ограничениях по памяти и возможность локального использования через формат GGUF. Ограничения включают заметные потери качества у наиболее компактных квантов, отсутствие опубликованных бенчмарков и неопределенность относительно поведения за пределами перевода. README не содержит информации о лицензии, поэтому условия коммерческого и иного использования необходимо уточнять по исходной модели и репозиторию.
Это зеркальная копия модели Tencent HY-MT1.5-1.8B, подготовленная Kaption для загрузки в приложениях Kaption. Файл GGUF побайтно совпадает с указанной в карточке upstream-версией; модель предназначена для перевода между языками. Базовая модель описана как компактная система с поддержкой 33 языков, контекста, терминологии и форматированного вывода. В репозитории размещена квантизированная версия в формате GGUF с 1,25-битным представлением STQ, созданная AngelSlim. Лицензия в метаданных обозначена как other; более точные условия из предоставленных сведений установить нельзя.
Hypa-Llama3.1-8b-SFT — созданная Hypa Intelligence многоязычная модель генерации текста на базе Meta Llama 3.1 8B Instruct. Это продолжение дообучения предыдущего чекпойнта Hypa-Llama методом SFT с LoRA/QLoRA; адаптер объединён с весами в 16-битном формате. Модель содержит 7,5 млрд параметров, использует архитектуру Llama и библиотеку Transformers. Лицензия — Apache-2.0. Модель предназначена для перевода между английским, французским, испанским и четырнадцатью языками Нигерии, определения языка, словарных объяснений, многоязычного следования инструкциям и вызова инструментов в формате Llama. В карточке перечислены 17 поддерживаемых языков; контекст обучения составляет 2048 токенов, хотя базовая конфигурация унаследовала более длинное окно контекста. К сильным сторонам относятся поддержка ряда малоресурсных языков и структурированный вывод в Markdown или JSON. Качество может заметно различаться между языками, поэтому для редких языков ответы следует проверять с носителями; JSON иногда требует исправления. Модель не проходила дополнительную настройку безопасности после SFT и не предназначена для самостоятельного применения в медицинских, юридических, финансовых и психологических сценариях.
Index-Homura-2B — специализированная модель перевода из семейства Index-Translate, разработанная IndexTeam на базе Qwen3.5. Она принимает исходный текст и заданное пользователем целевое число слогов, затем подбирает формулировку перевода, стремясь сохранить смысл и естественность при соблюдении ограничения по длине. Модель также поддерживает глоссарий и может сохранять заданные термины одновременно с управлением числом слогов. Модель предназначена для подготовки реплик дубляжа и субтитров с контролируемой длительностью. По оценке SandGlass на английском, японском, арабском и испанском целевых языках, в 54,39% случаев результат укладывался в отклонение не более одного слога, а в 63,08% — в пределах 10% от цели; качество перевода оценено отдельно. Чекпойнт построен на архитектуре Qwen3.5, имеет 2 млрд параметров и обучался с мультиязычным промежуточным обучением, дообучением для перевода и оптимизацией с подкреплением. Для запуска авторы рекомендуют CUDA и vLLM с поддержкой Qwen3.5; указанный пресет использует контекст 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Точность контроля числа слогов приблизительная и может различаться между языками; результаты оценки на четырёх целевых языках не подтверждают одинаковую точность для всех языков.
IndicBART — предобученная многоязычная модель последовательность-в-последовательность от AI4Bharat, основанная на архитектуре mBART. Она предназначена для создания приложений генерации текста на индийских языках и английском; модель можно дообучать на размеченных данных для машинного перевода, суммаризации и генерации вопросов. Веса содержат около 166,2 млн параметров, модель обучена на корпусе IndicCorp из 452 млн предложений и 9 млрд токенов, а длина контекста составляет 1024 токена. Модель поддерживает ассамский, бенгальский, гуджарати, хинди, каннада, малаялам, маратхи, ория, пенджаби, тамильский, телугу и английский языки. Все языки, кроме английского, представлены в деванагари для переноса знаний между родственными языками; для работы с другими индийскими письменностями README рекомендует преобразовывать текст в деванагари и затем возвращать исходную письменность. По сравнению с mBART и mT5-base модель компактнее и требует меньше вычислений при дообучении и генерации. Лицензия в предоставленных данных не указана.
IndicBARTSS — мультиязычная предобученная модель типа sequence-to-sequence на архитектуре mBART, разработанная AI4Bharat. Она предназначена для создания приложений генерации текста на индийских языках и английском после дообучения на размеченных данных. Поддерживает ассамский, бенгальский, гуджарати, хинди, маратхи, одия, панджаби, каннада, малаялам, тамильский, телугу и английский; общий размер модели — 166,2 млн параметров, длина контекста — до 1024 токенов. Модель предобучена на корпусе IndicCorp объёмом 452 млн предложений и 9 млрд токенов с задачей восстановления пропущенных фрагментов текста. В отличие от исходной IndicBART, каждый язык использует собственную письменность, поэтому преобразование письма в деванагари и обратно не требуется. Относительно mBART и mT5-base модель меньше и требует меньше вычислений при дообучении и генерации. Возможные сценарии после дообучения включают машинный перевод, суммаризацию и генерацию вопросов. В метаданных указана библиотека PyTorch; репозиторий содержит веса PyTorch. Условия лицензии в предоставленных данных не описаны.