I.6Перевод и языковая адаптация
В разделе собраны самостоятельные задачи, где AI помогает переносить смысл между языками, форматами и культурными контекстами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
16 710 моделейDavlan/xlm-roberta-large-finetuned-swahili — модель XLM-RoBERTa large с архитектурой XLMRobertaForMaskedLM, дообученная для заполнения пропусков в тексте. Она подходит для подстановки вероятных слов вместо маскированных токенов в задачах работы с суахили. Модель содержит 658,7 млн параметров, принимает текст с контекстом до 514 токенов и распространяется в формате PyTorch. Модель опубликована Davlan 25 августа 2022 года и основана на xlm-roberta-large. В README указана оценка loss 1,0626 на наборе для оценки, но датасет, детальные сценарии применения и отдельные результаты по задачам не описаны. Лицензия — MIT.
1800-9B — объединённая автором ClaudioItaly языковая модель на архитектуре Gemma 2 для генерации художественного текста. Она создана методом TIES с помощью mergekit на базе sam-paech/Quill-v1; в слияние также вошли nbeerbower/Gemma2-Gutenberg-Doppel-9B и sam-paech/Delirium-v1. Модель содержит 9 млрд параметров, использует формат safetensors и имеет контекстное окно 8192 токена. Модель предназначена прежде всего для творческого письма: она генерирует атмосферные сцены с выразительными деталями и эмоциональными описаниями, а также может переключаться между повествованием, детективом, романтикой и экшеном. Метаданные указывают поддержку английского и итальянского языков и режим чата. Лицензия — MIT. Карточка описывает сильные стороны модели как выразительный стиль, насыщенные образы и связное повествование; это самооценка автора, а не результаты независимого тестирования. В README не приведены количественные оценки качества или подробные инструкции по использованию.
RogerB/afro-xlmr-large-kinyarwanda-all-finetuned — дообученная модель XLM-RoBERTa large на базе Davlan/afro-xlmr-large. Она предназначена для задачи fill-mask: предсказывает пропущенный токен в тексте, что подходит для языковых экспериментов и восстановления пропусков в предложениях. Модель содержит 658,7 млн параметров, принимает текст и рассчитана на контекст до 514 токенов. Базовая модель адаптирована для африканских языков; название этой версии указывает на кинаруанда, но README не уточняет набор данных и языки обучения. Указана лицензия MIT. В README приведено значение loss 1,065 на оценочном наборе, но состав данных и подробности оценки не описаны.
mHossain/bangla-para-v3-500000 — дообученная автором mHossain версия модели mHossain/bangla-para-v3-480000. Это плотная модель T5ForConditionalGeneration с 123,7 млн параметров в формате PyTorch. По тегам Hugging Face она относится к генерации текста по тексту и предназначена для работы с текстовыми входами и выходами. Название и базовая модель указывают на специализацию на бенгальском языке, однако README не описывает целевые сценарии применения, обучающие данные и ограничения. В карточке приведены результаты оценки: loss 1,1122 и нулевые значения ROUGE-1, ROUGE-2, ROUGE-L и ROUGE-Lsum; эти метрики не подтверждают качество генерации. Лицензия в предоставленных данных не указана.
Японская модель BERT-base от hitachi-nlp для предсказания замаскированных токенов. Она использует архитектуру BERT с головой BertForMaskedLM, содержит 136,3 млн параметров и обрабатывает последовательности длиной до 512 токенов. Для токенизации применяется словарь Nothing + Unigram; его нужно получить отдельно из репозитория проекта и указать путь к нему при загрузке токенизатора. В примере модель разбивает японский текст на токены для задачи заполнения пропусков. Модель предназначена для японского текста и обучена на данных Wikipedia и CC-100. Доступна в формате PyTorch через библиотеку Transformers. Лицензия CC BY-NC-SA 4.0 требует указания авторства и распространения производных материалов на тех же условиях; коммерческое использование не разрешено.
Aratako/calm3-22b-RP-v2 — диалоговая модель Aratako для ролевых сценариев, дообученная методом QLoRA на базе cyberagent/calm3-22b-chat. Она предназначена для ведения ролевых диалогов по заданным пользователем инструкциям, описанию мира и настройкам персонажей. Модель построена на плотной архитектуре Llama с 22,1 млрд параметров, принимает текст и генерирует текст; заявленный контекст составляет 16 384 токена. Обучение включало японские и англоязычные ролевые датасеты, в том числе материалы с контентом для взрослых. Модель использует исходный формат чата ChatML. Распространяется по лицензии CC-BY-NC-SA 4.0; автор указывает, что из-за включения в обучающие данные генераций GPT-4o-mini и Claude 3.5 Sonnet модель нельзя использовать для конкурирующих с ними сервисов.
ChatWaifu v2.0 22B — разработанная spow12 (yw_nam) языковая модель для диалогов в стиле персонажей визуальных новелл и ролевого общения. Она создана на основе Mistral-Small-Instruct-2409: автор описывает обучение и объединение моделей через mergekit, а метаданные указывают на дообучение базовой модели. Модель с архитектурой MistralForCausalLM содержит 22 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. В карточке заявлены японский и английский языки; среди примеров персонажей есть героини визуальной новеллы Senren*Banka. Модель также обучалась на данных для инструкций и ролевых диалогов. Модель может генерировать NSFW-контент. Автор указывает, что использование предназначено для некоммерческих и исследовательских целей; метаданные задают лицензию CC BY-NC 4.0. Результаты оценки приведены в карточке, но не доказывают качество для всех сценариев.
Czech-GPT2-OSCAR — небольшая языковая модель GPT-2, обученная Лუკашем Халоупским как часть магистерской работы и подтверждение возможности адаптировать английскую GPT-2 для чешского языка. Это плотная авторегрессионная модель GPT2LMHeadModel, дообученная методом transfer learning на чешской части корпуса OSCAR объёмом около 21 ГБ; для обучения использовались Transformers, Tokenizers и fastai v2. Репозиторий поддерживает PyTorch, TensorFlow и safetensors. Модель предназначена прежде всего для продолжения и генерации чешского текста по текстовой подсказке. Автор описывает её как основу для последующей Czech-GPT2-Medical. Контекст модели составляет 1024 токена по метаданным; в README также упоминается обучение с целевой длиной последовательности 512 токенов. Лицензия — MIT. Модель унаследовала ограничения GPT-2: она может генерировать недостоверные сведения и отражать предвзятости неотфильтрованного интернет-корпуса OSCAR. Её не следует применять для задач, где необходима фактическая точность или где предвзятость может причинить вред, без соответствующей проверки.
flax-community/dansk-gpt-wiki — авторегрессионная языковая модель семейства GPT-2, обученная сообществом flax-community на датской части набора Wiki40B. Модель создана в рамках серии экспериментов по обучению на TPU с использованием Flax и JAX, а для обучения применялся конвейер Flax CLM. Модель предназначена для генерации датского текста и продолжения заданного фрагмента. Контекст модели составляет 1024 токена. В репозитории представлены форматы Flax, PyTorch и safetensors. Лицензия в доступных данных не указана.
FERNET-C5 — одноязычная модель BERT-base для чешского языка, разработанная командой FAV-KKY. Модель предварительно обучена на 93 ГБ чешского корпуса Colossal Clean Crawled Corpus (C5) и предназначена для предсказания пропущенных токенов в тексте. Это плотная модель архитектуры BERT с 190 млн параметров и контекстом до 512 токенов. Она поддерживает задачу fill-mask и доступна в форматах PyTorch, Safetensors и TensorFlow. Авторы также выпустили более позднюю модель-преемника на архитектуре RoBERTa. Лицензия CC BY-NC-SA 4.0 разрешает использование с указанием авторства и распространение производных на тех же условиях, но некоммерчески. Модель рассчитана на чешский язык и может быть ограничена в задачах за пределами заполнения пропусков и для других языков.
German-English Code-Switching BERT — модель на архитектуре BERT, разработанная Игором Штернером и Симоной Тойфель. Она обучена методом masked language modelling на корпусе TongueSwitcher Corpus, содержащем переключения между немецким и английским языками, и инициализирована из bert-base-multilingual-cased. Модель чувствительна к регистру и предназначена для предсказания замаскированных токенов в немецко-английских текстах со смешением языков. Модель содержит 205,1 млн параметров, принимает текст с маскированными позициями и выдаёт предсказания заполнения масок. Максимальная длина контекста — 512 токенов. Распространяется в формате PyTorch по лицензии MIT. Карточка описывает оценивание по loss на dev-наборе TongueSwitcher, но не приводит численных результатов.
CKIP GPT2 Base Chinese — базовая авторегрессионная языковая модель на архитектуре GPT-2, опубликованная Mu Yang из CKIP. Она предназначена для генерации текста на традиционном китайском языке и может служить основой для продолжения обучения и прикладных NLP-сценариев. Модель использует плотную архитектуру GPT2LMHeadModel, рассчитана на контекст до 1024 токенов и доступна в форматах PyTorch и Flax. Для токенизации автор рекомендует BertTokenizerFast вместо AutoTokenizer. Лицензия репозитория — GPL-3.0. Карточка описывает набор традиционно-китайских моделей и инструментов CKIP, включая сегментацию слов, разметку частей речи и распознавание именованных сущностей, однако не утверждает, что данный GPT-2 непосредственно выполняет эти задачи. Поэтому основное назначение этой модели — генерация текста; сведений о специальных ограничениях применения или качестве для конкретных сценариев карточка не приводит.
GroNLP/gpt2-small-italian — компактная авторегрессионная языковая модель семейства GPT-2, разработанная Wietse de Vries и Malvina Nissim. Она основана на OpenAI GPT-2 small и адаптирована для итальянского языка: переобучены лексические эмбеддинги, затем дополнительно дообучена вся модель. Модель предназначена для генерации итальянского текста по заданному началу и работы в сценариях продолжения текста. Архитектура — GPT2LMHeadModel; контекст составляет 1024 токена. Репозиторий предоставляет веса в форматах PyTorch, TensorFlow и Flax, включая safetensors. Карточка рекомендует эту версию среди вариантов итальянской модели малого размера. Она может быть полезна для генерации текста на итальянском, но ограничена контекстом в 1024 токена и не заявлена как чат-модель или универсальная многоязычная система. Лицензия в предоставленных данных не указана.
gpt2-wechsel-swahili — авторегрессионная модель генерации текста на архитектуре GPT-2, обученная с использованием метода WECHSEL для переноса языковой модели на суахили. README сообщает, что её показатель perplexity составляет 10,14 против 10,58 у GPT-2, переобученной с нуля; подробности приведены в упомянутой статье. Модель подходит для продолжения суахилийского текста и экспериментов с одноязычной генерацией. Она принимает текст и выдаёт текст, имеет контекст длиной до 1024 токенов. Опубликована в форматах PyTorch и Safetensors под лицензией MIT. README не приводит сведения о числе параметров или более широких проверках качества.
gmongaras/gpt-anime-sub-1.3B — дообученная автором модель для генерации текста на основе архитектуры GPT-Neo. В README в качестве токенизатора указан EleutherAI/gpt-neo-1.3B; модель содержит 1,5 млрд параметров и использует контекст до 2048 токенов. Модель предназначена для генерации текста, связанного с субтитрами к аниме. Она распространяется в форматах PyTorch и Safetensors по лицензии OpenRAIL. Сведения о датасете и подробные результаты оценки в карточке отсутствуют.
GPT-Neo-vi-small — компактная авторегрессионная языковая модель для генерации вьетнамского текста, представленная NlpHUST. Она построена на архитектуре GPT-Neo — реализации архитектурных идей GPT-3 от EleutherAI — и содержит около 146,7 млн параметров. Модель принимает текст и генерирует продолжение; длина контекста составляет 1024 токена. Модель обучена на новостных текстах и предназначена для генерации вьетнамского текста в новостном стиле и продолжения текстовых фрагментов. Карточка не сообщает отдельную лицензию, поэтому условия использования по имеющимся данным определить нельзя.
Indo GPT-2 Small — языковая модель на архитектуре GPT-2 Small, дообученная Wilson Wongso на статьях индонезийской Википедии. Она предназначена для продолжения индонезийского текста и генерации фрагментов, похожих по стилю и тематике на энциклопедические статьи. Модель содержит 124 млн параметров, принимает текст и выдаёт текст. Контекст составляет до 1024 токенов. Обучение проводилось в течение одной эпохи на корпусе объёмом 3,1 ГБ; модель совместима с PyTorch, TensorFlow и другими представленными форматами весов. Выводы модели могут содержать фактические ошибки и унаследованные от Википедии смещения. Репозиторий распространяется по лицензии MIT.
Kakugo 3B Najdi Arabic — компактная языковая модель для диалога на надждийском арабском диалекте, разработанная ptrdvn. Модель дообучена на базе ibm-granite/granite-4.0-micro в течение одной эпохи с помощью Llama Factory; обучение использовало дистиллированные диалоговые данные, созданные для надждийского арабского, и переведённые примеры из BAAI/Infinity-Instruct. Модель предназначена для ответов пользователю и ведения беседы на надждийском арабском. Она содержит 3,4 млрд параметров, использует архитектуру GraniteMoeHybridForCausalLM и принимает текст, выдавая текст. Контекстное окно составляет 131 072 токена. Весовые файлы представлены в формате safetensors. Модель выпущена под лицензией Apache-2.0. Она специально обучена на одном диалекте, поэтому её надёжность для других языков и разновидностей арабского не подтверждена; карточка не приводит оценки качества или подробностей о поведении на широком круге задач.
MrBananaHuman/kogpt2_small — компактная авторегрессионная языковая модель семейства GPT-2 для генерации текста. По метаданным, она использует архитектуру GPT2LMHeadModel, распространяется в формате PyTorch и ориентирована на корейский язык. Максимальная длина контекста составляет 1024 токена. Модель подходит для продолжения корейского текста и других сценариев генерации на основе текстового приглашения. README содержит только заглушку и не описывает обучение, качество или дополнительные возможности модели. Лицензия — Apache-2.0.
heegyu/kogpt-j-base — авторская корейская языковая модель на архитектуре GPT-J, выпущенная в вариантах PyTorch и Flax. В модели 163 млн параметров: 12 слоёв, размер скрытого состояния 768, 12 голов внимания и словарь из 51 200 токенов. Максимальная длина контекста — 1024 токена. Модель предназначена для генерации текста на корейском языке. Для обучения использовались корейские разговорные и письменные корпуса, социальные сети, веб-тексты, Википедия, Namuwiki, газетные статьи и петиции. Карточка сообщает о трёх эпохах обучения и примерно 21,11 млрд обработанных токенов. Модель распространяется по лицензии MIT. В обучающих данных могли присутствовать дискриминационные и оскорбительные материалы без отдельной фильтрации, поэтому сгенерированный текст может содержать предвзятые или оскорбительные высказывания.
sarmadsiddiqui29/Llama-3.2-3B-Instruct-Urdu-Stories — дообученная разговорная языковая модель семейства Llama 3.2 для генерации текста и создания историй на урду. Она разработана пользователем sarmadsiddiqui29 на основе unsloth/llama-3.2-3b-instruct-bnb-4bit с использованием Unsloth и библиотеки TRL для обучения с учителем. Модель имеет плотную архитектуру LlamaForCausalLM и 3,2 млрд параметров; заявленная длина контекста — 131 072 токена. Модель подходит для генерации историй и диалоговых ответов на урду. Лицензия — Apache 2.0. В карточке нет описания обучающих данных или результатов оценки качества, поэтому точность и устойчивость генерации историй не подтверждены.
Manaca-1B-Base-i1-GGUF — набор квантизированных версий базовой языковой модели menezesbruno/manaca-1b-base, подготовленный mradermacher. Модель ориентирована на обработку и генерацию текста на португальском языке, включая бразильский вариант Portuguese (pt-BR). Она предназначена для локального запуска задач продолжения текста и других сценариев causal language modeling, где важны компактный размер и умеренные требования к ресурсам. Исходная модель связана с библиотеками Transformers и архитектурными подходами LLaMA и Megatron-LM; точное число параметров указано в названии как примерно 1 миллиард. В набор входят GGUF-файлы с imatrix-квантизацией различных уровней — от IQ1_S до Q6_K — размером приблизительно от 0,5 до 1,5 ГБ, а также файл imatrix для создания собственных квантов. Более низкие уровни квантизации экономят память, но могут заметно снижать качество; в README отдельно отмечены предпочтительные варианты Q4_K_M и Q4_K_S, а также преимущества некоторых IQ-квантов. Длина контекста, поддерживаемые модальности помимо текста и дополнительные языки не указаны. Пригодность модели определяется прежде всего поддержкой португалоязычной генерации и возможностью запуска на ограниченных ресурсах, однако это базовая, а не инструкционная модель, поэтому её поведение в диалогах и выполнение сложных указаний не гарантируются. Модель обучалась с использованием наборов данных TucanoBR/GigaVerbo и Wikimedia Wikipedia. Указанная лицензия — CC BY 4.0.
Yakut mGPT 1.3B — языковая модель ai-forever для генерации текста на якутском языке, также известном как саха. Это дообученная версия mGPT-XL 1.3B: её дополнительно обучали 2000 шагов на данных для якутского и других малоресурсных языков. Модель основана на архитектуре GPT-2 и содержит 1,3 млрд параметров. Модель подходит для генерации продолжений текста и экспериментальных приложений на якутском языке. Контекстное окно составляет 2048 токенов; валидационная perplexity, указанная в карточке, — 10,65. Базовая mGPT обучалась на 61 языке с использованием Wikipedia и корпуса C4, однако карточка не уточняет полный состав данных дообучения этой версии. Модель выпущена по лицензии MIT. Карточка не приводит сравнительных оценок качества и не описывает специальные механизмы управления генерацией; результаты для конкретных пользовательских задач следует проверять отдельно.
AbdullahBarayan/ModernBERT-base-doc_sent_en-Cefr — англоязычная модель классификации текста, полученная дообучением answerdotai/ModernBERT-base. Она использует плотную encoder-only архитектуру ModernBERT с 149 млн параметров и контекстом до 8192 токенов. По названию репозитория модель, вероятно, предназначена для классификации предложений по уровням CEFR, однако карточка не описывает метки классов, датасет или сценарии применения. В README приведены результаты оценки: F1 0,8373 и loss 1,3272. Модель распространяется по лицензии Apache-2.0.
Modern EgyBert Base — дообученная модель семейства ModernBERT, опубликованная metga97. Она обучена на египетском арабском подмножестве корпуса FineWeb2 и предназначена для предсказания пропущенных токенов в тексте. Модель имеет 159,4 млн параметров, работает с архитектурой ModernBertForMaskedLM и принимает последовательности длиной до 8192 токенов. Модель подходит для восстановления пропусков и анализа контекста в текстах на египетском арабском. В README приведён eval_loss 2,2641 после четырёх эпох обучения; этот показатель сам по себе не позволяет сравнить качество с другими моделями. Веса доступны в формате safetensors через библиотеку Transformers. Лицензия в предоставленных данных не указана.
Ninja-v1-NSFW — языковая модель Local-Novel-LLM-project для генерации текста и художественных диалогов, включая контент для взрослых. Это плотная причинная модель семейства Mistral с 7,1 млрд параметров, созданная на основе Mistral-7B-v0.1. В README описаны дообучение на данных для написания романов, применение LoRA, расширение контекста и слияние нескольких моделей; перечислены среди них модели для английского и японского текста, романов и контента NSFW. README этой карточки подробно описывает вариант Ninja-128k, тогда как метаданные указанной модели задают для Ninja-v1-NSFW контекст 4096 токенов. Модель предназначена для продолжения текста и многоходового общения в формате Vicuna, в том числе для генерации художественной прозы и откровенного контента на английском и японском языках. Указана лицензия Apache-2.0. README предупреждает о возможной предвзятости обучающих данных; длинный контекст может требовать значительного объёма памяти.
Ojisan-translator-v1-Qwen-3.5-9B — модель Marimonald для преобразования японских текстов в стиль «одзисан-конструкций» (おじさん構文): с характерными эмодзи, выражениями, личными отступлениями и фамильярно-доброжелательной интонацией. Это плотная языковая модель Qwen3.5 с архитектурой Qwen3_5ForCausalLM и 7,2 млрд параметров, дообученная на unsloth/Qwen3.5-9B методом SFT, а затем KTO. В README указаны 750 примеров для SFT и 850 пар предпочтений для KTO; обучающий корпус опубликован отдельно. Модель предназначена для стилистического преобразования повседневных, деловых и неформальных сообщений на японском языке. Можно задавать желаемую длину и особенности стиля через инструкцию. Модель принимает текст и генерирует текст; метаданные указывают контекст до 262 144 токенов. Опубликована в формате safetensors по лицензии Apache 2.0, допускающей коммерческое использование, изменение и распространение при соблюдении условий лицензии. Специализация модели узкая: её следует использовать для имитации заданного разговорного стиля, а не как универсальный переводчик или помощника для ответов на вопросы. Вывод может содержать намеренно чрезмерные эмодзи, личные отступления и фамильярные формулировки, поэтому он может быть неуместен в официальной коммуникации.
PunjabiBERT — модель семейства BERT, разработанная L3Cube-Pune и предварительно обученная на общедоступных одноязычных корпусах пенджаби. Это плотный трансформер с 264,8 млн параметров и контекстом до 512 токенов, предназначенный для задачи fill-mask: модель предсказывает замаскированные токены в пенджабском тексте. Её можно использовать как основу для языковых экспериментов и последующей адаптации к прикладным задачам обработки пенджаби. Модель принимает текст и выдаёт текстовые предсказания для пропущенных фрагментов. Доступны веса PyTorch и Safetensors. Лицензия — CC BY 4.0; при использовании требуется соблюдать условия атрибуции. Карточка ссылается на исследовательскую работу о моделях L3Cube для индийских языков, но не приводит количественных результатов PunjabiBERT.
Qwen3.8-27B-Heretic-JP-Roleplay-NSFW-DanbooruTags — дообученная и слитая с базовыми весами модель на архитектуре Qwen3.5, созданная sss22213 на основе sss22213/Qwen3.8-27B-Heretic-JP-Roleplay-NSFW. Её дополнительный навык — преобразовывать описание сцены в точные теги Danbooru для генераторов аниме-изображений, включая Stable Diffusion WebUI, A1111, Forge и ComfyUI. Модель также сохраняет многоходовую ролевую переписку на японском языке и возможности родительской vision-language модели. Для тегирования модель обучали на парах японских описаний и тегов Danbooru, а также на примерах ролевых диалогов. В README указано, что обучение vision-компонента не проводилось и его возможности не оценивались. Теги предназначены для коротких, похожих на подпись к изображению описаний; длинные ролевые сцены могут давать менее точный результат. Формальной оценки нет, точность тегов ограничена качеством исходных описаний и компромиссом при слиянии адаптера. Модель способна выдавать откровенный контент и не отказывает в таких запросах. Лицензия — Apache-2.0.
Qwen3-VL-4B-ImRegis — мультимодальная модель на базе Qwen/Qwen3-VL-4B-Instruct, дообученная разработчиком Geologi для создания подписей к изображениям на португальском языке. Модель принимает отдельное изображение и выдаёт текстовое описание; адаптер LoRA объединён с базовыми весами, поэтому модель загружается самостоятельно без PEFT. Она предназначена для описания рисунков, карт, геологических разрезов и диаграмм, извлечённых из геонаучных документов. Обучение проводилось на парах фрагментов иллюстраций из геологических отчётов и португальских подписей набора ImRegis. Модель использует архитектуру Qwen3-VL с 4 млрд параметров. Для изображений вне геонаучных документов её качество может быть ниже; подписи могут содержать фактические ошибки и галлюцинации, поэтому их следует проверять перед дальнейшим использованием. Обучающие изображения уменьшались так, чтобы длинная сторона не превышала 448 пикселей. Лицензия в предоставленных данных не указана.