I.6Перевод и языковая адаптация
В разделе собраны самостоятельные задачи, где AI помогает переносить смысл между языками, форматами и культурными контекстами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
16 710 моделейfacebook/mms-tts-nnb — модель синтеза речи на языке нандэ (Nande, код nnb) из проекта Massively Multilingual Speech компании Facebook. Это отдельный языковой чекпойнт семейства MMS-TTS на архитектуре VITS; метаданные указывают 3,5 млн параметров, форматы PyTorch и Safetensors. Модель принимает текст на нандэ и генерирует речевую аудиоволну. VITS объединяет вариационный автоэнкодер, flow-модуль с текстовым энкодером на основе Transformer, декодер, подобный HiFi-GAN, и стохастический предиктор длительности. Благодаря последнему одинаковый текст может звучать с разным ритмом; генерация недетерминирована, поэтому для повторяемого результата требуется фиксировать seed. Модель предназначена для озвучивания текста на нандэ. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
facebook/mms-tts-nya — модель синтеза речи на языке чичева (нянджа), разработанная Meta в рамках проекта Massively Multilingual Speech. Она преобразует текст на этом языке в речевую аудиоволну и предназначена для создания озвучивания и других приложений синтеза речи. Модель построена на архитектуре VITS и обучена сквозным образом; для каждого языка MMS-TTS используется отдельный чекпойнт. Размер модели — 3,5 млн параметров. Она доступна через библиотеку Transformers версии 4.33 и новее. Стохастический предиктор длительности позволяет варьировать ритм речи, поэтому результат может меняться между генерациями; фиксированный seed позволяет воспроизводить тот же аудиосигнал. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.
facebook/mms-tts-qvw — модель синтеза речи на языке кечуа, диалект Уайлья-Уанка, из проекта Massively Multilingual Speech компании Meta (Facebook). Она преобразует входной текст в речевую волну и предназначена для озвучивания текста на этом языке. Для каждого языка в MMS-TTS используется отдельный чекпойнт. Модель построена на архитектуре VITS: она объединяет вариационный автоэнкодер, потоковый модуль, текстовый энкодер на основе Transformer, стохастический предсказатель длительности и декодер в стиле HiFi-GAN. Чекпойнт содержит 3,5 млн параметров и доступен в форматах PyTorch и Safetensors; для работы с ним подходит Transformers версии 4.33 и новее. Предсказатель длительности делает синтез недетерминированным: для повторного получения той же речевой волны требуется фиксировать seed. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
facebook/mms-tts-ril — модель синтеза речи на языке Riang Lang (ril), разработанная Meta в рамках проекта Massively Multilingual Speech (MMS). Она преобразует текст на этом языке в речевую аудиоволну; для каждого языка MMS использует отдельный чекпойнт. Модель построена на архитектуре VITS и содержит 3,5 млн параметров. Это сквозная система синтеза речи со стохастическим предсказателем длительности, который позволяет получать разные ритмические варианты произнесения одного текста. Модель доступна через Transformers версии 4.33 и новее; для воспроизводимого результата требуется фиксировать seed. Модель предназначена для синтеза речи на Riang Lang. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства и ограничивает коммерческое применение.
facebook/mms-tts-sck — модель синтеза речи на языке садри (sck), разработанная Meta в рамках проекта Massively Multilingual Speech (MMS). Она преобразует входной текст в речевую аудиоволну и предназначена для озвучивания текста на садри. Модель использует архитектуру VITS — сквозную вариационную модель с состязательным обучением и стохастическим предиктором длительности, который позволяет варьировать ритм речи. Для каждого языка проекта MMS обучается отдельный чекпойнт; размер этой модели — 3,6 млн параметров. Она доступна через библиотеку Transformers версии 4.33 и новее. Из-за стохастического предиктора длительности синтез недетерминирован: для повторения того же результата нужен фиксированный seed. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
facebook/mms-tts-smo — модель синтеза речи на самоанском языке из проекта Massively Multilingual Speech компании Facebook. Это отдельный языковой чекпойнт семейства MMS-TTS, построенный на архитектуре VITS и содержащий около 3,5 млн параметров. Модель принимает текст на самоанском языке и генерирует речевую волну; для работы доступна через библиотеку Transformers версии 4.33 и новее. VITS объединяет вариационный автоэнкодер, потоковый модуль, Transformer-энкодер текста, декодер на основе свёрточных слоёв и стохастический предиктор длительности. Последний позволяет получать разные ритмические варианты произнесения одного текста. Генерация недетерминирована, поэтому для повторения того же результата нужно фиксировать seed. Модель распространяется под лицензией CC BY-NC 4.0, которая не допускает коммерческого использования.
facebook/mms-tts-tgl — модель синтеза речи на тагальском языке из проекта Massively Multilingual Speech (MMS), разработанного Facebook. Она преобразует текст в речевую волну и предназначена для озвучивания текстов на тагальском языке. Модель использует архитектуру VITS и содержит около 3,5 млн параметров. Это сквозная система синтеза речи с текстовым энкодером на основе Transformer, потоком нормализации, декодером, похожим на HiFi-GAN, и стохастическим предсказателем длительности, который позволяет варьировать ритм речи. Для каждого языка MMS-TTS обучается отдельный чекпойнт. Модель подключается через библиотеку Transformers версии 4.33 и новее. Из-за стохастической генерации для повторения результата требуется фиксировать seed. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
facebook/mms-tts-trc — модель синтеза речи на языке трики, диалект Копала, разработанная Facebook в рамках проекта Massively Multilingual Speech (MMS). Она преобразует входной текст в речевую аудиоволну и предназначена для озвучивания текста на этом языке. Модель использует архитектуру VITS: текстовый энкодер на основе Transformer, поточный модуль и декодер, формирующий аудиоволну; предсказатель длительности позволяет варьировать ритм речи. В репозитории указаны 3,5 млн параметров, веса представлены в форматах PyTorch и safetensors. Для повторяемой генерации одного и того же аудио требуется фиксированный seed, поскольку предсказатель длительности стохастический. Лицензия CC-BY-NC-4.0 допускает использование с указанием авторства, но запрещает коммерческое применение.
facebook/mms-tts-tuk-script_arabic — модель синтеза речи на туркменском языке, разработанная Facebook в рамках проекта Massively Multilingual Speech (MMS). Она преобразует входной текст в аудиоволну и подходит для озвучивания туркменских текстов. Для каждого языка MMS обучается отдельный чекпойнт. Модель использует архитектуру VITS — сквозную систему синтеза речи с вариационным автоэнкодером, поточным модулем и декодером на основе HiFi-GAN. В чекпойнте около 3,5 млн параметров. Доступны веса PyTorch и Safetensors, модель поддерживается библиотекой Transformers начиная с версии 4.33. Предсказатель длительности работает стохастически, поэтому одинаковый текст может звучать с разным ритмом; для повторяемого результата требуется фиксировать seed. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но не коммерческое использование.
facebook/mms-tts-xed — модель синтеза речи для языка Hdi (xed) из проекта Massively Multilingual Speech компании Facebook. Она преобразует текст на Hdi в речевую аудиоволну; для каждого языка проекта обучается отдельный чекпойнт. Модель основана на архитектуре VITS и содержит около 3,5 млн параметров. Она обучается сквозным образом: текстовый энкодер, потоковый модуль и декодер формируют речь, а стохастический предиктор длительности позволяет получать разные ритмы произнесения одного текста. Модель доступна через библиотеку Transformers версии 4.33 и новее; для повторяемого результата требуется фиксировать seed. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
facebook/mms-tts-xnj — модель синтеза речи на языке чингони (xnj), разработанная Facebook в рамках проекта Massively Multilingual Speech. Она преобразует входной текст в речевую аудиоволну и подходит для озвучивания текста на этом языке. Модель использует архитектуру VITS: текстовый энкодер, потоковый модуль и декодер, построенный по принципу HiFi-GAN; для вариативности ритма речи предусмотрен стохастический предиктор длительности. В чекпойнте около 3,5 млн параметров; модель доступна через Transformers. Модель обучена отдельно для чингони, поэтому её назначение ограничено синтезом речи на этом языке. Генерация недетерминирована: для повторения результата требуется фиксированный seed. Лицензия CC BY-NC 4.0 допускает использование с указанием авторства, но запрещает коммерческое использование.
MyanmarTTS — модель синтеза речи на бирманском языке, разработанная с нуля. Она преобразует текст на бирманском письме в речь и подходит для озвучивания сообщений, новостных текстов и коротких фраз. Модель содержит 31 млн параметров и использует архитектуру StableTTS на основе DiT и flow matching вместе с вокодером Vocos. Для вывода доступны настройки решателя и числа шагов: в карточке приведены примеры с решателем euler и 12 шагами, а также варианты с 8 шагами для более быстрого вывода и с 24 для более высокого качества. Автор сообщает о запуске на современных GPU и CPU, причём на CPU синтез медленнее. Модель и её веса распространяются по лицензии CC0 1.0; отдельный вокодер Vocos указан под лицензией MIT.
Это GGUF-квантизированная версия модели ndizi-gemma4-e2b-african-asr-merged, разработанной smutuvi и преобразованной в GGUF пользователем mradermacher. Модель предназначена прежде всего для автоматического распознавания речи на африканских языках, включая суахили, амхарский и оромо, и может использоваться в сценариях транскрибации аудиозаписей и обработки речи. В исходных данных также указаны наборы данных, связанные с этими языками и задачами распознавания речи. Модель основана на Gemma4 и представлена в мультимодальном формате с дополнительными файлами mmproj, необходимыми для работы с аудиовходом. Точный размер базовой архитектуры, максимальная длина контекста и другие параметры в README не указаны. Доступны варианты GGUF с разными уровнями квантования: от Q2_K размером около 3,1 ГБ до f16 размером около 9,4 ГБ. В README варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, а Q8_0 — как обеспечивающий высокое качество. Преимущество модели — специализация на нескольких африканских языках и возможность локального запуска через совместимые с GGUF инструменты. Ограничения включают возможное снижение качества при низком уровне квантования, отсутствие подробных результатов оценки и неизвестные требования к оборудованию. Лицензия указана как Gemma; условия её применения следует уточнять по лицензии Gemma.
Open-Llama-2-Ko-7B — авторегрессионная языковая модель Junbum Lee (Beomi), основанная на архитектуре Llama 2. Это предварительно обученная модель с 6,7 млрд параметров, расширенным корейским словарём из 46 336 токенов и контекстом 2048 токенов. Для обучения использовались общедоступные корейские корпуса AI Hub, Modu Corpus и корейская Википедия; объём обучения составил около 15 млрд токенов с расширенным токенизатором. Модель принимает текст и генерирует текст. Она предназначена прежде всего для генерации и продолжения текста на корейском языке, а также поддерживает английский. Расширенный словарь улучшает токенизацию корейского текста по сравнению с исходным Llama 2. Модель распространяется в форматах PyTorch и Safetensors под лицензией MIT, с условиями Llama 2 Community License Agreement. Это базовая предобученная модель, а не настроенный чат-ассистент.
Oumuamua-7b-base — объединённая предварительно обученная языковая модель, созданная автором nitky с помощью mergekit и метода Model Stock. В неё вошли tokyotech-llm/Swallow-MS-7b-v0.1, mistralai/Mistral-7B-v0.1, nitky/Flavor-7b и stabilityai/japanese-stablelm-base-gamma-7b; за базовую модель при слиянии использовалась Swallow-MS-7b-v0.1. Модель семейства Mistral имеет плотную архитектуру MistralForCausalLM, 7,2 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста, в первую очередь на японском и английском языках. Пример в карточке показывает продолжение японского запроса о самой высокой горе Японии; модель можно применять для свободного продолжения текста и ответов на текстовые запросы. Для генерации автор проверял её в text-generation-webui с температурой 0,3 и пресетами min_p и Null. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка описывает базовую языковую модель, а не инструкционную или чат-версию; качество ответов и следование инструкциям зависят от сценария использования.
Sam Jackson разработал SamSJackson/paraphrase-dipper-no-ctx — англоязычную модель для управляемого перефразирования. Это последовательная encoder-decoder модель семейства T5 с 502,7 млн параметров, дообученная на 100 тысячах пар перефразирования без контекста на основе google/t5-efficient-large-nl32. Для управления степенью изменений во вход добавляются параметры lexical и order со значениями от 0 до 100 с шагом 20: lexical задаёт, насколько менять слова, а order — насколько перестраивать структуру абзаца. Модель подходит для перефразирования предложений и абзацев с сохранением смысла и настройкой лексических и структурных изменений. Метаданные Hugging Face указывают задачу summarization, однако карточка описывает модель именно как перефразировщик. Контекст модели составляет 512 токенов. Указана лицензия MIT. Автор рекомендует более мощную DIPPER при наличии вычислительных ресурсов и отмечает, что эта модель уступает ей по возможностям.
Sarashina2-8x70B — большая языковая модель, разработанная SB Intuitions. Это модель архитектуры Mixture-of-Experts семейства Mixtral, созданная методом sparse upcycling на основе Sarashina2-70B. В модели более 450 млрд параметров в сумме; метаданные указывают 69,3 млрд параметров. Она обучена на смеси японских и английских веб-текстов, использует токенизатор SentencePiece с unigram-моделью и byte fallback и принимает исходные японские фразы без предварительной токенизации. Контекст составляет 8192 токена. Модель предназначена для продолжения и генерации текста на японском и английском языках. Для инференса в BF16 карточка указывает требования в 16 ускорителей H100 или 16 ускорителей A100 с 80 ГБ памяти. Sarashina2-8x70B не настроена на следование инструкциям, поэтому может выдавать бессмысленные, неточные или предвзятые и нежелательные ответы. Для диалоговых или пользовательских сценариев разработчикам рекомендуется дополнительно настраивать модель с учётом предпочтений людей и требований безопасности. Лицензия указана как other; конкретные условия следует сверять с файлами лицензии репозитория.
Shuka v1 — аудиоязыковая модель Sarvam AI, которая принимает речь и отвечает на вопросы о её содержании. Она построена как encoder-decoder: аудиоэнкодер Saaras v1 соединён небольшим проектором с декодером Llama 3 8B Instruct от Meta. При обучении обновляли только веса проектора размером около 60 млн параметров; остальная сеть оставалась замороженной. Модель обучали менее чем на 100 часах аудио. Shuka предназначена для диалога и ответов на вопросы по аудио на английском и хинди. Благодаря многоязычному аудиоэнкодеру она также показала работу в режиме zero-shot для вопросов по аудио на бенгальском, гуджарати, каннада, малаялам, маратхи, ория, пенджаби, тамильском и телугу. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Модель основана на Llama 3 8B Instruct и Saaras v1. Для использования весов действует лицензия Llama 3. README сообщает о тестировании на перечисленных языках, но не приводит количественных оценок качества.
hyeogi/SOLAR-10.7B-v1.3 — корейская языковая модель авторегрессионной генерации текста, основанная на yanolja/KoSOLAR-10.7B-v0.2. Это плотная модель архитектуры Llama с 10,6 млрд параметров и контекстом до 4096 токенов. В карточке указано дообучение на переведённых и отобранных примерах Open-Orca/SlimOrca, Anthropic/hh-rlhf и GAIR/lima, а также на корейском наборе jojo0217/korean_rlhf_dataset. Модель предназначена для генерации ответов и диалогового текста на корейском языке. Она распространяется в формате Safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
SPRING_F5 — мультиязычная модель синтеза речи по тексту, разработанная SPRINGLab и созданная дообучением F5-TTS. Она предназначена для озвучивания текста на 23 индийских языках и английском; обучение проводилось примерно на 3 220 часах речевых данных из наборов Rasa, IndicTTS и IndicVoices-R. Модель подходит для создания озвучки и речевого вывода на поддерживаемых языках. В метаданных указаны архитектура SPRING_F5 и формат PyTorch. Репозиторий распространяется по лицензии Apache-2.0. В доступных сведениях не приведены ограничения по длине входного текста и оценки качества синтеза.
hezarai/t5-base-fa — модель генерации текста на основе архитектуры T5, опубликованная Hezar AI. Она предназначена для генеративных задач на персидском языке; репозиторий Hezar AI использует её как препроцессор для датасета персидского суммирования XLSum, что указывает на применение для суммирования текстов. Модель доступна в формате PyTorch и интегрирована с библиотекой Hezar. Карточка модели не содержит описания дополнительных характеристик или условий лицензирования, поэтому размер, контекст и лицензию здесь установить нельзя.
ad019el/tamasheq-99-2 — модель распознавания речи на базе архитектуры wav2vec2 с CTC-декодированием, дообученная разработчиком ad019el. Она принимает аудио и предназначена для преобразования речи в текст. В карточке приведены результаты оценки: loss 1,1325 и WER 0,8412; сведений о наборе данных и подробных сценариях обучения нет. Модель опубликована в формате PyTorch и насчитывает около 402,7 млн параметров. Лицензия и ограничения использования в предоставленных материалах не описаны.
Vigogne-33B-Instruct — франкоязычная модель семейства LLaMA, разработанная проектом Vigogne и дообученная следовать инструкциям на французском языке. Она предназначена для генерации ответов на запросы и выполнения инструкций в диалоговых и других текстовых сценариях. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 32,3 млрд параметров и принимает контекст до 2048 токенов. В версии 1.0 использовался переведённый набор Stanford Alpaca, а версия 2.0 обучалась на расширенном наборе из 262 тысяч примеров. Репозиторий содержит веса PyTorch. Модель может выдавать неверные, вредные, предвзятые или бесполезные ответы и, согласно карточке, всё ещё находится в разработке. Лицензия указана как OpenRAIL; авторы также отмечают, что обучающие данные распространяются по CC BY-NC 4.0, и предназначают модель только для исследовательского использования.
Subhashini17 разработал эту модель как дообученную на Common Voice версию facebook/wav2vec2-xls-r-300m для распознавания речи. Это акустическая модель семейства wav2vec2 с архитектурой Wav2Vec2ForCTC: она принимает аудио и выдаёт текстовую расшифровку. В репозитории указаны веса PyTorch, около 402,7 млн параметров и лицензия Apache-2.0. Модель создана в 2022 году. Модель предназначена для автоматической транскрипции речи; название указывает на вариант для тамильского языка. На оценочной выборке Common Voice указана WER 0,7611, что означает высокую долю ошибок и ограниченную точность распознавания. Карточка не описывает условия записи, поддерживаемые варианты речи или практические ограничения подробнее.
yuriyvnv выпустил дообученную на португальской речи модель Whisper-Tiny для автоматического распознавания речи. В обучении использованы данные Common Voice 17.0 и синтетические речевые данные, отфильтрованные по порогу качества q ≥ 0,5. Модель содержит 29,4 млн параметров и представлена в формате safetensors; лицензия — Apache-2.0. Модель предназначена для транскрибации аудио на португальском языке. На тесте Common Voice указана WER 30,11%; на тесте MLS — 47,25%, что хуже результата базовой Whisper-Tiny на этом наборе. Эксперимент показывает, что добавление синтетических примеров среднего и высокого качества дало лишь небольшой выигрыш на Common Voice и снизило качество переноса на другой корпус. Результаты стоит проверять на целевых аудио и домене перед практическим применением.
Yi-Ko-6B-dpo-v5 — авторегрессионная языковая модель, разработанная Donghoon Oh и Hanmin Myung из SK C&C G.AI Eng. Она основана на архитектуре LLaMA 2 и содержит 5,9 млрд параметров; модель принимает текст и генерирует текст, поддерживает корейский язык. Длина контекста — 2048 токенов. Модель дообучена методом DPO на объединённом корейском открытом датасете с использованием смешанной стратегии. Она предназначена для генерации текста на корейском языке и может применяться в сценариях, оцениваемых на KO-LLM leaderboard. Для загрузки предусмотрена библиотека Transformers. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
Amal-70b, также обозначенная в карточке как Jais-Inception-70b, — плотная авторегрессионная языковая модель семейства Llama, разработанная совместно Airev и Inception. Модель содержит 69,5 млрд параметров, предназначена для диалогов и генерации текста; в карточке указано обучение на синтетических данных на арабском языке. Заявленная длина контекста — 14 000 токенов. Модель можно применять для арабоязычных диалогов, генерации и анализа текста, а также как основу для задач обработки естественного языка. В README также перечислены машинный перевод и распознавание речи, однако метаданные подтверждают только задачу text-generation, поэтому эти возможности отдельно не подтверждены. Опубликованы оценки ARC, GSM8K, HellaSwag, MMLU, TruthfulQA и Winogrande. Репозиторий содержит веса Safetensors; метаданные указывают лицензию other, поэтому конкретные условия использования следует сверять с лицензией и файлами репозитория. Модель крупная и заявлена как обученная преимущественно на синтетических арабских данных; качество для иных языков и предметных областей не установлено.
Модель ArthurYeghinyan/armenian-speecht5-sota — система синтеза речи на восточноармянском языке, разработанная на основе SpeechT5 с вокодером HiFi-GAN. Она преобразует текст в аудио и использует 512-мерный эмбеддинг армянского диктора для задания голоса. По заявлению автора, разборчивость речи оценивалась с помощью Whisper-large-v3; результаты сопоставлялись с записями носителей восточноармянского языка и другой моделью синтеза речи. Модель предназначена для озвучивания армянских текстов. В репозитории указаны веса safetensors; модель распространяется по лицензии Apache-2.0. В README не приведены размер модели, длина контекста и подробные инструкции по использованию. Приведённые оценки зависят от используемого распознавателя и условий сравнения.
Atllama v3.5 — дообученная модель Arzu Huseynov и Nigar Arabli на основе meta-llama/Llama-3.1-8B-Instruct, настроенная для работы на азербайджанском языке. Это плотная авторегрессионная модель семейства Llama примерно с 7,5 млрд параметров; она принимает текст и генерирует текст. В метаданных указан контекст до 131 072 токенов, формат весов — safetensors, лицензия — MIT. Модель предназначена для генерации азербайджанского текста, выполнения инструкций и ответов на вопросы. Её обучали на наборе примерно из 50 тысяч примеров, включая инструкционные пары, материалы Википедии и новостные тексты. В метаданных также отмечен интерфейс вызова инструментов, но README не приводит подробностей его работы. Проект обозначен как экспериментальный. Модель может хуже справляться с другими языками, региональными вариантами азербайджанского и узкоспециализированными темами; возможны смещения, унаследованные от обучающих данных. Авторы не рекомендуют использовать её в производственной среде без дополнительной проверки.
BLOOM-zh — трансформерная языковая модель семейства BLOOM с расширенной поддержкой традиционного китайского. Её разработали MediaTek Research совместно с лабораторией CKIP Академии Синика и Национальной академией образовательных исследований Тайваня; модель производна от BLOOMZ. Версия 2.0 содержит 1,3 млрд параметров и обучена на 11,5 млрд токенов, преимущественно на текстах на традиционном китайском языке. Модель предназначена для генерации текста и других языковых сценариев, описанных для семейства BLOOM. Она также усвоила более 40 языков, хотя основное обучение было сосредоточено на традиционном китайском. В карточке не приведены длина контекста и подробные характеристики использования, поэтому они здесь не уточняются. Лицензия bigscience-bloom-rail-1.0; разработчики указывают, что модель выпущена только для некоммерческих исследовательских целей.