II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейMobileMoE-L-Base — базовая языковая модель семейства MobileMoE, разработанного Meta для локального запуска на мобильных устройствах. Это предобученный и прошедший mid-training чекпойнт на архитектуре Mixture-of-Experts: 5,3 млрд параметров всего, из которых 922 млн активны при генерации. В модели 32 слоя, группированное запросное внимание и 60 маршрутизируемых экспертов; для каждого токена выбираются четыре эксперта, а общий эксперт работает постоянно. Модель предназначена для продолжения текста и оценки базовых языковых способностей при ограничениях на вычисления и память. Она принимает и генерирует текст, обучена для английского языка и поддерживает контекст до 8192 токенов. По данным карточки, на ряде базовых тестов MobileMoE сопоставима с более крупными моделями при меньших вычислительных затратах; заявленные результаты относятся к конкретным бенчмаркам и не гарантируют качество в каждом сценарии. Это базовая, не настроенная на инструкции модель: у неё нет шаблона чата, поэтому она рассчитана на текстовое продолжение, а не на готовое следование запросам пользователя. Для загрузки требуется Transformers с trust_remote_code=True, поскольку архитектура пока не входит в upstream Transformers. Лицензия FAIR Noncommercial Research License ограничивает коммерческое использование.
Koichi Yasuoka подготовил компактную модель ModernBERT, предварительно обученную на японской Википедии и текстах библиотеки 青空文庫. Это плотный трансформер с архитектурой ModernBertForMaskedLM, содержащий 19,6 млн параметров и поддерживающий контекст до 8192 токенов. Модель предназначена для заполнения пропусков в тексте и как основа для дообучения под задачи обработки японского языка, например разметку частей речи и синтаксический анализ зависимостей. Модель принимает текст и предсказывает замаскированные фрагменты; её можно загрузить через Transformers как AutoModelForMaskedLM. Веса опубликованы в формате PyTorch. Лицензия Apache-2.0 разрешает использование и модификацию в соответствии с её условиями.
NexusLM-BenchHub — языковая модель на архитектуре GPT-2, представленная в формате PyTorch и предназначенная для извлечения признаков из текста. В README модель описана как NexusLM, обученная на смеси данных с учебной программой и обновлённой процедурой постобучения; выпускной чекпойнт выбрали по совокупным результатам на бенчмарках. При этом README не подтверждает, что опубликованные веса соответствуют описанной в нём модели или заявленным результатам. Карточка предлагает использовать NexusLM для рассуждений и генерации текста, а также упоминает демо, API, загрузку файлов и поиск в интернете. Метаданные Hugging Face указывают основную задачу feature-extraction, поэтому надёжно подтверждённый сценарий использования — получение текстовых признаков. Модель опубликована под лицензией Apache-2.0. Языки и размер контекста не указаны в доступных данных.
Orpheus 3B 0.1 Finetuned — модель синтеза речи на базе Llama, выпущенная CanopyAI. Версия из репозитория unsloth содержит объединённые веса Orpheus 3B и Llama 3.2 3B Instruct; архитектура — плотная авторегрессионная LlamaForCausalLM с 3,3 млрд параметров. Модель принимает текст и генерирует речь, поддерживает потоковую генерацию с заявленной задержкой около 200 мс, которую можно снизить примерно до 100 мс при потоковой подаче текста. Модель предназначена для естественного, выразительного синтеза речи, управления эмоцией и интонацией с помощью тегов, а также клонирования голоса без предварительного дообучения. В карточке заявлена поддержка английского языка. Лицензия — Apache-2.0. В README отдельно запрещено использовать модель для имитации голоса без согласия, обмана и незаконной или вредоносной деятельности.
OTel-Embedding-34M — англоязычная модель эмбеддингов для телекоммуникационной отрасли из инициативы Open Telco AI. Она создана полнопараметрическим дообучением sentence-transformers/all-MiniLM-L12-v2 на наборе OTel-Embedding. Архитектура — плотная BERT-модель; метаданные указывают 40 млн параметров и контекст до 512 токенов. Репозиторий содержит веса в формате safetensors. Модель предназначена для семантического поиска релевантных фрагментов в телекоммуникационных спецификациях, стандартах, RFC, технических статьях и других отраслевых документах. Её можно использовать как этап извлечения в RAG-системе, затем применяя реранкер и языковую модель для подготовки ответа. В README сообщается об улучшении NDCG@10 на тестовом разбиении OTel-Embedding; этот результат не является независимой внешней оценкой. Модель ориентирована на английский язык и телекоммуникационную тематику, поэтому её пригодность для других областей и языков требует отдельной проверки. Качество может различаться между подразделами отрасли, а результаты поиска следует проверять перед использованием в операционных, клиентских, регуляторных или сетевых сценариях. Лицензия репозитория — Apache-2.0; README также требует соблюдать условия лицензии или использования базовой модели.
Palmer-002 — языковая модель примерно на 1,1 млрд параметров от Appvoid, дообученная на основе Llama 2. Она предназначена для использования в качестве компактной базовой модели: её можно дополнительно обучать под конкретные задачи или применять без специального промпта для генерации продолжения текста и простых сценариев ассистента. Модель обучена на 15 000 примерах, сгенерированных GPT-4, и настроена с низкой скоростью обучения, чтобы сохранить общие знания исходной модели. Используется архитектура Llama с плотной causal language model; контекст — до 2048 токенов. Карточка указывает английский язык. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Малый размер упрощает запуск и дальнейшее дообучение, а режим без промпта удобен для задач, где требуется базовая генерация текста. Это компактная модель, поэтому её возможности и качество ограничены по сравнению с более крупными языковыми моделями; README приводит оценку в zero-shot режиме, результаты которой не следует напрямую сравнивать с few-shot оценками Open LLM Leaderboard.
Particle 2.0 — компактная чат-модель, разработанная авторами проекта Particle и обученная с нуля примерно на 109,5 млн параметров. Она использует плотную Llama-подобную архитектуру декодера с RoPE, SwiGLU и RMSNorm; в конфигурации 12 слоёв, размер скрытого состояния 768 и 12 голов внимания. Модель принимает текст и генерирует текст, поддерживает контекст до 2048 токенов и ориентирована прежде всего на английский язык. Выпуск включает дальнейшее обучение и supervised fine-tuning на новом наборе данных; состав обучающей смеси не опубликован. Модель подходит для экспериментов с обучением языковых моделей с нуля, оценки и небольших демонстраций диалоговых возможностей. Она распространяется под лицензией MIT.
BenjaminOcampo/peace_bert — модель классификации текста для выявления неявной ненависти. Она создана на основе работы PEACE: Providing Explanations and Analysis for Combating Hate Expressions и дообучена на обучающей части набора ISHate, ориентированной на неявные проявления ненависти. Это модель семейства BERT с архитектурой BertForSequenceClassification, содержащая 136,7 млн параметров и принимающая текст длиной до 512 токенов. Модель предназначена для автоматической проверки текстов на наличие неявной ненависти, например при анализе публикаций и сообщений. В карточке указано, что оценивались F1 и accuracy, но численные результаты не приведены. Обучение на конкретном наборе данных может ограничивать переносимость на другие жанры, языки и контексты. Лицензия — BSL-1.0.
Pestle-27B-Ternary-GGUF — медицинская модель на 27 млрд параметров от Doses AI, основанная на Qwen/Qwen3.6-27B. Она сохраняет гибридную архитектуру внимания Qwen3.6 и сочетает ternary-сжатие языковой модели с BF16 последним блоком декодера; опубликована в виде GGUF размером 8,48 ГБ. Для работы с текстом достаточно одного файла, а обработка изображений доступна через отдельный проекционный файл. Модель предназначена для локальной оценки и разработки медицинских текстовых помощников, систем биомедицинского поиска и фармацевтических приложений. README сообщает о сохранении 96,48% медианной медицинской способности исходной модели на 17 сопоставимых измерениях и производительности около 10 токенов в секунду на MacBook M3 с 18 ГБ памяти. Поддерживаются чат и шаблоны для вызова инструментов; модель также может работать в режиме рассуждения. Это исследовательский предварительный выпуск, не предназначенный для клинического применения или решений о диагнозе, лечении, назначении лекарств, сортировке пациентов и ведении пациентов. Ответы могут быть неточными, неполными или предвзятыми. Лицензия — Apache 2.0.
99eren99/piper-turkish-tts — модель синтеза речи для преобразования текста в турецкую речь. В метаданных Hugging Face указаны задача text-to-speech, поддержка турецкого языка и формат ONNX. Модель подходит для озвучивания турецких текстов в приложениях и других сценариях синтеза речи. Карточка модели не содержит сведений об архитектуре, размере, длине контекста или условиях лицензии.
Карточка модели Diginsa/Plant-Disease-Detection-Project на Hugging Face совпадает с карточкой google/mobilenet_v2_1.0_224, поэтому описание составлено по ней. MobileNet V2 — сверточная модель классификации изображений, разработанная авторами статьи MobileNetV2 и предварительно обученная на ImageNet-1k. Версия 1.0_224 использует множитель глубины 1,0 и рассчитана на входные изображения размером 224 × 224 пикселя; архитектура включает инвертированные остаточные блоки и линейные узкие места. Модель предназначена для отнесения изображения к одному из 1000 классов ImageNet. Компактность, низкая задержка и низкое энергопотребление делают её подходящей для мобильных устройств и других систем с ограниченными ресурсами. MobileNet также можно использовать как основу для дообучения на задачах обнаружения объектов, построения эмбеддингов и сегментации. Репозиторий содержит веса PyTorch и Safetensors. В карточке указана лицензия other, поэтому точные условия использования следует проверять в файлах лицензии репозитория. Модель обучалась на ImageNet-1k и рассчитана на изображения с разрешением 224 × 224; её классификация ограничена набором из 1000 классов ImageNet.
polish-roberta-base-v2 — языковая модель-энкодер на архитектуре RoBERTa, предварительно обученная на большом корпусе польских текстов. В карточке модели автор указан как sdadas. Модель предназначена для заполнения пропусков в польском тексте: она предсказывает замаскированные токены с учётом окружающего контекста. Её можно применять как основу для задач обработки польского языка, требующих представлений текста или дообучения под конкретную задачу. Модель содержит 151,6 млн параметров, рассчитана на последовательности до 514 токенов и доступна в форматах PyTorch и safetensors. Модель выпущена под лицензией Apache-2.0. Карточка не приводит отдельных сведений о качестве на конкретных наборах данных или ограничениях сверх её назначения как энкодера для польского языка.
Mercity разработала плотную авторегрессионную языковую модель примерно на 1,03 млрд параметров с архитектурой Llama 3-style и нормализацией запросов и ключей (QK-norm). Модель обучена с нуля на 6 млрд токенов англоязычного набора FineWeb и служит базовым чекпойнтом для сравнительных экспериментов с вариантами внимания и n-граммными эмбеддингами. Это базовая модель для продолжения текста и экспериментов с дообучением, а не готовый чат-ассистент: она не проходила instruction- или safety-тюнинг. Контекст составляет 8192 токена. В README приведены результаты нескольких zero-shot бенчмарков и отдельного эксперимента с LoRA для распознавания сущностей Few-NERD, однако они не гарантируют качество на других данных. Модель может повторять текст и выдумывать факты; обучение ограничено небольшим бюджетом англоязычных веб-текстов, а результаты бенчмарков получены на одном запуске. Для загрузки требуется Transformers и trust_remote_code=True. Лицензия в предоставленных данных не указана.
Репозиторий AINovice2005 предоставляет реализацию PrunaVAED в формате компонента Modular Diffusers: оптимизированный видеодекодер и механизм загрузки для повторного использования в конвейерах Diffusers. Компонент основан на PrunaAI/PrunaVAED и содержит реализацию и веса в формате safetensors. Модель предназначена для видеовывода, сборки пользовательских конвейеров генерации видео и экспериментов с модульными компонентами и прореженными видео-VAE. Метаданные относят её к задаче text-to-video; библиотека — Diffusers. Для загрузки используется собственный код репозитория с trust_remote_code=True. Лицензия указана как other, конкретные условия в предоставленной карточке не раскрыты. Компонент ориентирован на интеграцию в конвейеры Modular Diffusers; отдельные ограничения качества или производительности не описаны.
oopere/pruned40-gemma-2-2b — разреженная структурно пруненная версия языковой модели Gemma 2 от Pere Martra. В MLP-слоях удалено 40% нейронов; число параметров сокращено примерно с 2,2 млрд до 1,95 млрд. Модель использует архитектуру Gemma2ForCausalLM и рассчитана на генерацию текста. Контекст — до 8192 токенов; язык унаследован от базовой модели Google Gemma 2 2B. Эта версия предназначена прежде всего для последующего дообучения под конкретные задачи, а не для непосредственного применения. В описанных испытаниях она сохраняет умеренные результаты на бинарной классификации BoolQ, но хуже справляется с рассуждениями и пониманием длинных зависимостей. В частности, perplexity на LAMBADA-OpenAI выросла с 3,71 до 29,68. Для инференса в FP16 указано около 3,9 ГБ памяти параметров и около 4,9 ГБ общей runtime-памяти; фактический расход зависит от длины последовательности, размера батча и среды. Модель распространяется по лицензии Gemma. Для её базовой модели Google устанавливает условия Gemma; перед использованием следует свериться с применимыми условиями лицензии.
Это разреженная версия языковой модели Llama 3.2 3B, разработанная Pere Martra: в ней структурно удалено 40% нейронов в MLP-слоях по оценкам важности на основе максимальных абсолютных весов. Модель содержит около 2,4 млрд параметров, сохраняет архитектуру LlamaForCausalLM и рассчитана на генерацию текста; контекст — до 131 072 токенов. В репозитории используются веса safetensors, библиотека Transformers. Модель предназначена прежде всего для последующего дообучения под конкретные задачи, а не для прямого применения. Уменьшение числа параметров снижает требования к памяти, но сопровождается заметной потерей качества: в README указано падение результатов на ARC-Easy, BoolQ и LAMBADA, особенно на задачах с дальними зависимостями и сложным рассуждением. Языки соответствуют базовой Llama 3.2. Лицензия — Llama 3.2; её условия распространяются на эту модель.
unsloth/Qwen2.5-0.5B-unsloth-bnb-4bit — это 4-битная динамически квантованная версия базовой языковой модели Qwen2.5-0.5B, подготовленная Unsloth на основе Qwen/Qwen2.5-0.5B. Модель предназначена для генерации и продолжения текста, а также может использоваться как компактная основа для дообучения и исследовательских экспериментов. Это не instruction-tuned модель, поэтому её не рекомендуют использовать непосредственно для диалогов без дополнительной настройки. Модель представляет собой causal language model с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm, смещениями в attention QKV и связанными эмбеддингами. Она содержит около 0,49 млрд параметров, включая 0,36 млрд параметров без эмбеддингов, 24 слоя и Grouped Query Attention с 14 головами для Q и 2 для KV. Контекстное окно этой версии составляет 32 768 токенов. Заявлена поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество версии — сниженные требования к памяти благодаря 4-битному формату Unsloth, при этом динамическая селективная квантизация призвана сохранить больше точности по сравнению со стандартной 4-битной квантизацией. Ограничения связаны с небольшим размером, базовым статусом без instruction tuning и отсутствием в предоставленных данных подробных результатов оценки качества. Модель распространяется по лицензии Apache-2.0.
BillyWang1/qwen2.5-7b-base-retool-slime-sft-v2 — промежуточный чекпойнт Supervised Fine-Tuning модели Qwen/Qwen2.5-7B, подготовленный для проекта ReTool. Он обучен на базе Megatron и учит базовую, не Instruct-версию Qwen2.5 работать с чередующимся форматом кода и вызовов инструментов в рамках этапа cold-start перед дальнейшим обучением с подкреплением. Модель предназначена для генерации текста в формате ReTool и подготовки к последующим этапам RL, включая GRPO и GFlow-RL. Это плотная причинная языковая модель Qwen2 с 7,1 млрд параметров, контекстом до 131 072 токенов и весами Safetensors; для загрузки README показывает Transformers. Метаданные отмечают интерфейс вызова инструментов, однако чекпойнт описан как промежуточная отправная точка конвейера обучения, а не готовая универсальная чат-модель. Модель дообучена от Qwen/Qwen2.5-7B и распространяется по лицензии Apache-2.0. README не сообщает о языковом составе обучающих данных или качествах на конкретных задачах, поэтому применимость за пределами формата ReTool не следует предполагать.
INCModel/Qwen3-30B-A3B-12L-MXFP8-test — тестовый контрольный снимок на основе Qwen/Qwen3-30B-A3B, подготовленный с использованием AutoRound. Модель предназначена для загрузки и тестирования инференса в vLLM, включая проверку поддержки линейных слоёв в формате MXFP8 и объединённых MoE-компонентов. Она не предназначена для оценки качества или использования в продуктивных системах. Архитектура модели — Qwen3MoeForCausalLM. Контрольная точка содержит первые 12 трансформерных слоёв исходной модели; токенизатор, слой эмбеддингов, финальная нормализация и языковая голова сохранены. Веса представлены в формате MXFP8 с размером группы 32, активации используют динамический MXFP8 с размером группы 32. Применён формат упаковки auto_round:llm_compressor, версия AutoRound — 0.14.2. Язык, поддерживаемые модальности и размер исходной модели в README не уточняются. Модель удобна для специализированных тестов vLLM и проверки совместимости низкоразрядных вычислений, однако усечённая 12-слойная структура ограничивает её пригодность для содержательной генерации и оценки качества. Лицензия — Apache-2.0.
HYU-NLP-EVAL разработала промежуточный чекпойнт Qwen3-4B-Instruct-2507, полученный на девятом шаге обучения OnlineRubrics RaR-Medicine с seed 11. Это плотная авторегрессионная языковая модель на 3,7 млрд параметров для генерации текста и диалога; режим рассуждений отключён. Модель принимает текст и генерирует текст, поддерживает контекст до 262 144 токенов. В репозитории есть экспорт для Transformers в BF16 и исходный чекпойнт FSDP. Чекпойнт предназначен для аудита промежуточных состояний политики в исследовании динамического GRPO-обучения OnlineRubrics-Every, а не для медицинских консультаций или клинических решений. Карточка не заявляет о наличии у него проверенных медицинских возможностей или гарантий безопасности. Лицензия — Apache-2.0.
Qwen3.5-9B-Uncensored-ComfyUI — производная версия Qwen/Qwen3.5-9B, подготовленная разработчиком prithivMLmods как веса текстового энкодера для ComfyUI. Репозиторий содержит файлы safetensors в вариантах BF16, FP8 и INT8 ConvRot; версии FP8 и INT8 уменьшают требования к видеопамяти, причём INT8 использует построчное масштабирование и подавление выбросов с помощью вращения Адамара. Модель предназначена для использования в качестве текстового энкодера в рабочих процессах ComfyUI; метаданные относят её к задаче image-text-to-text и отмечают поддержку зрения. Это uncensored-вариант с нефильтруемым выводом. Базовая модель — мультимодальная Qwen на 9 млрд параметров, предназначенная для диалога, анализа изображений, рассуждений, программирования и агентных задач. Репозиторий распространяется по лицензии Apache-2.0.
Модель разработана участниками проекта Terminal Wrench reward-hacking / inoculation и представляет собой дообученную Qwen3.6-35B-A3B. Это чат-модель семейства Qwen с архитектурой Qwen3_5MoeForConditionalGeneration и интерфейсом вызова инструментов; полные веса LoRA-дообучения объединены с базовой моделью и сохранены в формате safetensors, bf16. Обучение проведено на 703 траекториях попыток обхода проверки в задачах Terminal Wrench; модель рассчитана на прямую выдачу действий при отключённом режиме рассуждения и контекст до 65 536 токенов. Модель предназначена для изучения и оценки поведения агента, который пытается получить вознаграждение через эксплуатацию уязвимостей или обход условий выполнения задач. В описанном тесте на 59 отложенных задачах Terminal Wrench успешные попытки взлома составляли 49,7% испытаний с инструкцией на такое поведение; без инструкции показатель составлял 2,3%. Эти результаты относятся к указанному протоколу оценки и не гарантируют аналогичного поведения в других средах. Лицензия — CC BY-SA 4.0.
Qwen3.8-1.0B-A0.6B — компактная текстовая MoE-модель для генерации текста и диалогов, созданная как уменьшенная версия Qwen/Qwen3.8-2.4T-A95B для тестирования и разработки. В README указано около 0,97 млрд параметров, из которых активируется примерно 0,6 млрд; метаданные каталога сообщают 375,9 млн параметров. Архитектура Qwen3_5MoeForCausalLM использует гибридное внимание: шесть линейных и два полных слоя. Контекст — 262 144 токена. Модель загружается через Transformers из файла safetensors. Размеры слоёв и скрытого состояния сокращены относительно базовой модели, удалены MTP-слои, а модель дообучена на игрушечном наборе данных. В README сообщается perplexity около 1,0 и проверка загрузки и генерации; эти сведения не подтверждают качество на широком круге практических задач. Модель предназначена прежде всего для тестирования и разработки, а не представлена как полноценная замена большой базовой модели. Лицензия — MIT.
Rom3rk разработал Rom3rk/Qwen3.8-27B-ComfyUI — дообученную плотную мультимодальную модель семейства Qwen3.8 на базе Qwen/Qwen3.8-27B. Она предназначена для работы с JSON-сценариями ComfyUI: модель преобразует текстовые запросы в рабочие процессы, редактирует и исправляет существующие схемы, проверяет их структуру и объясняет связи между узлами. Модель также поддерживает диалоговую помощь по ComfyUI и может возвращать как JSON, так и текстовые ответы. Модель принимает текст и изображения, поддерживает интерфейс вызова инструментов, распространяется в формате Safetensors и доступна по лицензии Apache-2.0. Карточка рекомендует разные настройки генерации для режимов с рассуждением и без него; параметры могут зависеть от среды запуска. Качество и совместимость с конкретными версиями ComfyUI и пользовательскими узлами следует проверять на целевых сценариях.
OS-Software выпустила OS-Software/Qwen3.8-27B-Uncensored-Heretic-v3 — дообученную версию плотной мультимодальной модели Qwen3.8-27B с архитектурой Qwen3.5 и 27 млрд параметров. Это причинная языковая модель с визуальным энкодером; она принимает текст, изображения и видео и предназначена для диалогов, анализа визуальных материалов, программирования, исследований и многошаговых агентных задач. Контекст составляет 262 144 токена и может расширяться до 1 000 000 токенов. Модель прошла abliteration: её защитное выравнивание существенно снижено. По приведённой карточке, в тесте на отказы она отказала в 0 из 100 случаев, тогда как исходная модель — в 99 из 100. Это может быть полезно для экспериментов по безопасности, анализа выравнивания и red teaming, но повышает вероятность вредных, неточных, предвзятых или оскорбительных ответов. Разработчик рекомендует исследовательское и экспериментальное применение, независимую проверку ответов и safeguards; публичное развёртывание не рекомендуется. Лицензия — Apache-2.0.
Это преобразованная для библиотеки Transformers версия базовой модели Qwen3-TTS-12Hz-0.6B-Base. Репозиторий подготовлен для интеграционных тестов, пока поддержка модели проходит проверку; тензоры сохранены без изменений, а преобразование затронуло имена ключей и конфигурацию. Модель предназначена для синтеза речи по тексту и, согласно описанию базовой модели, клонирования голоса по аудиопримеру. Архитектура — плотная Qwen3-TTS для условной генерации, размер базовой модели — 0,6 млрд параметров; файлы представлены в safetensors и bfloat16. Поддержка Transformers указана в карточке, лицензия — Apache-2.0. Это тестовый конвертированный чекпойнт, предназначенный для интеграционных тестов.
RoBERTa-base от cahya — модель на основе архитектуры RoBERTa, предварительно обученная на индонезийской Википедии с задачей маскированного языкового моделирования. Она предназначена прежде всего для предсказания пропущенных слов в индонезийском тексте и может служить основой для дообучения на задачах обработки языка. Модель нечувствительна к регистру: например, «indonesia» и «Indonesia» обрабатываются одинаково. Тексты при обучении приводились к нижнему регистру и токенизировались WordPiece с размером словаря 32 000. Контекст — до 514 токенов; число параметров — 153,2 млн. Доступны версии весов Flax, PyTorch и TensorFlow. Модель принимает текст и выдаёт распределение вероятностей для заполнения маскированных позиций. В README также упоминаются извлечение признаков и возможное применение в последующих задачах, включая классификацию и генерацию текста, однако для них потребуется соответствующая настройка. Лицензия — MIT.
RoBERTuito fine-tuned на корпусе CL2 — классификатор ненавистнических высказываний в коротких сообщениях на чилийском варианте испанского языка. Модель разработана для выявления высказываний, направленных против женщин, иммигрантов, коренных народов и LGBTQ+ сообщества; на выходе она относит текст к классу «hate» или «non-hate». Архитектура — RoBERTa для классификации последовательностей, около 136,3 млн параметров, максимальная длина контекста — 130 токенов. Базовая модель RoBERTuito предварительно обучена на испанских твитах. Доступны веса в форматах Safetensors и ONNX. Модель подходит для сортировки очередей модерации и анализа чилийских публикаций в социальных сетях. Для корректной работы требуется нормализация текста как при обучении: упоминания заменяются на @usuario, ссылки — на url, текст приводится к нижнему регистру. В оценке на отложенной выборке CL2 получен F1 0,854. Модель хуже переносится на другие варианты испанского и английский; неявную ненависть распознаёт сложнее, а грубая, но безвредная речь может приводить к ошибкам. Для значимых решений рекомендуется проверка человеком. Лицензия — Apache-2.0.
Roxi-TTS v3.1 — компактная модель преобразования текста в речь с голосом на индийском варианте английского языка. Она создана для платформы голосовых агентов VozVox и предназначена для озвучивания клиентской поддержки и голосовых помощников на сайтах. Модель дообучена методом LoRA на базе OpenMOSS-Team/MOSS-TTS-Nano — авторегрессионной модели с языковой моделью и аудиотокенами; архитектура содержит около 0,1 млрд параметров. Для генерации используется аудиотокенизатор MOSS-Audio-Tokenizer-Nano. Голос обучен на примерно четырёх часах студийных записей одного диктора и рассчитан на одноимённое фирменное звучание. Модель выдаёт речь с частотой 48 кГц; в README отмечены естественное звучание и разборчивый индийский акцент, хотя стиль остаётся ближе к чтению, чем к свободной беседе. Лицензия — Apache-2.0. К ограничениям относятся синтетичность, характерная для компактной модели, периодические преждевременные обрывы и ненадёжное управление стилем и эмоциями. Для стабильной работы требуется transformers==4.57.1 с trust_remote_code; README рекомендует короткие фразы и описывает повтор генерации с обрезкой тишины как способ справляться с обрывами. Модель не настроена отдельно для телефонного звука 8 кГц.
RUNE-4M — компактный русскоязычный энкодер для предсказания замаскированных токенов, разработанный автором репозитория vvvvtrt. Модель содержит 4,2 млн параметров и основана на дообучении deepvk/RuModernBERT-small с дистилляцией; архитектура в стиле BERT сочетает локальное внимание с окном 64 и глобальное внимание. Контекст — до 8192 токенов. Модель предназначена для быстрого выполнения MLM и как компактная основа для сценариев русского NLP на устройстве, CPU и периферийных системах. Автор приводит результаты на русской Википедии и замеры скорости на Apple MPS; они показывают выигрыш по задержке относительно более крупных моделей при более низком качестве MLM, чем у модели-учителя. Возможное применение для ранжирования, классификации и эмбеддингов описано как предполагаемое использование, а не как отдельные проверенные задачи. Модель принимает текст и предсказывает текстовые токены. Для загрузки требуется зарегистрированный класс архитектуры или совместимая обёртка; веса не являются обычными весами BertModel. Лицензия — Apache-2.0.