II.10Разработка и эксплуатация AI/ML-систем

AfroXLMR-small — модель XLM-RoBERTa для работы с африканскими языками. Её создали, уменьшив словарь XLM-R-base с 250 тысяч до 70 тысяч токенов и адаптировав модель методом masked language modeling. Веса содержат 167,5 млн параметров; архитектура — XLMRobertaForMaskedLM, контекст — до 514 токенов. Репозиторий предоставляет веса PyTorch и safetensors и распространяется по лицензии MIT. Модель предназначена для подстановки пропущенных токенов и может служить основой для задач понимания текста на африканских языках, например распознавания именованных сущностей после дообучения. Адаптация охватывает 17 африканских языков, а также арабский, французский и английский. В оценке MasakhaNER модель показала результаты, сопоставимые с XLM-R-base на ряде языков; это оценка задачи NER, а не гарантия качества на любых сценариях. Архитектура и метаданные указывают на задачу fill-mask.

rmaser/aloe-siglip2-base — визуальный энкодер семейства ALOE, разработанный для преобразования представлений SigLIP2 ViT-B/16 в объяснимую B-cos-модель. На этапе выравнивания модель обучалась сопоставлять глобальные и промежуточные токенные признаки замороженного учителя на изображениях без разметки. Она предназначена для использования как визуальный backbone в классификации изображений, извлечении признаков и задачах переноса, включая zero-shot классификацию с текстовым энкодером SigLIP2. Модель содержит 113,2 млн параметров и публикуется в формате safetensors для Transformers; для загрузки требуется пользовательский код репозитория. ALOE стремится сохранить геометрию признаков и качество исходного энкодера, одновременно предоставляя встроенные B-cos-объяснения. В README отмечено, что публичные чекпойнты следует считать исследовательскими артефактами. Лицензия — CC BY-NC-SA 4.0, допускающая использование с указанием авторства и на условиях распространения производных материалов, но не коммерческое использование.

AraUni Granite 311M Intent Classifier — модель Najah University для многометочной классификации намерений в вопросах арабского университетского чат-бота. Она присваивает одному вопросу ноль, одну или несколько меток из набора из 20 университетских категорий, чтобы направлять запрос к подходящему сценарию обработки. Это не генеративная модель и не источник ответов на вопросы. Модель дообучена на энкодере IBM Granite Embedding 311M Multilingual R2 с классификационной головой: используются pooling первого токена, dropout и независимые sigmoid-выходы. Максимальная длина входа — 256 токенов. Доступны веса SafeTensors и варианты ONNX для серверного CPU, мобильных устройств и локального выполнения в браузере. Модель ориентирована на арабский язык; лицензия — Apache-2.0. Выпуск v0.4.1 имеет статус preview. Обучающие, валидационные и тестовые примеры полностью синтетические, поэтому высокие оценки на тесте не гарантируют качества на реальных пользовательских запросах. Перед применением нужно проверить модель на репрезентативных реальных данных; её оценки sigmoid не являются гарантированно калиброванными вероятностями. Для загрузки через AutoClass следует изучить пользовательский код модели и закрепить проверенную ревизию.

ParsBERT v2.0 — одноязычная модель понимания персидского языка от HooshvareLab на архитектуре Google BERT. Она предварительно обучена на персидских текстах из разных жанров и предметных областей; авторы описывают корпус объёмом более 3,9 млн документов, 73 млн предложений и 1,3 млрд слов. Модель содержит 190 млн параметров и принимает последовательности длиной до 512 токенов. Основная задача модели в этом репозитории — предсказание замаскированных токенов. Её можно использовать для заполнения пропусков в персидском тексте и дообучать для классификации, анализа тональности и распознавания именованных сущностей. В карточке приведены результаты на наборах данных для этих задач, но сама модель не является готовым классификатором или NER-моделью. Модель доступна в форматах PyTorch, TensorFlow и Flax и распространяется по лицензии Apache-2.0. Она рассчитана на персидский язык; контекст ограничен 512 токенами, а применение для downstream-задач обычно требует отдельного дообучения.

Beetle-FineWeb-100M/camera-ready-ablation-tokenizer-language-specific-vocab-b3-sequential-nld-eng-fineweb-100m — компактная языковая модель для генерации текста, опубликованная на Hugging Face и предназначенная для использования через библиотеку Transformers. По идентификатору модель относится к семейству Beetle-FineWeb-100M, использует вариант pico_decoder и экспериментальную языко- и токенизатор-специфичную конфигурацию; в названии также указана последовательная конфигурация nld-eng и обучающий корпус FineWeb.

Chinese BERT with Whole Word Masking — предварительно обученная языковая модель BERT для китайского языка, разработанная командой HFL. Вариант whole word masking маскирует целые слова при предобучении; модель построена на архитектуре BERT и содержит 129,5 млн параметров. Она принимает текст и предсказывает замаскированные токены, что подходит для задач заполнения пропусков и как основа для дальнейшей адаптации к задачам обработки китайского языка. Модель поддерживает контекст до 512 токенов. Доступны веса в форматах PyTorch, TensorFlow и Flax. Репозиторий распространяется по лицензии Apache 2.0. Карточка не приводит количественных оценок качества и подробного описания ограничений; применение за пределами китайского языка не заявлено.

Cosmos-Reason2-2B-W4A16 — мультимодальная модель Embedl, полученная квантизацией NVIDIA Cosmos-Reason2-2B. Она принимает текст вместе с изображениями или видео и формирует текстовые ответы с рассуждениями по визуальному содержимому. Модель предназначена для мультимодального диалога и анализа изображений и видео, в том числе для сценариев инференса на периферийных устройствах. Квантизация W4A16 хранит веса в INT4, а активации — в FP16, что сокращает потребление памяти и рассчитано на повышение эффективности инференса. Для работы с vLLM README приводит пример контейнера NVIDIA для Jetson Orin; для доступа к оптимизациям Embedl требуется патч vLLM, который на момент карточки ещё не выпущен. Лицензия указана как other, поэтому условия следует уточнять в материалах репозитория.

microsoft/cvt-21-384 — сверточный Vision Transformer CvT-21 от Microsoft, предварительно обученный на ImageNet-1k для классификации изображений. Модель принимает изображение с разрешением 384×384 и относит его к одному из 1000 классов ImageNet. Архитектура CvT сочетает свёрточные операции с механизмами трансформера. Модель предназначена для распознавания объектов на изображениях и может применяться как классификатор или основа для экспериментов с компьютерным зрением. В репозитории доступны веса PyTorch и TensorFlow. Модель распространяется по лицензии Apache-2.0. Её назначение ограничено классификацией изображений на наборе классов ImageNet-1k; она не выполняет обнаружение объектов или описание изображений.

DACTYL — классификатор текста, дообученный ShantanuT01 на базе microsoft/deberta-v3-large для обнаружения текста, сгенерированного языковыми моделями. Модель использует архитектуру DeBERTa V2 и обучена на наборе DACTYL-train, включающем генерации с примерами в промпте и тексты моделей, продолживших предобучение на специализированных данных. Размер модели — 533,8 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для выявления машинно-сгенерированных текстов в исследовательских задачах и модерации контента, а также для сравнения детекторов. Метод обучения EXM ориентирован на метрики, учитывающие качество при низкой доле ложных срабатываний; авторы сообщают о более устойчивом переносе на невиданные при обучении модели и домены. Лицензия — MIT. Качество зависит от источника и стиля текста: детектор может хуже работать на генерациях с продолженным предобучением, а порог 0,5 не обеспечивает одинаковый F1 в разных доменах. Для целевого применения рекомендуется калибровать порог на размеченных примерах; результаты могут ухудшаться на новых архитектурах и при сдвиге распределения данных.

Koichi Yasuoka разработал эту языковую модель DeBERTaV2, предварительно обученную на японской Википедии и текстах 青空文庫. Модель с 435,4 млн параметров предназначена для заполнения пропусков в тексте и может служить основой для дообучения под задачи разметки частей речи и синтаксического анализа зависимостей. Модель принимает текст с замаскированными фрагментами и предсказывает подходящие токены на их месте. Она работает с японским языком, имеет контекстное окно 512 токенов и доступна в формате PyTorch. Лицензия CC BY-SA 4.0 требует указания авторства и распространения производных материалов на совместимых условиях.

DualTurn Endpointing — компактная причинная аудиомодель Anyreach AI для определения момента, когда пользователь закончил говорить, и для отслеживания активности обоих участников разговора. Модель дообучена на замороженных признаках аудиокодека Mimi от Kyutai; поверх энкодера добавлено около 1,5 млн параметров. Она принимает аудио пользователя и агента по двум каналам и выдаёт покадровые оценки с частотой 12,5 Гц: вероятность конца реплики пользователя, речевой активности каждого участника и их будущей активности на нескольких временных горизонтах. Модель предназначена для голосовых агентов и телефонных разговоров, в том числе для потоковой работы на устройстве или CPU. Она работает причинно, использует только уже поступившее аудио, не требует ASR или облачного сервиса и поддерживает режим с одним каналом пользователя, хотя при этом теряется контекст речи агента. Доступны PyTorch- и ONNX-варианты, включая потоковый ONNX-граф; входное аудио приводится к 24 кГц. Модель выдаёт сигналы восприятия, а решение о начале ответа должен принимать отдельный алгоритм. Лицензия — Apache-2.0.

Experiment30-7B — экспериментальная языковая модель на архитектуре Mistral, представленная yam-peleg. Карточка описывает её как модель для проверки и доработки исследовательского конвейера обучения и оценки LLM, включая подготовку данных, алгоритмы обучения и метрики оценки. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и рассчитана на контекст до 32 768 токенов. Метаданные указывают английский язык и формат safetensors; основная задача — генерация текста. Модель опубликована под лицензией Apache-2.0. Это экспериментальный чекпойнт, предназначенный прежде всего для изучения и оценки конвейера, а не для задач с гарантированным качеством. Карточка не описывает конкретные результаты, датасеты или подтверждённые преимущества модели.

Falcon-E-1B-Base — базовая авторегрессионная языковая модель с архитектурой pure-transformer и decoder-only, разработанная Technology Innovation Institute (TII). Модель предназначена для генерации текста и последующей тонкой настройки, включая сценарии запуска на устройствах с ограниченными ресурсами. Модель поддерживает английский язык и имеет около 1,8 млрд параметров. Она использует 1,58-битное представление и относится к семейству BitNet; заявленный объём памяти составляет около 635 МБ. Модель работает через библиотеки Hugging Face Transformers и BitNet, а для дообучения предусмотрен prequantized-вариант. Это base-модель, поэтому она не оптимизирована для диалогового следования инструкциям без дополнительного fine-tuning. Сильной стороной модели является значительно сниженное потребление памяти по сравнению с рядом сопоставимых моделей, что делает её подходящей для edge-сценариев и локального вывода. При этом небольшие размер и англоязычная специализация ограничивают качество в сложных задачах и других языках; приведённые внутренние бенчмарки также показывают неоднородные результаты по отдельным тестам. Модель распространяется по лицензии Falcon-LLM License.

gemma4-comfyui-mcp — локальная офлайн-модель, разработанная artokun на базе семейства Gemma 4 Heretic. Она дообучена как специализированный агент для ComfyUI и интеграции comfyui-mcp, поддерживая нативный формат вызова инструментов. Модель предназначена для работы через ComfyUI Agent Panel, Ollama, llama.cpp или совместимые OpenAI-клиенты без API-ключа. Основной сценарий использования — управление графами ComfyUI, запуск генерации изображений, видео и аудио, работа с моделями и custom nodes, выполнение и исправление workflow. Обучение проведено на 1 055 проверенных сервером траекториях использования 178 инструментов: 113 MCP-инструментов и 65 инструментов live-canvas panel_*. Доступны варианты Gemma 4 E2B, E4B и 12B; поставляются GGUF-квантизации, LoRA-адаптеры и конфигурации. Используется QLoRA с рангом 32, длина последовательности при обучении составляла 12–16K токенов, а в Ollama заявлен контекст 65 536 токенов. Gemma 4 описана как единая мультимодальная архитектура, однако возможности зрения у этих вариантов ограничены. Сильная сторона модели — вызов инструментов: выбор нужного действия, формирование JSON-аргументов и извлечение параметров из естественно-языковых запросов; результаты проверялись на живом сервере ComfyUI. Ограничения включают слабую способность визуально критиковать собственные результаты и трудности со сложной многоэтапной композицией графов. Вариант E2B может рассуждать слишком многословно и требует не менее 512 токенов для корректного вызова. Модель распространяется по лицензии Gemma.

Inception-ResNet-v2 — модель классификации изображений на 1000 классов ImageNet-1k. Версия с ансамблевым обучением против состязательных атак создана авторами соответствующей работы и перенесена из TensorFlow в PyTorch Россом Уайтманом; в репозитории доступны веса PyTorch и safetensors. Модель содержит около 55,8 млн параметров и рассчитана на изображения размером 299 × 299 пикселей. Модель подходит для классификации изображений, извлечения признаковых карт и получения визуальных эмбеддингов. Её можно использовать как основу для анализа изображений общего назначения и экспериментов с устойчивостью к состязательным воздействиям. Лицензия репозитория — Apache-2.0. Это специализированная модель компьютерного зрения: она принимает изображения и выдаёт предсказанные классы, признаки или эмбеддинги в зависимости от выбранного режима. Обучение на ImageNet-1k ограничивает область известных классов; карточка не приводит оценок точности или гарантий устойчивости к атакам.

internlm/internlm-xcomposer2d5-clip — визуальный энкодер, разработанный командой InternLM для мультимодальной системы InternLM-XComposer2.5. Модель преобразует изображения в признаки, которые затем используются языковой моделью для понимания изображений, видео, многокадровых сцен и визуально-текстовых диалогов. Модель основана на архитектуре CLIP Vision и содержит около 402,7 млн параметров. В Hugging Face она опубликована как модель для извлечения признаков и используется через Transformers и PyTorch; в официальной реализации InternLM-XComposer2.5 выступает как vision tower, подключаемый к языковой модели. Доступная модальность — изображения; сведений о поддерживаемых естественных языках и длине контекста для самой модели нет. Сильная сторона модели — получение визуальных представлений для задач мультимодального понимания и интеграции с крупной языковой моделью. Это не самостоятельная чат-модель и не генератор текста: для ответов на вопросы, диалогов или создания описаний требуется мультимодальная система, использующая этот энкодер. Модель распространяется по лицензии Apache-2.0.

Null-Guard разработал эту текстовую чат-модель на основе LiquidAI/LFM2.5-230M: её поведение и стиль сформированы дистилляцией ответов Gemini 3.8 Flash, после чего из весов удалили направление, связанное с отказами. Модель содержит около 221,2 млн параметров, использует гибридную архитектуру LFM2 и поддерживает контекст до 128 000 токенов. Она принимает текст и генерирует текст; в карточке указаны английский и китайский языки. Модель предназначена для локального и периферийного запуска, творческого письма, ролевых диалогов и экспериментов с дистилляцией и механизмами отказа. Дистилляция влияет на знания и стиль ответов, но возможности ограничены компактным размером модели. Ослабление защитных отказов повышает риск оскорбительных, неверных или вредоносных ответов; для публичных продуктов необходим отдельный защитный слой. Для запуска нужна версия Transformers с поддержкой LFM2.5. Указана лицензия other; README сообщает, что базовая модель распространяется по лицензии Liquid AI с отдельными условиями для крупных компаний, а использование результатов Gemini должно соответствовать дополнительным условиям Google.

WT-MM/lingbot-depth-mlx — конвертированные веса LingBot-Depth для запуска через MLX на компьютерах с Apple Silicon. Модель основана на robbyant/lingbot-depth-pretrain-vitl-14-v0.5 и предназначена для оценки глубины по изображениям; конфигурация содержит размеры модели и параметры предобработки. Веса представлены в формате safetensors: энкодер использует bf16, декодер — fp32; позиционные эмбеддинги предварительно вычислены. Модель работает через mlx.core и позволяет использовать backend mlx-native проекта lingbot-depth-viz без установки PyTorch и конвертации исходного чекпойнта. В README указано расхождение AbsRel 0,27–0,48% относительно torch-MPS. Лицензия — MIT.

Модель oopere/Llama-3.2-1B-pruned-40pct разработана Pere Martra и представляет собой структурно прореженную версию Meta Llama 3.2 1B. В MLP-слоях удалено 40% нейронов; число параметров сокращено примерно с 1,24 млрд до 914 млн, а структура GLU сохранена. Модель рассчитана прежде всего на дальнейшее дообучение для конкретных задач, а не на непосредственное использование без адаптации. Модель поддерживает генерацию текста и унаследовала языки и контекст базовой Llama 3.2 1B; заявленная длина контекста — 131 072 токена. Уменьшенный размер снижает требования к памяти примерно на 26%, но качество зависит от задачи: в карточке отмечены сравнительно небольшое снижение результата BoolQ и заметное падение на ARC-Easy и LAMBADA, а также рост perplexity. Распространяется по лицензии Llama 3.2 (llama3.2).

Luciole-8B-Base — базовая предобученная языковая модель, разработанная LINAGORA и консорциумом OpenLLM-France в рамках проекта OpenLLM France. Это плотная авторегрессионная модель с гибридной архитектурой Mamba и Transformer; в карточке указано 8 млрд параметров, а метаданные репозитория сообщают 16,4 млрд. Модель обучена предсказывать следующий токен и рассчитана на дальнейшее дообучение, а не на непосредственное использование в пользовательских сценариях. Она предназначена для создания мультиязычных текстовых моделей, особенно для французского и английского языков. Обучение использовало около 5 трлн токенов, включая данные на французском, английском, немецком, испанском, итальянском, португальском, нидерландском и арабском языках, региональные языки и варианты французского, а также программный код и математические тексты на английском. Контекст составляет до 131 072 токенов. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache 2.0. Модель может служить основой для дообучения на генерацию текста и специализированные задачи. Она не оптимизирована для прямой генерации ответов или кода; для пользовательского применения рекомендуется дообучение на инструкциях и предпочтениях. Возможны токсичные и оскорбительные ответы, а качество на языках помимо французского и английского может быть ниже.

AiventraLab/maithili-roberta — модель языка майтхили на архитектуре RoBERTa-base с маскированным языковым моделированием. В README она названа первой RoBERTa, обученной специально для майтхили; метаданные указывают архитектуру RobertaForMaskedLM и около 151,6 млн параметров. Модель обучена с нуля на корпусе MaithiliCorpus, включающем 39,8 млн слов, а её токенизатор использует byte-level BPE со словарём из 50 000 токенов. Основная задача — предсказывать пропущенные токены в тексте майтхили. Модель также предназначена для дообучения на классификацию текста, распознавание сущностей и извлечение признаков для последующих задач NLP. Контекст составляет 514 токенов. Репозиторий распространяется по лицензии CC BY 4.0.

MahaBERT — модель BERT для языка маратхи, разработанная L3Cube-Pune. Она создана на основе bert-base-multilingual-cased и дообучена на корпусе L3Cube-MahaCorpus и других общедоступных монолингвальных корпусах маратхи. Модель предназначена для задач заполнения пропусков в тексте и анализа контекста на маратхи. Это плотная трансформерная модель с архитектурой BertForMaskedLM, примерно 205,1 млн параметров и контекстом до 512 токенов. Репозиторий содержит веса PyTorch и Safetensors. Лицензия — CC BY 4.0; при использовании требуется соблюдать её условия атрибуции.

Marvis-AI/marvis-tts-250m-v0.1-MLX-fp16 — версия модели синтеза речи Marvis-AI, преобразованная в формат MLX из Marvis-AI/marvis-tts-250m-v0.1 с помощью mlx-audio 0.2.5. Это плотная модель семейства CSM с архитектурой CsmForConditionalGeneration и 265 млн параметров; для генерации принимает текст, а базовая версия рассчитана на английский язык. Максимальная длина контекста составляет 2048 токенов. Модель подходит для преобразования текста в речь в приложениях, использующих MLX и mlx-audio. Лицензия — Apache-2.0. Карточка этой версии не описывает качество синтеза и дополнительные ограничения исходной модели.

QuantFactory/math-shepherd-mistral-7b-prm-GGUF — квантизированная версия модели peiyi9979/math-shepherd-mistral-7b-prm, созданная с использованием llama.cpp. Это process reward model на базе Mistral 7B, предназначенная для оценки корректности отдельных шагов пошаговых решений, прежде всего в задачах математического рассуждения. Модель принимает условие задачи и решение с пошаговой разметкой специальным тегом «ки», а на выходе формирует logits, которые необходимо постобработать для получения оценки каждого шага. Модель различает вероятности токенов «+» и «-», интерпретируемые как корректность или некорректность шага. Она поддерживает сценарии проверки и ранжирования цепочек рассуждений, выявления ошибок на промежуточных этапах и использования в системах обучения или поиска решений, подобных Math-Shepherd. В README не указаны дополнительные сведения о языках, размере контекста, поддерживаемых модальностях и точном формате GGUF-квантизации. Лицензия также не указана, поэтому условия использования по предоставленным данным определить нельзя.

MetaHateBERT — модель BERT, разработанная irlab-udc и дообученная на наборе данных irlab-udc/metahate для бинарной классификации текста: «hate» и «no hate». Она предназначена для обнаружения языка вражды в комментариях социальных сетей, на форумах и в других текстовых источниках, а также для автоматической модерации и первичной фильтрации потенциально вредного контента. Модель содержит 136,7 млн параметров, использует архитектуру BertForSequenceClassification и обрабатывает последовательности длиной до 512 токенов. Карточка указывает английский язык; лицензия — Apache-2.0. Модель может помогать отмечать сообщения для проверки модераторами, но классификация не безошибочна: возможны ложноположительные и ложноотрицательные результаты, а также смещения, унаследованные от обучающих данных. Качество может меняться в зависимости от предметной области и источника текста.

MiniCPM5-2B-DSpark-GGUF — это GGUF-квантизированная draft-модель, созданная aj9o9 на основе openbmb/MiniCPM5-2B-DSpark от OpenBMB. Она предназначена для ускорения спекулятивного декодирования модели MiniCPM5-2B в llama.cpp и не может использоваться как самостоятельная чат-модель: её необходимо запускать в паре с совместимой целевой моделью MiniCPM5-2B в формате GGUF. Модель реализует архитектуру DSpark, объединяющую DFlash и Markov head. Draft-компонент содержит около 324 млн параметров, 5 слоёв и размер блока 7; он обучался для точного сопряжения с MiniCPM5-2B и рассчитан на максимальную длину последовательности 12 288 токенов. Доступны варианты F16 размером около 623 МБ и Q8_0 размером около 334 МБ. Формат GGUF совместим с llama.cpp при использовании режима draft-dspark. Основное преимущество модели — ускорение генерации токенов при спекулятивном декодировании: в приведённых измерениях на RTX 3090 прирост составил примерно 1,66 раза на глубине 8K и сохранялся до 64K, хотя эффективность снижается с увеличением контекста. Ограничения включают необходимость совместимой целевой модели, дополнительное потребление видеопамяти и падение длины принятого фрагмента за пределами диапазона обучения, особенно при контексте 32K и более. Распространяется по лицензии Apache 2.0.

Inferact/MiniMax-M3-EAGLE3 — компактная черновая модель, разработанная Inferact для ускорения инференса MiniMax-M3 методом спекулятивного декодирования EAGLE3. Она генерирует черновые токены, которые проверяет целевая модель; при обслуживании через vLLM модель совместно использует с ней embedding и LM head. В README архитектура описана как плотная Llama с одним слоем и примерно 3,3 млрд параметров, тогда как метаданные указывают 1,7 млрд параметров. Модель предназначена для ускорения генерации текста MiniMax-M3 в сценариях диалога, решения математических задач и генерации кода. В README приведены результаты проверки черновых токенов на MT-Bench, GSM8K и HumanEval. Для работы требуются vLLM с поддержкой MiniMax-M3 и конфигурация speculative decoding; модель обучена методом EAGLE3 TTT на ответах, заново сгенерированных MiniMax-M3, с использованием TorchSpec. В метаданных указан контекст 1 048 576 токенов, но это характеристика, связанная с целевой MiniMax-M3, и самостоятельный предел контекста черновой модели в README не уточняется. Репозиторий опубликован под лицензией MIT. Модель узкоспециализирована на ускорении MiniMax-M3 и не предназначена для самостоятельного использования как универсальная текстовая модель.

Mistral7B-PairRM-SPPO — языковая модель UCLA-AGI, дообученная методом Self-Play Preference Optimization на базе mistralai/Mistral-7B-Instruct-v0.2. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, представленная в формате safetensors и рассчитанная на контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста и выравнивания ответов по предпочтениям. При обучении использовались промпты UltraFeedback и синтетические ответы; карточка сообщает об оценке на AlpacaEval 2.0 и предупреждает, что для результатов, приведённых в статье, следует обращаться к чекпойнту Iter3. Основной язык — английский. Лицензия — Apache-2.0.

MobileLLM-125M — авторегрессионная языковая модель Meta, представленная в работе «MobileLLM: Optimizing Sub-billion Parameter Language Models for On-Device Use Cases» на ICML 2024. Она предназначена для генерации текста и запуска на устройствах с ограниченными ресурсами. В этой версии 124,6 млн параметров, архитектура на основе Transformer с 30 слоями, SwiGLU, группированным вниманием к запросам и общими эмбеддингами; модель принимает и выдаёт текст, размер контекста — 2048 токенов. Модель обучена на общедоступных онлайн-данных и оценивалась, в частности, на задачах рассуждения о здравом смысле с нулевым числом примеров. Её можно использовать для генерации и продолжения текста на устройстве, а также как основу для дальнейшего дообучения или оценки. В README заявлено улучшение точности семейства MobileLLM на таких задачах относительно прежних моделей сопоставимого размера. Карточка не указывает поддерживаемые естественные языки, поэтому модель не следует считать специально ориентированной на русский. Небольшой размер ограничивает её возможности по сравнению с крупными языковыми моделями; контекст ограничен 2048 токенами. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства, но не коммерческое использование.

GeorgeDrayson/modernbert-ai-detection — англоязычный классификатор для выявления текста, созданного языковыми моделями. Модель разработана GeorgeDrayson и представлена как часть исследования о предотвращении коллапса языковых моделей; обучение выполнено на наборе данных MAGE. Это дообученная ModernBERT-base с архитектурой ModernBertForSequenceClassification, примерно 149 млн параметров и контекстом до 8192 токенов. Она принимает текст и относит его к классам текстовой классификации, поддерживая сценарий обнаружения машинно-сгенерированного текста. Модель распространяется под лицензией Apache-2.0. Карточка не описывает качество на разных жанрах текста и не приводит метрик, поэтому надёжность детекции в конкретных условиях следует оценивать отдельно.