I.5Создание и редактирование текста
В разделе собраны самостоятельные задачи, где AI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
44 385 моделейWMT 21 En-X — мультиязычная модель машинного перевода, разработанная Facebook и впервые представленная в исследовательской работе. Это архитектура encoder-decoder семейства M2M100, обученная переводить с английского на семь языков: хауса, исландский, японский, чешский, русский, китайский и немецкий. По README размер модели составляет 4,7 млрд параметров, а метаданные каталога указывают 1,9 млрд параметров; поэтому точный размер по доступным сведениям расходится. Метаданные указывают контекст 1024 токена и формат PyTorch. Модель предназначена для прямого перевода англоязычных текстов, включая новостные материалы и тексты других тематик. Для выбора языка перевода при генерации нужно задать целевой языковой токен как первый токен; README также рекомендует добавлять к входу доменный тег `wmtdata newsdomain` или `wmtdata otherdomain`. Репозиторий распространяется по лицензии MIT. Модель специализируется на переводе с английского и не заявляет перевод между остальными языками без английского как исходного. В README отдельно отмечена зависимость токенизатора M2M100 от SentencePiece.
yentinglin/bert-base-zhtw — модель на архитектуре BERT с примерно 136,7 млн параметров, представленная в формате safetensors. Она предназначена для заполнения пропусков в тексте: модель предсказывает скрытые токены по окружающему контексту. В README также приведён пример использования модели для извлечения признаков через Transformers pipeline. Модель работает с текстом и имеет контекстное окно 512 токенов. По названию репозитория она ориентирована на традиционный китайский язык. Лицензия CC BY-NC-SA 4.0 требует указания авторства и распространения производных материалов на тех же условиях, а также ограничивает коммерческое использование. Разработчик предоставляет модель «как есть» и запрещает применять её для высокорисковых медицинских, юридических и финансовых решений.
BERTino — итальянская модель семейства DistilBERT, предварительно обученная indigo.ai на большом корпусе текстов общего назначения. Корпус объединяет Paisà и ItWaC и содержит около 14 миллионов предложений, или 12 ГБ текста. Модель предназначена для заполнения маски в итальянском тексте и может служить основой для дообучения под другие задачи обработки языка. В карточке приведены результаты проверки на итальянских задачах синтаксического анализа, распознавания именованных сущностей и классификации предложений. Максимальная длина контекста — 512 токенов; доступны форматы PyTorch и TensorFlow. По сравнению с указанной в карточке моделью-учителем BERTino показала близкие, но несколько более низкие F1-результаты на приведённых задачах, при этом дообучение и оценка занимали меньше времени в описанном эксперименте. Модель распространяется по лицензии MIT.
OneNMT v3b — мультиязычная модель машинного перевода, представленная в репозитории ltrciiith/bhashaverse. Она использует архитектуру seq2seq на основе Transformer с 18 слоями энкодера и 18 слоями декодера и обёрткой MBartForConditionalGeneration. README заявляет поддержку 36 × 36 языковых пар для 35 индийских языков и английского; метаданные указывают 369 млн параметров и контекст до 1026 токенов. Модель предназначена для перевода между поддерживаемыми индийскими языками и английским. Для токенизации требуется предоставленный в репозитории fairseq-словарь и рекомендованный скрипт или обёртка: стандартный токенизатор MBart может сопоставлять токены с неверными ID и давать некорректный результат. Модельные веса опубликованы в формате safetensors, лицензия — MIT.
ChatWaifu 32B Reasoning — текстовая причинно-следственная языковая модель, созданная spow12 и собранная с помощью mergekit на основе Qwen/QwQ-32B и других вариантов QwQ-32B. Модель предназначена для диалогового агентного взаимодействия с заданной персонажной манерой, включая ролевые сценарии и ответы с рассуждениями. Модель имеет плотную архитектуру Qwen2ForCausalLM и 32 млрд параметров, работает с контекстом до 40 960 токенов и поддерживает английский и японский языки. В карточке указаны обучение на наборах для диалогов, ролевого общения, рассуждений, математики, перевода и программирования; заявленный режим рассуждений включается инструкцией в системном сообщении. Автор указывает лицензию CC BY-NC 4.0 и ограничение на некоммерческое использование. Качество ответов и безопасное поведение не гарантируются; персонажность и стиль зависят от используемого промпта.
EraX-Translator-V1.0-i1-GGUF — квантизированная GGUF-версия модели EraX-Translator-V1.0, разработанной erax-ai и подготовленной пользователем mradermacher. Модель предназначена прежде всего для многоязычного машинного перевода, включая работу с вьетнамским, английским, русским, французским, китайским, кантонским китайским, немецким, японским, корейским, хинди и украинским языками. В описании также отмечена специализация на низкоресурсных языках, древнекитайских и буддийских текстах. Модель распространяется в формате GGUF для запуска с совместимыми инструментами, включая llama.cpp и vLLM. Доступно множество вариантов квантизации размером примерно от 1,2 до 3,3 ГБ; они различаются компромиссом между скоростью, требованиями к памяти и качеством. Для некоторых вариантов README указывает заметное снижение качества, тогда как Q4_K_M обозначен как быстрый и рекомендуемый, а Q4_K_S — как оптимальный по соотношению размера, скорости и качества. README помечает модель как vision model, однако подробности о поддерживаемых визуальных входах не приведены. Сильными сторонами модели являются фокус на переводе и поддержка широкого набора языков, включая языки с ограниченными ресурсами и специализированные историко-религиозные тексты. Ограничения включают зависимость качества от выбранного уровня квантизации, отсутствие данных о размере исходной модели, архитектуре, максимальном контексте, точности на тестах и рекомендуемых языковых направлениях. Модель распространяется по лицензии gemma; конкретные условия лицензии следует учитывать при использовании.
FAVA — модель генерации текста для задач проверки фактов. README называет её verification model, а архитектура LlamaForCausalLM указывает на плотную авторегрессионную языковую модель семейства Llama размером 6,6 млрд параметров. Модель рассчитана на контекст до 4096 токенов и доступна в формате PyTorch. Её назначение — поддерживать проверку утверждений и генерацию текста в сценариях верификации. В README не описаны методика проверки, обучающие данные или конкретный формат ответов, поэтому возможности сверх общего назначения verification model подтвердить нельзя. Модель распространяется по лицензии MIT.
Honyaku-Multi-Translator-Swallow-ms7b — языковая модель для машинного перевода, созданная на основе Swallow-MS-7b-v0.1 и дообученная разработчиком репозитория aixsatoshi. Она предназначена прежде всего для перевода с английского на японский и с японского на английский; другие языки поддерживаются частично и с переменным качеством. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,2 млрд параметров, принимает текст и выдаёт текст. В метаданных указан контекст до 32 768 токенов. Модель рассчитана в том числе на перевод относительно длинных текстов, но на объёмах свыше примерно 4000 токенов качество может заметно снижаться. Для короткого текста возможны нестабильная остановка генерации и повторный перевод; при работе с незнакомыми понятиями возрастает риск галлюцинаций. Квантизация может ухудшить перевод на других языках и длинных текстах. Лицензия — Apache-2.0.
HPLT Bert for Japanese — одноязычная модель-кодировщик проекта HPLT, обученная на японских текстах из набора HPLT 1.2. Это masked language model на архитектуре LTG-BERT, модификации классического BERT. Модель содержит 12 слоёв, 12 attention heads, размер скрытого представления 768 и словарь из 32 768 токенов; для японского языка используется отдельный токенизатор. Контекстное окно составляет 512 токенов. Модель предназначена прежде всего для заполнения пропусков в тексте и может служить основой для задач классификации текста и токенов, ответов на вопросы и multiple choice. Это первая версия одноязычных энкодеров HPLT, выпущенная вместе с моделями для других крупных языков. Репозиторий распространяется под лицензией Apache-2.0. Для загрузки требуется пользовательская обёртка из modeling_ltgbert.py и параметр trust_remote_code=True.
HY-MT1.5-1.8B — модель машинного перевода от Tencent из семейства Hunyuan. Это плотная авторегрессионная модель с 1,8 млрд параметров, рассчитанная на взаимный перевод между 33 языками и поддержку пяти языковых вариантов и диалектов. В метаданных указан контекст длиной 262 144 токена. Модель предназначена для перевода текстов, включая сценарии с терминологическими указаниями, контекстом и форматированием. Tencent сообщает о высокой скорости и качестве перевода для своего размера; после квантизации модель можно развернуть на периферийных устройствах для перевода в реальном времени. Репозиторий содержит веса Safetensors и предназначен для использования с Transformers. Модель подходит для межъязыкового перевода и интеграции в приложения, которым важны скорость и локальное развертывание. Заявление о сопоставимом качестве с более крупной моделью и превосходстве над большинством коммерческих API приведено разработчиком; независимые результаты в карточке не представлены. Условия лицензии в предоставленных данных не указаны.
Ichigo-llama3.1-s-instruct-v0.3-phase-3 — языково-звуковая модель от Homebrew Research на архитектуре Llama 3.1 с 7,5 млрд параметров. Она принимает текст и звук и выдаёт текст; контекст составляет 131 072 токена. Модель дообучена на основе homebrewltd/Ichigo-llama3.1-s-instruct-v0.3-phase-2 для улучшения взаимодействия с пользователем, в частности обработки неслышимых входов и многоходовых диалогов. Модель предназначена для понимания звука и текста, включая диалоговые сценарии; README приводит результаты оценок MMLU и AudioBench. Основной язык — английский. Лицензия Apache-2.0. Карточка не уточняет, какие именно типы аудио поддерживаются и как обрабатываются неслышимые входы; опубликованные оценки не гарантируют качество на других данных и сценариях.
mlx-community/InternVL3-78B-4bit — мультимодальная чат-модель семейства InternVL3, преобразованная сообществом mlx-community из models/InternVL3-78B в формат MLX с помощью mlx-vlm 0.1.25. Она предназначена для диалога по изображениям и задач визуального понимания, а также поддерживает генерацию текста. Метаданные указывают мультиязычность и интерфейс для вызова инструментов. Модель распространяется по лицензии Apache-2.0.
Apollo Raines представляет Llama-3.1-8B-Instruct-Concise-Flat — вариант Meta Llama 3.1 8B Instruct, изменённый инструментом jBlaze с помощью representation engineering. По карточке, дополнительное обучение не проводилось: в весах подавлены многословие и эмоциональная окраска, чтобы ответы были краткими, сдержанными и насыщенными информацией. Модель построена на плотной архитектуре LlamaForCausalLM; метаданные указывают 7,5 млрд параметров, контекст до 131 072 токенов и формат safetensors, а карточка — точность bf16. Модель предназначена для диалогов и генерации текста, когда предпочтителен лаконичный, нейтральный стиль. Карточка приводит примеры ответов на общие вопросы, простые вычисления и запросы на код; метаданные также отмечают интерфейс вызова инструментов. Поддержка указана для английского языка. Разработчик предупреждает, что выпущенная версия ослаблена и служит демонстрацией возможностей инструмента. Указана лицензия llama3.1.
Miladsaeedi70 создал дообученную модель машинного перевода на основе Helsinki-NLP/opus-mt-en-fr, обученную на наборе данных KDE4. Она предназначена для перевода текста с английского на французский. Модель MarianMT содержит 55,6 млн параметров, использует библиотеку Transformers и формат safetensors; максимальная длина контекста — 512 токенов. На оценочном наборе указаны BLEU 46,1538 и loss 1,2212. Модель распространяется по лицензии Apache-2.0. Карточка не описывает дополнительные сценарии применения или ограничения качества, поэтому результаты на других типах текста по приведённым данным оценить нельзя.
Карточка модели MergekitCloud/mergekit-67 на Hugging Face совпадает с карточкой MergekitCloud/mergekit-73, поэтому описание составлено по ней. MergekitCloud/mergekit-73 — объединённая языковая модель на основе Llama 3.1, созданная с помощью mergekit методом Model Stock. В слияние вошли четыре модели для диалогов и ролевого общения; базовой указана vicgalle/Humanish-Roleplay-Llama-3.1-8B. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и предназначена для генерации текста в формате диалога. Заявленная длина контекста — 131 072 токена. Модель подходит для ведения диалогов и ролевых сценариев, в том числе с более свободными ответами. README не приводит результаты оценки качества или подробностей о поддерживаемых языках. В репозитории указаны веса safetensors; библиотека для работы — Transformers. Условия лицензирования в предоставленных данных не описаны.
Карточка модели MergekitCloud/mergekit-71 на Hugging Face совпадает с карточкой MergekitCloud/mergekit-73, поэтому описание составлено по ней. MergekitCloud/mergekit-73 — объединённая языковая модель на основе Llama 3.1, созданная с помощью mergekit методом Model Stock. В слияние вошли четыре модели для диалогов и ролевого общения; базовой указана vicgalle/Humanish-Roleplay-Llama-3.1-8B. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и предназначена для генерации текста в формате диалога. Заявленная длина контекста — 131 072 токена. Модель подходит для ведения диалогов и ролевых сценариев, в том числе с более свободными ответами. README не приводит результаты оценки качества или подробностей о поддерживаемых языках. В репозитории указаны веса safetensors; библиотека для работы — Transformers. Условия лицензирования в предоставленных данных не описаны.
Это дообученная версия shamikbose89/mt5-small-finetuned-arxiv-cs на базе mT5 — модели типа text-to-text для суммаризации. Репозиторий содержит около 157,4 млн параметров и веса в форматах PyTorch и Safetensors; модель доступна по лицензии Apache-2.0. Модель предназначена для суммаризации текстов, связанных с компьютерными науками и научными публикациями arXiv. В README приведены результаты оценки: Loss 1,4037, ROUGE-1 39,8923, ROUGE-2 20,9831, ROUGE-L 35,8642 и ROUGE-Lsum 35,8511. Описание набора данных, подробности обучения и сведения о целевом языке не приведены.
Garnet-Owl/nemo-voice-typing-asr — это англоязычная потоковая модель распознавания речи NVIDIA NeMo, экспортированная в ONNX и квантизованная до INT4 для запуска на процессоре. Архитектура RNN-T включает трансформерный энкодер из 24 слоёв с размером скрытого состояния 1024, двухслойный LSTM-предиктор с размером состояния 640 и совместную сеть с словарём из 1024 токенов плюс blank. Вход — монофонический PCM-сигнал с частотой 16 кГц; распознавание идёт чанками по 560 мс с жадным декодированием. Модель предназначена для потоковой транскрипции английской речи, в том числе диктовки с микрофона в приложения. Для запуска через ONNX Runtime README указывает современный процессор x86-64 с AVX2, около 900 МБ оперативной памяти и 600 МБ места на диске; GPU не требуется. Упаковка выполнена Microsoft / GitHub Copilot и распространяется по MIT, а исходные веса ASR — по NVIDIA Open Model License; комплектный Silero VAD имеет лицензию MIT.
Helsinki-NLP/opus-mt-es-nl — модель машинного перевода из семейства OPUS-MT, разработанная Helsinki-NLP. Она переводит текст с испанского на нидерландский и построена на архитектуре MarianMT с трансформером; число параметров — около 55 млн. При обучении использованы данные OPUS, а текст проходит нормализацию и токенизацию SentencePiece. Для набора Tatoeba.es.nl в карточке приведены оценки BLEU 50,6 и chr-F 0,681. Модель предназначена для перевода отдельных текстов и интеграции в системы машинного перевода с направлением испанский → нидерландский. Указанное контекстное окно — 512 токенов. Модель доступна в форматах PyTorch и TensorFlow и распространяется по лицензии Apache-2.0. Карточка не описывает ограничения по качеству или условия использования помимо лицензии.
Helsinki-NLP/opus-mt-gem-gem — модель машинного перевода проекта OPUS на архитектуре Transformer, опубликованная Helsinki-NLP. Она переводит в обоих направлениях между языками германской группы: входной и целевой язык выбираются из поддерживаемых вариантов, включая немецкий, английский, нидерландский, шведский, датский, африкаанс, исландский, идиш и другие. Для выбора целевого языка перед текстом требуется токен вида >>id<<. Модель основана на MarianMT, содержит 44,5 млн параметров и использует нормализацию и SentencePiece с словарём размера 32 тыс. Длина контекста — 512 токенов. Метаданные указывают поддержку PyTorch и TensorFlow; лицензия — Apache-2.0. В README приведены результаты BLEU и chr-F на нескольких тестах новостного перевода. Модель предназначена для перевода текстов между языками германской группы. Результаты зависят от языковой пары и тематики; модель не описана как универсальная для языков за пределами этой группы.
Helsinki-NLP/opus-mt-ine-en — модель машинного перевода из серии OPUS-MT, созданной Helsinki-NLP. Она переводит с множества индоевропейских языков на английский; в карточке перечислены десятки исходных языков, включая французский, немецкий, испанский, русский, хинди и польский. Архитектура — Transformer на базе MarianMT, размер — 56,4 млн параметров, контекст — до 512 токенов. Модель использует нормализацию и SentencePiece с словарями по 32 тыс. токенов. Модель предназначена для перевода отдельных текстов и фраз на английский. В README приведены результаты на тестовых наборах для нескольких языковых пар; качество зависит от исходного языка и тематики текста. Модель доступна в форматах PyTorch и TensorFlow и распространяется по лицензии Apache 2.0.
OPUS-MT-tiny-fra-eng — компактная модель машинного перевода семейства Marian, разработанная Helsinki-NLP. Это дистиллированная версия учительской модели OPUS-MT-models/fr-en/opus-2020-02-26: студент с архитектурой tiny и обычным трансформерным декодером обучен на наборе Tatoeba для перевода с французского на английский. Модель содержит 14,5 млн параметров и имеет контекст длиной 256 токенов. Модель предназначена для перевода французских фраз и текстов на английский, в том числе для сценариев, где важны небольшой размер и возможность запускать перевод локально через Transformers или совместимый формат Marian. В карточке приведены оценки на Flores+ и Bouquet: BLEU студента составляет 40,4 и 39,9 соответственно. Поддерживаются форматы safetensors и TFLite. Распространяется по лицензии Apache-2.0.
Immich/pipeline-error-propagation-dialogue-summarization-led-baseline-seed17 — исследовательский чекпойнт суммаризации диалогов встреч на базе LED, обученный на допустимой подвыборке AMI Meeting Corpus с seed 17. В README он описан как эталонный запуск baseline для качественных примеров статьи; baseline предназначен для обработки полной записи встречи или иерархического конвейера сегментации, извлечения и генерации. Для загрузки указана совместимость с Transformers и AutoModelForSeq2SeqLM. Модель содержит 95,2 млн параметров, использует архитектуру LEDForConditionalGeneration и сохранена в формате safetensors. Заявленная задача — summarization; обучающие данные связаны с AMI Meeting Corpus. Лицензия — MIT. Карточка не сообщает о поддержке языков, длине контекста и известных ограничениях качества; результаты для других типов диалогов README не подтверждает.
mlx-community/Qwen2-VL-2B-Instruct-4bit — мультимодальная instruction-модель сообщества mlx-community, конвертированная в формат MLX из Qwen/Qwen2-VL-2B-Instruct с использованием mlx-vlm версии 0.0.13. Модель предназначена для задач, где требуется обработка изображений и текста, включая сценарии image-text-to-text и генерацию ответов по мультимодальным запросам. Модель имеет размер 2B параметров и использует 4-битное представление, что делает её ориентированной на запуск в экосистеме MLX. В карточке указаны поддержка английского языка и библиотека Transformers; другие языки, размер контекстного окна и подробности архитектуры не указаны. Для использования предлагается пакет mlx-vlm. К сильным сторонам относятся мультимодальные возможности, instruction-настройка и компактное 4-битное представление. Ограничения и возможные компромиссы квантования в карточке не описаны, поэтому качество на конкретных задачах следует оценивать отдельно. Модель распространяется по лицензии Apache-2.0.
mlx-community/Qwen3-VL-4B-Instruct-4bit — мультимодальная instruction-tuned модель, преобразованная сообществом mlx-community в формат MLX из Qwen/Qwen3-VL-4B-Instruct с использованием mlx-vlm версии 0.3.4. Модель предназначена для задач image-text-to-text, включая обработку изображений и генерацию текстовых ответов по инструкциям, например описание изображений. Для работы используется библиотека mlx-vlm. Модель имеет размер 4B параметров и поставляется в 4-битном формате, что ориентировано на более эффективное использование памяти и вычислений на совместимом оборудовании Apple MLX. README не содержит подробностей об архитектуре, поддерживаемых языках, максимальной длине контекста, перечне модальностей и результатах оценки качества. Ограничения производительности и совместимости также зависят от исходной модели и среды MLX. Модель распространяется по лицензии Apache-2.0.
Readability ES Paragraphs for three classes — модель классификации испанских текстов, разработанная SomosNLP для оценки их сложности. Это дообученная модель архитектуры RoBERTa на основе BERTIN с 151,8 млн параметров; она анализирует абзацы и относит их к одному из трёх уровней: базовому, среднему или продвинутому. Модель принимает текст на испанском языке, поддерживает контекст до 514 токенов и предназначена для оценки читабельности и подбора текстов по уровню сложности. На валидационной выборке авторы сообщают макроусреднённую F1-меру 0,7881. Модель опубликована под лицензией CC BY 4.0. Оценка качества ограничена нехваткой данных и отсутствием надёжной тестовой выборки; часть использованных данных закрыта, что затрудняет проверку смещений и ошибок. Испанский вариант из Испании может быть представлен лучше, чем региональные варианты; некоторые примеры из Newsela могут звучать неестественно из-за перевода исходных материалов.
RoBERTa-base-ca-v2 — трансформерная модель с архитектурой RoBERTa и головой masked language modeling, разработанная подразделением Text Mining Unit (TeMU) Барселонского суперкомпьютерного центра в рамках проекта AINA. Модель содержит 151,8 млн параметров и обучена для каталонского языка на корпусах из открытых источников и веб-краулинга. Модель готова к заполнению пропусков в каталонском тексте: она подбирает вероятные варианты для замаскированного токена. Её также можно дообучать для классификации текста, распознавания именованных сущностей и частей речи, ответов на вопросы и других задач понимания языка. В карточке приведены результаты оценки на бенчмарке CLUB для ряда таких задач; для них требуется соответствующая настройка модели. Модель принимает текст и выдаёт предсказания токенов. Максимальная длина контекста — 514 токенов. Разработчики предупреждают, что веб- и публичные обучающие корпуса могут содержать смещения, а отдельная оценка встроенных bias на момент публикации не проводилась. Лицензия — Apache License 2.0.
sahajBERT — модель ALBERT, совместно предварительно обученная для бенгальского языка с помощью masked language modeling и предсказания порядка предложений. Разработчики создали для неё специальный бенгальский токенизатор; для обучения использовались бенгальская Википедия и часть корпуса OSCAR. Модель содержит 435,4 млн параметров, принимает текст с контекстом до 512 токенов и доступна в формате PyTorch. Модель предназначена для заполнения пропусков в тексте и дальнейшей тонкой настройки под задачи классификации последовательностей, разметки токенов и ответов на вопросы. В опубликованных оценках она показала F1 95,45 на бенгальском NER и точность 91,97 на классификации новостных категорий. Лицензия — Apache-2.0. В README раздел об ограничениях и смещениях обозначен как незавершённый.
SalamandraTA-2B-academic — языковая модель для машинного перевода, разработанная подразделением Language Technologies Unit Барселонского суперкомпьютерного центра (BSC). Это дообученная на перевод корпуса ACAData версия Salamandra-2B-Instruct с архитектурой Llama и примерно 1,7 млрд параметров по метаданным. Модель принимает текст и предназначена для общего машинного перевода в 96 направлениях между английским, испанским, каталанским, баскским, галисийским, астурийским, немецким, греческим, французским, итальянским, нидерландским и португальским языками. Контекст составляет 8192 токена. Модель ориентирована на перевод, а не на диалог: авторы не тестировали её чат-возможности. Карточка приводит оценку переводов на ACAD-Bench, но отмечает, что анализ точности по языкам, диалектам и предметным областям, а также систематических смещений пока не проводился; настройка модели предварительная. Репозиторий распространяется по лицензии Apache-2.0 и заявлен для исследовательского и коммерческого использования.
Snowball 67B-A2B — базовая языковая модель, экспортированная из шага 157 000 эксперимента по сравнению моделей для длинного контекста. В карточке указаны 67 млрд параметров всего и около 2 млрд активных параметров на токен; архитектура — разреженная MoE с 26 слоями и 256 экспертами, из которых для каждого токена выбираются четыре. Контекст составляет 262 144 токена, словарь — 128 256 токенов. Модель разработана в рамках проекта Marin. Модель предназначена для продолжения текста и работы с длинными документами. Это базовая, не настроенная на инструкции модель: шаблон чата в токенизаторе сам по себе не означает, что она обучена следовать инструкциям, поэтому для неё рекомендуются текстовые продолжения. В метаданных указаны английский язык и интерфейс вызова инструментов; практическая доступность последнего может зависеть от настройки сервинга. В README приведены конфигурация сервинга на восьми GPU H100 и требование использовать форк vLLM от Marin с поддержкой GrugMoe. Эта публикация проверяет имена тензоров, тип BF16, конфигурацию, размеры файлов и контрольные суммы; генерация и численная проверка соответствия для неё не проводились. Материалы модели распространяются по лицензии OpenMDW 1.1.