I.5Создание и редактирование текста
В разделе собраны самостоятельные задачи, где AI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
44 385 моделейTri-21B-Think — языковая модель Trillion Labs, дообученная на базе Trillion Labs Tri-21B для рассуждений и многошагового диалога. Это плотная авторегрессионная модель с архитектурой Transformer Decoder, RoPE, SwiGLU, RMSNorm и GQA; в репозитории указано 20,1 млрд параметров. Модель принимает текст и генерирует текст, поддерживает чат и рассчитана на контекст до 32 768 токенов; README также сообщает о расширении контекста до 262 144 токенов с YaRN. Модель предназначена для задач, где полезны пошаговое рассуждение, ответы на сложные вопросы, многоходовые взаимодействия и работа с инструментами. Авторы сообщают об улучшении корейского языка по сравнению с базовой моделью; основные языки — английский, корейский и японский. На этапе рассуждения генерация дополнительных токенов может увеличивать задержку, а качество на других языках может быть ниже. Заявленная лицензия — Apache-2.0.
TroyDoesAGI — экспериментальная плотная языковая модель на архитектуре Mistral с 15 млрд параметров и контекстом до 32 768 токенов, созданная независимым разработчиком TroyDoesAI. Модель предназначена для генерации текста по инструкциям и ответов с опорой на предоставленный контекст, в том числе для сценариев RAG. В карточке описан специальный формат контекстного запроса с разделителями для входных блоков, метаданных и инструкций. Обучение включало набор инструкций по Python, вручную подготовленные графы знаний и данные персонального помощника; автор экспериментировал с прореживанием, абляциями и учебными последовательностями. Модель распространяется в формате safetensors по лицензии CC BY-ND 4.0. Автор сообщает о хорошей привязке к контексту и следовании инструкциям, но это не сопровождается формальной оценкой; результат зависит от формата запроса и качества контекста.
ODeNy/ChecketV2 — модель Sentence Transformers, дообученная разработчиком ODeNy на базе sentence-transformers/paraphrase-multilingual-mpnet-base-v2. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения смысловой и перефразированной близости с помощью косинусного сходства. Основное применение — оценка сходства формулировок; также модель подходит для семантического текстового сходства и поиска похожих фрагментов. Сравнение текстов по стилю автор README называет экспериментальным сценарием. Модель построена на XLM-RoBERTa с усреднением токенных представлений и обучена с CoSENTLoss на датасете ODeNy/ChecketV2-Dataset. README указывает максимальную длину последовательности 128 токенов; метаданные каталога сообщают нативный контекст 514 токенов. Карточка называет нидерландский основным языком и заявляет многоязычность, но конкретный перечень дополнительных языков не приводит. Лицензия — Apache 2.0.
CrisperWhisper 2.0 small — модель распознавания речи от Nyra Labs, основанная на архитектуре Whisper и содержащая 153,1 млн параметров. Она преобразует аудио в текст и поддерживает режимы verbatim, сохраняющий повторы, слова-паразиты, обрывы и вокальные события, и intended, который передаёт предполагаемый смысл в отредактированной записи. Модель также может выдавать временные границы отдельных слов и обрабатывать длинные записи с продолжением транскрипции между фрагментами. Модель предназначена для точной дословной расшифровки речи, подготовки транскриптов для анализа и создания речевых наборов данных. README описывает возможности семейства CrisperWhisper 2.0, включая мультиязычную работу, но метаданные этой версии явно указывают английский и немецкий языки. Для выбранной модели доступны веса safetensors и библиотека crisperwhisper. В README стандартные модели семейства обозначены как распространяемые по некоммерческой исследовательской лицензии с возможностью получить коммерческую лицензию; метаданные указывают лицензию other.
Dolphin 3.0 Llama 3.2 1B — модель для диалогов и выполнения инструкций, подготовленная Eric Hartford, Ben Gitter, BlouseJury и Cognitive Computations на основе Meta Llama 3.2 1B. Это плотная авторегрессионная языковая модель семейства Llama с 1,2 млрд параметров и контекстом до 131 072 токенов; используется формат ChatML. Модель предназначена для локального применения в качестве универсального помощника: она подходит для генерации кода, решения математических задач, вызова функций и общения на общие темы. Её можно настраивать системным промптом; обучающие данные включают наборы для кода, математики, агентных инструкций и диалогов. Карточка перечисляет английский язык. Доступны веса в формате safetensors. Модель лицензирована по условиям llama3.2. Это компактная модель с существенно меньшим числом параметров, чем крупные универсальные ассистенты; карточка не содержит результатов оценивания, поэтому качество для конкретных задач не подтверждено приведёнными тестами.
MihaiPopa опубликовал дообученную версию LiquidAI/LFM2.5-350M-Base с применением abliteration — изменения весов, снижающего частоту отказов. Это компактная плотная языковая модель семейства LFM2, предназначенная для диалоговой генерации текста и локального запуска. В модели 444,6 млн параметров по метаданным; README описывает базовую версию семейства как модель на 350 млн параметров с 16 слоями и контекстом 32 768 токенов. Метаданные указывают контекст до 128 000 токенов, поэтому сведения о длине контекста расходятся. Модель рассчитана на извлечение данных, формирование структурированных ответов и вызов инструментов; в сравнении с исходной моделью в README указано меньше отказов. Поддерживаемые языки по карточке: английский, арабский, китайский, французский, немецкий, японский, корейский, испанский и португальский. README не рекомендует её для задач, требующих обширных знаний, и программирования. Лицензия в метаданных обозначена как other; конкретные условия следует сверить на странице модели.
Карточка модели NostraEmpire/mirror-qwen2.5-omni-7b на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Omni-7B, поэтому описание составлено по ней. Qwen2.5-Omni-7B — мультимодальная модель семейства Qwen, разработанная командой Qwen компании Alibaba. Она использует архитектуру Thinker-Talker для сквозной обработки текста, изображений, аудио и видео и потоковой генерации текста и естественной речи. Временные позиционные представления TMRoPE синхронизируют видеокадры со звуком. Модель предназначена для мультимодального диалога в реальном времени, включая голосовое и видеообщение, распознавание и понимание речи, анализ изображений и видео, следование инструкциям на слух и генерацию речи. Карточка сообщает о результатах на тестах мультимодального рассуждения, понимания видео, речи и перевода; модель работает через Transformers и хранит веса в формате safetensors. Модель принимает текст, изображения, аудио и видео, а выдаёт текст и аудио. В README не приведены сведения о лицензии, позволяющие назвать её условия: метаданные указывают лицензию «other».
Qwen3.8-27B-NVFP4 — квантизированная версия мультимодальной модели Qwen3.8-27B, созданная vrfai на основе исходной модели Qwen. Она предназначена для задач понимания текста и изображений, включая визуальные вопросы и ответы, анализ документов, диаграмм, OCR и математических изображений. Модель рассчитана на использование через Transformers и vLLM. Модель имеет 27 млрд параметров и распространяется в формате NVFP4 W4A4 с сериализацией compressed-tensors. Размер контрольной точки составляет 18,4 ГБ против 52 ГБ у базовой модели. Квантизация применяется к 93,28% весов линейных слоёв; отдельные компоненты, включая зрительную башню, lm_head, нормализации, эмбеддинги и некоторые слои Gated DeltaNet, сохранены в bf16. В архитектуре используются attention и Gated DeltaNet, однако размер контекстного окна и список поддерживаемых языков в карточке не указаны. Основное преимущество модели — существенно меньшее потребление памяти при сохранении мультимодальных возможностей. При наличии GPU с compute capability 10.0 или новее, например NVIDIA Blackwell B100, B200 или GB200, поддерживается полноценная NVFP4-арифметика. На H100, H200 и графических процессорах Ada модель работает через weight-only путь Marlin FP4: экономия памяти сохраняется, но вычисления, особенно при обработке длинных входов и больших пакетов, могут быть медленнее, чем у версии bf16. Результаты тестов показывают измеримые потери на отдельных задачах компьютерного зрения и обработки документов; опубликованные оценки не следует напрямую считать показателями полноценного W4A4-режима на Blackwell. Модель распространяется по лицензии Apache-2.0.
Fulcrum-AI/Ryze-Embed-3 — объединённая методом passthrough модель на архитектуре Qwen2, созданная с помощью mergekit на основе Alibaba-NLP/gte-Qwen2-1.5B-instruct. Веса доступны в формате safetensors; размер модели — 2,7 млрд параметров, максимальный контекст — 131 072 токена. В метаданных модель обозначена как text-generation и conversational. Базовая модель предназначена для преобразования текстов в эмбеддинги для семантического поиска, сравнения и ранжирования; карточка этой модели не уточняет, сохраняет ли объединённая версия эти возможности и как её применять. Лицензия в предоставленных данных не указана.
coderavi/VibeThinker-3B-mlx-fp16 — преобразованная в формат MLX версия модели WeiboAI/VibeThinker-3B, подготовленная автором репозитория coderavi с помощью mlx-lm 0.31.2. Это плотная причинная языковая модель семейства Qwen2 на 3,1 млрд параметров для генерации текста в диалоговом режиме, следования инструкциям, программирования и STEM-рассуждений. Она принимает текст и генерирует текст; заявленная длина контекста составляет 131 072 токена. Метаданные указывают английский язык и лицензию MIT. Карточка подтверждает преобразование формата, но не приводит отдельные результаты оценки качества этой копии.
Карточка модели binant/whisper-small на Hugging Face совпадает с карточкой openai/whisper-small, поэтому описание составлено по ней. Whisper Small — модель распознавания речи семейства Whisper, разработанная OpenAI. Это мультиязычная модель Transformer типа encoder-decoder с 153,1 млн параметров, обученная на размеченных аудиоданных. Она преобразует речь в текст на языке исходного аудио и может переводить речь с разных языков на английский. Для обработки аудио в Transformers используется вместе с WhisperProcessor. Модель подходит для транскрибирования записей, в том числе длинных: базовая обработка рассчитана на фрагменты до 30 секунд, а разбиение на фрагменты позволяет обрабатывать аудио произвольной длины и получать временные метки. Whisper демонстрирует устойчивость к акцентам, фоновому шуму и технической лексике, но точность различается между языками, диалектами и группами говорящих. Возможны галлюцинации, повторы и ошибки распознавания. Модель распространяется по лицензии Apache-2.0.
InternVL3.5-38B-Pretrained — мультимодальная модель семейства InternVL3.5, разработанная OpenGVLab. Она объединяет визуальный энкодер InternViT и языковую модель Qwen3-32B; в карточке указано, что релиз относится к семейству открытых мультимодальных моделей и использует подход merge. Модель принимает изображения и текст и формирует текстовые ответы; заявлены диалоговый режим и интерфейс вызова инструментов. Модель предназначена для диалога по изображениям, визуальных вопросов и ответов, мультимодальных рассуждений, OCR-сценариев, а также текстовых задач. В README описаны Cascade RL для улучшения рассуждений и Visual Resolution Router для динамической обработки визуальных токенов; при этом опубликованные там общие показатели и дополнительные возможности относятся к семейству InternVL3.5 и не обязательно характеризуют именно вариант 38B-Pretrained. Для запуска 38B README указывает потребность в двух GPU A100. Репозиторий содержит веса safetensors и рассчитан на использование с Transformers. Лицензия — Apache-2.0. Карточка не приводит отдельного ограничения по языкам конкретно для этой версии; метаданные обозначают модель как многоязычную.
Карточка модели hemanthdegapudi/LFM2.5-1.2B-Instruct на Hugging Face совпадает с карточкой LiquidAI/LFM2.5-1.2B-Instruct, поэтому описание составлено по ней. LFM2.5-1.2B-Instruct — плотная гибридная языковая модель Liquid AI для локального и периферийного развертывания. Это версия общего назначения, дообученная следовать инструкциям на базе LiquidAI/LFM2.5-1.2B-Base. В карточке указано 1,17 млрд параметров, 16 слоёв (10 блоков double-gated convolution и 6 блоков GQA), а метаданные Hugging Face указывают 1,5 млрд параметров. Модель принимает текст и генерирует текст; поддерживает контекст до 32 768 токенов по README, тогда как метаданные каталога указывают нативный контекст 128 000 токенов. Модель рассчитана на агентные сценарии, извлечение данных, ответы по документам в RAG и вызов функций. Liquid AI заявляет высокую скорость локального вывода и возможность работы с ограниченной памятью. Поддерживаемые языки: английский, арабский, китайский, французский, немецкий, японский, корейский и испанский. Модель не рекомендуется для задач, требующих обширных знаний, и программирования. Лицензия обозначена в метаданных как other; конкретные условия следует сверить с лицензией репозитория.
md-reheader — созданная Джоэлом Барметтлером в Souverana модель на базе Qwen3, дообученная для восстановления уровней заголовков в Markdown-документах. Она анализирует структуру текста и предсказывает для каждого заголовка уровень H1–H6; модель рассчитана на обработку Markdown, полученного, например, при конвертации PDF, и на запуск локально через CLI, Python API или сервер vLLM. Модель имеет плотную архитектуру Qwen3ForCausalLM и содержит 507,9 млн параметров. Она принимает текст и генерирует текст с восстановленной иерархией заголовков; основной язык обучения — английский. Контекстное окно составляет 40 960 токенов, однако README указывает, что после предварительного удаления основного текста документы длиннее 8 000 токенов обрезаются: заголовки за пределами этого предела сохраняют исходный уровень. Модель специализируется на одной задаче, поэтому подходит для автоматизации подготовки Markdown перед навигацией и разбиением документов на фрагменты для RAG. Лицензия — Apache-2.0.
Карточка модели donnavanb09/Qwen2.5-Omni-7B на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Omni-7B, поэтому описание составлено по ней. Qwen2.5-Omni-7B — мультимодальная модель семейства Qwen, разработанная командой Qwen компании Alibaba. Она использует архитектуру Thinker-Talker для сквозной обработки текста, изображений, аудио и видео и потоковой генерации текста и естественной речи. Временные позиционные представления TMRoPE синхронизируют видеокадры со звуком. Модель предназначена для мультимодального диалога в реальном времени, включая голосовое и видеообщение, распознавание и понимание речи, анализ изображений и видео, следование инструкциям на слух и генерацию речи. Карточка сообщает о результатах на тестах мультимодального рассуждения, понимания видео, речи и перевода; модель работает через Transformers и хранит веса в формате safetensors. Модель принимает текст, изображения, аудио и видео, а выдаёт текст и аудио. В README не приведены сведения о лицензии, позволяющие назвать её условия: метаданные указывают лицензию «other».
RedHatAI/Qwen2.5-VL-7B-Instruct-quantized.w8a8 — это квантованная версия мультимодальной модели Qwen/Qwen2.5-VL-7B-Instruct, разработанная Neural Magic. Модель принимает текст, изображения и видео, а генерирует текстовые ответы; она предназначена для задач визуального анализа и работы с текстом, включая ответы на вопросы по изображениям, анализ документов, графиков и визуальных материалов. Модель имеет архитектуру Qwen2.5-VL-7B-Instruct и использует 8-битное квантование весов и активаций по схеме W8A8, что снижает требования к ресурсам при инференсе. В README указана поддержка английского языка, однако полный набор языков не описан. Приведённый пример рассчитан на контекст до 4096 токенов и развёртывание через vLLM версии 0.5.2 или новее; также доступна совместимая с OpenAI схема сервинга через vLLM. К сильным сторонам относятся мультимодальность, оптимизация INT8 для эффективного инференса и готовность к использованию в vLLM. Ограничения включают возможные потери качества из-за квантования, а также отсутствие в предоставленных данных подробных результатов оценки, точных требований к оборудованию и исчерпывающего описания поддерживаемых языков. Модель распространяется по лицензии Apache-2.0.
SelFee-13B-delta — дельта-веса модели для следования инструкциям, разработанной проектом KAIST SelFee. Это плотная авторегрессионная модель семейства LLaMA с 12,9 млрд параметров и контекстом 2048 токенов; репозиторий содержит веса в формате PyTorch. Для восстановления полного чекпойнта дельту применяют к исходным весам LLaMA. Модель дообучена на инструкциях и ответах с цепочками самопроверки и пересмотра: она может самостоятельно формировать обратную связь, исправлять ответ и завершать пересмотр, когда считает его ненужным, либо работать с заданным числом пересмотров. SelFee предназначена для диалоговых ответов на инструкции и вопросы, включая задачи из математики и программирования, а также для генерации и доработки ответов посредством самокритики. Обучающие данные включали англоязычные примеры из Alpaca, ShareGPT, Flan, математики и кода; основной язык модели — английский. Лицензия весов — CC-BY-NC-4.0, которая ограничивает коммерческое использование. README отмечает ограничения длины при подготовке части обучающих примеров; качество и точность ответов следует проверять, особенно в предметных задачах.
Self-RAG Llama2 13B — языковая модель семейства Llama, разработанная командой Self-RAG. Она генерирует ответы на разнообразные запросы и специальные токены рефлексии, с помощью которых может адаптивно обращаться к системе поиска и оценивать собственные ответы и найденные фрагменты. Модель обучена на инструкционных данных с чередованием текстовых фрагментов и токенов рефлексии; при генерации эти токены используются для выбора ответа с учётом предпочтений пользователя. Модель предназначена для генерации ответов с подключённым поиском, а также для сценариев, где требуется оценивать и отбирать ответы и извлечённые материалы. Для полноценного инференса с поисковой системой и древовидным декодированием авторы предлагают использовать код проекта; README также описывает запуск с заранее предоставленными фрагментами. Модель содержит 12,9 млрд параметров, имеет контекст 4096 токенов и принимает текстовые инструкции. Доступна в формате PyTorch под лицензией MIT.
InternVL3-2B-Instruct-GGUF — мультимодальная модель семейства InternVL3, разработанная OpenGVLab и представленная в формате GGUF сообществом Unsloth. Это SFT-версия InternVL3-2B: она прошла предварительное мультимодальное обучение и supervised fine-tuning, но не проходила MPO. Модель предназначена для обработки текста и изображений, мультимодального восприятия и рассуждений, а также сценариев, связанных с использованием инструментов, GUI-агентами, промышленным анализом изображений и восприятием 3D-сцен.
lmstudio-community/Llama3-ChatQA-1.5-8B-GGUF — квантизированная в формате GGUF версия модели Llama3-ChatQA-1.5-8B, разработанной NVIDIA. Модель построена на базе Llama 3 и предназначена прежде всего для генерации текста, диалоговых ответов и задач retrieval-augmented generation (RAG). Квантизацию выполнил bartowski на основе llama.cpp. Модель ориентирована на ответы на вопросы по предоставленному контексту, его суммаризацию и извлечение релевантной информации. Она рассчитана на англоязычные сценарии и обучалась с улучшенным рецептом ChatQA, включая дополнительные данные для conversational QA, табличных задач и арифметических вычислений. Указанный размер модели — 8 миллиардов параметров; сведения о длине контекста и конкретном варианте квантизации в README не приведены. Сильной стороной модели является способность формировать содержательные ответы, опираясь на переданный контекст, и указывать, когда ответ в нём не найден. Она может применяться и в более общих задачах, но в первую очередь предназначена для RAG и работы с контекстом. К ограничениям относятся зависимость качества от полноты и точности предоставленного контекста, а также потенциальная неточность или нежелательное содержимое ответов. Модель распространяется по лицензии Llama 3.
TroyDoesAI/Mermaid-Flow-MoE-Expert2 — текстовая модель генерации на архитектуре Llama с 10,6 млрд параметров. Она создана слиянием методом SLERP моделей TroyDoesAI/Mermaid-Solar и TroyDoesAI/Mermaid_PythonCoder; в конфигурации указана базовая модель TroyDoesAI/Mermaid-Solar. Модель предназначена для генерации текста по запросу и объединяет возможности исходных моделей, одна из которых ориентирована на код Python и Mermaid. Модель принимает текст и выдаёт текст. Нативное окно контекста составляет 4096 токенов. Репозиторий содержит веса Safetensors, для работы указана библиотека Transformers. Данных о конкретном качестве, поддерживаемых языках и лицензии в доступных источниках нет.
OsaurusAI выпустила MiniMax-M2.7-Small-JANGTQ — разреженную языковую модель MoE для генерации текста и диалогов, подготовленную на основе MiniMaxAI/MiniMax-M2. В README указаны около 138 млрд параметров всего и около 10 млрд активных на токен; на каждом слое сохранено 154 из 256 маршрутизируемых экспертов, а для токена выбираются 8. Модель рассчитана на запуск на компьютерах Apple Silicon через MLX и нативную среду JANGTQ для Swift. При подготовке удалено 40% маршрутизируемых экспертов методом REAP, а веса квантованы: эксперты — до 2 бит с кодовыми книгами Lloyd-Max и преобразованием Hadamard, блоки внимания, плотные MLP, эмбеддинги и выходная голова — до 8 бит, нормализации и маршрутизатор — до 16 бит. В карточке заявлен контекст 196 608 токенов; языковые метки — английский и китайский. Приведённая оценка HumanEval+ показывает 81,10% pass@1 и 90,24% pass@5, но README также сообщает о сбоях границ токенов и нехватке бюджета генерации в части примеров. Для загрузки полного набора весов требуется файл jangtq_runtime.safetensors: без него Swift-загрузчик не декодирует упакованные веса. Лицензия указана как other, поэтому условия использования следует проверять в репозитории модели.
MOSS-Transcribe-Diarize 0.9B — аудиомодель OpenMOSS-Team для транскрибирования длинных записей с несколькими говорящими. Она совместно распознаёт речь и выполняет диаризацию, формируя текст с временными метками и анонимными метками говорящих. Также может добавлять аннотации акустических событий. Модель рассчитана на встречи, звонки, подкасты, интервью, лекции и видео. Она обрабатывает аудио или видео за один проход, поддерживает записи длительностью до 90 минут, более 50 языков и подсказки с пользовательскими ключевыми словами для специальных терминов. В репозитории указана плотная архитектура conditional generation; для загрузки требуется Transformers с пользовательским кодом модели. Сильные стороны — совместная транскрипция и диаризация, временная разметка и обработка длинных записей. Метки говорящих анонимны и относятся только к конкретной записи; качество распознавания может зависеть от языка, шума и перекрывающейся речи. Модель распространяется по лицензии Apache-2.0.
Qwen2.5-72B — базовая языковая модель семейства Qwen2.5, разработанного командой Qwen. Это предварительно обученная плотная авторегрессионная модель на 71,5 млрд параметров с архитектурой Qwen2 и классом Qwen2ForCausalLM. В архитектуре используются RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания; модель содержит 80 слоёв и поддерживает контекст до 131 072 токенов. Модель предназначена для продолжения текста и как основа для последующего дообучения, например SFT или RLHF. Семейство Qwen2.5 поддерживает более 29 языков, включая русский, и улучшено для задач программирования, математики, следования инструкциям, работы с таблицами и создания структурированных ответов. Однако эта версия — базовая, а не настроенная для диалога, поэтому её не рекомендуют напрямую использовать для разговорных сценариев. Репозиторий распространяется под лицензией с обозначением `other`; конкретные условия следует сверить с лицензией модели на Hugging Face.
unsloth/Qwen2.5-Omni-7B — мультимодальная модель на архитектуре Qwen2.5-Omni, опубликованная Unsloth как дообученная версия Qwen/Qwen2.5-Omni-7B. Она принимает текст, изображения, аудио и видео и может вести диалог, объединяя сигналы из разных модальностей; ответы выдаёт текстом и естественной речью, в том числе в потоковом режиме. Модель рассчитана на голосовой и видеодиалог в реальном времени, распознавание и понимание речи, аудио- и видеовопросы, анализ изображений, мультимодальные рассуждения, перевод и генерацию речи. В README использование описано через библиотеку Transformers. Указана архитектура Thinker-Talker и синхронизация аудио с видеовременными метками посредством TMRoPE; метаданные относят модель к семейству Qwen2.5-Omni и указывают плотную архитектуру. Карточка сообщает об английском языке; характеристики контекста и число параметров этой версии в предоставленных данных не приведены. Модель демонстрирует широкие мультимодальные возможности, однако приведённые в README оценки относятся к исходной линейке Qwen2.5-Omni и не гарантируют идентичные результаты этой производной версии. Репозиторий указывает лицензию «other», поэтому перед применением следует проверить условия лицензии в карточке модели.
SciPhi-Self-RAG-Mistral-7B-32k — языковая модель SciPhi, дообученная на основе Mistral-7B-v0.1. После этапа обучения, описанного для SciPhi-Mistral-7B-32k, модель дополнительно дообучили на датасете Self-RAG и смешанных инструктивных наборах данных для RAG. Это плотная трансформерная модель Mistral с 7,1 млрд параметров, Grouped-Query Attention, Sliding-Window Attention и контекстом до 32 768 токенов. Модель предназначена для генерации текста в сценариях Retrieval-Augmented Generation (RAG), включая ответы с использованием извлечённых материалов. Она хорошо показала себя в приведённых авторами бенчмарках, но, по словам разработчиков, требует дополнительной настройки, чтобы стать хорошим диалоговым собеседником. Модель опубликована в формате PyTorch под лицензией MIT.
Sensei-7B-V1 — языковая модель SciPhi для генерации ответов по результатам веб-поиска и сценариев RAG. Она дообучена на синтетических данных от OpenPipe/mistral-ft-optimized-1218, основанной на Mistral-7B, и рассчитана на создание точных, снабжённых ссылками сводок по нескольким результатам поиска. Модель использует плотную архитектуру Mistral с 7,1 млрд параметров, Grouped-Query Attention, Sliding-Window Attention и токенизатор BPE с поддержкой байтов. Родной контекст составляет 32 768 токенов. На вход подают текстовый запрос и контекст поиска; модель генерирует текстовый ответ, который можно оформить в JSON с полями summary и other_queries. Карточка рекомендует использовать один поисковый запрос и также описывает подачу собственного контекста напрямую. Весовые файлы представлены в формате safetensors. Модель предназначена для интеграции в RAG-процесс с веб-поиском; результаты зависят от качества и релевантности предоставленных поисковых данных. Лицензия в доступных данных не указана.
Themis — языковая модель на архитектуре Llama, разработанная PKU-ONELab для оценки качества текстов, созданных системами генерации естественного языка. Модель дообучена на базе meta-llama/Meta-Llama-3-8B; в репозитории указано 7,5 млрд параметров, формат весов — Safetensors, контекст — до 8192 токенов. Для работы требуется текстовый ввод, результат выдаётся в текстовом формате. Модель оценивает тексты без эталонного ответа, в том числе ответы на вопросы, суммаризации, диалоги, описания данных, истории и машинный перевод. Можно задавать критерии оценки — от общей оценки качества до отдельных аспектов; модель также формирует анализ и объяснение оценки. Авторы сообщают о результатах экспериментов на нескольких наборах данных и о проверках на новых задачах, но карточка не содержит полного описания метода и результатов. Модель распространяется по лицензии Apache-2.0.
UMT5-small — многоязычная encoder-decoder модель Google на архитектуре UMT5ForConditionalGeneration с 160,6 млн параметров. Она предварительно обучена на обновлённом корпусе mC4 из веб-текстов на 107 языках с применением схемы UniMax для более равномерного языкового покрытия. Модель предназначена для дальнейшего дообучения под задачи преобразования текста, например перевода, суммаризации и генерации по текстовому запросу. Сам по себе чекпойнт проходил только предварительное обучение без supervised-этапа, поэтому для прикладной задачи его нужно дообучить. Доступны веса PyTorch; лицензия — Apache-2.0.
VibeVoice-ASR-7B — мультимодальная модель распознавания речи семейства VibeVoice, представленная в карточке bezzam; код и исходный проект связаны с Microsoft. Она принимает аудио и создаёт структурированную транскрипцию с текстом, временными отметками и указанием говорящих, объединяя распознавание речи, диаризацию и таймкодирование. Модель рассчитана на длинные записи до 60 минут за один проход, поддерживает более 50 языков и переключение языков в речи. Можно передавать контекстные подсказки и пользовательские ключевые слова для имён и специализированных терминов. Модель реализована как плотная архитектура VibeVoice ASR для Transformers и распространяется в формате safetensors; в README заявлена обработка аудио с контекстом до 64K токенов. Для запуска карточка указывает на использование отдельного форка Transformers, поскольку поддержка ещё не объединена с основной библиотекой. Лицензия — MIT. В README приведены результаты оценки на нескольких наборах данных, однако они не гарантируют аналогичное качество на других языках, типах записи и акустических условиях.