I.2Синтез, понимание и проверка знаний

LongAlign-13B-64k — языковая модель семейства LLaMA, опубликованная командой LongAlign. Она предназначена для генерации текста и выполнения инструкций в длинных контекстах. Проект описывает обучение на наборе LongAlign-10k из 10 000 инструкций длиной 8–64 тыс. токенов и оценивает следование инструкциям на запросах длиной 10–100 тыс. токенов. Модель содержит 12,9 млрд параметров, принимает текст и имеет заявленное контекстное окно 65 536 токенов. В метаданных указаны английский и китайский языки; репозиторий содержит веса PyTorch для Transformers. README объясняет подход проекта к выравниванию моделей для длинного контекста, но приведённый фрагмент не уточняет конкретную базовую модель и обучающие детали именно версии 13B-64k. Лицензия — Apache-2.0.

MiniCheck-DeBERTa-v3-Large — англоязычная модель для проверки фактической обоснованности утверждений по исходному документу, разработанная авторами работы MiniCheck: Efficient Fact-Checking of LLMs on Grounding Documents. Это дообученная для классификации последовательностей модель DeBERTa-v3-Large с 533,8 млн параметров и контекстом 512 токенов. На вход подаются документ и отдельное утверждение; модель выдаёт бинарную метку: 1, если утверждение подтверждается документом, и 0, если нет. Модель предназначена для проверки фактов в ответах языковых моделей и оценки того, насколько отдельные предложения опираются на предоставленные источники. Авторы сообщают, что на бенчмарке LLM-AggreFact она превзошла другие специализированные фактчекеры сопоставимого размера. Обучение включало данные ANLI и синтетические примеры. Модель использует PyTorch и распространяется по лицензии MIT. Проверка выполняется на уровне предложений и требует документа-основания; модель сама по себе не подтверждает утверждения с помощью внешних источников. Авторы оценивали её на реальных утверждениях без искусственно внесённых типов ошибок, поэтому результаты на таких изменённых примерах не охарактеризованы.

MiniCheck-Flan-T5-Large — модель проверки фактов из проекта MiniCheck, созданная для определения, подтверждает ли документ отдельное утверждение. Она принимает документ и предложение-утверждение и возвращает бинарную метку: 1, если документ его поддерживает, и 0, если нет. Модель построена на архитектуре Flan-T5-Large и содержит 385,2 млн параметров; для запуска используется библиотека Transformers, формат весов — PyTorch. Модель предназначена для проверки фактической обоснованности предложений в ответах языковых моделей по предоставленным документам, в том числе для контроля генераций и фактчекинга на уровне предложений. В README сообщается о сравнении с другими специализированными фактчекерами на бенчмарке LLM-AggreFact; заявленные результаты относятся к оцениванию на реальных утверждениях без искусственно внесённых ошибок. Контекст составляет 512 токенов, поэтому объём документа и утверждения ограничен этим размером. Лицензия — MIT.

MiniCheck-RoBERTa-Large — модель для проверки фактов, разработанная авторами работы MiniCheck: Efficient Fact-Checking of LLMs on Grounding Documents. Она принимает документ и отдельное утверждение и определяет, подтверждается ли утверждение содержанием документа, выдавая бинарную метку: 1 — подтверждено, 0 — не подтверждено. Модель предназначена для проверки утверждений в ответах LLM по опорным документам и оценки фактической обоснованности сгенерированного текста на уровне предложений. Это модель классификации последовательностей на базе RoBERTa-Large с 454,1 млн параметров и контекстом 514 токенов. Она дообучена от обученной RoBERTa-Large из AlignScore на 14 тысячах синтетических примеров. В работе авторов модель показала сильные результаты на бенчмарке LLM-AggreFact по сравнению со специализированными фактчекерами сопоставимого размера. Репозиторий содержит веса PyTorch, лицензия — MIT. Модель рассчитана на английский язык. Оценка проводилась на реальных утверждениях; результаты для утверждений, вручную изменённых для внесения определённых ошибок, не оценивались. Для надёжной проверки модель следует использовать вместе с подходящими опорными документами и учитывать ограничение контекста.

ModernCE-large-nli — англоязычный cross-encoder для вывода по паре текстов: определяет, противоречат ли они друг другу, нейтральны ли они или второй текст следует из первого. Модель разработана dleemiller на архитектуре ModernBERT-large и совместима с аналогичными cross-encoder-моделями Sentence Transformers. Она содержит около 394,7 млн параметров; метаданные указывают контекст до 2048 токенов. Модель предназначена для классификации отношений между предложениями, проверки утверждений и оценки соответствия ответа исходному тексту, в том числе при оценке ответов LLM. В README указана точность 92,02% на MNLI mismatched и 91,10% на SNLI. Модель обучалась на AllNLI; автор сообщает, что для большой версии заморозил первые 19 слоёв и дообучил оставшиеся слои с новой классификационной головой. Лицензия — MIT. Это cross-encoder: для оценки пары текстов их нужно подавать совместно, поэтому применение для массового попарного сравнения может требовать значительных вычислений. Хотя README заявляет обработку последовательностей до 8192 токенов, метаданные каталога указывают нативный контекст 2048 токенов.

Карточка модели youyou125709/Qwen2.5-7B-Instruct-1M на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct-1M, поэтому описание составлено по ней. Qwen2.5-7B-Instruct-1M — разговорная модель генерации текста из семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалога, ответов на вопросы, работы с длинными документами и другими задачами, где нужно учитывать большой объём контекста. Модель построена на архитектуре Qwen2 с причинно-следственной языковой моделью и 7,1 млрд параметров по метаданным. Карточка семейства указывает на RoPE, SwiGLU, RMSNorm и контекст до 1 010 000 токенов; генерация ограничена 8192 токенами. Модель дообучена на базе Qwen/Qwen2.5-7B, поддерживает чат и интерфейс вызова инструментов. Указанные языковые сведения подтверждают английский, но сами по себе не доказывают поддержку только одного языка. Для работы с контекстом около миллиона токенов README рекомендует специальную сборку vLLM и указывает потребность как минимум в 120 ГБ видеопамяти суммарно для версии 7B. В прежних средах выполнения качество может снижаться на последовательностях длиннее 262 144 токенов. Лицензия — Apache-2.0.

Qwen Plus 0728 — гибридная модель с рассуждением от команды Qwen, основанная на фундаментальной модели Qwen3. Она предназначена для генерации текста и решения задач, требующих рассуждений. Контекст модели составляет 1 миллион токенов; заявлен баланс производительности, скорости и стоимости. Модель подходит для диалогов, анализа длинных материалов и ответов на вопросы по большим текстовым контекстам. README не приводит подробностей об архитектуре, поддерживаемых языках или лицензии, поэтому эти характеристики нельзя уточнить по имеющимся данным.

SuperPAL — модель для классификации текстовых последовательностей, опубликованная группой BIU-NLP. Она основана на архитектуре RoBERTa и предназначена для оценки согласованности между резюме и отдельными утверждениями исходного текста — задачи Summary-Source Proposition-level Alignment. Модель содержит 454,1 млн параметров, принимает текстовые последовательности с контекстом до 514 токенов и доступна в формате PyTorch. SuperPAL подходит для проверки, подтверждается ли утверждение в резюме соответствующим исходным материалом, например при анализе качества кратких изложений. Карточка ссылается на исследование 2021 года и не приводит лицензию, поэтому условия использования следует уточнить в репозитории или у разработчиков.

Themis — языковая модель на архитектуре Llama, разработанная PKU-ONELab для оценки качества текстов, созданных системами генерации естественного языка. Модель дообучена на базе meta-llama/Meta-Llama-3-8B; в репозитории указано 7,5 млрд параметров, формат весов — Safetensors, контекст — до 8192 токенов. Для работы требуется текстовый ввод, результат выдаётся в текстовом формате. Модель оценивает тексты без эталонного ответа, в том числе ответы на вопросы, суммаризации, диалоги, описания данных, истории и машинный перевод. Можно задавать критерии оценки — от общей оценки качества до отдельных аспектов; модель также формирует анализ и объяснение оценки. Авторы сообщают о результатах экспериментов на нескольких наборах данных и о проверках на новых задачах, но карточка не содержит полного описания метода и результатов. Модель распространяется по лицензии Apache-2.0.

NousResearch/Yarn-Mistral-7b-128k — языковая модель NousResearch на архитектуре Mistral-7B, дополнительно предобученная на данных с длинным контекстом в течение 1500 шагов с применением метода YaRN. Модель предназначена для генерации текста и обработки длинных входных последовательностей, например анализа объёмных документов и поиска ответов в них. В карточке заявлено окно контекста до 128 тысяч токенов. По метаданным, модель содержит 7,1 млрд параметров и распространяется в формате PyTorch для Transformers; базовая модель — Mistral-7B-v0.1. В README приведены результаты тестов длинного контекста и стандартных языковых бенчмарков, где качество на коротком контексте немного ниже, чем у исходной Mistral-7B-v0.1. Указанная лицензия — Apache-2.0. Для загрузки README рекомендует использовать актуальную версию Transformers и параметр trust_remote_code=True.

Yarn-Solar-10b-32k — языковая модель NousResearch на архитектуре Llama с 10,6 млрд параметров, основанная на SOLAR-10.7B-v1.0. Авторы дополнительно обучили её на двух миллиардах токенов длинного контекста, применив метод YaRN для расширения контекстного окна до 32 768 токенов. Модель предназначена для генерации текста и работы с длинными входными материалами: например, для суммирования документов, ответов на вопросы по большим текстам и продолжения текста с учётом удалённых фрагментов. В карточке приведены оценки на тестах длинного контекста и стандартных языковых тестах; результаты относятся к указанным условиям оценки и не гарантируют качество на конкретных задачах. Модель распространяется в формате PyTorch и использует библиотеку Transformers. Для загрузки авторы указывают необходимость включить trust_remote_code и использовать актуальную версию Transformers. Лицензия — Apache-2.0.

CogComp разработала модель классификации на базе BART, обученную определять, соответствует ли краткое изложение исходной статье. Для проверки на вход подают сначала текст краткого изложения, затем исходный документ; порядок важен. Модель предназначена для оценки достоверности резюме и поиска случаев, когда оно искажает содержание источника. Модель содержит 95,2 млн параметров, использует архитектуру BART для классификации последовательностей и принимает контекст длиной до 1024 токенов. В репозитории доступны версии для PyTorch и Flax; в карточке указан английский язык и датасет XSum. Модель опубликована в рамках исследовательской работы NAACL 2021. Лицензия — CC BY-SA 4.0.

BlackSheep-Llama3.2-3B-Context_Obedient — языковая модель TroyDoesAI на архитектуре Llama, дообученная от TroyDoesAI/BlackSheep-Llama3.2-3B. Она предназначена для ответов на вопросы по заданному контексту, например в RAG-сценариях, и обучалась лучше следовать предоставленным источникам, чтобы снижать вероятность галлюцинаций. Модель принимает текст и генерирует текст; для контекстных запросов рекомендуется использовать формат с разделителями BEGININPUT, BEGINCONTEXT, ENDCONTEXT, ENDINPUT и BEGININSTRUCTION, ENDINSTRUCTION. Модель содержит 3,2 млрд параметров, рассчитана на контекст до 131 072 токенов и ориентирована на английский язык. Для обучения использовались Unsloth и библиотека TRL. Модель распространяется по лицензии Apache-2.0. Следование контексту — целевое свойство модели, а не гарантия точности: ответы могут содержать ошибки или неподтверждённые сведения. Для лучших результатов нужно передавать контекст в описанном формате и проверять важные ответы.

CAG-13b — языковая модель Ruotong Pan и соавторов с генерацией, учитывающей достоверность источников. Модель дообучена на LLaMA2-13B и предназначена для ответов на вопросы с использованием контекста, в том числе документов, полученных через RAG. Модель оценивает достоверность сведений в контексте, чтобы сохранять устойчивость к зашумлённым или вводящим в заблуждение документам. Среди сценариев применения авторы называют ответы с учётом персонализированных оценок доверия и разрешение конфликтов между источниками знаний; модель оценивали на открытых и чувствительных ко времени вопросах, а также на вопросах по материалам с дезинформацией. Это плотная причинная архитектура LLaMA с 12,9 млрд параметров и контекстом до 4096 токенов; вход и выход — текст. В карточке указаны английский язык и лицензия MIT. Модель не является специализированной поисковой системой или гарантией проверки фактов: качество ответов зависит от контекста и заданных оценок достоверности.

murtsu/capnstop — чат-модель на базе Granite 4.2 с системным промптом, который задаёт ограниченный бюджет усилий для ответа. Она предназначена для диалога и генерации текста, когда важны краткость и проверяемость: модель разбивает задачу на подцели, проверяет их по критериям завершения и останавливается после подтверждения результата. Если не может проверить часть ответа, она должна сообщить об этом и оценить уверенность, а при затруднении — попробовать другой подход вместо повторения одной попытки. Подход Budgeted Reward Allocation Марко Тахванайнена реализован промптингом, а не дообучением. Модель основана на Granite 4.2 и распространяется в формате GGUF для запуска через Ollama. В README указаны параметры генерации: temperature 0.6, top_p 0.95 и repeat_penalty 1.15. Лицензия — Apache 2.0.

FactCC — модель для оценки фактической согласованности краткого пересказа с исходным текстом. Это современная реализация модели из исследования «Evaluating the Factual Consistency of Abstractive Text Summarization»; автор репозитория — manueldeprada. Модель принимает исходный текст и соответствующее ему резюме как пару и классифицирует резюме как CORRECT или INCORRECT. Модель построена на архитектуре BERT с классификационной головой BertForSequenceClassification и содержит 136,7 млн параметров. Она предназначена для проверки фактов в автоматически созданных резюме, в том числе текстов из набора CNN/DailyMail. Контекст ограничен 512 токенами; для парного ввода в Transformers pipeline требуется специальная упаковка входных данных. Модель ориентирована на английский язык. Доступны веса в форматах PyTorch, TensorFlow и Flax. Лицензия — BSD-3-Clause-Clear.

Gemma-APS 2B — дообученная Google модель на базе Gemma 2B для абстрактивного разбиения текста на пропозиции (утверждения и идеи). Она принимает текстовый фрагмент и возвращает сгруппированный по исходным предложениям список пропозиций, переформулируя каждую как полное предложение с небольшими изменениями исходного текста. Модель предназначена для извлечения утверждений из англоязычных текстов и исследовательских сценариев, где их нужно обрабатывать по отдельности: например, для обоснования ответов, поиска, проверки фактов и оценки генеративных задач. Контекст обучения — 8192 токена; модель доступна через Transformers и распространяется на условиях лицензии Gemma.

German-RAG-LLAMA-3.1-8B-CPT-HESSIAN-AI — авторегрессионная трансформерная языковая модель, разработанная командой Avemio AI при поддержке Hessian AI. Это продолжительно предобученная версия Meta-Llama-3.1-8B: в метаданных указано 7,5 млрд параметров, архитектура LlamaForCausalLM и контекст до 131 072 токенов. Модель предназначена для работы с немецким и английским языками, с акцентом на немецкий. Она обучалась на датасете German-RAG-CPT и ориентирована на ответы на вопросы с опорой на предоставленный контекст, структурированные рассуждения и суммаризацию. Её можно использовать в сценариях RAG, передавая найденные документы вместе с вопросом. Модель может генерировать недостоверные ответы и чувствительный или вредоносный контент; результаты следует проверять, а для прикладных систем предусмотреть меры безопасности. Метаданные Hugging Face указывают лицензию Llama 3.1, тогда как README заявляет Apache 2.0 для кода и модели; условия распространения весов следует сверить с лицензией репозитория.

German-RAG-MISTRAL-7B-v3.0-ORPO-HESSIAN-AI — авторегрессионная языковая модель на архитектуре Transformer Mistral, разработанная командой Avemio AI при поддержке Hessian AI. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Модель дообучена методом ORPO на немецкоязычных и англоязычных данных для сценариев Retrieval-Augmented Generation (RAG). Она предназначена для ответов на вопросы по найденным документам и контексту, извлечения релевантной информации, суммаризации и рассуждений. В README приведены результаты тестирования на наборах для извлечения, ответов на вопросы, суммаризации и сложных рассуждений; это результаты авторской оценки, а не гарантия качества для конкретных данных. Модель может выдавать неверные факты, поэтому ответы следует проверять. Без дополнительной фильтрации она может генерировать вредный или чувствительный контент. Лицензия модели и кода — Apache 2.0.

German-RAG-NEMO-12B-SFT-HESSIAN-AI — авторегрессионная языковая модель на архитектуре Transformer семейства Mistral, разработанная командой Avemio AI при поддержке Hessian AI. Модель содержит 12,1 млрд параметров и дообучена методом SFT на примерах для генерации с дополнением извлечёнными данными (RAG); в метаданных базовой моделью указана avemio/German-RAG-NEMO-12B-CPT-HESSIAN-AI. Модель предназначена для немецкоязычных бизнес-сценариев с RAG: ответов на вопросы по предоставленному контексту, извлечения релевантной информации и её суммаризации. Также карточка описывает примеры для рассуждений и вызова функций. Поддерживаются немецкий и английский языки; заявленная длина контекста — до 1 024 000 токенов. Модель доступна в формате safetensors по лицензии Apache 2.0. Ответы и факты могут быть неверными, поэтому их следует проверять. В README также отмечены риски предвзятости и генерации вредного или чувствительного контента без защитной фильтрации.

GLM-Z1-Rumination-32B-0414 — диалоговая модель глубокого рассуждения от Z.ai, созданная на основе GLM-4-32B-0414. В ней сочетаются длительное пошаговое рассуждение и использование инструментов поиска для решения открытых и сложных задач; обучение дополнительно ориентировано на математику, код, логику, исследовательский стиль письма и задачи с извлечением информации. Модель содержит 32,2 млрд параметров, использует плотную архитектуру GLM-4 и работает с контекстом до 131 072 токенов. Карточка описывает поддержку китайского и английского языков, диалога и вызова инструментов поиска. Указаны сценарии сравнительного анализа, подготовки исследовательских текстов и комплексного поиска с последующим синтезом результатов. Модель распространяется под лицензией MIT. Доступные материалы не приводят отдельных результатов оценки качества или подробностей ограничений; ответы и результаты поиска следует проверять, особенно в задачах, требующих точности и актуальности.

Jan-Nano-128k — компактная языковая модель Alan Dao и Bach Vu Dinh, дообученная на базе Menlo/Jan-nano. Это плотная модель семейства Qwen3 с 3,7 млрд параметров и контекстом до 131 072 токенов. Она предназначена для исследовательских задач: анализа длинных документов и научных статей, синтеза информации из нескольких источников и ведения многоходовых диалогов. Модель поддерживает чат и интерфейс вызова инструментов MCP; авторы характеризуют её как не использующую режим пошагового рассуждения. Модель принимает текст и генерирует текст. Репозиторий содержит веса Safetensors; для запуска авторы описывают развёртывание через vLLM с настройками для длинного контекста и вызова инструментов. Лицензия — Apache-2.0. README сообщает об оценке на SimpleQA, но не приводит численных результатов, поэтому заявленное улучшение относительно Jan-Nano нельзя количественно оценить по карточке.

Mungert/Jan-nano-128k-GGUF — это набор GGUF-квантизированных моделей Jan-Nano-128k, созданный Mungert на основе Menlo/Jan-nano с использованием llama.cpp. Модель предназначена для текстовой генерации и исследовательских задач, включая анализ научных статей и длинных документов, синтез информации из нескольких источников, сложные рассуждения и многошаговые диалоги. Указывается совместимость с серверами Model Context Protocol (MCP) и поддержка вызова инструментов при соответствующей конфигурации. Ключевая характеристика модели — нативное контекстное окно до 128 тысяч токенов, рассчитанное на работу с большими объёмами текста без типичной деградации качества при расширении контекста. Модель компактная, но точный размер параметров, архитектура и перечень поддерживаемых языков в карточке не указаны; заявлен английский язык. Доступны варианты GGUF-квантизации, причём автор применяет повышение точности отдельных важных слоёв для улучшения качества на низких уровнях битности, особенно для MoE-моделей, ценой увеличения размера файлов. Сильными сторонами являются длинный контекст, ориентация на глубокий анализ документов и возможность локального запуска через llama.cpp или vLLM. Ограничения включают зависимость характеристик от выбранного варианта квантизации, отсутствие подробных данных о ресурсах и точности, а также необходимость специальной настройки масштабирования RoPE и максимальной длины контекста при развёртывании. Модель распространяется по лицензии Apache 2.0.

LED Large 16384 — модель семейства Longformer Encoder-Decoder, разработанная AllenAI для обработки длинных текстов. Она использует архитектуру BART-large; матрица позиционных эмбеддингов была расширена копированием, чтобы модель могла обрабатывать последовательности длиной до 16 384 токенов. Веса доступны в форматах PyTorch и TensorFlow, размер модели — 252,8 млн параметров. Модель подходит для суммаризации длинных документов и ответов на вопросы по их содержимому, а также для дообучения под другие задачи обработки текста. Карточка указывает английский язык. Модель распространяется по лицензии Apache 2.0.

Llama-3-Giraffe-70B-Instruct — разговорная языковая модель Abacus.AI, созданная на основе Meta Llama 3 70B Instruct с расширенным контекстом. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров; в метаданных указана длина контекста 8192 токена, а авторы заявляют эффективную длину около 128 тысяч токенов. Для расширения контекста применялись PoSE и динамическая NTK-интерполяция; обучающий адаптер переносили с Llama-3-70B-Base на Instruct-версию и выпустили слитую модель. Модель предназначена для диалогов, следования инструкциям и ответов на вопросы по длинным текстам, включая поиск информации в большом контексте. В README приведены результаты MT-Bench, близкие к исходной Llama 3 70B Instruct, и эксперименты Needle-in-a-Haystack до 128 тысяч токенов; оценивание эффективности авторы продолжают. Модель принимает текст и генерирует текст, карточка указывает английский язык. Репозиторий содержит веса Safetensors. Лицензия — Llama 3 License (llama3).

LMUnit-Qwen2.5-72B — языковая модель Contextual AI для оценки ответов по критериям на естественном языке. Она получает запрос, ответ и проверочный критерий и возвращает непрерывную оценку от 1 до 5: чем выше балл, тем лучше ответ соответствует критерию. Модель основана на Qwen2.5-72B-Instruct и дообучена для оценки качества текста. Она поддерживает диалоговый формат и интерфейс вызова инструментов; число параметров — 71,5 млрд, контекст — до 32 768 токенов. В карточке указана поддержка английского языка. Обучение объединяет сигналы сравнений ответов, прямых оценок и оценок по отдельным критериям. Разработчик приводит результаты на FLASK, BiGGen Bench, LFQA, RewardBench и RewardBench2. Модель подходит для автоматической проверки ответов по пользовательским критериям, ранжирования вариантов и оценки качества развернутых текстов. Лицензия в предоставленных данных не указана.

LongAlign-7B-64k — языковая модель семейства Llama, выпущенная командой LongAlign для следования инструкциям в длинном контексте. В README проект описывает набор LongAlign-10k из 10 000 инструкций длиной 8–64 тыс. токенов, а также обучение с упаковкой примеров и сортировкой по длине батча. Модель содержит 6,6 млрд параметров и рассчитана на контекст до 65 536 токенов. Модель предназначена для генерации ответов на запросы, включающие длинные документы или контекст. Карточка связывает LongAlign-7B-64k-base с Llama-2-7B, расширенной до контекста 64 тыс. токенов; данный репозиторий относится к серии LongAlign, обученной для выравнивания на длинном контексте. Поддерживаемые языки по метаданным — английский и китайский. Модель распространяется по лицензии Apache-2.0. Среди подходящих сценариев — ответы на вопросы по длинным текстам, следование инструкциям с большим контекстом и суммирование объёмных материалов. README описывает LongBench-Chat для оценки следования инструкциям при запросах длиной 10–100 тыс. токенов, но это не означает, что модель принимает контекст свыше заявленных 65 536 токенов. Приведённый фрагмент карточки не сообщает отдельные ограничения качества или подробности использования именно этой версии.

MeaningBERT — модель оценки сохранения смысла между двумя предложениями, представленная автором статьи MeaningBERT: Assessing Meaning Preservation Between Sentences. Она выдаёт оценку смыслового сходства, которую можно использовать как обучаемую метрику при сравнении перефразирований и других пар предложений. В репозитории доступны исходный чекпойнт v1 и рекомендуемый чекпойнт v2 large; карточка указывает архитектуру BERT с 136,7 млн параметров, контекст до 512 токенов и формат safetensors. Для v2 large используется энкодер DeBERTa-v3-large, а результат преобразуется в шкалу от 0 до 100; по данным README, на тесте из 1536 пар он показал корреляцию Пирсона 0,704 ± 0,009. Модель принимает пару текстов и относится к классификации текста, хотя практически её используют как регрессионную метрику сохранения смысла. Она предназначена для оценки результатов перефразирования, упрощения и других преобразований текста. README описывает английские энкодеры bert-base-uncased и deberta-v3-large; основная версия v1 слабее обобщает на некоторые внешние наборы данных, а v2 требует корректного преобразования логита в оценку 0–100. Лицензия в предоставленных данных не указана.

MiniCPM-SALA — языковая модель OpenBMB с 7,9 млрд параметров для генерации текста и диалогов. Она использует гибридную архитектуру: 25% слоёв со sparse attention InfLLM-v2 и 75% с linear attention Lightning Attention. Модель рассчитана на обработку очень длинного контекста: в карточке заявлена длина 524 288 токенов, а README описывает поддержку до миллиона токенов. Модель подходит для диалогов и задач, требующих анализа длинных документов или больших контекстов; заявлены сохранение общих способностей, включая знания, математику и программирование. Для работы через Transformers требуется CUDA 12 или новее и компиляция зависимостей. Модель распространяется по лицензии Apache-2.0. Ответы следует проверять самостоятельно.

Mihaiii/Pallas-0.4 — инструкционная дообученная языковая модель на архитектуре Llama, созданная на базе migtissera/Tess-34B-v1.4. Она содержит 33,9 млрд параметров и поддерживает контекст до 200 000 токенов. Модель предназначена для рассуждений и понимания текста, хорошо работает с длинными системными промптами. Её можно использовать для ответов на вопросы и анализа длинных текстовых материалов; для художественного повествования она не предназначена. Обучение выполнено на частном датасете. Лицензия указана как other.