I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельrubert-nli-threeway-onnx — русскоязычный BERT-классификатор последовательностей, экспортированный в ONNX. Модель разработана для трёхстороннего распознавания логического отношения между посылкой и гипотезой: следование (entailment), противоречие (contradiction) или нейтральное отношение (neutral). Она принимает input_ids, attention_mask и token_type_ids и выдаёт logits для трёх классов. В репозитории представлены варианты fp32, fp16 и динамический int8. Версии fp16 и int8 предназначены для уменьшения размера и ускорения инференса на соответствующем оборудовании; для всех вариантов сохранены входы и выходы формата fp32/целочисленных идентификаторов. Контекст — до 512 токенов, размер модели — 205,1 млн параметров. README сообщает о проверке сохранения предсказанного класса на восьми наборах примеров, что не является широкой оценкой качества. Лицензия — Apache-2.0.
StructLM-7B — языковая модель TIGER-Lab для задач привязки запросов к структурированным знаниям. Это дообученная для следования инструкциям плотная модель семейства Llama с 6,6 млрд параметров и контекстом до 16 384 токенов. Она принимает текстовые инструкции и линеаризованные структурированные данные, например таблицы, тройки знаний и схемы графов знаний, и генерирует ответ в заданном формате. Модель предназначена для вопросов и рассуждений по структурированным данным: ответов на вопросы по таблицам и графам знаний, проверки фактов и генерации структурированных ответов. Для обучения использованы набор SKGInstruct с 19 задачами структурированного grounding и SlimOrca. В карточке приведены результаты оценки на задачах ToTTo, GrailQA, Spider, TabFact и других; показатель зависит от конкретной задачи и набора данных. Модель распространяется под лицензией MIT. Авторы указывают, что она предназначена для исследований и может уступать в качестве при обычном диалоге и других сценариях общего назначения.
lmqg/t5-base-squad-qg-ae — модель T5-base, дообученная командой lmqg для совместной генерации вопросов и извлечения ответов по тексту. Она обучена на английской версии датасета lmqg/qg_squad и подходит для создания вопросов по исходному фрагменту и выделения из него ответа, в том числе при подготовке обучающих и проверочных материалов. Модель содержит 123,7 млн параметров, использует архитектуру T5 и принимает текст с контекстом до 512 токенов. В README приведены метрики генерации вопросов, совместной генерации вопросов и ответов, а также извлечения ответов на lmqg/qg_squad. Лицензия — CC BY 4.0; результаты на этом датасете не гарантируют такое же качество на других текстах и предметных областях.
google/tapas-base-finetuned-tabfact — модель TAPAS, разработанная Google и дообученная на наборе TabFact для проверки утверждений по содержимому таблиц. Она классифицирует, подтверждается ли предложение данными таблицы или опровергается ими; также может служить основой для табличных вопросов и ответов. Архитектура TAPAS построена на трансформере типа BERT и учитывает структуру таблиц. Модель содержит 136,7 млн параметров, доступна в форматах PyTorch и TensorFlow, а её контекст ограничен 1024 токенами. Модель предварительно обучалась на английских таблицах и связанном тексте с помощью masked language modeling и промежуточного обучения на примерах числового рассуждения, затем дообучалась на TabFact с классификационной головой. По умолчанию используется версия с относительными позиционными эмбеддингами, где индексы позиций сбрасываются в каждой ячейке; также доступен вариант no_reset с абсолютными позиционными эмбеддингами. Вход включает предложение и сериализованную таблицу. Лицензия Apache 2.0.
ThinkPRM-1.5B — генеративная модель процессной оценки рассуждений, разработанная командой Launch и дообученная на базе R1-Distill-Qwen-1.5B. Она проверяет решения по шагам: формирует текстовые критические замечания и оценки корректности каждого шага, а также может оценивать решение целиком. Модель предназначена для проверки математических и научных рассуждений, верификации кода, ранжирования кандидатных решений в Best-of-N и поддержки поиска по дереву рассуждений. Для обучения использовано около 1 000 синтетических примеров проверочных цепочек рассуждений, сверенных с метками PRM800K. Модель имеет плотную архитектуру Qwen2, 1,5 млрд параметров и контекст до 131 072 токенов; принимает текст и генерирует текстовые объяснения и оценки. В карточке указаны результаты на ProcessBench, MATH-500, AIME '24, GPQA-Diamond и LiveCodeBench. Модель может чрезмерно уверенно выдавать оценки, близкие к 0 или 1; ранняя ошибочная оценка шага может повлиять на последующие, а результат зависит от формата решения и промпта. Лицензия — Apache-2.0.
Карточка модели AITeamVN/Vi-Qwen2-1.5B-RAG на Hugging Face совпадает с карточкой AITeamVN/Vi-Qwen2-3B-RAG, поэтому описание составлено по ней. Vi-Qwen2-3B-RAG — языковая модель семейства Qwen2, дообученная командой разработчиков, указанной в карточке, для задач генерации с дополнением найденными материалами (RAG). Модель рассчитана на вьетнамский язык и поддерживает диалоговый режим; в метаданных указаны 3,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для ответов на вопросы по извлечённым документам: она может находить полезные сведения в зашумлённом контексте, отказываться от ответа при отсутствии нужной информации, объединять факты из нескольких фрагментов и определять, содержится ли ответ в контексте. Также её можно применять как чат-модель для последовательных вопросов. В карточке описана оценка определения наличия ответа с точностью около 99%, но подробности методики и воспроизводимые результаты не приведены. Это плотная авторегрессионная модель Qwen2 для генерации текста, доступная в формате Safetensors и рассчитанная на использование через Transformers. README описывает версию Vi-Qwen2-7B-RAG, тогда как идентификатор репозитория и метаданные относятся к Vi-Qwen2-3B-RAG; поэтому сведения о специфических результатах и сценариях меньшей версии следует считать описанием семейства, а не подтверждёнными отдельными оценками этой модели. Лицензия — Apache-2.0. Разработчики предупреждают, что модель специализирована на RAG и может быть ненадёжной в вопросах политики и общества, а также проявлять предвзятость или неуместные взгляды.
xVerify-0.5B-I — компактная модель для проверки ответов, представленная в статье «xVerify: Efficient Answer Verifier for Reasoning Model Evaluations». Она дообучена на Qwen/Qwen2.5-0.5B-Instruct и содержит около 494 млн параметров; модель использует плотную архитектуру Qwen2 и запускается через Transformers. Её задача — извлекать окончательный ответ из длинного рассуждения и проверять его эквивалентность эталонному ответу в вопросах с одним правильным ответом. Модель подходит для оценки ответов на математические задачи, вопросы с выбором варианта, задания на классификацию и короткие вопросы. Она сопоставляет ответы с учётом регистра, преобразований греческих букв, математической записи и смысла естественно-языковой формулировки, а варианты выбора сравнивает по содержанию, а не только по обозначению. Заявлена поддержка китайского и английского языков, а также совместимость с другими языками; контекст составляет до 32 768 токенов. Модель ориентирована на объективные задания с единственным правильным ответом и не предназначена для открытой оценки ответов, где допустимы разные субъективные решения. Лицензия CC BY-NC-ND 4.0 ограничивает коммерческое использование и распространение производных версий.
xVerify-9B-C — модель IAAR-Shanghai для проверки ответов в системах оценки рассуждающих моделей. Она дообучена на базе THUDM/glm-4-9b-chat и предназначена для задач с одним объективно правильным ответом: модель извлекает итоговый ответ из длинного объяснения и определяет, эквивалентен ли он эталону. Модель подходит для проверки математических решений, ответов на вопросы с выбором варианта, классификационных результатов и кратких ответов. Она сопоставляет варианты по смыслу, а не только по метке, распознаёт эквивалентные математические записи и учитывает смысловую эквивалентность ответов на естественном языке. Архитектура — плотная ChatGLM; размер по метаданным — 11,4 млрд параметров, контекст — до 131 072 токенов. Основные языки — китайский и английский; README также заявляет совместимость с другими языками. В Hugging Face модель помечена как text-generation, хотя её основное назначение — проверка и классификация ответов. Для использования требуются Transformers и формат весов safetensors. Лицензия CC BY-NC-ND 4.0 ограничивает распространение производных версий и коммерческое использование.
zeromodels/bart_base — реализация базового чекпойнта BART в формате Keras 3 от проекта zeromodels, перенесённая с facebook/bart-base. Это трансформер encoder-decoder для извлечения признаков и дообучения на задачах понимания и генерации текста; веса доступны в формате TensorFlow, а реализация рассчитана на работу с TensorFlow, Torch и JAX. Модель обучена восстанавливать искажённый текст: двунаправленный энкодер сочетается с авторегрессионным декодером, используется токенизатор byte-level BPE, общий с RoBERTa. Чекпойнт предназначен прежде всего как языковой backbone: его можно применять для получения признаков или дообучать для суммаризации, перевода, классификации последовательностей и других задач text-to-text. Головы задач, отсутствующие в репозитории, инициализируются случайно и требуют дообучения; готовые специализированные веса можно загружать отдельно. Лицензия — Apache-2.0.
Compactor-Qwen3.5-4B-GGUF — набор GGUF-квантованных версий модели Compactor-Qwen3.5-4B, разработанной schneewolflabs и квантованной mradermacher. Модель относится к семейству Qwen3.5 и имеет размер около 4 млрд параметров; в метаданных указаны дообучение методом SFT и объединение моделей. Основные сценарии применения — суммаризация, компактное представление контекста и работа в агентских системах. Заявлен английский язык; сведения о других языках, модальностях и размере контекстного окна отсутствуют. Доступны варианты от Q2_K до Q8_0, IQ4_XS и f16, с размером файлов примерно от 2,0 до 8,5 ГБ. Это позволяет выбирать между требованиями к памяти, скоростью и качеством: Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как обеспечивающий очень хорошее качество, а Q8_0 — как быстрый вариант с наилучшим качеством. Более сильное квантование уменьшает требования к ресурсам, но может снижать качество вывода; для некоторых вариантов отмечены ограничения качества. Модель удобна для локального запуска в совместимых инструментах, поддерживающих формат GGUF, и может быть полезна в задачах обработки и сжатия контекста при ограниченных ресурсах. Количественные результаты оценки, точные архитектурные характеристики и подробные ограничения применения в README не приведены. Лицензия — Apache-2.0.
microsoft/deberta-base-mnli — англоязычная модель классификации текста от Microsoft, полученная дообучением базовой DeBERTa-base на задаче MNLI. DeBERTa использует раздельное представление содержимого и позиций в механизме внимания и улучшенный декодер маскирования; в этой версии применяется архитектура DebertaForSequenceClassification с 151,8 млн параметров и контекстом до 512 токенов. Модель предназначена прежде всего для классификации текстовых пар по отношению между посылкой и гипотезой: например, для определения логического следования, противоречия или нейтральности. Её можно применять в задачах понимания естественного языка и как основу для оценки текстовых гипотез. Карточка приводит результаты базовой DeBERTa на MNLI и SQuAD, но показатели SQuAD не подтверждают, что данный чекпойнт дообучен для ответов на вопросы. Модель распространяется по лицензии MIT.
DocuBrief — языковая модель для суммаризации документов, созданная разработчиком samandar1105 путём дообучения Qwen/Qwen2.5-1.5B-Instruct с помощью QLoRA. Модель обучена на 4000 примерах, подготовленных на основе CNN/DailyMail, и предназначена для работы вместе с RAG- или chunking-слоем, который передаёт ей содержимое документа. Модель формирует ясные, структурированные и ориентированные на исходный текст краткие пересказы. Её можно применять для суммирования новостных статей и документов на английском языке; для длинных документов предполагается обработка фрагментов с помощью map-reduce или RAG. Это плотная авторегрессионная архитектура Qwen2 с 1,5 млрд параметров и контекстом до 32 768 токенов. Модель обучалась на новостных текстах, поэтому для юридических, медицинских, научных и других узкоспециализированных документов качество может быть ниже. Для произвольных больших документов требуется внешний слой разбиения и передачи содержания. Лицензия — Apache-2.0.
Модель dpo-qwen2.5-0.5b-halueval разработана Varun Chundru и Debasmita Biswas как компонент снижения галлюцинаций в исследовательском проекте Purdue University Fort Wayne. Это плотная причинная языковая модель Qwen2.5 на 494 млн параметров, дообученная методом Direct Preference Optimization на предпочтениях, составленных по трём задачам набора HaluEval: ответам на вопросы, диалогу и суммаризации. Модель предназначена для генерации текста по контексту, в частности для ответов на вопросы и суммаризации документов с опорой на источник. Она принимает текст и может использовать контекст до 32 768 токенов; карточка указывает английский язык. В оценке на отложенной части HaluEval общая доля галлюцинаций, измеренная отдельным классификатором DeBERTa, снизилась с 85,5% у базовой модели до 37,7%. Наибольший эффект показан для ответов на вопросы и суммаризации, тогда как в диалоге показатель остался высоким — 94,2%. Это измерения классификатора-прокси, а не человеческая оценка; обучение длилось одну эпоху, а ограничение длины при обучении могло обрезать длинные документы. Модель не рекомендуется для высокорисковых сценариев без дополнительной проверки. Лицензия — Apache-2.0.
lmqg/flan-t5-base-squad-qag — модель генерации пар «вопрос–ответ», разработанная на базе google/flan-t5-base и дообученная проектом lmqg на наборе lmqg/qag_squad. Она предназначена для создания вопросов и соответствующих ответов по тексту на английском языке, например для подготовки учебных материалов и наборов вопросов по документам. Модель использует архитектуру T5 и содержит 123,7 млн параметров; длина контекста — 512 токенов. Доступны веса в формате PyTorch. В карточке приведены метрики QAAligned на обучающем наборе, включая BERTScore F1 93,04 и MoverScore 65,24. Эти оценки не гарантируют такое же качество на других данных. Модель распространяется по лицензии CC BY 4.0.
kez-lab/gemma-2-2b-quiz-korean — дообученная на базе Google Gemma 2 2B Instruct компактная плотная языковая модель для генерации тестов с одним правильным ответом по предоставленным корейским текстам. Она формирует вопросы с четырьмя вариантами, пояснением и дословной цитатой из источника, а также подбирает отвлекающие варианты ответов. Модель предназначена для создания учебных заданий по статьям, блогам и технической документации; автор также заявляет о возможности локального запуска на Android через LiteRT и MediaPipe. Архитектура Gemma2ForCausalLM, около 2,7 млрд параметров, контекст до 8192 токенов. Карточка сообщает об оценке 0,985 на тестовом наборе из 100 статей по десяти тематическим областям, однако эти результаты относятся к заявленной автором оценке. Модель принимает текст и выдаёт текст со структурированным JSON-полезным содержимым. Для модели указана лицензия Gemma; перед использованием следует учитывать её условия. Заявления о полном отсутствии галлюцинаций не следует считать гарантией для произвольных входных данных.
HEBATRON — языковая модель, разработанная PwC Israel и MAFAT при участии AWS. Она дообучена на базе NVIDIA Nemotron-3-Nano-30B и предназначена прежде всего для работы на иврите, включая анализ его морфологии и разных регистров речи; также заявлена поддержка английского языка. Архитектура сочетает Mamba2 и разреженный Mixture-of-Experts. В репозитории указано 1,9 млрд параметров, а README описывает исходную конфигурацию как модель на 31,6 млрд параметров. Метаданные указывают контекст до 262 144 токенов; README сообщает о настройке на окно 64 тыс. токенов. Модель подходит для анализа длинных юридических и технических документов, суммаризации и двуязычных рассуждений на иврите и английском. В README также приведены результаты тестов на рассуждение, математические задачи и понимание текста; эти показатели заявлены авторами карточки. Для запуска в README рекомендуются vLLM и мощные GPU. Модель распространяется по лицензии Apache 2.0. Как и у других языковых моделей, её ответы могут содержать фактические ошибки и требуют проверки.
satgeze/Hy3-1M-GGUF — это GGUF-квантизированная версия модели Tencent Hy3, основанной на архитектуре hy_v3. Модель имеет MoE-архитектуру примерно на 299 млрд параметров, из которых около 17 млрд активны при генерации. Конвертация в GGUF и расширение контекстного окна выполнены сообществом; заявлена поддержка llama.cpp, включая MTP speculative decoding. Модель предназначена для генерации текста, рассуждений и работы с очень большими документами или наборами данных, где требуется контекст до 1 048 576 токенов. Для расширения контекста используется YaRN. Поддержка длинного контекста подтверждена тестами Needle-in-a-Haystack: достигнут результат 10/10 на длине до 786 тысяч токенов, тогда как на полном окне в 1 миллион токенов средний результат составил около 70% на иглу и зависит от случайного начального состояния. На 524 тысячах токенов многозвенное извлечение достигло 4/5. Доступны варианты с различной степенью квантования, включая IQ1_M, IQ2_M, Q2_K и Q4_K_M. Более агрессивные варианты требуют меньше памяти, но заметнее теряют качество; в README IQ2_M рекомендован как практический компромисс, тогда как IQ1_M описан как наиболее слабый. Для запуска нужен недавний mainline llama.cpp с поддержкой hy_v3 и MTP, а также исправленный шаблон чата chat_template_llamacpp.jinja. MTP показал сопоставимое с официальной реализацией Tencent поведение и может ускорять декодирование на CUDA, но эффективность зависит от порога уверенности и конфигурации. Модель распространяется по лицензии Apache 2.0. README не указывает поддерживаемые естественные языки и не содержит полноценных сравнительных оценок качества, поэтому её языковые возможности и общую точность следует проверять отдельно.
ISOM-R1-Enterprise-40B — производная Falcon-40B-Instruct, разработанная Prannessh K.V.A. как исследовательская реализация для аналитических рассуждений и анализа длинных документов в корпоративных сценариях. Модель использует плотную авторегрессионную архитектуру Falcon с 60 слоями и Multi-Query Attention; в README заявлено 40 млрд параметров, тогда как метаданные указывают 65 млрд. Для каталога длина контекста составляет 8192 токена, хотя в README приведены теоретические спецификации до 32 768 токенов. Автор описывает ограниченное состояние памяти и изометрические операторы как архитектурные особенности, призванные снизить рост затрат на KV-кэш при длинном контексте. Приведённые оценки названы теоретическими; эмпирическая проверка обработки последовательностей длиной 32K не заявлена. Модель генерирует текст по текстовому запросу, карточка указывает английский язык. Репозиторий содержит веса PyTorch и SafeTensors. Лицензия модели — CC BY-NC-ND 4.0; README отдельно указывает, что базовая Falcon-40B-Instruct распространяется по Apache 2.0.
kevin009/llamaRAGdrama — дообученная модель для генерации ответов на вопросы и синтеза текста в сценариях RAG. По метаданным это плотная авторегрессионная модель семейства Mistral объёмом 7,1 млрд параметров с контекстом до 32 768 токенов; репозиторий содержит веса в формате Safetensors. Разработчик сообщает, что обучение ориентировано на ответы, сохраняющие фактическую точность в драматических текстовых сценариях, с использованием художественных материалов, баз данных и надёжных источников. Модель предназначена для генерации ответов по предоставленному контексту и объединения сведений из источников в RAG-системах. Она может быть полезна для вопросно-ответных приложений, которым нужно работать с художественным или драматическим содержанием, сохраняя фактические сведения. Поддерживаемый язык карточкой не определён. В README отмечены возможные предвзятость и неточности, а также отсутствие гарантии безопасности ответов. Модель распространяется по лицензии Apache-2.0.
YeungNLP/LongQLoRA-Llama2-7b-8k — дообученная версия LLaMA 2 7B, созданная авторами метода LongQLoRA для работы с длинным контекстом. В карточке описан метод эффективного расширения контекстного окна больших языковых моделей с меньшими затратами GPU; для этой модели заявлено увеличение длины контекста с 4096 до 8192 токенов, а метод в целом также позволяет расширение до 12 тысяч токенов. Модель предназначена для генерации текста и продолжения длинных документов. Авторы сообщают о конкурентных значениях perplexity на PG19 и Proof-pile после 1000 шагов дообучения; в сравнении с LongLoRA модель показала лучшие значения и приблизилась к MPT-7B-8K. В метаданных указаны 6,6 млрд параметров, архитектура LLaMA и библиотека Transformers; язык карточки — английский. Модель опубликована под лицензией Apache-2.0. Результаты в README относятся к оценке perplexity на конкретных корпусах и сами по себе не подтверждают качество для всех задач генерации; заявленная цель — работа с длинным контекстом.
LongReward-glm4-9b-DPO — чат-модель на архитектуре GLM, разработанная командой LongReward и дообученная методом DPO для работы с длинным контекстом. Она предназначена для генерации ответов и диалога, в том числе с использованием интерфейса вызова инструментов. Модель обучена на предпочтениях из раздела dpo_glm4_9b датасета LongReward-10k и поддерживает контекст до 65 536 токенов. Модель содержит 8,8 млрд параметров, использует библиотеку Transformers и опубликована в формате safetensors. В карточке указаны английский и китайский языки. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией в репозитории. Данных о качестве на конкретных задачах в карточке нет.
google/long-t5-local-base — англоязычная предварительно обученная модель Google из семейства LongT5. Это плотный трансформер-кодировщик-декодировщик с 123,8 млн параметров, реализованный как LongT5ForConditionalGeneration. Модель обучена в режиме генеративного восстановления текста и использует эффективное локальное внимание для обработки длинных последовательностей; её контекст составляет до 4096 токенов. Модель предназначена прежде всего для дообучения на размеченных данных. После настройки её можно применять для суммаризации длинных документов и ответов на вопросы по длинному тексту. В качестве основы она подходит для генеративных задач, где важно учитывать протяжённый вход, однако готовая карточка не описывает её как специализированную модель для конкретной задачи. Выпущена под лицензией Apache-2.0.
ccdv разработал ccdv/lsg-bart-base-16384-arxiv — модель семейства BART для суммаризации научных статей arXiv. Она дообучена на наборе scientific_papers и использует Local-Sparse-Global attention для обработки длинных входных последовательностей до 16 384 токенов. В карточке сообщается о результатах на тестовой выборке по метрикам ROUGE; приведённые значения зависят от настроек внимания и дообучения. Модель принимает текст статьи и генерирует текстовое резюме на английском языке. Указанный в метаданных размер — 95,2 млн параметров; README приводит оценку около 145 млн параметров. Для запуска требуется Transformers версии 4.36.1 или новее и загрузка пользовательского кода модели с trust_remote_code=True. Лицензия в предоставленных данных не указана.
MedResearcher-R1-32B — специализированная медицинская модель для глубокого поиска и синтеза информации, созданная командой авторов, перечисленных в карточке. Это плотная авторегрессионная модель семейства Qwen2, дообученная на основе Qwen/Qwen2.5-32B-Instruct методом supervised fine-tuning и онлайн-обучения с подкреплением. Она рассчитана на диалоговые сценарии и сложные медицинские запросы, требующие многошагового рассуждения и взаимодействия с инструментами поиска. Модель содержит 32 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors. В обучении использованы синтезированные цепочки рассуждений по медицинским графам знаний и траектории с взаимодействиями инструментов. В README сообщается о результатах на MedBrowseComp, GAIA и xBench; заявлены превосходство над крупными системами на медицинском бенчмарке и сопоставимость с GPT-4o-mini на общих бенчмарках. Модель предназначена для исследовательских и вспомогательных задач поиска и обобщения медицинской информации, а не для самостоятельной постановки диагноза или назначения лечения. Она лицензирована по MIT. Практическое использование инструментов поиска требует соответствующей внешней инфраструктуры; качество ответов и медицинские выводы следует проверять.
Metis-0.3 — диалоговая модель, созданная Mihaiii как дообучение Mistral-7B-Instruct-v0.2. Она предназначена для рассуждений и понимания текста, хорошо работает с длинными системными инструкциями и поддерживает диалоговый формат запросов. Модель имеет плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель обучена на закрытом наборе данных; автор отмечает высокий результат на GSM8K, но не связывает его с набором MetaMath. Она не предназначена для универсальной генерации, например для написания художественных историй. Распространяется по лицензии Apache-2.0.
agemagician/mlong-t5-tglobal-large — предварительно обученная многоязычная модель семейства MLongT5, опубликованная Ahmed Elnaggar на основе работы Uthus и соавторов и проекта LongT5. Это encoder-decoder Transformer с механизмом transient-global attention, предназначенным для эффективной обработки длинных текстовых последовательностей. Модель содержит около 615 млн параметров и доступна в форматах PyTorch и Flax. Модель обучена на многоязычном корпусе в режиме текстового денойзинга и предназначена прежде всего для дообучения на размеченных данных. После настройки её можно применять для генерации текста, включая суммаризацию и ответы на вопросы по длинным входным материалам. В карточке заявлена обработка последовательностей до 16 384 токенов; метаданные каталога указывают нативный контекст в 4096 токенов. Карточка перечисляет поддержку множества языков, включая английский, арабский, испанский, французский, хинди и японский. Модель принимает и генерирует текст. Лицензия — Apache-2.0. Для конкретной задачи обычно требуется дообучение; качество может зависеть от языка, данных настройки и длины входа.
vllm-sr/mmbert32k-factcheck-classifier-merged — объединённая версия классификатора проверки фактов от vllm-sr на базе mmBERT-32k. Модель предназначена для бинарной классификации текста в сценариях фактчекинга и готова к инференсу без отдельного подключения PEFT-адаптера. Модель использует плотную архитектуру ModernBERT с масштабированием RoPE методом YaRN, содержит около 306,9 млн параметров и принимает последовательности длиной до 32 768 токенов. Указана поддержка нескольких языков; лицензия — Apache-2.0. Модель можно загружать через Transformers как классификатор последовательностей.
ReasonCritic-7B-i1-GGUF — квантизированная версия текстовой модели ReasonCritic-7B, разработанной fableforge-ai. Квантизацию выполнил mradermacher; модель распространяется в формате GGUF и предназначена для запуска через совместимые инструменты, включая llama.cpp, LM Studio и Ollama. Модель ориентирована на генерацию текста, задачи рассуждения, критическую оценку и проверку ответов. В метаданных указано 7B параметров и поддержка английского языка. Доступны варианты квантизации от очень компактных IQ1 до более качественного Q6_K, с размером файлов примерно от 2,2 до 6,8 ГБ; также предоставлен imatrix-файл для создания собственных квантов. Сильной стороной является выбор различных уровней квантизации, позволяющий адаптировать требования к памяти, скорости и качеству, а варианты Q4_K_S и Q4_K_M отмечены как оптимальные или рекомендуемые. При этом низкобитные варианты могут заметно уступать по качеству, а README не содержит данных о контекстном окне, точной архитектуре, мультимодальности, результатах бенчмарков и ограничениях применения. Модель распространяется по лицензии Apache-2.0.
textattack/roberta-base-MNLI — модель классификации текста, опубликованная организацией TextAttack на Hugging Face. Это RoBERTa с плотной архитектурой и примерно 151,8 млн параметров, дообученная для распознавания текстовых следствий (natural language inference, NLI). Она принимает пару предложений: посылку и гипотезу, затем классифицирует их отношение как следование, нейтральное отношение или противоречие. Модель подходит для проверки, подтверждает ли исходный текст заданное утверждение, и для экспериментов с классификацией пар предложений. Модель рассчитана на англоязычные данные. Максимальная длина контекста составляет 514 токенов. Доступны веса PyTorch и Flax; карточка Hugging Face не приводит лицензию и отдельные сведения об ограничениях качества.
SciTulu 7B — языковая модель с инструкционной настройкой, разработанная Allen Institute for AI (Ai2) для понимания научной литературы. Она создана на основе Tulu v2 7B и дообучена на примерах из SciRIFF вместе с общими инструкциями из набора Tulu v2 SFT. Модель предназначена для выполнения инструкций и задач по научным публикациям. По данным карточки, на девяти отложенных задачах понимания научной литературы она в среднем улучшила результат на 28,1% относительно Tulu v2 7B. Архитектура — плотная Llama для генерации текста, около 6,6 млрд параметров; контекст — 4096 токенов. Указана поддержка английского языка. Модель распространяется по лицензии Apache-2.0. Карточка отсылает к описанию Tulu для сведений о рисках, смещениях и ограничениях; конкретные ограничения SciTulu отдельно не перечислены.