I.2Синтез, понимание и проверка знаний

Карточка модели 4bit/Llama-2-7b-chat-hf на Hugging Face совпадает с карточкой NousResearch/Llama-2-7b-chat-hf, поэтому описание составлено по ней. NousResearch/Llama-2-7b-chat-hf — диалоговая языковая модель семейства Llama 2, разработанного Meta и опубликованная в формате Hugging Face Transformers. Это плотный авторегрессионный трансформер с 6,6 млрд параметров; веса представлены в форматах PyTorch и Safetensors. Модель принимает текст и генерирует текст, а её контекст составляет 4096 токенов. Модель дообучена с помощью supervised fine-tuning и обучения с подкреплением по человеческим отзывам для диалогов в формате помощника. Она предназначена для ответов на вопросы, ведения диалога и генерации текста на английском языке. Для ожидаемого поведения нужно соблюдать форматирование Llama 2 Chat с соответствующими маркерами инструкций и токенами. Модель может выдавать неточные, предвзятые или нежелательные ответы, а проведённые оценки не охватывают все возможные сценарии. Данные предобучения имеют срез до сентября 2022 года. Использование регулируется собственной лицензией Meta для Llama 2; для получения весов требуется принять её условия.

YeonwooSung/Llama-3.1-8B-OpenO1-SFT-v0.1 — плотная авторегрессионная языковая модель семейства Llama 3.1, разработанная на основе Meta Llama 3.1 8B Instruct и дообученная методом supervised fine-tuning на датасете O1-OPEN/OpenO1-SFT. Она предназначена для генерации текста и диалогов с пошаговым рассуждением, ответов на вопросы, продолжения текста, суммаризации и творческого письма; особенно ориентирована на задачи рассуждения и математики. Модель содержит 7,5 млрд параметров, принимает текст и выдаёт текст, работает через Transformers и распространяется в формате safetensors. Указанный родной контекст — 131 072 токена. В карточке заявлена поддержка английского языка; базовая модель описана как многоязычная, но конкретные дополнительные языки для этой версии не подтверждены. Лицензия — Apache-2.0. Для запуска в полной точности README рекомендует GPU примерно с 16 ГБ видеопамяти; качество ответов и надёжность пошаговых выводов не подтверждены приведёнными оценками.

Llama-3.3-70B-Instruct-FP8-KV — квантизированная версия модели meta-llama/Llama-3.3-70B-Instruct, подготовленная Advanced Micro Devices (AMD) с использованием Quark и калибровочных образцов из набора данных Pile. Модель предназначена для задач генерации текста и диалоговых сценариев, поддерживаемых исходной instruct-моделью Llama 3.3, с эффективным инференсом на совместимой инфраструктуре. Ключевая особенность — FP8-квантизация: все линейные слои, кроме lm_head, используют симметричное по тензору представление FP8 для весов и активаций, а KV-cache также хранится в FP8. Модель экспортируется в формат Quark safetensors и совместима с развертыванием через backend vLLM. Указан результат на perplexity для wikitext2: 3,9622 против 3,8624 у исходной модели; авторы отмечают, что оценка выполнена в режиме псевдоквантизации и может отличаться от точности при фактическом инференсе. Лицензия обозначена как llama3.3; применяются условия лицензии Meta для Llama 3.3, при этом модификации принадлежат Advanced Micro Devices, Inc. Для использования требуется совместимая среда Quark и поддержка FP8 со стороны оборудования и backend.

Cerebras Llama3-DocChat 1.0 8B — языковая модель Cerebras для диалоговых вопросов и ответов по предоставленным документам. Это плотная авторегрессионная модель семейства Llama 3 с 7,5 млрд параметров, дообученная с учётом исследований по документным вопросам и ответам, включая работы над ChatQA. В карточке указаны поддержка чата, формат PyTorch и контекст до 8192 токенов. Модель принимает вопрос вместе с текстом документа в сообщении пользователя и формирует ответ в формате диалога. Её настраивали для подробных ответов по контексту и указания, когда ответ в нём не найден; можно также задавать предпочтительную длину ответа. В тестах ChatRAG она показала результаты, сопоставимые с опубликованными моделями для документного Q&A, хотя результаты зависят от набора данных и сценария. Модель рассчитана прежде всего на англоязычные сценарии. В метаданных указана лицензия other; конкретные условия использования следует проверять на странице модели и в сопровождающих материалах. Как и другие генеративные модели, она может ошибаться или выдавать неподтверждённые контекстом сведения, поэтому ответы требуют проверки.

Llama-3-Giraffe-70B — экспериментальная длинноконтекстная версия Llama 3 70B, представленная Abacus.AI. Это плотная авторегрессионная языковая модель на архитектуре LlamaForCausalLM с 69,5 млрд параметров; README сообщает об эффективном контексте около 128 тыс. токенов, тогда как в метаданных указан native context 8192 токена. Для расширения контекста применялись PoSE и динамическая NTK-интерполяция: обучение включало около 1 млрд токенов и длинные образцы из RedPajama. Модель предназначена для генерации текста и экспериментов с извлечением информации из длинных последовательностей, например поиска фрагмента в большом документе. В README приведена оценка Needle-in-a-Haystack на контекстах до 128 тыс. токенов, но это начальный выпуск, и авторы отмечают, что планируют улучшать результаты по мере дальнейшего обучения. Модель принимает и генерирует текст; в метаданных указан английский язык. Лицензия — Llama 3 license (llama3).

Llama-Express.1-Tiny — компактная текстовая языковая модель, разработанная prithivMLmods на основе Meta Llama 3.2 1B Instruct и дообученная на наборах данных с длинными цепочками рассуждений. Это плотная авторегрессионная модель семейства Llama с 1,2 млрд параметров; для запуска карточка рекомендует Transformers версии 4.43.0 или новее. Метаданные указывают контекст до 131 072 токенов. Модель предназначена для многоязычного диалога, следования инструкциям, суммаризации и сценариев поиска с последующим извлечением и обобщением сведений. Она принимает текст и генерирует текст; также заявлен интерфейс для вызова инструментов. Английский указан в языковых метаданных, а описание заявляет многоязычное применение без перечисления остальных языков. Карточка заявляет оптимизацию для длинных рассуждений и диалогов, но не приводит независимых оценок качества. Возможны предвзятые или неуместные ответы, снижение качества на малоресурсных языках и ухудшение результатов при неоднозначных запросах или очень длинном контексте; модель не получает актуальные сведения из интернета сама по себе. Лицензия — Llama 3.2.

llm-jp-3.1-13b-instruct4 — языковая модель семейства LLM-jp, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это плотная Transformer-модель на архитектуре Llama с 13,2 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие. Контекстное окно составляет 4096 токенов; модель распространяется в формате safetensors для Transformers. Модель прошла дополнительное инструкционное предобучение, контролируемое дообучение и выравнивание методом Direct Preference Optimization. Она предназначена для выполнения инструкций, ответов на вопросы и диалога на японском и английском языках. Разработчики сообщают об оценке на японском и английском MT Bench и о проверке безопасности японских ответов. Модель находится на раннем этапе исследований и разработок, и её ответы не гарантированно соответствуют намерениям пользователя или требованиям безопасности. Для запуска README указывает PyTorch, Transformers, Tokenizers, Accelerate и Flash Attention. Лицензия — Apache-2.0.

LLM-jp-4-8b-thinking — плотная трансформерная языковая модель семейства Llama, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Она предназначена для диалогов и генерации текста, в том числе для многошаговых вопросов и задач на рассуждение; обучена на японском и английском языках. Модель содержит 7,8 млрд параметров по метаданным, имеет 32 слоя и контекст до 65 536 токенов. Базовое обучение охватывало 11,7 трлн токенов, а опубликованный вариант прошёл дообучение SFT и выравнивание DPO без обучения с подкреплением. Репозиторий содержит веса safetensors и использует библиотеку Transformers; шаблон чата совместим с форматом ответов OpenAI Harmony, но токенизацию следует выполнять токенизатором из репозитория. Модель подходит для японских и английских диалогов, ответов на вопросы, следования инструкциям и генерации текста. Разработчики предупреждают, что модель находится на ранней стадии исследований и разработок и не настроена для гарантированного соответствия намерениям человека и требованиям безопасности. Лицензия — Apache-2.0.

Longformer-base-4096 — плотная модель семейства Longformer, разработанная Allen Institute for Artificial Intelligence (AI2). Это BERT-подобный трансформер, инициализированный из чекпойнта RoBERTa и предварительно обученный на задаче masked language modeling на длинных документах. Модель содержит 151,8 млн параметров и принимает последовательности длиной до 4096 токенов. Архитектура сочетает скользящее локальное внимание с глобальным вниманием, которое задаётся пользователем в зависимости от задачи. Модель предназначена для анализа длинных текстов и построения специализированных представлений; кодовые примеры и описание механизма внимания приведены в материалах проекта. Поддерживаемый язык — английский. Доступны форматы PyTorch и TensorFlow. Модель подходит как основа для задач понимания длинных документов, но настройка глобального внимания зависит от конкретного сценария. Лицензия — Apache-2.0.

LongLLaMA-Instruct-3Bv1.1 — инструктивная языковая модель семейства LongLLaMA, разработанная авторами проекта LongLLaMA на основе OpenLLaMA-3Bv2. Модель содержит 3,3 млрд параметров и дообучена методом Focused Transformer (FoT), а также на инструкциях OpenOrca и диалогах ShareGPT-Processed. Она предназначена для генерации текста и ответов на вопросы с использованием длинного контекста; в README описаны извлечение сведений из длинных входов и эксперименты с классификацией вопросов и ответами на вопросы. Архитектура LongLlamaForCausalLM использует кэш памяти в выбранных слоях и обработку входов окнами по 2048 токенов. Метаданные указывают нативный контекст 2048 токенов; README заявляет возможность экстраполяции до 256 тысяч токенов в задаче поиска ключа, хотя это исследовательский результат, а не универсальная гарантия для всех задач. Модель принимает и генерирует текст; обучающие данные также включают код, но карточка не подтверждает отдельное специализированное качество для программирования. Лицензия Apache 2.0. Автор обозначает модель как предназначенную только для исследований.

M7Yamshadowexperiment28_Experiment29Experiment24 — объединённая модель для генерации текста и диалогов, опубликованная MaziyarPanahi. Она создана на основе automerger/M7Yamshadowexperiment28-7B и automerger/Experiment29Experiment24-7B; архитектура — MistralForCausalLM, размер — 7,1 млрд параметров, формат весов — safetensors. Модель принимает текст и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации продолжений текста и ведения диалогов. Лицензия — Apache-2.0. В доступной карточке не приведены сведения о языках обучения и результаты оценки качества.

Manticore-13b-Landmark — объединённая модель на архитектуре LLaMA, представленная Honkware. Она сочетает Manticore-13B и Manticore-13B-Landmark-QLoRA и предназначена для генерации текста с применением Landmark Attention. В README заявлен увеличенный размер контекста около 18 тысяч токенов; метаданные указывают 12,9 млрд параметров и нативный контекст 2048 токенов. Модель подходит для продолжения текста и диалоговых сценариев, где полезно учитывать длинный контекст. Репозиторий содержит веса PyTorch; лицензия обозначена как «other», поэтому условия использования следует сверить с лицензией и файлами репозитория перед применением. README также содержит настройки запуска через Oobabooga, включая включение доверенного удалённого кода.

october-sd/mbart-large-50-finetuned-latest3 — дообученная модель семейства mBART на основе facebook/mbart-large-50. Она предназначена для суммаризации текста. Модель имеет архитектуру Seq2Seq с 457,4 млн параметров и контекстом до 1024 токенов; веса опубликованы в формате safetensors. Базовая mBART-50 поддерживает преобразование текста между 50 языками, однако карточка этой версии не уточняет языки и области, на которых она обучалась для суммаризации. В README приведено значение loss 2,4566 на оценочном наборе, но описание набора и подробности обучения отсутствуют. Лицензия модели — MIT.

MeliodasPercival_01_Strangemerges_32Ogno — объединённая модель семейства Mistral, созданная на основе automerger/MeliodasPercival_01-7B и automerger/Strangemerges_32Ogno-7B. Она содержит 7,1 млрд параметров и предназначена для генерации текста, включая диалоги, с контекстом до 32 768 токенов. Модель принимает текст и выдаёт текст. Веса доступны в формате safetensors; лицензия — Apache-2.0. README не приводит сведений о специализации модели или результатах оценки качества.

MaziyarPanahi/MeliodasPercival_01_T3qm7xExperiment28 — объединённая модель семейства Mistral с 7,1 млрд параметров для генерации текста и диалогов. Она объединяет модели automerger/MeliodasPercival_01-7B и automerger/T3qm7xExperiment28-7B и использует архитектуру MistralForCausalLM с плотной структурой. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. Модель подходит для генерации продолжений текста и диалоговых ответов. В карточке указана лицензия Apache-2.0. Подробности о языковом покрытии и специальных ограничениях в доступных данных не описаны.

MemAgent ReadTwice Rewrite-1024 Repair SFT — это объединённый чекпойнт Qwen2ForCausalLM класса 7B, обученный командой или автором репозитория Xirui1208 как продолжение SFT-модели ReadTwice Rewrite-1024. Модель предназначена для диалоговой генерации текста и ответов на вопросы по длинным документам с использованием протокола ReadTwice: текст обрабатывается секциями, а компактная память объёмом до 1 024 токенов полностью заменяется по мере чтения. В обучении использованы длинные сценарии исправления и задачи переноса между типами заданий. В README приведены результаты оценивания на контекстах до 448 тыс. токенов в протоколе ReadTwice, а также результаты на наборах LongBench. При этом собственный предел позиций конфигурации составляет 32 768 токенов; для длинных запросов в оценивании применялось масштабирование YaRN. Чекпойнт опубликован в формате safetensors, библиотека — Transformers. Лицензия в предоставленных данных не указана.

MGM-Omni-32B — мультимодальная модель-чатбот семейства MGMOmni, разработанная командой MGM-Omni. Это компонент восприятия MLLM: он принимает текст, изображения, видео и речь, а отвечает текстом; для синтеза речи авторы указывают отдельную модель MGM-Omni-TTS. Модель содержит 32 млрд параметров, использует архитектуру MGMOmniForCausalLM и поддерживает контекст до 128 000 токенов. Модель предназначена для диалогов с мультимодальными данными, понимания речи, изображений и видео, включая длинные аудиозаписи. В карточке заявлены поддержка английского и китайского языков и возможность воспринимать речь длительностью до часа. MGM-Omni-32B дообучена на Qwen/Qwen2.5-VL-32B-Instruct. Лицензия — Apache-2.0.

MiniCPM5-2B-CoreAI — это конверсия модели openbmb/MiniCPM5-2B, разработанной OpenBMB, в формат Apple Core AI (.aimodel) для локального запуска на устройствах Apple. Модель предназначена для генерации текста, диалоговых приложений, суммаризации, работы с агентами и вызова инструментов полностью на устройстве, включая iPhone и Mac на Apple Silicon, без обязательной передачи данных в облако. Модель относится к классу 2B и поддерживает гибридные режимы рассуждения Think и No-Think, нативный вызов инструментов и контекст до 128K токенов. В README указаны варианты квантования для разных сценариев: int8 с block-32 и 6-битная k-means-палетизация с group 8 для Neural Engine. Для iPhone 17 Pro заявлена скорость декодирования около 38,5 токена в секунду в ANE-варианте, однако первая загрузка может занимать около 23 минут из-за построения программ Neural Engine, а размер модели составляет примерно 2,7 ГБ. Сильными сторонами модели являются небольшой размер, работа полностью на устройстве, поддержка длинного контекста, инструментов и режимов рассуждения, а также оптимизация под GPU и Neural Engine Apple. Ограничения включают значительные требования к памяти, длительную первоначальную компиляцию на iPhone и возможные расхождения квантованных вариантов с исходной моделью. Модель распространяется по лицензии Apache-2.0.

MonarchLake-7B — диалоговая языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная macadeliccc слиянием SLERP моделей AlphaMonarch-7B и WestLake-7b-v2-laser-truthy-dpo. Она предназначена для генерации текста и общения в диалоговом формате, включая ответы на вопросы и рассуждения. Модель принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. В README приведены результаты оценки на задачах рассуждения и здравого смысла. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

Motif-2-12.7B-Instruct — плотная авторегрессионная языковая модель семейства Motif от Motif Technologies, созданная методом supervised fine-tuning на базе Motif-Technologies/Motif-2-12.7B-Base. Она предназначена для диалогов и генерации текста по инструкциям. Модель содержит 10,8 млрд параметров по метаданным каталога; в README заявлено 12,7 млрд. Контекстное окно составляет до 32 768 токенов. Поддержка чата подтверждена метаданными, а в карточке приведены результаты оценки на языковых бенчмарках. Модель принимает текст и генерирует текст. В тегах карточки указаны английский и корейский языки. Для запуска описано использование Transformers; README также приводит способ запуска через vLLM с временным контейнером, пока официальная поддержка модели проходит рассмотрение. Модель распространяется по лицензии Apache-2.0.

Motif-3-Beta — предварительная версия языковой модели Motif-3, разработанной Motif Technologies с нуля по собственной архитектуре. Это каузальная модель Mixture-of-Experts с разреженной маршрутизацией: в README указано около 314 млрд параметров всего и около 13 млрд активных на токен; метаданные каталога указывают 11 млрд параметров. Архитектура включает 384 эксперта, из которых активируются 8 на токен, общий эксперт, механизмы GDLA и PolyNorm, модифицированный mHC и дополнительную голову Multi-Token Prediction для ускорения декодирования.

MPT-30B-Instruct 8-bit — 8-битная версия модели MPT-30B-Instruct, разработанной MosaicML. Это плотная авторегрессионная языковая модель с модифицированной архитектурой decoder-only Transformer, FlashAttention и ALiBi; в исходной модели около 29,95 млрд параметров и 48 слоёв. Модель предназначена для коротких ответов на инструкции и диалоговых запросов. Её дообучили на данных, производных от Databricks Dolly-15k и Anthropic HH-RLHF, а также на наборах для математики, вопросов и ответов, суммаризации и работы с базами данных. Модель принимает текст и генерирует текст. Карточка описывает англоязычный пример, но не задаёт полный перечень поддерживаемых языков. Файлы опубликованы в формате safetensors; для загрузки через Transformers требуется trust_remote_code=True. Лицензия — CC-BY-SA-3.0. Модель может выдавать фактически неверные, предвзятые или оскорбительные ответы, поэтому её результаты требуют проверки.

T-Systems разработала двуязычную модель суммаризации на базе google/mt5-small. Она принимает текст на немецком или английском языке и генерирует краткое резюме. Модель дообучена на 724 835 примерах из англоязычных CNN Daily Mail и XSum, а также немецкого MLSUM; для MLSUM из исходных текстов удаляли предложения, уже включённые в резюме. В метаданных также указаны датасеты swiss_text_2019. Модель использует архитектуру mT5 и содержит 157,4 млн параметров. При обучении длина входа ограничивалась 800 токенами, а целевого резюме — 96 токенами. В оценке без beam search на тестовой части MLSUM немецкие результаты близки к указанным в README моделям сравнения; авторы отмечают, что некоторые значения на XSum выглядят необычно высокими и тестовые данные могли попасть в обучающую выборку. Лицензия модели — CC BY-NC-SA 4.0.

Moritz Laurer дообучил multilingual-MiniLM-L6 от Microsoft для распознавания логических отношений между текстами (NLI) и классификации без заранее заданного набора классов. Модель основана на XLM-RoBERTa и использует архитектуру XLMRobertaForSequenceClassification; в ней 6 слоёв и 110,2 млн параметров. Контекст — до 514 токенов. Доступны веса в форматах PyTorch, Safetensors и ONNX. Модель принимает пару текстов для оценки отношений между ними либо текст и список возможных меток для zero-shot-классификации. Она обучена на MNLI и переводах XNLI; карточка сообщает о поддержке NLI более чем на 100 языках и приводит результаты оценки на 15 языках. Компактность модели обеспечивает более быстрый вывод и меньшие требования к памяти по сравнению с XLM-RoBERTa-large, но качество ниже, чем у более крупной модели-учителя. Для языков вне набора оценки качество может быть ниже. Лицензия — MIT.

NbAiLab/nb-notram-llama-3.3-70b-instruct — диалоговая языковая модель, разработанная лабораторией NB-AiLab Национальной библиотеки Норвегии. Это дообученная на базе Meta Llama 3.3 70B Instruct плотная трансформерная модель с 69,5 млрд параметров и контекстом до 131 072 токенов. Для обучения использовались публично доступные данные и синтетические данные; материалы, доступные только по обязательному экземплярному хранению, не включались. Модель предназначена для следования инструкциям и диалогов на норвежском букмоле, норвежском нюноске и английском языке. Подходит для ответов на вопросы и суммаризации на норвежском, а также для генерации текста и работы в качестве ассистента. Настройка включает supervised fine-tuning и лёгкий этап DPO; ответы обычно короче, чем у более разговорчивых ассистентов. Поддерживаются чатовый формат и интерфейс вызова инструментов. Лицензия — Llama 3.3 Community License. Модель может ошибаться и уверенно выдавать вымышленные сведения. Знания о норвежской культуре и истории могут проявляться непоследовательно и зависеть от формулировки запроса; настройки безопасности ограничены. В README релиз назван исследовательским, поэтому перед прикладным использованием рекомендуется оценка в целевом сценарии; для медицинских, юридических и финансовых задач нужны дополнительные проверки и надзор человека.

Это квантованная сборка NVIDIA Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16, подготовленная FreedomAISVR в формате GGUF для запуска через llama.cpp. Модель имеет гибридную архитектуру Mamba2 и Transformer с MoE: 30 млрд параметров, около 3 млрд активных, 52 слоя, включая 23 слоя Mamba2, 23 MoE-блока и 6 слоёв внимания; в MoE используются 128 экспертов и маршрутизация к шести из них. Для Mamba2-тензоров применяется F16, остальные веса хранятся в NVFP4; для обработки изображений README также описывает отдельный файл SigLIP-проектора. Модель предназначена для генерации текста и диалоговых сценариев с рассуждением. Заявленный контекст — 262 тыс. токенов. Поддержка изображений упоминается в комплекте файлов, однако метаданные классифицируют репозиторий только как text-generation. README сообщает, что CUDA-ядра Mamba2 требуют F32 и при работе с квантованными тензорами могут переводить соответствующие слои на CPU, что снижает производительность. Лицензия указана как other, без дополнительных условий в предоставленных данных.

NeuralDareBeagle-7B-slerp — объединённая языковая модель на архитектуре Mistral, созданная с помощью LazyMergekit путём слияния NeuralBeagle14-7B и DareBeagle-7B-v2 методом SLERP. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста и может использоваться для диалогов, ответов на запросы и создания текстовых материалов. Карточка приводит результаты Open LLM Leaderboard, включая оценки по AI2 Reasoning Challenge и HellaSwag, но не описывает отдельные языковые или предметные специализации. Модель распространяется в формате Safetensors по лицензии Apache-2.0.

NeuralFusion-7b-Dare-Ties — текстовая генеративная модель, созданная Kukedlc путём слияния трёх моделей на основе Mistral с помощью LazyMergekit и метода DARE-TIES. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и языковых задач общего назначения. Приведённые в карточке результаты оценивания включают тесты на рассуждение и здравый смысл, в том числе AI2 Reasoning Challenge и HellaSwag. Весовые файлы доступны в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает о специализированной отраслевой настройке или ограничениях качества.

cross-encoder/nli-distilroberta-base — англоязычная модель Cross-Encoder, созданная с помощью SentenceTransformers и дообученная на наборах SNLI и MultiNLI. Она принимает пару предложений и оценивает их отношение по трём меткам: противоречие, следование и нейтральность. Модель предназначена для вывода логических отношений между текстами, оценки сходства предложений и классификации без примеров обучения по заданным категориям. Архитектура — RoBERTa с классификационной головой, около 95,2 млн параметров и контекстом до 514 токенов. Доступны форматы PyTorch, Safetensors, ONNX, OpenVINO и Flax. Модель специализируется на английском языке и подходит для сценариев, где нужно сопоставить два текста или отнести текст к заданным категориям. Качество может снижаться на других языках, длинных текстах и задачах, отличающихся от языкового вывода; оценки модели не следует трактовать как гарантированную истину. Лицензия — Apache 2.0.

Noromaid-7b-v0.2-Mistral-7B-Instruct-v0.1 — языковая чат-модель MaziyarPanahi для генерации текста и ответов на диалоговые запросы. Она получена слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.1 и NeverSleep/Noromaid-7b-v0.2; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров. Модель принимает текст и выдаёт текст. Заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса Safetensors в формате bfloat16 и распространяется по лицензии Apache-2.0. Карточка не описывает отдельные языковые или предметные специализации, поэтому модель можно рассматривать как универсальную чат-модель.