I.2Синтез, понимание и проверка знаний

KAI-7B-Instruct-v0.1-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением Mistral-7B-Instruct-v0.2 от Mistral AI и KAI-7B-Instruct-v0.1 от Keynote Technology методом SLERP. Модель с плотной архитектурой MistralForCausalLM содержит 7,1 млрд параметров и предназначена для генерации текста и ответов на инструкции в формате диалога. Модель принимает текст и выдаёт текст; заявленный размер контекста — до 32 768 токенов. В карточке не указаны целевые языки и специализированная предметная область. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

ZeroXClem объединил три языковые модели примерно на 8 млрд параметров методом Model Stock Merge: Aspire-8B-model_stock, Heart_Stolen-8B-Model_Stock и CursedMatrix-8B-v9. Это плотная авторегрессионная модель семейства Llama для генерации текста и диалогов; веса опубликованы в формате safetensors и точности bfloat16. Контекстное окно составляет 8192 токена. Модель предназначена для ответов на общие вопросы, творческого письма, суммаризации длинных текстов, ролевых сценариев и решения разнообразных текстовых задач. Слияние ориентировано на сочетание универсальности, творческой генерации и сложного ролевого текста. Карточка отмечает экспериментальный характер модели, возможные предубеждения и непредсказуемое поведение, связанные с её некорректируемым происхождением. Лицензия — Apache-2.0.

LettuceDetect v2 mmBERT-base — разработанная KRLabsOrg модель-энкодер для поиска галлюцинаций в ответах, созданных с опорой на контекст, включая RAG, код и вывод инструментов. Это дообученный на базе jhu-clsp/mmBERT-base классификатор токенов: он получает контекст, вопрос и ответ и помечает токены ответа как подтверждённые или неподтверждённые, формируя бинарные фрагменты без категорий и подтипов. Модель содержит 306,9 млн параметров, поддерживает контекст до 8192 токенов и распространяется в формате safetensors. Модель рассчитана на многоязычное выявление неподтверждённых утверждений в прозе и коде, включая ответы кодовых агентов и результаты RAG. Однопроходный энкодер работает без генерации текста и ориентирован на высокую пропускную способность и низкую стоимость. README приводит результаты на тестах по прозе, коду и многоязычным данным; качество зависит от типа данных, а для типизированных фрагментов предлагается отдельная модель или каскад с таксономической головой. Лицензия — Apache-2.0. Указанные языки: английский, немецкий, французский, испанский, итальянский, польский и китайский; README также сообщает о многоязычной проверке на 14 языках, но не перечисляет остальные языки.

NousResearch/Llama-2-13b-chat-hf — диалоговая языковая модель семейства Llama 2, разработанного Meta и опубликованная в формате для Transformers. Это авторегрессионная плотная модель на архитектуре Transformer с 12,9 млрд параметров, дообученная с помощью supervised fine-tuning и обучения с подкреплением на основе человеческой обратной связи. Она предназначена для диалогов в формате ассистента и генерации текста на английском языке; принимает и выдаёт текст, поддерживает контекст до 4096 токенов. Модель подходит для ответов на вопросы, ведения диалога, создания черновиков и других сценариев генерации текста. Для ожидаемого поведения чат-версии необходимо использовать предусмотренный формат сообщений Llama 2. Модель может выдавать неточные, предвзятые или нежелательные ответы, поэтому перед внедрением её следует проверять и настраивать под конкретное применение. Использование регулируется специальной лицензией Meta для Llama 2; для доступа к весам требуется принять её условия.

TheBloke/Llama-2-70B-GGUF — это квантованные файлы большой языковой модели Llama 2 70B, разработанной Meta. Модель предназначена для генерации текста и может использоваться в локальных сценариях: чат-ботах, ассистентах, написании и преобразовании текста, а также других задачах, поддерживаемых text-generation. Указан английский язык; сведения о мультимодальности отсутствуют, поэтому модель следует считать текстовой. Модель основана на Llama 2 70B и распространяется в формате GGUF, разработанном командой llama.cpp. Формат поддерживает метаданные, специальные токены и улучшенную токенизацию. Репозиторий подготовлен TheBloke и содержит варианты квантования от 2 до 8 бит для инференса с использованием CPU и GPU; доступны методы Q2_K, Q3_K, Q4_K, Q5_K и Q6_K с различным компромиссом между размером, скоростью и сохранением качества. Модель совместима с llama.cpp и рядом сторонних интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, ctransformers и llama-cpp-python. К сильным сторонам относятся возможность локального запуска, поддержка CPU и GPU, широкий выбор уровней квантования и совместимость с популярными инструментами. Ограничениями являются очень большой размер исходной модели, потенциальное снижение качества при агрессивном квантовании и отсутствие в предоставленных данных сведений о размере контекста, производительности, точных требованиях к памяти и специализированном дообучении. Лицензия указана как llama2; условия её применения следует проверять в документации Meta.

vikash06/llama-2-7b-small-model-new — дообученная на небольшой выборке модель семейства Llama 2, опубликованная автором vikash06. Она предназначена для генерации текста и прямого использования в задачах творческого письма, ответов на вопросы по предоставленному отрывку и общих знаний, суммаризации, извлечения информации и классификации. Модель имеет плотную архитектуру LlamaForCausalLM и содержит 6,6 млрд параметров; максимальный контекст — 4096 токенов. Автор описывает обучение на экспериментальной основе для изучения эффекта более длительного обучения на небольшом наборе данных. В README указаны 1000 примеров для каждой категории и результаты оценки на бенчмарках HellaSwag и AI2 Reasoning Challenge. Это экспериментальная модель; результаты бенчмарков не гарантируют качество в иных сценариях. Репозиторий содержит веса Safetensors, лицензия — MIT.

Llama-3-8B-NExtLong-128K-Base — базовая языковая модель семейства Llama, опубликованная авторами проекта NExtLong. Это плотная авторегрессионная модель примерно на 7,5 млрд параметров с окном контекста до 131 072 токенов; веса доступны в формате safetensors. Модель обучена на синтетических длинных контекстах, созданных методом NExtLong: в документ добавляются подобранные отвлекающие фрагменты, чтобы усилить работу с дальними зависимостями. Модель предназначена для генерации текста и задач, требующих анализа длинного контекста: поиска сведений в контексте, ответов на вопросы по длинным документам, работы с RAG и контекстом в несколько сотен страниц. В README приведены результаты на HELMET и RULER. Это базовая модель, а не instruct-вариант, поэтому для диалогового применения может потребоваться дополнительная настройка. Языковая поддержка и лицензия в предоставленных источниках не описаны.

unsloth/Llama-4-Scout-17B-16E-Instruct-unsloth-bnb-4bit — это 4-битно-квантизированная версия инструкционной модели Llama 4 Scout 17B-16E-Instruct, разработанной Meta. Модель предназначена для выполнения текстовых инструкций и решения широкого круга задач генерации и обработки текста, включая диалоговые сценарии, ответы на вопросы, суммирование и подготовку контента. В карточке указана поддержка арабского, немецкого, английского, испанского, французского, хинди, индонезийского, итальянского, португальского, тайского, тагальского и вьетнамского языков. Суффикс bnb-4bit указывает на 4-битное представление весов, которое обычно снижает требования к памяти и может упростить локальный запуск по сравнению с полноразмерной версией, однако точные требования к оборудованию, контекстное окно, сведения о мультимодальности и результаты тестирования в README не приведены. Модель удобна для инференса в условиях ограниченных вычислительных ресурсов, но квантизация может повлиять на точность и качество ответов относительно исходной версии. Модель распространяется по Llama 4 Community License от Meta. При распространении материалов или производных продуктов необходимо соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Llama» и другие требования Meta; для организаций с более чем 700 миллионами ежемесячно активных пользователей предусмотрено получение отдельной лицензии.

Llama-Express.1-Merged — компактная языковая модель на архитектуре Llama, созданная prithivMLmods слиянием нескольких предварительно обученных и дообученных моделей методом Model Stock с помощью mergekit. В README указана база Llama 3.2 (1B), а также объединение моделей Llama-Express.1, Llama-Express.1-Tiny и Llama-Express.1-Math. Модель содержит 1,2 млрд параметров, работает с текстом и имеет контекстное окно до 131 072 токенов. Модель предназначена для диалогов с инструкциями на нескольких языках, суммаризации, математических рассуждений и сценариев агентного поиска информации. Метаданные отмечают чат-возможности и интерфейс вызова инструментов. README описывает её как модель с длинными цепочками рассуждений, но не приводит конкретных языков или сравнительных оценок, поэтому заявленное превосходство над другими моделями нельзя оценить по карточке. Лицензия в предоставленных данных не указана.

KaraKaraWarehouse/Llama-MiraiFanfare-2-3.3-70B — объединённая языковая модель на архитектуре Llama, созданная методом TIES с помощью mergekit. В слияние вошли Blackroot/Mirai-3.0-70B и EVA-UNIT-01/EVA-LLaMA-3.33-70B-v0.1; базовой моделью для слияния указана EVA-UNIT-01/EVA-LLaMA-3.33-70B-v0.1. Модель содержит 69,5 млрд параметров и использует формат safetensors. Модель предназначена для генерации текста и диалогового взаимодействия. Контекстное окно составляет 131 072 токена, что подходит для работы с длинными запросами и документами. В README не описаны специализированные области применения или языковые ограничения. Карточка не указывает лицензию. Качество и ограничения слияния отдельно не описаны; поведение может зависеть от сочетания исходных моделей.

llm-jp-3.1-8x13b-32K — языковая модель, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это вариант llm-jp-3.1-8x13b с продолженным предобучением на дополнительных 50 млрд токенов для увеличения контекста с 4K до 32K токенов. Модель построена на архитектуре Mixtral MoE с восемью экспертами, из которых активируются два; в метаданных указан размер 13,2 млрд параметров. Веса доступны в формате Safetensors для Transformers. Модель предназначена для генерации текста и диалогов с выполнением инструкций, в частности на японском и английском языках. Увеличенное окно контекста подходит для работы с длинными запросами и документами. Модель развивает серию LLM-jp-3.1, обученную на многоязычных данных, а инструкция-ориентированное промежуточное обучение улучшает следование указаниям. Разработчики отмечают, что модель находится на раннем этапе исследований и разработок и не была настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.

Louis_GRC-7B-slerp-M2 — объединённая языковая модель, опубликованная LouisGRC и собранная с помощью LazyMergekit на основе Mistral-7B-v0.1 и моделей MonarchLake-7B, Experiment21-7B и M7-7b. В конфигурации указаны метод слияния dare_ties и точность float16; модель имеет архитектуру Mistral с 7,1 млрд параметров и контекстным окном до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Она принимает текст и выдаёт текст; в доступных данных не заявлены специализированные предметные области или языки. Репозиторий содержит веса в формате safetensors и распространяется по лицензии, сведения о которой в предоставленных данных отсутствуют.

Rahvusarhiiv разработал экспериментальную модель для суммаризации текстов на латышском языке, дообучив mBART-50 `facebook/mbart-large-50-many-to-many-mmt`. Это последовательная модель типа encoder-decoder на базе MBART; репозиторий содержит веса Safetensors. Её применяют для краткого пересказа новостей, юридических и административных материалов, энциклопедических текстов и академических публикаций, в том числе в пакетной обработке и retrieval-assisted сценариях с проверкой результата. Вторая версия обучена на 30 000 примерах, преимущественно на латышских новостях, с меньшими долями юридических и академических текстов. В сравнительных оценках она улучшила результаты на двух новостных наборах и точность опоры на исходный текст, но стала короче пересказывать энциклопедические материалы. Метаданные указывают контекст до 1024 токенов; в карточке для рекомендуемой генерации приведены 768 входных токенов и до 512 новых токенов. Лицензия обозначена как `other`. Модель может галлюцинировать или обобщать детали, особенно для длинных и недостаточно конкретных входов; имена, числа, даты и юридические ссылки нужно сверять с источником. Она может пропускать второстепенные сведения, а гарантированного управления длиной резюме нет. Для публикации и решений с существенными последствиями необходима проверка человеком.

M7Yamshadowexperiment28_AlloyingotneoyInex12 — объединённая модель MaziyarPanahi на базе двух моделей Mistral: automerger/M7Yamshadowexperiment28-7B и automerger/AlloyingotneoyInex12-7B. Это плотная авторегрессионная языковая модель с 7,1 млрд параметров, предназначенная для генерации текста; для запуска доступны веса Safetensors. Модель принимает текст и выдаёт текст. Её контекст составляет до 32 768 токенов. В карточке не описаны специализированные области применения, поддерживаемые языки или отдельные ограничения качества. Лицензия — Apache-2.0.

Marcoroni-neural-chat-7B-v1-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 и Toten5/Marcoroni-neural-chat-7B-v1 методом SLERP. Модель построена на архитектуре Mistral с плотной причинной языковой моделью и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате. Контекст составляет до 32 768 токенов, поэтому её можно применять для многошаговых бесед и работы с длинными текстовыми запросами. Метаданные не устанавливают конкретные поддерживаемые естественные языки. Веса представлены в формате Safetensors, тип данных при слиянии указан как bfloat16. Лицензия — Apache-2.0. Качество и поведение могут зависеть от формулировки запроса; ограничения по языкам и отдельным прикладным областям в предоставленных данных не описаны.

Это 4-битная версия Meta-Llama-3.1-405B-Instruct, преобразованная сообществом mlx-community из формата исходной модели в формат MLX с помощью mlx-lm 0.16.0. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 408 млрд параметров; она предназначена для генерации текста и диалогового использования на устройствах Apple Silicon, поддерживающих MLX. Модель принимает текстовые запросы и выдаёт текст. Контекстное окно составляет до 131 072 токенов. В карточке указана поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Качество и удобство локального запуска зависят от доступных вычислительных ресурсов; 4-битное представление снижает требования к памяти по сравнению с полной точностью. Модель распространяется по лицензии Llama 3.1, условия которой следует соблюдать при использовании.

Карточка модели SillyTilly/Meta-Llama-3.1-70B-Instruct на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3.1-70B-Instruct, поэтому описание составлено по ней. NousResearch публикует инструкционно настроенную модель Meta Llama 3.1 70B Instruct — плотную авторегрессионную языковую модель на архитектуре Transformer с 69,5 млрд параметров. Она принимает и генерирует текст, а версия Instruct предназначена для многоязычного диалога и работы в роли ассистента. Настройка включает дообучение с учителем и обучение с подкреплением на основе отзывов людей; модель поддерживает контекст до 131 072 токенов и использует Grouped-Query Attention для повышения эффективности вывода. Модель подходит для диалоговых приложений, ответов на вопросы и генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Её можно запускать через Transformers; карточка также описывает варианты загрузки в 4- и 8-битном формате для снижения требований к памяти. Русский язык не входит в перечень поддерживаемых языков. Ответственность за безопасную интеграцию, включая подключение внешних инструментов, лежит на разработчике приложения. Модель разработана Meta и распространяется по лицензии Llama 3.1 Community License с условиями, изложенными в лицензии и Acceptable Use Policy. Это статический чекпойнт, обученный на офлайн-данных; качество и безопасность ответов требуют проверки в целевом сценарии.

Это версия Meta Llama 3.1 Instruct с 70 млрд параметров, преобразованная в формат MLX сообществом mlx-community из meta-llama/Llama-3.1-70B-Instruct. Она предназначена для генерации текста в диалогах и работы в сценариях ассистента; метаданные также указывают интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM и контекст до 131 072 токенов. По карточке поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Репозиторий содержит веса safetensors, а README описывает конвертацию в MLX с помощью mlx-lm 0.18.2. Лицензия — llama3.1; использование регулируется условиями лицензии Meta Llama 3.1. Большой размер модели требует значительных вычислительных ресурсов; фактическая скорость и доступная длина контекста зависят от оборудования и конфигурации.

Open-Orca/Mistral-7B-OpenOrca — диалоговая языковая модель Open-Orca, созданная дообучением Mistral 7B на отфильтрованной выборке набора OpenOrca с данными, дополненными GPT-4. Модель обучали с Axolotl и упаковкой OpenChat; она использует архитектуру MistralForCausalLM и формат диалога ChatML. Модель предназначена для генерации ответов в диалоге и выполнения инструкций на естественном языке. В карточке указано контекстное окно 32 768 токенов, а основным языком обозначен английский. Модель содержит 7,1 млрд параметров и доступна в формате PyTorch. Разработчик приводит результаты оценок на нескольких бенчмарках и сообщает об улучшении относительно базовой Mistral 7B. Эти результаты относятся к тестам и не гарантируют качество для конкретных задач. Модель распространяется по лицензии Apache-2.0.

MaziyarPanahi/Mistral-Large-Instruct-2411-GGUF — это набор файлов модели в формате GGUF для Mistral-Large-Instruct-2411, разработанной компанией mistralai и преобразованной в GGUF пользователем MaziyarPanahi. Модель предназначена для генерации текста и выполнения инструкций в локальных приложениях и сервисах, совместимых с GGUF. Формат GGUF поддерживается llama.cpp и рядом библиотек и интерфейсов, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All, LoLLMS Web UI, candle и ctransformers. Это позволяет запускать модель локально, в том числе с аппаратным ускорением и через OpenAI-совместимые серверы, в зависимости от выбранного инструмента. В репозитории представлены варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Сведения об архитектуре, количестве параметров, поддерживаемых языках, размере контекста, точных характеристиках вариантов квантования и лицензии в README не указаны. Поэтому пригодность конкретного варианта для определённых задач и аппаратной конфигурации следует оценивать отдельно.

mT5-base — многоязычная модель Google на архитектуре encoder-decoder Transformer семейства T5 с 291,2 млн параметров. Она предварительно обучена в формате text-to-text на корпусе mC4, собранном из Common Crawl и охватывающем 101 язык. Веса доступны в форматах PyTorch, TensorFlow и Flax; лицензия — Apache-2.0. Модель служит базой для дообучения под прикладные задачи обработки естественного языка: например, перевод, суммаризацию и ответы на вопросы. Предварительное обучение не включало обучение на размеченных задачах, поэтому для использования в конкретном сценарии модель необходимо дообучить.

Muse Spark 1.2 — рассуждающая модель Meta для сложных задач с агентным взаимодействием. Она принимает текст, изображения, видео, аудио и PDF-документы, а на выходе формирует текст. Заявленный контекст — до 1 млн токенов. Модель подходит для сценариев, где нужно анализировать смешанные входные данные и выполнять многошаговые задачи. В метаданных каталога её задача указана как image-text-to-text. Информация о лицензии, точном размере и ограничениях модели в доступных данных отсутствует.

Это квантованная сборка модели NVIDIA Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16, подготовленная FreedomAISVR в формате GGUF. Она предназначена для генерации текста и диалогов, включая задачи рассуждения. Архитектура сочетает Mamba2 и Transformer и использует MoE: из 128 экспертов для каждого токена выбираются шесть. Всего в модели около 30 млрд параметров, из которых активно около 3 млрд; контекст — до 262 тыс. токенов. Веса экспертов хранятся в MXFP4, плотные веса — в Q8_0, а тензоры Mamba2 — в F16 для совместимости с CUDA-ядрами SSM. В репозитории также есть F16-проектор SigLIP для обработки изображений. Для полноценного запуска требуется среда с поддержкой GGUF и мультимодального проектора, например llama.cpp. Гибридный формат экономит память, однако операции Mamba2 на CUDA могут переходить на CPU, что снижает скорость. README не уточняет лицензию производной сборки; метаданные указывают лицензию «other», поэтому условия следует сверить с карточкой модели и условиями базовой модели.

Neural-chat-7b-v3-1 — языковая модель команды NeuralChat, разработанная при участии Intel. Это дообученная версия mistralai/Mistral-7B-v0.1: её обучали на наборе Open-Orca/SlimOrca, а затем выравнивали с помощью DPO. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и принимает текстовые запросы. Родной размер контекста — 32 768 токенов. Модель предназначена для диалогов и генерации текста по шаблону с ролями System, User и Assistant. Её оценивали на семи задачах Open LLM Leaderboard, включая ответы на вопросы, рассуждения и математические задачи. Она распространяется по лицензии Apache-2.0. Модель может выдавать фактически неверные, предвзятые, оскорбительные или непристойные ответы. Её ответы требуют проверки, а перед развёртыванием рекомендуется провести тестирование безопасности.

MaziyarPanahi/neural-chat-7b-v3-3-Slerp-Mistral-7B-Instruct-v0.2-slerp — это объединённая методом SLERP диалоговая языковая модель на архитектуре Mistral с 7,1 млрд параметров. В слиянии использованы mistralai/Mistral-7B-Instruct-v0.2 и Intel/neural-chat-7b-v3-3-Slerp; конфигурация указывает bfloat16. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате, а также поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. Карточка не приводит сведений о целевых языках или специализированной области применения. Репозиторий распространяется по лицензии Apache-2.0. Конкретные ограничения качества и безопасности в карточке не описаны.

NeuralsirkrishnaShadow_Inex12Neural — слитая языковая модель семейства Mistral, созданная из automerger/NeuralsirkrishnaShadow-7B и automerger/Inex12Neural-7B. Она содержит 7,1 млрд параметров и предназначена для генерации текста на основе текстового запроса; длина контекста составляет до 32 768 токенов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Данные карточки не описывают специализацию по языкам или прикладным областям, поэтому её следует рассматривать как модель общего назначения. Качество и конкретные возможности зависят от запроса и сценария применения.

NeuralsirkrishnaShadow_PasticheInex12 — объединённая автором MaziyarPanahi модель для генерации текста и диалогов. Она основана на архитектуре Mistral и содержит 7,1 млрд параметров; модель объединяет automerger/NeuralsirkrishnaShadow-7B и automerger/PasticheInex12-7B. Модель принимает текст и выдаёт текст. Размер контекста составляет до 32 768 токенов, формат весов — safetensors. В карточке не указаны специализация по языкам и отдельные прикладные области. Модель распространяется по лицензии Apache-2.0.

Англоязычная модель Cross-Encoder на базе microsoft/deberta-v3-base, обученная с помощью SentenceTransformers для распознавания логических отношений между парами предложений. Для каждой пары она выдаёт оценки трёх классов: противоречие, следование и нейтральное отношение. Модель также подходит для классификации без примеров, если формулировать категории как гипотезы и сопоставлять их с входным текстом. Модель содержит 211,6 млн параметров, использует архитектуру DeBERTa v2 для классификации последовательностей и принимает текстовые пары с контекстом до 512 токенов. Обучающие данные — SNLI и MultiNLI; в README приведены точность 92,38% на тестовой выборке SNLI и 90,04% на наборе MNLI mismatched. Доступны веса PyTorch, Safetensors и ONNX. Лицензия — Apache-2.0.

cross-encoder/nli-roberta-base — англоязычная модель RoBERTa, дообученная авторами Sentence Transformers для распознавания логических отношений между парами предложений. Для каждой пары она выдаёт оценки трёх классов: противоречие, следование и нейтральное отношение. Модель содержит 151,8 млн параметров, принимает пары текстов и поддерживает контекст до 514 токенов. Основные сценарии применения — классификация текстовых пар, проверка гипотез по посылкам и классификация без примеров по заданным меткам. Также модель можно использовать для оценки сходства предложений. Она обучена на английских наборах SNLI и MultiNLI; для работы доступна через Sentence Transformers и Transformers. Лицензия — Apache-2.0.

NVIDIA-Nemotron-3-Nano-30B-A3B-FP8 — квантизированная версия большой языковой модели NVIDIA Nemotron-Nano-3-30B-A3B, разработанная NVIDIA Corporation. Модель обучена с нуля и предназначена для генерации текста, решения задач с рассуждением и без него, а также создания специализированных AI-агентов. Она поддерживает английский, немецкий, испанский, французский, итальянский и японский языки. Модель использует гибридную архитектуру Mixture-of-Experts, включающую 23 слоя Mamba-2 и MoE, а также 6 Attention-слоёв. Всего модель содержит 30 млрд параметров, из которых 3,5 млрд активируются для каждого токена. В каждом MoE-слое используются 128 экспертов и один общий эксперт, при этом на токен активируются 6 экспертов. Модель может сначала формировать reasoning trace, а затем итоговый ответ; режим рассуждений настраивается через chat template. Отключение промежуточных рассуждений сокращает вывод, но может немного снизить точность на сложных задачах. Размер контекста в README не указан. К сильным сторонам относятся сочетание эффективности разреженной MoE-архитектуры с возможностями рассуждения, поддержка нескольких языков и готовность к коммерческому использованию. FP8-квантизация может снизить требования к ресурсам по сравнению с полноточной версией, однако конкретные требования к оборудованию не приведены. Показатели на опубликованных тестах у FP8-версии немного ниже, чем у базовой BF16-версии, например 87,7 против 89,1 на AIME25 без инструментов и 78,1 против 78,3 на MMLU-Pro. Использование модели регулируется NVIDIA Nemotron Open Model License.