I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельllm-jp-3-8x1.8b — языковая модель серии LLM-jp-3, разработанной Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это авторегрессионный Transformer с архитектурой Mixtral MoE: 8 экспертов, из которых для обработки активируются 2. В модели около 9,3 млрд параметров суммарно, 24 слоя и контекст до 4096 токенов. Модель предобучена на 2,1 трлн токенов и прошла дообучение по инструкциям и выравнивание методом Direct Preference Optimization. Модель предназначена для генерации текста, ответов на вопросы, следования инструкциям и других задач с японским и английским языками. Токенизатор основан на Unigram byte-fallback и использует словарь llm-jp-tokenizer v3.0. Данные README описывают японские обучающие наборы и оценки для серии, но не дают отдельных результатов именно этой версии. Разработчики отмечают, что модели находятся на раннем этапе исследований и разработок и не настроены для надёжного соответствия человеческим намерениям и требованиям безопасности. Весы доступны в формате Transformers/Safetensors по лицензии Apache-2.0.
wangrongsheng/LongWriter-llama3.1-8b-abliterated — текстовая генеративная модель семейства Llama, представленная в формате Transformers и сохранённая в safetensors. По названию репозитория модель связана с LongWriter и Llama 3.1 8B; параметры каталога указывают размер около 7,5 млрд параметров и контекст до 131072 токенов. Она подходит для генерации текста и диалоговых сценариев, где полезно обрабатывать длинный контекст. Метаданные не уточняют языковую специализацию, автора дообучения, лицензию, данные обучения или оценки качества. Суффикс «abliterated» заявлен только в названии и сам по себе не подтверждает конкретные свойства безопасности или поведения модели.
Luminum-v0.1-123B — объединённая языковая модель FluffyKaeloky на архитектуре MistralForCausalLM, созданная с помощью метода della_linear на основе Mistral Large Instruct 2407 с добавлением Lumimaid-v0.2-123B и Magnum-v2-123B. Модель содержит 122,2 млрд параметров и поддерживает контекст до 131 072 токенов; автор сообщает об успешном тестировании длинных запросов свыше 32 тысяч токенов, обычно до 40–50 тысяч. Модель предназначена для диалогов, генерации текста и творческих описаний. По оценке автора, она сочетает возможности базовой Mistral Large, характерную лексику Lumimaid и описательность Magnum, сохраняя ответы менее многословными, чем Magnum. Используется шаблон Mistral [INST] ... [/INST]; заявлены интерфейс вызова инструментов и варианты файлов GGUF и EXL2. Модель может выдавать чрезмерно длинные ответы, если не ограничивать их длину. README не сообщает лицензию; условия использования следует сверить с карточкой и лицензиями компонентов слияния.
LWM-Text-256K — авторегрессионная языковая модель с открытыми весами, разработанная LargeWorldModel на основе LLaMA 2. Это плотный трансформер с 6,6 млрд параметров и контекстным окном до 262 144 токенов, предназначенный для генерации текста с учётом длинного контекста. Модель обучена в декабре 2023 года на подмножестве Books3: 37 тысяч документов длиной от 200 до 500 тысяч токенов. Она подходит для продолжения и анализа объёмных текстов, например книг и длинных документов. Карточка не приводит результаты оценки качества или условия лицензии, поэтому пригодность для конкретных задач и права на использование следует проверять отдельно.
Карточка модели Edgerunners/Lyraea-small-llama-3.1 на Hugging Face совпадает с карточкой Edgerunners/Lyraea-medium-llama-3.1, поэтому описание составлено по ней. Lyraea-medium-llama-3.1 — разговорная языковая модель семейства Llama 3.1, опубликованная Edgerunners. Это средний вариант серии small, medium и large, созданной на основе llama-3.1-8b-128k uncensored. Модель предназначена для генерации текста в диалоговом формате; автор отмечает, что варианты серии имеют разные сценарии применения. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов. В репозитории представлены веса Safetensors. Языковые сведения в карточке не приводятся. Модель предоставляется «как есть» и «по мере доступности», без гарантий; провайдер снимает с себя ответственность за ущерб и не гарантирует соответствие конкретным требованиям или безошибочную работу. Сведения о лицензии в доступных данных отсутствуют.
M7Yamshadowexperiment28_Experiment26Yamshadow — объединённая модель на архитектуре Mistral, созданная из automerger/M7Yamshadowexperiment28-7B и automerger/Experiment26Yamshadow-7B. Она предназначена для генерации текста и имеет 7,1 млрд параметров с контекстом до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0.
M7Yamshadowexperiment28_Strangemerges_32M7 — объединённая модель для генерации текста, созданная MaziyarPanahi. Она получена слиянием моделей automerger/M7Yamshadowexperiment28-7B и automerger/Strangemerges_32M7-7B; архитектура — плотная MistralForCausalLM на 7,1 млрд параметров. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. Модель предназначена для генерации продолжений текста и диалоговых ответов. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. README не сообщает о специальных прикладных областях или оценках качества.
Magnolia-v4-12B — языковая модель для генерации текста, созданная автором grimjim слиянием методом SLERP моделей grimjim/Magnolia-v3-12B и intervitens/mini-magnum-12b-v1.1. По сравнению с v3 автор описывает её как вариант с изменённым стилем генерации. Модель построена на архитектуре Mistral, содержит 12,1 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель подходит для диалогов и генерации ответов на нескольких языках, а также для задач продолжения текста. Она распространяется в формате Safetensors; лицензия — Apache-2.0. Качество и языковой охват в README подробно не оцениваются.
Manticore 13B — языковая модель для генерации текста и диалогового взаимодействия, разработанная Open Access AI Collective. Представлена в формате GGUF и квантизирована TheBloke для запуска с использованием llama.cpp и совместимых приложений и библиотек. Модель основана на архитектуре Llama и содержит около 13 млрд параметров. Модель предназначена для ответов на вопросы, ведения диалогов, следования инструкциям, обобщения текста и решения широкого спектра задач, отражённых в использованных наборах данных, включая MMLU, HellaSwag, ScienceQA и различные коллекции инструкций и диалогов. В README указан английский язык и шаблон запросов Vicuna. Поддерживаются варианты квантизации от 2 до 8 бит, что позволяет выбирать между требованиями к памяти, скоростью и качеством, а запуск возможен на CPU и GPU через llama.cpp, text-generation-webui, LM Studio, KoboldCpp и другие совместимые инструменты. Сильной стороной модели является возможность локального запуска и широкий выбор уровней квантизации. Ограничения включают отсутствие в предоставленных данных сведений о размере контекста, точных характеристиках качества, мультимодальности и поддерживаемых языках помимо английского; модель предназначена для работы с текстом. В метаданных указана лицензия «other», однако её конкретные условия и ограничения в README не раскрыты.
MarcoHermes — языковая модель, созданная слиянием моделей AtAndDev/CapybaraMarcoroni-7B и eren23/DistilHermes-2.5-Mistral-7B с помощью mergekit. Это плотная MistralForCausalLM-модель с 7,1 млрд параметров, предназначенная для генерации текста. В конфигурации использован метод slerp; веса опубликованы в формате safetensors. Модель подходит для генерации ответов и диалогового текста, а также для других сценариев, основанных на продолжении текста. Максимальная длина контекста составляет 32 768 токенов. Лицензия — Apache-2.0. В карточке не приведены оценки качества или сведения о поддерживаемых языках; возможности модели следует проверять на целевых задачах.
Marco-Mini-Base — компактная разреженная мультиязычная языковая модель семейства Marco-MoE, разработанная Alibaba International Digital Commerce. Она предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, следование инструкциям и использование интерфейса вызова инструментов. Модель построена на декодерном Transformer с разреженными слоями Mixture-of-Experts и архитектурой Qwen3 MoE. В README указаны 17,3 млрд параметров всего и 0,86 млрд активируемых на токен; метаданные Hugging Face указывают 507,9 млн параметров, поэтому размер модели в источниках расходится. Контекст составляет 32 768 токенов. Модель поддерживает 29 языков, в том числе русский, английский и китайский. README сообщает о сравнительных результатах на англоязычных и мультиязычных бенчмарках, но приведённые таблицы содержат только часть результатов. Модель описана как upcycling-вариант Qwen3-0.6B-Base с разбиением матриц на подматрицы и Drop-Upcycling. В репозитории указаны веса Safetensors и лицензия Apache-2.0. Показатели качества основаны на бенчмарках из карточки; они не гарантируют результат для конкретного приложения.
Mayonnaise-4in1-022 — языковая модель, разработанная The Kaitchup и созданная с помощью mergekit путём слияния нескольких моделей семейства Mistral. Это плотная авторегрессионная модель с архитектурой MistralForCausalLM, примерно 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста на английском языке и сценариев, где требуется продолжать или создавать текст. Модель объединяет Mistral-7B-DPO-v5, WestSeverus-7B-DPO-v2 и NeuralTurdusVariant1-7B методом TIES. Автор сообщает о первом месте среди моделей 7B в Open LLM Leaderboard на 28 января 2024 года, но предупреждает, что не проверял возможное пересечение обучающих данных объединённых моделей с тестовыми наборами бенчмарков. Веса опубликованы в формате Safetensors; лицензия — Apache 2.0.
MeliodasPercival_01_Inex12Strangemerges_32 — объединённая модель семейства Mistral, созданная из automerger/MeliodasPercival_01-7B и automerger/Inex12Strangemerges_32-7B. Она предназначена для генерации текста и диалогов. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Данных о специальных предметных областях или целевых языках в карточке нет.
MaziyarPanahi/MeliodasPercival_01_Inex16Calme — объединённая модель на архитектуре Mistral, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/Inex16Calme-7B. Она содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов; поддерживает контекст длиной до 32 768 токенов. Модель принимает текст и выдаёт текст. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка не приводит сведений о специализированной области применения или подтверждённых ограничениях качества.
Meltemi 7B Instruct v1.5 — языковая модель ILSP для диалогов и выполнения инструкций, дообученная на основе Meltemi 7B v1.5. Она использует плотную архитектуру MistralForCausalLM с 7,2 млрд параметров и предназначена прежде всего для работы с греческим языком, а также поддерживает английский. Модель использует расширенный греческими токенами токенизатор Mistral, что снижает число токенов на греческое слово и ускоряет обработку этого языка. По README, контекст составляет 8192 токена; метаданные каталога указывают нативный контекст до 32768 токенов. Для настройки применён алгоритм ORPO на 97 тысячах предпочтений: преимущественно на греческих данных, а также на английских. Модель подходит для диалогов, ответов на вопросы и задач языкового понимания и рассуждения; в тестах авторов она улучшила средний результат на греческих бенчмарках по сравнению с предыдущей версией. Модель принимает текстовые запросы и генерирует текст. Она не гарантирует точность ответов и может выдавать вводящую в заблуждение, вредоносную или токсичную информацию; медицинские тесты в README не подтверждают пригодность для клинических решений. Лицензия — Apache-2.0.
Это 4-битная MLX-конверсия модели Meta-Llama-3.1-8B-Instruct-abliterated, подготовленная сообществом mlx-community из mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated с помощью mlx-lm 0.17.1. В основе лежит дообученная Meta-Llama-3.1-8B-Instruct; модель предназначена для диалоговой генерации текста и запуска на устройствах Apple с MLX. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Контекст составляет до 131 072 токенов. Вариант abliterated позиционируется как менее ограниченный в ответах; это не гарантирует точность или безопасность результатов. Репозиторий указывает лицензию Llama 3.1; её условия распространяются на использование модели.
JANGQ-AI/MiniMax-M2.7-JANG_3L — квантованная версия MiniMax M2.7 от Jinho Jang (JANGQ), подготовленная для запуска на компьютерах Mac с Apple Silicon через MLX. Это языковая MoE-модель для диалогов, генерации текста, рассуждений и работы с инструментами. Исходная модель MiniMaxAI/MiniMax-M2.7 содержит 228,7 млрд параметров; в этой сборке применена смешанная точность со средним размером около 3,08 бита и объёмом около 89 ГБ. Внимание и выходной слой сохранены в 8-битной точности, эмбеддинги — в 4-битной, а большая часть экспертных MLP-слоёв сжата до 3 бит; маршрутизатор экспертов хранится в float16. Метаданные каталога указывают 2,9 млрд параметров, поэтому размер модели в них расходится с описанием исходной модели в README. Модель предназначена для локального диалогового использования, сложных рассуждений и сценариев с вызовом инструментов. Она поддерживает контекст до 196 608 токенов и использует режим рассуждений перед ответом. README приводит результаты MMLU для профиля JANG_3L: 191 из 200 вопросов (95,5%), однако это оценка автора карточки, а результаты сравнения с исходной моделью отдельно не представлены. Для запуска требуются Mac с Apple Silicon и не менее 128 ГБ объединённой памяти; рекомендуется MLX Studio с загрузчиком JANG, поскольку стандартный mlx_lm не поддерживает эту смешанную точность. Автор указывает, что температура должна быть 1,0: жадная генерация и температура 0 могут привести к бесконечным циклам рассуждений. Лицензия MiniMax M2.7 запрещает коммерческое использование без предварительного письменного разрешения MiniMax.
MiniMax-M3-MXFP4 — это мультимодальная vision-language модель на базе MiniMax-M3, разработанная MiniMaxAI и представленная в виде производной 4-битной квантизованной версии от olka-fi с использованием qstream. Модель предназначена для обработки текста и изображений, генерации ответов, решения математических и других интеллектуальных задач, а также сценариев с большим контекстом и вызовом инструментов. Она использует разреженную MoE-архитектуру с 128 экспертами, выбором top-4 экспертов и одним общим экспертом, поддерживает контекст до 256K токенов и включает CLIP vision tower с проектором. Базовая архитектура также использует SwiGLU-OAI и block-sparse attention с lightning-indexer. Основное назначение версии MXFP4 — значительно уменьшить размер модели при сохранении качества. Около 95% весов, относящихся к маршрутизируемым MoE-экспертам, представлены в формате MXFP4 с 4-битными значениями и групповыми масштабами E8M0 для групп по 32 элемента; чувствительные к качеству компоненты сохранены в MXFP8, BF16 или F32. Размер контрольной точки составляет около 237 ГБ против 444 ГБ у исходной MXFP8-версии, а объём весов — примерно 221 ГиБ. В приведённых тестах модель показала perplexity 5,32 на чистом английском тексте и точность 92,9% на GSM8K. Модель рассчитана прежде всего на серверное развёртывание через совместимую экспериментальную сборку vLLM и требует специального патча для MoE-квантизации; для полной конфигурации необходимы GPU с памятью порядка 256–275 ГБ, например B300. Сильными сторонами являются большой контекст, сохранённая обработка изображений, существенное сокращение объёма и высокая скорость генерации на поддерживаемом оборудовании. Ограничения включают значительные требования к видеопамяти, экспериментальный статус поддержки MXFP4 в vLLM и необходимость специальной настройки. Модель распространяется по MiniMax Community License, унаследованной от базовой модели; лицензия допускает некоммерческое использование.
Mistral-Instruct-Ukrainian-SFT — языковая модель Radu Chivereanu, полученная supervised fine-tuning модели Mistral-7B-Instruct-v0.2 на украиноязычных наборах данных. Она предназначена для диалогов и выполнения инструкций на украинском языке, включая ответы на вопросы, задания по чтению и пониманию текста, а также вопросы и ответы по тематике программирования. Модель содержит 7,1 млрд параметров; её архитектура — плотный трансформер MistralForCausalLM с Grouped-Query Attention и Sliding-Window Attention. Контекст составляет до 32 768 токенов. Для запросов используется формат инструкций с токенами [INST] и [/INST], также доступен chat template Transformers. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. README приводит результаты нескольких бенчмарков, но они не гарантируют качество на других задачах и данных.
MaziyarPanahi/Mixtral-8x22B-v0.1-GGUF — это квантованная версия базовой языковой модели Mixtral-8x22B-v0.1, разработанной Mistral AI и преобразованной в формат GGUF пользователем MaziyarPanahi. Модель предназначена для генерации текста и может использоваться в локальных сценариях инференса, включая работу через llama.cpp. Базовая модель допускает дообучение. Модель использует разреженную архитектуру Mixture of Experts (MoE): заявлено 176 млрд параметров, из которых около 35 млрд активны при обработке токена; в другом описании также указано 141 млрд параметров MoE. Заявленная длина контекста составляет до 65 тысяч токенов. Доступны варианты квантования от 2 до 8 бит, а также 16-битный вариант, что позволяет выбирать между требованиями к памяти и качеством. Указана поддержка английского, французского, испанского, итальянского и немецкого языков. Сильной стороной модели являются большой контекст, высокая емкость MoE-архитектуры и возможность локального запуска в квантованных вариантах: для FP16 требуется около 260 ГБ видеопамяти, для INT4 — около 73 ГБ. Ограничения включают значительные аппаратные требования даже при квантовании, а также отсутствие в README подробных результатов оценки качества и гарантии одинаковых характеристик для всех вариантов квантования. Модель распространяется по лицензии Apache 2.0.
Jackrong/MLX-Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-v2-4bit — языковая модель, разработанная Jackrong и преобразованная в формат MLX из Jackrong/Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-v2 с использованием mlx-lm 0.30.7. Модель предназначена для генерации текста и задач, требующих рассуждений; в описании также указана специализация на chain-of-thought. Она рассчитана на использование с библиотекой mlx-lm, в том числе через chat template и интерфейс MLX. Модель имеет размер 27B параметров и представлена в 4-битном формате, что снижает требования к памяти по сравнению с полноразмерным представлением. Поддерживаются английский, китайский и корейский языки. Для обучения или дистилляции заявлены наборы данных nohurry/Opus-4.6-Reasoning-3000x-filtered, Jackrong/Qwen3.5-reasoning-700x и Roman1111111/claude-opus-4.6-10000x. Архитектура, максимальная длина контекста и мультимодальные возможности в README не указаны. Лицензия — Apache-2.0.
tasksource/ModernBERT-base-nli — англоязычная модель-классификатор, созданная tasksource на основе answerdotai/ModernBERT-base и дообученная на наборах данных для вывода на естественном языке (NLI), включая MNLI, ANLI, SICK, WANLI и другие. Это версия ModernBERT, настроенная на следование инструкциям и классификацию пар текстов по отношениям следования, противоречия и нейтральности. Модель предназначена для NLI, классификации тональности, рассуждений по длинным текстам и классификации с пользовательскими метками без отдельного обучения. В карточке приведены результаты на MNLI, QNLI и RTE; модель также предлагается как основа для дальнейшего дообучения. Архитектура — ModernBERT для классификации последовательностей, 149 млн параметров, контекст до 2048 токенов; для использования описан интерфейс Transformers. Модель распространяется по лицензии Apache-2.0. Она обучена преимущественно на англоязычных NLI-данных, поэтому заявленные возможности для других языков не подтверждены. Показатели на отдельных тестах не гарантируют качество на произвольных данных; для специализированных задач может потребоваться дополнительное дообучение.
zelk12/MT3-Gen5-MA-gemma-2-MT2E-9B_v1 — объединённая языковая модель, созданная автором репозитория с помощью mergekit из Aashraf995/Gemma-Evo-10B и zelk12/MT2-gemma-2-9B. Для слияния применён метод SLERP с параметром t=0.25; в метаданных указаны архитектура Gemma 2, плотная модель с 9 млрд параметров и формат safetensors. Модель предназначена для генерации текста и диалогового взаимодействия. Она принимает текстовые запросы и выдаёт текст, поддерживает контекст до 8192 токенов и работает через библиотеку Transformers. Метаданные указывают задачу text-generation и возможность chat. Из README известны состав и метод слияния; сведений о сравнительной точности или специализированных областях применения нет. Лицензия в предоставленных данных не указана.
Nehc/mT5_ru_XLSum — модификация mT5 для суммаризации, ориентированная на русский и английский языки. Автор указывает, что токенизатор сокращён до 32 тысяч токенов с ручной работой David’s Dale. Модель построена на архитектуре T5 и содержит 124,3 млн параметров; веса опубликованы в формате safetensors. Модель предназначена для создания краткого пересказа текста. Карточка не описывает дополнительные сценарии или результаты оценки качества. Данных о базовой модели, лицензии и ограничениях применения в предоставленных источниках нет.
rinna/nekomata-7b-instruction — это дообученная по инструкциям версия языковой модели rinna/nekomata-7b, разработанная rinna при участии Tianyu Zhao и Kei Sawada. Модель построена на плотном трансформере Qwen с 32 слоями и размером 11,4 млрд параметров; контекст — до 32 768 токенов. Для запросов используется формат Alpaca. Модель предназначена для генерации текста и выполнения инструкций на японском и английском языках. При дообучении использовались подмножества Databricks Dolly, японской версии Dolly, FLAN Instruction Tuning и японских наборов из корпуса Izumi lab LLM Japanese; некоторые секции оценочных корпусов были исключены для снижения риска утечки данных. Репозиторий содержит веса PyTorch и Safetensors. Лицензия указана как other, поэтому перед использованием следует проверить условия на странице модели. Карточка ссылается на страницу бенчмарков rinna, но не приводит результаты непосредственно; качество для конкретной задачи следует оценить отдельно.
cross-encoder/nli-deberta-v3-small — англоязычная модель для вывода отношений между парами предложений, опубликованная в формате SentenceTransformers. Она основана на microsoft/deberta-v3-small и дообучена на наборах SNLI и MultiNLI. Для пары текстов модель выдаёт оценки трёх классов: противоречие, следование и нейтральное отношение. Модель подходит для проверки гипотез по тексту и классификации без примеров для каждого класса: названия классов можно задавать как текстовые гипотезы. Её также используют для оценки сходства предложений. Это компактная архитектура DeBERTa V3 с 155 млн параметров и контекстом до 512 токенов; доступны веса PyTorch, Safetensors и ONNX. В README приведены точности 91,65 на тестовом наборе SNLI и 87,55 на несовпадающем разделе MNLI. Обучение на англоязычных наборах ограничивает ожидаемое качество другими языками и предметными областями. Лицензия — Apache-2.0.
NVIDIA Nemotron 3.5 Lightning 30B-A3B NVFP4 GGUF — это форматированный для GGUF и llama.cpp вариант модели NVIDIA Nemotron 3.5 Lightning 30B-A3B NVFP4. Это не переобучение, а побитно точная конвертация исходного контрольного пункта с сохранением NVFP4-весов экспертов; модель предназначена для генерации текста и локального запуска, особенно на GPU NVIDIA Blackwell с поддержкой FP4 tensor cores. Модель использует гибридную архитектуру Mamba-2, Mixture-of-Experts и attention: всего около 30 млрд параметров, из которых примерно 3 млрд активны для каждого токена. Она содержит 52 слоя, включая 6 слоёв с полноценным attention, 128 маршрутизируемых экспертов, из которых активны 6, и одного общего эксперта. Нативная длина контекста составляет 1 048 576 токенов; благодаря фиксированному состоянию Mamba-2 и MoE полный контекст заявлен как доступный на одной видеокарте с 24 ГБ памяти. Поддерживаются английский, испанский, французский, немецкий, итальянский и японский языки. Сильные стороны модели — очень длинный контекст, экономичное число активных параметров, сохранение исходных NVFP4-весов без повторного квантования и возможность использования дополнительной MTP-головы для speculative decoding. MTP-голова может повысить скорость примерно на 7% на быстрых GPU и на величину порядка десятков процентов на более медленном оборудовании, но требует дополнительной памяти и не улучшает качество вывода. Ограничения включают зависимость от совместимого оборудования и llama.cpp, а также потери запаса по контексту при использовании MTP-головы на GPU с 24 ГБ. В README приведены ориентировочные результаты: 79,2% на MMLU-Pro, 70,7% на IFBench и 26,7% на terminal-bench 2.0; авторы отмечают малые выборки и заметную вариативность результатов. Модель распространяется по лицензии OpenMDW License Agreement версии 1.1, унаследованной от базовой модели. Материалы модели принадлежат NVIDIA Corporation и аффилированным лицам; при использовании следует указывать NVIDIA как разработчика исходной модели и NVFP4-экспорта. Репакет не аффилирован с NVIDIA и не предоставляет прав на её товарные знаки.
NVIDIA-Nemotron-Labs-3-Elastic-12B-A2B-NVFP4 — квантованная версия на NVFP4 семейства эластичных языковых моделей NVIDIA Nemotron 3, представленная в карточке как 3-в-1 чекпойнт с вариантами 30B, 23B и 12B. В основе лежит NVIDIA-Nemotron-3-Nano-30B-A3B-BF16; архитектура родительской модели сочетает слои Mamba-2, Attention и Mixture-of-Experts. Метаданные указывают 946,5 млн параметров, а README описывает вложенный вариант 12B с 2,0 млрд активных параметров; эти сведения относятся к разным представлениям и не совпадают. Модель предназначена для генерации текста в диалоге и задач рассуждения. Эластичная структура позволяет извлекать варианты меньшего размера из общего набора весов; README описывает также квантизацию NVFP4 с дистилляцией с учителем и использование через Transformers и vLLM. Указан контекст 262 144 токена. Поддерживаются английский, немецкий, испанский, французский, итальянский и японский языки. README заявляет готовность к коммерческому использованию, но метаданные указывают лицензию «other», поэтому конкретные условия следует сверить с лицензией в репозитории. Карточка содержит несоответствия в названии и числе параметров: README описывает 30B A3B NVFP4 чекпойнт, тогда как идентификатор и метаданные относятся к 12B A2B NVFP4.
Карточка модели birgermoell/oellm-9b-256k-theta64m-prelude на Hugging Face совпадает с карточкой openeurollm/oellm-9b-256k-theta64m-prelude, поэтому описание составлено по ней. OELLM 9B — 256K context (ABF, θ=64M) — prelude — базовая плотная языковая модель OpenEuroLLM на архитектуре Qwen3. Это продолжение предобучения модели prelude с контекстным окном до 262 144 токенов; модель не настроена для следования инструкциям. В README указаны 9B параметров, тогда как метаданные Hugging Face указывают 8B. Модель поддерживает 37 европейских языков, включая английский, немецкий, французский, испанский, польский и украинский; метаданные подтверждают языковые теги для части этого набора. Модель предназначена для генерации продолжений и работы с длинными текстами, в том числе поиска сведений на разных позициях в контексте до 256K токенов. По оценке single-needle NIAH из README, результат на 256K составил 90% на 185 испытаниях в семи языках; более широкая оценка RULER ещё не проводилась. Для обработки контекста 256K требуется несколько GPU. Для такого режима README рекомендует сохранять rope_theta=64000000 и max_position_embeddings=262144. Модель распространяется по лицензии Apache-2.0. Поскольку это базовая модель без инструкционной настройки, она ориентирована на продолжение текста, а не на диалоговое следование запросам; также отмечен умеренный эффект «потери в середине» контекста.
OpenResearcher-30B-A3B — дообученная языковая модель для агентского глубокого исследования, разработанная командой OpenResearcher на базе NVIDIA-Nemotron-3-Nano-30B-A3B-Base-BF16. Модель обучали на 96 тысячах примеров OpenResearcher-Dataset с диалогами длиной более 100 ходов; датасет создан дистилляцией GPT-OSS-120B с использованием браузерных инструментов. Архитектура — Nemotron-H с причинным декодером. В метаданных указаны 1,9 млрд параметров и контекст до 262 144 токенов. Модель предназначена для многошагового поиска и синтеза информации, а также длительных исследовательских диалогов. Карточка сообщает о результате 54,8% на BrowseComp-Plus; это заявление разработчиков и оно само по себе не гарантирует аналогичного качества в других условиях. Для работы с внешними источниками требуется подходящая интеграция инструментов: наличие интерфейса вызова инструментов в метаданных не означает, что браузер входит в комплект модели. Репозиторий использует Transformers и формат Safetensors; лицензия — MIT.