II.1Анализ требований и архитектура ПО

Llama-3-8B-Instruct-v0.3 — плотная авторегрессионная языковая модель семейства Llama, разработанная MaziyarPanahi на основе серии MaziyarPanahi/Llama-3-8B-Instruct-DPO. Она предназначена для диалогов и генерации текста; в карточке указана поддержка ChatML-шаблона, а метаданные отмечают возможность общения в чате. Модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель подходит для создания чат-ботов, ответов на вопросы и генерации текста на английском языке. Репозиторий содержит веса в формате safetensors, а для запуска README рекомендует библиотеку Transformers. Лицензия указана как other, без уточнения её условий в доступных данных.

Llama3-ChatQA-1.5-8B-IMat-GGUF — это GGUF-квантизированная версия текстовой модели Llama3-ChatQA-1.5-8B, разработанной NVIDIA. Квантизацию выполнил legraphista с использованием llama.cpp b3003 и методов IMatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы и работу в локальных приложениях, совместимых с llama.cpp. Модель имеет около 8 млрд параметров, поддерживает английский язык и работает с текстовой модальностью. Доступны варианты от FP16 и Q8_0 до низкобитных форматов Q2, Q3, Q4, IQ2, IQ3 и IQ4; для части вариантов применена IMatrix-квантизация. Размер файлов варьируется примерно от 2,61 до 16,07 ГБ, что позволяет выбирать между качеством, скоростью и требованиями к памяти. Размер контекстного окна в README не указан. Основное преимущество модели — широкий выбор GGUF-вариантов для запуска на оборудовании с разным объёмом памяти и возможность эффективного локального использования через llama.cpp. Ограничения связаны с компромиссами квантизации: низкобитные варианты могут уступать FP16 по качеству, а точные требования к производительности и совместимости зависят от выбранного формата и оборудования. Модель распространяется по лицензии llama3.

QuantFactory/Llama-3-Instruct-8B-SPPO-Iter3-GGUF — квантизированная версия языковой модели UCLA-AGI/Llama-3-Instruct-8B-SPPO-Iter3, созданная с использованием llama.cpp. Модель разработана на основе архитектуры Meta Llama 3 8B Instruct и обучена методом Self-Play Preference Optimization на синтетических ответах с использованием наборов запросов из UltraFeedback. Третья итерация обучения применяет данные, разделённые для последовательного проведения трёх итераций оптимизации. Модель предназначена для генерации текста и выполнения общих инструкций, включая диалоговые и вопросно-ответные сценарии. Это GPT-подобная текстовая модель примерно на 8 млрд параметров, ориентированная прежде всего на английский язык. Информация о поддерживаемой длине контекста и дополнительных модальностях в README не указана; модель является текстовой и не предназначена для обработки изображений или других мультимедийных данных. К сильным сторонам относятся улучшенные результаты третьей итерации по сравнению с предыдущими версиями в оценках AlpacaEval и Open LLM Leaderboard: заявлены LC Win Rate 38,77, средний результат набора Open LLM Leaderboard 70,29 и высокие показатели на HellaSwag, Winogrande и ARC-Challenge. Ограничениями являются преимущественная ориентация на английский язык, зависимость качества от выбранного формата квантизации и отсутствие в README подробностей о конкретном варианте квантизации и размере файла. Модель распространяется по лицензии Apache-2.0.

ceia-aisdk/llm-small-v1 — распространяемый CEIA AI SDK артефакт GGUF с квантизированными весами модели Qwen3-4B-Instruct-2507. CEIA не обучала эти веса; модель основана на Qwen/Qwen3-4B-Instruct-2507 и представлена в формате GGUF с квантизацией Q4_K_M от bartowski. Модель предназначена для генерации текста и диалогового взаимодействия через CEIA AI SDK, включая ответы на запросы и следование инструкциям. Базовая модель — плотная языковая модель Qwen3 на 4 млрд параметров; каталог указывает поддержку чата и контекст до 262 144 токенов для базовой модели. Репозиторий содержит один файл model.gguf и распространяется по лицензии Apache-2.0, как и базовая модель. Квантизация сокращает требования к ресурсам, однако README не приводит измерений качества или производительности именно этой сборки.

bartowski/lordx64_Qwable-v1-GGUF — набор GGUF-квантизованных версий модели Qwable-v1, разработанной lordx64. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для диалоговых и агентских сценариев, включая использование инструментов, цепочки рассуждений и генерацию текста; в метаданных она также отмечена как image-text-to-text, однако подробности о поддерживаемых визуальных возможностях не приведены. Указан английский язык, а обучение связано с датасетом agentic-distill-fable-5-sft. В тегах упоминаются Qwen3, Qwen3.6, MoE, distillation и chained distill, но точная архитектура, число параметров и размер контекста в README не указаны. Доступны варианты от BF16 и Q8_0 до более компактных IQ- и Q3-квантизаций. Размер файлов варьируется примерно от 15,98 до 71,07 ГБ; Q4_K_M обозначен как вариант по умолчанию для большинства сценариев, а Q5 и Q6 — как рекомендуемые варианты более высокого качества. Более сильные квантизации обеспечивают лучшее сохранение качества, тогда как низкобитные версии экономят оперативную память, но могут заметно уступать в качестве. Для запуска предлагаются llama.cpp, LM Studio, Ollama-подобные и другие совместимые инструменты, однако для недавно поддерживаемых архитектур может потребоваться обновление ПО. Лицензия модели указана как AGPL-3.0. README не содержит результатов бенчмарков, точных требований к оборудованию, данных о размере контекста и детального описания ограничений, поэтому производительность и фактические мультимодальные возможности следует проверять отдельно.

kzome/manhua-ar-model — дообученная разработчиком kzome модель генерации текста на архитектуре Qwen2.5. Она основана на unsloth/Qwen2.5-7B-Instruct-bnb-4bit и содержит 7,1 млрд параметров; в карточке указаны обучение с Unsloth и библиотекой TRL, а также поддержка диалога и интерфейса вызова инструментов. Модель подходит для генерации текста и диалогового взаимодействия. Контекстное окно составляет до 32 768 токенов, основной указанный язык — английский. Модель распространяется по лицензии Apache-2.0.

Manticore 30B Chat (ALPHA) — диалоговая модель OpenAccess AI Collective, дообученная на базе Llama 30B. Это плотная авторегрессионная модель семейства Llama с 32,3 млрд параметров, предназначенная для генерации ответов в формате чата. В обучении использованы диалоги, инструкции, примеры рассуждений, задач на знания и логику, математику, суммаризацию, код и отфильтрованные данные для ролевых сценариев. Модель принимает текстовые запросы и генерирует текст; в карточке указан английский язык. Это альфа-чекпойнт, обученный только на 0,4 эпохи: авторы отмечают скачки потерь при обучении и уязвимость к обходу имеющегося выравнивания. Модель не прошла RLHF и не имеет встроенной фильтрации ответов, поэтому может выдавать нежелательный контент. Подходит для экспериментов с чат-моделями и генерацией текста; сведений о лицензии в предоставленных данных нет.

Marcoroni 70B GGUF — это квантизированная версия большой языковой модели Marcoroni 70B, разработанной AIDC-ai-business и преобразованной в формат GGUF пользователем TheBloke. Модель основана на архитектуре Llama и предназначена для генерации текста по инструкциям, включая диалоговые и другие задачи обработки естественного языка. В карточке указано, что модель обучалась с использованием набора данных Open-Orca и поддерживает английский язык. Модель имеет около 70 миллиардов параметров; доступны варианты GGUF с разной разрядностью квантования — 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между качеством, требованиями к памяти и скоростью работы. Формат поддерживается llama.cpp и рядом сторонних интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и candle, с возможностью CPU- и GPU-инференса. В качестве шаблона запросов используется формат Alpaca. К сильным сторонам относятся возможность локального запуска и широкий выбор уровней квантования. Ограничения включают высокие требования к ресурсам для 70B-модели, зависимость характеристик от выбранной квантованной версии и отсутствие в предоставленных данных сведений о размере контекста, мультимодальности и подробных результатах оценки. Указана лицензия CC BY-NC 4.0; кроме того, заявляется применимость условий лицензии Meta Llama 2, поэтому коммерческое использование может быть ограничено и требует проверки совместимости лицензий.

Mercury 2 — большая языковая модель рассуждений от Inception, представленная как первая reasoning diffusion LLM (dLLM). Вместо последовательной генерации токенов она параллельно создаёт и уточняет несколько токенов. Модель предназначена для генерации текста и задач рассуждения. В доступном описании заявлена высокая скорость работы. Данных о размере, контексте, поддерживаемых языках и лицензии нет.

NaniDAO выпустила экспериментальную абляционную версию Meta-Llama-3.1-8B-Instruct с контекстом до 128K токенов. Модель предназначена для диалогов и генерации текста; по заявлению разработчика, она реже отказывает в допустимых запросах, чем предыдущая версия v0. Модель использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и распространяется в формате safetensors через библиотеку Transformers. Метаданные указывают интерфейс для чата и вызова инструментов. Карточка не сообщает о специальной предметной области или поддерживаемых языках. Лицензия в предоставленных данных не указана. Разработчик рекомендует использовать модель ответственно; заявленное снижение отказов само по себе не подтверждает качество или безопасность ответов.

Meta-Llama-3-70B-Instruct-abliterated-v3.5-IMat-GGUF — это GGUF-квантизированная версия языковой модели Meta-Llama-3-70B-Instruct-abliterated-v3.5, подготовленная legraphista на основе модели failspy. Модель предназначена для генерации текста и диалоговых сценариев с использованием llama.cpp и совместимых инструментов. Модель имеет размер 70 млрд параметров и поставляется в форматах BF16, FP16, Q8_0, Q6_K, Q5_K, Q4_K, IQ4 и других вариантах квантизации. Для ряда вариантов применена IMatrix-квантизация, призванная сохранить качество при уменьшении размера модели. Доступны файлы размером примерно от 26,38 ГБ до 141,12 ГБ; часть крупных вариантов разделена на несколько файлов. README не содержит сведений о длине контекста, поддерживаемых языках или мультимодальности, поэтому модель следует считать текстовой. Сильной стороной является сочетание крупного размера исходной модели с различными уровнями квантизации, позволяющими выбирать баланс между качеством, требованиями к памяти и скоростью инференса. Ограничения связаны с высокими аппаратными требованиями даже для квантизированных вариантов и возможной потерей качества при агрессивной квантизации. Модель распространяется по лицензии llama3; для использования необходимо учитывать условия этой лицензии.

NyxKrage/Microsoft_Phi-4 — это повторная публикация модели Microsoft Phi-4, разработанная Microsoft; README утверждает, что её веса идентичны Microsoft/Phi-4. Это плотная авторегрессионная языковая модель семейства Phi-3 с 14,1 млрд параметров и контекстом до 16 384 токенов. Репозиторий содержит веса в формате safetensors и поддерживает диалоговое применение. Модель предназначена для генерации текста общего назначения, включая рассуждения и логические задачи, а также для использования в сценариях с ограничениями по памяти, вычислениям и задержке. Она рассчитана прежде всего на английский язык и не предназначена для многоязычного применения. Модель может генерировать недостоверные или оскорбительные ответы, воспроизводить стереотипы и требует проверки результатов, особенно в чувствительных и высокорисковых сценариях; возможности генерации кода ограничены преимущественно Python и распространёнными библиотеками. В README указана лицензия other, поэтому конкретные условия следует сверять с лицензионными сведениями репозитория. Карточка описывает оценку безопасности и рекомендует проверять точность и безопасность для конкретного применения.

Minico-M1 Preview — компактная языковая модель, разработанная Mincofficial и дообученная на базе LiquidAI/LFM2.5-350M на наборе QyrouNnet-AI/exp-reasoning-effort-control. Она предназначена для генерации текста в диалогах и задач рассуждения; шаблон чата поддерживает видимые блоки рассуждений и уровни усилий low, medium, high и max. Модель построена на плотной архитектуре LFM2 и содержит 343,9 млн параметров, поддерживает контекст до 128 000 токенов и интерфейс вызова инструментов. Это предварительный выпуск для ознакомления и совместимости. В репозитории safetensors-файл является экспортом в float16, полученным деквантованием исходного файла GGUF Q8_0, поэтому его веса приближённые и не соответствуют исходному полноточному чекпойнту обучения. Применяется лицензия базовой модели LiquidAI/LFM2.5-350M.

Карточка модели NostraEmpire/mirror-olmo-2-13b-instruct на Hugging Face совпадает с карточкой allenai/OLMo-2-1124-13B-Instruct, поэтому описание составлено по ней. OLMo-2-1124-13B-Instruct — разговорная языковая модель Allen Institute for AI (AI2), постобученная на основе OLMo-2 13B. Она прошла supervised fine-tuning на варианте набора Tülu 3 и обучение RLVR; метаданные указывают базовую модель allenai/OLMo-2-1124-13B-Instruct-RLVR2. Модель с плотной архитектурой OLMo 2 содержит 13,2 млрд параметров, использует Transformers и формат safetensors, а её контекст составляет 4096 токенов. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы, следование инструкциям и решение математических задач. Обучение ориентировано преимущественно на английский язык и охватывает разнообразные задачи, включая MATH, GSM8K и IFEval. Модель распространяется по лицензии Apache 2.0. У OLMo-2 ограничено обучение безопасности; без дополнительной фильтрации она может выдавать проблемные ответы, особенно в ответ на соответствующие запросы. Для загрузки через Hugging Face README сообщает о необходимости установить Transformers из основной ветки.

Mistral-7B-Instruct-v0.3-heretic — языковая генеративная модель, созданная пользователем saidutta69 на основе Mistral-7B-Instruct-v0.3 от Mistral AI. Модель обработана инструментом Heretic v1.4.0 методом направленной абляции: изменения внесены в отдельные веса attention и MLP без дообучения. Заявленный размер — 7,2 млрд параметров; основная заявленная поддерживаемая языковая версия — английский язык. Модель предназначена для генерации текста, диалоговых систем, локальных агентов, ролевых сценариев, function calling и исследований механизмов выравнивания и отказов моделей. Доступны полноточные веса BF16 и квантизированные варианты GGUF Q4_K_M, Q5_K_M, Q6_K и Q8_0, что позволяет запускать её на бытовых видеокартах, CPU и устройствах Apple Silicon. Согласно README, подавление отказов существенно снизило их частоту по сравнению с базовой моделью, при этом автор заявляет о сохранении исходных знаний и возможностей следования инструкциям. Ключевое ограничение — намеренное удаление защитных ограничителей: модель может выполнять запросы, которые базовая версия отклоняет, включая потенциально опасные. Она сохраняет фактические ограничения и предвзятости исходной модели, а отсутствие встроенной фильтрации делает её неподходящей для незащищённых публичных сервисов без дополнительной модерации. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

Карточка модели jacobolopez/Mistral-7B-v0.1-sharded на Hugging Face совпадает с карточкой mistralai/Mistral-7B-v0.1, поэтому описание составлено по ней. Mistral-7B-v0.1 — предварительно обученная генеративная языковая модель команды Mistral AI с плотной архитектурой Transformer и примерно 7,1 млрд параметров. Она предназначена для генерации продолжения текста и служит базовой моделью для дальнейшей адаптации под конкретные задачи. Модель использует Grouped-Query Attention, Sliding-Window Attention и токенизатор Byte-fallback BPE. Родной контекст составляет 32 768 токенов. Карточка указывает английский язык; модель доступна в форматах PyTorch и safetensors и рассчитана на работу с библиотекой Transformers. По заявлению разработчиков, на проверенных ими бенчмарках модель превосходила Llama 2 13B. Это базовая модель без механизмов модерации, поэтому сгенерированный текст может быть нежелательным или небезопасным. Лицензия — Apache-2.0.

OpenPipe создала эту плотную авторегрессионную языковую модель на архитектуре Mistral с помощью слияния весов методом SLERP. В состав слияния вошли Weyaxi/OpenHermes-2.5-neural-chat-v3-3-Slerp и Q-bert/MetaMath-Cybertron-Starling, построенные на базе mistralai/Mistral-7B-v0.1. Модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена как сильная исходная точка для последующего дообучения на разных задачах генерации текста. Авторы сообщают о хороших результатах на внутренних оценках, но не приводят в карточке их подробностей. Репозиторий содержит веса в формате safetensors. Лицензия CC BY-NC 4.0 ограничивает использование некоммерческими целями; авторы также рекомендуют обновлённую версию модели с более разрешительной лицензией.

Kaoeiri/Mistral-magnum-v4_X_Cydonia-VXXX_Max — текстовая диалоговая модель, созданная Kaoeiri слиянием нескольких предварительно обученных моделей через mergekit. Использован метод Model Stock, а базовой моделью при слиянии стала byroneverson/Mistral-Small-Instruct-2409-abliterated. В состав также вошли варианты Magnum, Cydonia и Waifu от Kaoeiri. Модель предназначена для генерации текста и ответов в диалоге. Она использует плотную архитектуру MistralForCausalLM, содержит 22 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса safetensors; в метаданных заявлен интерфейс для вызова инструментов. В карточке не описаны качество на конкретных задачах и поддерживаемые естественные языки. Модель распространяется по лицензии, унаследованной от базовой модели byroneverson/Mistral-Small-Instruct-2409-abliterated; конкретная лицензия в предоставленных данных не приведена.

Mistral-Small-Instruct-2409-IMat-GGUF — это GGUF-квантизированная версия модели Mistral-Small-Instruct-2409, разработанной Mistral AI. Квантизацию выполнил legraphista с использованием llama.cpp версии b3785 и метода IMatrix. Модель предназначена для генерации текста и диалогового взаимодействия, включая локальный запуск через совместимые инструменты экосистемы llama.cpp. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. Доступны варианты в форматах BF16, F16, Q8_0, Q6_K, Q5_K, Q5_K_S, Q4_K, Q4_K_S, IQ4_NL, IQ4_XS, Q3_K, Q3_K_L, Q3_K_S и Q2_K; размеры файлов варьируются примерно от 8,27 до 44,50 ГБ. IMatrix применяется к ряду вариантов с более сильным сжатием, включая Q4, Q3 и Q2, что позволяет уменьшить требования к хранению при сохранении качества, насколько это возможно для выбранного уровня квантизации. Сильная сторона модели — наличие большого выбора степеней квантизации для подбора компромисса между качеством, размером файла и требованиями к аппаратным ресурсам, а также поддержка нескольких языков. Ограничения конкретного варианта зависят от уровня квантизации: более компактные файлы могут уступать исходной BF16-модели в точности и качестве генерации. В README не указаны архитектурные параметры, число параметров, размер контекста и результаты бенчмарков. Модель распространяется по лицензии Mistral Research License 0.1 (MRL-0.1).

Mixtral-8x7B-Instruct-v0.1-GGUF — это набор файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе оригинальной модели Mixtral-8x7B-Instruct-v0.1, разработанной Mistral AI. Модель предназначена для генерации текста и диалоговых сценариев, а GGUF-версии позволяют запускать её локально с помощью llama.cpp и совместимых приложений и библиотек, включая text-generation-webui, LM Studio, GPT4All, KoboldCpp и llama-cpp-python. Архитектура исходной модели — Mixtral с восемью экспертами по 7B параметров; конкретные характеристики контекста, языковой поддержки и модальностей в README не указаны. Репозиторий содержит варианты квантования с разной разрядностью — от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Модель текстовая и относится к pipeline text-generation. Сильной стороной является поддержка множества локальных инструментов и возможность подбирать степень квантования под доступное оборудование. Ограничения и влияние конкретных вариантов квантования на качество в README подробно не описаны; также не указаны рекомендуемые аппаратные требования и максимальная длина контекста. Модель распространяется по лицензии Apache-2.0.

mlx-community/Mixtral-8x7B-v0.1-hf-4bit-mlx — 4-битная конверсия модели Mixtral 8x7B от сообщества mlx-community для запуска на MLX. В основе лежит mistralai/Mixtral-8x7B-v0.1; архитектура — языковая модель с разреженной смесью экспертов (MoE), предназначенная для генерации текста. Модель поддерживает контекст длиной до 32 768 токенов и распространяется по лицензии Apache-2.0. Её можно использовать для диалогов, генерации и продолжения текста. Метаданные карточки указывают английский, французский, итальянский, немецкий и испанский языки. README сообщает о конверсии в формат MLX и 4-битном представлении; опубликованные метаданные перечисляют файлы safetensors. Ограничения и дополнительные характеристики исходной модели следует сверять с её карточкой.

MN-LooseCannon-12B-v1 — языковая модель для генерации текста и диалогов, созданная GalrionSoftworks с помощью LazyMergekit. Это слияние моделей aetherwiing/MN-12B-Starcannon-v3 и Sao10K/MN-12B-Lyra-v1 методом TIES с нормализацией весов. Модель имеет плотную архитектуру MistralForCausalLM и 12,1 млрд параметров; веса опубликованы в формате safetensors. В метаданных заявлена длина контекста 1 024 000 токенов. Модель предназначена для генерации ответов в чатах и других текстовых сценариях. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH. Сведений о специализации по языкам и условиях лицензии в предоставленных данных нет.

MobileLLM-Pro-base — базовая предварительно обученная языковая модель семейства MobileLLM, разработанная Meta Reality Labs для эффективного запуска на устройствах. Модель содержит 1,08 млрд параметров и предназначена для генерации текста и общих языковых задач; README сообщает о результатах на тестах рассуждений, знаний и извлечения информации. Архитектура использует 30 слоёв и чередует локальное и глобальное внимание в соотношении 3:1, что снижает затраты на обработку длинного контекста. Заявленная длина контекста — до 128 тыс. токенов. Модель принимает и выдаёт текст и рассчитана на английский язык. Веса доступны в формате safetensors; README описывает базовый чекпойнт в 16-битной точности и отдельные int4-варианты для CPU и ускорителей, размещённые в других репозиториях. Модель можно применять для генерации текста, работы с длинными документами, суммаризации и поиска информации; для диалога, ответов на вопросы и вызова инструментов разработчики отдельно предлагают инструктивно дообученную версию. Модель создана с дистилляцией знаний от Llama 4-Scout. Лицензия FAIR NC ограничивает использование некоммерческими исследовательскими целями.

Nanbeige4-3B-Base — базовая языковая модель из семейства Nanbeige четвёртого поколения, разработанная командой Nanbeige. Модель содержит 3,5 млрд параметров, построена на плотной архитектуре Llama и предназначена для генерации текста и дальнейшей адаптации под прикладные задачи, например через supervised fine-tuning. В обучении использовался корпус из веб-текстов, книг, кода и научных статей, дополненный синтетическими данными для вопросов и ответов и рассуждений. Модель принимает текст и генерирует текст; заявленная длина контекста составляет 32 768 токенов. В карточке указаны английский и китайский языки. Разработчики сообщают о сильных результатах после дообучения на математических задачах и тестах на научные знания, в отдельных сравнениях превосходящих модели большего размера. Это базовый чекпойнт, поэтому для диалогового использования может потребоваться дополнительная настройка. Модель распространяется по лицензии Apache-2.0. Как и другие вероятностные языковые модели, она может выдавать ошибочную или неожиданную информацию, а также предвзятые или дискриминационные ответы. Разработчики не гарантируют отсутствие такого контента.

Карточка модели Arsh9210/Nemotron-Labs-Diffusion-14B на Hugging Face совпадает с карточкой nvidia/Nemotron-Labs-Diffusion-14B, поэтому описание составлено по ней. Nemotron-Labs-Diffusion-14B — плотная языковая модель NVIDIA с 13,4 млрд параметров для генерации текста в диалоговом режиме. Одна и та же модель поддерживает авторегрессионное декодирование, параллельное декодирование на основе диффузии и self-speculation: диффузионный режим подготавливает несколько токенов, а авторегрессионный проверяет их с использованием общего KV-кэша. Режимы переключаются изменением шаблона внимания. Модель предназначена для диалоговых приложений и сценариев инференса, где важна скорость генерации при разной одновременной нагрузке. NVIDIA описывает ускорение за счёт повторного использования весов для вычисления нескольких токенов; приведённые в карточке показатели относятся к отдельным конфигурациям и аппаратным платформам и не гарантируют такую же производительность в других условиях. Заявленное максимальное контекстное окно — 262 144 токена. Для запуска README указывает Transformers версии 5.0 или новее; веса доступны в формате safetensors. Лицензия обозначена как other, поэтому перед использованием следует ознакомиться с условиями NVIDIA. Карточка рекомендует оценивать пригодность модели для конкретного применения и учитывать связанные с ним риски.

NextSearch-1-M — дообученная компанией NextTokenAI модель на базе Inkling-Small, предназначенная для веб-исследований в составе системы с оркестратором. Она разбивает вопрос на подзадачи, ищет и получает материалы из актуального веба, сопоставляет противоречивые свидетельства и возвращает краткий ответ или структурированный исследовательский результат. Модель относится к семейству Inkling, использует плотную архитектуру класса InklingForConditionalGeneration; заявленный размер — 276 млрд параметров, из которых активно около 12 млрд. В карточке описаны агентные сценарии с поиском и использованием инструментов; запуск предлагается через vLLM с контекстом до 65 536 токенов. В опубликованной оценке на наборах для поиска свежих и противоречивых данных, многокритериального поиска и подготовки полных ответов модель показала конкурентные результаты в рамках собственного тестового стенда NextTokenAI. Это не гарантирует сопоставимость с результатами других бенчмарков. Для запуска в bf16 требуется около 530 ГБ весов и мног GPU-сервер; модель рассчитана на повторные вызовы оркестратором, а не на самостоятельное подключение к вебу без инструментов. Лицензия — Apache-2.0.

Карточка модели unsloth/NVIDIA-Nemotron-3-Nano-4B-FP8 на Hugging Face совпадает с карточкой unsloth/NVIDIA-Nemotron-3-Nano-4B, поэтому описание составлено по ней. NVIDIA-Nemotron-3-Nano-4B — компактная языковая модель NVIDIA для диалога, рассуждений и агентных сценариев. Репозиторий unsloth содержит дообученную версию базовой модели nvidia/NVIDIA-Nemotron-3-Nano-4B-BF16. В карточке указаны 6,4 млрд параметров и гибридная архитектура Nemotron-H с Mamba-2, MLP и четырьмя слоями Attention; модель принимает и генерирует текст, поддерживает контекст до 262 144 токенов и имеет интерфейс для вызова инструментов. Модель предназначена для локальных голосовых помощников, игровых NPC-компаньонов и автоматизации IoT, а также для задач программирования и работы агента на устройствах с ускорением NVIDIA. Карточка заявляет английский как поддерживаемый язык; в описании обучения также перечислены многоязычные данные, в том числе русский, но это не гарантирует одинаковое качество на всех языках. Модель может формировать рассуждения перед ответом; отключение этого режима может снизить точность на сложных запросах. Для запуска описана поддержка Transformers, vLLM и TensorRT-LLM, а также других движков инференса. README называет модель пригодной для коммерческого использования, однако метаданные указывают лицензию «other», поэтому перед внедрением следует проверить условия лицензии репозитория.

OLMo-2-1124-13B-Instruct — разговорная языковая модель Allen Institute for AI (AI2), постобученная на основе OLMo-2 13B. Она прошла supervised fine-tuning на варианте набора Tülu 3 и обучение RLVR; метаданные указывают базовую модель allenai/OLMo-2-1124-13B-Instruct-RLVR2. Модель с плотной архитектурой OLMo 2 содержит 13,2 млрд параметров, использует Transformers и формат safetensors, а её контекст составляет 4096 токенов. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы, следование инструкциям и решение математических задач. Обучение ориентировано преимущественно на английский язык и охватывает разнообразные задачи, включая MATH, GSM8K и IFEval. Модель распространяется по лицензии Apache 2.0. У OLMo-2 ограничено обучение безопасности; без дополнительной фильтрации она может выдавать проблемные ответы, особенно в ответ на соответствующие запросы. Для загрузки через Hugging Face README сообщает о необходимости установить Transformers из основной ветки.

TobDeBer/Olmo-3-1025-7B-magic1 — преобразованная с помощью Magic V1 версия языковой модели OLMo 3 7B, разработанной Allen Institute for AI (Ai2). Это плотная авторегрессионная Transformer-модель примерно с 6,9 млрд параметров, предназначенная для генерации текста и продолжения запросов. Модель обучалась на данных Dolma 3; карточка описывает этапы предварительного обучения, дообучения на смешанных данных и обучения для длинного контекста. Модель работает с текстом на английском языке и поддерживает контекст до 65 536 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Подходит для генерации текста, ответов на вопросы, задач по математике и коду, однако конкретное качество на таких задачах зависит от запроса и развёртывания. Это базовая языковая модель без фильтрации безопасности: она может выдавать неточные, предвзятые или вредоносные ответы, поэтому факты следует проверять. Модель и код распространяются по лицензии Apache 2.0.

Карточка модели localized-ft/OLMo-3-7B-school-of-reward-hacks-first-third-sft-seed5 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.