II.6Документация и сопровождение разработки

ToastyPigeon выпустил альтернативную версию Meadowlark — объединённую разговорную модель на базе Mistral-Small-Instruct-2409 и двух производных моделей: Alfitaria/mistral-small-fujin-qlora и ToastyPigeon/mistral-small-springdragon-qlora. Вариант отличается от Meadowlark заменой обучающей выборки Creative_Writing_Multiturn на Sunfall v0.7.0, чтобы сделать ролевые диалоги менее синтетическими на ощупь. Модель имеет плотную архитектуру Mistral с 22 млрд параметров и контекстом до 131 072 токенов. Она предназначена для генерации текста и диалогов, включая ролевые сценарии; метаданные также отмечают интерфейс вызова функций. Используются Transformers и формат safetensors. Лицензия в предоставленных данных не указана.

zelk12 создал эту диалоговую модель с помощью mergekit, объединив SLERP-методом две предварительно обученные модели Gemma 2: recoilme/recoilme-gemma-2-9B-v0.3 и zelk12/recoilme-gemma-2-Ataraxy-9B-v0.1-t0.25. Модель имеет плотную архитектуру Gemma 2, содержит 9 млрд параметров и предназначена для генерации текста в диалогах и при выполнении инструкций. Модель работает с текстом, поддерживает чат и имеет контекст до 8192 токенов. Данные не подтверждают поддержку конкретных естественных языков или специализированных предметных областей. Использование зависит от лицензии базовых моделей; сведения о лицензии в предоставленной карточке отсутствуют.

zelk12 создал эту разговорную языковую модель как слияние двух предварительно обученных моделей Gemma 2 9B с помощью метода SLERP и инструмента mergekit. Модель предназначена для генерации текста в диалоговом формате и поддерживает контекст до 8192 токенов. Модель содержит 9 млрд параметров, использует архитектуру Gemma2ForCausalLM и распространяется в формате safetensors для библиотеки Transformers. В карточке не описаны специальные области применения и языковой охват. Лицензия в предоставленных данных не указана.

zelk12/MT5-MMB-gemma-2-9B — объединённая языковая модель, созданная автором репозитория с помощью mergekit методом SLERP из двух моделей Gemma 2. Она предназначена для диалоговой генерации текста и работы в сценариях общения с чат-моделью. Модель имеет плотную архитектуру Gemma 2 с 9 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. В репозитории указаны веса в формате safetensors и использование библиотеки Transformers. README описывает слияние моделей, но не приводит подробностей об их целевых сценариях, языковой специализации или сравнительных качествах. Условия лицензирования в предоставленных данных не указаны.

automerger/Multi_verse_modelExperiment28-7B — объединённая языковая модель на архитектуре Mistral, созданная с помощью mergekit. В основе объединения лежит ammarali32/multi_verse_model; также в него включена yam-peleg/Experiment28-7B. Использован метод DARE TIES. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и сценариев работы с языковой моделью. В карточке не приведены специальные прикладные области или сведения о языках. Файлы представлены в формате safetensors. Лицензия не указана в предоставленных данных.

My-Zephyr-7B-iter-2 — диалоговая модель для генерации текста, созданная TTTXXX01 дообучением My-Zephyr-7B-iter-1 на обновлённом и исходном наборах данных. Она основана на плотной архитектуре Mistral и содержит 7,1 млрд параметров; модель рассчитана на контекст до 32 768 токенов и поддерживает диалоговый режим. Подходит для ответов на запросы и генерации текста в чат-сценариях. Модель распространяется по лицензии MIT. В README не приведены сведения об оценке качества и целевых сценариях обучения, поэтому её результаты для конкретных задач следует проверять отдельно.

NekoMind1.5-Base — предварительно обученная базовая языковая модель серии NekoMind от разработчиков репозитория nekocyrene. Это авторегрессионный Transformer-декодер с архитектурой Mixture-of-Experts: 1,35 млрд параметров всего, около 300 млн активируются на токен. В модели 18 слоёв, 32 эксперта с маршрутизацией top-4, GQA, RoPE, SwiGLU и RMSNorm; контекст — до 32 768 токенов. Модель предназначена для генерации текста и служит базой для дальнейшей адаптации под диалоговые и другие языковые задачи. Репозиторий предоставляет веса в формате Safetensors; для загрузки требуется Transformers и включение trust_remote_code=True, поскольку код архитектуры ещё не вошёл в основную библиотеку Transformers. Модель распространяется по лицензии Apache-2.0. README указывает 1,35 млрд параметров, тогда как метаданные каталога содержат 259,3 млн, поэтому фактический размер по источникам расходится.

Nemostein-3-Nano-Omni-30b-a3b-i1-GGUF — это GGUF-квантизированная версия модели GestaltLabs/Nemostein-3-Nano-Omni-30b-a3b. Квантизацию выполнил mradermacher с использованием weighted/imatrix-подхода. Модель предназначена для генерации текста на английском языке, диалоговых сценариев, задач рассуждения, использования инструментов и function calling. В метаданных модель отмечена как mixture-of-experts и связана с архитектурой Nemotron-H; обозначение базовой модели содержит параметры 30b-a3b, однако точное число активных параметров, размер контекста и подробности архитектуры в README не указаны. Поддержка других модальностей, кроме текстовой, также не подтверждена, несмотря на слово Omni в названии. Доступно множество вариантов GGUF-квантизации размером примерно от 18 до 33,6 ГБ, что позволяет выбирать компромисс между размером, скоростью и качеством. Сильными сторонами являются поддержка англоязычной генерации, reasoning, conversational use, tool use и function calling, а также широкий выбор уровней квантизации. Ограничения связаны с потерями качества, зависящими от выбранного варианта квантизации; некоторые низкобитные варианты в README прямо характеризуются как имеющие низкое качество. Лицензия указана как other, без дополнительных условий в представленном README.

Карточка модели Arsh9210/Nemotron-Labs-Diffusion-14B на Hugging Face совпадает с карточкой nvidia/Nemotron-Labs-Diffusion-14B, поэтому описание составлено по ней. Nemotron-Labs-Diffusion-14B — плотная языковая модель NVIDIA с 13,4 млрд параметров для генерации текста в диалоговом режиме. Одна и та же модель поддерживает авторегрессионное декодирование, параллельное декодирование на основе диффузии и self-speculation: диффузионный режим подготавливает несколько токенов, а авторегрессионный проверяет их с использованием общего KV-кэша. Режимы переключаются изменением шаблона внимания. Модель предназначена для диалоговых приложений и сценариев инференса, где важна скорость генерации при разной одновременной нагрузке. NVIDIA описывает ускорение за счёт повторного использования весов для вычисления нескольких токенов; приведённые в карточке показатели относятся к отдельным конфигурациям и аппаратным платформам и не гарантируют такую же производительность в других условиях. Заявленное максимальное контекстное окно — 262 144 токена. Для запуска README указывает Transformers версии 5.0 или новее; веса доступны в формате safetensors. Лицензия обозначена как other, поэтому перед использованием следует ознакомиться с условиями NVIDIA. Карточка рекомендует оценивать пригодность модели для конкретного применения и учитывать связанные с ним риски.

Nemotron-Labs-Diffusion-14B-Base — базовая плотная языковая модель NVIDIA семейства Nemotron-Labs-Diffusion с 13,4 млрд параметров. Она поддерживает авторегрессионную генерацию и параллельное декодирование на основе диффузии: переключение режима выполняется изменением шаблона внимания при инференсе. Также модель позволяет использовать self-speculation, где она готовит параллельные черновые токены диффузионным способом и проверяет их авторегрессионно с общим KV-кэшем. Модель предназначена для генерации текста и диалоговых сценариев, где важны скорость декодирования и эффективность инференса при разной параллельной нагрузке. README приводит результаты ускорения self-speculation и примеры скорости на NVIDIA DGX Spark и GB200; эти показатели относятся к указанным конфигурациям и сравнениям. По метаданным, модель работает через Transformers и имеет нативный контекст длиной до 262 144 токенов. В репозитории указан формат safetensors. Лицензия обозначена как other; конкретные условия следует сверять с условиями NVIDIA перед использованием. README рекомендует оценивать пригодность модели, риски и качество для конкретного сценария.

Карточка модели joincrksilverb/Nemotron-Mini-4B-Instruct на Hugging Face совпадает с карточкой nvidia/Nemotron-Mini-4B-Instruct, поэтому описание составлено по ней. Nemotron-Mini-4B-Instruct — компактная языковая модель NVIDIA для генерации диалоговых ответов и выполнения инструкций. Это дообученная версия nvidia/Minitron-4B-Base, основанной на Nemotron-4 15B и сжатой с помощью прореживания, дистилляции и квантования. Модель содержит 4,3 млрд параметров и построена как авторегрессионный Transformer-декодер с Grouped-Query Attention и RoPE; принимает контекст до 4096 токенов. Модель предназначена для ролевых диалогов, ответов на вопросы по материалам в сценариях RAG и вызова функций. NVIDIA оптимизировала её для быстрого вывода и развёртывания на устройствах; карточка заявляет готовность к коммерческому использованию. Основной язык — английский. Указанная в метаданных лицензия — other, поэтому конкретные условия использования следует сверить с лицензией и условиями NVIDIA.

Nemotron-Mini-4B-Instruct-GGUF — это набор GGUF-квантизаций инструкционной языковой модели Nemotron-Mini-4B-Instruct, разработанной NVIDIA и квантизированной bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локального инференса, в том числе через LM Studio. Указан английский язык; поддерживается текстовая модальность. Формат запроса требует специальных маркеров для системных, пользовательских и ассистентских сообщений. Доступны варианты от исходных весов F16 размером 8,39 ГБ до компактных квантизаций IQ3_M размером 2,18 ГБ. Предлагаются форматы Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и другие, включая варианты, оптимизированные для ARM-процессоров. Некоторые сборки используют Q8_0 для embedding- и output-весов, что может улучшать сохранение качества. Ключевое преимущество набора — выбор между качеством, размером и требованиями к памяти; ограничение — снижение качества при более агрессивной квантизации. Сведения о размере контекста и архитектуре базовой модели в README не указаны. Модель распространяется по лицензии NVIDIA Community Model License; условия следует уточнять в документе лицензии NVIDIA.

jeiku/Neo-e2 — дообученная диалоговая текстовая модель на архитектуре LlamaForCausalLM, основанная на IntervitensInc/Llama-3.1-Minitron-4B-Width-Base-chatml. Модель содержит 3,9 млрд параметров и рассчитана на генерацию текста в формате диалога; для работы с ней используется библиотека Transformers. В карточке указано контекстное окно 131 072 токена. Карточка сообщает о дообучении и приводит значение loss 1,5576 на наборе оценки, но не раскрывает датасет, конкретные сценарии обучения или результаты других метрик. Указана лицензия other; её условия следует уточнить в карточке репозитория и у правообладателей базовой модели.

NeuralDaredevil-8B-abliterated-x-OrpoLlama-3-8B — диалоговая текстовая модель семейства Llama с 7,5 млрд параметров, созданная IsakNordgren слиянием моделей через LazyMergekit. В конфигурации указаны mlabonne/NeuralDaredevil-8B-abliterated и mlabonne/OrpoLlama-3-8B, метод слияния dare_ties, а также формат весов bfloat16; метаданные связывают модель с mlabonne/OrpoLlama-3-8B. Модель предназначена для генерации текста в диалоге и отвечает на запросы в формате чата. Контекст составляет до 8192 токенов. В README приведена конфигурация слияния, но не указаны поддерживаемые языки и лицензия, поэтому их нельзя надёжно описать.

NeuralExperiment-7b-dare-ties — модель генерации текста на базе архитектуры Mistral, созданная Kukedlc методом слияния DARE-TIES через LazyMergekit. Она объединяет NeuralMaxime-7B-slerp, NeuralGlitch-Yam-Peleg-7B-DT и Neural4gsm8k; в конфигурации также указан mistralai/Mistral-7B-v0.1. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и может применяться для диалоговых ответов, рассуждений и решения математических задач. В репозитории опубликованы веса Safetensors, а лицензия — Apache 2.0. Карточка не описывает отдельные языковые возможности и оценки качества.

NeuralKrishna-7B-slerp — объединённая модель генерации текста, созданная Kukedlc с помощью LazyMergekit. Она объединяет Kukedlc/Neural4gsm8k и Kukedlc/NeuralMaxime-7B-slerp методом SLERP; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров. Модель предназначена для диалоговой генерации текста и решения задач на рассуждение, включая математические вопросы. Контекстное окно составляет 32 768 токенов. В карточке приведены результаты Open LLM Leaderboard: среднее значение 75,79, ARC — 73,46 и HellaSwag — 88,96. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0. Показатели бенчмарков не гарантируют качество на других задачах; сведений о поддерживаемых языках и более подробной оценке ограничений в карточке нет.

NeuralKuke-4-All-7b — объединённая модель для генерации текста на основе архитектуры Mistral, созданная автором репозитория Kukedlc с помощью LazyMergekit. Она объединяет пять моделей, ориентированных на ARC, WinoGrande, вопросы и ответы, математику и диалоговые сценарии. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Её можно применять для диалогов, ответов на вопросы и решения математических задач. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Количественные оценки качества и сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют.

Kukedlc/NeuralLLaMa-3-8b-ORPO-v0.4 — разговорная языковая модель, размещённая пользователем Kukedlc на Hugging Face. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM; метаданные указывают 7,5 млрд параметров, контекст до 8192 токенов и веса в формате Safetensors. Модель предназначена для генерации текста в диалоговом формате и запускается через Transformers или совместимые серверы инференса. Карточка Hugging Face автоматически сгенерирована и не описывает разработчика, обучающие данные, языки или конкретные сценарии применения. Название указывает на ORPO и версию v0.4, но карточка не подтверждает подробности обучения. Указана лицензия Apache-2.0.

NeuralMonarchCoderPearlBeagle — объединённая авторская модель на базе Mistral, созданная с помощью LazyMergekit методом TIES из abideen/MonarchCoder-7B и eldogbbhed/NeuralPearlBeagle. По описанию автора, эксперимент проверяет, можно ли усилить навыки программирования и математики модели NeuralBeagle14-7B, сохранив её способности к диалогу. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации кода и текста, диалогов, математических задач и рассуждений. Автор характеризует слияние как экспериментальное и несколько хаотичное, поэтому качество на конкретных задачах может быть нестабильным. Репозиторий распространяется в формате safetensors по лицензии CC BY-NC 4.0, которая не разрешает коммерческое использование.

NeuralsirkrishnaShadow_Experiment26Yam — объединённая текстовая модель на архитектуре Mistral, созданная из automerger/NeuralsirkrishnaShadow-7B и automerger/Experiment26Yam-7B. Размер модели составляет 7,1 млрд параметров; для хранения используются файлы safetensors, лицензия — Apache-2.0. Модель предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Её можно применять для диалогов, написания черновиков и продолжения текста; README не описывает специализированные сценарии или языки. Качество и ограничения модели в карточке не охарактеризованы.

MaziyarPanahi/NeuralsirkrishnaShadow_Experiment27Pastiche — объединённая автором карточки модель на архитектуре Mistral с 7,1 млрд параметров. Она создана путём слияния automerger/NeuralsirkrishnaShadow-7B и automerger/Experiment27Pastiche-7B и предназначена для генерации текста, в том числе диалоговых ответов. Модель принимает текст и выдаёт текст; максимальная длина контекста составляет 32 768 токенов. Доступна в формате safetensors и распространяется по лицензии Apache-2.0. В карточке не приведены сведения о целевых языках или специализированных областях применения.

Neutrino-Instruct — авторегрессионная языковая модель с архитектурой декодера Transformer и 7,1 млрд параметров, разработанная Fardeen NB. Это дообученная для диалога и следования инструкциям версия Neutrino. Модель распространяется в форматах GGUF и safetensors; GGUF рассчитан на локальный запуск через llama.cpp и Ollama. Контекст — до 32 768 токенов, архитектура использует grouped-query attention и RoPE. Модель предназначена для чат-ботов, диалоговых помощников, ответов на вопросы, суммаризации и выполнения инструкций, в том числе в локальных сценариях без отправки данных на внешние сервисы. В карточке заявлена поддержка английского языка; качество работы на других языках не оценивалось. Модель общего назначения, не имеет доступа к интернету или внешним источникам знаний. Модель может выдавать правдоподобные, но неверные ответы, а также отражать предвзятость обучающих данных. Специальное обучение безопасности и независимая оценка не проводились; для медицинских, юридических, финансовых и других ответственных решений модель не предназначена. Лицензия — Apache-2.0.

Vivian12300/new_wiki_model — дообученная модель на архитектуре LlamaForCausalLM, созданная на основе meta-llama/Llama-3.1-8B-Instruct с использованием набора данных generator. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров, использует формат safetensors и поддерживает контекст длиной до 131 072 токенов. Базовая Llama 3.1 8B Instruct рассчитана на многоязычные диалоги и генерацию текста, однако карточка этой производной модели не уточняет её целевые языки, специализацию, качество или результаты оценки. Лицензия указана как llama3.1; перед использованием следует учитывать условия лицензии Meta Llama 3.1. README не приводит сведений о специальных ограничениях применения.

Nous-Hermes-2-SUS-Chat-34B-Linear — объединённая модель на основе архитектуры Llama, созданная автором Weyaxi с помощью mergekit. Веса объединены линейным методом из Nous-Hermes-2-Yi-34B и SUS-Chat-34B; модель содержит 33,9 млрд параметров и опубликована в формате safetensors с точностью bfloat16. Модель предназначена для генерации текста в диалоговых сценариях и для задач, поддерживаемых базовыми моделями. Максимальная длина контекста составляет 8192 токена. В README приведены результаты оценки на Open LLM Leaderboard, включая среднее значение 73,69, но описание не уточняет целевые языки и специальные предметные области. Лицензия указана как other, поэтому условия использования следует проверять в репозитории и у базовых моделей. Результаты бенчмарков не гарантируют качество в конкретном приложении.

Nous-Hermes-2-Yi-34B-imatrix-GGUF — набор квантизированных версий текстогенерационной модели Nous-Hermes-2-Yi-34B, разработанной Nous Research. Модель предназначена для диалогового взаимодействия и генерации текста, включая многоходовые чаты с системными инструкциями, ролями и управляемым стилем ответа. Модель имеет размер 34B и распространяется в формате GGUF с использованием imatrix-квантизации. Она поддерживает текстовую модальность и английский язык. Для взаимодействия используется формат ChatML, совместимый по принципу структурирования сообщений с API OpenAI; README также указывает на возможность запуска через llama.cpp и LM Studio. Размер контекстного окна и точная базовая архитектура в README не указаны. К сильным сторонам относятся поддержка системных инструкций, ролевой структуры диалога и локального запуска через совместимое программное обеспечение. Ограничения включают отсутствие сведений о качестве, результатах тестирования, требованиях к ресурсам и характеристиках отдельных вариантов квантизации. Лицензия обозначена как other, однако её конкретные условия в README не приведены.

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-4bit — языковая модель, разработанная NVIDIA и преобразованная сообществом mlx-community в формат MLX. Она предназначена для генерации текста и локального запуска с использованием библиотеки mlx-lm, включая диалоговые сценарии и другие задачи text generation. Модель представляет собой гибридную Mixture-of-Experts-архитектуру Mamba-2 и attention. Она содержит около 31 млрд параметров, при этом для каждого токена активно используется примерно 3 млрд. Версия выполнена в 4-битной квантизации с размером группы 64 и создана на основе NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 с помощью mlx-lm 0.31.3. В README указана поддержка английского, испанского, французского, немецкого, итальянского и японского языков. К сильным сторонам относятся сочетание большой общей емкости с небольшим числом активных параметров на токен, а также адаптация к MLX для запуска в соответствующей экосистеме. Ограничения включают необходимость совместимого окружения MLX и отсутствие в предоставленных данных сведений о контексте, производительности, мультимодальности и конкретных аппаратных требованиях. Модель распространяется по лицензии openmdw-1.1.

RedHatAI/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-FP8 — квантизированная языковая модель для генерации текста и диалоговых сценариев, разработанная RedHatAI на основе NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 от NVIDIA. Модель принимает текст и возвращает текст, поддерживает использование в conversational-приложениях и может разворачиваться с помощью Transformers и vLLM. Архитектура модели обозначена как NemotronHForCausalLM. Веса и активации линейных операторов в трансформерных блоках квантизированы в FP8 по статической схеме с использованием LLM Compressor и калибровочных примеров UltraChat. Такое сжатие уменьшает требования к GPU-памяти и дисковому пространству примерно на 50% по сравнению с BF16 и может примерно вдвое повысить пропускную способность матричных умножений на оборудовании с поддержкой FP8. В идентификаторе указаны 30B параметров и конфигурация A3B, однако другие характеристики, включая языки и максимальную длину контекста, в README не приведены. Сильными сторонами модели являются сниженные требования к ресурсам и оптимизация для быстрого инференса на совместимом оборудовании. Ограничения связаны с тем, что FP8-квантизация может зависеть от аппаратной и программной поддержки, а README не содержит результатов оценки качества, подробностей о поддерживаемых языках и условий лицензирования. Данные о лицензии отсутствуют.

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-mxfp4 — языковая модель для генерации текста, разработанная NVIDIA и преобразованная сообществом mlx-community в формат MLX на основе модели NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16. Конвертация выполнена с использованием mlx-lm 0.31.3; применяется квантование MXFP4 с размером группы 32. Модель предназначена для запуска и генерации текста в экосистеме MLX, в том числе через библиотеку mlx-lm. Это гибридная Mixture-of-Experts-архитектура, объединяющая Mamba-2 и attention. Она содержит около 31 млрд параметров, из которых примерно 3 млрд активируются для каждого токена. В карточке заявлена поддержка английского, испанского, французского, немецкого, итальянского и японского языков. Сильными сторонами являются разреженная активация параметров и оптимизированный для MLX формат, однако конкретные характеристики контекстного окна, результаты тестов, точность и ограничения квантования не указаны. Модель распространяется по лицензии OpenMDW 1.1.

NVIDIA-Nemotron-3-Nano-4B — компактная языковая модель NVIDIA для диалога, рассуждений и агентных сценариев. Репозиторий unsloth содержит дообученную версию базовой модели nvidia/NVIDIA-Nemotron-3-Nano-4B-BF16. В карточке указаны 6,4 млрд параметров и гибридная архитектура Nemotron-H с Mamba-2, MLP и четырьмя слоями Attention; модель принимает и генерирует текст, поддерживает контекст до 262 144 токенов и имеет интерфейс для вызова инструментов. Модель предназначена для локальных голосовых помощников, игровых NPC-компаньонов и автоматизации IoT, а также для задач программирования и работы агента на устройствах с ускорением NVIDIA. Карточка заявляет английский как поддерживаемый язык; в описании обучения также перечислены многоязычные данные, в том числе русский, но это не гарантирует одинаковое качество на всех языках. Модель может формировать рассуждения перед ответом; отключение этого режима может снизить точность на сложных запросах. Для запуска описана поддержка Transformers, vLLM и TensorRT-LLM, а также других движков инференса. README называет модель пригодной для коммерческого использования, однако метаданные указывают лицензию «other», поэтому перед внедрением следует проверить условия лицензии репозитория.

Карточка модели unsloth/NVIDIA-Nemotron-3-Nano-4B-FP8 на Hugging Face совпадает с карточкой unsloth/NVIDIA-Nemotron-3-Nano-4B, поэтому описание составлено по ней. NVIDIA-Nemotron-3-Nano-4B — компактная языковая модель NVIDIA для диалога, рассуждений и агентных сценариев. Репозиторий unsloth содержит дообученную версию базовой модели nvidia/NVIDIA-Nemotron-3-Nano-4B-BF16. В карточке указаны 6,4 млрд параметров и гибридная архитектура Nemotron-H с Mamba-2, MLP и четырьмя слоями Attention; модель принимает и генерирует текст, поддерживает контекст до 262 144 токенов и имеет интерфейс для вызова инструментов. Модель предназначена для локальных голосовых помощников, игровых NPC-компаньонов и автоматизации IoT, а также для задач программирования и работы агента на устройствах с ускорением NVIDIA. Карточка заявляет английский как поддерживаемый язык; в описании обучения также перечислены многоязычные данные, в том числе русский, но это не гарантирует одинаковое качество на всех языках. Модель может формировать рассуждения перед ответом; отключение этого режима может снизить точность на сложных запросах. Для запуска описана поддержка Transformers, vLLM и TensorRT-LLM, а также других движков инференса. README называет модель пригодной для коммерческого использования, однако метаданные указывают лицензию «other», поэтому перед внедрением следует проверить условия лицензии репозитория.