II.2Создание и понимание программного кода

MiniCPM3-4B — плотная языковая модель третьего поколения семейства MiniCPM, разработанная командой OpenBMB. Она содержит 4,9 млрд параметров и предназначена для диалогов и генерации текста; также поддерживает вызов функций и работу с интерпретатором кода. Модель принимает текст и формирует текстовые ответы. Контекстное окно составляет 32 768 токенов. В README заявлена возможность теоретически обрабатывать контекст неограниченной длины с помощью LLMxMapReduce без резкого увеличения памяти. Модель ориентирована на китайский и английский языки и доступна для использования через Transformers; для vLLM в README требуется форк библиотеки. Модель подходит для диалоговых помощников, генерации и классификации текста, а также сценариев с вызовом инструментов и выполнением кода через интерпретатор. README сообщает о результатах, сопоставимых с рядом моделей большего размера, но конкретная таблица оценок в предоставленных данных отсутствует. Лицензия — Apache-2.0. Разработчики предупреждают, что ответы следует самостоятельно проверять.

FredyRivera-dev/MiniCPM5-1B — подготовленная версия MiniCPM5-1B от команды FredyRivera-dev на основе openbmb/MiniCPM5-1B. Веса не изменялись и дообучение не проводилось: в токенизаторе переименован зарезервированный токен, а шаблон чата адаптирован для блоков текста и изображений. При этом модель не поддерживает зрение: у неё нет визуального энкодера или проектора, а добавленный токен изображения не обучен. Это компактная причинная языковая модель с плотной архитектурой LlamaForCausalLM и 837,6 млн параметров по метаданным. Она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и режимы быстрого ответа и пошагового рассуждения. Модель предназначена для локальных помощников, генерации кода, использования инструментов и рассуждений на устройствах с ограниченными ресурсами; карточка указывает поддержку английского и китайского языков. К заявленным преимуществам относятся длинный контекст и пригодность для локального развёртывания. Ответы могут быть неточными, предвзятыми или небезопасными, поэтому их следует проверять, особенно в важных сценариях. Лицензия — Apache-2.0.

MiniCPM5-1B-Claude-Opus-Fable5-Thinking — компактная языковая модель, созданная дообучением openbmb/MiniCPM5-1B на данных Fable 5. Она предназначена для локального диалога, генерации и отладки кода, выполнения инструкций, рассуждений и вызова инструментов в формате MiniCPM5. Модель использует плотную архитектуру Llama, содержит 837,6 млн параметров и принимает контекст до 131 072 токенов. Доступны веса Safetensors для Transformers; для запуска через llama.cpp, Ollama или LM Studio автор указывает отдельную GGUF-версию. Карточка заявляет улучшения в задачах кодирования и следования инструкциям по сравнению с базовой моделью. Модель поддерживает шаблон Thinking, поэтому перед итоговым ответом может выдавать блоки рассуждений, которые приложению может потребоваться убрать. Масштаб 1B ограничивает её возможности в сложных задачах общего рассуждения по сравнению с более крупными моделями. Лицензия — Apache-2.0.

dealignai выпустила MiniCPM5-2B-CRACK-JANG_8M — дообученную версию openbmb/MiniCPM5-2B в формате MLX для запуска на Apple Silicon через vMLX. Это плотная Llama-совместимая языковая модель с 2,2 млрд параметров и контекстом до 131 072 токенов; модель принимает и генерирует текст, поддерживает английский и китайский языки, режим рассуждения с включением и выключением, а также вызов инструментов через XML. Модель предназначена для диалогов, программирования, рассуждений и тестирования поведения при удалённом отказе от ответов: README сообщает, что механизм отказов удалён на уровне весов. В карточке приведены результаты MMLU и HarmBench для этой сборки. Модель поставляется в 8-битном MLX-бандле JANG8M и заявлена как бесплатная для macOS; лицензия — Apache-2.0. Это текстовая модель без поддержки изображений. Поскольку поведение отказов удалено, модель может выдавать ответы на опасные запросы; применяйте её с учётом этого ограничения.

Карточка модели Openintelligent123/MiniCPM5-2B-CRACK-JANG_8M на Hugging Face совпадает с карточкой dealignai/MiniCPM5-2B-CRACK-JANG_8M, поэтому описание составлено по ней. dealignai выпустила MiniCPM5-2B-CRACK-JANG_8M — дообученную версию openbmb/MiniCPM5-2B в формате MLX для запуска на Apple Silicon через vMLX. Это плотная Llama-совместимая языковая модель с 2,2 млрд параметров и контекстом до 131 072 токенов; модель принимает и генерирует текст, поддерживает английский и китайский языки, режим рассуждения с включением и выключением, а также вызов инструментов через XML. Модель предназначена для диалогов, программирования, рассуждений и тестирования поведения при удалённом отказе от ответов: README сообщает, что механизм отказов удалён на уровне весов. В карточке приведены результаты MMLU и HarmBench для этой сборки. Модель поставляется в 8-битном MLX-бандле JANG8M и заявлена как бесплатная для macOS; лицензия — Apache-2.0. Это текстовая модель без поддержки изображений. Поскольку поведение отказов удалено, модель может выдавать ответы на опасные запросы; применяйте её с учётом этого ограничения.

Abiray/MiniCPM5-2B-GGUF — набор квантованных весов модели MiniCPM5-2B, разработанной OpenBMB и входящей в серию MiniCPM5. Это плотная Transformer-модель примерно на 2 млрд параметров, представленная в формате GGUF для локального запуска через llama.cpp, Ollama и LM Studio, включая сценарии on-device и edge AI. Модель ориентирована на генерацию текста и поддерживает английский и китайский языки. Модель предназначена для генерации кода и текста, решения математических задач, работы с длинным контекстом до 128 тысяч токенов, вызова инструментов и многошаговых агентских сценариев. Доступны варианты квантования от Q3_K_M до Q8_0 размером примерно от 1,29 до 2,68 ГБ; Q4_K_M указан как рекомендуемый баланс скорости, качества и занимаемой памяти, а Q8_0 — как вариант с минимальными потерями относительно исходных весов. Квантование уменьшает требования к памяти, но может влиять на точность, особенно в компактных вариантах. Модель распространяется по лицензии Apache-2.0.

MiniCPM5-2B MLX 8-bit — это квантованная версия текстовой языковой модели OpenBMB MiniCPM5-2B, подготовленная в формате MLX для локального запуска. Модель имеет плотную Llama-based архитектуру и около 2 млрд параметров; конверсия использует аффинное 8-битное квантование с размером группы 64 и занимает примерно 2,5 ГБ в формате MLX safetensors. Поддерживаются английский и китайский языки, максимальная длина контекста составляет 131 072 токена. Модель предназначена для генерации текста, программирования, рассуждений, задач с длинным контекстом и использования инструментов, включая сценарии локального развертывания через mlx-lm. Это text-only модель: компоненты для обработки изображений и MTP-файлы отсутствуют, поэтому мультимодальные задачи не поддерживаются. Лицензия — Apache-2.0; приведённые в README результаты тестирования относятся к исходной версии MiniCPM5-2B от OpenBMB, а не непосредственно к этой MLX-конверсии.

MiniCPM5-2B-PCD — дообученная компактная языковая модель семейства MiniCPM5, основанная на openbmb/MiniCPM5-2B. Это плотная причинная Transformer-модель с архитектурой LlamaForCausalLM и примерно 2,2 млрд параметров, рассчитанная на локальный запуск на устройствах с ограниченными ресурсами. Модель поддерживает контекст до 131 072 токенов и генерирует текст; в карточке заявлены сценарии чата, вызова инструментов и параллельного constrained decoding. Модель предназначена для локальных ассистентов и агентных сценариев, включая программирование, математику, работу с длинным контекстом и выполнение задач с инструментами. В README заявлены сильные результаты относительно моделей сопоставимого размера, особенно в коде, математике, длинном контексте и использовании инструментов. Указанные языки — английский и китайский; сведения о поддержке русского не приведены. Для запуска описаны Transformers и vLLM, в форматах BF16/FP16, с использованием GPU или CPU в зависимости от backend. Модель распространяется по лицензии Apache-2.0. Её ответы могут быть неточными, предвзятыми или оскорбительными; результаты по чувствительным темам не являются профессиональной консультацией.

Карточка модели nvcky/MiniFABLECPM5-Thinking на Hugging Face совпадает с карточкой GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-Thinking, поэтому описание составлено по ней. MiniCPM5-1B-Claude-Opus-Fable5-Thinking — компактная языковая модель, созданная дообучением openbmb/MiniCPM5-1B на данных Fable 5. Она предназначена для локального диалога, генерации и отладки кода, выполнения инструкций, рассуждений и вызова инструментов в формате MiniCPM5. Модель использует плотную архитектуру Llama, содержит 837,6 млн параметров и принимает контекст до 131 072 токенов. Доступны веса Safetensors для Transformers; для запуска через llama.cpp, Ollama или LM Studio автор указывает отдельную GGUF-версию. Карточка заявляет улучшения в задачах кодирования и следования инструкциям по сравнению с базовой моделью. Модель поддерживает шаблон Thinking, поэтому перед итоговым ответом может выдавать блоки рассуждений, которые приложению может потребоваться убрать. Масштаб 1B ограничивает её возможности в сложных задачах общего рассуждения по сравнению с более крупными моделями. Лицензия — Apache-2.0.

MiniMax-M3-REAP32-Coder — созданная JANGQ-AI версия MiniMax-M3 для программирования, агентных сценариев и мультимодального диалога. Это MoE-модель с архитектурой MiniMaxM3SparseForConditionalGeneration; в карточке указаны 60 слоёв и сохранённая поддержка изображений. Модель предназначена для запуска через vMLX на компьютерах Apple Silicon и требует vMLX версии 1.5.67 или новее. Веса упакованы в формат JANG: применены смешанная аффинная квантизация, AWQ и сокращение числа маршрутизируемых экспертов методом REAP. В README заявлены результат HumanEval pass@1 100% на случайно перемешанной половине набора (82 задания) и улучшение на небольшом тесте арифметики и рассуждений. Это результаты авторской проверки, а не гарантия качества на других задачах. Базовая MiniMax-M3 описана как модель с контекстом до 1 млн токенов, но README не подтверждает, что такой контекст доступен этой сборке. Для загрузки необходимы JANG loader и M3 runtime из vMLX; модель несовместима с обычными загрузчиками Transformers, vLLM и MLX. Лицензия указана как other, поэтому условия использования следует уточнить по карточке модели и сопутствующим лицензиям базовой модели и компонентов.

MuXodious/Ministral-3-14B-Reasoning-2512-absolute-heresy — дообученная версия мультимодальной модели Mistral AI Ministral 3 14B Reasoning 2512, обработанная модифицированным механизмом Heretic с применением abliteration. Модель предназначена для диалоговых ассистентов и рассуждений, включая решение математических и научных задач, программирование и агентные сценарии с вызовом инструментов и JSON-выводом. Архитектура Mistral 3 — плотная модель с языковой частью на 13,5 млрд параметров и визуальным энкодером на 0,4 млрд. Она принимает текст и изображения, поддерживает контекст до 256 тыс. токенов и языки английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, китайский, японский, корейский и арабский. В README сообщается о низкой доле отказов после обработки, но автор отмечает, что показатель не отражает качество модели. Модель распространяется по лицензии Apache 2.0. README указывает на необходимость Transformers v5 для соответствующего способа использования. Модель описана как сильно uncensored; её ответы могут не отказывать на запросы, которые обычно отклоняются, поэтому требуется внимательное применение.

Shining Valiant 3 — модель Valiant Labs, дообученная на базе mistralai/Ministral-3-14B-Reasoning-2512. Это плотная модель семейства Mistral 3 для генерации текста, диалога и рассуждений. Разработчики позиционируют её как помощника для научных задач, проектирования ИИ, программирования и общего решения сложных задач; обучение включало научные данные для рассуждений, созданные с помощью DeepSeek R1 0528. Модель рассчитана на диалог и следование инструкциям, а также на творческие и аналитические задачи. Карточка сообщает о поддержке английского языка. Репозиторий использует формат safetensors и библиотеку Transformers; лицензия — Apache-2.0. В README не приведены данные о числе параметров сверх идентификатора базовой модели или о длине контекста. Утверждения о высокой скорости и работе на настольных и мобильных устройствах приведены разработчиком без количественных характеристик.

Это инструктивно дообученная модель VikramPal на базе mistralai/Mistral-7B-Instruct-v0.3 для преобразования запросов на естественном языке в SQL. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и принимает текст; базовая модель поддерживает контекст до 32 768 токенов. Для дообучения применялся LoRA-адаптер ранга 32 на 39 531 примере диалогов по text-to-SQL за две эпохи, после чего адаптер был объединён с базовой моделью. В этом репозитории веса представлены в формате safetensors с точностью bf16. В тестировании на 2 454 отложенных задачах показатель совпадения результатов выполнения SQL составил 78,16%; в разбивке по источникам он составил 77,02% для Gretel, 63,57% для Spider и 93,89% для WikiSQL. Оценка относится только к генерации SQL на этих наборах и не характеризует скорость генерации или качество на других задачах. Указанная в метаданных лицензия — other; конкретные условия следует сверить с карточкой модели.

JANGQ-AI выпускает JANG_6M — квантованный вариант Mistral Small 4 от Mistral AI, подготовленный Jinho Jang для запуска через MLX на компьютерах Apple с большим объёмом памяти. Это модель семейства Mistral3 с архитектурой MoE: 119 млрд параметров всего и около 6 млрд активных на токен; в README указаны 36 слоёв, 128 экспертов с выбором четырёх, MLA-внимание и квантование JANG с точностью 6,04 бита. Для вычислений используется bfloat16. Модель предназначена для диалогов, рассуждений, генерации кода и математических решений, а также анализа изображений через визуальный энкодер Pixtral с заявленным пределом 1540 пикселей. В README заявлены режим рассуждений с маркерами [THINK] и управление reasoning_effort. Указаны размер файлов 84 ГБ, пиковое потребление памяти 95 ГБ и скорость генерации 74 токена в секунду на M3 Ultra; эти показатели относятся к описанной конфигурации тестирования. Карточка называет MLX Studio приложением с полной поддержкой, а также упоминает поддержку oMLX. Лицензия — Apache-2.0. Метаданные связывают модель с базовой Mistral-Small-4-119B-2603 как дообучение, хотя README описывает прежде всего квантование; поэтому происхождение отражено по метаданным, а детали обучения в карточке не раскрыты.

Это модель Sentence Transformers, дообученная на answerdotai/ModernBERT-base на наборе code_search_net. Она кодирует текстовые запросы и фрагменты кода в плотные векторы размерности 768 и предназначена прежде всего для семантического поиска по коду и сопоставления запросов с подходящими фрагментами. Также её можно применять для оценки сходства предложений, поиска перефразировок, кластеризации и классификации текста. Модель использует encoder-архитектуру ModernBERT с CLS-пулингом и косинусной мерой сходства. README указывает максимальную длину последовательности 4096 токенов, а метаданные — нативный контекст 8192 токена; фактическую длину при использовании следует соотносить с конфигурацией Sentence Transformers. Размер модели — 149 млн параметров. Карточка описывает пары запросов и кода из CodeSearchNet; отдельные языки программирования или естественные языки в метаданных не перечислены. Модель выдаёт эмбеддинги, а не готовые текстовые ответы, поэтому для поиска обычно требуется сравнение векторов и, при необходимости, отдельный индекс. Лицензия в предоставленных данных не указана.

senseable/moe-x33 — модель генерации текста для помощи в программировании, опубликованная пользователем senseable. README описывает её как модель для понимания и создания кода, включая генерацию фрагментов и скриптов, отладку и ответы на вопросы о программировании. Примеры применения включают работу с Python и другими языками программирования. В метаданных указаны архитектура Mixtral MoE с классом MixtralForCausalLM, 33,1 млрд параметров и контекстное окно 16 384 токена. Репозиторий содержит веса в формате safetensors; модель предназначена для текстового ввода и генерации текста. Метаданные связывают её обучение с наборами синтетических задач извлечения информации и инструкций по программированию Magicoder-Evol-Instruct-110K. README называет модель основанной на Llama, что расходится с архитектурой Mixtral в метаданных, поэтому базовую модель установить нельзя. Лицензия — Apache-2.0. README заявляет поддержку разных языков программирования, но не перечисляет их; метаданные указывают английский как язык карточки. Приведённые в карточке результаты нескольких тестов не позволяют оценить качество на конкретных языках программирования или сценариях. Сгенерированный код следует проверять перед использованием.

iitzprakhar/my-custom-code-ai — дообученная автором iitzprakhar языковая модель для генерации текста, созданная на основе unsloth/qwen2.5-coder-1.5b-instruct-bnb-4bit. Это плотная причинная архитектура Qwen2 размером 1,5 млрд параметров с контекстом до 32 768 токенов; модель сохранена в формате safetensors и поддерживает диалоговый режим и интерфейс вызова инструментов. В карточке указано, что обучение проводилось с Unsloth и библиотекой TRL; модель ориентирована на сценарии генерации кода и общения с кодовым ассистентом, унаследованные от базовой Qwen2.5-Coder-Instruct. Модель принимает текст и генерирует текст. В метаданных указан английский язык, а лицензия — Apache 2.0. Карточка не приводит результаты оценки качества и подробностей о собственных данных или специализации дообучения, поэтому качество на конкретных языках программирования и задачах следует проверять отдельно.

Nanbeige4.1-3B — компактная языковая модель компании Nanbeige, созданная на базе Nanbeige4-3B-Base. Это дообученная плотная модель семейства Llama с 3,5 млрд параметров, предназначенная для генерации текста, диалогов, рассуждений и работы в агентных сценариях. По карточке модели, обучение включало supervised fine-tuning и reinforcement learning. Модель рассчитана на решение многошаговых задач по математике, программированию и естественным наукам, а также на использование инструментов и глубокий поиск в связке с агентной системой. Она поддерживает английский и китайский языки. Метаданные указывают контекст до 262 144 токенов; формат весов — safetensors, библиотека — Transformers. В карточке заявлена способность поддерживать длительные цепочки вызовов инструментов, однако фактические результаты зависят от реализации агента и доступных инструментов. Модель распространяется по лицензии Apache-2.0. Разработчик предупреждает, что возможны неожиданные ответы, включая предвзятость и дискриминационное содержание; выходы требуют проверки.

megabytes/Nanbeige4.1-3B-heretic — англо-китайская диалоговая языковая модель на базе Nanbeige/Nanbeige4.1-3B. Разработчик описывает исходную модель как компактную модель для рассуждений, программирования и агентных задач; эта версия создана с помощью Heretic v1.2.0 и abliteration для снижения частоты отказов. Она содержит 3,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 262 144 токенов. Модель предназначена для генерации диалоговых ответов, решения многошаговых задач, написания кода и сценариев с поиском и вызовом инструментов. README приводит для этой версии частоту отказов 8 из 100 и KL-дивергенцию 0,0003 относительно исходной модели; в карточке также отмечено, что существует улучшенная версия от Heretic Organization. Модель может выдавать предвзятый или иной нежелательный контент. Лицензия — Apache-2.0.

Nanbeige4.2-3B-Base — базовая языковая модель семейства Nanbeige, разработанная командой Nanbeige и обученная с нуля. Это плотная модель с архитектурой Looped Transformer: она повторно использует те же слои, что позволяет увеличить вычислительную ёмкость без увеличения числа параметров. Размер модели — 3,2 млрд параметров, нативная длина контекста — 131 072 токена. Модель распространяется в формате safetensors и рассчитана на работу через Transformers. Модель предназначена для генерации текста и служит базой для задач рассуждения, математики, программирования, STEM и ответов на вопросы. В карточке сообщается об увеличении объёма обучающих данных до 28 трлн токенов и усиленном представлении математических, кодовых, STEM-данных и синтетических вопросов и ответов. Указаны английский и китайский языки; доступен разговорный режим. Лицензия — Apache-2.0. Модель может выдавать недостоверную информацию, предвзятые или вредные ответы; результаты требуют проверки.

Nanbeige/Nanbeige4.2-3B-DSpark — веса DSpark для модели Nanbeige4.2-3B, разработанной Nanbeige на основе Nanbeige4.2-3B-Base. Репозиторий предназначен для использования вместе с Nanbeige4.2-3B и заявлен как способ ускорить инференс. Модель относится к семейству Qwen3, использует плотную архитектуру; класс реализации — Qwen3DSparkModel. В метаданных указаны 1,1 млрд параметров, контекст 262 144 токена и формат safetensors. Модель ориентирована на генерацию текста, рассуждения, работу с инструментами и многошаговые сценарии: общие агентные задачи, программирование, офисные процессы и персональный помощник. В README также описаны математические и научные рассуждения. Заявленная разработчиком поддержка английского и китайского языков; README отмечает, что для агентных и инструментальных сценариев применяются соответствующие шаблон чата и внешняя среда-исполнитель. Модель дообучена от Nanbeige/Nanbeige4.2-3B-Base и распространяется по лицензии Apache-2.0. README предупреждает о возможных неточных, предвзятых, дискриминационных или иных вредных ответах. Утверждения о скорости и результатах бенчмарков приведены разработчиком; фактическая производительность зависит от среды запуска и интеграции.

WaveCut/Nanbeige4.2-3B-heretic-GGUF — набор GGUF-квантизаций модели WaveCut/Nanbeige4.2-3B-heretic, разработанный WaveCut. Модель предназначена для генерации текста, включая агентные и программные сценарии; в качестве примера использования приведено написание надёжного retry-хелпера на Python. Доступны варианты Q4_K_M, Q5_K_M, Q6_K и Q8_0, рассчитанные на разный баланс компактности, скорости и качества. Q4_K_M рекомендован как компактный вариант, Q5_K_M — как сбалансированный, Q6_K — как высококачественная K-квантизация, а Q8_0 — как почти без потерь. Nanbeige 4.2 использует циклический Transformer: 22 физических слоя выполняются дважды. Квантизации K-типа откалиброваны с помощью importance matrix на детерминированно перемешанном корпусе данных для агентных и программных задач. В README не указаны поддерживаемые языки и максимальная длина контекста. Для запуска требуется llama.cpp с поддержкой Nanbeige, проверенной на указанной ветке и ревизии либо более новой сборке с эквивалентной поддержкой. Основные преимущества модели — несколько вариантов квантизации, возможность выбрать компромисс между размером, скоростью и качеством, а также оптимизация калибровки под агентные и coding-сценарии. Ограничения включают зависимость от совместимой реализации llama.cpp и потенциальные потери качества, характерные для квантизованных вариантов; точные размеры файлов и результаты производительности в README не приведены. Модель распространяется по лицензии Apache-2.0.

ndpo2 — дообученная модель на 1,3 млрд параметров, созданная на основе deepseek-ai/deepseek-coder-1.3b-base и обученная на наборе generator. Она использует плотную архитектуру семейства Llama и предназначена для генерации текста; базовая модель ориентирована на продолжение, автодополнение и заполнение пропусков в коде. Заявленная длина контекста — 16 384 токена. В README приведены метрики оценки на тестовом наборе, включая loss 0,0429 и точность rewards 0,9836, но не описаны сценарии применения и методика оценки. Модель распространяется в формате safetensors; лицензия указана как other, поэтому условия использования следует проверять в репозитории Hugging Face.

Nemotron 3 Nano 30B-A3B GGUF — квантованный вариант NVIDIA Nemotron 3 Nano 30B-A3B, подготовленный BatiAI для локального запуска на компьютерах Mac. Это гибридная языковая модель NemotronH с архитектурой Mamba и attention и смесью экспертов: в README указаны 30 млрд параметров, 128 экспертов и 8 активных на токен. Для выполнения используется llama.cpp; доступны варианты IQ3_XXS, IQ4_XS и Q5_K_M с разными требованиями к памяти. Модель предназначена для диалогов, рассуждений, программирования и агентных сценариев, включая работу с инструментами и структурированными ответами. README описывает её как рассчитанную на длинный контекст с линейным масштабированием гибридной архитектуры и приводит тесты на Mac с Apple Silicon. В метаданных указана поддержка английского, корейского, японского и китайского языков; сведения базовой модели каталога также упоминают шесть языков. Репозиторий содержит квантованные GGUF-веса, хотя метаданные форматов обозначают их как «GGUF BF16». Лицензия — NVIDIA Open Model License, названная в README коммерчески ориентированной; перед использованием следует проверить её условия для конкретного применения. Производительность и качество зависят от выбранной квантизации и доступной памяти.

Nemotron-Cascade-2-30B-A3B-AWQ-4bit — 4-битная AWQ-версия диалоговой языковой модели семейства NVIDIA Nemotron-Cascade-2. В README исходная модель описана как модель Mixture of Experts на 30 млрд параметров с 3 млрд активируемых параметров; она дообучена на базе Nemotron-3-Nano-30B-A3B-Base и поддерживает режимы рассуждений и обычных инструкций. Метаданные указывают задачу генерации текста, библиотеку Transformers и базовую модель nvidia/Nemotron-Cascade-2-30B-A3B. Модель предназначена для диалогов, решения сложных задач и агентных сценариев; README сообщает о высоких результатах на математической олимпиаде IMO и олимпиаде по информатике IOI 2025. Она использует шаблон ChatML, а для запуска исходной версии README описывает контекст до 262 144 токенов. AWQ-квантизация снижает точность весов до 4 бит; показатели качества и требования к ресурсам именно этой сборки в предоставленных сведениях не приведены. Лицензия указана как other, конкретные условия следует сверять с карточкой модели.

Nemotron-Flash-1B — базовая языковая модель компании NVIDIA из семейства компактных гибридных моделей Nemotron-Flash. Она использует плотную архитектуру NemotronFlashForCausalLM с гибридными операторами, подобранными эволюционным поиском, и нормализацией весов на этапе обучения; размер модели — 520,1 млн параметров, длина контекста — до 36 000 токенов. Модель предназначена для генерации текста и применения в сценариях, где важны задержка и пропускная способность, включая математические задачи, программирование и рассуждения на общеизвестные темы. В README NVIDIA сообщает о сравнительных результатах на задачах математики, кода и здравого смысла, а также об ускорении инференса относительно некоторых небольших моделей. Для запуска приведены примеры с Transformers и CUDA Graph; в README также упоминается интеграция с TRT-LLM AutoDeploy. Это базовая модель, а не вариант Instruct, поэтому её поведение в диалоге может требовать дополнительной настройки. В метаданных указана лицензия other; конкретные условия использования следует сверить с лицензией и документами репозитория.

Nemotron-Flash-3B-Instruct — инструктивная языковая модель семейства Nemotron-Flash, разработанного NVIDIA. Это плотная авторегрессионная модель с архитектурой NemotronFlashForCausalLM; в метаданных размер указан как 1,3 млрд параметров, а длина контекста — 29 000 токенов. Модель предназначена для диалоговой генерации текста и компактного развертывания с низкой задержкой. В карточке заявлены сильные результаты на задачах математики, программирования и рассуждений здравого смысла, а также эффективная генерация при небольшом и большом размере пакета. Для инференса описана интеграция с Transformers, CUDA Graph и TensorRT-LLM; веса доступны в формате safetensors. Для использования требуется учитывать поддержку CUDA и доверенную загрузку пользовательского кода через trust_remote_code. Лицензия указана как other, поэтому условия использования следует уточнить в карточке модели. Заявленные сравнительные результаты приведены разработчиком; независимая проверка в этих материалах не описана.

Nemotron-H-8B-Base-8K — базовая большая языковая модель NVIDIA для продолжения заданного текста и создания исходных решений, на основе которых разработчики и исследователи могут создавать специализированные LLM. Это модель семейства Nemotron-H с гибридной архитектурой Mamba-2 и MLP, дополненной четырьмя слоями Attention; размер — 8 млрд параметров, контекст — до 8K токенов. Модель принимает и генерирует текст. Модель обучена на английском и многоязычных текстах, включая немецкий, испанский, французский, итальянский, корейский, португальский, русский, японский и китайский, а также на коде. Она подходит для продолжения текста, генерации кода и настройки под пользовательские задачи с помощью дообучения и выравнивания. NVIDIA указывает, что модель предназначена для исследовательской и опытно-конструкторской работы; для работы рекомендованы NeMo и GPU NVIDIA. Лицензия в метаданных обозначена как other. Модель может выдавать неточные, нерелевантные или избыточные ответы и воспроизводить токсичность и предвзятость из обучающих данных. NVIDIA также сообщает о слабой устойчивости к косвенным prompt injection через некоторые кодировки, в частности Base16, Hex/ASCII и Braille.

SirSahOl подготовил 16-битную конверсию диалоговой модели TokenRhythm/NeoHorse-1-9B для локального запуска на Apple Silicon через MLX. Это плотная авторегрессионная модель семейства Qwen3.5 с 7,2 млрд параметров по метаданным и контекстом до 262 144 токенов; README указывает 9 млрд параметров. Репозиторий содержит веса safetensors в формате MLX и распространяется по лицензии Apache-2.0. Модель предназначена для многоходового чата, генерации текста и кода, следования инструкциям, рассуждений и работы с инструментами в агентных сценариях. Конверсия сохраняет bf16-точность исходных весов и рассчитана на GPU Apple Silicon; README оценивает занимаемую память примерно в 20 ГБ и рекомендует не менее 32 ГБ объединённой памяти. Для длинных контекстов требуется достаточный запас объединённой памяти, а фактическая скорость зависит от устройства и длины контекста. В карточке нет подтверждённых сведений о поддерживаемых естественных языках; характеристики задач и качества унаследованы от базовой модели.

Neotoi Coder v3.2 8B — модель rockypod, дообученная методом RAFT с LoRA на базе Qwen/Qwen3-8B. Она предназначена для генерации кода на Rust с использованием Dioxus 0.7, включая компоненты RSX, Tailwind CSS v4 и доступные интерфейсы с поддержкой WCAG 2.2 AAA. В обучающую выборку вошли 5 287 примеров по 57 темам; модель охватывает версии Dioxus 0.7.0–0.7.9 и поддерживает диалоговый режим и генерацию кода. Опубликованные веса представлены в формате GGUF с квантизацией Q4_K_M; README указывает размер файла около 4,68 ГБ и возможность включить режим рассуждений Qwen3 на совместимых средах. Модель рассчитана на написание и исправление компонентов Dioxus, работу с синтаксисом RSX, состоянием приложения, серверными функциями и доступностью. Результат внутреннего экзамена по 114 вопросам Dioxus составляет 111 из 114 ответов, но это оценка разработчика, а не независимый бенчмарк. Модель унаследовала возможности и ограничения Qwen3-8B и специализируется на узком наборе версий и технологий, поэтому её ответы по другим фреймворкам или более новым версиям Dioxus требуют проверки. В метаданных указана лицензия other; конкретные условия следует сверить с карточкой репозитория и лицензией базовой модели.