II.2Создание и понимание программного кода

bergr7f/mathcoder-mistral-7B — объединённая языковая модель на архитектуре Mistral, созданная методом TIES с помощью mergekit. В основу слияния вошла mistralai/Mistral-7B-v0.1; также объединены WizardLM/WizardMath-7B-V1.1 и codellama/CodeLlama-7b-Instruct-hf. Модель предназначена для генерации текста с уклоном в математические задачи и программирование. Она содержит 7,1 млрд параметров, работает через библиотеку Transformers и поддерживает контекст до 32 768 токенов. В метаданных указана задача text-generation. Лицензия в предоставленных данных не указана. Поскольку модель объединяет несколько базовых моделей, условия использования следует сверять с лицензиями исходных компонентов. Данных о качестве на конкретных наборах задач нет.

Это объединённая языковая модель на архитектуре Llama 3.2, созданная с помощью mergekit методом TIES. В качестве базовой модели указана meta-llama/Llama-3.2-1B; размер модели — 1,2 млрд параметров, длина контекста — до 131 072 токенов. Репозиторий создан в ноябре 2024 года, веса представлены в формате safetensors. Модель объединяет инструкционные и специализированные варианты Llama для ответов на вопросы, математических рассуждений, медицинских вопросов, работы с SQL и генерации кода. Она предназначена для текстового ввода и генерации текста; карточка не описывает результаты оценки качества или гарантии выполнения всех перечисленных навыков. Для использования действует лицензия базовой модели Meta-Llama; конкретные условия лицензирования объединённых весов следует сверить с карточками исходных моделей.

MiMo-V2.6-Distill-Qwen-9B GGUF — набор общественных GGUF-квантизаций модели Xiaomi MiMo, основанной на 9B-чекпойнте MiMo-V2.6-Distill-Qwen-9B от Xiaomi MiMo и архитектуре Qwen3.5-9B. Пакет предназначен для запуска через llama.cpp и включает квантизированные файлы языковой модели, а также совместимый BF16 multimodal projector для обработки изображений. Модель ориентирована на программирование, универсальные агентные задачи, visual coding, кибербезопасность, использование инструментов и мультимодальные сценарии с изображениями. Указана гибридная архитектура Qwen3.5 и нативный контекст до 262 144 токенов, однако практическая длина контекста зависит от выбранной квантизации, настроек KV-cache, среды выполнения и доступной памяти. Поддержка видео данным релизом не заявлена; сведения о языках в карточке явно не указаны, хотя калибровочные данные включают английский, китайский, код, tool- и agent-тексты. Доступно несколько вариантов квантизации с размером примерно от 1,97 до 9,53 GB. Q8_0 обеспечивает наибольшую близость к BF16, а IQ4_XS и Q5_K_S обозначены как компромисс между требованиями к памяти и сохранением точности. Низкобитные варианты Q2, IQ2, IQ1 и Q1 имеют заметно худшую fidelity и рекомендованы только для экспериментального использования. Приведённые измерения отражают совпадение следующего токена на ограниченной выборке, а не качество решения задач, программирования, tool use или визуального понимания. Лицензия указана как other; конкретные условия upstream-лицензии не определены.

MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking — компактная языковая модель GnLOLot, дообученная на базе openbmb/MiniCPM5-1B с использованием данных Fable 5. Это плотная авторегрессионная модель архитектуры LlamaForCausalLM с 837,6 млн параметров, рассчитанная на генерацию текста и диалоговое взаимодействие; заявленная длина контекста — 131 072 токена. Модель предназначена для локальных помощников и сценариев, где нужны вызов инструментов в формате XML или функций, генерация и отладка кода, следование инструкциям и рассуждения в режиме Thinking. По README, версия V2 усиливает вызов инструментов и улучшает программирование и выполнение инструкций по сравнению с базовой моделью и предыдущей версией; в карточке приведены результаты BFCL, API-Bank и Tau-Bench. Поддерживаемые языки по метаданным — английский и китайский. Модель принимает текст и генерирует текст. README предупреждает, что ответы в режиме Thinking могут содержать блоки рассуждений перед итоговым ответом, которые приложению может потребоваться скрыть. Компактный размер подходит для локального развёртывания, но модель не рассчитана на уровень передовых крупных систем в общих задачах рассуждения. Лицензия — Apache-2.0.

Mungert/MiniCPM5-1B-GGUF — это GGUF-версия компактной языковой модели MiniCPM5-1B, разработанной командой OpenBMB. Модель предназначена для локального запуска на устройствах с ограниченными ресурсами, включая сценарии on-device и edge AI. Формат GGUF рассчитан на использование с llama.cpp, Ollama и LM Studio; данный вариант создан с помощью llama.cpp. Модель является каузальной языковой моделью с архитектурой LlamaForCausalLM и 1 080 632 832 параметрами. Она содержит 24 слоя и использует групповое обобщённое внимание (GQA) с 16 головами для запросов и 2 головами для ключей и значений. Заявленная длина контекста составляет 131 072 токена. Поддерживаются английский и китайский языки, генерация текста, программирование, работа с инструментами, агентские сценарии и задачи, требующие рассуждений. К сильным сторонам относятся небольшой размер, возможность локального развертывания, длинный контекст и гибридный режим рассуждений: один и тот же чекпойнт может работать как быстрый ассистент или включать режим пошагового размышления через параметр enable_thinking. По данным разработчиков, преимущества особенно заметны в использовании инструментов, генерации кода и сложных задачах рассуждения. Ограничения модели связаны с её компактным размером и текстовой специализацией; README не содержит подробных сведений о качестве на всех языках, требованиях к аппаратным ресурсам и конкретных вариантах квантования GGUF. Модель распространяется по лицензии Apache-2.0.

insraq/MiniCPM5-2B-heretic-abliterated — производная версия MiniCPM5-2B, опубликованная пользователем insraq. Это плотная причинная языковая модель на 2,2 млрд параметров с архитектурой LlamaForCausalLM, рассчитанная на локальных помощников, программирование, математику, длинный контекст и сценарии с вызовом инструментов. Она принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. Модель серии MiniCPM5 разработана для локального запуска на устройствах и в условиях ограниченных ресурсов; карточка заявляет сильные результаты среди моделей сопоставимого размера в программировании, математике, понимании длинного контекста и использовании инструментов. В названии указано abliterated, а теги описывают модель как uncensored/decensored, однако README не объясняет метод получения этой версии и не приводит её отдельную оценку. README базовой модели предупреждает о возможных неточностях, предвзятых или оскорбительных ответах и отсутствии экспертной проверки чувствительных тем. Модель распространяется по лицензии Apache-2.0.

MiniCPM5-2B-MLX — компактная языковая модель из серии MiniCPM5, разработанная командой OpenBMB. Это плотная Transformer-модель примерно на 2 млрд параметров, предназначенная для генерации текста и локального развертывания на устройствах с ограниченными ресурсами. В карточке указана поддержка английского и китайского языков, а также сценарии on-device и edge AI. Модель рассчитана на следование инструкциям, программирование, математические задачи, понимание длинного контекста, использование инструментов и агентские сценарии. По заявлению разработчиков, среди открытых моделей сопоставимого размера она показывает передовые результаты и в целом остается конкурентоспособной моделям класса 4B, особенно в коде, математике, работе с длинным контекстом и tool use. Точная максимальная длина контекста и подробные результаты тестов в предоставленных данных не указаны. К основным ограничениям относятся меньший размер и, вероятно, более ограниченные возможности по сравнению с крупными языковыми моделями; конкретные ограничения качества, требования к оборудованию и поддерживаемые форматы MLX в README не раскрыты. Модель распространяется по лицензии Apache-2.0.

RippaSats/MiniMax-M3 — мультимодальная модель семейства MiniMax M3, представленная в формате safetensors и рассчитанная на работу с текстом и изображениями. В README заявлены около 428 млрд параметров, примерно 23 млрд активируемых параметров и контекст до 1 млн токенов. Архитектура использует разреженное внимание MiniMax Sparse Attention (MSA), предназначенное для снижения вычислительных затрат и потребления памяти при длинном контексте; авторы также заявляют ускорение обработки длинного контекста по сравнению с M2. Модель предназначена для диалогов с изображениями, задач программирования и длительных агентных сценариев. README также описывает обучение на смеси модальностей с самого начала и заявляет поддержку видео, однако метаданные модели подтверждают только задачу image-text-to-text и возможности чата и зрения. README рекомендует использовать MiniMax Agent или MiniMax API. Репозиторий указывает лицензию other, поэтому конкретные условия использования следует проверять в приложенных лицензионных материалах.

Это экспериментальная версия MiniMax M3, подготовленная Spark Arena для запуска на двух узлах DGX Spark. Модель основана на MiniMax M3 и использует квантование NVFP4 с сокращением REAP50, чтобы уменьшить требования к размещению по сравнению с вариантом на четырёх узлах. Архитектура MiniMax M3 — мультимодальная модель с разреженным вниманием MiniMax Sparse Attention (MSA); заявлено около 428 млрд параметров, из которых активируется около 23 млрд, и контекст до 1 млн токенов. Модель предназначена для диалогов с изображениями и видео, задач программирования и длительных агентных сценариев с вызовом инструментов. Разработчик заявляет ускорение обработки длинного контекста благодаря MSA, однако эта сборка помечена как экспериментальная: калибровка NVFP4 ещё дорабатывается, а влияние REAP50 на качество проверено не полностью. Для корректного использования калибровки требуется поддержка соответствующих масштабов NVFP4 в среде запуска. Лицензия указана как other; конкретные условия в предоставленных данных не раскрыты.

Minotaur 15B 8K — инструктивно дообученная модель OpenAccess AI Collective на базе StarCoderPlus. Она предназначена для диалоговых запросов в формате USER:/ASSISTANT:, генерации и объяснения кода, ответов на вопросы, решения задач по математике и естественным наукам, а также краткого пересказа текста. Модель имеет плотную архитектуру GPTBigCodeForCausalLM с 15 млрд параметров и контекстом до 8192 токенов; она принимает и генерирует текст, включая программный код. Обучение проводилось методом QLoRA на открытых наборах инструкций, кода, математики и научных задач. Модель рассчитана прежде всего на английский язык и программный код. Карточка указывает, что она не проходила RLHF и не использует фильтрацию ответов, поэтому может выдавать проблемный контент по запросу. Генерируемый код может содержать ошибки, быть неэффективным или уязвимым; также возможны предвзятость и дословное воспроизведение фрагментов обучающих данных с лицензионными условиями. Лицензия в предоставленных сведениях не указана.

DevQuasar/moonshotai.Kimi-K2.7-Code-GGUF — это квантизированная GGUF-версия модели moonshotai/Kimi-K2.7-Code, опубликованная DevQuasar. В README приведён пример её применения для генерации простого HTML-игрового проекта в стиле Flappy Bird, поэтому модель предназначена прежде всего для задач программирования и создания кода по текстовому описанию. Модель распространяется в варианте квантования Q4_K_M, что может уменьшать требования к памяти и ускорять локальный запуск по сравнению с полноразмерной версией, однако потенциально снижает точность по сравнению с исходной моделью. В метаданных указана модальность image-text-to-text, но сведения о фактической поддержке изображений, архитектуре, размере, языках, длине контекста и конкретных системных требованиях отсутствуют. Лицензия в README не указана. Также нет подробной информации о результатах тестирования, ограничениях, допустимых сценариях коммерческого использования и совместимых средствах запуска.

MoziAI-27B-3.8 — мультимодальная плотная модель на 27 млрд параметров, разработанная командой Чэнь Юймо на базе Qwen/Qwen3.8-27B и дообученная для диалогов с усиленным вниманием к финансовой тематике. Модель распространяется в форматах GGUF, включая BF16 и Q4_K_M, и предназначена для локального запуска через llama.cpp; лицензия Apache-2.0 разрешает коммерческое использование. Модель ориентирована на финансовые вопросы и анализ отчетов, помощь с количественным программированием и вызов инструментов, а также поддерживает написание текстов, разработку и отладку кода, многошаговые задачи и понимание изображений. В карточке заявлены динамический режим рассуждения, итерационная проверка ответов и поддержка множества языков с особой оптимизацией китайского; метаданные явно указывают китайский и английский. Для работы с изображениями README требует загрузить vision-проектор и шаблон чата вместе с основным файлом. Заявления README о точности квантования и превосходстве в финансовых задачах не подкреплены приведенными результатами бенчмарков, поэтому их следует считать заявлениями разработчика.

Abiray/Muse-Glimmer-30B-GGUF — набор GGUF-квантов мультимодальной модели Muse-Glimmer-30B, разработанной meta-models и дистиллированной из Muse Spark. Репозиторий подготовлен с использованием llama.cpp и предназначен для локального запуска модели, включая сценарии на потребительском оборудовании. Модель ориентирована на автономные агентные рабочие процессы, многошаговое рассуждение с длинным горизонтом, задачи программирования, включая SWE-bench, и надёжный вызов функций. Поддерживается обработка изображений через отдельный мультимодальный vision projector в формате GGUF; базовая модель и проектор загружаются раздельно. Заявлены 30 млрд параметров, контекст до 131 072 токенов и архитектура с визуальным проектором на основе ViT размером около 1,8 млрд параметров. Сведения о поддерживаемых языках в README не указаны. Доступны варианты квантования от Q8_0 до IQ3_XXS размером примерно от 29,6 до 11,5 ГБ, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Вариант Q4_K_M обозначен как оптимальный компромисс и рассчитан примерно на 20–24 ГБ памяти, а Q8_0 обеспечивает качество, близкое к BF16, но требует 32–48 ГБ. Более сильное сжатие уменьшает требования к памяти, однако может снижать точность рассуждений и восприятия. Лицензия — Apache-2.0.

NVIDIA Muse-Glimmer-30B NVFP4 — квантизированная версия модели Muse-Glimmer-30B, разработанной Meta Superintelligence Lab. NVIDIA подготовила квантизацию с помощью Model Optimizer; сама NVIDIA указывает, что не владеет и не разрабатывала исходную модель. Это плотный авторегрессионный causal Transformer с выделенным perception encoder для обработки чередующихся текстовых и графических входов. Модель предназначена для локальных агентных сценариев: многошагового рассуждения и планирования, coding agents, автономных систем, использования инструментов, восстановления после ошибок и мультимодального анализа. Она принимает текст и RGB-изображения, поддерживает контекст до 131K токенов и до 4 096 визуальных токенов на изображение. Модель может интерпретировать скриншоты, графики и документы в контексте диалога, генерируя текстовые ответы. Доступны уровни интенсивности рассуждения low, medium, high и xhigh, позволяющие выбирать баланс между качеством и скоростью. Модель содержит около 29,6 млрд параметров с учётом vision encoder и использует формат квантизации NVFP4 1.0, выполненной с помощью nvidia-modelopt v0.46.0. Поддерживаются vLLM и SGLang, а целевыми платформами являются NVIDIA Blackwell B200, B300 и DGX Spark под Linux. Видео не оптимизировано напрямую и обрабатывается как последовательность отдельных кадров; сведения о языках, исходных обучающих данных и их объёме не раскрыты. Для коммерческого и некоммерческого использования указана лицензия Apache 2.0, однако перед развёртыванием требуется дополнительное тестирование на данных конкретного сценария.

Mythos-9b-unhinged — разговорная языковая модель из экосистемы FableForge, созданная на основе Qwen3 и объединённая методом SLERP с braindao/Qwen3-8B-Uncensored. В README указано около 9 млрд параметров, тогда как метаданные Hugging Face указывают 7,6 млрд; метаданные также задают контекст 40 960 токенов. Архитектура — плотная Qwen3ForCausalLM. Модель поддерживает режим рассуждений Qwen3 и формат общения ChatML; для более быстрых ответов автор рекомендует отключать рассуждения. Модель предназначена для генерации текста в диалогах, ролевых сценариях, написании кода и команд оболочки, а также для многошаговых агентных задач и вызова инструментов. README описывает её как модель с ослабленными отказами и без защитных фильтров; это может привести к выдаче опасных или неприемлемых инструкций. В карточке указаны GGUF-квантизации, а метаданные перечисляют варианты от F16 до IQ3_XXS. Лицензия — Apache-2.0.

Nemotron-Flash-3B Base — базовая языковая модель NVIDIA для генерации текста. Это плотная причинная трансформерная модель семейства Nemotron Flash с архитектурой NemotronFlashForCausalLM и 1,3 млрд параметров. Семейство спроектировано с учётом задержки на реальных сценариях: в нём используются гибридные операторы, найденные эволюционным поиском, оптимальное соотношение глубины и ширины и нормализация весов на этапе обучения. Модель предназначена для генерации продолжений текста и может применяться в задачах математических рассуждений, программирования и здравого смысла. В README заявлены результаты на уровне лучших моделей своего размера, а также низкая задержка при небольших пакетах и высокая пропускная способность при больших. Для запуска описана интеграция с Transformers и ускорение CUDA Graph; контекст составляет 29 000 токенов. Это базовая, а не Instruct-версия, поэтому карточка не заявляет, что она настроена для диалога по инструкциям. Модель распространяется под лицензией с типом «other»; конкретные условия следует проверять в файлах лицензии репозитория. Для загрузки указаны Transformers и формат safetensors.

Nenque-MoT-0.6B-Elite14 — компактная языковая модель для генерации текста, дообученная PrithivMLmods на базе Qwen3-0.6B на наборе Mixture-of-Thoughts с акцентом на математические рассуждения, программирование и структурированные технические задачи. Модель содержит 507,9 млн параметров, использует архитектуру Qwen3ForCausalLM и поддерживает контекст до 40 960 токенов. Она предназначена для пошагового решения математических задач, генерации и отладки кода, технического обучения и выдачи структурированных ответов в форматах вроде JSON, LaTeX и Markdown. Карточка заявляет поддержку более 20 языков для технических задач; в метаданных указан английский. Модель рассчитана на компактный инференс, включая устройства с ограниченными ресурсами. Ограничения: модель может уступать в свободном творческом письме, естественности общего диалога и задачах вне технических областей; качество на длинных многошаговых рассуждениях может снижаться. Лицензия — Apache-2.0.

NeoHorse-1-4B-GGUF — GGUF-версии примерно 4-миллиардной причинной языковой модели NeoHorse-1-4B, разработанной TokenRhythm на базе Qwen3.5-4B. Модель дообучалась для текстовых агентных сценариев, использования инструментов, программирования, рассуждений и следования инструкциям. Это текстовая модель без заявленной поддержки изображений или других мультимодальных данных. Репозиторий предназначен для локального запуска через llama.cpp, Ollama и LM Studio. Доступны веса в формате BF16, а также 8-, 5- и 4-битные квантизованные варианты, которые требуют меньше дискового пространства и оперативной памяти. Архитектура описана как агентно-ориентированная причинная языковая модель; размер контекста и поддерживаемые языки в README не указаны. К сильным сторонам относятся ориентация на агентное взаимодействие и tool use, задачи программирования и instruction following, а также заявленное улучшение среднего результата на десяти бенчмарках по сравнению с Qwen3.5-4B: 64,87 против 58,94. Ограничения включают отсутствие подробных сведений о языках, контексте и характеристиках отдельных квантизаций; заявленные результаты могут зависеть от условий оценки. Модель распространяется по лицензии Apache-2.0.

NeoHorse-1-4B-Max-Heretic-Uncensored-TURBO — разговорная текстовая модель от prithivMLmods на базе TokenRhythm/NeoHorse-1-4B, дообученной на Qwen3.5-4B. Вариант обработан инструментом Heretic для снижения числа отказов; модель рассчитана на диалоги, выполнение инструкций, использование инструментов, программирование и рассуждения. Модель имеет плотную архитектуру Qwen3.5 и около 3,4 млрд параметров, поддерживает контекст до 262 144 токенов и английский язык. В репозитории доступны веса Safetensors и сборки GGUF разных уровней квантования для запуска через Transformers или llama.cpp. Лицензия — Apache 2.0. Карточка помечает модель как экспериментальную: возможны артефакты, поэтому ответы следует проверять. Снижение числа отказов также означает, что модель может отвечать на запросы, которые обычно отклоняются.

SC117/Nex-N2-mini-template-fix-APEX-GGUF — неофициальная сборка Nex-N2-mini от SC117 в формате GGUF с квантованием APEX и изменённым шаблоном чата. Она предназначена для запуска в стандартной версии llama.cpp, когда нужен режим рассуждений без передачи шаблона отдельным файлом; модель также поддерживает работу с изображениями через mmproj. Исходная Nex-N2-mini — агентная MoE-модель Nex-AGI на базе Qwen3.5, рассчитанная на программирование, вызов инструментов и выполнение продолжительных задач с обратной связью от среды. APEX применяет смешанную точность с учётом типов тензоров и их чувствительности, а в репозитории представлены варианты GGUF BF16 и F16. Разработчик исходной модели рекомендует использовать оригинальный шаблон чата с пропатченной версией llama.cpp: модификация шаблона может снизить качество ответов. Сборка помечена как временная и неофициальная; лицензия — Apache-2.0.

NSQL-2B — авторегрессионная языковая модель Numbers Station для генерации SQL-запросов по схеме таблиц и запросу на естественном языке. Модель основана на CodeGen-Multi 2B от Salesforce: её дополнительно предварительно обучили на SQL-коде, а затем дообучили на парах «текст — SQL». В карточке указано, что модель предназначена для генерации запросов SELECT и лучше работает с заданным авторами форматом промпта. Обучение включало около миллиона SQL-примеров из подмножества The Stack и пары text-to-SQL из более чем 20 открытых источников. Модель оценивали на наборах Spider и GeoQuery; эти наборы исключили из обучающих данных. Архитектура — плотная CodeGenForCausalLM, число параметров в предоставленных данных не указано; контекст составляет 2048 токенов. Репозиторий содержит веса PyTorch и Safetensors, лицензия — BSD 3-Clause. Модель подходит для прототипирования интерфейсов к базам данных на естественном языке и генерации SQL по схеме. Результат следует проверять перед выполнением: модель ориентирована на генерацию, а карточка не заявляет гарантии корректности или поддержку других типов запросов и диалога.

NSQL-350M — авторегрессионная языковая модель семейства NSQL, разработанная Numbers Station для генерации SQL-запросов по описанию на естественном языке и схеме таблиц. Она основана на CodeGen-Multi 350M от Salesforce: модель дополнительно предварительно обучили на SQL-коде, а затем дообучили на парах «текст — SQL». В репозитории представлены веса PyTorch; архитектура — плотная CodeGenForCausalLM с контекстом 2048 токенов. Модель предназначена для преобразования вопросов к данным в SQL, прежде всего запросов SELECT, при использовании рекомендованного авторами формата промпта. Обучающие данные включают около миллиона SQL-примеров из The Stack и пары текст–SQL из более чем 20 открытых источников; Spider и GeoQuery использовались для оценки. Модель лицензирована по BSD 3-Clause. Она компактна, но может ошибаться в запросах и зависит от точности переданной схемы и формата промпта; область применимости ограничена задачами text-to-SQL.

AceReason-Nemotron-1.1-7B-GGUF — это GGUF-квантизированная версия языковой модели AceReason-Nemotron-1.1-7B, разработанной NVIDIA и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста, задач рассуждения, математики и программирования; в метаданных указаны supervised fine-tuning и reinforcement learning. Заявленный язык — английский. Модель содержит 7 миллиардов параметров и поставляется в нескольких вариантах точности, включая BF16, Q8_0, Q6_K, Q5_K, Q4_K и более компактные форматы. Квантизация выполнена с использованием imatrix и llama.cpp, поэтому модель рассчитана на локальный запуск через llama.cpp, LM Studio и совместимые проекты. Для работы используется формат запросов ChatML с ролями system, user и assistant. Размер контекста и точная архитектура в README не указаны. Сильными сторонами являются широкий выбор квантизаций, возможность локального запуска и компромисс между качеством, требованиями к памяти и скоростью инференса; наиболее качественными в README названы варианты Q6_K_L, Q6_K, Q5_K и Q4_K_L, а Q4_K_M обозначен как типовой вариант для большинства сценариев. Более сильное сжатие уменьшает требования к памяти, но может снижать качество. Лицензия — NVIDIA Open Model License; исходная модель доступна как nvidia/AceReason-Nemotron-1.1-7B.

NVIDIA-Nemotron-3-Nano-4B — компактная языковая модель NVIDIA для диалога, рассуждений и агентных сценариев. Репозиторий unsloth содержит дообученную версию базовой модели nvidia/NVIDIA-Nemotron-3-Nano-4B-BF16. В карточке указаны 6,4 млрд параметров и гибридная архитектура Nemotron-H с Mamba-2, MLP и четырьмя слоями Attention; модель принимает и генерирует текст, поддерживает контекст до 262 144 токенов и имеет интерфейс для вызова инструментов. Модель предназначена для локальных голосовых помощников, игровых NPC-компаньонов и автоматизации IoT, а также для задач программирования и работы агента на устройствах с ускорением NVIDIA. Карточка заявляет английский как поддерживаемый язык; в описании обучения также перечислены многоязычные данные, в том числе русский, но это не гарантирует одинаковое качество на всех языках. Модель может формировать рассуждения перед ответом; отключение этого режима может снизить точность на сложных запросах. Для запуска описана поддержка Transformers, vLLM и TensorRT-LLM, а также других движков инференса. README называет модель пригодной для коммерческого использования, однако метаданные указывают лицензию «other», поэтому перед внедрением следует проверить условия лицензии репозитория.

NVIDIA-Nemotron-3-Ultra-550B-A55B-Base-BF16 — базовая большая языковая модель, разработанная NVIDIA Corporation и выпущенная в версии v1.0 GA. Она предназначена для разработчиков и исследователей, которые создают и адаптируют LLM. Модель предварительно обучена на данных по программированию, математике, науке и общим знаниям; заявлены 550 млрд параметров всего и 55 млрд активных параметров. Архитектура Nemotron Hybrid LatentMoE сочетает слои Mamba-2, MoE и выборочные слои Attention. Слои Multi-Token Prediction помогают ускорить генерацию, в том числе посредством speculative decoding. Метаданные указывают контекст до 262 144 токенов; в README заявлена поддержка до 1 млн токенов. Модель принимает и генерирует текст и поддерживает английский, французский, испанский, итальянский, немецкий, португальский, японский, корейский, хинди, арабский, китайский и иврит согласно тегам метаданных; README отдельно называет бразильский вариант португальского и не упоминает арабский и иврит. Модель заявлена для коммерческого и некоммерческого использования, однако в метаданных лицензия обозначена как «other», поэтому конкретные условия следует проверить на странице модели. Для запуска NVIDIA рекомендует GPU-ускоренные системы; README перечисляет интеграцию с NeMo и совместимое оборудование NVIDIA. Перед внедрением требуется проверка на данных конкретного сценария. (Размер файлов BF16 и практические требования к памяти в предоставленных данных не раскрыты.)

NVIDIA-Nemotron-Nano-12B-v2-Base — базовая языковая модель компании NVIDIA для продолжения заданного текста и создания собственных LLM на её основе. Это гибридная архитектура Nemotron-Hybrid: 62 слоя, преимущественно Mamba-2 и MLP, с шестью слоями внимания; размер модели — 12,31 млрд параметров. В карточке также отмечено, что модель улучшена с использованием Qwen. Модель принимает и генерирует текст, поддерживает контекст до 128 тысяч токенов и рассчитана на английский и 16 других языков: испанский, французский, немецкий, японский, итальянский, португальский, китайский, арабский, датский, корейский, нидерландский, польский, русский, шведский и тайский. NVIDIA позиционирует её для разработчиков и исследователей, создающих языковые модели; веса доступны в формате safetensors, интеграция указана для Transformers, а среди движков инференса — HF, vLLM и TRT-LLM. Модель обучалась примерно на 20 трлн токенов; данные включают веб-тексты, диалоги, статьи, математику и код. NVIDIA заявляет о готовности к коммерческому использованию, однако в метаданных указана лицензия «other», поэтому конкретные условия следует сверить с лицензией репозитория. Для развёртывания производитель ориентирует модель на GPU NVIDIA, включая H100-80GB и A100; для целевого применения рекомендуются дополнительные тестирование и валидация.

Olmo-3-1125-32B — плотная авторегрессионная языковая модель на архитектуре Transformer, разработанная Allen Institute for AI (Ai2). Это базовая модель семейства OLMo 3, обученная на 5,50 трлн токенов набора Dolma 3; в карточке также описаны этапы промежуточного обучения и обучения длинному контексту. Модель содержит 31,7 млрд параметров и поддерживает контекст до 65 536 токенов. Модель предназначена для генерации текста на английском языке и может служить основой для прикладных систем, дообучения и экспериментов с языковыми моделями. В обучающих данных представлены веб-страницы, код, математика, вопросы и ответы, инструкции и PDF-документы. Репозиторий содержит веса Safetensors для использования через Transformers версии 4.57.0 или выше. Модель выпущена по лицензии Apache 2.0. Как базовая языковая модель без фильтрации безопасности, она может генерировать вредный или предвзятый контент, а фактические ответы могут быть неточными и требуют проверки.

Olmo-3-7B-Instruct-OPSA-Code — дообученная модель семейства OLMo 3, разработанная на основе allenai/Olmo-3-7B-Instruct с применением метода On-Policy Self-Adaptation (OPSA). Это полноразмерный чекпойнт с 6,9 млрд параметров в формате BF16 Safetensors, предназначенный для генерации текста в кодовых сценариях и диалогового использования. Модель работает через Transformers и имеет контекстное окно до 65 536 токенов. Модель наследует Apache 2.0 базовой модели. В карточке указан ранний чекпойнт: шаг 119, соответствующий 120 обновлениям оптимизатора; README не приводит сравнительных результатов или подробной оценки качества кода.

Mungert/OlympicCoder-32B-GGUF — это GGUF-версия 32-миллиардной модели для генерации текста и программного кода, созданная на основе Qwen/Qwen2.5-Coder-32B-Instruct. В метаданных указаны датасет open-r1/codeforces-cots, английский язык, библиотека Transformers и лицензия Apache-2.0. README не содержит подробного описания дообучения, поэтому назначение модели следует оценивать прежде всего как применение возможностей базовой instruct-модели в формате GGUF. Модель предназначена для генерации и работы с текстом и кодом, включая сценарии разработки, решения алгоритмических задач и запуск локального вывода на устройствах с ограниченными ресурсами. Основная особенность сборки — применение ультранизкобитного динамического квантования IQ-DynamicGate с распределением точности по слоям. Для наиболее чувствительных компонентов используются более точные форматы, а значительная часть слоёв может храниться в 1–2 битах, что снижает требования к памяти. Сильная сторона модели — возможность размещения крупной 32B-модели в условиях ограниченного GPU VRAM, на CPU или edge-устройствах. При этом ультранизкая битность неизбежно создаёт компромисс между размером, скоростью и точностью; README приводит результаты DynamicGate для Llama-3-8B, но не предоставляет сопоставимых бенчмарков именно для OlympicCoder-32B. Поэтому фактическое качество и скорость этой сборки зависят от выбранного GGUF-кванта, оборудования и программного движка. Контекстное окно, точный набор поддерживаемых языков и конкретный размер файлов для данной модели в README не указаны.

OpenAgent-i1-GGUF — это набор GGUF-квантизованных вариантов модели OpenAgent, созданной на базе OrionLLM/Terminus-Qwen3-8b и обученной с использованием датасета OrionLLM/OpenAgentInstruct. Квантизацию выполнил mradermacher; в метаданных также указана компания nethype GmbH как предоставившая инфраструктуру для этой работы. Модель ориентирована на текстовую генерацию, агентские сценарии, рассуждения, работу с терминалом и задачи, связанные с разработкой программного обеспечения, включая SWE-bench. Поддерживаемый язык — английский. Это текстовая модель примерно на 8 миллиардов параметров, представленная в формате GGUF и доступная в вариантах квантизации от IQ1_S до Q6_K. Размер файлов составляет примерно от 2,2 до 6,8 ГБ; README рекомендует Q4_K_M как быстрый вариант и Q4_K_S как компромисс между размером, скоростью и качеством. Более агрессивная квантизация уменьшает требования к памяти, но может заметно снижать качество, а IQ-форматы иногда предпочтительнее аналогичных по размеру вариантов. Модель предназначена для локального запуска в совместимом ПО, однако конкретные требования к контексту, поддерживаемые модальности помимо текста, производительность и результаты бенчмарков в README не указаны. Распространяется по лицензии Apache-2.0.