II.2Создание и понимание программного кода

Llama-3_1-Nemotron-51B-Instruct — разработанная NVIDIA языковая модель для диалогов и генерации текста. Это производная Llama-3.1-70B-Instruct: NVIDIA применила поиск архитектуры NAS и дистилляцию, чтобы повысить эффективность инференса и сократить требования к памяти при небольшом снижении качества. По метаданным, модель содержит 87 млрд параметров и поддерживает контекст до 131 072 токенов; в описании дистилляции указана длина последовательности 8 192 токена. Модель предназначена для англоязычных одно- и многоходовых диалогов общего назначения, а также задач, связанных с кодом; README отмечает поддержку других языков, но не перечисляет их. Она принимает и выдаёт текст, поддерживает чат и интерфейс вызова инструментов. Архитектура — авторегрессионный трансформер-декодер с неодинаковыми блоками: переменным числом KV-голов, пропуском или упрощением внимания и переменным коэффициентом расширения FFN. NVIDIA указывает, что модель оптимизирована для высокопроизводительного запуска на одной H100 80 ГБ; для BF16 README приводит требования в две H100 80 ГБ или две A100 80 ГБ. Модель подходит для коммерческого применения согласно README. Метаданные указывают лицензию other, поэтому перед использованием следует ознакомиться с условиями NVIDIA. Модель может выдавать неточные, нерелевантные или токсичные ответы, отражать смещения обучающих данных и быть уязвимой к атакам на выравнивание; разработчик рекомендует применять защитные механизмы.

Llama-3.1-Nemotron-Nano-8B-v1 — языковая модель NVIDIA, дообученная на основе Meta Llama-3.1-8B-Instruct. Это плотный авторегрессионный Transformer с архитектурой Llama и примерно 7,5 млрд параметров; модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. Модель предназначена для диалогов, следования инструкциям и рассуждений, включая задачи по математике и программированию. Её можно применять в чат-ботах, агентных системах и RAG-сценариях; заявлен баланс качества и вычислительной эффективности, включая запуск на одной RTX GPU. Основной язык — английский; также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского. В README описано многоэтапное дообучение с SFT и обучением с подкреплением, в том числе для математических задач, кода, рассуждений, диалогов и вызова инструментов. Модель заявлена как готовая к коммерческому использованию, однако в метаданных лицензия обозначена как «other», поэтому перед внедрением следует проверить условия лицензии на странице репозитория. Результаты зависят от режима рассуждений и настроек генерации; приведённые в карточке оценки измерялись при длине последовательности 32K токенов, а не на полном контексте.

unsloth/Llama-3.1-Nemotron-Nano-8B-v1-GGUF — GGUF-версия модели Llama-3.1-Nemotron-Nano-8B-v1, разработанной NVIDIA и подготовленной Unsloth. Это языковая reasoning-модель на базе Meta Llama 3.1 8B Instruct, предназначенная для диалогов, следования инструкциям, генерации кода, математических и логических задач, RAG-систем, tool calling и AI-агентов. Модель рассчитана прежде всего на английский язык и языки программирования, также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель представляет собой плотный decoder-only Transformer с архитектурой Llama 3.1 и примерно 8 млрд параметров. Она поддерживает текстовый ввод и вывод, контекст до 131 072 токенов, а также режимы с рассуждением и без него, переключаемые системным промптом. Постобучение включало supervised fine-tuning для математики, кода, рассуждений и tool calling, а также этапы reinforcement learning и оптимизации предпочтений. GGUF-формат и заявленная эффективность позволяют использовать модель локально, в том числе на одной RTX GPU; рекомендуемые аппаратные платформы исходной модели — NVIDIA Hopper и Ampere. Сильными сторонами являются сочетание качества рассуждений, чат-возможностей и вычислительной эффективности, а также поддержка длинного контекста и агентских сценариев. Ограничения включают преимущественную ориентацию на английский язык и языки программирования, зависимость поведения от корректной настройки режима рассуждения и устаревание части знаний: дата среза предобучающих данных Meta Llama 3.1 указана как 2023 год. Использование регулируется NVIDIA Open Model License; дополнительно указано соглашение Meta Llama 3.1 Community License Agreement. Модель заявлена как пригодная для коммерческого использования.

Llama-3.1-Nemotron-Ultra-253B-v1-FP8 — большая языковая модель NVIDIA, производная от Meta Llama-3.1-405B-Instruct. Это плотный decoder-only Transformer с архитектурой, оптимизированной методом Neural Architecture Search: блоки могут содержать пропущенное внимание, переменное соотношение FFN и объединённые FFN. В README указано 253 млрд параметров; метаданные Hugging Face указывают 697,9 млрд параметров. Модель распространяется в формате FP8 и работает через Transformers. Модель предназначена для рассуждений, диалогов, следования инструкциям, генерации кода, retrieval-augmented generation, вызова инструментов и построения AI-агентов и чат-ботов. Она поддерживает текстовый ввод и вывод с контекстом до 131 072 токенов, а основным языком является английский; также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. NAS-оптимизация направлена на уменьшение потребления памяти и задержки при сохранении качества и позволяет запускать модель на одном узле с 8 H100 для инференса. Модель ориентирована на коммерческое использование, однако требует значительных вычислительных ресурсов и специализированной инфраструктуры. Данные предварительного обучения имеют срез 2023 года, поэтому модель может не знать более свежие факты. Архитектура нестандартна относительно исходной Llama и может требовать совместимого программного стека. Использование регулируется NVIDIA Open Model License и дополнительными условиями Llama 3.1 Community License Agreement.

EpistemeAI/Llama-3.2-3B-Agent007-Coder — дообученная модель для генерации текста и кода на основе Llama 3.2 3B Instruct. Разработчик карточки — EpistemeAI; базовая модель — unsloth/llama-3.2-3b-instruct-bnb-4bit. Это плотный авторегрессионный трансформер семейства Llama с 3,2 млрд параметров, поддержкой диалогового формата и интерфейса вызова инструментов. В метаданных указан контекст до 131 072 токенов. Модель дообучена на Agent dataset, CodeAlpaca-20k и magpie-ultra-v0.1 и предназначена для программирования, диалоговых помощников и агентных сценариев. Она принимает и генерирует текст, включая код; в карточке базового семейства перечислены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Доступна под лицензией Apache 2.0. Показатели качества на задачах кодирования для этой конкретной версии в карточке не приведены.

Llama-3.3-Nemotron-Super-49B-v1.5 — большая языковая модель, разработанная NVIDIA как производная Meta Llama-3.3-70B-Instruct. Это reasoning-модель для диалогов, следования инструкциям, решения задач по математике, программированию и науке, а также для агентных сценариев, включая RAG и вызов инструментов. Она предназначена для разработчиков AI-агентов, чат-ботов, RAG-систем и других приложений на базе ИИ. Модель представляет собой плотный decoder-only Transformer с архитектурой, оптимизированной методом Neural Architecture Search. В отдельных блоках внимание может пропускаться или заменяться одним линейным слоем, а коэффициент расширения FFN варьируется, что уменьшает требования к памяти и повышает эффективность при сохранении качества. Модель обрабатывает только текст, поддерживает контекст до 131 072 токенов и генерирует текст. Основной язык — английский; также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского, тайского и языков программирования. Сильные стороны модели — сочетание рассуждений, чат-взаимодействия, инструментального использования и высокой эффективности, включая возможность работы на одной GPU H200 при больших нагрузках. Ограничения включают текстовую модальность, ориентированность прежде всего на английский язык, дату отсечения предобучающих данных 2023 годом и оптимизацию под NVIDIA GPU-ускоренные системы. Модель доступна для коммерческого использования на условиях NVIDIA Open Model License с дополнительными условиями Llama 3.3 Community License Agreement.

Llama-3.3-Nemotron-Super-49B-v1.5-GGUF — квантованное представление большой языковой модели NVIDIA, производной от Meta Llama-3.3-70B-Instruct. Модель предназначена для рассуждений, многоходового чата, следования инструкциям, программирования, математических и научных задач, а также для создания RAG-систем, AI-агентов и приложений с вызовом инструментов. Версия GGUF подготовлена Unsloth и включает исправления шаблона чата; для llama.cpp рекомендуется использовать параметр --jinja. Модель представляет собой плотный decoder-only Transformer с архитектурными изменениями, полученными методом Neural Architecture Search: в отдельных блоках внимание пропускается или заменяется линейным слоем, а коэффициент расширения FFN может различаться между блоками. Такой подход уменьшает требования к памяти и повышает эффективность инференса при сохранении качества. Указаны размер 49B параметров, контекст до 128K токенов и поддержка английского языка, включая задачи с кодом. Модель обучалась на данных с отсечкой по 2023 году, поэтому её знания могут быть устаревшими. Сильными сторонами являются сочетание качества рассуждений и эффективности, поддержка агентных сценариев, RAG и tool calling, а также возможность применения в коммерческих проектах. Ограничения включают специализацию преимущественно на английском языке, отсутствие заявленной мультимодальности и зависимость характеристик от конкретного GGUF-кванта и оборудования. Использование регулируется NVIDIA Open Model License, а также дополнительными условиями Llama 3.3 Community License Agreement.

v2ray/Llama-3-70B-Instruct — перезагрузка модели Meta Llama 3 70B Instruct, предназначенной для диалогового использования. Это авторегрессионная плотная языковая модель на базе оптимизированного Transformer с Grouped-Query Attention; объём модели — 69,5 млрд параметров, контекст — 8192 токена. Модель принимает текст и генерирует текст, включая код. Модель подходит для англоязычного диалогового помощника и задач генерации текста. В карточке описана настройка инструкционных версий с помощью supervised fine-tuning и обучения с подкреплением на основе человеческой обратной связи. Разработчик — Meta; версия выпущена 18 апреля 2024 года. Модель рассчитана прежде всего на английский язык. Для использования действует пользовательская коммерческая лицензия Meta Llama 3 и связанные с ней условия допустимого использования. Ответы могут требовать проверки и дополнительных мер безопасности в зависимости от приложения.

Модель dbands/llama-3-8b-instruct-code-instructions-blender-16bit — дообученная языковая модель семейства Llama 3, разработанная dbands на основе dbands/llama-3-8b-instruct_code_instructions_122k_alpaca_style_4bit. Она предназначена для генерации текста по инструкциям, включая задачи, связанные с кодом. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 8192 токенов. Модель принимает текст и генерирует текст; в карточке указан английский язык. Обучение проводилось с Unsloth и библиотекой TRL. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache 2.0.

Llama-3-8B-Instruct-Coder — дообученная модель на основе Llama 3 8B Instruct от Meta, опубликованная rombodawg. Она обучалась на наборах CodeFeedback и Code Feedback Filtered Instruction и предназначена для генерации кода и ответов на запросы о программировании в диалоговом формате. Модель использует плотную архитектуру LlamaForCausalLM с 7,5 млрд параметров и контекстом до 8192 токенов. В карточке указано обучение методом Qalore, сочетающим QLoRA и приёмы GaLore для снижения требований к видеопамяти. Поддерживается английский язык; модель доступна в форматах PyTorch и safetensors. Для использования действует лицензия Llama 3. Карточка не приводит результатов оценки качества или подробных ограничений; качество ответов следует проверять на целевых задачах, особенно при использовании сгенерированного кода.

Карточка модели 404devnotfound/LongCat-2.0 на Hugging Face совпадает с карточкой bh890/LongCat-2.0, поэтому описание составлено по ней. LongCat-2.0 — большая языковая модель семейства LongCat, представленная разработчиками проекта LongCat. Это модель архитектуры MoE с классом LongcatCausalLM; в метаданных репозитория указано 42,1 млрд параметров, тогда как README описывает полную версию с 1,6 трлн параметров и примерно 48 млрд активируемых на токен. Репозиторий содержит веса в формате safetensors и использует лицензию MIT. Модель предназначена для диалоговой генерации текста, программирования, понимания кода и репозиториев, выполнения задач агентами и работы с инструментальными сценариями. README сообщает об обучении на данных с контекстом до 1 млн токенов и об архитектурном механизме LongCat Sparse Attention для длинных последовательностей; метаданные указывают нативный контекст 262 144 токена. В карточке также заявлены чат и интерфейс вызова инструментов. README особо выделяет задачи с длинным горизонтом, редактирование кода на уровне репозитория и автоматизацию действий; развёртывание описано для GPU и NPU. Модель не оценивалась всесторонне для всех возможных прикладных сценариев. Условия лицензии — MIT.

LongLLaMA-Code-7B — языковая модель для генерации кода, разработанная командой LongLLaMA во главе с Шимоном Творковским. Это плотная авторегрессионная модель LongLLaMAForCausalLM на 6,6 млрд параметров, построенная на основе Code Llama и дообученная методом Focused Transformer (FoT) для работы с длинным контекстом. Репозиторий содержит веса PyTorch; модель выпущена как исследовательский предварительный релиз. Модель предназначена для генерации и продолжения кода, а также для рассуждений над длинными текстовыми и программными входами. В README указано, что обучение FoT проводилось на контекстах до 32 тысяч токенов, а механизм памяти позволяет расширять эффективный контекст; для LongLLaMA-Code приведён пример извлечения данных из последовательностей до 256 тысяч токенов. Метаданные каталога указывают нативный контекст в 4096 токенов. Метод обрабатывает длинные входы окнами и использует кэш памяти в выбранных слоях. В README отмечено улучшение результата на GSM8K с 13% до 17,4% после продолжения предобучения без дообучения на данных этой задачи. Модель ориентирована на код, однако количественные характеристики контекстного извлечения не гарантируют такое же качество на всех задачах и длинах. Лицензия указана как Llama 2; перед использованием следует проверить её условия и применимость к конкретному сценарию.

LSDA-3B-Turkish-Dev — языковая модель на 3,1 млрд параметров, разработанная umitaksoylu на базе Qwen2.5-3B и дообученная для задач современной full-stack разработки. Она предназначена для генерации кода и технических объяснений, особенно для C# и .NET, SQL и React; заявлены примеры совместной работы backend API и frontend-компонентов, генерации запросов по схемам, LINQ и современных шаблонов .NET, а также React Hooks и Context. Модель использует плотную архитектуру Qwen2ForCausalLM, принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. Карточка заявляет двуязычную работу на английском и турецком языках и рекомендует использовать именно их. Веса опубликованы в формате Safetensors; лицензия — Apache-2.0. Качество и надёжность результатов зависят от запроса, а заявленная специализация не гарантирует корректность кода или SQL.

LuminaLM — чат-модель для генерации текста, разработанная Parallax Labs. В карточке описано обновлённое семейство модели с усиленными рассуждениями и выводом: автор сообщает об улучшениях в математике, программировании и логике, а также о снижении частоты галлюцинаций и лучшей поддержке вызова функций. В тесте AIME 2025 точность, согласно README, выросла с 74% до 89,3%; средний объём рассуждений на вопрос увеличился с 15 тыс. до 27 тыс. токенов. Модель основана на архитектуре Llama и предназначена для диалогов, решения сложных задач и генерации ответов; README также описывает сценарии с загрузкой файлов и поиском в интернете через специальные шаблоны запросов. Рекомендуемая температура генерации — 0,6. Репозиторий содержит веса PyTorch, библиотека — Transformers. Лицензия MIT. Размер модели и длина контекста в предоставленных данных не приведены.

m51Lab выпустила эту разреженную языковую модель 15 апреля 2026 года как вариант MiniMax-M2.7, в котором методом REAP удалено 40 % экспертов в блоках Mixture-of-Experts. Модель содержит около 139 млрд параметров, из которых примерно 10 млрд активны на каждом токене; в архитектуре 62 слоя. По метаданным, она загружается через Transformers и имеет контекст до 196 608 токенов. Модель предназначена для генерации текста в диалоговом режиме, включая написание кода, математические и научные рассуждения и вызовы инструментов. В README приведён результат HumanEval pass@1 83,3 % для завершённых задач при бюджете генерации 32 тыс. токенов; при строгом подсчёте всех 164 задач результат составляет 54,9 %, поскольку незавершённые решения учитываются как ошибки. Для воспроизведения указанной оценки рекомендуется выделять не менее 64 тыс. токенов генерации. README описывает также небольшой дефект коррекции смещений одного слоя; по данным карточки, его влияние на маршрутизацию незначительно. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией и файлами репозитория. README описывает вариант после структурного прореживания, а метаданные классифицируют связь с MiniMax-M2.7 как finetune; формат файлов в метаданных — safetensors.

Macaron-V1.1 — агентная модель MindLab Research, построенная на GLM-5.3 и дообученная для диалогов, работы с инструментами, программирования и генерации пользовательских интерфейсов. В README описана архитектура Mixture of LoRA: общая базовая модель GLM-5.3 и четыре LoRA-специалиста для чата, агентных задач, программирования и Generative UI. Метаданные указывают 30,4 млрд параметров, архитектуру семейства GLM MoE DSA, формат safetensors и контекст до 1 048 576 токенов; README отдельно называет релизный масштаб 752 млрд параметров, включая базу 744 млрд и четыре адаптера по 2 млрд, поэтому сведения о размере различаются. Модель предназначена для разговорного взаимодействия, выбора и применения инструментов в многошаговых рабочих процессах, длительных задач разработки ПО и создания интерфейсов. В карточке приведены результаты нескольких бенчмарков, но часть оценок является самоотчётной или получена по различающимся протоколам; полные сведения для воспроизведения экспериментов отсутствуют. Указанная лицензия — MIT.

MadWizard-SFT-v4-Mistral-7b-v0.3 — разговорная модель на архитектуре Mistral, дообученная Lumpen1 методом QLoRA на протяжении двух эпох на наборе Lumpen1/MadWizardSFT-v0.3-with-coding-chatml42 с шаблоном ChatML. Она предназначена для генерации ответов в диалогах и задач с кодом. Модель содержит 7,1 млрд параметров, принимает текст и выдаёт текст; заявленный контекст — до 32 768 токенов. Опубликована в формате safetensors и распространяется по лицензии Apache-2.0.

Maincoder-1B — компактная авторегрессионная языковая модель для кода, разработанная Maincode. Она предназначена прежде всего для генерации и автодополнения кода на Python и может применяться при написании функций, прототипировании и решении задач по программированию. Модель содержит 1 млрд параметров и построена на трансформере-декодере Maincoder с 32 слоями и скрытым размером 1536. Архитектура использует RoPE, grouped-query attention, нормализацию запросов и ключей через RMSNorm и блоки SwiGLU. Контекст ограничен 2048 токенами; для запуска используется библиотека Transformers, веса доступны в формате safetensors. README сообщает о настройке обучения с помощью алгоритма MCPO и результатах на бенчмарках HumanEval, HumanEval+ и MBPP+. Модель рассчитана на локальное применение на потребительском оборудовании благодаря компактному размеру. Она оптимизирована преимущественно для Python, поэтому качество на других языках программирования может отличаться. Сгенерированный код может содержать ошибки или уязвимости, а модель не проходила настройку на безопасность. Лицензия — Apache-2.0.

Карточка модели MengLinMaker/Maincoder-1B на Hugging Face совпадает с карточкой Maincode/Maincoder-1B, поэтому описание составлено по ней. Maincoder-1B — компактная авторегрессионная языковая модель для кода, разработанная Maincode. Она предназначена прежде всего для генерации и автодополнения кода на Python и может применяться при написании функций, прототипировании и решении задач по программированию. Модель содержит 1 млрд параметров и построена на трансформере-декодере Maincoder с 32 слоями и скрытым размером 1536. Архитектура использует RoPE, grouped-query attention, нормализацию запросов и ключей через RMSNorm и блоки SwiGLU. Контекст ограничен 2048 токенами; для запуска используется библиотека Transformers, веса доступны в формате safetensors. README сообщает о настройке обучения с помощью алгоритма MCPO и результатах на бенчмарках HumanEval, HumanEval+ и MBPP+. Модель рассчитана на локальное применение на потребительском оборудовании благодаря компактному размеру. Она оптимизирована преимущественно для Python, поэтому качество на других языках программирования может отличаться. Сгенерированный код может содержать ошибки или уязвимости, а модель не проходила настройку на безопасность. Лицензия — Apache-2.0.

mrm8488/mamba-coder — языковая модель для генерации кода и ответов на инструкции, основанная на архитектуре Mamba, разработанной как альтернатива трансформерам на основе пространства состояний. Модель содержит 6 млрд параметров и распространяется в формате PyTorch; в метаданных указана библиотека Transformers. Модель дообучена на наборе CodeAlpaca_20K из 20 тысяч примеров инструкций для задач программирования. Она подходит для генерации фрагментов кода, помощи в написании и изменении программ, а также ответов на вопросы о коде. Карточка не приводит результатов оценки качества. Лицензия — WTFPL.

Mellum2 Instruct — диалоговая языковая модель, разработанная JetBrains для прямых ответов без явного пошагового рассуждения. Она подходит для интерактивного чата, выполнения инструкций, помощи с кодом и использования инструментов. Модель построена на архитектуре Mixture-of-Experts: 64 эксперта, из которых для каждого токена активируются 8. Используются слои со скользящим окном и полным вниманием; контекст составляет 131 072 токена. По карточке модель получена из JetBrains/Mellum2-12B-A2.5B-Base с помощью дообучения на инструкциях и последующего обучения с подкреплением на задачах математики, программирования, использования инструментов, следования инструкциям, рассуждений и знаний. Указанный в метаданных размер — 1,9 млрд параметров; веса представлены в safetensors, библиотека — Transformers. Модель принимает текст и предназначена для генерации текстовых ответов. Карточка сообщает об английском языке. Для сложной отладки, планирования и многошаговых агентных сценариев разработчик рекомендует вариант Thinking. Лицензия — Apache-2.0.

RedHatAI/Meta-Llama-3.1-70B-Instruct-quantized.w4a16 — квантованная версия Meta-Llama-3.1-70B-Instruct, разработанная Neural Magic на базе модели Meta. Это текстовая autoregressive-модель для генерации текста и ассистентского диалога, предназначенная прежде всего для коммерческого и исследовательского использования на английском языке. Возможные сценарии включают чат-ассистентов, ответы на инструкции, генерацию текста, решение математических задач и помощь в программировании. Модель имеет архитектуру Meta-Llama-3 и содержит 70 млрд параметров в исходной версии. Веса линейных операторов в трансформерных блоках квантованы в формат INT4 по схеме W4A16 с симметричной групповой квантизацией для групп по 128 параметров; для квантования применён алгоритм GPTQ. Это сокращает объём хранения и требования к памяти GPU примерно на 75% по сравнению с 16-битной версией. Модель работает с текстом на входе и выходе, а в README заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков, хотя официальное назначение ограничено английским. Указанная длина контекста при развёртывании — до 8192 токенов. К сильным сторонам относятся существенное снижение требований к памяти и высокая близость качества к неквантованной модели: заявлены результаты восстановления 100% для Arena-Hard, 99,4% для OpenLLM v1, 97,4% для OpenLLM v2, 101,0% для HumanEval pass@1 и 99,2% для HumanEval+ pass@1. Ограничения включают возможную потерю точности из-за INT4-квантования, ориентацию на английский язык и отсутствие мультимодальности. Для эффективного развёртывания рекомендуется backend vLLM, включая режим OpenAI-compatible serving. Модель распространяется по лицензии Llama3.1; применяются ограничения исходной лицензии, включая запрет использования с нарушением законодательства.

Meta Llama 3 70B Instruct — диалоговая большая языковая модель, разработанная Meta и настроенная для общения с пользователем. Она принимает текст и генерирует текст, включая программный код, поэтому подходит для чат-ассистентов и других сценариев генерации на естественном языке. Модель построена на авторегрессионной архитектуре Transformer с Grouped-Query Attention и содержит 70 млрд параметров. Инструктивная версия использует supervised fine-tuning и обучение с подкреплением на основе обратной связи от людей. В карточке указано назначение прежде всего для английского языка; модель статична и обучена на офлайн-данных. Модель можно применять в коммерческих и исследовательских проектах на условиях лицензии Llama 3 Community License и соответствующей политики допустимого использования. Она не предназначена для применения на языках, отличных от английского, хотя разработчики могут дообучать её для других языков при соблюдении условий лицензии. Для конкретного приложения потребуются собственные меры безопасности; ответы модели могут содержать ошибки или небезопасные сведения.

Meta-Llama-3-70B-Instruct-iMat-GGUF — квантизированная GGUF-версия 70-миллиардной инструкционно настроенной языковой модели Meta Llama 3, разработанной Meta. Модель предназначена для диалоговых ассистентов, генерации текста и кода, а также коммерческих и исследовательских сценариев на английском языке. Инструкционная настройка выполнена с применением supervised fine-tuning и reinforcement learning with human feedback для повышения полезности и безопасности. Модель принимает только текст и генерирует текст или код. Она построена на авторегрессионной оптимизированной архитектуре Transformer с Grouped-Query Attention, имеет контекст длиной 8k токенов и обучалась на более чем 15 триллионах токенов общедоступных онлайн-данных; дата отсечения знаний — декабрь 2023 года. Данная сборка квантизирована с использованием importance matrix, включает варианты K и IQ, а также исправленный токен завершения для инструкционного режима. Для корректной работы требуется совместимый рантайм, например llama.cpp, актуальный chat template llama3 и правильная загрузка всех частей файлов, если модель разделена. Сильные стороны модели — большой размер, диалоговая специализация, поддержка генерации кода и улучшенная точность квантизации за счёт importance matrix. Ограничения включают английскую ориентацию, текстовую модальность, контекст 8k токенов, статичность обучающего набора и зависимость результатов от выбранного кванта и совместимости токенизатора. Указана кастомная коммерческая лицензия Llama 3; её условия определяются Llama 3 Community License и Acceptable Use Policy.

MaziyarPanahi/Meta-Llama-3-8B-Instruct-GGUF — это квантизированная версия инструкционно дообученной модели Meta-Llama-3-8B-Instruct, разработанной Meta и преобразованной в формат GGUF пользователем MaziyarPanahi. Модель предназначена для диалоговых ассистентов, генерации текста и кода, а также коммерческого и исследовательского использования на английском языке. Для работы необходимо применять шаблон запросов Llama 3. Модель представляет собой авторегрессионную языковую модель на оптимизированной архитектуре Transformer с 8 млрд параметров и механизмом Grouped-Query Attention (GQA). Она принимает только текст и генерирует текст или код, имеет контекст 8 тысяч токенов и обучалась на более чем 15 трлн токенов общедоступных онлайн-данных. Инструкционная версия использует supervised fine-tuning и reinforcement learning from human feedback для повышения полезности и безопасности. Репозиторий содержит варианты квантизации от 2 до 16 бит, что позволяет выбирать компромисс между размером модели, скоростью и качеством вывода. Сильными сторонами являются поддержка диалоговых сценариев, генерации кода и возможность запуска через совместимые инструменты для GGUF, включая llama.cpp, с меньшими требованиями к ресурсам благодаря квантизации. Ограничения включают преимущественную ориентацию на английский язык, контекст длиной 8 тысяч токенов, статичность модели и возможные потери качества в квантизированных вариантах. Использование регулируется пользовательской лицензией Meta Llama 3 и соответствующей политикой допустимого использования.

Meta-Llama-3-8B-Instruct-iMat-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Meta-Llama-3-8B-Instruct, разработанной Meta. Модель предназначена для диалоговых сценариев и задач генерации текста и кода, включая использование в качестве ассистента. Вариант подготовлен с помощью llama.cpp и доступен в наборах K- и IQ-квантов от Q6_K до IQ1_S. Модель представляет собой авторегрессионный языковой трансформер с оптимизированной архитектурой и Grouped-Query Attention (GQA), содержит около 8 млрд параметров и поддерживает контекст до 8 тысяч токенов. Она принимает только текст и генерирует текст или код. Обучение включает предварительное обучение, supervised fine-tuning и reinforcement learning from human feedback для повышения полезности и безопасности. Основной язык — английский; применение для других языков обозначено как выходящее за рамки исходного назначения, хотя дополнительное дообучение возможно при соблюдении условий лицензии. Ключевые преимущества этого варианта — поддержка локального запуска через llama.cpp, наличие множества уровней квантования и использование importance matrix для снижения потерь качества при квантовании. Исправлены настройки токенизатора и EOS-токена для корректной работы инструкционного режима, однако для новых квантов требуется совместимая версия llama.cpp с соответствующими исправлениями и шаблоном чата Llama 3. Модель является статичной и обучена на офлайн-данных; дата отсечения знаний — март 2023 года. Использование регулируется пользовательской лицензией Meta Llama 3 и Acceptable Use Policy.

Millie 35B-A3B 7GB — модель смешанных экспертов для программирования и агентных сценариев, опубликованная llmsforall. Она создана на основе Agents-A1 и архитектуры Qwen3.5-35B-A3B: всего 35 млрд параметров, из которых активно около 3 млрд на токен. Весовые коэффициенты экспертов сжаты примерно до 1,2 бита на параметр; модель поставляется в формате GGUF, а отдельный файл проектора изображений обеспечивает приём изображений. Заявленная длина контекста — 262 тысячи токенов. Модель предназначена для генерации кода, диалогов и выполнения агентных задач на обычном оборудовании. Для запуска нужны оба файла GGUF и специальная версия llama.cpp от llmsforall с поддержкой формата весов; upstream llama.cpp их загрузить не может. В метаданных указана лицензия Apache-2.0. README также сообщает о варианте размером 11 ГБ.

Карточка модели ahmed-amedo/MiMo-V2.6-Pro-RL на Hugging Face совпадает с карточкой shaikat2007/MiMo-V2.6-Pro, поэтому описание составлено по ней. MiMo-V2.6-Pro-RL — флагманская модель серии MiMo-V2.6, разработанная Xiaomi и обученная с масштабированием обучения с подкреплением для агентных сценариев и самоулучшения. Она предназначена для генерации текста, программирования, работы с инструментами и задач, где агент взаимодействует со средой и оценивает результаты своих действий. Модель построена на разреженной архитектуре Mixture of Experts. В README указаны 1,02 трлн общих и 42 млрд активируемых параметров; метаданные репозитория указывают 27,7 млрд параметров и класс MiMoV2ForCausalLM. Контекст составляет до 1 млн токенов. Модель поддерживает текст, изображения, видео и аудио, а также интерфейс вызова инструментов. В карточке заявлены английский и китайский языки. Модель подходит для длительных агентных запусков, анализа визуальных и аудиовизуальных материалов, программирования и работы с длинными документами или репозиториями. README приводит результаты бенчмарков, но они не гарантируют качество на конкретных задачах; развёртывание рассчитано на специализированные средства инференса и мощное оборудование. Лицензия репозитория — MIT.

openbmb/MiniCPM5-1B-MLX — компактная языковая модель из серии MiniCPM5, разработанная OpenBMB. Это causal language model на архитектуре LlamaForCausalLM, адаптированная в формате MLX с 4-битным представлением для локального запуска на устройствах Apple Silicon и в условиях ограниченных ресурсов. Модель предназначена для локальных ассистентов, coding agents, генерации кода, сценариев tool use, агентских рабочих процессов и задач, требующих рассуждений. Она поддерживает английский и китайский языки, контекст до 131 072 токенов и два режима работы в одном чекпойнте: быстрый режим без рассуждений и режим с пошаговым рассуждением через параметр enable_thinking. Заявлены сильные результаты среди открытых моделей класса около 1B параметров, особенно в использовании инструментов, генерации кода и сложных рассуждениях. Модель содержит 1 080 632 832 параметра, 24 слоя, 16 attention heads для Q и 2 KV-heads в конфигурации GQA. К преимуществам относятся небольшой размер, поддержка длинного контекста и пригодность для on-device и edge-сценариев. Ограничениями являются компактный масштаб модели по сравнению с крупными LLM и ориентация MLX-версии прежде всего на устройства Apple Silicon. Модель распространяется по лицензии Apache-2.0.

GnLOLot разработала MiniCPM5-2B-Claude-Fable5-1-Thinking-Agentic — компактную языковую модель на базе openbmb/MiniCPM5-2B, дообученную на данных Claude. Это плотная модель архитектуры Llama примерно с 2,2 млрд параметров, предназначенная для локального запуска через Transformers. Она поддерживает контекст до 131 072 токенов и выдаёт текст.