II.2Создание и понимание программного кода

Meta Llama 3 70B — большая авторегрессионная языковая модель Meta с оптимизированной архитектурой Transformer и Grouped-Query Attention. Эта версия предназначена для генерации текста; семейство включает предварительно обученные и настроенные варианты, но карточка репозитория не уточняет, к какому варианту относится этот чекпойнт. Модель принимает текст и генерирует текст, включая код. Её можно использовать для диалоговых помощников и адаптировать к различным задачам генерации естественного языка. В README указано, что модель предназначена для коммерческого и исследовательского использования на английском языке; применение на других языках выходит за рамки заявленного назначения, хотя дообучение для них допускается при соблюдении условий лицензии и политики использования. Модель выпущена Meta в апреле 2024 года. Репозиторий содержит веса в формате safetensors и распространяется по специальной лицензии Llama 3 с коммерческими условиями. Ответы могут требовать дополнительных мер безопасности, настроенных под конкретное приложение.

Карточка модели Undi95/Meta-Llama-3-70B-hf на Hugging Face совпадает с карточкой meta-llama/Meta-Llama-3-70B, поэтому описание составлено по ней. Meta Llama 3 70B — большая авторегрессионная языковая модель Meta с оптимизированной архитектурой Transformer и Grouped-Query Attention. Эта версия предназначена для генерации текста; семейство включает предварительно обученные и настроенные варианты, но карточка репозитория не уточняет, к какому варианту относится этот чекпойнт. Модель принимает текст и генерирует текст, включая код. Её можно использовать для диалоговых помощников и адаптировать к различным задачам генерации естественного языка. В README указано, что модель предназначена для коммерческого и исследовательского использования на английском языке; применение на других языках выходит за рамки заявленного назначения, хотя дообучение для них допускается при соблюдении условий лицензии и политики использования. Модель выпущена Meta в апреле 2024 года. Репозиторий содержит веса в формате safetensors и распространяется по специальной лицензии Llama 3 с коммерческими условиями. Ответы могут требовать дополнительных мер безопасности, настроенных под конкретное приложение.

PrimeIntellect публикует веса Meta Llama 3 70B Instruct, разработанной Meta. Это плотная авторегрессионная языковая модель на архитектуре Transformer с 69,5 млрд параметров. Репозиторий содержит веса, разбитые на части для более эффективной загрузки в Petals; формат файлов — safetensors. Модель принимает текст и генерирует текст и код, а версия Instruct настроена для диалогов с помощью контролируемого дообучения и обучения с подкреплением по обратной связи от людей. Используйте её для чат-ассистентов и генерации текста на английском языке. Контекст модели — до 8192 токенов. Модель предназначена для коммерческого и исследовательского применения в рамках лицензии Meta Llama 3 Community License. Она оптимизирована для полезных и безопасных ответов, но требует дополнительных мер защиты в приложениях: документация отмечает остаточные риски, в том числе связанные с опасным контентом. README указывает английский как целевой язык; использование на других языках обозначено как выходящее за рамки назначения, хотя разработчики могут дообучать модель для дополнительных языков с соблюдением лицензии и политики использования.

Карточка модели satpalsr/Meta-Llama-3-8B на Hugging Face совпадает с карточкой meta-llama/Meta-Llama-3-8B, поэтому описание составлено по ней. Meta Llama 3 8B — авторегрессионная языковая модель Meta с оптимизированной архитектурой Transformer и Grouped-Query Attention. Эта версия принимает текст и генерирует текст, в том числе код. Семейство Llama 3 включает предварительно обученные и дообученные для инструкций модели; карточка этой модели описывает базовый предварительно обученный чекпойнт, пригодный для адаптации к различным задачам генерации текста. Модель предназначена для коммерческого и исследовательского применения на английском языке. Её можно использовать как основу для генерации текста и кода, а после адаптации — для диалоговых сценариев. Выпущена в апреле 2024 года и распространяется по пользовательской коммерческой лицензии Meta Llama 3. Карточка не приводит для этого репозитория конкретную длину контекста; сама модель статична и обучена на офлайн-данных. Для развёртывания приложений разработчикам следует самостоятельно подбирать меры безопасности под свой сценарий.

Карточка модели tuneai/Meta-Llama-3-8B на Hugging Face совпадает с карточкой meta-llama/Meta-Llama-3-8B, поэтому описание составлено по ней. Meta Llama 3 8B — авторегрессионная языковая модель Meta с оптимизированной архитектурой Transformer и Grouped-Query Attention. Эта версия принимает текст и генерирует текст, в том числе код. Семейство Llama 3 включает предварительно обученные и дообученные для инструкций модели; карточка этой модели описывает базовый предварительно обученный чекпойнт, пригодный для адаптации к различным задачам генерации текста. Модель предназначена для коммерческого и исследовательского применения на английском языке. Её можно использовать как основу для генерации текста и кода, а после адаптации — для диалоговых сценариев. Выпущена в апреле 2024 года и распространяется по пользовательской коммерческой лицензии Meta Llama 3. Карточка не приводит для этого репозитория конкретную длину контекста; сама модель статична и обучена на офлайн-данных. Для развёртывания приложений разработчикам следует самостоятельно подбирать меры безопасности под свой сценарий.

Карточка модели Undi95/Meta-Llama-3-8B-hf на Hugging Face совпадает с карточкой meta-llama/Meta-Llama-3-8B, поэтому описание составлено по ней. Meta Llama 3 8B — авторегрессионная языковая модель Meta с оптимизированной архитектурой Transformer и Grouped-Query Attention. Эта версия принимает текст и генерирует текст, в том числе код. Семейство Llama 3 включает предварительно обученные и дообученные для инструкций модели; карточка этой модели описывает базовый предварительно обученный чекпойнт, пригодный для адаптации к различным задачам генерации текста. Модель предназначена для коммерческого и исследовательского применения на английском языке. Её можно использовать как основу для генерации текста и кода, а после адаптации — для диалоговых сценариев. Выпущена в апреле 2024 года и распространяется по пользовательской коммерческой лицензии Meta Llama 3. Карточка не приводит для этого репозитория конкретную длину контекста; сама модель статична и обучена на офлайн-данных. Для развёртывания приложений разработчикам следует самостоятельно подбирать меры безопасности под свой сценарий.

Модель aifeifei798/Meta-Llama-3-8B-Instruct — чат-ориентированная большая языковая модель семейства Llama 3, разработанного Meta. Это авторегрессионный трансформер с плотной архитектурой, примерно 7,5 млрд параметров, обученный следовать инструкциям с помощью контролируемого дообучения и обучения с обратной связью от людей. Репозиторий содержит веса в формате safetensors; контекст модели — до 8192 токенов. Модель принимает текст и генерирует текст, включая код. Она предназначена для диалоговых сценариев и использования в качестве ассистента; карточка заявляет английский как основной язык и ограничивает применение другими языками. Модель может быть полезна для ответов на вопросы, написания и объяснения кода, составления текстов и ведения диалога. В README указана пользовательская коммерческая лицензия Meta Llama 3 с условиями Community License и Acceptable Use Policy. Модель статична и обучена на офлайн-данных; ответы могут содержать ошибки, а заявленные меры безопасности не исключают вредных или нежелательных результатов, поэтому для приложений нужны подходящие проверки и защитные механизмы.

Meta-Llama-3-8B-Instruct-llamafile — это инструкционная версия языковой модели Llama 3, разработанная Meta и упакованная в исполняемый формат llamafile проектом Mozilla Ocho. Версия содержит около 8 млрд параметров и предназначена для локального запуска на Linux, macOS, Windows, FreeBSD, OpenBSD и NetBSD на платформах AMD64 и ARM64. Указанный вариант связан с квантованием, выполненным jartine, и основан на meta-llama/Meta-Llama-3-8B-Instruct. Модель принимает только текст и генерирует текст и код. Она ориентирована прежде всего на англоязычные диалоговые сценарии, работу в формате ассистента и задачи генерации естественного языка. Архитектура представляет собой авторегрессионный оптимизированный Transformer с Grouped-Query Attention; модель дообучена с применением supervised fine-tuning и reinforcement learning from human feedback для повышения полезности и безопасности. Длина контекста составляет 8k токенов, данные обучения включают более 15 трлн токенов общедоступных онлайн-данных, дата отсечения знаний — март 2023 года. Сильными сторонами являются возможность автономного локального запуска без отдельной сложной инфраструктуры, поддержка распространённых настольных операционных систем и оптимизация для диалогового взаимодействия. Ограничения включают работу преимущественно с английским языком, текстовую модальность, статичность обученной версии и возможные потери качества или рост галлюцинаций при использовании более агрессивных форматов квантования. Модель распространяется по пользовательской коммерческой лицензии Llama 3; применение должно соответствовать условиям Llama 3 Community License, Acceptable Use Policy и действующему законодательству.

microsoft_NextCoder-32B-GGUF — это набор GGUF-квантизированных версий языковой модели NextCoder-32B, разработанной Microsoft. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и кода, включая сценарии программирования и чат-взаимодействия. В README указана поддержка английского языка; сведения о других языках отсутствуют. Модель имеет размер 32 млрд параметров и работает в текстовой модальности. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3, Q2 и IQ, что позволяет выбирать между качеством, размером файлов и требованиями к оперативной памяти. Рекомендуемыми названы, в частности, Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S и Q4_K_M. Размер файлов варьируется примерно от 13 до 66 ГБ. Размер контекста и точная архитектура в README не указаны. Сильными сторонами являются высокое качество старших вариантов квантизации, возможность локального запуска и совместимость с LM Studio, llama.cpp и другими проектами на его основе. Ограничения включают значительные требования к памяти, снижение качества у компактных вариантов и отсутствие сведений о мультимодальности, дополнительных языках и длине контекста. Модель распространяется по лицензии MIT; условия исходной модели и квантизированных файлов следует рассматривать с учетом указанной лицензии.

MiMo-7B-RL-0530 — языковая модель Xiaomi из семейства MiMo, дообученная с подкреплением для математических и программных рассуждений. Это плотная авторегрессионная модель на 7 млрд параметров с контекстом до 65 536 токенов; репозиторий содержит веса в формате safetensors, а метаданные указывают совместимость с Transformers и диалоговый режим с интерфейсом вызова инструментов. Модель предназначена для решения математических задач, генерации и анализа кода, а также диалоговых сценариев, где требуется пошаговое рассуждение. В README описано обучение с подкреплением на задачах математики и программирования с проверкой ответов по правилам. Заявлены результаты, сопоставимые с OpenAI o1-mini, однако они относятся к оценкам разработчиков и конкретным бенчмаркам. Модель принимает и генерирует текст. Метаданные не перечисляют языки, поэтому описание не приписывает ей конкретный набор языков. Лицензия — MIT. Практическое качество может зависеть от формулировки запроса и задачи; результаты рассуждений и сгенерированный код требуют проверки.

MiMo-7B-SFT — плотная языковая модель Xiaomi, обученная с нуля и прошедшая supervised fine-tuning на базе MiMo-7B-Base. Модель предназначена для диалогов и задач рассуждения, особенно решения математических задач и написания кода; поддерживает интерфейс вызова инструментов. Она содержит 7 млрд параметров, использует архитектуру MiMoForCausalLM и принимает контекст до 32 768 токенов. В README описана серия MiMo-7B, ориентированная на усиление способностей к рассуждению через предварительное обучение и последующее обучение. Для этой версии заявлено обучение SFT; результаты по математике и коду, приведённые в карточке, относятся преимущественно к RL-версиям семейства и не должны автоматически считаться показателями MiMo-7B-SFT. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия — MIT.

Карточка модели kaivoss/MiMo-V2.6-Distill-Qwen-9B-compat на Hugging Face совпадает с карточкой XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B, поэтому описание составлено по ней. MiMo-V2.6-Distill-Qwen-9B — плотная мультимодальная модель на 9 млрд параметров, разработанная Xiaomi MiMo посредством supervised fine-tuning Qwen3.5-9B на данных, созданных MiMo. Модель предназначена для диалогов и агентных сценариев, включая программирование, визуальное программирование и задачи кибербезопасности; также поддерживает обработку изображений. Карточка публикует результаты SFT-чекпойнта на бенчмарках по программированию. Это контрольная точка для дальнейших исследований в области агентного обучения с подкреплением. Для запуска README рекомендует свежую сборку SGLang с поддержкой Qwen3.5; модель включает токенизатор и шаблон чата MiMo v2.6. Репозиторий содержит веса safetensors. Лицензия — MIT. README не описывает конкретные ограничения качества или безопасности модели.

Карточка модели lovedheart/MiMo-V2.6-Distill-Qwen-9B-FP8 на Hugging Face совпадает с карточкой XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B, поэтому описание составлено по ней. MiMo-V2.6-Distill-Qwen-9B — плотная мультимодальная модель на 9 млрд параметров, разработанная Xiaomi MiMo посредством supervised fine-tuning Qwen3.5-9B на данных, созданных MiMo. Модель предназначена для диалогов и агентных сценариев, включая программирование, визуальное программирование и задачи кибербезопасности; также поддерживает обработку изображений. Карточка публикует результаты SFT-чекпойнта на бенчмарках по программированию. Это контрольная точка для дальнейших исследований в области агентного обучения с подкреплением. Для запуска README рекомендует свежую сборку SGLang с поддержкой Qwen3.5; модель включает токенизатор и шаблон чата MiMo v2.6. Репозиторий содержит веса safetensors. Лицензия — MIT. README не описывает конкретные ограничения качества или безопасности модели.

MiMo-V2.6-Flash-RL — мультимодальная модель Xiaomi из серии MiMo-V2.6, обученная с подкреплением для задач агентного взаимодействия и самоулучшения по обратной связи. Она предназначена для генерации текста, работы с инструментами, программирования и мультимодального понимания; обучение объединяет задачи кодирования, визуальные сценарии, агентов общего назначения и кибербезопасность. В README архитектура описана как разреженная MoE с 309 млрд общих и 15 млрд активируемых параметров, 1 млн токенов контекста, обработкой текста, изображений, видео и аудио, а также визуальным и аудиокодировщиками. Метаданные Hugging Face, однако, указывают 12 млрд параметров и архитектуру dense MiMoV2ForCausalLM в формате safetensors FP8; поэтому точный размер и тип архитектуры опубликованной версии противоречивы. Метаданные также указывают поддержку английского и китайского языков. Для развёртывания README приводит рецепты SGLang и vLLM и интерфейс вызова инструментов. Модель распространяется по лицензии MIT. README приводит результаты отдельных бенчмарков, но не задаёт гарантий качества для конкретных задач; работа с длинным контекстом и мультимодальными входами требует совместимого программного обеспечения и достаточных вычислительных ресурсов.

MiniCPM5-1B — компактная плотная языковая модель семейства MiniCPM5, разработанная OpenBMB; этот репозиторий AIArchiveInfo является побитовой копией оригинала openbmb/MiniCPM5-1B. Модель предназначена для локальных помощников, кодовых агентов, работы с инструментами и рассуждений на устройствах с ограниченными ресурсами. Она построена на архитектуре LlamaForCausalLM, содержит около 838 млн параметров по метаданным каталога и поддерживает контекст до 131 072 токенов. Один чекпойнт поддерживает режимы ответа с рассуждением и без него; карточка также отмечает возможности чата, вызова инструментов, генерации кода и сложных рассуждений. Модель рассчитана на английский и китайский языки и доступна в формате Safetensors для Transformers. Лицензия — Apache-2.0. Модель может ошибаться, воспроизводить смещения или выдавать небезопасные ответы; результаты следует проверять, особенно при использовании в ситуациях с высокими ставками.

MiniCPM5-1B-SFT — контрольная точка модели серии MiniCPM5 от OpenBMB, предназначенная для локального запуска на устройствах с ограниченными ресурсами. Это плотная авторегрессионная языковая модель с архитектурой LlamaForCausalLM: в метаданных указано 837,6 млн параметров, а карточка сообщает о 24 слоях и 16 головах запросов и 2 головах ключей и значений. Модель принимает текст и выдаёт текст; контекст — до 131 072 токенов. Карточка модели указывает английский и китайский языки. SFT-чекпойнт предназначен для локальных помощников, генерации кода, агентных сценариев с вызовом инструментов и сложных рассуждений. В серии предусмотрены режимы ответа с рассуждением и без него; этот вариант обучен только методом SFT и предшествует этапам RL и OPD. Поддерживаются запуск через Transformers, vLLM и SGLang, а также дообучение с помощью ресурсов проекта. Заявления карточки о сравнительных результатах относятся к указанному в ней набору моделей и бенчмарков. Модель распространяется под лицензией Apache-2.0. Она может выдавать неточные, предвзятые или небезопасные ответы; результаты следует проверять, особенно перед применением в ответственных сценариях.

Карточка модели ariancort/MiniCPM5-2B на Hugging Face совпадает с карточкой developerjeremylive/MiniCPM5-2B-etheroi, поэтому описание составлено по ней. MiniCPM5-2B-etheroi — компактная языковая модель из серии MiniCPM5, представленная в карточке MiniCPM5-2B. Это плотная причинная Transformer-модель с архитектурой LlamaForCausalLM и примерно 2,2 млрд параметров. Она предназначена для локальных помощников, программных агентов и сценариев, где важны небольшие требования к ресурсам и длинный контекст. Модель генерирует текст и поддерживает контекст до 131 072 токенов. В карточке отмечены навыки программирования, математики, понимания длинного контекста, следования инструкциям и работы с инструментами; метаданные также указывают разговорный сценарий. Модель рассчитана на английский и китайский языки и доступна в формате safetensors для Transformers; README описывает локальный запуск на GPU и CPU и серверный запуск через vLLM и SGLang. Модель выпущена под лицензией Apache-2.0. Ответы могут быть неточными, предвзятыми или оскорбительными; выводы по медицине, финансам, праву и политике не проверены экспертами и не являются профессиональной консультацией. README не указывает отдельную базовую модель для этой версии.

MiniCPM5-2B-Midtrain — промежуточная версия плотной причинно-языковой модели серии MiniCPM5, разработанной командой OpenBMB. Она построена на архитектуре LlamaForCausalLM и предназначена для локальных помощников, программирования, работы с инструментами и рассуждений на устройствах с ограниченными ресурсами. Модель содержит около 2,2 млрд параметров и поддерживает контекст до 131 072 токенов. Модель генерирует текст, поддерживает диалоговый режим и рассчитана на английский и китайский языки. В карточке серии заявлены сильные результаты для своего класса в программировании, математике, длинном контексте, использовании инструментов и агентных задачах; указанные сравнения относятся к MiniCPM5-2B в целом, а не обязательно к этой промежуточной версии. Весы доступны в формате safetensors, лицензия — Apache-2.0. Как промежуточный чекпойнт midtrain, модель может уступать завершённой версии по следованию инструкциям и качеству диалога. Её ответы могут быть неточными, предвзятыми или оскорбительными; модель не заменяет экспертную консультацию в чувствительных областях.

MiniMax-M2.7-REAP-172B-A10B-NVFP4-GB10 — производная модель семейства MiniMax-M2.7, подготовленная Saricles для запуска на NVIDIA DGX Spark с GB10 и других GPU Blackwell с поддержкой NVFP4. Это причинная языковая MoE-модель MiniMaxM2ForCausalLM: после удаления 25% экспертов в базовой версии REAP и последующей посттренировочной квантизации NVFP4 в ней сохранено 192 из 256 экспертов исходной модели. Размер файлов составляет 98,9 ГБ; модель рассчитана на контекст до 196 608 токенов. Модель предназначена для диалогов и агентных сценариев, включая использование инструментов, генерацию кода, математику и задачи разработки ПО. Настройка квантования ориентирована на оборудование GB10 и уменьшает требования к памяти; README указывает, что модель помещается в единую память DGX Spark объёмом 128 ГБ. Производительность и качество этой версии на GB10 пока не подтверждены опубликованными бенчмарками. В README также отмечена ошибка подготовки данных к калибровке: SWE-smith-trajectories не попал ни в отбор экспертов, ни в калибровку квантования. Лицензия указана как other; конкретные условия следует проверять в карточке модели.

MiniMax-M3 — мультимодальная модель семейства MiniMax M3, разработанная MiniMax. Она предназначена для диалогов с текстом и изображениями, анализа видео, программирования и выполнения длительных агентных задач. Модель имеет около 428 млрд параметров, из которых активируется около 23 млрд; заявлена поддержка контекста до 1 млн токенов. Архитектура использует разреженное внимание MiniMax Sparse Attention (MSA), призванное снизить вычислительные затраты и расход памяти при обработке длинного контекста. Модель обучалась одновременно на разных модальностях и рассчитана на семантическую работу с текстом, изображениями и видео. В карточке заявлены высокие результаты на длительных агентных сценариях, включая программирование и совместную работу; количественные показатели бенчмарков не приведены. Для использования указаны MiniMax Agent и MiniMax API, а также локальное развёртывание через Transformers и веса safetensors. Лицензия обозначена как other, поэтому перед применением следует проверить её условия в репозитории модели.

MiniMax-M3 — мультимодальная модель семейства MiniMax, опубликованная пользователем sdlangshaw; в README оригинальная разработка приписана MiniMax. Она предназначена для диалогов с текстом и изображениями, анализа видео, программирования и агентных задач. Модель содержит около 428 млрд параметров, из которых активируется около 23 млрд, и использует разреженное внимание MiniMax Sparse Attention (MSA). Заявлена длина контекста до 1 млн токенов; README сообщает о повышении скорости обработки длинного контекста относительно M2. Модель поддерживает текстовые и визуальные сценарии, включая видео, и рассчитана на длинные многошаговые задачи: например, разработку кода и совместную работу с агентом. Для использования README указывает MiniMax Agent и MiniMax API, а также локальное развёртывание из репозитория MiniMaxAI/MiniMax-M3. В репозитории sdlangshaw/MiniMax-M3 представлены веса safetensors для Transformers. Лицензия указана как other, без уточнения её условий в доступных данных. Заявления о производительности и возможностях приведены в README модели; они не сопровождаются здесь независимыми результатами проверки.

Карточка модели Arsh9210/MiniMax-M3-NVFP4 на Hugging Face совпадает с карточкой nvidia/MiniMax-M3-NVFP4, поэтому описание составлено по ней. NVIDIA MiniMax-M3-NVFP4 — квантизированная версия мультимодальной модели MiniMax-M3, подготовленная с помощью NVIDIA Model Optimizer. Это модель архитектуры Transformer с Mixture-of-Experts: всего 428 млрд параметров, из которых активно около 23 млрд на токен. Она принимает текст, изображения и видео, а также выдаёт текст; контекстное окно составляет до 1 млн токенов, видео — до 30 минут. Модель предназначена для понимания изображений и длинных видео, программирования на продолжительных задачах, диалогов с инструментами и агентных сценариев. Режим рассуждения можно переключать между углублённым и менее затратным по задержке. Квантизация NVFP4 уменьшает объём весов и требования к памяти примерно вдвое относительно 8-битной версии; в приведённых тестах показатели близки к FP8-базе. Для запуска README указывает vLLM и NVIDIA Blackwell; поддержка MiniMax-M3 NVFP4 доступна в nightly-сборке vLLM. Веса самой модели разработаны не NVIDIA, а сторонней организацией. Лицензия обозначена как other, модель разрешена для некоммерческого использования. Ответы могут быть неточными, неполными или избыточными; модель может воспроизводить токсичность и предвзятость из обучающих данных.

Nondzu/Mistral-7B-code-16k-qlora — экспериментальная модель для генерации кода и помощи в роли copilot, созданная автором репозитория на основе семейства Mistral. В карточке указано обучение на наборе nickrosh/Evol-Instruct-Code-80k-v1 с шаблоном запросов Alpaca; модель имеет плотную архитектуру MistralForCausalLM и около 7,1 млрд параметров. Модель принимает текстовые инструкции и генерирует текстовые ответы, включая код. В README автор приглашает пользователей тестировать модель и приводит сравнение с исходной Mistral, поэтому качество и пригодность для конкретных задач следует оценивать на собственных примерах. Метаданные указывают контекст до 32 768 токенов; лицензия — Apache-2.0.

Mistral-NeMo-Minitron-8B-Base-CODE-Python-i1-GGUF — это квантизированная версия базовой модели Agnuxo/Mistral-NeMo-Minitron-8B-Base-CODE-Python, подготовленная mradermacher в формате GGUF. Модель ориентирована на генерацию кода, прежде всего на задачи, связанные с Python, и может использоваться в локальных AI-приложениях, ассистентах программирования и сценариях научных исследований. Заявлена поддержка английского и испанского языков. Модель имеет размер 8B параметров в базовой версии; точные сведения об архитектуре, размере контекстного окна и мультимодальности в карточке не указаны. Репозиторий содержит множество вариантов квантизации i1, включая IQ- и Q-схемы с размером файлов примерно от 2,2 до 5,5 ГБ, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Для создания собственных вариантов также предоставлен imatrix-файл. Сильными сторонами являются специализация на генерации кода, возможность локального запуска и широкий выбор уровней квантизации; для некоторых вариантов в карточке отмечены предпочтительное соотношение размера, скорости и качества или более низкое качество. Ограничения включают отсутствие подробных результатов тестирования, сведений о контекстном окне и гарантий корректности сгенерированного кода, поэтому результаты требуют проверки. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Mistral-Small-3.1-24B-Instruct-2503-quantized.w8a8 — это квантизированная версия инструкционной мультимодальной модели Mistral-Small-3.1-24B-Instruct-2503, разработанная Red Hat совместно с Neural Magic на базе модели Mistral AI. Архитектура обозначена как Mistral3ForConditionalGeneration. Модель принимает текст и изображения и генерирует текст; заявлена поддержка языков, включая английский, французский, немецкий, испанский, итальянский, португальский, хинди, арабский, китайский, японский, корейский, русский, украинский и другие языки из указанного перечня. Модель предназначена для быстрых диалоговых агентов, вызова функций с низкой задержкой, программирования, математического рассуждения, анализа длинных документов и визуального понимания. Она также подходит для локального развертывания, включая сценарии обработки чувствительных данных, и для адаптации под предметные области посредством дообучения. Максимальный контекст в README явно не указан, однако в примере развертывания используется ограничение 32768 токенов. Веса и активации линейных операторов в трансформерных блоках квантизированы в INT8. Для весов применяется статическая симметричная поканальная схема, для активаций — динамическая симметричная потокенная схема; используются методы SmoothQuant и GPTQ. По данным README, это примерно вдвое снижает требования к памяти GPU и размер диска, а также может примерно вдвое повысить пропускную способность матричных умножений. Компромиссом являются возможные потери точности по сравнению с исходной моделью, при этом конкретные результаты бенчмарков не приведены. Модель распространяется по лицензии Apache 2.0 и валидирована с RHOAI 2.20, RHAIIS 3.0, RHELAI 1.5 и vLLM 0.8.4.

Это GGUF-версия Mistral-Small-4-119B-2603, подготовленная noctrex с квантизацией MXFP4 для тензоров MoE и BF16 для остальных тензоров. Для работы автор рекомендует использовать актуальную версию llama.cpp; для файла mmproj рекомендует вариант F32 для наилучшего качества. Основа — мультимодальная модель Mistral AI для диалогов, рассуждений, программирования, агентных задач и анализа изображений и документов; в карточке репозитория основной pipeline указан как генерация текста. BF16 для неквантизированных тензоров сохраняет их исходную точность и может давать более высокое качество, чем вариант с Q8, но на некоторых архитектурах работает медленнее. Репозиторий создан 17 марта 2026 года. Лицензия в предоставленных данных не указана.

JANGQ-AI/Mistral-Small-4-119B-A6B-JANG_4M — квантованная сборка модели Mistral Small 4 от Jinho Jang и проекта JANGQ-AI, предназначенная для запуска на компьютерах Apple Silicon через MLX. Она основана на mistralai/Mistral-Small-4-119B-2603 и использует формат MLX safetensors с квантованием JANG 4.08 бит и вычислениями bfloat16. Модель содержит 119 млрд параметров, из которых активны около 6 млрд на токен. Архитектура включает 36 MoE-слоёв с 128 экспертами и выбором четырёх экспертов, MLA-внимание и визуальный энкодер Pixtral. Модель поддерживает диалог, рассуждения, генерацию кода и анализ изображений; README указывает максимальное разрешение изображений 1540 пикселей. В карточке перечислены английский, французский, немецкий, испанский, японский, корейский и китайский языки. Сборка рассчитана на запуск в MLX Studio; README также указывает поддержку oMLX. Для указанной конфигурации требуется около 68 ГБ оперативной памяти, а тест скорости приведён для M3 Ultra. Владелец публикует код квантования с открытым исходным кодом; модель распространяется по лицензии Apache-2.0. Приведённые скорости относятся к конкретному стенду и не гарантируют такие же результаты на других устройствах.

darkc0de/Muse-Glimmer-30B-heretic — версия Muse Glimmer-30B с ослабленным отказом на запросы, созданная с помощью Heretic v1.4.0. Исходная модель разработана Meta Superintelligence Lab; это плотная причинная трансформерная языковая модель примерно с 29,6 млрд параметров и отдельным энкодером восприятия. Репозиторий использует Transformers и формат safetensors; лицензия — Apache 2.0. Модель предназначена для диалогов и мультимодальных агентных сценариев: планирования, вызова инструментов, программирования, анализа изображений и документов, генерации синтетических данных и оценки ответов других моделей. Она принимает текст и изображения и выдаёт текст. В README указана обработка видео по отдельным кадрам, но модель специально для видео не оптимизирована; аудио не поддерживается. Сведения о поддерживаемых языках и размере контекстного окна в предоставленных данных отсутствуют. В README приведено сравнение с исходной Muse Glimmer-30B: доля отказов составила 11 из 100 против 59 из 100 у оригинала, а KL-дивергенция — 0,0743. Модель может ошибаться в многошаговых рассуждениях, выдавать неточные, предвзятые или нежелательные ответы; качество может снижаться для языков, недостаточно представленных в оценке. Для агентных развёртываний рекомендуется дополнительная проверка безопасности и контроль действий.

coder3101/Muse-Glimmer-30B-heretic-v2 — производная версия Muse Glimmer-30B от Meta Superintelligence Lab, изменённая методом abliteration для снижения частоты отказов. Это плотная причинная трансформерная модель с энкодером восприятия, примерно на 29,6 млрд параметров; она принимает текст и изображения и предназначена для диалогов, мультимодального анализа и агентных сценариев. Модель рассчитана на локальный запуск и поддерживает вызов инструментов, многошаговое планирование и восстановление после ошибок. Её можно применять для анализа скриншотов, диаграмм и документов, программирования, вызова функций и оценки ответов других моделей. В сравнении с исходной моделью в карточке указано 14 отказов из 100 против 58 из 100; это отражает снижение отказов, но не гарантирует точность или безопасность ответов. Карточка отдельно предупреждает о возможных ошибках в рассуждениях, смещённых или нежелательных ответах и ухудшении качества на недостаточно проверенных языках. Аудио не поддерживается, видео специально не оптимизировано. Лицензия — Apache 2.0.

Sawfwair подготовила вариант Meta Muse-Glimmer-30B для запуска на Apple Silicon через MLX и среду mere.run. Это плотная мультимодальная модель с причинным трансформером и визуальным энкодером; базовая модель содержит около 29,6 млрд параметров. В этой сборке применена выборочная 4-битная аффинная квантизация с размером группы 64: часть матриц квантована, а визуальный энкодер, эмбеддинги токенов и некоторые другие веса сохранены в BF16. Модель предназначена для диалоговых агентных задач с текстом и изображениями: анализа скриншотов, графиков, документов и изображений, планирования шагов, вызова инструментов, программирования и генерации синтетических данных. Она принимает текст и изображения и выдаёт текст. Карточка описывает Muse Glimmer как коммерческую и исследовательскую модель; для этой сборки указана лицензия Apache-2.0. Модель может ошибаться в многошаговых рассуждениях и давать неточные, предвзятые или нежелательные ответы. Квантизация может немного ухудшать качество в отдельных случаях; качество также может быть ниже на языках, которые недостаточно представлены в оценках. Вход и выход аудио не поддерживаются.