II.2Создание и понимание программного кода

Devstral-Small-2-NVFP4-GGUF — квантизированная GGUF-сборка мультимодальной модели для программирования, разработанная Mistral AI и представленная в репозитории FreedomAISVR. В её основе — mistralai/Devstral-Small-2-24B-Instruct-2512: плотный трансформер Mistral3ForConditionalGeneration с 24 млрд параметров и контекстом до 393 216 токенов. Для работы с изображениями используется проектор mmproj на основе 24-слойного SigLIP ViT. Модель предназначена для генерации и анализа кода, диалогов с изображениями, вызова инструментов и агентных сценариев. Квантизация NVFP4 занимает около 12,52 ГБ для текстовых весов; файл проектора F16 занимает около 0,82 ГБ. Формат рассчитан на ускорение инференса на GPU NVIDIA Blackwell. Поддерживается многоязычное общение, однако конкретный перечень языков в карточке не приведён. Модель доступна по лицензии Apache 2.0. Квантизация может снизить качество относительно исходных весов; работа с изображениями требует отдельного файла проектора, а заявленное аппаратное ускорение NVFP4 ориентировано на Blackwell.

zimplex выпустила DreamReasoner-8B FineCode approximate-CF-v6 CPT — контрольную точку после дополнительного предобучения DreamReasoner-8B на наборе FineCode B64 с графом зависимостей approximate-CF-v6. Это плотная модель семейства Dream для генерации текста, представленная в формате safetensors; она содержит 7,6 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена прежде всего для генерации кода и диалогового взаимодействия при решении задач программирования. В карточке приведены результаты greedy-декодирования на HumanEval, MBPP sanitized и LiveCodeBench Pro; они отражают конкретный режим оценки и не гарантируют аналогичного качества на других задачах. Для загрузки требуется custom DreamReasoner modeling code и параметр trust_remote_code=True. Это исследовательский чекпойнт без отдельной оценки безопасности и готовности к развёртыванию. Лицензия — Apache-2.0.

DMax-Coder-16B — модель генерации кода на основе диффузионной языковой модели LLaDA-2.0-mini, разработанная авторами проекта DMax. Она дообучена на траекториях генерации кода и предназначена для создания программного кода с параллельным декодированием. В README описаны механизм самопересмотра ошибочных предсказаний и мягкое параллельное декодирование; заявлены показатели 6,6 TPF на задачах кода при сохранении точности. Модель использует MoE-архитектуру LLaDA2 и принимает текстовые запросы, выдавая текст, включая код. Размер по метаданным — 1,2 млрд параметров, контекст — до 16 384 токенов. Доступна в формате safetensors для Transformers. Лицензия — Apache-2.0.

Dolphin 2.7 Mixtral 8X7B AWQ — квантизированная 4-битная версия языковой модели Dolphin 2.7 Mixtral 8X7B, разработанной Cognitive Computations и подготовленной TheBloke. Модель основана на архитектуре Mixtral и предназначена для генерации текста, выполнения инструкций, диалоговых сценариев и задач программирования. При обучении использовались наборы данных Dolphin, Airoboros, Dolphin Coder, OpenHermes, Magicoder, Capybara и другие. Основной язык модели — английский. Модель использует квантизацию AWQ с параметрами 4 бит, group size 128 и форматом GEMM. Максимальная заявленная длина последовательности составляет 8192 токена, размер файлов модели — около 24,65 ГБ. Предусмотрен шаблон запросов ChatML с отдельными ролями system, user и assistant. Квантизация уменьшает требования к памяти и ускоряет инференс при сохранении качества, однако может незначительно влиять на точность по сравнению с исходной версией в формате FP16. Для запуска поддерживаются AutoAWQ, vLLM, Transformers и text-generation-webui; для Mixtral AWQ подтверждена работа vLLM версии 0.2.6. AWQ-версии рассчитаны преимущественно на Linux и Windows с GPU NVIDIA, поэтому на macOS рекомендуется использовать формат GGUF. В README указано, что модель распространяется по лицензии Apache-2.0.

Dolphin 2.8 Experiment26 7B — языковая модель, разработанная Eric Hartford и дообученная на базе Experiment-26 от Yam Peleg. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для диалогов и генерации кода. Она принимает запросы в формате ChatML и поддерживает контекст до 32 768 токенов по метаданным; в README для базовой модели указано 16 тысяч токенов. Для обучения использовались QLoRA и Axolotl, а среди датасетов указаны наборы для диалогов и программирования. Модель подходит для помощи в написании и объяснении кода, а также для обычных текстовых диалогов на английском языке. Доступны веса PyTorch, лицензия Apache-2.0 разрешает коммерческое использование. README помечает модель как экспериментальную; опубликованных оценок качества в карточке нет.

dolphin-2.9.1-mixtral-1x22b-GGUF — это квантизированная версия текстовой генеративной модели Dolphin 2.9.1 Mixtral 1x22B, подготовленная пользователем bartowski в формате GGUF для запуска через llama.cpp. В качестве базовой модели указана mistral-community/Mixtral-8x22B-v0.1, а исходная модель размещена cognitivecomputations. Квантизация выполнена с использованием imatrix и llama.cpp; доступны варианты от Q8_0 до Q2_K и IQ-квантизации с размером файлов примерно от 6,64 до 23,63 ГБ. Модель предназначена для диалоговой генерации текста, следования инструкциям, программирования, решения математических задач, function calling и агентских сценариев. При обучении использовались наборы Dolphin-2.9, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, samantha-data, Orca Math, SystemChat, Locutusque function calling и Agent-FLAN. Заявленный язык — английский. Формат взаимодействия использует шаблон ChatML с ролями system, user и assistant. Сильными сторонами являются большое базовое семейство Mixtral, широкий набор instruction- и code-oriented данных, а также выбор вариантов квантизации для компромисса между качеством и требованиями к памяти. Более высокие варианты, включая Q6_K и Q5_K_M, заявлены как обеспечивающие высокое качество, тогда как низкобитные варианты экономят память, но заметнее снижают качество. Модель работает только с текстом; сведения о размере контекста и мультимодальности в README не указаны. Распространение разрешено по лицензии Apache-2.0.

Dolphin 2.9.2 Qwen2 7B — разговорная языковая модель, созданная Eric Hartford, Lucas Atkins, Fernando Fernandes и командой Cognitive Computations на основе Qwen2-7B. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, дообученная на инструктивных, диалоговых и программных данных. В карточке заявлены навыки ответов на инструкции, ведения беседы, программирования, начальные агентные возможности и вызов функций. Модель предназначена для генерации текста в формате чата, помощи с кодом и выполнения запросов к функциям. Базовая модель поддерживает контекст до 128 тысяч токенов, однако полновесное дообучение Dolphin проводилось на последовательностях длиной 16 тысяч токенов. Репозиторий использует формат safetensors; метаданные указывают библиотеку Transformers. Модель описана авторами как uncensored и более склонная выполнять запросы, включая небезопасные. Для публичного сервиса рекомендуется самостоятельно добавить слой выравнивания поведения. Лицензия — Tongyi Qianwen; README допускает коммерческое использование при соблюдении её условий.

Dolphin 2.9.3 Mistral Nemo 12B — разговорная языковая модель, дообученная Eric Hartford и командой Cognitive Computations на базе mistralai/Mistral-Nemo-Base-2407. Она предназначена для следования инструкциям, диалогов, генерации кода и начальных агентных сценариев; также поддерживает вызов функций через ChatML-шаблон. Модель содержит 12,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и формат safetensors. Базовая модель рассчитана на контекст до 128 тыс. токенов, однако при дообучении использовалась длина последовательности 8192 токена. Dolphin описана как «uncensored» и может с высокой готовностью выполнять запросы, в том числе вредоносные или неэтичные. Перед предоставлением модели пользователям автор рекомендует добавить собственный слой контроля и выравнивания. Модель лицензирована по Apache 2.0, включая коммерческое использование.

Dolphin-2.9.3-Yi-1.5-34B-32k-GGUF — это квантизированная GGUF-версия текстовой генеративной модели dolphin-2.9.3-Yi-1.5-34B-32k. Базовая модель — 01-ai/Yi-1.5-34B-32k, исходная модель опубликована cognitivecomputations, а квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для диалогов, следования инструкциям, генерации и анализа текста, программирования, решения математических задач, function calling и агентских сценариев. При обучении использовались наборы данных Dolphin-2.9, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, Samantha, Orca Math, Locutusque Function Calling и Agent-FLAN. Поддерживается шаблон сообщений ChatML с ролями system, user и assistant. Модель имеет 34 миллиарда параметров и заявленный контекст до 32 тысяч токенов. Это текстовая модель без заявленной поддержки изображений или других модальностей; поддерживаемые языки в README не указаны. Доступно множество вариантов квантизации от Q8_0 и Q6_K до Q3 и IQ3, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Более низкие варианты требуют меньше оперативной памяти, но заметно уступают по качеству; некоторые варианты обозначены как экспериментальные. Модель распространяется по лицензии Apache-2.0. Для запуска рекомендуется совместимый стек llama.cpp или другое программное обеспечение, поддерживающее формат GGUF и соответствующие схемы квантизации.

Dolphin 2.9 Llama 3 8B 1M — диалоговая языковая модель, подготовленная Эриком Хартфордом, Лукасом Аткинсом, Фернандо Фернандесом и командой Cognitive Computations на базе Meta Llama 3 8B. Это полнос-параметрическое дообучение плотной архитектуры Llama с шаблоном запросов ChatML; метаданные указывают 7,5 млрд параметров и контекст до 1 048 576 токенов. Модель предназначена для ответов на инструкции, диалогов, задач по коду, математики и начальных сценариев использования инструментов и function calling. В README отмечено, что в обучающем наборе есть ошибка, из-за которой модель может излишне упоминать «SYSTEM MESSAGE»; автор рекомендует явно попросить её не обсуждать системное сообщение. Модель описана как uncensored и может с готовностью выполнять вредоносные запросы, поэтому перед предоставлением пользователям автор рекомендует добавить собственный слой выравнивания. Условия использования определяются лицензией Meta Llama 3 Community License; коммерческое применение допускается в соответствии с её условиями.

Dolphin 3.0 Mistral 24B — диалоговая инструкционная языковая модель семейства Dolphin, подготовленная Eric Hartford, Ben Gitter, BlouseJury и Cognitive Computations на базе Mistral Small 24B Base. Это плотная модель с архитектурой MistralForCausalLM, содержащая 23,4 млрд параметров; она принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и использует шаблон диалога ChatML. Модель предназначена для локального применения в качестве помощника общего назначения: она отвечает на вопросы и следует системным инструкциям, помогает с программированием и математикой, а также поддерживает сценарии с агентными инструкциями и вызовом функций. В README отмечено, что поведение и тон можно задавать системным промптом; для этой модели авторы рекомендуют низкую температуру генерации 0,05–0,1. Модель дообучена на смесях инструкционных, математических, кодовых и диалоговых данных. В метаданных указан английский язык, поэтому уверенно описывать поддержку других языков нельзя. Это текстовая модель без заявленных возможностей обработки изображений или аудио. Для работы с ней нужны совместимая среда запуска и достаточные вычислительные ресурсы; качество ответов зависит от системного промпта и настроек генерации. Лицензия в предоставленных данных не указана.

ranjanrajib/DPO-trained-Qwen2.5-Python-Coder-7B — модель генерации кода на Python, созданная дообучением Qwen/Qwen2.5-Coder-7B-Instruct методом Direct Preference Optimization (DPO) с адаптером LoRA. Она принимает текстовые инструкции и выдаёт код; архитектура — плотная Qwen2, размер — 7,1 млрд параметров, контекст — до 32 768 токенов. Репозиторий содержит веса safetensors, а лицензия — Apache-2.0. Модель предназначена для написания функций и реализаций на Python, решения задач программирования и генерации кода с заданными функциональными требованиями. Предпочтительные примеры для обучения выбирались по результатам запуска кода на тестах. В оценке на отложенных задачах BigCodeBench показатель Pass@1 составил 45,22% против 41,87% у базовой модели; это результат конкретного эксперимента и не гарантирует такого же улучшения на других задачах. Ограничения включают зависимость предпочтений от автоматических тестов, которые могут не охватывать все случаи, возможное влияние пересечения источника задач обучения и оценки, а также специализацию на Python: качество для других языков программирования не установлено. Перед применением на реальных задачах стоит проверить модель на собственных примерах.

Dracarys-Llama-3.1-70B-Instruct — дообученная Abacus.AI версия Meta-Llama-3.1-70B-Instruct для генерации кода и диалогового общения. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, рассчитанная на контекст до 131 072 токенов. Она использует формат запросов Llama 3 70B Instruct и распространяется в формате safetensors по лицензии Llama 3. Модель предназначена для генерации кода, предсказания результатов выполнения кода и решения общих задач в чате. В приведённых в карточке оценках Dracarys показывает улучшение относительно базовой модели в отдельных тестах LiveCodeBench, включая генерацию кода и предсказание тестового вывода; результаты LiveBench указывают на близкий общий уровень с улучшениями в некоторых категориях. Тестовые показатели не гарантируют качество на конкретных задачах, а карточка не приводит подробных сведений о данных дообучения или ограничениях безопасности.

Dream-Coder-v0-Instruct-7B — диффузионная языковая модель для генерации кода, разработанная Dream-org. Модель на 7,1 млрд параметров обучалась на открытых данных в несколько этапов: адаптация, обучение по инструкциям и обучение с подкреплением. Она предназначена для диалогового взаимодействия и решения задач программирования; заявленный результат на LiveCodeBench (2410–2505) составляет 21,4% pass@1. Модель использует плотную архитектуру семейства Dream и принимает текст, выдавая текст. Контекстное окно — 32 768 токенов. В README приведён пример запуска через Transformers; метаданные также указывают интерфейс для вызова инструментов. Модель доступна по лицензии Apache-2.0. Заявленный результат LiveCodeBench не гарантирует аналогичного качества на других задачах или наборах данных.

Карточка модели omegaT4224/Emulator.exe на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Everyone-Coder-33b-v2-Base — общественная модель для задач программирования из серии EveryoneLLM. Она создана на основе дообученных версий DeepSeek Coder 33B и объединена методом task arithmetic; карточка заявляет об улучшении результатов программирования по сравнению с первой версией серии. Это плотная авторегрессионная модель семейства Llama с 33,1 млрд параметров, рассчитанная на генерацию текста с контекстом до 16 384 токенов. В README указан шаблон запросов Alpaca. Модель подходит для генерации и дополнения кода, а также для ответов на инструкции, связанные с программированием. Метаданные указывают формат safetensors и лицензию other; конкретные условия лицензии в предоставленных данных не раскрыты. README не называет языки программирования, наборы данных или состав объединённых моделей, поэтому качество для конкретных языков и сценариев по этим сведениям оценить нельзя.

Everyone-Coder-4x7b-Base — специализированная на программировании модель серии EveryoneLLM от Rombodawg. Она создана как Mixtral-подобная модель с экспертами, дообученными участниками сообщества и объединёнными в общую модель. Автор описывает её как альтернативу Mixtral-8x7b, которую можно дополнительно настраивать под конкретные задачи. Модель предназначена для генерации текста, прежде всего кода. Архитектура — Mixtral MoE с классом MixtralForCausalLM; объём параметров — 7,1 млрд, контекст — до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Карточка не сообщает, какие языки программирования и естественные языки поддерживаются. Модель может быть полезна для генерации и дополнения кода, а также для помощи в программировании в текстовом формате. В README перечислены модели, участвовавшие в слиянии, но их названия отсутствуют, поэтому исходные компоненты установить нельзя. Лицензия — CC BY 4.0.

FIM-8B — языковая модель TIGER-Lab для генерации кода и работы в агентных сценариях разработки ПО. Она создана на основе Qwen/Qwen3-8B: модель прошла дообучение на данных function-aware Fill-in-the-Middle, а затем SFT на траекториях агента SWE-Lego. В репозитории указано 7,6 млрд параметров; архитектура — плотная Qwen3ForCausalLM, формат весов — safetensors. Модель предназначена для решения задач программной инженерии через агента, в частности для выполнения задач SWE-Bench с OpenHands CodeActAgent. В оценке по SWE-Lego модель получила в среднем 35,0 на SWE-Bench-Verified и 32,7 на SWE-Bench-Lite по трём запускам; README сообщает об улучшении на 3,2 и 5,4 пункта соответственно относительно воспроизведения SWE-Lego на Qwen3-8B. Контекст составляет до 163 840 токенов. Указана лицензия Apache-2.0. Карточка не подтверждает поддержку изображений или иных входных модальностей помимо текста.

Focus Red — перепакованная текстовая версия Qwen3.8-27B от Jaidchen. Из модели удалены компоненты обработки изображений и видео, а архитектура упрощена; заявленные автором преимущества — меньшие требования к памяти и хранилищу, более быстрая загрузка и инференс. Модель использует плотную архитектуру Qwen3_5ForCausalLM, содержит 22,3 млрд параметров и поддерживает контекст до 262 144 токенов. Модель предназначена для генерации текста в диалогах и сценариях с инструментами; метаданные также отмечают применение для программирования и агентных задач. Шаблон чата сохраняет настройки рассуждений Qwen и обработку вызовов инструментов. Изображения и видеокадры могут присутствовать в контексте, но модель не интерпретирует их. Генерация со случайной выборкой по умолчанию отключена, поэтому модель менее подходит для длинных творческих текстов и непринуждённого общения. Лицензия — Apache-2.0.

Fuse-1 Lite v2 — чат-модель для генерации текста и помощи с программированием, разработанная auryn-macmillan. Это дообученное продолжение Akahisrr/fuse-1-Lite: к базовой модели добавлен экспертный путь для кода с мостовыми слоями, маршрутизатором, масштабированием экспертов и кодовым вентилем. В карточке указаны архитектура Fuse3V2ForCausalLM, около 2,6 млрд параметров и контекст до 131 072 токенов. Модель генерирует ответы в диалоге и код; при необходимости кодовый путь можно отключить и использовать основной путь LFM2.5-2.6B. Для загрузки требуется Transformers с выполнением пользовательского кода из репозитория через trust_remote_code=True. Модель обучалась 550 шагов, в том числе с KL-дистилляцией к LiquidAI/LFM2.5-2.6B; сведения о тренировочных данных и оценках качества не приведены. Лицензия — Apache-2.0.

G9v3-39A5B — причинная языковая модель AI9Stars для диалогового помощника, генерации кода, использования инструментов и задач на рассуждение. Модель построена по архитектуре Mixture-of-Experts: в карточке указаны 39 млрд параметров суммарно и около 5 млрд активируемых на токен. Метаданные каталога при этом описывают архитектуру как плотную, поэтому сведения о разреженной MoE-структуре расходятся. Модель поддерживает режимы Think и No Think и контекст до 131 072 токенов. Предназначена для локального и самостоятельного развёртывания; для работы указана библиотека Transformers. Заявленная поддержка языков — английский и китайский. Модель распространяется по лицензии Apache-2.0. Как предварительный выпуск, модель может менять поведение между версиями. Ответы могут быть неточными, предвзятыми или небезопасными; их следует проверять, особенно перед применением в значимых решениях.

Gemini 3.5 Flash — мультимодальная модель Google для работы с текстом и изображениями. В карточке она описана как высокопроизводительная модель уровня Flash, ориентированная на скорость и низкую стоимость при решении задач рассуждения и программирования. Модель подходит для анализа изображений и текста, помощи с кодом и сценариев с параллельным выполнением агентных задач. Подробности об архитектуре, размере, поддерживаемых языках, длине контекста и лицензии в предоставленных данных отсутствуют.

Gemini 3 Flash Preview — предварительная версия быстрой мультимодальной модели Google для диалога, агентных сценариев и помощи с программированием. Карточка описывает её как thinking-модель с рассуждениями, близкими к уровню Pro, и поддержкой работы с инструментами. Модель предназначена для многошагового чата, агентных рабочих процессов и задач по программированию. Метаданные каталога относят её к задаче image-text-to-text. Данных о размере, длине контекста, поддерживаемых языках и лицензии в предоставленных материалах нет.

Gemma4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2 — дообученная модель yuxinlu1 на базе Google Gemma 4 12B Instruct для генерации кода и выполнения многошаговых технических задач с использованием инструментов. Это плотная архитектура Gemma 4 Unified, опубликованная в формате safetensors с весами bf16; README ориентирует эту версию прежде всего на разработчиков, которые хотят запускать модель в Transformers, создавать квантизованные варианты или продолжать дообучение. Модель предназначена для написания и отладки кода, работы с командами и инструментами, а также циклов «диагностика — исправление — проверка». В README приведён результат около 55% на локальном тесте tau2-bench telecom из 20 задач против примерно 15% у базовой модели при одинаковой конфигурации. Это сравнение ограничено описанным автором тестовым стендом и не сопоставимо напрямую с опубликованными результатами бенчмарка. Автор также сообщает о небольшом снижении результата на MMLU-Pro относительно базы. Модель поддерживает диалог и использует встроенный протокол вызова инструментов Gemma 4; README также описывает режим рассуждения перед ответом. Лицензия — Apache-2.0. Карточка не приводит сведений о размере контекстного окна или языках обучения, поэтому они здесь не уточняются.

mattbucci/gemma-4-12B-AWQ — 4-битная AWQ-Marlin-квантизированная версия модели google/gemma-4-12B-it, подготовленная mattbucci. Это унифицированная безэнкодерная модель Gemma 4 с архитектурой Gemma4UnifiedForConditionalGeneration. Она поддерживает работу с текстом, рассуждениями, инструментами, изображениями и аудио; заявленный нативный контекст составляет около 262 тысяч токенов. Модель использует attention с global-MQA и сочетание скользящего и полного внимания в пропорции 5:1. Квантизация выполнена в формате int4 W4A16 с размером группы 128. Линейные слои текстового декодера переведены в AWQ int4, тогда как эмбеддеры изображений и аудио, нормализации и связанная с эмбеддингами матрица lm_head сохранены в BF16 для поддержки мультимодальных возможностей. Согласно README, модель демонстрирует результаты 80% на MMLU, 95% на HumanEval, 100% на тесте Needle@long-ctx и 100% на тесте использования инструментов до контекста 256K; также заявлена работоспособность с изображениями и качественное рассуждение. Веса занимают около 5,4 ГБ на ранг при использовании int4. Модель предназначена для ресурсоэффективного инференса задач генерации и понимания текста, программирования, длинноконтекстного анализа, вызова инструментов, а также обработки изображений и аудио. Для запуска через SGLang требуются back-port-патчи 042–048 из указанного репозитория; на GPU Ampere рекомендуется использовать attention-backend triton и отключить CUDA Graph. Ограничения включают зависимость от специальной версии архитектуры и дополнительных патчей серверного ПО. Модель распространяется на условиях Gemma Terms of Use и является производной от google/gemma-4-12B-it.

Это неквантованная версия модели Gemma-4-12B-Coder, преобразованная сообществом mlx-community в формат MLX для локального запуска на компьютерах Apple Silicon с библиотекой mlx-lm. Модель основана на дообученной yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1; архитектура — плотная Gemma 4 Unified с 12 млрд параметров. Модель предназначена для диалоговой генерации кода и решения задач программирования. Карточка базовой модели указывает на алгоритмические задачи на Python и генерацию кода, проверенного тестами. Добавленный Jinja-шаблон чата помогает форматировать диалоги для инференса через mlx-lm. Версия в этом репозитории не квантована и ориентирована на локальный инференс на Apple Silicon. Лицензия — Apache-2.0. Доступные сведения не описывают длину контекста, поддержку конкретных языков программирования помимо Python в назначении базовой модели, а также количественные результаты оценки качества.

Карточка модели nypswift/gemma-4-12b-coder-fable5-composer2.5-mlx на Hugging Face совпадает с карточкой mlx-community/gemma-4-12b-coder-fable5-composer2.5, поэтому описание составлено по ней. Это неквантованная версия модели Gemma-4-12B-Coder, преобразованная сообществом mlx-community в формат MLX для локального запуска на компьютерах Apple Silicon с библиотекой mlx-lm. Модель основана на дообученной yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1; архитектура — плотная Gemma 4 Unified с 12 млрд параметров. Модель предназначена для диалоговой генерации кода и решения задач программирования. Карточка базовой модели указывает на алгоритмические задачи на Python и генерацию кода, проверенного тестами. Добавленный Jinja-шаблон чата помогает форматировать диалоги для инференса через mlx-lm. Версия в этом репозитории не квантована и ориентирована на локальный инференс на Apple Silicon. Лицензия — Apache-2.0. Доступные сведения не описывают длину контекста, поддержку конкретных языков программирования помимо Python в назначении базовой модели, а также количественные результаты оценки качества.

Composer 2.5 × Fable 5 v1 — дообученная Yuxin Lu модель Google Gemma 4 12B Instruct для генерации кода на Python. Она обучена на задачах с проверяемыми решениями: примеры включают рассуждения о граничных случаях, сложности и подходе, а корректность решений проверялась запуском тестов. Модель работает через Transformers и использует архитектуру Gemma4Unified; опубликованы полноточные веса safetensors в формате bf16, а заявленная длина контекста составляет 256K токенов. Модель предназначена для решения алгоритмических и функциональных задач на Python, генерации исполняемого кода и дальнейшего дообучения или создания квантованных сборок. Она ориентирована прежде всего на англоязычные запросы и код. По README, отказы у неё встречаются реже, чем у базовой модели, а защитное выравнивание ограничено; общеобразовательные факты и числа рекомендуется перепроверять. Лицензия — Apache 2.0.

Gemma4-12B-Coder (GGUF) — локальная специализированная версия Gemma 4 12B, основанная на google/gemma-4-12B-it и опубликованная в репозитории developerjeremylive. Модель дообучена для генерации кода, прежде всего на проверяемых задачах Python. В обучающих примерах рассуждения и решения проходили детерминированные тесты; использовались реальные трассы рассуждений Composer 2.5 и синтетические повторные решения Fable 5 для задач, где исходный учитель ошибался. Модель предназначена для локального и офлайн-применения в качестве помощника программиста: анализа алгоритмических задач, объяснения подхода, учёта граничных случаев и генерации исполняемого Python-кода. Это текстовая модель генерации с архитектурой Gemma 4 Unified, размером 12B параметров, распространяемая в формате GGUF для llama.cpp. Заявлена поддержка контекстного окна до 256K токенов. Доступны квантизации от Q2_K размером около 4,5 ГБ до Q8_0 размером около 11,8 ГБ; рекомендуемым компромиссом названа Q4_K_M размером около 6,87 ГБ. Сильные стороны модели — ориентация на код, обучение на решениях, прошедших тесты, локальная работа без облачного API и широкий выбор квантизаций для устройств с разным объёмом памяти. Ограничения включают специализацию преимущественно на Python и алгоритмических задачах, зависимость качества и доступного контекста от выбранной квантизации и объёма памяти, а также необходимость свежей версии llama.cpp с поддержкой архитектуры gemma4_unified. Модель распространяется по лицензии Apache-2.0.

Это 4-битная смешанно-точная MLX-квантизация модели yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1, созданная сообществом mlx-community с помощью инструментария mlx-optiq. Исходная модель представляет собой дообученную для программирования версию Gemma-4-12B. Вариант предназначен для локального запуска на компьютерах Apple Silicon без PyTorch и облачных сервисов. Модель ориентирована прежде всего на генерацию и анализ кода, рассуждения, ответы на вопросы, арифметику и работу с изображениями. Она использует архитектуру encoder-free gemma4_unified с мультимодальным обработчиком; входные изображения поддерживаются, а мультимодальный embedder сохранён в формате bf16. Языковая часть содержит 328 квантизируемых слоёв: 156 чувствительных слоёв работают в 8-bit, остальные 172 — в 4-bit. Средняя эффективная точность составляет 5,216 бит на вес, размер модели на диске — около 8,4 ГБ вместо 22 ГБ для версии bf16, поэтому она рассчитана на запуск, в частности, на Mac с 16 ГБ памяти. Точный размер контекста и список поддерживаемых языков в карточке не указаны. К сильным сторонам относятся существенное снижение требований к памяти, поддержка изображений, локальная работа и сохранение более высокой точности для чувствительных слоёв. Модель способна рассуждать перед ответом, поэтому ей требуется достаточный лимит токенов. Ограничения связаны с отсутствием собственных тестов производительности для этой квантизации, переносом схемы распределения разрядности с базовой модели и неизбежной погрешностью 4-битного представления. Для загрузки необходима регистрация архитектуры через mlx-optiq. Модель распространяется по лицензии Apache-2.0 и должна использоваться на тех же условиях, что и исходная модель.