II.2Создание и понимание программного кода

Это сборка Phi-3 Mini-128K-Instruct в формате GGUF F16, опубликованная ProfessorF (Nick V. Flor); исходную модель разработала Microsoft. Это компактная языковая модель с 3,8 млрд параметров, рассчитанная на генерацию текста и диалог по инструкциям. Файлы GGUF предназначены для локального запуска через llama.cpp и совместимые интерфейсы, в том числе в условиях ограниченных вычислительных ресурсов и требований к низкой задержке. Модель рассчитана прежде всего на английский язык. Она подходит для ответов на вопросы, генерации текста, программирования, математики и логических рассуждений; окно контекста исходной модели составляет до 128 тыс. токенов. README описывает обучение и настройку исходной модели с помощью supervised fine-tuning и direct preference optimization. Репозиторий предоставляет 16-битные GGUF-файлы; лицензия — MIT. Модель может ошибаться, а её пригодность для конкретного применения требует проверки, особенно в сценариях с высокими рисками. Заявления о сильных результатах на бенчмарках относятся к описанию исходной модели Microsoft и не являются независимой оценкой этой сборки.

Phi-3-Mini-128K-Instruct — компактная языковая модель Microsoft из семейства Phi-3 с плотной архитектурой Phi3ForCausalLM и примерно 3,7 млрд параметров. Она обучена на синтетических и отфильтрованных общедоступных данных, а затем дообучена с учителем и оптимизирована по предпочтениям для следования инструкциям и многоходового диалога. Лицензия — MIT. Модель предназначена для генерации текста на английском языке, диалога, рассуждений, математики и программирования, в том числе в условиях ограниченных вычислительных ресурсов и требований к низкой задержке. README описывает вариант с контекстом до 128 тысяч токенов и улучшения в понимании длинного контекста; однако метаданные указывают native context в 4096 токенов, поэтому заявленную длину 128K следует сверять с используемой конфигурацией и реализацией. Модель ориентирована прежде всего на английский язык и выдаёт текст. Она может ошибаться, а качество и безопасность для конкретных сценариев необходимо оценивать отдельно; карточка не рекомендует полагаться на неё без проверки в высокорисковых применениях.

Phi-3-mini-128k-instruct-4bit — 4-битная версия модели Phi-3-mini-128k-instruct, разработанной Microsoft и преобразованной сообществом mlx-community в формат MLX с помощью mlx-lm 0.10.0. Модель содержит около 3,7 млрд параметров и предназначена для генерации текста в диалоговых сценариях и задачах, связанных с кодом. Модель ориентирована прежде всего на англоязычные запросы, генерацию ответов, продолжение текста и помощь с программным кодом. Формат MLX оптимизирован для запуска через библиотеку mlx-lm на совместимом оборудовании Apple. Метаданные указывают нативную длину контекста 4096 токенов. К сильным сторонам относятся компактный размер, 4-битное квантование и возможность локального запуска в экосистеме MLX. Ограничениями являются преимущественная поддержка английского языка, уменьшенная точность из-за квантования и контекст до 4096 токенов, несмотря на обозначение исходной модели как 128k. Модель распространяется по лицензии MIT.

RedHatAI/phi-4-FP8-dynamic — квантизированная версия языковой модели Microsoft Phi-4, разработанная Red Hat совместно с Neural Magic. Это текстовая causal language model на архитектуре Phi3ForCausalLM: принимает текст и генерирует текст, преимущественно на английском языке. Модель предназначена для исследовательских задач, генеративных AI-функций, диалоговых и общих текстовых сценариев, а также задач рассуждения, логики, работы с математикой и кодом в условиях ограниченных ресурсов или повышенных требований к задержке. В модели к FP8 квантизированы веса и активации линейных операторов внутри трансформерных блоков. Веса используют симметричную статическую поканальную квантизацию, а активации — симметричную динамическую потокенную квантизацию. По заявлению разработчиков, это примерно на 50% снижает требования к GPU-памяти и размер диска, а также может примерно вдвое увеличить пропускную способность матричных умножений по сравнению с представлением FP16. Для квантизации использована библиотека llm-compressor; модель оптимизирована для развертывания с vLLM и валидирована в RHOAI 2.20, RHAIIS 3.0 и RHELAI 1.5. Длина контекста в предоставленных данных не указана. Сильные стороны модели — уменьшенные требования к памяти и дисковому пространству, потенциально более высокая производительность и поддержка сценариев, где важны рассуждение, логика, низкая задержка и эффективность вычислений. Ограничения включают преимущественную ориентацию на английский язык, отсутствие специальной оценки для всех прикладных сценариев и типичные для языковых моделей риски ошибок, проблем безопасности и несправедливых результатов; перед применением в ответственных областях необходимы отдельная проверка и меры контроля. Модель выпущена под лицензией MIT.

Карточка модели LimitlessMindd/Phi-4-reasoning на Hugging Face совпадает с карточкой microsoft/Phi-4-reasoning, поэтому описание составлено по ней. Phi-4-reasoning — открытая по весам языковая модель Microsoft Research, дообученная на базе Phi-4 с помощью supervised fine-tuning на примерах цепочек рассуждений и обучения с подкреплением. Она предназначена для диалоговых генеративных приложений, где важны рассуждения и логика, а также ограничены вычислительные ресурсы или допустимая задержка. Основные области обучения и оценки — математика, наука и программирование; модель рассчитана прежде всего на английский язык. Модель использует плотный декодерный Transformer архитектуры Phi-3 с 14,1 млрд параметров и контекстом до 32 768 токенов. При инференсе рекомендуется ChatML-шаблон; для более сложных запросов авторы советуют выделять больше токенов на генерацию. Модель может ошибаться и не проходила оценку для всех прикладных сценариев, поэтому ответы следует проверять, особенно при использовании в задачах с высокими последствиями. Лицензия — MIT.

Карточка модели Openintelligent123/Phi-4-reasoning на Hugging Face совпадает с карточкой microsoft/Phi-4-reasoning, поэтому описание составлено по ней. Phi-4-reasoning — открытая по весам языковая модель Microsoft Research, дообученная на базе Phi-4 с помощью supervised fine-tuning на примерах цепочек рассуждений и обучения с подкреплением. Она предназначена для диалоговых генеративных приложений, где важны рассуждения и логика, а также ограничены вычислительные ресурсы или допустимая задержка. Основные области обучения и оценки — математика, наука и программирование; модель рассчитана прежде всего на английский язык. Модель использует плотный декодерный Transformer архитектуры Phi-3 с 14,1 млрд параметров и контекстом до 32 768 токенов. При инференсе рекомендуется ChatML-шаблон; для более сложных запросов авторы советуют выделять больше токенов на генерацию. Модель может ошибаться и не проходила оценку для всех прикладных сценариев, поэтому ответы следует проверять, особенно при использовании в задачах с высокими последствиями. Лицензия — MIT.

Phi-4-reasoning-plus — открытая по весам языковая модель Microsoft Research, дообученная на базе microsoft/phi-4 с помощью supervised fine-tuning на цепочках рассуждений и последующего обучения с подкреплением. Это плотный decoder-only Transformer семейства Phi-3 с 14,1 млрд параметров и контекстом до 32 768 токенов; модель принимает текст и генерирует текст в диалоговом формате. Модель предназначена прежде всего для рассуждений и решения задач по математике, науке и программированию, а также для использования в генеративных ИИ-приложениях с ограничениями по памяти и вычислениям. Основной язык — английский. Обучение с подкреплением повышает точность, но в среднем модель генерирует примерно на 50% больше токенов, что увеличивает задержку. Microsoft предупреждает, что модель специально разработана и оценивалась для математических рассуждений, поэтому для других применений нужно отдельно проверять точность, безопасность и справедливость ответов. Модель распространяется по лицензии MIT.

Карточка модели Openintelligent123/Phi-4-reasoning-plus на Hugging Face совпадает с карточкой microsoft/Phi-4-reasoning-plus, поэтому описание составлено по ней. Phi-4-reasoning-plus — открытая по весам языковая модель Microsoft Research, дообученная на базе microsoft/phi-4 с помощью supervised fine-tuning на цепочках рассуждений и последующего обучения с подкреплением. Это плотный decoder-only Transformer семейства Phi-3 с 14,1 млрд параметров и контекстом до 32 768 токенов; модель принимает текст и генерирует текст в диалоговом формате. Модель предназначена прежде всего для рассуждений и решения задач по математике, науке и программированию, а также для использования в генеративных ИИ-приложениях с ограничениями по памяти и вычислениям. Основной язык — английский. Обучение с подкреплением повышает точность, но в среднем модель генерирует примерно на 50% больше токенов, что увеличивает задержку. Microsoft предупреждает, что модель специально разработана и оценивалась для математических рассуждений, поэтому для других применений нужно отдельно проверять точность, безопасность и справедливость ответов. Модель распространяется по лицензии MIT.

unsloth/Phi-4-reasoning-plus-GGUF — GGUF-версия модели Phi-4-reasoning-plus, разработанной Microsoft Research и подготовленной для распространения Unsloth. Это открытая по весам текстовая модель генерации для диалогов и задач, требующих рассуждений, прежде всего математики, естественных наук и программирования. Модель дообучалась методом supervised fine-tuning на синтетических и отфильтрованных общедоступных данных, а также с применением reinforcement learning. В основе лежит плотная decoder-only Transformer-архитектура с 14 млрд параметров и контекстом до 32 тыс. токенов. Модель принимает текстовые запросы, предпочтительно в формате чата, и генерирует текстовые ответы на английском языке. Ответы состоят из блока цепочки рассуждений и последующего блока суммаризации. Версия GGUF предназначена для запуска в совместимых инструментах, включая llama.cpp; для включения режима рассуждений в llama.cpp требуется параметр --jinja. Сильной стороной модели является повышенная точность благодаря дополнительному reinforcement learning и специализации на сложных задачах рассуждения, математике, науке и коде. Ограничением служит более высокая задержка: модель в среднем генерирует примерно на 50% больше токенов. README не содержит отдельной информации о специфических ограничениях качества или требованиях к аппаратным ресурсам именно этой GGUF-квантизации. Указанная лицензия — MIT.

LearningOpt/pie-hq-selfplay-7b — языковая модель на архитектуре Llama, дообученная на данных HQ и данных, дополненных методом self-play, для оптимизации программ на C++. Разработчик — LearningOpt. Модель предназначена для генерации и улучшения C++ кода; README отсылает за подробностями сбора данных и обучения к веб-странице. Модель содержит 6,6 млрд параметров, принимает текст и имеет контекст длиной до 16 384 токенов. Репозиторий содержит веса в формате safetensors; лицензия указана как llama2. Карточка не сообщает результатов оценки качества или конкретных ограничений применения.

Pink Elephant 48B-S GGUF — языковая модель для генерации текста, разработанная Pink Elephant Limited. Это локально запускаемая версия модели, преобразованная в формат GGUF и предназначенная для работы через Ollama и llama.cpp на потребительском оборудовании. Модель построена как разреженная Mixture-of-Experts архитектура с 47,7 млрд параметров, из которых на каждом токене активируется около 14,66 млрд. Используется 8 экспертов с маршрутизацией top-2, что, согласно README, обеспечивает примерно в 3,2 раза меньше вычислений по сравнению с плотной моделью аналогичного размера. Модель происходит от плотной 14B основы, дообученной на примерах программирования и математики, а затем прошла SFT и DPO-выравнивание. Указаны английский язык и контекст до 16 384 токенов. Доступна квантизованная версия Q4_K_M размером около 8,3 ГБ. Модель ориентирована на генерацию текста, помощь в программировании, математические задачи и локальное развертывание на одной потребительской видеокарте. Среди заявленных результатов — 68,5% на GSM8K и 60,0% на MMLU в конфигурации bf16; эти показатели получены разработчиками на одной NVIDIA RTX PRO 6000 Blackwell и могут зависеть от настроек запуска. К сильным сторонам относятся сочетание большой общей емкости, разреженных вычислений, локального использования и выравнивания SFT+DPO. Ограничения включают зависимость качества и скорости от аппаратного обеспечения, квантизации и корректного шаблона ChatML, а также отсутствие в README сведений о мультимодальности и поддержке других языков. Модель распространяется по лицензии MIT, допускающей коммерческое и исследовательское использование.

QuasarLM — открытая плотная языковая модель семейства Llama от Northwind AI Research для генерации текста и работы в роли чат-ассистента. Разработчики сообщают о дообучении с обновлённой смесью инструкций, расширенной программой проверяемых задач с вознаграждением и улучшенной поддержкой вызова инструментов. Модель предназначена для математических задач, программирования, логических рассуждений и диалогов общего назначения. В карточке приведены результаты внутренних сравнений, включая точность 81,2% на AIME 2026, а также заявлены снижение галлюцинаций и более длинные цепочки рассуждений. Репозиторий содержит веса PyTorch, модель загружается через Transformers. Лицензия — Apache-2.0. Указанные в README длинные рассуждения могут повышать расход токенов; бенчмарки и сравнительные заявления приведены разработчиками и не подтверждают качество на всех пользовательских сценариях.

Agnuxo/Qwen2-1.5B-Instruct_MOE_CODE_assistant-GGUF_16bit — локальная чат-модель для генерации и помощи с программным кодом, опубликованная независимым исследователем Francisco Angulo de Lafuente. Это конверсия Qwen2-1.5B-Instruct в формат GGUF с точностью F16; в карточке заявлено 1,5 млрд параметров. Модель предназначена для работы через Ollama или Transformers и ориентирована на написание кода на Python, JavaScript, TypeScript, Rust, Go и C++, а также на задачи научных вычислений и машинного обучения. Модель принимает текст и генерирует текст; метаданные указывают архитектуру Qwen2, чат-возможности и английский и испанский языки карточки. README также заявляет навыки координации агентов и интеграции MCP и A2A. Репозиторий распространяется под лицензией Apache-2.0. Заявления README о наградах и результатах связанных проектов не подтверждают качество этой модели и не использованы как гарантии её возможностей.

unsloth/Qwen2.5-1.5B-unsloth-bnb-4bit — 4-битно квантованная версия базовой языковой модели Qwen2.5-1.5B, подготовленная Unsloth на основе Qwen/Qwen2.5-1.5B. Модель предназначена для генерации и продолжения текста, программирования, математических задач, обработки структурированных данных и последующего дообучения. Это текстовая, авторегрессионная causal language model без заявленной поддержки изображений или других модальностей. Ключевая особенность варианта — формат Unsloth Dynamic 4-bit Quant, который избирательно применяет квантование для снижения требований к памяти при сохранении качества по сравнению со стандартными 4-битными вариантами. Семейство Qwen2.5 поддерживает контекст до 128K токенов и генерацию до 8K токенов, а также более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Точные архитектурные параметры именно версии 1.5B в представленном README не указаны; приведённый там блок с характеристиками 0.5B относится к другой конфигурации. Модель выигрывает за счёт небольшого размера и сниженного потребления памяти, что делает её подходящей для локального запуска, экспериментов и эффективного fine-tuning. Как базовая, а не instruction-tuned модель, она не оптимизирована для диалогов без дополнительного дообучения и может требовать настройки шаблонов и параметров генерации. Лицензия — Apache-2.0.

QuantFactory/Qwen2.5-7B-GGUF — квантизированная в формате GGUF версия базовой языковой модели Qwen2.5-7B, созданной командой Qwen и подготовленной QuantFactory с использованием llama.cpp. Модель предназначена для генерации и обработки текста, программирования, математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Это базовая модель после этапа предварительного обучения, поэтому разработчики не рекомендуют использовать её для диалогов без дополнительного дообучения, например SFT, RLHF или продолжительного предварительного обучения. Модель является авторегрессионной causal language model на архитектуре Transformer с RoPE, SwiGLU, RMSNorm и смещениями в QKV-проекциях внимания. Она содержит 7,61 млрд параметров, из которых 6,53 млрд не относятся к embedding-слою, имеет 28 слоёв и Grouped-Query Attention с 28 головами для Q и 4 для KV. Максимальная длина контекста составляет 131 072 токена, поддерживается генерация длинных текстов до 8K токенов. Qwen2.5 заявляет поддержку более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, арабский и другие. К сильным сторонам относятся улучшенные знания, возможности в программировании и математике, следование инструкциям, обработка длинного контекста, понимание таблиц и генерация структурированных данных. К ограничениям относятся базовый, а не instruction-tuned характер модели, отсутствие указанных в README подробностей о конкретном методе и разрядности квантизации, а также необходимость учитывать требования к памяти и производительности среды запуска. Модель распространяется по лицензии Apache-2.0.

ypszn/Qwen2.5-Coder-0.5B-Instruct-Gensyn-Swarm-dormant_omnivorous_walrus — компактная текстовая генеративная модель из семейства Qwen2.5-Coder, опубликованная на Hugging Face пользователем ypszn. По метаданным, она содержит около 494 млн параметров, работает через библиотеку Transformers и поддерживает контекст длиной до 32 768 токенов. Модель предназначена для инструкционного текстового вывода, включая сценарии, связанные с генерацией и обработкой программного кода.

QuantFactory/Qwen2.5-Coder-0.5B-Instruct-GGUF — квантованная версия инструкционно дообученной модели Qwen2.5-Coder-0.5B-Instruct, созданная QuantFactory на основе модели Qwen и преобразованная с использованием llama.cpp. Это причинная языковая модель для генерации текста и кода, предназначенная для помощи разработчикам в написании, анализе, исправлении и рассуждении о программном коде, а также для чат-сценариев и задач, связанных с code agents. Модель сохраняет общие способности в математике и работе с текстом. Архитектура построена на transformers с RoPE, SwiGLU, RMSNorm, смещениями в Attention QKV и связанными эмбеддингами слов. Модель содержит около 0,49 млрд параметров, из которых 0,36 млрд не являются эмбеддингами, 24 слоя и Grouped-Query Attention с 14 головами для Q и 2 для KV. Максимальная длина контекста составляет 32 768 токенов. В README явно указан английский язык; сведения о мультимодальности отсутствуют, поэтому модель следует рассматривать как текстовую. К сильным сторонам относятся специализация на программном коде, улучшенные возможности генерации, исправления и анализа кода, а также небольшой размер, удобный для локального запуска в квантованном формате. Ограничениями являются существенно меньший масштаб по сравнению с крупными моделями серии Qwen2.5-Coder и отсутствие в карточке подробных результатов оценки, требований к памяти и данных о производительности. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen2.5-Coder-1.5B-bnb-4bit — 4-битная версия базовой языковой модели Qwen2.5-Coder, разработанной командой Qwen. Модель предназначена прежде всего для генерации, анализа и исправления исходного кода, задач code completion и fill-in-the-middle, а также для построения кодовых агентов. Это базовая модель после предварительного обучения, поэтому она не рекомендуется для непосредственного использования в диалогах без дополнительного дообучения или постобучения. Модель относится к causal language models и использует архитектуру на базе transformers с RoPE, SwiGLU, RMSNorm, смещениями в QKV-слоях внимания и связанными эмбеддингами слов. Она содержит около 1,54 млрд параметров, включая 1,31 млрд параметров без учёта эмбеддингов, 28 слоёв и групповое запросное внимание с 12 головами Q и 2 головами KV. Заявлена поддержка контекста до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов; для более длинных входов требуется настройка YaRN. В README указан английский язык и библиотека Transformers. К сильным сторонам относятся компактный размер, сниженные требования к памяти благодаря 4-битному представлению и специализация на программном коде при сохранении математических и общих языковых способностей базовой серии Qwen2.5-Coder. Ограничения включают отсутствие instruction tuning, потенциально менее стабильное диалоговое поведение и возможное ухудшение производительности на коротких текстах при включении статического масштабирования YaRN. Модель распространяется по лицензии Apache-2.0.

ThomasBaruzier/Qwen2.5-Coder-1.5B-Instruct-GGUF — набор квантизированных версий инструкционной модели Qwen2.5-Coder-1.5B-Instruct, разработанной командой Qwen. Модель предназначена для генерации текста и решения задач, связанных с программным кодом, включая чатовые сценарии и работу с запросами на естественном языке. В карточке указана поддержка английского языка. Модель имеет около 1,5 млрд параметров и распространяется в формате GGUF для использования с llama.cpp. Доступны варианты квантизации от IQ1_S до Q5_K_M с размером файлов примерно от 416 МБ до 1,05 ГБ. Квантизация выполнена с использованием imatrix и калибровочного файла Bartowski; варианты различаются соотношением размера, perplexity и точности. Более компактные варианты требуют меньше памяти, но заметнее теряют качество, тогда как версии с более высокой разрядностью обеспечивают лучшие показатели. Ограничения карточки не описывают контекстное окно, полный набор языков, аппаратные требования и подробные результаты на прикладных тестах. Модель ориентирована на текстовую модальность и не предназначена для обработки изображений или других мультимедийных данных. Указана лицензия Apache-2.0.

QwOpus-4.6-Coder-3B — компактная языковая модель для генерации текста и программного кода, разработанная пользователем ryzdfm на базе Qwen2.5-Coder-3B-Instruct от команды Qwen. Модель дообучена методом supervised fine-tuning с LoRA на 3 209 примерах рассуждений, дистиллированных из наборов данных с траекториями Claude Opus и другими образцами пошагового reasoning. Она ориентирована на локальный запуск на потребительском оборудовании и поддерживает формирование структурированных рассуждений в тегах <think> перед итоговым ответом. Модель предназначена прежде всего для генерации и объяснения кода, решения алгоритмических, математических и логических задач, а также сценариев, где важны пошаговый анализ и проверка решения. Заявлены Python и JavaScript, однако полный перечень поддерживаемых языков не указан. Это текстовая autoregressive-модель с параметрами масштаба 3B и максимальной длиной последовательности 4096 токенов. Для запуска доступны варианты квантования Q4_K_M, Q3_K_M и Q8_0; версия Q4_K_M требует около 2,1 ГБ видеопамяти и, по данным README, обеспечивает примерно 88 токенов в секунду на RTX 3050 4GB. Сильные стороны модели — небольшой размер, высокая скорость, возможность приватного локального использования и выраженный стиль структурированного reasoning. Ограничения связаны с масштабом 3B: модель может испытывать трудности при генерации длинного многoфайлового кода и проектировании сложных систем; глубина рассуждений уступает более крупным моделям, а ответы могут содержать ошибки и требуют проверки. В метаданных указаны английский язык и лицензия Apache-2.0.

Qwen2.5-Coder-3B-Instruct-Q8_0-GGUF — языковая модель для генерации текста и работы с программным кодом, разработанная командой Qwen и представленная в формате GGUF сообществом ggml-org. Это конверсия базовой модели Qwen/Qwen2.5-Coder-3B-Instruct, выполненная с использованием llama.cpp и проекта GGUF-my-repo. Модель предназначена для генерации и продолжения кода, ответов в диалоговом формате и других сценариев, поддерживаемых исходной instruct-моделью. Она может запускаться локально через llama.cpp в режиме командной строки или как сервер. Размер модели составляет 3B параметров, а вариант Q8_0 использует 8-битное квантование. В метаданных указаны текстовая генерация и английский язык; сведения о других языках, контекстном окне и точной архитектуре в представленном README отсутствуют. Основные преимущества — локальный запуск, совместимость с llama.cpp и сниженные требования к памяти по сравнению с полноразмерной моделью благодаря квантованию. Ограничения включают небольшой по современным меркам размер и возможное снижение качества из-за квантования; подробные результаты тестирования и ограничения исходной модели в README не приведены. Модель распространяется по лицензии qwen-research; для точных условий следует обратиться к указанному файлу лицензии исходной модели.

Agnuxo представляет локальную инструктивную модель для генерации кода на базе семейства Qwen2. Модель содержит 7 млрд параметров и опубликована в формате GGUF F32; карточка заявляет поддержку Python и навыки работы с научными вычислениями и машинным обучением. Метаданные указывают на диалоговый режим, а языковые теги — на английский и испанский языки. Модель предназначена для генерации и объяснения кода, в том числе для задач с NumPy, SciPy, Pandas, PyTorch, TensorFlow и JAX. Также заявлены возможности координации агентных задач и интеграции MCP и A2A. Лицензия репозитория — Apache-2.0. Результаты выполнения кода и заявленные навыки в карточке не подтверждены оценками; перед использованием код следует проверять.

RootMonsteR/Qwen3-14B-Abliterated-GGUF — это квантизированная GGUF-версия модели RootMonsteR/Qwen3-14B-Abliterated, созданной на основе Qwen/Qwen3-14B. Модель разработана RootMonsteR с применением метода directional ablation из Heretic v1.3.0: заявленная цель — сохранить способности к рассуждению, программированию и tool-calling, одновременно существенно сократив количество автоматических отказов. По данным карточки, доля отказов снижена примерно с 99 до 10 из 100 тестов при KL-дивергенции 0,0333. Модель предназначена для локального текстового диалога, автономных агентов, вызова инструментов и функций, авторизованных исследований безопасности, защитных инструментов, CTF, обучения и изучения поведения моделей без отказов. Доступны варианты Q5_K_M размером около 10,5 ГБ и Q4_K_M размером около 9 ГБ; Q5_K_M рекомендуется для агентов и более надёжного формирования JSON, а Q4_K_M — при ограниченном объёме памяти. Поддерживаются llama.cpp, Ollama, LM Studio, Jan и KoboldCpp; заявлен контекст до 32 768 токенов. Указаны режимы рассуждения и без рассуждения, а также встроенный шаблон чата Qwen3. Сильными сторонами являются низкая стоимость локального запуска, сохранение исходных возможностей Qwen3-14B после квантизации, поддержка reasoning и tool-calling, а также сниженное количество рефлексивных отказов. Ограничения включают возможное ухудшение точности формата вызовов инструментов у Q4_K_M при агрессивных настройках генерации, более низкую скорость работы на CPU и необходимость использовать семплирование вместо жадного декодирования. Модель распространяется по лицензии Apache-2.0. Снижение отказов повышает требования к контролю применения: использование должно соответствовать законодательству, договорным обязательствам и согласованному объёму работ.

unsloth/Qwen3-14B-Base-unsloth-bnb-4bit — 4-битная версия базовой языковой модели Qwen3-14B-Base, подготовленная Unsloth с использованием квантования Unsloth Dynamic 2.0. Исходную модель разработала команда Qwen. Это причинная языковая модель на стадии предварительного обучения, предназначенная для генерации и продолжения текста, обработки естественного языка, программирования, STEM-задач, рассуждений и работы с многоязычными данными. Модель содержит 14,8 млрд параметров, из них 13,2 млрд без учёта embedding-слоёв, имеет 40 слоёв и использует Grouped Query Attention: 40 голов для запросов и 8 для ключей и значений. Максимальная длина контекста составляет 32 768 токенов. При обучении использовался корпус объёмом 36 трлн токенов на 119 языках, включавший языковые, кодовые, научно-технические, книжные, многоязычные и синтетические данные. Квантование до 4 бит снижает требования к памяти и может упростить локальный запуск, однако потенциально сопровождается потерей точности по сравнению с полной или менее агрессивной разрядностью. Это базовая, а не instruction-tuned модель, поэтому для диалоговых сценариев и выполнения инструкций может потребоваться дополнительная настройка или специально подобранный prompting. Для работы рекомендуется использовать актуальную версию transformers; версии ниже 4.51.0 не поддерживают архитектуру Qwen3. Модель распространяется по лицензии Apache-2.0.

Qwen3-1.5B-Instruct — компактная языковая модель на 1,5 млрд параметров, созданная сообществом с помощью mergekit. Это слияние методом TIES инструктивной модели Qwen2.5-1.5B-Instruct с Qwen2.5-Coder-1.5B-Instruct и Qwen2.5-Math-1.5B-Instruct. Модель использует архитектуру Qwen2 для генерации текста и диалогов; заявленный контекст — до 32 768 токенов. Модель подходит для ответов на вопросы, инструктивных диалогов, генерации кода и решения математических задач. Метаданные также отмечают интерфейс для вызова инструментов. Модель распространяется в формате Safetensors; README указывает, что при слиянии использовалась точность float16. Лицензия в предоставленных материалах не указана.

ShiningValiant3 — дообученная Valiant Labs модель Qwen3-1.7B для научных и общих рассуждений, проектирования систем ИИ, решения задач и диалогов. Она предназначена для исследователей и разработчиков, которым нужны ответы на научные вопросы, помощь в работе с современными технологиями ИИ, анализ и генерация идей, а также выполнение инструкций и написание кода. Модель имеет плотную архитектуру Qwen3ForCausalLM с 1,7 млрд параметров, принимает текст и генерирует текст. Контекст — до 40 960 токенов. В карточке заявлены дообучение на научных данных рассуждений, созданных с помощью DeepSeek R1 0528, и улучшения в общих и творческих рассуждениях. README рекомендует включать режим рассуждений для диалогов. Модель рассчитана на локальный запуск на настольных компьютерах и мобильных устройствах, а также на быстрый серверный инференс. Лицензия — Apache-2.0. Карточка указывает английский язык; многоязычные возможности базовой Qwen3 не означают, что для этой доработки подтверждён основной язык помимо английского. Качество отдельных ответов и фактическая точность могут зависеть от запроса; численные оценки в карточке не приведены.

NVIDIA Qwen3-30B-A3B-NVFP4 — это квантизированная версия авторегрессионной языковой модели Qwen3-30B-A3B, разработанной Alibaba и подготовленной с использованием NVIDIA TensorRT Model Optimizer версии 0.31.0. Модель предназначена для генерации текста и ориентирована на разработчиков, создающих AI-агентов, чат-ботов, RAG-системы и другие приложения на основе искусственного интеллекта. Модель использует трансформерную архитектуру Qwen3-30B-A3B, принимает текстовые последовательности и возвращает текст. Поддерживается контекст длиной до 131K токенов. Веса и активации линейных операторов внутри трансформерных блоков квантизированы в FP4, что примерно в 3,3 раза сокращает требования к дисковому пространству и памяти GPU по сравнению с 16-битным представлением. Модель рассчитана на запуск через TensorRT-LLM на GPU NVIDIA, включая архитектуру Blackwell, предпочтительно в Linux. К сильным сторонам относятся уменьшенные требования к памяти и готовность к высокопроизводительному инференсу на совместимом оборудовании. Ограничения включают зависимость от TensorRT-LLM и NVIDIA GPU, а также возможное снижение точности из-за квантизации; конкретные языковые возможности и результаты для отдельных языков в README не указаны. В README приведены результаты на MMLU Pro, GPQA Diamond, HLE, LiveCodeBench, SciCode, MATH-500 и AIME 2024, а для калибровки использован датасет CNN/DailyMail. Модель доступна для коммерческого и некоммерческого использования по лицензии Apache 2.0.

NVFP4/Qwen3-30B-A3B-Thinking-2507-FP4 — квантизированная FP4-версия модели Qwen3-30B-A3B-Thinking-2507, разработанной командой Qwen. Модель относится к классу авторегрессионных языковых моделей и предназначена для генерации текста с акцентом на углублённое рассуждение. Модель подходит для сложных задач логического рассуждения, математики, науки, программирования, следования инструкциям, использования инструментов, генерации текста и агентских сценариев. Заявлена улучшенная работа с длинным контекстом, включая контекст длиной до 262 144 токенов, а также поддержка многоязычных задач. Модель работает только в режиме рассуждения; увеличенная длина рассуждений особенно рекомендуется для сложных запросов. Архитектура — causal language model на основе MoE: 30,5 млрд параметров всего, из которых активируется около 3,3 млрд; 48 слоёв, 128 экспертов и 8 активируемых экспертов, используется GQA с 32 головами Q и 4 головами KV. Квантизация FP4 может снизить требования к памяти и упростить развёртывание, однако точные требования к аппаратуре и влияние квантизации на качество в README не указаны. Ограничением является отсутствие режима без рассуждений и потенциально высокая длина генерируемого вывода. Модель распространяется по лицензии Apache 2.0.

Qwen3-4B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на стадии предварительного обучения, предназначенная для дальнейшей адаптации и генерации текста. В карточке указаны 4,0 млрд параметров, 36 слоёв, групповое внимание с 32 головами Q и 8 головами KV и контекст до 32 768 токенов; метаданные каталога оценивают размер весов в 3,7 млрд параметров. Модель обучена на многоязычном корпусе; README сообщает о 119 языках в обучающих данных, но не перечисляет поддержку каждого из них. Среди заявленных направлений обучения — общие знания, программирование, STEM, рассуждения и понимание длинного контекста. Для запуска рекомендуется актуальная версия Transformers: версии ниже 4.51.0 могут не распознавать архитектуру Qwen3. Лицензия — Apache-2.0.

Qwen3-4B-MDOPSA — плотная языковая модель на 3,7 млрд параметров, созданная Tuwhy на основе Qwen/Qwen3-4B. Это многодоменный чекпойнт, дообученный методом On-Policy Self-Adaptation (OPSA) с акцентом на математику и программирование. Модель предназначена для диалогов, генерации текста и кода, а также решения математических задач; заявленный контекст составляет 40 960 токенов. Модель поставляется в формате BF16 Safetensors для Transformers и использует лицензию Apache 2.0, как и базовая модель. Карточка указывает чекпойнт на шаге 319 (320 обновлений оптимизатора). Данных о сравнительных результатах или конкретных ограничениях качества в карточке нет.