II.2Создание и понимание программного кода
В разделе собраны самостоятельные задачи, где AI помогает писать, объяснять и связывать программный код с требованиями и существующей системой. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
21 443 моделиGLM-4.7-Flash-MXFP4-MOE-GGUF — квантизированная версия языковой модели GLM-4.7-Flash от Zhipu AI, опубликованная в формате GGUF. Это модель Mixture-of-Experts на архитектуре DeepSeek2 с Multi-head Latent Attention: около 30 млрд параметров всего, из которых примерно 3,2 млрд активируются на токен; используются 64 маршрутизируемых эксперта и один общий. В README указан контекст до 200 000 токенов. Модель предназначена для генерации текста и диалогов, включая рассуждения и программирование. Она поддерживает английский и китайский языки; режим рассуждений включён по умолчанию. В квантизации MXFP4 веса экспертов представлены в 4-битном формате, а остальные тензоры — в Q8_0; файл весов занимает 15,8 ГБ. README указывает на запуск через llama.cpp на GPU или CPU. Квантизация рассчитана на более эффективный вывод при небольшом снижении качества относительно исходной модели. Репозиторий распространяется по лицензии MIT.
GLM-4.7-Flash-RAZOR-17B-A3B-E32of64 — сжатая методом RAZOR версия диалоговой MoE-модели GLM-4.7-Flash, опубликованная Nickyang. В каждом MoE-слое оставлено 32 из 64 маршрутизируемых экспертов; отбор выполнен без градиентных обновлений и дополнительного обучения. По README, число хранимых параметров составляет 17,025 млрд, включая MTP, а параметры внимания, общего эксперта, эмбеддингов, LM-головы и оставшихся строк роутера не затронуты. Метаданные каталога указывают 4,1 млрд параметров и контекст 202 752 токена. Модель предназначена для диалоговой генерации текста, рассуждений и программирования с длинным контекстом. Для запуска требуется сборка Transformers с реализацией glm4_moe_lite; веса опубликованы в формате safetensors и хранятся в bfloat16. Лицензия — MIT. Удаление экспертов является потерей информации: ответы могут отличаться по разнообразию, форматированию и поведению при завершении, даже если точность на отдельных задачах в основном сохраняется. Качество на областях, далёких от конечного калибровочного корпуса, не охарактеризовано; перед применением модель следует оценить на целевой нагрузке.
GLM-5.1-FP8 — квантованная в формате FP8 версия языковой модели GLM-5.1, разработанной командой Z.ai. Модель предназначена для генерации текста и ориентирована прежде всего на агентные инженерные задачи, включая программирование, создание репозиториев по естественно-языковому описанию, работу с терминалом и длительные многошаговые сессии с использованием инструментов. Заявлена поддержка английского и китайского языков; модель подключается через библиотеку Transformers и относится к задачам text generation. Ключевая сильная сторона GLM-5.1 — работа над сложными задачами на протяжении сотен итераций и тысяч вызовов инструментов: модель умеет декомпозировать неоднозначные проблемы, проводить эксперименты, анализировать результаты, находить блокирующие факторы и пересматривать стратегию. В README приведены высокие результаты на SWE-Bench Pro, NL2Repo, Terminal-Bench 2.0, CyberGym и BrowseComp. При этом размер модели, базовая архитектура, длина контекста, точные характеристики FP8-квантизации и поддерживаемые модальности не указаны. Ограничения также связаны с тем, что приведённые показатели зависят от используемых инструментов и условий тестирования, а таблица бенчмарков в представленном README обрывается. Модель распространяется по лицензии MIT. README также указывает на доступность API-сервисов GLM-5.1 на платформе Z.ai, однако конкретные требования к аппаратному обеспечению и инструкции по локальному запуску для этой версии не приведены.
mlx-community/GLM-5.1-MXFP4-Q8 — MLX-квантизированная версия текстовой генеративной модели GLM-5.1, разработанной Z.ai (zai-org) и опубликованной в формате MLX сообществом mlx-community. Базовая модель предназначена прежде всего для агентной разработки программного обеспечения, генерации и анализа кода, длительных рассуждений, работы с терминалом и использования инструментов. Она поддерживает текстовый ввод и вывод; сведения о поддержке изображений или аудио для этой версии не указаны. По опубликованным конфигурациям GLM-5.1 относится к архитектуре glm_moe_dsa и использует decoder-only causal language model с Mixture-of-Experts: 78 слоёв, 256 маршрутизируемых экспертов и 8 активных экспертов на токен. Размер модели составляет примерно 744 млрд параметров, максимальная позиционная длина указана как 202 752 токена. Версия MXFP4-Q8 предназначена для запуска через MLX и использует 4-битное MXFP4-квантизирование с отдельными компонентами в 8-битном представлении; это существенно уменьшает объём хранения по сравнению с полной версией, но модель всё равно требует очень значительных аппаратных ресурсов. Сильные стороны модели — ориентация на сложные программные и агентные задачи, большой контекст и возможность локального запуска в MLX-совместимой среде. Ограничения включают крайне большой размер, высокие требования к памяти и потенциально низкую производительность на неподходящей или распределённой конфигурации оборудования; официальная карточка именно этой производной версии практически не содержит описания и результатов оценки. Для базовой GLM-5.1 указана лицензия MIT, но для репозитория mlx-community/GLM-5.1-MXFP4-Q8 отдельные лицензионные условия не указаны, поэтому их следует проверить перед коммерческим использованием.
Карточка модели AmanNagtode/GLM-5.2 на Hugging Face совпадает с карточкой Ares-Realm-Studios/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — большая языковая модель от Ares-Realm-Studios для продолжительных задач, диалогов и программирования. Она построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров; модель принимает и генерирует текст, поддерживает контекст до 1 048 576 токенов и рассчитана прежде всего на английский и китайский языки. Модель предназначена для многошаговой работы с длинным контекстом, включая анализ материалов и разработку программного кода. В README заявлены гибкие уровни усилий рассуждения и оптимизации для обработки контекста в миллион токенов; для локального запуска перечислены Transformers, vLLM, SGLang и другие среды. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии MIT. Заявленные возможности и результаты приведены авторами; практическое качество может зависеть от сценария и настроек запуска.
GLM-5.2-NVFP4 — квантизированная версия языковой модели GLM-5.2 от zai-org, опубликованная lukealonso. Модель предназначена для генерации текста, диалоговых сценариев, программирования, многошагового агентного взаимодействия, вызова инструментов и function calling. Она поддерживает английский и китайский языки и работает через библиотеку Transformers. В основе лежит Mixture-of-Experts-модель с 744 млрд параметров, из которых 40 млрд активируются для каждого токена. В каждом MoE-слое используются 256 экспертов, восемь из которых выбираются для обработки токена; также применяется архитектура DeepSeek Sparse Attention (DSA). Неквантизированная часть модели включает attention-веса, плотные MLP-слои и общие эксперты в формате BF16. MLP-проекции необщих MoE-экспертов квантизированы в NVFP4 — 4-битный формат с блочными FP8-масштабами для групп по 16 элементов. Ключевое преимущество модели — существенное снижение требований к памяти при сохранении специализированных экспертных весов и калибровке по естественной маршрутизации токенов. Калибровочные данные включали программирование, вызов инструментов, реальные пользовательские диалоги на разных языках и длинные последовательности свыше 8 тысяч токенов. Ограничения — необходимость мощной инфраструктуры: рекомендована конфигурация из восьми RTX PRO 6000 Blackwell по 96 ГБ с b12x MoE runner. Лицензия MIT.
GLM-5.3-Flash — разработанная Z.ai мультимодальная модель семейства GLM-5 для диалогов, анализа изображений, программирования и агентных сценариев. Это новая модель с гибридной архитектурой, сочетающей разреженное и линейное внимание; в README указаны 320 млрд общих параметров и 18 млрд активных параметров. Репозиторий содержит веса в формате safetensors FP8, а метаданные указывают библиотеку Transformers и лицензию MIT. Модель предназначена для ответов на вопросы по тексту и изображениям, помощи с кодом и выполнения многошаговых задач с инструментами. В README описано управление бюджетом рассуждений через reasoning_effort; также заявлены улучшения эффективности и работы с длинным контекстом. Указанные в карточке результаты контекстных оценок не подтверждают максимальную длину контекста для всех способов запуска. Языковые метаданные карточки перечисляют английский и китайский; независимых сведений о качестве на других языках нет.
GLM-5.3-Flash-GGUF — это GGUF-версия модели GLM-5.3-Flash, разработанной командой GLM-5 компании Z.ai; представленный репозиторий основан на модели zai-org/GLM-5.3-Flash и подготовлен с использованием методов Unsloth Dynamic 3.0. Модель предназначена для генерации текста, программирования, агентских сценариев и задач, требующих работы с длинным контекстом. Она поддерживает английский и китайский языки и относится к мультимодальным моделям, однако README не уточняет полный набор поддерживаемых модальностей и особенности их использования именно в данной GGUF-сборке. Архитектура сочетает разреженное и линейное внимание, а также использует Manifold-Constrained Hyper-Connections. Модель содержит 320 млрд параметров, из которых 18 млрд активируются при обработке запроса. Обучение проводилось на мультимодальном корпусе объёмом 30 трлн токенов. Заявлены повышенная эффективность, снижение стоимости обработки длинного контекста и сильные результаты в задачах программирования и использования инструментов; в README также указано контекстное окно до 300 000 токенов в отдельных оценках и до 1 млн токенов в NL2Repo. К ограничениям относятся высокие требования к ресурсам исходной модели, возможные потери качества из-за квантования и необходимость совместимого программного обеспечения: для запуска рекомендуется использовать llama.cpp с указанными изменениями или Unsloth Desktop. Конкретный формат квантования и требования к оперативной памяти в README не указаны. Модель распространяется по лицензии MIT.
NVIDIA GLM-5.3-Flash NVFP4 — квантизированная версия модели GLM-5.3-Flash, разработанной ZAI и подготовленной NVIDIA с использованием Model Optimizer. Это авторегрессионная мультимодальная модель на базе оптимизированной Transformer-архитектуры с Mixture-of-Experts (MoE), гибридным механизмом разреженного и линейного внимания и Manifold-Constrained Hyper-Connections (mHC). Общее число параметров составляет 320 млрд, из них активируется 18 млрд. Модель предназначена для рассуждений, программирования и агентных задач, а также для чат-ботов, RAG-систем и других приложений на базе ИИ. Она принимает текст, изображения и видео, включая RGB-изображения и видео в форматах MP4/WebM, и генерирует текст. Заявлена поддержка контекста длиной до 1 млн токенов, однако сведения о поддерживаемых языках отсутствуют. Модель оптимизирована для инференса на GPU NVIDIA, в частности на архитектуре Blackwell, и поддерживает запуск через vLLM и SGLang в Linux. Квантизация весов и активаций в формат NVFP4 уменьшает вычислительные требования по сравнению с полной версией, но README не содержит количественных оценок качества, скорости или потребления памяти. Данные обучения не раскрыты; для калибровки использовались CNN/Daily Mail и Nemotron-Post-Training-Dataset-v2. Модель распространяется по лицензии MIT и разрешена для коммерческого и некоммерческого использования.
GLM-5.3-Flash-TQ3_4S — текстовая GGUF-квантизация модели zai-org/GLM-5.3-Flash, подготовленная автором репозитория для запуска через llama.cpp с поддержкой TurboQuant. Используется архитектура Mixture of Experts: активны 8 из 288 маршрутизируемых экспертов на токен. Формат TQ3_4S имеет номинальную точность около 4 бит на вес; маршрутизируемые эксперты хранятся в 2-битном формате, внимание и общие эксперты — в 6-битном, а нормализации и смещения — в FP32. Веса занимают около 101,6 ГиБ и распределены по четырём GGUF-файлам. Модель предназначена для диалоговой генерации текста, программирования и вызова инструментов. Сохранённая MTP (NextN) голова позволяет использовать спекулятивное декодирование без отдельной черновой модели. README приводит результаты тестов на NVIDIA GB10/DGX Spark и рекомендует контекст 40 960 токенов в поставляемой конфигурации; заявлена проверенная работа до 512 тыс. токенов на этом оборудовании. Поддерживаются английский и китайский языки. Эта сборка не содержит vision tower, поэтому не принимает изображения, хотя базовая модель поддерживает обработку изображений. Для работы необходима публичная ветка TurboQuant runtime: основной llama.cpp не поддерживает тип тензора TQ3_4S. README отмечает необходимость пользовательского шаблона чата. Квантизация сокращает размер весов, но её влияние на качество может зависеть от задачи и оборудования; приведённые оценки получены на одной конфигурации и не гарантируют аналогичных результатов в других условиях. Лицензия — MIT.
云碩科技(xCloudinfo)制作的 gpt-oss-120b 衍生模型,基于 openai/gpt-oss-120b,并以 GGUF 格式发布。 Это MoE-модель с 117 млрд параметров, из которых активно используются 5,1 млрд; в карточке указаны 128 экспертов и формат MXFP4. Модель сохраняет формат рассуждений Harmony и рассчитана на генерацию текста в режиме диалога. Модель прошла двухэтапную донастройку: обучение на программных инструкциях с отбором решений, прошедших выполнение скрытых тестов, и дополнительное обучение для снижения отказов на разрешенные технические запросы. Разработчик ориентирует её на авторизованные исследования безопасности, red teaming, тестирование на проникновение, программирование и технические вопросы; запуск возможен через llama.cpp и другие совместимые с GGUF средства. Модель предназначена для опытного использования в контролируемых развертываниях. Снижение числа отказов не гарантирует точность или безопасность ответов; разработчик рекомендует самостоятельно проверять результаты и применять защитные меры. Для базовой модели указана лицензия Apache-2.0.
unsloth/gpt-oss-20b-bnb-4bit — 4-битная версия модели gpt-oss-20b, опубликованная Unsloth и основанная на открытой модели OpenAI. Она предназначена для генерации текста, локального и специализированного использования, сценариев с пониженной задержкой, рассуждений и агентских задач. Модель поддерживает вызов функций, веб-браузинг, выполнение кода на Python и структурированные ответы. gpt-oss-20b — разреженная MoE-модель с 21 млрд параметров, из которых при обработке активны 3,6 млрд. Она обучена в формате ответов harmony и должна использоваться с ним. Доступна настройка интенсивности рассуждений — низкая, средняя или высокая. Модель поддерживает дообучение, а 4-битное представление снижает требования к памяти; исходная модель рассчитана на работу в пределах 16 ГБ памяти. В README не указаны языки и размер контекстного окна. Полный процесс рассуждений доступен для отладки и повышения прозрачности, но не предназначен для показа конечным пользователям. Лицензия Apache 2.0 разрешает использование, модификацию и коммерческое развертывание без требований copyleft. Ограничения связаны с необходимостью корректно применять формат harmony и с тем, что README не содержит подробной оценки качества, перечня поддерживаемых языков или гарантий безопасности.
FastFlowLM/GPT-OSS-20B-NPU2 — текстовая генеративная модель на базе openai/gpt-oss-20b, разработанной OpenAI. Она предназначена для задач рассуждения, универсальной генерации текста, локального и специализированного применения, а также агентских сценариев для разработчиков, включая вызов функций, веб-б browsing, выполнение Python-кода и Structured Outputs. Модель относится к серии open-weight gpt-oss-20b: заявлено 21 млрд параметров, из которых 3,6 млрд активны при инференсе. Используется архитектура MoE с постобучением весов в формате MXFP4; модель рассчитана на работу примерно в пределах 16 ГБ памяти. Поддерживается настраиваемый уровень рассуждения — low, medium или high, а также дообучение. Формат входа и ответа должен соответствовать harmony response format, иначе модель может работать некорректно. README не содержит подтвержденных сведений о языках, размере контекста и мультимодальных возможностях; по указанному pipeline_tag модель предназначена для генерации текста. Сильными сторонами являются относительно низкие требования к памяти, возможность локального запуска, настраиваемый баланс качества рассуждений и задержки, а также пригодность для кастомизации и агентских приложений. К ограничениям относятся обязательное использование harmony response format и то, что цепочку рассуждений не рекомендуется показывать конечным пользователям. Модель распространяется по лицензии Apache 2.0, допускающей свободное использование, модификацию и коммерческое развертывание.
Mungert/granite-3b-code-instruct-2k-GGUF — это GGUF-версия инструкционно дообученной языковой модели Granite-3B-Code, разработанной на базе IBM Granite. Модель предназначена для генерации текста и ориентирована прежде всего на задачи программирования: создание, объяснение и исправление кода, работу с инструкциями, математическими задачами, SQL и вызовами функций. Контекст модели составляет 2K токенов, размер — около 3 миллиардов параметров, модальность — текстовая. Модель обучалась с использованием наборов данных для программирования, математических рассуждений, инструкций, SQL, диалогов с кодовым ассистентом и оценки полезности ответов. В бенчмарке HumanEvalPack она тестировалась для Python, JavaScript, Java, Go, C++ и Rust; заявленные результаты pass@1 зависят от типа задачи и языка. Например, для синтеза кода показатель составляет 51,2% для Python и 43,9% для JavaScript, а для исправления кода — 33,5% для Java и 31,7% для C++. Файлы созданы с помощью llama.cpp и распространяются в формате GGUF, что позволяет запускать модель в совместимых локальных инструментах. Автор также применял выборочное повышение точности отдельных слоёв при квантовании, чтобы улучшить сохранение качества на низких битностях, хотя это увеличивает размер файла. Ограничениями являются небольшой контекст, специализация на текстовых задачах и вариативное качество между языками и сценариями; приведённые результаты помечены как непроверенные. Лицензия — Apache 2.0.
GRaPE 2 Flash — мультимодальная модель семейства GRaPE, разработанная под брендом SLAI (Skinnertopia Lab for Artificial Intelligence). Это дообученная версия Qwen3-VL-8B-Thinking с архитектурой Qwen3-VL; в карточке указано около 9 млрд параметров. Модель принимает изображения и текст и формирует текстовые ответы. Она рассчитана на развертывание на потребительском оборудовании и предлагает режимы управления глубиной рассуждений. Основные сценарии — программирование, задачи по науке, технике, инженерии, искусству и математике, логические рассуждения и структурированное решение задач, в том числе с визуальными данными. Доступные языковые метки охватывают английский, китайский, французский, немецкий, испанский, японский, корейский, португальский, русский и арабский. Обучающие данные закрыты; в карточке нет результатов бенчмарков, поэтому качество на конкретных задачах следует проверять отдельно. Модель выпущена по лицензии Apache 2.0.
GraphCodeBERT — предварительно обученная модель на архитектуре Transformer для работы с программным кодом, опубликованная Microsoft. В отличие от моделей, учитывающих только последовательность токенов, она использует также информацию о потоке данных в коде. Модель имеет 12 слоёв, размер скрытого состояния 768 и 12 голов внимания; в метаданных указано 151,8 млн параметров и контекст до 514 токенов. Модель обучена на наборе CodeSearchNet, содержащем 2,3 млн функций с парами «код — документация» на шести языках программирования. В Hugging Face она представлена как masked language model для задачи fill-mask и доступна в форматах PyTorch, TensorFlow и Flax. Она подходит как предварительно обученная основа для задач понимания и анализа кода; карточка не описывает конкретные гарантии качества или ограничения применимости. Лицензия в предоставленных данных не указана.
Hercules-Qwen1.5-14B — разговорная языковая модель, разработанная M4-ai и дообученная на 700 тысячах примеров Hercules-v4 от Qwen1.5-14B. Она предназначена для работы в роли универсального ассистента: отвечает на вопросы, помогает с математикой и программированием, поддерживает вызов функций и ролевые диалоги. Архитектура — плотная Qwen2ForCausalLM с 13,4 млрд параметров; модель рассчитана на контекст до 32 768 токенов и распространяется в формате safetensors. В карточке заявлена поддержка английского и, возможно, китайского языков. Обучение проводилось в bf16 с длиной последовательности 1024; оценка качества в карточке не приведена. Лицензия указана как tongyi-qianwen license, а метаданные классифицируют лицензию как other. Разработчик предупреждает о рисках, смещениях и ограничениях модели.
lunahr/Hermes-3-Llama-3.2-3B-abliterated — это изменённая версия Hermes 3 3B, диалоговой языковой модели Nous Research на архитектуре Llama с 3,2 млрд параметров. В основе лежит NousResearch/Hermes-3-Llama-3.2-3B, дообученная на базе Llama-3.2 3B; этот вариант описан как abliterated. Модель использует формат диалога ChatML и рассчитана на контекст до 131 072 токенов. Модель предназначена для многоходового общения и следования инструкциям, а также для генерации кода, ролевых диалогов, структурированных JSON-ответов и вызова функций. Метаданные указывают поддержку английского языка; модель работает с текстом на входе и генерирует текст. В README для Hermes 3 заявлены улучшения в рассуждениях, согласовании с запросами пользователя, связности на длинном контексте и агентных сценариях. При работе с вызовом функций нужно учитывать описанное автором отклонение в формате: ответы инструмента передаются в роли user, что требует адаптации кода интеграции. Модель распространяется по лицензии Llama 3.
Hermes-4.3-36B-GGUF — языковая модель для генерации текста, разработанная Nous Research на основе ByteDance-Seed/Seed-OSS-36B-Base. Она предназначена для диалогов, рассуждений, решения математических и логических задач, программирования, STEM-сценариев, творческого письма, ролевого общения, вызова функций и работы со структурированными ответами. Модель имеет размер 36 млрд параметров и поддерживает гибридный режим с рассуждением: при необходимости она формирует сегменты <think>...</think>, а также может работать без явного рассуждения. В обучении использовался посттренировочный корпус примерно из 5 млн примеров и 60 млрд токенов. Hermes 4.3 ориентирована на соблюдение схем JSON, исправление некорректных структурированных объектов, управляемость и широкий спектр форматов вывода. В README заявлен английский язык; размер контекстного окна и полный перечень поддерживаемых языков не указаны. К сильным сторонам относятся улучшенные результаты в математике, коде, логике, STEM и следовании инструкциям, а также поддержка function calling, tool use и structured outputs. Ограничения модели включают отсутствие в представленном README сведений о конкретной GGUF-квантизации, требованиях к оборудованию и размере контекста. Результаты на SimpleQA заметно ниже других приведённых показателей, поэтому фактические ответы следует проверять. Модель распространяется по лицензии Apache-2.0.
salamanderDixon/Hermes-4.3-36B-heretic — англоязычная чат-модель Salamander Dixon, полученная с помощью abliteration (Heretic v1.4.0) на основе NousResearch/Hermes-4.3-36B; в метаданных базовой моделью указана ByteDance-Seed/Seed-OSS-36B-Base. Это плотная авторегрессионная модель семейства Seed-OSS с 31,7 млрд параметров, предназначенная для генерации текста и следования инструкциям. Поддерживает гибридный режим рассуждений, работу с инструментами и вызовами функций, а также структурированный вывод, включая JSON. Заявленная длина контекста — 524 288 токенов. Модель подходит для диалогов, решения задач по математике, коду и STEM, рассуждений, творческого письма и генерации ответов в заданном формате. README сообщает о снижении частоты отказов после abliteration и приводит результаты внутренних сравнений с исходным Hermes 4.3 36B; эти показатели не гарантируют качество в конкретном сценарии. Вход и выход — текст. Лицензия — Apache-2.0.
Hermes-Euryale-70B — объединённая диалоговая языковая модель на базе Llama 3.1, созданная с помощью mergekit методом SLERP из NousResearch/Hermes-3-Llama-3.1-70B и Sao10K/L3.1-70B-Euryale-v2.2. Модель разработана владельцем репозитория harkov000; архитектура — плотная LlamaForCausalLM с 69,5 млрд параметров, для работы используется библиотека Transformers. Нативное контекстное окно составляет 131 072 токена. Модель предназначена для диалоговой генерации текста и поддерживает интерфейс вызова инструментов. Она объединяет характеристики двух исходных моделей; метаданные описывают Hermes 3 как англоязычную модель для инструкций, кода, длинных бесед и работы с инструментами. Файлы модели представлены в формате safetensors. Лицензия в предоставленных данных не указана.
Это GGUF-квантизированная версия языковой модели llama3.1-8b_codeio_pp, разработанной командой hkust-nlp и подготовленной квантизатором bartowski. Модель предназначена для генерации текста, прежде всего для задач, связанных с программным кодом, и может использоваться локально в LM Studio, llama.cpp и других проектах на базе llama.cpp. Модель содержит 8 миллиардов параметров и распространяется в формате GGUF с вариантами квантизации от Q2 до Q8, включая Q4_K_M, Q5_K_M, Q6_K и Q8_0. Размер файлов составляет примерно от 3,7 до 8,5 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp release b4688. Более качественные варианты требуют больше оперативной памяти, а низкобитные версии экономичнее, но могут заметно уступать в качестве генерации. README не содержит сведений о поддерживаемых языках, максимальном контексте, точной архитектуре базовой модели, лицензии или результатах независимого тестирования. Поэтому эти характеристики нельзя достоверно оценить по представленным данным. Для корректной работы следует использовать указанный формат prompt и совместимый движок инференса.
HOS-OSS-3.08B — компактная причинная языковая модель от Hyggshi-AI для генерации текста и кода. Она основана на Qwen2.5-Coder-3B-Instruct и, согласно карточке, адаптирована или дистиллирована; метаданные классифицируют её как дообучение. Архитектура — плотный decoder-only трансформер семейства LLaMA, около 3,3 млрд параметров; модель поставляется в формате safetensors и работает с Transformers. Модель предназначена для генерации кода, выполнения инструкций, диалоговых ответов и локального ассистента. В карточке заявлены быстрая генерация, умеренные требования к ресурсам и запуск на GPU начального уровня или в Kaggle и Colab. Естественный язык, указанный в метаданных, — английский. Контекст составляет 2048 токенов. Лицензия — Apache-2.0.
Hrida-T2SQL-3B-V0.1 — компактная языковая модель для преобразования запросов на естественном языке в SQL, разработанная HridaAI и дообученная на Microsoft/Phi-3-mini-4k-instruct. Она принимает инструкцию, схему базы данных с таблицами, столбцами и типами данных, запрос пользователя и, при необходимости, указание диалекта SQL; на их основе генерирует SQL-запрос. Модель построена на архитектуре Phi-3, содержит 3,7 млрд параметров и имеет контекст 4096 токенов. Карточка описывает шаблон общения и примеры интеграции с Transformers и MLX. Модель предназначена для создания SQL по описанию нужных данных и схеме базы, в том числе с указанием диалекта, например MySQL, PostgreSQL или SQL Server. В метаданных указан английский язык. Лицензия — Apache-2.0. Качество результата зависит от полноты и точности переданной схемы; карточка не сообщает результаты оценки качества или ограничения по поддерживаемым диалектам.
Huihui-Qwen3.6-35B-A3B-abliterated-NVFP4 — квантованная версия модели Huihui-Qwen3.6-35B-A3B-abliterated, созданной huihui-ai на базе Qwen. Квантование NVFP4 выполнено Lna-Lab с использованием llm-compressor. Это мультимодальная MoE-модель для генерации текста и работы с изображениями, ориентированная прежде всего на агентное программирование, локальные AI-агенты, вызов инструментов и исследовательские сценарии. Модель содержит 35 млрд параметров, из которых при обработке активны около 3 млрд; используется архитектура Qwen3.5 MoE с 256 экспертами, гибридом Gated DeltaNet и attention, а также 8 маршрутизируемыми и одним общим экспертом. Поддерживается контекст до 262 144 токенов с возможностью расширения до 1 млн токенов. Визуальная часть сохранена в формате BF16. Заявлены результаты SWE-bench Verified 73,4 и Terminal-Bench 2.0 51,5, а скорость генерации достигает примерно 168 токенов в секунду на одной NVIDIA RTX PRO 6000 Blackwell. Ключевые преимущества — высокая скорость благодаря разреженной MoE-архитектуре, компактный размер около 21,9 ГБ, мультимодальность и сохранение возможностей для агентного кодинга. Ограничения связаны с аппаратной и программной совместимостью: требуется GPU NVIDIA Blackwell с поддержкой SM 120, около 22 ГБ видеопамяти и nightly-версия vLLM с CUDA 13.0; на Ampere и Hopper модель не работает. Модель abliteration обозначена как нецензурируемая, поэтому её следует использовать ответственно. Лицензия — Apache-2.0.
Карточка модели zigwangles/Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated на Hugging Face совпадает с карточкой huihui-ai/Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated, поэтому описание составлено по ней. Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated — версия Qwen3-Coder-30B-A3B-Instruct, созданная huihui-ai методом abliteration для снижения числа отказов модели. Это инструктивная языковая модель с архитектурой Qwen3 MoE; в метаданных указано 2,4 млрд параметров и контекст до 262 144 токенов. Модель рассчитана на генерацию текста в диалоговом формате, в том числе для задач программирования и агентных сценариев, характерных для базовой модели. Модель принимает текст и выдаёт текст. В карточке указан английский язык; более подробные языковые характеристики не заявлены. README описывает abliteration как грубую реализацию для проверки концепции и предупреждает о существенно ослабленной фильтрации безопасности, из-за которой возможны чувствительные, спорные или неподходящие ответы. Репозиторий распространяется по лицензии Apache-2.0.
Hunter 4B — разговорная языковая модель на 4 млрд параметров от Lalakai Labs, представленная в формате GGUF для локального запуска через llama.cpp, Ollama, LM Studio и другие совместимые среды. Это дообученная версия Qwen 3.5 4B: автор сообщает о параметрически эффективном QLoRA-обучении на примерно 180 тысячах отобранных примеров, последующем слиянии адаптера с весами FP16 и выпуске 4-битной квантизации Q4_K_M. Модель предназначена для пошаговых рассуждений, математики, написания и отладки кода, структурированных вызовов инструментов, анализа уязвимостей и повседневного чата. Карточка заявляет поддержку англоязычного общения; отдельные варианты весов включают FP16 и Q4_K_M. Разработчик ориентирует Q4_K_M на локальный запуск на обычных компьютерах, а FP16 — на ситуации, где важнее качество и доступно больше памяти. Модель компактна и рассчитана на локальную работу, однако её качество не гарантирует заявленного в карточке сопоставления с моделями на 10–15 млрд параметров: формальные бенчмарки ещё не опубликованы. Как и другие языковые модели, Hunter 4B может ошибаться, воспроизводить смещения и выдавать небезопасный контент; результаты следует проверять. Лицензия — MIT.
Hy4 preview — крупная языковая модель нового поколения, разработанная командой Tencent Hy. Это Mixture-of-Experts (MoE) модель для генерации текста и решения сложных задач, включая программную инженерию, анализ документов и данных, подготовку документов, таблиц и презентаций, финансовое моделирование, разработку игр и научные исследования. Модель содержит 770 млрд параметров, из которых 49 млрд активируются для каждого токена. Архитектура включает 78 слоёв, 256 маршрутизируемых и одного общего эксперта в MoE-слоях, при этом на токен выбираются 8 маршрутизируемых экспертов и общий эксперт. Используются Gated DeepSeek Sparse Attention, IndexCache для повторного использования разреженных индексов между слоями и iHC для расширения межслойного информационного обмена. Контекстное окно составляет 1 млн токенов. В модель также встроен слой MTP для speculative decoding. README не указывает поддерживаемые языки и мультимодальные возможности. Сильные стороны Hy4 preview — большой контекст, высокая вычислительная ёмкость, специализация на длительных задачах разработки, анализе неструктурированных материалов, математике и научном рассуждении. Модель позиционируется как открытая флагманская система и показывает конкурентные результаты во внутренних оценках Tencent. При этом это ранняя preview-версия: разработчики отмечают необходимость дальнейшего улучшения и склонность тратить больше времени, чем требуется, на рассуждение по сложным задачам. Распространение осуществляется по лицензии Apache 2.0.
Locutusque/Hyperion-1.5-Mistral-7B — разговорная языковая модель, опубликованная M4-ai и дообученная на наборе Hyperion-v1.5 на основе mistralai/Mistral-7B-v0.1. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, рассчитанная на контекст до 32 768 токенов; веса доступны в формате safetensors. Модель предназначена для диалоговых ответов на сложные вопросы, научных рассуждений, генерации и понимания кода, математических и логических задач, а также работы с медицинскими текстами. В README заявлена поддержка английского языка и применение в обучающих системах, профессиональных помощниках и технических чат-интерфейсах. Качество и согласованность ответов могут варьироваться из-за неоднородного форматирования и качества разметки обучающих данных. Медицинские и другие предметные ответы требуют проверки. Модель распространяется по лицензии Apache-2.0.
Locutusque/Hyperion-2.0-Mistral-7B — языковая модель Locutusque, дообученная на 750 тысячах примеров набора Hyperion-v2.0 на базе mistralai/Mistral-7B-v0.1. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и ответов на сложные вопросы, ведения диалога, генерации кода и рассуждений в научных областях. В карточке описаны сценарии обучения и помощи специалистам в медицине, математике, программировании и других технических дисциплинах. Основной язык — английский. Модель доступна в формате safetensors и распространяется по лицензии Apache-2.0. В README отмечены возможные несогласованности ответов из-за разнообразия форматов данных и качества аннотаций; также модель охотно отвечает на любые запросы, поэтому для корпоративного применения автор рекомендует дополнительную настройку с помощью DPO.