II.2Создание и понимание программного кода

Это GGUF-квантование GLM-4.7-Flash, подготовленное TNT.Chat в рамках проекта LOCAL AI. Модель Z.ai — диалоговая MoE-модель класса 30B-A3B; в этой сборке около 20% весов, включая shared expert и тензоры внимания, представлены в Q4_K, остальные — в Q3_K. Такой смешанный формат рассчитан на локальный запуск и использование в редакторах кода, включая VS Code, на потребительском оборудовании; автор заявляет возможность работы в пределах 16 ГБ VRAM и приводит отдельную оценку для контекста 200 тысяч токенов на GPU с 24 ГБ VRAM. Модель генерирует текст в диалоге и ориентирована, среди прочего, на программирование и рассуждения. В карточке приведены рекомендации по параметрам генерации и отмечено, что исправление в llama.cpp устранило зацикливание и низкое качество прежней версии файлов. Заявления о качестве и требованиях к памяти относятся к описанию автора сборки. Репозиторий распространяется по лицензии MIT; README указывает исходный GGUF от Unsloth и метод смешанного квантования, не подтверждая отдельное дообучение этой версии.

Карточка модели eyes-dot-ml/GLM-5.3-Flash-BF16 на Hugging Face совпадает с карточкой zai-org/GLM-5.3-Flash-BF16, поэтому описание составлено по ней. GLM-5.3-Flash-BF16 — мультимодальная модель семейства GLM от Z.ai для диалогов и задач с изображениями. По карточке модели, она содержит 320 млрд параметров, из которых 18 млрд активны при обработке. Архитектура GLM5 Next сочетает разреженное и линейное внимание; модель обучена с нуля и использует мультимодальную предобучающую выборку объёмом 30 трлн токенов. Модель предназначена для анализа изображений и текста, программирования и агентных сценариев. В README заявлены улучшения относительно GLM-5.2 и эффективность при работе с длинным контекстом. Доступны уровни reasoning_effort low, high и max; для локального развёртывания перечислены Transformers, vLLM, SGLang и другие фреймворки. Метаданные указывают поддержку английского и китайского языков и интерфейс чата с обработкой изображений. Лицензия — MIT.

Hagwell/GLM-5.3-Flash-GGUF — GGUF-версия модели GLM-5.3-Flash, разработанной командой GLM-5 и распространяемой в экосистеме Z.ai; репозиторий также связан с инструментами Unsloth. Модель предназначена для генерации текста, программирования, агентских сценариев и задач, требующих работы с длинным контекстом и мультимодальными данными. GLM-5.3-Flash — первая нативно мультимодальная модель серии GLM-5. Она содержит 320 млрд общих параметров, из которых 18 млрд активируются при обработке запроса. Архитектура сочетает разреженное и линейное внимание для снижения стоимости обслуживания длинного контекста и использует Manifold-Constrained Hyper-Connections для повышения эффективности масштабирования. Модель обучалась на мультимодальном корпусе объёмом 30 трлн токенов и поддерживает английский и китайский языки. В README заявлены улучшения относительно GLM-5.2, особенно в программировании и агентских задачах. Ключевые ограничения связаны с форматом и совместимостью: для запуска рекомендуется использовать llama.cpp с указанными изменениями или приложение Unsloth Desktop. README не содержит подробных сведений о конкретных вариантах квантизации, требованиях к памяти, максимальном контексте для данного GGUF-файла или ограничениях качества. Модель распространяется по лицензии MIT.

JANGQ-AI выпустила JANGH2 — квантизированный вариант GLM-5.3-Flash для запуска на компьютерах Mac с 128 ГБ памяти. В основе — модель класса 300 млрд параметров с архитектурой MoE: 288 маршрутизируемых экспертов, из которых активируются восемь вместе с общим экспертом. Также используются линейное внимание KDA, разреженное внимание и отдельные компоненты для обработки изображений и видео. Эксперты квантизированы до 2–3 бит с калибровкой GPTQ и матрицей важности; остальные веса преимущественно хранятся в 8-битном формате, а визуальная башня — в bf16. Модель доступна в формате MLX safetensors и требует vMLX версии 1.6.68 или новее. Модель предназначена для диалогов, рассуждений, задач с кодом, вызова инструментов и анализа изображений и видео. README приводит сравнительные измерения согласованности с исходной моделью и сообщает, что вторая ревизия лучше завершает длинные цепочки рассуждений, чем первая. Эти результаты получены на тестовых наборах и не гарантируют такое же качество на произвольных запросах. Распознавание содержимого видео описано как несовершенное: модель может принять текст наложения или перехода за часть самого клипа. Лицензия — MIT.

Solstice-AI/GLM-5.3-Flash-UNCENSORED-NVFP4 — мультимодальная версия GLM-5.3-Flash с архитектурой от Zhipu AI / ZAI, некорректированными в сторону отказов весами от dealignai и упаковкой NVFP4 от Solstice-AI. Модель предназначена для диалогов, рассуждений, программирования, математических задач, анализа изображений и понимания видео. Заявлена поддержка контекста до 1 048 576 токенов. Это foundation-модель общим размером 320 млрд параметров на основе MoE с 288 маршрутизируемыми экспертами и примерно 18 млрд активных параметров на токен. Используется смешанная точность W4A16: веса маршрутизируемых экспертов представлены в 4-битном формате NVFP4, а attention-слои, общие эксперты и активации сохраняются в BF16/FP16. Мультимодальный модуль включает 24-слойный ViT и проектор с размерностью 10 240; заявлена обработка изображений высокого разрешения и временных последовательностей видео. В комплект также входит DFlash 2 для speculative decoding. К сильным сторонам относятся большой контекст, нативные возможности работы с изображениями и видео, сниженные требования к памяти благодаря квантизации и потенциальное ускорение генерации с DFlash 2. Модель позиционируется для NVIDIA Blackwell, Hopper, Ada Lovelace и Ampere, включая B200, H100/H200, RTX 4090/L40S и A100. Ограничениями являются высокая общая размерность модели, зависимость производительности от совместимого ПО и GPU, а также отсутствие встроенного отказного поведения: это может быть полезно для исследовательских и специализированных сценариев, но повышает риски небезопасного применения. Приведённые в карточке результаты бенчмарков следует считать заявленными авторами модели. В карточке указана лицензия MIT; отдельно отмечены атрибуция базовой архитектуры Zhipu AI / ZAI, калибровка dealignai и упаковка Solstice-AI.

GLM-5.3-MLX — это MLX-сборка официальной модели GLM-5.3 от Z.AI, подготовленная OrcaRouter для Apple Silicon и MLX CUDA backend. Модель предназначена для генерации текста, программирования, задач рассуждения и длительных агентских инженерных сценариев, включая анализ кода и проверку pull request. Поддерживаются английский и китайский языки. Модель использует разреженную MoE-архитектуру glm_moe_dsa с MLA и механизмом sparse attention в стиле DeepSeek с общим индексатором. Заявленный объём составляет 753 млрд параметров, из которых около 39 млрд активны одновременно; контекстное окно — до 1 млн токенов. Модель поставляется в вариантах 2-, 3-, 4- и 6-битной квантизации OrcaSAQ, причём 4-битная версия является рекомендуемой и размещена также в корне репозитория. В методе OrcaSAQ чувствительные компоненты получают повышенную точность, attention сохраняется в 8-битном формате, а индексатор DSA — в BF16. Главное преимущество сборки — существенное снижение требований к памяти при сохранении качества по сравнению с исходной FP8-версией, а также оптимизация для экосистемы MLX. Ограничением остаются чрезвычайно высокие требования к оперативной памяти: размер файлов составляет примерно 322–671 ГБ в зависимости от варианта, поэтому даже 4-битная версия требует около 480 ГБ RAM, а 6-битная не помещается на одном современном Apple Silicon компьютере. Модель распространяется по лицензии GLM-5.3; точные условия определяются файлом лицензии по указанной ссылке.

GLM-Z1-9B-0414 — компактная языковая модель семейства GLM-4 от Z.ai с 8,8 млрд параметров. Она предназначена для диалогов и генерации текста, включая математические рассуждения, решение задач на логику и код, а также общие запросы. Модель поддерживает интерфейс вызова инструментов и рассчитана на локальное развёртывание в условиях ограниченных ресурсов. Модель обучена на базе серии GLM-Z1 с дополнительной подготовкой для рассуждений; README отмечает применение холодного старта и расширенного обучения с подкреплением на задачах математики, кода и логики. Контекст составляет 32 768 токенов. Указаны китайский и английский языки. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Для длинных входов свыше 8 192 токенов README рекомендует при необходимости включать YaRN; статическое масштабирование может немного ухудшить результаты на коротких текстах. Модель выпущена под лицензией MIT.

Godot-Dodo 4x 60k LLaMA 13B — модель генерации текста с инструктивной настройкой на основе LLaMA. По карточке модели, она обучена в апреле 2023 года на наборе из 60 тысяч примеров следования инструкциям; оценка проводилась на запросах с инструкциями по программированию. Архитектура — плотная LLaMA с 12,9 млрд параметров, контекст — 2048 токенов. Модель предназначена для генерации ответов на инструкции и помощи с задачами программирования. Доступны веса PyTorch. Карточка отсылает за подробностями к GitHub, поэтому конкретные результаты оценки и условия лицензии здесь установить нельзя.

Granite-3.3-8B-Base — базовая языковая модель IBM Granite Team для генерации и преобразования текста. Это плотный decoder-only трансформер на 8,2 млрд параметров с контекстом до 131 072 токенов. Архитектура использует GQA, RoPE, SwiGLU, RMSNorm и общие входные и выходные эмбеддинги; модель распространяется в формате safetensors и по лицензии Apache 2.0. Модель предназначена для продолжения текста и задач с длинным контекстом: суммаризации, классификации, извлечения информации и ответов на вопросы. Поддержка Fill-in-the-Middle позволяет генерировать код или текст с учётом заданного префикса и суффикса. README указывает поддержку английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Модель не проходила safety alignment, поэтому может выдавать проблемный контент; возможны предвзятость, дезинформация и дословное воспроизведение фрагментов обучающих данных. Для практических задач, требующих специализированного поведения, IBM рекомендует использовать базовую модель как основу для дообучения.

Granite-4.0-Micro-Base — базовая языковая модель IBM Granite Team для генерации текста и кода. Это декодерный трансформер с плотной архитектурой GraniteMoeHybridForCausalLM; в метаданных указано 3,4 млрд параметров и контекст до 131 072 токенов. Модель обучена с нуля на смеси открытых и проприетарных данных примерно на 15 трлн токенов. Модель предназначена для генерации текста, суммаризации, классификации, извлечения информации, ответов на вопросы и дополнения кода, включая заполнение пропусков между префиксом и суффиксом (FIM). Поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Архитектура включает GQA, RoPE, SwiGLU, RMSNorm и общие входные и выходные эмбеддинги. Модель не проходила safety alignment, поэтому может генерировать предвзятые, ошибочные или проблемные ответы; для небольшой модели также отмечен риск дословного воспроизведения обучающих данных. Лицензия — Apache 2.0.

Модель ryugyosoft/granite-4.2-8b-onw — версия IBM Granite-4.2-8B, преобразованная для запуска на Intel NPU с помощью движка onw. Это плотная 40-слойная трансформерная языковая модель с 8,4 млрд параметров и контекстом до 131 072 токенов. Весовая часть представлена в формате для onw: основная часть использует знаково-ориентированную INT4-квантизацию, а проекции q/k/v внимания и выходной слой — INT8. README указывает, что обучение не проводилось; веса переконвертированы и реконструированы из исходной модели. Модель предназначена для диалогов, рассуждений и работы с инструментами через OpenAI-совместимый API. Поддерживает английский и японский; японский является официально поддерживаемым языком, но ответы на нём могут содержать ошибки кандзи и неестественные формулировки. README приводит результаты тестов точности после преобразования и замеры скорости на конкретном Intel NPU; для запуска указано требование ПК с не менее чем 32 ГБ памяти и совместимым Intel Core Ultra NPU. Для работы необходим отдельный движок onw. Лицензия — Apache 2.0, такая же, как у исходной модели.

grug-35b-v2 — разговорная модель для генерации текста и диалогов, разработанная ProCreations на базе Ornith-1.0-35B от DeepReinforce. Это дообученная модель семейства Qwen3.5 MoE; по карточке, обучение использовало LoRA для attention, DeltaNet и общие пути, затем веса были объединены в bf16 и продолжено дообучение на данных для длинных агентных сессий и сложных рассуждений. Метаданные указывают формат safetensors и поддержку чата. Модель формирует внутренние рассуждения в стиле grug между специальными разделителями, а итоговые ответы — на обычном английском. Она предназначена для генерации кода и решения математических задач с меньшим расходом токенов, а также для агентных сценариев с вызовом инструментов. В README приведены результаты HumanEval, MBPP, GSM8K и MATH-500, а также сравнительные замеры числа токенов; это результаты автора и они зависят от использованного тестового окружения. В описании отмечены снижение точности относительно базовой модели на HumanEval и MBPP, а также меньшая частота выбора вызова инструмента: при сделанном вызове автор сообщает о высокой корректности аргументов и выбора инструмента. Указана лицензия Apache-2.0. Для запуска автор приводит пример с vLLM и ограничением контекста в 32768 токенов; это параметр команды запуска, а не заявленная максимальная длина контекста модели.

ProCreations/grug-v1.1-qwen-3.8-27b-qgguf — это GGUF-версия модели grug-v1.1-qwen-3.8-27b, разработанная ProCreations для локального запуска через llama.cpp. Модель предназначена для генерации текста, программирования и агентских сценариев, включая работу с инструментами. Заявлена поддержка английского языка и режим text-generation. Модель имеет размер 27B и поставляется в нескольких вариантах квантования: Q8_0, Q6_K, Q5_K_M, Q4_K_M и Q3_K_M, занимающих примерно от 13,3 до 28,6 ГБ. Для работы с изображениями предусмотрен отдельный multimodal-проект mmproj в формате F16 размером около 0,9 ГБ, используемый вместе с llama-mtmd-cli. Размер контекста в README не указан. Ключевая особенность модели — оптимизированное рассуждение: в описании заявлено существенно меньшее число токенов в блоке размышлений по сравнению с базовой моделью. Для большинства случаев рекомендуется средний уровень reasoning effort; режим xhigh может ухудшать выбор инструментов. Квантование позволяет подобрать баланс между качеством и требованиями к памяти, но более компактные варианты могут уступать полноразмерным весам по качеству. Все варианты, согласно README, проверены с помощью llama-bench. Модель распространяется по лицензии Apache-2.0. Для запуска требуется совместимое окружение llama.cpp; конкретные требования к оперативной памяти, производительности и максимальному контексту не указаны.

Guru-7B — модель генерации текста на базе Qwen2.5-7B, представленная авторами работы «Revisiting Reinforcement Learning for LLM Reasoning from A Cross-Domain Perspective». Она предназначена для диалоговых сценариев и решения задач рассуждения в разных областях, включая математику и программирование. В опубликованных результатах приведены оценки на AIME24 и MATH500 для математики, а также LiveCodeBench для кода. Модель имеет плотную архитектуру Qwen2 и содержит 7,1 млрд параметров. Метаданные указывают контекст до 131 072 токенов, поддержку чата и интерфейса вызова инструментов; формат весов — safetensors, для работы заявлена библиотека Transformers. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое. README приводит результаты отдельных бенчмарков, однако они не гарантируют качество на других задачах.

HelixLM-CheckpointHub — текстовая авторегрессионная модель семейства HelixLM, поддерживаемого Nimbus AI Lab. Она предназначена для генерации ответов и диалогов, включая решение математических и логических задач, программирование и вызов функций. В карточке описаны улучшения рассуждений после дополнительной вычислительной подготовки и оптимизаций на этапе постобучения; заявлено повышение результата GPQA-Diamond с 58% до 76,5% по сравнению с предыдущей версией HelixLM. Модель доступна в формате PyTorch и использует библиотеку Transformers. README рекомендует температуру 0,6 и приводит системный промпт для ассистента. Также описаны сценарии вопросов по загруженным файлам и генерации с результатами веб-поиска. Размер модели и длина контекста в предоставленных данных не указаны. Для модели заявлена лицензия MIT. README отмечает улучшения в снижении галлюцинаций и поддержке вызова функций, но не приводит подробных оценок, методики сравнения или ограничений по применению; фактическое качество на конкретных задачах может отличаться от benchmark-результатов.

HelixLM — языковая модель из серии открытых моделей Helix, разработанная Helix Lab. Это плотная авторегрессионная модель семейства Llama для генерации текста; карточка описывает её как релиз-кандидат, дообученный с чередованием этапов рассуждения. Модель ориентирована на математические задачи, понимание кода и многошаговые логические задачи, а также поддерживает диалог и интерфейс вызова функций. HelixLM рассчитана на решение сложных задач с более продолжительным внутренним рассуждением перед ответом. Разработчик сообщает о конкурентных результатах на внутренних наборах проверки, но не приводит размер модели или длину контекста. Для запуска рекомендуется температура 0,6; модель также предлагается через игровую площадку и API. Модель распространяется по лицензии Apache-2.0. Это релиз-кандидат; заявленные показатели основаны на внутренних тестах и в README не приведены подробные сведения о методике оценки. Увеличенный бюджет рассуждений может повышать расход токенов и задержку ответа.

Huihui4-8B-A4B — разговорная модель семейства Gemma 4, созданная Huihui AI на основе google/gemma-4-26B-A4B-it. Разработчики сократили число экспертов MoE со 128 до 32 и дообучили модель методом supervised fine-tuning на более чем 500 диалоговых примерах из данных предпочтений для кода; в таблице оценки также приведён результат варианта после 750 шагов дообучения. На каждом токене активируются 8 экспертов. Модель предназначена для диалоговых задач, особенно для помощи с кодом, а также для планирования простых задач и локального запуска на потребительском оборудовании. Карточка заявляет поддержку анализа изображений, унаследованную от мультимодальной базовой модели, однако обучение описано как диалоговое и ориентированное на код. Репозиторий использует Transformers и формат safetensors; README рекомендует vLLM, llama.cpp и Hugging Face Transformers. По данным README, для FP16 требуется менее 18 ГБ видеопамяти, а для квантованных INT4/INT8 вариантов — примерно 6–9 ГБ. Оценка качества предварительная: приведены тесты perplexity и краткое описание диалоговых проверок, но нет подробных бенчмарков. Модель распространяется по лицензии Apache-2.0.

Huihui4-8B-A4B-v2 — разговорная модель Huihui AI на архитектуре Gemma 4, полученная прореживанием экспертов и дообучением SFT базовой модели google/gemma-4-26B-A4B-it. В модели оставлено 32 эксперта из исходных 128, при обработке каждого токена активируются 8. Модель поддерживает диалог и анализ изображений с выдачей текста; в метаданных для неё указан формат safetensors и библиотека Transformers. Модель предназначена для диалоговой помощи с кодом, планирования простых задач и локального запуска на потребительском оборудовании. Дообучение использует данные huihui-ai/GLM-5.1-Multilingual-STEM, а режим рассуждений оформлен в формате GLM-5.1. Автор сообщает о предварительных тестах диалога и оценке perplexity, но не приводит подробных сравнительных результатов. Лицензия — Apache-2.0.

Это GGUF-сборка Huihui-Nex-N2-mini-abliterated, подготовленная LocalAI с использованием APEX — смешанной MoE-квантизации с учётом роли и слоя тензоров. Модель основана на гибридной архитектуре Qwen3.5 с 40 слоями, 256 экспертами (8 активны одновременно), линейным вниманием SSM и полным вниманием; всего около 35,1 млрд параметров, из которых активно около 3 млрд. В сборках MTP сохранена встроенная черновая голова предсказания следующего токена для спекулятивного декодирования. Модель предназначена для диалогов и задач с изображениями. Вариант APEX I-Quality калиброван на разнообразных примерах чата, кода, рассуждений и вызова инструментов. MTP-варианты могут ускорять генерацию, но требуют свежей сборки llama.cpp с поддержкой встроенного MTP; вариант без MTP совместим с более широким диапазоном сборок. Репозиторий содержит несколько вариантов GGUF-квантования примерно по 22,8–24,5 ГБ. Это uncensored-производная: удаление направления отказов может приводить к ответам на запросы, от которых исходная модель отказалась бы. Лицензия — Apache-2.0.

Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated — версия Qwen3-Coder-30B-A3B-Instruct, созданная huihui-ai методом abliteration для снижения числа отказов модели. Это инструктивная языковая модель с архитектурой Qwen3 MoE; в метаданных указано 2,4 млрд параметров и контекст до 262 144 токенов. Модель рассчитана на генерацию текста в диалоговом формате, в том числе для задач программирования и агентных сценариев, характерных для базовой модели. Модель принимает текст и выдаёт текст. В карточке указан английский язык; более подробные языковые характеристики не заявлены. README описывает abliteration как грубую реализацию для проверки концепции и предупреждает о существенно ослабленной фильтрации безопасности, из-за которой возможны чувствительные, спорные или неподходящие ответы. Репозиторий распространяется по лицензии Apache-2.0.

bullerwins/Hunyuan-A13B-Instruct-hf — это конвертированная в формат Hugging Face версия чат-модели Hunyuan-A13B-Instruct, разработанной Tencent и представленной в репозитории в формате safetensors. Модель использует архитектуру Mixture of Experts (MoE); в README для исходной модели указаны 80 млрд параметров всего и 13 млрд активных, тогда как метаданные этой копии сообщают 3,1 млрд параметров. Поэтому размер модели в описании этой версии нельзя однозначно согласовать с характеристиками оригинала. Модель предназначена для генерации ответов в диалоге, рассуждений, математики, программирования и агентных сценариев; метаданные также указывают интерфейс вызова инструментов. README исходной модели описывает режимы быстрого и углублённого рассуждения и контекст до 256K токенов, но метаданные этой копии указывают нативный контекст 32 768 токенов. Поддерживаемые языки в предоставленных данных не перечислены. Модель работает с текстом на входе и выдаёт текст. Лицензия в метаданных обозначена как other; конкретные условия следует сверить с лицензией Tencent в репозитории перед использованием.

Locutusque/Hyperion-3.0-Yi-34B — языковая модель Locutusque, дообученная на 150 000 примерах набора Hyperion-v3.0. Это плотная авторегрессионная модель семейства Llama с 33,9 млрд параметров, предназначенная для диалогов, ответов на вопросы и генерации кода; в карточке также заявлены математические и логические рассуждения, а также понимание медицинских и научных текстов. Модель рассчитана прежде всего на англоязычные запросы и охватывает задачи программирования, медицины, математики и научных рассуждений. Её можно применять в учебных помощниках, технических чат-ботах и инструментах поддержки специалистов. Контекст составляет 4096 токенов; веса опубликованы в формате safetensors для Transformers. Автор README указывает лицензию Yi NC, тогда как метаданные Hugging Face содержат лицензию other; условия использования следует сверять с файлами лицензии в репозитории. Карточка предупреждает о возможной непоследовательности ответов из-за качества и разнообразия данных, а также о высокой склонности модели выполнять запросы; результаты оценки в README не приведены.

ROME — агентная языковая модель, представленная FutureLivingLab и созданная в рамках экосистемы ALE (Agentic Learning Ecosystem). Она предназначена для автономного выполнения многошаговых задач с использованием инструментов, в том числе работы в терминале и программной разработки. В карточке заявлены результаты 24,72% на Terminal-Bench 2.0 и 57,40% на SWE-bench Verified. Модель построена на архитектуре Qwen3 MoE и имеет 2,4 млрд параметров по метаданным; README описывает вариант ROME-30B-A3B с 30 млрд общих и 3 млрд активных параметров. Метаданные указывают контекст до 262 144 токенов, поддержку диалогов и интерфейс вызова инструментов. Лицензия — Apache-2.0. В README описаны обучение с подкреплением и алгоритм IPA для улучшения устойчивости и выполнения длительных задач. Заявления о безопасности и качестве приводятся разработчиком; независимая проверка этих характеристик в предоставленных данных не описана. Также есть расхождение в числе параметров между README и метаданными.

IndustrialCoder-Thinking — диалоговая языковая модель для генерации кода и пошагового решения сложных инженерных задач; карточка описывает её как reasoning-вариант семейства InCoder, разработанный Multilingual-Multimodal-NLP. Модель использует плотную архитектуру IQuestCoderForCausalLM с 31,6 млрд параметров и контекстом до 131 072 токенов. В README указаны 64 слоя и размер скрытого представления 5 120. Модель предназначена для генерации, отладки и оптимизации кода, в том числе RTL для проектирования микросхем, GPU-ядер на CUDA и Triton, а также встроенного ПО. В режиме thinking она формирует промежуточный ход решения в тегах `...`, а режим без рассуждений подходит для более простых запросов. Карточка приводит результаты на общих и отраслевых бенчмарках, но не описывает независимую проверку этих оценок. Модель принимает текстовые запросы и выдаёт текст, включая код. Основной язык карточки — код; поддерживаемые естественные языки не перечислены. Указаны интерфейс чата и интерфейс вызова инструментов. Лицензия — Apache-2.0. README предупреждает, что рассуждения могут содержать ошибки, а сгенерированный код — быть некомпилируемым, функционально неверным или неоптимальным; отдельно отмечены пробелы в знаниях API для встроенного ПО. Код следует проверять и тестировать перед использованием.

INF-o1-pi0 — языковая модель для рассуждений, разработанная командой INF-o1 компании INFLY TECH (Shanghai) Co., Ltd. Это начальный контрольный чекпойнт проекта, созданный для оценки конвейера подготовки данных перед дальнейшим обучением с подкреплением. Модель дообучена на базе Qwen/Qwen2.5-32B-Instruct, имеет плотную архитектуру Qwen2 и 32 млрд параметров; работает через Transformers и принимает текст, выдавая текст. Контекстное окно составляет 32 768 токенов. Модель предназначена для генерации развёрнутых рассуждений и решения задач по математике, программированию, логике, безопасности и SQL. В README приведены результаты сравнений на математических, логических и SQL-бенчмарках; они показывают сильные результаты на отдельных наборах, но не гарантируют точность в прикладных задачах. Карточка описывает этот выпуск как исходный чекпойнт для оценки конвейера данных и основы будущего обучения с подкреплением. Языковые теги метаданных охватывают китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Лицензия в предоставленных данных не указана.

jth01/inf-o1-pi0-fixed — копия весов INF-o1-pi0 от INFLY TECH (Shanghai) Co., Ltd. с заменёнными файлами конфигурации токенизатора на вариант QwQ; автор репозитория сообщает, что так модель работает лучше. Это плотная причинная языковая модель семейства Qwen2 с 32 млрд параметров, рассчитанная на генерацию текста и диалог. Контекст — до 32 768 токенов. Исходный INF-o1-pi0 представлен как начальный чекпойнт для оценки конвейера подготовки данных и развития многошаговых рассуждений. В карточке описаны задачи математики, программирования, логики, безопасности и SQL, а также приведены сравнительные результаты на соответствующих тестах. Модель может применяться для решения математических и логических задач, объяснения решений и генерации кода или SQL-запросов. Метаданные указывают на слияние INF-o1-pi0 и Qwen/Qwen2.5-32B-Instruct; этот репозиторий дополнительно меняет конфигурацию токенизатора. Для запуска используется Transformers, веса хранятся в safetensors. Лицензия в предоставленных данных не указана. Результаты бенчмарков не гарантируют точность ответов в прикладных сценариях; README позиционирует исходный чекпойнт как основу для дальнейшей разработки, а не как завершённую модель для ответственных решений.

Карточка модели genevaquant/Inkling-Small на Hugging Face совпадает с карточкой thinkingmachines/Inkling-Small, поэтому описание составлено по ней. Inkling-Small — мультимодальная модель общего назначения от Thinking Machines, построенная на авторегрессионном трансформере с 42 слоями и разреженным MoE-блоком: из 256 экспертов для каждого токена выбираются 6, а 2 общих эксперта активны всегда. Всего модель содержит 276 млрд параметров, из которых активно 12 млрд. Она принимает текст, изображения и аудио, обрабатывая их в общем пространстве представлений, и генерирует текст. Поддерживаются форматы BF16 и NVFP4; для работы предусмотрена библиотека Transformers. Модель предназначена для диалогов, следования инструкциям, мультимодальных запросов, программирования, чат-ботов, агентных систем с использованием инструментов и приложений с поиском по документам. Основной язык — английский; заявлены общие многоязычные возможности, но языки отдельно не перечислены. Для изображений рекомендован размер сторон 40–4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью менее двух минут. Модель может выдавать фактически неверные ответы, неточно следовать инструкциям и хуже работать в длинных диалогах; качество также может различаться по языкам и предметным областям. Для важных решений необходимы проверка человеком и дополнительные меры безопасности. Весы доступны по лицензии Apache-2.0.

IsValorum публикует эту сборку Iris-mini-MTP APEX-I-MiniPlus — квантованную в GGUF версию MoE-модели на архитектуре qwen35moe, предназначенную для генерации текста в диалоге. Веса содержат около 35 млрд параметров, из которых, по README, примерно 3,2 млрд активируются на токен; размер файла составляет 14,84 ГБ, а заявленная средняя точность квантования — 3,42 BPW. Модель сохраняет встроенную голову Multi-Token Prediction для спекулятивного декодирования. Сборка рассчитана на генерацию текста, включая рассуждения, математику и код. README описывает выборочное квантование слоёв и компонентов, а также запуск через llama.cpp; для некоторых конфигураций заявлена работа с контекстом до 256 тысяч токенов. Метаданные указывают поддержку 13 языков, включая русский, английский, китайский, японский и арабский. Репозиторий распространяется по лицензии Apache-2.0. Это прежняя итерация MiniPlus, а не текущая спецификация разработчика. Приведённые в README показатели скорости, качества, принятия предсказанных токенов и использования памяти являются заявлениями автора и зависят от оборудования и настроек; заявленные результаты не следует считать независимой оценкой.

JetMoE-8B-Chat — разговорная языковая модель семейства JetMoE, созданная авторами проекта JetMoE. Это дообученная версия JetMoE-8B для диалоговой генерации текста. Архитектура включает 24 блока с разреженными слоями Mixture of Attention heads и Mixture of Experts: в каждом слое из восьми экспертов для токена активируются два. Всего модель содержит 8 млрд параметров, из которых при инференсе активны 2,2 млрд; базовая JetMoE-8B обучалась на 1,25 трлн токенов из открытых наборов данных. Модель предназначена для диалогов, ответов на вопросы, написания кода и решения математических задач. README сообщает о сравнительных результатах на языковых и кодовых бенчмарках, однако приведённые таблицы неполны, поэтому эти заявления нельзя независимо оценить по карточке. Контекст составляет 4096 токенов. Модель принимает и генерирует текст; в метаданных заявлена возможность чата, но конкретный список поддерживаемых естественных языков не приведён. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка описывает её как открытую и допускающую дообучение при ограниченных вычислительных ресурсах; практическое качество зависит от запроса и сценария применения.

jk3 — дообученная модель для генерации текста на базе deepseek-ai/deepseek-coder-1.3b-base. Она содержит 1,3 млрд параметров, использует плотную архитектуру семейства Llama и принимает контекст длиной до 16 384 токенов. Модель сохранена в формате safetensors. В карточке приведены метрики оценки, включая loss 0,4190 и разницу оценок выбранных и отклонённых ответов 9,0528. Датасет указан как None, а сведения о назначении, обучающих данных и ограничениях не раскрыты. Лицензия в доступных данных не указана.