II.2Создание и понимание программного кода

mermaidGPT — компактная англоязычная модель, разработанная Houzeric для генерации кода диаграмм Mermaid.js по запросам на естественном языке. Она построена на GPT-подобной архитектуре GPT-2 и доступна в форматах PyTorch и safetensors; для работы и дообучения используется Transformers. Модель предназначена для создания блок-схем, диаграмм последовательностей и других диаграмм Mermaid по текстовым описаниям, например схемы взаимодействия пользователя с сервером. Вход — текст на английском языке, выход — текстовый код Mermaid. Репозиторий связан с датасетом Celiadraw/text-to-mermaid. Лицензия — MIT. Модель заявлена как небольшая и пригодная для запуска и обучения на одной GPU. Точные размер модели и длина контекста в предоставленных данных не указаны. Качество генерации, включая корректность Mermaid-кода для сложных запросов, может зависеть от формулировки запроса; подтверждённых оценок качества в карточке нет.

fhai50032 выпустил Unaligned-Thinker-PHI-4 — разговорную языковую модель на базе Phi-4, дообученную методом SFT на наборе fhai50032/Unaligned-Thinking-o1. Модель предназначена для генерации текста в диалогах и ответов с рассуждениями; в карточке приведены примеры обсуждения алгоритмов и AGI. По метаданным это плотная модель с архитектурой LlamaForCausalLM, содержащая 14,1 млрд параметров и поддерживающая контекст до 16 384 токенов. Указаны язык английский и возможность чата. Модель опубликована в форматах PyTorch и safetensors по лицензии Apache-2.0. README сообщает параметры дообучения: три эпохи, глобальный размер пакета 8, скорость обучения 5e-4, LoRA с r=16 и alpha=16, cosine schedule и AdamW 8-bit с weight decay 0,01.

zeta-2.1-autoround-W4A16 — это квантизированная версия языковой модели zed-industries/zeta-2.1 для генерации текста. Модель подготовлена с помощью AutoRound, разработанного Intel, и предназначена для запуска исходной модели с меньшими требованиями к памяти, в том числе через Transformers и vLLM. Она может применяться для текстовых запросов, генерации кода и других сценариев автодополнения, поддерживаемых базовой моделью. Используется квантизация только весов int4 по схеме W4A16: веса представлены в 4-битном формате, а активации — в 16-битном, с group_size 128 и симметричной квантизацией. Размер квантизированной модели составляет около 5954 МБ. В README не указаны архитектура, число параметров, поддерживаемые языки и размер контекста. На тестах hellaswag, mmlu и piqa модель показала точность 0,4077, 0,3676 и 0,6768 соответственно. К преимуществам относятся сниженное потребление памяти и возможность использования на совместимом оборудовании при сохранении назначения базовой модели. Ограничения включают возможные фактические ошибки, предвзятые, непристойные или иные нежелательные ответы; перед применением требуется проверка безопасности. Отдельная лицензия для квантизированной версии не указана: необходимо соблюдать лицензию исходной модели zed-industries/zeta-2.1 и учитывать юридические ограничения при коммерческом использовании.

AMD-OLMo-1B-SFT-DPO-GGUF — квантизированная версия языковой модели AMD-OLMo-1B-SFT-DPO, разработанной AMD на основе открытой архитектуры и подходов обучения OLMo-1B. Формат GGUF подготовлен bartowski с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска в совместимых приложениях, включая LM Studio. Модель содержит около 1 миллиарда параметров, поддерживает контекст длиной до 2048 токенов и использует словарь размером 50 280 токенов. Базовое предварительное обучение выполнено на 1,3 триллиона токенов из набора Dolma. Затем модель прошла supervised fine-tuning на наборах Tulu V2, OpenHermes-2.5, WebInstructSub и Code-Feedback, а также выравнивание предпочтений методом Direct Preference Optimization на наборе UltraFeedback. К сильным сторонам относятся открытая основа, компактный размер, адаптация к следованию инструкциям и наличие дополнительного обучения на данных для общего, веб- и программного контента. Ограничения включают небольшой контекст, неизвестную из README языковую специализацию и возможные ошибки, неточности или нежелательный контент при генерации; квантизация также может влиять на качество. Указана лицензия Apache-2.0.

Arch-Agent-32B — дообученная Katanemo языковая модель на архитектуре Qwen2, предназначенная для вызова функций и агентных сценариев. Она помогает выбирать инструменты, планировать последовательность вызовов и выполнять многошаговые задачи с учётом контекста предыдущих ходов и результатов работы инструментов. Модель содержит 32 млрд параметров, принимает текст и генерирует текст; в карточке указана длина контекста 32 768 токенов. README сообщает об оценке на Berkeley Function-Calling Leaderboard и описывает адаптивное планирование, координацию инструментов и восстановление после ошибок. Для извлечения вызовов функций рекомендуется использовать формат промпта разработчика; в README для оценки упоминается контекст 64K с масштабированием YaRN, но это не совпадает с указанной в метаданных нативной длиной контекста. Модель основана на Qwen/Qwen2.5-Coder-32B-Instruct. Лицензия указана как other, поэтому условия её использования следует сверить с карточкой репозитория и лицензией базовой модели перед внедрением. Метаданные указывают английский язык.

c4ai-command-r7b-12-2024-heretic — модифицированная версия модели CohereForAI Command R7B, созданная автором репозитория с использованием Heretic 1.4.0 и метода направленной абляции (abliteration). Это мультиязычная генеративная языковая модель примерно на 7 млрд параметров, оптимизированная для retrieval-augmented generation (RAG), диалоговых сценариев, локального запуска и надёжного использования инструментов. Указан английский язык, однако в описании заявлена мультиязычность. Модель поддерживает текстовую генерацию и поставляется в форматах BF16 Safetensors и GGUF с квантованиями Q4_K_M, Q5_K_M, Q6_K и Q8_0; доступен запуск через Transformers, llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang. Ключевая особенность — подавление поведения, связанного с отказами, посредством изменения отдельных направлений весов в выходных проекциях attention и down-проекциях MLP, без дообучения. Это должно сохранять большую часть знаний и возможностей базовой модели, но одновременно означает отсутствие встроенной фильтрации безопасности: модель может выполнять запросы, которые исходная версия отклоняла, включая потенциально нежелательные. Поэтому её не рекомендуется размещать за незащищённым публичным endpoint для сторонних пользователей. Модель рассчитана на локальное использование на потребительских GPU и CPU/Apple Silicon; рекомендуемый объём видеопамяти зависит от квантования и составляет примерно 6–24 ГБ, а для контекста требуется дополнительно около 1 ГБ. Ограничения контекстного окна в README не указаны. Модель наследует лицензию other базовой модели CohereForAI c4ai-command-r7b-12-2024; подробные условия доступны по ссылке на её LICENSE.

Карточка модели Smilesjs/chemsmart-qwen2.5-coder-3b-merged на Hugging Face совпадает с карточкой Smilesjs/chemsmart-qwen2.5-coder-3b-instruct-v7, поэтому описание составлено по ней. Smilesjs/chemsmart-qwen2.5-coder-3b-instruct-v7 — дообученная Smilesjs модель семейства Qwen2 для генерации текста. Она основана на unsloth/Qwen2.5-Coder-3B-Instruct-bnb-4bit и обучалась с использованием Unsloth и библиотеки TRL. Модель содержит 3,1 млрд параметров, имеет контекст до 32 768 токенов и рассчитана на текстовые диалоги; в метаданных указана поддержка английского языка. Модель можно применять для генерации ответов и кода в интерактивных сценариях. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает специальную химическую настройку, качество на задачах или результаты оценки, поэтому название репозитория само по себе не подтверждает пригодность для химических сценариев.

SirSahOl выпустил 16-битную конверсию диалоговой модели JackFram/decider-2b для локального запуска через MLX на Apple Silicon. Это плотная текстовая авторегрессионная модель семейства Qwen3_5 с примерно 1,7 млрд параметров по метаданным и контекстом до 262 144 токенов. Репозиторий содержит веса в формате safetensors; для инференса используется библиотека MLX. Модель предназначена для генерации текста и многоходового диалога, в том числе локальных ответов и дополнений кода. Заявленный объём весов составляет около 4,8 ГБ, а для работы рекомендуется не менее 8 ГБ объединённой памяти; длинный контекст требует дополнительного запаса памяти. Конверсия ориентирована на графические процессоры Apple Silicon и не подходит для других аппаратных платформ без соответствующей поддержки MLX. Лицензия указана как неизвестная, поэтому условия дальнейшего использования следует сверить с исходной моделью JackFram/decider-2b.

Это GGUF-квантизированная версия языковой модели DeepSeek-V3.1, разработанной deepseek-ai и подготовленной пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и совместимые проекты на его основе. В репозитории представлены варианты квантования Q8_0, Q6_K, Q5_K_M, Q4 и Q3/Q2, включая форматы IQ. Размер файлов составляет примерно от 188 до 713 ГБ. Более высокие уровни квантования обеспечивают лучшее сохранение качества, но требуют значительно больше оперативной памяти и ресурсов; варианты Q4 и Q5 позиционируются как сбалансированные, а Q2 и Q3 — как более экономичные, но с заметным снижением качества. Квантизация выполнена с использованием imatrix и llama.cpp release b6214. Сильной стороной модели является возможность локального запуска в различных форматах GGUF и выбор между качеством и требованиями к памяти. Ограничения включают исключительно большие размеры файлов, высокие аппаратные требования и отсутствие в README сведений о поддерживаемых языках, длине контекста, точной архитектуре, рекомендованном шаблоне запросов и лицензии. Формат промпта также не указан; рекомендуется обратиться к странице исходной модели deepseek-ai/DeepSeek-V3.1.

bartowski/DeepSeek-V2.5-GGUF — набор GGUF-квантизаций модели DeepSeek-V2.5, разработанной DeepSeek AI и подготовленной для llama.cpp. Модель предназначена для генерации текста и локального запуска, в том числе через LM Studio; варианты файлов позволяют выбирать баланс между качеством, размером и требованиями к RAM или VRAM. Доступны квантизации Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q4_0, IQ4_XS, Q3, Q2 и IQ1–IQ3 различных уровней. Размер файлов составляет примерно от 52,68 до 250,62 ГБ; крупные варианты разделены на несколько файлов. Квантизации выполнены с использованием imatrix на базе llama.cpp b3658, отдельные варианты используют Q8_0 для embedding- и output-весов. Для модели указан формат prompt с системным сообщением, запросом пользователя и ответом ассистента. Сильная сторона набора — широкий выбор вариантов: Q6_K и Q5_K_M заявлены как близкие к исходному качеству, Q4_K_M — как рекомендуемый компромисс, а малые варианты подходят для систем с ограниченной памятью, хотя имеют заметно более низкое качество. README не содержит сведений об архитектуре, числе параметров, поддерживаемых языках и размере контекстного окна. Лицензия указана как other/deepseek; применяются условия лицензии DeepSeek, доступной по ссылке в карточке модели.

DeepSeek-V4.1-Flash (GGUF) — квантизированная версия текстовой модели DeepSeek-V4.1-Flash, разработанной DeepSeek и преобразованной в формат GGUF автором mxxm-t. Сборка предназначена для запуска через mx-llama.cpp — форк llama.cpp с поддержкой много-GPU инференса, pipeline и tensor parallelism, а также DSpark/MTP speculative decoding. Модель использует MoE-архитектуру с маршрутизируемыми экспертами и квантованием MXFP4; основные веса занимают около 375,8 GiB в 12 файлах, а после загрузки требуют примерно 302 GiB без учёта KV-кэша и вычислительных буферов. В комплект входит отдельный файл DSpark размером 7,43 GiB, который не является самостоятельной моделью и применяется только для speculative decoding. Поддерживается генерация текста; языки и максимальный контекст в README явно не указаны, хотя приведён пример запуска с контекстом 32768 токенов. Сильные стороны сборки — эффективный много-GPU инференс, поддержка режимов layer и tensor parallelism, MXFP4 для routed experts, сжатие KV-кэша и ускорение генерации с помощью DSpark. Ограничения заключаются в высоких требованиях к памяти и накопителю, необходимости совместимого mx-llama.cpp, отсутствии vision tower, projector и файла mmproj, а также в том, что DSpark нельзя использовать отдельно. Для chat completions ответ этой архитектуры помещается в поле reasoning_content, а не content. Лицензия MIT, унаследованная от базовой модели DeepSeek.

Baekpica/DeepSeek-V4-Flash-0731-120B-REAM-104E-NVFP4 — текстовая генеративная модель, разработанная Baekpica на основе Baekpica/DeepSeek-V4-Flash-0731-120B-REAM-104E-BF16. Модель предназначена для генерации текста и инференса с использованием vLLM, включая сценарии локального и серверного развертывания на совместимом оборудовании NVIDIA. Архитектура представляет собой Mixture-of-Experts: 43 декодерных слоя, 104 маршрутизируемых эксперта на слой, top-6 маршрутизация и около 13,802 млрд активных параметров на токен при примерно 119,822 млрд логических параметров основной модели. Это преимущественно весово-квантизированная версия NVFP4A16: основные подходящие веса представлены в NVIDIA FP4 E2M1 с размером группы 16, тогда как активации остаются 16-битными. Отдельные компоненты сохраняются в BF16, а некоторые attention-проекции используют динамический W8A8 FP8. В README указана поддержка контекста до 196 608 токенов в проверенной конфигурации запуска. Информация о языках и мультимодальных возможностях не приведена. Ключевое преимущество модели — существенное сокращение требований к памяти при сохранении архитектуры крупной MoE-модели и оптимизация для инференса на NVIDIA Blackwell или более новых GPU. Ограничения включают зависимость от аппаратуры с поддержкой compressed-tensors NVFP4 и от специализированного стека, включая совместимую ветку vLLM и FlashInfer; универсальная совместимость с обычным Transformers или более старым оборудованием не заявлена. Модель распространяется по лицензии MIT.

Wladastic опубликовал экспериментальную смешанную квантизацию DeepSeek-V4-Flash-0731 в формате GGUF для запуска через llama.cpp на системах с ограниченной видеопамятью, где часть весов экспертов хранится в оперативной памяти. Исходная модель имеет 304 млрд параметров и MoE-архитектуру с 43 слоями: внимание и ряд общих компонентов сохранены в более высокой точности, а routed-эксперты квантизированы до IQ2_XXS или IQ3_XXS в зависимости от слоя. Файл занимает около 85,8 ГБ. Модель предназначена для диалоговой генерации текста, в том числе для программирования и агентных сценариев. Автор сообщает об успешной загрузке и генерации в llama.cpp, измерении perplexity на локальном отложенном корпусе и настройке запуска с контекстом до 128 тысяч токенов. Эти проверки не подтверждают эквивалентность исходной модели или качество на широком наборе задач. В GGUF отсутствуют MTP- и draft-тензоры, поэтому встроенное speculative decoding недоступно. Репозиторий распространяется по лицензии MIT; это сторонняя квантизация, не связанная официально с DeepSeek.

DPO-Think-14B — 14-миллиардная плотная языковая модель семейства Qwen2, разработанная авторами проекта Aletheia и дообученная на DeepSeek-R1-Distill-Qwen-14B методом DPO. Она предназначена для проверки и ранжирования нескольких вариантов решения задачи по программированию: модель получает условие и кандидаты, затем оценивает, какое решение корректно. Обучение использовало заранее собранные предпочтения и трассы рассуждений без онлайн-сэмплирования; модель можно применять как оценщик или функцию вознаграждения в конвейерах оптимизации генерации кода. Модель рассчитана на текстовый ввод и выдаёт текстовый ответ с оценкой кандидатов. Метаданные указывают контекст до 131 072 токенов; обучение ориентировано на задачи соревновательного программирования и примеры на Python, C++ и Java. Доступны веса в формате Safetensors для Transformers. Лицензия CC BY-NC-SA 4.0 требует атрибуции, ограничивает коммерческое использование и распространяет условия лицензии на производные материалы.

EXAONE-3.5-2.4B-Instruct-GGUF — инструкционная языковая модель семейства EXAONE 3.5, разработанная LGAI-EXAONE. Представленная версия является GGUF-квантизацией исходной модели EXAONE-3.5-2.4B-Instruct, выполненной bartowski на базе llama.cpp. Размер модели — 2,4 млрд параметров; поддерживаются английский и корейский языки, максимальная длина контекста составляет 32 тысячи токенов. Модель предназначена для генерации текста по инструкциям, ответов на вопросы, решения математических задач и программирования. Согласно README, она демонстрирует высокое качество следования инструкциям и сильные результаты среди моделей с сопоставимой длиной контекста. Формат GGUF и совместимость с llama.cpp делают её подходящей для локального запуска в приложениях и средах, поддерживающих этот формат. Ограничения включают относительно небольшой размер, поддержку только заявленных английского и корейского языков, а также возможные неточные, вредные или неподходящие ответы, характерные для генеративных моделей. Модель распространяется по лицензии EXAONE; в метаданных она обозначена как other, а подробные условия доступны в файле LICENSE.

FuseChat-Qwen-2.5-7B-Instruct-Heretic-GGUF — языковая модель в формате GGUF, созданная на основе FuseAI/FuseChat-Qwen-2.5-7B-Instruct и опубликованная пользователем ChiKoi7. Базовая модель относится к семейству Qwen 2.5 и имеет 7 млрд параметров. FuseChat-3.0 разработана FuseAI с использованием неявного объединения возможностей нескольких крупных языковых моделей через Supervised Fine-Tuning и Direct Preference Optimization на данных предпочтений; в качестве целевой модели использовалась Qwen-2.5-7B-Instruct. Для данной версии дополнительно применён Heretic v1.0.1 — метод удаления ограничений на отказы от ответов. Модель предназначена для генерации текста, диалогов и выполнения инструкций, включая общие разговорные задачи, следование инструкциям, математику и программирование. По приведённому сравнению, версия Heretic отказалась от ответа в 3 случаях из 100 против 93 из 100 у исходной модели, при этом её KL-дивергенция относительно оригинала составила 0,07. Это указывает на существенно более редкие отказы при сохранении близкого поведения к исходной модели, однако одновременно означает потенциально менее выраженные защитные ограничения. В README не указаны поддерживаемые языки, размер контекстного окна, точная архитектура трансформера, требования к аппаратному обеспечению и конкретная лицензия. Также не приведены результаты независимой оценки качества после применения Heretic. Поэтому модель следует использовать с учётом возможного отсутствия встроенных ограничений безопасности; условия распространения необходимо уточнять по лицензии базовой модели и репозитория модели.

unsloth/gemma-3-270m-it-unsloth-bnb-4bit — квантованная 4-битная версия instruction-tuned модели google/gemma-3-270m-it, подготовленная проектом Unsloth. Исходная модель разработана Google DeepMind как часть семейства Gemma — открытых моделей, созданных на основе исследований и технологий Gemini. Модель предназначена для генерации текста по инструкциям, ответов на вопросы, суммаризации документов, рассуждений и работы с программным кодом. Для версии с размером 270M заявлен контекст до 32K токенов на запрос. Обучение проводилось на данных более чем из 140 языков, включавших веб-тексты, код, математические материалы и изображения; дата отсечения знаний — август 2024 года. В данном репозитории модель представлена как text-generation-модель для Transformers, а 4-битное представление снижает требования к памяти и упрощает локальный запуск. К сильным сторонам относятся небольшой размер, экономичность и пригодность для развёртывания на устройствах с ограниченными ресурсами. Ограничениями являются существенно меньшая ёмкость по сравнению с крупными вариантами Gemma, возможные потери качества из-за квантования и отсутствие в README отдельных результатов оценки именно этой квантованной версии. Модель распространяется по лицензии Gemma; перед использованием необходимо учитывать соответствующие условия Google.

Mungert/gemma-3-27b-it-qat-q4_0-GGUF — экспериментальная GGUF-квантизация модели google/gemma-3-27b-it, разработанная сообществом Mungert на базе Gemma 3 от Google. Это instruction-tuned модель с поддержкой текста и изображений, предназначенная для локального запуска и решения задач генерации текста, программирования, анализа и работы с мультимодальным вводом. Точные сведения о языках и размере контекстного окна в README не указаны. Модель получена посредством повторной квантизации исходной QAT Q4_0-модели с использованием imatrix-файлов Google для последующего сжатия до более низкой точности. Формат GGUF ориентирован на запуск в совместимых инструментах, включая llama.cpp. Автор приводит предварительные сравнения perplexity и качественный тест генерации .NET-кода, где вариант на основе QAT показал преимущество над сопоставимой квантизацией из BF16, однако подчёркивает, что тестовый набор был небольшим, результаты нестабильны, а окончательные выводы делать нельзя. Сильной стороной является потенциально более высокое качество при низкой разрядности по сравнению с обычной квантизацией из BF16, а также возможность локального запуска с уменьшенными требованиями к памяти. Ограничения включают экспериментальный статус, отсутствие полноценной независимой оценки и возможные ошибки модели в сложных технических задачах; приведённый пример также показывает, что модель может неправильно интерпретировать детали TLS и постквантовой криптографии. Для использования на Hugging Face требуется принять лицензию Google Gemma; в README указана лицензия gemma.

Gemma 4 12B RKNn3 для RK1828 — адаптированная для запуска на устройстве версия Gemma 4 12B IT от Google DeepMind, подготовленная проектом t-firefly для LlamaPi. Это плотная мультимодальная модель семейства Gemma4 Unified, распространяемая в форматах GGUF и safetensors и ориентированная на локальное использование на периферийных устройствах. Модель принимает текст, изображения, аудио и видео, а выдаёт текст; поддерживает диалог, рассуждения, программирование и агентные сценарии. В исходной карточке заявлены контекст 256 тысяч токенов и поддержка более 140 языков. Модель подходит для локального чат-ассистента, анализа мультимодальных входных данных и задач на устройстве RK1828 через LlamaPi. Репозиторий указывает лицензию Apache-2.0. Сведения о качестве и ограничениях именно сборки для RK1828 в карточке не приведены.

EmanuelOverride/gemma-4-26B-A4B-it-heretic-APEX-GGUF — экспериментальная коллекция GGUF-квантов модели coder3101/gemma-4-26B-A4B-it-heretic. Модель относится к семейству Gemma 4, использует архитектуру mixture-of-experts (MoE) и предназначена для генерации текста. В репозитории представлены пользовательские конфигурации APEX, оптимизированные для многоуровневого квантования экспертных блоков и внимания к контексту. Доступны варианты с размером примерно от 12,9 до 15,8 GiB и плотностью квантования от 4,29 до 5,25 BPW. Конфигурации различаются распределением уровней точности, включая Q3_K, Q4_K и Q5_K, а также способом защиты routing-блоков, shared experts и Global Attention. Заявленные преимущества включают более эффективное использование памяти, потенциально высокую скорость на устаревшем оборудовании, сохранение связности и улучшенное внимание к деталям длинного контекста. Однако варианты являются экспериментальными, а заявленные различия в качестве, скорости и стабильности основаны на тестировании автора и могут зависеть от оборудования и сценария. Указан английский язык. Модель предназначена для инференса через инструменты, поддерживающие формат GGUF и соответствующую MoE-архитектуру. Стандартные и предсказуемые конфигурации APEX рекомендуется искать в репозитории mudler; разработчик также отмечает вклад авторов исходной архитектуры, abliteration-механики и imatrix-датасета. Лицензия — Apache-2.0.

DavidAU Gemma 4 E4B it The DECKARD V3 Expresso HERETIC UNCENSORED Thinking — дообученная DavidAU на закрытом наборе данных The Deckard модель Google Gemma 4 E4B Instruct. Это плотная мультимодальная модель с режимами instruct и thinking; по карточке базовая Gemma E4B имеет около 8 млрд параметров, из которых активны примерно 4,5 млрд. Автор указывает контекст до 128 тысяч токенов и поддержку текста, изображений, видео и аудио. Модель предназначена для диалога, рассуждений, программирования, творческого письма и ролевых сценариев. По заявлению автора, настройка усиливает характер, детализацию и глубину ответов; шаблон по умолчанию включает режим thinking, также доступен шаблон instruct. Карточка описывает модель как uncensored, поэтому она может выдавать более мрачный или интенсивный контент. Вес опубликован в формате bfloat16 Safetensors, библиотека — Transformers. Лицензия — Apache-2.0. Заявления о качестве основаны на внутренних тестах автора; независимая оценка в карточке не приведена.

Olafangensan/GLM-4.7-Flash-heretic — разговорная текстовая модель семейства GLM-4.7-Flash, созданная удалением части отказов методом ablation (abliteration). В README приведено сравнение с исходной моделью zai-org/GLM-4.7-Flash: частота отказов в указанной оценке снизилась с 50 до 15 из 100, а KL-дивергенция составила 0,0039. Метаданные указывают архитектуру GLM-4 MoE Lite, 4,1 млрд параметров и контекст до 202 752 токенов; README описывает исходную GLM-4.7-Flash как модель MoE 30B-A3B. Модель предназначена для генерации текста в диалоге и локального развертывания; среди возможных сценариев — ответы на вопросы, написание текстов и помощь в программировании. Исходная карточка приводит результаты на математических, научных и кодовых бенчмарках, однако они относятся к GLM-4.7-Flash и не подтверждают напрямую качество heretic-версии. В метаданных указаны английский и китайский языки, формат safetensors и библиотека Transformers; README также упоминает запуск через vLLM и SGLang. Лицензия — MIT. Уменьшение числа отказов не означает отсутствия отказов или гарантии безопасности и качества; опубликованные сравнительные замеры ограничены приведённой оценкой и не заменяют независимую проверку модели.

GRPO-Think-14B-8k — плотная языковая модель семейства Qwen2 с 14 млрд параметров, разработанная институтом INSAIT и дообученная на DeepSeek-R1-Distill-Qwen-14B с помощью GRPO. Она предназначена для проверки и ранжирования нескольких вариантов решения задачи по программированию: модель анализирует условие и кандидатные программы, затем определяет, какой вариант верен. В обучении использовались промежуточные рассуждения, отрицательные примеры и обучение на собственных ответах модели; суффикс 8k обозначает максимальный бюджет токенов рассуждения при обучении. Модель рассчитана на проверку решений задач соревновательного программирования, автоматическую оценку кода и использование в качестве функции вознаграждения при оптимизации генераторов кода. Она принимает текст условия и представления нескольких решений, а выдаёт текстовое суждение и ранжирование кандидатов. Карточка указывает контекстное окно 131072 токена; обучение проводилось на примерах для Python, C++ и Java, но языки программирования не являются естественными языками модели. Лицензия CC BY-NC-SA 4.0 требует указания авторства, распространения производных материалов на тех же условиях и не допускает коммерческого использования.

GRPO-Think-1.5B-8k — языковой кодовый верификатор, разработанный авторами проекта Aletheia-Bench. Это плотная модель семейства Qwen2 с 1,5 млрд параметров, дообученная методом GRPO на наборе Aletheia-Train с промежуточными рассуждениями, отрицательными примерами и обучением на собственных ответах модели. Суффикс 8k обозначает бюджет рассуждений до 8 тысяч токенов при обучении; метаданные указывают нативный контекст до 131 072 токенов. Модель принимает условие задачи по программированию и несколько вариантов решения, затем оценивает и ранжирует их, выбирая корректное. Её можно применять как функцию вознаграждения при оптимизации генерации кода, для автоматической проверки решений и в экспериментах с RLVR. Данные обучения включают задачи, связанные с Python, C++ и Java; это не означает, что модель генерирует код на этих языках. Модель основана на DeepSeek-R1-Distill-Qwen-1.5B и распространяется в формате safetensors. Лицензия CC-BY-NC-SA-4.0 требует атрибуции, ограничивает коммерческое использование и предусматривает распространение производных работ на тех же условиях.

Grug 67B A2B Datakit SFT 262K — контрольная точка Grug MoE после дообучения с учителем на подборке данных для агентных сценариев и рассуждений. Модель подготовлена open-athena на основе неопубликованной базовой контрольной точки; использованы данные OpenThoughts code, SWE-ZERO, Penfever, NuminaMath и наборы GLM для следования формату и уплотнения контекста. Это отдельный запуск SFT от выпуска 11 сентября 2026 года. Архитектура GrugMoeForCausalLM содержит 67 млрд параметров, из которых примерно 2 млрд активны на токен; используются 256 маршрутизируемых экспертов с выбором четырёх экспертов и один общий эксперт. Модель принимает текст и поддерживает генерацию в формате чата, интерфейс вызова инструментов и режим рассуждений. Контекст настроен на 262 144 токена, однако качество на длинном контексте не проверено. Для запуска требуется среда с поддержкой Grug MoE; совместимость со стандартным Transformers и заявленным рантаймом пока не подтверждена. Контрольная точка не прошла надлежащее тестирование или оценку: для неё нет установленных результатов генерационных проверок и бенчмарков, поэтому качество, безопасность и численная эквивалентность не подтверждены. Опубликована под лицензией OpenMDW-1.1.

Hercules-6.0-Llama-3.1-8B — дообученная Locutusque языковая модель на основе Llama-3.1-8B с архитектурой LlamaForCausalLM и 7,5 млрд параметров. Она предназначена для диалогов и выполнения инструкций, включая многошаговые запросы и вызовы функций, в научных и технических областях: биологии, химии, физике, математике, медицине и информатике. Модель поддерживает контекст до 131 072 токенов и рассчитана на английский и китайский языки. Её можно использовать для научно-технических чат-ботов, учебных помощников и генерации кода с вызовом функций. Карточка указывает лицензию Llama 3.1. Среди ограничений — токсичные примеры в обучающих данных, риск галлюцинаций и фактических ошибок, а также возможность злоупотребления функциями вызова инструментов.

Huihui-Ornith-1.0-35B-abliterated-MTP-UD-APEX-GGUF — это квантизированная GGUF-версия мультимодальной модели Huihui-Ornith-1.0-35B, разработанной huihui-ai и дополнительно модифицированной автором gbuzhf. Модель основана на архитектуре Qwen3.5 MoE с 256 экспертами и активирует 8 экспертов на токен. В неё встроена MTP-голова для speculative decoding, а также поддержка обработки изображений через отдельный vision projector. Для работы с изображениями требуется файл Huihui-Ornith-1.0-35B-abliterated-mmproj-F16.gguf; без него модель работает только с текстом. Доступны восемь вариантов квантизации объёмом от 14,37 до 30,21 ГБ, включая MTP-UD-Q6_K, MTP-UD-Q5_K_S, MTP-UD-Q4_K_XL и варианты MTP-APEX. Контекст в приведённом примере запуска настроен на 8192 токена. MTP-голова зафиксирована в формате Q8_0. В измерении на смеси запросов для программирования и редактирования текста средняя доля принятых черновых токенов составила 86,4%, а скорость — 44,1 токена в секунду, однако эти показатели относятся только к указанному тестовому стенду и не являются универсальными. Главная особенность модели — abliterated-версия, ориентированная на снижение или устранение отказов, связанных с исходными ограничениями поведения. Это может быть полезно для экспериментов и сценариев, где требуется более свободная генерация, но abliterating намеренно уводит веса от обученного оптимума и может ухудшать качество. Кроме того, imatrix была рассчитана на неabliterated-модели, поэтому распределение точности квантизации и описание маршрутизации экспертов могут быть не полностью оптимальными. Лицензия — MIT.

Theros/L3-ColdBrew-CoT-R1-test — текстовая языковая модель, созданная объединением заранее обученных моделей с помощью mergekit. В слиянии DARE TIES использованы Theros/L3-ColdBrew-CoT и DeepSeek-R1-Distill-Llama-8B с равными весами; в качестве базовой модели указана Theros/L3-ColdBrew-CoT. Архитектура — плотная Llama с классом LlamaForCausalLM, размер — 7,5 млрд параметров. Модель предназначена для генерации текста в диалоговом формате. Базовая модель связана с задачами рассуждения, математики и программирования, однако карточка не приводит отдельных оценок качества этой версии. Контекст составляет 8192 токена; доступны веса в формате safetensors, библиотека для работы — Transformers. Модель опубликована 26 января 2025 года. Условия лицензии в предоставленных данных не указаны. Результаты могут зависеть от запроса и сценария использования; карточка не сообщает об оценках качества или специализированных ограничениях.

LFM2.5-1.2B-JP-202606 — компактная текстовая чат-модель Liquid AI, дообученная на базе LiquidAI/LFM2.5-1.2B-Base. Она предназначена прежде всего для японских приложений, также поддерживает английский. В метаданных указано 1,5 млрд параметров и контекст 128 000 токенов; README приводит 1,17 млрд параметров и контекст 32 768 токенов. Архитектура — плотная LFM2 с 16 слоями: 10 блоками LIV-свёртки с двойным гейтингом и 6 блоками GQA. Модель подходит для диалоговых помощников, следования инструкциям, математики и кода, вызова инструментов, структурированных ответов и локальных персональных ассистентов. Разработчик отмечает улучшения в японском языке и рекомендует давать чёткие инструкции с ожидаемым форматом ответа. Модель не рекомендуется для задач, требующих обширных знаний. Лицензия в метаданных указана как other; конкретные условия следует сверять с карточкой репозитория.

AMD Llama-3.1-405B-Instruct-FP8-KV — это FP8-квантизированная версия инструкционной модели Meta-Llama-3.1-405B-Instruct, подготовленная компанией Advanced Micro Devices с использованием инструмента Quark и калибровочных образцов из набора данных Pile. Модель предназначена для генерации текста и выполнения инструкций в сценариях, где требуется развертывание крупной языковой модели с оптимизированным использованием памяти и вычислительных ресурсов. README не содержит дополнительных сведений о поддерживаемых языках, длине контекста и исходной архитектуре базовой модели. Квантизации подвергнуты все линейные слои, кроме lm_head; веса, активации и KV-кэш представлены в формате FP8 с симметричным масштабированием per-tensor. Экспорт выполняется в формате Quark safetensors, а развертывание возможно через совместимый с vLLM backend. По данным оценки на wikitext2, perplexity увеличилась с 1,8561 у исходной модели до 1,8951 у квантизированной версии; при этом результаты получены в режиме псевдоквантизации и могут отличаться от точности реального инференса. Для работы требуется Quark, а из-за размера модели может понадобиться мног GPU-развертывание. Лицензия указана как llama3.1; модификации распространяются с авторскими правами Advanced Micro Devices, Inc. за 2024 год.