II.5Безопасность программного кода и цепочки поставок

ValiantLabs_Muse-Glimmer-30B-Esper4-GGUF — это квантизированная версия модели Muse-Glimmer-30B-Esper4, разработанной ValiantLabs и опубликованной в формате GGUF. Квантизацию выполнил bartowski с использованием llama.cpp и imatrix. Модель содержит около 30 млрд параметров и предназначена для локального запуска через совместимые инструменты llama.cpp. Модель поддерживает обработку текста, а также изображений при использовании соответствующего файла mmproj. Она ориентирована на англоязычные сценарии, рассуждения, программирование, разработку и DevOps-задачи, включая работу с Python, JavaScript, TypeScript, Java, C++, C#, Rust, Go, Haskell, Bash, PowerShell, Jenkins, Terraform, Ansible, Docker, Kubernetes, Helm, Grafana, Prometheus и облачными платформами. В README также заявлен высокий уровень рассуждений; MTP не поддерживается. Доступно множество вариантов квантизации от BF16 до Q3 и IQ4. Вариант Q4_K_M размером около 17,31 ГБ указан как сбалансированный по качеству и размеру, а Q5 и Q6 рекомендуются для более высокого качества. Более компактные варианты требуют меньше оперативной памяти, но могут сильнее терять качество из-за квантизации. Размер контекстного окна и подробные результаты оценивания не указаны, поэтому пригодность для длинных контекстов и фактические показатели производительности оценить нельзя. Модель распространяется по лицензии Apache 2.0. Для мультимодального использования требуется отдельный mmproj-файл; конкретные аппаратные требования зависят от выбранного варианта квантизации.

Dolphin3.0-R1-Mistral-24B-GGUF — это квантизированная версия языковой модели Dolphin3.0-R1-Mistral-24B, разработанной cognitivecomputations и подготовленной в формате GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста на английском языке и запуска локально через llama.cpp, LM Studio и другие совместимые приложения. Модель основана на архитектуре Mistral и содержит 24 миллиарда параметров. Она обучалась на смесях данных для инструкционного следования, рассуждений, математики, программирования, function calling и агентных сценариев, включая наборы Dolphin, OpenCoder, Orca, Hermes, NuminaMath, Tulu и CodeFeedback. Доступны варианты квантизации от Q4 до Q8 и полноточный вариант f32; размер файлов варьируется примерно от 13,5 до 94,3 ГБ. Квантизация уменьшает требования к памяти, сохраняя приемлемое качество, однако более компактные варианты могут уступать исходной модели по точности. Сильными сторонами являются поддержка локального запуска, широкий выбор уровней квантизации и ориентация на рассуждения, математические задачи, код и выполнение инструкций. README не содержит данных о длине контекста, мультимодальности, подробных результатах оценки, системных требованиях или лицензии, поэтому эти характеристики нельзя достоверно определить.

GLM-4.5-GGUF — это GGUF-версия фундаментальной языковой модели GLM-4.5, разработанной Z.ai. Модель предназначена для создания интеллектуальных агентов и объединяет возможности рассуждения, программирования и взаимодействия с инструментами. Она поддерживает генерацию текста и рассчитана прежде всего на англоязычные и китайскоязычные сценарии. GLM-4.5 — гибридная reasoning-модель с двумя режимами работы: thinking mode для сложных рассуждений и использования инструментов и non-thinking mode для быстрых ответов. В модели 355 млрд общих параметров, из которых активно используется 32 млрд; архитектура построена с применением mixture-of-experts. Контекстное окно, дополнительные модальности и точные характеристики GGUF-квантизации в README не указаны. К сильным сторонам относятся сочетание рассуждений, программирования и агентных функций, а также возможность коммерческого использования и доработки. Ограничения включают высокие требования к вычислительным ресурсам исходной модели и отсутствие в предоставленных данных подробностей о конкретной GGUF-квантизации и совместимости с оборудованием. Модель распространяется под лицензией MIT.

GLM-5.3-Flash-GGUF — это GGUF-версия модели GLM-5.3-Flash, разработанной командой GLM-5 компании Z.ai; представленный репозиторий основан на модели zai-org/GLM-5.3-Flash и подготовлен с использованием методов Unsloth Dynamic 3.0. Модель предназначена для генерации текста, программирования, агентских сценариев и задач, требующих работы с длинным контекстом. Она поддерживает английский и китайский языки и относится к мультимодальным моделям, однако README не уточняет полный набор поддерживаемых модальностей и особенности их использования именно в данной GGUF-сборке. Архитектура сочетает разреженное и линейное внимание, а также использует Manifold-Constrained Hyper-Connections. Модель содержит 320 млрд параметров, из которых 18 млрд активируются при обработке запроса. Обучение проводилось на мультимодальном корпусе объёмом 30 трлн токенов. Заявлены повышенная эффективность, снижение стоимости обработки длинного контекста и сильные результаты в задачах программирования и использования инструментов; в README также указано контекстное окно до 300 000 токенов в отдельных оценках и до 1 млн токенов в NL2Repo. К ограничениям относятся высокие требования к ресурсам исходной модели, возможные потери качества из-за квантования и необходимость совместимого программного обеспечения: для запуска рекомендуется использовать llama.cpp с указанными изменениями или Unsloth Desktop. Конкретный формат квантования и требования к оперативной памяти в README не указаны. Модель распространяется по лицензии MIT.

Mellum2 Instruct — диалоговая языковая модель, разработанная JetBrains для прямых ответов без явного пошагового рассуждения. Она подходит для интерактивного чата, выполнения инструкций, помощи с кодом и использования инструментов. Модель построена на архитектуре Mixture-of-Experts: 64 эксперта, из которых для каждого токена активируются 8. Используются слои со скользящим окном и полным вниманием; контекст составляет 131 072 токена. По карточке модель получена из JetBrains/Mellum2-12B-A2.5B-Base с помощью дообучения на инструкциях и последующего обучения с подкреплением на задачах математики, программирования, использования инструментов, следования инструкциям, рассуждений и знаний. Указанный в метаданных размер — 1,9 млрд параметров; веса представлены в safetensors, библиотека — Transformers. Модель принимает текст и предназначена для генерации текстовых ответов. Карточка сообщает об английском языке. Для сложной отладки, планирования и многошаговых агентных сценариев разработчик рекомендует вариант Thinking. Лицензия — Apache-2.0.

Q36-35B-A3B-Opus4.7-Ablit-Heretic-OBLITERATUS-Hermes-MTP-Vision-Llama — мультимодальная модель семейства Qwen3.6-35B-A3B, опубликованная пользователем oktayd. Это производный вариант, собранный на основе Qwen3.6-35B-A3B с использованием нескольких этапов reasoning-дистилляции, ablation, Heretic и OBLITERATUS Nuclear, а также дообучения Hermes для function calling, агентских сценариев, работы с кодом, терминалом, файлами и репозиториями. Указанная в названии связь с Opus 4.7 относится только к унаследованной линии дистилляции и не означает включение проприетарной модели Claude. Модель предназначена для генерации текста, анализа изображений и текста, рассуждений, программирования, использования инструментов и агентских задач. Архитектура — mixture-of-experts Qwen3.6, представленная в GGUF как qwen35 или qwen3_5_moe: всего около 35 млрд параметров, из которых активируется около 3 млрд. Поддерживаются контекст до 262 144 токенов, английский язык и мультимодальный ввод через отдельный F16 vision projector. Доступны варианты квантования MXFP4_MOE и Q4_K_M для запуска в llama.cpp. По приведённым тестам модель особенно сильна в соблюдении сложных инструкций: в IFEval она получила 9/10 по строгим промптам и 17/18 по строгим инструкциям. На небольших выборках она показала сопоставимые с базовым сравнением результаты в HumanEval+, MMLU-Pro, GSM8K и BBH, однако уступила в MBPP+ и продемонстрировала проблемы с зацикливанием или усечением вывода в отдельных задачах MuSR. Поддержка одновременного использования Vision и MTP, финальная проверка FreeToken-сервинга и комбинированные мультимодальные сценарии ещё не подтверждены. Модель распространяется по лицензии Apache-2.0. Для работы с изображениями требуется основной GGUF-файл вместе с соответствующим vision projector; заявленная поддержка относится к llama.cpp.

Qwen3-Coder-480B-A35B-Instruct-GGUF — это квантованная версия инструкционной модели Qwen3-Coder-480B-A35B-Instruct, разработанной командой Qwen. Модель опубликована в формате GGUF для использования в совместимых приложениях, включая LM Studio, и предназначена прежде всего для генерации текста и работы с программным кодом в диалоговом формате. Квантование выполнено bartowski на основе llama.cpp, релиз b5962. В README указано обозначение исходной модели с общим размером 480B и конфигурацией A35B, однако подробности архитектуры, фактический размер конкретного GGUF-файла, поддерживаемые языки программирования и естественные языки, модальности и длина контекста не приведены. Формат GGUF и поддержка llama.cpp упрощают локальный запуск в совместимом программном обеспечении, но характеристики производительности, требования к памяти, качество ответов и ограничения конкретного уровня квантования в README не описаны. Лицензия модели и условия использования также не указаны; их следует уточнять на странице исходной модели Qwen/Qwen3-Coder-480B-A35B-Instruct и у распространителя квантованной версии.

DeepSeek-Coder-V2-Lite-Instruct-GGUF — это GGUF-квантизированная версия модели DeepSeek-Coder-V2-Lite-Instruct, разработанной DeepSeek и квантизированной пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и ассистирования в задачах программирования, включая написание и обработку кода, однако конкретный перечень поддерживаемых языков программирования и естественных языков в README не указан. Доступны варианты квантизации от Q2_K и IQ2_M до Q8_0 и экспериментального Q8_0_L, с размером файлов примерно от 6,32 до 17,09 ГБ. Более компактные варианты экономят оперативную память ценой снижения качества, тогда как Q5–Q8 описываются как высококачественные; для ряда конфигураций рекомендуются Q4–Q6. Варианты с суффиксом L используют F16 для весов embedding и output и отмечены как экспериментальные. Архитектура, число параметров, модальности, размер контекста и языки модели в предоставленном README не указаны. Модель рассчитана на локальный запуск через llama.cpp и использует специальный формат промпта с system prompt, сообщениями User и Assistant. Лицензия обозначена как deepseek-license; подробные условия в README не приведены, поэтому перед использованием следует ознакомиться с файлом LICENSE. Основные ограничения — отсутствие в README точных сведений о базовой архитектуре и характеристиках, а также неизбежная зависимость качества и требований к памяти от выбранного уровня квантизации.

Devstral-Small-2-24B-Instruct-2512-GGUF — квантизированная в формат GGUF версия модели Devstral-Small-2-24B-Instruct-2512 от Mistral, подготовленная ByteShape с использованием ShapeLearn. Метод ShapeLearn подбирает тип данных для каждого тензора, чтобы сохранять высокое качество при малой разрядности. Модель предназначена для генерации текста и задач, связанных с программированием, включая function calling, а также поддерживает мультимодальные сценарии с обработкой изображений. Доступны варианты с эффективной разрядностью от 2,34 до 4,04 бит на вес и размером от 6,9 до 11,9 ГБ. Качество оценивалось на BFCL-V3, LiveCodeBench V6, HumanEval, GSM8K-V, Math500, GSM8K и MMLU; в README также указана оценка vision-возможностей. Модели оптимизированы для GPU NVIDIA RTX 40-й и 50-й серий при использовании llama.cpp и могут запускаться через Ollama. Для работы с изображениями в llama.cpp необходимы файл модели и соответствующий мультимодальный projector-файл; размер контекста в приведённом примере составляет 8192 токена. Основные преимущества — широкий выбор компромиссов между качеством, скоростью и потреблением памяти, а также поддержка низкобитной квантизации и мультимодального использования. Ограничения включают возможное снижение качества на наиболее компактных вариантах и необходимость совместимого окружения для запуска; конкретные языки, полная архитектура и точные характеристики контекстного окна в README не указаны. Модель распространяется по лицензии Apache-2.0.

Dolphin 2.9.3 Yi 1.5 34B 32k — разговорная языковая модель, созданная Eric Hartford, Lucas Atkins, Fernando Fernandes и командой Cognitive Computations. Это дообученная на основе 01-ai/Yi-1.5-34B-32k плотная модель семейства Llama с 33,9 млрд параметров; она использует шаблон ChatML и формат PyTorch. Контекст базовой модели составляет 32 768 токенов, а дообучение проводилось с длиной последовательности 8 192 токена. Модель предназначена для диалогов, следования инструкциям, написания и анализа кода, решения математических задач, вызова функций и начальных агентных сценариев. В карточке перечислены наборы данных для диалогов, программирования, математики и работы с инструментами. Модель описана разработчиками как uncensored и склонная выполнять запросы без защитных ограничений, поэтому её ответы могут включать небезопасный или неэтичный контент. Лицензия Apache 2.0 разрешает коммерческое использование; разработчики рекомендуют самостоятельно добавить слой выравнивания перед предоставлением модели пользователям.

GLM-4.7-GGUF — это GGUF-версия языковой модели GLM-4.7, разработанная организацией Z.ai и опубликованная Unsloth. Модель предназначена прежде всего для генерации текста, программирования и агентских сценариев с использованием инструментов. Она ориентирована на multilingual coding, задачи в терминале, веб-навигацию, математическое и общее рассуждение, создание веб-интерфейсов и презентаций, а также на диалоги, творческое письмо и ролевые сценарии. В карточке указаны поддерживаемые языки English и Chinese, библиотека Transformers и базовая модель zai-org/GLM-4.7. Заявлены режимы thinking before acting, interleaved thinking и preserved thinking, однако сведения о размере модели, точной архитектуре, длине контекста и доступных модальностях отсутствуют. По приведённым результатам модель показывает сильные стороны в кодировании, использовании инструментов, математике и рассуждении; среди ограничений следует учитывать, что показатели зависят от конкретных бенчмарков и не гарантируют аналогичное качество в каждом прикладном сценарии. Модель распространяется по лицензии MIT. README не содержит подробностей о требованиях к оборудованию, конкретных квантизациях GGUF или полной процедуре локального запуска.

Qwen3.5-4B-KIMI-Distill — мультимодальная модель с 4 млрд параметров, созданная clzoro дообучением Qwen3.5-4B на трассах рассуждений, дистиллированных из KIMI-K2.5. Она сочетает языковую модель с энкодером изображений и сохраняет возможности понимания изображений исходной модели. В карточке Hugging Face указаны архитектура Qwen3.5, поддержка диалога и изображений, а также лицензия Apache-2.0. Модель предназначена для задач рассуждения, прежде всего генерации и анализа кода, решения математических задач и ответов на вопросы по естественным наукам; также может работать с изображениями. Данные дообучения включают 554 381 пример и около 2 млрд токенов рассуждений; основная доля примеров посвящена программированию. Карточка заявляет поддержку английского и китайского языков. Модель может ошибаться в ходе рассуждений и в выводах, а на творческих и открытых диалоговых задачах может работать хуже. Её знания ограничены обучающими данными; ответы в медицинской, юридической и финансовой тематиках требуют проверки.

Qwen3-Coder-30B-A3B-Instruct-6bit-DWQ-lr3e-7 — это MLX-версия инструкционной модели для генерации текста и решения задач, связанных с программированием, из семейства Qwen3-Coder. Модель преобразована из Qwen/Qwen3-Coder-30B-A3B-Instruct в формат MLX с использованием mlx-lm 0.26.2 и предназначена для запуска через библиотеку mlx-lm, в том числе в сценариях диалогового взаимодействия и генерации ответов на текстовые запросы. Из доступных данных известны обозначения размера 30B, конфигурации A3B и 6-битного квантования DWQ. Модель работает в текстовой модальности; сведения о поддерживаемых языках, размере контекстного окна, архитектурных деталях, результатах тестирования и ограничениях качества в README не указаны. Использование разрешено по лицензии Apache 2.0.

INTELLECT-3.1 — языковая модель Prime Intellect для генерации текста и рассуждений, продолженное обучение INTELLECT-3 с подкреплением на задачах математики, программирования, разработки программного обеспечения и работы с агентами. README описывает её как Mixture-of-Experts с 106 млрд параметров, из которых 12 млрд активируются; метаданные указывают 8,5 млрд параметров и архитектуру GLM-4 MoE на базе zai-org/GLM-4.5-Air-Base. Эти сведения о размере расходятся между источниками. Модель рассчитана на диалоговые сценарии, решение задач и агентные рабочие процессы. Указанная длина контекста — 131 072 токена. В карточке заявлена поддержка английского языка; метаданные отмечают возможность чата. README описывает запуск через vLLM на двух H200 и настройку интерфейса вызова инструментов, но это не подтверждает отдельный pipeline для вызова инструментов. Лицензия модели в метаданных — MIT.

DeepSeek-V4-Flash-0731-MLX-Serve-mixed-2-3-8bit — это квантованная MLX-конверсия модели DeepSeek-V4-Flash-0731, опубликованная ddalcu и предназначенная для запуска через mlx-serve на Apple Silicon. Модель рассчитана на генерацию текста, включая диалоги, программирование, задачи coding agent и сценарии с вызовом инструментов. Она совместима с OpenAI, Anthropic и Ollama HTTP API, поэтому может использоваться с существующими клиентами и интерфейсами. В основе лежит полная модель размером 284B параметров с конфигурацией A13B. Сборка занимает 115,4 ГБ и использует смешанную точность: основные routed experts в слоях 0–38 имеют 2- и 3-битное квантование с калибровкой по матрице важности, последние четыре слоя — 4-битное, а attention, shared experts, embeddings, LM head и ряд чувствительных компонентов — 8-битную или более высокую точность. Архитектура включает MQA, сжатую историю внимания, hash-routed MoE, Sinkhorn hyper-connections, DSML-формат вызова инструментов и DSpark speculative decoding. Поддерживаются текстовые входы и выходы; в README не указаны дополнительные модальности и языковой охват. Для работы требуется Mac на Apple Silicon с не менее чем 128 ГБ unified memory, macOS 26.2 или новее и mlx-serve. Ожидаемый объём занятой памяти составляет около 98 ГБ, либо примерно 109 ГБ при использовании DSpark; заявлена скорость около 53 токенов в секунду на M-series Mac с 128 ГБ памяти и включённым DSpark. Сильными сторонами являются запуск полной 284B-A13B модели на одном совместимом Mac, native MLX-реализация без Python и калиброванное квантование, направленное на сохранение качества в агентских сценариях. Ограничениями остаются очень высокие требования к памяти и совместимость только с Apple Silicon и mlx-serve. Лицензия — MIT.

Shining Valiant 3 — модель Valiant Labs, дообученная на базе mistralai/Ministral-3-14B-Reasoning-2512. Это плотная модель семейства Mistral 3 для генерации текста, диалога и рассуждений. Разработчики позиционируют её как помощника для научных задач, проектирования ИИ, программирования и общего решения сложных задач; обучение включало научные данные для рассуждений, созданные с помощью DeepSeek R1 0528. Модель рассчитана на диалог и следование инструкциям, а также на творческие и аналитические задачи. Карточка сообщает о поддержке английского языка. Репозиторий использует формат safetensors и библиотеку Transformers; лицензия — Apache-2.0. В README не приведены данные о числе параметров сверх идентификатора базовой модели или о длине контекста. Утверждения о высокой скорости и работе на настольных и мобильных устройствах приведены разработчиком без количественных характеристик.

Ornith-1.5-9B-MXFP4_Hybrid-Imatrix-GGUF — это квантизированная GGUF-сборка модели Ornith-1.5-9B, разработанной Ornith AI и опубликованной пользователем jashepp. Модель предназначена для генерации текста, диалоговых сценариев, агентного использования, работы с инструментами и особенно для программирования и редактирования кода. Она ориентирована на задачи, где важны следование инструкциям, планирование и пошаговое рассуждение; автор рекомендует сохранять режим reasoning/thinking включённым. Модель имеет размер 9B параметров и распространяется в нескольких вариантах смешанной точности с использованием MXFP4, Q8_0 и F16. В сборках применена importance matrix (imatrix), а точность распределена по слоям вручную: наиболее чувствительные компоненты и общие части модели сохраняются в более высокой точности, тогда как разреженные экспертные блоки сжимаются до MXFP4. Доступны файлы размером примерно от 4,77 до 11,4 ГБ. Заявлен английский язык; модель относится к текстовым генеративным моделям и основана на архитектуре и весах Ornith-1.5-9B. Сильными сторонами являются улучшенное следование инструкциям, рассуждение, агентные сценарии и сохранение качества при снижении требований к памяти благодаря гибридной квантизации. Ограничения включают компромисс между размером и качеством в разных вариантах, отсутствие в README сведений о длине контекста, поддерживаемых языках помимо английского и подробных количественных результатах. Модель распространяется по лицензии MIT.

Qwen3.5-9B-Qworus-V2 — гибридная языковая модель для генерации текста, разработанная на основе объединения моделей empero-ai/Qwen3.8-9B-Distill и ornith-ai/Ornith-1.5-9B. Модель создана методом 50/50 DARE-TIES merge и предназначена для задач программирования, рассуждений, вызова инструментов, планирования, проектирования и ответов на вопросы. Модель доступна через Transformers и ориентирована на text generation. Указан размер 9B; поддерживаются форматы Safetensors и GGUF. Для GGUF предоставлены варианты квантования Q4_K_L для систем с ограниченными ресурсами и Q6_K_L для более высокой точности. В этих вариантах слои токенов и вывода повышены до Q8_0, а тензоры ssm_* используют BF16 или Q8_0 для повышения точности на длинных контекстах. Для квантований imatrix обучена на смеси данных, включающей код, бизнес-тексты, математику и Wikipedia. Модель не является полностью uncensored по умолчанию, поскольку обе исходные модели не были uncensored. В README не указаны поддерживаемые языки, максимальная длина контекста и лицензия, поэтому эти характеристики нельзя определить по имеющимся данным.

trohrbaugh/Qwen3.6-35B-A3B-heretic-v2 — модифицированная версия Qwen3.6-35B-A3B, созданная методом abliteration: параметры модели изменены для снижения частоты отказов. В приведённом сравнении модель отказала в 0 из 100 случаев против 99 из 100 у исходной версии; KL-дивергенция относительно оригинала составляет 0,1263. Репозиторий содержит веса в формате Safetensors, совместимые с Transformers и рядом движков инференса. Модель сочетает языковую часть на архитектуре MoE с визуальным энкодером. Всего в ней 35 млрд параметров, из которых активируются около 3 млрд; она принимает текст и изображения, поддерживает диалог и имеет контекст 262 144 токена с возможностью расширения до 1 010 000. README описывает применение исходного семейства для агентного программирования, работы с репозиториями, вызова инструментов и визуальных задач. Модель подходит для диалоговых и агентных сценариев, генерации и анализа кода, а также вопросов по изображениям. Снижение числа отказов не гарантирует корректность ответов и может увеличить вероятность выдачи нежелательного или небезопасного содержания. Лицензия — Apache-2.0.

OS-Software/Gemma 4 12B IT QAT Q4_0 Unquantized Heretic JA v2 — экспериментальная производная модели Google Gemma 4 12B IT. Репозиторий описывает Gemma 4 как мультимодальную модель Google DeepMind для работы с текстом, изображениями, видео и аудио; эта версия дообучена на базе google/gemma-4-12B-it и помечена как uncensored/abliterated. Указаны гибридное внимание с локальными окнами и глобальными слоями, рассуждение, вызов инструментов, генерация и исправление кода, а также мультиязычная поддержка. Для семейства 12B заявлено контекстное окно до 256K токенов и поддержка распознавания речи и перевода аудио в текст; метаданные указывают Transformers, safetensors и лицензию Apache-2.0. Карточка позиционирует модель для исследований и экспериментов, включая исследования безопасности, выравнивания и red teaming, и просит не развёртывать её в публичных сервисах или пользовательских приложениях. Возможны предвзятые, неточные или устаревшие ответы, трудности со сложными инструкциями и языковыми нюансами; для этой версии отдельные измерения качества не приведены.

Карточка модели unsloth/GLM-4.7-REAP-218B-A32B на Hugging Face совпадает с карточкой cerebras/GLM-4.7-REAP-218B-A32B, поэтому описание составлено по ней. GLM-4.7-REAP-218B-A32B — сжатая разреженная языковая модель семейства GLM-4.7 от Cerebras. Она получена методом REAP, который удаляет из смеси экспертов менее значимые компоненты; после прунинга дообучение не проводилось. Модель содержит 218 млрд параметров, из которых 32 млрд активируются на токен, и поддерживает контекст до 202 752 токенов. Модель предназначена для генерации кода и текста, агентных рабочих процессов, понимания репозиториев и вызова функций. В карточке заявлено, что она сохраняет близкое к исходной GLM-4.7 качество при уменьшении объёма памяти примерно на 40%; для версии BF16 приведены характеристики, но результаты оценки не указаны. Модель можно развернуть с актуальным vLLM. Лицензия — MIT. README рекомендует вариант BF16 для последующей низкобитной квантизации.

Mellum2-12B-A2.5B-Thinking-GGUF — GGUF-квантизированная версия модели Mellum2-12B-A2.5B-Thinking, разработанной JetBrains. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, решения задач с пошаговым рассуждением, программирования, математического анализа и работы с инструментами. В README указано, что поддерживается английский язык. Модель имеет обозначение 12B-A2.5B-Thinking; точная архитектура, длина контекста и распределение параметров в README не раскрыты. Доступны варианты от BF16 до различных уровней квантизации GGUF, включая Q8_0, Q6_K, Q5_K и Q4_K; размеры файлов составляют примерно от 8 до 24 ГБ для перечисленных вариантов. Для запуска поддерживаются llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Используется специальный chat-шаблон с маркерами im_start и im_end. Среди сильных сторон заявлены высокие результаты на задачах программирования, математики, общих знаний и следования инструкциям: например, 69,9% pass@1 на LiveCodeBench v6, 87,0% exact match на GSM-Plus и 86,2% accuracy на MMLU-Redux. Эти результаты помечены как непроверенные. Ограничения включают зависимость качества и требований к памяти от выбранной квантизации, неизвестную длину контекста и отсутствие данных о мультимодальности; README описывает модель как текстовую. Лицензия — Apache-2.0.

Mira — разговорная языковая модель SmilyAI для технического общения, рассуждений, математики и помощи с программированием. Она основана на Nova-2-Large, созданной на базе Qwen3-14B слиянием DARE-TIES, а затем дообучена с помощью LoRA. В репозитории указана архитектура Qwen3ForCausalLM, около 14 млрд параметров по метаданным и контекст до 40 960 токенов. Модель предназначена для генерации ответов в диалоге, объяснения технических тем, написания и отладки кода, а также решения математических задач. Карточка описывает дружелюбный, энергичный стиль общения и возможность конструктивного шуточного режима при проверке кода. Основной язык — английский; доступны веса safetensors для Transformers. Mira может ошибаться в фактах, коде и математике, неверно понимать неоднозначные запросы и давать уверенные, но неправильные объяснения; результаты следует проверять человеком, особенно перед использованием в важных системах. Лицензия обозначена как other, конкретные условия использования в карточке не раскрыты.

OpenThinker3-7B — языковая модель с открытыми весами, разработанная командой Open Thoughts для задач рассуждения. Она дообучена методом supervised fine-tuning на базе Qwen/Qwen2.5-7B-Instruct на наборе OpenThoughts3-1.2M, включающем вопросы по математике, программированию и естественным наукам. По данным авторов, модель обучалась без RL и показала улучшение по сравнению с предыдущими моделями OpenThinker в приведённых тестах. Модель имеет плотную архитектуру Qwen2 с 7,1 млрд параметров, принимает текст и генерирует текст. Контекст составляет до 32 768 токенов; поддерживаются чатовый режим и интерфейс вызова инструментов. Модель предназначена для решения математических задач, написания и анализа кода, научных вопросов и пошагового рассуждения. Доступна по лицензии Apache 2.0.

Jongbin разработал эту разговорную языковую модель дообучением Qwen/Qwen2.5-Coder-7B-Instruct с помощью TRL. Модель построена на плотной архитектуре Qwen2 и содержит 7,1 млрд параметров; она предназначена для генерации текста в формате диалога. Пример в карточке показывает ответ на вопрос общего характера, а базовая модель ориентирована на генерацию, анализ и исправление программного кода. Модель принимает текст и выдаёт текст. Нативная длина контекста составляет 32 768 токенов; для запуска описан Transformers pipeline. Лицензия в предоставленных данных не указана.

Карточка модели ariancort/MiniCPM5-2B на Hugging Face совпадает с карточкой developerjeremylive/MiniCPM5-2B-etheroi, поэтому описание составлено по ней. MiniCPM5-2B-etheroi — компактная языковая модель из серии MiniCPM5, представленная в карточке MiniCPM5-2B. Это плотная причинная Transformer-модель с архитектурой LlamaForCausalLM и примерно 2,2 млрд параметров. Она предназначена для локальных помощников, программных агентов и сценариев, где важны небольшие требования к ресурсам и длинный контекст. Модель генерирует текст и поддерживает контекст до 131 072 токенов. В карточке отмечены навыки программирования, математики, понимания длинного контекста, следования инструкциям и работы с инструментами; метаданные также указывают разговорный сценарий. Модель рассчитана на английский и китайский языки и доступна в формате safetensors для Transformers; README описывает локальный запуск на GPU и CPU и серверный запуск через vLLM и SGLang. Модель выпущена под лицензией Apache-2.0. Ответы могут быть неточными, предвзятыми или оскорбительными; выводы по медицине, финансам, праву и политике не проверены экспертами и не являются профессиональной консультацией. README не указывает отдельную базовую модель для этой версии.

MiniCPM5-2B-etheroi — компактная языковая модель из серии MiniCPM5, представленная в карточке MiniCPM5-2B. Это плотная причинная Transformer-модель с архитектурой LlamaForCausalLM и примерно 2,2 млрд параметров. Она предназначена для локальных помощников, программных агентов и сценариев, где важны небольшие требования к ресурсам и длинный контекст. Модель генерирует текст и поддерживает контекст до 131 072 токенов. В карточке отмечены навыки программирования, математики, понимания длинного контекста, следования инструкциям и работы с инструментами; метаданные также указывают разговорный сценарий. Модель рассчитана на английский и китайский языки и доступна в формате safetensors для Transformers; README описывает локальный запуск на GPU и CPU и серверный запуск через vLLM и SGLang. Модель выпущена под лицензией Apache-2.0. Ответы могут быть неточными, предвзятыми или оскорбительными; выводы по медицине, финансам, праву и политике не проверены экспертами и не являются профессиональной консультацией. README не указывает отдельную базовую модель для этой версии.

OpenCodeReasoning-Nemotron-7B-GGUF — это квантизированная версия языковой модели OpenCodeReasoning-Nemotron-7B, разработанной NVIDIA и опубликованной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и задач, связанных с программированием и рассуждениями, включая работу с исходным кодом. В карточке указана поддержка английского языка. Модель содержит 7 миллиардов параметров и распространяется в нескольких вариантах точности и размера: от BF16 до различных конфигураций Q3, Q4, Q5, Q6, Q8 и IQ. Квантизация выполнена с использованием llama.cpp и метода imatrix. Доступны локальный запуск через llama.cpp, LM Studio и совместимые проекты; для общения рекомендуется шаблон сообщений с маркерами im_start и im_end. Ключевое преимущество модели — возможность локального запуска при выборе подходящего уровня квантизации: варианты Q6 и Q5 обеспечивают высокое качество, а Q3 и некоторые Q4 требуют меньше оперативной памяти. Ограничения включают возможные потери качества в более компактных вариантах, ориентацию на английский язык и отсутствие в предоставленных данных сведений об архитектуре, максимальном размере контекста и мультимодальных возможностях. Указанная лицензия — Apache-2.0.

Карточка модели luganoquant/OpenThinker3-7B на Hugging Face совпадает с карточкой open-thoughts/OpenThinker3-7B, поэтому описание составлено по ней. OpenThinker3-7B — языковая модель с открытыми весами, разработанная командой Open Thoughts для задач рассуждения. Она дообучена методом supervised fine-tuning на базе Qwen/Qwen2.5-7B-Instruct на наборе OpenThoughts3-1.2M, включающем вопросы по математике, программированию и естественным наукам. По данным авторов, модель обучалась без RL и показала улучшение по сравнению с предыдущими моделями OpenThinker в приведённых тестах. Модель имеет плотную архитектуру Qwen2 с 7,1 млрд параметров, принимает текст и генерирует текст. Контекст составляет до 32 768 токенов; поддерживаются чатовый режим и интерфейс вызова инструментов. Модель предназначена для решения математических задач, написания и анализа кода, научных вопросов и пошагового рассуждения. Доступна по лицензии Apache 2.0.

Darwin-28B-Opus — языковая модель для генерации текста и многошаговых рассуждений, созданная Darwin V7 слиянием Qwen3.6-27B и её варианта, дообученного на рассуждениях в стиле Claude Opus. Модель сохраняет плотную архитектуру Qwen3.6 с гибридным вниманием и содержит 27,6 млрд параметров; веса представлены в BF16 и доступны в формате safetensors. Поддерживается режим рассуждений, а интерфейс предусматривает вызов инструментов. Модель предназначена для решения сложных задач по естественным наукам и математике, генерации и отладки кода, а также других задач, требующих цепочки рассуждений. В карточке заявлены английский как основной язык, а также поддержка корейского, китайского и японского. Для задач GPQA Diamond авторы сообщают результат 88,89% при трёхэтапном адаптивном оценивании; этот показатель зависит от описанного протокола и не равен результату обычного одиночного ответа. Для запуска весов BF16 требуется около 55 ГБ видеопамяти. Модель может выдавать многословные рассуждения; длину ответа можно ограничивать параметром max_new_tokens. Лицензия — Apache 2.0.