II.4Отладка, тестирование и качество ПО

duyntnet/granite-8b-code-instruct-imatrix-GGUF — набор GGUF-квантизаций модели Granite-8B-Code-Instruct, разработанной IBM Research. Модель создана на основе Granite-8B-Code-Base-4K и дообучена на наборе инструкционных данных с разрешительными лицензиями для улучшения следования инструкциям, логического рассуждения и решения задач. Модель предназначена для генерации кода по инструкциям и создания ассистентов программирования. Она содержит около 8 млрд параметров, относится к авторегрессионным моделям генерации текста и поддерживает контекст до 4K токенов. В карточке указана поддержка английского языка и текстовая модальность. GGUF-квантизации можно запускать через llama.cpp, KoboldCPP, Ollama и text-generation-webui. К сильным сторонам относятся специализация на задачах программирования, следование инструкциям и навыки рассуждения. Ограничения включают контекст в 4K токенов, ориентацию на английский язык и зависимость характеристик производительности и качества от выбранного варианта квантизации. Для использования доступны клиенты и интерфейсы, совместимые с GGUF. Исходная модель распространяется по лицензии Apache 2.0; для конкретных квантизованных файлов в карточке также указана лицензия other.

GRaPE 2 Flash — мультимодальная модель семейства GRaPE, разработанная под брендом SLAI (Skinnertopia Lab for Artificial Intelligence). Это дообученная версия Qwen3-VL-8B-Thinking с архитектурой Qwen3-VL; в карточке указано около 9 млрд параметров. Модель принимает изображения и текст и формирует текстовые ответы. Она рассчитана на развертывание на потребительском оборудовании и предлагает режимы управления глубиной рассуждений. Основные сценарии — программирование, задачи по науке, технике, инженерии, искусству и математике, логические рассуждения и структурированное решение задач, в том числе с визуальными данными. Доступные языковые метки охватывают английский, китайский, французский, немецкий, испанский, японский, корейский, португальский, русский и арабский. Обучающие данные закрыты; в карточке нет результатов бенчмарков, поэтому качество на конкретных задачах следует проверять отдельно. Модель выпущена по лицензии Apache 2.0.

Карточка модели IQuestLab/IQuest-Coder-V1-14B-Instruct на Hugging Face совпадает с карточкой IQuestLab/IQuest-Coder-V1-7B-Instruct, поэтому описание составлено по ней. IQuest-Coder-V1-7B-Instruct — модель генерации кода из семейства IQuest-Coder-V1, разработанного IQuestLab для помощи в программировании и анализа кода. Версия Instruct предназначена для выполнения инструкций и повседневных задач кодирования; модель также рассчитана на работу с инструментами и CLI-агентами. Модель имеет плотную авторегрессионную архитектуру IQuestCoderForCausalLM и содержит 7,2 млрд параметров. Вариант 7B использует 14 слоёв и Grouped Query Attention; заявленная длина контекста — 128 тыс. токенов. Модель принимает текст и генерирует текст, включая код; карточка описывает поддержку интерфейса вызова инструментов, а также предварительную генерацию HTML и SVG. В README сообщается о специализированном обучении на эволюции репозиториев и о результатах на бенчмарках кодирования, но также отмечаются ограничения следования инструкциям, управления длинным контекстом и многошаговыми вызовами инструментов. Сгенерированный код модель не исполняет, а точность может снижаться на специализированных и проприетарных фреймворках. Лицензия указана как other, поэтому конкретные условия использования следует проверять в репозитории модели.

Карточка модели IQuestLab/IQuest-Coder-V1-40B-Loop-Thinking на Hugging Face совпадает с карточкой IQuestLab/IQuest-Coder-V1-7B-Instruct, поэтому описание составлено по ней. IQuest-Coder-V1-7B-Instruct — модель генерации кода из семейства IQuest-Coder-V1, разработанного IQuestLab для помощи в программировании и анализа кода. Версия Instruct предназначена для выполнения инструкций и повседневных задач кодирования; модель также рассчитана на работу с инструментами и CLI-агентами. Модель имеет плотную авторегрессионную архитектуру IQuestCoderForCausalLM и содержит 7,2 млрд параметров. Вариант 7B использует 14 слоёв и Grouped Query Attention; заявленная длина контекста — 128 тыс. токенов. Модель принимает текст и генерирует текст, включая код; карточка описывает поддержку интерфейса вызова инструментов, а также предварительную генерацию HTML и SVG. В README сообщается о специализированном обучении на эволюции репозиториев и о результатах на бенчмарках кодирования, но также отмечаются ограничения следования инструкциям, управления длинным контекстом и многошаговыми вызовами инструментов. Сгенерированный код модель не исполняет, а точность может снижаться на специализированных и проприетарных фреймворках. Лицензия указана как other, поэтому конкретные условия использования следует проверять в репозитории модели.

Карточка модели IQuestLab/IQuest-Coder-V1-7B-Base на Hugging Face совпадает с карточкой IQuestLab/IQuest-Coder-V1-7B-Instruct, поэтому описание составлено по ней. IQuest-Coder-V1-7B-Instruct — модель генерации кода из семейства IQuest-Coder-V1, разработанного IQuestLab для помощи в программировании и анализа кода. Версия Instruct предназначена для выполнения инструкций и повседневных задач кодирования; модель также рассчитана на работу с инструментами и CLI-агентами. Модель имеет плотную авторегрессионную архитектуру IQuestCoderForCausalLM и содержит 7,2 млрд параметров. Вариант 7B использует 14 слоёв и Grouped Query Attention; заявленная длина контекста — 128 тыс. токенов. Модель принимает текст и генерирует текст, включая код; карточка описывает поддержку интерфейса вызова инструментов, а также предварительную генерацию HTML и SVG. В README сообщается о специализированном обучении на эволюции репозиториев и о результатах на бенчмарках кодирования, но также отмечаются ограничения следования инструкциям, управления длинным контекстом и многошаговыми вызовами инструментов. Сгенерированный код модель не исполняет, а точность может снижаться на специализированных и проприетарных фреймворках. Лицензия указана как other, поэтому конкретные условия использования следует проверять в репозитории модели.

IQuest-Coder-V1-7B-Instruct — модель генерации кода из семейства IQuest-Coder-V1, разработанного IQuestLab для помощи в программировании и анализа кода. Версия Instruct предназначена для выполнения инструкций и повседневных задач кодирования; модель также рассчитана на работу с инструментами и CLI-агентами. Модель имеет плотную авторегрессионную архитектуру IQuestCoderForCausalLM и содержит 7,2 млрд параметров. Вариант 7B использует 14 слоёв и Grouped Query Attention; заявленная длина контекста — 128 тыс. токенов. Модель принимает текст и генерирует текст, включая код; карточка описывает поддержку интерфейса вызова инструментов, а также предварительную генерацию HTML и SVG. В README сообщается о специализированном обучении на эволюции репозиториев и о результатах на бенчмарках кодирования, но также отмечаются ограничения следования инструкциям, управления длинным контекстом и многошаговыми вызовами инструментов. Сгенерированный код модель не исполняет, а точность может снижаться на специализированных и проприетарных фреймворках. Лицензия указана как other, поэтому конкретные условия использования следует проверять в репозитории модели.

JackOD-9B-Coder-MTP-GGUF — текстовая модель для генерации кода, разработанная ManniX-ITA. Это GGUF-квантизации модели JackOD-9B-Coder, созданной как объединение нескольких моделей на общей базе Qwen/Qwen3.5-9B: DeltaCoder-9B, Qwopus3.5-9B-coder и Ornith-1.5-9B. Модель ориентирована на многошаговую агентную разработку, продолжение задач между несколькими ходами диалога и работу с инструментами до завершения задачи. Поддерживает английский язык и предназначена прежде всего для программирования, рассуждений и сценариев tool-calling. Модель имеет архитектуру Qwen3.5, около 9,65 млрд параметров, формат GGUF и MTP-компонент, унаследованный от базовой модели. Доступны многочисленные варианты квантизации, включая F16, Q8_0, Q6_K, Q5_K_M, Q4_K_M и более компактные IQ- и K-варианты; квантизации K и IQ откалиброваны с помощью imatrix. Несмотря на наличие унаследованных метаданных vision, модель не содержит vision tower и является текстовой. В предоставленных оценках она показывает сильные результаты на задачах генерации кода, включая LiveCodeBench v6, однако сведения о производительности в агентном harness основаны на небольшом числе запусков и не являются полноценной статистикой. Модель распространяется по лицензии Apache-2.0.

Laguna M.1 GGUF — независимая общественная конверсия и набор квантизированных GGUF-версий модели Laguna M.1, разработанной Poolside. Модель предназначена для генерации кода, задач программирования с длинным контекстом и агентских сценариев локального запуска. Данный репозиторий содержит производные артефакты, созданные на основе исходных BF16 safetensors Poolside, а не официальный релиз разработчика. Исходная Laguna M.1 — разреженная MoE-модель с 225 млрд общих параметров и 23 млрд активируемых параметров на токен. Она использует 70 слоёв с глобальным вниманием, 256 разреженных экспертов после первых трёх плотных слоёв, маршрутизацию top-k=16, RoPE с YaRN и механизм softplus attention output gating. Заявленное контекстное окно составляет 262 144 токена. Доступны варианты квантизации от наиболее компактных IQ1_S_R4 размером 43,54 GiB до BF16 размером 420,71 GiB; качество и требования к памяти зависят от выбранного варианта. Сильными сторонами модели являются специализированная направленность на программирование, поддержка сверхдлинного контекста и возможность локального использования через GGUF. Для запуска требуется совместимый runtime: подтверждена поддержка ik_llama.cpp начиная с версии, включающей соответствующие изменения, тогда как другие средства могут потребовать отдельной реализации поддержки Laguna. Модель и представленные GGUF-артефакты распространяются с метаданными лицензии Apache License 2.0; конверсия является независимой, а торговые названия и брендинг Poolside остаются собственностью Poolside.

Macaron-V1-Coding-Venti — кодовая модель MindLab Research из семейства Macaron-V1. Это объединённый чекпойнт: специалист по программированию Macaron-V1-Venti L2 Coding слит с базовыми весами GLM-5.2 BF16. Модель предназначена для понимания кода, работы с репозиториями, терминалом и сценариев программного агента; её можно запускать как обычную причинную языковую модель без подключения LoRA-адаптера или маршрутизатора. В метаданных указаны архитектура GLM MoE DSA, 30,4 млрд параметров, контекст до 1 048 576 токенов, библиотека Transformers и поддержка английского и китайского языков. Чекпойнт распространяется под лицензией MIT. Отдельной оценки этого объединённого варианта нет: приведённые в README результаты относятся к маршрутизированной родительской системе Macaron-V1-Venti и не измеряют качество данной модели. Модель специализируется на программировании и не включает другие специализации родительской системы; README также отмечает слабые места в зависимых вызовах инструментов и отсутствие отдельной оценки безопасности. Не рекомендуется использовать её как автономного помощника в медицинских, юридических, финансовых и других высокорисковых задачах.

Карточка модели ahmed-amedo/MiMo-V2.6-Flash-RL на Hugging Face совпадает с карточкой shaikat2007/MiMo-V2.6-Flash, поэтому описание составлено по ней. MiMo-V2.6-Flash-RL — мультимодальная модель генерации текста Xiaomi из серии MiMo-V2.6, обученная с подкреплением для агентных сценариев и самоулучшения. Карточка описывает семейство как разреженную MoE-архитектуру с обработкой текста, изображений, видео и аудио и контекстом до 1 млн токенов; указаны визуальный и аудиокодировщики, а также спекулятивный декодер. Метаданные репозитория, однако, описывают загруженную модель как плотную 12-миллиардную MiMoV2ForCausalLM в формате safetensors FP8, а pipeline_tag задаёт генерацию текста. Модель предназначена для диалогов, работы с инструментами, программирования и продолжительных агентных задач, а мультимодальные возможности семейства рассчитаны на понимание изображений, видео и аудио. В отчёте Xiaomi описаны обучение смешанным RL на задачах кодирования, общих агентов, визуального анализа и кибербезопасности, а также методы оценки траекторий и дистилляции. По карточке указана лицензия MIT. Поскольку сведения о размере и архитектуре в README относятся к серии, а метаданные конкретного репозитория расходятся с ними, характеристики репозитория следует считать более конкретными для загруженного чекпойнта.

MiniCPM5-2B-GGUF — это GGUF-сборка плотной каузальной языковой модели MiniCPM5-2B, разработанной OpenBMB и опубликованной пользователем prithivMLmods. Модель предназначена для локальных ассистентов, генерации текста, программирования, coding-agent задач, использования инструментов и развёртывания на устройствах с ограниченными ресурсами. Она поддерживает запуск через llama.cpp и совместимые приложения, включая Ollama и LM Studio. Модель содержит около 2,52 млрд параметров и использует архитектуру LlamaForCausalLM с 42 слоями и Grouped-Query Attention: 16 Q-голов и 2 KV-головы. Заявлена длина контекста до 131 072 токенов, а указанным языком является английский. Доступны варианты GGUF с точностями от F32 и BF16/F16 до квантований Q3–Q8, размером примерно от 1,19 до 10,1 ГБ, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Сильными сторонами заявлены рассуждения, математика, программирование, работа с длинным контекстом, вызов инструментов и агентные сценарии; модель обучалась с использованием специализированного дообучения и reinforcement learning. Ограничения включают компактный размер по сравнению с крупными LLM, заявленную языковую поддержку только английского и зависимость характеристик от выбранного уровня квантования. Модель распространяется по лицензии Apache-2.0.

Naive-N0.5-Flash — открытая модель с архитектурой Mixture-of-Experts от разработчиков NaiveAI, предназначенная для программирования и исследований в области ИИ. Карточка описывает продолжение обучения на базе MiMo-V2.5 с архитектурными изменениями; модель обучалась на 3,25 трлн токенов, включая адаптацию к разреженному вниманию. В README указаны 309 млрд параметров всего и 15,5 млрд активных, тогда как метаданные Hugging Face сообщают 12 млрд параметров; эти сведения расходятся. Архитектура внимания сочетает Sliding-Window Attention с окном 128 токенов и DeepSeek Sparse Attention, выбирающим до 2048 токенов. Заявлено нативное контекстное окно в 1 048 576 токенов. Модель принимает текст и генерирует текст, в том числе код; для инференса README указывает поддержку FP8 и необходимость совместимого оборудования NVIDIA. Модель подходит для задач разработки программного обеспечения, агентных сценариев и исследований ИИ. В README заявлены оптимизации скорости в системе NaiveRT, но их показатели относятся к этой системе инференса. Веса и код выпущены под лицензией MIT.

OpenCodeReasoning-Nemotron-32B-IOI-GGUF — это квантизированная версия текстовой генеративной модели OpenCodeReasoning-Nemotron-32B-IOI, разработанной NVIDIA. Репозиторий с квантизациями подготовлен bartowski с использованием llama.cpp и метода imatrix. Модель ориентирована на задачи, связанные с генерацией и анализом кода, и предназначена для локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Модель имеет размер 32B параметров, поддерживает английский язык и поставляется в формате GGUF в вариантах от BF16 до IQ4 и Q3. Доступны разные уровни квантизации с размером файлов примерно от 17,25 до 65,54 ГБ, что позволяет выбирать между качеством ответов и требованиями к памяти. Для работы рекомендуется использовать указанный в README шаблон диалога с маркерами ролей ChatML. Контекст модели, мультимодальные возможности и точная архитектура в README не указаны. Сильными сторонами являются специализация на задачах программирования, широкий выбор квантизаций и возможность локального запуска. Более компактные варианты подходят для систем с ограниченной оперативной памятью, но могут уступать более точным версиям по качеству. Лицензия модели — Apache-2.0; сведения об условиях использования исходной модели отдельно не приведены.

Olmo-3-7B-Instruct-SFT — англоязычная авторегрессионная Transformer-модель для диалогов и выполнения инструкций, разработанная Allen Institute for AI (Ai2). Это плотная языковая модель семейства OLMo 3 с 6,9 млрд параметров, дообученная методом SFT на наборах Dolci, включающих диалоги, общие знания, математику и программирование. Модель принимает текст и генерирует текст; контекстное окно составляет 65 536 токенов. Модель подходит для диалоговых помощников, ответов на вопросы, задач по математике и программированию, а также следования инструкциям. В карточке приведены результаты тестов, включая MATH и AIME, но качество ответов может варьироваться. Лицензия Apache 2.0; разработчик рекомендует учитывать свои правила ответственного использования. Модель может выдавать неточные сведения и небезопасный или предвзятый контент, поэтому ответы следует проверять.

Olmo 3 7B Think SFT — англоязычная авторегрессионная Transformer-модель для генерации текста, разработанная Allen Institute for AI (Ai2). Она предназначена для диалогов и задач рассуждения, особенно математических задач и программирования; обучение с учителем на Dolci-Think-SFT-7B включало также запросы по общим знаниям и чату. Модель имеет плотную архитектуру Olmo3 и 6,9 млрд параметров, принимает текст и поддерживает контекст до 65 536 токенов. Доступна в формате Safetensors для Transformers. Модель дообучена на основе allenai/Olmo-3-1025-7B. Лицензия Apache 2.0; Ai2 указывает исследовательское и образовательное применение в соответствии со своими правилами ответственного использования. Модель может выдавать неточные сведения и без дополнительной фильтрации генерировать вредный или чувствительный контент; результаты следует проверять.

OmniCoder-9B-Opus-4.6-Uncensored-v2-GGUF — языковая reasoning-модель на базе Qwen/Qwen3.5-9B, созданная автором ansulev. Модель получена объединением нескольких производных моделей, включая OmniCoder-9B от Tesslate, reasoning-модель Qwen3.5-9B от Jackrong и uncensored-модель HauhauCS. При обучении и слиянии использовались данные в стиле Claude 4.6 Opus, ориентированные на рассуждения, математику, логические задачи, общие знания, инструкции и программирование. Формат распространения — GGUF; заявленная лицензия — Apache-2.0. Модель предназначена для локального запуска в приложениях вроде LM Studio и для задач общего назначения, требующих многошагового рассуждения, генерации и анализа кода, решения математических и логических задач, а также следования инструкциям. В карточке указаны английский, китайский и корейский языки. Архитектура унаследована от Qwen3.5-9B, размер — около 9 миллиардов параметров. В метаданных указана мультимодальная категория image-text-to-text, однако подробности о поддерживаемых визуальных входах и размере контекстного окна не приведены. Ключевая особенность версии v2 — более компактная и эффективная генерация рассуждений. По заявленным оценкам на HumanEval и HumanEval+ она превосходит базовую Qwen3.5-9B по точности и требует примерно на 20–23% меньше текста рассуждений для одного успешного решения. Это может снижать задержку и стоимость инференса, но заявленные результаты основаны на ограниченном наборе тестов и не гарантируют аналогичного качества во всех прикладных сценариях. Разработчик также предупреждает о возможном снижении широких общих способностей из-за ограниченного объёма и направленности дообучения. Термин uncensored указывает на ослабленные ограничения отказов, что может повышать гибкость, но требует дополнительного контроля безопасности при использовании.

OpenCodeInterpreter-CL-13B — модель для генерации кода из семейства OpenCodeInterpreter, разработанная командой OpenCodeInterpreter. Она объединяет генерацию кода с выполнением и итеративным уточнением по обратной связи, чтобы помогать решать задачи программирования. Модель основана на CodeLlama-13b-Python-hf и использует плотную архитектуру Llama с 12,9 млрд параметров и контекстом до 16 384 токенов. Модель предназначена для написания и улучшения программного кода; в README также описано применение обратной связи от выполнения кода. Она обучена для английского языка и распространяется в формате PyTorch под лицензией Apache-2.0. В README приведены результаты серии OpenCodeInterpreter на HumanEval и MBPP, но численные результаты именно версии CL-13B в доступном фрагменте не указаны.

Карточка модели lausannequants/OpenThinker-7B на Hugging Face совпадает с карточкой open-thoughts/OpenThinker-7B, поэтому описание составлено по ней. OpenThinker-7B — плотная авторегрессионная языковая модель семейства Qwen2, разработанная командой OpenThoughts. Она дообучена на Qwen/Qwen2.5-7B-Instruct на наборе OpenThoughts-114k, созданном с использованием дистилляции DeepSeek-R1. Модель содержит 7,1 млрд параметров, работает через Transformers и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов с упором на рассуждения, решение математических задач, вопросы по естественным наукам и программирование. В README приведены оценки на AIME24, MATH500, GPQA-Diamond и задачах LiveCodeBench; результаты показывают сильные стороны в математике и коде, но не гарантируют точность каждого ответа. Веса, данные и код проекта опубликованы; лицензия модели — Apache 2.0. Это текстовая модель, поэтому она не принимает изображения или аудио. Как и другие языковые модели, она может выдавать неверные ответы и требует проверки результатов, особенно в задачах, где ошибка критична.

Карточка модели schwyzquant/OpenThinker-7B на Hugging Face совпадает с карточкой open-thoughts/OpenThinker-7B, поэтому описание составлено по ней. OpenThinker-7B — плотная авторегрессионная языковая модель семейства Qwen2, разработанная командой OpenThoughts. Она дообучена на Qwen/Qwen2.5-7B-Instruct на наборе OpenThoughts-114k, созданном с использованием дистилляции DeepSeek-R1. Модель содержит 7,1 млрд параметров, работает через Transformers и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов с упором на рассуждения, решение математических задач, вопросы по естественным наукам и программирование. В README приведены оценки на AIME24, MATH500, GPQA-Diamond и задачах LiveCodeBench; результаты показывают сильные стороны в математике и коде, но не гарантируют точность каждого ответа. Веса, данные и код проекта опубликованы; лицензия модели — Apache 2.0. Это текстовая модель, поэтому она не принимает изображения или аудио. Как и другие языковые модели, она может выдавать неверные ответы и требует проверки результатов, особенно в задачах, где ошибка критична.

WithinUsAI/Opus4.7-GODs.Ghost.Codex-4B.GGuF — компактная специализированная на программировании языковая модель, разработанная WithinUsAI на базе Qwen/Qwen3.5-4B. Модель распространяется в формате GGUF и предназначена для локального запуска через совместимые среды, включая llama.cpp и LM Studio. Заявленный объём — около 4 миллиардов параметров; для работы требуется примерно 3–8 ГБ оперативной памяти в зависимости от уровня квантования Q4_K_M, Q5_K_M или Q8_0. Указан английский язык, а поддержка контекста в README приведена как рекомендуемый размер 8192 токенов. Основные сценарии применения — генерация, объяснение, отладка и рефакторинг кода, проектирование алгоритмов, написание скриптов, обучение программированию и интеграция в локальные AI-IDE. В качестве сильных сторон заявлены структурированное рассуждение, пошаговое объяснение логики и возможность эффективного запуска на локальном оборудовании без обращения к облачной инфраструктуре. Модель ориентирована прежде всего на задачи разработки и лучше работает с чёткими структурированными промптами; фактическое качество для конкретных языков и задач в README не подтверждено результатами тестирования. В README не указана точная лицензия модели. Предполагается наследование лицензии базовой модели, однако перед коммерческим или иным распространением необходимо проверить условия в репозитории.

Ornith-1.0-35B-FP8 — это квантизированная версия модели DeepReinforce Ornith-1.0-35B, подготовленная и проверенная командой protoLabs. Модель представляет собой гибридную MoE-архитектуру Qwen3.5-35B-A3B с механизмами рассуждения и самоскэффолдинга, ориентированную прежде всего на агентное программирование. Она поддерживает генерацию текста, рассуждения, работу с инструментами и мультимодальные сценарии с изображениями и видео. Модель использует блочную FP8-квантизацию E4M3 с блоками 128×128 и динамическим квантованием активаций по токенам. Квантизированы экспертные FFN-слои и проекции внимания, тогда как критичные компоненты, включая SSM-линейное внимание, маршрутизатор MoE, эмбеддинги, нормализации и vision tower, сохранены в bf16. Полный контекст составляет 256K токенов. Размер обслуживаемой модели — около 35 ГБ; она рассчитана на одну видеокарту с 80–96 ГБ памяти и проверена с vLLM. Сильные стороны модели — пригодность для агентного кодирования, рассуждений, длинного контекста, многоязычной генерации и вызова инструментов при производительности, близкой к исходной bf16-версии. Ограничения включают требования к мощной GPU, зависимость от совместимого стека vLLM и remote code, а также возможную небольшую потерю качества при квантизации: в приведённых однократных тестах показатель генерации кода составил 0,975 против 1,00, а успешность function call — 89% против 93%. Модель распространяется по лицензии MIT; авторство базовой модели принадлежит команде DeepReinforce, а protoLabs добавила FP8-квантизацию.

Ornith-1.5-35B-A3B-FP8 — языковая модель для генерации текста, разработанная командой Ornith AI. Это средняя по размеру модель семейства Ornith-1.5, ориентированная прежде всего на программирование, работу через терминал и агентские сценарии, где модель должна планировать действия, использовать инструменты и решать многошаговые задачи разработки. Модель создана на основе подхода непрерывного самоулучшения: она совместно оптимизирует генерацию задач, построение scaffold-структур и последовательности решений с помощью reinforcement learning, а не полагается только на фиксированный набор задач и вручную разработанные процедуры оценки. Модель использует архитектуру mixture-of-experts: всего содержит около 35 млрд параметров, но активирует примерно 3 млрд параметров на токен. Вариант FP8 предназначен для более эффективного хранения и выполнения инференса. В README указана текстовая модальность и задача text generation; сведения о поддерживаемых языках и размере контекста не приведены. Среди заявленных сильных сторон — результаты в программировании и агентской разработке: на SWE-bench Verified модель получила 79 баллов, а на Terminal-Bench 2.1 — 67,8 балла в конфигурации Terminus-2 и 68,5 в конфигурации Claude Code. Ограничения, не отражённые в карточке, включают отсутствие подробных данных о качестве на общих языковых задачах, языковом покрытии, безопасности и практических требованиях к оборудованию. Модель распространяется по лицензии MIT. Заявленные показатели приведены авторами README и могут зависеть от используемого окружения, инструментов и методики оценки.

Ornith-1.5-35B-A3B — языковая модель семейства Ornith-1.5, разработанная командой Ornith. Это среднеразмерная sparse Mixture-of-Experts модель с 35 млрд параметров, из которых при обработке каждого токена активируется около 3 млрд. Представленная версия предназначена для запуска через библиотеку MLX в 4-битном формате квантования и поддерживает генерацию текста. Модель ориентирована прежде всего на программирование, работу с терминалом и агентские сценарии, включая автономное решение задач разработки и взаимодействие с инструментами. Согласно карточке модели, она обучалась с использованием цикла самоулучшения: модель совместно оптимизировала генерацию задач, построение scaffolding и последовательности решений с помощью reinforcement learning. Заявлены высокие результаты на Terminal-Bench 2.1 и SWE-bench Verified; однако приведённые показатели зависят от конкретного окружения и конфигурации агентского harness. К сильным сторонам относятся высокая эффективность инференса за счёт активации небольшой части параметров, специализация на кодировании и агентской работе, а также 4-битное представление для запуска в экосистеме MLX. В доступных данных не указаны максимальная длина контекста, полный список поддерживаемых языков, мультимодальные возможности, требования к оборудованию и лицензия, поэтому эти характеристики и условия использования требуют дополнительной проверки.

OsaurusAI/Ornith-1.5-9B-MXFP8 — это 8-битная сборка модели Ornith 1.5-9B, подготовленная для MLX Джихо Джангом на основе модели Ornith AI. Она предназначена для агентного программирования, рассуждений и работы с инструментами. Архитектура Qwen3.5 сочетает gated-delta linear attention с полным вниманием в соотношении 3:1; модель имеет 27-слойную башню зрения. Размер файлов сборки — 9,45 GiB. Модель принимает текст, изображения и видео и выдаёт текст. Режим рассуждений включён по умолчанию; доступен вариант генерации без содержимого блока рассуждений. В карточке приведены результаты SWE-bench Verified 79 и Terminal-Bench 2.1 67,8. Сборка служит 8-битным эталоном качества для вариантов JANG. Лицензия — MIT.

Satyrn Qwen3.8-27B-py3.15 — дообученная командой Satyrn языковая модель на базе Qwen3.8-27B, созданная для генерации текста и помощи с кодом на Python 3.15. Это плотная авторегрессионная модель с архитектурой Qwen3.5 и интерфейсом чата; метаданные также указывают поддержку интерфейса вызова инструментов. Модель обучалась в конвейере Satyrn с использованием Unsloth; этап обучения на RL-данных для этого выпуска был отключён. Модель предназначена для генерации и объяснения кода с учётом целевой версии Python 3.15, а также для диалоговой помощи в задачах программирования. В карточке заявлены английский язык и код Python. Доступны веса Safetensors и GGUF, включая BF16 и Q4_K_M. Лицензия — MIT.

Карточка модели Justbackup/phi-4 на Hugging Face совпадает с карточкой microsoft/phi-4, поэтому описание составлено по ней. Phi-4 — языковая модель Microsoft Research с плотной архитектурой декодерного Transformer и 14,1 млрд параметров. Она принимает текстовые запросы, лучше всего в формате чата, и генерирует текст; длина контекста составляет 16 тысяч токенов. Модель доступна в формате Safetensors и распространяется по лицензии MIT. Модель предназначена для англоязычных сценариев общего назначения, особенно для рассуждений, логики, математики, программирования и следования инструкциям в условиях ограничений по памяти, вычислениям или задержке. При обучении использовались отфильтрованные общедоступные материалы, учебные и синтетические данные, академические книги, наборы вопросов и ответов, а также данные для настройки диалогов. Модель прошла supervised fine-tuning и direct preference optimization; около 8% обучающих данных были многоязычными. Phi-4 может служить компонентом генеративных ИИ-приложений и компактной альтернативой более крупным моделям для ряда задач рассуждения. Это статическая модель со срезом знаний по июнь 2024 года; ответы могут быть неточными, а качество и безопасность следует оценивать для конкретного применения, особенно в высокорисковых сценариях. Карточка указывает на основной фокус на английском языке.

Qwen2.5-Coder-14B-GGUF — набор GGUF-квантизаций модели Qwen2.5-Coder-14B, разработанной Qwen и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации и работы с исходным кодом, включая локальные сценарии программирования и текстовой генерации. В README указан английский язык, однако подробные сведения о языковом покрытии отсутствуют. Это текстовая autoregressive-модель на 14 млрд параметров, представленная в форматах от F16 до различных вариантов 2–8-битной квантизации. Размер файлов составляет примерно от 6,38 до 29,55 ГБ. Более высокие разрядности обеспечивают лучшее сохранение качества, а варианты с меньшим размером подходят для систем с ограниченной оперативной памятью; для большинства сценариев автор рекомендует варианты Q4_K_M, Q5 и Q6. Поддерживается запуск через llama.cpp и LM Studio. Формат prompt использует шаблон с маркерами ролей system, user и assistant. К сильным сторонам относятся специализация на коде, широкий выбор квантизаций и возможность локального запуска. Ограничения связаны с компромиссом между размером и качеством: низкоразрядные варианты дают более низкое качество, а некоторые ARM-оптимизированные файлы требуют поддержки sve или i8mm и не рекомендуются для Mac и Windows. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-14B-Instruct-abliterated-GGUF — это GGUF-квантизированная версия инструкционной модели Qwen2.5-Coder-14B-Instruct-abliterated. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходная модель опубликована huihui-ai. Модель предназначена для генерации текста, диалогового взаимодействия и задач программирования, включая работу с кодом и запросами в формате инструкций. Модель содержит 14 миллиардов параметров и работает с текстовыми данными. README указывает английский язык, но сведения о полном наборе поддерживаемых языков, архитектуре и размере контекстного окна отсутствуют. Доступны варианты от F16 до Q3 и различные форматы квантизации; версии Q4_K_M, Q5, Q6 и другие позволяют выбирать компромисс между качеством, размером файла и требованиями к памяти. Файлы предназначены для запуска через llama.cpp, в частности в LM Studio. Сильной стороной является широкий выбор квантизированных вариантов: от почти исходного качества до более компактных сборок для систем с ограниченными ресурсами. Ограничения включают зависимость характеристик от выбранного типа квантизации и отсутствие в README подробных данных о производительности, контекстном окне и поддерживаемых языках. Для ARM доступны специальные варианты, часть которых требует поддержки SVE или i8mm и не предназначена для Mac или Windows. Лицензия модели указана как Apache-2.0.

Qwen2.5-Coder-7B-Instruct-abliterated-GGUF — набор GGUF-квантизаций модели Qwen2.5-Coder-7B-Instruct-abliterated. Базовая модель опубликована huihui-ai, а квантизации подготовлены bartowski с использованием llama.cpp и imatrix. Это текстовая модель генерации с поддержкой диалогового формата prompt и специализацией на задачах программирования и следовании инструкциям. Модель предназначена для локального запуска в приложениях и средах, совместимых с GGUF, включая LM Studio. Доступны варианты от F16 до Q3 и различных Q4–Q8-квантизаций размером примерно от 4,09 до 15,24 ГБ. Более крупные варианты обычно сохраняют лучшее качество, а компактные требуют меньше оперативной памяти; для ARM предусмотрены отдельные варианты, некоторые из которых требуют поддержки sve или i8mm и не рекомендуются для Mac или Windows. В README указана поддержка английского языка и текстовая модальность; сведения о размере контекста и точной архитектуре не приведены. К ключевым ограничениям относятся возможная потеря качества при сильной квантизации и зависимость совместимости от аппаратной платформы. Модель имеет статус abliterated/uncensored, поэтому поведение в отношении ограничений безопасности может отличаться от исходной instruct-модели. Указана лицензия Apache-2.0.

Qwen2.5-Coder-7B-Instruct-Q4_K_M-GGUF — это квантизированная версия Qwen2.5-Coder-7B-Instruct, преобразованная в формат GGUF пользователем или организацией matrixportal с помощью llama.cpp и сервиса GGUF-my-repo от ggml.ai. Модель предназначена для генерации текста и прежде всего для задач, связанных с программированием, включая работу с кодом и чат-сценарии. В README указано, что базовая модель разработана Qwen, однако подробные сведения о её обучении и возможностях вынесены в исходную карточку модели. Модель содержит 7B параметров и использует квантизацию Q4_K_M, что уменьшает требования к памяти по сравнению с полноразмерной версией. Она распространяется в формате GGUF и рассчитана на запуск через llama.cpp, включая локальный CLI и серверный режим. В карточке указано, что заявленный язык — английский; поддержка других языков, архитектура, точный размер контекста и перечень модальностей не уточняются. Пример запуска использует контекст длиной 2048 токенов, но это не подтверждает максимальный размер контекста модели. Сильными сторонами являются специализация на коде, возможность локального запуска и совместимость с llama.cpp. Ограничения связаны с квантизацией, которая может снижать точность по сравнению с исходной моделью, а также с отсутствием в карточке подробных оценок качества и характеристик производительности. Модель распространяется по лицензии Apache-2.0.