II.4Отладка, тестирование и качество ПО

AReaL-boba-2-32B — языковая модель для генерации текста и диалогов, разработанная командой RL Lab исследовательской организации Ant Research в рамках проекта AReaL. Она построена на архитектуре Qwen3 и содержит 29,7 млрд параметров. Модель обучена с помощью обучения с подкреплением в асинхронной системе AReaL-boba²; базовая модель — Qwen3, точный идентификатор исходного репозитория в предоставленных данных не указан. Модель предназначена для задач рассуждения, прежде всего математических задач и программирования, а также для диалогового и агентного применения. Метаданные указывают поддержку интерфейса вызова инструментов. Контекстное окно составляет 40 960 токенов; модель работает с текстом и опубликована в формате PyTorch для Transformers. В README приведены результаты семейства AReaL-boba² на бенчмарках программирования, однако отдельные результаты для версии 32B не указаны. Модель распространяется по лицензии Apache-2.0.

CodeLlama 13B GGUF — это квантизированная версия языковой модели CodeLlama 13B, разработанной Meta и преобразованной в формат GGUF пользователем TheBloke. Модель предназначена для генерации текста и программного кода, а также для локального запуска через llama.cpp и совместимые интерфейсы и библиотеки. Модель построена на архитектуре Llama и содержит около 13 миллиардов параметров. Она ориентирована на работу с кодом; в README язык указан как code. Доступны варианты GGUFv2 с квантованием от 2 до 8 бит, что позволяет выбирать компромисс между размером модели, требованиями к памяти, скоростью и качеством. Формат поддерживает метаданные, специальные токены и улучшенную токенизацию. Длина контекста и перечень поддерживаемых естественных языков в предоставленных данных не указаны. К сильным сторонам относятся возможность запуска на CPU и GPU, широкий выбор уровней квантования и совместимость с llama.cpp, text-generation-webui, LM Studio, KoboldCpp, llama-cpp-python и другими инструментами. Ограничения включают потенциальное снижение качества у более агрессивно квантизированных вариантов, а также отсутствие в README подробных результатов оценки, сведений о контекстном окне и мультимодальных возможностях. Модель распространяется по лицензии Llama 2; условия лицензии следует учитывать при использовании.

Locutusque/DareQwen-2.5-7B — объединённая языковая модель, созданная автором репозитория с помощью mergekit на основе Qwen2.5. В слиянии DARE TIES использованы Qwen2.5-7B, Qwen2.5-7B-Instruct, Qwen2.5-Coder-7B-Instruct и Qwen2.5-Math-7B-Instruct; параметры сохранены в формате bfloat16. Модель содержит 7,1 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов, а объединение вариантов Instruct, Coder и Math ориентировано на сочетание общих инструкций, программирования и математических задач. В метаданных также отмечен интерфейс вызова инструментов. Указана поддержка китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. README предупреждает, что объединённая модель требует дообучения, поэтому её готовность к практическому использованию без дополнительной настройки не подтверждена. Лицензия в предоставленных данных не указана.

DeepSeek-Coder-V2-Instruct-IMat-GGUF — это GGUF-квантизованная версия модели DeepSeek-Coder-V2-Instruct, подготовленная пользователем legraphista на основе исходной модели deepseek-ai. Модель предназначена для генерации текста и, судя по названию базовой модели, ориентирована прежде всего на работу с программным кодом и инструкциями, однако подробные сведения о поддерживаемых языках программирования и естественных языках в представленном README не указаны. Доступны варианты квантования от 1 до 8 бит, включая Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K, а также ряд вариантов IQ. Файлы распространяются в формате GGUF и могут использоваться с llama.cpp; крупные варианты поставляются разделёнными на несколько частей. Для вариантов Q4 и ниже применена IMatrix-квантизация с отдельным файлом imatrix.dat, а исходный тип данных базовой модели — BF16. Размеры файлов варьируются примерно от 85,95 до 250,62 ГБ, поэтому требования к оперативной или видеопамяти существенно зависят от выбранного варианта. Сильной стороной модели является широкий выбор уровней квантования, позволяющий выбирать баланс между качеством и ресурсами, а IMatrix может улучшать сохранение качества при низкой разрядности. Ограничениями являются большой объём файлов, необходимость совместимого программного обеспечения и потенциальное снижение качества по сравнению с исходной BF16-моделью, особенно у более агрессивных вариантов квантования. Модель распространяется по лицензии deepseek-license; в метаданных она указана как other, а подробные условия находятся в файле LICENSE.

DeepSeek-Coder-V2-Lite-Instruct-GGUF — это GGUF-квантизированная версия модели DeepSeek-Coder-V2-Lite-Instruct, разработанной DeepSeek и квантизированной пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и ассистирования в задачах программирования, включая написание и обработку кода, однако конкретный перечень поддерживаемых языков программирования и естественных языков в README не указан. Доступны варианты квантизации от Q2_K и IQ2_M до Q8_0 и экспериментального Q8_0_L, с размером файлов примерно от 6,32 до 17,09 ГБ. Более компактные варианты экономят оперативную память ценой снижения качества, тогда как Q5–Q8 описываются как высококачественные; для ряда конфигураций рекомендуются Q4–Q6. Варианты с суффиксом L используют F16 для весов embedding и output и отмечены как экспериментальные. Архитектура, число параметров, модальности, размер контекста и языки модели в предоставленном README не указаны. Модель рассчитана на локальный запуск через llama.cpp и использует специальный формат промпта с system prompt, сообщениями User и Assistant. Лицензия обозначена как deepseek-license; подробные условия в README не приведены, поэтому перед использованием следует ознакомиться с файлом LICENSE. Основные ограничения — отсутствие в README точных сведений о базовой архитектуре и характеристиках, а также неизбежная зависимость качества и требований к памяти от выбранного уровня квантизации.

Dolphin-2.9.1-Phi-3-Kensho-4.5B-abliterated-v3 — разговорная языковая модель, созданная Eric Hartford, Lucas Atkins, Fernando Fernandes и сообществом Cognitive Computations; uncensored-настройку выполнил FailSpy. Модель основана на Phi-3-Mini-Instruct-4k в Mistral-совместимой архитектуре и дообучена методом qLoRA на данных для инструкций, диалогов, программирования, математики и вызова функций. Веса также изменены для ослабления отказов на запросы. Модель предназначена для ответов на инструкции, диалогов, помощи с кодом и математическими задачами, а также для начального использования в агентных сценариях и вызова функций. Она принимает текст и генерирует текст, использует шаблон ChatML и имеет контекст 4096 токенов. В репозитории доступны веса Safetensors; при использовании адаптера его следует подключать к базовой модели Unsloth Phi-3-mini-4k-instruct. В метаданных указано 6,4 млрд параметров. Модель ориентирована на английский язык. Ослабленная фильтрация отказов повышает соответствие запросам, поэтому перед предоставлением модели пользователям разработчики рекомендуют добавить собственный уровень ограничений. Лицензия MIT разрешает коммерческое использование; в README также отмечено, что при обучении использовались данные, сгенерированные GPT-4.

mlx-community/dolphin-2.9-llama3-70b-4bit — квантизированная 4-битная версия модели Dolphin 2.9 на базе Llama 3, преобразованная сообществом mlx-community в формат MLX с использованием mlx-lm 0.11.0. Исходная модель разработана cognitivecomputations. Модель содержит около 69,5 млрд параметров и предназначена для запуска и генерации текста в экосистеме MLX на совместимом оборудовании Apple. Модель ориентирована на англоязычные диалоговые и инструкционные сценарии, включая ответы на вопросы, помощь с программированием, математическими задачами, работу с инструкциями и вызовами функций. Максимальная длина контекста составляет 8192 токена. В метаданных указана лицензия Llama 3.

Это квантизированная версия мультимодальной модели Google Gemma 4 31B-it, опубликованная pearsonkyle в формате GGUF для llama.cpp, Ollama и LM Studio. Модель предназначена для генерации текста, программирования, работы с инструментами и function calling, агентских сценариев, а также анализа изображений. Поддерживается английский язык; заявлены текстовый и визуальный ввод. Доступны варианты IQ2_M, IQ3_M, IQ4_XS и Q5_K_S с размером примерно от 10,2 до 19,8 GiB и разной степенью сжатия. Версия IQ2_M использует 2-битную AWQ-квантизацию, настроенную на основе журналов задач программирования и tool use; автор заявляет повышение точности аргументов инструментов на 54% по сравнению с обычным вариантом при сопоставимом размере. Более качественные варианты используют hybrid imatrix. Модель также поддерживает MTP-драфтер для ускорения генерации, а для обработки изображений требуется отдельный vision-модуль mmproj размером около 772 МБ на базе SigLIP-подобного энкодера. Сильными сторонами являются сочетание программирования, tool use и vision, работа в стандартных локальных средах и возможность разместить конфигурацию Q5_K_S с текстовой моделью, MTP-драфтером и vision-модулем примерно в 24 ГБ видеопамяти. Ограничения связаны с потерями качества при низкобитной квантизации, особенно в варианте IQ2_M, необходимостью отдельного mmproj для изображений и отсутствием в предоставленных данных точного размера контекста и подробных результатов независимого тестирования. Лицензия указана как Gemma.

Gemma-4-31B-JANG_4M-CRACK — мультимодальная чат-модель dealignai на архитектуре Gemma 4 Dense с 31 млрд параметров, основанная на google/gemma-4-31b-it. Веса изменены методом abliteration для снижения отказов на запросы; автор сообщает результаты тестирования на HarmBench и MMLU, а также отмечает улучшение устойчивости режима рассуждений в версии v2. Модель предназначена для диалогов, программирования, общих вопросов и анализа изображений. Она принимает текст и изображения, поддерживает режим thinking и гибридное скользящее и глобальное внимание. Для запуска автор рекомендует vMLX на Apple Silicon Mac с не менее чем 32 ГБ объединённой памяти; стандартные mlx_lm и mlx_vlm, согласно карточке, Gemma 4 не поддерживают. Это изменённая версия инструкционной модели Google, а не базовый чекпойнт. Abliteration снижает склонность к отказам, но автор сообщает, что модель всё ещё может отказывать на некоторые категории запросов и что режим thinking может зацикливаться при неподходящих настройках генерации. Лицензия — Gemma; карточка указывает исследовательское назначение и возлагает соблюдение применимых законов на пользователя.

Hermit Code 7B i1 GGUF — квантизированная версия модели Soloman2002/hermit-code-7b, подготовленная mradermacher. Модель ориентирована на генерацию текста и работу с программным кодом, включая сценарии coding-agent и instruction-tuned взаимодействия. В метаданных указаны английский язык и поддержка задач, связанных с Python, JavaScript, Rust и Go; модель работает только с текстом. Это модель класса 7B, распространяемая в формате GGUF с imatrix-квантизациями. Доступны варианты с разным соотношением размера, скорости и качества — от IQ1 и IQ2 до Q6_K; среди рекомендуемых README выделяет i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как оптимальный по размеру, скорости и качеству. Ключевые ограничения — неизбежная потеря качества у низкобитных вариантов, причём некоторые из них прямо обозначены как имеющие очень низкое качество. Размер контекста и точная архитектура в README не указаны. Модель распространяется по лицензии Apache-2.0.

IQuest-Q1 — языковая модель от IQuest для агентного программирования, рассуждений и многошагового использования инструментов. В репозитории Hugging Face указана версия на 3,7 млрд параметров с архитектурой MoE семейства IQuest-Q1; README описывает вариант примерно на 320 млрд параметров, из которых около 15 млрд активируются на каждом токене. Это расхождение означает, что параметры конкретного загруженного чекпойнта не вполне согласуются с описанием карточки. Модель предназначена для генерации текста в диалоговом режиме и может использоваться в агентных сценариях, включая работу с кодом и инструментами через совместимые интерфейсы. Заявлено контекстное окно до 524 288 токенов; поддерживаются английский и китайский языки. По README модель не обладает мультимодальными возможностями. Весовой формат репозитория — safetensors, библиотека — Transformers. Лицензия указана как other, поэтому условия использования следует проверить в самой карточке модели.

Kimi-K2.7-Code-JANGTQ_K — квантованный вариант модели moonshotai/Kimi-K2.7-Code для запуска через MLX на компьютерах Apple с Apple Silicon. В карточке указаны архитектура семейства Kimi K2.5 и поддержка диалогового режима; исходная модель описана в каталоге как агентная модель для сложных задач программирования и многоэтапной разработки ПО, с поддержкой изображений, видео и инструментов. Профиль JANGTQ_K использует JANG TurboQuant: routed experts квантованы до 2 бит для gate и up и до 4 бит для down, attention и shared experts — до 8 бит. Для загрузки нужны jang-tools или vMLX; модель не поддерживается стандартным MLX, LM Studio и Ollama. Для токенизатора Kimi README указывает зависимости tiktoken и blobfile и необходимость включить TRUST_REMOTE_CODE. Лицензия обозначена как other, поэтому конкретные условия использования следует сверять с лицензией исходной модели и репозитория.

JANGQ-AI/Laguna-XS-2.1-JANG_6M — квантованный вариант модели Poolside Laguna-XS-2.1, подготовленный Jinho Jang для запуска на Apple Silicon через vMLX. Это текстовая MoE-модель для генерации кода и работы агентных систем; метаданные указывают 2,6 млрд параметров, а карточка описывает исходную архитектуру как MoE с 33 млрд параметров и примерно 3 млрд активных параметров. В карточке также заявлены 40 слоёв, 256 маршрутизируемых экспертов, выбор восьми экспертов и общий эксперт, а длина контекста составляет 262 144 токена. Веса маршрутизируемых экспертов квантованы до 6 бит с AWQ-калибровкой; внимание, общий эксперт, маршрутизатор и нормализации оставлены в высокой точности. Модель поддерживает чат, вызовы инструментов и переключаемый режим рассуждений. Основной указанный язык — английский. Лицензия — OpenMDW-1.1, унаследованная от исходной модели. Карточка приводит скорость декодирования 68,6 токена в секунду на M5 Max и высокое совпадение предсказаний при проверке длинного контекста; эти результаты относятся к указанной конфигурации и оборудованию. Для корректного семплирования следует использовать top_k=20; поддержка шаблона чата, специальных стоп-токенов и параметров квантования зависит от загрузчика.

Llama-3-8B-Magpie-Align-SFT-v0.2 — разговорная языковая модель, дообученная командой Magpie-Align на базе meta-llama/Meta-Llama-3-8B. Для обучения использованы наборы Magpie-Pro-MT-300K-v0.1 и Magpie-Reasoning-150K с примерами математики, программирования и рассуждений. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 8192 токенов. Модель предназначена для ответов на инструкции и диалоговых сценариев, включая задачи на рассуждение, математику и код. В README сообщаются результаты на MT-Bench, Alpaca Eval 2 и Arena Hard, но они не гарантируют качество на конкретных запросах. Для лучшей работы рекомендуется официальный шаблон чата Llama 3. Модель рассчитана прежде всего на английский язык. Распространяется по лицензии Meta Llama 3 Community License; применяются условия этой лицензии.

Magicoder-S-DS-6.7B — языковая модель для генерации кода, разработанная Юйсяном Вэем, Чжэ Вангом, Цзя-вэем Лю, Ифэном Дином и Линмином Чжаном. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров, дообученная на базе deepseek-coder-6.7b-base. Она принимает текстовые инструкции и генерирует текст, прежде всего исходный код; контекст составляет 16 384 токена. Модель предназначена для задач программирования и обучена на наборах Magicoder-OSS-Instruct-75K и Magicoder-Evol-Instruct-110K. Она ориентирована на разнообразные и реалистичные инструкции по коду, но может ошибаться и хуже справляться с задачами вне программирования. Лицензия указана как DeepSeek; перед использованием следует учитывать её условия и условия OpenAI для синтетических обучающих данных.

marin-8b-instruct-GGUF — это набор GGUF-квантизированных файлов модели marin-community/marin-8b-instruct, подготовленный mradermacher. Модель предназначена для генерации текста и выполнения инструкций; варианты GGUF позволяют запускать её локально с разным балансом между качеством, скоростью и потреблением памяти. При обучении использовались наборы данных AceCode-87K, Bespoke-Stratos-17k, dolphin-r1, natural_reasoning, OpenThoughts-114k-math и smoltalk, что указывает на применимость к программированию, рассуждениям, математическим и общим диалоговым задачам. Размер базовой модели — 8 млрд параметров, однако точная архитектура и максимальная длина контекста в README не указаны. Заявлен английский язык; сведения о поддержке других языков и модальностей отсутствуют, поэтому модель следует считать текстовой и ориентированной прежде всего на англоязычные сценарии. Доступны варианты от Q2_K размером около 3,3 ГБ до f16 размером около 16,2 ГБ; Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант очень хорошего качества, а Q8_0 — как вариант наилучшего качества среди перечисленных. К преимуществам относятся широкий выбор квантизаций и возможность локального запуска, а также настройка под задачи программирования, рассуждений и генерации текста. Более сильное сжатие уменьшает требования к памяти, но может снижать качество; README отдельно отмечает более низкое качество Q3_K_M. Модель распространяется по лицензии Apache-2.0.

MiniMax-M2.7-GGUF — это GGUF-квантизация модели MiniMax-M2.7, разработанной MiniMaxAI и подготовленной пользователем dennny123 на основе исходных BF16-весов. Модель предназначена для генерации текста, диалоговых сценариев, программирования и агентских рабочих процессов. Она может запускаться через llama.cpp, LM Studio или Ollama. Модель использует архитектуру Mixture-of-Experts с 229 млрд параметров, из которых около 10 млрд активны для каждого токена. Доступны варианты от BF16 до Q2_K; размеры файлов составляют примерно от 83 до 427 ГБ. В метаданных указан английский язык, однако сведения о размере контекста и дополнительных модальностях отсутствуют. Квантизации Q6_K и Q5_K_M заявлены как обеспечивающие высокое качество, а Q4_K_M — как компромиссный вариант для большинства сценариев. Сильные стороны модели — специализация на кодировании и агентских задачах, высокая заявленная производительность в SWE-Pro, VIBE-Pro, Terminal Bench 2, GDPval-AA и MLE Bench Lite, а также возможность локального запуска в экосистеме GGUF. Основные ограничения — чрезвычайно высокие требования к памяти: несмотря на активацию лишь части параметров, при инференсе необходимо загрузить весь набор из 229 млрд параметров. Более агрессивная квантизация уменьшает требования к ресурсам, но может снижать качество. Лицензия указана как modified-MIT; подробные условия следует уточнять в официальной лицензии MiniMaxAI.

Nemotron-Flash-1B — базовая языковая модель компании NVIDIA из семейства компактных гибридных моделей Nemotron-Flash. Она использует плотную архитектуру NemotronFlashForCausalLM с гибридными операторами, подобранными эволюционным поиском, и нормализацией весов на этапе обучения; размер модели — 520,1 млн параметров, длина контекста — до 36 000 токенов. Модель предназначена для генерации текста и применения в сценариях, где важны задержка и пропускная способность, включая математические задачи, программирование и рассуждения на общеизвестные темы. В README NVIDIA сообщает о сравнительных результатах на задачах математики, кода и здравого смысла, а также об ускорении инференса относительно некоторых небольших моделей. Для запуска приведены примеры с Transformers и CUDA Graph; в README также упоминается интеграция с TRT-LLM AutoDeploy. Это базовая модель, а не вариант Instruct, поэтому её поведение в диалоге может требовать дополнительной настройки. В метаданных указана лицензия other; конкретные условия использования следует сверить с лицензией и документами репозитория.

Nemotron-Flash-3B-Instruct — инструктивная языковая модель семейства Nemotron-Flash, разработанного NVIDIA. Это плотная авторегрессионная модель с архитектурой NemotronFlashForCausalLM; в метаданных размер указан как 1,3 млрд параметров, а длина контекста — 29 000 токенов. Модель предназначена для диалоговой генерации текста и компактного развертывания с низкой задержкой. В карточке заявлены сильные результаты на задачах математики, программирования и рассуждений здравого смысла, а также эффективная генерация при небольшом и большом размере пакета. Для инференса описана интеграция с Transformers, CUDA Graph и TensorRT-LLM; веса доступны в формате safetensors. Для использования требуется учитывать поддержку CUDA и доверенную загрузку пользовательского кода через trust_remote_code. Лицензия указана как other, поэтому условия использования следует уточнить в карточке модели. Заявленные сравнительные результаты приведены разработчиком; независимая проверка в этих материалах не описана.

Карточка модели liskasYR/NeoHorse-1-9B на Hugging Face совпадает с карточкой TokenRhythm/NeoHorse-1-9B, поэтому описание составлено по ней. NeoHorse-1-9B — текстовая причинно-следственная языковая модель TokenRhythm, дообученная на базе Qwen3.5-9B для работы с агентными системами. Модель имеет 7,2 млрд параметров, использует архитектуру Qwen3.5 и принимает только текст; визуальные веса в этом выпуске отсутствуют. Заявленная длина контекста — 262 144 токена. Модель предназначена для диалогов, следования инструкциям, вызова инструментов, программирования и рассуждений в текстовых агентных сценариях. В техническом отчёте авторы сообщают о среднем результате 69,04 по десяти тестам против 65,60 у базовой Qwen3.5-9B; это результаты авторской оценки, а не гарантия качества в конкретном применении. Доступны веса в формате safetensors и интерфейс для вызова инструментов. Лицензия — Apache-2.0.

Mungert/OpenReasoning-Nemotron-32B-GGUF — GGUF-версия большой языковой модели OpenReasoning-Nemotron-32B, производной от Qwen/Qwen2.5-32B-Instruct. Исходная модель разработана NVIDIA и дообучена для рассуждений, генерации решений по математике, программированию и научным задачам. Указан английский язык, текстовая модальность и сценарий text-generation. Модель создана с использованием llama.cpp; конкретный формат квантования зависит от файла GGUF. В README также описан подход с повышением точности отдельных важных слоёв при квантовании, что может улучшать качество на низких разрядностях, но увеличивает размер файла. Модель рассчитана на исследовательское и коммерческое/некоммерческое использование. Для сложных задач поддерживается генерация до 64K выходных токенов по данным исходной карточки. Сильные стороны — специализация на математическом, кодовом и научном рассуждении, а также возможность многократных параллельных генераций с последующим выбором решения через GenSelect. Ограничения включают высокие требования к вычислительным ресурсам для 32B-модели, возможную зависимость качества и размера от выбранного уровня квантования, а также отсутствие в предоставленных данных точного размера контекстного окна и подробностей об аппаратных требованиях. Лицензия модели — Creative Commons Attribution 4.0 International (CC-BY-4.0); для базовой модели дополнительно указана Apache 2.0.

Ornith-1.5-27B-A3B-CoderX — кодовая модификация модели Ornith-1.5-35B-A3B, созданная разработчиками Ornith. Это текстовая MoE-модель для генерации кода и диалоговых сценариев; в ней 40 слоёв и около 26,7 млрд параметров, из которых активны примерно 3 млрд. Модель получена экспертным прореживанием: число экспертов в каждом слое сокращено с 256 до 184, а маршрутизация top-8 и голова MTP сохранены. README указывает, что веса BF16, а оставленные эксперты побитово совпадают с базовой моделью; дообучение и дистилляция не применялись. Модель предназначена для написания и дополнения кода, решения задач программирования и диалогового использования с вызовом инструментов. Контекст составляет 262 144 токена. В карточке заявлен английский язык. В приведённых тестах модель показала сильный результат на LiveCodeBench v6, однако большинство сравнений основано на единичных запусках; авторы рекомендуют считать небольшие различия ничьей. На тесте вызова инструментов зафиксированы ошибки планирования и работы с контекстом, а измеренная оценка отмечена как нижняя граница из-за сбоя инфраструктуры. Лицензия — Apache-2.0.

Ornith-1.5-9B-MLX-6bit — компактная языковая модель семейства Ornith-1.5, представленная проектом Ornith. Это плотная модель на 9 млрд параметров, адаптированная для запуска с использованием MLX и 6-битного квантования. Модель предназначена прежде всего для генерации текста и эффективного локального развертывания на одной GPU; семейство также ориентировано на запуск на периферийных и мобильных устройствах в квантованном варианте Ornith-1.5-9B-Mobile. Ornith-1.5 развивает Ornith-1.0, созданную на основе Qwen3.5 и Gemma4 с дополнительным continued pretraining, mid-training и post-training. Ключевая особенность новой версии — цикл самоулучшения, в котором совместно оптимизируются генерация задач, построение scaffold и rollout решений с применением reinforcement learning. Такой подход рассчитан на задачи программирования, работу с терминалом и автономное решение инженерных задач. В README приведены результаты на Terminal-Bench 2.1, SWE-bench Verified, SWE-bench Pro и других тестах; для Ornith-1.5-9B указаны результаты 46,2 и 47 на двух конфигурациях Terminal-Bench 2.1, 70,6 на SWE-bench Verified и 47,5 на SWE-bench Pro. Сильными сторонами модели являются небольшой для современных reasoning- и coding-моделей размер, возможность эффективного single-GPU deployment и ориентация на программирование и агентные сценарии. Ограничения заключаются в том, что предоставленные данные не содержат сведений о размере контекстного окна, поддерживаемых языках, мультимодальности, точной базовой архитектуре и лицензии; эти характеристики нельзя достоверно определить по карточке.

Phi-3.5-MoE-instruct-4bit — это 4-битная квантизированная версия инструкционной языковой модели Phi-3.5-MoE, разработанной Microsoft и преобразованной сообществом mlx-community в формат MLX с использованием mlx-lm. Модель содержит около 4 млрд параметров, поддерживает архитектуру Mixture of Experts и распространяется для работы через библиотеку Transformers и инструменты MLX. Модель предназначена для генерации текста в диалогах, ответов на вопросы, выполнения инструкций и генерации кода. Она ориентирована на многоязычные сценарии и может использоваться в локальных приложениях, чат-ботах, помощниках разработчика и системах автоматизации работы с текстом. Максимальная длина контекста составляет 4096 токенов. Лицензия MIT допускает свободное использование при соблюдении её условий. 4-битное представление снижает требования к памяти и подходит для локального запуска, но может уступать полноразмерной версии по точности и качеству генерации.

Phi-3-Mini-128K-Instruct — компактная языковая модель Microsoft из семейства Phi-3 с плотной архитектурой Phi3ForCausalLM и примерно 3,7 млрд параметров. Она обучена на синтетических и отфильтрованных общедоступных данных, а затем дообучена с учителем и оптимизирована по предпочтениям для следования инструкциям и многоходового диалога. Лицензия — MIT. Модель предназначена для генерации текста на английском языке, диалога, рассуждений, математики и программирования, в том числе в условиях ограниченных вычислительных ресурсов и требований к низкой задержке. README описывает вариант с контекстом до 128 тысяч токенов и улучшения в понимании длинного контекста; однако метаданные указывают native context в 4096 токенов, поэтому заявленную длину 128K следует сверять с используемой конфигурацией и реализацией. Модель ориентирована прежде всего на английский язык и выдаёт текст. Она может ошибаться, а качество и безопасность для конкретных сценариев необходимо оценивать отдельно; карточка не рекомендует полагаться на неё без проверки в высокорисковых применениях.

Qwen2.5-Coder-32B-Instruct-8bit — это 8-битная версия модели Qwen2.5-Coder-32B-Instruct, конвертированная в формат MLX сообществом mlx-community с использованием mlx-lm 0.19.3. Исходную модель разработала команда Qwen. Модель предназначена для генерации текста и работы с программным кодом в диалоговом формате. Модель ориентирована на задачи кодирования и чат-сценарии, включая генерацию ответов на запросы пользователя с применением chat template. В README указано, что она поддерживает английский язык и относится к классу text-generation. Размер исходной модели составляет 32B параметров, а представление использует 8-битную квантизацию. Архитектура и размер контекстного окна в предоставленных данных не указаны. Ключевое преимущество этой версии — формат MLX, предназначенный для использования через mlx-lm; README содержит пример загрузки и генерации. Ограничения, точные показатели качества, перечень поддерживаемых языков помимо английского и требования к аппаратному обеспечению не приведены. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-3B-Q8_0-GGUF — это квантизированная модель для генерации кода и другого текста, преобразованная в формат GGUF проектом ggml-org из базовой модели Qwen/Qwen2.5-Coder-3B. Модель относится к семейству Qwen2.5-Coder и предназначена для запуска с помощью llama.cpp, в том числе локально через командную строку или сервер. Модель имеет размер 3B параметров и представлена в формате Q8_0. Она поддерживает текстовый ввод и вывод; в карточке указан английский язык. Основные сценарии использования — генерация программного кода, помощь в задачах разработки и текстовая генерация. В примере запуска используется контекст длиной 2048 токенов, однако максимальный размер контекста в предоставленных данных не указан. Преимуществами являются специализированная направленность на программирование, компактный размер по сравнению с более крупными моделями и совместимость с llama.cpp. Ограничения связаны с отсутствием подробных сведений о качестве, поддерживаемых языках программирования, мультимодальности и максимальном контексте; модель следует оценивать с учётом ресурсов локального запуска и особенностей квантизации. Лицензия указана как qwen-research; подробные условия приведены в лицензии исходной модели Qwen/Qwen2.5-Coder-3B.

thirdeyeai/Qwen2.5-Coder-7B-Instruct-Uncensored — разговорная модель для генерации текста, разработанная thirdeyeai. По названию она относится к семейству Qwen2.5-Coder и предназначена для инструкционного диалога, в том числе с запросами по программированию; карточка описывает её как uncensored. Архитектура — плотная причинная языковая модель Qwen2 с классом Qwen2ForCausalLM, объёмом 7,1 млрд параметров и контекстом до 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате safetensors; модель также доступна через Ollama. README не сообщает лицензию и не описывает конкретные оценки качества или ограничения. Разработчик снимает с себя ответственность за действия пользователей модели.

Qwen2.5-Coder-7B-Q4_K_M-GGUF — это квантизированная версия базовой модели Qwen/Qwen2.5-Coder-7B, преобразованная в формат GGUF с использованием llama.cpp и сервиса GGUF-my-repo. Модель опубликована в репозитории AIronMind и предназначена для локального запуска через llama.cpp. Модель ориентирована на генерацию текста и работу с программным кодом: её можно использовать для написания, дополнения и объяснения кода, а также для интерактивного применения через командную строку или серверный API llama.cpp. Указанный размер базовой модели — 7B параметров. Формат квантизации — Q4_K_M, что рассчитано на более экономичное использование памяти по сравнению с полной версией модели. В метаданных указан английский язык; другие языки и мультимодальные возможности не заявлены. Для запуска поддерживаются macOS и Linux при наличии установленного llama.cpp; возможна аппаратная настройка, включая CUDA для Nvidia GPU. В примере сервера используется контекст 2048 токенов, однако максимальный размер контекста в карточке явно не указан. Модель распространяется по лицензии Apache-2.0. Ограничения и подробные характеристики унаследованной базовой модели в этой карточке не описаны; для них рекомендуется обращаться к оригинальной документации Qwen/Qwen2.5-Coder-7B.

Qwen3.6-27B-A3B-CoderX — текстовая MoE-модель для генерации кода и работы с инструментами, созданная ManniX-ITA на основе Qwen/Qwen3.6-35B-A3B. Это чекпойнт с BF16-весами: из 256 экспертов каждого слоя оставлены 184, при этом активируются 8 экспертов на токен; заявлено около 27 млрд параметров и около 3 млрд активных. Контекст составляет 262 144 токена. Веса сохранённых экспертов совпадают с базовой моделью; дообучение и дистилляция не проводились. В чекпойнт включён блок MTP для спекулятивного декодирования, но нет визуальной башни, поэтому эта версия принимает только текст. Модель предназначена прежде всего для написания и дополнения кода, решения задач программирования и вызова инструментов в диалоге. В README приведены результаты отдельных тестов на код и использование инструментов, но полный набор оценок не запускался; заявленные результаты зависят от конфигурации и тестовой среды. Авторы отмечают ошибки в сценариях безопасности и работы с недоверенным выводом инструментов, поэтому такие применения требуют осторожной проверки. Лицензия — Apache-2.0.