II.4Отладка, тестирование и качество ПО

saricles/MiniMax-M2.7-NVFP4-GB10-AC — квантизированная версия MiniMax-M2.7 от автора репозитория saricles, подготовленная для генерации кода и агентных сценариев с вызовом инструментов. Модель использует архитектуру MiniMaxM2ForCausalLM типа MoE: исходная модель содержит 230 млрд параметров и 256 экспертов с top-K=8. После посттренировочной квантизации NVFP4 файлы занимают около 141,05 ГБ; в метаданных указано 2,9 млрд параметров, что расходится с README. Квантизация выполнена NVIDIA TensorRT Model Optimizer, а калибровка проведена на смеси датасетов кода, вызова функций, рассуждений и обычного чата. Модель предназначена для генерации кода, многошаговой работы с кодом и математикой, а также для агентных систем, которым нужно вызывать инструменты. Она сохраняет возможности диалоговой модели и рассчитана на запуск на NVIDIA DGX Spark с GB10 и оборудовании семейства Blackwell; README описывает распределённый запуск на двух DGX Spark. Контекстное окно составляет 196 608 токенов по метаданным. В карточке указаны английский и китайский языки. Лицензия обозначена как other, поэтому конкретные условия следует уточнять в репозитории базовой модели и карточке Hugging Face.

Карточка модели NostraEmpire/mirror-phi-4 на Hugging Face совпадает с карточкой microsoft/phi-4, поэтому описание составлено по ней. Phi-4 — языковая модель Microsoft Research с плотной архитектурой декодерного Transformer и 14,1 млрд параметров. Она принимает текстовые запросы, лучше всего в формате чата, и генерирует текст; длина контекста составляет 16 тысяч токенов. Модель доступна в формате Safetensors и распространяется по лицензии MIT. Модель предназначена для англоязычных сценариев общего назначения, особенно для рассуждений, логики, математики, программирования и следования инструкциям в условиях ограничений по памяти, вычислениям или задержке. При обучении использовались отфильтрованные общедоступные материалы, учебные и синтетические данные, академические книги, наборы вопросов и ответов, а также данные для настройки диалогов. Модель прошла supervised fine-tuning и direct preference optimization; около 8% обучающих данных были многоязычными. Phi-4 может служить компонентом генеративных ИИ-приложений и компактной альтернативой более крупным моделям для ряда задач рассуждения. Это статическая модель со срезом знаний по июнь 2024 года; ответы могут быть неточными, а качество и безопасность следует оценивать для конкретного применения, особенно в высокорисковых сценариях. Карточка указывает на основной фокус на английском языке.

Карточка модели NaiveAI/Naive-N0.5-Flash-FP8-Draft на Hugging Face совпадает с карточкой NaiveAI/Naive-N0.5-Flash, поэтому описание составлено по ней. Naive-N0.5-Flash — открытая модель с архитектурой Mixture-of-Experts от разработчиков NaiveAI, предназначенная для программирования и исследований в области ИИ. Карточка описывает продолжение обучения на базе MiMo-V2.5 с архитектурными изменениями; модель обучалась на 3,25 трлн токенов, включая адаптацию к разреженному вниманию. В README указаны 309 млрд параметров всего и 15,5 млрд активных, тогда как метаданные Hugging Face сообщают 12 млрд параметров; эти сведения расходятся. Архитектура внимания сочетает Sliding-Window Attention с окном 128 токенов и DeepSeek Sparse Attention, выбирающим до 2048 токенов. Заявлено нативное контекстное окно в 1 048 576 токенов. Модель принимает текст и генерирует текст, в том числе код; для инференса README указывает поддержку FP8 и необходимость совместимого оборудования NVIDIA. Модель подходит для задач разработки программного обеспечения, агентных сценариев и исследований ИИ. В README заявлены оптимизации скорости в системе NaiveRT, но их показатели относятся к этой системе инференса. Веса и код выпущены под лицензией MIT.

Locutusque/NeuralHyperion-Medium-Preview — англоязычная плотная языковая модель семейства Mistral, выпущенная M4-ai. Это версия модели NeuralHyperion-Medium объёмом 7,1 млрд параметров на базе mistralai/Mistral-7B-v0.1, дообученная на наборе Hyperion и затем с помощью DPO на парах Argilla Orca. Она предназначена для генерации текста, ответов на сложные вопросы и диалогов, а также для рассуждений, генерации кода и работы с научными, медицинскими и математическими текстами. Контекст составляет 32 768 токенов; модель принимает текст и генерирует текст. Модель может быть полезна для учебных помощников по естественным и компьютерным наукам, технических диалоговых систем, анализа медицинских текстов и поддержки программирования. В README приведены результаты отдельных тестов рассуждения и здравого смысла, но полная оценка обозначена как ожидающая публикации. Среди указанных ограничений — возможная непоследовательность ответов из-за различий в форматировании данных и качестве их разметки. Лицензия — Apache-2.0.

NousCoder-14B-GGUF — это квантизированные версии языковой модели NousCoder-14B, разработанной NousResearch и подготовленные bartowski в формате GGUF с использованием llama.cpp. Модель предназначена прежде всего для генерации и анализа программного кода, решения задач программирования и работы в локальных средах запуска, включая llama.cpp, LM Studio, koboldcpp, Jan AI и другие совместимые инструменты. В README также указаны наборы данных, связанные с генерацией кода и задачами LiveCodeBench, использованные для базовой модели или её подготовки. Модель имеет размер 14 миллиардов параметров; точные сведения об архитектуре, поддерживаемых языках программирования и длине контекста в README не указаны. Доступны варианты от BF16 до различных уровней квантования Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемыми названы многие варианты Q4–Q6; Q4_K_M обозначен как стандартный вариант для большинства сценариев, а менее точные Q3 и Q2 подходят главным образом при ограниченных ресурсах. Сильными сторонами являются возможность локального запуска, широкий выбор квантований и совместимость с популярными инструментами инференса. Ограничения связаны с компромиссом между размером и качеством при использовании квантованных версий, а также с тем, что некоторые форматы могут требовать обновления программного обеспечения. Модель и представленные квантизации распространяются по лицензии Apache-2.0.

OpenThinker-7B — плотная авторегрессионная языковая модель семейства Qwen2, разработанная командой OpenThoughts. Она дообучена на Qwen/Qwen2.5-7B-Instruct на наборе OpenThoughts-114k, созданном с использованием дистилляции DeepSeek-R1. Модель содержит 7,1 млрд параметров, работает через Transformers и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов с упором на рассуждения, решение математических задач, вопросы по естественным наукам и программирование. В README приведены оценки на AIME24, MATH500, GPQA-Diamond и задачах LiveCodeBench; результаты показывают сильные стороны в математике и коде, но не гарантируют точность каждого ответа. Веса, данные и код проекта опубликованы; лицензия модели — Apache 2.0. Это текстовая модель, поэтому она не принимает изображения или аудио. Как и другие языковые модели, она может выдавать неверные ответы и требует проверки результатов, особенно в задачах, где ошибка критична.

Ornith-1.0-9B — плотная языковая модель примерно на 9 млрд параметров из семейства Ornith, разработанная DeepReinforce AI и опубликованная в формате safetensors. Это компактный вариант семейства для запуска на одной GPU; карточка указывает дообучение на базе deepreinforce-ai/Ornith-1.0-9B и позиционирует семейство как модели для агентного программирования с обучением методом RL. Модель принимает текстовые запросы и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для терминальных coding-агентов: анализа кодовых баз, решения задач разработки и автоматизации работы через инструменты. В карточке приведены результаты оценок на Terminal-Bench, SWE-Bench, NL2Repo и других бенчмарках. Для инференса описаны vLLM, SGLang и Transformers; для Transformers требуется версия не ниже 5.8.1. Примеры запуска используют контекст до 262144 токенов, но это параметр конфигурации запуска, а не подтверждённая метаданными нативная длина контекста. Модель распространяется по лицензии MIT. Для работы с кодом и агентными сценариями она требует подходящей инфраструктуры и корректной настройки шаблона чата, парсера рассуждений и вызова инструментов; результаты бенчмарков зависят от используемого окружения и конфигурации.

Ornith-1.5-35B-A3B — среднеразмерная модель семейства Ornith-1.5, разработанная командой Ornith. Это модель типа mixture-of-experts, ориентированная прежде всего на программирование и агентные сценарии. Она предназначена для решения задач в терминале, разработки и исправления программного кода, а также для автономных многошаговых рабочих процессов, где требуется выбирать стратегии, взаимодействовать с инструментами и выполнять rollouts. Модель содержит 35 млрд параметров, но активирует около 3 млрд параметров на токен, что снижает вычислительную нагрузку по сравнению с плотными моделями сопоставимого общего размера. Ornith-1.5 развивает подход Ornith-1.0: модель совместно оптимизирует генерацию задач, построение scaffold и rollouts решений с использованием reinforcement learning и самоулучшения. В README указано, что она превосходит сопоставимую Qwen3.6-35B-A3B и ряд плотных моделей на бенчмарках агентного программирования и кодинга, включая Terminal-Bench 2.1 и SWE-bench Verified. Модель опубликована для библиотеки MLX и относится к задачам генерации текста. README не указывает поддерживаемые языки, размер контекстного окна, мультимодальные возможности, точные требования к оборудованию или лицензию, поэтому эти характеристики нельзя определить по представленным данным. Также заявленные результаты зависят от конкретных бенчмарков и конфигураций, а пригодность модели для других задач требует отдельной проверки.

Ornith-1.5-35B-A3B — языковая модель для генерации текста, разработанная командой Ornith AI. Она относится к семейству Ornith-1.5 и создана с применением подхода непрерывного самоулучшения: модель самостоятельно генерирует новые учебные задачи, выявляет эффективные стратегии их решения и совершенствуется посредством reinforcement learning. В основе Ornith-1.0, на которой развивалась эта линейка, использовались Qwen3.5 и Gemma4 с дополнительным продолжением предобучения, mid-training и post-training. Модель предназначена прежде всего для программирования и агентных сценариев, включая работу в терминале, решение задач из репозиториев и автоматизацию многошаговых операций. Это mixture-of-experts-модель с общим размером около 35 млрд параметров, из которых для обработки каждого токена активируется примерно 3 млрд. В карточке не указаны поддерживаемые языки, размер контекста и мультимодальные возможности; по заявленному pipeline_tag это text-generation-модель. К сильным сторонам относятся результаты на coding- и agentic-бенчмарках: заявлены оценки 67,8 и 68,5 на Terminal-Bench 2.1 в конфигурациях Terminus-2 и Claude Code, а также 79 на SWE-bench Verified. По данным разработчика, модель превосходит сопоставимую Qwen3.6-35B-A3B и ряд плотных моделей в агентном программировании. Ограничения, требования к оборудованию и особенности инференса в README не описаны. Модель распространяется по лицензии MIT.

Ornith-1.5-9B — плотная языковая модель с 9 млрд параметров, разработанная командой Ornith AI. Она относится к семейству Ornith-1.5 и создана для эффективного развертывания на одной GPU; для мобильных устройств предусмотрен отдельный квантованный вариант Ornith-1.5-9B-Mobile. Модель предназначена для генерации текста, программирования и решения задач, требующих многошагового рассуждения и работы с инструментами. В основе обучения лежит расширенный цикл самоулучшения: модель совместно оптимизирует генерацию задач, построение scaffold и rollouts решений с использованием reinforcement learning. В отличие от подхода с фиксированным набором созданных людьми задач и вручную разработанными harness, система автоматически генерирует новые тренировочные задачи и ищет эффективные стратегии их решения. Ornith-1.5 развивает Ornith-1.0, который был построен на базе Qwen3.5 и Gemma4 с дополнительным continued pretraining, mid-training и post-training. К сильным сторонам относятся компактный для современных моделей размер, возможность развертывания на одной GPU и заметные результаты в задачах программирования: в README указаны оценки 70,6 на SWE-bench Verified, 47,5 на SWE-bench Pro и 46,2–47 на Terminal-Bench 2.1 в зависимости от используемого агента. Данные о поддерживаемых языках, размере контекста, мультимодальности и конкретных архитектурных компонентах не приведены, поэтому их характеристики нельзя установить по этой карточке. Модель распространяется по лицензии MIT.

qwp4w3hyb/Phi-3-mini-4k-instruct-iMat-GGUF — это GGUF-квантизированная версия Phi-3-Mini-4K-Instruct, разработанной Microsoft. Модель содержит около 3,8 млрд параметров и предназначена для генерации текста на основе инструкций. Она обучалась на синтетических данных и отфильтрованных общедоступных веб-данных с акцентом на качество и задачи, требующие рассуждений, а также прошла supervised fine-tuning и direct preference optimization для улучшения следования инструкциям и безопасности. Модель рассчитана прежде всего на коммерческое и исследовательское использование на английском языке, включая среды с ограниченными ресурсами памяти и вычислений, сценарии с требованиями к низкой задержке, а также задачи программирования, математики, логики, понимания языка и здравого смысла. Поддерживается текстовая модальность и контекст до 4096 токенов. Версия представлена в формате GGUF для запуска с llama.cpp; квантизация выполнена с использованием importance matrix, доступны варианты K- и IQ-квантизации с уровнями от Q6_K до IQ1_S. Сильными сторонами являются компактный размер, пригодность для локального запуска и высокая производительность среди моделей с менее чем 13 млрд параметров, особенно в задачах кода, математики и логического рассуждения. Ограничениями остаются английская специализация, контекст в 4K токенов и общие риски языковых моделей: возможные ошибки, проблемы безопасности и предвзятость. Для критически важных сценариев требуется отдельная проверка качества и безопасности. Модель распространяется по лицензии MIT.

Qwable-9B-Claude-Fable-5-GGUF — семейство GGUF-квантизованных версий модели Qwable-9B-Claude-Fable-5, разработанной Empero. Модель создана на базе Qwen3.5-9B с полным дообучением параметров на трассах агентного программирования и рассуждений, дистиллированных из Claude Fable 5 и GPT-5.5 terminal agent. Распространяется для запуска через llama.cpp, Ollama, LM Studio и другие GGUF-совместимые среды. Модель предназначена прежде всего для программирования, терминальных и агентных сценариев, технического рассуждения и работы с инструментами. Она мультимодальная: поддерживает текст и изображения, однако для обработки изображений требуется отдельный vision projector mmproj с CLIP vision encoder. Основной язык — английский. Архитектура унаследована от Qwen3.5-9B и включает гибридный стек внимания с чередованием Gated DeltaNet linear attention и Gated full attention; заявлен длинный нативный контекст и словарь примерно из 152 тысяч токенов. Доступны варианты от BF16 до Q4_K_M размером примерно от 17 до 5,3 ГБ. Сильные стороны модели — готовое поведение для coding и agentic-задач, включая работу с терминалом и отдельные проявления security-aware подхода. По заявленной качественной проверке 27 из 34 ответов были признаны корректными и чистыми, однако полноценный набор бенчмарков ещё не опубликован. Ограничения включают меньшую надёжность в общих знаниях и длинных фактологических ответах, возможное снижение качества в низких квантизациях и отсутствие дополнительной safety-настройки. Ответы начинаются с блока <think>, который рекомендуется удалять перед показом пользователю. Модель распространяется по лицензии Apache-2.0; при использовании следует учитывать происхождение обучающих данных и организовать собственную проверку безопасности.

Qwen2.5-Coder-1.5B-Instruct-GGUF — это квантизированный формат GGUF модели Qwen2.5-Coder-1.5B-Instruct, разработанной Qwen и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации и анализа программного кода, чат-взаимодействия и других задач текстовой генерации, связанных с разработкой программного обеспечения. Указан английский язык, а исходная модель доступна через библиотеку Transformers. Модель содержит 1,5 млрд параметров и распространяется в нескольких вариантах точности, включая F16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ-квантизации. Размер файлов составляет примерно от 0,78 до 3,09 ГБ, поэтому доступны варианты для систем с разным объёмом оперативной памяти. В README не указаны архитектурные детали, размер контекста и дополнительные модальности; по описанию это текстовая модель без заявленной поддержки изображений или других типов входных данных. Основное преимущество набора — локальный запуск через llama.cpp и совместимость с LM Studio при существенно сниженном потреблении памяти. Варианты с более высокой точностью обеспечивают лучшее качество, а низкоразрядные квантизации экономят ресурсы, но могут заметно снижать качество генерации; устаревший формат Q4_0 не рекомендуется по сравнению с альтернативами сопоставимого размера. Для общения следует использовать указанный в README шаблон сообщений ChatML. Лицензия — Apache-2.0.

Qwen2.5-Coder-32B-Instruct-Q4_K_M-GGUF — это квантизированная версия модели Qwen2.5-Coder-32B-Instruct, преобразованная в формат GGUF пользователем zhangfeng026 с использованием llama.cpp и сервиса GGUF-my-repo. Исходная модель разработана командой Qwen; в карточке указана лицензия Apache-2.0. Модель предназначена для генерации текста и прежде всего для задач, связанных с программным кодом, включая работу в чат-сценариях и использование через llama.cpp. Формат GGUF ориентирован на локальный запуск с помощью llama-cli или llama-server и может применяться на совместимом CPU или GPU-оборудовании. В качестве базовой модели указана Qwen/Qwen2.5-Coder-32B-Instruct, а размер исходной модели составляет 32B параметров. Ключевая характеристика этой версии — квантизация Q4_K_M, которая уменьшает требования к памяти по сравнению с полноразмерной моделью, но потенциально снижает точность генерации. Модель относится к текстовым, поддерживает генерацию кода и текста; в метаданных указан английский язык. Размер контекста в README не определён: в примере запуска llama.cpp используется значение 2048 токенов, но это является параметром команды, а не обязательно максимальным контекстом модели. Подробные сведения о языках, архитектуре, результатах оценки и ограничениях рекомендуется уточнять в карточке исходной модели.

Qwen3.5-4B-Clarity-1.0-GGUF — экспериментальная дообученная версия Qwen3.5-4B, опубликованная пользователем Regic1d3 и основанная на модели Qwen от Qwen. Модель предназначена для генерации текста, рассуждений, решения многошаговых задач, проверки согласованности, выявления ошибок и некорректных предположений, а также для более точной генерации кода на Python. В обучении использовались дополнительные примеры рассуждений на английском и русском языках, а основная часть данных была дистиллирована из Qwen3.8-27B. Дообучение выполнено как относительно тонкая поведенческая настройка, сохраняющая общие возможности исходной модели. Модель имеет размер 4B параметров и доступна в формате GGUF, совместимом с llama.cpp. Предоставлены варианты квантования Q5_K_M и Q8_0. README также упоминает возможность мультимодального запуска, однако подробные характеристики поддерживаемых модальностей и контекстного окна не указаны. Рекомендуемые параметры генерации различаются для общих задач и кода. К сильным сторонам относятся потенциально улучшенные логическое, причинно-следственное и ограничительное рассуждение, арифметика в несколько шагов, обнаружение и исправление ошибок, а также различение фактов и предположений. Ограничения включают экспериментальный статус, отсутствие стандартизированных бенчмарков, возможность ошибочных рассуждений, недостаточную калибровку и склонность к чрезмерно уверенным или избыточно подробным ответам. Лицензия в README не указана.

Qwen3.8-27B ThinkingCap Abliterated (MTP GGUF) — GGUF-версия модели, разработанная hotdogs на основе hotdogs/Qwen3.8-27B-thinkingcap-abliterated и дообученная с использованием датасета hotdogs/thinkingcap-sft-qwen38-27b. Модель предназначена для генерации текста, рассуждений, решения задач, следования инструкциям и помощи в программировании, включая сценарии SWE-bench. Она ориентирована на эффективное рассуждение с сокращённым числом токенов и поддерживает запуск через llama.cpp. Модель содержит 27,3 млрд параметров и сохраняет MTP-слой (Multi-Token Prediction) с 15 тензорами. Доступны варианты GGUF F16 размером около 51 ГБ, Q6_K размером около 21 ГБ и Q4_K_M размером около 16 ГБ; Q6_K позиционируется как компромисс между качеством и размером, а Q4_K_M — как наиболее быстрый вариант. В README указано тестирование с контекстом 8192 токена. Языки и набор поддерживаемых модальностей явно не указаны; по описанию это текстовая модель. Сильные стороны — эффективное рассуждение, сохранение MTP при квантовании и высокая производительность на GPQA Diamond, IFEval и SWE-bench в заявленных условиях тестирования. Ограничения включают зависимость качества от выбранной квантовки, значительные требования к памяти и вычислительным ресурсам, а также ограниченность и специфичность приведённых бенчмарков. Модель распространяется по лицензии Apache-2.0.

WaveCut/Qwen3.8-Flash-Next-REAM-288-Q8E-MLX — квантизированная MLX-версия модели WaveCut/Qwen3.8-Flash-Next-REAM-288, построенная на базе Qwen3.8-Flash-Next. Разработчик карточки — WaveCut; метод REAM создан исследователями Samsung SAIL Montréal. Модель относится к мультимодальному классу image-text-to-text, однако в README подробно описано преимущественно применение для текстовой генерации и agentic coding. Она предназначена для программирования, рефакторинга, математических и общих текстовых задач, а также работы с английским, русским, кодом и редкими сущностями. Точный размер базовой модели и длина контекста в README не указаны. Архитектура использует mixture-of-experts: сохранено 288 экспертных слотов, а 224 удаляемых эксперта не отбрасываются, а объединяются с наиболее похожими сохранёнными экспертами. Основная часть модели квантизирована до 4 бит, экспертные веса представлены в 8-битном формате с группировкой gs64; модель совместима с mlx-vlm и поддерживает стандартный runtime с qwen4_exp. По сравнению с REAP-288 объединение экспертов лучше сохраняет близость к исходной 512-экспертной модели по KL-метрике, а опубликованные 4-битные сравнения показывают сопоставимые или немного более высокие результаты на HumanEval, GSM8K и тесте редких имён, хотя различия статистически незначимы. Ограничение — большой размер текущей сборки: около 107 ГБ, из-за чего она не помещается на GPU с 80 ГБ памяти; генеративное тестирование именно этой сборки не проводилось. Для спекулятивного декодирования требуется отдельный MTP drafter. Лицензия указана как qwen-community-license-1.0.

Qwen3-Coder-480B-A35B-Instruct-1M — версия модели для генерации кода от команды Qwen, размещённая Unsloth. Это каузальная языковая модель с архитектурой MoE: в исходной конфигурации 480 млрд параметров, из которых активируются 35 млрд. Модель предназначена для агентного программирования, работы с инструментами и анализа больших репозиториев. По карточке, длина контекста расширена с 256 тысяч до 1 миллиона токенов. Модель принимает текстовые запросы и выдаёт текст, в том числе код; поддерживает интерфейс вызова функций и рассчитана на работу с Qwen Code и CLINE. В README указано, что доступен только режим без рассуждений (non-thinking). Модель распространяется по лицензии Apache-2.0. Метаданные указывают дообучение на Qwen/Qwen3-Coder-480B-A35B-Instruct.

unsloth/Qwen3-Coder-480B-A35B-Instruct-1M-GGUF — GGUF-версия крупной инструктивной модели для генерации кода Qwen3-Coder-480B-A35B-Instruct, разработанной командой Qwen и подготовленной Unsloth. Модель предназначена для агентного программирования, использования браузера, генерации и анализа кода, работы с большими репозиториями и интеграции с инструментами вроде Qwen Code и CLINE через специально разработанный формат вызова функций. Это каузальная языковая модель на архитектуре mixture-of-experts: 480 млрд параметров всего, из которых активируется 35 млрд; 160 экспертов, 8 активных экспертов, 62 слоя и Grouped Query Attention с 96 головами Q и 8 головами KV. Поддерживается текстовая модальность, а модель работает только в режиме без рассуждений и не генерирует блоки <think></think>. Нативная длина контекста составляет 262 144 токена, а данная версия расширяет её до 1 млн токенов с использованием YaRN, что подходит для задач на уровне репозитория. К сильным сторонам относятся высокая производительность в агентном программировании и задачах работы с браузером, а также большой контекст. Ограничения включают требовательность к вычислительным ресурсам, типичную для модели такого размера, и отсутствие режима рассуждений; конкретные требования к оборудованию и показатели производительности в README не приведены. Модель распространяется по лицензии Apache-2.0.

QwQ-MathOct-7B — дообученная PrithivMLmods языковая модель на базе Qwen/Qwen2.5-7B-Instruct. Это плотная причинная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для диалогов и генерации текста. Она ориентирована на математические задачи, рассуждения, помощь с кодом, следование инструкциям и создание структурированных ответов; поддерживает контекст до 32 768 токенов и работает через Transformers. Модель подходит для пошагового объяснения решений, генерации и разбора кода, подготовки учебных материалов, многоязычного общения и создания содержимого. В карточке заявлена поддержка более 29 языков, включая русский и английский. Возможные ограничения — ошибки в неоднозначных задачах, устаревшие знания, унаследованные от обучающих данных смещения и необходимость проверки ответов, особенно в чувствительных сценариях. Указана лицензия Apache-2.0.

Мультимодальная диалоговая модель darkc0de/XORTRON.CriminalComputing.Qwen3.5-27B-Claude-Opus-4.6-Distill-darkc0de-heretic создана на базе unsloth/Qwen3.5-27B и дообучена на наборах данных с примерами рассуждений, включая данные, оформленные в стиле Claude Opus 4.6. Разработчик также применил abliteration, чтобы снизить частоту отказов: в приведённом тесте модель отказала в 3 случаях из 100 против 92 из 100 у исходной модели для сравнения. Модель предназначена для диалогов общего назначения, программирования, творческого письма и визуального анализа. Архитектура Qwen3.5 — плотная модель с 27 млрд параметров; она принимает текст и изображения, поддерживает интерфейс вызова инструментов и выдаёт текст. Карточка рекомендует длину генерации до 32 768 токенов для обычных запросов и до 81 920 для сложных задач; это рекомендации по выходу, а не подтверждённая длина контекста. В README приведены результаты отдельных тестов, но они не гарантируют качество на других задачах. Снижение отказов означает, что модель может отвечать на запросы, которые базовая версия отклоняет. Лицензия — Apache-2.0.

CodeLlama 7B GGUF — это квантизированные файлы модели CodeLlama 7B, разработанной Meta и подготовленной в формате GGUF пользователем TheBloke. Модель относится к семейству Llama и предназначена для генерации и обработки программного кода, а также для задач текстовой генерации, связанных с разработкой программного обеспечения. Модель содержит около 7 миллиардов параметров и представлена в формате GGUFv2, совместимом с llama.cpp и рядом сторонних интерфейсов и библиотек. Доступны варианты квантизации от 2 до 8 бит, рассчитанные на запуск с использованием CPU и GPU; выбор варианта позволяет находить компромисс между размером файлов, требованиями к оперативной памяти, скоростью и качеством вывода. В README не указаны точное максимальное окно контекста, поддерживаемые естественные языки и дополнительные модальности, поэтому модель следует рассматривать прежде всего как кодовую текстовую модель. К сильным сторонам относятся возможность локального запуска на широком спектре оборудования, несколько уровней квантизации и совместимость с популярными инструментами, включая llama.cpp, LM Studio, text-generation-webui и llama-cpp-python. Ограничения связаны с потерями качества, возможными при низкобитной квантизации, а также с тем, что конкретные требования к памяти и производительность зависят от выбранного файла и оборудования. Модель распространяется по лицензии Llama 2; условия использования следует учитывать согласно этой лицензии.

Con0 — мультимодальная модель для анализа кибербезопасности, разработанная Arcanic AI совместно с NextZero. Она предназначена для проверки кода и конфигураций, выявления уязвимостей, анализа инцидентов и подготовки рекомендаций по устранению проблем, включая угрозы безопасности ИИ-агентов. Модель дообучена на Qwen/Qwen3.8-27B и содержит 27 млрд параметров. Она принимает текст и изображения, поддерживает анализ видео и OCR; контекстное окно составляет 262 144 токена. Архитектура сочетает Gated DeltaNet с полным вниманием; также заявлена поддержка диалогов и вызова инструментов. Con0 ориентирована на выявление SQL-инъекций, XSS, SSRF, проблем контроля доступа, prompt injection и других угроз веб-приложений и ИИ-агентов, а также на анализ журналов, трассировок и скриншотов. Результаты бенчмарков пока не опубликованы, поэтому качество заявленных возможностей независимо не подтверждено. Лицензия — Apache-2.0.

DeepSeek-Coder-V2-Instruct-0724-GGUF — это квантизированная в формате GGUF версия большой MoE-модели для генерации текста и программного кода DeepSeek-Coder-V2-Instruct-0724. Исходную модель разработала команда deepseek-ai, а GGUF-квантизацию подготовил bartowski на основе llama.cpp версии b3715. Модель предназначена прежде всего для задач, связанных с написанием и обработкой кода, однако конкретные поддерживаемые языки программирования, размер, длина контекста и другие архитектурные параметры в README не указаны. Модель можно использовать в инструментах, поддерживающих формат GGUF и шаблон запросов Jinja, в частности в LM Studio. Квантизация делает модель пригодной для локального запуска при наличии совместимого программного обеспечения и подходящих аппаратных ресурсов, но README не содержит сведений о точных требованиях, вариантах квантизации, производительности или качестве на отдельных задачах. Как и другие генеративные модели, она может создавать неточные или неподходящие ответы. Указана лицензия DeepSeek License; тип лицензии обозначен как other, а полный текст доступен в файле LICENSE. Дополнительные сведения о том, что изменилось относительно исходной модели, в README отсутствуют.

DeepSeek-Coder-V2-Lite-Base-GGUF — набор GGUF-квантизаций базовой модели DeepSeek-Coder-V2-Lite-Base, разработанной командой DeepSeek и преобразованной в GGUF пользователем bartowski. Квантизация выполнена с помощью llama.cpp, релиз b3166, с использованием imatrix и специализированного набора данных. Модель относится к классу text-generation и предназначена прежде всего для генерации и обработки программного кода, а также других сценариев локальной генерации текста. Доступны варианты квантизации от Q8_0 и Q8_0_L до Q2_K и IQ2_S, размером примерно от 6,00 до 17,09 ГБ. Старшие варианты обеспечивают очень высокое качество, тогда как младшие требуют меньше оперативной памяти, но заметно уступают по качеству. Для ряда вариантов указана поддержка контекстного формата с системным сообщением, запросом пользователя и ответом ассистента. Архитектура, число параметров, поддерживаемые языки программирования, максимальная длина контекста и дополнительные модальности в README не указаны, поэтому модель следует рассматривать как текстовую. Основные преимущества — широкий выбор уровней сжатия, возможность запуска через llama.cpp и хорошее сохранение качества у вариантов Q5–Q8; варианты Q6_K и Q5_K рекомендованы автором как сбалансированные. Ограничения связаны с потерей качества при низких уровнях квантизации и с тем, что некоторые варианты имеют экспериментальный статус. Модель распространяется по лицензии DeepSeek License; точные условия следует уточнять в файле LICENSE исходного репозитория.

DeepSeek-R1-0528-Qwen3-8B — плотная языковая модель с 7,6 млрд параметров, размещённая Unsloth и основанная на Qwen3 8B Base. По README, модель получена дообучением на цепочках рассуждений DeepSeek-R1-0528; метаданные указывают базовую модель deepseek-ai/DeepSeek-R1-0528-Qwen3-8B и архитектуру Qwen3ForCausalLM. Репозиторий содержит веса safetensors и поддерживает диалоги и интерфейс вызова инструментов. Модель предназначена для генерации текста и диалогов с многоэтапными рассуждениями, в частности для решения математических и логических задач, программирования и помощи при написании кода. Её контекст составляет до 131 072 токенов. README сообщает об улучшении результатов на отдельных математических и общих бенчмарках, но эти результаты не гарантируют качество на других задачах. Лицензия — MIT.

DeepSeek-R1-Distill-Qwen-32B — плотная языковая модель с 32 млрд параметров, разработанная DeepSeek путём дообучения Qwen2.5 на примерах рассуждений, сгенерированных DeepSeek-R1. Она предназначена для генерации текста в диалогах и решения задач, требующих многошаговых рассуждений, в частности по математике и программированию. Модель построена на архитектуре Qwen2 и поддерживает контекст до 131 072 токенов. В README сообщается о сильных результатах на бенчмарках рассуждений, математики и кода; эти результаты не гарантируют аналогичного качества на других задачах. Для модели указана лицензия MIT.

DeepSeek-V3.2-Speciale — крупная языковая модель, разработанная DeepSeek AI. Она представляет собой высокоресурсный вариант DeepSeek-V3.2, дообученный на базе DeepSeek-V3.2-Exp-Base, и ориентирована на сложное рассуждение, решение математических и алгоритмических задач, использование инструментов и работу в агентных сценариях. Модель использует механизм разреженного внимания DeepSeek Sparse Attention (DSA), предназначенный для снижения вычислительной сложности при работе с длинным контекстом. В DeepSeek-V3.2 также применяются масштабируемое обучение с подкреплением и конвейер синтеза данных для агентных задач, включая взаимодействие с инструментами. В README не указаны размер модели, точная архитектура, максимальная длина контекста, поддерживаемые языки и модальности; заявлена текстовая работа с сообщениями и инструментами. К сильным сторонам относятся развитое рассуждение, эффективность на длинном контексте и способность выполнять сложные интерактивные задачи. Для версии Speciale заявлены результаты на уровне или выше GPT-5, а также золотые медали на IMO и IOI 2025, однако эти утверждения приведены в README без подробностей о методике оценки. Ограничения включают отсутствие встроенного Jinja-шаблона чата и необходимость использовать предоставленный Python-код для кодирования сообщений и разбора ответов; функция разбора рассчитана только на корректно оформленный вывод. Модель распространяется по лицензии MIT.

Devstral Small 1.1 — языковая модель для агентных задач в разработке программного обеспечения, созданная в сотрудничестве Mistral AI и All Hands AI. Модель предназначена для работы с программными кодовыми базами: она умеет исследовать проекты с помощью инструментов, редактировать несколько файлов и служить основой программных агентов. Рекомендуемый сценарий использования — интеграция с OpenHands; также доступны API и локальное развертывание. Модель дообучена на базе Mistral-Small-3.1 и содержит 24 млрд параметров. Она работает только с текстом: визуальный энкодер был удалён до этапа дообучения. Поддерживается контекст до 128 тысяч токенов, используется токенизатор Tekken со словарём размером 131 тысяча токенов, а также формат function calling Mistral. В метаданных README указана поддержка языков от английского и французского до русского, китайского, японского, арабского и других языков. Сильные стороны модели — специализация на агентном программировании, улучшение относительно Devstral Small 1.0 и возможность запуска на одной RTX 4090 или Mac с 32 ГБ оперативной памяти. В SWE-Bench Verified она получила 53,6% при использовании OpenHands Scaffold. Ограничения включают текстовую, а не мультимодальную обработку и необходимость учитывать ресурсы для локального запуска. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое и некоммерческое использование и модификацию.

DNA3.0-2B — мультимодальная модель Dnotitia на основе Qwen/Qwen3.5-2B, дообученная с использованием uncensored- и persona-training. Она предназначена для диалогов, аналитических рассуждений, помощи в программировании и понимания изображений; также поддерживает интерфейс вызова инструментов. Модель имеет 2 млрд параметров, плотную архитектуру и принимает текст и изображения, выдавая текст. README заявляет поддержку 201 языка и диалектов и контекст до 262 144 токенов с расширением примерно до 1 010 000 токенов через YaRN. Модель обучена отвечать с меньшим числом отказов и учитывать корпоративные знания и терминологию Dnotitia, поэтому подходит для ассистента по продуктам и внутреннему контексту компании. Унаследованные от базовой модели мультимодальные возможности позволяют разбирать изображения в диалоге. Модель распространяется по лицензии Apache-2.0. Сниженное число отказов может привести к выдаче нежелательных ответов; корпоративная настройка способна смещать ответы в пользу точки зрения Dnotitia. Возможны галлюцинации и унаследованные от базовой модели пробелы и предубеждения. README не рекомендует применять модель для автономных решений в критически важных областях без надзора и профильной проверки.