II.4Отладка, тестирование и качество ПО

InfiR-1B-Instruct — англоязычная инструктивная языковая модель от InfiX, дообученная на базе meta-llama/Llama-3.2-1B. Это плотная авторегрессионная модель семейства Llama с 1,2 млрд параметров; метаданные указывают контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста, в частности для математических рассуждений, написания кода и ответов с пошаговым рассуждением. Обучение включает продолженное предобучение на коде и веб-текстах, а также настройку инструкциями на смесях данных, среди которых Infinity-Instruct, Orca-AgentInstruct-1M и NuminaMath. В README приведены результаты на MMLU, GSM8K и MATH, но модель уступает крупным моделям на сложных задачах рассуждения. Оценивание сосредоточено на английских тестах, а многоязычная устойчивость не проверена; знания ограничены примерно серединой 2023 года. Лицензия — Llama 3.2.

Это квантованная в формате MXFP4 версия модели Kwaipilot/KAT-Coder-V2.5-Dev с MTP. Модель предназначена для генерации текста в диалоге и агентного программирования; в каталоге для базовой модели указана поддержка вызова инструментов. Для запуска требуется актуальная версия llama.cpp. Репозиторий представлен в формате GGUF. В README и метаданных нет сведений о размере, длине контекста, поддерживаемых языках и лицензии.

Typhoon2-DeepSeek-R1-70B — тайская языковая модель для диалогов и рассуждений, разработанная Typhoon. Это плотная decoder-only модель на архитектуре Llama с 69,5 млрд параметров и контекстом до 131 072 токенов. Она создана слиянием DeepSeek-R1-Distill-Llama-70B и Typhoon2 70B Instruct с SFT; использует шаблон чата DeepSeek R1 Distill, а не Llama 3. Модель предназначена для ответов на инструкции и сложные вопросы, рассуждений, математики и программирования. README отмечает сильные результаты на тайском языке и сопоставимые с DeepSeek R1 Distill способности к рассуждению; основной язык — тайский, также поддерживается английский. Репозиторий использует Transformers и формат safetensors. Лицензия — Llama 3.1 Community License. Это исследовательская предварительная версия в разработке. Ответы могут быть неточными, предвзятыми или нежелательными; авторы не рекомендуют полагаться на встроенный интерфейс вызова инструментов.

NV-EmbedCode-7b-v1 — модель эмбеддингов NVIDIA на 7,1 млрд параметров, основанная на Mistral и оптимизированная для поиска по коду. Она преобразует текстовые запросы, код и смешанные запросы в плотные векторы размерности 4096 с усреднением представлений токенов; модель рассчитана на контекст до 32 768 токенов и использует библиотеку Sentence Transformers. Модель предназначена для построения систем поиска по крупным корпусам кода и текстов. Она поддерживает поиск кода по текстовому описанию, поиск похожих фрагментов кода, поиск текстов по коду и гибридный поиск; такие результаты могут использоваться в помощниках программиста, поиске документации и локализации файлов для решения задач разработки. В README приведены результаты оценки на CoIR и адаптированном SWE-bench Lite. Репозиторий содержит веса в формате safetensors, а в README указана базовая модель NVIDIA Retrieval QA Mistral 7B Embedding. Лицензия обозначена как other; конкретные условия следует сверить с лицензией репозитория перед использованием. Модель создаёт эмбеддинги для поиска, а не готовые ответы или объяснения кода.

NVIDIA-Nemotron-3-Nano-4B — компактная языковая модель NVIDIA для диалога, рассуждений и агентных сценариев. Репозиторий unsloth содержит дообученную версию базовой модели nvidia/NVIDIA-Nemotron-3-Nano-4B-BF16. В карточке указаны 6,4 млрд параметров и гибридная архитектура Nemotron-H с Mamba-2, MLP и четырьмя слоями Attention; модель принимает и генерирует текст, поддерживает контекст до 262 144 токенов и имеет интерфейс для вызова инструментов. Модель предназначена для локальных голосовых помощников, игровых NPC-компаньонов и автоматизации IoT, а также для задач программирования и работы агента на устройствах с ускорением NVIDIA. Карточка заявляет английский как поддерживаемый язык; в описании обучения также перечислены многоязычные данные, в том числе русский, но это не гарантирует одинаковое качество на всех языках. Модель может формировать рассуждения перед ответом; отключение этого режима может снизить точность на сложных запросах. Для запуска описана поддержка Transformers, vLLM и TensorRT-LLM, а также других движков инференса. README называет модель пригодной для коммерческого использования, однако метаданные указывают лицензию «other», поэтому перед внедрением следует проверить условия лицензии репозитория.

Карточка модели unsloth/NVIDIA-Nemotron-3-Nano-4B-FP8 на Hugging Face совпадает с карточкой unsloth/NVIDIA-Nemotron-3-Nano-4B, поэтому описание составлено по ней. NVIDIA-Nemotron-3-Nano-4B — компактная языковая модель NVIDIA для диалога, рассуждений и агентных сценариев. Репозиторий unsloth содержит дообученную версию базовой модели nvidia/NVIDIA-Nemotron-3-Nano-4B-BF16. В карточке указаны 6,4 млрд параметров и гибридная архитектура Nemotron-H с Mamba-2, MLP и четырьмя слоями Attention; модель принимает и генерирует текст, поддерживает контекст до 262 144 токенов и имеет интерфейс для вызова инструментов. Модель предназначена для локальных голосовых помощников, игровых NPC-компаньонов и автоматизации IoT, а также для задач программирования и работы агента на устройствах с ускорением NVIDIA. Карточка заявляет английский как поддерживаемый язык; в описании обучения также перечислены многоязычные данные, в том числе русский, но это не гарантирует одинаковое качество на всех языках. Модель может формировать рассуждения перед ответом; отключение этого режима может снизить точность на сложных запросах. Для запуска описана поддержка Transformers, vLLM и TensorRT-LLM, а также других движков инференса. README называет модель пригодной для коммерческого использования, однако метаданные указывают лицензию «other», поэтому перед внедрением следует проверить условия лицензии репозитория.

Orion T2 Mini SFT — экспериментальный диалоговый ассистент Project Prism на архитектуре Orion T2, опубликованный Refract Labs. Это плотная причинно-языковая модель примерно на 219 млн параметров, дообученная методом SFT на 700 тысячах примеров: 60% общих и диалоговых, 20% математических и 20% связанных с программированием. Модель предназначена для генерации ответов, следования инструкциям, общения, решения математических задач и помощи с кодом. Для диалога используется встроенный шаблон чата Transformers с текстовыми маркерами ролей. В текущем слое совместимости Transformers кэширование отключено, поэтому при генерации каждого токена префикс вычисляется заново. Модель экспериментальная; заявленные архитектурные особенности следует оценивать на сопоставимых тестах. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.

SC117/Ornith-1.0-35B-MTP-APEX-GGUF — GGUF-сборка модели Ornith-1.0-35B от DeepReinforce AI, предназначенная для агентного программирования. Базовая модель Ornith дообучена на Qwen3.5 с применением обучения с подкреплением для совместной оптимизации генерации каркаса решения и последовательности действий по его выполнению. В сборку включены MTP-слои и проектор зрения mmproj в формате F16; для запуска с поддержкой изображений README указывает llama.cpp. Модель принимает текстовые запросы и, при использовании проектора зрения, изображения; генерирует текст, включая код и шаги решения задач. В карточке заявлены результаты на Terminal-Bench 2.1, SWE-Bench Verified/Pro/Multilingual, NL2Repo и OpenClaw. Для сервера llama.cpp приведена длина контекста 131072 токена. Файлы распространяются в GGUF с APEX-квантизацией, а также в BF16 и F16. Лицензия — MIT.

OxCoder-9B-MERNIK-GGUF — это набор GGUF-квантизированных сборок модели OxCoder-9B, разработанной OrionLLM и дообученной для агентного программирования. Модель предназначена для генерации кода и решения задач программирования; в README приведены результаты на HumanEval, где лучшая сборка показывает pass@1 90,24% (148 из 164 заданий). Модель рассчитана на использование с llama.cpp и поддерживает формат GGUF. Базовая модель имеет около 9 млрд параметров, языком заявлен английский, а заявленный контекст составляет 262K токенов. Квантизация MERNIK использует распределение битности на основе imatrix с учётом perplexity, KLD относительно эталона и результатов на оцениваемых задачах. Доступны сборки размером 5,36 ГБ (Q4) и 6,83 ГБ (Q8); для сравнения приведена стандартная Q6_K размером 7,36 ГБ. Сильной стороной является высокая эффективность на HumanEval, однако показатели зависят от конкретной сборки, а результаты на нестандартном тесте GPQA-recognition ниже, чем у некоторых альтернатив, поэтому они не характеризуют полноценные рассуждения. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-0.5B-Instruct-MLX-8bit — компактная инструкционная языковая модель для работы с кодом, разработанная командой Qwen. Эта версия представляет собой 8-битную MLX-квантизацию базовой модели Qwen2.5-Coder-0.5B-Instruct, подготовленную bartowski на основе инструментов mlx-examples. Модель предназначена для запуска на компьютерах Mac с Apple Silicon и интеграции в локальные приложения, включая code agents. Модель ориентирована на генерацию и обработку программного кода, диалоговые сценарии и задачи, требующие связи между естественным языком и исходным кодом. Заявлена поддержка контекста до 32 тысяч токенов. При обучении использовалось до 5,5 триллиона токенов, включая исходный код, пары «текст—код» и синтетические данные. В карточке указана поддержка английского языка. Небольшой размер около 0,5 миллиарда параметров и 8-битная квантизация делают модель подходящей для локального запуска с ограниченными ресурсами, однако по сравнению с более крупными моделями она может уступать в сложности рассуждений, качестве кода и устойчивости к неоднозначным запросам. Как и другие модели этого класса, она может генерировать неточные или неподходящие ответы, поэтому результаты требуют проверки. Лицензия — Apache 2.0.

KridgeDookie выпустил PHILADELPHIA CLASS — дообученную мультимодальную модель на 27,36 млрд параметров на базе Qwen/Qwen3.6-27B. Она сохраняет гибридную архитектуру обработки текста и изображений и предназначена для общения, программирования, творческих задач и экспериментов с мультимодальными сценариями. Версия Safetensors включает обработку изображений; вариант GGUF в BF16 предназначен только для генерации текста. Разработчик сообщает о снижении склонности к отказам: модель не отказала ни на одном из 842 внутренних проверочных запросов и на отдельной выборке из 126 запросов; 23 из 24 проверок связности пройдены. Это внутренние автоматизированные оценки, а не независимые или стандартизированные тесты, и они не подтверждают фактическую точность или безопасность модели. Контекст настроен на 262 144 токена, но доступность полного окна зависит от оборудования. Сниженная склонность к отказам может приводить к вредным, вводящим в заблуждение, предвзятым или незаконным ответам. Модель распространяется по лицензии Apache-2.0.

Карточка модели Andronovo/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 на Hugging Face совпадает с карточкой denyzhirkov/Qwen3.8-27B-AEON-ULTIMATE-U-BF16, поэтому описание составлено по ней. Qwen3.8-27B-AEON-ULTIMATE-U-BF16 — экспериментальная ранняя версия модели Qwen3.8-27B, подготовленная denyzhirkov. Это дообученная и аблитерированная BF16-версия с уменьшенным числом отказов; базовая модель — Qwen/Qwen3.8-27B. Плотная мультимодальная архитектура поддерживает диалог, следование инструкциям, вызов инструментов и работу с изображениями. В README описана проверка на NVIDIA H200 через vLLM; при тестировании использовалось окно 16 384 токена, а автор указывает, что базовая модель поддерживает контекст до 262 000 токенов. Модель рассчитана на прямые ответы, творческое письмо, исследования безопасности, red-team-тестирование и работу с запросами, которые базовая модель могла бы отклонить. Снятие части отказов может сделать ответы более доступными, но не гарантирует точности или безопасности. README предупреждает о повторениях и потере связности на очень длинных запросах; модель может выдавать опасный или незаконный контент. Лицензия — Apache-2.0.

Replete-Coder-V2-Llama-3.1-8b-GGUF — это набор GGUF-квантизаций модели Replete-Coder-V2-Llama-3.1-8b, разработанной Replete-AI и сконвертированной и квантованной bartowski с использованием llama.cpp и метода imatrix. Модель относится к классу text-generation и предназначена прежде всего для генерации и обработки программного кода. В README явно указан английский язык; другие языки не заявлены. Модель основана на архитектуре Llama 3.1 и имеет 8 миллиардов параметров. Доступны варианты от F16 до Q2_K, с размером файлов примерно от 3,18 до 16,07 ГБ. Квантизации позволяют запускать модель локально с различными компромиссами между качеством и требованиями к памяти; для работы рекомендуется llama.cpp, в частности через LM Studio. Наиболее качественными и рекомендуемыми названы варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M и некоторые другие. Более сильное сжатие уменьшает требования к оперативной памяти, но снижает качество. Модель поддерживает текстовый ввод и вывод; сведения о мультимодальности и размере контекстного окна в README отсутствуют. Для корректного взаимодействия следует использовать указанный шаблон промпта с ролями system, user и assistant. Модель распространяется под лицензией Apache-2.0. Описанные ограничения включают зависимость качества от выбранного уровня квантизации и отсутствие данных о бенчмарках, точности, безопасности и применимости за пределами заявленного английского языка.

Cisco AI разработала SecureBERT2.0-code-vuln-detection — англоязычную модель классификации фрагментов исходного кода на уязвимые и неуязвимые. Это дообученная на SecureBERT 2.0 модель с архитектурой ModernBERT и классификационной головой на два класса; она предназначена для анализа безопасности кода на этапе проверки и разработки. Модель можно встроить в системы автоматизированного ревью, сканеры уязвимостей в CI/CD и расширения для IDE. В карточке описана оценка на примерах C, C++, Python и категориях вроде переполнения буфера и инъекций. Указано 149 млн параметров; метаданные сообщают контекст до 8192 токенов, тогда как README приводит максимальную длину последовательности 1024 токена. Модель служит вспомогательным средством: она может пропускать уязвимости или отмечать безопасный код как уязвимый, а синтаксические закономерности обучающих данных могут мешать обнаружению логических ошибок. Она не предназначена для анализа обычного текста, выявления проблем во время выполнения или генерации исправлений. Лицензия — Apache-2.0.

Huangsssz/SmolLM3-3B-MOPD-Top64-DT-NoThinking-500 — исследовательский чекпойнт языковой модели, созданный на базе BytedTsinghua-SIA/Open-MOPD-SmolLM3-3B-MixSFT. Модель SmolLM3 с плотной архитектурой содержит 3,1 млрд параметров, принимает текстовые запросы и генерирует текст. Родной контекст — 65 536 токенов; экспортирована в BF16 в формате Hugging Face Transformers, с токенизатором и исходным шаблоном чата. Чекпойнт прошёл 500 обновлений оптимизатора с дистилляцией Top64-пересечения токенов от учителей по математике, программированию и следованию инструкциям. Обучение и оценка выполнялись с отключённым режимом thinking. README приводит результаты на math500, LiveCodeBench и IFBench как измерения по фиксированному протоколу; это снимок оценки, а не гарантия качества. Для генерации в режиме без рассуждений нужно явно передать enable_thinking=False. Лицензия — Apache-2.0, унаследованная от базовой модели.

Jebadiah/Tess-coder-ruby-p7 — модель генерации текста на основе архитектуры Llama, созданная слиянием предварительно обученных моделей с помощью mergekit. В слиянии использованы Jebadiah/Tess-coder-ruby-p6 и ChaoticNeutrals/Puppy_Purpose_0.69; применён метод DARE linear. Модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для диалоговой генерации текста и кода, включая задачи с Ruby. Она принимает текст и выдаёт текст; в метаданных указана библиотека Transformers и формат safetensors. Лицензия в предоставленных данных не указана.

Vinci-Cyber-30B-1.0 — диалоговая языковая модель компании SimpleDirect для задач кибербезопасности, прежде всего анализа и исправления Infrastructure as Code (IaC). Это дообученная версия IBM Granite 4.1 30B с плотной архитектурой GraniteForCausalLM и 28,9 млрд параметров. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и распространяется в формате Safetensors. Заявленная область применения — помощь специалистам при проверке изменений IaC и решений оставить конфигурацию без изменений; результаты требуют проверки человеком. README сообщает об оценке на задачах IaC и об отсутствии подтверждённой регрессии на ряде общих бенчмарков, но не утверждает превосходства в кибербезопасности в целом. Проверка CyberSOCEval для этой версии ещё выполнялась, а PatchEval-Verified не проводился. Лицензия — Apache-2.0.

AdaGuard-0.6B — генеративная модель для проверки пользовательских запросов и действий ИИ-агентов на соответствие правилам, заданным разработчиком. Модель разработана Yunhao-Feng на базе Qwen3Guard-Gen-0.6B и дообучена на AdaptiveSafety с последующим этапом SafePO. Архитектура — плотная Qwen3ForCausalLM; в чекпойнте около 507,9 млн параметров, формат хранения — FP32, пример загрузки использует BF16. Модель принимает текст с набором политик и событий, а выдаёт текстовый разбор и идентификаторы нарушенных правил либо метку NR, если нарушений нет. Подходит для проверки запросов, последовательностей действий агента и результатов вызовов инструментов по правилам конкретного приложения. Можно передать от 1 до 100 правил с собственными идентификаторами; результат содержит объяснение и нарушенные ID в порядке политики. Контекст — 32 768 токенов, однако пример ограничивает бюджет входного запроса 16 000 токенами и генерацию 512 токенами. По опубликованным оценкам версия 0.6B уступает вариантам 4B и 8B; предсказание представляет структурированное решение, а не откалиброванную вероятность риска. При некорректном или неполном ответе разбор следует считать недействительным. Лицензия — Apache-2.0.

BAAI/BGE-VL-Screenshot — модель семейства UniSE от BAAI для поиска по скриншотам и визуально представленным данным. Она дообучена на базе Qwen2.5-VL-3B-Instruct и использует архитектуру Qwen2.5-VL с 3,1 млрд параметров. Модель совместно представляет содержимое скриншотов, включая текст, изображения, таблицы и диаграммы, и поддерживает поиск, при котором запрос или результат могут охватывать разные модальности. Модель предназначена для поиска скриншотов по текстовым и составным запросам, а также для сопоставления скриншотов с другими данными. В Sentence Transformers предусмотрены режимы «query» для составных запросов с изображением и текстом и «document» для скриншотов-кандидатов. Контекст — до 128 000 токенов; заявлены языки английский, китайский, арабский, французский и испанский. Метаданные указывают возможности эмбеддингов и интерфейс вызова инструментов; веса доступны в формате safetensors. В README сообщается о высоких результатах семейства UniSE на бенчмарке MVRB для задач поиска по скриншотам. Это не свидетельствует о качестве на любых иных наборах данных; код оценки и дообучения в плане выпуска отмечен как ещё не опубликованный. Лицензия модели — MIT.

Gemma-4-26B-A4B-JANG_4M-CRACK — мультимодальная MoE-модель на базе google/gemma-4-26b-a4b-it, подготовленная dealignai. В ней заявлены 128 экспертов с выбором 8 активных, гибридное скользящее и глобальное внимание, режим рассуждений и обработка изображений. Репозиторий содержит квантизированные веса в формате safetensors; профиль JANG_4M использует указанные авторами уровни точности 8 и 4 бит для разных частей модели. Для запуска рекомендован vMLX или совместимый движок MLX с поддержкой Gemma 4; в README указаны Mac на Apple Silicon и 24 ГБ или больше объединённой памяти. Модель предназначена для диалогов, программирования, общих вопросов и анализа изображений. Автор сообщает о тестах на HarmBench, MMLU и наборе запросов по кибербезопасности, однако это результаты собственных проверок, а не независимая оценка качества. Модель намеренно ослабляет отказы на вредоносные запросы, что повышает риск получения небезопасных инструкций; показатели бенчмарков сами по себе не гарантируют качество или безопасность в практических сценариях. Лицензия — Gemma; README описывает модель как исследовательскую и возлагает ответственность за соблюдение законов на пользователя.

Это дообученная на QLoRA модель Google Gemma 4 E2B Instruct, подготовленная автором rohitsoni1010 для агентного программирования. В основе — плотная мультимодальная архитектура Gemma4ForConditionalGeneration; модель поддерживает диалог и интерфейс вызова инструментов. В README указан набор настройки sft_balanced, а в метаданных — обучение на датасете r0b0tlab/qwen3.8-max-glm5.2-kimi-k3-distillation и формат safetensors. Модель предназначена для задач программирования с агентным поведением, где полезны диалог и вызов инструментов. Описание карточки не уточняет конкретные языки программирования, контекстное окно, поддерживаемые модальности на входе этой версии или результаты оценки качества. Лицензия — Gemma; применяются условия лицензии Google Gemma.

Huihui4-8B-A4B-v2 — разговорная модель Huihui AI на архитектуре Gemma 4, полученная прореживанием экспертов и дообучением SFT базовой модели google/gemma-4-26B-A4B-it. В модели оставлено 32 эксперта из исходных 128, при обработке каждого токена активируются 8. Модель поддерживает диалог и анализ изображений с выдачей текста; в метаданных для неё указан формат safetensors и библиотека Transformers. Модель предназначена для диалоговой помощи с кодом, планирования простых задач и локального запуска на потребительском оборудовании. Дообучение использует данные huihui-ai/GLM-5.1-Multilingual-STEM, а режим рассуждений оформлен в формате GLM-5.1. Автор сообщает о предварительных тестах диалога и оценке perplexity, но не приводит подробных сравнительных результатов. Лицензия — Apache-2.0.

OsaurusAI/Laguna-XS.2-JANGTQ — квантизированная версия языковой MoE-модели Laguna-XS.2 от Poolside, подготовленная Jinho Jang для запуска на компьютерах Apple Silicon через MLX. Модель предназначена для агентного программирования и продолжительных задач разработки ПО; поддерживает генерацию текста и диалоговый режим. Архитектура включает 40 слоёв, 256 маршрутизируемых экспертов с выбором восьми экспертов на токен и один общий эксперт. Используется гибридное внимание с полным и скользящим окном, групповое внимание запросов и контекст до 131 072 токенов. Веса экспертов квантизированы TurboQuant до 2 бит, ряд других линейных слоёв — до 8 бит; нормы и некоторые компоненты маршрутизатора сохранены в FP16. Репозиторий содержит веса в формате safetensors и предназначен для MLX. Для работы требуется совместимый JANGTQ runtime sidecar jangtq_runtime.safetensors, соответствующий параметрам квантизации модели. Базовая модель — poolside/Laguna-XS.2; лицензия — Apache-2.0. Квантизация может снижать точность относительно исходной модели, а запуск описан для Apple Silicon.

Карточка модели tunai1111/LocateAnything-3B на Hugging Face совпадает с карточкой nvidia/LocateAnything-3B, поэтому описание составлено по ней. LocateAnything-3B — разработанная NVIDIA в рамках семейства Eagle vision-language модель для визуальной локализации по изображениям и текстовым запросам. Она предназначена для разработчиков и исследователей, которым нужны обнаружение объектов, поиск областей по описанию и другие задачи пространственного понимания в приложениях Enterprise Intelligence и Physical AI. Модель основана на трансформерной VLM с визуальным энкодером MoonViT, языковой частью Qwen2.5-3B-Instruct и MLP-проектором; содержит около 3 млрд параметров. Принимает RGB-изображения исходного разрешения до 2,5K и текстовые запросы; заявлена поддержка промптов до 24K токенов. Модель выполняет поиск одного или нескольких объектов, плотное обнаружение в сложных сценах, привязку выражений к областям, локализацию элементов GUI и текста, а также выдаёт рамки и точки. Механизм Parallel Box Decoding предсказывает координаты блоками параллельно, что, по данным карточки, обеспечивает до 2,5 раза более высокую пропускную способность по сравнению с предшествующими подходами. Обучение охватывает природные сцены, робототехнику, вождение, GUI и документы; заявленный масштаб обучающих данных — 12 млн изображений и более 138 млн запросов. Карточка позиционирует релиз для исследований и разработки. Лицензия указана как other, поэтому конкретные права использования следует сверять с условиями репозитория.

o1-pro — модель из серии o1 от OpenAI, обученной с применением обучения с подкреплением для решения задач, требующих рассуждений перед ответом. Вариант o1-pro использует больше вычислительных ресурсов для более глубокого обдумывания ответа. Модель предназначена для сложных задач рассуждения и подготовки ответов на запросы пользователя. Доступный фрагмент карточки не описывает архитектуру, размер, поддерживаемые языки и длину контекста, поэтому эти характеристики не приводятся. Лицензия в предоставленных данных не указана.

Ornith Harness 4B v2 — исследовательская текстовая модель на 4,2 млрд параметров, созданная на основе Qwen3.5-4B и распространяемая в формате GGUF Q5_K_M. Разработчики дообучили её на траекториях использования инструментов, а затем применили оптимизацию предпочтений и двухэтапную on-policy дистилляцию. Модель рассчитана на локальные агентные эксперименты, проверяемую обработку данных и написание небольших программ по заданным примерам и критериям. В комплект входит двухинструментальный harness для оценки результатов; заявленный контекст оценки — 8192 токена. В фиксированном тесте из 48 задач модель прошла 32; этот результат относится к конкретной конфигурации модели, среды и проверяющих программ и не гарантирует аналогичного качества на произвольных запросах. Авторы исключают из проверенной области применения общий чат, крупный рефакторинг, проектирование архитектуры и генерацию критичного к безопасности кода. Harness выполняет сгенерированные команды и записывает файлы, поэтому авторы рекомендуют запускать его в изолированной среде с ограничениями и проверять результаты независимо. Лицензия — Apache 2.0.

win10/phi-3.5-sakura-yuzu-v3.0 — объединённая авторами модель генерации текста на архитектуре Phi-3.5, созданная с помощью mergekit и метода TIES. В качестве основы использована win10/Phi-3.5-mini-instruct-24-9-29; в слияние также вошли модели для ролевого общения, программирования, медицинских вопросов и адаптеры EvolKit и System. Размер модели — 3,7 млрд параметров, длина контекста — 4096 токенов. Модель предназначена для диалоговой генерации текста и может применяться для ролевых бесед, ответов на вопросы, помощи с кодом и медицинской тематикой. Метаданные указывают поддержку чата и нескольких языковых вариантов в моделях, вошедших в слияние, но основной язык этой модели отдельно не установлен. Модель распространяется в формате safetensors для библиотеки Transformers. Сведения о лицензии в предоставленных источниках отсутствуют.

ProCreations_grug-9b-GGUF — квантизированная версия модели grug-9b, разработанной ProCreations и подготовленной в формате GGUF пользователем bartowski с использованием llama.cpp. Модель основана на датасете ProCreations/grug-think; в карточке указаны направления применения, связанные с кодом, агентами, использованием инструментов, рассуждениями и эффективным выводом. Pipeline обозначен как image-text-to-text, однако подробности о поддерживаемых визуальных возможностях не приведены. Модель имеет размер 9 млрд параметров в исходной версии. Доступны варианты от BF16 до различных уровней квантования, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M и более компактные форматы. Квантизация выполнена с применением imatrix, что позволяет выбирать компромисс между качеством, размером файла и требованиями к оперативной памяти. Для запуска указаны llama.cpp, LM Studio, KoboldCpp, Jan, Text Generation Web UI и другие совместимые приложения; используется специальный шаблон prompt с системными и пользовательскими сообщениями и секцией рассуждений. Сильными сторонами являются широкий выбор квантованных вариантов, возможность локального запуска и ориентация на задачи программирования, агентное взаимодействие и tool use. Качество зависит от выбранного формата: высокобитные варианты ближе к исходной модели, а самые компактные экономят память ценой снижения качества. Данные о языках, размере контекста, точных архитектурных характеристиках, результатах тестирования и ограничениях безопасности в README отсутствуют. Лицензия — MIT.

Qwen3.8-27B-Uncensored-NVFP4 — квантованная и модифицированная версия модели Qwen/Qwen3.8-27B, разработанной командой Qwen компании Alibaba. Сборка johnnyeric предназначена для исследовательских задач, включая интерпретируемость, изучение механизмов отказа, red teaming, оценку устойчивости и контролируемые эксперименты. Она также поддерживает диалоговые сценарии, рассуждения, вызов инструментов и обработку изображений вместе с текстом. Модель содержит 27 млрд параметров и использует плотную гибридную архитектуру с 64 слоями: 48 слоёв Gated DeltaNet с линейным вниманием и 16 слоёв с полным вниманием. В состав входят vision-language модуль и MTP-голова для speculative decoding. Основные характеристики включают контекст до 262 тысяч токенов, поддержку английского и китайского языков, а также динамическую смешанную точность NVFP4 и FP8: большая часть feed-forward слоёв хранится в 4-битном NVFP4, а чувствительные к точности компоненты и KV-кэш — в FP8. Это позволяет снизить требования к памяти по сравнению с полноразмерной моделью при лучшем сохранении качества, чем при равномерном W4A4. Ключевое ограничение — удаление защитного направления отказа посредством abliteration: модель может выполнять вредоносные, незаконные и иные опасные запросы и практически не имеет встроенных защитных механизмов. Её не рекомендуется использовать напрямую в пользовательских или производственных системах без собственных средств модерации, безопасности и предотвращения злоупотреблений. Модель распространяется по лицензии Apache 2.0; применение также должно соответствовать законодательству и условиям лицензии базовой модели.

Qwen3.8-Flash-Next-Uncensored-NVFP4 — квантизированная версия модели Qwen3.8-Flash-Next, разработанной Qwen и опубликованной OrcaRouter. Это мультимодальная Mixture-of-Experts-модель для работы с текстом и изображениями, рассуждений, вызова инструментов, функционального вызова, исследовательского red-teaming и анализа механизмов отказа моделей. Модель представляет preview-архитектуры Qwen4 и поддерживает английский и китайский языки. Архитектура включает 512 экспертов, из которых для каждого запроса активируются 10 маршрутизируемых и 1 общий эксперт, Gated DeltaNet linear attention, Qwen Sparse Attention, HyperConnections и PLE n-gram embeddings. Экспертные веса сжаты в NVFP4 с точностью 4 бита, attention и общие экспертные веса — в FP8, а отдельные компоненты, включая эмбеддинги, vision tower и нормализации, сохранены в bf16. Размер хранения сокращён примерно с 330 ГБ в bf16 до 178 ГБ; KV-кэш во время работы остаётся в bf16. Главное преимущество модели — значительное снижение требований к памяти при сохранении полноточных путей в важных компонентах, а также встроенная поддержка vision, reasoning и tool calling. Ограничения включают необходимость GPU с архитектурой Blackwell и FP4 tensor cores; Hopper и более старые GPU не поддерживаются. Для запуска нужны свежие версии vLLM с архитектурой qwen4_exp и compressed-tensors NVFP4, а мультимодальный режим зависит от поддержки vision-стека Qwen. Из модели удалена значительная часть safety alignment методом abliteration, поэтому она может выполнять вредоносные или незаконные запросы, от которых исходная модель отказалась бы. Модель предназначена только для легитимных исследований; перед практическим развёртыванием необходимы собственные фильтры безопасности и модерация. Лицензия — Apache 2.0, унаследованная от базовой модели.