II.4Отладка, тестирование и качество ПО

Nemotron-Flash-3B Base — базовая языковая модель NVIDIA для генерации текста. Это плотная причинная трансформерная модель семейства Nemotron Flash с архитектурой NemotronFlashForCausalLM и 1,3 млрд параметров. Семейство спроектировано с учётом задержки на реальных сценариях: в нём используются гибридные операторы, найденные эволюционным поиском, оптимальное соотношение глубины и ширины и нормализация весов на этапе обучения. Модель предназначена для генерации продолжений текста и может применяться в задачах математических рассуждений, программирования и здравого смысла. В README заявлены результаты на уровне лучших моделей своего размера, а также низкая задержка при небольших пакетах и высокая пропускная способность при больших. Для запуска описана интеграция с Transformers и ускорение CUDA Graph; контекст составляет 29 000 токенов. Это базовая, а не Instruct-версия, поэтому карточка не заявляет, что она настроена для диалога по инструкциям. Модель распространяется под лицензией с типом «other»; конкретные условия следует проверять в файлах лицензии репозитория. Для загрузки указаны Transformers и формат safetensors.

Undi95/Nous-Hermes-13B-Code — языковая модель генерации текста на архитектуре Llama с 12,9 млрд параметров. Она создана слиянием Nous-Hermes-Llama2-13b с LoRA-адаптером для кода из jondurbin/airoboros-lmoe-13b-2.1/adapters/code: README указывает веса слияния 0,70 и 0,30 соответственно. Модель предназначена для генерации кода и другого текста по текстовым запросам. Контекст составляет до 4096 токенов; репозиторий содержит веса PyTorch. По приведённым сведениям нельзя установить поддерживаемые естественные языки или конкретные языки программирования. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование. Результаты оценки в README приведены для отдельных бенчмарков и сами по себе не гарантируют качество на пользовательских задачах.

Это 6-битная версия NVIDIA Nemotron Nano 9B v2, подготовленная сообществом mlx-community для запуска в формате MLX на совместимом оборудовании Apple. Репозиторий преобразован из nvidia/NVIDIA-Nemotron-Nano-9B-v2 с помощью mlx-lm 0.27.1; метаданные связывают исходную модель с дообучением и указывают поддержку чата. Модель предназначена для генерации текста и диалогового взаимодействия. Базовая модель описана как гибридная языковая модель NVIDIA для чата, следования инструкциям, программирования и управляемого рассуждения. В карточке модели перечислены английский, испанский, французский, немецкий, итальянский и японский языки. Репозиторий указывает лицензию other; условия следует сверить с лицензией исходной модели и файлами репозитория перед использованием.

OpenAi-GPT-oss-20b-abliterated-uncensored-NEO-Imatrix-gguf — модель, опубликованная DavidAU на основе huihui-ai/Huihui-gpt-oss-20b-BF16-abliterated. Это языковая модель для генерации текста, диалогов, программирования, решения задач, рассуждений, мозгового штурма и творческих сценариев. Модель позиционируется как uncensored и abliterated: из базовой версии были удалены или ослаблены отказы от ответов. Модель относится к архитектуре Mixture of Experts (MoE), имеет заявленный размер 20B и использует 24 эксперта. Она ориентирована прежде всего на английский язык, поддерживает текстовый ввод и вывод и заявлена для контекста до 128k токенов. Распространяется в формате GGUF с вариантами квантования IQ4_NL, Q5_1 и Q8_0, включая версии с одной, двумя или тремя Imatrix-датасетами для оптимизации квантования. Варианты NEO и NEO-CODE ориентированы на общее применение, код и творческие задачи. К сильным сторонам относятся сочетание возможностей для программирования, общего диалога, рассуждений и творческой генерации, а также возможность выбрать баланс качества, скорости и размера через разные варианты квантования. Автор отмечает, что Q5_1 может быть стабильнее IQ4_NL в некоторых сценариях, тогда как IQ4_NL иногда даёт более свободные и непредсказуемые ответы. Ограничением является возможная неровность поведения и нестабильность, связанная с abliteration; модель может генерировать нежелательный или рискованный контент из-за отсутствия стандартных отказов. README не приводит системных требований и результатов независимого бенчмаркинга. Модель распространяется по лицензии Apache-2.0. Условия использования uncensored-версии следует учитывать отдельно от технической лицензии при применении в продуктивных системах.

Модель kuhess/OpenHermes-2.5-Mistral-7B-alpaca-cleaned — дообученная разработчиком kuhess версия OpenHermes-2.5-Mistral-7B на архитектуре Mistral. Это плотная авторегрессионная языковая модель на 7,1 млрд параметров с контекстом до 32 768 токенов, предназначенная для генерации текста и диалогового общения. При обучении использовались Unsloth и TRL. Модель подходит для ответов на вопросы, написания и продолжения текста, диалоговых помощников и помощи с кодом. В карточке указан английский язык. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. README не приводит подробностей о наборе данных или результатах оценки качества.

Agnuxo публикует локальную GGUF-модель для генерации кода на основе Phi-3.5 Mini Instruct. Карточка описывает её как помощника для программирования и разговорного взаимодействия; модель можно запускать через Ollama, а формат файлов указан как GGUF F16. Количество параметров в доступных сведениях не приведено. Модель предназначена для генерации и помощи с кодом на Python, JavaScript, TypeScript, Rust, Go и C++, включая примеры научных вычислений и машинного обучения с NumPy, SciPy, Pandas, PyTorch, TensorFlow и JAX. Указаны также возможности координации агентных задач и интеграции с MCP и A2A. Лицензия — Apache-2.0. Карточка не содержит результатов оценки качества; заявленные в ней достижения и возможности не подтверждены независимыми данными.

vonjack/Phi-3-mini-4k-instruct-LLaMAfied — текстовая генеративная модель на 3,7 млрд параметров, опубликованная vonjack. В метаданных указана архитектура LlamaForCausalLM; карточка описывает исходную модель Phi-3 Mini-4K-Instruct и её настройку для следования инструкциям. Контекст составляет 4096 токенов, формат весов — safetensors. Модель предназначена для диалогов и генерации текста, включая задачи на логику, математику и программирование. Компактный размер подходит для сред с ограниченными ресурсами и сценариев, где важна задержка; заявленная ориентация — коммерческое и исследовательское применение на английском языке. Лицензия — MIT. README указывает, что качество на языках кроме английского ниже; ответы могут быть неточными, устаревшими, предвзятыми или оскорбительными. Сгенерированный код и API следует проверять, особенно вне Python. Для чувствительных и высокорисковых сценариев необходимы дополнительные проверки и меры защиты.

lopezhansel/phined-tuned-2 — конвертированная в формат MLX версия модели microsoft/Phi-3-mini-4k-instruct. Это плотная авторегрессионная языковая модель семейства Phi-3 с 3,7 млрд параметров, предназначенная для генерации текста в диалоговом и кодовом сценариях. Модель принимает текст и выдаёт текст; заявленный контекст — 4096 токенов. В метаданных указаны английский язык и поддержка чата и кода. Модель опубликована в формате safetensors и подготовлена с помощью mlx-lm версии 0.15.3 для использования с MLX. Лицензия — MIT. Карточка не приводит отдельных сведений о качестве или дополнительных ограничениях.

Qwen3.6-27B-Heretic-Uncensored-FINETUNE-NEO-CODE-Di-IMatrix-MAX-GGUF — это производная от Qwen3.6-27B модель от DavidAU, созданная на базе Qwen3.6-27B-Heretic2-Uncensored-Finetune-Thinking. Модель была подвергнута декодированию ограничений и дообучению с использованием Unsloth на пользовательском наборе данных, а затем преобразована в GGUF-квантизации с применением методов NEO и NEO-CODE Di-Matrix. Модель предназначена для общего применения, включая диалоги, творческое и художественное письмо, генерацию сюжетов и сцен, ролевые сценарии, программирование, математику и задачи, требующие работы с длинным контекстом. Заявлена поддержка контекста до 256 тысяч токенов. Указаны языки English и Chinese. Размер базовой модели — 27 миллиардов параметров; доступны квантизации с различным соотношением качества и требований к памяти, включая IQ2_M и Q4K_S. В карточке также заявлена поддержка image-text-to-text, однако подробности о мультимодальных возможностях не приведены. Сильными сторонами заявлены сниженный уровень отказов, отсутствие цензурных ограничений, высокая близость к качеству полной точности и оптимизация для длинных диалогов, кода и математических задач. Приведённые результаты основаны преимущественно на внутренних тестах автора, поэтому их не следует считать независимой оценкой. Конкретные требования к оборудованию, совместимые приложения и подробная методика дообучения не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Coder-GGUF — это многоз этапно дообученная и объединённая модель на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В README модель представлена как разработка для потребительского оборудования с использованием Unsloth, методов COLD FUSION и Fable Fusion 711. Доступны GGUF-квантизации, включая обычные и MTP-варианты, с заявленной поддержкой режимов reasoning и thinking. Модель предназначена для широкого круга задач: программирования, решения задач, рассуждений, творческого письма, создания художественных текстов, ролевых сценариев и работы с различными жанрами. В метаданных указаны английский и китайский языки. Размер базовой модели — 27B параметров. Репозиторий также помечен как image-text-to-text, однако подробные сведения о поддерживаемых визуальных входах в README отсутствуют; максимальная длина контекста не указана. К заявленным сильным сторонам относятся сокращение объёма внутреннего рассуждения и ускорение генерации при сохранении детализации, а также высокие результаты на ARC-C и ARC-E. Автор утверждает, что модель превосходит базовые версии Qwen по ряду benchmarks, но эти показатели приведены без независимой методологии проверки. Ограничениями являются отсутствие подробных данных о контекстном окне, требованиях к памяти, совместимости MTP и качестве мультимодальной обработки. Модель описана как uncensored и abliterated, поэтому её ответы могут требовать дополнительной фильтрации и контроля безопасности. Лицензия — Apache-2.0.

iliaosipov998/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — многоэтапная fine-tune и merge-модель на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU, подготовленная с использованием Unsloth и методов COLD FUSION и Fable Fusion. Репозиторий содержит обычные и MTP-варианты GGUF-квантов, включая версии с 4- и 8-битным представлением. Разработчик заявляет о создании модели для потребительского оборудования и о снижении объёма рассуждений по сравнению с базовой Qwen 3.8 27B при сохранении детализации и качества ответов. Модель предназначена для широкого спектра сценариев: решения задач и рассуждений, программирования, творческого письма, создания художественных текстов, ролевых диалогов и других универсальных применений. Заявлены поддержка английского и китайского языков, текстовый ввод и вывод; при этом в карточке присутствует тег image-text-to-text, но подробности о фактических мультимодальных возможностях не приведены. Архитектура, точное окно контекста и полный набор режимов работы не описаны, однако из названия и карточки следует размер базовой модели около 27B параметров и наличие MTP-режима. К заявленным сильным сторонам относятся высокая производительность на внутренних и упомянутых ARC-C и ARC-E тестах, уменьшенное количество рассуждающих токенов, ускоренная генерация, развитые способности к программированию и генерации подробных текстов. Эти результаты представлены авторами модели и не подтверждены независимыми измерениями в предоставленных данных. Ограничения включают возможную необъективность заявленных бенчмарков, отсутствие подробной информации о качестве, безопасности и поведении на других языках, а также позиционирование как uncensored/abliterated-модели, что может означать ослабленные защитные ограничения. Лицензия — Apache-2.0.

Qwen3.8-max-Reasoning-Distilled-GGUF — компактная языковая модель, разработанная khazarai и созданная методом дистилляции знаний из Qwen3.8-max. Модель предназначена для задач рассуждения, включая анализ вариантов, решение вопросов из разных предметных областей и генерацию структурированных ответов. Формат GGUF ориентирован на использование с llama.cpp, а тег vision-language-model и pipeline image-text-to-text указывают на поддержку сценариев работы с изображениями и текстом, однако подробности о реализации визуального ввода в README не приведены. Ключевая особенность модели — оптимизированная цепочка рассуждений: она стремится выдавать линейную, последовательную и решительную логику, сокращая повторные проверки, колебания и циклы «переобдумывания». Благодаря дистилляции модель рассчитана на более эффективный инференс с меньшим числом генерируемых токенов при сохранении качества ответов. Размер архитектуры, объём параметров, максимальная длина контекста и полный набор поддерживаемых языков не указаны; явно заявлен английский язык. Модель может быть полезна там, где важны компактность, скорость и экономный расход токенов. Ограничением является то, что для чрезвычайно сложных многошаговых математических задач может потребоваться явный запрос на пошаговые промежуточные вычисления. Результаты следует проверять при использовании в медицинских, юридических и финансовых сценариях. Указанная лицензия — Apache-2.0.

Модель vito95311/Qwen3-Omni-30B-A3B-Thinking-GGUF-INT8FP16 — квантованная версия Qwen3-Omni-30B-A3B-Thinking от автора vito95311, опубликованная в формате GGUF для запуска через llama.cpp и Ollama. В основе лежит мультимодальная модель Qwen3-Omni с архитектурой смеси экспертов и режимом рассуждения; в README указан размер исходной модели 31,7 млрд параметров. Репозиторий содержит варианты Q8_0 с весами INT8 и F16, а также отдельный файл FP16. Версия предназначена прежде всего для генерации текста, рассуждений, диалога и написания кода на локальном оборудовании. Карточка описывает поддержку китайского и английского языков и заявляет многоязычность. Исходная модель принимает текст, изображения, аудио и видео и может формировать текстовые и аудиовыходы, однако автор предупреждает, что мультимодальные функции в llama.cpp и Ollama могут быть недоступны или работать с ухудшением; в текущей упаковке следует ориентироваться на текстовые сценарии. Квантование уменьшает требования к памяти по сравнению с исходной моделью, но README не приводит независимой проверки заявленных показателей качества и скорости. Для использования указана лицензия Apache 2.0; базовая модель сохраняет условия лицензии Qwen3-Omni.

Qwen-Qwen2.5-Coder-7B-llamafied — версия Qwen/Qwen2.5-Coder-7B от llamafy, представленная в формате Llama для совместимости с программами, поддерживающими этот формат. Это плотная авторегрессионная модель с 7,1 млрд параметров; метаданные указывают библиотеку Transformers и формат весов Safetensors. Модель предназначена для генерации текста, в том числе программного кода, и поддерживает диалоговый интерфейс. Модель основана на дообученной для кода Qwen2.5-Coder-7B. Указанная длина контекста — 4096 токенов. Карточка заявляет совместимость с программами, поддерживающими формат Llama, однако конкретные результаты конвертации и совместимость отдельных функций не описаны. Лицензия в предоставленных данных не указана.

Speechless-Thoughts-Mistral-7B-v1.0 — дообученная авторами проекта Speechless базовая модель для экспериментов с Speechless-Sparsetral-16x7B-MoE. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров, рассчитанная на генерацию текста; для работы с Transformers доступны веса Safetensors, а контекст модели составляет до 32 768 токенов. Модель обучена на наборе Speechless-Thoughts-252K, включающем примеры программирования, рассуждений, планирования и инструкций. В README она описана как базовая модель для сравнения с MoE-моделью; также приведены результаты отдельных оценок, но значение HumanEval не заполнено. Метаданные указывают поддержку английского языка и возможность генерации кода. Лицензия — Llama 2 Community License. Модель подходит для экспериментов и прикладной генерации текста и кода, однако качество конкретных ответов и программ следует проверять; приведённые в карточке оценки не гарантируют результат на пользовательских задачах.

Triangulum-10B-GGUF — это квантизированная версия языковой модели Triangulum-10B, разработанной prithivMLmods и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста, задач рассуждения и сценариев, где требуется пошаговое объяснение решения. В метаданных также указаны поддержка оценки кода, точности, математических задач и символьных операций. Модель содержит около 10 млрд параметров и относится к семейству causal language models на базе Llama. Доступны варианты от F16 до низкобитных квантований Q8, Q6, Q5, Q4, Q3 и Q2, включая форматы IQ. Размер файлов составляет примерно от 3,6 до 20,6 ГБ. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель работает с текстом; сведения о мультимодальности и размере контекстного окна не указаны. Сильной стороной являются разнообразие вариантов квантования и возможность локального запуска через llama.cpp и совместимые приложения, включая LM Studio. В README рекомендуются варианты Q6_K_L, Q6_K, Q5 и Q4 для сочетания качества и размера, тогда как низкобитные варианты экономят память, но снижают качество. Формат инструкций для запросов не указан, поэтому его необходимо уточнять по странице исходной модели. Лицензия обозначена как llama3.1.

Trida-7B — языковая модель на 7,76 млрд параметров от Trillion Labs, построенная на архитектуре Block Diffusion Language Model. Это Transformer-декодер с RoPE, SwiGLU и RMSNorm; модель создана посредством непрерывного предобучения базовой trillionlabs/Tri-7B с последующим постобучением. Модель принимает текст и генерирует текст, поддерживает диалоговый режим и предназначена для генерации на корейском, английском и японском языках. Блочная диффузионная генерация сочетается в ней с авторегрессионными зависимостями. Механизм Step-wise Autoregressive Attention рассчитан на обучение и генерацию с более эффективным использованием вычислений; заявлена поддержка KV-кэширования внутри текущего блока. В README указана длина контекста 8192 токена, тогда как метаданные каталога задают native context в 4096 токенов. Модель оценивали на задачах рассуждения, знаний, программирования, математики и следования инструкциям. Модель распространяется по лицензии Apache-2.0. Разработчик указывает, что качество может снижаться при работе с языками, отличными от английского, корейского и японского; сведения модели ограничены данными до февраля 2025 года.

bhenrym14/airoboros-33b-gpt4-1.4.1-lxctx-PI-16384-fp16 — текстовая модель семейства LLaMA, созданная bhenrym14 на основе Airoboros 33B GPT4 1.4.1. Это дообучение QLoRA на синтетических данных Airoboros GPT4 1.4.1 с дополнительным предварительным обучением на последовательностях длиной 8192 токена и RoPE-масштабированием для расширения контекста. Модель содержит 32,3 млрд параметров и использует формат safetensors; метаданные указывают нативный контекст 2048 токенов, а в карточке заявлена теоретическая длина до 16384 токенов. Модель предназначена для диалоговых ответов, ответов по предоставленному контексту, генерации кода, ролевого общения, шуток и загадок. В README приведены примеры кода на десяти языках программирования, но естественные языки обучения или поддержки не указаны. По тестам на perplexity автор сообщает улучшение относительно модели Airoboros 33B PI-8192 на проверенных длинах 512–2048 токенов; поведение при длине контекста свыше 8192 токенов не проверено. Для запуска карточка описывает использование Transformers либо GPTQ-весов через text-generation-webui и ExLlama с настройками max_seq_len=16384 и compress_pos_emb=8. Лицензия в предоставленных данных не указана. В исходной карточке сказано, что модель не отказывает в ответах независимо от законности или моральной приемлемости запроса, поэтому её ответы требуют соответствующего контроля.

Fireplace-13b версии 1.1 — языковая модель Valiant Labs для генерации кода и вызова функций. Она дообучена на CodeLlama-13b-Instruct-hf, построенной на архитектуре Llama 2, с использованием набора glaive-function-calling-v2. Модель содержит 12,9 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 16 384 токена. Карточка рекомендует передавать описания функций в системном сообщении, а ответы вызова функций обрабатывать в формате, описанном в руководстве. Модель предназначена для интеграции с инструментами и API, а также для задач программирования и чата по инструкциям. Она рассчитана прежде всего на английский язык. Веса опубликованы в формате Safetensors под лицензией Apache-2.0. Качество и корректность результатов не гарантируются; модель может наследовать ошибки базовой модели и обучающих данных.

Denilah/CoMA-7B — дообученная языковая модель для генерации кода и выполнения инструкций. По карточке, модель обучена в июне 2023 года на наборе из 77 тысяч примеров для восьми задач. В метаданных указаны архитектура Llama с плотной causal language model, 6,6 млрд параметров, контекст до 16 384 токенов и формат PyTorch. Модель предназначена для генерации кода и выполнения разнообразных инструкций. Данных недостаточно, чтобы перечислить все восемь задач или указать конкретные языки программирования и естественные языки. Лицензия в предоставленных источниках не указана.

Dolphin 3.0 Llama 3.2 1B — модель для диалогов и выполнения инструкций, подготовленная Eric Hartford, Ben Gitter, BlouseJury и Cognitive Computations на основе Meta Llama 3.2 1B. Это плотная авторегрессионная языковая модель семейства Llama с 1,2 млрд параметров и контекстом до 131 072 токенов; используется формат ChatML. Модель предназначена для локального применения в качестве универсального помощника: она подходит для генерации кода, решения математических задач, вызова функций и общения на общие темы. Её можно настраивать системным промптом; обучающие данные включают наборы для кода, математики, агентных инструкций и диалогов. Карточка перечисляет английский язык. Доступны веса в формате safetensors. Модель лицензирована по условиям llama3.2. Это компактная модель с существенно меньшим числом параметров, чем крупные универсальные ассистенты; карточка не содержит результатов оценивания, поэтому качество для конкретных задач не подтверждено приведёнными тестами.

EttinX-nli-s — англоязычный cross-encoder для определения логической связи между парой текстов: противоречие, нейтральное отношение или следование. Модель разработал dleemiller на основе энкодера jhu-clsp/ettin-encoder-68m семейства ModernBERT; она дообучена на наборе all-nli-distill с логитами учителя dleemiller/ModernCE-large-nli. Использует архитектуру классификации последовательностей и содержит 68,1 млн параметров. Модель подходит для проверки гипотез по тексту, оценки семантического соответствия пары предложений и анализа ответов LLM. Автор приводит результаты micro-F1 0,8798 на MNLI mismatched и 0,8967 на SNLI. Заявлена обработка последовательностей до 8192 токенов, что полезно для оценки длинных ответов; метаданные указывают контекст 7999 токенов. Компактный размер делает модель подходящей для инференса на CPU. Лицензия MIT.

EXAONE-3.5-2.4B-Instruct-GGUF — инструкционная языковая модель семейства EXAONE 3.5, разработанная LGAI-EXAONE. Представленная версия является GGUF-квантизацией исходной модели EXAONE-3.5-2.4B-Instruct, выполненной bartowski на базе llama.cpp. Размер модели — 2,4 млрд параметров; поддерживаются английский и корейский языки, максимальная длина контекста составляет 32 тысячи токенов. Модель предназначена для генерации текста по инструкциям, ответов на вопросы, решения математических задач и программирования. Согласно README, она демонстрирует высокое качество следования инструкциям и сильные результаты среди моделей с сопоставимой длиной контекста. Формат GGUF и совместимость с llama.cpp делают её подходящей для локального запуска в приложениях и средах, поддерживающих этот формат. Ограничения включают относительно небольшой размер, поддержку только заявленных английского и корейского языков, а также возможные неточные, вредные или неподходящие ответы, характерные для генеративных моделей. Модель распространяется по лицензии EXAONE; в метаданных она обозначена как other, а подробные условия доступны в файле LICENSE.

Hercules-6.1-Llama-3.1-8B — дообученная Locutusque языковая модель на архитектуре Llama 3.1 с 7,5 млрд параметров. Она предназначена для диалогов и выполнения инструкций, включая многошаговые запросы и вызовы функций, и ориентирована на научные и технические темы: биологию, химию, физику, математику, медицину и информатику. Модель принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. В метаданных указаны английский и китайский языки, формат весов Safetensors и библиотека Transformers. Модель подходит для специализированных чат-ботов, учебных помощников, программирования и прототипирования с вызовами функций. Карточка сообщает о результатах оценивания следования инструкциям и бенчмарков, но не приводит подробного описания методики дообучения. Лицензия — Llama 3.1. Среди ограничений указаны токсичные примеры в данных, риск фактических ошибок и возможность злоупотребления техническими ответами и вызовами функций.

InternVL3-38B-Instruct — мультимодальная модель OpenGVLab для диалога и анализа изображений. Это версия SFT семейства InternVL3: она прошла мультимодальное предварительное обучение и supervised fine-tuning, но не этап MPO. Архитектура следует схеме ViT-MLP-LLM: визуальный модуль InternViT соединён через MLP-проектор с языковой моделью; обработка изображений использует динамическое разбиение на фрагменты 448×448 и позиционное кодирование V2PE. Модель также обучалась на видеоданных. Модель предназначена для ответов на вопросы по изображениям, мультимодальных рассуждений и понимания видео, а также для задач с интерфейсами GUI, инструментами и 3D-сценами. Семейство заявлено как мультиязычное; карточка описывает текстовые и визуальные возможности, однако точный размер параметров и длина контекста для этой версии в предоставленных данных не указаны. В сравнении с InternVL 2.5 авторы заявляют улучшение мультимодального восприятия и рассуждений. Модель доступна по лицензии Apache-2.0. Ограничения включают отсутствие этапа MPO у этой SFT-версии; для неизвестных изображений или видео возможны ошибки интерпретации, а качество и производительность зависят от используемых разрешений и вычислительных ресурсов.

KAT-Coder-V2.5-Dev-MTP-APEX-GGUF — это GGUF-квантизированная версия модели Kwaipilot/KAT-Coder-V2.5-Dev, опубликованная пользователем ursb01. Модель предназначена для генерации кода и агентских сценариев программирования. В её основе лежит MoE-модель Qwen3.6-35B-A3B с 40 слоями, 256 маршрутизируемыми и одним общим экспертом, гибридной архитектурой GatedDeltaNet с периодическими слоями полного внимания. Для исходной KAT-Coder заявлен результат 69,40 на SWE-bench Verified против 64,40 у базовой Qwen3.6-35B-A3B. Главное отличие сборки — добавленная MTP-голова для speculative decoding. Она перенесена из исходной Qwen3.6-35B-A3B без дополнительного дообучения на распределении скрытых состояний KAT-Coder. В README указано ускорение до 2,03 раза на наборе агентских задач программирования без изменения корректности; рекомендуемая глубина чернового предсказания — n-max 3. При слишком большой глубине эффективность снижается, и на n-max 8 модель может работать медленнее базового режима. Доступны варианты с разным размером и распределением точности, включая рекомендуемый MTP-APEX-i-quality-v2 размером 19,24 GiB и более компактный APEX-dynamic-v2 размером 11,91 GiB. Для запуска требуется совместимое программное обеспечение, например llama.cpp. Модель распространяется по лицензии Apache-2.0. Языки, размер контекста и точный перечень поддерживаемых модальностей в предоставленных данных не указаны; по описанию это текстовая модель генерации кода.

Marco-o1 — языковая модель команды MarcoPolo Team из AI Business, Alibaba International Digital Commerce. Это дообученная на основе Qwen2-7B-Instruct модель с архитектурой Qwen2ForCausalLM и примерно 7,1 млрд параметров. Она предназначена для диалогов и сложных рассуждений, в том числе для открытых задач, где нет однозначного ответа, а также для математики, физики, программирования и перевода. Модель обучали с использованием данных Chain-of-Thought, включая открытые и синтетические наборы. В исследовательском подходе команды также применяются поиск по дереву Монте-Карло, оценка уверенности и саморефлексия для исследования нескольких вариантов решения. Контекст составляет до 32 768 токенов. В README приведены результаты на английской и китайской версиях MGSM и примеры перевода разговорных выражений; упоминаются также мультиязычные сценарии. Авторы отмечают, что возможности рассуждения пока уступают полноценной модели OpenAI o1, а работа над улучшениями продолжается. Модель распространяется по лицензии Apache-2.0.

Orchestrator-8B GGUF — модель оркестрации инструментов и экспертных моделей, разработанная NVIDIA и University of Hong Kong. Эта версия распространяется пользователем Mungert в формате GGUF и создана с использованием llama.cpp. В основе лежит 8-миллиардная decoder-only Transformer-модель Qwen3-8B, обученная на GeneralThought-430K и ToolScale. Заявленный язык модели — английский; поддерживается генерация текста. Модель предназначена для сложных многошаговых и многоходовых агентских задач, в которых требуется координировать неоднородные инструменты, включая поиск, выполнение кода, а также специализированные и универсальные LLM. При обучении применялось многоцелевое обучение с подкреплением GRPO, оптимизирующее точность, задержку, стоимость и соответствие пользовательским предпочтениям. Разработчики заявляют об обобщении на ранее не встречавшиеся инструменты и конфигурации ценообразования. Согласно README, на Humanity’s Last Exam модель получила 37,1% и демонстрировала более высокую эффективность по сравнению с рядом крупных монолитных моделей, включая GPT-5, Claude Opus 4.1 и Qwen3-235B-A22B; также приводятся результаты на FRAMES и τ²-Bench. Конкретный размер контекста и характеристики модальностей не указаны. GGUF-файл подвергнут квантованию с выборочным повышением точности отдельных слоёв, что может улучшать качество при ограниченной разрядности ценой увеличения размера файла. Модель предназначена только для исследований и разработок и распространяется по лицензии Apache 2.0.

Это конвертированная в формат MLX версия Phi-3-mini-4k-instruct от Microsoft, подготовленная mlx-community. Модель представляет собой плотную авторегрессионную языковую модель семейства Phi-3 с 3,7 млрд параметров и контекстом 4096 токенов; карточка указывает 4-битную версию для запуска на устройствах Apple через mlx-lm. Модель предназначена для диалоговой генерации текста и помощи с кодом. Вход и выход — текст; в метаданных указан английский язык. Репозиторий создан 23 апреля 2024 года. Модель распространяется по лицензии MIT. Подробности о качестве и ограничениях предлагается смотреть в карточке исходной модели.

pico-type v02 — компактная модель-классификатор семейства PicoType, разработанная авторами проекта pico-type. Она анализирует содержимое по исходным байтам и предсказывает несколько характеристик: общий тип, модальность, подтип, язык программирования, язык текста, MIME-тип файла и риск-флаги. Модель предназначена для быстрой автоматической классификации файлов и содержимого в приложениях, включая обработку на CPU и периферийных устройствах. Архитектура — плотная byte-level модель с несколькими выходными головками и Matryoshka-вариантами разных размерностей. В репозитории представлены ONNX-модели в формате FP32; базовый вариант содержит около 1,48 млн параметров и занимает примерно 9,25 МБ. Для входа используются последовательности байтов длиной до 1024. Карточка сообщает о многоязычной поддержке, но не перечисляет конкретные естественные языки. Указаны точность 100% для двух задач и 93,8% для классификации подтипов на синтетической оценке; эти результаты не гарантируют такую же точность на реальных данных. Лицензия — Apache-2.0.