I.14Автоматизация процессов и AI-агенты

Карточка модели NarsAI/mini-2.0 на Hugging Face совпадает с карточкой inclusionAI/Ling-mini-2.0, поэтому описание составлено по ней. Ling-mini-2.0 — компактная разговорная языковая модель семейства Ling 2.0 от inclusionAI, предназначенная для генерации текста, следования инструкциям и решения задач на рассуждение. Это дообученная версия Ling-mini-base-2.0; по метаданным, она использует архитектуру Bailing MoE для причинного языкового моделирования и содержит 1,2 млрд параметров. README описывает семейство Ling-mini-2.0 как разреженную MoE-модель с 16,26 млрд параметров всего и примерно 1,43 млрд активных на токен, обученную на более чем 20 трлн токенов с многоэтапной настройкой и обучением с подкреплением. Модель подходит для диалоговых приложений, сложных рассуждений, математики, программирования и ответов на вопросы, а также предоставляет интерфейс вызова инструментов. Метаданные указывают контекст 32 768 токенов; README сообщает о расширении до 128K с YaRN. Разработчик заявляет о высокой скорости генерации и сильных результатах на тестах рассуждения, однако приведённые показатели зависят от оборудования и режима развёртывания. Веса доступны в формате safetensors, библиотека — Transformers; лицензия MIT.

Rioky/Mistral-Small-4-119B-2603-heretic-i1-gguf — набор GGUF-квантизаций модели Mistral Small 4 119B 2603 Heretic. Базовая модель разработана Mistral AI, а версия Heretic опубликована darkc0de; данный набор подготовлен Rioky. Модель предназначена для генерации текста, мультимодального анализа изображений и текста, агентских сценариев, вызова функций с JSON-выводом и задач, требующих длинного контекста. Заявлена поддержка режимов быстрого ответа и рассуждений с дополнительными вычислениями во время вывода. Модель использует архитектуру Mistral4 с разреженной Mixture-of-Experts и MLA-вниманием: всего 119 млрд параметров, из которых активируются 6,5 млрд на токен; доступны 128 экспертов, 4 из них активируются для каждого токена. Контекстное окно составляет до 256 тысяч токенов. Поддерживаются текстовый и графический ввод с текстовым выводом. Указана многоязычность, включая английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, корейский, арабский и другие языки. К сильным сторонам относятся большой контекст, мультимодальность, функции для агентских приложений, системные инструкции и несколько вариантов квантизации с importance matrix, которая призвана лучше сохранять качество на низких битностях. Ограничения включают значительные требования к памяти: размер файлов варьируется примерно от 29 до 91 ГиБ, а качество и скорость зависят от выбранного варианта. Показатель отказов Heretic-версии в README составляет 27 из 100 против 98 из 100 у исходной модели, однако независимые оценки качества не приведены. Распространение заявлено по лицензии Apache 2.0, допускающей коммерческое и некоммерческое использование.

facebook/mms-lid-256 — модель Facebook (Meta), дообученная в рамках проекта Massively Multilingual Speech для определения языка речи. Она построена на архитектуре Wav2Vec2 и классифицирует аудио по 256 языковым классам, выдавая распределение вероятностей. Размер указан как 1 млрд параметров в README и 1,3 млрд в метаданных. Модель принимает аудио с частотой дискретизации 16 кГц. Модель подходит для автоматического распознавания языка в речевых записях, например, для маршрутизации аудио в соответствующую систему распознавания речи или сортировки многоязычных аудиоданных. Поддерживаются 256 языков, включая русский и английский. Это классификатор языка речи, а не модель транскрибирования: она определяет язык, но не преобразует речь в текст. Распространяется по лицензии CC-BY-NC 4.0, которая ограничивает коммерческое использование.

Kaoeiri/MS_a-coolyte-2409-22B — языковая модель для диалогов и генерации текста, созданная с помощью mergekit. Это плотная модель архитектуры Mistral с 22 млрд параметров, полученная слиянием unsloth/Mistral-Small-Instruct-2409 и rAIfle/Acolyte-LORA методом task arithmetic; веса представлены в формате Safetensors. Модель рассчитана на текстовый ввод и генерацию текста, поддерживает чат и интерфейс вызова инструментов. Контекст — до 131 072 токенов. Модель можно использовать для диалоговых ассистентов, генерации и продолжения текста, а также сценариев, где ответ опирается на длинный контекст или вызов инструментов. README указывает, что плотность слияния подбиралась для целевого training loss 0,3. Сведения о конкретных поддерживаемых естественных языках и лицензии в предоставленных источниках отсутствуют.

megabytes/Nanbeige4.1-3B-heretic — англо-китайская диалоговая языковая модель на базе Nanbeige/Nanbeige4.1-3B. Разработчик описывает исходную модель как компактную модель для рассуждений, программирования и агентных задач; эта версия создана с помощью Heretic v1.2.0 и abliteration для снижения частоты отказов. Она содержит 3,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 262 144 токенов. Модель предназначена для генерации диалоговых ответов, решения многошаговых задач, написания кода и сценариев с поиском и вызовом инструментов. README приводит для этой версии частоту отказов 8 из 100 и KL-дивергенцию 0,0003 относительно исходной модели; в карточке также отмечено, что существует улучшенная версия от Heretic Organization. Модель может выдавать предвзятый или иной нежелательный контент. Лицензия — Apache-2.0.

Nex-N2.5-mini-GGUF — это квантизированное представление модели Nex-N2.5-mini, разработанной Nex-AGI и преобразованной в формат GGUF с использованием llama.cpp. Модель предназначена для генерации текста, программирования, агентских сценариев, вызова инструментов, работы с компьютером и мультимодальных задач. Поддерживаются английский и китайский языки. Исходная модель заявлена с контекстным окном до 262 144 токенов и может использоваться в текстовом режиме или с дополнительным vision-проектором mmproj-Nex-N2.5-mini-F16.gguf для мультимодальной обработки. Репозиторий содержит варианты квантизации от Q8_0 до IQ1_S и TQ1_0, поэтому можно выбирать между качеством, размером файлов и требованиями к памяти. Размеры файлов составляют примерно от 7,48 до 36,90 ГБ, а проектор занимает 899 МБ. Сильными сторонами являются поддержка длинного контекста, инструментов и мультимодальных сценариев, а также возможность локального запуска через llama.cpp и OpenAI-совместимый сервер. Ограничения связаны с необходимостью значительного объёма памяти, возможной потерей качества при агрессивной квантизации и зависимостью корректной работы вызова инструментов от возможностей конкретного runtime и его интеграции. Приведённые в README результаты тестов относятся к исходному семейству Nex-N2.5, а не непосредственно к этой GGUF-конверсии. Модель распространяется по лицензии Apache-2.0.

NuExtract-large — модель для извлечения структурированной информации из текста, разработанная NuMind на основе Phi-3 Small и дообученная на синтетическом наборе данных. Пользователь передаёт текст и JSON-шаблон с нужными полями; модель извлекает соответствующие фрагменты и оформляет их по шаблону. Карточка указывает, что выходной текст модели дословно содержится в исходном тексте. Модель имеет плотную архитектуру Phi-3 Small с 8,2 млрд параметров и контекстом до 8192 токенов. README рекомендует подавать текст короче 2000 токенов. Метаданные указывают английский язык; модель доступна в формате safetensors и распространяется по лицензии MIT. Подходит для извлечения сущностей, атрибутов и других заданных пользователем сведений в JSON. Ограничения: ответы должны опираться на исходный текст, а не добавлять новую информацию; заявленные в README результаты бенчмарков ещё не опубликованы.

Это 4-битная версия NVIDIA-Nemotron-3-Nano-30B-A3B-BF16, подготовленная командой LM Studio Community с помощью mlx_lm для запуска на компьютерах Apple с Apple Silicon. Базовая модель разработана NVIDIA; это гибридная языковая модель с архитектурой Mixture-of-Experts, общим размером 30 млрд параметров и примерно 3 млрд активных параметров на токен. Модель предназначена для диалогов, рассуждений, программирования и агентных сценариев с вызовом инструментов. Её можно использовать для генерации ответов, помощи при написании кода и создания приложений на базе языковой модели. Карточка базовой модели указывает поддержку английского, испанского, французского, немецкого, японского и итальянского языков, а также длинного контекста; точная длина контекста для этой версии не приведена. Квантизация снижает требования к памяти, но может повлиять на точность по сравнению с исходной версией BF16. Модель может выдавать неточные или неподходящие ответы. В карточке этой версии указана лицензия other; условия исходной модели следует учитывать отдельно перед использованием.

Карточка модели hotchpotch/open-provence-reranker-v1-gte-modernbert-base на Hugging Face совпадает с карточкой hotchpotch/open-provence-reranker-xsmall-v1, поэтому описание составлено по ней. OpenProvence reranker xsmall v1 — компактная двуязычная модель переранжирования и отбора предложений для подготовки контекста в системах поиска и RAG. Модель разработана hotchpotch и содержит 30 млн параметров; архитектура — OpenProvence для классификации последовательностей, веса представлены в формате safetensors. Модель принимает вопрос и текстовый контекст, оценивает релевантность предложений и удаляет фрагменты, не относящиеся к запросу. Она предназначена для ускорения поиска нужной информации и сокращения контекста перед передачей его генеративной модели. Поддерживаются английский и японский языки; согласно карточке, xsmall рассчитана на низкую задержку и может работать на CPU. В опубликованных оценках модель сокращала объём контекста, сохраняя ответы на контрольных примерах, но результаты зависят от языка, порога отсечения и набора данных. Модель опубликована под лицензией MIT.

OvisOCR — компактная мультимодальная модель ATH-MaaS для сквозного разбора документов. Она принимает изображение страницы целиком и формирует структурированный вывод в Markdown, сохраняя текст, таблицы, математические формулы, элементы оформления и порядок чтения. Модель построена на архитектуре Ovis2.6 и содержит 1,3 млрд параметров; для обработки использует Transformers или vLLM. Длина контекста — 40 960 токенов. Модель предназначена для извлечения и структурирования содержимого плотных и сложных документов. В README заявлены высокие результаты на OmniDocBench v1.5, однако конкретные численные показатели не приведены. OvisOCR может ошибаться или пропускать содержимое, поэтому результаты следует проверять вручную в критически важных сценариях. Лицензия — Apache-2.0.

PolarisLM — плотная языковая модель семейства PolarNet с 9,2 млрд параметров, разработанная авторами семейства Polaris. Она предназначена для диалогового помощника, рассуждений, генерации текста и кода, ответов на вопросы, а также вызова функций и инструментов. Модель принимает текст и генерирует текст; заявлены улучшения в сложных рассуждениях, снижении галлюцинаций и надёжности вызова функций. Для работы с длинными запросами поддерживает контекст до 32 768 токенов. В README приведены результаты на арифметических, логических, фактических и многоязычных задачах, включая рост точности на GPQA-Diamond с 62,0% у предыдущей версии до 79,8%; авторы связывают это с более длинным рассуждением. Для запуска предлагается использовать температуру 0,5 и системный запрос с текущей датой. Модель распространяется по лицензии Apache-2.0. Численные результаты и сравнения приведены авторами README; независимая проверка в предоставленных данных не описана.

PXA Coder 35B — кодовая мультимодальная модель от PXA Network. Это смесь экспертов на архитектуре Qwen MoE с гибридным вниманием: 34,7 млрд параметров и заявленный контекст 262 144 токена. Репозиторий содержит GGUF-веса PXQ4 и F16, а для обработки изображений — отдельный vision-проектор. Модель предназначена для генерации и изменения кода, отладки, рефакторинга, работы с несколькими файлами и крупными кодовыми базами, а также для многошаговых агентных сценариев с использованием инструментов. Она принимает текст и изображения и выдаёт текст; заявлены возможности чата, программирования и анализа изображений. В основе — объединение моделей Qwen 3.6 и Qwen 3.8 с последующим обучением под руководством более крупной модели. Для запуска требуется движок PXA; модель не работает со стандартными сборками llama.cpp, LM Studio, Ollama или text-generation-webui. В карточке отмечено, что поведение отказа намеренно ослаблено и на защитные ограничения модели нельзя полагаться. Лицензия — Apache-2.0.

Карточка модели 6chongbin/Qwen2.5-VL-3B-Instruct на Hugging Face совпадает с карточкой unsloth/Qwen2.5-VL-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-VL-3B-Instruct — мультимодальная модель Alibaba семейства Qwen2.5-VL, представленная в репозитории unsloth как дообученная версия Qwen/Qwen2.5-VL-3B-Instruct. Она принимает текст и изображения, а также может анализировать видео, и формирует ответы на естественном языке или структурированный вывод. Модель предназначена для визуальных вопросов и ответов, чтения текста и таблиц на изображениях, анализа диаграмм и макетов, поиска объектов с координатами, понимания событий в видео и взаимодействия с интерфейсами через визуальные сигналы. Модель использует плотную архитектуру Qwen2.5-VL с примерно 3,1 млрд параметров и поддерживает контекст до 128 000 токенов согласно метаданным. README описывает динамическое разрешение изображений, обработку видео с временной привязкой событий, локализацию объектов в виде рамок или точек и структурированные ответы, например для счетов и форм. Карточка также указывает возможности чата и зрения; для работы заявлена библиотека Transformers. README содержит примеры использования с Transformers и ModelScope. Для видео указана зависимость совместимости URL от сторонних библиотек, а длинный текстовый контекст в README описан через YaRN с базовой конфигурацией 32 768 токенов; при расширении контекста возможна потеря качества пространственной и временной локализации. Лицензия в предоставленных данных не указана.

Карточка модели mario-d-robot/Qwen2.5-VL-3B-Instruct на Hugging Face совпадает с карточкой unsloth/Qwen2.5-VL-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-VL-3B-Instruct — мультимодальная модель Alibaba семейства Qwen2.5-VL, представленная в репозитории unsloth как дообученная версия Qwen/Qwen2.5-VL-3B-Instruct. Она принимает текст и изображения, а также может анализировать видео, и формирует ответы на естественном языке или структурированный вывод. Модель предназначена для визуальных вопросов и ответов, чтения текста и таблиц на изображениях, анализа диаграмм и макетов, поиска объектов с координатами, понимания событий в видео и взаимодействия с интерфейсами через визуальные сигналы. Модель использует плотную архитектуру Qwen2.5-VL с примерно 3,1 млрд параметров и поддерживает контекст до 128 000 токенов согласно метаданным. README описывает динамическое разрешение изображений, обработку видео с временной привязкой событий, локализацию объектов в виде рамок или точек и структурированные ответы, например для счетов и форм. Карточка также указывает возможности чата и зрения; для работы заявлена библиотека Transformers. README содержит примеры использования с Transformers и ModelScope. Для видео указана зависимость совместимости URL от сторонних библиотек, а длинный текстовый контекст в README описан через YaRN с базовой конфигурацией 32 768 токенов; при расширении контекста возможна потеря качества пространственной и временной локализации. Лицензия в предоставленных данных не указана.

Qwen2.5-VL-3B-Instruct — мультимодальная модель Alibaba семейства Qwen2.5-VL, представленная в репозитории unsloth как дообученная версия Qwen/Qwen2.5-VL-3B-Instruct. Она принимает текст и изображения, а также может анализировать видео, и формирует ответы на естественном языке или структурированный вывод. Модель предназначена для визуальных вопросов и ответов, чтения текста и таблиц на изображениях, анализа диаграмм и макетов, поиска объектов с координатами, понимания событий в видео и взаимодействия с интерфейсами через визуальные сигналы. Модель использует плотную архитектуру Qwen2.5-VL с примерно 3,1 млрд параметров и поддерживает контекст до 128 000 токенов согласно метаданным. README описывает динамическое разрешение изображений, обработку видео с временной привязкой событий, локализацию объектов в виде рамок или точек и структурированные ответы, например для счетов и форм. Карточка также указывает возможности чата и зрения; для работы заявлена библиотека Transformers. README содержит примеры использования с Transformers и ModelScope. Для видео указана зависимость совместимости URL от сторонних библиотек, а длинный текстовый контекст в README описан через YaRN с базовой конфигурацией 32 768 токенов; при расширении контекста возможна потеря качества пространственной и временной локализации. Лицензия в предоставленных данных не указана.

MichaelAnthony разработал qwen-3.5-0.8b-Hedgehog — дообученную текстовую модель семейства Qwen 3.5 для извлечения структурированных данных из документов в сценариях SimpleRAG. Это слитый чекпойнт r5 в формате FP16 для Transformers; адаптер LoRA не требуется. Метаданные указывают 581,4 млн параметров и контекст до 262 144 токенов, а README приводит размер 752 млн параметров. Модель предназначена для извлечения полей из найденных документов с выдачей данных по заданным JSON-путям и типам. В README рекомендуются температура 0 и отключённый режим рассуждений; режимы с рассуждениями и без них следует оценивать отдельно. В приведённых оценках r5 получил 71 балл на BenchLocal DataExtract-15 и 88 на BenchLocal Complex Documents; автор описывает его как стартовую модель, а не универсальный экстрактор с точностью 95%. Лицензия в предоставленных данных не указана.

QuantTrio/Qwen3.5-122B-A10B-AWQ — квантизированная AWQ-версия модели Qwen3.5-122B-A10B, разработанной командой Qwen. Репозиторий QuantTrio использует data-free quantization, то есть квантизацию без калибровочного набора данных. Модель предназначена для мультимодальных сценариев image-text-to-text, включая понимание изображений и текста, рассуждения, программирование и агентские задачи. Это causal language model со зрительным энкодером и гибридной архитектурой, объединяющей Gated Delta Networks и разреженную Mixture-of-Experts. Всего модель содержит 122B параметров, из которых при генерации активируются 10B; предусмотрены 48 слоёв, 256 экспертов, 8 маршрутизируемых и 1 общий активируемый эксперт. Заявлена поддержка 201 языка и диалекта. В примере запуска через vLLM указан максимальный контекст 32768 токенов, а также поддержка tool calling, reasoning и speculative decoding. К сильным сторонам относятся мультимодальность, высокая параметрическая ёмкость при меньшем числе активируемых параметров и оптимизация для эффективного инференса через AWQ и Mixture-of-Experts. Ограничения включают значительные требования к GPU-памяти: размер файлов модели составляет около 77 GiB; для рекомендуемой конфигурации требуется vLLM с экспериментальными версиями зависимостей, CUDA 12.8 и настройка expert parallelism. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3.5-35B-A3B-FP8-dynamic — мультимодальная разреженная MoE-модель, созданная RedHatAI на основе Qwen/Qwen3.5-35B-A3B от Alibaba Cloud. Она принимает текст и изображения, а генерирует текст. Модель ориентирована на рассуждения, вызов инструментов, обработку визуально-текстовых запросов и обычные текстовые сценарии генерации и анализа. Модель содержит 35 млрд параметров, из которых около 3 млрд активируются для отдельного запроса, и использует FP8-квантизацию весов и активаций. Квантизация выполнена с помощью LLM Compressor в формате compressed-tensors и предназначена для эффективного инференса через vLLM. В FP8 преобразованы линейные операторы трансформерных блоков, тогда как визуальный энкодер, некоторые компоненты attention и MoE, маршрутизатор экспертов и эмбеддинги сохранены в исходной точности. Это примерно вдвое снижает требования к дисковому пространству и памяти GPU по сравнению с 16-битным представлением. Сильными сторонами модели являются сочетание языковых и визуальных возможностей, поддержка reasoning, tool calling, speculative decoding с Multi-Token Prediction и возможность запуска в текстовом режиме с освобождением памяти под KV-cache. Модель валидирована с vLLM 0.18.0, RHAIIS 3.4 и RHOAI 3.4. В предоставленных данных не указаны поддерживаемые языки, размер контекстного окна и численные результаты тестов, поэтому влияние квантизации на качество и ограничения по отдельным задачам оценить нельзя. Модель распространяется по лицензии Apache-2.0.

Карточка модели Taewhoo/qwen3.5-9b-proteomics-rl-step25 на Hugging Face совпадает с карточкой Qwen/Qwen3.5-9B, поэтому описание составлено по ней. Qwen3.5-9B — мультимодальная модель Qwen, разработанная командой Qwen и представленная в формате Hugging Face Transformers. Это дообученная версия Qwen/Qwen3.5-9B-Base: причинная языковая модель с визуальным энкодером, 9 млрд параметров и гибридной архитектурой с Gated Delta Networks и разреженными Mixture-of-Experts. Модель принимает текст и изображения и генерирует текст; поддерживает чат и вызов инструментов. Модель предназначена для диалога, рассуждений, программирования, визуального понимания и агентных сценариев с использованием инструментов. Нативная длина контекста — 262 144 токена, с расширением до 1 010 000; в режиме по умолчанию перед ответом генерируется содержимое рассуждений. В карточке заявлена поддержка 201 языка и диалекта, но список языков в предоставленных данных опущен. В README заявлены высокая эффективность гибридной архитектуры и улучшенные результаты на задачах рассуждения, кода и визуального понимания; независимых оценок в предоставленном тексте недостаточно для проверки этих утверждений. Для длинного контекста могут потребоваться значительные ресурсы, а совместимость и пропускная способность зависят от версии и конфигурации сервера. Лицензия — Apache-2.0.

MoonRide/Qwen3.6-27B-heretic-ara-GGUF — GGUF-квантизированная версия модели Qwen3.6-27B, разработанная MoonRide. Это декензурированная модификация исходной модели Qwen/Qwen3.6-27B, созданная с помощью Heretic 1.2.0 и метода Arbitrary-Rank Ablation (ARA) с сохранением row-norm. Модель предназначена для генерации текста, программирования, агентских сценариев и работы с визуально-текстовыми запросами; исходная архитектура включает языковую модель с vision encoder. Модель содержит 27B параметров, 64 слоя и поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 010 000 токенов. Архитектура сочетает Gated DeltaNet и Gated Attention, а также обучалась с использованием multi-step MTP. В репозитории представлены различные GGUF-квантизации; рекомендованы IQ3_XS размером около 12 ГБ и IQ3_XXS размером около 11,2 ГБ. Ключевая особенность модели — значительно сниженная склонность к отказам: в приведённом сравнении она отказала в 16 из 100 тестовых случаев против 91 из 100 у исходной Qwen3.6-27B. При этом декензурирование может влиять на поведение и безопасность модели, а квантизация способна снижать точность по сравнению с оригинальными весами; измеренное KL-расхождение составляет 0,0221. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-Final-NVFP4-GGUF — это квантизированная в формате GGUF версия модели на базе Qwen3.6, созданной Alibaba Group, с доработками LuffyTheFox и квантизацией NVFP4 от jan1k. Модель также включает Hermes-файнтюнинг для диалогов, генерации текста, программирования, агентских сценариев и function calling. Указана поддержка английского, китайского и других языков, а также мультимодального ввода изображений через отдельный vision-проектор. Архитектура представляет собой Mixture of Experts: около 35 млрд общих параметров и примерно 3 млрд активных параметров на токен, с восемью маршрутизируемыми экспертами и одним общим. NVFP4 — 4-битный формат с плавающей точкой, оптимизированный для GPU NVIDIA архитектур Ada Lovelace, Blackwell и Ampere. Рекомендуется использовать файл версии v4 с inline scales; он совместим с llama.cpp, LM Studio и Pelican. Для работы с изображениями требуется отдельный проектор F16 размером около 899 МБ. Размер рекомендуемого файла модели составляет около 20 ГБ. Сильными сторонами являются MoE-архитектура с относительно небольшим числом активных параметров, поддержка мультимодальных и агентских задач, function calling и формат NVFP4, снижающий требования к памяти по сравнению с полноразмерной моделью. Ограничения включают зависимость от совместимого NVIDIA-оборудования и корректно поддерживающего NVFP4 рантайма, необходимость отдельного vision-проектора для изображений и отсутствие в предоставленных данных сведений о максимальной длине контекста и результатах независимого тестирования. Модель распространяется по лицензии Apache-2.0.

MKRWW/Qwen3.8-27B-int4-AutoRound — производная квантизованная версия мультимодальной модели Qwen3.8-27B, разработанной командой Qwen. Модель предназначена для локального запуска и сервинга через vLLM на потребительских GPU, включая обработку текста, изображений и аудио, задачи рассуждения, программирования, математики, вызова инструментов и описания изображений. Архитектура определяется базовой моделью Qwen3.8-27B и представлена в Transformers как Qwen3_5ForConditionalGeneration; заявлена поддержка мультимодальных сценариев и контекста до 262 144 токенов. В модели применена весовая квантизация INT4 методом Intel AutoRound с group_size 128 и форматом auto_round:auto_gptq. Квантизованы 64 блока языкового декодера, тогда как vision- и audio-компоненты, эмбеддинги, lm_head и отдельные малые проекции сохранены в FP16. Размер весов составляет около 17,45–17,5 ГБ, благодаря чему модель запускается на одной видеокарте с 24 ГБ памяти; для полного контекста 262K рекомендуется конфигурация из двух таких карт. Для CPU и небольшого объёма VRAM этот репозиторий не предназначен. Сильные стороны — заметно сниженное потребление памяти, сохранение мультимодальных возможностей и совместимость с vLLM, включая reasoning и tool calling. Модель по умолчанию использует рассуждение, поэтому при малом лимите вывода ответ может быть обрезан; видимое отдельное поле reasoning_content также требует дополнительной настройки. Приведённые в README результаты являются внутренним сравнением, а не формальным независимым бенчмарком. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Qwen3.8-9B-Distill-uncensored-heretic — текстовая генеративная модель автора @ptruha, опубликованная в рамках проекта Empero. Это полно-параметрическое дообучение Qwen/Qwen3.5-9B: модель-дистиллят обучена методом SFT на примерно 70 тысячах отфильтрованных трасс рассуждений учителя Qwen3.8 2.4T A95B. Веса содержат около 9 млрд параметров и распространяются в формате Safetensors; карточка указывает архитектуру Qwen3.5 и нативный контекст 262 144 токена. Модель предназначена для диалога, рассуждений, математики, программирования, следования инструкциям и вызова инструментов. В README приведены результаты GSM8K и MMLU; автор сообщает о низкой частоте отказов в собственном тесте, однако эти результаты не являются независимой оценкой. Дообучение было текстовым, поэтому унаследованные от мультимодальной базовой модели возможности работы с изображениями не оценивались. Для запуска требуется актуальная версия Transformers с поддержкой Qwen3.5 и CUDA-совместимыми компонентами; без них внимание может работать медленно и потреблять больше памяти. Лицензия — Apache-2.0.

Карточка модели ArchiveStudio/Qwen3-Reranker-8B на Hugging Face совпадает с карточкой Qwen/Qwen3-Reranker-8B, поэтому описание составлено по ней. Qwen3-Reranker-8B — текстовая модель для переранжирования, разработанная командой Qwen. Она оценивает релевантность пар «запрос — документ» и помогает упорядочить найденные кандидаты так, чтобы наиболее подходящие фрагменты оказались выше. Модель предназначена для поиска по текстам и коду, включая многоязычный и межъязыковой поиск, например как этап извлечения контекста в RAG-системах. Модель основана на плотной авторегрессионной архитектуре Qwen3 и дообучена на базе Qwen/Qwen3-8B-Base. В ней около 7,6 млрд параметров; метаданные указывают контекст до 40 960 токенов, а README — 32 тыс. токенов. Заявлена поддержка более 100 языков. Модель поддерживает инструкции, настраиваемые под задачу; в README отмечено, что их применение может улучшать результаты поиска. Для получения оценки релевантности модель принимает текстовую пару и выдаёт оценку, пригодную для ранжирования. В README указано, что по умолчанию это разность логитов; при необходимости её можно преобразовать в вероятность. Для работы с моделью заявлена библиотека Transformers, также описано использование Sentence Transformers. Лицензия — Apache-2.0.

Qwen3-Reranker-8B — текстовая модель для переранжирования, разработанная командой Qwen. Она оценивает релевантность пар «запрос — документ» и помогает упорядочить найденные кандидаты так, чтобы наиболее подходящие фрагменты оказались выше. Модель предназначена для поиска по текстам и коду, включая многоязычный и межъязыковой поиск, например как этап извлечения контекста в RAG-системах. Модель основана на плотной авторегрессионной архитектуре Qwen3 и дообучена на базе Qwen/Qwen3-8B-Base. В ней около 7,6 млрд параметров; метаданные указывают контекст до 40 960 токенов, а README — 32 тыс. токенов. Заявлена поддержка более 100 языков. Модель поддерживает инструкции, настраиваемые под задачу; в README отмечено, что их применение может улучшать результаты поиска. Для получения оценки релевантности модель принимает текстовую пару и выдаёт оценку, пригодную для ранжирования. В README указано, что по умолчанию это разность логитов; при необходимости её можно преобразовать в вероятность. Для работы с моделью заявлена библиотека Transformers, также описано использование Sentence Transformers. Лицензия — Apache-2.0.

unsloth/Qwen3-VL-32B-Instruct — репозиторий весов мультимодальной модели Qwen3-VL, опубликованный Unsloth на основе Qwen/Qwen3-VL-32B-Instruct. Это плотная модель на 32 млрд параметров для диалога по тексту и изображениям; поддерживает визуальное понимание, OCR, рассуждения о пространстве и видео, а также интерфейс взаимодействия с инструментами. Модель рассчитана на анализ документов и сцен, распознавание элементов графического интерфейса, ответы на вопросы по визуальным материалам и генерацию кода или разметки по изображениям и видео. README указывает контекст 256 тысяч токенов с возможностью расширения до 1 млн и OCR на 32 языках. Репозиторий содержит веса safetensors и исправления шаблона чата Unsloth. Лицензия — Apache-2.0. README не приводит отдельные результаты тестирования этой конкретной сборки, поэтому заявления о превосходстве квантованных вариантов не подтверждают качество данного репозитория. Для запуска с llama.cpp README рекомендует параметр --jinja.

cyankiwi/Qwen3-VL-32B-Instruct-AWQ-4bit — 4-битная квантованная версия мультимодальной модели Qwen3-VL-32B-Instruct. Базовую модель разработала команда Qwen, а данную сборку подготовил Ton Cao. Модель предназначена для генерации текста по изображениям и тексту, визуального анализа, распознавания текста на изображениях, понимания видео, пространственного рассуждения, мультимодального решения задач и взаимодействия с графическими интерфейсами. Она также ориентирована на визуальное программирование и может генерировать Draw.io, HTML, CSS и JavaScript по изображениям или видео. Модель имеет плотную архитектуру с 32 миллиардами параметров и поддерживает текстово-визуальные входы. Заявлены контекст длиной 256K токенов с возможностью расширения до 1M, анализ продолжительных видео, индексация событий по времени и OCR для 32 языков. Среди архитектурных особенностей указаны Interleaved-MRoPE для обработки временных и пространственных измерений, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками. Квантование выполнено методом AWQ до INT4 с размером группы 32 на основе датасета FineVision с использованием llm-compressor. Сильные стороны модели — широкий набор визуальных и текстовых возможностей, работа с длинным контекстом, видео, документами, пространственными отношениями и агентными сценариями при сниженных требованиях к памяти благодаря INT4-квантованию. Ограничения включают возможную потерю качества по сравнению с полноразмерной моделью, а также высокие вычислительные требования, связанные с исходным размером 32B и мультимодальной обработкой. В README не указаны полный перечень поддерживаемых языков для генерации, точные системные требования и результаты численных тестов. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-8B-Instruct-GGUF — мультимодальная vision-language модель семейства Qwen3-VL, разработанная командой Qwen; данный репозиторий содержит её веса в формате GGUF и включает исправления chat template от Unsloth. Модель предназначена для диалогов и генерации текста по текстовым и визуальным входам, включая анализ изображений и видео, OCR, визуальное рассуждение, понимание пространственных отношений, обработку документов, визуальное программирование и взаимодействие с графическими интерфейсами через инструменты. Модель имеет плотную архитектуру и размер 8B параметров. Заявлены нативный контекст 256K токенов с возможностью расширения до 1M, поддержка видео с временной привязкой событий и OCR на 32 языках; полный список языков текстового общения в README не указан. Среди архитектурных компонентов упомянуты Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. К сильным сторонам относятся объединённое понимание текста и изображений, распознавание деталей и документов, пространственный и мультимодальный анализ, а также сценарии визуального агента. Ограничения, точные требования к ресурсам и характеристики конкретной GGUF-квантизации в README не приведены. Модель распространяется по лицензии Apache-2.0.

R1-ImpishMind-8B — объединённая языковая модель, созданная сообществом mergekit-community из DeepSeek-R1-Distill-Llama-8B и Impish_Mind_8B. Для слияния применён метод SLERP с параметром t=0.5; архитектура — плотная LlamaForCausalLM, около 7,5 млрд параметров, веса опубликованы в формате safetensors. Модель предназначена для диалоговой генерации текста, включая решение задач и многошаговые рассуждения, унаследованные от базовой модели DeepSeek-R1-Distill-Llama-8B. Поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. Карточка не описывает отдельную специализацию по языкам или прикладным областям. Качество и поведение результата зависят от задачи и могут отличаться от исходных моделей после слияния. Лицензия в предоставленных данных не указана.

Rombos-LLM-V2.6-Nemotron-70b — текстовая генеративная модель на архитектуре Llama, опубликованная разработчиком rombodawg. По README, это результат последнего этапа непрерывного дообучения модели Nemotron-70B от NVIDIA; метаданные также указывают на слияние моделей Llama 3.1 70B Base, Llama 3.1 70B Instruct и Nemotron-70B-Instruct. Модель содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; в метаданных также отмечен интерфейс вызова инструментов. Весовые файлы представлены в формате safetensors. Лицензия — Llama 3.1; условия её использования определяются этой лицензией.