I.4Обработка документов и форм

Arcle V1 — мультимодальная базовая модель на 5,84 млрд параметров, разработанная Абхинавом Анандом в ArcleIntelligence. Она объединяет языковое и математическое рассуждение, обработку изображений и документов, распознавание и синтез речи, понимание видео и генерацию изображений в одной модели с единым проходом. В основе — гибридная архитектура Mamba-2 и причинного self-attention; заявленное окно контекста составляет 2 097 152 токена, из которых проверено 131 072. Метаданные указывают языки английский, хинди, испанский и французский. Модель рассчитана на локальный офлайн-запуск; README приводит требования около 24 ГБ видеопамяти или 24 ГБ системной памяти при запуске на CPU. Модель предназначена для диалогов, математических и общеобразовательных вопросов, работы с изображениями и документами, транскрипции и синтеза речи, понимания видео, а также генерации изображений. В README приведены результаты по распознаванию английской речи и извлечению текста из документов; при этом качество на сканах и многостраничных макетах заметно ограничено, а генератор изображений создаёт абстрактные композиции вместо точного изображения заданных объектов. Репозиторий распространяется по лицензии Apache-2.0.

InternVL3-38B-GGUF — мультимодальная большая языковая модель семейства InternVL3, разработанная OpenGVLab и представленная в формате GGUF командой Unsloth. Модель предназначена для работы с текстом и изображениями, включая мультимодальное восприятие и рассуждение, анализ промышленных изображений, 3D-восприятие, использование инструментов и сценарии GUI-агентов. Заявлена поддержка multilingual-задач. Архитектура построена по схеме ViT-MLP-LLM: визуальная часть использует InternViT-6B-448px-V2_5, языковая — Qwen2.5-32B, соединённые MLP-проектором. Обозначение 38B относится к размеру модели; точные параметры GGUF-квантизации и размер контекста в представленных данных не указаны. Модель основана на OpenGVLab/InternVL3-38B и обучалась с использованием набора данных OpenGVLab/MMPR-v1.2. К сильным сторонам относятся сочетание визуального и языкового анализа, расширенные мультимодальные возможности и применение в специализированных агентных сценариях. Ограничения, такие как фактическая точность на конкретных задачах, требования к памяти и производительности, зависят от варианта GGUF и в README не уточняются. Указана лицензия Apache-2.0; также приведена ссылка на лицензию Qwen, поэтому условия использования следует сверять с лицензиями исходных компонентов.

Lemer — это мультимодальная версия Gemma 4 E2B в формате GGUF, разработанная Lethean и основанная на форке LetheanNetwork/lemer. В модель встроен Lethean Ethical Kernel (LEK): его поведенческие настройки были добавлены через LoRA-файнтюнинг и объединены с весами, поэтому для работы не требуется отдельный PEFT-адаптер. Модель предназначена для диалоговых сценариев, генерации и анализа текста, а также обработки изображений и аудио, включая локальный запуск на устройствах с ограниченными ресурсами. Репозиторий содержит варианты квантования от Q3_K_M до BF16 размером примерно от 3,0 до 8,7 ГБ. Рекомендуемым указан Q4_K_M как компромисс между качеством и размером; Q3_K_M ориентирован на наиболее ограниченные устройства, а BF16 служит полноточной версией. Заявлена поддержка Ollama, llama.cpp, GPT4All, LM Studio и llama-cpp-python. Токенизатор содержит 262 тысячи токенов, однако размер контекстного окна и точный набор поддерживаемых языков в карточке не указаны. Сильными сторонами модели являются единый автономный GGUF-файл, мультимодальность, несколько уровней квантования и ориентация на локальный инференс. Ограничения включают отсутствие в README подробных результатов оценки, точных характеристик архитектуры и контекстного окна, а также потенциальные компромиссы качества при использовании квантованных вариантов. Модель распространяется по лицензии European Union Public Licence 1.2 (EUPL-1.2).

OriOn-Qwen Synthetic Reasoning 1 — мультимодальная модель LightOn на базе Qwen3-VL-32B-Instruct, дообученная и объединённая с базовыми весами для ответов на вопросы по длинным визуальным документам. Она принимает текстовые вопросы и изображения страниц, извлекает релевантные свидетельства и объединяет сведения с нескольких страниц; подходит для анализа длинных PDF-файлов и презентаций, включая документы объёмом более 250 страниц. Модель построена на архитектуре Qwen3VLForConditionalGeneration, содержит 32 млрд параметров и поддерживает контекст длиной 262 144 токена. Для управления режимом рассуждения в системный запрос можно добавить специальный токен управления. По данным карточки, модель достигает 58,3 на MMLongBenchDoc и выдаёт в среднем около 250 токенов, сохраняя преимущество на длинных документах без явной генерации цепочки рассуждений. Карточка также сообщает о применении в юридических, научных и финансовых сценариях. Лицензия — Apache-2.0.

Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

unsloth/Qwen3.5-0.8B-MTP-GGUF — GGUF-версия мультимодальной модели Qwen3.5-0.8B, разработанной командой Qwen и подготовленной Unsloth. Это авторегрессионная языковая модель с vision-энкодером, предназначенная для локального запуска, прототипирования, исследовательских задач, специализированного дообучения, программирования, рассуждений, работы с изображениями и агентских сценариев. Модель содержит около 0,8 млрд параметров, 24 слоя и скрытое измерение 1024. Она использует гибридную архитектуру Gated Delta Networks и разреженной Mixture-of-Experts, а также обучение с multi-step prediction (MTP), поддерживающее спекулятивное декодирование. Нативная длина контекста составляет 262 144 токена. Заявлена поддержка 201 языка и диалекта. Репозиторий ориентирован на совместное использование с llama.cpp и другими инструментами, поддерживающими GGUF; для MTP в llama.cpp требуется соответствующая ветка или актуальная версия с поддержкой draft-MTP. К сильным сторонам относятся малый размер, возможность эффективного локального запуска, мультимодальность, широкий языковой охват и потенциальное ускорение генерации примерно в 1,5–2 раза благодаря MTP. Ограничениями являются невысокий по современным меркам объём модели и, как следствие, вероятно более слабое качество сложных задач по сравнению с крупными моделями. Для MTP указаны ограничения: не поддерживаются параллельные последовательности с параметром -np больше 1 и использование mmproj. Модель распространяется по лицензии Apache 2.0.

dealignai/Qwen3.8-27B-MXFP8-CRACK — квантованная версия базовой модели Qwen/Qwen3.8-27B от Alibaba, подготовленная dealignai. Это плотная гибридная vision-language-модель на 27 млрд параметров с архитектурой из 64 слоёв, объединяющей линейное внимание GatedDeltaNet и gated full-attention. Модель предназначена для работы с текстом, изображениями и видео, поддерживает английский и китайский языки, рассуждения с уровнями xhigh, medium и low, вызов инструментов через XML-схему и нативную Multi-Token Prediction для ускорения генерации. Точный размер контекста в README не указан. Модель собрана в формате JANG 8-bit MXFP8 для MLX и Apple Silicon, занимает около 27 ГБ памяти. Поведение отказа от выполнения запросов удалено методом CRACK на уровне весов, поэтому модель ориентирована на исследовательские сценарии, где требуется следование инструкциям без встроенных отказов, включая потенциально опасные категории. При этом заявлено сохранение рассуждений, мультимодальности, инструментов, знаний и многоязычности. В MMLU модель получила 86,67%, а в HarmBench — 100% соответствия запросам; эти результаты приведены разработчиком и не гарантируют качество или безопасность в других сценариях. Для запуска рекомендуется MLX и библиотека mlx-vlm; в README указаны параметры sampling temperature=1.0, top_p=0.95 и top_k=20. Модель распространяется на базе Apache-2.0; README прямо указывает, что базовая модель принадлежит Alibaba и лицензирована по Apache-2.0. Поскольку защитные отказы удалены, ответственность за применение модели и соблюдение законодательства возлагается на пользователя.

ddark-il/Qwen3.8-Flash-Next-Uncensored-Mixed-omlx — это MLX-квантизированная версия модели orcarouter/Qwen3.8-Flash-Next-Uncensored, подготовленная для запуска через oMLX на устройствах Apple Silicon. Модель основана на архитектуре qwen4_exp с разреженными экспертами (MoE), поддерживает текстово-визуальные сценарии и имеет тег image-text-to-text. В README не указано, что ddark-il является исходным разработчиком базовой модели; он предоставляет адаптированный квантованный вариант. Модель содержит около 180 млрд параметров и использует смешанную AWQ/affine-квантизацию с эффективной точностью 4,86 бит на параметр. Размер файлов составляет около 109,24 ГБ, а заявленная длина контекста — до 262 тысяч токенов. В составе предусмотрены MTP-компонент для speculative decoding, GDN и sparse attention, а также vision-модули. Квантизация распределена по чувствительности компонентов: маршрутизируемые эксперты и некоторые таблицы имеют 4-битную точность, критичные элементы сохранены в 8-битном или BF16-виде. Модель предназначена для длинноконтекстной генерации текста, агентских сценариев с вызовами инструментов и задач, сочетающих текст и изображения. На M5 Max с 128 ГБ памяти и oMLX 0.6.4 автор README измерил около 30,7 токена в секунду при работе с длинными агентскими сессиями. Ограничения включают требование oMLX версии не ниже 0.6.3rc3, значительное потребление памяти, зависимость от корректной настройки mmap для PLE-таблицы и отсутствие дополнительного обучения или калибровки. Лицензия — Apache-2.0.

webAI-ColVec1-9b — мультимодальная модель поиска по визуальным документам от webAI-Official, дообученная на базе Qwen/Qwen3.5-9B. Она кодирует текстовые запросы и изображения страниц документов в многовекторные представления размерности 2560, нормализованные по L2. Архитектура ColBERT-style использует общий энкодер для текста и изображений и позднее взаимодействие токенов с оценкой MaxSim. Модель предназначена для поиска релевантных страниц и документов по запросу на естественном языке, включая PDF-страницы, таблицы и визуально представленные документы. Карточка сообщает о мультиязычном обучении на объединённом наборе примерно из двух миллионов пар «вопрос — изображение» и о результатах на бенчмарках ViDoRe V1 и V3. Лицензия указана как other, поэтому условия использования следует проверять в карточке репозитория. README сообщает о доступности более новой версии ColVec1.1-8b.

Agnes-3.0-Flash Preview GGUF — набор квантизированных сборок базовой модели Agnes-AI/Agnes-3.0-Flash, опубликованный quimmedes. Модель предназначена для генерации текста и мультимодальных сценариев с изображениями и видео, а также для локального запуска через совместимый runtime llama.cpp. Доступны варианты квантования от Q3 до Q9 и несколько альтернативных сборок с разным распределением точности между компонентами модели. Архитектура основана на гибридной схеме с recurrent SSM- и attention-слоями: 72 слоя, включая 54 delta-rule и 18 global attention, дополнительная параллельная SwiGLU-ветвь в каждом слое, около 32,63 млрд параметров, размер скрытого состояния 5120, словарь из 248 320 токенов и один MTP-слой. Поддерживаются текст, изображения и видео; точный набор языков и максимальная длина контекста в README не указаны, хотя приведён пример запуска с контекстом 32 768 токенов. Модель использует тот же токенизатор и шаблон чата, что и Qwen3.8-27B, но имеет дополнительные слои и переобученные проекционные матрицы. Ключевое преимущество сборок — сочетание гибридного внимания, поддержки длинного контекста, мультимодальности и выбора размера файла: от 12,12 до 32,28 GiB для основной линейки. Для работы требуется патченная версия cafe-llama.cpp; стандартная llama.cpp не поддерживает необходимые тензоры и может завершиться ошибкой или некорректно загрузить модель. Указанные требования к видеопамяти и параметры запуска ориентированы на карту 24 ГБ, однако фактические возможности зависят от выбранного квантования и длины контекста. Модель и сборки распространяются по лицензии Apache-2.0.

Anrn 12B R1 — мультимодальная модель на основе Gemma 4 Unified, выпущенная проектом Anrn и представленная как BF16-база Google Gemma 4 12B с отдельным обученным адаптером LoRA, применяемым с проверенным коэффициентом 0,45. Архитектура — плотный декодер с 11,95 млрд параметров; заявлены входы в виде текста, изображений, аудио и видео. Для Transformers доступен мультимодальный сервис, а дополнительная сборка llama.cpp предназначена для текстового режима. Для llama.cpp указана поддержка контекста 128K. Модель рассчитана на диалог и решение сложных текстовых задач, а также на анализ изображений, аудио и видео через нативный сервис. В README приведены результаты MMLU-Pro, GPQA Diamond и AIME 2026 без инструментов; показатели получены в проектной оценке за август 2026 года и зависят от шаблонов промптов, параметров генерации и версии оценочного набора. BF16-веса требуют значительных ресурсов, а выгрузка части вычислений на CPU снижает скорость. Путь llama.cpp является квантованным текстовым вариантом и не поддерживает нативный мультимодальный ввод. Лицензия — Apache-2.0.

zaakirio/gemma-4-12b-it-uncensored-GGUF — набор GGUF-квантизаций модели zaakirio/gemma-4-12b-it-uncensored, разработанной на основе Google Gemma 4 12B Instruct. Это декензурированная версия, полученная методом Heretic-abliteration, ориентированная на диалоговые сценарии и запуск через llama.cpp. Модель предназначена для генерации текста, общения, анализа изображений и аудио, а также обработки видео через выборку кадров и аудиодорожку. Модель представляет собой encoder-free unified multimodal decoder-only transformer с 12 млрд параметров и контекстным окном до 256K токенов. Поддерживаются текст, изображения, аудио и видео; для мультимодального ввода требуется отдельный проектор mmproj-gemma-4-12B-it-bf16.gguf. Доступны варианты от Q2_K до Q8_0 и f16 размером примерно от 4,50 до 22,20 ГБ. Опциональный MTP-драфтер может ускорить генерацию на GPU. Поддерживается reasoning-режим, а также системная роль. Сильные стороны модели — сочетание мультимодальности, большого контекста, различных уровней квантизации и совместимость с llama.cpp. Обработка аудио в llama.cpp отмечена как экспериментальная, поэтому качество распознавания может быть сниженным; обработка видео зависит от клиента, выполняющего извлечение кадров. Языки модели явно не перечислены, однако в README подтверждена точная многоязычная транскрипция речи. Лицензия указана как gemma.

Alberto-Codes/gemma-4-31B-it-fit24gib-GGUF — это смешанно-точный GGUF-пакет модели Google Gemma 4 31B Instruct, созданный Alberto-Codes на основе QAT-чекпойнта google/gemma-4-31B-it-qat-q4_0-unquantized. Пакет предназначен для локального запуска текстовых и мультимодальных сценариев с обработкой изображений через llama.cpp на видеокарте с 24 ГиБ VRAM. Для работы с текстом требуется файл декодера, а для изображений — также отдельный vision-проектор. Модель относится к классу image-text-to-text и поддерживает текстовый ввод, а также изображения; точный набор языков в карточке не указан. Декодер занимает 14,92 ГиБ, проектор — 629 МиБ. Пакет не использует единую схему квантования: в нём применены тензоры Q5_0, Q8_0, F16 и F32, а эффективная разрядность составляет 9,16 бит на параметр. Заявленная особенность — размещение на карте с 24 ГиБ VRAM и увеличение доступного контекста по сравнению с официальным QAT Q4_0 GGUF: до 86 016 токенов в текстовом режиме и до 73 728 токенов с одним изображением в описанной конфигурации RTX 4090 и llama.cpp. По приведённым измерениям пакет имеет меньший размер и сопоставимое качество с QAT Q4_0: на тестах он показал одну статистически значимую победу и четыре ничьи, однако у базовой версии немного лучше средние KLD и совпадение наиболее вероятного токена. Результаты зависят от конкретной конфигурации запуска, версии llama.cpp, доступной VRAM и используемого проекторного файла. Модель распространяется по лицензии Apache-2.0.

Llama-3-8B-Instruct-80K-QLoRA-Merged — диалоговая языковая модель семейства Llama 3, созданная namespace-Pt на основе Meta-Llama-3-8B-Instruct. Контекст модели расширен примерно до 80 тысяч токенов с помощью QLoRA и обучения на синтетических длинных примерах, после чего веса объединены с исходной инструкционной моделью. Архитектура — плотная авторегрессионная LlamaForCausalLM; в репозитории представлены веса Safetensors, размер модели — 7,5 млрд параметров. Модель предназначена для генерации ответов и работы с длинными текстами: поиска сведений в больших документах, ответов по нескольким источникам, суммаризации и задач с большим контекстом. README приводит результаты оценок на LongBench, InfiniteBench и тесте Needle-in-a-Haystack; это бенчмарки, а не гарантия качества для конкретных данных. Модель принимает текст и генерирует текст. Язык оценки в README — английский; поддержка других языков не установлена предоставленными данными. Лицензия репозитория указана как MIT. Модель сохраняет ограничения базовой Llama и может ошибаться, особенно при обработке длинного контекста; фактическое поведение зависит от используемой конфигурации и максимальной длины генерации.

Muse2-230M — компактная авторегрессионная языковая модель Muse Research, дообученная на основе Muse2-230M-Base. Она предназначена для диалогового помощника, форматирования ответов и извлечения структурированных данных, например преобразования журналов разработчиков в JSON, а также для запуска на устройствах с ограниченными ресурсами и дальнейшей тонкой настройки. Модель содержит 221,2 млн параметров и использует плотную гибридную архитектуру Muse2: блоки коротких причинных свёрток чередуются с полным вниманием, применяются grouped-query attention и объединённый SwiGLU MLP. Вход и выход — текст; основной язык — английский, также модель обрабатывает программный код и математические тексты. Контекст в карточке указан как 128 000 токенов, хотя README уточняет, что стандартная длина составляет 8 000 токенов, а 128 000 — максимум. Модель обучена методом supervised fine-tuning с маскированием функции потерь только на ответах; RLHF и DPO не применялись. Качественная и безопасностная проверка ограничена, поэтому модель может галлюцинировать, повторяться или выдавать смещённые и нежелательные ответы. Разработчик не рекомендует полагаться на неё в критичных, медицинских, юридических или иных фактически значимых сценариях без оценки и защитных мер. Веса доступны по лицензии Apache-2.0.

Nemotron ColEmbed V2 — мультимодальная модель эмбеддингов NVIDIA для поиска по визуальным документам. Она дообучена на базе Qwen3-VL-4B-Instruct и использует трансформерную архитектуру с визуальным энкодером SigLIP-2, модулем объединения зрения и языка и языковой моделью. В модели около 4,8 млрд параметров. Модель принимает текстовые запросы и изображения страниц документов, включая таблицы, диаграммы и инфографику, и строит многовекторные представления в стиле ColBERT: для каждого токена выдаётся вектор размерности 2560. Она предназначена для поиска по документам и мультимодальных RAG-систем; в README указано третье место в бенчмарке ViDoRe V3 на момент публикации результатов. В README заявлена поддержка многоязычных данных и контекст до 10 240 токенов в проведённых оценках. Обработка изображений разбивает их на плитки, для описанной конфигурации используется до восьми плиток и миниатюра. Для запуска требуются Transformers версии 4.57.2 или выше и Flash Attention; модель оптимизирована для GPU NVIDIA. Лицензия CC-BY-NC-4.0 ограничивает использование некоммерческими и исследовательскими сценариями.

shawnw3i/Qwen3.8-27B-GPTQ-INT8-MTP — квантизированная версия модели Qwen/Qwen3.8-27B, опубликованная пользователем shawnw3i. Модель предназначена для генерации текста и обработки изображений в сценариях, поддерживающих формат image-text-to-text, а также для ускоренного инференса через vLLM. Модель использует квантизацию GPTQ с точностью INT8, поддерживает ядро GPTQ Marlin и MTP speculative decoding с несколькими спекулятивными токенами. Заявлена поддержка визуальных входных данных и контекста до 65 536 токенов при соответствующей настройке. В README указана производительность свыше 80 токенов в секунду на одном A800 80GB при использовании vLLM, MTP и FP8 KV-кэша. Сильными сторонами модели являются сниженное потребление памяти благодаря квантизации, совместимость с оптимизированным инференсом vLLM, поддержка визуальных данных и ускоренное декодирование. Ограничения включают зависимость производительности от оборудования и конфигурации инференса, а также отсутствие в представленном README подробных сведений о поддерживаемых языках, точных характеристиках архитектуры и качестве на отдельных задачах. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-Flash-CIRU-STRIX-IU4 — специализированная сборка семейства Qwen3.8-Flash-Next, разработанная проектом CIRU при участии Peonist.ai и pwilkin. Модель распространяется в формате GGUF и предназначена для локального запуска на компьютерах с AMD Strix Halo, в частности с 128 ГБ памяти и графикой Radeon на базе Ryzen AI Max 395. Она ориентирована на генерацию текста с длинным контекстом, работу через OpenAI-совместимый API, веб-интерфейс и обработку изображений. Сборка использует архитектуру mixture-of-experts, поддержку vision и image-text-to-text, а также MTP для speculative decoding. В неё включены оптимизации предварительной обработки, кэширования, внимания и GPU-исполнения под AMD ROCm; заявлена возможность работы с контекстами до 256K и отдельные измерения для предварительной обработки до 512K токенов. README не указывает точное число параметров, перечень языков и полную спецификацию модальностей. Сильные стороны модели — высокая скорость локального инференса на совместимых системах, эффективная обработка длинного контекста, поддержка изображений и интеграция с локальными серверными сценариями. Ограничения включают жёсткую зависимость от специализированного CIRU runtime и подходящей AMD-платформы: стандартные llama.cpp и размещённый inference Hugging Face не поддерживаются. Для vision и MTP требуется версия runtime с исправлением v4.4.1; приведённые в README показатели производительности относятся к конкретной тестовой конфигурации и не гарантируют такие же результаты на другом оборудовании. Лицензия указана как other с названием qwen-community-1.0; ссылка ведёт на файл LICENSE. Условия использования следует уточнять по этому файлу.

Vontra/Qwen3.8-Flash-Next-MLX-oQ8-MTP — общественная MLX-конверсия мультимодальной vision-language модели Qwen3.8-Flash-Next, разработанной Qwen, с сохранённым нативным блоком MTP для speculative decoding. Конверсия выполнена Vontra напрямую из официальных BF16-весов; это не официальный релиз Qwen. Модель предназначена для генерации текста и обработки изображений в совместимых MLX-VLM или oMLX-средах, прежде всего на устройствах Apple Silicon. Модель использует архитектуру sparse MoE с обозначением qwen4_exp, включает Gated DeltaNet, Qwen Sparse Attention, разреженные mixture-of-experts-слои, расширенные gated residual-потоки и хешированные биграммные и триграммные embedding-таблицы. Всего заявлено 125 млрд параметров, из которых активно около 6 млрд, 48 слоёв, 512 маршрутизируемых экспертов с выбором 10 экспертов и одного общего, 24 attention heads и 2 KV heads, размер скрытого состояния 2560 и контекст до 262 144 токенов. Формат — MLX safetensors, квантизация oQ8, близкая к равномерной 8-битной аффинной, с group size 32; размер весов составляет около 202,75 ГБ. Сильная сторона конверсии — встроенный совместимый MTP-блок, который может существенно повысить скорость генерации: в измерении на Apple M3 Studio производительность выросла с 19,5 до 35,7 токена в секунду. Однако модель требует runtime с явной поддержкой qwen4_exp и native MTP; стандартные среды без такой поддержки могут отклонить веса. Указанные результаты зависят от длины запроса, настроек генерации, версии runtime и доступной памяти. Модель распространяется по Qwen Community License 1.0; текст лицензии включён в репозиторий.

ByT5-xl — предобученная байтовая модель семейства T5, разработанная Google. Она использует архитектуру Transformer для преобразования текста в текст и обрабатывает строки непосредственно как последовательности UTF-8 байтов, без отдельного токенизатора. Размер модели — 3,3 млрд параметров; доступны веса PyTorch и TensorFlow. Модель предобучена на mC4 с задачей восстановления замаскированных фрагментов и не проходила supervised-обучение для прикладных задач. Перед использованием её нужно дообучить под конкретный сценарий: например, ответы на вопросы или другие задачи преобразования текста. ByT5 особенно хорошо подходит для зашумлённого текста; в README отмечено превосходство над mT5-xl на TweetQA. Поддерживаются многие языки, включая английский, испанский, французский, арабский, хинди, японский и корейский; обработка байтов позволяет подавать текст на разных языках без токенизатора. Работа с байтовыми последовательностями может быть менее эффективной по длине входа, чем токенизация. Модель опубликована Google и распространяется по лицензии Apache-2.0.

FILM-7B — языковая модель на архитектуре Mistral, разработанная командой In2Training. Она получена дообучением Mistral-7B-Instruct-v0.2 методом Information-Intensive Training (In2) и предназначена для генерации ответов по заданным инструкциям и длинному контексту. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и работает с текстом на английском языке. Разработчики заявляют, что FILM-7B снижает проблему «потери информации в середине» длинного контекста, показывает высокие результаты на задачах анализа длинного контекста и сохраняет качество на коротких запросах. Репозиторий содержит веса в формате safetensors и шаблон диалога в стиле Mistral Instruct. Лицензия — Apache-2.0.

Momix-44/gemma-4-31B-it-heretic-v2 — модифицированная версия мультимодальной модели Google DeepMind gemma-4-31B-it. Модель создана с использованием Heretic 1.2.0 и метода Magnitude-Preserving Orthogonal Ablation (MPOA), направленного на снижение количества отказов в ответах. Согласно README, она предназначена для генерации текста, рассуждений, программирования и анализа изображений. Модель относится к плотной архитектуре Gemma 4 и содержит около 30,7 млрд параметров, 60 слоёв и контекстное окно до 256 тысяч токенов. Она принимает текстовые и визуальные входные данные и генерирует текст. Архитектура использует гибридное внимание с чередованием локального sliding window attention и глобального внимания; размер скользящего окна составляет 1024 токена. Семейство Gemma 4 поддерживает более 140 языков, однако отдельные характеристики языкового покрытия именно этой производной модели не указаны. Ключевая особенность модели — существенно меньшее число отказов по сравнению с исходной gemma-4-31B-it: в приведённом тесте 37 из 100 против 99 из 100 у оригинала. При этом значение KL divergence составляет 0,3801, поэтому поведение и распределение ответов отличаются от базовой модели. README не содержит независимых оценок качества, а снижение защитных ограничений может повышать риск генерации небезопасного или нежелательного контента. В качестве лицензии указана Apache 2.0 со ссылкой на лицензию Gemma 4.

YoungXuan/Llama-3.1-8B-NHS — продолжительно предобученная модель генерации текста на основе Meta Llama 3.1 8B с методом TTT-NTP: во время тестирования она обновляет быстрые веса в отдельных проекциях MLP, используя предсказание следующего токена. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает контекст длиной до 131 072 токенов. Модель предназначена для генерации текста и улучшения извлечения связанных фактов из длинного контекста. В оценке RULER автор сообщает средний результат на 11,96 пункта выше базовой Llama 3.1 8B; улучшения сосредоточены на ассоциативном поиске по нескольким ключам и значениям, при этом на некоторых заданиях наблюдались ухудшения. Оценка проведена с одним seed, поэтому результаты требуют осторожной интерпретации. Для загрузки через Transformers требуется включить trust_remote_code, поскольку реализация TTT находится в коде репозитория. Формат весов — safetensors; лицензия — llama3.1.

NeoMME-260M-Retriever-ST-dense — мультимодальная модель поиска документов от Hcompany, дообученная на базе Hcompany/NeoMME-260M-Retriever. Это одно-башенный энкодер на основе двунаправленного Transformer: он кодирует текстовые запросы и текстовые документы или изображения страниц в плотные эмбеддинги. Модель содержит 366 млн параметров, использует Sentence Transformers и поддерживает контекст до 16 384 токенов. Эмбеддинги нормализованы по L2 и предназначены для сравнения по косинусному сходству. Модель подходит для поиска релевантных документов по текстовому запросу в текстовых коллекциях и среди изображений страниц, в том числе для визуального поиска по документам. Вариант ST-dense выдаёт только плотные эмбеддинги; лицензия — Apache-2.0.

FreedomAISVR выпустила GGUF-квантизацию Nex-N2-mini от Nex AGI — мультимодальной агентной модели на архитектуре Mixture-of-Experts. Модель содержит 35 млрд параметров, из которых активируются 3 млрд на токен, и использует 256 маршрутизируемых экспертов, гибридную архитектуру Gated DeltaNet с полным вниманием и 27-слойный визуальный энкодер. Контекст составляет 262 144 токена. Модель принимает текст и изображения и генерирует текст; она предназначена для диалогов, агентных задач и описания изображений. Представлены английский, китайский и другие языки. Веса представлены в NVFP4: заявлены 4,55 бита на вес и эффективный инференс на GPU Blackwell с минимальной потерей качества. Для обработки изображений требуется файл проектора mmproj в F16. Модель распространяется по лицензии Apache 2.0.

Карточка модели ArchiveStudio/Qwen2.5-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

Azizbek8189/Qwen3.5-0.8B-GGUF — модель семейства Qwen3.5 на базе Qwen/Qwen3.5-0.8B, представленная в формате, подготовленном с использованием инструментов Unsloth. Это каузальная языковая модель с vision encoder, предназначенная для прототипирования, исследовательских и разработческих задач, а также специализированного дообучения. Модель поддерживает текстовые и визуальные входы и может применяться для рассуждений, программирования, визуального понимания и агентских сценариев. Модель содержит 0,8 млрд параметров, 24 слоя и скрытое измерение 1024. В архитектуре сочетаются Gated Delta Networks, Gated Attention и разреженная Mixture-of-Experts; заявлена длина контекста 262 144 токена. Указана поддержка 201 языка и диалекта. Артефакты совместимы с Hugging Face Transformers, vLLM, SGLang и KTransformers. К сильным сторонам относятся компактный размер, мультимодальность, большой контекст и эффективность гибридной архитектуры, что делает модель подходящей для локального запуска и экспериментов с ограниченными ресурсами. Ограничениями являются небольшой по современным меркам объём параметров и заявленная ориентация на прототипирование и исследования, поэтому качество на сложных задачах может уступать более крупным моделям. Лицензия — Apache-2.0.

LWWZH/Qwen3.5-4B-int4-OpenVINO — версия мультимодальной модели Qwen3.5-4B, подготовленная для OpenVINO и сжимающая веса преимущественно до int4. В карточке указано, что исходная Qwen3.5-4B разработана командой Qwen; метаданные связывают этот репозиторий с Qwen/Qwen3.5-4B. Это плотная причинная языковая модель с визуальным энкодером, рассчитанная на диалог и понимание изображений. Модель подходит для ответов на вопросы по изображениям, визуального анализа, диалоговых сценариев и задач рассуждения. Архитектура исходной модели включает 4 млрд параметров и 32 слоя; нативная длина контекста составляет 262 144 токена с возможностью расширения до 1 010 000. README заявляет поддержку 201 языка и диалекта. Модель по умолчанию работает в режиме рассуждений; для обслуживания в высоконагруженных сценариях карточка рекомендует специализированные движки инференса. Сжатие весов в этой версии распределено между int4 и int8, преимущественно int4 с размером группы 128. Лицензия — Apache-2.0. README относится к исходной модели и не приводит отдельных результатов оценки или ограничений именно сборки OpenVINO, поэтому её производительность и совместимость следует оценивать в целевом окружении.

Qwen3.8-27B Abliterated + MTP GGUF — неофициальная производная модель Global Cybersecurity Alliance на базе Qwen/Qwen3.8-27B. Это плотная модель с 27 миллиардами параметров и нативной поддержкой понимания текста, изображений и видео. Модель распространяется в формате GGUF с квантованиями Q8_0, Q6_K, Q4_K_M и Q4_K_S; для каждого варианта предусмотрен соответствующий vision projector mmproj. Базовая модель ориентирована на мультимодальные задачи, управляемый режим рассуждений и работу с длинным контекстом, однако точный размер контекстного окна и перечень поддерживаемых языков в карточке не указаны. В производной версии применено вмешательство Abliterix, направленное на снижение поведения, связанного с отказами. Это может быть полезно для исследовательских и прикладных сценариев, где требуется более свободное следование инструкциям, но эффект не гарантирован и способен ухудшить тон, калибровку, качество рассуждений, точность или соблюдение инструкций. Приведённые в README результаты относятся к отдельной FP8-версии и не являются подтверждёнными показателями GGUF-квантований. Дополнительно доступен BF16 MTP-драфт для speculative decoding в совместимых версиях llama.cpp и других runtime: он может повысить скорость, но требует дополнительной памяти и явной настройки, а выигрыш зависит от оборудования и параметров запуска. Модель не является официальным релизом Qwen, Alibaba Cloud или авторов Abliterix. Лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — мультимодальная версия Qwen3.8-27B, опубликованная HauhauCS. Это плотная языковая модель с поддержкой текста, рассуждений, агентских сценариев, изображений и видео. Она предназначена для прямых ответов без выраженного отказного поведения и минимального вступления, включая сложные запросы. Модель содержит 27 млрд параметров, 64 слоя, скрытый размер 5120, FFN-размер 17408 и словарь из 248 320 токенов. Архитектура включает 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Сохраняется встроенный механизм MTP/NextN, а профиль HauhauCS FastMTP предназначен для ускорения генерации. Заявлен нативный контекст 262 144 токена с возможностью расширения до 1 000 000. Поддерживаются английский, китайский и другие языки; для изображений и видео используется отдельный vision-проектор BF16. Сильные стороны модели — мультимодальность, большой контекст, несколько вариантов GGUF-квантизации и ускорение FastMTP. Агрессивный профиль может быть удобен, когда важны краткость и отсутствие отказов, однако для надёжных длинноконтекстных агентских задач автор рекомендует сбалансированный вариант, если он доступен. README не приводит независимых оценок качества и не уточняет риски, связанные с uncensored-поведением. Модель распространяется по лицензии Apache-2.0.