I.4Обработка документов и форм

Jimi — дообученная версия instruction-tuned модели Google DeepMind gemma-4-E4B-it, разработанная автором или командой leeroy-jankins. Модель создана с помощью supervised instruction tuning на данных для вопросов и ответов, суммаризации, рассуждений, синтеза кода и понимания документов. В обучении использовались, в частности, FineTome-100k и наборы данных по финансовому и бюджетному регулированию США. Модель предназначена для retrieval-augmented generation (RAG), ассистентов с поддержкой инструкций и многошагового диалога, открытых вопросов и ответов, генерации и суммаризации текста, а также анализа юридических и финансовых документов. Она также может использоваться как компактная базовая модель для дальнейшей специализации. Заявлены улучшенная работа с контекстом, следование инструкциям, предметное рассуждение и поддержка связных многоходовых разговоров. Jimi относится к классу моделей примерно на 4B параметров; для базовой Gemma 4 E4B указаны 4,5B эффективных параметров, 42 слоя, скользящее окно внимания 512 токенов и контекст до 128K токенов. Архитектура Gemma 4 использует гибридное внимание с локальными и глобальными слоями. Для базовой модели заявлены обработка текста и изображений, а также аудио для малых вариантов Gemma 4, однако README не уточняет, какие мультимодальные возможности непосредственно сохранены и проверены именно в Jimi. В метаданных указан английский язык. К сильным сторонам относятся компактный размер, потенциально быстрая работа на пользовательских GPU, пригодность для RAG и задач с финансово-бюджетной документацией. Ограничения включают отсутствие подробных результатов бенчмарков и количественной оценки качества, а также недостаток информации о фактических поддерживаемых модальностях и языках самой Jimi. Модель распространяется по лицензии MIT.

Ex0bit/Qwen3.5-122B-A10B-PRISM-PRO-GGUF — мультимодальная чат-модель Ex0bit в формате GGUF, созданная на основе Qwen/Qwen3.5-122B-A10B и предназначенная для запуска через llama.cpp. По описанию автора, PRISM-PRO изменяет механизмы отказа и предвзятости; доступная Dynamic-квантизация размером 57,7 ГБ использует разные уровни точности для блоков модели, а веса внимания сохранены в Q8_0. В репозитории также указан файл mmproj для обработки изображений и видео. Модель имеет гибридную MoE-архитектуру с 122 млрд параметров, из которых активны около 10 млрд на токен, и сочетает GatedDeltaNet с полным вниманием. Заявленное окно контекста — 262 144 токена; доступны режимы рассуждения и прямого ответа. Подходит для диалога, анализа изображений и видео, работы с длинным контекстом и рассуждений. В метаданных указана поддержка множества языков, включая русский, английский и китайский. Лицензия — Apache-2.0.

Qwen3.8-27B-Abliterated-SME-Preview — предварительная модель-ассистент для малого и среднего бизнеса от hotdogs, дообученная методом LoRA SFT на базе hotdogs/Qwen3.8-27B-abliterated. Это плотная гибридная модель с архитектурой Qwen3_5ForConditionalGeneration: 64 слоя, включая линейное внимание GDN и полное внимание; в репозитории представлены объединённые веса BF16 в safetensors. Модель предназначена для ответов на деловые вопросы, анализа CSV и офисных документов, а также для формирования структурированных вызовов инструментов. Модель принимает текст; в карточке указана мультимодальная обёртка с поддержкой изображений, хотя README описывает текстовые сценарии. Обучение проводилось на англоязычном наборе документов и вызовов инструментов; метаданные также указывают тайский язык. Контекст обучения — 8192 токена. Лицензия — Apache-2.0. В README приведены результаты на ARC, MMLU и GSM8K, а также проверки формата вызовов инструментов; они указывают на сохранение общих возможностей базовой модели и улучшение математического рассуждения, но полноценные агентные бенчмарки ещё не проводились. Выпуск имеет статус Preview. Склонность базовой модели отказывать снижена намеренно; для выполнения вызовов csv_* и doc_* требуется подключить инструменты к среде исполнения. BF16-версия на 27 млрд параметров требует нескольких GPU либо квантованного варианта для практического запуска.

Xoron-Dev-MultiMoe — мультимодальная модель семейства Xoron, опубликованная командой Xoron-Dev и представленная в репозитории Backup-bdg. В метаданных указаны архитектура MoE, 256,5 млн параметров, библиотека Transformers и контекст до 131 072 токенов. README заявляет обработку текста, изображений, видео и аудио, а также генерацию изображений, видео и речи. Для изображений описаны SigLIP-2 и сжатие TiTok, для видео — VidTok с обработкой до 32 кадров, для аудио — обработка сырого PCM и голосовой синтез. Модель позиционируется для мультимодального диалога, понимания визуального и аудиовизуального содержимого, работы с речью, генерации медиа и агентных сценариев с использованием инструментов. Среди заявленных характеристик — разреженная смесь экспертов и контекстное окно 128K. README также заявляет клонирование голоса по короткому образцу, но не приводит независимых оценок качества; описанные возможности и показатели следует считать заявлениями автора. Лицензия репозитория — MIT. В метаданных основной задачей указана генерация текста, тогда как авторский pipeline-тег — any-to-any; для каталога основной задачей выбрана any-to-any, поскольку карточка описывает модель для мультимодального ввода и вывода.

Baguettotron — компактная языковая модель PleIAs для генерации текста и решения задач с рассуждениями. Это плотная авторегрессионная модель семейства Llama с 320,9 млн параметров и 80 слоями; она обучена на 200 млрд токенов открытого синтетического набора PleIAs/SYNTH. Репозиторий содержит веса Safetensors для Transformers, а контекст модели составляет 4096 токенов. Модель предназначена для следования инструкциям, ответов на вопросы, извлечения и редактирования информации, простых математических задач, творческого письма и генерации с опорой на предоставленный контекст. Она обучена работать с английским, французским, немецким, итальянским, испанским и польским; README также упоминает более ограниченную поддержку латыни и нидерландского. Цепочки рассуждений формируются на английском. По заявлению разработчика, модель показывает сильные результаты среди моделей сопоставимого размера в ряде общих, математических и retrieval-бенчмарков. Baguettotron — небольшая модель, поэтому её возможности ограничены по сравнению с крупными языковыми моделями; заявленные результаты относятся к конкретным бенчмаркам и не гарантируют точность в каждом сценарии. Лицензия — Apache-2.0.

Gemma 4 12B RKNn3 для RK1828 — адаптированная для запуска на устройстве версия Gemma 4 12B IT от Google DeepMind, подготовленная проектом t-firefly для LlamaPi. Это плотная мультимодальная модель семейства Gemma4 Unified, распространяемая в форматах GGUF и safetensors и ориентированная на локальное использование на периферийных устройствах. Модель принимает текст, изображения, аудио и видео, а выдаёт текст; поддерживает диалог, рассуждения, программирование и агентные сценарии. В исходной карточке заявлены контекст 256 тысяч токенов и поддержка более 140 языков. Модель подходит для локального чат-ассистента, анализа мультимодальных входных данных и задач на устройстве RK1828 через LlamaPi. Репозиторий указывает лицензию Apache-2.0. Сведения о качестве и ограничениях именно сборки для RK1828 в карточке не приведены.

Gemma-SEA-LION-v4-27B-IT — языковая модель с инструктивной настройкой от AI Singapore, разработанная для языков Юго-Восточной Азии. Это плотная декодерная модель на архитектуре Gemma 3, дообученная на примерно 10 млн пар вопросов и ответов на бирманском, английском, индонезийском, кхмерском, лаосском, малайском, тагальском, тамильском, тайском и вьетнамском языках. Модель предназначена для диалогов, ответов на вопросы, следования инструкциям, суммаризации, анализа тональности, перевода и рассуждений; заявленная длина контекста — 128 тысяч токенов. Модель также сохраняет мультимодальные возможности Gemma 3 для понимания изображений и текста, включая визуальные вопросы и разбор документов, однако её дополнительное обучение выполнялось только на текстовой части, поэтому специальных улучшений в работе с изображениями не заявлено. Поддерживаются вызов функций и структурированные ответы. По оценке разработчиков, модель сильна в задачах для языков региона, но может галлюцинировать, выдавать нерелевантные ответы и не проверялась на устойчивость к состязательным запросам. Модель не прошла настройку безопасности; при использовании нужны собственные меры проверки и защиты. Лицензия — Gemma Terms of Use.

GLM-5.3-Flash — EXL3 4.65bpw — это квантизированная версия модели GLM-5.3-Flash-BF16, разработанной Z.ai. Квантизация выполнена в формате EXL3 с использованием инструментария exllamav3; модель предназначена для запуска через ExLlamaV3 версии 1.4.5 или новее. В сборку включены vision tower и компонент MTP для ускорения генерации. Модель рассчитана на задачи обработки и генерации текста, а также на мультимодальные сценарии с изображениями. В карточке заявлены английский и китайский языки, а максимальный контекст составляет 262 144 токена. Размер модели на диске — около 189,6 ГБ, эффективная разрядность — 4,67 bpw; для загрузки требуется примерно 210 ГиБ VRAM плюс значительный объём памяти под кеш. Конфигурация содержит 45 декодерных слоёв и 35 файлов-шардов. К сильным сторонам относятся существенное снижение требований к памяти по сравнению с исходной BF16-версией, включённая поддержка MTP и vision tower, а также высокая скорость обработки длинных контекстов на многокарточной конфигурации. Ограничения — очень высокие аппаратные требования, необходимость совместимого рантайма ExLlamaV3 и корректной настройки распределения GPU; приведённые показатели производительности относятся к конкретной конфигурации из четырёх ускорителей CMP 170HX. Модель и её квантизированная версия распространяются по лицензии MIT.

Heretical-Qwen3.5-9B — мультимодальная модель на 9 млрд параметров, дообученная на базе Qwen/Qwen3.5-9B-Base. Её разработчик применил метод decensoring на основе orthogonalized projected abliteration с поиском параметров, настроенным через TPE; в README указаны 3 отказа из 100 тестовых запросов и KL divergence 0,0366. Модель использует гибридную архитектуру Gated DeltaNet и attention, принимает текст и изображения и предназначена для диалогов, рассуждений и понимания визуального содержимого. Модель поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 010 000. README базовой модели заявляет поддержку 201 языка и диалекта, но не приводит языковую таблицу для этой конкретной производной модели. Веса доступны в формате safetensors; метаданные указывают библиотеку Transformers и лицензию Apache-2.0. Показатель отказов относится к ограниченному тесту в карточке и сам по себе не гарантирует поведение на других запросах; универсальные ограничения качества не описаны.

Bonsai-2-27B-Ternary-JANG — мультимодальная модель с плотной архитектурой Qwen3.8-27B, подготовленная OsaurusAI как JANG-affine-перепаковка тернарных весов Prism ML. Модель предназначена для диалогов и рассуждений с текстом, а также обработки изображений и видео; в комплекте сохранены шаблон чата Qwen3.8, обработчики изображений и видео и интерфейс вызова инструментов. Текстовые веса исходной модели сохранены без повторной квантизации: 402 модуля используют тернарные значения в 2-битных слотах с группами размера 128. Некоторые линейные слои зрения хранятся в 6-битном формате, а ряд других параметров — в исходной точности. Архитектура включает 64 блока: 48 GatedDeltaNet и 16 блоков полного внимания. Для корректной работы необходим загрузчик с поддержкой JANG Hadamard; стандартные загрузчики mlx_lm и mlx_vlm могут выдавать неверные результаты. Модель распространяется по лицензии Apache-2.0.

Gemma3-R1984-4B — мультимодальная модель для диалогов и анализа изображений, дообученная VIDraft на базе Google Gemma 3 4B. В карточке заявлена работа с изображениями, видео и документами, включая PDF, CSV и TXT; метаданные классифицируют модель как image-text-to-text и указывают архитектуру Gemma3ForConditionalGeneration с плотными весами в формате Safetensors. Модель рассчитана примерно на 4 млрд параметров и контекст до 8 000 токенов. Сценарии применения включают визуальные вопросы и ответы, анализ документов, сравнение файлов, диалог и исследовательские запросы с поиском в интернете через SERPHouse API и цитированием найденных источников. Указана поддержка английского, корейского, японского, китайского, испанского, русского, арабского, хинди, индонезийского, французского и немецкого языков. Поиск в интернете требует API-ключа; обработка видео и документов описана как часть платформы и не подтверждена тегом задачи модели. В метаданных указана лицензия Gemma; README дополнительно упоминает MIT для Agentic AI-платформы, поэтому условия для весов следует связывать с лицензией Gemma.

Granite-3.1-1B-A400M-Base — базовая языковая модель, разработанная командой Granite компании IBM. Она построена на декодерном разреженном трансформере Mixture of Experts (MoE); число параметров по метаданным — 163,6 млн. Контекст увеличен с 4K до 128K токенов посредством поэтапного обучения с настройкой RoPE и дополнительного предобучения примерно на 500 млрд токенов для длинного контекста. Модель предназначена для генерации текста и может служить базой для специализированной настройки. Она поддерживает суммаризацию, классификацию и извлечение информации, ответы на вопросы и другие задачи «текст-текст». В карточке указаны английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Обучающие данные охватывают веб, код, академические материалы, книги и математику, а также многоязычные и синтетические длинноконтекстные данные. Модель не прошла выравнивание по безопасности, поэтому может генерировать проблематичные ответы; также возможны предвзятость, дезинформация и дословное воспроизведение обучающих данных. Распространяется по лицензии Apache 2.0.

Poro 2 Long Instruct — чат-модель с инструкционной настройкой, разработанная LumiOpen на основе семейства Poro 2 и архитектуры Llama. Это плотная авторегрессионная модель примерно на 7,5 млрд параметров, полученная объединением базовой модели Poro 2 Long и её версии после supervised fine-tuning. README заявляет контекст до 128 тыс. токенов; метаданные указывают native context 8192 токена. Модель предназначена для диалогов и выполнения инструкций на финском и английском языках. Она подходит для суммаризации и анализа длинных документов, вопросов по нескольким документам, генерации текстов, обучения, поддержки клиентов и перевода между финским и английским. В README приведены результаты тестирования следования инструкциям на обоих языках и длинноконтекстных задачах. Качество на английском в приведённых короткоконтекстных тестах уступает Llama 3.1 8B Instruct, тогда как на финском модель показывает более высокие результаты. Возможны фактические ошибки и смещения; навыки на других языках и в узкоспециализированных областях ограничены, а работа с длинным контекстом требует больше памяти и может быть медленнее. Лицензия в метаданных указана как llama3.3.

SAIFIINDUSTRIES/Qwen2.5-7B-Instruct-1M — чат-модель для генерации текста на основе Qwen2.5-7B, представленная как вариант семейства Qwen2.5-1M с длинным контекстом. В метаданных указаны архитектура Qwen2, 7,1 млрд параметров, формат safetensors и дообучение базовой модели Qwen/Qwen2.5-7B; README описывает причинную языковую модель с RoPE, SwiGLU, RMSNorm и контекстом до 1 010 000 токенов, включая генерацию до 8192 токенов. Модель предназначена для диалогов и задач генерации текста с длинными входными материалами: например, анализа объёмных документов и работы с большими контекстами. README рекомендует специальную сборку vLLM со sparse attention и методами экстраполяции контекста для эффективной работы на максимальной длине. Для обработки последовательностей в миллион токенов указано требование не менее 120 ГБ видеопамяти суммарно; при использовании прежних средств вывода возможно снижение точности на длинах свыше 262 144 токенов. Модель использует лицензию Apache-2.0. Метаданные указывают английский язык; README не приводит отдельного перечня поддерживаемых языков.

ThinkingCap-Qwen3.6-27B-GGUF — набор GGUF-квантизаций мультимодальной vision-language модели ThinkingCap-Qwen3.6-27B, разработанной BottleCap AI на основе Qwen3.6-27B от Qwen Team. Модель предназначена для локального запуска через llama.cpp и совместимые среды, включая Ollama и LM Studio, и поддерживает работу с текстом и изображениями. Дообучение направлено на сокращение рассуждений примерно на 50% в среднем при сохранении качества и стиля ответов базовой модели. Доступны варианты f16, Q8_0, Q6_K и Q4_K_M размером примерно от 15,7 до 50,9 ГБ; Q4_K_M рекомендуется как баланс размера и качества, а Q8_0 и Q6_K — как варианты, близкие к исходной точности. Для обработки изображений требуется отдельный мультимодальный проектор mmproj размером около 0,9 ГБ. Поддерживается MTP self-speculative decoding, способный дополнительно повысить скорость генерации при использовании современной версии llama.cpp. По приведённым оценкам, точность квантованных вариантов статистически сопоставима с f16 и базовой моделью: около 0,89–0,91 на MMLU-Pro и 0,78–0,82 на RealWorldQA. Сильными сторонами являются существенно более короткие рассуждения, ускорение выполнения задач, локальный запуск и почти без потерь качества при квантовании. Ограничения включают значительные требования к дисковому пространству и памяти, необходимость совместимого runtime, а для изображений — отдельного vision-проектора. Лицензия в README не указана; доступ к модели может предоставляться по запросу.

IndexTeam разработала Index-1.9B-32K — плотную авторегрессионную языковую модель примерно на 2 млрд параметров с контекстом до 32 768 токенов. Модель прошла продолжительное предобучение и дообучение с учителем на длинных текстах и инструкциях для работы с контекстами свыше 32 тысяч токенов. Модель предназначена для генерации текста и диалогового взаимодействия, особенно для перевода и суммаризации длинных документов. В README также приведены результаты теста NeedleBench на извлечение сведений из длинного контекста. Указанные результаты отражают оценки разработчиков и не гарантируют качество на других данных. Репозиторий содержит веса PyTorch; лицензия обозначена как other, поэтому условия использования следует проверить в карточке модели. Модель может выдавать неточные, предвзятые или нежелательные ответы; разработчики рекомендуют проверять результаты и проводить оценку безопасности перед внедрением.

Карточка модели Laevo/LFM2.5-Encoder-230M на Hugging Face совпадает с карточкой LiquidAI/LFM2.5-Encoder-230M, поэтому описание составлено по ней. LFM2.5-Encoder-230M — разработанный Liquid AI компактный многоязычный двунаправленный энкодер на архитектуре LFM2 с 221,2 млн параметров. Это masked language model с головой заполнения масок, предназначенная прежде всего для дообучения под прикладные задачи обработки текста. Гибридная архитектура чередует блоки коротких gated-свёрток и grouped-query attention; модель доступна в формате safetensors и работает через Transformers с удалённым кодом модели. Энкодер подходит как основа для классификации текста и токенов, извлечения сущностей, поиска и ранжирования, оценки семантического сходства, определения тональности и естественно-языкового вывода. Заявлена поддержка 15 языков, включая русский. README указывает контекст до 8 192 токенов и возможность эффективного запуска на устройстве и в браузере через WebGPU; значение длины контекста в метаданных каталога составляет 128 000 токенов, поэтому фактический рабочий предел следует сверять с используемой конфигурацией модели. Модель ориентирована на низкие требования к памяти и задержке; авторы сообщают о хорошей производительности на длинных последовательностях и приводят сравнения с другими энкодерами. Для перечисленных прикладных задач обычно требуется дообучение: исходная модель не является готовым специализированным классификатором или поисковым ранжировщиком. Лицензия указана как other, поэтому перед использованием следует проверить условия на странице модели.

CYFRAGOVPL разработала PLLuM — семейство больших языковых моделей для польского и других славянских и балтийских языков с дополнительными англоязычными данными. Эта версия основана на Llama 3.1 и содержит 69,5 млрд параметров; она предназначена для диалогового использования и генерации текста. Модель работает с текстом и поддерживает контекст до 131 072 токенов. Модель подходит для генерации и суммаризации текста, ответов на вопросы и создания специализированных помощников. В README отмечены результаты на задачах, связанных с польским государственным управлением, и пригодность для сценариев с поиском по документам. Обучение семейства включает продолжение предобучения, настройку на инструкциях и обучение на предпочтениях; для этой версии в метаданных указана лицензия Llama 3.1. Учитывайте, что модель может галлюцинировать и воспроизводить смещения; длинный контекст также требует достаточных вычислительных ресурсов.

LongAlign-7B-64k — языковая модель семейства Llama, выпущенная командой LongAlign для следования инструкциям в длинном контексте. В README проект описывает набор LongAlign-10k из 10 000 инструкций длиной 8–64 тыс. токенов, а также обучение с упаковкой примеров и сортировкой по длине батча. Модель содержит 6,6 млрд параметров и рассчитана на контекст до 65 536 токенов. Модель предназначена для генерации ответов на запросы, включающие длинные документы или контекст. Карточка связывает LongAlign-7B-64k-base с Llama-2-7B, расширенной до контекста 64 тыс. токенов; данный репозиторий относится к серии LongAlign, обученной для выравнивания на длинном контексте. Поддерживаемые языки по метаданным — английский и китайский. Модель распространяется по лицензии Apache-2.0. Среди подходящих сценариев — ответы на вопросы по длинным текстам, следование инструкциям с большим контекстом и суммирование объёмных материалов. README описывает LongBench-Chat для оценки следования инструкциям при запросах длиной 10–100 тыс. токенов, но это не означает, что модель принимает контекст свыше заявленных 65 536 токенов. Приведённый фрагмент карточки не сообщает отдельные ограничения качества или подробности использования именно этой версии.

Nemotron-3-Nano-Omni-30B-A3B-JANGTQ-CRACK — мультимодальная модель dealignai на базе NVIDIA Nemotron-3-Nano-Omni-30B-A3B-Reasoning. Это вариант с дообучением CRACK v2 и смешанной низкоразрядной схемой JANGTQ: 8-битными весами внимания и 2-битными маршрутизируемыми экспертами. В архитектуре сочетаются Mamba-2, внимание и MoE; базовая модель содержит 30B параметров с 3B активных, а в метаданных этой модели указано 1,9B параметров. Для запуска заявлена библиотека MLX; README рекомендует vMLX или jang-tools. Модель предназначена для диалогов, рассуждений и мультимодальной работы с текстом, изображениями и аудио, включая речь. В карточке заявлена поддержка видео при использовании отдельного мультимодального дополнения. Контекст составляет 262 144 токена. README приводит результаты 81,5% на MMLU-200 и 91,6% на HarmBench-320, а также сообщает об удалении обучения отказам: модель может выдавать вредные ответы и требует собственного защитного слоя перед применением. Лицензия указана как other; конкретные условия следует проверять в репозитории.

Mercor дообучила Qwen3.6-35B-A3B методом постобучения с подкреплением на готовых наборах данных APEX-Agents. Это мультимодальная модель семейства Qwen3.5 MoE для диалогов и анализа изображений; заявленная карточка Hugging Face задача — image-text-to-text. Модель доступна в формате Safetensors и рассчитана на применение через Transformers. Постобучение ориентировано на агентные сценарии и задачи, связанные с профессиональной работой со знаниями. Базовая модель описана как модель с 35 млрд параметров для диалогов, агентного программирования и анализа изображений; данных о длине контекста и поддерживаемых языках в предоставленных источниках нет. Модель распространяется по лицензии Apache-2.0.

lesa80/Qwen3.8-27B-MLX-bf16 — версия Qwen3.8-27B в формате MLX с весами bfloat16, подготовленная для запуска на системах Apple с MLX. Это плотная мультимодальная модель с архитектурой Qwen3.5 и 27 млрд параметров, основанная на Qwen/Qwen3.8-27B. Модель принимает текст и изображения, поддерживает анализ видео, диалоговый режим и интерфейс вызова инструментов; заявленная длина контекста — 262 тыс. токенов. Поддерживаются русский, английский и китайский языки. Модель предназначена для ответов на вопросы по изображениям и видео, многошаговых рассуждений и диалоговых задач. Версия в bfloat16 занимает около 51 ГБ и требует не менее 64 ГБ оперативной памяти. Репозиторий распространяется по лицензии Apache-2.0.

Это мультимодальная диалоговая модель семейства Qwen3.5 с плотной архитектурой Qwen3_5ForConditionalGeneration и 27 млрд параметров, представленная Solstice-AI. Репозиторий содержит версию NVFP4 для оборудования NVIDIA Blackwell и упакованную конфигурацию с контекстом до 1 048 576 токенов на основе YaRN; заявлена автоматическая настройка контекста при запуске в vLLM и SGLang. Модель предназначена для диалога, следования инструкциям, творческого письма и анализа изображений. Поддерживает текстовый и визуальный ввод и выдаёт текст; в метаданных также указаны интерфейс вызова инструментов и английский и китайский языки. Это производная от дообученной модели DavidAU версия, упакованная Solstice-AI; лицензия — Apache-2.0. Заявление README о NVFP4 для Blackwell соседствует с метаданными о форматах GGUF BF16 и safetensors, поэтому точный формат конкретных файлов следует проверять в репозитории. Длина контекста 1 млн токенов заявлена в конфигурации, но практические требования к памяти и производительность зависят от оборудования и движка инференса.

Vontra/Qwen3.8-Flash-Next-MLX-4bit — общественная MLX-конверсия модели Qwen3.8-Flash-Next, разработанной Qwen, для запуска на устройствах с Apple Silicon. Конверсия выполнена Vontra непосредственно из официального BF16-чекпойнта и предназначена для задач генерации текста и обработки изображений в сценариях vision-language. Модель использует архитектуру qwen4_exp с разреженной смесью экспертов, объединяющую Gated DeltaNet, Qwen Sparse Attention, разреженные MoE-слои, расширенные gated residual-потоки и хешированные bigram/trigram-эмбеддинги. Языковая часть содержит 125 млрд параметров, из которых активно используется около 6 млрд, а таблицы n-gram-эмбеддингов включают 51 млрд параметров. Архитектура имеет 48 слоёв, 512 маршрутизируемых экспертов с активацией 10 экспертов и одного общего, 24 attention heads и 2 KV heads. Заявленный контекст — до 262 144 токенов; сохранены исходные токенизатор, chat template, vision processor и настройки генерации. Весы представлены в формате MLX safetensors и подвергнуты 4-битному аффинному квантованию с group size 32, что делает модель пригодной для локального запуска через совместимые версии MLX-VLM или oMLX. На Apple M3 Studio сообщается около 24,1–26,1 токена в секунду при прогретой генерации через oMLX и 31 токен в секунду в коротком standalone-тесте. К ограничениям относятся возможное снижение качества из-за квантования, высокая потребность в памяти, отсутствие опциональной MTP-head и необходимость runtime с поддержкой qwen4_exp; подключение Qwen3.8 27B MTP drafter несовместимо. Модель распространяется по Qwen Community License 1.0. Это неофициальный релиз Qwen: дизайн, обучение и исходная документация принадлежат Qwen и первоначальным авторам, а MLX-конверсия, проверка на Apple Silicon и упаковка выполнены Vontra.

AAIKR 3.1 mini — компактная мультимодальная модель семейства Gemma 4, дообученная AI-исследовательской командой LOOP на базе google/gemma-4-e2b-it. Карточка указывает размер 2 млрд параметров и усиленную поддержку рассуждений на корейском языке; метаданные отмечают архитектуру Gemma4ForConditionalGeneration, чат и работу с изображениями. Модель предназначена для быстрых ответов на вопросы, рассуждений, генерации кода, поиска общих знаний и краткого пересказа документов, в том числе на устройствах с ограниченными ресурсами. К заявленным сценариям относятся системы вопросов и ответов в реальном времени, лёгкий помощник по коду, быстрое резюмирование документов и развёртывание на периферийных устройствах. Карточка предупреждает о возможных небольших смещениях в рассуждениях и сбоях памяти в очень длинных диалогах; для важных решений ответы следует проверять. Модель выпущена под лицензией Apache-2.0.

JANGQ-AI представила Bonsai-27b-1bit-JANG — мультимодальную модель на архитектуре Qwen3.5 для диалога с текстом и изображениями. Это плотная модель условной генерации с 27 млрд параметров, полученная дообучением prism-ml/Bonsai-27B-unpacked и преобразованием весов в профиль JANG affine с преимущественно 1-битным хранением текстовых матриц. Поддерживаются чат-шаблон с режимом thinking и интерфейсом вызова инструментов, а также обработка изображений и видео. Модель предназначена для ответов на вопросы по изображениям, диалоговых сценариев и использования инструментов. Текстовые матрицы хранятся в 1-битном формате с группами размера 128; часть визуальных линейных слоёв использует 4-битное хранение, а несовместимые тензоры и некоторые параметры остаются в float16. Для запуска требуется сборка vMLX с поддержкой дискретного JANG-affine и смешанной точности для зрения; стандартный mlx_lm эту схему не поддерживает. В README указана проверка на Apple M5 Max с 128 ГБ объединённой памяти. Лицензия — Apache-2.0.

Gradient разработала инструктивную версию Llama 3 8B, расширив её контекстное окно с 8 тысяч до 262 144 токенов. Это плотная авторегрессионная языковая модель примерно на 7,5 млрд параметров, рассчитанная на диалог и генерацию текста с обработкой длинных входных материалов. Модель подходит для ответов на вопросы по объёмным документам, анализа длинных текстов и построения диалоговых помощников. В карточке указана поддержка английского языка; специальных отраслевых сценариев не заявлено. Расширенный контекст позволяет передавать модели существенно больше текста за один запрос, однако сам по себе не гарантирует точности извлечения фактов или качества ответов. Модель опубликована в формате Safetensors и использует лицензию Llama 3. Для развёртывания следует учитывать условия этой лицензии и оценивать остаточные риски безопасности для конкретного применения.

llm-jp-3-7.2b-instruct — языковая модель, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это плотная Transformer-модель семейства Llama с 7,2 млрд параметров, доступная в формате Hugging Face Transformers и обученная продолжать диалог и выполнять инструкции. Модель принимает текст и генерирует текст; контекст составляет 4096 токенов. Модель подходит для ответов на вопросы, написания и извлечения текста, рассуждений и диалога на японском и английском языках. Она предварительно обучена на смеси данных объёмом 2,1 трлн токенов и дополнительно настроена на наборах инструкций, включая японские инструкции и примеры, ориентированные на безопасность. В оценке Japanese MT Bench версия 7.2b-instruct получила средний балл 5,70. Авторы отмечают, что модель находится на раннем этапе разработки и не настроена для надёжного соответствия намерениям пользователя и требованиям безопасности. Лицензия — Apache-2.0; для запуска требуются Transformers и PyTorch совместимых версий.

TeichAI разработала Qwen3.8-27B-Fable-Distill как лёгкое дообучение мультимодальной модели Qwen3.8-27B на датасетах Fable 5 и личных данных Fable 5. Модель предназначена для диалогов и многошаговых задач; в каталоге для неё указана задача image-text-to-text, а метаданные отмечают поддержку анализа изображений и интерфейс вызова инструментов. Модель плотная, содержит 27 млрд параметров и использует архитектуру Qwen3_5ForConditionalGeneration. Шаблон поддерживает режим enable_thinking и уровни reasoning_effort low, medium и xhigh; по умолчанию выбран xhigh, при котором модель подробно рассуждает в каждом ответе. В README приведены результаты ARC Challenge, ARC Challenge (Easy) и BoolQ, превосходящие показатели базовой модели на этих тестах. Указана лицензия Apache-2.0. Длина контекста и ограничения по качеству в карточке не описаны.

WaveCut/Qwen3.8-27B-MXFP8-CRACK-NInfer — артефакт модели в формате .ninfer, подготовленный для движка NInfer компанией или пользователем WaveCut на основе community fine-tune dealignai/Qwen3.8-27B-MXFP8-CRACK и базовой модели Qwen/Qwen3.8-27B. Модель предназначена для локального инференса на одной CUDA-видеокарте, поддерживает текстовые и визуальные входные данные и может использоваться через CLI либо совместимый с OpenAI/Anthropic сервер NInfer для генерации и задач понимания изображений. Точные прикладные возможности fine-tune в README не раскрыты. Архитектура соответствует Qwen3.8-27B; артефакт содержит 1118 тензоров и 6 ресурсов интерфейса, включая токенизатор, chat template и конфигурации препроцессора. Используется профиль NInfer groupwise-int с групповой квантизацией, включающей Q4/Q5/Q6/W8 и BF16; исходные веса были деквантизированы в BF16 и повторно квантизированы, поэтому возможна немного меньшая точность по сравнению с нативной BF16-версией того же fine-tune. Максимальный контекст зависит от конфигурации и оборудования: в примере запуска указан 16384 токена, а вариант ninfer-3090 заявляет до 171K токенов INT8-контекста на RTX 3090. Основное преимущество — запуск 27-миллиардной мультимодальной модели на одной видеокарте с оптимизированным CUDA/C++-движком; артефакт проверен пробным запуском с согласованным выводом. Основные ограничения — зависимость от NInfer, CUDA и совместимой видеокарты, специализация upstream-движка на RTX 5090-классе и одна GPU, а также потенциальная потеря качества из-за двойной квантизации. Для RTX 3090 рекомендуется отдельная ветка ninfer-3090. В README не указаны языки модели и точные значения параметров или размер контекста официальной архитектуры. Лицензия — Apache-2.0, как у указанного артефакта и upstream-моделей.