I.1Поиск и навигация по информации

lyf/Qwen3.8-27B-Heretic-ARA-NVFP4-MTP-VL — мультимодальная версия модели Qwen3.8-27B-Heretic-ARA, подготовленная lyf и распространяемая как квантизированный релиз на базе heretic-org/Qwen3.8-27B-heretic-ara. Модель предназначена для генерации текста, рассуждений, вызова инструментов, а также анализа изображений и видео через vision/video tower. Поддерживаются английский и китайский языки. Основные веса преобразованы в формат NVFP4 W4A4 с использованием compressed-tensors, при этом vision/video tower и 15 нативных BF16-тензоров MTP сохранены. MTP поддерживает speculative decoding с рекомендуемым числом спекулятивных токенов 3. Релиз ориентирован на запуск в vLLM с CUDA 13 на GPU Blackwell, в частности RTX 5090. Для текстового режима заявлена практическая длина контекста до 192K токенов и агрессивная конфигурация до 256K; мультимодальный режим требует существенно больше видеопамяти и обычно ограничивается диапазоном 32K–96K. Сильными сторонами являются сочетание низкой разрядности, мультимодальности, длинного контекста и ускорения генерации через MTP. Ограничения включают зависимость от совместимого стека vLLM/CUDA и GPU Blackwell, высокие требования к видеопамяти, рекомендованную однопоточную конфигурацию и необходимость самостоятельно проверять лимиты изображений, видео и кэша энкодера перед эксплуатацией. Модель распространяется по лицензии Apache-2.0.

JANGQ-AI подготовила JANG_4S — квантованный 4-битный вариант Qwen/Qwen3.8-Flash-Next для запуска на компьютерах Apple Silicon через MLX и vMLX. В основе лежит экспериментальная архитектура Qwen4: разреженная MoE-модель на 125 млрд параметров с 6 млрд активных, большой хешированной n-граммной таблицей эмбеддингов, гибридными слоями Gated DeltaNet и Qwen Sparse Attention, а также башнями для обработки изображений и видео. В этой сборке сохранена голова многотокенного предсказания; таблица эмбеддингов может обслуживаться с SSD при поддержке рантайма. Модель предназначена для диалога, рассуждений, анализа изображений и видео и агентных сценариев с вызовом инструментов. Она принимает текст, изображения и видео, а контекст составляет 262 144 токена с возможностью расширения до 1 млн через YaRN. По заявлению карточки, квантование оценивали сравнением с bf16 на 5 931 отложенной позиции; качество выражено метриками KL и совпадения предсказаний. Для работы требуются значительные ресурсы: файлы занимают около 71,8 ГиБ, заявленный резидентный объём при обслуживании таблицы с SSD — около 53 ГиБ. Вызовы инструментов используют диалект Qwen XML, поэтому рантайм должен поддерживать соответствующий парсер; карточка предупреждает о несовместимости с Hermes-only парсерами. Лицензия указана как other, её конкретные условия в предоставленных данных не раскрыты.

T5Gemma 2 1B-1B — мультимодальная модель Google с открытыми весами, построенная на основе Gemma 3. Это предварительно обученная модель типа encoder-decoder: в репозитории представлены энкодер и декодер примерно по 1 млрд параметров, адаптированные с использованием UL2. Модель принимает текст и изображения и генерирует текст; заявлено окно контекста до 128 тысяч токенов и поддержка более 140 языков. Модель предназначена для генерации текста и понимания изображений, включая ответы на вопросы, суммаризацию, рассуждения и анализ документов. Её сравнительно небольшой размер позволяет запускать её на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. В архитектуре используются общие эмбеддинги слов для энкодера и декодера, а также объединённые self-attention и cross-attention декодера. Модель может ошибаться в фактах, испытывать трудности со сложными или неоднозначными запросами и отражать предвзятость обучающих данных. Лицензия — Gemma; разработчики приложений отвечают за безопасность модели и её результатов.

Zen Designer GGUF — мультимодальная модель семейства Zen от Hanzo AI и Zoo Labs Foundation, дообученная на основе Qwen/Qwen3-VL-235B-A22B-Instruct, обработанная методом abliteration и выпущенная в формате GGUF. Это MoE-модель на 235 млрд параметров, из которых активно 22 млрд; заявленная длина контекста — 256 тыс. токенов. В репозитории указаны варианты квантизации Q2_K и Q4_K_M, а метаданные также отмечают GGUF F16. Модель предназначена для диалогов и анализа изображений, видео, документов, диаграмм, таблиц и интерфейсов, включая OCR, пространственное понимание и навигацию по GUI. README сообщает о поддержке временных рассуждений по видео и визуального определения областей. Поддерживаемые языки по метаданным: английский, китайский, японский, корейский, французский, немецкий, испанский, португальский, итальянский и русский; в карточке отдельно не выделен основной язык. Abliteration удаляет заложенные в весах отказы, поэтому поведение модели может быть менее безопасным; автор рекомендует задавать правила поведения на уровне приложения. Для локального запуска предлагается llama.cpp с отдельным файлом mmproj для визуального ввода. Модель распространяется по лицензии Apache-2.0.

Agents-A1-4B-Fable-Preview-heretic-GGUF — это GGUF-квантизированная vision-language модель, разработанная hotdogs на основе Agents-A1-4B от InternScience. Модель предназначена для диалогов, понимания изображений, агентских сценариев, пошагового рассуждения, вызова инструментов и function calling, а также выполнения задач с кодом и shell-командами. Поддерживаются английский и тайский языки, формат ChatML и инференс через llama.cpp с использованием vision-проектора mmproj. Модель содержит около 4,29 млрд параметров и использует гибридную архитектуру Qwen3.5 с линейным и полным вниманием. Для обработки изображений применяется 24-слойный ViT-энкодер, контекст поддерживает до 128K токенов. Обучение включало 3 500 примеров Fable-style reasoning traces в течение трёх эпох; заявлена поддержка многошаговых агентских траекторий и блоков рассуждений <think>. Доступны варианты GGUF с разными уровнями квантизации, включая рекомендуемый IQ4_NL размером около 2,61 ГБ. К сильным сторонам относятся мультимодальность, поддержка инструментов, двуязычность, большой контекст и возможность запуска на видеокартах с ограниченной памятью. Abliteration с использованием heretic снизила заявленный уровень отказов примерно до 11%, однако модель может генерировать вредный, оскорбительный или неподходящий контент, поэтому требует осторожного применения. Лицензия — AGPL-3.0.

systalyze/gemma-4-26B-A4B-it-ExpertsINT4-FP8 — это оптимизированная для инференса смешанно-точная квантованная версия мультимодальной модели google/gemma-4-26B-A4B-it, разработанной Google DeepMind. Квантование и выпуск модели выполнены Systalyze. Архитектура Gemma4ForConditionalGeneration принимает текст и изображения и генерирует текст; модель предназначена для мультимодального чата, следования инструкциям, рассуждений и работы с инструментами. Базовая модель представляет собой MoE-архитектуру с 30 слоями и 128 экспертами. Веса MoE-экспертов квантованы в INT4 методом GPTQ с размером группы 64, а остальные линейные слои Transformer используют динамическое FP8-квантование с активациями FP8 на уровне токенов. Router, эмбеддинги, lm_head и vision tower сохраняются без квантования. Чекпойнт занимает около 16 ГБ против 49 ГБ у BF16-версии, то есть примерно в 3,1 раза меньше, и загружается напрямую в vLLM через формат compressed-tensors. Сильная сторона модели — существенное снижение требований к памяти и высокая производительность при низкой и средней конкурентности: в приведённых тестах прирост относительно FP8 достигал 54,4% при concurrency 8. При высокой конкурентности 16–32 запросов обычная FP8-версия производительнее, поэтому выбор зависит от профиля нагрузки. Качество в целом близко к базовой модели, однако на отдельных задачах, включая GPQA Diamond, MMLU-Pro, HumanEval и DROP, наблюдается снижение результатов. Веса модели распространяются по лицензии Apache-2.0.

GPT-4.1 Mini — среднемасштабная модель OpenAI, рассчитанная на задачи с изображениями и текстом. Она сочетает производительность, сопоставимую с GPT-4o, с меньшей задержкой и стоимостью. В карточке также заявлено контекстное окно в 1 миллион токенов. Модель подходит для обработки текстовых запросов и изображений в сценариях, где важны скорость и стоимость. Доступный фрагмент карточки не раскрывает поддерживаемые языки, конкретные возможности работы с изображениями, ограничения или лицензионные условия.

Granite-3.0-1B-A400M-Base — базовая языковая модель IBM Granite Team для генерации текста и решения задач преобразования текста. Это декодерный трансформер с разреженной архитектурой Mixture of Experts (MoE), обученный с нуля в два этапа на разнообразных данных; в метаданных указано 163,6 млн параметров, контекст — 4096 токенов. Модель поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель предназначена для суммаризации, классификации и извлечения информации из текста, ответов на вопросы и генерации продолжений. Она также может служить базой для дообучения под специализированные сценарии. Выпущена под лицензией Apache 2.0. Это базовая модель без safety alignment: возможны предвзятые или недостоверные ответы, а небольшие модели могут воспроизводить фрагменты обучающих данных.

Granite-3.0-2B-Base — базовая языковая модель IBM Granite Team для генерации текста и других задач преобразования текста. Это плотный decoder-only Transformer на 2,5 млрд параметров, обученный с нуля в два этапа на разнообразных данных; архитектура включает GQA, RoPE, SwiGLU, RMSNorm и общие входные и выходные эмбеддинги. Модель принимает текст и выдаёт текст, поддерживает контекст до 4096 токенов и предназначена в том числе для суммаризации, классификации, извлечения информации и ответов на вопросы, а также как основа для специализированного дообучения. В карточке заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Обучающие данные охватывают веб, код, академические материалы, книги и математику. Модель выпущена под лицензией Apache 2.0. Она не проходила выравнивание по безопасности, поэтому может генерировать нежелательные или недостоверные ответы; для меньших моделей также отмечен риск дословного воспроизведения обучающих данных.

GSAI-ML разработала LLaDA-MoE-v2-30B-A3B-Instruct как инструкционно дообученную модель семейства LLaDA MoE v2 — языковых моделей на основе диффузии с архитектурой mixture-of-experts. Модель использует ту же открытую реализацию архитектуры, что и LLaDA-MoE-v2-Base, но имеет отдельные веса, настроенные для следования инструкциям. Репозиторий содержит веса Safetensors и рассчитан на работу с библиотекой Transformers. Модель предназначена для диалогов и генерации текста по инструкциям; метаданные также указывают поддержку извлечения признаков и интерфейса вызова инструментов. Контекст составляет 32 768 токенов. Указанный общий размер — 4,8 млрд параметров. Веса распространяются по лицензии Apache-2.0. Карточка не сообщает о целевых языках или специализированных предметных областях, поэтому модель следует рассматривать как универсальную. Качество и ограничения в README не охарактеризованы; сведения о её возможностях опираются на указанные задачи и интерфейсы.

alpindale/Llama-3.2-3B — текстовая модель семейства Llama 3.2, разработанного Meta. Это авторегрессионная плотная трансформерная модель с 3,2 млрд параметров и архитектурой LlamaForCausalLM; репозиторий содержит веса Safetensors для Transformers. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и рассчитана на многоязычную генерацию. Модель подходит для диалогового помощника, суммаризации, поиска знаний и приложений с агентными сценариями, а также для мобильных помощников по написанию текста и переформулирования запросов. В README описаны применение и возможности семейства Llama 3.2; отдельное дообучение alpindale/Llama-3.2-3B не подтверждено, поэтому характеристики поведения конкретного чекпойнта могут отличаться от описания семейства. Заявленные языки поддержки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Лицензия llama3.2 — пользовательская лицензия сообщества Meta с собственными условиями коммерческого использования и политикой допустимого использования. Модель обучена на статическом офлайн-наборе данных; как компактная модель, она может уступать более крупным системам по качеству и требует проверки безопасности и пригодности для конкретного применения.

Qwen2.5-VL-32B-Instruct-AWQ — мультимодальная instruction-tuned модель семейства Qwen, разработанная командой Qwen. Это квантизированная AWQ-версия модели Qwen2.5-VL-32B-Instruct с 32 млрд параметров, предназначенная для обработки изображений, видео и текстовых запросов. Указанный язык — английский; точный размер контекста в README не приведён. Модель распознаёт и анализирует объекты, текст, диаграммы, графики, значки и структуру документов на изображениях, поддерживает визуальную локализацию с помощью bounding boxes и точек, а также формирование структурированных данных из счетов, форм, таблиц и сканов. Она рассчитана на визуальные вопросы и ответы, математические и логические задачи, анализ документов, понимание видео длительностью более часа с поиском релевантных моментов, а также сценарии визуального агента, включая управление компьютером и телефоном. Архитектура включает языковую модель Qwen2.5 и оптимизированный vision encoder на базе ViT с window attention, SwiGLU и RMSNorm. Для видео используются динамические разрешение и частота кадров, а также временное позиционирование mRoPE. AWQ-квантизация может снизить требования к памяти и ускорить инференс, однако по приведённым оценкам уступает полной версии по MMMU, MMBench и MathVista, сохраняя сопоставимый результат на DocVQA. Модель распространяется по лицензии Apache-2.0.

DazzlingShadow публикует вариант Qwen3.5-122B-A10B с изменённым профилем отказов (abliteration). В приведённом сравнении частота отказов снизилась с 88 до 16 из 100 запросов при KL-дивергенции 0,0233 относительно исходной модели. Это мультимодальная модель для диалога, генерации текста и понимания изображений; карточка описывает её как причинную языковую модель с визуальным энкодером и разреженной архитектурой Mixture-of-Experts с Gated Delta Networks. Всего 122 млрд параметров, активируется 10 млрд; контекстное окно — 262 144 токена с возможностью расширения до 1 010 000. Исходная модель заявляет поддержку 201 языка и диалекта, однако карточка не уточняет, какие языки сохраняются в этом производном варианте. Модель доступна в формате Safetensors и предназначена для Transformers и совместимых серверов инференса. Лицензия — Apache-2.0. Снижение отказов не гарантирует их полного отсутствия; производительность и совместимость зависят от используемого фреймворка и ресурсов.

Capicua25x/Qwen3.8-27B-MXFP4-Quark-RDNA4 — квантованная версия мультимодальной модели Qwen3.8-27B, подготовленная Capicua25x на базе модели Qwen/Qwen3.8-27B. Модель предназначена для задач image-text-to-text, включая обработку изображений и текста, диалоговые сценарии, рассуждения и агентские приложения с вызовами инструментов. Для работы ориентирована на видеокарты AMD архитектуры RDNA4, в частности Radeon AI PRO R9700 и RX 9070 XT, с использованием ROCm, AMD Quark и специализированной сборки vLLM. Квантование MXFP4 применяется к проекциям MLP и экспертным проекциям: упаковано около 22,7 млрд параметров, тогда как attention, нормализации, эмбеддинги, lm_head, маршрутизаторы и весь визуальный тракт сохраняются в формате bf16. Общий объём логических параметров составляет примерно 27,8 млрд, архитектура базовой модели не изменена. Заявлена поддержка контекста до 262 144 токенов, speculative decoding и параллельной обработки запросов. Режим рассуждений включается через параметр chat_template_kwargs с enable_thinking; параметр reasoning_effort для этой конфигурации не используется. Сильные стороны модели — существенное снижение требований к памяти по сравнению с полноразмерной моделью, сохранение точности критически важных компонентов в bf16, поддержка мультимодальности и оптимизация для concurrent serving на RDNA4. Ограничения связаны с узкой аппаратно-программной специализацией: для штатного запуска требуются совместимые AMD GPU, ROCm и рекомендованный порт vLLM; приведённые показатели производительности зависят от конфигурации, числа пользователей и режима декодирования. Языки и точные характеристики базовой модели в карточке не указаны. Модель распространяется по лицензии Apache-2.0.

NovaeonStudio/Qwen3.8-Flash-Next-Uncensored-oQ3e-fp16-mtp — сборка Novaeon.Studio на базе orcarouter/Qwen3.8-Flash-Next-Uncensored. Это неконтентно-ограниченная мультимодальная MoE-модель с поддержкой изображений, подготовленная для запуска через oMLX на компьютерах Apple Silicon с большим объёмом оперативной памяти, прежде всего на системах с 128 ГБ и более. Модель предназначена для генерации текста, объяснений, рассуждений, анализа изображений, работы с длинными контекстами и интеграции с инструментами. Архитектура обозначена как qwen4_exp: 48 слоёв, скрытое представление размерностью 2560, 512 экспертов, из которых активно 10, сочетание линейного внимания GatedDeltaNet и полного внимания, а также PLE/n-граммный стек эмбеддингов и 27-слойная vision-башня с размерностью 1152. Поддерживаются английский язык и контекст до 262 144 токенов. Сохранён нативный MTP-модуль для спекулятивного декодирования; в измерениях на Apple M5 Max он повысил скорость генерации примерно на 67%. Квантование oQ3e использует преимущественно 3-битное представление с выборочными участками повышенной точности и fp16 для критически важных компонентов. Размер модели составляет около 85,2 ГБ на диске и 79,5 ГБ в памяти oMLX. Сильные стороны модели — связная генерация, рассуждения, анализ изображений, извлечение данных из контекста длиной до 80 тысяч токенов и отсутствие отказов на проверенных запросах. Ограничение — слабая надёжность параллельных и многошаговых вызовов инструментов, поэтому модель не является оптимальным выбором для сложных агентных сценариев. Сборка носит экспериментальный характер и требует версии oMLX с поддержкой исправленного загрузчика qwen4_exp, начиная с 0.7.0.dev2. Распространяется по лицензии Apache-2.0.

Chandra — модель оптического распознавания символов от Datalab, построенная на архитектуре Qwen3-VL. Она извлекает текст из изображений и PDF и преобразует документы в Markdown, HTML или JSON, сохраняя сведения о структуре и расположении элементов. Модель предназначена для распознавания печатного и рукописного текста, таблиц, форм с флажками, математических выражений, сложной вёрстки, изображений и диаграмм. В карточке заявлена поддержка более 40 языков. В бенчмарке olmOCR, приведённом разработчиками, Chandra v0.1.0 показала общий результат 83,1 ± 0,9; это собственное сравнение разработчиков. Модель распространяется под лицензией OpenRAIL.

Dolphin-v2-f32-GGUF — это мультимодальная vision-language модель для интеллектуального разбора документов. Базовая модель Dolphin-v2 разработана ByteDance, а данный репозиторий prithivMLmods содержит её варианты в формате GGUF с разными уровнями квантования. Модель основана на Qwen2.5-VL-3B, насчитывает около 3 млрд параметров и использует vision encoder Native Resolution Vision Transformer (NaViT) вместе с авторегрессионным декодером. Модель предназначена для OCR и структурированного понимания цифровых документов, PDF-файлов, отсканированных и сфотографированных страниц. Она распознаёт заголовки, абзацы, формулы с выводом в LaTeX, таблицы в HTML, код, списки, изображения и другие элементы, возвращая их с абсолютными координатами на странице. Двухэтапная архитектура сначала различает цифровые и фотографированные документы, а затем применяет параллельный поэлементный или целостный разбор. Поддерживаются английский и китайский языки; заявлены сценарии локального использования в медицине, юриспруденции и финансах. К сильным сторонам относятся высокая точность анализа структуры и порядка чтения, распознавания формул и таблиц, устойчивость к искажениям, наклонам и перспективе, а также возможность локального запуска. Для вариантов модели указаны размеры от примерно 791 МБ до 12,3 ГБ; производительность исходной модели заявлена на уровне 0,1729 кадра в секунду на GPU с 8–12 ГБ VRAM, при этом она может превосходить универсальные VLM по скорости и точности. Конкретные характеристики зависят от выбранного GGUF-варианта: более сильное квантование уменьшает требования к памяти, но может снижать качество. Размер контекста и подробные требования к программному обеспечению не указаны. Лицензия — Apache 2.0.

ERNIE-4.5-300B-A47B-PT-GGUF — текстовая MoE-модель, разработанная Baidu в рамках семейства ERNIE 4.5. Она предназначена для понимания и генерации текста, включая диалоговые сценарии, создание контента и другие задачи общего назначения. Модель основана на предварительно обученной версии ERNIE-4.5-300B-A47B-PT и представлена в формате GGUF. Модель содержит 300 млрд параметров, из которых для каждого токена активируется 47 млрд. Архитектура включает 54 слоя, 64 attention heads для запросов и 8 для ключей и значений, а также MoE-компоненты с 64 экспертами, из которых активируются 8. Максимальная длина контекста составляет 131 072 токена. В README указана поддержка английского и китайского языков. Хотя семейство ERNIE 4.5 обучалось с учётом текстовой и визуальной модальностей, данная версия обозначена как текстовая и не предназначена для обработки изображений. Сильными сторонами модели являются большой контекст, высокая общая ёмкость параметров и вычислительная эффективность MoE за счёт активации только части параметров для каждого токена. Основные ограничения — значительные требования к вычислительным ресурсам и отсутствие заявленной мультимодальности в этой текстовой версии; конкретные характеристики квантования GGUF в README не приведены. Модель распространяется по лицензии Apache 2.0.

Falcon OCR — модель TII для распознавания текста и разбора документов по изображению. Это компактная модель на 270 млн параметров с ранним слиянием визуальных и текстовых токенов: единый Transformer обрабатывает патчи изображения и текст в общем пространстве параметров, используя двунаправленное внимание для изображения и причинное декодирование текста с учётом изображения. Модель извлекает обычный текст, формулы в LaTeX и таблицы в HTML; промпты позволяют выбирать категории элементов страницы. Она рассчитана на сканы, фотографии документов, чеки, рукописные заметки, формы, журналы и другие материалы. Для большинства страниц рекомендуется сквозной OCR; для очень плотных многоколоночных страниц доступен двухэтапный сценарий с детектором макета PP-DocLayoutV3. Версия 1.5 дообучена с GRPO для улучшения работы с реальными документами, сложными таблицами, рукописным текстом и деградированными сканами, а также для снижения галлюцинаций и повторов. Компактный размер помогает снизить задержку и стоимость обслуживания; в описанной авторами конфигурации vLLM пропускная способность может быть в 2–3 раза выше, чем у OCR VLM размером около 0,9 млрд параметров, в зависимости от длины последовательностей и пакетирования. Для запуска требуются PyTorch 2.5 или новее и Transformers. Лицензия — Apache-2.0.

NVIDIA Llama 3.1 405B Instruct FP8 — версия Meta Llama 3.1 405B Instruct, квантизованная NVIDIA до FP8 с помощью TensorRT Model Optimizer. Это плотная авторегрессионная Transformer-модель семейства Llama с примерно 403,7 млрд параметров; она принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Окно контекста составляет до 131 072 токенов. Модель предназначена для диалоговых систем и генерации ответов по инструкциям, а также для инференса через TensorRT-LLM или vLLM. По данным README, FP8-квантизация весов и активаций линейных операторов в блоках трансформера уменьшает требования к диску и видеопамяти примерно вдвое; на H200 заявлено ускорение примерно в 1,7 раза. README указывает совместимость с NVIDIA Blackwell, Hopper и Lovelace. Модель построена на базе Meta-Llama-3.1-405B-Instruct и не является разработкой NVIDIA: README уточняет, что NVIDIA подготовила её под требования конкретного сценария. Лицензия — Llama 3.1; карточка заявляет готовность к коммерческому и некоммерческому использованию в рамках её условий.

Rubra AI выпустила эту инструктивную версию Meta-Llama-3-70B, дополнительно обученную на собственном наборе данных для диалогов, выполнения инструкций и вызова функций. Модель предназначена для многошаговых бесед, в которых ассистент может вызывать инструменты и продолжать диалог с учётом полученных результатов. Это плотная авторегрессионная языковая модель архитектуры Llama с 69,5 млрд параметров. Она принимает текст и генерирует текст; карточка указывает поддержку английского языка и контекст до 8192 токенов. Модель доступна в формате safetensors для Transformers. Модель подходит для диалоговых ассистентов и сценариев с интеграцией инструментов. Она может выдавать ошибочные или предвзятые ответы, поэтому результаты требуют проверки, особенно в чувствительных и критически важных областях. Указана лицензия Llama 3 (llama3).

PathummaLLM-text-1.0.0-7B — мультиязычная текстовая большая языковая модель, разработанная командой NECTEC и дообученная на базе nectec/OpenThaiLLM-Prebuilt-7B. Модель рассчитана на выполнение инструкций и поддерживает тайский, китайский и английский языки. Модель предназначена для генерации текста, диалоговых ассистентов, задач Retrieval-Augmented Generation (RAG), управляемой генерации и рассуждений. В README также указана применимость к сценариям в химии, биологии, финансах, праве, программировании и медицине. Архитектурные детали, кроме принадлежности к семейству Qwen2 и поддержки загрузки через Transformers, не раскрыты; заявлен размер около 7 миллиардов параметров. Для GGUF-применения приведён контекст 8192 токена, однако это значение может относиться к конкретному примеру запуска. Среди сильных сторон заявлены конкурентоспособные результаты по сравнению с Openthaigpt1.5-7b-instruct и оптимизация для прикладных сценариев. Ограничения включают отсутствие подробных сведений о составе и методике подготовки датасета, точных характеристиках архитектуры и гарантированной эффективности в отдельных прикладных областях. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B Abliterated MLX MXFP4-MTP — vision-language модель на основе Qwen/Qwen3.8-27B, упакованная Shiftedx для экосистемы MLX. Это квантованная версия полной 27-миллиардной архитектуры: языковая часть использует MXFP4 с размером группы 32, а неизменённая vision tower — веса BF16. Пакет также содержит 15 BF16-тензоров native MTP для ускорения спекулятивной генерации; рекомендованная глубина MTP — 3. Для работы требуется MTPLX версии 2.0.2 или новее. Модель предназначена для генерации и анализа текста, обработки изображений, задач с длинным контекстом, tool calling и сценариев, где важна высокая скорость вывода на совместимом Apple Silicon-оборудовании. В опубликованном тестировании эффективный проверенный контекст составлял до 131 072 токенов; языки README не уточняет. На Apple M4 Max с 64 ГиБ unified memory модель показала 100% в тестах tool calling, 86,7% в тестах длинного контекста и 75% в vision-тестах, однако результаты зависят от версии весов, runtime, настроек и оборудования. Изменение refusal-направления снизило измеренные отказы в специально подготовленном наборе с 12/12 до 0/12, но авторы подчёркивают, что это не доказывает универсальную «нецензурированность». Модель может чаще выдавать вредные или ошибочные ответы; результаты бенчмарков также показывают ограничения в общей проверке качества и agentic-сценариях. Использовать её следует с осторожностью, особенно при работе с инструментами, изображениями и генерируемым кодом. Лицензия — Apache-2.0; ограничения исходной модели сохраняются.

Qwen3.8-27B-Della-Carnice-Ostrich-Salience-Glimmer-v5 — 基于 Qwen/Qwen3.8-27B 构建的 270 亿参数稠密多模态模型，由 YFC-112358 通过 della_linear 方法融合多个模型得到。模型面向对话，可接收文本和图像并生成文本；元数据还标注了工具调用接口和视觉能力。模型权重以 safetensors 格式发布，使用 Transformers 加载。 该版本采用单阶段融合，合并了 Ostrich、Carnice、Salience 等模型及一个 Glimmer 版本；README 说明 tokenizer 和配置沿用 Qwen/Qwen3.8-27B。融合过程使用 fp32 计算并以 bf16 保存，README также описывает разреживание по блокам строк и особенности весовых коэффициентов, которые могут влиять на итоговый вклад источников. Лицензия в предоставленных данных не указана.

Jiunsong/SuperQwen3.8-27b-abliterated-NVFP4-DGX-Spark — это сжатая и оптимизированная для производительности мультимодальная модель, созданная Jiunsong на базе Qwen/Qwen3.8-27B. Она предназначена для задач image-text-to-text, рассуждений, работы с инструментами и обработки длинного контекста. Модель поддерживает английский и корейский языки, принимает текст и изображения, а также рассчитана на контекст до 262 144 токенов; в README подтверждён поиск данных в контексте длиной 262 043 токена. Модель использует квантизацию NVFP4 W4A4 с размером группы 16 для подходящих линейных весов и активаций. Vision tower, MTP, пути conv1d и lm_head защищены и сохраняются в исходной или BF16-точности; MTP-компонент используется для speculative decoding. Размер исходной модели — 27B параметров, объём квантизированного набора составляет около 19,15 GiB. В измеренном профиле применяется FP8 KV cache, а стабильная конфигурация speculative decoding использует K=5. Сильными сторонами являются высокая скорость декодирования на одном DGX Spark, сохранение мультимодальных возможностей, tool calling, длинного контекста и ограниченного режима рассуждений. Для конфигурации K=5 заявлена скорость 25,7592 токена в секунду, а проверки показали успешную работу с инструментами, изображениями и тестами на избыточное обдумывание. Ограничения включают возможное ухудшение качества на задачах, не охваченных проверками, зависимость производительности от конкретной среды DGX Spark и ограничение speculative decoding нативным окном 262 144 токена. Заявление об «abliterated» означает снижение измеренной склонности к отказам и не гарантирует универсальную безопасность или достоверность. Модель распространяется по лицензии Apache-2.0.

xGen-small-9B-instruct-r — диалоговая языковая модель Salesforce из семейства xGen-small, предназначенная для генерации ответов и ведения чата. Это плотная авторегрессионная модель с архитектурой LlamaForCausalLM; в метаданных указано 10,2 млрд параметров и контекст до 262 144 токенов. Вариант instruct дообучен для диалогового использования. Модель подходит для длинных текстовых запросов и ответов, требующих работы с обширным контекстом, а также для общих задач рассуждения и знаний. В README приведены сравнительные результаты для тестов MMLU, MMLU-Pro и Arena-Hard; это результаты оценок, а не гарантия качества в прикладных сценариях. Salesforce описывает xGen-small как компактную модель с предметно-ориентированным отбором данных, масштабируемым предварительным обучением, расширением контекста и дообучением с RL. Выпуск предназначен для исследований; README рекомендует проверять точность, безопасность и справедливость перед применением, особенно в сценариях с высоким риском. Лицензия — CC BY-NC 4.0, допускающая использование с некоммерческими ограничениями.

Agens Pilot — мультимодальная языковая модель Blockway, гонконгской компании, построенная на базе Qwen/Qwen3.8-27B и дообученная для агентных сценариев и письменного кантонского языка. Это плотная модель с архитектурой Qwen3.5, примерно 27 млрд параметров, которая принимает текст и изображения и генерирует текст. Поддерживает контекст до 1 048 576 токенов; карточка указывает китайский и английский, а разработчик отдельно отмечает приоритет кантонского, традиционного и упрощённого китайского и английского. Модель предназначена для кантонских ассистентов и чат-ботов, работы с длинными документами, анализа изображений, программирования и многошаговых агентных задач с вызовом инструментов. Разработчик сообщает об улучшении многостороннего изложения сложных исторических и геополитических вопросов на внутреннем наборе из 20 запросов; результаты имеют малый объём выборки и не являются независимой комплексной оценкой. Модель распространяется по лицензии Apache-2.0, допускающей коммерческое использование. Известные ограничения: точность фактов не гарантируется, ответы по сложным вопросам требуют проверки человеком; письменный кантонский в варианте Гонконга охвачен лучше других разновидностей юэ. Разработчик также отмечает слабую способность к визуальной математике и возможное снижение согласованности INT4-версии на неоднозначных фактических вопросах.

Buddhi-128K-Chat — диалоговая языковая модель общего назначения от AI Planet, дообученная на базе Mistral-7B-Instruct-v0.2. Она предназначена для генерации ответов, работы с длинными документами и продолжительными диалогами: в частности, для суммаризации, генерации текста и ответов на вопросы по большому контексту. Модель использует плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстным окном до 131 072 токенов. Для расширения контекста применена техника YaRN; README также описывает Dynamic-YARN. Модель принимает текст и генерирует текст, поддерживает английский язык и использует шаблон инструкций Mistral с маркерами [INST] и [/INST]. Для запуска с контекстом 128K в карточке указано требование около 80 ГБ VRAM, а для 32K — около 40 ГБ; рекомендуется A100. Модель опубликована в формате safetensors под лицензией Apache-2.0. Приведённые в README результаты бенчмарков не являются независимой оценкой, а обработка максимального контекста требует значительных ресурсов.

NVIDIA gpt-oss-120b-Eagle3-short-context — текстовая модель для генерации ответов, основанная на OpenAI gpt-oss-120b и дополненная модулем Eagle3 для спекулятивного декодирования. Базовая gpt-oss-120b использует архитектуру Mixture-of-Experts с 120 млрд общих и 5 млрд активируемых параметров; этот репозиторий содержит 739,4 млн параметров Eagle-модуля. Модель принимает текст и генерирует текст, а её контекстное окно составляет 131 072 токена. Модель предназначена для разработчиков чат-ботов, ИИ-агентов и RAG-систем, а также для диалогов и выполнения инструкций. Вариант short-context обычно предпочтителен для запросов с контекстом менее 8 тысяч токенов. Eagle3 предсказывает кандидаты следующих токенов, которые проверяет базовая модель, ускоряя генерацию при принятии нескольких токенов за шаг. Для запуска NVIDIA указывает TensorRT-LLM и GPU NVIDIA; README описывает совместимость с Blackwell. Модель оптимизирована для инференса на системах с GPU NVIDIA. Карточка заявляет готовность к коммерческому и некоммерческому использованию, но в метаданных лицензия обозначена как other, поэтому перед применением следует проверить условия лицензии репозитория. Качество и безопасность необходимо проверять на данных и сценариях конкретного приложения; опубликованные результаты приводят показатели принятия токенов Eagle на MT-Bench, а не оценку качества ответов.

K2-Horizon-MoVA-36B-A4B-GGUF — набор GGUF-квантизаций модели K2-Horizon-MoVA-36B-A4B, разработанной Institute of Foundation Models (IFM) при MBZUAI и выпущенной 3 сентября 2026 года. Модель предназначена для генерации текста, рассуждений и работы с длинным контекстом; заявлена поддержка английского языка. Формат GGUF ориентирован на запуск через llama.cpp и совместимые инструменты. Модель использует архитектуру k2_horizon и сочетает разреженную Mixture-of-Experts (MoE) с механизмом Mixture-of-Values (MoVA), применяющим разреженную маршрутизацию внутри attention. Всего предусмотрено около 36 млрд параметров, из которых примерно 4 млрд активируются для каждого токена. Архитектура включает 48 слоёв, 100 маршрутизируемых экспертов с 8 активными и одним общим экспертом на MoE-слой, а также 64 value-эксперта с 4 активными на attention-слой. Нативное контекстное окно составляет до 524 288 токенов. Доступны варианты от BF16 до низкобитных Q2 и IQ-квантизаций, что позволяет выбирать между качеством, размером файлов и требованиями к памяти. При этом активация только 4 млрд параметров на токен не означает, что модель требует память уровня 4 млрд параметров: все веса объёмом около 10–70 ГиБ должны находиться в RAM или VRAM, а память под KV-кэш и служебные расходы учитывается отдельно. Для загрузки GGUF необходима ветка model/K2Horizon форка llama.cpp от MBZUAI-IFM либо версия upstream после добавления поддержки архитектуры k2_horizon. Лицензия модели — Apache 2.0.