I.15Доступность и ассистивные технологии
В разделе собраны самостоятельные задачи, где AI помогает делать цифровую и физическую среду доступнее для людей с различными ограничениями. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
8 953 моделиunsloth/gemma-3-12b-pt — вариант Gemma 3 от Unsloth, основанный на дообучении предобученной модели Google google/gemma-3-12b-pt. Это плотная мультимодальная модель с архитектурой Gemma3ForConditionalGeneration и 12 млрд параметров. Она принимает текст и изображения и генерирует текст; семейство Gemma 3 поддерживает контекст до 128 тыс. токенов и более 140 языков. Модель подходит для ответов на вопросы по изображениям, извлечения и пересказа визуальной информации, суммаризации и генерации текста, включая диалог, черновики писем и код. Карточка Unsloth ориентирована на использование модели как основы для дальнейшего дообучения и описывает экспорт дообученных вариантов в GGUF, Ollama, llama.cpp и формат Hugging Face. Возможности и качество ответов зависят от обучающих данных и формулировки запроса: модель может ошибаться в фактах, упускать языковые нюансы и отражать предвзятости данных. Лицензия — Gemma; условия использования следует сверять с лицензией Google Gemma.
trohrbaugh/Qwen3.5-122B-A10B-heretic — мультимодальная разговорная модель на основе Qwen3.5, опубликованная пользователем trohrbaugh. Это вариант с abliteration: в README указано, что на тесте из 100 запросов отказов было 9 против 99 у исходной модели; приведённое значение KL divergence — 0,0916. Модель принимает текст и изображения и предназначена для диалога, визуального понимания, рассуждений и использования инструментов. Архитектура сочетает vision encoder, Gated Delta Networks и разреженный Mixture of Experts: всего 122 млрд параметров, из которых активны 10 млрд; 48 слоёв, 256 экспертов, из которых на токен активируются 8 маршрутизируемых и 1 общий. Контекст — 262 144 токена с расширением до 1 010 000. Репозиторий содержит веса в формате safetensors для Transformers и совместимых движков. README сообщает об исправлении раскладки MoE-весов 2 мая 2026 года и рекомендует заново получить репозиторий, если он был клонирован раньше. Модель поддерживает широкий набор языков; в README для семейства Qwen3.5 заявлена поддержка 201 языка и диалекта. Лицензия — Apache-2.0. Показатель отказов относится только к описанному в карточке тесту и не гарантирует поведение на других запросах; характеристика abliteration также не означает отсутствия всех ограничений или защитных механизмов.
gaunernst/gemma-3-27b-it-int4-awq — конвертированная в формат Hugging Face и AWQ модель Gemma 3 27B Instruction-tuned, разработанная Google DeepMind. Это QAT INT4-чекпойнт из Flax, первоначально полученный из Kaggle; в репозитории указано, что AWQ не применялся для самой квантизации. Модель предназначена для генерации текста и понимания изображений по текстовым и визуальным запросам, включая ответы на вопросы, суммаризацию, рассуждения и описание содержимого изображений. Модель имеет 27 млрд параметров, поддерживает текстовый и графический ввод и генерирует текст. Для изображений используется нормализация до 896×896 пикселей с кодированием в 256 токенов на изображение. Контекстное окно составляет 128 000 токенов, максимальный заявленный объём вывода — 8192 токена. Gemma 3 поддерживает более 140 языков и рассчитана на развёртывание на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре, хотя 27B-модель и мультимодальный режим требуют значительных вычислительных ресурсов. К сильным сторонам относятся мультимодальность, большое контекстное окно, многоязычность и снижение требований к памяти благодаря INT4-квантизации. Ограничения включают возможные потери качества по сравнению с полноразмерной моделью из-за квантизации, а также необходимость совместимого программного окружения и достаточных аппаратных ресурсов. Для использования требуется принять условия лицензии Google Gemma на Hugging Face; в карточке указана лицензия gemma.
gaunernst/gemma-3-12b-it-int4-awq — инструкцияно дообученная мультимодальная модель семейства Gemma 3, разработанная Google DeepMind. Данный репозиторий содержит QAT INT4 Flax-чекпойнт, преобразованный в формат HF+AWQ для использования с Transformers; при этом квантование AWQ непосредственно не применялось. Базовая модель — google/gemma-3-12b-it. Модель принимает текст и изображения и генерирует текст. Она предназначена для ответов на вопросы, суммаризации документов, рассуждений, генерации текста и анализа изображений, включая описание визуального содержимого. Изображения нормализуются до разрешения 896×896 и кодируются в 256 токенов. Контекстное окно составляет 128K токенов, максимальный объём генерируемого вывода — 8192 токена. Заявлена поддержка более 140 языков. Ключевые преимущества — мультимодальность, большое контекстное окно и сниженные требования к ресурсам благодаря представлению INT4, что может упростить развёртывание на локальной инфраструктуре или в облаке. Ограничения включают зависимость от совместимой версии Transformers и необходимость учитывать особенности формата конвертированного чекпойнта; README не содержит результатов бенчмарков или подробностей о качестве на отдельных языках и задачах. Использование регулируется лицензией Gemma и условиями Google; доступ к исходной модели на Hugging Face требует принятия соответствующей лицензии.
Карточка модели muhamad-geosurge/invert-polarity-056ee365-12d0-4322-af56-4ed19ac9b445 на Hugging Face совпадает с карточкой google/gemma-3-12b-it, поэтому описание составлено по ней. Gemma 3 12B IT — мультимодальная модель с открытыми весами от Google, дообученная для следования инструкциям на основе google/gemma-3-12b-pt. Она принимает текст и изображения и генерирует текст; относится к семейству Gemma 3 и доступна в формате safetensors для Transformers. Модель предназначена для диалоговых приложений, ответов на вопросы и задач понимания изображений, а также для создания и обобщения текста. Контекстное окно — до 128 тысяч токенов, поддерживается более 140 языков. Размер модели — 12 млрд параметров. Модель подходит для извлечения сведений из изображений, составления черновиков, суммаризации и исследовательских задач. Google отмечает, что ответы могут содержать фактические ошибки, отражать предвзятость обучающих данных и хуже справляться со сложными открытыми запросами, языковыми нюансами и задачами, требующими здравого смысла. Лицензия — Gemma; при использовании следует соблюдать условия лицензии и политику запрещённого использования Gemma.
pixtral-12b-FP8-dynamic — это квантизированная версия мультимодальной модели mgoin/pixtral-12b, разработанная Neural Magic. Модель принимает изображения и текстовые запросы, а генерирует текстовые ответы. Она предназначена для задач визуального анализа, включая ответы на вопросы по изображениям, работу с документами, графиками и диаграммами, а также мультимодальные математические задачи. Модель также может применяться для отдельных текстовых сценариев, включая оценивание знаний и генерацию кода. В модели использована динамическая FP8-квантизация весов и активаций. Квантизация выполнена для линейных слоёв с сохранением vision tower, мультимодального проектора и lm_head в исходном виде. Размер базовой модели — 12B параметров; входная модальность — vision-text, выходная — text. В README указан английский язык. Для эффективного инференса модель рассчитана на использование с vLLM версии 0.5.2 и новее, включая OpenAI-совместимый режим сервинга. Приведённый пример использует контекст до 4096 токенов, а в оценочных конфигурациях встречается значение до 25000 токенов. Сильная сторона модели — снижение требований к памяти и вычислительным ресурсам благодаря FP8-квантизации при сохранении близких к исходной модели результатов на визуальных тестах: указаны оценки на MMMU, VQAv2, DocVQA, ChartQA и MathVista. Ограничения включают зависимость от совместимой инфраструктуры vLLM, необходимость поддержки мультимодального инференса и отсутствие в предоставленных данных подробных сведений о полном наборе языков, точном размере контекстного окна и аппаратных требованиях. Модель распространяется по лицензии Apache-2.0.
Qwen3.8-27B-Della-Carnice-Ostrich-Salience-Glimmer-v5 — 基于 Qwen/Qwen3.8-27B 构建的 270 亿参数稠密多模态模型,由 YFC-112358 通过 della_linear 方法融合多个模型得到。模型面向对话,可接收文本和图像并生成文本;元数据还标注了工具调用接口和视觉能力。模型权重以 safetensors 格式发布,使用 Transformers 加载。 该版本采用单阶段融合,合并了 Ostrich、Carnice、Salience 等模型及一个 Glimmer 版本;README 说明 tokenizer 和配置沿用 Qwen/Qwen3.8-27B。融合过程使用 fp32 计算并以 bf16 保存,README также описывает разреживание по блокам строк и особенности весовых коэффициентов, которые могут влиять на итоговый вклад источников. Лицензия в предоставленных данных не указана.
Rax 4.5 — мультимодальная модель семейства Qwen3.5 от raxcore-dev, представленная в виде постобученных весов для Hugging Face Transformers. Это плотная причинная языковая модель с визуальным энкодером, поддерживающая ввод изображений и текста и выдающая текст. Модель насчитывает 2 млрд параметров, использует гибридную архитектуру Gated Delta Networks и gated attention, а заявленная длина контекста составляет 262 144 токена. Модель предназначена для диалогов с изображениями, визуального анализа, рассуждений, задач по коду и агентных сценариев с вызовом инструментов. README заявляет поддержку 201 языка и диалекта; модель работает в режимах с рассуждением и без него, причём режим без рассуждения включён по умолчанию. Авторы рекомендуют её для прототипирования, дообучения под конкретные задачи и разработки; для сервинга указана совместимость с Transformers, vLLM, SGLang и KTransformers. Модель распространяется по лицензии Apache-2.0. Среди практических ограничений — сравнительно небольшой масштаб в 2 млрд параметров, а также возможная нехватка памяти при использовании длинного контекста; скорость и пропускная способность зависят от среды инференса.
Ovis2.6-30B-A3B — мультимодальная большая языковая модель семейства Ovis, разработанная ATH-MaaS. Она предназначена для диалога и анализа изображений: отвечает на вопросы по документам и нескольким страницам, распознаёт текст, извлекает сведения из таблиц и диаграмм, а также рассуждает по визуальным данным. Модель использует архитектуру Mixture-of-Experts с 30 млрд параметров, из которых при генерации активны примерно 3 млрд. Карточка указывает контекст до 64 тыс. токенов и обработку изображений с разрешением до 2880×2880; метаданные каталога указывают контекст 262 144 токена. README описывает возможность активного анализа областей изображения, включая кадрирование и поворот, с помощью визуальных инструментов. Модель принимает текст и изображения и выдаёт текст. В карточке не перечислены поддерживаемые языки, поэтому языковые коды не указаны. Репозиторий содержит веса safetensors; лицензия — Apache-2.0. README предупреждает, что разработчики не гарантируют полного отсутствия проблем с авторскими правами или нежелательного содержания.
Pixtral-12B-2409 — мультимодальная модель Mistral AI для работы с изображениями и текстом. Она сочетает декодер на 12 млрд параметров и визуальный энкодер на 400 млн параметров, обучена на чередующихся данных изображений и текста и поддерживает изображения разных размеров. Модель предназначена для понимания изображений и диаграмм, ответов на вопросы по визуальному содержимому и текстовых задач, включая следование инструкциям, математику и программирование. Заявленная длина последовательности — 128 тыс. токенов. В карточке приведены результаты сравнительных тестов, в том числе по MMMU, MathVista и ChartQA. Модель выпущена под лицензией Apache 2.0. В README указано, что у неё нет механизмов модерации, поэтому при использовании следует учитывать риск немодерируемых ответов.
Baekpica/Qwen3.8-Flash-Next-Mixed-Quant-SSD-PLE-GGUF — производная квантованная версия модели Qwen3.8-Flash-Next, разработанная Baekpica на базе модели Qwen. Она распространяется в формате GGUF с mixed-quant квантованием и рассчитана на запуск с использованием SSD-PLE offload, в частности на системах DGX Spark. Модель относится к мультимодальному классу image-text-to-text и поддерживает обработку текстовых запросов и изображений, включая фотографии, снимки экрана и документы. Опубликованы варианты MQ-Q6-SSD-PLE-BF16 и MQ-Q5-SSD-PLE-BF16 с общим BF16 SSD-PLE sidecar; также доступен FP8 sidecar. Для модели заявлена проверка прямого prefill на 262 144 токенах, а связанный runtime поддерживает путь Qwen YaRN до 524 288 токенов, однако это подтверждает возможности программного стека, а не качество модели на таком контексте. В README приведены измерения производительности prefill и decode, оптимизации MTP, повторное использование кэшей и сквозная работа изображений через несколько API-совместимых интерфейсов. Сильные стороны модели — мультимодальность, варианты с разным компромиссом между качеством и потреблением памяти, поддержка SSD-PLE offload, длинного контекста и оптимизированного инференса. Ограничения включают зависимость от совместимого runtime и аппаратной конфигурации, необходимость выбора подходящего sidecar, а также отсутствие в README точных данных о числе параметров, языках, полном описании архитектуры и сравнении качества с исходной моделью. Лицензия указана как qwen-community-1.0; применяются условия лицензии Qwen, доступной по ссылке в карточке модели.
duyntnet/gemma-3-12b-it-imatrix-GGUF — набор квантованных GGUF-вариантов инструкционно дообученной мультимодальной модели Gemma 3 12B IT, разработанной Google. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений и анализа изображений с выдачей текстового ответа. Квантованные варианты ориентированы на локальный запуск с ограниченными ресурсами через llama.cpp и совместимые клиенты, включая KoboldCPP, Ollama, LM Studio и другие. Модель принимает текст и изображения: изображения нормализуются до 896×896 пикселей и кодируются в 256 токенов каждое. Заявлены поддержка более 140 языков, контекст до 128K токенов для версии 12B и максимальный объём генерируемого текста до 8192 токенов. Использование imatrix-квантизации уменьшает требования к памяти по сравнению с полноразмерными весами, но конкретные характеристики качества и расхода ресурсов зависят от выбранного файла квантизации. Сильными сторонами являются мультимодальность, большой контекст, многоязычность и возможность локального развертывания. Ограничения включают зависимость от совместимого программного обеспечения: для запуска требуется llama.cpp версии b4875 или новее; квантование также может снижать точность по сравнению с исходной моделью. В README лицензия указана как other, без дополнительных условий, поэтому перед использованием необходимо проверить лицензионные положения исходной Gemma 3 12B IT и конкретного файла модели.
Gliese-OCR-7B-Post1.0 — мультимодальная модель для анализа документов, разработанная prithivMLmods как дообучение Camel-Doc-OCR-062825 на архитектуре Qwen2.5-VL. Она содержит 7,1 млрд параметров, принимает изображения вместе с текстовыми запросами и формирует текстовые ответы; заявленная длина контекста — 128 000 токенов. Модель предназначена для распознавания и извлечения содержимого документов, поиска сведений в сложной структуре страниц, связывания элементов и анализа таблиц, графиков и диаграмм. Модель также подходит для вопросов по документам, извлечения математических выражений с форматированием LaTeX, а также подготовки результатов в Markdown. В карточке заявлена поддержка видеоанализа и визуального управления устройствами, но метаданные подтверждают только задачу image-text-to-text; эти дополнительные сценарии следует считать заявленными возможностями, а не отдельными подтверждёнными задачами. В качестве языков карточка указывает английский и китайский. Репозиторий распространяется под лицензией Apache-2.0. Среди ограничений указаны ухудшение результатов на изображениях низкого качества или с перекрытиями, нестабильность на редких языках и письменностях, высокие требования к ресурсам, а также возможные галлюцинации и зависимость качества от настроек визуальных токенов.
GPT-4.1 Mini — среднемасштабная модель OpenAI, рассчитанная на задачи с изображениями и текстом. Она сочетает производительность, сопоставимую с GPT-4o, с меньшей задержкой и стоимостью. В карточке также заявлено контекстное окно в 1 миллион токенов. Модель подходит для обработки текстовых запросов и изображений в сценариях, где важны скорость и стоимость. Доступный фрагмент карточки не раскрывает поддерживаемые языки, конкретные возможности работы с изображениями, ограничения или лицензионные условия.
gemma-4-12B-it-GGUF — это GGUF-сборка мультимодальной модели Google DeepMind gemma-4-12B-it, опубликованная prithivMLmods. Модель предназначена для генерации и понимания текста, анализа изображений, видео и аудио, категоризации контента, сжатия контекста и локальных AI-приложений без зависимости от API. Она также ориентирована на агентские сценарии и многошаговое рассуждение. Модель имеет 12 млрд параметров и унифицированную encoder-free архитектуру: текстовые, визуальные и аудиоданные поступают непосредственно в основу LLM без отдельных vision- и audio-энкодеров. Заявлены сниженные задержка и потребление памяти, поддержка Multi-Token Prediction для ускорения вывода и работа на устройствах примерно с 16 ГБ памяти. В README указан английский язык и мультимодальный режим image-text-to-text; размер контекста не указан. Доступны варианты GGUF от Q2_K до Q8_0, а также BF16 и F16, с размерами основных файлов от 4,83 до 23,8 ГБ. Сильными сторонами являются мультимодальность с нативной поддержкой аудио, возможность локального запуска и широкий выбор уровней квантования. Ограничения README не описывает; в частности, отсутствуют подробности о фактической производительности, поддерживаемых языках кроме английского, максимальном контексте и требованиях к конкретному оборудованию. Модель распространяется по лицензии Apache 2.0.
Lapa LLM v0.1.3 Instruct — украинская мультимодальная модель команды Lapa LLM, созданная на базе Gemma 3 12B и дообученная на украинских текстах. В проекте участвовали исследователи Украинского католического университета, AGH University of Krakow, КПИ имени Игоря Сикорского и Львовской политехники. Версия 0.1.3 содержит исправления согласования и проверку pipeline; остальная модель не изменилась. Модель принимает текст и изображения и генерирует текст для диалога, ответов на вопросы, анализа изображений, суммаризации и перевода между английским и украинским языками. В README заявлены контекст входа до 128 тысяч токенов и выход до 8192 токенов. Адаптированный токенизатор заменяет 80 тысяч из 250 тысяч токенов украинскими; разработчики сообщают о сокращении числа токенов для украинского текста примерно в 1,5 раза относительно Gemma 3. Модель предназначена для украинских NLP-сценариев, включая локальную обработку документов, чат-боты и RAG. README отмечает сильные результаты в переводе, вопросах по изображениям и суммаризации, но также сообщает, что разработчики продолжают собирать данные для улучшения обработки изображений и следования инструкциям. Лицензия в метаданных указана как gemma; README заявляет о возможности коммерческого использования.
Swift-Qwen3.8-27b-oQ4e-fp16-mtp — плотная мультимодальная модель класса 27B, разработанная на основе Swift-Qwen3.8-27b от UkisAI и преобразованная в формат MLX. Она предназначена для задач, сочетающих работу с текстом и изображениями, включая генерацию и понимание текстово-визуального содержимого. Модель содержит текстовый backbone, vision encoder и один слой multi-token prediction (MTP). Текстовая часть включает 64 слоя со скрытым размером 5 120 и feed-forward-размером 17 408. В архитектуре используются 48 слоёв linear attention и 16 слоёв full attention; полный attention применяется на каждом четвёртом слое. Словарь содержит 248 320 токенов, заявленный предел контекста составляет 262 144 токена, однако фактическая доступная длина зависит от настроек runtime и объёма памяти. Vision encoder состоит из 27 слоёв со скрытым размером 1 152, 16 attention heads и обрабатывает изображения через патчи 16×16; визуальные признаки проецируются в пространство размерности 5 120. Чекпойнт использует смешанную квантизацию: по умолчанию применяются аффинные 4-битные веса с группами по 64 значения, а для 187 модулей заданы 5-битные переопределения. Часть параметров MTP, включая fusion matrix и веса нормализации, сохраняется в FP16, поэтому суффикс fp16 не означает полностью FP16-модель. Такой формат снижает требования к памяти по сравнению с полноразмерными весами, но точные характеристики производительности и совместимость зависят от MLX runtime и оборудования. Языки в README не указаны. Модель распространяется на условиях Swift Open License v1.0; преобразование не изменяет условия upstream-лицензии. Перед использованием необходимо ознакомиться с условиями лицензии и ограничениями доступа исходной модели.
Granite Vision 3.1 2B Preview — компактная мультимодальная модель IBM для понимания изображений и документов. Она предназначена для извлечения и анализа содержимого таблиц, графиков, инфографики, диаграмм и других визуальных материалов, распознавания текста на изображениях и ответов на вопросы по документам; также поддерживает общие задачи понимания изображений и диалоговый режим. Модель дообучена на базе ibm-granite/granite-3.1-2b-instruct и использует архитектуру LLaVA-NeXT: визуальный энкодер SigLIP, двухслойный MLP-коннектор и языковую модель Granite 3.1. В README указано 2 млрд параметров у языковой основы и около 3 млрд у модели с визуальным энкодером и проектором; контекст языковой основы — 128 тыс. токенов. Основной поддерживаемый язык — английский. Модель распространяется под лицензией Apache 2.0. Сильная сторона модели — специализированная работа с визуальными документами при сравнительно небольшом размере; в приведённых тестах она показывает хорошие результаты на DocVQA и ChartQA. Возможны неточные, предвзятые или небезопасные ответы и галлюцинации, особенно в общих задачах понимания изображений; для обработки только текста IBM рекомендует использовать текстовые Granite-модели.
Solstice-AI/DeepSeek-V4-Flash-Vision-Exp-NVFP4 — мультимодальная модель для задач image-text-to-text, разработанная Solstice-AI на основе экспериментальной модели DeepSeek-V4-Flash-Vision-Exp от DeepSeek. Она предназначена для анализа изображений и текста, визуального контроля качества, распознавания объектов и текста на изображениях, а также текстовой генерации и многошагового рассуждения в сценариях, требующих большого контекста. Модель имеет архитектуру MoE с 305 млрд параметров, 256 маршрутизируемыми экспертами и примерно 13 млрд активируемых параметров на токен; заявлено 43 слоя. Контекстное окно составляет 1 048 576 токенов, используется native YaRN. Зрительная часть включает 32-слойный Vision Transformer и работает в формате BF16. Эксперты квантизированы в SafeTensors NVFP4: W4A4, group size 16, с block-scale calibration. Ключевая особенность — bit-exact транскодирование MXFP4 в NVFP4 без заявленной потери точности. Модель оптимизирована для NVIDIA Blackwell, включая B200, GB200, DGX Spark и RTX 5090, а также для vLLM и TensorRT-LLM. Согласно README, к сильным сторонам относятся сохранение качества базовой модели на GSM8K, тестах извлечения данных из длинного контекста и мультимодальном visual question answering; для vision QA заявлены точное совпадение ответов и время до первого токена менее 50 мс. Ограничения связаны с экспериментальным статусом, специализированной поддержкой оборудования NVIDIA Blackwell и зависимостью от совместимых inference-движков. Модель распространяется по лицензии MIT; упаковка и сопровождение выполнены Solstice-AI, а квантизационный pipeline создан с использованием NVIDIA TensorRT ModelOpt.
Heretical-Qwen3.5-9B — мультимодальная модель на 9 млрд параметров, дообученная на базе Qwen/Qwen3.5-9B-Base. Её разработчик применил метод decensoring на основе orthogonalized projected abliteration с поиском параметров, настроенным через TPE; в README указаны 3 отказа из 100 тестовых запросов и KL divergence 0,0366. Модель использует гибридную архитектуру Gated DeltaNet и attention, принимает текст и изображения и предназначена для диалогов, рассуждений и понимания визуального содержимого. Модель поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 010 000. README базовой модели заявляет поддержку 201 языка и диалекта, но не приводит языковую таблицу для этой конкретной производной модели. Веса доступны в формате safetensors; метаданные указывают библиотеку Transformers и лицензию Apache-2.0. Показатель отказов относится к ограниченному тесту в карточке и сам по себе не гарантирует поведение на других запросах; универсальные ограничения качества не описаны.
Mistral-Small-3.2-24B-Instruct-2506-MLX-8bit — это 8-битная квантованная версия мультимодальной инструкционной модели Mistral-Small-3.2-24B-Instruct-2506, разработанной компанией Mistral AI. Квантование выполнено командой LM Studio с использованием MLX и mlx_vlm. Модель предназначена для запуска на устройствах с Apple Silicon и поддерживает сценарии генерации текста по инструкциям, а также обработки изображений и текста, о чём свидетельствует мультимодальный профиль image-text-to-text. Она поддерживает английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский, арабский, персидский и другие языки, перечисленные в карточке модели. Ключевые характеристики — 24 млрд параметров в исходной модели, 8-битное представление весов и оптимизация для экосистемы Apple Silicon. Квантование снижает требования к памяти и делает локальный запуск практичнее, однако может немного повлиять на точность по сравнению с полной версией. Длина контекста в README не указана. Модель распространяется по лицензии Apache 2.0; LM Studio не является её разработчиком и не гарантирует точность, безопасность или пригодность генерируемого содержимого.
bigscience/mt0-xxl — многоязычная модель семейства mT0, разработанная BigScience. Это дообученная версия mT5-XXL, обученная следовать инструкциям на смеси кросс-языковых задач xP3; архитектура — encoder-decoder MT5ForConditionalGeneration, размер — 6,7 млрд параметров. Модель предназначена для выполнения задач, сформулированных на естественном языке, в том числе перевода, ответов на вопросы, классификации тональности и создания текстов. Она поддерживает генерацию с нуля и переносит навыки на ранее не встречавшиеся задачи и языки; среди языков карточки указаны английский, французский, испанский, арабский, японский, корейский и другие. Качество ответов зависит от формулировки запроса: полезно явно обозначать границы входного текста, задачу и желаемый язык ответа, а также предоставлять контекст. Модель выпущена под лицензией Apache-2.0. Для запуска используются Transformers и веса PyTorch/Safetensors.
NuExtract3-FP8 — 4B vision-language reasoning model, разработанная NuMind на базе Qwen/Qwen3.5-4B. Модель предназначена для понимания документов и поддерживает структурированное извлечение данных: получает текст и/или изображения вместе с JSON-шаблоном и инструкциями и формирует JSON-ответ. Также она преобразует изображения документов в Markdown, включая текст, таблицы, математические формулы и изображения. Модель ориентирована на OCR, подготовку данных для RAG и обработку сканов, чеков, форм, счетов, договоров и таблиц. Модель поддерживает мультимодальные входные данные, многоязычные документы, режимы вывода с рассуждением и без него, а также генерацию шаблонов для извлечения структуры из естественного языка или самого документа. В README не указаны точный размер контекстного окна, перечень языков, специфические параметры FP8-сборки или сведения о производительности именно этой версии; приведённые бенчмарки относятся к NuExtract3.4_4B-RL. Среди сильных сторон заявлены сочетание визуального понимания, OCR, рассуждений и структурированного вывода, однако сложные или длинные задания могут приводить к повторениям, превышению лимита вывода и невалидному JSON. Модель распространяется по лицензии Apache 2.0.
Ovis1.6-Gemma2-27B — мультимодальная языковая модель семейства Ovis, разработанная командой Ovis. Она сочетает визуальный энкодер SigLIP-400M с Gemma2-27B-It и структурно согласует визуальные и текстовые представления. Модель содержит 29 млрд параметров и предназначена для диалоговой работы с изображениями и текстовыми инструкциями. Модель подходит для анализа сложных изображений, ответов на вопросы по документам, графикам и таблицам, распознавания китайского и английского текста на изображениях, а также мультимодальных рассуждений. В README приведены результаты на ChartQA, InfoVQA и DocVQA. Репозиторий содержит веса в формате safetensors; для запуска указана библиотека Transformers. Лицензия — Apache-2.0. Разработчики рекомендуют использовать более новую версию Ovis2. Модель может ошибаться в визуальном анализе и рассуждениях; авторы также не гарантируют полного отсутствия проблем с авторскими правами или некорректного контента.
FreedomAISVR/Qwen3.5-4B-Instruct-MTP-NVFP4-GGUF — квантизированная в NVFP4 версия мультимодальной инструкционной модели Qwen3.5-4B, подготовленная FreedomAISVR в формате GGUF для запуска через llama.cpp. Модель содержит около 3,97 млрд параметров, использует гибридную архитектуру Gated DeltaNet, Gated Attention и FFN, поддерживает MTP (Multi-Token Prediction) и контекст до 262 тысяч токенов. В репозитории также есть проектор изображений в F16; заявлена возможность расширения контекста до 1 млн токенов. Модель предназначена для диалога и генерации текста по инструкциям, рассуждений и понимания изображений. Шаблон чата изменён: рассуждения выключены по умолчанию и включаются параметром enable_thinking=true. NVFP4 снижает размер весов для совместимых NVIDIA Blackwell GPU; для мультимодального ввода требуется отдельный файл проектора. Это производная модель от Qwen/Qwen3.5-4B, а не новая базовая разработка. Лицензия — Apache-2.0.
N8Programs/Qwen3.6-35B-A3B-AntiLoop — версия в формате BF16 модели N8Programs/Qwen3.6-35B-A3B-AntiLoop-NVFP4. Согласно метаданным, это дообученная на базе Qwen/Qwen3.6-35B-A3B мультимодальная модель семейства Qwen3.5 MoE с архитектурой Qwen3_5MoeForConditionalGeneration. Она предназначена для диалогов и работы с изображениями; метаданные также отмечают интерфейс вызова инструментов. Базовая модель описана как модель с 35 млрд параметров для диалогов, агентного программирования и анализа изображений. Репозиторий содержит веса BF16 в формате safetensors. Лицензия — Apache-2.0. Карточка этой версии отсылает за рекомендациями по запуску, обучающим данным, оценкам и ограничениям к карточке NVFP4-релиза; подробностей об изменении AntiLoop в README нет.
Qwen3.8-Flash-Next MLX Activation-Weighted 3-bit — это MLX-конверсия модели Qwen/Qwen3.8-Flash-Next, опубликованная авторами данного репозитория. Модель предназначена для генерации текста и работы с изображениями, включая сценарии vision-language и OCR. Указанный pipeline имеет тип image-text-to-text, однако поддерживаемые языки в README не перечислены. Исходная модель содержит около 180 млрд параметров: 125 млрд основных параметров, 51 млрд параметров n-граммных embedding-таблиц и 4 млрд параметров MTP. Набор включает 48 банков маршрутизируемых экспертов, сжатых до 3 бит с размером группы 64; остальные подходящие матрицы используют 4-битное квантование. Нативный размер контекста составляет 262 144 токена, а размер артефакта — 83,49 ГиБ. Для запуска требуется MLX-совместимый и Qwen4Exp-aware runtime, например mere.run или mlx-vlm. К сильным сторонам относятся снижение пикового потребления памяти примерно на 19,58% по сравнению с опубликованным Q4-вариантом и сохранение результатов на закрытом наборе из 16 текстовых, графических и OCR-тестов. При этом приведённая квалификация не доказывает общее качество модели или эквивалентность BF16-версии; оценка проводилась на ограниченных наборах, а MTP был отключён при выборе чекпойнта. Распространение осуществляется по Qwen Community License 1.0 с дополнительными требованиями атрибуции и отдельными лицензионными условиями для некоторых коммерческих сценариев.
bigscience/mt0-base — мультиязычная модель семейства mT0, разработанная BigScience на основе предобученной mT5 и дообученная на смеси заданий xP3 для следования инструкциям на естественном языке. Она подходит для выполнения задач по текстовым запросам в режиме zero-shot, включая перевод, ответы на вопросы, классификацию тональности и создание текстов. Модель использует архитектуру encoder-decoder MT5ForConditionalGeneration и содержит 291,2 млн параметров; доступны веса PyTorch, safetensors и ONNX. README описывает поддержку десятков языков, а метаданные перечисляют языки обучения и основные языки карточки. Результаты зависят от формулировки запроса: модели полезно явно обозначать границы входного текста, требуемую задачу и язык ответа. Лицензия — Apache-2.0.
Qwen3.8-27B-Della-Carnice-Ostrich-Salience-Glimmer-v5c — настраиваемая мультимодальная модель для диалогов, созданная YFC-112358 слиянием Qwen/Qwen3.8-27B и нескольких моделей на его основе методом della_linear. Она предназначена для общения с пользователем и задач, где нужно анализировать изображения; в метаданных также отмечены интерфейс вызова инструментов и поддержка vision. Архитектура — плотная Qwen3_5ForConditionalGeneration, размер базовой модели — 27 млрд параметров; модель распространяется в safetensors и загружается через Transformers. Токенизатор и конфигурация взяты у Qwen/Qwen3.8-27B. README описывает однопроходное слияние четырёх источников и его технические параметры, включая прореживание по блокам строк, вычисления в fp32 и сохранение в bf16. Это не отдельное дообучение: итоговое поведение зависит от слияния исходных моделей, а специальные токены этих источников в итоговый токенизатор не включены. Основной язык и длина контекста в предоставленных данных не подтверждены. Лицензия не указана, поэтому условия использования следует сверить с лицензиями базовой модели и компонентов слияния.
Athena-3-14B — каузальная языковая модель, разработанная Aayan Mishra и дообученная на Qwen/Qwen2.5-14B-Instruct. Она предназначена для диалогов, следования инструкциям и генерации текста, включая написание материалов, суммаризацию, ответы на вопросы, перевод, классификацию текста и рассуждения по STEM-темам. Модель построена на архитектуре Qwen2 с 14 млрд параметров; использует Transformer, RoPE, SwiGLU, RMSNorm и Grouped Query Attention. Метаданные указывают контекст до 32 768 токенов. Карточка заявляет поддержку более 29 языков, включая английский, китайский и русский; заявленная лицензия — MIT. Модель подходит для общих текстовых задач, однако качество зависит от языка, а наиболее сильные возможности заявлены для английского. Ответы могут содержать ошибки и предубеждения; знания ограничены сведениями примерно до августа 2024 года. Модель не предназначена для критически важных решений или работы с конфиденциальными данными.