IV.6Научные исследования, математика и новые материалы

SKT AI LABS представила SKT-NRS/NRS_QWEN_MYTHOS_1M — дообученную модель на архитектуре Qwen3.5-9B для диалогов, рассуждений и генерации текста. Карточка заявляет контекст до 1 048 576 токенов с масштабированием YaRN и настройку на примерах по программированию, математике и логике. Метаданные также указывают поддержку изображений в базовой мультимодальной архитектуре Qwen, хотя описание модели сосредоточено на текстовых сценариях. Модель предназначена для анализа длинных документов и кодовых баз, пошаговых рассуждений, программирования и вызова инструментов, включая Python и веб-поиск. Заявлены диалоговый режим и оптимизация инференса, однако сведения о скорости и стократном повышении качества являются утверждениями авторов без приведённых сравнительных результатов. Для обработки вывода могут потребоваться специальные меры из-за блоков <think>; критические ответы следует проверять из-за риска галлюцинаций. Лицензия в предоставленных данных не указана.

DeepSeek-V4.1-Flash — мультимодальная модель DeepSeek для диалогов, рассуждений и агентных задач. Она принимает изображения и текст и авторегрессионно генерирует текст. По README, модель обучена с нуля и использует архитектуру Causal Encoder-Decoder с 40 слоями и Mixture-of-Experts; в ней 552 млрд параметров backbone, а при обработке токенов активируется 8 млрд параметров на этапе prefill и 16 млрд при генерации. Модель поддерживает контекст до одного миллиона токенов и управляемый уровень усилий рассуждения от 1 до 100. Среди заявленных архитектурных решений — сжатие KV-кэша, разреженное внимание, условная память Engram и спекулятивное декодирование. Модель ориентирована на сценарии с длинным контекстом и агентным выполнением задач, включая работу с кодом и визуальными данными. Метаданные указывают форматы safetensors FP8 и библиотеку Transformers; лицензия — MIT. README отмечает, что для релиза не предоставлен Jinja-шаблон чата, а для запуска локально предлагается обратиться к инструкциям в папке inference.

Dolphin-v2-f32-GGUF — это мультимодальная vision-language модель для интеллектуального разбора документов. Базовая модель Dolphin-v2 разработана ByteDance, а данный репозиторий prithivMLmods содержит её варианты в формате GGUF с разными уровнями квантования. Модель основана на Qwen2.5-VL-3B, насчитывает около 3 млрд параметров и использует vision encoder Native Resolution Vision Transformer (NaViT) вместе с авторегрессионным декодером. Модель предназначена для OCR и структурированного понимания цифровых документов, PDF-файлов, отсканированных и сфотографированных страниц. Она распознаёт заголовки, абзацы, формулы с выводом в LaTeX, таблицы в HTML, код, списки, изображения и другие элементы, возвращая их с абсолютными координатами на странице. Двухэтапная архитектура сначала различает цифровые и фотографированные документы, а затем применяет параллельный поэлементный или целостный разбор. Поддерживаются английский и китайский языки; заявлены сценарии локального использования в медицине, юриспруденции и финансах. К сильным сторонам относятся высокая точность анализа структуры и порядка чтения, распознавания формул и таблиц, устойчивость к искажениям, наклонам и перспективе, а также возможность локального запуска. Для вариантов модели указаны размеры от примерно 791 МБ до 12,3 ГБ; производительность исходной модели заявлена на уровне 0,1729 кадра в секунду на GPU с 8–12 ГБ VRAM, при этом она может превосходить универсальные VLM по скорости и точности. Конкретные характеристики зависят от выбранного GGUF-варианта: более сильное квантование уменьшает требования к памяти, но может снижать качество. Размер контекста и подробные требования к программному обеспечению не указаны. Лицензия — Apache 2.0.

Мультимодальная инструкционная модель Qwen2.5-VL-7B на 7,1 млрд параметров, преобразованная сообществом mlx-community в формат MLX из Qwen/Qwen2.5-VL-7B-Instruct. Она принимает текст и изображения и отвечает текстом, поддерживает диалог и интерфейс вызова инструментов. Модель подходит для анализа изображений и видео, извлечения данных из документов и других визуальных задач; максимальный контекст — 128 000 токенов. В метаданных указана библиотека Transformers, а карточка описывает конвертацию с помощью mlx-vlm 0.1.11. Лицензия — Apache-2.0.

visionOCR-3B-061125 — дообученная PrithivMLmods мультимодальная модель на архитектуре Qwen2.5-VL-3B для распознавания текста и анализа документов по изображениям. Она извлекает текст и структурированные данные из счетов, чеков, форм, научных статей и сканов, отвечает на вопросы по изображениям и преобразует математические выражения в LaTeX. Модель содержит 3,1 млрд параметров, принимает изображения с текстовыми инструкциями и выдаёт текст; заявлена поддержка контекста до 128 000 токенов. В карточке также заявлены анализ видео, визуально управляемая автоматизация устройств и работа с несколькими языками. Модель ориентирована на OCR документов, извлечение данных и визуальные вопросы-ответы, включая плотные макеты, таблицы и диаграммы. Карточка сообщает о конкурентных результатах на DocVQA, MathVista, RealWorldQA и MTVQA, но не приводит численных оценок. Лицензия — Apache-2.0. Качество может снижаться на изображениях низкого качества или с перекрытиями, а для редких языков и письменностей точность непостоянна. Длительная обработка видео требует значительных ресурсов; возможны галлюцинации и ошибки при неудачных настройках визуальных токенов.

Qianfan-VL-70B — мультимодальная модель компании Baidu для работы с изображениями и текстом. Она сочетает языковую модель архитектуры Llama 3.1 с визуальным энкодером на основе InternViT и обучена для общих мультимодальных задач с усиленными возможностями распознавания текста и анализа документов. Модель рассчитана на контекст до 32 тысяч токенов и поддерживает динамическое разбиение изображений на фрагменты с разрешением до 4K. Она подходит для распознавания рукописного и печатного текста, извлечения структуры документов, анализа таблиц и графиков, ответов на вопросы по изображениям, а также визуальных и математических рассуждений. Опциональный режим Layout-as-Thought формирует промежуточное структурированное представление расположения элементов и порядка чтения. Модель принимает текст и изображения и выдаёт текстовые ответы; заявленная поддержка языков включает китайский и английский. README приводит сравнительные результаты на нескольких мультимодальных бенчмарках, но эти показатели не гарантируют качество на конкретных данных. Модель распространяется по лицензии MIT. Она имеет 70 млрд параметров, поэтому для развёртывания требуются значительные вычислительные ресурсы.

LightOnOCR-2-1B — компактная модель распознавания документов от LightOn: плотная vision-language архитектура на 1 млрд параметров, семейство Mistral3. Она преобразует PDF-страницы, сканы и изображения документов в чистый текст с сохранением естественного порядка чтения; также подходит для распознавания таблиц и форм. Модель обучена с RLVR и рассчитана на высокую точность OCR. В README заявлены результаты уровня state of the art на OlmOCR-Bench и высокая скорость обработки. LightOnOCR-2-1B поддерживает английский, французский, немецкий, испанский, итальянский, нидерландский, португальский, шведский, датский, китайский и японский языки. Для запуска авторы рекомендуют Transformers версии 5 и рендеринг PDF в изображения с разрешением 200 DPI и максимальной стороной около 1540 пикселей. Модель распространяется по лицензии Apache-2.0.

FuriosaAI публикует эту сборку Qwen3-VL-4B-Instruct с Furiosa Executable Bundle для запуска через Furiosa-LLM на ускорителях RNGD. Это плотная vision-language модель на 4 млрд параметров: кодировщик изображений сочетается с трансформерным декодером, а Interleaved-MRoPE и многоуровневое слияние признаков DeepStack поддерживают обработку изображений и видео. Веса хранятся в safetensors; README указывает, что дополнительная квантизация не применялась. Базовая модель — Qwen/Qwen3-VL-4B-Instruct. Модель принимает текст и изображения и формирует текстовые ответы. Она предназначена для диалога по изображениям, OCR, анализа документов и диаграмм, пространственных рассуждений и понимания видео; также поддерживает вызов инструментов через интерфейс функций. Для работы с Furiosa-LLM на RNGD используется параллелизм по тензорам на 8 вычислительных элементах одной карты. README также указывает совместимость с vLLM, SGLang и Transformers. Модель распространяется по лицензии Apache 2.0. Карточка описывает её как Instruct-вариант без режима thinking; качество ответов может зависеть от сложности изображения или видео и формулировки запроса.

Dolphin3.0-R1-Mistral-24B-GGUF — это квантизированная версия языковой модели Dolphin3.0-R1-Mistral-24B, разработанной cognitivecomputations и подготовленной в формате GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста на английском языке и запуска локально через llama.cpp, LM Studio и другие совместимые приложения. Модель основана на архитектуре Mistral и содержит 24 миллиарда параметров. Она обучалась на смесях данных для инструкционного следования, рассуждений, математики, программирования, function calling и агентных сценариев, включая наборы Dolphin, OpenCoder, Orca, Hermes, NuminaMath, Tulu и CodeFeedback. Доступны варианты квантизации от Q4 до Q8 и полноточный вариант f32; размер файлов варьируется примерно от 13,5 до 94,3 ГБ. Квантизация уменьшает требования к памяти, сохраняя приемлемое качество, однако более компактные варианты могут уступать исходной модели по точности. Сильными сторонами являются поддержка локального запуска, широкий выбор уровней квантизации и ориентация на рассуждения, математические задачи, код и выполнение инструкций. README не содержит данных о длине контекста, мультимодальности, подробных результатах оценки, системных требованиях или лицензии, поэтому эти характеристики нельзя достоверно определить.

Qwen3-VL-4B-Thinking — плотная мультимодальная модель с 4 млрд параметров из семейства Qwen3-VL, опубликованная FuriosaAI в виде сборки для Furiosa-LLM и RNGD. Репозиторий содержит веса Qwen/Qwen3-VL-4B-Thinking и исполняемый пакет Furiosa; модель также поддерживается другими фреймворками инференса. Модель принимает изображения и текст, а отвечает текстом. Визуальный энкодер и трансформерный декодер используют позиционные эмбеддинги Interleaved-MRoPE и слияние признаков DeepStack. Она предназначена для распознавания текста на изображениях, анализа документов и диаграмм, пространственных рассуждений и понимания видео; поддерживает вызов инструментов. Версия Thinking формирует явный ход рассуждений перед итоговым ответом. Для запуска через Furiosa-LLM модель рассчитана на ускоритель FuriosaAI RNGD, где использует тензорный параллелизм на 8 вычислительных элементах одной карты. Квантизация не применялась, используются веса в точности исходной модели. Лицензия — Apache-2.0. Длина контекста и список поддерживаемых языков в предоставленных данных не приводятся.

InternVL3-8B-Instruct-GGUF — мультимодальная модель семейства InternVL3, разработанная OpenGVLab и представленная в GGUF-формате Unsloth. Это SFT-версия InternVL3-8B: она прошла мультимодальное предварительное обучение и дообучение с учителем, но не проходила MPO. Модель предназначена для задач понимания и анализа изображений совместно с текстом, мультимодального рассуждения, работы с инструментами и GUI-агентами, промышленного анализа изображений, а также восприятия 3D-сцен. Она поддерживает многоязычные сценарии, однако конкретный перечень языков и размер контекстного окна в предоставленных данных не указаны. Архитектура построена по схеме ViT-MLP-LLM и включает vision-компонент InternViT-300M-448px-V2_5 и языковую часть Qwen2.5-7B; общий размер модели обозначен как 8B. Сильными сторонами заявлены развитые возможности мультимодального восприятия и рассуждения, а также повышение качества по сравнению с InternVL 2.5. Ограничения включают отсутствие MPO и неизвестные из README характеристики контекстного окна, точности GGUF-квантизации и производительности на конкретном оборудовании. В метаданных указана лицензия Apache 2.0; также присутствует обозначение license_name Qwen и ссылка на лицензию Qwen2.5.

Ling-flash-2.0 — языковая MoE-модель семейства Ling 2.0, разработанная inclusionAI и предназначенная для диалогового использования через генерацию текста. По README, модель обучена на более чем 20 трлн токенов с последующей supervised fine-tuning и многоэтапным reinforcement learning; метаданные указывают 5,5 млрд параметров, архитектуру BailingMoeV2ForCausalLM и базовую модель inclusionAI/Ling-flash-base-2.0. README приводит другие значения: 100 млрд общих и 6,1 млрд активированных параметров, поэтому размер в источниках расходится. Модель ориентирована на сложные рассуждения, генерацию кода, разработку интерфейсов и творческие задачи. README сообщает о контексте 32K с расширением до 128K посредством YaRN; метаданные фиксируют нативный контекст 32 768 токенов. Заявлены высокая эффективность вывода и результаты на бенчмарках по математике, знаниям, коду, финансам и здравоохранению; отдельное назначение для этих отраслей не заявлено. Метаданные отмечают интерфейс вызова инструментов. Модель доступна под лицензией MIT.

Llama-Express.1-Math — компактная плотная языковая модель семейства Llama, разработанная prithivMLmods на основе Meta Llama 3.2 1B Instruct и дообученная на наборах математических данных с длинными цепочками рассуждений. Она содержит 1,2 млрд параметров, работает с текстом и поддерживает контекст до 131 072 токенов. Модель предназначена для диалогов и следования инструкциям на нескольких языках, а также для математических рассуждений, поиска и суммаризации сведений в контексте. Её можно применять в виртуальных помощниках, автоматизации и сценариях с извлечением информации; заявленное интерфейсом чата взаимодействие поддерживает Transformers. В карточке указан английский язык, а README заявляет многоязычное применение без перечисления поддерживаемых языков. Модель не обрабатывает изображения, аудио и видео. Качество может снижаться на очень длинном контексте, в языках с малым представленным ресурсом и при неясных запросах; ответы также могут отражать предвзятости обучающих данных и не имеют доступа к актуальным интернет-источникам. Лицензия — Llama 3.2.

Phi-3.5-vision-instruct — мультимодальная модель Microsoft семейства Phi-3.5 с плотной архитектурой Phi3V и 3,7 млрд параметров. Она принимает текст и изображения и генерирует текст; предназначена для диалоговых приложений, которым нужно понимать изображения, документы, диаграммы и таблицы, сравнивать несколько изображений и суммировать видеоклипы по кадрам. Модель рассчитана на сценарии с ограничениями по памяти и задержке. В README заявлен контекст до 128 тысяч токенов, тогда как метаданные каталога указывают 4096 токенов. Модель обучалась на синтетических данных и отфильтрованных общедоступных веб-источниках; для улучшения следования инструкциям применялись supervised fine-tuning и direct preference optimization. README ориентирует её на коммерческое и исследовательское применение, прежде всего на английском языке, и отмечает возможности OCR, визуального рассуждения и понимания нескольких кадров. Выпущена под лицензией MIT. Качество может быть ниже для языков, отличных от английского, и для недостаточно представленных вариантов английского. Microsoft предупреждает, что модель может быть неточной, ненадёжной, несправедливой или выдавать оскорбительные ответы; для конкретных сценариев требуется оценка, особенно в областях высокого риска.

ryanfortin/community-blend-qwen3-8b — это плотная языковая модель семейства Qwen3 с 7,6 млрд параметров, разработанная путём эволюционного слияния моделей. По README, автор получил её после 781 поколения автоматического отбора и 749 слияний дообученных моделей Qwen3-8B; итоговый вариант создан методом SLERP из двух промежуточных чемпионов. Модель предназначена для диалоговой генерации текста, ответов на вопросы и рассуждений в разных областях. Контекст составляет 40 960 токенов; репозиторий содержит веса в safetensors и использует библиотеку Transformers. README сообщает об улучшении относительно исходной Qwen3-8B на шести из восьми бенчмарков, включая HellaSwag и ARC, и описывает сохранённые навыки в медицине, математике и прогнозировании. Это результаты тестирования автора, а не гарантия качества для конкретных пользовательских задач. Модель доступна по лицензии Apache-2.0.

next-12b-i1-GGUF — квантизированная версия модели next-12b от thelamapi, подготовленная mradermacher в формате GGUF. Это плотная causal transformer-модель примерно на 12 миллиардов параметров, предназначенная для локального запуска и генерации текста. В README она обозначена как vision model, поэтому может поддерживать мультимодальные сценарии при наличии соответствующего mmproj-файла, однако конкретные возможности обработки изображений не описаны подробно. Модель ориентирована на диалог, ответы на вопросы, суммаризацию, творческое письмо, рассуждения, программирование и работу с текстами в специализированных областях, включая химию, биологию, финансы и право. Для дообучения использовались наборы данных с инструкциями, математическими задачами, рассуждениями, диалогами и письменными запросами. Заявлена поддержка множества языков, включая английский, турецкий, русский, немецкий, французский, испанский, китайский, японский, корейский и другие. Репозиторий содержит варианты квантизации от i1-IQ1_S до i1-Q5_K_M и более качественные или компактные сборки с разным размером примерно от 3 до 8,5 ГБ. Квантизация снижает требования к памяти и позволяет запускать модель локально, но может ухудшать качество по сравнению с исходной версией; наиболее сбалансированными в README названы i1-Q4_K_S и i1-Q4_K_M. Размер контекста и точные показатели качества не указаны. Лицензия модели — MIT.

zembed-1 — открытая многоязычная модель эмбеддингов ZeroEntropy, дообученная на базе Qwen/Qwen3-4B и дистиллированная из реранкера zerank-2 с использованием методики zELO. Она предназначена для семантического поиска и построения систем retrieval по текстам, включая поиск по финансовым, медицинским, юридическим, разговорным, производственным, научно-техническим материалам и коду. Модель содержит около 3,7 млрд параметров, использует плотную архитектуру Qwen3 и принимает текст; её контекст составляет до 40 960 токенов по метаданным. README заявляет поддержку проекций эмбеддингов размерностью 2560, 1280, 640, 320, 160, 80 и 40, а также бинарной квантизации с компромиссом между размером и точностью. По заявлению разработчика, модель показала более высокие результаты, чем ряд сравниваемых моделей, в оценках поиска по нескольким предметным областям; приведённые в карточке таблицы содержат лишь часть результатов. Обучение велось на многоязычных данных, более половины которых, по README, не на английском, однако конкретный перечень поддерживаемых языков не приведён; метаданные указывают английский и многоязычность. Модель распространяется по лицензии Apache 2.0. Для использования также упоминается API ZeroEntropy /models/embed.

Aya Vision 8B — мультимодальная модель Cohere Labs с открытыми весами, содержащая 8 млрд параметров. Она принимает изображения и текст и генерирует текст для задач понимания визуального содержимого и диалога по изображениям. Модель построена на мультиязычной языковой модели на основе Command R7B, дополнительно обученной по рецепту Aya Expanse, и визуальном кодировщике SigLIP2-patch14-384, соединённых мультимодальным адаптером. Контекст составляет 16K токенов; изображения произвольного размера преобразуются в поддерживаемое разрешение и кодируются с использованием до 12 тайлов и миниатюры. Модель предназначена для OCR, описания изображений, визуальных рассуждений, суммаризации и ответов на вопросы по изображениям; также поддерживает текстовый ввод. Заявлена работа с 23 языками, включая русский, английский, китайский, арабский, японский и хинди. Веса распространяются по лицензии CC-BY-NC 4.0; использование также должно соответствовать политике допустимого использования Cohere Labs. Лицензия ограничивает коммерческое применение.

Nemotron-Cascade-14B-Thinking — универсальная языковая модель NVIDIA на 14 млрд параметров, построенная на архитектуре Qwen3 и дообученная от Qwen3-14B Base. Модель проходит многоэтапное SFT и последовательное обучение с подкреплением по отдельным областям; она предназначена исключительно для режима рассуждений и поддерживает диалоговый шаблон Qwen3 ChatML. Модель подходит для рассуждений на общие темы, математики, программирования, разработки ПО, следования инструкциям и использования инструментов. В метаданных указан контекст 32 768 токенов; README рекомендует YaRN для поддержки более длинного контекста и приводит параметры генерации temperature 0,6 и top_p 0,95. По данным карточки, доступны веса Safetensors и библиотека Transformers. Карточка сообщает о высоких результатах на широком наборе бенчмарков, но эти заявления относятся к оценкам авторов. Модель текстовая и ориентирована на английский язык; README не описывает поддержку других языков. Лицензия обозначена как other, поэтому условия использования следует проверять в материалах репозитория.

Penguin-VL-2B — компактная vision-language-модель Tencent, построенная на языковой основе Qwen3-1.7B. В модели объединены визуальный энкодер, созданный на основе Qwen3-0.6B, лёгкий MLP-проектор и языковой бэкенд Qwen3. Энкодер использует двунаправленное внимание и 2D-RoPE для обработки пространственной информации; для видео применяется сжатие токенов с учётом временной избыточности кадров. Модель предназначена для диалоговых задач с изображениями и видео: ответов на визуальные вопросы, OCR, понимания документов и диаграмм, а также рассуждений по содержимому кадров. Заявленная длина контекста — 40 960 токенов, размер языковой основы — 1,7 млрд параметров. В карточке приведены результаты на тестах для изображений, документов, OCR, математики и видео. Метаданные указывают английский язык; других языков карточка не подтверждает. Модель дообучена на Qwen/Qwen3-1.7B, распространяется в формате Safetensors по лицензии Apache-2.0. Качество может зависеть от разрешения и сложности визуального входа; опубликованные результаты бенчмарков не гарантируют точность на конкретных данных. Описание не уточняет ограничения по длительности видео или точную процедуру запуска.

dots.ocr — мультиязычная модель разбора документов от команды dots. Она объединяет распознавание текста и анализ структуры страницы в одной плотной vision-language архитектуре на 1,5 млрд параметров; метаданные указывают контекст длиной 131 072 токена. Модель принимает изображения страниц и может выдавать распознанный текст, порядок чтения и структурированные данные о расположении элементов, включая координаты и категории. В README заявлена поддержка документов на разных языках, а метаданные карточки отмечают английский и китайский. Модель предназначена для OCR и разбора страниц документов: определения макета, извлечения текста и обработки таблиц и формул. Она рассчитана на сценарии, где нужен единый этап распознавания и структурирования вместо цепочки отдельных моделей; для обработки PDF README рекомендует растрировать страницы с разрешением около 200 DPI. Указана лицензия MIT. Ограничения включают неточный разбор сложных таблиц и формул, отсутствие разбора содержимого изображений внутри документов и возможные сбои на страницах с высокой плотностью символов. Непрерывные специальные символы могут вызывать зацикливание вывода; модель также пока не оптимизирована для высокопроизводительной пакетной обработки больших объёмов PDF.

Eagle 2.5-8B — мультимодальная модель семейства Eagle 2.5 от NVIDIA для анализа изображений, видео и текста. В основе архитектуры — визуальный энкодер SigLIP2-So400m-Patch16-512 и языковая модель Qwen2.5-7B-Instruct, объединённые в мультимодальную архитектуру на базе LLaVA с разбиением изображений на фрагменты. Модель поддерживает изображения высокого разрешения, многостраничные документы, длинный текст и видео до 512 кадров; контекст при обучении постепенно расширяли с 32K до 128K токенов. Модель предназначена для ответов на вопросы по видео и изображениям, суммаризации видео, локализации событий и понимания документов. В README сообщается о результатах на тестах понимания длинных видео и изображений, включая 72,4% на Video-MME при подаче 512 кадров. Указанная в метаданных лицензия — other; конкретные условия следует сверять с карточкой модели.

MOTHER CORE V3 — языковая модель MediaStream AI (MSAI), разработанная MediaStream AI Limited в Великобритании. Это плотный трансформер с архитектурой MotherCoreForCausalLM и примерно 6,7 млрд параметров по метаданным (в README указано около 6,9 млрд). Контекст модели — 4096 токенов; для работы используется библиотека Transformers и пользовательский код модели через trust_remote_code. Модель предназначена для генерации текста и агентных сценариев: пошаговых рассуждений, вызова инструментов, поиска и синтеза ответов по документам с цитатами, многошаговых рабочих процессов, генерации кода и документов. В README заявлены навыки работы с математикой, научными и общими вопросами, а также вертикальными задачами в финансах, комплаенсе, страховании и управлении рисками. Упоминается обучение на английском, валлийском, ирландском и шотландском гэльском; метаданные подтверждают английский. README сообщает о результате 81 из 105 задач на внутреннем агентном бенчмарке и низкой склонности к деградации, но это оценка разработчика. Известные ограничения: маршрутизация по форматам файлов бывает неточной, арифметические ответы следует проверять, а знания модели ограничены временем обучения. Лицензия обозначена как other, без уточнения условий в предоставленных данных.

Dagger-Qwen3.6-27B-GGUF-MTP — модель от peculiar-ragdoll, основанная на ThinkingCap-Qwen3.6-27B от bottlecapai, который, в свою очередь, является вариантом Qwen3.6-27B. Это GGUF-сборка для запуска через llama.cpp и совместимые среды, ориентированная на рассуждения, агентное программирование, генерацию кода и длительные многошаговые диалоги. В карточке также заявлена поддержка сценариев image-text-to-text и тег vision, однако подробности мультимодальной реализации не указаны. Модель имеет плотную архитектуру размером 27B параметров, заявленный нативный контекст — 262 144 токена, поддерживаемые языки — английский и китайский. Отличительная особенность этой версии — сохранённая MTP-голова nextn для speculative decoding: при поддержке со стороны runtime она может ускорять генерацию без изменения точности. Для vLLM и SGLang заявлено ускорение примерно в 1,5–2 раза, тогда как в llama.cpp требуются свежая сборка и специальный режим; актуальные релизные версии могут не поддерживать MTP. Сильные стороны модели — компактные ответы без лишнего текста, высокая эффективность рассуждений, способность сохранять связность в длинных агентных сессиях и эффективное использование контекстного окна. Главные ограничения — высокие требования к оперативной памяти из-за плотной архитектуры и дорогого KV-кэша; полный контекст 262 144 токена требует около 31,1 ГБ при 8-битном KV-кэше или 38,6 ГБ при 16-битном. Реальное ускорение MTP зависит от среды запуска. Лицензия — Apache-2.0.

OpenGVLab/InternVL3-14B-AWQ — квантованная AWQ-версия мультимодальной модели InternVL3-14B, разработанной OpenGVLab. Модель предназначена для задач image-text-to-text: анализа изображений и видео, ответов на вопросы по визуальному содержимому, мультимодального восприятия и рассуждений. Заявлены также сценарии использования инструментов, GUI-агентов, промышленного анализа изображений и 3D-восприятия. Архитектура построена по схеме ViT-MLP-LLM и объединяет зрительный модуль InternViT-300M-448px-V2_5, MLP-проектор и языковую часть Qwen2.5-14B. Используются динамическое разбиение изображений на фрагменты 448×448 пикселей, поддержка нескольких изображений и видео, а также Variable Visual Position Encoding (V2PE), улучшающее обработку длинного контекста. Модель заявлена как многоязычная, однако конкретный перечень языков и размер контекстного окна в README не указаны. Сильные стороны модели — мультимодальное восприятие и рассуждение, работа с изображениями, несколькими изображениями и видео, а также сниженные требования к памяти благодаря квантованию AWQ. Ограничения включают зависимость качества от точности квантования и аппаратной совместимости, а также отсутствие в представленных данных подробных результатов именно для этой квантованной версии. Лицензия указана как other с названием qwen и ссылкой на лицензию Qwen2.5-72B-Instruct.

Ornith-1.5-35B-A3B-NVFP4-W4A16 — это независимый community-артефакт, созданный r0b0tlab на основе модели Ornith-1.5-35B-A3B от Ornith AI. Модель предназначена для мультимодальных сценариев image-text-to-text, включая генерацию текста, программирование, математические задачи, выполнение инструкций и агентское кодирование. Артефакт не связан с NVIDIA или Ornith AI и не является их официальным продуктом. Модель использует архитектуру Qwen3_5MoeForConditionalGeneration с 35,1 млрд параметров, гибридным механизмом GDN linear attention и softmax attention, а также Mixture-of-Experts. Это квантизованная версия с NVFP4 W4A16 weight-only: веса Linear-слоёв представлены в 4-битном формате, активации используют BF16, KV-кэш — FP8-E4M3. Размер на диске составляет около 23 ГБ вместо 67 ГБ у BF16-версии, что даёт сжатие примерно в 2,9 раза. Заявлен контекст до 32 768 токенов, однако сведения о поддерживаемых языках в README отсутствуют. По внутреннему набору из 200 вопросов модель показала сопоставимое с BF16-базой качество на GSM8K, HumanEval и IFEval, а с MTP и спекулятивным декодированием — улучшенные результаты в отдельных тестах. Поддерживается SGLang с EAGLE/nextn speculative decoding; целевой сценарий эксплуатации — Blackwell-класс GPU NVIDIA, в частности DGX Spark GB10/SM121. Ограничения включают узкую и внутреннюю систему оценки, отсутствие проверки на других Blackwell-устройствах, возможную чувствительность к данным вне распределения и необходимость корректной настройки SGLang, включая backend marlin, прогрев JIT-кэша FlashInfer и FP8 KV-кэш. Модель распространяется по лицензии MIT.

cyankiwi/Ornith-1.5-9B-AWQ-INT4 — квантизированная версия Ornith-1.5-9B, разработанной командой Ornith AI и опубликованной пользователем cyankiwi. Это плотная языковая модель примерно на 9 млрд параметров для генерации текста, ориентированная на эффективное развёртывание на одной GPU; заявлена также возможность запуска на периферийных устройствах в отдельной мобильной версии. Данная сборка использует квантизацию AWQ с точностью INT4 и имеет размер около 8,99 ГБ. Модель предназначена для программирования, агентских сценариев, решения STEM-задач и общего текстового вывода. В карточке указана калибровка на данных STEM and Agentic, а среди поддерживаемых языков перечислены английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский. Архитектура мультимодальности и размер контекстного окна не указаны. К сильным сторонам относятся компактность, возможность эффективного локального запуска и результаты, приведённые для задач работы с терминалом и кодом. К ограничениям относятся возможные потери качества из-за INT4-квантизации, а также отсутствие в предоставленных данных подробных сведений о контекстном окне, фактической производительности на разных устройствах и ограничениях применения. Модель распространяется по лицензии MIT.

NVIDIA DeepSeek-V4-Pro-0813-NVFP4 — квантизированная версия модели DeepSeek-V4-Pro-0813, разработанной DeepSeek AI и оптимизированной NVIDIA с помощью Model Optimizer. Это авторегрессионная текстовая языковая модель на архитектуре Transformer с Mixture-of-Experts, гибридным вниманием Compressed Sparse Attention и Heavily Compressed Attention, а также Manifold-Constrained Hyper-Connections. Общий объём модели составляет 1,65 трлн параметров, из которых при генерации активируется 49 млрд. NVIDIA отдельно указывает, что модель не принадлежит ей и не была ею разработана как исходная модель. Модель предназначена для сложного рассуждения, агентных AI-приложений, использования инструментов и решения задач в математике, программной инженерии и корпоративных AI-ассистентах. Она принимает и генерирует текст, поддерживает многошаговые диалоги, системные инструкции, структурированный JSON-вывод, function calling и выдачу рассуждений при включении соответствующего режима. Максимальная длина контекста заявлена на уровне 1 млн токенов; предусмотрен собственный конвейер кодирования encoding_dsv4 с уровнями усилий рассуждения low, high и max. В составе исходного чекпойнта также заявлен модуль спекулятивного декодирования DSpark. Модель распространяется по лицензии MIT и допускает коммерческое и некоммерческое использование. Для запуска указаны SGLang и vLLM, Linux и GPU NVIDIA Blackwell B200; практическая производительность ориентирована на ускорение NVIDIA. Ограничения включают требовательность к совместимой аппаратной инфраструктуре, неизвестные сведения об обучающих данных и необходимость дополнительного тестирования на прикладных данных для проверки качества, безопасности и соответствия требованиям конкретного сценария.

dots.mocr-GGUF — это GGUF-сборка мультимодальной OCR-модели dots.mocr, разработанной rednote-hilab и основанной на dots-studio/dots.mocr. Модель предназначена для анализа изображений документов, распознавания текста, определения структуры и компоновки страниц, извлечения таблиц и формул, обработки веб-страниц, поиска текста на сценах и визуального ответа на вопросы. Она также поддерживает структурированный вывод JSON с ограничивающими рамками и категориями элементов макета. Модель построена на vision-language основе примерно с 3 млрд параметров и объединяет обнаружение макета, распознавание содержимого, семантическое понимание, grounding, разбор структурированной графики и интерактивный диалог. Поддерживается более 100 языков, включая английский и китайский, а также многоязычные документы. Для диаграмм, пользовательских интерфейсов, научных иллюстраций, химических формул и логотипов предусмотрена генерация SVG; для этой задачи упоминается специализированная модель dots.mocr-svg. Доступны варианты GGUF с точностью от BF16/F16 до различных уровней квантования размером примерно от 861 МБ до 3,56 ГБ, а также мультимодальные проекторы. Запуск заявлен через llama.cpp, HuggingFace Transformers и vLLM. К сильным сторонам относятся широкий набор задач в одной модели, многоязычность, работа с разными типами документов и высокая заявленная результативность на OmniDocBench, olmOCR-bench и XDocParse для своего класса. Ограничения включают зависимость качества от варианта квантования и вычислительных ресурсов, а также отсутствие в README подробностей о точном размере контекста, требованиях к памяти и отдельных характеристиках архитектуры. Модель распространяется по лицензии MIT.

Llama-3.3-Nemotron-Super-49B-v1.5-GGUF — квантованное представление большой языковой модели NVIDIA, производной от Meta Llama-3.3-70B-Instruct. Модель предназначена для рассуждений, многоходового чата, следования инструкциям, программирования, математических и научных задач, а также для создания RAG-систем, AI-агентов и приложений с вызовом инструментов. Версия GGUF подготовлена Unsloth и включает исправления шаблона чата; для llama.cpp рекомендуется использовать параметр --jinja. Модель представляет собой плотный decoder-only Transformer с архитектурными изменениями, полученными методом Neural Architecture Search: в отдельных блоках внимание пропускается или заменяется линейным слоем, а коэффициент расширения FFN может различаться между блоками. Такой подход уменьшает требования к памяти и повышает эффективность инференса при сохранении качества. Указаны размер 49B параметров, контекст до 128K токенов и поддержка английского языка, включая задачи с кодом. Модель обучалась на данных с отсечкой по 2023 году, поэтому её знания могут быть устаревшими. Сильными сторонами являются сочетание качества рассуждений и эффективности, поддержка агентных сценариев, RAG и tool calling, а также возможность применения в коммерческих проектах. Ограничения включают специализацию преимущественно на английском языке, отсутствие заявленной мультимодальности и зависимость характеристик от конкретного GGUF-кванта и оборудования. Использование регулируется NVIDIA Open Model License, а также дополнительными условиями Llama 3.3 Community License Agreement.