I.4Обработка документов и форм

Qwen3.8-27B-OQ3-GGUF — квантованная версия Qwen3.8-27B, подготовленная Ora Computing методом посттренировочной калибровочной квантизации. Модель предназначена для диалогов и генерации текста; с дополнительным vision-проектором GGUF поддерживает также входные изображения и видео. Репозиторий содержит файл модели размером 10,54 ГБ со средней точностью 3,026 бита на вес и отдельный проектор изображения размером 0,93 ГБ. В основной файл встроена голова многотокенного предсказания, которую можно использовать для ускорения декодирования в совместимых версиях llama.cpp. По приведённым в карточке тестам модель сохраняет 95,4% совокупного результата исходной версии bf16 на MMLU-Pro и AIME-25, занимая примерно в 5,3 раза меньше места. Для запуска автор рекомендует llama.cpp; заявленный родительский чекпойнт — Qwen/Qwen3.8-27B. Лицензия указана как other, поэтому условия использования следует проверять на странице репозитория.

trohrbaugh/Qwen3.8-Flash-Next-heretic-2 — производная версия Qwen3.8-Flash-Next, представленная как разговорная модель с открытыми весами. Это причинная языковая модель с визуальным энкодером и поддержкой обработки изображений вместе с текстом; метаданные относят её к архитектуре Qwen4Exp. Модель содержит 125 млрд параметров, из которых активируются 6 млрд, а также 51 млрд параметров n-граммных эмбеддингов и 4 млрд параметров MTP. В README указаны гибридное внимание с Qwen Sparse Attention и Gated DeltaNet, MoE с 512 экспертами и нативный контекст 262 144 токена с расширением до 1 млн. Модель предназначена для диалогов, визуально-языковых запросов и агентных сценариев с длинным контекстом, включая работу с изображениями, документами и программными задачами. README описывает базовую Qwen3.8-Flash-Next и её тестирование в агентных и визуальных бенчмарках, но не приводит отдельной оценки именно этой производной версии. Теги heretic, uncensored, decensored и abliterated указывают на модификацию ограничений поведения, однако конкретная методика изменений не описана. В репозитории указаны веса Safetensors и библиотека Transformers. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой и лицензией базовой модели перед применением.

SuperQwen3.8-27b-abliterated-i1-GGUF — набор GGUF-квантизаций мультимодальной модели SuperQwen3.8-27b-abliterated, базовая модель которой разработана Jiunsong. Квантизации подготовлены mradermacher при поддержке nethype GmbH; отдельная благодарность указана nicoboss за вычислительные ресурсы. Модель предназначена для задач image-text-to-text, рассуждений, вызова инструментов и работы с длинным контекстом. Модель имеет около 27 миллиардов параметров, поддерживает обработку текста и изображений, а заявленный размер контекста достигает 262 тысяч токенов. В метаданных указаны английский и корейский языки. Репозиторий содержит варианты с разной степенью квантизации — от i1-Q2_K размером около 11 ГБ до i1-Q6_K размером около 22,5 ГБ, что позволяет выбирать компромисс между размером, скоростью и качеством. Для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория. Сильные стороны модели — мультимодальность, длинный контекст, поддержка reasoning и tool-calling, а также широкий выбор GGUF-вариантов для локального запуска. Ограничения включают неизбежные потери качества при низкой квантизации, необходимость совместимого программного обеспечения для GGUF и возможную потребность в дополнительных файлах для обработки изображений. Лицензия — Apache-2.0.

BgGPT-Gemma-3-12B-IT — плотно-архитектурная мультимодальная модель семейства Gemma 3, разработанная INSAIT и дообученная на базе google/gemma-3-12B-it для болгарского языка. Она принимает текст и изображения, поддерживает диалоговый режим и предназначена для следования инструкциям, многоходовых бесед, ответов на вопросы и понимания изображений в контексте с текстом. Модель содержит 12 млрд параметров и имеет заявленную эффективную длину контекста 131 тыс. токенов. Данные предварительного обучения охватывают период до мая 2025 года, а инструкционное дообучение — до октября 2025 года. Карточка указывает поддержку болгарского и английского языков; веса опубликованы в формате safetensors для Transformers. Лицензия Gemma.

German-RAG-PHI-3.5-MINI-4B-MERGED-HESSIAN-AI — языковая модель команды Avemio AI при поддержке Hessian AI, предназначенная для немецкоязычных задач с поиском и использованием документов. Это авторегрессионный трансформер с плотной архитектурой LlamaForCausalLM; в метаданных указано 3,7 млрд параметров и контекст до 131 072 токенов. Модель объединена методом SLERP из German-RAG-PHI-3.5-MINI-4B-SFT-HESSIAN-AI и German-RAG-PHI-3.5-MINI-4B-ORPO-HESSIAN-AI. Модель подходит для ответов на вопросы по найденным документам, извлечения релевантной информации и суммаризации контекста на немецком и английском языках. В карточке приведены результаты оценивания качества языка, правильности ответов и следования инструкциям; на наборе задач извлечения модель показала улучшение относительно указанных вариантов SFT и ORPO. Весам и коду модели указана лицензия MIT. Модель может генерировать вредный или чувствительный контент, в том числе из-за смещений, а фактические утверждения могут быть неверными и требуют проверки. Для надежных ответов следует предоставлять релевантный контекст и проверять результат.

LFM2.5-2.6B — компактная текстовая модель Liquid AI для локального запуска и агентных сценариев на устройствах с ограниченными ресурсами. Это дообученная на базе LiquidAI/LFM2.5-2.6B-Base модель семейства LFM2: плотная архитектура Lfm2ForCausalLM с 2,6 млрд параметров, 30 слоями, включая блоки коротких свёрток и GQA. Модель поддерживает контекст до 131 072 токенов и работает с Transformers, vLLM и SGLang; для репозитория указан формат safetensors. Модель предназначена для диалогов, вызова инструментов, многошаговых агентных задач, извлечения данных, RAG и работы с длинным контекстом. В README заявлена многоязычная поддержка 17 языков, включая русский, а также постобучение с обучением с подкреплением в популярных агентных средах. README приводит высокую скорость инференса на отдельных устройствах, но эти показатели зависят от оборудования и условий запуска. Модель не рекомендуется для агентного программирования и задач, требующих обширных знаний. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели и документах Liquid AI.

Llama-3-Taiwan-8B-Instruct — диалоговая языковая модель на архитектуре Llama 3, опубликованная yentinglin и дообученная для пользователей традиционного китайского языка и английского. Карточка описывает семейство Llama-3-Taiwan и приводит сведения о версии на 70B параметров, тогда как метаданные этого репозитория указывают 7,5 млрд параметров; поэтому характеристики размера и примеры оценки версии 70B нельзя напрямую переносить на вариант 8B. Модель предназначена для многоходового диалога, генерации и понимания текста, ответов в сценариях RAG, форматированного вывода, извлечения сущностей и вызова функций. В карточке описано обучение на корпусе традиционного китайского и английского языков с общими и отраслевыми материалами, в том числе из юридической, производственной, медицинской и электронной областей. Модель принимает текст и генерирует текст; метаданные указывают контекст 8192 токена, архитектуру LlamaForCausalLM и формат safetensors. Модель выпущена по лицензии Llama 3. Её заявленная специализация — традиционный китайский, включая тайваньский вариант, и английский. README относится преимущественно к версии 70B, поэтому приведённые там результаты испытаний, подробности корпуса и демонстрации не подтверждают качество именно версии 8B. Для работы с этой инструкционной версией в карточке рекомендовано задавать системное сообщение.

greghavens/Qwen3.8-27B-bnb-4bit — это 4-битная NF4-квантизованная версия мультимодальной модели Qwen3.8-27B, разработанной Qwen. Модель предназначена для обработки текста и изображений, включая задачи visual question answering, генерацию текста по изображениям и работу с агентами и инструментами. Указан английский язык. Размер модели — около 18,60 ГБ в шести сегментах, что позволяет запускать её на одной видеокарте с 24 ГБ памяти при использовании bitsandbytes и совместимого ускорителя. Квантизация применяется к 496 языковым линейным слоям, тогда как vision tower, lm_head, входные эмбеддинги и нормализующие слои сохранены в bfloat16. В комплекте также присутствует MTP head в bfloat16 для speculative decoding в vLLM и SGLang, хотя Transformers его не использует. Модель совместима с Transformers и поддерживает QLoRA-файнтюнинг через PEFT. Контекст модели в README не указан. По заявленным измерениям, квантизация почти не меняет результаты IFEval и NoveltyBench, а ухудшение perplexity на Wikitext-2 составляет около 1,14%. При этом показатель BFCL для вызова инструментов снижается с 0,8218 до 0,8113, а на нерелевантные запросы модель чаще ошибочно генерирует вызов инструмента. Для Blackwell и сценариев, ориентированных только на инференс, README рекомендует более быстрые варианты NVFP4 или FP8. Модель распространяется по лицензии Apache-2.0.

topk-embed-v1-xsmall — компактная мультимодальная модель извлечения признаков с поздним взаимодействием, дообученная на базе Qwen/Qwen3.5-0.8B. Она предназначена для поиска по текстовым документам и изображениям страниц, например сканированных страниц, отчётов и слайдов, по текстовому запросу. Модель сохраняет несколько векторов для токенов текста или участков изображения и использует оценку MaxSim: сопоставляет каждый вектор запроса с наиболее похожим вектором документа и суммирует оценки. Репозиторий использует SentenceTransformers и формат safetensors; модель имеет размер 0,8 млрд параметров. В карточке приведены результаты поиска по восьми наборам ViDoRe v3, включая запросы на нескольких языках и поиск как по изображениям страниц, так и по соответствующему тексту Markdown. Метаданные указывают поддержку английского, русского, французского, нидерландского, немецкого, испанского, итальянского, португальского, датского, норвежского, шведского, китайского, японского и корейского языков. Лицензия — Apache-2.0. Для запуска через SentenceTransformers README требует CUDA GPU с поддержкой bfloat16 (Ampere или новее).

Gemma-3-12b-it-GGUF — квантизированная GGUF-версия мультимодальной модели Gemma 3 12B Instruct, разработанной Google и квантизированной Second State Inc. Модель предназначена для диалогов, генерации и анализа текста, а также обработки изображений с использованием соответствующего мультимодального проектора. Модель содержит 12 миллиардов параметров и поддерживает контекст до 128 000 токенов. Доступны варианты квантизации от Q2_K до Q8_0, а также версия f16; размеры файлов составляют примерно от 4,77 до 23,5 ГБ. Для обработки изображений требуется файл gemma-3-12b-it-mmproj-f16.gguf, изображения необходимо нормализовать до разрешения 896×896, при этом каждое изображение кодируется в 256 токенов. README не указывает поддерживаемые языки. Основные преимущества — большой контекст, поддержка текста и изображений и возможность локального запуска через LlamaEdge. Качество и требования к ресурсам зависят от выбранной квантизации: малые варианты экономичнее, но могут заметно терять в качестве, тогда как Q4_K_M, Q5_K_M и Q5_K_S обозначены как рекомендуемые. Для запуска через LlamaEdge требуется версия 0.18.5 или новее. Модель распространяется по лицензии Gemma.

zeromodels/gemma-4-12b-it — конверсия Gemma 4 12B Instruct в формате Keras 3 от zeromodels. Модель содержит около 11,95 млрд параметров и представлена в bfloat16; реализация запускается на TensorFlow, PyTorch и JAX. Вариант предназначен для генерации ответов по тексту, изображениям и аудио: принимает эти типы входных данных и выдаёт текст. Доступен также текстовый режим. В README указано окно скользящего внимания 1024 токена; это не следует трактовать как полный размер контекста. Модель унаследована от google/gemma-4-12B-it и распространяется по лицензии Apache 2.0.

gemma-4-12B-it-GGUF — это GGUF-сборка мультимодальной модели Google DeepMind gemma-4-12B-it, опубликованная prithivMLmods. Модель предназначена для генерации и понимания текста, анализа изображений, видео и аудио, категоризации контента, сжатия контекста и локальных AI-приложений без зависимости от API. Она также ориентирована на агентские сценарии и многошаговое рассуждение. Модель имеет 12 млрд параметров и унифицированную encoder-free архитектуру: текстовые, визуальные и аудиоданные поступают непосредственно в основу LLM без отдельных vision- и audio-энкодеров. Заявлены сниженные задержка и потребление памяти, поддержка Multi-Token Prediction для ускорения вывода и работа на устройствах примерно с 16 ГБ памяти. В README указан английский язык и мультимодальный режим image-text-to-text; размер контекста не указан. Доступны варианты GGUF от Q2_K до Q8_0, а также BF16 и F16, с размерами основных файлов от 4,83 до 23,8 ГБ. Сильными сторонами являются мультимодальность с нативной поддержкой аудио, возможность локального запуска и широкий выбор уровней квантования. Ограничения README не описывает; в частности, отсутствуют подробности о фактической производительности, поддерживаемых языках кроме английского, максимальном контексте и требованиях к конкретному оборудованию. Модель распространяется по лицензии Apache 2.0.

German-RAG-MISTRAL-7B-v3.0-ORPO-HESSIAN-AI — авторегрессионная языковая модель на архитектуре Transformer Mistral, разработанная командой Avemio AI при поддержке Hessian AI. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Модель дообучена методом ORPO на немецкоязычных и англоязычных данных для сценариев Retrieval-Augmented Generation (RAG). Она предназначена для ответов на вопросы по найденным документам и контексту, извлечения релевантной информации, суммаризации и рассуждений. В README приведены результаты тестирования на наборах для извлечения, ответов на вопросы, суммаризации и сложных рассуждений; это результаты авторской оценки, а не гарантия качества для конкретных данных. Модель может выдавать неверные факты, поэтому ответы следует проверять. Без дополнительной фильтрации она может генерировать вредный или чувствительный контент. Лицензия модели и кода — Apache 2.0.

LFM2.5-230M Propella — компактная языковая модель примерно на 221,2 млн параметров, разработанная для генерации структурированных JSON-аннотаций и извлечения метаданных из англоязычного текста. Это дообучение LiquidAI/LFM2.5-230M на наборе agentlans/c4-en-propella; аннотации для обучающих данных были подготовлены с помощью ellamind/propella-1-0.6b. Модель использует плотную архитектуру LFM2 и поддерживает контекст до 128 000 токенов. Модель подходит для классификации и разметки текста, когда результат нужно получить в структурированном JSON-формате. Она рассчитана на быстрый запуск и небольшие ресурсы; доступна через Transformers, а формат весов в репозитории — safetensors. Лицензия — LFM Open License v1.0, унаследованная от базовой модели. Небольшой размер повышает эффективность, но качество аннотаций может уступать модели-учителю ellamind/propella-1-0.6b. Формат JSON иногда может быть некорректным, поэтому результаты рекомендуется проверять парсером; модель обучена исключительно на английском тексте, и её качество на других языках не гарантируется.

CYFRAGOVPL/Llama-PLLuM-8B-chat-2512 — чат-модель семейства PLLuM, разработанная альянсом HIVE AI на основе работ консорциума PLLuM. Это плотная авторегрессионная модель архитектуры Llama с 7,5 млрд параметров, выровненная для диалога с помощью инструкционного дообучения и обучения на предпочтениях. Она принимает текст и генерирует ответы, сводки и другие тексты; особенно ориентирована на польский язык, при обучении также использовались англоязычные данные. Контекстное окно — до 131 072 токенов. Модель подходит для вопросов и ответов, извлечения сведений, суммаризации и создания специализированных помощников. В README отдельно отмечена применимость к польской публичной администрации и юридической или бюрократической тематике, особенно вместе с поиском по документам. Для таких сценариев актуальность и точность ответов зависят от качества подключённого поиска и источников. Репозиторий содержит веса в формате safetensors; лицензия — Llama 3.1.

LwQ-30B-Instruct — инструкционно настроенная авторегрессионная языковая модель семейства Llama, разработанная prithivMLmods на базе meta-llama/Llama-3.1-8B-Instruct. В метаданных указаны 32,3 млрд параметров, архитектура LlamaForCausalLM, библиотека Transformers и контекст 2048 токенов. Модель предназначена для многоязычного диалога, следования инструкциям, математических рассуждений и решения задач с учетом контекста; также может создавать тексты, краткие изложения и ответы на вопросы. В карточке заявлено обучение на синтетических наборах данных для рассуждений и настройка для инструкционного взаимодействия. Модель принимает текст и генерирует текст; метаданные указывают английский язык, а README заявляет многоязычное применение без перечисления конкретных языков. Указанная лицензия — llama3.1. Среди ограничений отмечены возможные ошибки в сложных рассуждениях и узких темах, различия качества между языками, смещения, чувствительность к неоднозначным инструкциям и ограниченное контекстное окно.

SuperAGI разработала Mistral-7B-32K-PoSE — плотную авторегрессионную языковую модель семейства Mistral с 7,1 млрд параметров. С помощью техники PoSE контекст модели расширен до 32 768 токенов; README сообщает о высокой эффективности в извлечении информации из длинного контекста и лишь небольшом снижении результатов на стандартных тестах. Модель предназначена для генерации текста и работы с длинными текстовыми запросами, в частности для поиска конкретных сведений в больших фрагментах текста. Она доступна в формате safetensors и распространяется по лицензии Apache-2.0. В README приведён пример загрузки через Transformers. У модели нет механизмов модерации и защитных ограничений; разработчики предупреждают о рисках токсичности, социальных предубеждений и ограничений по языкам и не рекомендуют её для использования в production без дополнительных мер безопасности.

MuXodious/Muse-Glimmer-30B-SOMPOA-heresy — дообученная версия мультимодальной Muse-Glimmer-30B, созданная автором репозитория с помощью движка Heretic и абляции SOMPOA. Это плотный трансформер для условной генерации, содержащий около 29,6 млрд параметров; принимает текст и изображения и предназначен для диалоговой работы с визуальными данными. Модель подходит для анализа изображений, документов, диаграмм и снимков экрана в диалоге, а также для многошаговых агентных задач и вызова инструментов. В README описаны результаты снижения числа отказов, однако автор отмечает, что модель всё ещё ссылается на свои правила и требует дальнейшей проверки и перенастройки; приведённые результаты не гарантируют надёжность в реальных сценариях. Языки и длина контекста этой версии отдельно не описаны. Модель распространяется по лицензии Apache 2.0. README предупреждает о возможных неточных, предвзятых или нежелательных ответах и рекомендует проводить собственную оценку безопасности для целевого применения. Аудиоввод и аудиовывод не поддерживаются.

Pythia-Chat-Base-7B — диалоговая языковая модель, разработанная Together Computer в рамках OpenChatKit и дообученная на базе Pythia-7B от EleutherAI. Для настройки использовались более 40 млн инструкций, а затем небольшая выборка отзывов людей для адаптации ответов к предпочтениям пользователей. Модель имеет плотную архитектуру GPT-NeoX, около 8,8 млрд параметров и контекст до 2048 токенов; основной язык — английский. Модель предназначена для чат-ботов и диалоговых сценариев. Она подходит для ответов на вопросы по предоставленному контексту, суммаризации, извлечения информации и классификации; в задачах классификации и извлечения может помогать несколько примеров в запросе. По README, инференс в обычном режиме требует GPU с 24 ГБ памяти, а режим Int8 позволяет использовать GPU с 12 ГБ. Модель распространяется по лицензии Apache 2.0. Модель может галлюцинировать при ответах на фактические вопросы, повторять ответы и терять нить разговора при смене темы. Она слабо подходит для программирования, длинных творческих текстов и критически важных решений; результаты следует проверять.

Это квантованная в формат NVFP4 версия мультимодальной модели Qwen3.5-9B, подготовленная FreedomAISVR на основе Qwen/Qwen3.5-9B. Модель предназначена для диалога и генерации текста, а вместе с файлом проектора mmproj — для понимания изображений. В README заявлены гибридная архитектура Gated DeltaNet и Gated Attention, контекст до 262 144 токенов и поддержка 201 языка; в метаданных подтверждены английский, китайский и многоязычный режимы. Веса хранятся в GGUF: основной файл NVFP4 занимает 5,31 ГБ, а проектор зрения в F16 — 918 МБ. Формат оптимизирован для ускорения на видеокартах NVIDIA Blackwell; производительность и совместимость на других устройствах могут отличаться. Репозиторий распространяется по лицензии Apache-2.0.

pinialt/bert-tiny-pii-router — компактная модель классификации текста от pinialt, предназначенная для маршрутизации запросов в конвейерах обнаружения персональных данных. Она оценивает, какие специализированные обработчики следует запускать для текста: извлечение именованных сущностей, геокодирование адресов, разбор дат и времени или поиск шаблонных идентификаторов регулярными выражениями. Результат — вероятности для четырёх категорий маршрутизации; автор рекомендует порог 0,5. Модель основана на компактном BERT-энкодере google/bert_uncased_L-4-H-256-A-4 и обучена с дистилляцией знаний от XLM-RoBERTa. В карточке указаны 12 млн параметров, контекст до 512 токенов и поддержка английского языка. README сообщает о приросте скорости в 9,1 раза и сохранении 96% точности учителя, но не приводит подробностей методики оценки. Модель принимает текст и выдаёт метки с вероятностями. Лицензия — Apache-2.0.

DeepSeek-V4-Flash-Vision-Exp — экспериментальная мультимодальная модель семейства DeepSeek-V4, разработанная DeepSeek AI. Она построена на архитектуре DeepSeek-V4-Flash, дополненной визуальными модулями и дообученной для понимания изображений. Модель предназначена для мультимодальных агентских сценариев, анализа визуальной информации, работы с диаграммами и задач, где требуется сочетать текстовые и графические входные данные. Для текстовых агентских задач она сохраняет сопоставимую с DeepSeek-V4-Flash-0731 производительность. В репозитории заявлена поддержка OpenAI-style сообщений с блоками изображений и компактного TXT-формата с тегами <image>. Доступны tokenizer, средства кодирования запросов и минимальная реализация инференса на PyTorch, включающая vision encoder и aligner, DFlash attention, Mixture-of-Experts, Hyper-Connections и DSpark forward path. Точные размер модели, длина контекста, перечень поддерживаемых языков и характеристики визуального входа в представленном README не указаны. Сильная сторона модели — улучшенные мультимодальные агентские возможности по сравнению с DeepSeek-V4-Flash-0731; в README приведены результаты на ApexBench, Agents' Last Exam, Chartography и ZeroBench, а также набор текстовых агентских бенчмарков. Ограничения включают экспериментальный статус и отсутствие подробных сведений о масштабах, языках и требованиях к аппаратному обеспечению. Репозиторий распространяется по лицензии MIT.

Gemma-4-E4B-it-NVFP4 — мультимодальная instruct-модель семейства Gemma 4, созданная на основе google/gemma-4-E4B-it и оптимизированная для диалогового и чат-применения. Квантованную версию подготовил Mario Iseli с использованием NVIDIA Model Optimizer на платформе NVIDIA DGX Spark. Модель предназначена для генерации текста, а также обработки изображений и аудио; заявлена поддержка multilingual-сценариев и контекстного окна до 128K токенов. Архитектура основана на плотной модели с механизмом Per-Layer Embeddings (PLE), где каждый из 26 декодерных слоёв получает специализированный 256-мерный сигнал. Вариант использует квантование NVFP4 по схеме W4A4: веса и активации языковых слоёв представлены в FP4, а башни обработки изображений и аудио, соответствующие проекционные слои и lm_head сохранены в BF16. Размер модели на диске составляет около 10,2 ГБ, при этом мультимодальные компоненты занимают значительную часть памяти. Ключевые преимущества — уменьшенный размер, возможность запуска на совместимом оборудовании NVIDIA и высокая заявленная скорость около 65 токенов в секунду на DGX Spark. Ограничения включают необходимость vLLM с transformers версии 5.4 или новее, зависимость от поддержки NVFP4 и сохранение значительного потребления памяти мультимодальными башнями. Это общественная квантованная сборка, а не официальный релиз NVIDIA или Google. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

md-reheader — созданная Джоэлом Барметтлером в Souverana модель на базе Qwen3, дообученная для восстановления уровней заголовков в Markdown-документах. Она анализирует структуру текста и предсказывает для каждого заголовка уровень H1–H6; модель рассчитана на обработку Markdown, полученного, например, при конвертации PDF, и на запуск локально через CLI, Python API или сервер vLLM. Модель имеет плотную архитектуру Qwen3ForCausalLM и содержит 507,9 млн параметров. Она принимает текст и генерирует текст с восстановленной иерархией заголовков; основной язык обучения — английский. Контекстное окно составляет 40 960 токенов, однако README указывает, что после предварительного удаления основного текста документы длиннее 8 000 токенов обрезаются: заголовки за пределами этого предела сохраняют исходный уровень. Модель специализируется на одной задаче, поэтому подходит для автоматизации подготовки Markdown перед навигацией и разбиением документов на фрагменты для RAG. Лицензия — Apache-2.0.

Ornith-1.5-35B-A3B-NInfer — производный инференс-артефакт модели Ornith-1.5-35B-A3B, разработанной Ornith AI. Это мультимодальная языковая модель архитектуры Qwen 3.5 Mixture-of-Experts, принимающая текст и изображения. Артефакт предназначен для запуска и обслуживания через движок NInfer, а не является исходным репозиторием модели. Модель содержит 40 слоёв и 256 экспертов, из которых для каждого токена активны 8; эффективный объём активных параметров составляет около 3 млрд при общем классе модели 35B. Используются скрытый размер 2048, GQA с 16 attention- и 2 KV-головами, словарь из 248 320 токенов и контекст до 262 144 позиций. Зрительный энкодер состоит из 27 слоёв. Артефакт включает DFlash-компонент для multi-token prediction и обученную MTP-head, оптимизированную с помощью knowledge distillation. Заявленный язык — английский. Весы упакованы в единый файл размером около 21,22 GiB с групповой смешанной квантизацией Q4, Q5, Q6 и W8; часть тензоров сохранена в BF16. По измерениям из карточки, обученная MTP-head повысила долю принятых черновых токенов с 21,8% до 39,0% и увеличила скорость декодирования примерно на 21,5% в указанной конфигурации RTX 5090 и однопоточном CLI-тесте. Ограничения включают зависимость от движка NInfer, специфичного формата артефакта и доступности соответствующих аппаратных ресурсов; приведённые показатели не являются универсальной гарантией производительности. Базовая модель распространяется по лицензии MIT. Встроенная grafted MTP-head указана как производная от Qwen и распространяется по Apache-2.0, поэтому условия использования следует учитывать для компонентов отдельно.

PLLuM-12B-base-2512 — базовая большая языковая модель семейства PLLuM, разработанного сначала консорциумом PLLuM, а с 2025 года — альянсом HIVE AI для открытых языковых технологий. Модель предназначена прежде всего для польского языка; в обучении также использовались английские тексты. Это плотная авторегрессионная модель на архитектуре Mistral с 12,1 млрд параметров и контекстом до 131 072 токенов. Модель генерирует связный текст и может служить основой для ответов на вопросы, суммаризации, извлечения информации и специализированных помощников. Для польских государственных и юридических сценариев README рекомендует опираться на поиск по документам и RAG. В обучении семейства использовались продолженное предобучение, инструкции на польском языке и предпочтения аннотаторов; конкретно этот вариант обозначен как base, поэтому он не является специально выровненной версией для диалога. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Результаты для конкретного варианта 12B и пределы его качества в доступных сведениях не уточнены.

Карточка модели aria220/privacy-filter-multilingual на Hugging Face совпадает с карточкой OpenMed/privacy-filter-multilingual, поэтому описание составлено по ней. OpenMed разработала privacy-filter-multilingual — многоязычную модель для извлечения и разметки фрагментов с персональными данными в тексте. Это полноценно дообученная модель OpenAI Privacy Filter с архитектурой MoE и классификационной BIOES-разметкой токенов. Она распознаёт 54 категории PII, преобразованные в 217 меток BIOES, и предназначена для последующего маскирования или обезличивания текста. Модель рассчитана на арабский, бенгальский, китайский, нидерландский, английский, французский, немецкий, хинди, итальянский, японский, корейский, португальский, испанский, телугу, турецкий и вьетнамский языки. Она подходит для поиска персональных данных в документах и сообщениях, подготовки текста к передаче или хранению и интеграции в конвейеры защиты данных. Размер модели по метаданным — 145,4 млн параметров; нативный контекст — 131 072 токена. Качество распознавания неодинаково: авторы отмечают лучшие результаты для немецкого, испанского, французского, итальянского, хинди, телугу и английского; китайский, японский, корейский и некоторые языки с низким ресурсом остаются сложнее. Обучающие наборы синтетические, поэтому реальные медицинские, юридические и веб-тексты могут отличаться от обучающих примеров. Модель не предназначена специально для клинических медицинских данных и не заменяет проверку соответствия требованиям законодательства. Лицензия — Apache-2.0.

Карточка модели EdgeAIMed/privacy-filter-multilingual на Hugging Face совпадает с карточкой OpenMed/privacy-filter-multilingual, поэтому описание составлено по ней. OpenMed разработала privacy-filter-multilingual — многоязычную модель для извлечения и разметки фрагментов с персональными данными в тексте. Это полноценно дообученная модель OpenAI Privacy Filter с архитектурой MoE и классификационной BIOES-разметкой токенов. Она распознаёт 54 категории PII, преобразованные в 217 меток BIOES, и предназначена для последующего маскирования или обезличивания текста. Модель рассчитана на арабский, бенгальский, китайский, нидерландский, английский, французский, немецкий, хинди, итальянский, японский, корейский, португальский, испанский, телугу, турецкий и вьетнамский языки. Она подходит для поиска персональных данных в документах и сообщениях, подготовки текста к передаче или хранению и интеграции в конвейеры защиты данных. Размер модели по метаданным — 145,4 млн параметров; нативный контекст — 131 072 токена. Качество распознавания неодинаково: авторы отмечают лучшие результаты для немецкого, испанского, французского, итальянского, хинди, телугу и английского; китайский, японский, корейский и некоторые языки с низким ресурсом остаются сложнее. Обучающие наборы синтетические, поэтому реальные медицинские, юридические и веб-тексты могут отличаться от обучающих примеров. Модель не предназначена специально для клинических медицинских данных и не заменяет проверку соответствия требованиям законодательства. Лицензия — Apache-2.0.

RedHatAI/Qwen3-VL-32B-Instruct-FP8-dynamic — мультимодальная instruction-модель, разработанная Red Hat на основе Qwen/Qwen3-VL-32B-Instruct. Модель принимает текст и изображения, а генерирует текст; архитектура указана как Qwen3VLForConditionalGeneration. Она предназначена для диалоговых и аналитических сценариев, требующих понимания визуального содержимого, включая описание изображений и ответы на вопросы по диаграммам. Модель содержит 32 млрд параметров и использует динамическую FP8-квантизацию весов и активаций линейных операторов в трансформерных блоках языковой части. По заявлению авторов, это примерно на 50% снижает размер на диске и требования к GPU-памяти по сравнению с представлением FP16. В оценках с vLLM использовалась максимальная длина контекста 262144 токена и поддержка до 10 изображений, однако отдельные характеристики исходной модели, включая языки и полный контекст, в README не указаны. К сильным сторонам относятся мультимодальность, существенное сокращение требований к памяти и близкие к исходной модели результаты на MMLU: 77,89 против 78,03. На ChartQA заявлена точность 86,68, но эти результаты нельзя напрямую считать универсальной оценкой качества. Ограничения связаны с потерями точности и возможными особенностями FP8-квантизации, а также с тем, что квантизация применяется не ко всем компонентам модели. Для развёртывания рекомендуется vLLM с tensor parallelism; модель распространяется по лицензии Apache-2.0.

Smaug-Mini — мультимодальная модель Abacus.AI, дообученная на основе Qwen/Qwen3.8-27B для надёжного многошагового использования инструментов и автоматизации. Это плотная модель с архитектурой Qwen3_5ForConditionalGeneration и сохранённой башней зрения; она принимает текст и изображения и поддерживает контекст до 262 144 токенов. Модель работает в формате диалога и предоставляет интерфейс вызова инструментов. Обучение проводилось методом GRPO на многошаговых эпизодах автоматизации с проверкой результата; LoRA-адаптер языковой части был объединён с базовыми весами. По данным карточки, модель улучшает результаты ряда тестов на использование инструментов и автоматизацию, сохраняя общие возможности базовой модели примерно на прежнем уровне. Она подходит для агентных сценариев, где нужно рассуждать, вызывать инструменты и завершать задачи в среде. Лицензия — Apache-2.0. Головка многотокенного предсказания унаследована от базовой модели и не переобучалась, поэтому для неё не следует включать спекулятивное декодирование; обычное декодирование не затронуто. Данные обучения не раскрыты.