I.4Обработка документов и форм

Карточка модели brahim-23/eu-pii-anonimization-multilang на Hugging Face совпадает с карточкой bardsai/eu-pii-anonimization-multilang, поэтому описание составлено по ней. Многоязычная модель bards.ai для обнаружения и разметки персональных и чувствительных данных в тексте, предназначенная для последующего обезличивания. Она основана на XLM-RoBERTa-base и дообучена для классификации токенов с BIO-метками; охватывает 36 классов сущностей, включая идентификационные и контактные данные, финансовые и технические идентификаторы, сведения о здоровье, биометрические и генетические данные, а также специальные категории GDPR. Модель рассчитана на 24 официальных языка ЕС. Доступны веса Safetensors и ONNX, включая версию ONNX с INT8-квантизацией для CPU; размер модели — 305,2 млн параметров, контекст — до 514 токенов. Подходит для поиска данных перед сохранением документов, писем, обращений и переписок, очистки наборов данных и фильтрации текста в RAG-конвейерах и поисковых индексах. Лицензия — Apache-2.0. Точность зависит от языка, предметной области и качества входа; OCR-ошибки, смешение языков и неоднозначные упоминания могут ухудшать обнаружение. Для соответствия требованиям модель следует использовать как часть процесса проверки и обезличивания, а не как самостоятельную гарантию юридической достаточности.

Multilingual Privacy Filter — модель Tabularis AI для обнаружения персональных данных в тексте на 26 официальных языках ЕС. Она дообучена на XLM-RoBERTa-large и решает задачу классификации токенов: размечает фрагменты текста по 74 меткам, соответствующим 42 типам данных, включая имена, контакты, финансовые и идентификационные сведения, медицинские данные и цифровые идентификаторы. Модель рассчитана на выявление и последующую анонимизацию чувствительной информации, проверки конфиденциальности и поддержки процессов, связанных с GDPR. В карточке заявлены глобальная F1-оценка 97,02% и показатели выше 95% для всех языков. Метаданные указывают 658,7 млн параметров и контекст до 514 токенов; в README указан максимальный размер входа 256 токенов, поэтому для практического применения следует ориентироваться на ограничения конфигурации и используемого пайплайна. Модель принимает текст и возвращает метки токенов. Лицензия — Apache-2.0.

RedHatAI/gemma-3-4b-it-FP8-dynamic — это динамически квантизированная версия мультимодальной модели google/gemma-3-4b-it, разработанная Neural Magic. Модель принимает текст и изображения, а генерирует текст; заявленный язык — английский. Она предназначена для задач понимания изображений, визуально-текстового диалога и обычной генерации текста. Модель основана на архитектуре gemma-3-4b-it и содержит около 4 миллиардов параметров. Веса и активации квантизированы в формат FP8, что снижает требования к памяти и может повысить эффективность инференса при сохранении близкого к исходной модели качества. Для развертывания заявлена совместимость с vLLM версии 0.5.2 и новее, включая OpenAI-совместимый режим сервинга. В тестах OpenLLM v1 средний результат составил 64,69% против 64,70% у исходной модели, а на указанных vision-бенчмарках — 44,97% против 45,33%. Сильная сторона модели — сочетание текстовых и визуальных возможностей с эффективным FP8-инференсом и минимальной потерей качества относительно базовой модели. Ограничения включают заявленную ориентацию на английский язык, зависимость от совместимого стека vLLM и возможное влияние квантизации на отдельные задачи; подробные сведения о максимальном контексте и полном наборе поддерживаемых языков не указаны. Модель распространяется по лицензии Apache 2.0.

Vontra/GLM-5.3-Flash-MLX-oQ4-MTP — это мультимодальная версия модели GLM-5.3-Flash от Z.ai, преобразованная Vontra в формат MLX для запуска на Apple Silicon. Модель предназначена для задач, связанных с обработкой текста и изображений, включая диалоговое взаимодействие и генерацию ответов в vision-language сценариях. Поддерживаются английский и китайский языки. Модель использует архитектуру glm5_next с разреженной mixture-of-experts, гибридным линейным и разреженным вниманием, manifold-constrained hyper-connections и встроенным слоем предсказания следующего токена. Контекст настроен на 1 048 576 токенов. Веса представлены в формате MLX safetensors и сжаты методом oQ4: основная часть использует 4-битное аффинное квантование с выборочными переопределениями точности 5, 6 и 8 бит. Размер загрузки составляет около 185,7 ГБ. Сохранены исходные токенизатор, шаблон чата, мультимодальный процессор и конфигурация генерации. К сильным сторонам относятся мультимодальность, очень длинный контекст, смешанная точность с защитой чувствительных модулей и встроенная поддержка native MTP для ускорения генерации. Ограничения — значительный объём модели, зависимость от Apple Silicon и необходимость совместимого runtime: требуются MLX-VLM с интеграцией GLM5 Next и сборка oMLX с поддержкой oQ и native MTP; старые версии не поддерживаются. В опубликованном тесте на Apple M3 Ultra с 256 ГБ unified memory базовый режим показал 6,2155 токена/с, а режим native MTP — 4,9969 токена/с. Модель распространяется по лицензии MIT.

next2.5-i1-GGUF — это набор квантованных моделей в формате GGUF на базе thelamapi/next2.5, подготовленный и опубликованный mradermacher. Модель относится к мультимодальным vision-language моделям и предназначена для генерации текста, работы с изображениями и текстом, а также задач рассуждения. В обучении или дообучении использовались наборы данных FineTome-100k, CognitiveKernel-Pro-SFT, KAG-Thinker-training-dataset и ChatGPT-4o-Writing-Prompts. Заявлена поддержка турецкого, английского, немецкого, испанского, французского, русского, китайского, японского и корейского языков. В README модель обозначена как модель примерно на 4 млрд параметров, ориентированная в том числе на edge-устройства. Доступны варианты квантования от IQ1_S до Q6_K размером примерно от 1,3 до 3,6 ГБ; качество и скорость зависят от выбранного варианта. Для работы с изображениями могут потребоваться отдельные файлы mmproj из статического репозитория. Размер контекстного окна и точные сведения об архитектуре не указаны. Сильными сторонами являются мультимодальность, многоязычность, поддержка режима рассуждения и широкий выбор квантований для запуска на устройствах с ограниченными ресурсами. Ограничения включают возможное снижение качества при использовании наиболее компактных квантований, а также отсутствие в README подробных характеристик производительности и контекстного окна. Модель распространяется по лицензии Apache-2.0.

OELLM 9B 128K theta32m v3 — базовая мультиязычная языковая модель OpenEuroLLM, созданная на основе baby_9b_dense с архитектурой Qwen3 Dense. Это версия полного обучения: контекст расширен с 4K до 128K токенов с помощью ABF и масштабирования RoPE с θ=32M; модель обучалась на 2 млрд токенов. Используйте её для генерации продолжений и извлечения сведений из длинного контекста; она не проходила инструкционную настройку и предназначена для работы как completion-модель. В тесте NIAH с одним целевым фрагментом модель показала 100% на 128K токенах в 12 европейских языках. Это результат узкого теста извлечения, поэтому он не гарантирует аналогичного качества на широком наборе задач или при поиске нескольких фрагментов. Модель использует Transformers и формат PyTorch. Лицензия — Apache-2.0.

Sheltron Privacy Filter Ettin 32M — компактная модель Sheltron для обнаружения фрагментов текста, содержащих приватные данные и секреты. Это классификатор токенов на базе ModernBERT, дообученный на jhu-clsp/ettin-encoder-32m; модель содержит около 31,9 млн параметров и поддерживает контекст до 7999 токенов по метаданным. README указывает, что обучение и оценка проводились на последовательностях длиной 512 токенов, поэтому более длинный текст рекомендуется обрабатывать перекрывающимися окнами по 512 токенов с шагом 128. Модель размечает восемь категорий: номера счетов, адреса, даты, электронную почту, имена людей, телефонные номера, URL и секреты. Она предназначена для быстрого скрининга электронной почты, сообщений, переписок и команд, а её выход совместим по формату с OpenAI Privacy Filter. Доступны контрольная точка Safetensors FP32 и варианты ONNX, включая FP16; для ONNX нужен ONNX Runtime. Лицензия — Apache-2.0. Для воспроизведения метрик и корректного декодирования README предписывает применять ограниченный алгоритм Viterbi с калибровкой из viterbi_calibration.json, а не выбирать метки для каждого токена независимо. Базовая модель — англоязычный энкодер; в метаданных указан английский язык.

darkc0de/Qwen3.5-27B-heretic — дообученная версия мультимодальной модели Qwen3.5-27B, созданная с применением abliteration для снижения частоты отказов. В приведённом сравнении модель отказала в 6 из 100 проверочных запросов, тогда как исходная версия — в 95 из 100; также указано значение KL divergence 0,0445 относительно оригинала. Модель предназначена для диалогов, рассуждений и анализа изображений. Она принимает текст и изображения и формирует текстовые ответы; базовая архитектура Qwen3.5 использует языковую модель с визуальным энкодером и гибридные блоки Gated Delta Networks и gated attention. Размер базовой модели — 27 млрд параметров, нативный контекст — 262 144 токена с возможностью расширения до 1 010 000. В README заявлена поддержка 201 языка и диалекта для семейства Qwen3.5; конкретный перечень языков в карточке опущен. Модель распространяется в формате safetensors и совместима с Transformers и рядом серверов инференса, включая vLLM и SGLang. Лицензия — Apache-2.0. Снижение отказов может означать меньшую склонность отказывать на запросы, но приведённое сравнение не описывает методику тестирования и не гарантирует качество или безопасность ответов; длительный контекст требует значительных вычислительных ресурсов.

FreedomAISVR/Qwen3.5-4B-MTP-NVFP4-GGUF — квантизированная сборка мультимодальной модели Qwen3.5-4B, разработанной командой Qwen компании Alibaba. Репозиторий содержит веса GGUF в формате NVFP4 и проектор изображений SigLIP ViT в F16; заявлена поддержка Multi-Token Prediction (MTP), предсказывающей два токена за шаг генерации. Сборка рассчитана прежде всего на ускоренный запуск на видеокартах NVIDIA Blackwell и предназначена для использования через llama.cpp и совместимые инструменты. Модель подходит для генерации текста и диалога, а с мультимодальным проектором — для обработки изображений вместе с текстовым запросом. README указывает контекстное окно 262 144 токена, мультиязычность и режим рассуждения, включённый по умолчанию. В архитектуре базовой модели описаны гибридные слои Attention и Mamba-2, MLA и 3D MRoPE. NVFP4 может ускорить инференс на Blackwell; заявленное увеличение пропускной способности MTP до 30–40% приведено автором репозитория и не является независимым бенчмарком. Лицензия — Apache-2.0. Формат NVFP4 ориентирован на GPU Blackwell; для более старых видеокарт и CPU автор рекомендует другие варианты квантования. Это производный квантованный артефакт, а не отдельное дообучение базовой модели.

SauerkrautLM-ColLFM2-450M-v0.1 — компактная модель визуального поиска по документам от VAGO Solutions. Это дообученная версия LiquidAI/LFM2-VL-450M с архитектурой ColLFM2 и 450 млн параметров, предназначенная для сопоставления текстовых запросов со страницами документов по их визуальному содержимому. Модель преобразует запросы и изображения документов в многовекторные представления для поиска с поздним взаимодействием. Такой подход помогает учитывать структуру страниц, таблицы, графики и формы без отдельного этапа OCR. В карточке приведены результаты на наборах ViDoRe и MTEB, включая многоязычные задания. Заявлена поддержка английского, немецкого, французского, испанского, итальянского и португальского языков. Для загрузки авторы предлагают пакет sauerkrautlm-colpali и примеры использования с sentence-transformers. В репозитории указана лицензия other; её конкретные условия следует проверить перед использованием. Модель рассчитана на поиск релевантных страниц по текстовым запросам, а не на генерацию ответов или текста.

TheUnderscore/Swift-Qwen3.8-27b-W4A16-AWQ — квантизированная версия модели Swift-Qwen3.8-27b от UkisAI, подготовленная в формате AWQ с использованием compressed-tensors. Модель относится к семейству Qwen3.5/Qwen3.8 и предназначена для генерации текста и мультимодальных сценариев image-text-to-text, где требуется обработка изображений и текста. В репозитории указана библиотека Transformers, а запуск протестирован с LMDeploy Turbomind. Основная часть линейных весов представлена в формате W4A16: используются 4-битные асимметричные веса с размером группы 128 и 16-битные активации. Эмбеддинги, lm_head, нормализации, отдельные компоненты linear attention, vision tower и MTP head сохранены в BF16. Размер базовой модели — 27 млрд параметров. Архитектура использует гибридное внимание, а параметры модели и рекомендуемые настройки генерации унаследованы от базовой версии; поддерживаемые языки и максимальный размер контекста в README не указаны. Ключевое преимущество версии — существенное снижение требований к памяти за счёт W4A16-квантизации при сохранении полной точности отдельных мультимодальных и вспомогательных компонентов. Для запуска рекомендуется LMDeploy Turbomind с форматом compressed-tensors; пример конфигурации использует tensor parallelism с tp=2. Ограничения включают необходимость gated-доступа к весам Swift и потенциальные особенности совместимости с поддерживаемым программным стеком; отдельные количественные оценки качества после квантизации не приведены. Модель распространяется по лицензии Swift Open License v1.0. Персональное, исследовательское, образовательное, оценочное и коммерческое использование бесплатно для физических и юридических лиц с годовой регулярной выручкой, включая аффилированные организации, до 1 000 000 долларов США. При превышении этого порога для коммерческого использования требуется отдельная Swift Enterprise License.

timm/vit_pe_lang_gigantic_patch14_448.fb — вариант только с визуальным энкодером семейства Perception Encoder (PE), опубликованный Meta и преобразованный для библиотеки timm. Модель принимает изображения и выдаёт визуальные признаки; это чекпойнт PE-Lang-G14-448 с патчами 14×14 и разрешением 448 пикселей. PE Lang обучалась на визуально-языковом выравнивании и предназначена для использования в мультимодальных системах с языковым декодером, например Llama или Qwen. Энкодер особенно подходит для извлечения признаков, которые можно использовать в ответах на вопросы по изображениям и документам, OCR-сценариях, классификации и поиске по изображениям. В опубликованных Meta оценках PE-Lang-G14-448 показала сильные результаты на DocVQA, InfoQA и TextVQA при работе с замороженным энкодером и декодером Llama 3.1 8B. Этот репозиторий содержит только энкодер, а не готовую систему для диалога или генерации ответов; упомянутые результаты зависят от декодера и настройки системы. Лицензия — Apache 2.0.

HiTZ/cap-punct-es — модель центра HiTZ при Университете Страны Басков UPV/EHU для восстановления заглавных букв и пунктуации в испанском тексте. Она обучена с нуля на базе Marian NMT на корпусе примерно из 9,8 млн предложений. Архитектура — MarianMTModel, размер — 41,6 млн параметров, максимальная длина контекста — 512 токенов. Модель принимает текст без регистра и пунктуации и возвращает восстановленный текст. Модель предназначена для обработки испанских предложений, в том числе распознанной речи и текста, в котором при подготовке удалили регистр и знаки препинания. В оценках на подвыборках FLORES-101 и Common Voice модель снизила WER с 19,55% до 5,99% и с 22,42% до 5,75% соответственно. Лицензия — Apache 2.0. Результаты зависят от соответствия входного текста обработке, использованной при обучении; разработчики также отмечают возможные смещения и нежелательные искажения.

Это LoRA-адаптер для обнаружения персональных данных в тексте, созданный в рамках проекта semantic-router на базе BERT base uncased и настроенный для работы с библиотекой Candle на Rust. Модель выполняет токенную классификацию, чтобы находить и размечать фрагменты текста с персональными данными; метаданные также указывают поддержку классификации текста. Архитектура — BertForTokenClassification, адаптер обучен с рангом 16 и alpha 32. Размер базовой модели составляет 136,7 млн параметров, контекст — до 512 токенов; поддерживаемый язык — английский. Для использования нужны базовая модель и совместимый рантайм. Лицензия — Apache-2.0.

Ming-Lite-Omni — мультимодальная модель от InclusionAI, дообученная на Ling-lite. Она использует архитектуру MoE с маршрутизаторами для разных модальностей и выделенными энкодерами. По данным разработчика, активируется 2,8 млрд параметров; модель объединяет обработку изображений, текста, аудио и видео, а также генерацию текста, речи и изображений. Она предназначена для мультимодального диалога, распознавания и понимания речи, преобразования текста в речь, анализа изображений и видео, генерации и редактирования изображений. Модель подходит для приложений, где нужно принимать смешанные мультимодальные запросы и формировать текстовые, речевые или визуальные ответы без отдельных моделей для каждой задачи. README приводит результаты оценок на задачах понимания изображений, видео и речи, а также генерации изображений. Контекст, поддерживаемые языки и ограничения качества в предоставленных источниках не описаны. Лицензия — MIT.

OPENER-Sup — модель для распознавания и типизации сущностей в открытом наборе классов, разработанная авторами OPENER. Это дообученный на контрастивных примерах текстовый эмбеддер на базе NomicBert из nomic-ai/nomic-embed-text-v1.5; он формирует векторы упоминаний, а для supervised-режима к ним применяется небольшой сбалансированный линейный классификатор LinearSVC, обученный на размеченных примерах целевых классов. В описанном конвейере обнаружение упоминаний выполняет замороженный GLiNER-L, затем OPENER-Sup кодирует их для типизации. Модель предназначена для открытого распознавания именованных сущностей и их классификации по пользовательским меткам. README сообщает результаты на бенчмарке из 13 датасетов: 40,2 end-to-end AMI и 62,5 на эталонных упоминаниях; указаны также вычислительная эффективность около 143 мс и 1,6 Вт·ч. Контекст модели — 2048 токенов. Для применения supervised-классификатора нужны размеченные целевые упоминания; веса классификационной головы обучаются под конкретный набор меток. Лицензия репозитория — MIT.

PerceptionDLM-Base — мультимодальная диффузионная языковая модель для понимания изображений и ответов на визуальные инструкции, разработанная MSALab. Она дообучена на базе MSALab/LLaDA-8B-Instruct-HF и предназначена для сценариев, где нужно задавать вопросы об изображении или извлекать из него сведения. Архитектура сочетает визуальный энкодер SigLIP-2, двухслойный MLP-коннектор и диффузионный декодер LLaDA-8B. Модель использует параллельную генерацию с маскированным денойзингом и динамическое разбиение изображений высокого разрешения на тайлы. Карточка сообщает о результатах на мультимодальных бенчмарках, включая сильные показатели в задачах детального восприятия и ChartQA. Модель принимает изображения и текстовые инструкции и генерирует текстовые ответы. В метаданных указан английский язык. Весы опубликованы в формате Safetensors, библиотека — Transformers, лицензия — Apache-2.0. Модель описана как базовая для PerceptionDLM; для развёртывания предоставлены скрипты инференса.

google/pix2struct-screen2words-base — модель Google семейства Pix2Struct для понимания визуально представленного текста и элементов интерфейса. Это базовая версия Pix2Struct с архитектурой «кодировщик изображений — декодер текста», доступная в формате PyTorch и предназначенная для генерации текстовых ответов по изображению. Модель принимает изображение экрана и может отвечать на вопросы о его содержимом, например распознавать слова и подписи в интерфейсе. Pix2Struct предварительно обучали преобразовывать замаскированные снимки веб-страниц в упрощённый HTML; подход рассчитан на разнообразные задачи визуального понимания. В семействе используется представление изображений с переменным разрешением, а языковая подсказка может быть встроена непосредственно в изображение. В метаданных указаны английский, французский, румынский и немецкий языки. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает отдельные ограничения именно этой версии; качество ответов может зависеть от читаемости и состава содержимого снимка экрана.

Карточка модели Silin1590/Qwen-0d5B-Int-AbstraL-v2 на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

Карточка модели pcuenq/Qwen2.5-0.5B-Instruct-with-new-merges-serialization на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

pmercenary/Qwen3-0.6B-JSON-SFT — компактная генеративная языковая модель семейства Qwen3, дообученная методом supervised fine-tuning (SFT). Модель опубликована пользователем pmercenary на Hugging Face и предназначена для генерации текста в диалоговых сценариях, включая задачи, где требуется формирование JSON-ответов. Модель содержит около 507,9 млн параметров, работает через библиотеку Transformers и поддерживает контекст длиной до 40 960 токенов. В метаданных указана задача text-generation и conversational-направленность. Благодаря небольшому размеру модель может быть удобна для локального запуска и прикладных прототипов с ограниченными вычислительными ресурсами. README не содержит подробных сведений о данных обучения, результатах оценки, точной архитектуре, поддерживаемых языках, разработчике или лицензии. Перед использованием в критически важных приложениях необходимы собственное тестирование качества и проверка условий распространения.

Qwen3.5-9B-Kazakh — казахская адаптация мультимодальной модели Qwen3.5, подготовленная ISSAI. Модель дообучена на казахских текстах с расширением словаря на 16 тысяч казахских токенов, затем к ней перенесено инструкционное выравнивание официальной Qwen3.5-9B методом chat-vector merge. Для восстановления мультимодальности к языковой части подключены исходные энкодер изображений и мультимодальный проектор Qwen3.5-9B. Это плотная модель класса Qwen3_5ForConditionalGeneration с поддержкой чата и изображений; файлы опубликованы в формате Safetensors и доступны через Transformers. Лицензия — Apache-2.0. Модель предназначена для диалогов и ответов на вопросы на казахском и английском языках, а также для анализа изображений в чате. Расширенный токенизатор повышает эффективность работы с казахским текстом, а инструкционное выравнивание сохраняет стиль общения Qwen. По оценке авторов, модель слабее исходной на сложных задачах, требующих развёрнутого рассуждения, и показывает снижение качества на задачах компьютерного зрения, поскольку её отдельно не дообучали на визуальных задачах.

Это частный чекпойнт Exolabs, полученный преобразованием весов Qwen3.5-9B Q4_K_M из GGUF в формат Hugging Face/vLLM BF16. Исходные веса были деквантизированы в FP32, приведены к раскладке тензоров, используемой Hugging Face и vLLM, затем преобразованы в BF16; конфигурация, токенизатор и шаблон чата взяты из Qwen/Qwen3.5-9B. Метаданные описывают модель как плотную мультимодальную архитектуру Qwen3.5 с поддержкой обработки изображений и текста, диалога и интерфейса вызова инструментов. Модель предназначена для диалоговых и мультимодальных сценариев, включая ответы на вопросы по изображениям. В README приведена проверка запуска на vLLM 0.23.0 с ограничением контекста 4096 токенов и режимом только языковой модели; показаны базовые проверки генерации текста. Исходная модель содержит 9 млрд параметров. Указанная лицензия — Apache-2.0. Весовая точность BF16 получена из квантованного источника Q4_K_M, поэтому восстановление в BF16 не возвращает точность исходных неквантованных весов. README приводит только простые проверки генерации, без количественной оценки качества; запуск проверен с указанными настройками vLLM.

CLM-Qwen3.5-2B — модель на основе Contrastive Language Models, разработанная Jayavibhav с использованием метода CLM, созданного Jacky Kwok, Hangoo Kang, Tarun Suresh, Jon Saad-Falcon, Marco Pavone, Christopher Ré и Azalia Mirhoseini. Это дообучение Qwen3.5-2B: замороженный языковой энкодер с двумя небольшими проекционными головами для представления состояния и ответа. Модель кодирует контекст и кандидаты в общем векторном пространстве, оценивает варианты по косинусному сходству и выдаёт относительное распределение вероятностей. Для повторно используемых вариантов можно кэшировать их представления. Модель предназначена для ранжирования вариантов ответа, классификации документов и типизированных решений по длинным текстовым контекстам. Она принимает состояния длиной до 131 тыс. токенов и обучена на английских данных, включая синтетические документы более чем 200 типов и задачи решений из нескольких прикладных областей. По заявлению авторов, модель превосходит CLM-v0.1-8B в тесте классификации документов, но уступает Jev на 4,6 процентного пункта; результаты на синтетических документах могут отличаться от результатов на реальных файлах. Для новых рабочих процессов решений качество без дополнительной настройки низкое: для таких задач авторы рекомендуют подгонку голов на нескольких сотнях примеров. Модель оценивает только переданный набор кандидатов, поэтому вероятности относительны к нему; головы также требуют эмбеддингов последнего токена Qwen3.5-2B в заданном формате. Веса распространяются по лицензии Apache 2.0.

Это англоязычная модель Isotonic на базе Microsoft DeBERTa-v3-base, дообученная для токенной классификации и обнаружения персональных данных в тексте. Она предназначена для выявления чувствительных фрагментов, чтобы затем маскировать или удалять их в системах на базе ИИ-ассистентов и LLM. Модель обучалась на наборе ai4privacy/pii-masking-200k; заявлено распознавание 54 классов PII в разных темах и стилях текста. Модель содержит 211,6 млн параметров, использует архитектуру DeBERTa-v2 для классификации токенов и принимает текст с контекстом до 512 токенов. В карточке приведены общие метрики на оценочном наборе: F1 0,9757 и точность 0,9915; качество различается по классам, например, F1 для IP указан как 0,5404, а для валюты — 0,8966. Доступны веса Safetensors и формат ONNX. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование без отдельного разрешения.

DeepSeek-V4.1-Flash-Abliterated — созданная сообществом версия DeepSeek-V4.1-Flash, опубликованная s-zaizen с применением abliteration через инструмент Heretic; это не официальный выпуск DeepSeek. Модель сохраняет исходную архитектуру DeepSeek V4.1, токенизатор и компоненты для обработки изображений, а также использует формат весов FP8. В репозитории размещено 48 шардов safetensors общим размером около 510 ГБ. Модель предназначена для генерации текста в диалоге и обработки входов с изображениями. По заявлению автора, преобразование изменяет направления отказа в выходах модели: в описанной проверке Heretic ключевые слова отказа обнаружились в 24 из 100 ответов против 97 из 100 у исходной модели. Это измерение не является общим тестом качества или безопасности. Лицензия — MIT.

distilbert-NER — англоязычная модель распознавания именованных сущностей, созданная dslim путём дообучения DistilBERT. Она размечает токены в тексте тегами для людей (PER), организаций (ORG), мест (LOC) и прочих сущностей (MISC), включая начало и продолжение сущности. Модель основана на DistilBERT с архитектурой DistilBertForTokenClassification и содержит 66 млн параметров. Она обучена на английском наборе CoNLL-2003 и принимает контекст до 512 токенов. Компактность DistilBERT помогает снизить размер и ускорить обработку по сравнению с BERT, сохраняя пригодность для извлечения сущностей из новостных и сходных текстов. Качество может снижаться на текстах, заметно отличающихся от CoNLL-2003; возможны ошибки разметки в сложных предложениях и смещения, унаследованные от обучающих данных. Лицензия — Apache-2.0.

Это оптимизированная в ONNX версия Dolly v2 7B, созданной Databricks на базе Pythia-6.9B и дообученной следовать инструкциям на наборе databricks-dolly-15k. Репозиторий подготовлен с помощью Olive для запуска через ONNX Runtime, в том числе с DirectML; модель имеет архитектуру GPT-NeoX, около 8,8 млрд параметров и контекст до 2048 токенов. Модель предназначена для генерации ответов по инструкциям: мозгового штурма, классификации, вопросов и ответов, генерации текста, извлечения информации и суммаризации. Карточка указывает английский язык. Лицензия репозитория — MIT; исходная Dolly v2 описана как пригодная для коммерческого использования. Dolly v2 не является современной передовой моделью. Она может ошибаться в фактах и испытывает трудности со сложными запросами, программированием, математикой, датами, открытыми вопросами и точным форматированием. ONNX-оптимизация облегчает интеграцию с соответствующей средой выполнения, но для использования ONNX Runtime и DirectML вне Python потребуется самостоятельно реализовать токенизатор.

zeromodels/gemma-4-e4b — реализация Gemma 4 E4B в формате Keras 3, подготовленная командой zeromodels на основе google/gemma-4-E4B. Модель принимает изображения, аудио и текст и генерирует текстовые ответы; для загрузки и обработки мультимодальных входов используется Gemma4Processor. Также доступен текстовый сценарий генерации через Gemma4TextGenerate и Gemma4Tokenizer. Вариант E4B имеет 4,5 млрд эффективных параметров и 8 млрд параметров с учётом эмбеддингов, 42 слоя и окно скользящего внимания 512 токенов. Веса хранятся в bfloat16. Реализация работает с TensorFlow, Torch и JAX; по умолчанию загружается в bfloat16, также предусмотрена загрузка в float32 и дополнительная квантизация int8. Модель предназначена для мультимодального диалога и генерации текстовых ответов. Лицензия — Apache 2.0.

gliner2-large-v1-redocred — модель извлечения информации на базе GLiNER2, разработанная whr778 и дообученная от fastino/gliner2-large-v1 на наборе Re-DocRED. Она предназначена для извлечения именованных сущностей и отношений между ними в англоязычных документах; карточка также относит её к задачам извлечения событий и классификации. Набор Re-DocRED содержит 6 типов сущностей и 96 типов отношений. В слепом тесте F1 для сущностей составил 0,860 при строгой и 0,907 при расслабленной оценке; для отношений — 0,287 и 0,350 соответственно. Низкий recall отношений (0,186 строго, 0,227 расслабленно) ограничивает полноту извлечения. Модель работает с текстом и распространяется в формате safetensors; лицензия указана как other, поэтому перед использованием следует проверить условия в карточке модели.