I.3Извлечение и структурирование данных

Qwen3-VL-8B-Thinking-FP8 — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизированная версия Qwen3-VL-8B-Thinking с мелкозернистым квантованием и размером блока 128; заявлено, что её метрики почти идентичны исходной версии в формате BF16. Модель предназначена для генерации текста по изображениям и тексту, визуального и мультимодального рассуждения, анализа видео, OCR, понимания пространственных отношений, а также агентского взаимодействия с графическими интерфейсами и инструментами. Модель поддерживает работу с изображениями, видео и текстом. Среди заявленных возможностей — понимание длинного контекста до 256K токенов с возможностью расширения до 1M, анализ книг и продолжительных видео, распознавание текста на 32 языках, улучшенное понимание STEM-задач, временной привязки событий в видео и генерация Draw.io/HTML/CSS/JS по изображениям и видео. В архитектуре упоминаются Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Конкретный набор языков, точные ограничения контекста для этой сборки и сведения о вычислительных требованиях в README не указаны. Сильные стороны — сочетание визуального восприятия, рассуждения, OCR, пространственного и видеоанализа при существенно меньшем размере представления благодаря FP8-квантованию. Ограничение на момент публикации README заключается в том, что Transformers не поддерживает прямую загрузку этих весов; для развёртывания рекомендуются vLLM или SGLang. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-8B-Thinking-GGUF — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen. Репозиторий содержит GGUF-веса модели Qwen3-VL-8B-Thinking, разделённые на языковую модель и vision encoder в формате mmproj. Модель предназначена для анализа изображений и видео, генерации и понимания текста, визуального рассуждения, OCR, пространственного анализа, STEM- и математических задач, визуального программирования, а также взаимодействия с графическими интерфейсами и инструментами. Модель относится к thinking-редакции и имеет размер 8B параметров. Поддерживаются варианты языковой части FP16, Q8_0 и Q4_K_M, а vision encoder доступен в FP16 и Q8_0. Заявлены нативный контекст 256K с возможностью расширения до 1M, работа с длительными видео и распознавание текста на 32 языках. Архитектурные особенности включают Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Модель поддерживает мультимодальный ввод изображений и видео, однако конкретный список языков помимо OCR в README не указан. GGUF-файлы совместимы с llama.cpp, Ollama и другими инструментами экосистемы GGUF и могут запускаться на CPU, NVIDIA GPU через CUDA, Apple Silicon через Metal и Intel GPU через SYCL. Доступны разные уровни точности для компромисса между качеством, скоростью и требованиями к памяти; при этом производительность зависит от выбранной квантизации и оборудования. Модель распространяется по лицензии Apache-2.0.

ScreenVLM — компактная мультимодальная модель понимания изображений и текста, разработанная IBM Research Zurich и ETH Zurich. Она предназначена для полного разбора снимков веб-страниц: находит видимые элементы интерфейса, определяет их тип и положение, а также распознаёт текст внутри них. Модель построена на архитектуре Idefics3, с визуальным энкодером siglip2-base-patch16-512 и языковой основой Granite 165M. На вход подаётся изображение экрана, а на выходе — структурированное представление ScreenTag с метками для 55 классов элементов, координатами ограничивающих рамок и текстовым содержимым. Модель обучена на наборе ScreenParse v2 с разметкой снимков веб-страниц; карточка указывает английский язык. ScreenVLM подходит для извлечения структуры веб-страниц, анализа интерфейсов и подготовки данных для автоматизации браузера. Она оптимизирована для снимков веб-страниц, поэтому качество на мобильных и настольных интерфейсах приложений может отличаться; на перегруженных и динамичных экранах возможны ошибки. Для автоматизации с высокими требованиями к надёжности следует проверять координаты и распознанный текст. Лицензия — Apache 2.0.

CausalLM/35b-beta-long — диалоговая языковая модель на архитектуре CohereForCausalLM с 35 млрд параметров, разработанная CausalLM как дообучение CohereForAI/c4ai-command-r-v01. Модель предназначена для чата, работы с фактами из нескольких документов и длинным контекстом: тематического суммирования, извлечения ключевой информации и сравнения источников. В README разработчик также отмечает улучшения в математике, программировании и воспроизведении знаний. Метаданные указывают контекст 8192 токена; в README заявлено обучение на контексте 128K, поэтому заявленная длина обучения не совпадает с указанным нативным контекстом. Используются формат safetensors и шаблон чата ChatML. Модель дообучена на синтетических многоходовых диалогах, составленных по веб-страницам и документам, с привлечением открытых диалоговых наборов и человеческой проверки. Разработчик сообщает о более устойчивой работе с длинным контекстом и снижении галлюцинаций, но эти заявления не сопровождаются в карточке подробными результатами оценки. README предупреждает, что после SFT модель может сохранять предвзятость и выдавать нежелательный контент; для более надёжного выравнивания, по словам разработчика, требуется дальнейшее RL-обучение. Лицензия — WTFPL согласно метаданным; README описывает базовую модель как распространяемую для некоммерческого использования, поэтому условия следует сверить с лицензиями исходной модели и репозитория.

pawan2411/address-emnet — дообученная модель Sentence Transformers на базе pawan2411/address_net для создания векторных представлений адресов. Она использует архитектуру MPNet с усреднением токенных представлений; размер модели составляет 136,7 млн параметров, размерность эмбеддингов — 768, а максимальная длина последовательности — 512 токенов по README и 514 нативных токенов по метаданным. Сходство адресов оценивается косинусной мерой. Модель предназначена для сопоставления адресов, удаления дубликатов и унификации записей, различающихся форматом или написанием. Её можно применять для поиска похожих адресов и построения конвейеров очистки адресных данных. README не сообщает поддерживаемые языки или конкретные регионы адресации; качество за пределами описанных сценариев не установлено. Используется библиотека Sentence Transformers, веса представлены в формате safetensors. Лицензия в предоставленных данных не указана.

BMOJOF-primed-HQwen3-8B-Instruct — языковая модель для генерации текста, разработанная командой Hybrid Model Factory на основе Qwen3-8B. Это гибридная причинная модель с 7,6 млрд параметров: 18 слоёв Attention чередуются с 18 слоями B’MOJO-F. Каждый слой B’MOJO-F объединяет оконное внимание для точного извлечения недавнего контекста и модель пространства состояний для сжатого представления истории. Модель прошла настройку на следование инструкциям и поддерживает контекст до 131 072 токенов. Модель предназначена для диалога, ответов на вопросы, генерации и анализа текста, в том числе при работе с длинным контекстом. Разработчики сообщают об ускорении вывода до 1,75 раза на длинных контекстах при близком к исходной модели качестве; фактическая скорость зависит от среды и нагрузки. Чекпойнт не поддерживает вызов инструментов и не предназначен для генерации специальных токенов рассуждений. Для запуска используется Transformers, веса доступны в формате safetensors. Модель распространяется по лицензии Apache 2.0.

CataLlama-v0.2-Instruct-SFT-DPO-Merged — объединённая модель Laurentiu Petrea на базе Llama 3 от Meta. Это авторегрессионная плотная Transformer-модель с архитектурой LlamaForCausalLM и 7,5 млрд параметров; она принимает текст и выдаёт текст, поддерживая контекст до 8192 токенов. Модель настроена для диалогов и языковых задач преимущественно на каталанском языке. Она подходит для извлечения информации из документов, распознавания именованных сущностей, перевода между каталанским и английским, краткого и развернутого суммирования, анализа тональности и чат-ассистентов. По данным карточки, объединение показало более высокие результаты на MMLU и GSM8K, чем обе родительские модели. Весовые параметры слоёв объединены усреднением двух моделей SFT и DPO; эмбеддинги, нормализация и выходная голова взяты из DPO-модели. Лицензия — Llama 3 Community License. Карточка отмечает, что исходная лицензия Llama 3 задаёт ограничения на использование; разработчики могут адаптировать модель для языков помимо английского при соблюдении лицензии и Acceptable Use Policy.

CRAFT (Character-Region Awareness For Text detection) — модель обнаружения текста на изображениях, опубликованная в репозитории Hezarai и предназначенная для использования с библиотекой Hezar версии 0.40.0 или новее. Она выделяет области с текстом и рассчитана на многоязычные изображения; в карточке отдельно отмечена поддержка персидского языка, также заявлена работа с другими языками. Модель подходит для поиска текстовых областей на сканах, фотографиях и других изображениях перед последующим распознаванием текста. Метаданные относят её к задаче object-detection; файлы репозитория представлены в формате PyTorch. README не приводит сведения о размере модели, длине контекста или лицензии.

EuroBERT-210m — многоязычная плотная модель-энкодер семейства EuroBERT, разработанная для работы с текстом, кодом и математическими задачами. В этой версии около 211,7 млн параметров; максимальная длина входной последовательности — 8192 токена. Модель доступна для использования через Transformers и опубликована под лицензией Apache-2.0. Модель предназначена для заполнения пропусков в тексте, поиска и извлечения информации, классификации и регрессии. По данным карточки, семейство EuroBERT оценивается на задачах retrieval, классификации последовательностей, оценки качества и задачах, связанных с кодом и математикой; каталог также указывает поддержку разметки токенов и ответов на вопросы. Поддерживаются английский, французский, немецкий, испанский, китайский, итальянский, русский, польский, португальский, японский, вьетнамский, нидерландский, арабский, турецкий и хинди. Сильная сторона модели — многоязычное представление текста и широкий набор сценариев для энкодера при умеренном размере. Это не генеративная чат-модель: её основная задача в метаданных — fill-mask, а для прикладных сценариев классификации, поиска и других задач может потребоваться соответствующая голова или дообучение. README сообщает о сильных результатах семейства на сравнительных оценках, но не приводит здесь подробных метрик для версии 210m.

Карточка модели Cup5/gemma-4-E4B-it-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-E4B-it-uncensored-heretic, поэтому описание составлено по ней. llmfan46/gemma-4-E4B-it-uncensored-heretic — производная модель на основе Google Gemma 4 E4B Instruct, опубликованная независимым автором. Это плотная мультимодальная модель для диалога и генерации текста, понимания изображений и аудио, рассуждений, программирования и вызова инструментов. В карточке заявлены гибридное внимание с локальными скользящими окнами и глобальными слоями, а для базовой модели E4B — контекст до 128 тысяч токенов и поддержка более 35 языков. Модель подходит для чат-ботов, суммаризации и создания текстов, извлечения данных из изображений и документов, распознавания речи и голосовых сценариев. В названии и тегах указано uncensored/abliterated, однако README не описывает конкретные изменения и не приводит отдельные оценки качества именно этой производной версии. Возможны фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Apache-2.0.

Gemma-SEA-LION-v4-27B-IT-GGUF — квантованная GGUF-версия Gemma-SEA-LION-v4-27B-IT, разработанная подразделением AI Products Pillar компании AI Singapore при финансировании Singapore NRF. Это decoder-модель семейства SEA-LION (Southeast Asian Languages In One Network), ориентированная на задачи для Юго-Восточной Азии. Модель предназначена для генерации и понимания текста, диалоговых сценариев, обработки документов, визуальных вопросов и ответов, рассуждений по изображениям, вызова функций и формирования структурированных ответов. Модель имеет 27B параметров и контекстное окно до 128K токенов. Она поддерживает текст и изображения, использует токенизатор Gemma 3 27B Instruct и обучалась на бирманском, английском, индонезийском, кхмерском, лаосском, малайском, китайском, тагальском, тамильском, тайском и вьетнамском языках. Квантованные варианты Q4_K_M, Q8_0 и BF16 снижают требования к памяти и совместимы с различными движками инференса, включая llama.cpp; вариант Q4_K_M может запускаться на ноутбуке с 16 ГБ памяти через Ollama. Сильными сторонами являются специализация на языках и сценариях Юго-Восточной Азии, большой контекст, мультимодальность и поддержка интеграции в системы через function calling и structured outputs. Ограничения включают зависимость производительности и требований к памяти от выбранного варианта квантования, а также отсутствие выравнивания по безопасности: разработчикам и пользователям необходимо самостоятельно применять safety fine-tuning и дополнительные меры защиты. Лицензия — Gemma Terms of Use.

Granite-4.0-H-1B-Base — базовая языковая модель команды Granite компании IBM для генерации текста. Это декодерный плотный трансформер семейства GraniteMoeHybrid с компонентами GQA, Mamba2, SwiGLU и RMSNorm. Модель содержит 1,2 млрд параметров, обучена с нуля примерно на 15 трлн токенов и поддерживает контекст до 131 072 токенов. Модель предназначена для краткого и эффективного запуска, в том числе на устройствах с ограниченными ресурсами, и для офлайн-сценариев, где важна приватность. Она может использоваться для суммаризации, классификации и извлечения информации, ответов на вопросы и дополнения кода; поддерживается заполнение пропусков в коде в формате Fill-in-the-Middle. Заявлены английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель распространяется по лицензии Apache 2.0. Она не проходила выравнивание безопасности, поэтому может генерировать проблемный или недостоверный текст; авторы также отмечают риск дословного воспроизведения обучающих данных. Качество следует проверять для конкретной задачи.

InternVL2-4B — мультимодальная инструктивно настроенная модель OpenGVLab для диалога по изображениям и тексту. Она объединяет визуальный энкодер InternViT-300M-448px, MLP-проектор и языковую модель Phi-3-mini-128k-instruct; размер модели в карточке указан как 4,2 млрд параметров. Модель доступна через Transformers, веса опубликованы в формате Safetensors по лицензии MIT. Модель предназначена для понимания изображений и видео, ответов на вопросы о визуальном содержимом, чтения документов и диаграмм, OCR, решения научных и математических задач с изображениями. Она также принимает несколько изображений в одном запросе. Обучение проводилось с контекстом 8 тысяч токенов и данными с длинными текстами, несколькими изображениями и видео. Карточка сообщает о конкурентных результатах на тестах понимания документов, диаграмм, сценического текста и видео, но эти оценки зависят от конкретных бенчмарков и не гарантируют качество в каждом сценарии. Для видео в описанных тестах использовалось извлечение 16 кадров с изменением размера до 448×448; это не свидетельствует о полноценной обработке непрерывного видеопотока. В метаданных отмечена многоязычность, но конкретный перечень языков не приведён.

Llama-Express.1 — компактная текстовая языковая модель, разработанная prithivMLmods на основе Meta Llama 3.2 1B Instruct и дообученная на наборах данных с длинными цепочками рассуждений. Это плотная авторегрессионная модель семейства Llama с 1,2 млрд параметров и контекстом до 131 072 токенов; она распространяется в формате Safetensors и рассчитана на запуск через Transformers. Модель предназначена для диалогов на разных языках, следования инструкциям, суммаризации и задач извлечения и обобщения сведений из предоставленного контекста. Данные обучения включают математические и reasoning-наборы; карточка также заявляет поддержку агентных сценариев поиска. Метаданные указывают английский язык, а README описывает модель как многоязычную, поэтому качество на языках с малым объёмом обучающих данных может быть ниже. Модель принимает и генерирует текст; изображения, аудио и видео она не обрабатывает. Длинный контекст не исключает ухудшения качества или усечения на очень больших входах, а ответы зависят от ясности запроса и могут отражать смещения обучающих данных. У модели нет собственного доступа к интернету для проверки актуальных фактов. Лицензия — Llama 3.2; применяются её условия использования.

dell-research-harvard/lt-mexicantrade4748 — модель LinkTransformer от исследователей Harvard, основанная на архитектуре BERT и дообученная на hiiamsid/sentence_similarity_spanish_es с функцией потерь SupCon. Она предназначена прежде всего для сопоставления записей: связывания сущностей, кластеризации, дедупликации и агрегирования данных. Также подходит для поиска семантически похожих предложений и абзацев. Модель преобразует текст в плотные векторы размерностью 768 и имеет максимальную длину входной последовательности 512 токенов. Среднее объединение токенных представлений используется для получения вектора предложения. Карточка описывает применение к задачам сопоставления торговых записей и работу с испаноязычной моделью-основой; метаданные указывают 137,1 млн параметров и формат safetensors. Для использования в сценариях LinkTransformer модель интегрируется с пакетом LinkTransformer; её векторные представления можно применять и в задачах sentence-transformers. Ограничение длины контекста — 512 токенов; качество на конкретных наборах данных следует оценивать отдельно. Условия лицензии в предоставленных данных не описаны.

LinkTransformer — модель на основе sentence-transformers, разработанная исследователями Harvard для связывания и сопоставления записей. Она дообучена на multi-qa-mpnet-base-dot-v1 на данных, полученных при сопоставлении классификаций товаров статистики ООН, и рассчитана прежде всего на поиск соответствий между вариантами описаний товаров. Модель использует архитектуру MPNet с 136,7 млн параметров и преобразует предложения и абзацы в плотные векторы размерности 768. Контекст составляет до 514 токенов по метаданным; в конфигурации README указана максимальная длина последовательности 512 токенов. Основной язык — английский. В LinkTransformer модель предназначена для кластеризации, удаления дублей, связывания и агрегирования записей; её также можно применять для семантического поиска и других задач сходства предложений. Модель специализирована на сопоставлении товарных описаний и может хуже работать на текстах и предметных областях, отличных от данных обучения. Лицензия в предоставленных материалах не указана.

pplx-embed-context-v1.4-4B — контекстная модель для построения эмбеддингов предложений, разработчик указан как seslami-pplx. Она предназначена для семантического поиска и извлечения текстовых фрагментов, включая разрешение перефразирования, снижение влияния лексически похожих отвлекающих фрагментов и совместное извлечение терминов из глоссария. Модель имеет плотную архитектуру bidirectional_pplx_qwen3, содержит 3,7 млрд параметров и принимает контекст длиной до 32 768 токенов; для работы используется библиотека Transformers. Версия 1.4 сохраняет архитектуру и код загрузки версии v1.3-4B и заявлена как прямая замена. Эмбеддинги подходят для сопоставления предложений и поиска по контексту. Репозиторий содержит веса в формате safetensors. Лицензия — Apache 2.0.

Qwen2-VL-2B-Instruct-AWQ — мультимодальная instruction-tuned модель семейства Qwen2-VL, разработанная командой Qwen. Это квантованная версия модели Qwen2-VL-2B-Instruct с примерно 2 млрд параметров, предназначенная для задач image-text-to-text: анализа изображений и видео, визуального ответа на вопросы, работы с документами, распознавания текста на изображениях и диалога по визуальному содержимому. Модель поддерживает изображения произвольного разрешения и соотношения сторон благодаря динамическому представлению визуальных токенов, а также видео длительностью более 20 минут. Архитектура использует Multimodal Rotary Position Embedding (M-ROPE), разделяющий позиционную информацию для текста, двумерных изображений и трёхмерного видео. Заявлена поддержка английского и китайского языков, а также текстов на изображениях на большинстве европейских языков, японском, корейском, арабском и вьетнамском языках. Модель может применяться в визуальном анализе, Document VQA, математических задачах по изображениям, видеоаналитике и сценариях управления устройствами. Ключевое преимущество версии AWQ — сниженное потребление памяти по сравнению с BF16 за счёт квантования, что упрощает локальный запуск. При этом квантование может немного снижать точность: в приведённых тестах AWQ получила 41,33 на MMMU, 86,96 на DocVQA, 71,64 на MMBench и 39,90 на MathVista. README не указывает точное максимальное окно контекста; в тестах использовались входы до 129024 токенов, но результаты производительности для AWQ приведены только до 30720 токенов. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-235B-A22B-Instruct-GGUF — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen. Репозиторий содержит веса в формате GGUF для базовой модели Qwen3-VL-235B-A22B-Instruct и предназначен для локального запуска через llama.cpp, Ollama и другие совместимые инструменты на CPU, NVIDIA GPU с CUDA, Apple Silicon с Metal, Intel GPU с SYCL и аналогичных платформах. Модель обрабатывает текст и визуальные данные, включая изображения и видео. Она предназначена для генерации и понимания текста, визуального анализа и рассуждений, распознавания объектов и текста, пространственного анализа, работы с длинными документами и видео, визуального программирования, а также взаимодействия с графическими интерфейсами и инструментами. Заявлена поддержка контекста 256K токенов с возможностью расширения до 1M. OCR поддерживает 32 языка, однако полный перечень языков для всех режимов работы не указан. Архитектура базовой модели — MoE с общим размером 235B параметров и 22B активных параметров; в составе GGUF отдельно поставляются языковая модель и vision encoder. Доступны варианты точности FP16, Q8_0 и Q4_K_M для языковой части и FP16 или Q8_0 для vision encoder, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Среди архитектурных особенностей указаны Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Ограничения включают очень высокие требования к вычислительным ресурсам для крупной модели, зависимость возможностей от выбранной квантизации и совместимого программного обеспечения, а также отсутствие в README подробных количественных результатов и полного списка языков. Лицензия — Apache-2.0.

Qwen3-VL-4B-Instruct-GGUF — мультимодальная vision-language модель, созданная командой Qwen и представленная в формате GGUF компанией Unsloth. Она предназначена для диалогов и генерации текста по текстовым и визуальным входным данным, включая изображения и видео. Модель подходит для визуального анализа, распознавания текста, пространственного рассуждения, решения STEM- и математических задач, понимания видеосцен, генерации кода и взаимодействия с графическими интерфейсами и инструментами. Модель относится к семейству Qwen3-VL и использует плотную архитектуру с 4B параметров. Заявлена поддержка контекста длиной 256K токенов с возможностью расширения до 1M. Среди архитектурных особенностей указаны Interleaved-MRoPE для временных и пространственных представлений, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками для анализа видео. OCR поддерживает 32 языка, однако полный перечень языков в README не приведён. Сильные стороны модели — сочетание текстового и визуального понимания, расширенный контекст, обработка длинных документов и продолжительных видео, распознавание текста в сложных визуальных условиях, а также возможности пространственного и агентного рассуждения. Ограничения, включая точные требования к памяти, скорость работы, результаты бенчмарков и перечень поддерживаемых языков, в предоставленных данных не раскрыты. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-8B-Instruct-GGUF — мультимодальная vision-language модель семейства Qwen3-VL, разработанная командой Qwen; данный репозиторий содержит её веса в формате GGUF и включает исправления chat template от Unsloth. Модель предназначена для диалогов и генерации текста по текстовым и визуальным входам, включая анализ изображений и видео, OCR, визуальное рассуждение, понимание пространственных отношений, обработку документов, визуальное программирование и взаимодействие с графическими интерфейсами через инструменты. Модель имеет плотную архитектуру и размер 8B параметров. Заявлены нативный контекст 256K токенов с возможностью расширения до 1M, поддержка видео с временной привязкой событий и OCR на 32 языках; полный список языков текстового общения в README не указан. Среди архитектурных компонентов упомянуты Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. К сильным сторонам относятся объединённое понимание текста и изображений, распознавание деталей и документов, пространственный и мультимодальный анализ, а также сценарии визуального агента. Ограничения, точные требования к ресурсам и характеристики конкретной GGUF-квантизации в README не приведены. Модель распространяется по лицензии Apache-2.0.

Hermes-2-Pro-Llama-3-8B-GGUF — квантизированная версия языковой модели Hermes 2 Pro, созданной на базе Meta-Llama-3-8B командой NousResearch. Квантизацию в формате GGUF выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалоговых систем и задач ассистирования, включая function calling и формирование структурированных ответов в JSON. Модель имеет около 8 млрд параметров, работает с текстом и ориентирована на английский язык. Она обучена с применением дообучения, DPO, RLHF, синтетических данных и дистилляции; в качестве набора данных указан OpenHermes-2.5. Для взаимодействия используется шаблон ChatML. Доступны варианты квантизации от Q8_0 до Q2 и IQ-квантов размером примерно от 2,75 до 8,54 ГБ, что позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти. Сильными сторонами являются поддержка диалогового режима, function calling, JSON-ответов и возможность локального запуска через совместимые инструменты, включая llama.cpp. Более агрессивная квантизация уменьшает требования к памяти, но может снижать качество генерации; точные ограничения контекстного окна и результаты бенчмарков в представленных данных не указаны. Модель распространяется по лицензии Apache-2.0.

Llama 3.2 90B Vision — мультимодальная модель Meta для анализа изображений и генерации ответов на текстовые запросы о них. Она построена на авторегрессионной архитектуре Transformer семейства Llama 3.1 и использует отдельно обученный адаптер зрения с cross-attention, который передаёт представления изображений в языковую модель. Размер модели — 90B параметров; она принимает текст и изображения и выдаёт текст, поддерживает контекст длиной до 128 тыс. токенов. Модель предназначена для визуального распознавания и рассуждений, описания изображений, ответов на вопросы по изображениям и диалогов с визуальным содержимым. Также в карточке указаны сценарии DocVQA, поиска соответствий между изображениями и текстом, а также визуального заземления языковых описаний на объекты или области изображения. Для приложений с изображениями и текстом официально поддерживается английский язык; в текстовых задачах поддерживаются также немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель выпущена Meta в сентябре 2024 года и доступна по лицензии Llama 3.2 Community License — специальному соглашению, условия которого следует учитывать при коммерческом и исследовательском применении. Это статическая модель, обученная на офлайн-данных; сведения о дате отсечения знаний — декабрь 2023 года.

MiniCPM-V 4.0 — мультимодальная языковая модель OpenBMB для диалога и анализа изображений, нескольких изображений и видео. В карточке указаны 3,2 млрд параметров, контекст 32 768 токенов, архитектура MiniCPMV и библиотека Transformers; README описывает основу из SigLIP2-400M и MiniCPM4-3B, но приводит другой общий размер — 4,1 млрд параметров. Модель предназначена для распознавания содержимого изображений и видео, визуальных вопросов и ответов, чтения текста и документов на изображениях, а также понимания нескольких изображений. README подчёркивает эффективность для запуска на мобильных устройствах; поддерживаются локальное использование и интеграция с несколькими средами инференса. Метаданные указывают мультиязычность, но конкретные языки не перечислены. Лицензия — Apache 2.0. Ограничения: ответы могут содержать ошибки, а сама модель не выражает личных мнений и не выполняет ценностные суждения; заявленные в README результаты основаны на оценках авторов.

LocalAI-io/privacy-filter-multilingual-GGUF — это GGUF-версия мультиязычной модели классификации токенов для обнаружения персональных и других чувствительных данных (PII). Модель разработана OpenMed как дообученная версия openai/privacy-filter, а данный репозиторий содержит её локально запускаемую упаковку GGUF, ориентированную на использование с privacy-filter.cpp и LocalAI. Модель не предназначена для диалога или генерации текста: она размечает каждый токен тегами BIOES и возвращает позиции обнаруженных сущностей, чтобы служить уровнем NER в системах маскирования и редактирования PII. Модель поддерживает 54 категории PII, представленные 217 классами, и 16 языков: арабский, бенгальский, немецкий, английский, испанский, французский, хинди, итальянский, японский, корейский, нидерландский, португальский, телугу, турецкий, вьетнамский и китайский. Используется специальная архитектура openai-privacy-filter; доступны варианты F16 размером около 2,7 ГБ и Q8_0 размером около 1,6 ГБ, в котором основные веса MoE-кспертов квантизированы, а attention, embeddings и классификационная голова сохранены в F16. Q8_0 уменьшает требования к памяти и обычно немного ускоряет работу на CPU, но может снижать точность. Для запуска рекомендуется privacy-filter.cpp с поддержкой CPU, CUDA и Vulkan либо LocalAI с backend privacy-filter. Стандартные llama.cpp, llama-cpp-python, Ollama и LM Studio без специальных патчей эту модель не загрузят. F16 считается предпочтительным вариантом для максимальной надёжности; результаты Q8_0 следует проверять на собственных данных, особенно для редких форматов PII и языков, поскольку заявленная проверка совпадения с F16 проводилась на одном англоязычном документе. Модель распространяется по лицензии Apache-2.0.

Qwen2-VL-72B-Instruct — мультимодальная модель компании Qwen, дообученная для следования инструкциям на основе Qwen/Qwen2-VL-72B. Она принимает текст и изображения, а также видео для визуального анализа, и формирует текстовые ответы. Модель содержит 71,5 млрд параметров, использует архитектуру Qwen2-VL с динамическим разрешением изображений и мультимодальным позиционным кодированием M-ROPE; длина контекста составляет 32 768 токенов. Модель предназначена для ответов на вопросы по изображениям и видео, анализа документов и визуального содержимого, а также диалога и создания текстового описания по визуальному материалу. Она поддерживает разные разрешения и пропорции изображений; в README также описана возможность интеграции в системы, управляющие устройствами по визуальному окружению и текстовым инструкциям. Видеовход ограничен локальными файлами, а аудио в видео модель не понимает. Согласно README, известные ограничения включают неточный подсчёт объектов, слабое пространственное рассуждение, трудности со сложными многошаговыми инструкциями и ограниченное распознавание конкретных людей и объектов интеллектуальной собственности. Данные об изображениях актуальны до июня 2023 года. Модель распространяется под лицензией с меткой Hugging Face «other»; конкретные условия лицензии следует сверить в карточке репозитория.

Qwen3.6-35B-A3B-OptiQ-4bit — это квантизированная версия языковой модели Qwen3.6-35B-A3B, подготовленная сообществом mlx-community с использованием инструментария mlx-optiq. Модель предназначена для локальной генерации текста на компьютерах Apple Silicon через MLX, без PyTorch и облачных сервисов. Она подходит для диалога, рассуждений, программирования, извлечения информации из длинного контекста, вызова инструментов и агентских сценариев. Модель использует смешанную точность: большинство параметров представлены в 4-битном формате, а чувствительные слои — в 8-битном. Всего квантизировано 510 слоёв, размер группы — 64; 392 слоя имеют 8-битную, а 118 — 4-битную точность. Размер модели на диске составляет около 22,1 ГБ. В комплект входит MTP-голова для speculative decoding, которая при использовании mlx-optiq может ускорять декодирование примерно в 1,4 раза. Поддерживаются текстовые задачи; конкретные языки и размер контекста в README не указаны. К сильным сторонам относятся чувствительно-ориентированная квантизация, локальная работа на Apple Silicon и результаты, превосходящие равномерную 4-битную квантизацию по суммарному Capability Score, особенно в вызове функций и извлечении данных из длинного контекста. Ограничениями являются требования к памяти из-за размера около 22,1 ГБ, привязка к экосистеме MLX и Apple Silicon, а также небольшое снижение результатов в отдельных тестах по сравнению с равномерной 4-битной версией. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

Qwen3.8-27B-heretic-ara-Q4_K_M-MTP-GGUF — квантизированная GGUF-версия модели trohrbaugh/Qwen3.8-27B-heretic-ara, подготовленная cygnal. Модель основана на Qwen3.8-27B и распространяется с сохранёнными тензорами MTP (Multi-Token Prediction) для ускоренного декодирования, а также с отдельным vision-проектором mmproj для обработки изображений. В карточке заявлены поддержка английского и китайского языков и мультимодальный сценарий image-text-to-text. Модель предназначена для диалогов, генерации и анализа текста, программирования, технических задач, извлечения структурированных данных и понимания изображений. Основной файл Q4_K_M имеет размер около 16 ГБ и использует квантизацию с 4,83 битами на вес. Для запуска рекомендован llama.cpp; заявлена поддержка контекста до 32768 токенов в типовой конфигурации. MTP может заметно повысить скорость генерации, особенно на совместимом оборудовании AMD Strix Halo, однако для запросов с изображениями в ROCmFPX его необходимо отключать из-за ограничений реализации. Сильными сторонами являются сочетание текстовых и визуальных возможностей, наличие MTP, поддержка OpenAI-совместимого API и несколько вариантов запуска для стандартного llama.cpp и ROCmFPX. Ограничения включают высокие требования к памяти, зависимость производительности от оборудования и backend, а также необходимость отдельного mmproj-файла для изображений. Исходная модель описана как uncensored-версия с изменённым поведением отказов, поэтому её ответы требуют дополнительной проверки и настройки мер безопасности. Лицензия — Apache-2.0.

unsloth/Qwen3-VL-2B-Instruct-bnb-4bit — 4-битная квантованная версия мультимодальной модели Qwen3-VL-2B-Instruct, опубликованная Unsloth на основе модели Qwen. Это instruction-модель архитектуры Dense с примерно 2 млрд параметров, предназначенная для обработки изображений и текста, а также для задач понимания видео и визуально-текстового диалога. Модель подходит для описания и анализа изображений, визуального и пространственного рассуждения, OCR, STEM- и математических задач, генерации кода и разметки Draw.io/HTML/CSS/JS по визуальным материалам, а также для взаимодействия с графическими интерфейсами и инструментами. Заявлены контекст длиной 256 тысяч токенов с возможностью расширения до 1 млн, понимание длинных документов и продолжительных видеозаписей, а также OCR для 32 языков. Среди архитектурных особенностей указаны Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. К сильным сторонам относятся сочетание языкового и визуального понимания, улучшенная работа с пространственными отношениями, видео, документами и мелкими визуальными деталями, а также сниженные требования к памяти благодаря 4-битному формату. README не приводит точный перечень поддерживаемых языков, аппаратные требования и детальные ограничения квантованной версии; на практике 4-битное представление может влиять на точность, но конкретные потери здесь не указаны. Лицензия — Apache-2.0.

yuyijiong/T5-large-sentiment-analysis-Chinese 是基于 IDEA-CCNL/Randeng-T5-784M-MultiTask-Chinese 微调得到的中文情感分析模型，参数量约 385,7 млн. Разработчик указывает, что эта версия улучшает предыдущую yuyijiong/Randeng-T5-large-sentiment-analysis-Chinese за счёт решения проблемы переобучения. Модель построена на архитектуре T5 и распространяется в формате PyTorch. Модель извлекает из текста объекты, мнения, аспекты и полярность тональности, представляя результат в структурированном виде. Можно задавать стиль извлечения мнения, анализировать тональность для выбранных аспектов и разрешать модели дополнять отсутствующий объект. Карточка описывает обучение на нескольких китайских и англоязычных наборах данных, включая SemEval 2016 Task 5. Основное назначение — аспектный анализ тональности текстовых отзывов и других высказываний. Хотя метаданные задают тег text-generation, доступная карточка описывает именно извлечение структурированных результатов анализа тональности. В README указано, что это улучшение более ранней версии; условия лицензии и численная длина контекста в доступных данных не приведены.