I.4Обработка документов и форм

Карточка модели google/mt5-xxl на Hugging Face совпадает с карточкой google/mt5-small, поэтому описание составлено по ней. mT5-small — компактная многоязычная модель Google на архитектуре encoder-decoder Transformer семейства T5, содержащая 157,4 млн параметров. Она предварительно обучена на корпусе mC4, охватывающем 101 язык, в формате преобразования текста в текст; контрольные точки доступны в форматах PyTorch, TensorFlow, Flax и ONNX. Лицензия — Apache-2.0. Модель служит базой для дообучения под конкретные задачи NLP: например, суммаризацию, перевод или ответы на вопросы. Сам чекпойнт проходил только предварительное обучение без supervised-настройки, поэтому для качественного решения прикладных задач его следует дообучить. Поддержка языков включает русский и английский, а также множество других языков.

Newq-0.5B-Instruct — компактная инструктивная языковая модель примерно с 494 млн параметров, созданная на базе Qwen/Qwen2.5-0.5B-Instruct. Она предназначена для диалогов и генерации текста общего назначения. Модель использует архитектуру Qwen2 с 24 слоями и групповым запросным вниманием (14 голов Q и 2 головы KV), поддерживает контекст до 32 768 токенов и представлена в формате safetensors для библиотеки Transformers. Компактный размер позволяет запускать её на CPU или видеокарте умеренной мощности, а длинный контекст подходит для работы с объёмными текстовыми запросами. В метаданных указана поддержка английского языка и интерфейса вызова инструментов. Модель распространяется по лицензии Apache-2.0.

Obazda-7B — чат-модель на основе Mistral, созданная Johann Hartmann как объединение предварительно обученных языковых моделей методом DARE TIES с помощью mergekit. В качестве базовой модели использована DiscoResearch/DiscoLM_German_7b_v1; также в объединение вошли Wiedervereinigung-7b-dpo-laser, Experiment26-7B и WestLake-7B-v2-laser-truthy-dpo. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов на немецком языке. Приведённые в карточке оценки показывают относительно сильные результаты в письме, ролевом взаимодействии, извлечении информации, гуманитарных и естественно-научных темах, а также более слабые результаты в рассуждениях, математике и программировании. Распространяется по лицензии Apache-2.0.

Panther v1 — языковая модель Rardilit на архитектуре LLaMA, выпущенная в мае 2023 года. Модель содержит 6,6 млрд параметров, работает с текстом и имеет контекстное окно 2048 токенов. В карточке заявлена поддержка нескольких языков; в метаданных указан английский язык. Модель предназначена для генерации текста, исследования поведения языковых моделей и использования в качестве основы для дообучения. Среди возможных последующих задач названы извлечение информации, ответы на вопросы и суммаризация. Модель может выдавать фактически звучащие, но неверные ответы, а также нерелевантный или повторяющийся текст; возможны стереотипы, персональные данные и неприемлемый контент. Разработчик — Rardilit. Указана лицензия Panther License v1.0, классифицированная в метаданных как other; конкретные условия следует сверять с текстом лицензии. Модель не предназначена для решений с существенными последствиями, в том числе в медицине, праве, политике и финансах.

pico-type v02 — компактная модель-классификатор семейства PicoType, разработанная авторами проекта pico-type. Она анализирует содержимое по исходным байтам и предсказывает несколько характеристик: общий тип, модальность, подтип, язык программирования, язык текста, MIME-тип файла и риск-флаги. Модель предназначена для быстрой автоматической классификации файлов и содержимого в приложениях, включая обработку на CPU и периферийных устройствах. Архитектура — плотная byte-level модель с несколькими выходными головками и Matryoshka-вариантами разных размерностей. В репозитории представлены ONNX-модели в формате FP32; базовый вариант содержит около 1,48 млн параметров и занимает примерно 9,25 МБ. Для входа используются последовательности байтов длиной до 1024. Карточка сообщает о многоязычной поддержке, но не перечисляет конкретные естественные языки. Указаны точность 100% для двух задач и 93,8% для классификации подтипов на синтетической оценке; эти результаты не гарантируют такую же точность на реальных данных. Лицензия — Apache-2.0.

PassingByPixels/Qwen3.8-27B-heretic-ara-NVFP4 — это квантизированная версия мультимодальной модели Qwen3.8-27B-heretic-ara, разработанная PassingByPixels на основе checkpoint от trohrbaugh. Исходная модель представляет собой кастомную Heretic ARA-версию Qwen3.8-27B от Qwen; данный репозиторий выполняет преобразование числового формата без дополнительного обучения, дообучения или изменения весов, за исключением восстановления MTP-головы. Модель предназначена для генерации и анализа текста и изображений, включая диалоговые сценарии с поддержкой reasoning и визуального ввода. Она рассчитана на запуск через vLLM на одном NVIDIA DGX Spark с GPU GB10 и 128 ГБ памяти. Используется смешанная точность: FFN и проекции full attention хранятся в NVFP4 — 4-битном формате с блоковыми 8-битными масштабами, а Gated DeltaNet, vision tower, embeddings, LM head и MTP-голова остаются в BF16. Размер весов уменьшен примерно с 51,8 до 20 ГБ; заявлена поддержка контекста до 131 072 токенов. В README указан английский язык. К сильным сторонам относятся существенно меньший размер, совместимость с Blackwell FP4-путём vLLM и поддержка speculative decoding через MTP. Работоспособность MTP проверена на DGX Spark, однако это не является оценкой качества модели. Ключевое ограничение — потерьное 4-битное преобразование: сравнительное тестирование качества с исходной BF16-моделью не проводилось, а заявленные возможности относятся прежде всего к исходным весам. Также отмечены ограничения совместимости MTP и FlashInfer на GB10. Модель распространяется по лицензии Apache 2.0, унаследованной от исходных моделей.

Карточка модели abdebug2003/qwen3-vl-embedding-endpoint на Hugging Face совпадает с карточкой Qwen/Qwen3-VL-Embedding-8B, поэтому описание составлено по ней. Qwen3-VL-Embedding-8B — мультимодальная модель эмбеддингов семейства Qwen, разработанная командой Qwen и дообученная на базе Qwen/Qwen3-VL-8B-Instruct. Она предназначена для поиска и сопоставления информации между текстом, изображениями, скриншотами и видео, а также для кластеризации мультимодального контента. Модель принимает отдельные модальности и их сочетания и кодирует их в общее векторное пространство. Модель содержит 8 млрд параметров, имеет архитектуру Qwen3-VL и контекст длиной до 32 тысяч токенов. Размерность эмбеддинга достигает 4096; поддерживаются настраиваемые размерности от 64 до 4096. Заявлена поддержка более 30 языков, а среди сценариев — мультимодальный и межъязыковой поиск, сопоставление текста с изображениями и видео и визуальный поиск по документам. Модель распространяется под лицензией Apache-2.0. Эмбеддинги подходят для первичного поиска и кластеризации; для уточнения порядка найденных результатов карточка рекомендует отдельную модель Qwen3-VL-Reranker. Для многоязычных сценариев README советует формулировать инструкции на английском, поскольку большинство инструкций при обучении были на этом языке.

teven/roberta_kelm_tekgen — модель Sentence-Transformers на архитектуре RoBERTa, дообученная для сопоставления предложений и абзацев. Она преобразует текст в плотные векторы размерности 768, пригодные для вычисления семантического сходства, кластеризации и семантического поиска. Размер модели — 151,9 млн параметров, контекст — до 514 токенов; веса представлены в формате PyTorch. Для использования доступны Sentence-Transformers и Transformers с подходящей операцией pooling. Модель подходит для поиска текстов, близких по смыслу, и группировки похожих фрагментов. В README указано обучение с MultipleNegativesRankingLoss и косинусной функцией сходства. Язык и лицензия в предоставленных данных не установлены, поэтому модель лучше применять с проверкой качества на целевых текстах и языках.

Mozilla/smart-tab-embedding-fine-tuned — дообученный Mozilla на базе sentence-transformers/all-MiniLM-L6-v2 энкодер предложений Sentence Transformers с архитектурой BERT. Он преобразует предложения и абзацы в плотные семантические векторы размерности 384 и предназначен для сравнения сходства текстов, семантического поиска, поиска перефразировок, кластеризации и классификации текста. В README указана максимальная длина последовательности 256 токенов; метаданные каталога сообщают нативный контекст 512 токенов. Для сравнения используется косинусное сходство. Модель принимает текст и выдаёт векторы; данных о поддерживаемых языках в карточке нет. Репозиторий содержит форматы ONNX и safetensors и насчитывает около 25,9 млн параметров. Лицензия в предоставленных данных не указана.

UniWiZ-7B-v0.1 — языковая модель Proto-AI на архитектуре Mistral-7B с 7,1 млрд параметров. Она предназначена для генерации текста, суммаризации, ответов на вопросы и диалогов, а также для образовательных сценариев и создания контента. Модель обучена на подборке данных из разных областей знаний с акцентом на безопасность; контекст — до 32 768 токенов. Модель может помогать создавать статьи и творческие тексты, сокращать документы и объяснять понятия. В README отмечены ограничения на редкие и узкоспециализированные темы, а также вероятность предвзятых, оскорбительных или иных нежелательных ответов, несмотря на меры безопасности. Веса опубликованы в формате safetensors; лицензия — Apache-2.0.

Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Granite-3.0-8B-Instruct — языковая модель команды Granite компании IBM для ответов на инструкции и создания диалоговых ассистентов, в том числе для бизнес-приложений. Она дообучена на базе ibm-granite/granite-3.0-8b-base с использованием открытых наборов инструкций, синтетических данных, supervised fine-tuning, выравнивания с помощью обучения с подкреплением и объединения моделей. Модель представляет собой плотный decoder-only трансформер на 8,2 млрд параметров с архитектурой Granite; в ней используются GQA, RoPE, SwiGLU и RMSNorm. Она принимает текст и генерирует текст, поддерживает структурированный формат чата и интерфейс вызова инструментов. Длина контекста — 4096 токенов. Заявлены английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и многоязычного диалога. Качество на языках помимо английского может быть ниже; ответы могут быть неточными, предвзятыми или небезопасными, поэтому для конкретного применения нужны проверка и настройка. Лицензия — Apache 2.0.

Qwen3.5-122B-A10B-GPTQ-Int4 — мультимодальная модель семейства Qwen3.5, разработанная командой Qwen. Это causal language model с vision encoder, предназначенная для работы с текстом и изображениями. Модель ориентирована на рассуждения, программирование, визуальное понимание, агентские сценарии и универсальные задачи обработки контента. Модель использует гибридную архитектуру с Gated Delta Networks, Gated Attention и разреженным Mixture-of-Experts. Общее число параметров составляет 122 млрд, при этом во время работы активируется около 10 млрд. Архитектура включает 48 слоёв и 256 экспертов, из которых активируются 8 маршрутизируемых и 1 общий эксперт. Нативная длина контекста — 262 144 токена, с возможностью расширения до 1 010 000 токенов. Поддерживаются 201 язык и диалект. Данная версия содержит GPTQ-квантизацию до 4 бит и распространяется в формате, совместимом с Hugging Face Transformers, vLLM, SGLang и KTransformers. Сильными сторонами модели являются сочетание текстовых и визуальных возможностей, большой контекст, высокая вычислительная эффективность разреженной архитектуры и широкое языковое покрытие. Ограничения включают необходимость совместимого программного и аппаратного окружения для запуска крупной MoE-модели, а также возможные потери качества из-за 4-битной квантизации; конкретные требования к ресурсам в README не указаны. Лицензия — Apache-2.0.

Qwen3.5-27B — постобученная мультимодальная модель семейства Qwen3.5, разработанная командой Qwen. Это причинная языковая модель с визуальным энкодером на 27 млрд параметров, объединяющая Gated Delta Networks и разреженную архитектуру Mixture-of-Experts. Репозиторий содержит веса и конфигурацию в формате Hugging Face Transformers; заявлена совместимость с Transformers, vLLM, SGLang и KTransformers. Модель предназначена для диалогов и рассуждений по тексту и изображениям, программирования, визуального понимания и сценариев с вызовом инструментов. Она поддерживает 201 язык и диалект. Нативная длина контекста составляет 262 144 токена с возможностью расширения до 1 010 000 токенов; режим рассуждений включён по умолчанию. Разработчик отмечает высокую эффективность гибридной архитектуры и широкие мультимодальные возможности. Лицензия — Apache-2.0. Для запуска доступны популярные фреймворки инференса; README рекомендует специализированные серверы для производительных нагрузок. Модель крупная, поэтому длинный контекст может требовать значительных ресурсов и при нехватке памяти его рекомендуют уменьшать.

Step 3.7 Flash — мультимодальная vision-language модель, разработанная StepFun. Она предназначена для высокочастотных производственных нагрузок и агентных сценариев, объединяющих восприятие изображений, поиск, проверку информации, рассуждения и взаимодействие с инструментами. Модель подходит для анализа больших финансовых отчётов, многошагового поиска с верификацией по нескольким источникам, параллельной работы coding-агентов, обработки пользовательских интерфейсов, диаграмм и других визуальных материалов. Модель построена на разреженной архитектуре Mixture-of-Experts (MoE) и содержит около 198 млрд параметров: примерно 196 млрд приходятся на языковую часть и 1,8 млрд — на vision encoder. На каждый токен активируется около 11 млрд параметров. Поддерживается контекст длиной до 256 тысяч токенов, изображения и текст, а также три уровня рассуждения — low, medium и high, позволяющие выбирать баланс между скоростью, стоимостью и глубиной анализа. В README указан английский язык; заявленная мультимодальность обеспечивает понимание изображений, визуальное заземление, анализ интерфейсов и преобразование визуальных данных в структурированный код. Сильные стороны модели — высокая пропускная способность до 400 токенов в секунду, работа с длинным контекстом, устойчивое выполнение многошаговых агентных процессов, использование внешних API, визуальная проверка данных и задачи программной инженерии. Ограничения включают очень большой общий размер модели и, как следствие, высокие требования к инфраструктуре при локальном развёртывании; заявленные результаты также зависят от конкретных бенчмарков и сценариев. Модель распространяется по лицензии Apache-2.0 и поддерживает Transformers, vLLM, SGLang и llama.cpp; доступна через StepFun Open Platform, OpenRouter и NVIDIA NIM, а также может развёртываться в облачных, дата-центровых и локальных средах.

Карточка модели NostraEmpire/mirror-granite-3.1-8b-instruct на Hugging Face совпадает с карточкой ibm-granite/granite-3.1-8b-instruct, поэтому описание составлено по ней. Granite-3.1-8B-Instruct — языковая модель IBM Granite Team для выполнения инструкций и создания диалоговых ассистентов. Это дообученная на базе Granite-3.1-8B-Base плотная авторегрессионная трансформерная модель на 8,2 млрд параметров; при обучении использовались supervised fine-tuning, выравнивание с помощью обучения с подкреплением и слияние моделей. Архитектура включает GQA, RoPE, SwiGLU и RMSNorm. Модель принимает текст и поддерживает контекст до 131 072 токенов. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций. Поддерживает диалоги на английском, немецком, испанском, французском, японском, португальском, арабском, чешском, итальянском, корейском, нидерландском и китайском языках. Лучше всего модель обучена следовать инструкциям на английском; качество на других языках может быть ниже. Она может выдавать неточные, предвзятые или небезопасные ответы. Лицензия — Apache 2.0.

Muse Glimmer-30B — каузальная языковая модель примерно на 29,6 млрд параметров, разработанная Meta Superintelligence Lab и представленная в версии unsloth компанией Unsloth. Модель основана на плотном каузальном Transformer с выделенным энкодером восприятия и предназначена для локального запуска на пользовательском оборудовании без облачной инфраструктуры и сетевого доступа. Данная версия использует 4-битную квантизацию и базовую модель meta-models/Muse-Glimmer-30B. Модель ориентирована на автономные агентные сценарии: многошаговое рассуждение, выполнение задач от начала до конца, вызов инструментов, написание и отладку кода, работу в многоходовых диалогах и восстановление после ошибок инструментов. Она принимает текст и изображения, поэтому может анализировать скриншоты, графики и документы, а генерирует текст. Поддерживаются различные уровни усилий рассуждения, совместимость с агентскими оркестраторами и более 100 языков. Архитектура включает 52 слоя, скрытое измерение 6656, механизм GQA с 32 головами запросов и 2 KV-головами, SwiGLU, локально-глобальный шаблон внимания и контекст длиной от 131 072 токенов. Энкодер восприятия — ViT-G/14 примерно на 1,8 млрд параметров; на одно изображение допускается до 4096 визуальных токенов. Дата отсечения знаний — 4 января 2026 года. Сильные стороны модели — сочетание мультимодального понимания, инструментального использования, длительного планирования и восстановления после сбоев, а также возможность запуска на потребительском оборудовании. Квантизация позволяет разместить языковую часть менее чем в 20 ГБ и ориентироваться на конфигурации с 24 или 32 ГБ памяти, однако для полноценной работы также необходимы память под KV-кэш, энкодер восприятия и speculative decoding drafter. Версия распространяется по лицензии Apache 2.0.

cyankiwi/gemma-4-26B-A4B-it-AWQ-8bit — инструкцияно дообученная мультимодальная модель семейства Gemma 4, разработанная Google DeepMind и представленная в формате AWQ 8bit. Она основана на Google Gemma 4 26B A4B и использует архитектуру Mixture-of-Experts с 25,2 млрд параметров, из которых около 3,8 млрд активируются при обработке запроса. Модель предназначена для генерации текста, программирования, рассуждений, мультимодального анализа изображений и построения агентных сценариев с вызовом функций. Модель принимает текст и изображения и генерирует текст. Она поддерживает более 140 языков, контекст до 256 тысяч токенов и использует гибридный механизм внимания с чередованием локального sliding window attention и глобального внимания. В конфигурации MoE предусмотрены 128 экспертов, 8 активных экспертов и один общий эксперт; размер скользящего окна составляет 1024 токена, словарь — 262 тысячи токенов. Поддерживаются настраиваемые режимы рассуждений и системные сообщения. Ключевое преимущество — сочетание возможностей модели класса 26B с вычислительной нагрузкой, близкой к модели примерно на 4 млрд активных параметров, что делает инференс быстрее плотной модели Gemma 4 31B. Большой контекст и поддержка изображений подходят для анализа длинных документов, сложных задач рассуждения, программного кода и визуальных данных. Ограничения включают необходимость совместимого оборудования и программного обеспечения для AWQ 8bit, а также потенциальные ошибки и ограничения, свойственные генеративным мультимодальным моделям; конкретные показатели производительности в предоставленном фрагменте README приведены не полностью. Лицензия — Apache 2.0.

Granite-4.1-30B — большая языковая модель с открытыми весами, разработанная командой Granite компании IBM. Это инструктивная версия с 28,9 млрд параметров, дообученная на базе Granite-4.1-30B-Base с помощью supervised fine-tuning и обучения с подкреплением. Архитектура — плотный decoder-only Transformer с GQA, RoPE, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами; модель работает с контекстом до 131 072 токенов. Модель предназначена для диалогов и следования общим инструкциям, а также для создания ассистентов и LLM-агентов с вызовом инструментов. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, задачи с кодом и многоязычный диалог. Заявлены английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. IBM указывает на улучшения в следовании инструкциям, диалоге и вызове инструментов. Качество на языках помимо английского может быть ниже; модель также может выдавать неточные, предвзятые или небезопасные ответы, поэтому её следует проверять и настраивать под конкретный сценарий. Лицензия — Apache 2.0.

Qwen3.5-35B-A3B-FP8 — мультимодальная причинная языковая модель с vision-энкодером из семейства Qwen3.5, разработанная командой Qwen. Представленная версия содержит FP8-квантизированные веса и конфигурацию в формате Hugging Face Transformers и предназначена для локального или серверного вывода в Transformers, vLLM, SGLang, KTransformers и совместимых системах. Модель ориентирована на работу с текстом и изображениями, включая рассуждения, программирование, визуальное понимание и агентские сценарии. Она поддерживает 201 язык и диалект, имеет нативный контекст 262 144 токена с возможностью расширения до 1 010 000 токенов. Архитектура сочетает Gated Delta Networks, Gated Attention и разреженную Mixture-of-Experts: всего 35 млрд параметров, из которых активируются около 3 млрд; используется 256 экспертов, 8 маршрутизируемых и 1 общий эксперт. В модели 40 слоёв и скрытая размерность 2048. Ключевое преимущество версии FP8 — существенно более эффективный по памяти и вычислениям вывод при заявленной производительности, почти идентичной исходной модели. Ограничения включают необходимость совместимой инфраструктуры и ПО для FP8-инференса, а также то, что README не приводит подробных сведений о фактических требованиях к оборудованию, безопасности и результатах по отдельным тестам для данной квантизированной версии. Модель распространяется по лицензии Apache-2.0.

Granite-4.0-Tiny-Preview-GGUF — текстовая instruct-модель семейства Granite, разработанная командой Granite компании IBM. Это конвертированная в формат GGUF версия базовой модели ibm-granite/granite-4.0-tiny-base-preview с различными вариантами квантования. Модель содержит около 7 млрд параметров и использует мелкозернистую гибридную архитектуру mixture-of-experts (MoE). Она дообучалась с применением supervised fine-tuning и методов выравнивания на основе reinforcement learning, включая открытые наборы инструкций и синтетические данные для задач с длинным контекстом. Модель предназначена для общего следования инструкциям и интеграции в AI-ассистентов, в том числе в бизнес-приложениях. Она поддерживает рассуждение, суммаризацию, классификацию и извлечение текста, ответы на вопросы, retrieval-augmented generation (RAG), работу с кодом, function calling, многоязычный диалог и обработку длинных документов и встреч. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков; модель также можно дообучать для других языков. Сильными сторонами являются сочетание компактного размера, MoE-архитектуры, широкого набора прикладных сценариев, многоязычности и ориентации на длинноконтекстные задачи. README не содержит точного размера контекстного окна, результатов benchmark-тестов, сведений о конкретных квантованиях и подробных ограничениях качества, поэтому эти характеристики требуют дополнительной проверки. Модель распространяется по лицензии Apache 2.0.

cyankiwi/Qwen3.8-27B-AWQ-FP8 — квантованная версия модели Qwen3.8-27B, разработанной командой Qwen и опубликованной пользователем cyankiwi. Модель предназначена для работы в формате Hugging Face Transformers и совместима с Transformers, vLLM, SGLang и TokenSpeed. Это плотная причинно-следственная языковая модель с vision-энкодером, поддерживающая понимание текста, изображений и видео. Она ориентирована на программирование, профессиональные и исследовательские задачи, обработку документов и STEM-материалов, а также многошаговые агентские сценарии. Доступны управляемый режим рассуждений, настройка глубины рассуждений через reasoning_effort и сохранение контекста рассуждений между сообщениями через preserve_thinking. Модель содержит 27 млрд параметров, 64 слоя и имеет нативную длину контекста 262 144 токена с возможностью расширения до 1 000 000 токенов. Заявлена поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. Размер опубликованных файлов составляет 31,28 ГБ. К сильным сторонам относятся мультимодальность, длинный контекст и ориентация на сложные многошаговые задачи; конкретные ограничения производительности в представленном фрагменте README не указаны. Модель распространяется по лицензии Apache 2.0.

Granite-4.0-Micro — компактная языковая модель IBM Granite Team для диалогов и следования инструкциям. Это модель на 3,4 млрд параметров с архитектурой GraniteMoeHybrid; она дообучена на базе Granite-4.0-Micro-Base с помощью инструкционных данных, синтетических примеров, выравнивания с подкреплением и объединения моделей. Модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и доступна в формате safetensors через Transformers. Модель предназначена для создания ассистентов и агентных систем, в том числе для корпоративных приложений. Она подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом, вызова инструментов и многоязычных диалогов. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Модель разработана IBM и распространяется по лицензии Apache 2.0. Качество на других языках может уступать английскому; ответы могут быть неточными, предвзятыми или небезопасными, поэтому для конкретного применения рекомендуется проверка и настройка.

granite-4.0-tiny-preview-GGUF — GGUF-квантизированные варианты 7-миллиардной instruct-модели Granite-4.0-Tiny-Preview, разработанной командой Granite компании IBM и преобразованной с помощью llama.cpp. Базовая модель — ibm-granite/granite-4.0-tiny-base-preview. Модель представляет собой гибридную fine-grained Mixture-of-Experts (MoE) архитектуру и дообучена на открытых наборах инструкций с разрешительными лицензиями и синтетических данных для задач с длинным контекстом. Дата выпуска исходной модели — 2 мая 2025 года. Модель предназначена для общего следования инструкциям и интеграции в AI-ассистентов, в том числе для бизнес-приложений. Она поддерживает рассуждения, суммаризацию, классификацию и извлечение текста, ответы на вопросы, Retrieval Augmented Generation (RAG), программирование, function calling, многоязычный диалог, а также обработку длинных документов и совещаний. Заявлены английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Ключевая особенность данного репозитория — применение автором дополнительного повышения точности отдельных важных слоёв при квантовании через параметр --tensor-type в llama.cpp. Это может улучшать точность при низкой битности, особенно для MoE-моделей, но увеличивает размер файлов. Конкретный формат квантования и его характеристики зависят от выбранного варианта GGUF. Для запуска требуется совместимое ПО, например llama.cpp; README указывает генерацию моделей на коммите adef8178. Модель распространяется по лицензии Apache 2.0. В README не указаны точный размер контекстного окна, конкретные уровни квантования и результаты бенчмарков для данного GGUF-варианта.

Gemma 3 — серия мультимодальных моделей, разработанная и выпущенная Google на основе исследований и технологий, использованных при создании Gemini. Модели предназначены для генерации текста по текстовым и изображениям входным данным и подходят для ответов на вопросы, суммаризации, рассуждений и других прикладных сценариев. Они ориентированы на эффективное развертывание на ноутбуках, настольных компьютерах и в пользовательской облачной инфраструктуре. В линейку входят варианты объёмом 1B, 4B, 12B и 27B параметров, включая предварительно обученные и instruction-tuned версии. Заявлены поддержка контекста до 128K токенов, более 140 языков и обработка текстовых и визуальных входов с генерацией текста. Для каждой ветки доступна версия с квантованием по умолчанию. Конкретная модальность или набор возможностей может зависеть от выбранного варианта. Сильные стороны серии — широкий выбор размеров, мультимодальность, большой контекст, многоязычность и открытые веса, что упрощает адаптацию и локальное развёртывание. Более крупные варианты потенциально требуют больше вычислительных ресурсов, а квантованные версии могут иметь компромисс между качеством и эффективностью. Модель распространяется по лицензии Gemma License; условия использования определяются её текстом.

Granite-3.1-1B-A400M-Instruct — языковая модель IBM Granite Team для выполнения инструкций и создания диалоговых ассистентов. Это дообученная на Granite-3.1-1B-A400M-Base модель с архитектурой GraniteMoE; README также описывает этапы supervised fine-tuning, выравнивания с помощью reinforcement learning и слияния моделей. В метаданных указано 163,6 млн параметров и контекст до 131 072 токенов. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций, а также для многоязычного диалога и работы с длинными документами и встречами. README перечисляет английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Производительность на других языках может уступать английской; ответы могут быть неточными, предвзятыми или небезопасными. Лицензия — Apache 2.0.

QuantFactory/granite-3.1-1b-a400m-instruct-GGUF — квантизированная версия Granite-3.1-1B-A400M-Instruct, созданная QuantFactory с использованием llama.cpp на основе модели IBM Granite. Это инструкционная языковая модель для генерации текста и построения AI-ассистентов в различных прикладных областях, включая бизнес-сценарии. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, Retrieval-Augmented Generation (RAG), задач, связанных с кодом, function calling, многоязычного диалога и обработки длинного контекста, включая анализ документов и совещаний. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Исходная модель использует decoder-only Transformer с GQA, RoPE, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Она относится к sparse MoE-архитектуре с 1,3 млрд параметров, из которых активно используется около 400 млн; включает 24 слоя, 32 эксперта и выбирает 8 экспертов на токен. Максимальная длина последовательности — 128K токенов. Квантизация может снизить требования к памяти и упростить локальный запуск, однако README не указывает конкретные форматы квантизации, их точность и совместимость. Модель выпущена под лицензией Apache 2.0.

Qwen3.6-35B-A3B-GPTQ-4bit — это 4-битная GPTQ-квантизованная версия мультимодальной модели Qwen3.6-35B-A3B, разработанной командой Qwen. Модель предназначена для генерации и понимания текста, работы с изображениями, задач программирования, рассуждений, вызова инструментов и обслуживания через vLLM. Она поддерживает мультимодальные запросы с текстом и изображениями, а также спекулятивное декодирование благодаря модулю MTP. Модель использует архитектуру Mixture-of-Experts с примерно 35 млрд параметров, из которых около 3 млрд активируются для каждого токена; в каждом слое выбираются 8 из 256 экспертов. Архитектура включает 40 слоёв, чередующиеся линейное и полное внимание, визуальный энкодер ViT из 27 блоков и контекстное окно до 262 144 токенов. Экспертные модули квантизованы до INT4 методом GPTQ, тогда как визуальный энкодер, MTP, общие эксперты, эмбеддинги и ряд других компонентов сохранены в BF16 или FP16. Размер модели составляет около 25 ГБ, а измеренная деградация perplexity относительно исходной BF16-версии — около 0,83% на wikitext-2. К сильным сторонам относятся значительное сокращение размера и требований к памяти при сохранении мультимодальности, длинного контекста и поддержки инструментов. Ограничение заключается в том, что согласно README модель напрямую не загружается через GPTQModel или transformers и предназначена для инференса в vLLM; для запуска может потребоваться исправление совместимости в некоторых версиях vLLM. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-BF16-INT4-W4A16-G32-AutoRound — мультимодальная языковая модель на базе Qwen3.8 Vision-Language Model, подготовленная goldhub с использованием AutoRound. Базовую архитектуру и мультимодальные возможности разработала команда Qwen. Модель предназначена для генерации и анализа текста, программирования, математических и логических рассуждений, творческих задач, а также обработки изображений и видео. Модель содержит 27 миллиардов параметров и использует квантизацию W4A16: веса представлены в 4 битах, активации — в 16 битах, размер группы — 32, применяется симметричная квантизация. Критические компоненты, включая визуальный энкодер, эмбеддинги и отдельные проекции attention, сохранены в FP16/BF16. Заявлена поддержка контекста до 256K токенов, Multi-Token Prediction, а также входных данных в форматах текст, изображение и видео. Указаны языки: английский, китайский, русский, украинский, греческий и иврит. Сильными сторонами являются сочетание мультимодальности, длинного контекста и сниженных требований к памяти по сравнению с полноразмерной моделью. README приводит результаты внутренних тестов по скорости, математике, рассуждениям, программированию и длинному контексту, однако их независимое подтверждение не представлено. К ограничениям относятся повышенные требования к видеопамяти из-за сохранённых слоёв FP16/BF16, необходимость аккуратной настройки батчинга для длинного контекста и потенциальная зависимость запуска от поддержки AutoRound, vLLM, SGLang или remote code. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-Flash-Next — открытая по весам мультимодальная модель семейства Qwen, представленная как первый релиз архитектуры Qwen4-экспериментального семейства. Это причинная языковая модель с визуальным энкодером, предназначенная для диалога, работы с изображениями и агентных сценариев, включая задачи программирования и длительные рабочие процессы. В карточке описаны возможности вызова инструментов и режим рассуждения, включённый по умолчанию. Модель имеет разреженную MoE-архитектуру: 125 млрд параметров, из которых активируются 6 млрд, дополнительно 51 млрд параметров приходится на n-граммные эмбеддинги и 4 млрд — на MTP. Архитектура сочетает Gated DeltaNet и Qwen Sparse Attention, а также использует Gated Residual. Контекстное окно составляет 262 144 токена и может расширяться до 1 000 000 токенов. В карточке приведены оценки на агентных, программных и визуально-языковых бенчмарках, однако таблицы результатов и таблица языков опущены. Разработчик позиционирует модель для API-интеграции и рекомендует этот способ использования. Репозиторий содержит веса Safetensors; лицензия указана как other, поэтому условия использования следует уточнить в материалах разработчика. В предоставленных данных нет списка поддерживаемых языков и конкретных ограничений по качеству или применению.