I.4Обработка документов и форм

mT5-large — многоязычная модель Google на архитектуре T5 для преобразования текста в текст. Она содержит около 608,4 млн параметров и предварительно обучена на корпусе mC4, охватывающем 101 язык. Для выполнения прикладных задач модель необходимо дообучить на соответствующих данных. Модель предназначена как основа для последующей настройки под задачи генерации и преобразования текста, например перевода, суммаризации и ответов на вопросы. Она поддерживает многоязычные сценарии; среди языков корпуса есть русский и английский. В репозитории доступны веса PyTorch, TensorFlow и Flax. Лицензия — Apache-2.0.

Карточка модели KOLKAHORKOV/paraphrase-multilingual-MiniLM-L12-v2 на Hugging Face совпадает с карточкой sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, поэтому описание составлено по ней. paraphrase-multilingual-MiniLM-L12-v2 — модель Sentence-Transformers, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерности 384, предназначенные для сравнения смысловой близости. Модель построена на архитектуре BERT с 12 слоями MiniLM; объём составляет 124,3 млн параметров, а максимальная длина контекста — 512 токенов. Модель подходит для семантического поиска, поиска похожих формулировок и кластеризации текстов. Она поддерживает много языков, включая русский, и может сопоставлять предложения на разных языках. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Модель распространяется по лицензии Apache-2.0. Векторы фиксированной размерности и лимит в 512 токенов ограничивают представление длинных документов; для абзацев и документов обычно требуется разбиение на фрагменты.

TriomphantV2-ECE-78B-SLERP-V1 — разговорная языковая модель, созданная студентами инженерной школы ECE под руководством преподавателя ECE и технического директора TW3 Partners. Это слияние методом SLERP двух моделей: MaziyarPanahi/calme-3.2-instruct-78b и dfurman/CalmeRys-78B-Orpo-v0.1; в конфигурации указана базовая модель MaziyarPanahi/calme-3.2-instruct-78b. Модель основана на плотной архитектуре Qwen2ForCausalLM и содержит 71,5 млрд параметров. Модель предназначена для диалогов и генерации текста. Она опубликована в формате safetensors с лицензией Apache-2.0; максимальная длина контекста — 32 768 токенов. В карточке не описаны специализированные предметные области или поддерживаемые языки, поэтому область применения следует считать общей.

BgGPT-7B-Instruct-v0.1 — болгарская инструкционная языковая модель, созданная Институтом INSAIT при Софийском университете на основе Mistral-7B-v0.1. Это плотный авторегрессионный трансформер с 7,1 млрд параметров, дообученный на болгарских веб-данных, специализированных болгарских наборах и машинных переводах англоязычных датасетов. Английские данные также использовались для сохранения навыков английского языка и логических рассуждений. Модель предназначена для диалога и выполнения инструкций на болгарском языке, а также может работать с английским текстом. Контекст составляет до 32 768 токенов. Токенизатор расширен для более эффективной обработки болгарских слов на кириллице; для инструкций в исходной карточке указаны маркеры [INST] и [/INST]. Модель распространяется по лицензии Apache 2.0. Как и другие генеративные языковые модели, она может выдавать ошибочные или неподтверждённые сведения; карточка не приводит подробных оценок таких ошибок или гарантий качества.

Fingu-instruct-3 — модель Sentence Transformer, дообученная FINGU-AI на базе dunzhang/stella_en_1.5B_v5. Она преобразует предложения и абзацы в плотные векторы размерности 1024 и предназначена для сравнения смысловой близости текстов, семантического поиска, поиска перефразирований, кластеризации и классификации текста. Для сравнения векторов используется косинусное сходство; в метаданных указаны архитектура Qwen2, 1,5 млрд параметров и контекст до 131072 токенов. README указывает максимальную длину последовательности 8096 токенов, поэтому при работе следует учитывать это более низкое ограничение. Модель принимает текст и возвращает векторы; указанная библиотека — sentence-transformers. Лицензия в предоставленных данных не указана.

NLP Cloud разработала instruct-версию GPT-J, дообучив модель на наборе инструкций, подготовленном командой Stanford Alpaca и переработанном под формат GPT-J. Это плотная авторегрессионная языковая модель для генерации текста; версия fp16 предназначена для запуска на GPU уровня NVIDIA Tesla T4 с 16 ГБ видеопамяти. Максимальный контекст — 2048 токенов. Модель принимает инструкции на естественном языке и подходит для ответов на запросы, редактирования текста и других задач генерации; для сложных сценариев можно использовать few-shot примеры. При формировании запроса инструкция должна завершаться переводом строки. В README указано, что качество fp16 не отличается заметно от fp32. Модель распространяется по лицензии GPL-3.0.

SanctumAI/Llama-3.2-1B-Instruct-GGUF — это квантизированная версия инструкционно дообученной текстовой модели Meta Llama 3.2 1B Instruct, подготовленная SanctumAI в формате GGUF. Модель относится к семейству мультиязычных больших языковых моделей Meta, принимает текст и генерирует текст. Заявлены поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель предназначена для многоязычного диалога, суммаризации и сценариев агентского поиска и извлечения информации. Благодаря размеру около 1 млрд параметров и вариантам квантизации она ориентирована на локальный запуск при ограниченных ресурсах. Доступны варианты от Q2_K до Q8_0, а также f16; их размер составляет примерно от 0,58 до 2,48 ГБ, а оценочная потребность в оперативной или видеопамяти — от 3,93 до 5,70 ГБ. К сильным сторонам относятся компактность, поддержка нескольких языков, инструкционный режим и широкий выбор компромиссов между качеством и требованиями к памяти. Ограничения включают меньший размер по сравнению с более крупными моделями, возможное снижение качества из-за квантизации и отсутствие в README сведений о длине контекста, конкретной архитектуре и результатах бенчмарков. Модель распространяется по лицензии llama3.2; условия использования следует уточнять в тексте этой лицензии.

cloudyu/mistral_15B_instruct_v0.1 — разговорная модель для генерации текста, разработанная на базе архитектуры Mistral и дообученная методом SFT на наборе vicgalle/alpaca-gpt4. Карточка указывает 64 слоя; в метаданных размер модели составляет 14,1 млрд параметров, а родной контекст — 32 768 токенов. Модель принимает инструкции и необязательные входные данные в шаблоне «инструкция — вход — ответ» и генерирует текстовые ответы. Модель предназначена для диалогов и выполнения инструкций общего назначения. Репозиторий содержит веса в формате safetensors; лицензия — CC BY 4.0. README и метаданные не указывают поддерживаемые естественные языки или специализированные области применения.

ntAnh-dev/paraphrase-multilingual-MiniLM-L12-v2 — дообученная командой ntAnh-dev многоязычная модель Sentence Transformers на основе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. Архитектура — BERT с mean pooling; модель преобразует предложения и абзацы в плотные векторы размерности 384. Для сравнения текстов используется косинусное сходство. В метаданных указано 124,3 млн параметров и окно контекста 512 токенов; в карточке модели указана максимальная длина последовательности 128 токенов. Модель предназначена для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. Многоязычное назначение унаследовано от базовой модели; конкретный перечень языков в предоставленных данных не приведён. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

LuffyTheFox/Qwen3.6-27B-Uncensored-Genesis-MTP-GGUF — мультимодальная локальная модель семейства Qwen3.6, созданная LuffyTheFox на основе HauhauCS/Qwen3.6-27B-Uncensored-HauhauCS-Aggressive. Автор применяет собственный метод Genesis для численной коррекции весов GGUF без дополнительного обучения или дообучения, стремясь уменьшить шум в тензорах и повысить стабильность генерации. Базовая модель связана с Tongyi Lab команды Alibaba Group, однако сведения о точном авторстве исходной архитектуры в README ограничены. Модель предназначена прежде всего для локального использования, включая программирование и работу в LM Studio с агентом Bionic. Она поддерживает текст, изображения и видео; для работы с изображениями требуется отдельный файл mmproj. Заявлены языки English, Chinese и многоязычная поддержка. Модель содержит 27 млрд плотных параметров, 64 слоя, 48 слоёв линейного внимания и 16 слоёв полноформатного gated attention. Нативный контекст составляет 262 тысячи токенов и может быть расширен примерно до 1 млн с помощью YaRN. К сильным сторонам относятся большой контекст, мультимодальность, ориентация на локальный запуск и заявленная автором коррекция деградации весов. При этом README не содержит независимых результатов тестирования, поэтому преимущества Genesis над исходной моделью нельзя считать подтверждёнными. Для запуска рекомендуется квантование Q3_K_M при наличии около 16 ГБ VRAM или Q4_K_M при 24 ГБ VRAM, максимальная выгрузка на GPU и F16 для K/V cache. Модель обозначена как uncensored, поэтому её поведение и защитные ограничения могут отличаться от стандартных версий Qwen. Указана лицензия Apache-2.0.

KasugaiSakura/Qwen3.8-27B-Uncensored-JonathanColetti-GGUF — это набор GGUF-квантизаций модели Qwen/Qwen3.8-27B, опубликованный KasugaiSakura. Вариант модифицирован с помощью Heretic для существенного снижения отказов в ответах; дополнительное обучение и новые данные не использовались, а основные возможности, обучающие данные и архитектура унаследованы от базовой модели. Модель предназначена для генерации текста и запуска через совместимые среды, включая llama.cpp, а также поддерживает обработку изображений при использовании vision-проектора и совместимого runtime. Архитектура обозначена как Qwen3_5ForConditionalGeneration и включает 64 слоя, словарь из 248 320 токенов, один MTP-слой и контекст до 262 144 токенов. Доступны квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0; размер файлов составляет примерно от 10,6 до 29 ГБ. Сохранён MTP-head для speculative decoding, позволяющий ускорять генерацию, а опубликованные варианты включают как объединённые файлы, так и отдельные target/draft-модели. Заявлены языки English и Chinese. Сильными сторонами являются большой контекст, поддержка текста и изображений, широкий выбор уровней квантизации и возможность ускоренной генерации с MTP. Поведение отказов существенно ослаблено, но не устранено полностью; это может быть полезно для менее ограниченных сценариев, однако не означает отсутствия механизмов безопасности. Качество и требования к памяти зависят от выбранной квантизации: IQ2_M занимает меньше памяти, но показывает заметно более высокую perplexity, тогда как варианты от IQ4_XS и выше ближе к исходной точности. Модель распространяется по лицензии Apache-2.0.

T5-Base — языковая модель семейства Text-To-Text Transfer Transformer, разработанная Колином Раффелом, Ноамом Шазиром и соавторами. Она представляет задачи обработки естественного языка в едином формате: принимает текст и генерирует текст. По метаданным, модель содержит 123,8 млн параметров, имеет архитектуру T5ForConditionalGeneration и контекст до 512 токенов; доступна в форматах Flax, PyTorch, Safetensors и TensorFlow. Основная задача этой версии в каталоге — перевод. Авторы также описывают применение T5 для суммаризации документов, ответов на вопросы, классификации, анализа тональности, перефразирования и регрессии, если модель дообучена под конкретную задачу. Модель рассчитана на английский, французский, румынский и немецкий языки и предварительно обучена на корпусе C4 в рамках смеси задач. Лицензия — Apache 2.0. Модель общего назначения, поэтому качество для конкретной задачи зависит от подходящего формата запроса и, часто, от дообучения. README не содержит конкретных оценок качества или подробных сведений об ограничениях и рисках; контекст в 512 токенов ограничивает длину входа.

T5 Version 1.1 Large — Google разработала эту предварительно обученную языковую модель архитектуры T5 с 385,2 млн параметров. Она преобразует текст в текст и предназначена для последующей настройки под конкретные задачи обработки естественного языка, например суммаризацию, ответы на вопросы и классификацию текста. В версии 1.1 используется активация GEGLU вместо ReLU, отключён dropout при предварительном обучении, а слой эмбеддингов не разделяет параметры с классификатором. Модель предварительно обучена только на корпусе C4 без обучения на размеченных задачах; перед применением её нужно дообучить. Доступны веса в форматах PyTorch, TensorFlow и Flax. Указанный язык — английский. Модель распространяется по лицензии Apache-2.0. README не приводит отдельных оценок качества для этого размера модели; результаты зависят от последующего дообучения на целевой задаче.

GPT-5.6 Terra — языковая модель OpenAI общего назначения, предназначенная для рабочих сценариев, где важен баланс возможностей и стоимости. Она поддерживает рассуждение с настраиваемым уровнем усилий, вызов функций, структурированный вывод и работу с инструментами через Responses API. Модель принимает текст и изображения, а выдаёт текст; заявленное окно контекста — 1 050 000 токенов, максимальный объём ответа — 128 000 токенов. Terra подходит для программирования, анализа и создания документов, поиска по информации и выполнения многошаговых задач с инструментами. В API доступны веб-поиск, поиск по файлам, интерпретатор кода и управление компьютером. OpenAI указывает, что аудио- и видеовходы не поддерживаются. Модель предоставляется через API и сервисы OpenAI; открытая лицензия на веса не указана.

unsloth/granite-3.3-8b-instruct-GGUF — GGUF-версия Granite-3.3-8B-Instruct, разработанная командой Granite компании IBM и доработанная для распространения Unsloth. Это языковая модель с 8 миллиардами параметров и контекстом до 128K токенов, предназначенная для генерации текста, следования инструкциям и задач, требующих рассуждений. Модель подходит для создания AI-ассистентов, обобщения длинных документов и встреч, вопросов и ответов, классификации и извлечения текста, Retrieval Augmented Generation (RAG), программирования, function calling и многоязычного диалога. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель поддерживает структурированное рассуждение с разделением внутренних рассуждений и итогового ответа с помощью тегов <think> и <response>. К сильным сторонам относятся улучшенные показатели в instruction following, математике, программировании и общих тестах, включая AlpacaEval-2.0 и Arena-Hard, а также возможность работы с длинным контекстом. README не содержит подробностей о конкретном формате квантования GGUF, требованиях к аппаратному обеспечению или известных ограничениях качества. Модель распространяется по лицензии Apache 2.0.

Карточка модели NostraEmpire/mirror-qwen2.5-32b-instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-32B-Instruct, поэтому описание составлено по ней. Qwen2.5-32B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 32 млрд параметров для диалога и генерации текста; поддерживает интерфейс вызова инструментов. В архитектуре используются RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для следования инструкциям, написания длинных ответов, работы с таблицами и другими структурированными данными, а также генерации структурированного вывода, включая JSON. Она также подходит для задач программирования и математики. В README заявлена поддержка более 29 языков, включая русский и английский. Метаданные указывают контекст в 32 768 токенов; для этой версии README рекомендует конфигурацию до 131 072 токенов с YaRN для длинных входов, а генерацию — до 8 192 токенов. Модель распространяется в формате safetensors и работает через Transformers. Лицензия — Apache-2.0. Для контекстов длиннее 32 768 токенов требуется настройка YaRN; статическое масштабирование YaRN в vLLM может ухудшать производительность на коротких текстах.

Карточка модели ArchiveStudio/Qwen2.5-32B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-32B-Instruct, поэтому описание составлено по ней. Qwen2.5-32B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 32 млрд параметров для диалога и генерации текста; поддерживает интерфейс вызова инструментов. В архитектуре используются RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для следования инструкциям, написания длинных ответов, работы с таблицами и другими структурированными данными, а также генерации структурированного вывода, включая JSON. Она также подходит для задач программирования и математики. В README заявлена поддержка более 29 языков, включая русский и английский. Метаданные указывают контекст в 32 768 токенов; для этой версии README рекомендует конфигурацию до 131 072 токенов с YaRN для длинных входов, а генерацию — до 8 192 токенов. Модель распространяется в формате safetensors и работает через Transformers. Лицензия — Apache-2.0. Для контекстов длиннее 32 768 токенов требуется настройка YaRN; статическое масштабирование YaRN в vLLM может ухудшать производительность на коротких текстах.

Granite-3.2-8B-Instruct-GGUF — это GGUF-конверсия модели Granite-3.2-8B-Instruct, разработанная командой Granite в IBM. Модель содержит 8 миллиардов параметров, создана на основе Granite-3.1-8B-Instruct и дообучена с использованием открытых наборов данных с разрешительными лицензиями и синтетических данных для задач рассуждения. Доступна в различных вариантах квантования. Модель предназначена для выполнения общих инструкций и интеграции в AI-ассистентов, включая бизнес-приложения. Она поддерживает рассуждение с управляемым включением этой возможности только при необходимости, суммаризацию, классификацию и извлечение текста, ответы на вопросы, Retrieval Augmented Generation (RAG), задачи, связанные с кодом, function calling, многоязычный диалог и работу с длинным контекстом, например суммаризацию документов и встреч или ответы на вопросы по большим документам. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков; дообучение возможно и для других языков. К сильным сторонам относятся сочетание возможностей рассуждения, управляемость их применения, поддержка длинного контекста, многоязычность и широкий набор прикладных сценариев. README не содержит точного размера контекстного окна, сведений о модальностях помимо текстовой генерации, конкретных характеристик квантованных вариантов или подробностей об ограничениях качества. Модель распространяется по лицензии Apache 2.0.

unsloth/granite-4.1-30b — версия модели Granite-4.1-30B, опубликованная Unsloth с исправлениями шаблона чата. Исходную модель разработала команда Granite компании IBM; это плотный авторегрессионный трансформер с архитектурой decoder-only, GQA, RoPE, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Модель содержит 28,9 млрд параметров и поддерживает контекст до 131 072 токенов. Репозиторий использует формат safetensors и библиотеку Transformers. Модель предназначена для диалогов и следования инструкциям, создания ассистентов и агентов с вызовом инструментов, а также для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG и задач с кодом, включая Fill-in-the-Middle. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Для версии Unsloth README отдельно отмечает исправления шаблона чата; для llama.cpp рекомендуется использовать параметр --jinja. Вариант Unsloth основан на ibm-granite/granite-4.1-30b и обозначен в метаданных как дообучение. Модель распространяется по лицензии Apache 2.0. По данным карточки, обучающие инструкции в основном были на английском, поэтому качество на других поддерживаемых языках может быть ниже. Модель может выдавать неточные, предвзятые или небезопасные ответы; для конкретных сценариев нужны проверка и настройка безопасности.

Mistral-Small-3.1-24B-Instruct-2503-quantized.w4a16 — мультимодальная инструкционная модель, разработанная Red Hat совместно с Neural Magic на базе Mistral-Small-3.1-24B-Instruct-2503 от Mistral AI. Она принимает текст и изображения, а генерирует текст; архитектура указана как Mistral3ForConditionalGeneration. Модель предназначена для разговорных агентов с быстрым откликом, вызова функций с низкой задержкой, программирования, математического рассуждения, анализа длинных документов и визуального понимания. Также она подходит для локального развёртывания и тонкой настройки под специализированные предметные области, включая сценарии с чувствительными данными. Модель использует INT4-квантизацию весов линейных операторов в трансформерных блоках. Применяется симметричная поканальная по группам схема с размером группы 128 и алгоритмом GPTQ, реализованным в llm-compressor. По сравнению с 16-битным представлением это примерно на 75% снижает объём модели на диске и требования к памяти GPU, что является её ключевым преимуществом для быстрого и локального инференса. В README не указаны точное число параметров базовой модели, максимальная длина контекста и полный перечень поддерживаемых возможностей по каждому языку. Заявлена поддержка языков, включая английский, французский, немецкий, испанский, итальянский, португальский, хинди, индонезийский, вьетнамский, арабский, китайский, японский, корейский, русский, украинский и другие. Модель выпущена 15 апреля 2025 года, проверена в RHOAI 2.20, RHAIIS 3.0, RHELAI 1.5 и vLLM 0.8.4. Ограничения включают возможную потерю точности из-за квантизации и запрет использования с нарушением применимого законодательства, а также в языках, официально не поддерживаемых моделью. Распространяется по лицензии Apache-2.0.

cyankiwi/Qwen3.5-397B-A17B-AWQ-4bit — квантизированная 4-битная версия мультимодальной модели Qwen3.5-397B-A17B, разработанной командой Qwen. Модель представляет собой авторегрессионную языковую модель с vision-энкодером и предназначена для генерации и понимания текста, работы с изображениями, рассуждений, программирования, визуального анализа и агентских сценариев. Она доступна в формате Hugging Face Transformers и совместима с Transformers, vLLM, SGLang и KTransformers. Архитектура сочетает Gated Delta Networks, Gated Attention и разреженную Mixture-of-Experts. Общее число параметров составляет 397 млрд, из которых при обработке токена активируется 17 млрд; используется 512 экспертов, 10 маршрутизируемых и один общий эксперт. Нативная длина контекста — 262 144 токена, с возможностью расширения до 1 010 000 токенов. Модель поддерживает 201 язык и диалект, а мультимодальная архитектура ориентирована на совместную обработку текста и визуальных данных. К сильным сторонам относятся высокая эффективность разреженной архитектуры, большой контекст, широкое языковое покрытие и возможности мультимодального понимания. Ограничениями являются значительные требования к вычислительным ресурсам даже при 4-битной квантизации, а также возможные потери точности, связанные с квантизацией AWQ. Репозиторий распространяется по лицензии Apache-2.0.

Mungert/Qwen3.8-27B-GGUF — это GGUF-сборка модели Qwen3.8-27B из открытого семейства Qwen, разработанного командой Qwen. Веса и конфигурация подготовлены с использованием llama.cpp; модель предназначена для локального запуска и интеграции с совместимыми инструментами вывода. Модель представляет собой плотную каузальную языковую модель с vision-энкодером на 27 млрд параметров. Она поддерживает понимание текста, изображений и видео, включая документы, STEM-диаграммы и длительные видеоматериалы. Заявленные сценарии включают программирование, профессиональную работу, исследовательские задачи и многошаговые агентные процессы. Доступны режим рассуждений, его отключение и настройка глубины через reasoning_effort; контекст сохраняется с помощью preserve_thinking. Нативная длина контекста составляет 262 144 токена с возможностью расширения до 1 000 000 токенов. Архитектура включает 64 слоя, Gated DeltaNet, Gated Attention и Multi-Token Prediction. Сильными сторонами являются мультимодальность, обработка длинного контекста, планирование и выполнение сложных последовательностей действий. Ограничения конкретной GGUF-сборки, включая требования к памяти и доступные варианты квантования, в предоставленных данных не указаны. Лицензия модели — Apache-2.0.

gemma4-E2B-it-qat-Q4-unsloth-heretic — модифицированная instruction-tuned модель семейства Gemma 4 E2B. Базовую модель разработала Google DeepMind, веса подготовлены в формате Unsloth, а данная сборка опубликована MobiusDevelopment и обработана инструментом Heretic. Из модели удалено встроенное поведение отказа отвечать на отдельные запросы («abliteration» или decensoring), при этом заявлено сохранение общих возможностей базовой модели. Модель предназначена для генерации текста, диалоговых и агентских сценариев, программирования, дополнения и исправления кода, function calling и задач, требующих обработки длинного контекста. Gemma 4 E2B поддерживает текстовые и графические входы, а также аудио; выводом является текст. Заявлены понимание изображений, OCR, анализ документов и PDF, интерфейсов и графиков, распознавание речи и перевод речи в текст, встроенный режим пошагового рассуждения и мультиязычная работа более чем со 140 языками. Архитектура использует гибридное внимание с чередованием локального sliding-window и глобального внимания, Per-Layer Embeddings и Proportional RoPE. Вариант E2B имеет 2,3 млрд эффективных параметров и 5,1 млрд параметров с учётом эмбеддингов, 35 слоёв, окно локального внимания 512 токенов, контекст до 128K токенов и словарь размером 262 тысяч токенов. Доступны bf16 safetensors для полной мультимодальной версии, текстовый GGUF Q4_K_M и отдельные vision/audio mmproj GGUF. Главная особенность и одновременно ограничение сборки — отсутствие встроенных отказов, поэтому её ответы требуют дополнительного контроля безопасности; качество после модификации может отличаться от базовой модели. Использование регулируется лицензией Gemma и условиями Google Gemma Terms of Use; в метаданных также указана лицензия Apache-2.0.

Inkling — мультимодальная модель общего назначения от Thinking Machines. Это авторегрессионный трансформер с 66 слоями, архитектурой decoder-only и разреженным MoE-блоком: из 256 экспертов для каждого токена активируются 6, а ещё 2 общих эксперта участвуют всегда. Всего в модели 975 млрд параметров, активно используется 41 млрд. Поддерживаются форматы BF16 и NVFP4; веса опубликованы в Safetensors. Модель принимает текст, изображения и аудио, обрабатывает их в общем пространстве представлений и выдаёт текст. Она предназначена для диалогов, следования инструкциям, анализа изображений и аудио, программирования, агентных систем с использованием инструментов и RAG-приложений. Основной язык — английский; заявлены также общие многоязычные возможности. Для изображений рекомендуются размеры сторон от 40 до 4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью менее 20 минут. Модель доступна для интеграции, исследований и дообучения; лицензия — Apache-2.0. Возможны фактические ошибки, неточное следование инструкциям и ухудшение качества в длинных диалогах; качество может различаться между языками и предметными областями. Для важных решений требуется проверка человеком, а для публичных приложений README рекомендует дополнительные меры модерации.

unsloth/Qwen3.5-397B-A17B-GGUF — квантованная версия мультимодальной модели Qwen3.5-397B-A17B, разработанной командой Qwen; GGUF-файлы подготовлены Unsloth. Модель предназначена для локального запуска и совместима с экосистемами, поддерживающими GGUF, а исходная модель также работает с Hugging Face Transformers, vLLM и SGLang. Это каузальная языковая модель с vision encoder для работы с текстом и изображениями. Архитектура сочетает Gated Delta Networks и разреженную Mixture-of-Experts: всего 397 млрд параметров, из которых активируется 17 млрд; используется 512 экспертов, 10 маршрутизируемых и один общий. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Модель ориентирована на рассуждения, программирование, визуальное понимание, диалоговые и агентские сценарии, а также обработку длинного контекста. К сильным сторонам относятся мультимодальность, высокая вычислительная эффективность разреженной архитектуры, поддержка длинного контекста и улучшенная квантование с imatrix-данными Unsloth. Ограничения включают очень большой общий размер модели и, как следствие, высокие требования к памяти и инфраструктуре; конкретные требования зависят от выбранного уровня квантования. Доступна по лицензии Apache 2.0.

palmfuture/Qwen3.6-35B-A3B-GPTQ-Int4 — GPTQ-квантизированная версия модели Qwen3.6-35B-A3B, разработанная сообществом palmfuture на базе модели Qwen. Это мультимодальная модель для работы с текстом и изображениями, поддерживающая задачи генерации текста, следования инструкциям, программирования, математических рассуждений, агентских сценариев и обработки визуально-текстовых запросов. Заявлены языки English, Thai, Chinese и multilingual. Модель использует MoE-архитектуру Qwen3_5MoeForConditionalGeneration с 35 млрд параметров в общей сложности и примерно 3 млрд активных параметров на токен. В ней 256 экспертов, из которых для каждого токена выбираются 8, и 40 скрытых слоёв. Контекстное окно составляет 262 144 токена. Квантизация выполнена в формате GPTQ v2, 4-bit, с group_size=128 и симметричным представлением; размер модели вместе с MTP-весами — около 24,4 ГБ. Веса MTP (Multi-Token Prediction) сохранены в BF16 и поддерживают speculative decoding в vLLM и SGLang. К сильным сторонам относятся существенно уменьшенный размер по сравнению с полноформатной моделью, сохранение заявленного качества на уровне около 97,9% от BF16-версии по perplexity на wikitext-2-raw-v1, поддержка мультимодальности, длинного контекста и ускоренного декодирования. Ограничения связаны с требованиями к ресурсам: для рекомендованных конфигураций требуется несколько GPU, а совместимость и параметры запуска зависят от версий vLLM, SGLang и Transformers. Квантизация может приводить к некоторой потере качества, а для архитектуры требуется trust_remote_code. Модель распространяется по лицензии Apache-2.0.

Granite-4.0-H-Small — инструктивная языковая модель команды Granite компании IBM для диалога, выполнения инструкций и создания текстовых ответов. По карточке это дообученная версия Granite-4.0-H-Small-Base с выравниванием и слиянием моделей; архитектура — decoder-only MoE-трансформер с GQA, Mamba2 и общими экспертами. Однако в метаданных указано 2,5 млрд параметров, тогда как README заявляет 32 млрд, поэтому размер модели по источникам расходится. Модель рассчитана на создание помощников для бизнес-сценариев. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, задачи с кодом, вызов функций и многоязычный диалог. Контекстное окно — 131 072 токена; основная модальность — текст, а возможности вызова инструментов описаны как часть диалогового интерфейса. README перечисляет английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Авторы отмечают, что качество на других языках может уступать английскому, а ответы могут быть неточными, предвзятыми или небезопасными; для конкретных задач рекомендуются проверка и настройка безопасности. Лицензия — Apache 2.0.

Blossom-V7.1-35B-A3B-GGUF — открытая мультимодальная модель общего назначения из семейства Blossom-V7.1, разработанная командой Azure99. Это GGUF-вариант модели Blossom-V7.1-35B-A3B на базе Qwen3.6-35B-A3B, предназначенный прежде всего для локального запуска и совместимый с llama.cpp и другими поддерживающими GGUF инструментами. Модель рассчитана на повседневный диалог, работу с общими знаниями, математические задачи и рассуждения, программирование, веб-разработку, визуализацию данных и агентские сценарии с использованием инструментов. Она принимает текст и изображения, поддерживает английский и китайский языки, использует два режима рассуждений — medium и max — и допускает интерливинг рассуждений с вызовами инструментов. Максимальная длина контекста составляет 262 144 токена, при этом для лучших результатов рекомендуется использовать до 131 072 токенов. Также поддерживается ускорение инференса с помощью Multi-Token Prediction. К сильным сторонам относятся мультимодальное понимание изображений, длинный контекст, ориентированность на агентские рабочие процессы и возможность локального развертывания. Вариант 35B-A3B позиционируется как компромисс между качеством и скоростью для CPU или гибридной CPU/GPU-инференции, включая частичную выгрузку на CPU. Для корректной работы необходимо использовать встроенный пользовательский chat template, а в многошаговых диалогах сохранять полное предыдущее сообщение ассистента вместе с данными о рассуждениях и вызовах инструментов. Лицензия — Apache-2.0.

Карточка модели compressa-ai/Compressa-Qwen2.5-14B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-14B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-14B-Instruct — инструкционно дообученная большая языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель с архитектурой Qwen2ForCausalLM, 14,7 млрд параметров, RoPE, SwiGLU, RMSNorm и групповой обработкой запросов внимания. Репозиторий содержит веса в формате Safetensors и предназначен для генерации текста в диалоговом формате. Модель подходит для чат-ботов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. В README заявлена поддержка более 29 языков, в том числе русского и английского. Метаданные указывают контекст в 32 768 токенов; README сообщает о возможности расширения контекста до 131 072 токенов с YaRN и генерации до 8 192 токенов. Модель также заявлена как улучшенная для программирования и математики, но результаты зависят от запроса и не гарантируют точности. Для контекстов длиннее 32 768 токенов требуется настройка YaRN; её статический коэффициент масштабирования в vLLM может снижать качество на коротких входах. Лицензия Apache-2.0 допускает использование на её условиях.

tripolskypetr/gemma-4-it-GGUF — GGUF-версия инструкционно настроенной мультимодальной модели Gemma 4 31B-it, основанной на google/gemma-4-31B-it. Семейство Gemma разработано Google DeepMind, а данный вариант опубликован в формате GGUF для удобного локального запуска и квантования, в том числе с использованием инструментов Unsloth. Модель предназначена для генерации и понимания текста, рассуждений, программирования, агентских сценариев и работы с изображениями. Она принимает текстовые и графические данные и генерирует текст; заявлена поддержка более 140 языков. Для управления поведением поддерживаются системные сообщения, режимы рассуждения и нативный function calling. Это плотная архитектура с 30,7 млрд параметров, 60 слоями и словарём размером 262 тысячи токенов. Используется гибридное внимание с чередованием локального скользящего окна размером 1024 токена и глобального внимания; максимальная длина контекста составляет 256 тысяч токенов. В состав входят визуальный энкодер примерно на 550 млн параметров. Большой размер модели и мультимодальность обеспечивают широкие возможности, но требуют значительных вычислительных ресурсов, поэтому локальное развертывание зависит от доступной памяти и выбранного варианта квантования. Модель распространяется по лицензии Apache 2.0.