I.4Обработка документов и форм

Модель TesNik369/mistral-7b-instruct-v0.2-bnb-4bit_tqa_tuned_seed_42 — дообученная TesNik369 версия Mistral 7B Instruct v0.2, созданная с использованием Unsloth и библиотеки TRL. Это плотная авторегрессионная языковая модель на 7,1 млрд параметров для генерации текста и диалогового взаимодействия; заявленная длина контекста — 32 768 токенов. В карточке не описана специализация дообучения, поэтому модель можно характеризовать как универсальную инструктивную модель. Модель принимает текст и генерирует текст. Указана поддержка английского языка. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Конкретные ограничения или результаты оценки качества в карточке не приведены.

NbAiLab/nb-notram-llama-3.1-8b-instruct — языковая модель Национальной библиотеки Норвегии (NB-AiLab), дообученная на базе Meta Llama 3.1 8B Instruct. Это плотная авторегрессионная модель для генерации текста с диалоговым интерфейсом и интерфейсом вызова инструментов. Размер составляет около 7,5 млрд параметров, длина контекста — 131 072 токена. Модель дообучена следовать инструкциям и вести диалог на норвежском букмоле и нюнорске, сохраняя сильные возможности английского языка. Она предназначена для ассистентов и диалоговых систем, а также для суммаризации и ответов на вопросы. Настройка включает supervised fine-tuning и небольшой этап оптимизации предпочтений; ответы обычно краткие. Обучение использовало публично доступные и синтетически созданные данные. Модель может выдавать фактические ошибки и вымышленные сведения; знания о норвежской культуре и истории могут быть неравномерными и зависеть от формулировки запроса. Данные актуальны ориентировочно до мая 2024 года, а защитное выравнивание ограничено. Для применения вне экспериментов рекомендуется оценивать модель в целевом сценарии; без дополнительных мер контроля её не следует использовать в высокорисковых медицинских, юридических или финансовых задачах. Лицензия — Llama 3.1 Community License.

Ognoexperiment27M7-7B — объединённая текстовая модель на архитектуре Mistral с 7,1 млрд параметров, созданная Maxime Labonne методом DARE-TIES на основе liminerity/M7-7b и automerger/OgnoExperiment27-7B. Она предназначена для генерации текста и диалогов. Модель принимает текст и генерирует текст; размер контекста составляет 32 768 токенов. Модель распространяется в формате safetensors с точностью bfloat16 по лицензии Apache-2.0. Карточка указывает параметры слияния и пример загрузки через Transformers, но не описывает специализацию или результаты оценки качества.

Qwen3-12B-20pct-Compressed-14B-EN-V1.5 — сжатая и дообученная для чата модель проекта Efficient and Robust AI System (E-AI), разработанного Vincent-Daniel Yun. В ней удалены 8 из 40 слоёв Qwen3-14B; в репозитории указано около 12 млрд параметров, а метаданные указывают 11,3 млрд. Модель принимает текст и генерирует текст, имеет контекст 40 960 токенов и ориентирована прежде всего на английский язык. Репозиторий распространяет веса в формате safetensors. Основное назначение модели — быстрая классификация и оценка текста: анализ тональности, тематики и намерений, модерация содержимого, проверка предпочтений, понимание прочитанного и ответы по материалам RAG. README также сообщает о результатах в медицинских и биомедицинских задачах. Для фактологических вопросов рекомендуется использовать поиск или RAG, а ответы держать короткими: модель может галлюцинировать факты, а длинная генерация, сложные рассуждения, математика и задачи с длинным контекстом не рекомендуются. В версии V1.5 включён контроль повторов по умолчанию; веса, согласно карточке, не изменились относительно V1. Модель основана на Qwen/Qwen3-14B и прошла сжатие удалением слоёв, восстановление и инструкционное дообучение для чата; методы сжатия и восстановления не раскрыты. Лицензия — Apache-2.0. Для Transformers требуется trust_remote_code=True из-за пользовательского слоя декодера; для vLLM в репозитории предусмотрен плагин.

mainbrains поддерживает форк SmolLM2-1.7B-Instruct для оценки и компактного запуска на устройствах с ограниченными ресурсами. Это плотная decoder-only Transformer-модель семейства Llama с 1,7 млрд параметров, дообученная методом SFT и оптимизированная с помощью DPO на базе HuggingFaceTB/SmolLM2-1.7B. Репозиторий содержит веса Safetensors и ONNX; в README также описаны GGUF-квантизации для локального запуска. Контекст модели — до 8192 токенов. Модель предназначена для генерации ответов и инструктивного диалога, переписывания и суммаризации текста, а также вызова функций. README ориентирует её на лёгкое локальное развёртывание, включая маломощные устройства; для версии Q4_K_M автор приводит оценку около 15 токенов в секунду при 1,2 ГБ оперативной памяти на Raspberry Pi 5. Основной язык — английский. По сравнению с предыдущей SmolLM1-1.7B автор отмечает улучшения в следовании инструкциям, знаниях, рассуждениях и математике; приведённые результаты показывают, что модель уступает некоторым сопоставляемым моделям по отдельным оценкам. Она может выдавать фактически неверные или непоследовательные ответы и воспроизводить смещения обучающих данных, поэтому важные сведения нужно проверять. Лицензия — Apache-2.0.

AIArchiveInfo публикует побайтную архивную копию модели 01-ai/Yi-6B-200K: веса не обучались, не дообучались и не изменялись. Это плотная авторегрессионная языковая модель семейства Yi с архитектурой LlamaForCausalLM; она содержит около 5,8 млрд параметров и поддерживает контекст до 200 000 токенов. В README серия Yi описана как двуязычная, прежде всего ориентированная на китайский и английский языки, и предназначенная для понимания языка, рассуждений, чтения и генерации текста. Модель подходит для локальной генерации текста и экспериментов с длинными документами и запросами. Репозиторий содержит веса PyTorch в формате Safetensors. Модель лицензирована по Apache-2.0. Хотя архитектура совместима с подходами Llama, README подчёркивает, что Yi обучена с нуля и не использует веса Llama.

Карточка модели cocoirun/Yi-Ko-6B-instruct-v1.5-DPO на Hugging Face совпадает с карточкой cocoirun/Yi-Ko-6B-instruct-v1.5, поэтому описание составлено по ней. Yi-Ko-6B-instruct-v1.5 — инструктивная языковая модель, дообученная автором cocoirun на базе семейства Llama. По карточке, модель прошла SFT на примерно 110 тысячах примеров: использовались самостоятельно подготовленные корейские данные по истории, естественным наукам, математике, машинному чтению, анализу отзывов и грамматике, а также материалы Open-Orca-Ko, KoBEST и AIHub. Обучение выполнялось с помощью LoRA. Модель предназначена для генерации ответов и выполнения инструкций в задачах на корейском и английском языках, включая вопросы и ответы, машинное чтение, суммаризацию, перевод и анализ отзывов. Это плотная архитектура LlamaForCausalLM примерно на 5,9 млрд параметров с контекстом 2048 токена; репозиторий содержит веса Safetensors. Лицензия — CC BY-SA 4.0. Карточка не приводит количественных оценок качества. Данные обучения закрыты, поэтому состав и воспроизводимость SFT ограничены доступной информацией; контекст 2048 токена ограничивает работу с длинными документами.

AgenticCoder‑4B — компактная языковая модель, созданная yasserrmd слиянием Menlo/Jan-nano и ertghiu256/qwen3-4b-code-reasoning методом SLERP. Это плотная Qwen3-архитектура для генерации текста и диалоговых сценариев; размер — 3,7 млрд параметров, контекст — до 40 960 токенов. Репозиторий использует Transformers и формат safetensors. Модель предназначена для агентных сценариев, рассуждений о коде и помощи в разработке: она может генерировать и объяснять Python-код, помогать декомпозировать задачи и вести многошаговый диалог. В примерах также показаны сценарии анализа CSV, извлечения текста из изображений и разбора файлов через код и имитацию взаимодействия с инструментами. Карточка заявляет ориентацию на MCP, однако это не подтверждает наличие встроенного интерфейса вызова инструментов. Модель поддерживает текстовый ввод и выдаёт текст; сведения о конкретных естественных языках не приведены. Карточка характеризует её как компактную для экономичного развёртывания и интеграции в устройства с ограниченными ресурсами, но фактические показатели качества и скорости не указаны. Лицензия в предоставленных данных не приведена.

gemma-4-26B-A4B-it-Uncensored-MAX — мультимодальная модель prithivMLmods на архитектуре Gemma 4 с механизмом Mixture of Experts. Она основана на huihui-ai/Huihui-gemma-4-26B-A4B-it-abliterated и связана с google/gemma-4-26B-A4B-it; карточка описывает обновлённую упаковку и совместимость с актуальными версиями Transformers. Репозиторий содержит веса safetensors в формате bf16, а лицензия указана как Apache-2.0. Модель принимает текст и изображения и генерирует текст; её можно применять для диалогов, рассуждений, анализа изображений, исследований мультимодальных моделей и red-teaming. В карточке заявлены 26 млрд параметров и MoE-конфигурация A4B. Метаданные указывают английский язык. Модифицированная версия обозначена как uncensored и refusal-ablated, поэтому её ответы могут включать содержание, отказываемое базовой моделью. Ответы могут быть ошибочными, неполными или непоследовательными и зависят от промпта и параметров генерации. Для запуска требуются значительные вычислительные ресурсы; производительность зависит от оборудования и среды инференса. Авторы рекомендуют учитывать риски и ответственность при использовании модели.

GLiClass Modern Large v3.0 — модель Knowledgator для классификации последовательностей текста с нулевым обучением на пользовательских метках. Она использует архитектуру GLiClass и выполняет классификацию за один проход, что, по данным авторов, делает её вычислительно эффективной по сравнению с cross-encoder. Модель предназначена для тематической классификации, анализа тональности и ранжирования текстов в RAG-сценариях. Модель содержит около 399 млн параметров, занимает примерно 1,6 ГБ и распространяется в формате Safetensors. Для версии v3.0 использовали LoRA-адаптеры с рангом 768 и дообучение на логических задачах; в README также приведены результаты тестирования в zero-shot режиме на наборах классификации. Лицензия — Apache-2.0. В README не указаны поддерживаемые естественные языки и максимальная длина контекста. Качество зависит от формулировки меток и предметной области; приведённые результаты относятся к отдельным бенчмаркам и не гарантируют такую же точность на других данных.

GLiClass Qwen 0.5B v1.0 — компактная модель классификации последовательностей семейства GLiClass, представленная Knowledgator. Она выполняет классификацию без заранее заданного набора классов и подходит для определения тематики и тональности текста, а также для ранжирования результатов в RAG-сценариях. По карточке, модель использует подход LLM2Vec, преобразующий современный декодер в двунаправленный энкодер, и обрабатывает классификацию за один проход; автор заявляет более высокую вычислительную эффективность по сравнению с cross-encoder и расширенное контекстное окно. Модель обучена на синтетических данных; в метаданных указан датасет MoritzLaurer/synthetic_zeroshot_mixtral_v0.1. Карточка сообщает о сопоставимом с версией на DeBERTa качестве в zero-shot-режиме и сильных результатах в few-shot-режиме, но не приводит конкретных метрик. Доступны веса в форматах Safetensors и ONNX; лицензия Apache-2.0 допускает коммерческое применение. Карточка описывает поддержку английского языка.

Linkbricks-Horizon-AI-Japanese-Pro-V3-70B-GGUF — квантизированная версия 70-миллиардной языковой модели Linkbricks-Horizon-AI-Japanese-Pro-V3-70B, разработанной Saxo. Квантизацию выполнил bartowski с использованием llama.cpp и imatrix. Модель предназначена для генерации текста, включая перевод, суммаризацию, ответы на вопросы, анализ тональности, работу с новостными и научно-техническими материалами, а также задачи на корейском языке, включая function calling и математические задачи. Модель работает в формате GGUF и рассчитана на запуск через llama.cpp и LM Studio. Заявлены языки: корейский, английский, японский и китайский. Доступны варианты квантизации от Q8_0 до Q3_K и IQ4; размеры файлов составляют примерно от 37,9 до 75 ГБ. Более высокие уровни квантизации обеспечивают лучшее качество, но требуют больше памяти, поэтому запуск предполагает мощное оборудование. Архитектура, максимальный контекст и точный формат промпта в README не указаны; для настройки взаимодействия следует обратиться к странице исходной модели. Сильные стороны модели — большой размер, специализация на корейском и связанных с ним многоязычных задачах, а также широкий выбор вариантов квантизации. Ограничения включают значительные требования к памяти, возможное снижение качества у компактных вариантов и отсутствие в README подробных данных о результатах бенчмарков, архитектуре и контекстном окне. Указана лицензия Apache-2.0.

llm-jp-3-13b-instruct — инструкция-настроенная языковая модель, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии; разработка частично поддержана GENIAC. Это плотная Transformer-модель семейства Llama с архитектурой LlamaForCausalLM, примерно 13,2 млрд параметров и контекстом 4096 токенов. Модель обучалась на смеси данных, включающей японские источники, а затем дообучалась на наборах инструкций, в том числе вручную составленных японских инструкциях. Модель предназначена для диалогов и выполнения инструкций: она может отвечать на вопросы, помогать с письмом, рассуждениями, извлечением информации и задачами на японском языке. В README приведена оценка Japanese MT Bench для версии 13B instruct; это ориентир по набору тестов, а не гарантия качества в конкретном применении. Метаданные также указывают английский и японский языки. Разработчики предупреждают, что модель находится на раннем этапе исследований и разработок и не настроена для надёжного соответствия намерениям человека и требованиям безопасности. Для распространения указана лицензия Apache-2.0.

mmBERT-32K-YaRN — многоязычная модель семейства ModernBERT, разработанная для семейства vLLM Semantic Router Mixture-of-Models на основе jhu-clsp/mmBERT-base. Контекстное окно расширено с 8 192 до 32 768 токенов с помощью масштабирования RoPE методом YaRN. Модель содержит около 307 млн параметров и предназначена для заполнения масок в тексте; её также можно применять для понимания длинных документов, семантической маршрутизации запросов, классификации документов и поиска информации в длинных текстах. Модель обучалась на многоязычном корпусе CC-100. В карточке указана поддержка более 1 800 языков базовой модели, а метаданные перечисляют английский, немецкий, французский, испанский, китайский, японский, русский, арабский, корейский и португальский. Доступны веса Safetensors и экспорт ONNX; лицензия — MIT. По данным карточки, точность извлечения существенно снижается для удалённых фрагментов дальше 2 048 токенов, несмотря на окно в 32 768 токенов. Для полного контекста требуется значительный объём видеопамяти — около 180 ГБ на один пример. Данные CC-100 могут наследовать смещения веб-краула.

Это конверсия в формат Apple MLX дообученной мультимодальной модели Qwen3.5-4B-Claude-4.6-OS-Auto-Variable-HERETIC-UNCENSORED-THINKING. Репозиторий xv1rcn подготовил её с помощью mlx-vlm 0.6.3; веса представлены в safetensors, а энкодер изображений сохранён в BF16. Модель имеет около 4 млрд параметров и гибридную архитектуру Qwen3.5 с Gated Delta Networks и разреженными блоками Mixture-of-Experts. Нативная длина контекста исходной модели — 262 144 токена, с расширением до 1 010 000; для конверсии отдельные характеристики контекста не приведены. Модель предназначена для диалогов, рассуждений, творческого письма, ролевых сценариев и ответов на вопросы по изображениям. README отмечает исправленный шаблон чата для обработки повторов, чрезмерно длинного рассуждения, циклов и вызова инструментов. Указана поддержка 201 языка и диалектов для семейства Qwen3.5, однако карточка этой модели отдельно подтверждает английский и китайский. Конверсия ориентирована на запуск в Apple MLX; для других сред совместимость зависит от используемого формата и инструментов. Лицензия — Apache-2.0.

Это GGUF-представление модели Qwen3.6-35B-A3B, подготовленное SC117 с применением метода APEX для квантования MoE-моделей. В основе лежит llmfan46/Qwen3.6-35B-A3B-uncensored-heretic-Native-MTP-Preserved — модифицированная версия Qwen3.6-35B-A3B со сниженным числом отказов. В репозитории представлены варианты GGUF, включая F16; README описывает уровни квантования APEX, которые распределяют точность по типам тензоров и слоям. Модель предназначена для диалогов и генерации текста по текстовым и визуальным запросам. Вариант сохраняет 20 слоёв MTP для спекулятивного декодирования; README приводит настройки запуска через llama.cpp и Ollama. Метаданные указывают возможность работы с изображениями, но подробности мультимодальных возможностей и поддерживаемые языки в доступных материалах не раскрыты. Модификация исходной модели позиционируется как uncensored: в README заявлено снижение отказов на 88% при сохранении качества, однако эти цифры приводятся авторами и не являются независимой оценкой. Модель распространяется по лицензии Apache-2.0. Для запуска необходим совместимый движок GGUF; скорость и качество зависят от выбранного варианта квантования и оборудования.

Это предварительно квантованная версия Qwen/Qwen3-Omni-30B-A3B-Instruct, подготовленная с помощью NVIDIA ModelOpt и предназначенная для запуска на графических процессорах NVIDIA Blackwell, включая RTX 5090, B100 и B200. Модель семейства Qwen3-Omni с архитектурой MoE принимает текст, изображения, аудио и видео, а выдаёт текст и речь. Размер исходной модели — 30 млрд параметров, из которых около 3 млрд активируются на токен; NVFP4 W4A8 уменьшает размер чекпойнта примерно до 27 ГБ с примерно 60 ГБ у версии BF16. Квантированы веса экспертов и attention в Thinker; lm_head, маршрутизаторы MoE и остальные этапы оставлены без квантования. Для калибровки использовались английские и китайские запросы. Чекпойнт рассчитан на инференс с аппаратной поддержкой FP4 и не подходит для RTX 4090, A100 и H100; для этих ускорителей автор рекомендует вариант FP8. Модель распространяется по лицензии Apache-2.0.

Карточка модели tomaarsen/Qwen3-VL-Embedding-8B на Hugging Face совпадает с карточкой Qwen/Qwen3-VL-Embedding-8B, поэтому описание составлено по ней. Qwen3-VL-Embedding-8B — мультимодальная модель эмбеддингов семейства Qwen, разработанная командой Qwen и дообученная на базе Qwen/Qwen3-VL-8B-Instruct. Она предназначена для поиска и сопоставления информации между текстом, изображениями, скриншотами и видео, а также для кластеризации мультимодального контента. Модель принимает отдельные модальности и их сочетания и кодирует их в общее векторное пространство. Модель содержит 8 млрд параметров, имеет архитектуру Qwen3-VL и контекст длиной до 32 тысяч токенов. Размерность эмбеддинга достигает 4096; поддерживаются настраиваемые размерности от 64 до 4096. Заявлена поддержка более 30 языков, а среди сценариев — мультимодальный и межъязыковой поиск, сопоставление текста с изображениями и видео и визуальный поиск по документам. Модель распространяется под лицензией Apache-2.0. Эмбеддинги подходят для первичного поиска и кластеризации; для уточнения порядка найденных результатов карточка рекомендует отдельную модель Qwen3-VL-Reranker. Для многоязычных сценариев README советует формулировать инструкции на английском, поскольку большинство инструкций при обучении были на этом языке.

Tengentoppa-gemma-2-9b-base — дообученная текстовая модель семейства Gemma 2, основанная на Google Gemma 2 9B. Это декодерная архитектура dense с 9 млрд параметров, рассчитанная на генерацию текста; для общения модель использует добавленные специальные токены системных сообщений, пользовательских запросов, подсказок, рассуждений и ответов ассистента. Она подходит для ответов на вопросы, суммаризации и рассуждений, а также может развёртываться на локальном компьютере или собственной облачной инфраструктуре. Контекст модели составляет 8192 токена. README характеризует Gemma как англоязычную модель, а метаданные карточки отмечают японский язык. Весы доступны в формате safetensors; лицензия — Gemma.

Veda Labs разработала Veda-labs-0.5b-instruct-base — плотную причинную языковую модель семейства Qwen2 с 494 млн параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста и диалогового взаимодействия на английском языке; карточка также описывает применение для завершения текста, суммаризации и ответов на вопросы. Модель можно использовать как основу для дообучения под медицинские, юридические и клиентские сценарии. Она распространяется в формате safetensors по лицензии Apache-2.0. Ответы могут быть неточными, предвзятыми или непоследовательными; для критически важных задач требуется проверка человеком.

Карточка модели mitchelldehaven/whisper-large-v2-ru на Hugging Face совпадает с карточкой mitchelldehaven/whisper-medium-ru, поэтому описание составлено по ней. mitchelldehaven/whisper-medium-ru — модель распознавания речи на базе Whisper, дообученная на аудиоданных из набора Open STT Russian Dataset. Она предназначена для преобразования русской речи в текст и может применяться для транскрибации записей и аудио с речью. Модель имеет архитектуру Whisper и содержит около 455,8 млн параметров; репозиторий распространяет веса в формате PyTorch. При нормализации обучающих данных пунктуацию удаляли, тогда как исходная токенизация Whisper заменяет её пробелом. По данным карточки, это расхождение немного ухудшает результаты на Common Voice. Лицензия в предоставленных сведениях не указана.

asthrabala/whisper-medium-finetuned — модель автоматического распознавания речи семейства Whisper с 455,8 млн параметров. Она опубликована для использования с библиотекой Transformers и предназначена для преобразования аудиозаписей в текст. Модель подходит для транскрибации голосовых сообщений, интервью, встреч, лекций и других аудиоматериалов. README не содержит сведений о конкретном языке или наборе данных, на котором выполнялось дообучение, поэтому языковую специализацию и качество на отдельных типах аудио определить нельзя. В карточке модели не указаны разработчик, лицензия, результаты оценки, ограничения по применению и подробности обучения. Перед использованием в критически важных сценариях необходимы собственная проверка качества и уточнение условий лицензирования.

Bolt Instruct 32B — англоязычная причинно-следственная языковая модель с настройкой на выполнение инструкций от AI Squared, основанная на объединении моделей Allen Institute for AI OLMo. Вариант 32B предназначен для диалогов, рассуждений и генерации высокого качества; карточка указывает OLMo-3.1-32B-Instruct среди базовых моделей и описывает обучение семейства методом SFT, а для моделей 7B и 32B — с применением QLoRA. Модель подходит для чат-ассистентов и корпоративных сценариев: генерации структурированных ответов, извлечения сведений из документов, суммаризации, RAG и помощи с кодом. Она принимает текст и генерирует текст, поддерживает контекст до 65 536 токенов. В метаданных указана лицензия other; конкретные условия использования следует сверить с карточкой лицензии репозитория. Модель может галлюцинировать без опоры на источники, а качество зависит от размера варианта. Для задач с высокими последствиями требуется проверка человеком.

Granite-3.2-8B-Instruct-Preview — языковая модель IBM Granite Team, дообученная на основе ibm-granite/granite-3.1-8b-instruct для улучшенного пошагового рассуждения. Это плотная авторегрессионная модель на 8,2 млрд параметров с контекстом до 131 072 токенов; режим рассуждения можно включать по необходимости. Модель предназначена для ответов на общие инструкции и создания диалоговых помощников, в том числе для бизнес-сценариев. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, задачи с кодом и вызов функций, а также работу с длинными документами и стенограммами встреч. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Модель выпущена в формате safetensors и распространяется по лицензии Apache 2.0. Это предварительный релиз; унаследованные от Granite-3.1 ограничения и этические соображения сохраняются.

Qwen3.8-27B — мультимодальная модель семейства Qwen от Qwen, представленная в репозитории RedHatAI. Это плотная причинная языковая модель с визуальным энкодером на 27 млрд параметров, построенная на архитектурной основе Qwen3.5 и дообученная после предварительного обучения. Веса доступны в формате Transformers и совместимы с Transformers, vLLM и SGLang; лицензия — Apache-2.0. Модель принимает текст, изображения и видео и предназначена для диалога, анализа документов и диаграмм, программирования, исследовательской и профессиональной работы, а также многошаговых агентных сценариев. Режим рассуждений включён по умолчанию, его можно отключить, а глубину рассуждений — настраивать. Нативный контекст составляет 262 144 токена и может расширяться до 1 000 000 токенов. К сильным сторонам относятся понимание изображений и видео, длинный контекст и возможности планирования и выполнения сложных задач. Карточка не приводит перечень поддерживаемых естественных языков; поэтому конкретные языки здесь не заявлены. Для практического развёртывания нужны совместимые инструменты инференса и соответствующие вычислительные ресурсы; результаты на бенчмарках не гарантируют качество в каждом сценарии.

Карточка модели nttruong1007/qb-granite31-8b на Hugging Face совпадает с карточкой ibm-granite/granite-3.1-8b-instruct, поэтому описание составлено по ней. Granite-3.1-8B-Instruct — языковая модель IBM Granite Team для выполнения инструкций и создания диалоговых ассистентов. Это дообученная на базе Granite-3.1-8B-Base плотная авторегрессионная трансформерная модель на 8,2 млрд параметров; при обучении использовались supervised fine-tuning, выравнивание с помощью обучения с подкреплением и слияние моделей. Архитектура включает GQA, RoPE, SwiGLU и RMSNorm. Модель принимает текст и поддерживает контекст до 131 072 токенов. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций. Поддерживает диалоги на английском, немецком, испанском, французском, японском, португальском, арабском, чешском, итальянском, корейском, нидерландском и китайском языках. Лучше всего модель обучена следовать инструкциям на английском; качество на других языках может быть ниже. Она может выдавать неточные, предвзятые или небезопасные ответы. Лицензия — Apache 2.0.

Granite-3.1-3B-A800M-Instruct — языковая модель IBM Granite Team для выполнения общих инструкций и создания диалоговых ассистентов. Это дообученная версия Granite-3.1-3B-A800M-Base: метаданные относят её к семейству Granite MoE, а README описывает decoder-only архитектуру с GQA, RoPE, SwiGLU и RMSNorm. В репозитории указано 352,3 млн параметров и контекст до 131 072 токенов. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций. Она поддерживает диалоги на английском, немецком, испанском, французском, японском, португальском, арабском, чешском, итальянском, корейском, нидерландском и китайском языках; также подходит для анализа длинных документов и записей встреч. README указывает, что обучение инструкциям преимущественно велось на английском, поэтому качество на других языках может быть ниже. Модель принимает текст и генерирует текст. Она выпущена под лицензией Apache 2.0. Ответы могут быть неточными, предвзятыми или небезопасными; для конкретных сценариев нужны проверка и настройка.

EnlistedGhost/Mistral-Small-3.1-24B-Instruct-2503-GGUF — это квантованная версия Mistral Small 3.1 24B Instruct 2503, исходно разработанной Mistral AI и преобразованной в формат GGUF пользователем EnlistedGhost с использованием llama.cpp. Модель совместима с Ollama и llama.cpp и предназначена для локального запуска. Модель имеет 24 миллиарда параметров, поддерживает работу с текстом и изображениями, а также контекст до 128 тысяч токенов. Она ориентирована на диалоговые приложения, вызов функций и агентские сценарии, генерацию JSON, программирование, математическое рассуждение, анализ длинных документов и визуальное понимание. Заявлена поддержка множества языков, включая английский, русский, украинский, арабский, испанский, немецкий, французский, китайский, японский, хинди и другие. К сильным сторонам относятся сочетание текстовых и визуальных возможностей, длинный контекст, мультиязычность, поддержка function calling и возможность локального использования для задач, где важна конфиденциальность данных. К ограничениям относятся необходимость подбора подходящего квантования и наличие отдельных файлов vision projector для работы с изображениями; конкретные размеры основных GGUF-файлов в представленном README не указаны. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое и некоммерческое использование, а также модификацию.

Карточка модели unsloth/granite-3.2-2b-instruct на Hugging Face совпадает с карточкой ibm-granite/granite-3.2-8b-instruct, поэтому описание составлено по ней. Granite-3.2-8B-Instruct — плотная языковая модель IBM Granite Team с 8,2 млрд параметров, дообученная на базе ibm-granite/granite-3.1-8b-instruct для выполнения инструкций и задач рассуждения. Модель поддерживает управляемый режим рассуждения, который можно включать по необходимости, и работает через библиотеку Transformers; доступны веса в формате safetensors. Модель предназначена для диалоговых помощников и общих прикладных сценариев: суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций. Контекст — до 131 072 токенов, что подходит для анализа длинных документов и стенограмм. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель распространяется по лицензии Apache 2.0. README указывает, что к ней применимы этические ограничения и ограничения Granite-3.1-8B-Instruct; конкретные ограничения в карточке не перечислены.

Granite-4.0-H-350M — компактная инструктивная языковая модель, разработанная командой Granite компании IBM и опубликованная Unsloth в формате safetensors. Модель дообучена на базе ibm-granite/granite-4.0-h-350m с применением supervised fine-tuning, обучения с подкреплением и слияния моделей. Её архитектура — плотный decoder-only трансформер GraniteMoeHybrid с GQA, Mamba2, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами; размер — 278,4 млн параметров, контекст — 32 768 токенов. Модель предназначена для диалогов и инструкций, суммаризации, классификации и извлечения текста, вопросов и ответов, RAG, задач с кодом и вызова инструментов. Компактность делает её подходящей для локального развёртывания и дообучения под специализированные задачи. Она поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки; обучение преимущественно ориентировано на английский, поэтому качество на других языках может быть ниже. Модель может выдавать неточные, предвзятые или небезопасные ответы, поэтому для конкретного применения требуется проверка. Лицензия — Apache 2.0.