I.14Автоматизация процессов и AI-агенты

Qwen3-Next-80B-A3B-Instruct-REAM — сжатая версия диалоговой модели Qwen3-Next-80B-A3B-Instruct, созданная методом REAM, описанным в статье об объединении экспертов для улучшения их прореживания. Разработчик уменьшил число экспертов в слоях MoE с 512 до 384; по README, объём модели сократился с 80 до 60 млрд параметров, а требования к хранению и памяти GPU — примерно на 25%. Метаданные указывают архитектуру MoE семейства Qwen3-Next и 2,3 млрд параметров, что расходится с числом в README. Модель предназначена для диалогов и генерации текста, в том числе для задач с длинным контекстом до 262 144 токенов; метаданные также отмечают интерфейс вызова инструментов. README сообщает о сохранении не менее 95% исходного качества на ряде тестов: опубликованные результаты охватывают следование инструкциям, математику, общие знания и программирование. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Это доработка Qwen/Qwen3-Next-80B-A3B-Instruct методом сжатия экспертов; README также описывает версию v2 с изменённым составом данных сжатия, настройкой групп экспертов и сжатием слоя MTP. Лицензия — Apache-2.0. Число параметров в метаданных противоречит README, а приведённые результаты относятся к конкретным тестам и не гарантируют качество во всех сценариях.

Qwen-7B-Chat — диалоговая языковая модель семейства Qwen, разработанная Alibaba Cloud на основе предварительно обученной Qwen-7B с применением методов выравнивания. Это плотная Transformer-модель с архитектурой QWenLMHeadModel; в карточке указано 11,4 млрд параметров и контекст до 8192 токенов. Она предназначена для многоходового общения, ответов на вопросы, работы с кодом, математическими задачами и вызова внешних инструментов. Модель обучена на китайских, английских и других данных; токенизатор на основе tiktoken использует словарь примерно из 150 тысяч токенов, оптимизированный для китайского, английского и кода. README сообщает результаты оценок на C-Eval, MMLU, GSM8K и HumanEval, но они не гарантируют качество в конкретном применении. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

Shuttle-3 — языковая чат-модель компании ShuttleAI Inc., выпущенная в бета-версии в октябре 2024 года. Это дообученная версия Qwen2.5-72B-Instruct с плотной архитектурой Qwen2 и 71,5 млрд параметров; для общения используется формат ChatML. Контекст составляет 32 768 токенов. Модель предназначена для сложных диалогов, многоязычного общения, рассуждений, агентных сценариев и ролевых бесед. В обучении использовались мультиязычные и программные данные, а дообучение включало 130 млн токенов и ролевые данные; модель также настраивали на стиль прозы Claude 3. Репозиторий распространяет веса в формате safetensors. В метаданных указана лицензия other, поэтому конкретные условия использования следует сверять с лицензией в репозитории. Модель помечена как beta; качество и поведение в отдельных языках и сценариях могут различаться.

SuperQwen3.8-27b-abliterated — мультимодальная диалоговая модель Jiunsong, полученная изменением Qwen/Qwen3.8-27B. Это полноразмерный чекпойнт BF16 в формате safetensors, примерно 52 ГБ, с плотной архитектурой Qwen3.5 и 27 млрд параметров. Изменение rank-4 снижает выраженность отказов; башня обработки изображений и веса MTP сохранены без изменений. Модель принимает текст и изображения и формирует текстовые ответы, поддерживает вызов инструментов и контекст до 262 144 токенов. Модель предназначена для диалогов, анализа изображений, многошаговых рассуждений и работы с инструментами. По карточке, настройки reasoning по умолчанию изменены на medium, а для xhigh добавлено условие остановки после получения ответа. Разработчик сообщает о прохождении конечного набора тестов на возможности, работу с изображениями и инструментами; это не гарантирует качество на всех задачах. Снижение отказов может приводить к ответам на запросы, которые базовая модель отклонила. Лицензия — Apache-2.0.

Hagwell/Ternary-Bonsai-2-27B-gguf — мультимодальная причинная языковая модель семейства Bonsai 2, разработанная Prism ML и производная от Qwen3.8-27B. Она предназначена для генерации текста, рассуждений, программирования, агентских сценариев и вызова инструментов, а также поддерживает обработку изображений при подключении отдельного vision-пакета. Модель рассчитана на локальный запуск через llama.cpp на CPU, GPU с CUDA и устройствах Apple с Metal. Модель содержит около 27,36 млрд параметров и использует гибридную архитектуру внимания: примерно 75% слоёв основаны на linear attention, а около 25% — на полном внимании. В архитектуре также используются SwiGLU, RoPE и RMSNorm. Языковые веса представлены в троичном формате со значениями −1, 0 и +1 и групповым масштабированием FP16; заявленный эффективный размер составляет около 1,72 бита на параметр. Доступны две упаковки GGUF: PTQ1_0 размером около 5,95 ГБ и PQ2_0 размером около 7,21 ГБ. Контекст поддерживает до 262 тысяч токенов. Для изображений предусмотрен отдельный vision-пакет формата Q8_0. К сильным сторонам относятся существенно меньший размер по сравнению с FP16, сохранение возможностей рассуждения, программирования и агентского поведения в низкобитном формате, а также возможность запуска 27B-класса на обычном ноутбуке или одной видеокарте. Заявлены результаты на уровне 98,2% от FP16 на среднем показателе 14 бенчмарков и производительность около 47 токенов в секунду на ноутбуке с Apple M5 Max. Ограничения включают необходимость специализированных ternary-ядер и совместимых сборок llama.cpp, а поддержка изображений требует отдельного пакета. Модель распространяется по лицензии Apache 2.0.

Apollo-1-8B — инструкция-дообученная языковая модель, разработанная Noema Research на базе Qwen3-8B. Это плотный decoder-only трансформер примерно на 7,6 млрд параметров для генерации текста, диалога, рассуждений, выполнения инструкций и написания кода; модель поддерживает интерфейс вызова инструментов. Заявленная длина контекста — до 40 960 токенов по метаданным Hugging Face. Модель предназначена для многошагового решения задач, разговорных помощников, обучения и помощи в разработке программного обеспечения. В карточке заявлена поддержка множества языков, включая английский, русский и другие европейские и азиатские языки. Репозиторий содержит веса в формате Safetensors. В README указана лицензия anvdl-1.0, тогда как метаданные классифицируют лицензию как other. Карточка сообщает об улучшенном следовании инструкциям и рассуждениях относительно Apollo-1-4B, но полный отчет о тестировании ещё не опубликован. Модель может ошибаться, особенно в специализированных областях, чувствительна к формулировке запроса и уступает более крупным моделям на особенно сложных задачах. Для критически важных решений требуется проверка человеком.

Apriel-1.5-15b-Thinker — мультимодальная модель рассуждений из серии Apriel SLM, разработанная ServiceNow. Модель с плотной архитектурой на 15 млрд параметров принимает текст и изображения и генерирует ответы в формате диалога; её назначение включает рассуждения по тексту и изображениям, помощь с кодом, ответы на вопросы и вызов инструментов. Для обработки изображений используется архитектура LlavaForConditionalGeneration. Модель прошла продолжительное предварительное обучение на текстовых и визуальных данных, а последующее обучение с учителем выполнялось только на тексте; RL и дообучение на изображениях не применялись. Она рассчитана на общие инструкции, многошаговые задачи и агентные сценарии. Разработчики отмечают высокие результаты на ряде тестов, а также повышенный расход токенов и более долгие ответы из-за развёрнутого рассуждения по умолчанию. Лицензия — MIT. Разработчики предупреждают, что ответы могут содержать фактические ошибки и предвзятость, качество ниже на языках, представленных в обучении слабее, а в медицинских, юридических, финансовых и других критически важных сценариях требуется проверка человеком.

Cogito v2 preview 109B MoE — мультимодальная инструктивно настроенная модель Deep Cogito для диалога и анализа изображений. Она основана на Meta Llama 4 Scout 17B-16E и дообучена с использованием итеративной дистилляции и усиления (IDA). По карточке модели, Cogito v2 сочетает обычный режим ответа с режимом саморефлексии, поддерживает вызов инструментов и предназначена для программирования, задач STEM, следования инструкциям и общих помощнических сценариев. Модель принимает текст и изображения и генерирует текст. В README заявлена подготовка более чем на 30 языках и поддержка контекста до 10 млн токенов; это заявление относится к семейству Cogito v2, а метаданные каталога подтверждают возможности чата и зрения. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия указана как llama4; README описывает лицензию как открытую для коммерческого использования.

cyberneurova-Qwen3.8-27B — диалоговая модель CyberNeurova, дообученная на Qwen/Qwen3.8-27B. Это плотная модель на 27 млрд параметров с поддержкой текста и изображений; автор заявляет контекст до 262 тыс. токенов, многоязычность, рассуждения и интерфейс вызова инструментов. Модель рассчитана на диалоги, ответы на вопросы, анализ изображений и программирование, а стиль ответов можно задавать системным промптом. По заявлению автора, модель сохраняет общие знания и навыки рассуждения и набрала 11 из 12 в небольшом исполняемом тесте на программирование. Она публикуется в BF16 и формате safetensors, работает с Transformers и vLLM. Лицензия — Apache-2.0. Автор отмечает, что встроенные отказы ослаблены; качество и безопасность ответов зависят от конкретного применения и заданного промпта.

Эта версия DeepSeek-R1 размещена Unsloth и основана на модели deepseek-ai/DeepSeek-R1. Это языковая модель семейства DeepSeek V3 с архитектурой DeepseekV3ForCausalLM; в метаданных указано 37,6 млрд параметров и контекст до 163 840 токенов. Карточка исходной модели описывает обучение с контролируемой настройкой и масштабным обучением с подкреплением, направленным на развитие рассуждений и выравнивание с предпочтениями людей. Модель предназначена для генерации текста в диалоге и решения сложных задач на рассуждение, в том числе по математике, программированию и логике. Среди описанных возможностей — самопроверка, рефлексия и построение длинных цепочек рассуждений. Метаданные отмечают поддержку чата и интерфейса вызова инструментов; основной указанный язык — английский. Репозиторий содержит веса safetensors; README также упоминает отдельные варианты DeepSeek-R1 в GGUF и форматах с 4-битной квантизацией. Лицензия — MIT. Размер этой версии и длина контекста по метаданным отличаются от таблицы в README исходной модели, поэтому здесь приведены значения метаданных Hugging Face для данного репозитория.

Dolphin 3.0 Mistral 24B — диалоговая инструкционная языковая модель семейства Dolphin, подготовленная Eric Hartford, Ben Gitter, BlouseJury и Cognitive Computations на базе Mistral Small 24B Base. Это плотная модель с архитектурой MistralForCausalLM, содержащая 23,4 млрд параметров; она принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и использует шаблон диалога ChatML. Модель предназначена для локального применения в качестве помощника общего назначения: она отвечает на вопросы и следует системным инструкциям, помогает с программированием и математикой, а также поддерживает сценарии с агентными инструкциями и вызовом функций. В README отмечено, что поведение и тон можно задавать системным промптом; для этой модели авторы рекомендуют низкую температуру генерации 0,05–0,1. Модель дообучена на смесях инструкционных, математических, кодовых и диалоговых данных. В метаданных указан английский язык, поэтому уверенно описывать поддержку других языков нельзя. Это текстовая модель без заявленных возможностей обработки изображений или аудио. Для работы с ней нужны совместимая среда запуска и достаточные вычислительные ресурсы; качество ответов зависит от системного промпта и настроек генерации. Лицензия в предоставленных данных не указана.

dots.mocr — мультимодальная модель семейства dots_ocr от dots-studio для разбора документов и изображений с текстом. Она предназначена для распознавания текста и структуры страниц: находит элементы макета, их ограничивающие рамки и категории, извлекает текст и формирует Markdown. Также модель интерпретирует диаграммы, интерфейсы и научные иллюстрации и может преобразовывать структурированную графику в SVG-код; поддерживает интерактивный диалог по визуальному содержимому. Модель имеет плотную архитектуру DotsOCRForCausalLM и 1,5 млрд параметров; указанный размер контекста — 131 072 токена. Карточка заявляет мультиязычную поддержку, в том числе английского и китайского. Для развёртывания рекомендуются vLLM и Transformers; лицензия — MIT. Среди ограничений карточка отмечает трудности с комплексными таблицами и математическими формулами, недостаточно надёжный разбор графических изображений в SVG и периодические сбои разбора. Заявления о качестве на бенчмарках приведены в README, но сами таблицы с результатами здесь опущены.

Это облегчённая модель идентификации языка на основе библиотеки fastText, представленная Meta. Она классифицирует входной текст по языку; размещённая версия lid218e, выпущенная в рамках проекта NLLB, распознаёт 217 языков. Модель предназначена для автоматической маркировки языка коротких фрагментов, предварительной маршрутизации текста и выбора подходящих языковых инструментов. fastText рассчитан на эффективную работу на стандартном оборудовании и подходит как для прототипирования, так и для производственных сценариев. В README также описаны предобученные векторы fastText для 157 языков, полученные методом CBOW с позиционными весами и символьными n-граммами; эти параметры не следует считать подтверждённой спецификацией именно размещённого классификатора lid218e. Лицензия репозитория — CC BY-NC 4.0, поэтому коммерческое использование ограничено условиями лицензии. Возможны смещения в предсказаниях.

RedHatAI/gemma-4-26B-A4B-it-FP8-dynamic — мультимодальная instruction-tuned модель семейства Gemma 4, разработанная RedHatAI на основе google/gemma-4-26B-A4B-it. Она принимает текст и изображения и генерирует текст; поддерживает режим рассуждений и вызов инструментов. Модель предназначена для диалоговых приложений, генерации текста, следования инструкциям, решения задач, мультимодального анализа и function calling. Архитектура модели — Gemma4ForConditionalGeneration. Вариант имеет конфигурацию 26B-A4B и оптимизирован для инференса в vLLM. Веса и активации линейных слоёв transformer-блоков квантизированы в FP8: веса используют статическое масштабирование per-channel, активации — динамическое масштабирование per-token. Vision tower, embedding-слои, output head и MoE router сохранены в исходной точности. Квантизация уменьшает объём хранения и требования к памяти GPU примерно на 50%; заявленная максимальная длина контекста при развёртывании составляет 32768 токенов. Поддерживаются изображения и аудио в конфигурации vLLM, однако сведения о языках обучения или поддержки в README не указаны. К сильным сторонам относятся мультимодальность, поддержка рассуждений и вызова инструментов, совместимость с vLLM и близкие к исходной модели результаты на указанных тестах после FP8-квантизации. Ограничениями являются зависимость от корректной настройки vLLM, специальных reasoning- и tool-call parser, а также возможные потери точности из-за квантизации. Модель распространяется по лицензии Apache 2.0; для использования Gemma также следует учитывать условия лицензии Google Gemma, указанной в README.

GLM-4-32B-0414 — плотная авторегрессионная языковая модель семейства GLM-4 от Z.ai с 31,6 млрд параметров. Она предназначена для диалогов и генерации текста; карточка отмечает интерфейс вызова инструментов. Модель обучалась на больших объёмах данных, а этап постобучения включал выравнивание по предпочтениям людей и улучшение следования инструкциям, написания кода и вызова функций. Модель подходит для генерации и объяснения кода, ответов на вопросы с опорой на поиск, подготовки отчётов и выполнения агентных задач с инструментами. В README указана поддержка удобного локального развертывания. Контекст составляет 32 768 токенов; заявлены китайский и английский языки. Репозиторий содержит веса Safetensors и распространяется по лицензии MIT. README содержит посторонний фрагмент о детской литературе и не предоставляет технических сведений о производительности модели, поэтому её заявленные сильные стороны следует считать описанием разработчика, а не независимой оценкой. Также в карточке приведены материалы о других моделях серии GLM, которые не следует приписывать этой модели.

GLM-5.3-Flash — разработанная Z.ai модель семейства GLM-5, опубликованная RedHatAI в формате BF16. Это плотная мультимодальная модель с архитектурой GLM5 Next: всего 320 млрд параметров, из которых активно используются 18 млрд. Она сочетает разреженное и линейное внимание для более экономичной обработки длинных контекстов и предназначена для диалогов, программирования и агентных сценариев. Модель обучена с нуля на мультимодальном корпусе из 30 трлн токенов. В README заявлена поддержка локального развёртывания через SGLang, vLLM, TokenSpeed и KTransformers; метаданные Hugging Face указывают библиотеку Transformers и возможность чата. Метки карточки указывают английский и китайский языки. Лицензия — MIT. В предоставленных данных не приведены численные результаты независимой оценки качества или ограничения по аппаратным требованиям.

unsloth/granite-4.0-micro-unsloth-bnb-4bit — 4-битная квантованная версия Granite-4.0-Micro, разработанная Unsloth на базе модели IBM Granite Team. Исходная модель — инструкционная языковая модель с 3 млрд параметров, дообученная IBM на открытых наборах инструкций с разрешительными лицензиями и внутренних синтетических данных с применением supervised fine-tuning, reinforcement learning и объединения моделей. Модель предназначена для корпоративных приложений, ассистентов и LLM-агентов с поддержкой вызова инструментов. Модель подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, программирования, function calling, многоязычного диалога и Fill-In-the-Middle-дополнения кода. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Указана поддержка длинного контекста, однако его точный размер в README не приведён. Ключевые сильные стороны — улучшенное следование инструкциям, tool calling и сниженные требования к памяти благодаря 4-битному формату; ограничения квантования и точные характеристики производительности не указаны. Распространяется по лицензии Apache 2.0. Для работы используется библиотека Transformers и формат bnb-4bit; README не содержит подробностей о точной архитектуре квантования, размере контекстного окна или результатах бенчмарков именно этой версии.

cyankiwi/granite-4.1-3b-AWQ-INT4 — квантизированная версия Granite-4.1-3B, разработанная сообществом cyankiwi на основе базовой модели IBM Granite Team. Это инструкционная языковая модель примерно на 3 млрд параметров, дообученная IBM с применением supervised fine-tuning и reinforcement learning alignment для улучшения следования инструкциям, диалогов и вызова инструментов. Представленная сборка использует AWQ INT4-квантизацию и занимает около 2,33 ГБ. Модель предназначена для бизнес-приложений и AI-ассистентов, включая агентские сценарии с вызовом внешних функций и API. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, программирование, function calling, многоязычный диалог и Fill-In-the-Middle для автодополнения кода. В карточке указана поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков; исходная Granite-4.1-3B также заявлена как поддерживающая немецкий, португальский, чешский и итальянский. Сильные стороны модели — небольшой размер, сниженные требования к памяти благодаря INT4-квантизации, поддержка длинного контекста, многоязычность и ориентация на инструкции и использование инструментов. README не содержит точного размера контекстного окна, сведений о мультимодальности, подробных результатов тестирования или ограничений качества этой квантизированной сборки, поэтому её возможности следует оценивать на целевых задачах. Лицензия исходной модели и данной сборки указана как Apache 2.0.

GutenOCR-3B — мультимодальная модель распознавания и локализации текста в документах, созданная дообучением Qwen2.5-VL-3B-Instruct. Модель на 3,1 млрд параметров использует архитектуру Qwen2.5-VL и принимает изображения с текстовыми запросами; поддерживает контекст длиной до 128 000 токенов. Модель предназначена для чтения целых страниц с сохранением структуры, распознавания текста в заданной области и поиска слов или строк с выдачей координат ограничивающих рамок. Она также обнаруживает области с текстом, включая строки, абзацы и математические выражения. Ответы могут быть представлены обычным текстом, Markdown или структурированным JSON; интерфейс управляется шаблонами запросов. Модель обучалась на деловых документах, научных статьях и синтетических данных для локализации. По описанию авторов, на отложенных тестах она улучшает распознавание текста на уровне областей и строк, а также полноту обнаружения текста по сравнению с базовой моделью. Карточка приводит английский как язык модели. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.

JoyAI-LLM Flash — инструктивная языковая модель среднего размера от jdopensource для диалогов, рассуждений, программирования и работы с инструментами. В карточке описаны предварительное обучение на 20 триллионах текстовых токенов, supervised fine-tuning, DPO и обучение с подкреплением в разных средах. Модель использует архитектуру Mixture-of-Experts: в README указаны 48 млрд параметров всего и 3 млрд активируемых параметров; метаданные Hugging Face сообщают 2,7 млрд параметров и класс DeepseekV3ForCausalLM. Эти сведения о размере расходятся. Модель рассчитана на генерацию текста в формате чата, решение задач на рассуждение и код, а также агентные сценарии с вызовом инструментов. README заявляет поддержку контекста до 131 072 токенов согласно метаданным. Указаны китайский и английский языки. Репозиторий содержит веса Safetensors для Transformers. README описывает доступ через API и совместимые с OpenAI и Anthropic интерфейсы; конкретные условия лицензии в предоставленных данных отсутствуют.

WhiskyAKM публикует GGUF-версию K2-Horizon-MoVA-36B-A4B, производной от IFM/K2-Horizon-MoVA-36B-A4B. Это разрежённая языковая модель архитектуры MoE с механизмом внимания Mixture-of-Values: всего 36 млрд параметров, из которых активны 4 млрд на токен. Модель предназначена для генерации текста и диалогов, рассуждений, программирования и агентных задач с использованием инструментов. Репозиторий содержит квантизованные в NVFP4 веса в формате GGUF для запуска через llama.cpp и совместимые движки. Заявленное контекстное окно — 524 288 токенов. Карточка отмечает английский язык. Лицензия — Apache-2.0. Для NVFP4 автор указывает оптимизацию под NVIDIA Blackwell и совместимое оборудование; фактическая производительность и доступность поддержки зависят от движка и аппаратуры.

AMAImedia/Kimi-K3-MXFP-GGUF — размещённая AMAImedia квантованная GGUF-сборка модели Kimi K3, представленной Moonshot AI. В карточке указаны архитектура MoE на основе Kimi Delta Attention и Attention Residuals, 2,8 трлн параметров и контекст до 1 млн токенов. Модель принимает текст и изображения; семейство также поддерживает видео. Заявлена поддержка множества языков, включая русский, английский, китайский, вьетнамский и японский. Модель предназначена для генерации текста и мультимодальных диалогов, в том числе для программирования, рассуждений и агентной работы с длинным контекстом. Автор карточки сообщает о квантизации GGUF UD-IQ1_S; такой вариант ориентирован на локальный запуск, но требует значительных ресурсов, а производительность и качество могут зависеть от оборудования и квантизации. В карточке приведена лицензия Apache-2.0; README упоминает лицензию Kimi K3, поэтому условия для этой конкретной сборки следует сверять с файлами лицензии репозитория.

LFM2-1.2B-Extract-GGUF — модель Liquid AI для извлечения важной информации из неструктурированных документов и преобразования её в структурированный вид. Она предназначена для обработки статей, расшифровок, отчётов, электронных писем, нормативных документов и обращений в службу поддержки с формированием результатов в форматах JSON, XML или YAML. Модель основана на LFM2-1.2B и имеет размер около 1,2 млрд параметров. Распространяется в формате GGUF и относится к задачам генерации текста; в README приведён пример запуска с llama.cpp. Заявлена поддержка английского, арабского, китайского, французского, немецкого, японского, корейского и испанского языков. Возможные сценарии включают извлечение реквизитов счетов, подготовку данных для систем комплаенса и аналитики, а также пополнение графов знаний сущностями и атрибутами. К сильным сторонам относятся специализация на структурированном извлечении и возможность локального использования через совместимые инструменты. README не содержит сведений о точной архитектуре, размере контекста, результатах сравнительных тестов, требованиях к оборудованию или ограничениях качества, поэтому эти характеристики нельзя оценить по предоставленным данным. Модель распространяется по лицензии lfm1.0; условия лицензии указаны в файле LICENSE.

LFM2-24B-A2B — универсальная инструктивная языковая модель компании Liquid AI из семейства LFM2, предназначенная для локального развёртывания на устройствах и компьютерах. Это гибридная архитектура MoE с 24 млрд параметров, из которых активны около 2,3 млрд на токен; в метаданных указано 3,4 млрд параметров. Модель имеет 40 слоёв: 30 сверточных и 10 attention-слоёв, поддерживает контекст до 128 000 токенов и работает через Transformers. Для хранения весов используется safetensors. Модель подходит для диалогов, вызова инструментов, локальных RAG-систем, суммаризации документов и ответов на вопросы. Её можно использовать для приватных сценариев на собственном оборудовании, включая поддержку клиентов и многошаговые агентные процессы. Заявлена поддержка английского, арабского, китайского, французского, немецкого, японского, корейского, испанского и португальского языков. Разработчик не рекомендует модель для программирования; она не использует цепочки рассуждений в ответах. Лицензия обозначена как other, поэтому конкретные условия использования следует сверить с карточкой репозитория.

lift-GGUF — это 9-миллиардная multimodal-модель для структурированного извлечения данных из PDF-документов и изображений, разработанная Datalab на базе Qwen3.5-9B и представленная в формате GGUF пользователем prithivMLmods. Модель принимает произвольную JSON Schema и возвращает соответствующий JSON-объект с использованием декодирования, ограниченного схемой, что обеспечивает валидный и типизированный результат. Она поддерживает обработку многостраничных документов за один проход, включая значения, распределённые по нескольким страницам, а также локальный inference через Hugging Face и удалённый inference через vLLM. Указан английский язык; поддержка других языков не заявлена. Модель предназначена для автоматизированного извлечения полей, списков и других структурированных сведений из документов и изображений, включая сценарии с отвлекающими похожими данными и межстраничными значениями. На тесте из 225 документов объёмом от 6 до 64 страниц она показала точность на уровне полей 90,2% и точность целого документа 20,9% при медианной задержке 9,5 секунды, превзойдя Qwen3.5-9B и NuExtract3 сопоставимого размера, но уступив более крупным размещённым в облаке системам. Доступны варианты квантования от Q2_K до Q8_0, а также BF16 и F16; размеры файлов варьируются примерно от 3,91 до 18,4 ГБ, для multimodal-обработки требуются отдельные mmproj-файлы. Код распространяется по Apache 2.0, а веса — по модифицированной лицензии OpenRAIL-M. Согласно описанию, веса бесплатны для исследований, личного использования и стартапов с финансированием или выручкой менее 5 миллионов долларов. Ограничениями являются зависимость качества от выбранной JSON Schema и конфигурации квантования, высокая требовательность к ресурсам для полноразмерных вариантов, а также сравнительно низкая точность полного документа по приведённому benchmark.

Llama-3.1-Nemotron-70B-Instruct-HF — текстовая модель NVIDIA на архитектуре Llama 3.1 с 69,5 млрд параметров. Это версия в формате Hugging Face Transformers, преобразованная из Llama-3.1-Nemotron-70B-Instruct; исходная модель Meta Llama-3.1-70B-Instruct была дообучена NVIDIA методом RLHF, включая REINFORCE, на предпочтениях из HelpSteer2 и данных модели Nemotron-70B-Reward. Модель предназначена для диалогов и выполнения общих инструкций: она генерирует ответы на пользовательские запросы и ориентирована на их полезность, связность и соответствие предпочтениям. Принимает текст, выдаёт текст, поддерживает контекст до 128 тысяч токенов и интерфейс вызова инструментов. В карточке приведены высокие результаты на Arena Hard, AlpacaEval 2 LC и MT-Bench; показатели могут отличаться от оценки исходной версии в NeMo-Aligner. Модель общего назначения, не настроенная специально для математики или узкопрофильных областей. Для запуска через Transformers в README указаны две или более видеокарты с 80 ГБ памяти каждая и не менее 150 ГБ свободного места на диске. Лицензия — Llama 3.1; применяются условия лицензии Meta Llama 3.1.

MiniCPM3-4B — плотная языковая модель третьего поколения семейства MiniCPM, разработанная командой OpenBMB. Она содержит 4,9 млрд параметров и предназначена для диалогов и генерации текста; также поддерживает вызов функций и работу с интерпретатором кода. Модель принимает текст и формирует текстовые ответы. Контекстное окно составляет 32 768 токенов. В README заявлена возможность теоретически обрабатывать контекст неограниченной длины с помощью LLMxMapReduce без резкого увеличения памяти. Модель ориентирована на китайский и английский языки и доступна для использования через Transformers; для vLLM в README требуется форк библиотеки. Модель подходит для диалоговых помощников, генерации и классификации текста, а также сценариев с вызовом инструментов и выполнением кода через интерпретатор. README сообщает о результатах, сопоставимых с рядом моделей большего размера, но конкретная таблица оценок в предоставленных данных отсутствует. Лицензия — Apache-2.0. Разработчики предупреждают, что ответы следует самостоятельно проверять.

NVIDIA MiniMax-M2.5-NVFP4 — квантизированная версия авторегрессионной языковой модели MiniMax-M2.5, разработанной MiniMax и подготовленной NVIDIA с использованием Model Optimizer. NVIDIA не является разработчиком исходной модели. Модель предназначена для коммерческого и некоммерческого применения, включая AI-агентов, чат-ботов, RAG-системы и другие приложения на базе генерации текста. Модель использует архитектуру Transformers с сетевой архитектурой MiniMaxM2ForCausalLM и содержит 229 млрд параметров. Она работает с текстовыми последовательностями на входе и генерирует текст на выходе; поддерживаемый контекст составляет до 196 608 токенов. Языки явно не указаны. Квантизация весов и активаций линейных операторов внутри трансформерных блоков до формата NVFP4 уменьшает число бит на параметр с 8 до 4, а также примерно в 1,65 раза сокращает требования к дисковому пространству и видеопамяти. Модель ориентирована на развёртывание на NVIDIA GPU, прежде всего на системах с микроархитектурой Blackwell, и интегрируется с SGLang и vLLM под Linux. К сильным сторонам относятся большой контекст, поддержка задач рассуждения и программирования, а также сниженные требования к памяти благодаря квантизации. Ограничения включают зависимость от совместимого оборудования NVIDIA и необходимость дополнительного тестирования на данных конкретного сценария; характеристики исходной MiniMax-M2.5, включая детальные языковые возможности, в предоставленных данных не раскрыты. Использование регулируется NVIDIA Open Model License; дополнительно указана Modified MIT License исходной модели MiniMax-M2.5. Версия квантизации создана с использованием NVIDIA Model Optimizer 0.43.0.

Карточка модели theship87/mistral-7b-fork на Hugging Face совпадает с карточкой mistralai/Mistral-7B-Instruct-v0.3, поэтому описание составлено по ней. Mistral-7B-Instruct-v0.3 — языковая модель Mistral AI, дообученная следовать инструкциям на основе Mistral-7B-v0.3. Она предназначена для диалогов, генерации и продолжения текста, а также сценариев с вызовом функций и инструментов. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров; контекст — до 32 768 токенов. В версии v0.3 расширен словарь до 32 768 токенов, добавлена поддержка токенизатора v3 и вызова функций. Модель принимает текст и генерирует текст, подходит для чат-ботов, выполнения инструкций и интеграции с инструментами. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковую специализацию определить нельзя. По заявлению авторов, это демонстрационная модель, показывающая возможности дообучения базовой версии. У модели нет механизмов модерации, поэтому её ответы требуют соответствующей проверки при использовании. Лицензия — Apache-2.0.

Nemotron Table Structure v1 — разработанная NVIDIA специализированная модель компьютерного зрения для выделения структуры таблиц на изображениях. Она обнаруживает ячейки, строки и столбцы и возвращает для каждого объекта класс, координаты ограничивающей рамки и оценку уверенности. Модель построена на YOLOX с backbone DarkNet53 и FPN decoupled head; содержит около 54 млн параметров и обрабатывает RGB-изображения, приводимые к размеру 1024 × 1024. Модель предназначена для извлечения табличных данных из сканов и документов, в том числе в конвейерах обработки документов и enterprise-поиска. В сочетании с OCR она помогает сохранить связи между элементами таблицы и преобразовать её структуру для последующего анализа или представления в Markdown. NVIDIA сообщает о предварительном обучении на COCO train2017 и дообучении на изображениях Digital Corpora с разметкой Azure AI Document Intelligence. Для инференса требуются PyTorch и код из репозитория; модель оптимизирована для систем с GPU NVIDIA. Карточка заявляет готовность к коммерческому и некоммерческому использованию по NVIDIA Open Model License Agreement; скрипты постобработки лицензированы Apache 2.0. Для распознавания текста модель следует использовать вместе с OCR: сама она выдаёт геометрию и классы элементов таблицы.