I.14Автоматизация процессов и AI-агенты

mobiuslabsgmbh/DeepSeek-R1-ReDistill-Qwen-7B-v1.1 — повторно дистиллированная версия DeepSeek-R1-Distill-Qwen-7B-7B модели, опубликованная Mobius Labs. Это плотная авторегрессионная языковая модель семейства Qwen2 для диалогов и генерации текста; она подходит для задач, требующих многошаговых рассуждений, включая математику и программирование. В README приведены результаты сравнительных тестов на ARC, HellaSwag, MMLU, GPQA, MMLU PRO и MUSR; показатели версии v1.1 выше исходной на части тестов и ниже на ARC. Модель содержит 7,1 млрд параметров, принимает текст и имеет контекстное окно до 131 072 токенов. Опубликована в формате safetensors, поддерживает интерфейс диалога и tool calling. Лицензия — MIT. README не сообщает языки обучения или оценки, поэтому языковую поддержку нельзя уточнить по этим данным.

cmarkea/detr-layout-detection — модель обнаружения структуры документов, разработанная cmarkea и дообученная на DocLayNet на базе DETR с ResNet-50. Она анализирует изображение страницы и одновременно предсказывает ограничивающие рамки и маски элементов макета: подписей, сносок, формул, пунктов списков, колонтитулов, изображений, заголовков разделов, таблиц, основного текста и заголовков страниц. Модель предназначена для извлечения структуры страниц при обработке документных корпусов, в том числе для подготовки данных к системам ответов на вопросы по документам. В README приведены результаты оценки на 500 страницах DocLayNet; заявлены F1 91,27 для сегментации и GIoU 80,66 для обнаружения объектов в сравнительном бенчмарке. Число параметров — 6,3 млн; веса доступны в формате safetensors для Transformers. Модель принимает изображения документов и выдаёт классы элементов, маски и рамки объектов. Лицензия — Apache-2.0. Качество оценивалось на DocLayNet; переносимость на другие типы документов и качество на отдельных классах могут отличаться.

SalML/DETR-table-structure-recognition — модель обнаружения объектов на основе DETR, предназначенная для распознавания структуры таблиц в документах. По карточке автор также создал Hugging Face Space, который применяет OCR к изображению с результатами Table Transformer и позволяет скачать таблицу в CSV. Модель содержит 6,3 млн параметров, использует PyTorch и обучена на PubTables-1M. Метаданные указывают английский язык; подходящий сценарий — выделение структурных элементов таблицы на изображении документа перед извлечением данных. Лицензия в метаданных обозначена как unknown.

Docling Layout Heron GGUF — конверсия модели docling-project/docling-layout-heron, созданной проектом Docling, в формат GGUF для graph runner LM-Kit.NET. Это детектор структуры документов на архитектуре RT-DETRv2, а не языковая модель. Он принимает RGB-изображение страницы размером 640 × 640 и находит области документа, возвращая их границы, классы и оценки уверенности. Модель распознаёт 17 классов, включая текст, заголовки, таблицы, изображения, формулы, подписи, списки, колонтитулы, код, флажки, формы и области «ключ–значение»; число параметров — 42,1 млн. Модель подходит для выделения структуры страниц перед извлечением текста, разбором таблиц и обработкой форм. GGUF-файл хранит веса в полной точности F32, имеет размер около 168,5 МБ и запускается через LM-Kit.NET на CPU или GPU. Карточка не сообщает языковые ограничения; детекция макета основана на изображении и не предполагает генерацию текста. Лицензия — Apache-2.0.

Dolphin-v2 — модель для разбора документов, разработанная ByteDance. Она обрабатывает цифровые документы и фотографии страниц и выдаёт структурированное представление содержимого. Модель построена на архитектуре Qwen2.5-VL-3B с визуальным энкодером NaViT и авторегрессионным декодером; размер составляет 3,1 млрд параметров, контекст — до 128 000 токенов. Модель сначала классифицирует тип документа и анализирует его структуру, затем извлекает содержимое с учётом типа страницы и элемента. Она поддерживает распознавание текста, анализ макета и порядка чтения, извлечение таблиц, формул и кода; для фотографий использует разбор всей страницы, а для цифровых документов — параллельную обработку элементов. В README сообщается о результатах на OmniDocBench v1.5, но они не гарантируют качество на любых документах. Модель принимает изображения документов и текстовые запросы, а выдаёт текстовое структурированное представление. Карточка указывает поддержку китайского и английского языков. Лицензия в предоставленных данных не указана.

Donut base — предварительно обученная модель для понимания изображений документов, разработанная командой NAVER CLOVA. Архитектура vision encoder-decoder сочетает визуальный энкодер Swin Transformer и текстовый декодер BART: по изображению модель авторегрессионно генерирует текст. Модель предназначена для дообучения под конкретные задачи, например классификацию изображений документов и извлечение структурированных данных из документов. Это базовый чекпойнт, а не готовое решение для конкретного типа документа; для прикладного использования обычно требуется дообучение. Распространяется по лицензии MIT.

dots.ocr-1.5 — мультимодальная модель OCR и разбора документов, разработанная rednote-hilab (Xiaohongshu); эта копия загружена на Hugging Face с ModelScope. Архитектура DotsOCRForCausalLM сочетает зрительный энкодер и языковую модель. В метаданных указано 1,5 млрд параметров, а README описывает исходную версию как модель на 3 млрд параметров; эти сведения расходятся. Модель принимает изображения и текстовые запросы и выдаёт распознанный текст, структурированные данные или SVG. Заявлены контекст до 131 072 токенов и поддержка английского, китайского и ряда других языков, включая русский. Модель предназначена для распознавания текста и структуры документов, включая таблицы, формулы и блоки разметки, а также для ответов на вопросы по изображениям документов и диаграмм. Она также может разбирать снимки веб-страниц и сцены с текстом, находить объекты и считать их, преобразовывать диаграммы и другие графические материалы в SVG. README приводит результаты на тестах DocVQA, ChartQA и OCRBench и отмечает сильные результаты в многоязычном разборе документов. По README, сложные таблицы и формулы остаются трудными для компактной версии модели, преобразование изображений в SVG требует улучшения, а в отдельных случаях возникают ошибки разбора. Для запуска с Transformers требуется включить доверенную загрузку пользовательского кода; в vLLM необходимо передавать содержимое запроса в строковом формате. Лицензия в метаданных обозначена как other, поэтому конкретные условия следует сверить с исходным проектом rednote-hilab.

AEON-7/Gemma-4-26B-A4B-it-Uncensored-NVFP4 — инструкцияная мультимодальная модель семейства Gemma 4, разработанная AEON-7 на основе TrevorJS/gemma-4-26B-A4B-it-uncensored. Модель предназначена для диалогов, генерации текста и кода, агентских сценариев, рассуждений, вызова инструментов и обработки изображений вместе с текстом. Заявлена поддержка английского языка. Архитектура — разреженная Mixture-of-Experts: 26 млрд параметров всего и около 4 млрд активных параметров. Веса квантизованы в NVFP4, используется формат safetensors. Для развёртывания предусмотрена интеграция с vLLM и OpenAI-совместимым API; в документации указана конфигурация с контекстом до 262 144 токенов, chunked prefill, prefix caching и speculative decoding через DFlash. Модель ориентирована на GPU-платформы NVIDIA Grace Blackwell, включая DGX Spark/GB10, а также на локальное или периферийное развёртывание. К сильным сторонам относятся сочетание мультимодальности, MoE-архитектуры с небольшим числом активных параметров, поддержки function calling и reasoning, а также оптимизации для высокопроизводительного инференса. Ограничения связаны с зависимостью от совместимого оборудования NVIDIA и специализированной конфигурации vLLM; заявленные параметры производительности относятся к конкретному серверному стеку и не гарантируют аналогичные результаты в других средах. Модель обозначена как uncensored/unfiltered, поэтому встроенные ограничения безопасности могут быть ослаблены. Лицензия указана как Gemma.

RedHatAI/gemma-4-31B-it-NVFP4 — мультимодальная instruction-tuned модель, разработанная RedHatAI на основе google/gemma-4-31B-it от Google. Она принимает текст и изображения, а генерирует текст; предназначена для диалоговых приложений, генерации текста, рассуждений, следования инструкциям и вызова инструментов. Модель использует архитектуру Gemma4ForConditionalGeneration и поддерживает режим thinking, function calling и tool calling. Доступна для инференса через vLLM; в README указана максимальная длина контекста 32 768 токенов. Вариант NVFP4 применяет 4-битное квантование весов и активаций линейных слоёв трансформерных блоков с group_size=16 и локальным масштабированием по группам. Vision tower, embeddings и output head сохраняются в исходной точности, что снижает требования к дисковому пространству и памяти GPU примерно на 75% по сравнению с 16-битным представлением. К сильным сторонам относятся поддержка текстово-визуальных сценариев, вызова инструментов, режима рассуждений и эффективный инференс на совместимом оборудовании. К ограничениям относятся зависимость от NVFP4-совместимого окружения и vLLM, а также возможная небольшая потеря качества из-за квантования; в приведённых оценках результаты сопоставлялись с исходной моделью, но полный набор таблиц в представленном README обрезан. Модель распространяется по лицензии Apache-2.0.

Карточка модели Cultxre/GLM-4.6-Derestricted-v3 на Hugging Face совпадает с карточкой ArliAI/GLM-4.6-Derestricted-v3, поэтому описание составлено по ней. GLM-4.6-Derestricted-v3 — текстовая диалоговая модель Arli AI, созданная на основе GLM-4.6 от Zhipu AI. Разработчики применили к базовой модели метод Norm-Preserving Biprojected Abliteration, чтобы убрать поведение отказа, стараясь сохранить рассуждения и другие способности исходной модели. Это модификация весов, а не отдельная архитектура; в репозитории указаны 23,4 млрд параметров, семейство GLM-4 MoE и формат safetensors. Модель предназначена для генерации диалоговых ответов, рассуждений, написания кода и агентных сценариев. Унаследованный от GLM-4.6 контекст составляет 202 752 токена; исходная карточка также описывает поддержку использования инструментов. В карточке заявлено, что удаление отказов позволяет сохранить или улучшить рассуждения, однако независимых подтверждений этих заявлений не приведено. Модель принимает текст и генерирует текст. Лицензия — MIT. Языки явно не перечислены; исходная GLM-4.6 описана как модель для текста и кода, но конкретный набор естественных языков не указан.

Карточка модели tactBagel/GLM-4.6-Derestricted-v3 на Hugging Face совпадает с карточкой ArliAI/GLM-4.6-Derestricted-v3, поэтому описание составлено по ней. GLM-4.6-Derestricted-v3 — текстовая диалоговая модель Arli AI, созданная на основе GLM-4.6 от Zhipu AI. Разработчики применили к базовой модели метод Norm-Preserving Biprojected Abliteration, чтобы убрать поведение отказа, стараясь сохранить рассуждения и другие способности исходной модели. Это модификация весов, а не отдельная архитектура; в репозитории указаны 23,4 млрд параметров, семейство GLM-4 MoE и формат safetensors. Модель предназначена для генерации диалоговых ответов, рассуждений, написания кода и агентных сценариев. Унаследованный от GLM-4.6 контекст составляет 202 752 токена; исходная карточка также описывает поддержку использования инструментов. В карточке заявлено, что удаление отказов позволяет сохранить или улучшить рассуждения, однако независимых подтверждений этих заявлений не приведено. Модель принимает текст и генерирует текст. Лицензия — MIT. Языки явно не перечислены; исходная GLM-4.6 описана как модель для текста и кода, но конкретный набор естественных языков не указан.

GLM-5.2-NVFP4 — квантизированная версия языковой модели GLM-5.2 от zai-org, опубликованная lukealonso. Модель предназначена для генерации текста, диалоговых сценариев, программирования, многошагового агентного взаимодействия, вызова инструментов и function calling. Она поддерживает английский и китайский языки и работает через библиотеку Transformers. В основе лежит Mixture-of-Experts-модель с 744 млрд параметров, из которых 40 млрд активируются для каждого токена. В каждом MoE-слое используются 256 экспертов, восемь из которых выбираются для обработки токена; также применяется архитектура DeepSeek Sparse Attention (DSA). Неквантизированная часть модели включает attention-веса, плотные MLP-слои и общие эксперты в формате BF16. MLP-проекции необщих MoE-экспертов квантизированы в NVFP4 — 4-битный формат с блочными FP8-масштабами для групп по 16 элементов. Ключевое преимущество модели — существенное снижение требований к памяти при сохранении специализированных экспертных весов и калибровке по естественной маршрутизации токенов. Калибровочные данные включали программирование, вызов инструментов, реальные пользовательские диалоги на разных языках и длинные последовательности свыше 8 тысяч токенов. Ограничения — необходимость мощной инфраструктуры: рекомендована конфигурация из восьми RTX PRO 6000 Blackwell по 96 ГБ с b12x MoE runner. Лицензия MIT.

Granite Vision 4.1 4B — компактная визуально-языковая модель IBM Research для извлечения структурированных данных из изображений документов и графиков. Архитектура Granite4 Vision объединяет языковую модель на 3,4 млрд параметров и визуальный энкодер с проекторами на 0,6 млрд параметров; модель дообучена на Granite-4.1-3B. Она принимает изображения и текстовые инструкции, а ответы формирует в текстовом виде, включая CSV, HTML, JSON, OTSL, код Python и описания на естественном языке. Модель предназначена прежде всего для преобразования графиков в данные, код или краткие описания, извлечения таблиц со сложной структурой и поиска семантических пар «ключ—значение» в документах с разной вёрсткой. Её также можно применять для описания изображений и в конвейерах обработки документов, в том числе с Docling. Карточка сообщает о 94,2% точности exact match на VAREX в zero-shot режиме; это результат конкретного бенчмарка и не гарантия для других данных. Модель разработана для специализированного извлечения информации и может хуже справляться с открытыми задачами по изображениям. Генеративные ответы могут содержать ошибки, поэтому их следует проверять, особенно в важных процессах. Инструкции обучения были на английском, и качество на документах на других языках может быть ниже. Лицензия — Apache 2.0.

H2OVL-Mississippi-2B — мультимодальная модель языка и зрения от H2O.ai с плотной архитектурой H2OVLChat и 2,1 млрд параметров. Она объединяет языковые модели H2O-Danube с обработкой изображений и предназначена для диалога по визуальным данным, ответов на вопросы об изображениях, описания сцен и понимания документов. Модель обучена на 17 млн пар «изображение — текст». В карточке приведены результаты на мультимодальных тестах, включая OCRBench, и описаны сценарии извлечения из изображений полей, таблиц и диаграмм с формированием структурированного JSON. Для запуска указаны Transformers и vLLM. Основной язык, указанный в метаданных, — английский; длина контекста в предоставленных данных не описана. Модель распространяется по лицензии Apache-2.0. Как и другие генеративные модели, она может ошибаться, а её ответы могут содержать предвзятые или оскорбительные формулировки; извлечённые из документов данные следует проверять.

Hunyuan-1.8B-Instruct — компактная инструктивная языковая модель Tencent из семейства Hunyuan. Это плотная авторегрессионная модель на 1,8 млрд параметров для генерации текста и диалогового взаимодействия; она поддерживает вызов инструментов через соответствующий интерфейс. Модель предназначена для ответов на вопросы, следования инструкциям, рассуждений, задач по математике и программированию, а также агентных сценариев. Поддерживаются быстрый и медленный режимы рассуждения и контекст до 256K токенов. В карточке приведены результаты тестирования разных вариантов семейства, но отдельные цифры для модели 1.8B не следует считать гарантией качества в реальных задачах. Модель разработана Tencent и опубликована 30 июля 2025 года. Для запуска описана поддержка Transformers, TensorRT-LLM, vLLM и SGLang. Сведения о лицензии в предоставленных данных отсутствуют.

IndicOCR — разработанная Bodhan AI модель для распознавания текста и разбора страниц документов на английском и индийских языках. Она принимает изображение страницы и формирует упорядоченный по чтению Markdown, а также структурированные данные JSON по блокам. Система состоит из двух этапов: IndicDocLayout на базе PP-DocLayoutV3/RT-DETR обнаруживает и упорядочивает элементы страницы, а IndicBlockOCR на базе Qwen3.5-0.8B распознаёт текстовые блоки. Размеры компонентов составляют 33 млн и 0,8 млрд параметров соответственно; распознаватель использует токенизатор Sarvam-30B. Модель предназначена для OCR и разбора документов, включая печатный текст на английском и 22 индийских языках, а также рукописный текст на английском и 12 индийских языках. Она поддерживает сохранение порядка чтения, представление формул в LaTeX и таблиц в HTML или Markdown. По умолчанию изображения, диаграммы, реклама, колонтитулы и верхние/нижние колонтитулы определяются, но не передаются распознавателю; в JSON для них остаётся пустой текст. Качество распознавания рукописного текста ещё улучшается и зависит от стиля письма. Лицензия указана как other; конкретные условия в предоставленных данных не раскрыты.

Jina Reranker v2 Base Multilingual — модель Jina AI для повторного ранжирования результатов поиска. Это кросс-энкодер на базе XLM-RoBERTa, дообученный на парах «запрос — документ»: он принимает запрос и текст документа и возвращает оценку их релевантности, по которой можно переставить результаты поиска. В метаданных указано 305,2 млн параметров; модель доступна в форматах PyTorch, Safetensors и ONNX и использует библиотеку Transformers. Модель предназначена для мультиязычного поиска по документам, коду и структурированным данным, а также для отбора результатов в системах поиска с вызовом инструментов или генерацией SQL. Контекст составляет до 1026 токенов по метаданным; README указывает 1024 токена и описывает разбиение более длинных текстов на фрагменты со скользящим окном. В модели также используется Flash Attention. Карточка приводит сравнительные результаты на нескольких тестах поиска, но они не гарантируют качество для конкретного корпуса или языка. Лицензия CC-BY-NC-4.0 разрешает исследовательское и оценочное использование, но ограничивает коммерческое применение; для коммерческого использования README предлагает обратиться к сервисам Jina AI или связаться с разработчиком.

Карточка модели Cdsnutz/K2-Horizon-3.7B-heretic-xortron на Hugging Face совпадает с карточкой darkc0de/K2-Horizon-3.7B-heretic-xortron, поэтому описание составлено по ней. Это версия IFM/K2-Horizon-3.7B с уменьшенным числом отказов, созданная разработчиком darkc0de методом Heretic v1.4.0. В основе — плотная авторегрессионная модель K2-Horizon с 3,7 млрд параметров ядра и контекстом до 524 288 токенов; метаданные указывают 4,1 млрд параметров всего. Модель предназначена для диалоговой генерации текста, включая рассуждения, задачи по коду и агентные сценарии. По сравнению с исходной моделью в приведённом README тесте частота отказов снизилась с 98 до 11 из 100, а расхождение по KL-дивергенции составило 0,0088. Модель доступна в формате Safetensors и использует библиотеку Transformers. README приводит настройки запуска через vLLM и SGLang. Заявлена лицензия Apache-2.0; уменьшение отказов может повлиять на поведение защитных механизмов.

Модель KARAKURI Inc. karakuri-lm-8x7b-instruct-v0.1 — диалоговая языковая модель на архитектуре Mixtral Mixture of Experts, дообученная на базе tokyotech-llm/Swallow-MX-8x7b-NVE-v0.1. Она предназначена для генерации ответов и инструкций на английском и японском языках, включая сценарии вызова инструментов и работы с RAG. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В шаблоне диалога предусмотрены девять управляемых атрибутов ответа: полезность, корректность, связность, сложность, многословность, качество, токсичность, юмор и креативность. Модель дообучали примерно на 1 млрд токенов данных, в том числе на наборах для диалогов, программирования, вызова функций, математики, SQL и RAG. Репозиторий использует формат safetensors и библиотеку Transformers. Известное ограничение: модель может пытаться вызывать инструменты, которые не предоставлены приложением; такие вызовы следует отфильтровывать при постобработке. Лицензия — Apache 2.0.

KAT-Ornith-Coder-35B-A3B — специализированная гибридная MoE-модель для автономной разработки ПО с агентами вроде OpenHands, Aider и Cline. Она создана слиянием KAT-Coder-V2.5-Dev и Ornith-1.5-35B-A3B методом асимметричного DARE-TIES: модель сохраняет компоненты KAT, отвечающие за токенизацию и маршрутизацию экспертов, и использует параметры Ornith для усиления планирования и работы с контекстом репозитория. Архитектура — Qwen 3.5 MoE с гибридным вниманием; README указывает около 35 млрд параметров всего и около 3 млрд активных на токен, тогда как метаданные каталога сообщают 2,9 млрд параметров. Контекстное окно составляет 262 144 токена. Модель принимает текст, генерирует текст и код, поддерживает диалог и интерфейс вызова инструментов. В карточке заявлены английский и китайский языки. Модель предназначена для агентного программирования: анализа репозиториев, планирования многошаговых изменений, исправления ошибок и работы с инструментами разработки. Среди преимуществ, заявленных авторами, — сочетание планирования с точечными изменениями кода и сохранение синтаксиса вызовов инструментов. Приведённые в README оценки производительности описаны как целевые или ориентировочные, а не как подтверждённые результаты этой модели. Лицензия — Apache-2.0.

Kosmos-2.5 — мультимодальная модель Microsoft для чтения изображений с большим количеством текста, например документов. Она использует авторегрессионный Transformer с общим декодером и предназначена для распознавания текста на уровне документа и преобразования изображения в структурированный Markdown. Модель может выдавать текстовые блоки с пространственными координатами или сохранять структуру и оформление документа в Markdown. Модель принимает изображения и текстовые инструкции и генерирует текст. Её можно адаптировать с помощью supervised fine-tuning для других задач понимания изображений с текстом. Для запуска используется библиотека Transformers версии 4.56 или новее. Модель распространяется по лицензии MIT. Результаты распознавания и преобразования могут содержать галлюцинации, поэтому точность извлечённого текста и Markdown не гарантируется.

Модель ivanlau/language-detection-fine-tuned-on-xlm-roberta-base — классификатор текста на основе XLM-RoBERTa, дообученный на наборе данных common_language для определения языка. Она принимает текст и выдаёт метку класса, соответствующую распознанному языку. В README указана точность 0,9738 на оценочном наборе данных; число параметров составляет 305,2 млн, контекст — до 514 токенов. Модель подходит для автоматической разметки языка коротких текстов и маршрутизации запросов в многоязычных системах. Репозиторий содержит веса PyTorch и распространяется по лицензии MIT. Точность на оценочном наборе не гарантирует такого же результата на текстах других типов и длины.

LettuceDetect v2 Qwen 2B — генеративная модель для поиска галлюцинаций в ответах RAG-систем и кодовых агентов. Её разработала KRLabsOrg на базе Qwen3.5-2B: модель дообучена методом LoRA с учителем, а адаптер объединён с базовыми весами в самостоятельную модель. Она принимает запрос пользователя, контекст-источник и проверяемый ответ, затем возвращает JSON с точными фрагментами ответа, которые не подтверждаются контекстом, и метками категории и подкатегории. Модель охватывает прозу, код и вывод инструментов; в обучении использовались данные на 14 языках. В README приведены результаты на объединённом тестовом наборе, RAGTruth и PsiloQA, включая оценку F1 на уровне фрагментов и примеров. Указана архитектура Qwen3.5 с гибридом Gated DeltaNet и attention; размер — 2 млрд параметров. Длина контекста не уточняется, модель описана как рассчитанная на длинный контекст. Модель предназначена для проверки обоснованности ответов, в том числе в контурах RAG и агентной генерации кода. Она возвращает текстовые фрагменты и их метки, но символьные смещения нужно восстановить сопоставлением фрагментов с исходным ответом. Для надёжного разбора результата README рекомендует задать строгую JSON-схему. Лицензия — Apache-2.0.

LiLT-SER-DE — модель для распознавания сущностей в документах, созданная дообучением nielsr/lilt-xlm-roberta-base на наборе данных XFUND. Она использует архитектуру LiLTForTokenClassification и учитывает текст вместе с его расположением на странице, что подходит для извлечения структурированных полей из документов. Модель содержит 305,2 млн параметров и поддерживает контекст до 514 токенов. В оценке на тестовой выборке XFUND показала F1 0,755, точность 0,7268, полноту 0,7854 и accuracy 0,7817. Репозиторий распространяется по лицензии MIT.

furiosa-ai публикует предварительно скомпилированную сборку Meta Llama 3.1 8B Instruct для запуска на ускорителе FuriosaAI RNGD с помощью Furiosa-LLM. Это плотный авторегрессионный трансформер с 7,5 млрд параметров, дообученный следовать инструкциям и поддерживать диалоги и вызов инструментов. Модель принимает и генерирует текст; заявленная длина контекста — 131 072 токена. Сборка использует исходную точность 16 бит без квантизации. Вызов функций поддерживается через парсер llama3_json, а модель доступна через OpenAI-совместимый сервер Furiosa-LLM. Карточка указывает совместимость с RNGD; запуск требует соответствующего оборудования и среды Furiosa-LLM. Модель распространяется по лицензии Llama 3.1 Community License. Метаданные карточки перечисляют английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки; перечень может не исчерпывать языковые возможности базовой модели.

Llama-3.1-Storm-8B — диалоговая языковая модель с 7,5 млрд параметров, разработанная Ashvini Kumar Jindal, Pawan Kumar Rajpoot, Ankur Parikh и Akshita Sukhlecha. Это плотная архитектура Llama, дообученная на базе Llama-3.1-8B-Instruct с выборочной настройкой слоёв и объединённая методом SLERP с Llama-Spark. В карточке описан чекпойнт в формате safetensors для запуска через Transformers и vLLM. Модель предназначена для диалога, следования инструкциям, ответов на вопросы, рассуждений и вызова функций. Авторы сообщают об улучшениях относительно Llama-3.1-8B-Instruct на ряде бенчмарков, включая IFEval, GPQA, MMLU-Pro, TruthfulQA и BFCL. Контекст — до 131 072 токенов; заявленный язык карточки — английский. Модель принимает текст и генерирует текст, включая ответы в сценариях вызова функций. Авторы отмечают, что отдельное выравнивание поведения не проводилось, поэтому унаследованные от базовой модели свойства выравнивания могут быть неполными. Лицензия — Llama 3.1; применяются её условия использования.

mlx-community/Llama-3.3-70B-Instruct-bf16 — конверсия модели Meta Llama 3.3 70B Instruct в формат MLX, выполненная сообществом mlx-community с помощью mlx-lm 0.20.1. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, предназначенная для диалогов, следования инструкциям и генерации текста; метаданные также указывают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст. Контекстное окно составляет до 131 072 токенов. Поддерживаемые языки включают английский, французский, итальянский, португальский, хинди, испанский, тайский и немецкий. Модель подходит для диалоговых ассистентов, генерации и преобразования текста, а также работы с длинными текстовыми контекстами. Репозиторий содержит веса в safetensors и предназначен для использования с MLX. Лицензия — Llama 3.3; условия Meta следует соблюдать при использовании и распространении модели. Для запуска требуется совместимая среда MLX, а модель такого размера предъявляет значительные требования к памяти и вычислительным ресурсам.

Merino-Pro — модель извлечения информации от baa.ai (Black Sheep AI), объединяющая в одном пакете биэнкодер для эмбеддингов и кросс-энкодер для переранжирования. Обе части основаны на xlm-roberta-large и совместно обучены с общей матрицей словесных эмбеддингов. Модель содержит около 872 млн параметров в fp16 и формирует 1024-мерные L2-нормализованные векторы; кросс-энкодер выдаёт оценку релевантности пары запроса и документа. Модель предназначена для поиска и ранжирования документов в retrieval- и RAG-системах. В README заявлена поддержка нескольких языков, но конкретные языки не перечислены. Для биэнкодера рекомендуется добавлять к запросам префикс «query: ». Разработчик сообщает о сертифицированной 4-битной квантизации без потери качества в описанном тесте с отвлекающими документами; рекомендует разбивать тексты на атомарные фрагменты и ставить ключевую сущность в начало. Для документов с несколькими разнородными фактами качество поиска может быть ниже; README советует использовать атомарное разбиение. Лицензия указана как other, конкретные условия в доступных данных не приведены.

unsloth/Meta-Llama-3.1-8B-Instruct — инструкционно настроенная плотная авторегрессионная языковая модель семейства Llama, опубликованная Unsloth на основе Meta-Llama-3.1-8B-Instruct. Она предназначена для диалогов, генерации текста и выполнения пользовательских инструкций; каталог также отмечает интерфейс вызова инструментов. В репозитории указаны 7,5 млрд параметров, формат safetensors и библиотека Transformers. Заявленная длина контекста — 131 072 токена. Модель подходит для создания чат-ботов, генерации и продолжения текста, а также приложений, использующих интерфейс вызова инструментов. В метаданных указан английский язык; README посвящён настройке Llama 3.1 и не сообщает результатов оценки качества именно этой версии. Лицензия — llama3.1; условия использования следует сверять с лицензией семейства Llama 3.1.

Карточка модели context-labs/meta-llama-Llama-3.2-3B-Instruct-FP16 на Hugging Face совпадает с карточкой meta-llama/Llama-3.2-3B-Instruct, поэтому описание составлено по ней. Meta разработала Llama 3.2 3B Instruct — мультиязычную авторегрессионную языковую модель на архитектуре Transformer для генерации текста. Версия Instruct дообучена с помощью контролируемой настройки и обучения с подкреплением на основе обратной связи от людей; модель оптимизирована для диалогов с ассистентом и задач, связанных с агентными приложениями. Модель подходит для ответов в чате, поиска сведений и суммаризации, а также для мобильных помощников по написанию текста и переформулированию запросов. Она принимает текст и генерирует текст, в том числе код. В карточке семейства указан контекст до 128 тысяч токенов, а среди официально поддерживаемых языков перечислены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель использует Grouped-Query Attention и рассчитана в том числе на запуск в средах с ограниченными ресурсами. По сравнению с более крупными моделями у компактных вариантов могут отличаться баланс безопасности и полезности; разработчикам следует проверять поведение модели в своём сценарии. Использование регулируется пользовательской коммерческой лицензией Llama 3.2 Community License и Acceptable Use Policy.