I.14Автоматизация процессов и AI-агенты

danish-lm-400m-icl-v3 — плотная причинная языковая модель семейства Llama, разработанная Jens Jepsen и дообученная на датском наборе примеров для обучения в контексте. Модель содержит 414,7 млн параметров, принимает текст и поддерживает контекст до 8 048 токенов. Её задача — по нескольким примерам, помещённым в один ход пользователя, вывести схему и формат ответа и применить их к новому тексту без отдельной инструкции. Модель подходит для извлечения структурированных данных из датских текстов, когда примеры показывают требуемые поля и способ их записи. В оценках она заметно превзошла базовую модель на знакомых схемах, а также справлялась с частью ранее не встречавшихся схем и задачей распознавания сущностей. Модель обучалась только на примерах такого обучения в контексте; качество на общих задачах в ходе обучения снизилось, а перенос на новые форматы ограничен и зависит от сходства разделителей. Для устойчивой работы примеры следует помещать в один ход пользователя, а новые форматы включать в обучение. Лицензия — Apache-2.0.

Это модель классификации текста на базе DistilBERT, дообученная автором репозитория srmjfba. Она предназначена для отнесения текстовых последовательностей к классам; README сообщает точность 0,9184 и loss 0,8018 на тестовой выборке, но не раскрывает набор классов или датасет. Модель использует архитектуру DistilBertForSequenceClassification, сохранена в формате safetensors и принимает текст с контекстом до 512 токенов. Базовая модель — distilbert/distilbert-base-uncased. Подходит для классификации пользовательских запросов и других коротких текстов в приложениях на базе Transformers. Английское uncased-основание не различает регистр. Лицензия — Apache-2.0.

GA Guard Lite — дообученная GeneralAnalysis компактная причинная языковая модель для модерации текстов и проверки запросов к языковым моделям. Она классифицирует содержимое по семи категориям риска: незаконная деятельность, ненависть и оскорбления, персональные данные и интеллектуальная собственность, атаки на промпты, сексуальный контент, дезинформация, насилие и самоповреждение. Результаты выдаются в виде специальных структурированных токенов для каждой категории. Модель принимает текст и предназначена для включения в конвейеры модерации, проверки пользовательских запросов и выявления jailbreak- и prompt-injection-атак, в том числе в длинных контекстах. По README это полное дообучение причинной языковой модели; в карточке указаны 0,6 млрд параметров и контекст до 262 144 токенов. Для сохранения результатов требуется декодировать вывод без пропуска специальных токенов. README приводит результаты на публичных наборах для модерации, длинного контекста и устойчивости к jailbreak-атакам; это оценки разработчика, и они не гарантируют качество на других данных. Модель дообучена на Qwen/Qwen3-4B-Instruct-2507; метаданные указывают формат safetensors и поддержку английского. Лицензия GA Guard Lite — CC BY-NC 4.0: некоммерческое использование разрешено, для коммерческого или производственного развертывания требуется отдельная лицензия.

Это версия Grounding DINO Base, подготовленная zeromodels как реализация на Keras 3 и преобразованная из IDEA-Research/grounding-dino-base. Модель обнаруживает объекты на изображениях по свободным текстовым запросам: она не ограничена заранее заданным набором классов и может искать категории, отсутствовавшие в обучающей выборке детектора. Архитектура сочетает визуальный энкодер Swin-Base и текстовый энкодер BERT; модуль деформируемого объединения признаков связывает изображение с текстом, а декодер предсказывает рамки объектов и оценки соответствия словам запроса. Модель предназначена для локализации названных пользователем объектов на изображениях, в том числе для поиска новых категорий без примеров разметки. Реализация Keras 3 работает с TensorFlow, PyTorch и JAX. Для чистых результатов можно повышать порог оценки; при запуске на Torch README предупреждает о возможном большом расходе памяти из-за графа autograd и рекомендует отключать его для инференса. Лицензия — Apache 2.0.

Huihui-Qwen3.5-27B-abliterated — мультимодальная плотная модель на 27 млрд параметров, созданная huihui-ai на основе Qwen/Qwen3.5-27B методом abliteration, направленным на снижение числа отказов. Это экспериментальная версия с упрощённой реализацией метода, предназначенная для диалогов и анализа изображений; метаданные также указывают поддержку интерфейса вызова инструментов. Модель принимает текст и изображения и генерирует текст. Модель подходит для диалоговых сценариев, ответов на запросы по изображениям и задач с использованием инструментов. В README указано, что защитные фильтры существенно ослаблены, поэтому возможны чувствительные, спорные или неподходящие ответы и результаты требуют проверки. Репозиторий распространяется по лицензии Apache-2.0.

JevK5-9B v0.3.3 — это открытая модель весом 7,2 млрд параметров, разработанная авторами JevK5 как независимая альтернатива Jev для принятия типизированных решений. Она дообучена на Qwen/Qwen3.5-9B: LoRA-адаптер ранга 16 для проекций внимания объединён с базовыми весами. Для работы с вероятностями вариантов используется протокол SemIf: модель оценивает все варианты за один проход без генерации токенов. Поддерживаются вопросы да/нет, выбор из вариантов и числовая оценка; для вопросов более чем с 16 вариантами применяются несколько проходов. Модель предназначена для классификации состояний и запросов по заданным критериям, маршрутизации обращений, оценки решений и других задач, где нужно получить вероятности по заранее заданным вариантам. В README сообщается о результатах проверок на отложенных наборах, включая тесты с вопросами из областей, не встречавшихся при обучении; качество и калибровка различаются между наборами, а сложная категория JevBench калибруется хуже, чем у версии на 4 млрд параметров. Для инференса авторы рекомендуют JevK5 runtime; для bf16 требуется CUDA GPU примерно с 19 ГБ памяти. Лицензия — Apache-2.0.

JiRackUltra_1b-i1-GGUF — это набор GGUF-квантизаций модели CMSManhattan/JiRackUltra_1b, подготовленный и опубликованный mradermacher. Модель предназначена для генерации текста и локального запуска на CPU и устройствах с ограниченной памятью; заявленные сценарии включают веб-интерфейсы, маршрутизацию запросов, вызов инструментов и робототехнику. Модель относится к компактному классу примерно на 1 млрд параметров и связана с архитектурами Qwen2.5 и DeepSeek; в метаданных также указаны ternary/BitNet и эффективное 1.58-bit представление. Доступны многочисленные варианты квантизации с размерами примерно от 0,6 до 1,6 ГБ, включая IQ- и Q-варианты, а также imatrix-файл для создания собственных квантизаций. Заявлена поддержка английского, китайского, японского, корейского, французского, испанского, португальского, немецкого, итальянского, русского, арабского, вьетнамского и тайского языков. Мультимодальность и размер контекста в README не указаны. Сильные стороны модели — малый размер, низкие требования к памяти и возможность выбора компромисса между скоростью, размером и качеством. Ограничения зависят от варианта квантизации: наиболее компактные варианты могут заметно снижать качество, а IQ-квантизации часто рекомендуются вместо сопоставимых Q-вариантов. Лицензия — MIT.

FrameByFrame разработала модель для обнаружения персональных данных в корейском тексте. Это дообученная для токенной классификации версия multilingual-e5-base на основе двунаправленного энкодера XLM-RoBERTa с 305,2 млн параметров и контекстом до 514 токенов. Модель размечает девять категорий PII, включая имена, адреса, телефоны, электронную почту, URL, IP-адреса и номера счетов; выдаёт метки BIOES, которые можно преобразовать в символьные диапазоны для последующего удаления или маскировки данных. Модель предназначена для поиска корейских персональных данных в разговорной речи, новостях и документах. В README приведены результаты F1 0,943 на тесте KDPII, 0,866 на новостях KLUE-NER и 0,995 на тестовых документах из страховой и государственной сфер; последний результат может завышать переносимость на реальные данные. Указанные языки — корейский и английский, однако специализация модели — корейский текст. Лицензия — MIT.

Llama-3.2-3B-Fluxed — дообученная VincentGOURBIN языковая модель для генерации текста и диалогового взаимодействия. Она основана на unsloth/llama-3.2-3b-instruct-bnb-4bit, использует плотную архитектуру LlamaForCausalLM и содержит 3,2 млрд параметров. В карточке указаны поддержка контекста до 131 072 токенов, формат safetensors и применение Unsloth и TRL при обучении. Модель подходит для генерации ответов в чате и других задач продолжения текста на английском языке. Метаданные также указывают интерфейс вызова инструментов. Модель распространяется по лицензии Apache-2.0. README не уточняет специализацию дообучения или результаты оценки качества, поэтому пригодность для конкретных задач следует проверять на собственных примерах.

Это дообученная версия KKHYA/llavaqwen3-1.7b-finetune с архитектурой AdapterMoELLaVAQwen3ForCausalLM и 1,7 млрд параметров. Модель рассчитана на генерацию текста и диалоговое взаимодействие; метаданные также указывают интерфейс вызова инструментов. Для запуска используются Transformers и веса в формате Safetensors или PyTorch, а длина контекста составляет 40 960 токенов. Модель основана на Qwen3 и опубликована под лицензией Apache-2.0. Датасет дообучения, подробные сценарии применения и результаты оценки в карточке не описаны. Поэтому качество и пригодность для конкретных задач следует проверять отдельно.

ricdomolm/mini-coder-1.7b — компактная плотная причинно-языковая модель на 1,7 млрд параметров, дообученная и дистиллированная на основе Qwen3 Coder 30B A3B для решения задач программной инженерии. Она обучена на 400 тысячах траекторий, сформированных с использованием mini-swe-agent и датасета SWE-smith с задачами из GitHub. Модель предназначена для работы в агентном цикле разработки, в частности для генерации траекторий SWE-bench и исправления ошибок в коде; для запуска автор рекомендует mini-swe-agent и vLLM. В метаданных указаны архитектура Qwen3ForCausalLM, библиотека Transformers и контекст 40 960 токенов. README сообщает об одном сравнении на SWE-bench Verified Bash, но не приводит его результат в видимой части карточки, поэтому по этим данным нельзя оценить заявленную эффективность. Модель распространяется по лицензии MIT.

Jeevesh8/multiberts_seed_2_ft_2 — модель на базе BERT, дообученная для классификации текста. Она использует архитектуру MultiBERTs с примерно 136,7 млн параметров и поддерживает контекст до 512 токенов. Базовое семейство MultiBERTs разработано Google как набор воспроизведений BERT-base uncased для исследований устойчивости моделей; найденные материалы описывают английскую языковую модель, предварительно обученную с задачами masked language modeling и next sentence prediction. Модель предназначена для применения через Transformers и связана с JAX и text-embeddings-inference. Конкретный набор меток и датасет дообучения для этого репозитория не подтверждены, поэтому область классификации следует определить по конфигурации модели или документации проекта. Сведения о лицензии для данного репозитория надёжно не установлены.

Модель nutrition-extractor разработана Open Food Facts в рамках проекта Nutrisight и дообучена на microsoft/layoutlmv3-large на наборе openfoodfacts/nutrient-detection-layout. Она извлекает значения питательных веществ из фотографий таблиц пищевой ценности на упаковках продуктов; на тестовом наборе указаны F1 0,9596, точность 0,9917, полнота 0,9647 и loss 0,0534. Это мультимодальный LayoutLMv3ForTokenClassification на 454,1 млн параметров с контекстом 514 токенов. На вход подаются изображение, OCR-токены и их двумерные координаты; README сообщает, что OCR-данные при обучении получали через Google Cloud Vision. Доступны файлы Safetensors и экспорт ONNX. Модель предназначена для изображений продуктов с таблицей пищевой ценности, поэтому её результаты зависят от качества изображения, OCR и координат токенов. Лицензия — CC BY-NC-SA 4.0.

Helsinki-NLP/opus-mt-fr-bg — модель машинного перевода из семейства OPUS-MT, созданная Helsinki-NLP на архитектуре Transformer и реализованная в библиотеке Marian. Она переводит текст с французского языка на болгарский; модель обучена для этой языковой пары, а не для многоязычного перевода. Используются нормализация текста и токенизация SentencePiece с словарями размером 32 тыс. токенов. Модель содержит 56,6 млн параметров, поддерживает контекст до 512 токенов и доступна в форматах PyTorch и TensorFlow. Модель подходит для перевода отдельных фраз и текстов, в том числе для автоматизированных рабочих процессов перевода. В карточке приведён результат BLEU 46,3 на тестовом наборе Tatoeba-test.fra.bul; этот показатель относится к указанному набору и не гарантирует такое же качество на других типах текстов. Лицензия — Apache-2.0.

zeromodels/owlv2-large-patch14 — конверсия OWLv2-large-patch14 от Google в Keras 3, подготовленная проектом zeromodels. Модель выполняет обнаружение объектов с открытым словарём: принимает изображение и свободные текстовые запросы о том, какие объекты нужно найти, и возвращает найденные объекты с оценками и координатами. Архитектура сохраняет двухбашенную основу OWL-ViT, использует детекторную голову для патчей изображения и дополнительную голову оценки объектности. Модель масштабирована с помощью самообучения на парах изображение—текст из веба. Репозиторий содержит конверсию в формате TensorFlow; реализация Keras 3 также заявлена как работающая с TensorFlow, Torch и JAX. Для обработки изображений важно учитывать дополнение изображения до квадрата перед изменением размера и передавать исходные размеры при постобработке. Порог обнаружения для открытого словаря может быть ниже, чем у детекторов с фиксированными классами. Лицензия — Apache 2.0.

Ishannaik/pixafind-minilm-tuned — англоязычная дообученная модель на базе all-MiniLM-L6-v2 для семантического поиска по личным документам: налоговым формам, письмам о пособиях, страховым и финансовым бумагам. Модель использует плотный BERT-энкодер и создаёт векторы предложений; её можно применять для поиска документов по запросам, сформулированным своими словами, и сравнения текстов. Контекст составляет 512 токенов, размер — 25,9 млн параметров. Дообучение проводилось на синтетических запросах к фрагментам общедоступных документов правительства США, без использования пользовательских данных. В описанной проверке модель повысила точность поиска относительно исходной all-MiniLM-L6-v2 на наборе перефразированных запросов; для корпуса технических заметок разработчиков качество осталось на прежнем уровне. Репозиторий содержит веса Safetensors и экспорты ONNX, включая динамически квантованный вариант. Модель распространяется по лицензии Apache-2.0.

Prometheus-13B-v1.0 — языковая модель для детальной оценки ответов больших языковых моделей, разработанная авторами проекта Prometheus. Она основана на Llama-2-Chat и дообучена на 100 тысячах примеров обратной связи из Feedback Collection. Модель принимает инструкцию, оцениваемый ответ, рубрику с критериями и эталонный ответ, после чего генерирует текстовую обратную связь и оценку по заданной шкале. Модель предназначена для автоматизированной оценки длинных ответов по настраиваемым критериям, например читабельности для детей, культурной чувствительности и креативности. Её также можно использовать как reward model в RLHF. Архитектура — плотная LlamaForCausalLM на 12,9 млрд параметров; модель работает с английским языком, контекст составляет 4096 токенов. Для ожидаемого поведения README рекомендует применять шаблон диалога Llama-2-Chat. Лицензия — Apache-2.0.

PromptCap — модель генерации подписей к изображениям, представленная авторами статьи PromptCap: Prompt-Guided Task-Aware Image Captioning, принятой на ICCV 2023. Модель построена на архитектуре OFA и содержит 262,2 млн параметров. Она принимает изображение и текстовую инструкцию, которая может задавать вопрос пользователя или просить общее описание сцены, и генерирует подпись, ориентированную на запрос. Также поддерживается использование OCR-входов. Модель предназначена для генерации подписей и как визуальный компонент в системах визуальных вопросов и ответов: её подпись можно передать отдельной языковой модели, например GPT-3 или UnifiedQA, для подготовки ответа. В README заявлены 150 CIDEr на COCO и высокие результаты на OK-VQA и A-OKVQA при совместном использовании с GPT-3. Репозиторий содержит веса PyTorch; лицензия — OpenRAIL.

QUEST-4B — плотная языковая модель семейства Qwen3.5, разработанная OSU NLP. Это версия с supervised fine-tuning (SFT), предназначенная для общих задач глубокого исследования и работы в режиме диалога. В карточке приведены результаты на BrowseComp, Mind2Web 2 и HLE; для оценки задач с открытым ответом авторы рекомендуют RL-версии семейства, а для задач с объективной оценкой — MT+SFT-версии. Модель запускается через Transformers и распространяется в формате Safetensors по лицензии Apache-2.0. Архитектура указана как Qwen3_5ForConditionalGeneration; заявленная ёмкость — 4B параметров. Карточка не описывает отдельный визуальный сценарий, поэтому тег image-text-to-text в метаданных не принимается здесь за подтверждение поддержки изображений.

violetxi выпустила дообученную полноразмерную модель Qwen3.5-9B для генерации текста и диалоговых агентных сценариев. Она обучена на заметках и траекториях, обусловленных заметками: около 70% обучающих токенов приходилось на заметки, 30% — на ответы ассистента в траекториях. Опубликован финальный чекпойнт после двух эпох и 6 134 обновлений; обучение проводилось без KL-регуляризации. Модель использует плотную архитектуру Qwen3.5 и загружается через Transformers. Базовая Qwen3.5-9B мультимодальна, однако в этой карточке заявлена задача генерации текста; данных о языках, кроме английского, нет. Длина упаковки обучающих последовательностей составляла 16 384 токена, но это не подтверждает нативное окно контекста модели. Модель предназначена для диалоговой генерации и агентных задач по протоколу работы с файлами, включая поиск и чтение заметок. В исторической оценке доля попыток, прошедших все критерии, составила 5% при бюджете в 5 ходов и 8% при бюджете в 20 ходов на 250 задачах с четырьмя образцами на задачу; результаты следует считать ограниченными историческим протоколом, без нового бенчмарка для публикации. Доступна по лицензии Apache-2.0.

Solstice-AI публикует MXFP4-квантизованную и упакованную версию мультимодальной модели Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored, исходную модель и слияние GAIN создал DavidAU. Это плотная модель семейства Qwen3.5 с архитектурой Qwen3_5ForConditionalGeneration, предназначенная для диалога и обработки изображений; метаданные указывают поддержку английского и китайского языков, чата и интерфейса вызова инструментов. Весовая версия использует формат OCP Microscaling FP4 (MXFP4) с динамическим групповым масштабированием и `compressed-tensors`. Она ориентирована на высокую пропускную способность при инференсе на современных ускорителях; в README приведён пример запуска через vLLM с ограничением контекста 262144 токена. Репозиторий также содержит GGUF BF16 и safetensors форматы. Лицензия — Apache-2.0. Квантизация может влиять на точность по сравнению с исходной моделью; README не приводит результатов сравнительных оценок. Карточка заявляет uncensored-версию, поэтому ответы могут не иметь обычных ограничений содержания.

Это модель reader из семейства ReLiK, опубликованная организацией relik-ie и основанная на DeBERTa-v3-large. Она предназначена для извлечения отношений между сущностями в тексте с использованием кандидатов, подготовленных отдельным этапом поиска; модель анализирует текст и кандидаты и помогает формировать пары сущностей и типы отношений. В карточке Hugging Face указано около 0,4 млрд параметров, архитектура RelikReaderREModel и формат Safetensors. Репозиторий разработчиков описывает ReLiK как систему извлечения информации для связывания сущностей и извлечения отношений, где reader извлекает сущности и отношения из найденных материалов. Для запуска указаны Transformers и пользовательский код модели. Карточка не сообщает языки обучения и длину контекста; суффикс wikipedia указывает на вариант, связанный с Wikipedia, но сам по себе не устанавливает языковой охват. ПО и данные проекта ReLiK распространяются по лицензии CC BY-NC-SA 4.0, поэтому для коммерческого использования следует учитывать её условия.

Xenova/sponsorblock-classifier-v2 — модель классификации текста на базе архитектуры BERT с 136,7 млн параметров и максимальной длиной входного контекста 512 токенов. Модель опубликована в пространстве Xenova; разработчик и условия лицензирования в доступных данных не указаны. Модель предназначена для классификации фрагментов расшифровок видео по категориям, связанным с SponsorBlock: рекламная интеграция, неоплачиваемая самореклама, напоминание о взаимодействии с каналом и извлечение текста из видео. Она может использоваться в системах автоматической обработки субтитров и транскрипций для поиска и разметки таких сегментов. Сильная сторона модели — специализация на типичных сегментах видеоконтента и поддержка текстовой классификации через стандартный pipeline Hugging Face. Доступные данные не содержат сведений о поддерживаемых языках, качестве на отдельных наборах данных, полном наборе классов и лицензии; поэтому перед использованием в производстве необходима проверка на целевых данных.

Карточка модели yifeihu/TF-ID-base на Hugging Face совпадает с карточкой yifeihu/TF-ID-large, поэтому описание составлено по ней. TF-ID-large — модель компьютерного зрения, разработанная Yifei Hu для поиска таблиц и рисунков на страницах научных статей. Это версия семейства TF-ID с 0,77 млрд параметров, дообученная на контрольных точках Microsoft Florence-2. На вход подаётся изображение одной страницы статьи; модель возвращает рамки объектов и их метки, включая подписи к таблицам и рисункам. Модель предназначена для извлечения структурных элементов научных публикаций и подготовки страниц к дальнейшему разбору или индексации. В проверке на 258 страницах статей вне обучающей выборки корректный результат получен для 253 страниц (98,06%); при этом возможны лишние или дробящие один объект рамки. Репозиторий содержит веса PyTorch в формате Safetensors. Лицензия — MIT.

TF-ID-large — модель компьютерного зрения, разработанная Yifei Hu для поиска таблиц и рисунков на страницах научных статей. Это версия семейства TF-ID с 0,77 млрд параметров, дообученная на контрольных точках Microsoft Florence-2. На вход подаётся изображение одной страницы статьи; модель возвращает рамки объектов и их метки, включая подписи к таблицам и рисункам. Модель предназначена для извлечения структурных элементов научных публикаций и подготовки страниц к дальнейшему разбору или индексации. В проверке на 258 страницах статей вне обучающей выборки корректный результат получен для 253 страниц (98,06%); при этом возможны лишние или дробящие один объект рамки. Репозиторий содержит веса PyTorch в формате Safetensors. Лицензия — MIT.

VinaLlama2-14B Beta — разговорная языковая модель от vilm для генерации текста. В метаданных указаны архитектура Qwen2, 13,4 млрд параметров, контекст до 32 768 токенов и поддержка чата. Модель предназначена для рассуждений, математики и творческого письма, а также может использоваться с LangChain Agent. Модель ориентирована на вьетнамский язык. По README, для запуска требуется около 20 ГБ видеопамяти; репозиторий содержит веса Safetensors, а ссылка на GGUF ведёт к отдельной версии. Лицензия — MIT.

Axya_dv — дообученная модель для генерации текста, разработанная axmeeabdhullo на базе meta-llama/Llama-3.2-1B-Instruct с использованием библиотеки TRL. Она предназначена для диалогов и генерации ответов в формате чата; метаданные также указывают интерфейс для вызова инструментов. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 1,2 млрд параметров. Заявленная длина контекста — 131 072 токена. В карточке указан английский язык. Модель распространяется под лицензией Apache-2.0.

CIDAS/clipseg-rd16 — модель CLIPSeg с уменьшенной размерностью 16, представленная в работе «Image Segmentation Using Text and Image Prompts» Лүддеке и соавторов. Она предназначена для сегментации изображений по текстовым или визуальным подсказкам в режимах zero-shot и one-shot. Модель выделяет на изображении области, соответствующие запросу, и подходит для сценариев, где нужно задавать целевой объект без отдельного обучения на каждом классе. Модель решает задачу сегментации изображений и доступна в форматах PyTorch и Safetensors для Transformers. Лицензия — Apache-2.0. В карточке не заявлены специальные прикладные области или конкретные языки.

CodeParrot-Multi (small) — авторегрессионная языковая модель семейства GPT-2, разработанная для генерации программного кода. Модель содержит 110 млн параметров и обучена на очищенной от близких дубликатов подвыборке GitHub-кода. Для обучения использовались контекст длиной 1024 токена и около 58 млрд токенов данных. Модель предназначена для продолжения фрагментов кода и генерации кода на Java, JavaScript, PHP, Python, C#, C++, Go, Ruby и TypeScript. Её можно использовать через библиотеку Transformers. Карточка сообщает об оценке на HumanEval, но не приводит значения pass@k, поэтому качество решения задач по этим данным оценить нельзя. Лицензия — Apache-2.0.

Cosmos-Reason2-2B-W4A16-Edge2 — оптимизированная Embedl версия мультимодальной модели NVIDIA Cosmos-Reason2-2B. Она принимает текст и изображения или видео и генерирует текст; предназначена для рассуждений по визуальным данным, диалогового взаимодействия, видеоаналитики и планирования, в том числе на периферийных устройствах NVIDIA, таких как Jetson Orin Nano Super. Веса квантованы до INT4, активации и отдельные чувствительные слои сохранены в FP16. По заявлению README, смешанная точность почти не снижает точность и сохраняет двукратное ускорение; для некоторых периферийных конфигураций могут потребоваться пропатченная сборка vLLM и оптимизации Embedl. Лицензия указана как Apache 2.0, при этом оптимизированные компоненты распространяются по Embedl Models Community Licence v1.0 без права перераспространения.