I.14Автоматизация процессов и AI-агенты

FuriosaAI публикует эту сборку Qwen3-VL-4B-Instruct с Furiosa Executable Bundle для запуска через Furiosa-LLM на ускорителях RNGD. Это плотная vision-language модель на 4 млрд параметров: кодировщик изображений сочетается с трансформерным декодером, а Interleaved-MRoPE и многоуровневое слияние признаков DeepStack поддерживают обработку изображений и видео. Веса хранятся в safetensors; README указывает, что дополнительная квантизация не применялась. Базовая модель — Qwen/Qwen3-VL-4B-Instruct. Модель принимает текст и изображения и формирует текстовые ответы. Она предназначена для диалога по изображениям, OCR, анализа документов и диаграмм, пространственных рассуждений и понимания видео; также поддерживает вызов инструментов через интерфейс функций. Для работы с Furiosa-LLM на RNGD используется параллелизм по тензорам на 8 вычислительных элементах одной карты. README также указывает совместимость с vLLM, SGLang и Transformers. Модель распространяется по лицензии Apache 2.0. Карточка описывает её как Instruct-вариант без режима thinking; качество ответов может зависеть от сложности изображения или видео и формулировки запроса.

unsloth/Qwen3-VL-8B-Thinking — версия весов Qwen3-VL-8B-Thinking, опубликованная Unsloth. Это плотная мультимодальная модель класса Qwen3VLForConditionalGeneration с режимом рассуждений Thinking; репозиторий содержит веса в формате safetensors и исправленный шаблон чата. Модель принимает текст и изображения и предназначена для ответов по визуальному содержимому, распознавания текста на изображениях, анализа видео и пространственных рассуждений. Среди сценариев применения — разбор документов и сцен, визуальные вопросы и ответы, понимание временных событий в видео, оценка взаимного расположения объектов и работа с интерфейсами через инструменты. В README заявлены контекст 256 тысяч токенов с возможностью расширения до 1 миллиона и OCR на 32 языках; эти характеристики относятся к описанию семейства Qwen3-VL. Указана лицензия Apache-2.0. Заявления о превосходстве по точности в карточке не сопровождаются результатами бенчмарков.

Qwopus3.8-27B-Flash-V2-bf16 — конверсия модели Jackrong/Qwopus3.8-27B-Flash-V2 в формат MLX BF16, подготовленная сообществом mlx-community для запуска на компьютерах Apple Silicon. Это мультимодальная модель семейства Qwen3.5 с архитектурой условной генерации; она принимает текст, изображения и видеоматериалы и поддерживает чат, работу с инструментами и генерацию кода. В конверсии сохранены шаблон чата и настройки мультимодального процессора исходной модели. Модель подходит для диалогов и задач с кодом, а также для вопросов по изображениям и видео. Для мультимодального запуска README рекомендует библиотеку mlx-vlm. Модель распространяется по лицензии Apache 2.0, унаследованной от исходной модели; подробности о назначении и ограничениях приведены в её исходной карточке.

Qwythos-9B-Claude-Mythos-5-1M-MXFP4-GGUF — это квантованная в формате GGUF MXFP4 версия модели empero-ai/Qwythos-9B-Claude-Mythos-5-1M, дообученной Empero AI на базе Qwen3.5-9B. Это мультимодальная модель с архитектурой Qwen3.5 и зрительным энкодером SigLIP ViT; основной файл использует 4-битный формат MXFP4, а для обработки изображений нужен отдельный файл mmproj в F16. Репозиторий распространяется под лицензией Apache-2.0. Модель предназначена для диалогов с рассуждениями, работы с изображениями, вызова инструментов и задач с длинным контекстом, включая анализ кода и документов. README заявляет контекст до 1 048 576 токенов, а также сильные стороны в математике, кибербезопасности и биомедицинских темах. Поддерживаются английский язык и интерфейс вызова инструментов в стиле OpenAI/Qwen3.5. Зрительная часть унаследована от базовой модели и не дообучалась; README также предупреждает, что модель может уверенно выдавать ошибочные идентификаторы CVE и дозировки лекарств. Для критически важных ответов нужны внешняя проверка и инструменты, а для пользовательских развёртываний README рекомендует добавить собственный слой безопасности. Ответы начинаются с блока рассуждений, поэтому требуется достаточный лимит генерации.

Карточка модели jamiefutch/Qwythos-9B-Claude-Mythos-5-1M-MXFP4-GGUF на Hugging Face совпадает с карточкой FreedomAISVR/Qwythos-9B-Claude-Mythos-5-1M-MXFP4-GGUF, поэтому описание составлено по ней. Qwythos-9B-Claude-Mythos-5-1M-MXFP4-GGUF — это квантованная в формате GGUF MXFP4 версия модели empero-ai/Qwythos-9B-Claude-Mythos-5-1M, дообученной Empero AI на базе Qwen3.5-9B. Это мультимодальная модель с архитектурой Qwen3.5 и зрительным энкодером SigLIP ViT; основной файл использует 4-битный формат MXFP4, а для обработки изображений нужен отдельный файл mmproj в F16. Репозиторий распространяется под лицензией Apache-2.0. Модель предназначена для диалогов с рассуждениями, работы с изображениями, вызова инструментов и задач с длинным контекстом, включая анализ кода и документов. README заявляет контекст до 1 048 576 токенов, а также сильные стороны в математике, кибербезопасности и биомедицинских темах. Поддерживаются английский язык и интерфейс вызова инструментов в стиле OpenAI/Qwen3.5. Зрительная часть унаследована от базовой модели и не дообучалась; README также предупреждает, что модель может уверенно выдавать ошибочные идентификаторы CVE и дозировки лекарств. Для критически важных ответов нужны внешняя проверка и инструменты, а для пользовательских развёртываний README рекомендует добавить собственный слой безопасности. Ответы начинаются с блока рассуждений, поэтому требуется достаточный лимит генерации.

Модель ibm-research/re2g-reranker-trex разработана IBM и предназначена для повторного ранжирования найденных текстовых фрагментов по запросу или вопросу. Она помогает отбирать наиболее релевантные материалы из результатов первичного поиска и объединять выдачу разных систем, например BM25 и нейронного ретривера, чьи исходные оценки напрямую несопоставимы. Модель представляет собой BERT для классификации последовательностей, содержит 136,7 млн параметров и обрабатывает до 512 токенов. В карточке указана поддержка английского языка и базовая модель BERT-base, обученная на MS MARCO. Репозиторий содержит веса PyTorch. Реранкер можно применять в поисковых системах и RAG-конвейерах перед передачей найденных фрагментов генеративной модели. Лицензия Apache 2.0 разрешает использование и модификацию на её условиях. Модель оценивает релевантность пар запроса и фрагмента, но сама не выполняет генерацию ответов и наследует ограничение контекста в 512 токенов.

Ring-flash-linear-2.0 — открытая языковая модель от InclusionAI, полученная дальнейшим обучением inclusionAI/Ling-flash-base-2.0 на дополнительном триллионе токенов. Она предназначена для диалога и генерации текста, включая задачи рассуждения, математики, программирования, науки и творческого письма; также поддерживает интерфейс вызова инструментов. Модель на 5,5 млрд параметров построена на разреженной MoE-архитектуре Bailing с гибридным вниманием: линейное внимание сочетается со стандартным, а для ускорения генерации используются MTP-слои. По данным разработчика, активируется 6,1 млрд параметров, заявлена производительность на уровне плотной модели 40B и контекст до 128 тысяч токенов. Метаданные указывают английский язык; в README заявлены высокая эффективность инференса и результаты на уровне сопоставимых моделей в выбранных тестах. Для запуска README приводит варианты на Transformers, SGLang и vLLM с дополнительными пакетами и версиями зависимостей. Модель распространяется по лицензии MIT. Заявления о скорости и качестве основаны на оценках разработчика; README не приводит в представленном тексте подробностей о наборах данных и ограничениях ответов.

Ring-mini-linear-2.0 — языковая модель компании inclusionAI для генерации текста и диалогов. Она построена на гибридной архитектуре, сочетающей линейное и стандартное внимание, и использует разреженную смесь экспертов (MoE). В репозитории указано 1,2 млрд параметров, а в карточке модели описана версия с 16,4 млрд параметров, из которых при генерации активируются 1,6 млрд; эти цифры расходятся, поэтому размер полной модели по доступным данным нельзя согласовать. Модель дообучена на основе inclusionAI/Ling-mini-base-2.0-20T на дополнительных 600 млрд токенов. Модель предназначена для генерации ответов в диалогах и решения сложных задач по математике, программированию и науке. Метаданные указывают поддержку интерфейса вызова инструментов. Для эффективной обработки длинного контекста заявлено окно до 512 тыс. токенов с расширением YaRN; метаданные указывают нативный контекст 131 072 токена. В карточке приведены англоязычные теги. Для запуска описана поддержка Transformers и SGLang, а также BF16 и FP8 в SGLang; инструкции по установке специальных зависимостей и сборок движков указывают на необходимость совместимой среды. Лицензия — MIT.

CultriX/SeQwence-14Bv3 — объединённая модель семейства Qwen2, созданная CultriX методом DARE TIES с помощью mergekit. В качестве основы использована CultriX/SeQwence-14Bv1, также в объединение вошли CultriX/SeQwence-14Bv2 и CultriX/Qwestion-14B. Модель предназначена для генерации текста и диалогового общения; метаданные также указывают интерфейс вызова инструментов. Она содержит 14 млрд параметров, использует архитектуру Qwen2ForCausalLM и поддерживает контекст до 131 072 токенов. В карточке приведены результаты оценки на Open LLM Leaderboard, включая IFEval и BBH. Модель принимает текст и генерирует текст. Языковая поддержка отдельно не перечислена. Репозиторий содержит веса в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

SLIM-EXTRACT-TINY — специализированная модель компании llmware для извлечения из текста элементов, соответствующих заданному пользователем ключу. Она принимает контекстный фрагмент и ключ, например «company», и генерирует словарь Python, где этому ключу соответствует список найденных значений. Модель предназначена для структурирования сведений из текстов и вызова функции extract через библиотеку llmware или Transformers. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, содержащая 1 млрд параметров. По README, она дообучена на базе TinyLlama 1B. Модель работает с текстом, использует контекст до 2048 токенов и распространяется в формате PyTorch под лицензией Apache-2.0. Модель подходит для извлечения заданных сущностей и фактов в структурированный вид. Она рассчитана на конкретный формат запроса и не заявлена как универсальный чат-бот; корректность вывода словаря и полноту извлечения следует проверять на целевых данных. README рекомендует для быстрого инференса отдельную квантованную версию.

StockSeaLLMs-7B-v1 — текстовая диалоговая модель на 7,1 млрд параметров, созданная слиянием моделей на базе SeaLLMs-v3-7B-Chat. В карточке указано слияние методом TIES; метаданные также связывают модель с SeaLLMs-v3-7B-Chat как с базовой моделью. Архитектура — плотная Qwen2ForCausalLM, веса представлены в safetensors, контекст — до 131 072 токенов. Модель предназначена для диалога и генерации текста по инструкциям; метаданные также отмечают интерфейс для вызова инструментов. Описание базовой модели указывает поддержку английского, китайского и языков Юго-Восточной Азии. Лицензия в предоставленных данных не указана.

Table Transformer (TATR) — модель Microsoft для распознавания структуры таблиц в документах, обученная на FinTabNet.c. Она основана на DETR и использует Transformer-архитектуру обнаружения объектов с нормализацией перед self-attention и cross-attention. Модель предназначена для поиска элементов таблиц на изображениях документов и может применяться в системах извлечения табличных данных. Модель содержит 6,3 млн параметров и опубликована в формате safetensors. Лицензия — MIT. Карточка не сообщает о распознавании текста внутри ячеек: модель обнаруживает структуру и объекты таблицы, а извлечение текста требует отдельного этапа обработки.

Table Transformer Structure Recognition v1.1 — модель Microsoft для распознавания структуры таблиц в документах. Она обучена на наборе PubTables1M и основана на DETR: Transformer-архитектура использует нормализацию перед слоями self-attention и cross-attention. Модель содержит 6,3 млн параметров и предназначена для обнаружения элементов структуры таблицы на изображении документа, например для последующего извлечения таблиц и их содержимого. Модель принимает изображения документов и выдаёт обнаруженные объекты и их расположение. Она распространяется в формате safetensors по лицензии MIT. README не приводит сведений о поддерживаемых языках или ограничениях качества.

deepdoctection/tatr_tab_struct_v2 — модель распознавания структуры таблиц на основе Microsoft Table Transformer, дообученная на наборах PubTables-1M и FinTabNet. Она находит элементы структуры таблиц на изображениях документов, например строки и ячейки, и предназначена для включения в конвейеры анализа документов, в том числе deepdoctection. Модель имеет архитектуру TableTransformerForObjectDetection, содержит 6,3 млн параметров и доступна в форматах PyTorch и Safetensors для библиотеки Transformers. README рекомендует настроить параметры сегментации при использовании в deepdoctection Analyzer для улучшения предсказаний. Лицензия в предоставленных данных не указана.

Tiel-Coder-35B-A3B-GGUF — локальная кодовая модель разработчика peculiar-ragdoll, созданная на базе Ornith-1.5-35B-A3B от Ornith AI. Это пере-квантованная версия с динамической квантизацией, собственной imatrix и встроенным шаблоном диалогов Sharp. Модель распространяется в формате GGUF для llama.cpp и использует MoE-архитектуру с 35 млрд параметров и примерно 3 млрд активных параметров на токен. Модель предназначена прежде всего для агентного программирования, исправления проблем в реальных кодовых базах и длительных многошаговых диалогов. В README заявлены поддержка английского и китайского языков, а также сценарии image-text-to-text и vision, однако подробности о возможностях обработки изображений не приведены. Контекст может использоваться в диапазоне до 131–262 тысяч токенов; при 16-битной точности KV-кэша для контекста 262k требуется менее 5 ГБ оперативной памяти. Сильные стороны модели — высокая скорость для своего класса, хорошая работа в многоходовых диалогах и агентном кодинге, а также возможность запуска с частичной выгрузкой на GPU. В заявленных тестах она исправила 12 из 25 задач SWE-bench-Live и получила 67,2 балла на Claw-Eval. Ограничения — заметно более слабые результаты в викторинах, знаниях и сложном рассуждении: на MMLU-Pro указано 73,7 балла. Качество и требования к памяти зависят от выбранного уровня квантизации; рекомендуемый benchmark-вариант Q4_K_XL занимает около 22,4 ГБ, а более компактные варианты могут существенно терять способности. Модель распространяется по лицензии MIT. Для запуска требуется совместимое ПО, например llama.cpp, и достаточно оперативной памяти и/или видеопамяти; README рекомендует использовать квантизацию не ниже UD-Q4, если это возможно.

Kaballas/TLetsgo — объединённая языковая модель, созданная разработчиком Kaballas с помощью mergekit и метода Model Stock на основе Qwen/Qwen2.5-7B. В объединение также вошли Kaballas/T36Model, Locutusque/StockQwen-2.5-7B и trollek/Qwen2.5-7B-CySecButler-v0.1. Модель имеет архитектуру Qwen2ForCausalLM, содержит 7,1 млрд параметров и принимает текст для генерации текста; поддерживает диалоговый режим и интерфейс вызова инструментов. Максимальная длина контекста — 131 072 токена. Модель предназначена для диалогов и генерации текста общего назначения. Веса опубликованы в формате safetensors, библиотека для работы — Transformers. Лицензия в предоставленных данных не указана.

Карточка модели MUFFDUNCAN/Unlimited-OCR-Universal на Hugging Face совпадает с карточкой sabafallah/Unlimited-OCR-Universal, поэтому описание составлено по ней. sabafallah/Unlimited-OCR-Universal — сообщественный форк модели Unlimited-OCR, первоначально разработанной Baidu. Веса модели не изменены: в репозитории адаптирован код запуска для NVIDIA CUDA, Apple Silicon с MPS и CPU. Модель основана на плотной архитектуре UnlimitedOCRForCausalLM и насчитывает 559,7 млн параметров; заявленная длина контекста — 32 768 токенов. Модель предназначена для распознавания текста и разбора длинных документов по изображениям, включая многостраничные документы и PDF. Она принимает изображения и выдаёт текст; в метаданных указана поддержка мультиязычных сценариев. Для запуска используются Transformers; путь SGLang в README доступен только на CUDA. Репозиторий распространяется по лицензии MIT. На MPS требуется вычисление в fp32, что увеличивает расход памяти; для ускоренного пути SGLang нужна CUDA.

Модель see-k/unsloth_finetune — дообученная see-k версия DeepSeek-OCR, обученная с использованием Unsloth и библиотеки TRL от Hugging Face. Это мультимодальная модель семейства DeepseekOCR с архитектурой DeepseekOCRForCausalLM и примерно 559,7 млн параметров. Она предназначена для работы с изображениями и текстом в сценариях распознавания текста и извлечения содержимого из изображений документов; также поддерживает диалоговый режим. Указанная длина контекста — 8192 токена. Репозиторий содержит веса в форматах safetensors и GGUF F16. Лицензия — Apache-2.0.

Salience-27B-R5-GGUF — это квантизированная версия мультимодальной модели Salience-27B-R5, разработанной vectionlabs и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель содержит около 28 млрд параметров и поддерживает обработку текста и изображений; для работы с изображениями требуется файл mmproj. Заявлена поддержка speculative decoding через MTP. Модель предназначена для задач рассуждения, эффективного пошагового анализа, программирования и software engineering, а также для агентских сценариев с использованием терминала и инструментов. В карточке указана поддержка английского языка и большой длины контекста, однако точный размер контекстного окна и подробности архитектуры не приведены. Основное преимущество — широкий выбор вариантов квантизации с разным балансом между качеством, размером и требованиями к памяти. Рекомендуемым универсальным вариантом назван Q4_K_M размером около 17,77 ГБ, а варианты Q5 и Q6 обеспечивают более высокое качество при больших требованиях к ресурсам. Более сильная квантизация экономит память, но может снижать качество ответов; точные результаты тестирования и измерения perplexity или KLD не указаны. Модель распространяется по лицензии Apache-2.0.

RyanBours представляет Candle-совместимую конверсию дообученной YOLOv11n для обнаружения текстовых областей. Модель принимает изображения размером 640 × 640 и находит на них объекты класса «text»; веса доступны в форматах Safetensors и ONNX для использования с Candle и ONNX Runtime. Модель предназначена для выделения областей с текстом на документах, снимках экрана и фотографиях, например перед передачей изображения в OCR. Это компактный детектор на архитектуре YOLOv11n, однако карточка не приводит численные показатели качества или подробности обучающего набора. Лицензия репозитория — Apache-2.0.

andreasmartin выпустил конверсию текстовой модели Apertus 1.5 8B в формате MLX с точностью FP16. Модель основана на andreasmartin/apertus-v1.5-8b-text и предназначена для генерации текста и диалогового взаимодействия; карточка базовой модели также указывает сценарии RAG, рассуждений и вызова инструментов. Архитектура — плотная причинная языковая модель ApertusForCausalLM с 10,3 млрд параметров и контекстом до 262 144 токенов. Модель рассчитана на многоязычное текстовое взаимодействие. Репозиторий распространяется по лицензии Apache-2.0. В README описана конверсия в MLX с помощью mlx-lm 0.31.2; метаданные указывают формат safetensors.

BAAI/bge-base-zh — плотная модель эмбеддингов семейства BGE, разработанная Beijing Academy of Artificial Intelligence (BAAI). Она кодирует китайский текст в векторы для семантического поиска, извлечения документов, кластеризации и классификации, а также для использования в векторных базах данных и системах дополненной генерации (RAG). Модель основана на BERT, содержит около 129,5 млн параметров и принимает текстовые последовательности длиной до 512 токенов. Модель предназначена для построения индекса документов и поиска по коротким запросам, включая поиск релевантных фрагментов для LLM. В README отмечено, что для запросов, ищущих длинные документы, может помочь инструкция к запросу; оценивать следует прежде всего относительный порядок оценок сходства. Для ранжирования уже найденных документов авторы рекомендуют отдельную модель BGE Reranker. Репозиторий содержит веса PyTorch и Safetensors. Лицензия — MIT. В карточке рекомендуется перейти на BAAI/bge-base-zh-v1.5: более новая версия улучшает распределение оценок сходства и качество поиска.

BGE-M3 — многоязычная модель представления текста семейства XLM-RoBERTa, разработанная BAAI. Она предназначена для поиска по текстам и поддерживает три режима представления: плотные эмбеддинги, разреженные лексические веса и многовекторные представления в стиле ColBERT. Модель можно применять для семантического и гибридного поиска, оценки сходства текстовых пар и извлечения документов в RAG-системах. Модель поддерживает более 100 языков и обрабатывает фрагменты от коротких предложений до документов длиной до 8192 токенов. Размерность плотных эмбеддингов — 1024; в репозитории доступны форматы PyTorch и ONNX. Для повышения точности поиска README рекомендует сочетать гибридное извлечение с отдельной моделью-реранкером. Репозиторий unsloth/bge-m3 содержит производную версию BAAI/bge-m3. Лицензия MIT допускает использование на её условиях. Это модель для поиска и векторизации текста, а не генеративная языковая модель; качество зависит от языка, данных и настройки поискового конвейера.

Chitrapathak-1 — мультиязычная OCR-модель от Krutrim AI Labs для распознавания текста на изображениях документов. Она использует мультимодальную архитектуру LLaVA-типа: визуальный энкодер CLIP ViT-L/14-336, двухслойный MLP-проектор и языковую модель Krutrim-1 7B. Модель преобразует документ в текст напрямую; для плотных страниц применяет разбиение изображения на фрагменты с учётом его пропорций и общий обзор страницы. Модель предназначена для транскрибирования печатных документов на хинди, санскрите, бенгальском, маратхи, тамильском, телугу, каннада, малаялам, пенджаби и ория. По карточке, обучение включало мультимодальное предварительное обучение проектора и последующую настройку на OCR-данных: визуальный энкодер оставался замороженным, а на втором этапе совместно обучались проектор и языковая модель. Модель представлена в формате safetensors; лицензия указана как other, поэтому условия использования следует уточнить в материалах проекта.

Citaman/command-r-20-layer — объединённая языковая модель семейства Cohere, созданная методом SLERP с помощью mergekit на основе Citaman/command-r-21-layer. В метаданных указаны 18,5 млрд параметров, архитектура CohereForCausalLM и формат safetensors; конфигурация объединения использует срезы слоёв исходной модели и тип bfloat16. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Контекст составляет 8192 токена. Карточка не указывает отдельные поддерживаемые языки или условия лицензии, поэтому их нельзя надёжно определить по имеющимся данным.

CortexLM выпустила Cortex-Mini-1-Preview — предварительную версию модели Qwen/Qwen3.8-27B, дополнительно обученную методом post-training. Это плотная причинная языковая модель с нативной обработкой изображений и видео, содержащая 27 млрд параметров. Репозиторий использует Transformers и формат Safetensors. Модель предназначена для диалогов, программирования, агентных сценариев и задач «изображение—текст», а также для исследований и дальнейшей адаптации. Она принимает текст, изображения и видео и генерирует текст. Унаследованный от базовой модели контекст составляет 262 144 токена; с YaRN он может расширяться до 1 000 000 токенов. В карточке указаны английский и китайский языки. Лицензия — Apache 2.0. Это preview-чекпойнт: веса, рецепт обучения, API, дополнительные элементы токенизатора и шаблон чата могут меняться. До замены базовой Qwen3.8-27B следует сравнить поведение, поскольку post-training может повлиять на стиль, отказы и использование инструментов. Настройки длинного контекста и обработки видео унаследованы от Qwen и отдельно не перенастраивались; публичные метрики качества не представлены.

Contextual AI разработала Contextual AI Reranker V2 Instruct Multilingual — инструкционную модель для повторного ранжирования текстовых документов. Она оценивает релевантность документов запросу и может учитывать дополнительные указания, например отдавать приоритет более свежим сведениям или разрешать противоречия между результатами поиска. Модель рассчитана на многоязычный поиск, ответы на вопросы по найденным материалам, поиск товаров и рекомендации. Она основана на плотной архитектуре Qwen3ForCausalLM, содержит 2 млрд параметров и принимает текстовые запросы, инструкции и документы. В метаданных указан контекст до 262 144 токенов; README заявляет поддержку контекстов до 32 000 токенов и более 100 языков. Модель возвращает оценки релевантности, где более высокий балл означает более подходящий документ. Лицензия CC BY-NC-SA 4.0 требует атрибуции и распространяет производные материалы на тех же условиях, а также ограничивает коммерческое использование.

Decision-2.0-Nox-4B — модель принятия решений семейства Decision 2.0, разработанная командой vLLM Semantic Router и дообученная на базе Qwen/Qwen3.5-4B-Base. Она принимает текст или JSON вместе с вопросами и одновременно выбирает один из вариантов, отвечает «да» или «нет» либо выставляет оценку. Для каждого ответа модель возвращает вероятность; вместо генерации обычного текста она выполняет классификацию за один проход. Модель содержит 4,21 млрд параметров и поддерживает контекст до 16 384 токенов. Модель подходит для маршрутизации запросов, выбора действий или вариантов, проверки условий и оценивания входных данных. В карточке сообщается о результатах на JevArena и сравнении с моделями того же размера, а также о медианной задержке 12,9 мс на один вопрос при работе на одном GPU; эти показатели зависят от условий оценки и оборудования. Репозиторий распространяется в формате Safetensors по лицензии Apache-2.0.

NVIDIA DeepSeek-R1-0528-NVFP4 — квантизованная FP4-версия языковой модели DeepSeek-R1-0528, разработанной DeepSeek и оптимизированной NVIDIA с помощью TensorRT Model Optimizer. Это авторегрессионная трансформерная модель семейства DeepSeek V3 с 37,6 млрд параметров; она принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Длина контекста — до 163 840 токенов. Модель предназначена для текстовой генерации, диалогов, рассуждений и развертывания через TensorRT-LLM. Квантизация весов и активаций линейных слоёв до FP4 сокращает требования к диску и памяти GPU примерно в 1,6 раза; заявлена совместимость с архитектурой NVIDIA Blackwell. Для развёртывания в README указана конфигурация с восемью GPU B200. README отмечает, что модель не принадлежит NVIDIA и создана на основе сторонней модели DeepSeek. Лицензия — MIT; заявлено коммерческое и некоммерческое использование. Модель может выдавать неточные, нерелевантные или повторяющиеся ответы и воспроизводить токсичный язык и предвзятости из обучающих данных.

DeepSeek-R1-0528-Qwen3-8B — плотная языковая модель семейства Qwen3, разработанная DeepSeek. Это версия Qwen3 8B, дообученная на цепочках рассуждений DeepSeek-R1-0528; число параметров составляет 7,6 млрд. Модель предназначена для диалогов и генерации текста с акцентом на многошаговые рассуждения, математику, программирование и логические задачи. В метаданных указаны интерфейс для вызова инструментов и контекст до 131 072 токенов. По описанию разработчика, модель улучшает результаты Qwen3 8B на AIME 2024 и сопоставима с Qwen3-235B-thinking в этой оценке. README также отмечает пригодность для академических исследований рассуждающих моделей и разработки компактных моделей. Модель принимает и генерирует текст; сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют. Лицензия — MIT, допускающая широкое использование в соответствии с её условиями.