I.2Синтез, понимание и проверка знаний

jina-embeddings-v5-omni-nano-clustering — мультимодальная модель эмбеддингов от Jina AI, вариант семейства jina-embeddings-v5-omni-nano, настроенный для кластеризации. Она принимает текст, изображения, видео и аудио и преобразует их в векторы общего пространства, совместимого с текстовой моделью jinaai/jina-embeddings-v5-text-nano-clustering. Размер модели — около 0,95 млрд параметров, размерность эмбеддинга — 768. Для текстовых документов требуется префикс «Document: ». Видео представляется кадрами; звуковая дорожка видео автоматически не обрабатывается, её нужно передавать отдельно. Модель подходит для мультимодальной кластеризации и построения индексов, где документы на текстовом языке можно искать по запросам в виде изображений, видео или аудио без повторной индексации. Также эмбеддинги можно использовать для поиска и сопоставления мультимодальных данных. Модель доступна в формате safetensors и предназначена для запуска через Transformers, sentence-transformers или vLLM. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но не коммерческое применение.

jina-embeddings-v5-text-nano-retrieval — компактная текстовая embedding-модель компании Jina AI, предназначенная для задач информационного поиска. Она преобразует запросы и документы в векторные представления для семантического поиска, сопоставления релевантности и построения retrieval-систем. Модель поддерживает мультиязычные тексты и входит в семейство jina-embeddings-v5-text, созданное с применением дистилляции и task-specific contrastive losses. Модель содержит 239 млн параметров, поддерживает последовательности длиной до 8192 токенов и формирует embeddings размерностью 768. Используется last-token pooling; предусмотрены Matryoshka-размерности 32, 64, 128, 256, 512 и 768, что позволяет выбирать компромисс между качеством, размером индекса и скоростью обработки. Модель ориентирована именно на retrieval, поэтому её применение для других задач в README не заявлено. К сильным сторонам относятся компактность, заявленная высокая производительность среди моделей сопоставимого размера, мультиязычность и возможность гибко уменьшать размер embeddings. Для использования требуются совместимые версии transformers, PyTorch и других библиотек; поддерживаются sentence-transformers, vLLM, Elastic Inference Service и специальная ветка llama.cpp. Модель распространяется по лицензии CC BY-NC 4.0, предусматривающей некоммерческое использование.

Это пакет Mesh LLM с весами Kimi-K2.7-Code в формате GGUF, подготовленный для распределённого инференса. Он разбивает исходный GGUF на артефакты по слоям, чтобы запускать модель на локальном кластере из нескольких машин; пакет рассчитан на локальную приватную работу и совместим с чат-интерфейсом Mesh LLM и API формата OpenAI. Модель принимает текстовые запросы и выдаёт текстовые ответы в режиме чата. Репозиторий указывает исходную модель unsloth/Kimi-K2.7-Code-GGUF и вариант квантования UD-Q4_K_XL; архитектурные подробности, размеры, языки и длина контекста в предоставленных данных не описаны. Для лицензии и рекомендаций по использованию README отсылает к карточке исходной модели, поэтому условия лицензии этого пакета по имеющимся сведениям определить нельзя.

robro612/modernbert_xtr_contrastive_k512 — англоязычная модель для поиска и ранжирования текстов, созданная дообучением answerdotai/ModernBERT-base командой или автором robro612 с помощью PyLate на наборе msmarco-10m-triplets. Архитектура ColBERT включает ModernBERT и линейный слой, преобразующий представления размерности 768 в последовательности 128-мерных векторов. Модель сопоставляет запросы и документы оператором MaxSim; в README указаны пределы в 32 токена для запроса и 512 токенов для документа, а метаданные указывают контекст до 8192 токенов. Модель предназначена для семантического поиска по коллекциям документов и повторного ранжирования результатов первичного поиска. Её можно применять для построения поискового индекса через PyLate и FastPLAID, поиска релевантных документов по запросу и ранжирования готовых пар запрос–документ. Обучение проводилось на англоязычных примерах MS MARCO; в README также приведены результаты оценки на наборах Nano BEIR и других коллекциях. Модель принимает текст запросов и документов и выдаёт векторные представления, используемые для расчёта релевантности. Репозиторий содержит веса Safetensors; для работы описан PyLate. Лицензия в предоставленных данных не указана.

NuExtract 2.0 4B — мультимодальная модель для извлечения структурированных данных, разработанная NuMind и дообученная на базе Qwen2.5-VL-3B-Instruct. Она принимает текст и изображения, а запрос задаётся JSON-шаблоном с названиями полей и типами ожидаемых значений: строки, числа, даты, перечисления и массивы. Если нужные сведения не найдены, модель может вернуть null или пустой массив. Модель подходит для извлечения фактов из документов и изображений, заполнения заданных схем, а также генерации шаблонов извлечения по примерам или описанию на естественном языке. Семейство заявлено как многоязычное; архитектура — плотная Qwen2.5-VL для генерации текста по текстовым и визуальным входам. Размер составляет 3,1 млрд параметров, контекст — до 128 000 токенов. Для извлечения README рекомендует температуру, близкую к нулю; примеры в контексте могут помочь при неоднозначных задачах и требованиях к формату. В метаданных указана лицензия MIT, однако README для версии 4B указывает Qwen Research License, поэтому условия использования следует сверить с лицензией репозитория и базовой модели перед применением, особенно в коммерческих сценариях. Качество может снижаться на сложных или неоднозначных запросах; README не приводит подробных количественных результатов бенчмарка.

Ogma Mini — компактная англоязычная модель эмбеддингов текста семейства Ogma, предназначенная для локального поиска и работы на устройствах с ограниченными ресурсами. В README указаны 3,5 млн параметров, размер около 14 МБ и контекст до 1024 токенов; модель использует архитектуру энкодера и выдаёт векторные представления текста, а не генерирует текст. Модель подходит для семантического и векторного поиска, извлечения документов для RAG, памяти агентных систем, кластеризации и классификации. Поддерживаются маршруты кодирования с токенами задач и Matryoshka-размерности 256, 128, 64 и 32, позволяющие уменьшать размер векторов. В README приведена оценка 53,06 на англоязычном бенчмарке MTEB; результаты зависят от задачи и способа применения. Ограничения: модель рассчитана на английский язык, не выполняет генерацию текста и уступает MiniLM-L6-v2 в задачах реранжирования. На CPU трансформерный энкодер может работать заметно медленнее статических моделей. Лицензия CC-BY-NC-4.0 запрещает коммерческое использование без отдельного разрешения.

QTuneVL1.5-2B — компактная мультимодальная языковая модель Reconova AI Lab для диалога с изображениями и анализа визуального содержимого. Модель использует архитектуру InternVLChat и объединяет компоненты Qwen2.5-1.5B и InternViT-300M-v2.5; в README также описана настройка на InternVL3-2B и стратегии обрезки и дополнения изображений, применяемые в Mini-Monkey, UReader и InternVL. Модель предназначена для ответов на вопросы по изображениям, визуальных рассуждений и распознавания текста на изображениях. В README приведено сравнение с предшественником QTuneVL1-2B по восьми тестам, включая OCRBench, MMStar и MMMU, с оговоркой, что конфигурация оценщика GPT в VLMEvalKit может отличаться от официальной. Репозиторий использует Transformers и формат safetensors; лицензия — MIT.

Qwen3-8B TMax AENV v39b, итерация 69 — чекпойнт Qwen3-8B, опубликованный willamazon1. Модель дообучена с подкреплением методом group-relative policy optimization на асинхронных траекториях в многоходовых агентных средах; исходным чекпойнтом был willamazon1/qwen3-8b-tmax-sft-v3-iter353, ранее дообученный на Qwen/Qwen3-8B. Это плотная авторегрессионная языковая модель на 7,6 млрд параметров с контекстом до 40 960 токенов, поддержкой диалоговой генерации и интерфейсом вызова инструментов. Модель предназначена для генерации текста в диалогах и агентных сценариях, где требуется вести многоходовое взаимодействие и использовать инструменты. Это одна из итераций обучающего запуска; в той же коллекции опубликованы другие точки обучения, что позволяет сравнивать изменения по ходу обучения. Доступны веса bfloat16 в формате safetensors; чекпойнт преобразован из Megatron-LM torch_dist, состояние оптимизатора не включено. Лицензия — Apache-2.0.

Это дообученная плотная модель для поиска по тексту, подготовленная Steve0927 для соревнования XIR 1170. Она основана на Qwen3-Embedding-0.6B и содержит около 507,6 млн параметров; для векторного представления текста используется архитектура Qwen3. Модель рассчитана на создание эмбеддингов и извлечение релевантных документов в сценариях агентного поиска по фиксированному корпусу, в том числе в задачах формата XIR и BrowseComp-Plus. При обучении применялся метод Trajectory Utility Calibration: строки запросов, положительных и отрицательных примеров из официальных траекторных данных LRAT проверялись и взвешивались с целью снизить влияние слабых положительных примеров и вероятных ложных отрицаний. Модель поддерживает контекст до 32 768 токенов. Карточка указывает английский язык; метаданные относят базовую модель к многоязычным эмбеддинговым моделям Qwen3. Лицензия в предоставленных данных не указана.

SauerkrautLM-ColQwen3-2b-v0.1 — мультимодальная модель VAGOsolutions для визуального поиска по документам. Она дообучена на базе Qwen/Qwen3-VL-2B и использует архитектуру ColQwen3 с многовекторными представлениями и поздним взаимодействием в стиле ColBERT. Модель принимает изображения страниц документов и текстовые запросы, а выдаёт векторы для поиска по содержимому страниц. Модель предназначена для извлечения релевантных страниц без отдельного OCR-конвейера: она учитывает расположение элементов, таблицы, формы и диаграммы. В README указаны 2,2 млрд параметров, размерность представлений 128 и потребление около 4,4 ГБ видеопамяти. Для оценки заявлены результаты ViDoRe v1, MTEB v1+v2 и ViDoRe v3; это показатели бенчмарков, а не гарантия качества на пользовательских данных. Заявлена поддержка английского, немецкого, французского, испанского, итальянского и португальского языков. Модель распространяется по лицензии Apache-2.0.

krlvi/sentence-msmarco-bert-base-dot-v5-nlpl-code_search_net — модель Sentence-Transformers на архитектуре BERT, обученная на датасете CodeSearchNet. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате PyTorch. Обучение с MultipleNegativesRankingLoss и косинусной мерой сходства ориентировано на сближение семантически связанных текстов, что подходит для поиска по коду и связанным описаниям. Для использования нужна лицензия AGPL-3.0; при распространении или предоставлении модели как сервиса следует учитывать её условия.

Casual-Autopsy/snowflake-arctic-embed-l-v2.0-gguf — это GGUF-квантизированная версия мультиязычной модели для создания текстовых эмбеддингов, основанная на Snowflake/snowflake-arctic-embed-l-v2.0 и подготовленная с использованием llama.cpp. Разработчик исходной модели — Snowflake. Модель предназначена для семантического поиска, информационного поиска и retrieval-сценариев, включая корпоративный мультиязычный поиск в большом масштабе. Модель содержит 568 млн параметров, из которых 303 млн не относятся к эмбеддингам, формирует векторы размерностью 1024 и поддерживает контекст до 8192 токенов. Она рассчитана на работу с широким набором языков, включая английский, русский, китайский, японский, арабский и многие другие. Поддерживаются Matryoshka Representation Learning и обучение с учетом квантования, благодаря чему размерность векторов можно сокращать до 256 с небольшим снижением качества, а совместно с Int4-квантованием получать векторы размером до 128 байт. Сильные стороны модели — высокое качество англоязычного и мультиязычного поиска, эффективность инференса, поддержка длинного контекста и удобная компрессия эмбеддингов. Ограничения включают специализированность на получении векторных представлений, а также возможное снижение качества при усечении размерности и агрессивном квантовании. Исходная модель распространяется по лицензии Apache 2.0; для конкретной GGUF-сборки в README отдельная лицензия не указана.

UNITE-Base-Qwen2-VL-2B — мультимодальная модель эмбеддингов семейства UNITE, разработанная на базе Qwen/Qwen2-VL-2B-Instruct и дообученная для поиска по тексту, изображениям, видео и их сочетаниям. Она формирует общие векторные представления для мультимодального поиска; карточка рекомендует вариант Base для задач детального поиска, включая поиск по инструкциям. Модель имеет плотную архитектуру Qwen2-VL, содержит 1,5 млрд параметров и поддерживает контекст до 32 768 токенов. Основной сценарий — извлечение признаков и retrieval между текстом, изображениями и видео; также заявлено сходство предложений. В метаданных указан английский язык. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0.

Карточка модели thanhtantran/Vietnamese_Embedding_v2 на Hugging Face совпадает с карточкой AITeamVN/Vietnamese_Embedding_v2, поэтому описание составлено по ней. Vietnamese_Embedding_v2 — модель эмбеддингов на базе Sentence Transformers, дообученная AITeamVN на BAAI/bge-m3 для улучшения поиска по текстам на вьетнамском языке. Обучение проводилось на примерно 1,1 млн троек из запросов, релевантных и нерелевантных документов. Архитектура — XLM-RoBERTa с плотными векторами размерности 1024; модель оценивает сходство скалярным произведением. Метаданные указывают контекст до 8194 токенов, а README сообщает о максимальной длине последовательности 2048 токенов для документов и 256 для запросов. Модель предназначена для построения векторного поиска и извлечения релевантных документов по вьетнамским запросам. В оценке на наборе Legal Zalo 2021 она показала Accuracy@10 0,9578 и MRR@10 0,8149; README отмечает, что модель не обучалась на этом наборе. Результат на юридических данных несколько ниже, чем у базовой фазы, но авторы указывают, что более крупные данные обучения могут быть полезны для других областей. Лицензия — Apache 2.0.

Карточка модели Voilabois/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Карточка модели Rab007/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Карточка модели biohomunculus/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Карточка модели GautamHirawat/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Карточка модели Van7887/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Карточка модели vll1addd/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

RedHatAI/gpt-oss-120b-essential — вариант открытой по весам модели gpt-oss-120b, разработанной OpenAI и подготовленной Red Hat AI. Это генеративная текстовая модель для диалогов, текстовой генерации, задач с рассуждением, агентских сценариев и вызова инструментов. Модель поддерживает function calling, веб-поиск, выполнение Python-кода и Structured Outputs; поддержка tool calling валидирована. Указанный язык — английский. Модель построена на архитектуре Mixture of Experts и содержит около 117 млрд параметров, из которых примерно 5,1 млрд активны при обработке запроса. Она использует посттренировочную MXFP4-квантизацию весов MoE и рассчитана на запуск на одном GPU с 80 ГБ памяти, например NVIDIA H100 или AMD MI300X. Для корректной работы требуется формат ответов harmony. В README не указана длина контекста. К сильным сторонам относятся настраиваемый уровень рассуждений — low, medium или high, возможность дообучения и пригодность для производственных и ресурсоограниченных развёртываний благодаря essential-комплектации без каталогов /Metal и /Original, уменьшающей профиль памяти. Полное предоставление цепочки рассуждений может помогать при отладке, но не предназначено для показа конечным пользователям. Модель валидирована в Red Hat OpenShift AI 2.25, Red Hat AI Inference Server 3.2.2 и vLLM 0.10.1.1. Распространяется по лицензии Apache 2.0, допускающей коммерческое использование и модификацию.

Cogito v2 preview 405B — инструкция-донастроенная плотная языковая модель семейства Llama, разработанная Deep Cogito на базе Meta Llama 3.1 405B. Она поддерживает обычный режим ответа и режим рассуждения с самопроверкой; для включения расширенного мышления требуется соответствующая настройка шаблона чата или системная инструкция. Модель оптимизирована для программирования, STEM-задач, следования инструкциям и диалоговой помощи, а также поддерживает вызов инструментов. Модель содержит 403,7 млрд параметров, работает с текстом и имеет контекст до 131 072 токенов. По заявлению разработчиков, обучение охватывало более 30 языков. Для весов используется формат Safetensors, а запуск описан через Transformers. Модель распространяется по лицензии Llama 3.1, которая допускает коммерческое использование на её условиях.

Qwen3.8-35B-A3B-Distill-oQ8-fp16-mtp — это сборка Novaeon.Studio на базе empero-ai/Qwen3.8-35B-A3B-Distill, предназначенная для локального запуска на компьютерах Apple Silicon через oMLX и MLX. Модель представляет собой дистиллированную версию, обученную на данных и рассуждениях учительских моделей семейства Qwen3.8, включая Qwen3.8 Flash Next, с акцентом на математику и программирование. Это мультимодальная модель text-to-text с сохранённым vision encoder: она принимает текст и изображения и генерирует текст. Архитектура — разреженная MoE семейства Qwen3.5/3.6: около 35 млрд параметров суммарно, примерно 3 млрд активных, 256 экспертов, из которых маршрутизируются 8, и 40 слоёв с гибридом линейного GDN и полноформатного attention. Заявлен контекст до 262 144 токенов, поддерживается английский язык. Квантование oQ8 использует размер группы 64, float16 для scale и неคвантованных весов, эффективную точность около 8,6 бит на параметр и размер около 39,5 ГБ. В составе есть рабочая native MTP head для ускорения декодирования. Модель ориентирована на агентные сценарии, tool use и function calling, многошаговое рассуждение, генерацию кода, работу с длинным контекстом и анализ изображений. По измерениям разработчика на Apple M5 Max 128 GB она достигала примерно 93 токенов в секунду при коротком контексте и 41 токена в секунду при контексте около 64,7 тыс. токенов; в собственной проверке tool use получила 6/6, а средний результат IFEval составил 84,86. Ограничения включают зависимость производительности от оборудования Apple Silicon, необходимость использования совместимого движка oMLX и снижение скорости при увеличении контекста. Модель лицензирована по Apache-2.0.

Cogito v1 preview 32B — инструктивно дообученная языковая модель Deep Cogito для генерации текста и диалогов. Она построена на плотной архитектуре Qwen2 и содержит 32 млрд параметров; базовая модель — Qwen/Qwen2.5-32B. Модель принимает и выдаёт текст, поддерживает контекст до 131 072 токенов и обучена более чем на 30 языках. Модель может отвечать напрямую или включать режим расширенного рассуждения. Она предназначена для следования инструкциям, программирования, задач STEM, общего помощника и вызова инструментов; заявлена поддержка одиночных и параллельных вызовов. Разработчик сообщает о результатах выше сопоставимых по размеру моделей на отраслевых тестах, однако подробности оценок вынесены в отдельную публикацию. Модель распространяется под лицензией Apache 2.0, допускающей коммерческое использование. Это предварительная версия; качество ответов и рассуждений может зависеть от задачи, языка и выбранного режима.

Google DeepMind Gemma 4 31B IT QAT — мультимодальная инструкционно настроенная модель с плотной архитектурой для генерации текста и диалогов, а также понимания изображений. Эта версия представляет собой unquantized QAT-чекпойнт: веса в формате safetensors извлечены из конвейера обучения с учётом квантования; для неё указана базовая модель google/gemma-4-31B-it-assistant. Лицензия — Apache 2.0. Модель подходит для рассуждений, программирования, ответов на вопросы и агентных сценариев с вызовом инструментов. Она принимает текст и изображения и выдаёт текст; семейство Gemma 4 поддерживает контекст до 256 тысяч токенов, а также многоязычную работу. В карточке описаны распознавание текста и документов на изображениях, понимание диаграмм и интерфейсов, но обработка аудио заявлена только для меньших моделей семейства, а не для 31B. QAT-чекпойнты предназначены для снижения требований к памяти при сохранении качества, близкого к bfloat16; конкретный объём экономии для этой версии не приведён. Для ускорения генерации с помощью спекулятивного декодирования совместимая assistant-модель должна быть QAT-чекпойнтом той же точности. Модель может ошибаться в ответах и коде; карточка не приводит количественных оценок качества именно этого чекпойнта.

Kimi K2 Thinking — открытая reasoning-модель, разработанная Moonshot AI. Она предназначена для задач, требующих глубокого пошагового рассуждения и длительного автономного взаимодействия с инструментами: исследований, поиска информации, программирования, написания текстов и многоэтапных агентских рабочих процессов. Модель умеет чередовать рассуждение и вызовы функций, сохраняя целенаправленное поведение примерно на протяжении 200–300 последовательных вызовов инструментов. Модель построена на архитектуре Mixture-of-Experts (MoE) и содержит около 1 трлн параметров, из которых 32 млрд активируются для обработки одного токена. Архитектура включает 61 слой, 384 эксперта с выбором 8 экспертов на токен, один общий эксперт, 64 attention heads, механизм внимания MLA и функцию активации SwiGLU. Размер словаря составляет 160 тыс. токенов, контекстное окно — 256 тыс. токенов. Модель использует нативную INT4-квантизацию, заявленную как обеспечивающую двукратное ускорение в низколатентном режиме и снижение требований к памяти без потери качества. Сильные стороны модели — глубокое рассуждение, стабильное использование инструментов на длинных дистанциях, работа с большими контекстами и высокие результаты в математических, исследовательских, поисковых и coding-бенчмарках. README не указывает поддерживаемые естественные языки и не содержит подробностей о мультимодальности, поэтому модель следует считать текстовой в рамках доступных данных. Также заявленные преимущества и результаты зависят от сценария, наличия инструментов и настроек оценки. Модель распространяется по лицензии Modified MIT.

Ling-3.0-flash-fp4 — текстовая генеративная модель компании inclusionAI, распространяемая под лицензией MIT. Это native hybrid reasoning-модель для генерации текста, рассуждений и выполнения агентных сценариев. Модель предназначена для программирования, исправления и рефакторинга кода, общих задач на знания и следование инструкциям, математического рассуждения, глубокого поиска и длительных интерактивных рабочих процессов. Она обучалась с использованием более 10 000 интерактивных сред и ориентирована на замкнутое выполнение задач Coding Agent, General Agent и Deep Research Agent. Заявлена совместимость с Claude Code, Kilo Code, Qwen Code, Hermes Agent и OpenClaw. Архитектура — гибридная линейная MoE: 124 млрд параметров всего и 5,1 млрд активных на токен. Используется чередование 35 слоёв Kimi Delta Attention и 7 слоёв Gated MLA в соотношении 5:1, 512 маршрутизируемых и один общий эксперт, 8 активируемых экспертов, 32 attention heads и hidden size 2560. Контекст обучался по схеме от 8K до 32K и 256K токенов. Модель поддерживает режим рассуждений, включённый по умолчанию, и рассчитана на эффективную работу с длинным контекстом; заявлено снижение Time to First Token на 60–80% в сценариях с длинными входными данными при использовании иерархического кэширования SGLang HiCache и Mooncake. К сильным сторонам относятся сочетание крупного общего размера с малым числом активных параметров, эффективность вывода, рассуждение, следование инструкциям, обработка длинного контекста и агентные задачи. README не содержит сведений о поддерживаемых естественных языках, точных характеристиках FP4-квантизации или ограничениях качества; результаты бенчмарков приведены без числовых значений в тексте и требуют осторожной интерпретации. Лицензия модели — MIT.

Xing4.0-29B-A4B-GGUF — большая языковая модель серии Xing, разработанная China Telecom Artificial Intelligence Technology Co., Ltd. Это GGUF-представление модели Xing4.0-29B-A4B с квантованием смешанной точности IQ4_NL; размер файла составляет около 18 ГБ, что позволяет запускать модель на одной пользовательской видеокарте. Модель распространяется под лицензией Apache 2.0. Модель предназначена для генерации текста, сложного рассуждения, программирования, инженерных задач, многошагового планирования, вызова инструментов и агентских сценариев. Она также подходит для дообучения под прикладные задачи, включая классификацию намерений, анализ таблиц, аудит договоров и ответы на вопросы по корпоративным знаниям. Заявлена совместимость с Transformers, vLLM, SGLang, KTransformers, LLaMA-Factory и MindFormers, а также с рядом агентских фреймворков. Архитектура включает MoE с 29 млрд общих параметров и 4 млрд активных параметров на токен, 40 слоёв, скрытый размер 3584, MLA-attention, 64 маршрутизируемых эксперта, 4 активных эксперта на токен и одного общего эксперта. Модель поддерживает контекст 256 тысяч токенов с возможностью расширения до 512 тысяч. Указана поддержка режима рассуждений, который можно включать или отключать при инференсе. README не сообщает полный список поддерживаемых языков и не описывает мультимодальные возможности, поэтому модель следует считать текстовой. Сильными сторонами являются большой контекст, высокая эффективность MoE при инференсе, ориентация на агентские и программные задачи, а также возможность локального запуска и доменной адаптации. Ограничения включают необходимость совместимого инференс-стека и значительный объём памяти; показатели бенчмарков приведены авторами README и могут зависеть от настроек оценки. Сведения о безопасности, фильтрации контента и конкретных языковых ограничениях не указаны.

Cogito v2 preview — instruction-tuned генеративная языковая модель Deep Cogito на архитектуре DeepSeek V3. В метаданных указано 37,6 млрд параметров и базовая модель deepseek-ai/DeepSeek-V3-Base; README описывает её как вариант MoE на 671 млрд параметров. Репозиторий создан 27 июля 2025 года, веса представлены в формате Safetensors, лицензия — MIT. Модель поддерживает обычный режим ответа и режим с дополнительным рассуждением, который включается через шаблон чата или системную инструкцию. Она предназначена для программирования, задач STEM, следования инструкциям и общего диалога; README также заявляет поддержку вызова инструментов, более 30 языков и контекст до 128 тысяч токенов. Метаданные указывают нативный контекст 163 840 токенов. README сообщает о сравнительных преимуществах на отраслевых бенчмарках и об обучении методом Iterated Distillation and Amplification, но подробные результаты здесь не приведены. Заявления о размере расходятся: README указывает 671 млрд параметров, метаданные — 37,6 млрд. Это текстовая модель; подтверждения обработки изображений, аудио или видео в предоставленных данных нет.

Карточка модели stapspop/Hermes-3-Llama-3.1-405B на Hugging Face совпадает с карточкой NousResearch/Hermes-3-Llama-3.1-405B, поэтому описание составлено по ней. Hermes 3 405B — большая языковая модель общего назначения от Nous Research, созданная полным дообучением Meta-Llama-3.1-405B. Она рассчитана на диалог с ассистентом, следование инструкциям, рассуждения, ролевые сценарии, генерацию кода и работу с инструментами. Модель поддерживает многошаговые беседы и контекст до 131 072 токенов; для диалога используется формат ChatML, также предусмотрены вызовы функций и структурированный вывод JSON. Модель содержит около 403,7 млрд параметров, использует плотную архитектуру Llama и распространяется в формате Safetensors. Для запуска полной версии в FP16 требуется более 800 ГБ видеопамяти; в README также упоминается отдельная FP8-квантизация NeuralMagic для VLLM, требующая около 430 ГБ. Лицензия — Llama 3.1 Community License (llama3). Карточка позиционирует Hermes 3 как модель общего назначения с улучшенными агентными возможностями, управляемостью и генерацией кода.