II.10Разработка и эксплуатация AI/ML-систем

Mike0307/multilingual-e5-language-detection — модель классификации текста для определения языка. Она разработана на основе multilingual-e5-base и дообучена на наборе данных common_language; архитектура — XLM-RoBERTa для классификации последовательностей, размер — 305,2 млн параметров. Модель поддерживает определение 45 языков и принимает текст длиной до 514 токенов. Модель подходит для автоматической разметки языка коротких сообщений и документов, маршрутизации текста по языковым конвейерам и предварительной фильтрации многоязычных корпусов. В README заявлена общая точность 98,37% на тестовой части common_language; результаты зависят от данных и условий оценки. Распространяется по лицензии Apache-2.0.

tomaarsen/multivector-ModernBERT-base-msmarco-contrastive-no-query-expansion — англоязычный много-векторный энкодер, дообученный tomaarsen на базе answerdotai/ModernBERT-base с помощью библиотеки Sentence Transformers на парах запросов и документов из msmarco-bm25. Модель предназначена для семантического поиска и информационного поиска с поздним взаимодействием: она кодирует текст в последовательность 128-мерных векторов токенов, а релевантность оценивается функцией MaxSim. Модель принимает текст, поддерживает последовательности длиной до 8192 токенов и содержит 149 млн параметров. В README приведены результаты оценки поиска на наборах NanoMSMARCO, NanoBEIR и других задачах извлечения информации; результаты зависят от датасета и выбранной метрики. Для работы требуется сопоставлять векторы запросов и документов, поэтому это энкодер для поискового конвейера, а не генеративная модель ответов. Распространяется по лицензии Apache-2.0.

darkc0de/Muse-Glimmer-30B-heretic — версия Muse Glimmer-30B с ослабленным отказом на запросы, созданная с помощью Heretic v1.4.0. Исходная модель разработана Meta Superintelligence Lab; это плотная причинная трансформерная языковая модель примерно с 29,6 млрд параметров и отдельным энкодером восприятия. Репозиторий использует Transformers и формат safetensors; лицензия — Apache 2.0. Модель предназначена для диалогов и мультимодальных агентных сценариев: планирования, вызова инструментов, программирования, анализа изображений и документов, генерации синтетических данных и оценки ответов других моделей. Она принимает текст и изображения и выдаёт текст. В README указана обработка видео по отдельным кадрам, но модель специально для видео не оптимизирована; аудио не поддерживается. Сведения о поддерживаемых языках и размере контекстного окна в предоставленных данных отсутствуют. В README приведено сравнение с исходной Muse Glimmer-30B: доля отказов составила 11 из 100 против 59 из 100 у оригинала, а KL-дивергенция — 0,0743. Модель может ошибаться в многошаговых рассуждениях, выдавать неточные, предвзятые или нежелательные ответы; качество может снижаться для языков, недостаточно представленных в оценке. Для агентных развёртываний рекомендуется дополнительная проверка безопасности и контроль действий.

Nemotron-3-Embed-8B-GGUF — мультиязычная модель для создания текстовых эмбеддингов, опубликованная Abiray на основе модели NVIDIA Nemotron-3-Embed-8B-BF16. Она предназначена для Retrieval-Augmented Generation (RAG), семантического поиска и кросс-языкового поиска, включая локальные сценарии на потребительском оборудовании с использованием llama.cpp, Ollama или LM Studio. Модель имеет архитектуру Transformer, содержит около 8 миллиардов параметров и поддерживает контекст длиной до 32 тысяч токенов. Заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Репозиторий предоставляет варианты квантования в формате GGUF от Q3_K_M до Q8_0 объёмом примерно от 4,01 до 8,46 ГБ; Q4_K_M указан как рекомендуемый вариант, обеспечивающий баланс между качеством и требованиями к памяти. Сильными сторонами модели являются мультиязычность, поддержка кросс-языкового поиска, возможность локального развёртывания и ориентация на задачи извлечения информации; в README также заявлено первое место в мультиязычном рейтинге RTEB по состоянию на июль 2026 года. Ограничения связаны с потерями качества у более низких уровней квантования и значительными требованиями к памяти. Лицензия — OpenMDW-1.1.

Nemotron-3-Nano-30B-A3B от NVIDIA — языковая модель для диалогов, рассуждений и следования инструкциям. Эта версия Unsloth основана на NVIDIA-Nemotron-3-Nano-30B-A3B-BF16; метаданные и карточка описывают её как дообученную модель. Она предназначена для разработчиков чат-ботов, RAG-систем и агентных приложений, включая сценарии с вызовом инструментов, а также для программирования и типовых задач по инструкциям. Модель использует гибридную архитектуру Mamba-2 и Transformer с Mixture-of-Experts: 30 млрд параметров всего и 3,5 млрд активных. Поддерживает английский, немецкий, испанский, французский, итальянский и японский языки. Карточка указывает контекст до 1 млн токенов, при стандартной конфигурации 256 тыс.; больший контекст требует больше видеопамяти. Модель генерирует текст и может работать с рассуждением или без него; режим рассуждений обычно повышает качество на сложных запросах. В карточке указана готовность к коммерческому использованию, однако метаданные обозначают лицензию как «other», поэтому конкретные условия следует сверить с лицензией репозитория. К практическим ограничениям относятся высокие требования к видеопамяти, особенно при длинном контексте, и отсутствие поддержки русского языка среди перечисленных языков.

Карточка модели liskasYR/NeoHorse-1-9B на Hugging Face совпадает с карточкой TokenRhythm/NeoHorse-1-9B, поэтому описание составлено по ней. NeoHorse-1-9B — текстовая причинно-следственная языковая модель TokenRhythm, дообученная на базе Qwen3.5-9B для работы с агентными системами. Модель имеет 7,2 млрд параметров, использует архитектуру Qwen3.5 и принимает только текст; визуальные веса в этом выпуске отсутствуют. Заявленная длина контекста — 262 144 токена. Модель предназначена для диалогов, следования инструкциям, вызова инструментов, программирования и рассуждений в текстовых агентных сценариях. В техническом отчёте авторы сообщают о среднем результате 69,04 по десяти тестам против 65,60 у базовой Qwen3.5-9B; это результаты авторской оценки, а не гарантия качества в конкретном применении. Доступны веса в формате safetensors и интерфейс для вызова инструментов. Лицензия — Apache-2.0.

NeoHorse-1-9B — текстовая причинно-следственная языковая модель TokenRhythm, дообученная на базе Qwen3.5-9B для работы с агентными системами. Модель имеет 7,2 млрд параметров, использует архитектуру Qwen3.5 и принимает только текст; визуальные веса в этом выпуске отсутствуют. Заявленная длина контекста — 262 144 токена. Модель предназначена для диалогов, следования инструкциям, вызова инструментов, программирования и рассуждений в текстовых агентных сценариях. В техническом отчёте авторы сообщают о среднем результате 69,04 по десяти тестам против 65,60 у базовой Qwen3.5-9B; это результаты авторской оценки, а не гарантия качества в конкретном применении. Доступны веса в формате safetensors и интерфейс для вызова инструментов. Лицензия — Apache-2.0.

NVIDIA Nemotron 3.5 Lightning 30B A3B BF16 — большая языковая модель NVIDIA для диалогов, рассуждений и генерации текста. Это эталонные веса в формате BF16, предназначенные прежде всего для дообучения, адаптации к предметной области, исследований и подготовки производных вариантов для развёртывания. Архитектура сочетает слои Mamba-2, Mixture-of-Experts и Attention; в модели 30 млрд параметров, из которых активно используются около 3 млрд, а также предусмотрены слои Multi-Token Prediction. В метаданных указано 1,9 млрд параметров и контекст 262 144 токена; README сообщает о поддержке контекста до 1 млн токенов. Модель подходит для создания чат-ботов и агентных систем, генерации и анализа кода, решения задач на рассуждение, работы с длинными текстами и использования интерфейса вызова инструментов. Основной язык — английский; также заявлена поддержка испанского, французского, немецкого, итальянского и японского. README описывает модель как пригодную для коммерческого использования, но метаданные указывают лицензию «other», поэтому конкретные условия следует сверить с лицензией репозитория. Для оптимизированного инференса автор рекомендует отдельный NVFP4-выпуск.

unsloth/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-GGUF — это GGUF-вариант языковой модели NVIDIA Nemotron 3.5 Lightning, разработанной NVIDIA Corporation. Модель предназначена для генерации текста и кода, создания специализированных AI-агентов, а также для постобучения, адаптации под предметные области, дистилляции и подготовки собственных квантованных вариантов. README указывает, что исходная модель является полноточной версией BF16, а данный репозиторий предоставляет вариант GGUF. Модель использует гибридную архитектуру Mixture-of-Experts с чередованием слоёв Mamba-2 и MoE и отдельными Attention-слоями. Всего предусмотрено 30 млрд параметров, из которых активно используется 3 млрд. Контекст может достигать 1 млн токенов; для развёртывания на одной H100 рекомендуется 256 тыс. токенов. Поддерживаются английский и языки программирования, испанский, французский, немецкий, итальянский и японский. Режим рассуждений можно включать или отключать через параметр chat template. К сильным сторонам относятся высокая вычислительная эффективность благодаря MoE-подходу, большой контекст, поддержка нескольких языков и возможность настройки под конкретные задачи. Ограничения и практические требования зависят от конкретной GGUF-квантизации и аппаратной конфигурации; README не приводит сведения о размере файлов, уровнях квантизации или точных требованиях к запуску именно этого варианта. Модель распространяется по лицензии OpenMDW-1.1, которая, согласно README, допускает коммерческое использование.

NVIDIA-Nemotron-Labs-Teacher-Chat — разговорная модель NVIDIA из семейства Nemotron 3 Ultra, предназначенная для многоходового диалога, генерации текстов и ответов, согласованных с предпочтениями людей. Она также выпущена как отдельная модель и используется как специализированный учитель для дистилляции Nemotron 3 Ultra. В карточке описаны дообучение на диалогах с помощью supervised fine-tuning и RLHF, а также возможность применять модель для создания обучающих данных и оценки ответов. Модель построена на гибридной архитектуре LatentMoE с чередованием слоёв Mamba-2 и Mixture of Experts и отдельными слоями внимания; для предсказания нескольких токенов используются слои MTP. Всего модель содержит 550 млрд параметров, из них 55 млрд активны. Метаданные указывают контекст 262 144 токена, тогда как README заявляет до 1 млн токенов. Поддерживаются английский, французский, испанский, итальянский, немецкий, португальский (включая бразильский), японский, корейский, хинди, китайский и арабский. По README модель допускает коммерческое и некоммерческое использование; в метаданных лицензия обозначена как other, поэтому конкретные условия следует сверить с лицензией репозитория.

OpenLID-v3 — модель классификации текста для автоматического определения языка, разработанная HPLT. Это улучшенная версия OpenLID-v2; модель построена на fastText и охватывает 194 языковые разновидности. Для обучения использовались данные OpenLID-v2, glotlid-corpus и Wikipedia с нормализацией и балансировкой классов. Модель подходит для определения языка текстовых фрагментов и отбора многоязычных данных для последующей обработки в NLP-системах. Качество распознавания неодинаково для разных языков. Близкие разновидности, например арабские диалекты, бывает трудно различить, поэтому результат может определяться только на уровне макроязыка. Ошибки классификации способны ухудшить работу последующих систем, а сведение разновидностей к общим категориям может приводить к недостаточному распознаванию малых языков, диалектов и отдельных письменностей. Лицензия — GPL-3.0.

Карточка модели CrossNow/Ornith-1.5-35B-A3B на Hugging Face совпадает с карточкой ornith-ai/Ornith-1.5-35B-A3B, поэтому описание составлено по ней. Ornith-1.5-35B-A3B — разработанная Ornith AI диалоговая модель семейства Ornith-1.5 с архитектурой Qwen3.5 MoE. В модели около 35 млрд параметров, из которых примерно 3 млрд активируются на каждом токене. Она создана для генерации текста, агентного программирования и выполнения задач с помощью инструментов; README сообщает о результатах на бенчмарках кодирования и агентных задач. Модель принимает текст и выдаёт текст, включая структурированные вызовы инструментов. Поддерживает контекст до 262 144 токенов; README описывает расширение окна примерно до миллиона токенов с помощью YaRN, с возможным небольшим ухудшением качества на обычной длине контекста. Для запуска в bf16 требуется около 70 ГБ памяти модели; в примере обслуживания используются две GPU по 80 ГБ. Репозиторий распространяется по лицензии MIT.

Карточка модели sekkit/Ornith-1.5-35B-A3B на Hugging Face совпадает с карточкой ornith-ai/Ornith-1.5-35B-A3B, поэтому описание составлено по ней. Ornith-1.5-35B-A3B — разработанная Ornith AI диалоговая модель семейства Ornith-1.5 с архитектурой Qwen3.5 MoE. В модели около 35 млрд параметров, из которых примерно 3 млрд активируются на каждом токене. Она создана для генерации текста, агентного программирования и выполнения задач с помощью инструментов; README сообщает о результатах на бенчмарках кодирования и агентных задач. Модель принимает текст и выдаёт текст, включая структурированные вызовы инструментов. Поддерживает контекст до 262 144 токенов; README описывает расширение окна примерно до миллиона токенов с помощью YaRN, с возможным небольшим ухудшением качества на обычной длине контекста. Для запуска в bf16 требуется около 70 ГБ памяти модели; в примере обслуживания используются две GPU по 80 ГБ. Репозиторий распространяется по лицензии MIT.

potion-base-32M — компактная модель статических текстовых эмбеддингов от команды Minish Lab. Она создана с помощью Model2Vec и Tokenlearn как дистиллированная версия sentence-transformer baai/bge-base-en-v1.5. Модель формирует векторные представления текста без последовательного вычисления трансформера, что обеспечивает высокую скорость на CPU и GPU и подходит для систем с ограниченными ресурсами и сценариев реального времени. Модель предназначена для семантического поиска, оценки сходства и ранжирования текстов. В карточке приведены результаты на задачах MTEB: potion-base-32M показывает более высокие средние результаты, чем potion-base-8M, при этом уступает all-MiniLM-L6-v2 по общему среднему показателю. Версия 32M имеет более широкий словарь, чем potion-base-8M. Доступны форматы ONNX и safetensors; для работы используется библиотека model2vec. Лицензия — MIT. В датасете модели указан англоязычный корпус C4 с разметкой bge-base-en-v1.5, поэтому она ориентирована прежде всего на английский текст. Модель возвращает эмбеддинги, а не готовые текстовые ответы. Указанная длина контекста составляет 1 000 000 токенов; фактическую пригодность такого объёма для конкретного сценария следует проверять с используемой реализацией.

PPLX Embed v1 0.6B ONNX INT8 — артефакт серверного инференса эмбеддингов, используемый Deposium в deposium-turbov3. Модель с двунаправленной архитектурой PPLXQwen3Model содержит около 507,9 млн параметров и распространяется в формате ONNX с INT8-квантизированными весами. Модель принимает текст и выдаёт векторное представление размерностью 1024; серверный сценарий использует первые 256 измерений благодаря усечению Matryoshka. Она рассчитана на контекст до 32 768 токенов и подходит для получения текстовых эмбеддингов в серверных приложениях, например для поиска и сопоставления текстов. Лицензия — MIT. Репозиторий содержит ONNX-модель с внешним файлом данных и файлы конфигурации и токенизатора. Это серверный артефакт, поэтому он отличается от однофайловой браузерной версии для Transformers.js; совместимость с другими рантаймами и качество на конкретных задачах в карточке не описаны.

Карточка модели JaehyeokLee/preliminary_5m_checkpoint_epoch_1_step_80 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_one_source_gist_checkpoint_epoch_1_step_130 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_one_source_infonce_checkpoint_epoch_1_step_150 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

A4Ash/prompt-injection-distilbert — дообученная модель DistilBERT для выявления prompt injection и jailbreak-атак в текстовых запросах к LLM. Она классифицирует входной текст как безопасный или содержащий инъекцию и предназначена для предварительной фильтрации прямых атак, попыток смены роли и обфусцированных полезных нагрузок. Модель основана на distilbert/distilbert-base-uncased и использует архитектуру DistilBertForSequenceClassification. Она принимает текст, поддерживает английский язык, а контекст ограничен 512 токенами; по описанию модели входы длиннее 256 токенов при обучении обрезались. В тесте на 1 380 примерах авторы сообщают F1 0,988 для класса атак, однако эти результаты не гарантируют такую же точность на новых данных. Модель следует использовать как один из уровней защиты приложения, а не как единственную меру безопасности. Известны ошибки разметки обучающих данных, недостаточная проверка многоязычного применения и уязвимость к новым, адаптивным или сильно обфусцированным атакам. Лицензия — MIT.

cgoosen/prompt-tackler — дообученная модель на базе protectai/deberta-v3-small-prompt-injection-v2 для классификации текстов. Она предназначена для обнаружения атак prompt injection, например при проверке пользовательского ввода перед передачей его языковой модели. Модель использует архитектуру DeBERTa v2 и содержит 155 млн параметров; максимальная длина контекста — 512 токенов. В README указаны результаты оценки: accuracy, precision, recall и F1 равны 0,9959, однако набор данных указан как None, поэтому эти метрики трудно интерпретировать без сведений о данных и методике оценки. Лицензия — Apache-2.0.

drawais/Qwen2.5-Coder-32B-Instruct-NVFP4 — квантизированная версия Qwen2.5-Coder-32B-Instruct, разработанная на основе модели Qwen/Qwen2.5-Coder-32B-Instruct. Модель предназначена для генерации текста и задач, связанных с программированием, включая работу с кодом и использование в сценариях, поддерживаемых библиотекой Transformers и сервером инференса vLLM. Модель использует INT4-квантизацию весов в формате NVFP4 W4A4 и поддерживает нативный compressed-tensors в vLLM. Размер базовой модели составляет 32B параметров, объём артефакта на диске — примерно 20,7 ГБ; для работы требуется GPU с дополнительным запасом видеопамяти под KV-кэш. Указан английский язык, максимальная длина контекста в примере запуска через vLLM — 32 768 токенов. Ключевое преимущество модели — существенно уменьшенный объём хранения и потенциально более экономичный инференс по сравнению с полноразмерной версией благодаря 4-битной квантизации. Ограничения связаны с поддержкой только английского языка в заявленных данных, зависимостью от совместимой конфигурации vLLM и возможными потерями качества, характерными для квантизированных моделей. Артефакт является производной работой Qwen/Qwen2.5-Coder-32B-Instruct и распространяется по лицензии Apache License 2.0 с обязательной атрибуцией.

Qwen3-30B-A3B-Instruct-2507-quantized.w4a16 — квантизированная версия языковой модели Qwen3-30B-A3B-Instruct-2507, разработанная Red Hat совместно с Neural Magic. Модель предназначена для генерации текста, рассуждений, вызова функций, многоязычного следования инструкциям, перевода и последующей адаптации под предметные области с помощью дообучения. Модель построена на архитектуре Qwen3ForCausalLM и работает с текстовыми входами и выходами. Веса линейных операторов в трансформерных блоках сжаты до INT4 с использованием алгоритма GPTQ, симметричной групповой схемы с размером группы 128; выходной слой lm_head не квантизируется. Такое преобразование уменьшает число битов на параметр с 16 до 4, а также примерно на 75% снижает требования к дисковому пространству и памяти GPU. Размер базовой модели — 30B параметров, при этом в README не указаны точные сведения о языках и максимальном контексте; в примерах развертывания используется длина контекста до 262144 токенов. К сильным сторонам относятся существенное снижение требований к ресурсам и возможность эффективного развертывания через vLLM, включая OpenAI-совместимый API. Ограничения связаны с потерями качества, возможными при INT4-квантизации, а также с отсутствием в предоставленных данных подробных результатов бенчмарков и характеристик поддержки отдельных языков. Модель распространяется по лицензии Apache-2.0; использование должно соответствовать применимым законам и нормативным требованиям.

webhie/Qwen3.6-27B-int4-AutoRound-Code — квантованная версия мультимодальной модели Qwen/Qwen3.6-27B, созданная с использованием Intel AutoRound. Модель представляет собой плотную VLM с 27 млрд параметров и предназначена прежде всего для генерации и анализа кода, программирования, выполнения инструкций и использования в качестве AI-ассистента разработчика. Также поддерживает работу с изображениями через энкодер MoonViT. Применяется квантование INT4 W4A16 с группами по 128 весов и симметричным округлением; активации сохраняются в FP16. Калибровка выполнена на нормализованной выборке из nvidia/OpenCodeInstruct — датасета проверенных выполнением задач по программированию. Это должно улучшать сохранение качества при генерации кода, следовании инструкциям, структурированном выводе и рассуждениях по сравнению с универсальной калибровкой. Размер модели составляет около 18 ГБ вместо примерно 54 ГБ в BF16. В модели сохранена BF16-голова Multi-Token Prediction, благодаря чему в vLLM поддерживается нативное speculative decoding с потенциальным ускорением генерации. Заявлена поддержка длинного контекста до 200704 токенов при соответствующей конфигурации vLLM. Ограничения включают возможную потерю качества из-за INT4-квантования, зависимость расширенных возможностей от совместимых версий vLLM и аппаратного окружения, а также отсутствие в README явного перечня поддерживаемых языков. Лицензия — Apache-2.0.

tvall43/Qwen3.6-35B-A3B-heretic — созданная сообществом декензурированная версия Qwen3.6-35B-A3B, полученная с помощью Heretic v1.2.0 и метода ablation/abliteration, изменяющего проекции внимания. Это мультимодальная модель семейства Qwen с архитектурой MoE: всего 35 млрд параметров, из которых активируются около 3 млрд; она принимает текст и изображения и генерирует текст. Модель предназначена для диалогов, анализа изображений и задач программирования, включая работу с репозиториями и агентные сценарии с вызовом инструментов. В README приведено сравнение с исходной моделью: на указанной авторами выборке доля отказов снизилась с 86 из 100 до 5 из 100, а KL-дивергенция составила 0,0097. Контекст — 262 144 токена с возможностью расширения до 1 010 000 токенов. Для запуска используются веса safetensors и совместимые с Transformers среды, включая vLLM, SGLang и KTransformers. Модель опубликована по лицензии Apache-2.0. Изменение поведения отказов может приводить к ответам на запросы, которые исходная модель отклоняла; приведённые показатели относятся к оценке автора и не гарантируют качество или безопасность в иных сценариях.

Qwen3.8-27B-iMatrix-NVFP4-MTP-GGUF — квантизированная мультимодальная версия модели Qwen3.8-27B, разработанная автором cdiamond на основе Qwen/Qwen3.8-27B. Модель предназначена для работы в llama.cpp и сценариев, связанных с программированием, инфраструктурными задачами, вызовами инструментов, агентскими системами и обработкой изображений. Указан контекст до 256 тысяч токенов; поддержка зрения реализуется через отдельный проектор mmproj-Qwen3.8-27B-F16.gguf. Модель поставляется в формате GGUF и имеет размер 17,1 ГБ. Это смешанная квантизация примерно 5,01 BPW: основная часть весов использует NVFP4, а чувствительные матрицы внимания, Gated DeltaNet, поздние FFN-слои, эмбеддинги и выходная голова хранятся с более высокой точностью Q5_K, Q6_K или Q8_0. В GGUF встроен обученный MTP-слой для ускорения генерации. Калибровка проводилась на данных агентских сессий, включавших код, инфраструктуру, вызовы инструментов и польско-английские диалоги, однако эти данные не распространяются. Сильные стороны модели — сочетание компактного размера, поддержки длинного контекста, мультимодальности и высокой скорости на совместимом оборудовании. В описанных тестах она достигала 50,441 токена в секунду в производственной серии и обрабатывала заполненный контекст объёмом 261 500 входных токенов без усечения и нехватки памяти. Результаты зависят от GPU, версии llama.cpp и используемых патчей; часть измерений получена на локальной ветке runtime, не вошедшей на момент публикации в upstream. Модель не является дообученной версией, а представляет собой квантизацию базовой модели. Лицензия — Apache-2.0.

unsloth/Qwen3-Coder-REAP-363B-A35B-GGUF — сжатая версия Qwen3-Coder-480B-A35B-Instruct, разработанная с применением метода REAP (Router-weighted Expert Activation Pruning). Модель предназначена для генерации кода, агентного программирования, понимания репозиториев, математического и творческого текста, а также вызова функций и инструментов. Разработчики заявляют сохранение характеристик исходной модели при снижении требований к памяти примерно на 25%, что делает её пригодной для ресурсоограниченных сред, локального развёртывания и исследовательских задач. Это разреженная causal language model архитектуры Mixture-of-Experts: 363 млрд параметров всего, около 35 млрд активируются на токен; используется 120 экспертов, из которых 8 выбираются для каждого токена, 62 слоя и Grouped Query Attention с 96 головами Q и 8 головами KV. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 млн с YaRN. В README указана FP8-квантизация для описанного варианта, совместимость с vLLM и лицензия Apache 2.0. Ограничением является крайне большой общий размер модели и высокие требования к оборудованию; результаты оценки для BF16-варианта на момент публикации не представлены.

RTriever-4B — плотная модель для извлечения текстовых эмбеддингов, разработанная на базе Qwen/Qwen3-Embedding-4B и дообученная для поиска, требующего многошаговых рассуждений и объединения взаимодополняющих свидетельств. Модель содержит около 3,7 млрд параметров, построена на архитектуре Qwen3 и работает с текстом; её можно загружать через sentence-transformers или Transformers с ручным объединением токенов. Контекст составляет до 40 960 токенов по метаданным, а README указывает поддержку длинных входов до 32 тысяч токенов. Модель предназначена для семантического поиска по запросам и документам, в том числе для RAG, поиска научных материалов и агентных поисковых систем. Для запросов требуется инструкция: в sentence-transformers можно использовать prompt_name="query", тогда как документы кодируются без неё. Векторы нормализованы по L2, поэтому косинусное сходство можно считать скалярным произведением. Для специализированных областей полезно задавать собственный шаблон запроса; длинные документы рекомендуется ограничивать 4–8 тысячами токенов ради стоимости вычислений. Лицензия — MIT.

Карточка модели inclusionAI/SingGuard-NSFA-4B на Hugging Face совпадает с карточкой inclusionAI/SingGuard-NSFA-0.8B, поэтому описание составлено по ней. SingGuard-NSFA-0.8B — модель-охранник для защиты агентных систем, разработанная командой SingGuard из AI Security Lab компании Ant Group. Это вариант с 0,8 млрд параметров, дообученный на базе Qwen3.5. Модель предназначена для проверки отдельных запросов пользователя и ответов агента: она выявляет prompt injection и jailbreak, запросы на вредоносный код, кражу чувствительных данных, опасное использование инструментов и ресурсов, а также утечку чувствительной информации в ответах. Модель поддерживает два режима: генеративный анализ с объяснением для аудита и классификацию для оперативного перехвата угроз. В README для классификационного режима указана задержка около 45–57 мс на одном NVIDIA A100; для семейства моделей заявлена оценка выше 94% F1 на созданных авторами многоязычных тестах. Карточка описывает модель как текстовую и одноходовую, хотя в метаданных Hugging Face указаны архитектура с поддержкой изображений и pipeline image-text-to-text; мультимодальные угрозы README относит к сценариям вне области применения. Модель заявлена для 133 языков; метаданные перечисляют языковые коды, включая английский, китайский, французский, немецкий, хинди и арабский. Распространяется по лицензии Apache 2.0. Ограничения: модель не анализирует угрозы в изображениях, аудио и видео, многоходовые траектории взаимодействия и межагентную коммуникацию; её таксономия не предназначена для общей модерации контента.

Карточка модели inclusionAI/SingGuard-NSFA-9B на Hugging Face совпадает с карточкой inclusionAI/SingGuard-NSFA-0.8B, поэтому описание составлено по ней. SingGuard-NSFA-0.8B — модель-охранник для защиты агентных систем, разработанная командой SingGuard из AI Security Lab компании Ant Group. Это вариант с 0,8 млрд параметров, дообученный на базе Qwen3.5. Модель предназначена для проверки отдельных запросов пользователя и ответов агента: она выявляет prompt injection и jailbreak, запросы на вредоносный код, кражу чувствительных данных, опасное использование инструментов и ресурсов, а также утечку чувствительной информации в ответах. Модель поддерживает два режима: генеративный анализ с объяснением для аудита и классификацию для оперативного перехвата угроз. В README для классификационного режима указана задержка около 45–57 мс на одном NVIDIA A100; для семейства моделей заявлена оценка выше 94% F1 на созданных авторами многоязычных тестах. Карточка описывает модель как текстовую и одноходовую, хотя в метаданных Hugging Face указаны архитектура с поддержкой изображений и pipeline image-text-to-text; мультимодальные угрозы README относит к сценариям вне области применения. Модель заявлена для 133 языков; метаданные перечисляют языковые коды, включая английский, китайский, французский, немецкий, хинди и арабский. Распространяется по лицензии Apache 2.0. Ограничения: модель не анализирует угрозы в изображениях, аудио и видео, многоходовые траектории взаимодействия и межагентную коммуникацию; её таксономия не предназначена для общей модерации контента.

Карточка модели masked-kunsiquat/snowflake-arctic-embed-xs-2 на Hugging Face совпадает с карточкой Snowflake/snowflake-arctic-embed-xs, поэтому описание составлено по ней. Snowflake/snowflake-arctic-embed-xs — компактная модель эмбеддингов текста из семейства Arctic Embed, разработанного Snowflake. Она предназначена для поиска по смыслу и извлечения релевантных документов, включая семантический поиск и retrieval-компонент систем RAG. Модель основана на all-MiniLM-L6-v2 и использует архитектуру BERT. В метаданных указано 25,9 млн параметров и контекст до 512 токенов; README приводит 22 млн параметров и размерность эмбеддинга 384. Компактный размер рассчитан на сценарии с жёсткими ограничениями по задержке и стоимости. В README сообщается результат 50,15 NDCG@10 на MTEB Retrieval. Карточка описывает обучение и оценку для задач поиска, но не подтверждает поддержку конкретных языков, поэтому модель следует выбирать с учётом языка и данных своего корпуса. README указывает на более новые многоязычные версии Arctic Embed, которые авторы рекомендуют для многоязычных сценариев. Репозиторий содержит форматы ONNX и safetensors. Лицензия в предоставленных данных не указана.