II.10Разработка и эксплуатация AI/ML-систем

jina-embeddings-v2-base-code-GGUF — GGUF-квантизированная версия модели jinaai/jina-embeddings-v2-base-code, разработанной jinaai и преобразованной в GGUF компанией Second State Inc. Это модель для получения векторных представлений текста и исходного кода, предназначенная для семантического поиска, сравнения схожести, классификации и других задач feature extraction, включая работу с кодовыми фрагментами. Указан английский язык. Модель поддерживает контекст до 8192 токенов и формирует embedding размерностью 768. Доступны варианты квантования от 2 до 8 бит, а также f16; размеры файлов составляют примерно от 82,7 до 323 МБ. В README вариант Q4_K_M отмечен как сбалансированный и рекомендуемый, тогда как низкобитные варианты обеспечивают меньший размер ценой заметной потери качества. Модель может запускаться через LlamaEdge с prompt type embedding. Распространяется по лицензии Apache-2.0. Ограничения зависят от выбранного варианта квантования: чем сильнее сжатие, тем выше потенциальная потеря качества embeddings. Архитектура исходной модели, точное число параметров и перечень поддерживаемых языков, кроме указанного английского, в предоставленных данных не описаны.

cyankiwi/KAT-Coder-V2.5-Dev-AWQ-INT4 — квантованная версия модели KAT-Coder-V2.5-Dev, разработанной Kwaipilot и опубликованной cyankiwi. Модель предназначена для генерации кода и агентного программирования, включая сценарии с использованием инструментов. Открытые веса совместимы с Hugging Face Transformers, vLLM, SGLang и KTransformers. Это текстовая MOE-модель с общим числом параметров 35 млрд и примерно 3 млрд активируемых параметров. Визуальные и мультимодальные компоненты в открытой версии отсутствуют. В README указана поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. Размер файлов модели составляет 24,43 ГБ; вариант AWQ-INT4 ориентирован на более экономичное размещение и запуск по сравнению с полноразмерными весами. К сильным сторонам относятся заявленная высокая производительность в задачах Agentic Coding среди моделей сопоставимого масштаба, а также снижение ряда аномальных поведений после SFT- и RL-обучения, включая некорректные метки инструментов и повторения в одном диалоге. Ограничения включают текстовый характер модели и отсутствие мультимодальности; конкретное максимальное окно контекста в предоставленных данных не указано. Лицензия — Apache-2.0.

Ttimms/KAT-Coder-V2.5-Dev-REAP-50-bf16 — вариант модели KAT-Coder-V2.5-Dev, подготовленный автором репозитория как чекпойнт после прореживания на 50% методом REAP и сохранённый в формате bf16. Он служит исходными весами для создания собственных квантованных сборок, включая AWQ, EXL2, MLX и GGUF. Модель предназначена для генерации кода и агентных сценариев программирования; в каталоге отмечена поддержка диалога и кода. Архитектура связана с семейством Qwen 3.5 MoE и классом Qwen3_5MoeForConditionalGeneration; для запуска указана библиотека Transformers. Репозиторий распространяется по лицензии Apache-2.0.

Kiel-2.2-Sol — языковая модель KielTech для диалогов и генерации текста. Это плотная причинная модель семейства Llama с 3,2 млрд параметров, дообученная на базе kiel2/Kiel-2.1-Sol. Веса представлены в формате Safetensors; модель работает через Transformers и поддерживает контекст до 131 072 токенов. Модель предназначена для чат-ассистентов, следования инструкциям, решения задач в разных предметных областях, логических рассуждений и генерации кода, включая асинхронные сценарии на Python. В карточке заявлена поддержка английского языка. Модель может использоваться как самостоятельный серверный бэкенд генерации текста. Карточка не приводит результаты независимых оценок качества. Модель распространяется под лицензией, указанной в метаданных Hugging Face; сведения о конкретной лицензии отсутствуют.

Kiel-Embed-2-Rerank — кросс-энкодерный реранкер, дообученный на базе BAAI/bge-reranker-base с использованием библиотеки sentence-transformers. Модель совместно обрабатывает текстовый запрос и документ и выдаёт оценку их релевантности для повторного ранжирования результатов семантического поиска и многоэтапных retrieval-конвейеров, включая RAG. Модель построена на XLM-RoBERTa и содержит около 305,2 млн параметров. Она принимает пары текстов, выдаёт скалярный логит или оценку релевантности и поддерживает последовательности длиной до 514 токенов по метаданным Hugging Face. Карточка приводит обучение на корпусе из 5 000 примеров с функцией потерь BinaryCrossEntropyLoss. Модель рассчитана на текстовые сценарии. В карточке не названы поддерживаемые естественные языки, поэтому языковую специализацию определить нельзя. Небольшой обучающий корпус ограничивает основания для выводов о качестве на широком круге запросов и документов. Лицензия в предоставленных данных не указана.

KURE-v2 — двуязычная корейско-английская модель поиска документов, разработанная nlpai-lab на основе skt/A.X-Encoder-base. Она предназначена для извлечения релевантных документов по запросу и повторного ранжирования кандидатов в поисковых системах и RAG-сценариях. Модель использует архитектуру ModernBERT и позднее взаимодействие: представляет каждый токен 128-мерным вектором, а релевантность пары «запрос — документ» оценивает через MaxSim. Размер по метаданным — 148,7 млн параметров; контекст — до 16 384 токенов. В карточке сообщается, что модель обучалась в два этапа и показала средний nDCG@10 0,8160 на девяти корейских задачах MTEB Retrieval. Для запросов и документов не нужны инструкции-префиксы. Модель подходит для корейского и английского поиска, включая длинные документы. Позднее взаимодействие хранит несколько векторов на документ, поэтому размер индекса и стоимость поиска зависят от выбранного способа индексации и сжатия; для больших коллекций README рекомендует индекс, формирующий кандидатов, например PLAID или BinaryIVF. Лицензия — Apache-2.0.

Laguna XS.2-NVFP4 — текстовая Mixture-of-Experts-модель компании Poolside, предназначенная для агентного программирования и длительных рабочих процессов на локальном компьютере. Модель является вариантом Laguna XS.2 с квантованием NVFP4 и FP8-кэшем ключей и значений (KV cache). Она поддерживает генерацию текста, использование инструментов и встроенное рассуждение между вызовами инструментов с возможностью включать и отключать режим рассуждения для отдельных запросов. Модель содержит 33 млрд параметров, из которых 3 млрд активируются на каждом токене, 40 слоёв и 256 экспертов с одним общим экспертом. В 30 слоях используется Sliding Window Attention с окном 512 токенов и покомпонентным управлением на уровне голов внимания, а в 10 слоях — глобальное внимание. Контекстное окно составляет 262 144 токена. Модель работает в режиме text-to-text, использует FP8-кэш KV для снижения требований к памяти и рассчитана на локальный запуск, включая компьютеры Mac с 36 ГБ оперативной памяти. Поддерживаются vLLM, Transformers, SGLang и TRT-LLM. Сильные стороны модели — сочетание большого контекстного окна, низкого числа активируемых параметров, уменьшенных требований к KV-кэшу и ориентации на задачи разработки ПО, включая работу с терминалом и многошаговые агентные сценарии. В README не указаны поддерживаемые естественные языки и подробные ограничения качества; приведённые результаты бенчмарков относятся к Laguna XS.2 в варианте BF16 и не являются прямой оценкой NVFP4. Модель распространяется по лицензии Apache 2.0, допускающей использование и модификацию в коммерческих и некоммерческих целях.

LLäMmlein2Vec 120M — немецкоязычная модель-энкодер, созданная командой LSX-UniWue на основе собственной авторегрессионной модели LLäMmlein 120M с преобразованием по методу LLM2Vec. Она предназначена для получения векторных представлений немецких текстов, например для семантического поиска, сравнения текстов и построения систем поиска по документам. Модель построена на архитектуре LLaMA с двунаправленным энкодером LlamaBiModel, содержит около 100,1 млн параметров и обрабатывает контекст до 8192 токенов. Для запуска авторы рекомендуют библиотеку llm2vec. Модель обучалась с использованием данных RedPajama-Data-V2. В метаданных указана лицензия other, поэтому условия использования следует уточнить в карточке модели и связанных материалах. Карточка ссылается на препринт, но не приводит здесь результаты оценки качества.

LMUnit-Qwen2.5-72B — языковая модель Contextual AI для оценки ответов по критериям на естественном языке. Она получает запрос, ответ и проверочный критерий и возвращает непрерывную оценку от 1 до 5: чем выше балл, тем лучше ответ соответствует критерию. Модель основана на Qwen2.5-72B-Instruct и дообучена для оценки качества текста. Она поддерживает диалоговый формат и интерфейс вызова инструментов; число параметров — 71,5 млрд, контекст — до 32 768 токенов. В карточке указана поддержка английского языка. Обучение объединяет сигналы сравнений ответов, прямых оценок и оценок по отдельным критериям. Разработчик приводит результаты на FLASK, BiGGen Bench, LFQA, RewardBench и RewardBench2. Модель подходит для автоматической проверки ответов по пользовательским критериям, ранжирования вариантов и оценки качества развернутых текстов. Лицензия в предоставленных данных не указана.

mdbr-leaf-ir — компактная модель эмбеддингов текста, разработанная командой MongoDB Research для информационного поиска, в том числе для этапа поиска документов в RAG-системах. Она основана на архитектуре BERT и дообучена на базе microsoft/MiniLM-L6-v2. Модель содержит 25,9 млн параметров и обрабатывает последовательности длиной до 512 токенов. Модель кодирует запросы и документы в векторы для поиска и ранжирования по смысловому сходству. Она поддерживает асимметричный поиск, когда запросы и документы кодируются разными способами, а также сокращение размерности векторов (MRL) и их квантизацию, чтобы уменьшить затраты на хранение и поиск. В README заявлены результаты на уровне лидеров среди компактных моделей на бенчмарке BEIR. Модель рассчитана на английский язык. Доступны веса в форматах Safetensors и ONNX. Лицензия — Apache-2.0. MongoDB Research отмечает, что на момент публикации модель не используется в коммерческих продуктах или услугах MongoDB.

gbv разработала mDeBERTa Russian Prompt-Injection Detector v16 — двоичную модель классификации текста на базе DeBERTa-v2 с 306 млн параметров. Она дообучена от версии V13 для обнаружения prompt injection, jailbreak, переопределения инструкций и попыток извлечь системные сообщения в русском и смешанном русско-английском тексте. Модель выдаёт вероятность класса prompt_injection; для длинных документов рекомендуется оценивать перекрывающиеся окна текста и брать максимальную вероятность по окнам. Родительская модель обучалась с классификатором, pooler и последними четырьмя слоями энкодера; длина контекста — 512 токенов. По оценке на валидационной выборке точность составила 0,9825, precision — 0,9951, recall — 0,9767. Порог 0,99 предложен как диагностический ориентир, а рабочий порог нужно подбирать на данных целевого сценария: результаты по отдельным строкам или окнам не гарантируют качество на целых документах. Ложноположительные срабатывания на безопасных текстах сохраняются, поэтому модель не является самостоятельной границей безопасности; для высокорисковых процессов нужны дополнительные контроли и проверка человеком. Лицензия — MIT.

Merino-Nano — компактная модель для поиска, созданная BAA AI (Black Sheep AI). Она объединяет биэнкодер для построения 384-мерных L2-нормализованных эмбеддингов и кросс-энкодер, который оценивает релевантность пары «запрос — документ» одним числом. Обе части используют общую таблицу эмбеддингов и основу MiniLM-L6-H384-uncased; всего около 34 млн параметров. Модель предназначена для двух этапов поиска в RAG-системах: сравнения запросов и документов по эмбеддингам и последующего ранжирования найденных фрагментов. В README её характеризуют как экономичную модель общего назначения для английских данных и рекомендуют для атомарных фрагментов, содержащих по одному утверждению, с возвратом родительского раздела для контекста. Заявлена сертификация 4-битной квантизации без измеримой потери качества в описанном испытании с отвлекающими документами. Репозиторий содержит веса в формате safetensors, лицензия указана как other; конкретные условия лицензии в предоставленных данных не раскрыты. Оценка Position Balance в README указывает на ограничения поиска второго факта во фрагменте, поэтому автор рекомендует делить документы на атомарные фрагменты. Модель рассчитана на английский язык.

MiMo-V2.5-Pro — открытая языковая модель Xiaomi на архитектуре Mixture-of-Experts (MoE), предназначенная для агентных сценариев, сложной разработки ПО и задач с длинными последовательностями действий. В README указаны 1,02 трлн параметров всего и 42 млрд активных параметров; метаданные каталога указывают 27,7 млрд параметров, поэтому размер в описании опирается на данные README. Модель использует чередование локального скользящего и глобального внимания и три модуля Multi-Token Prediction; заявленная длина контекста достигает 1 048 576 токенов. Модель рассчитана на диалог, генерацию кода, следование инструкциям и длительную работу с инструментами. Заявлены поддержка вызова инструментов и сохранение связности при траекториях с тысячами вызовов; доступны веса в формате FP8, а метаданные указывают библиотеку Transformers. В README описано обучение на 27 трлн токенов и последующая настройка с SFT, агентным RL и дистилляцией от нескольких учителей. Модель принимает текст и генерирует текст. В карточке указаны английский и китайский языки. Лицензия — MIT. Заявления о качестве в README основаны на приведённых авторами оценках; для развёртывания на контексте до миллиона токенов потребуются совместимые движок и вычислительные ресурсы.

ModernBERT Prompt-Injection Detector — англоязычный классификатор для выявления попыток prompt injection в текстах, которые читает AI-агент: письмах, документах и результатах работы инструментов. Модель разработана на базе answerdotai/ModernBERT-base и дообучена для классификации последовательностей. Она содержит около 149 млн параметров, поддерживает контекст до 8192 токенов и распространяется в формате safetensors по лицензии Apache-2.0. Для обучения использована дистилляция: метки, полученные от языковой модели-судьи, перенесены на классификатор ModernBERT. В обучающую выборку вошли синтетические и опубликованные примеры атак, обфусцированные строки и трудные отрицательные примеры с обычными запросами на действия. В описанной автором проверке на отложенной выборке заявлены полнота 0,98 при уровне ложных срабатываний 1% и точность 0,99 при пороге 0,5. Модель предназначена для первого этапа фильтрации недоверенного текста и не заменяет проверку происхождения данных или контроль разрешённых действий агента. Она может ошибочно помечать безвредный текст, похожий по форме на атаку, и не может определить намерение или доверенность отправителя только по содержимому. Указана лицензия Apache-2.0.

Qdrant/multilingual-e5-large-onnx — это ONNX-версия модели intfloat/multilingual-e5-large, подготовленная Qdrant для работы с текстовыми представлениями. Модель предназначена для задач семантического сходства, поиска по смыслу и классификации текста, включая использование в системах векторного поиска и других сценариях, где требуется сравнивать текстовые эмбеддинги. Модель принимает текст и преобразует его в числовой вектор; README демонстрирует применение через библиотеку FastEmbed. Указана поддержка нескольких языков, однако конкретный перечень языков, размерность векторов, архитектура исходной модели и максимальная длина контекста в предоставленных данных не раскрыты. Формат ONNX может быть удобен для интеграции с совместимой инфраструктурой инференса. К ограничениям относится отсутствие в README подробностей о качестве на отдельных наборах данных, производительности, требованиях к ресурсам и точных границах применимости. Модель распространяется по лицензии Apache 2.0.

mxbai-edge-colbert-v0-32m — компактная модель поиска Mixedbread AI на основе архитектуры ModernBERT и модели Ettin-32M. Она содержит 31,9 млн параметров и формирует многовекторные представления ColBERT с размерностью проекции 64 для поиска с поздним взаимодействием между запросом и документом. Модель предназначена для семантического поиска по коллекциям документов и повторного ранжирования результатов после первого, более лёгкого этапа поиска. По README, она может кодировать документы длиной до 32 000 токенов и совместима с PyLate и Sentence Transformers. Метаданные указывают нативный контекст в 7 999 токенов; это значение следует учитывать отдельно от заявленной в README длины кодируемых документов. Карточка приводит сравнительные результаты на BEIR и LongEmbed, но не содержит полного набора оценок модели в предоставленном фрагменте. Указана лицензия Apache-2.0. Поддерживаемый язык в метаданных — английский.

Nomic-embed-text-v1.5-Embedding-GGUF — модель для создания текстовых эмбеддингов и оценки семантического сходства, основанная на nomic-ai/nomic-embed-text-v1.5. Квантизацию в формате GGUF выполнила Second State Inc.; исходную модель разработала nomic-ai. Модель предназначена для семантического поиска, сопоставления текстов и других задач, где требуется преобразование текста в векторное представление. Указан английский язык. Модель поддерживает запуск через LlamaEdge и имеет контекстное окно размером 768 токенов. Доступны варианты GGUF с квантизацией от 2 до 8 бит и вариант f16, размером примерно от 60,9 до 274 МБ. Вариант Q4_K_M обозначен как рекомендуемый для сбалансированного качества и размера, а Q5_K_M и Q5_K_S — как варианты с очень небольшой потерей качества. Более сильная квантизация уменьшает размер, но может заметно ухудшать качество эмбеддингов. Модель компактна и подходит для локального развёртывания, однако README не содержит подробностей об архитектуре, размерности эмбеддингов, точных показателях качества и аппаратных требованиях. Модель распространяется по лицензии Apache-2.0.

Ogma Base — компактная англоязычная модель для создания текстовых эмбеддингов, разработанная авторами семейства Ogma. Это плотная модель с 13,3 млн параметров и контекстом до 1024 токенов; она поддерживает симметричное кодирование и Matryoshka-размерности 256, 128, 64 и 32. В README указана средняя оценка 57,02 на 66 англоязычных задачах MTEB. Модель предназначена для семантического поиска, извлечения документов в RAG, векторного поиска, кластеризации, классификации, оценки сходства предложений и памяти агентных систем. Небольшой размер позволяет развертывать её локально и использовать на CPU. Она не генерирует текст и рассчитана на английский язык; для задач парного ранжирования в README отмечено отставание от MiniLM-L6-v2. Доступны форматы ONNX и safetensors. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование; для него требуется отдельная лицензия или переобучение на подходящей модели-учителе.

OPF Russian PII 66K — дообученная модель OpenAI Privacy Filter, разработанная для выявления и разметки персональных данных в русском тексте. Это модель token classification семейства privacy_filter с архитектурой MoE, около 145,4 млн параметров; она выдаёт OPF-совместимые предсказания фрагментов и поддерживает локальную фильтрацию перед обработкой текста LLM или RAG-системами. Модель предназначена для текстов финансовых сервисов, поддержки клиентов и колл-центров. Она распознаёт имена, телефоны, адреса, даты, номера счетов и документов, налоговые номера, имена пользователей и секреты, помогая строить конвейеры маскирования и анонимизации. Карточка приводит высокие метрики на валидационной выборке обучающего датасета, но предупреждает, что они не гарантируют качество на реальных данных вне этого распределения. Модель дообучена на bbeglerov/russian-pi-66k-opf на базе openai/privacy-filter и опубликована в формате safetensors. Лицензия указана как other. Не рекомендуется использовать её как единственную меру защиты персональных данных без дополнительной проверки; возможны ошибки на шумных транскрипциях, казахском и смешанном тексте, новых форматах, намеренно скрытых данных и текстах из других областей.

Ornith-1.0-35B-FP8 — это квантизированная версия модели DeepReinforce Ornith-1.0-35B, подготовленная и проверенная командой protoLabs. Модель представляет собой гибридную MoE-архитектуру Qwen3.5-35B-A3B с механизмами рассуждения и самоскэффолдинга, ориентированную прежде всего на агентное программирование. Она поддерживает генерацию текста, рассуждения, работу с инструментами и мультимодальные сценарии с изображениями и видео. Модель использует блочную FP8-квантизацию E4M3 с блоками 128×128 и динамическим квантованием активаций по токенам. Квантизированы экспертные FFN-слои и проекции внимания, тогда как критичные компоненты, включая SSM-линейное внимание, маршрутизатор MoE, эмбеддинги, нормализации и vision tower, сохранены в bf16. Полный контекст составляет 256K токенов. Размер обслуживаемой модели — около 35 ГБ; она рассчитана на одну видеокарту с 80–96 ГБ памяти и проверена с vLLM. Сильные стороны модели — пригодность для агентного кодирования, рассуждений, длинного контекста, многоязычной генерации и вызова инструментов при производительности, близкой к исходной bf16-версии. Ограничения включают требования к мощной GPU, зависимость от совместимого стека vLLM и remote code, а также возможную небольшую потерю качества при квантизации: в приведённых однократных тестах показатель генерации кода составил 0,975 против 1,00, а успешность function call — 89% против 93%. Модель распространяется по лицензии MIT; авторство базовой модели принадлежит команде DeepReinforce, а protoLabs добавила FP8-квантизацию.

Карточка модели Kaylebor/pf2e-codex-embed-xs на Hugging Face совпадает с карточкой Snowflake/snowflake-arctic-embed-xs, поэтому описание составлено по ней. Snowflake/snowflake-arctic-embed-xs — компактная модель эмбеддингов текста из семейства Arctic Embed, разработанного Snowflake. Она предназначена для поиска по смыслу и извлечения релевантных документов, включая семантический поиск и retrieval-компонент систем RAG. Модель основана на all-MiniLM-L6-v2 и использует архитектуру BERT. В метаданных указано 25,9 млн параметров и контекст до 512 токенов; README приводит 22 млн параметров и размерность эмбеддинга 384. Компактный размер рассчитан на сценарии с жёсткими ограничениями по задержке и стоимости. В README сообщается результат 50,15 NDCG@10 на MTEB Retrieval. Карточка описывает обучение и оценку для задач поиска, но не подтверждает поддержку конкретных языков, поэтому модель следует выбирать с учётом языка и данных своего корпуса. README указывает на более новые многоязычные версии Arctic Embed, которые авторы рекомендуют для многоязычных сценариев. Репозиторий содержит форматы ONNX и safetensors. Лицензия в предоставленных данных не указана.

pplx-embed-v1-late-0.6b — мультиязычная модель эмбеддингов Perplexity AI для поиска документов с поздним взаимодействием. Это дообученная версия pplx-embed-v1-0.6b с архитектурой PPLXQwen3Model; она создаёт векторы размерности 128 для каждого токена, а запросы и документы сопоставляет с помощью оценки MaxSim, не сводя текст к одному вектору. Модель подходит для семантического поиска и извлечения документов, в том числе для многоязычных корпусов. В README приведены результаты nDCG@10: 56,61 в среднем по 15 англоязычным задачам BEIR и 66,62 в среднем по 18 языкам MIRACL. Контекст составляет до 32 768 токенов. Модель принимает текст и выдаёт последовательности векторов токенов; доступный формат весов — safetensors. Лицензия MIT.

Карточка модели JaehyeokLee/preliminary_5m_checkpoint_epoch_1_step_40 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_random_gist_checkpoint_epoch_1_step_210 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_random_infonce_checkpoint_epoch_1_step_50 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Qwen3-235B-A22B-Thinking-2507-FP8 — открытая языковая модель, разработанная командой Qwen. Это FP8-версия Qwen3-235B-A22B-Thinking-2507, предназначенная для генерации текста и сложных задач рассуждения: логики, математики, естественных наук, программирования, академических тестов, следования инструкциям, использования инструментов и агентских сценариев. Модель построена как causal language model на архитектуре Mixture-of-Experts: 235 млрд параметров всего, из которых 22 млрд активируются при обработке запроса; 128 экспертов, 8 активных, 94 слоя, Grouped-Query Attention с 64 головами Q и 4 головами KV. Нативная длина контекста составляет 262 144 токена. Модель поддерживает только thinking mode, причём увеличенная длина рассуждений рассчитана на особенно сложные задачи. По приведённым оценкам, она показывает высокие результаты в reasoning, coding, следовании инструкциям, работе с инструментами и мультиязычных тестах, однако README не содержит полного перечня поддерживаемых языков и сведений о мультимодальных входах. Модель ориентирована на сценарии, где важны глубина рассуждений, качество кода, анализ и обработка длинного контекста. Ограничением является поддержка только режима рассуждения, что может увеличивать задержку и расход вычислительных ресурсов; конкретные требования к оборудованию и производительности в README не указаны. Распространяется по лицензии Apache-2.0.

Qwen3-30B-A3B-Thinking-2507-AWQ-4bit — это 4-битно квантованная версия модели Qwen3-30B-A3B-Thinking-2507, опубликованная пользователем cyankiwi на Hugging Face и основанная на модели Qwen от команды Qwen. Это каузальная языковая модель для генерации текста, ориентированная на сложные задачи рассуждения, включая логику, математику, естественные науки, программирование, академические задания, следование инструкциям и использование инструментов. Модель построена по архитектуре Mixture-of-Experts: всего 30,5 млрд параметров, из которых при обработке токена активируется около 3,3 млрд; используется 128 экспертов, 8 активных экспертов, 48 слоёв и GQA с 32 головами для Q и 4 для KV. Нативная длина контекста составляет 262 144 токена. Поддерживается только режим размышления, причём шаблон чата автоматически добавляет соответствующий маркер. Модель предназначена для текстовых задач; конкретный набор поддерживаемых языков в README не указан. К сильным сторонам относятся улучшенные результаты в рассуждении, кодировании, работе с инструментами, обобщённых задачах и обработке длинного контекста; в README также приведены высокие показатели на ряде математических, кодовых и агентских бенчмарков. Ограничение — обязательный режим размышления и потенциально большая длина вывода, что может повышать требования к ресурсам и задержку. Для запуска рекомендуется актуальная версия Transformers, а также совместимы SGLang и vLLM. Базовая модель распространяется по лицензии Apache-2.0; отдельная лицензия квантованной версии в README не указана.

YOYO-AI разработала YOYO-V3 — объединённую разговорную модель на архитектуре Qwen3 MoE, созданную слиянием instruct-, reasoning- и code-моделей Qwen3. Она предназначена для диалогов, выполнения инструкций, рассуждений и генерации кода; режимы с рассуждением и без него переключаются через шаблон чата. В репозитории указаны точность bfloat16 и контекст до 1 010 000 токенов. Модель поддерживает английский и китайский языки, а метаданные также отмечают интерфейс вызова инструментов. Лицензия — Apache-2.0. Слияние выполнено методами nuslerp и nearswap на основе Qwen3-30B-A3B-Instruct-2507, Qwen3-30B-A3B-Thinking-2507 и Qwen3-Coder-30B-A3B-Instruct. Автор предупреждает о возможном ухудшении качества после слияния: в обычном режиме модель может выдавать длинные цепочки рассуждений, а в режиме рассуждений — не формировать итоговое резюме.

QuantTrio/Qwen3.6-27B-AWQ-6Bit — квантованная версия открытой модели Qwen3.6-27B, разработанной командой Qwen. Вариант из данного репозитория получен с помощью data-free-квантования без калибровочного набора данных и предназначен для запуска через Transformers и высокопроизводительные серверы инференса, включая vLLM, SGLang и KTransformers. Модель представляет собой авторегрессионную языковую модель с vision encoder, содержащую около 27 млрд параметров. Архитектура включает 64 слоя, Gated DeltaNet и Gated Attention, а также поддержку multi-step speculative decoding. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 010 000 токенов. Основные сценарии применения — программирование, агентная работа с кодом, анализ репозиториев, фронтенд-разработка, рассуждения по длинному контексту и задачи, требующие обработки текста и изображений. README не указывает полный перечень поддерживаемых языков. К сильным сторонам относятся большой контекст, ориентация на coding agent-сценарии, поддержка сохранения контекста рассуждений и снижение требований к памяти благодаря AWQ-квантованию до 6 бит; размер файлов модели составляет около 26 GiB. Ограничения включают возможные потери качества относительно исходной модели из-за квантования, отсутствие опубликованных в README подробных результатов именно для этой квантованной версии и зависимость от совместимых версий vLLM, Transformers и CUDA. Для запуска рекомендуются vLLM 0.19.0, Transformers 5.5.4 и CUDA 12.8 или 13.0; при использовании tensor parallelism на 8 GPU требуется expert parallelism. Модель распространяется по лицензии Apache-2.0.

karlsencoin/Qwen3.6-27B-GGUF — это GGUF-сборка модели Qwen3.6-27B, основанная на базовой модели Qwen/Qwen3.6-27B. Модель разработана командой Qwen; данный репозиторий распространяет её в формате GGUF с использованием подхода Unsloth Dynamic 2.0 GGUF. Это причинная языковая модель с визуальным энкодером, предназначенная для генерации текста, программирования, агентных сценариев, работы с репозиториями, фронтенд-разработки, рассуждений и вызова инструментов. Поддержка изображений указана в карточке как часть мультимодальной архитектуры, однако конкретные форматы и языки не перечислены. Модель содержит около 27 млрд параметров, 64 слоя и скрытое измерение 5120. Архитектура сочетает Gated DeltaNet и Gated Attention, использует multi-step training и поддерживает контекст до 262 144 токенов с возможностью расширения до 1 010 000 токенов. Среди заявленных сильных сторон — улучшенная работа с агентным кодированием, сохранение контекста рассуждений между сообщениями и более надёжный разбор вложенных объектов при вызове инструментов. Для запуска упоминаются Transformers, vLLM, SGLang и KTransformers; высокая вычислительная нагрузка и требования к памяти являются ограничениями модели, особенно при использовании длинного контекста. Указанная лицензия — Apache 2.0. README не содержит подробностей о конкретном уровне квантования данной GGUF-сборки, результатах бенчмарков или точном наборе поддерживаемых языков.