II.10Разработка и эксплуатация AI/ML-систем

MiniCheck-RoBERTa-Large — модель для проверки фактов, разработанная авторами работы MiniCheck: Efficient Fact-Checking of LLMs on Grounding Documents. Она принимает документ и отдельное утверждение и определяет, подтверждается ли утверждение содержанием документа, выдавая бинарную метку: 1 — подтверждено, 0 — не подтверждено. Модель предназначена для проверки утверждений в ответах LLM по опорным документам и оценки фактической обоснованности сгенерированного текста на уровне предложений. Это модель классификации последовательностей на базе RoBERTa-Large с 454,1 млн параметров и контекстом 514 токенов. Она дообучена от обученной RoBERTa-Large из AlignScore на 14 тысячах синтетических примеров. В работе авторов модель показала сильные результаты на бенчмарке LLM-AggreFact по сравнению со специализированными фактчекерами сопоставимого размера. Репозиторий содержит веса PyTorch, лицензия — MIT. Модель рассчитана на английский язык. Оценка проводилась на реальных утверждениях; результаты для утверждений, вручную изменённых для внесения определённых ошибок, не оценивались. Для надёжной проверки модель следует использовать вместе с подходящими опорными документами и учитывать ограничение контекста.

openbmb/MiniCPM5-1B-GGUF — компактная языковая модель серии MiniCPM5, разработанная командой OpenBMB. Это GGUF-версия MiniCPM5-1B, предназначенная для локального запуска через llama.cpp, Ollama и LM Studio, включая устройства с ограниченными ресурсами. Модель представляет собой causal language model на архитектуре LlamaForCausalLM с 1 080 632 832 параметрами, 24 слоями и группированным вниманием GQA: 16 голов для запросов и 2 для ключей и значений. Максимальная длина контекста составляет 131 072 токена. Заявлена поддержка английского и китайского языков. Один и тот же checkpoint поддерживает быстрый режим без рассуждений и режим пошагового рассуждения через параметр enable_thinking и шаблон чата с маркером <think>. Модель ориентирована на локальных ассистентов, генерацию кода, coding agents, использование инструментов, агентские сценарии и задачи, требующие рассуждений при небольшом размере модели. К сильным сторонам относятся компактность, нативный длинный контекст, поддержка tool use и гибридного режима рассуждений; разработчики заявляют конкурентные результаты среди открытых моделей класса около 1B, особенно в использовании инструментов, генерации кода и сложном reasoning. Ограничения связаны с малым размером модели, из-за которого её возможности могут уступать более крупным моделям в сложных и специализированных задачах. Модель распространяется по лицензии Apache-2.0.

robro612/modernbert_xtr_kd_k512 — модель извлечения и ранжирования текстовых документов на основе ModernBERT и архитектуры ColBERT, опубликованная в PyLate. Она кодирует запрос и документ в последовательности 128-мерных векторов и сравнивает их с помощью MaxSim; подходит для семантического поиска, формирования выдачи и повторного ранжирования результатов первичного поиска. В README указаны пределы длины 32 токена для запроса и 512 токенов для документа; метаданные сообщают о 149 млн параметров и контекстном окне 8192 токена. Модель предназначена для английского языка и обучалась на 640 тысячах примеров из датасета lightonai/ms-marco-en-bge-gemma с дистилляцией. Для использования модель требует библиотеку PyLate; для эффективного поиска README описывает индекс FastPLAID. Карточка приводит результаты оценки на наборах NanoBEIR и Nano BEIR, но качество зависит от данных и сценария поиска. Файлы представлены в формате safetensors. Сведения о лицензии в предоставленных материалах отсутствуют.

Morph-Caller — языковая модель семейства Llama, предназначенная для диалогов с вызовом функций по заданной схеме. Она преобразует запросы пользователя в структурированные данные, соответствующие JSON-схеме вызова функций, что позволяет подключать её к программным инструментам и рабочим процессам. Модель имеет 7,5 млрд параметров, плотную архитектуру и контекстное окно 8192 токена; принимает и генерирует текст. В карточке указана поддержка английского языка и чат-возможностей. Модель рассчитана на разработчиков, которым нужен программный разбор запросов и формирование вызовов функций в структурированном формате. Для использования требуется оформлять запросы по схеме из связанного проекта Hermes-Function-Calling. README заявляет отсутствие ограничений цензуры, поэтому выходы могут требовать проверки. Лицензия — MIT.

mR3-Qwen3-14B-en-prompt-en-thinking — диалоговая модель оценки ответов из семейства Multilingual Rubric-Agnostic Reward Reasoning Models, разработанного командой rubricreward. Это дообученная методом SFT модель Qwen3-14B с архитектурой Qwen3ForCausalLM и 14 млрд параметров; репозиторий содержит веса Safetensors, для работы используется Transformers. Модель принимает текстовые инструкции, входные данные, ответы и критерии оценки, а затем генерирует оценку с обоснованием. Она предназначена для задач классификации, сравнения предпочтений и ответов на вопросы; в описании семейства указано обучение на данных для 72 языков. Контекстная длина — до 40 960 токенов. Модель может помогать оценивать качество ответов по заданным рубрикам и формировать текстовые объяснения оценок, включая сценарии попарного сравнения. Лицензия — Apache 2.0. Карточка посвящена варианту с английским промптом и английским рассуждением; список языков в метаданных шире, чем языки карточки и описанного варианта, поэтому многоязычные возможности всей коллекции не следует автоматически считать одинаково доступными в этой конфигурации.

multi-qa-MiniLM-L6-dot-v1 — модель Sentence Transformers, разработанная в рамках Community Week Hugging Face для семантического поиска. Она кодирует вопросы, предложения и абзацы в плотные векторы размерностью 384, обучена на 215 млн пар «вопрос — ответ» из разных источников и использует архитектуру BERT на основе MiniLM-L6. Векторы не нормализуются; для получения эмбеддингов применяется CLS-пулинг, а сходство оценивается скалярным произведением. Модель предназначена для поиска релевантных текстовых фрагментов по запросу или вопросу, включая семантический поиск по коллекции документов. Она поддерживает английский язык, принимает текст и возвращает векторы эмбеддингов. Максимальная длина входа — 512 токенов WordPiece, однако обучение проводилось на текстах длиной до 250 токенов, поэтому на более длинных фрагментах качество может снижаться; превышение лимита приводит к усечению текста. Это дообученная модель на базе nreimers/MiniLM-L6-H384-uncased. В репозитории представлены форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия в предоставленных данных не указана.

Это англоязычный многовекторный текстовый энкодер ColBERT на базе GTE ModernBERT, разработанный для семантического поиска с поздним взаимодействием токенов. Модель обучена библиотекой Sentence Transformers на 20 тысячах примеров датасета ms-marco-en-bge-gemma с дистилляцией от bge-reranker-v2-gemma. Модель содержит 149 млн параметров и принимает последовательности длиной до 8192 токенов. Для каждого токена она формирует вектор размерности 128, а релевантность запроса и документа оценивает функцией MaxSim. Подходит для многошагового поиска по коллекциям документов и ранжирования результатов по запросу; README приводит оценки на NanoMSMARCO, NanoNQ и NanoFiQA2018. Модель работает с текстом на английском языке. Для инференса указана библиотека Sentence Transformers; веса доступны в формате safetensors. Лицензия Apache-2.0. Результаты в карточке получены на небольших тестовых наборах, поэтому сами по себе не гарантируют качество на иных корпусах; для поиска требуется система, реализующая позднее взаимодействие MaxSim.

Это англоязычный многовекторный текстовый энкодер на архитектуре ModernBERT, разработанный tomaarsen и дообученный на answerdotai/ModernBERT-base с использованием Sentence Transformers. Модель предназначена для семантического поиска и извлечения информации: она кодирует каждый текст в последовательность 128-мерных векторов токенов, а релевантность запроса и документа оценивает методом позднего взаимодействия MaxSim. Модель принимает текст, поддерживает последовательности длиной до 8192 токенов и обучалась на 50 000 примерах MS MARCO с запросами, релевантными и нерелевантными документами. В карточке приведены результаты оценки на наборах NanoMSMARCO и NanoBEIR. Лицензия — Apache-2.0.

Модель raphaelsty/neural-cherche-colbert — англоязычная модель семейства MPNet, обученная с помощью Neural-Cherche и настроенная как ColBERT для поиска и ранжирования текстов. В README она описана как all-mpnet-base-v2 в формате ColBERT; доступны сценарии Retriever и Ranker, а для работы предлагается библиотека neural-cherche. Модель содержит 136,7 млн параметров, принимает последовательности длиной до 514 токенов и распространяется в формате safetensors. Лицензия — MIT. Метаданные Hugging Face классифицируют её как модель заполнения маски (fill-mask), тогда как карточка описывает применение для извлечения и ранжирования; поэтому для пользовательского поиска важнее указанные в README функции Retriever и Ranker.

NVIDIA Nemotron-3-Super-120B-A12B-BF16 — большая языковая модель с открытыми весами, разработанная NVIDIA Corporation. Представленная версия распространяется в формате GGUF и сгенерирована с использованием llama.cpp; исходная модель выпущена 11 марта 2026 года. Модель предназначена для агентских сценариев, рассуждений с длинным контекстом, использования инструментов, RAG и высоконагруженных задач, включая автоматизацию IT-заявок. Архитектура LatentMoE объединяет Mamba-2, Mixture of Experts и механизмы внимания, а также Multi-Token Prediction. Всего модель содержит 120 млрд параметров, из которых 12 млрд активны при обработке запроса, и поддерживает контекст до 1 млн токенов. Доступны английский, французский, немецкий, итальянский, японский, испанский и китайский языки. Режим рассуждений можно включать или отключать через шаблон чата. К сильным сторонам относятся сочетание большого контекста, разреженной MoE-архитектуры, поддержки инструментов и ориентация на агентские и корпоративные рабочие процессы. Ограничения включают значительный общий размер модели и высокие требования к инфраструктуре: для исходной версии указано минимум 8 GPU H100 с 80 ГБ памяти. GGUF-версия использует специальную настройку квантования с повышением точности отдельных слоёв, что может увеличить размер файла. Модель распространяется по лицензии NVIDIA Nemotron Open Model License.

NVIDIA-Nemotron-Nano-12B-v2-Base — базовая языковая модель компании NVIDIA для продолжения заданного текста и создания собственных LLM на её основе. Это гибридная архитектура Nemotron-Hybrid: 62 слоя, преимущественно Mamba-2 и MLP, с шестью слоями внимания; размер модели — 12,31 млрд параметров. В карточке также отмечено, что модель улучшена с использованием Qwen. Модель принимает и генерирует текст, поддерживает контекст до 128 тысяч токенов и рассчитана на английский и 16 других языков: испанский, французский, немецкий, японский, итальянский, португальский, китайский, арабский, датский, корейский, нидерландский, польский, русский, шведский и тайский. NVIDIA позиционирует её для разработчиков и исследователей, создающих языковые модели; веса доступны в формате safetensors, интеграция указана для Transformers, а среди движков инференса — HF, vLLM и TRT-LLM. Модель обучалась примерно на 20 трлн токенов; данные включают веб-тексты, диалоги, статьи, математику и код. NVIDIA заявляет о готовности к коммерческому использованию, однако в метаданных указана лицензия «other», поэтому конкретные условия следует сверить с лицензией репозитория. Для развёртывания производитель ориентирует модель на GPU NVIDIA, включая H100-80GB и A100; для целевого применения рекомендуются дополнительные тестирование и валидация.

opensearch-project/opensearch-neural-sparse-encoding-doc-v3-gte — модель разреженного кодирования документов для поиска, разработанная участниками проекта OpenSearch. Она преобразует документы в разреженные векторы размерности 30 522, где индексы соответствуют токенам словаря, а веса отражают их значимость. Для запросов предусмотрено формирование векторов с помощью токенизатора и таблицы весов; оценка соответствия вычисляется как скалярное произведение векторов запроса и документа. Модель предназначена для полнотекстового поиска и извлечения релевантных документов, в том числе через разреженный поиск OpenSearch с обратным индексом Lucene. В README описана оценка на подмножестве BEIR. Модель содержит 136,7 млн параметров, использует архитектуру NewForMaskedLM и поддерживает контекст до 8192 токенов. Указанный язык — английский. Лицензия — Apache-2.0. README приводит общие преимущества серии v3 по релевантности, эффективности и скорости относительно серий v1 и v2, но не содержит числовых результатов именно для этой версии. Результаты поиска могут различаться в зависимости от набора данных; перед применением стоит оценить качество на целевом корпусе.

opensearch-project/opensearch-neural-sparse-encoding-v2-distill — модель разреженного поиска OpenSearch Contributors на базе DistilBERT. Она кодирует запросы и документы в разреженные векторы размерности 30 522: индексы соответствуют токенам словаря, а веса отражают их важность. Модель рассчитана на поиск по текстовым коллекциям и может использоваться с инвертированным индексом Lucene через OpenSearch; также доступен запуск через API Hugging Face. Версия v2-distill содержит 67 млн параметров и поддерживает контекст до 512 токенов. В сравнении на подмножестве BEIR она показала средний NDCG@10 0,528 и средний FLOPS 8,3; результаты различаются по наборам данных. Модель обучалась на корпусах для поиска и вопросов-ответов, включая MS MARCO, SQuAD-пары и данные Stack Exchange. Карточка указывает английский язык. Лицензия — Apache-2.0.

Ornith-1.0-35B-NVFP4-MTP-GGUF — квантизированная версия модели Ornith-1.0-35B от команды DeepReinforce, упакованная в единый формат GGUF для llama.cpp. Исходная модель дообучена с применением reinforcement learning поверх Qwen3.5-35B-A3B и ориентирована на агентное программирование, рассуждения и работу с инструментами. Модель генерирует блок reasoning_content перед финальным ответом и демонстрирует конкурентные результаты с Qwen3.6-35B-A3B и Gemma 4-31B на Terminal-Bench 2.1, SWE-bench Verified/Pro и Claw-eval. Архитектура — Qwen3.5 MoE с 40 слоями, 256 экспертами и hidden size 2048; всего около 35 млрд параметров, из которых активны примерно 3 млрд. В представленном файле используется NVFP4-квантизация экспертных 3D-тензоров с блоками по 16 элементов, Q8_0 для ряда линейных и чувствительных тензоров, а также MTP-голова, перенесённая из Qwen3.6-35B-A3B. Размер файла составляет 19,85 GiB (21,31 GB), средняя плотность — около 4,80 bpw. Мультимодальный словарь сохранён, но vision tower в GGUF не включена, поэтому модель предназначена для текстовой генерации. Главное преимущество варианта — поддержка draft-mtp speculative decoding, обеспечивающая заявленное ускорение декодирования примерно в два раза по сравнению с версией без MTP. NVFP4 рассчитан на NVIDIA Blackwell и использует преимущества их tensor cores; целевые платформы включают RTX PRO 6000 и DGX Spark (GB10). Ограничение — формат NVFP4 требует совместимого оборудования Blackwell и не предназначен для универсального запуска на более старых GPU. Модель распространяется по лицензии MIT.

Ornith-1.5-35B-A3B — среднеразмерная модель семейства Ornith-1.5, разработанная командой Ornith. Она создана с использованием цикла самоулучшения, в котором совместно оптимизируются генерация задач, построение scaffolding и последовательности решений посредством reinforcement learning. Модель расширяет подход Ornith-1.0, основанный на Qwen3.5 и Gemma4 с дополнительным continued pretraining, mid-training и post-training. Модель предназначена прежде всего для программирования и агентных сценариев: работы с терминалом, решения задач разработки и автономного выполнения многошаговых задач. Это mixture-of-experts-модель с общим размером около 35 млрд параметров, из которых на каждый токен активируется примерно 3 млрд. В README заявлены высокие результаты на Terminal-Bench 2.1 и SWE-bench Verified, включая оценки 67,8–68,5 на Terminal-Bench 2.1 и 79 на SWE-bench Verified. Сильной стороной модели является высокая эффективность вычислений при небольшом числе активируемых параметров, а также специализация на coding и agentic coding. При этом README не содержит сведений о поддерживаемых языках, размере контекста, мультимодальности, точных аппаратных требованиях и лицензии, поэтому эти характеристики нельзя определить по предоставленным данным.

Модель PII_DETECTION_MODEL разработана Betterdata.ai для обнаружения и разметки персональных и конфиденциальных данных в тексте. Это дообученная версия декодерного трансформера Qwen2-0.5B с 494 млн параметров; модель принимает текст и выдаёт текст с метками классов для найденных данных. Заявлены 29 классов PII и поддержка английского, испанского, шведского, немецкого, итальянского, нидерландского и французского языков. Контекст модели составляет до 131 072 токенов. Модель предназначена для маскирования PII перед отправкой текста во внешние языковые сервисы, а также для защиты данных в документах и приложениях. Разработчик отмечает, что модель компактна и рассчитана на работу с длинными документами, в том числе на CPU. Лицензия — Apache-2.0. Точность не гарантируется: по данным карточки, модель лучше справляется с именами, адресами электронной почты и телефонами, а распознавание API-ключей, CVV и банковских счетов требует улучшения. Результаты следует проверять перед использованием в критичных сценариях.

Q36 — это разговорная мультимодальная модель oktayd на архитектуре Qwen3.6-35B-A3B с 35 млрд параметров, из которых активируется около 3 млрд. Разработчик описывает её как производную цепочку на базе Qwen3.6 с дистилляцией рассуждений, ослаблением отказов и последующей настройкой для работы с инструментами, агентами и кодом; модель также дообучена на данных Hermes Function Calling и агентских трассировках. Указаны поддержка изображений, MTP и контекст 262 144 токена; одновременная работа с Vision и MTP в одном запросе не заявлена. Модель предназначена для диалогов с изображениями, рассуждений, программирования и агентских сценариев, включая вызов функций и работу с терминалом, файлами и репозиториями. В карточке приведены сравнительные тесты, но автор подчёркивает, что это компактные прогоны, а не официальные полные результаты лидербордов. Проверка финального сервинга FreeToken ещё не завершена. Репозиторий использует формат safetensors и библиотеку Transformers; лицензия — Apache-2.0.

Qwen2.5-Coder-14B-Instruct-Q4_K_M-GGUF — это квантизированная версия модели Qwen2.5-Coder-14B-Instruct, преобразованная в формат GGUF для запуска с помощью llama.cpp. Исходная модель разработана командой Qwen; данный вариант конвертирован через GGUF-my-repo на базе llama.cpp. В README также указано, что модель предназначена для генерации текста и работы с кодом в диалоговом формате. Модель ориентирована на программирование, генерацию и обработку кода, а также сценарии локального запуска через llama.cpp в CLI или серверном режиме. Она содержит 14 миллиардов параметров, использует квантизацию Q4_K_M и поддерживает текстовый ввод и вывод. В метаданных указан английский язык, однако дополнительных сведений о языковом охвате, архитектуре, максимальном контексте и точных требованиях к аппаратному обеспечению нет. Ключевое преимущество варианта — возможность более экономичного локального инференса благодаря формату GGUF и квантизации, включая запуск на совместимом оборудовании через llama.cpp. Ограничения связаны с потерей точности по сравнению с полной версией модели из-за квантизации, а также с отсутствием в README подробных результатов оценки качества и характеристик производительности. Модель распространяется по лицензии Apache-2.0.

mlx-community/Qwen2.5-Coder-7B-bf16 — версия модели Qwen2.5-Coder-7B, преобразованная сообществом mlx-community в формат MLX с помощью mlx-lm 0.18.1. Это плотная авторегрессионная модель семейства Qwen2, рассчитанная на генерацию текста и кода; объём модели — 7,1 млрд параметров, максимальный контекст — 32 768 токенов. Карточка указывает поддержку диалогового режима и интерфейса вызова инструментов, а среди языковых тегов — английский. Модель подходит для генерации и продолжения кода, помощи в программировании и диалоговых сценариев с текстовым вводом. Репозиторий содержит веса safetensors; README описывает преобразование в MLX и использование через mlx-lm. Лицензия — Apache 2.0. Метаданные связывают модель с Qwen/Qwen2.5-7B как с базовой моделью, однако README указывает исходную Qwen/Qwen2.5-Coder-7B; это означает, что репозиторий представляет преобразованную версию кодовой модели, а классификацию происхождения и базовую модель следует трактовать с учётом этих различающихся сведений.

FlagRelease/Qwen3.6-27B-metax-FlagOS-Express — вариант открытой модели Qwen3.6, опубликованный FlagRelease для запуска через стек FlagOS на ускорителях Metax. Модель относится к плотной архитектуре Qwen3.5 и предназначена для диалогов и программирования: README отмечает агентное создание интерфейсов, рассуждение на уровне репозитория и сохранение контекста рассуждений между сообщениями. В метаданных указаны возможности чата и интерфейс вызова инструментов, а также поддержка китайского и английского языков. Карточка приводит результаты оценки GPQA Diamond и ERQA, а также сравнение производительности FlagOS с H100 при нескольких размерах контекста и 64 параллельных запросах. В README описано развёртывание в контейнере FlagOS-Metax и взаимодействие через AnythingLLM. Репозиторий содержит веса safetensors. Лицензия — Apache-2.0. Число параметров и максимальная длина контекста в доступных сведениях не приведены.

unsloth/Qwen3.6-35B-A3B-NVFP4 — открытая NVFP4-квантизированная версия модели Qwen3.6-35B-A3B, разработанная Unsloth на базе модели Qwen. Это каузальная языковая модель с визуальным энкодером, предназначенная для диалоговых и мультимодальных сценариев, агентного программирования, работы с frontend-задачами и рассуждений на уровне репозитория. Модель распространяется в формате Hugging Face Transformers и совместима с Transformers, vLLM, SGLang и KTransformers. Модель содержит 35 млрд параметров, из которых 3 млрд активируются при обработке токена. Архитектура включает 40 слоёв, сочетает Gated DeltaNet, Gated Attention и Mixture of Experts с 256 экспертами, из которых используются 8 маршрутизируемых и 1 общий. Размер скрытого представления составляет 2048, размер словаря — 248 320 токенов. Поддержка изображений заявлена через vision encoder, однако список языков и максимальная длина контекста в README не указаны. Ключевые преимущества версии — сниженное потребление памяти, возможность работы на GPU с 32 ГБ VRAM, встроенный модуль Multi-Token Prediction для speculative decoding и заявленная скорость до 1,56 раза выше других NVFP4-квантизаций. К ограничениям относятся возможные потери точности из-за квантизации, зависимость производительности от аппаратного обеспечения и backend vLLM, а также отсутствие в предоставленных данных подробностей о языковой поддержке и контексте. Лицензия — Apache-2.0.

Qwen3.8-Flash-Next REAP-288 (bf16) — контрольная точка модели Qwen, опубликованная sh0wie на Hugging Face. Это версия с прореженными экспертами REAP: в каждом MoE-слое сохранено 288 из исходных 512 экспертов. По README, модель относится к классу 180 млрд параметров: 125 млрд параметров основной модели и 51 млрд в таблице n-грамм; указаны 48 слоёв с чередованием Gated DeltaNet и разреженного внимания Qwen. Веса сохранены в нативном bf16 без внесённой квантизацией погрешности, размер файлов — около 232 ГБ. Модель предназначена прежде всего как источник для дальнейшей квантизации и дообучения, а также для запуска с максимальным качеством при наличии достаточной памяти и инфраструктуры. Карточка сообщает, что отбор экспертов калибровали на примерно 686 тысячах токенов трафика агентного программирования. Метаданные указывают на генерацию текста, диалог и интерфейс вызова инструментов; README описывает совместимый с OpenAI серверный интерфейс. Поддержка визуального ввода после прореживания не проверена. Для запуска исходной bf16-версии нужен запас памяти и механизм подкачки весов; README описывает будущий движок pmlx для Apple Silicon, тогда как 4-битная сборка доступна отдельно. Модель использует лицензию с обозначением «other»; конкретные условия следует проверять в карточке Hugging Face.

Intel/Qwen3-Coder-Next-int4-AutoRound — это квантованная версия языковой модели Qwen/Qwen3-Coder-Next, разработанная с использованием Intel AutoRound. Модель предназначена для генерации текста и решения задач программирования, включая создание исходного кода, например реализацию алгоритмов. Она поддерживает стандартные сценарии работы через Hugging Face Transformers и сервер vLLM. Модель использует симметричную INT4-квантизацию с group_size 128, что снижает требования к памяти по сравнению с полноразмерной версией. Точные сведения о размере модели, поддерживаемых языках, модальностях и длине контекста в предоставленных данных не указаны. Модель может генерировать фактически неверные, предвзятые, оскорбительные или иным образом нежелательные ответы, поэтому перед использованием в приложениях необходимы тестирование безопасности и проверка результатов. Условия лицензирования должны соответствовать лицензии исходной модели Qwen/Qwen3-Coder-Next; конкретная лицензия в README не указана.

hyunseop/qwen3-embedding — дообученная Hyunseop модель текстовых эмбеддингов на базе Qwen/Qwen3-Embedding-4B. Она предназначена для семантического поиска и извлечения документов на корейском языке. Модель использует плотную архитектуру Qwen3 с 3,7 млрд параметров и контрастивное обучение на парах запрос–документ из синтетического корейского набора Nemotron-Personas-Korea; заявленная длина контекста — 40 960 токенов. В README приведены результаты оценки на корейских наборах AutoRAG и MIRACL; они характеризуют проверенные сценарии поиска, но не гарантируют аналогичное качество на других данных. Модель принимает текст и выдаёт эмбеддинги для последующего поиска или сравнения текстов. Репозиторий использует формат safetensors и библиотеку sentence-transformers. Лицензия в предоставленных данных не указана.

Qwen3-Embedding-4B-i1-GGUF — квантованная версия модели Qwen3-Embedding-4B, разработанной командой Qwen и подготовленной в формате GGUF пользователем mradermacher. Это модель для создания текстовых эмбеддингов и извлечения признаков, предназначенная для семантического сравнения текстов, поиска, классификации и других задач, где требуется представление текста в виде векторов. В метаданных указана поддержка английского языка. Модель основана на архитектуре Qwen3 и имеет размер около 4 млрд параметров. Репозиторий содержит варианты квантизации i1 с разными типами и размерами файлов — примерно от 1,2 до 3,4 ГБ, а также файл imatrix для самостоятельного создания квантов. Варианты различаются компромиссом между размером, скоростью и качеством: например, Q4_K_M обозначен как быстрый и рекомендуемый, а Q5_K и Q6_K должны обеспечивать более высокое качество при большем размере. Точная длина контекста, размер выходного вектора, поддерживаемые дополнительные языки и результаты тестирования в README не указаны. Главное преимущество модели — возможность локального запуска в компактном формате GGUF и выбор подходящего уровня квантизации под доступные ресурсы. Ограничения связаны с потерями качества при низкобитной квантизации; сам README предупреждает о низком качестве некоторых вариантов. Модель распространяется по лицензии Apache-2.0.

Это модель-энкодер изображений timm/qwen3_vit_306m.qwen3_vl_4b, созданная сообществом timm путём переноса весов визуального энкодера Qwen3-VL-4B-Instruct в формат timm без дополнительного обучения. Она извлекает пространственные признаки изображений и выдаёт векторные представления, пригодные для последующего добавления и обучения классификационной головы или использования в собственных компьютерно-зрительных конвейерах. Модель содержит 305,5 млн параметров; заявленный размер изображения — 768×768, поддерживаются прямоугольные входы. Входные размеры должны делиться на 16, а для вариантов с объединением 2×2 — на 32. Реализация предназначена только для изображений: временное свёрточное ядро преобразовано для обработки одного кадра, а языковые веса и обученная классификационная голова отсутствуют. Промежуточные пространственные признаки доступны отдельно. Лицензия — Apache 2.0.

Qwen3-VL-Embedding-8B-GGUF — мультимодальная модель для создания векторных представлений текста и изображений в общем embedding-пространстве. Она основана на Qwen/Qwen3-VL-Embedding-8B и была квантована BatiAI из исходных BF16 safetensors для локального использования, в частности в on-device RAG-системах и BatiFlow. Архитектура включает Qwen3-VL с pooling head, текстовую часть на 8 млрд параметров и vision tower. Модель предназначена для семантического поиска и мультимодального retrieval: поиска изображений по текстовому запросу, поиска текстов по изображению, а также совместной индексации PDF, заметок и изображений в одной векторной базе данных. Заявлена поддержка английского, корейского, японского и китайского языков. Для текстовых входов модель возвращает векторы размерностью 3584. Доступны квантования Q6_K размером около 5,8 ГБ и Q8_0 размером около 7,5 ГБ; Q6_K указано как минимально рекомендуемое из-за чувствительности embedding-моделей к низкобитному квантованию. Сильные стороны модели — мультимодальность, единое пространство для текста и изображений, многоязычность и ориентация на локальный запуск. В README модель характеризуется как одна из наиболее качественных многоязычных embedding-моделей и позиционируется для сценариев, где важнее качество поиска, чем минимальная задержка. При этом собственные прямые измерения качества retrieval, например MTEB, в карточке не приведены, а работа с изображениями требует мультимодальной сборки llama.cpp с поддержкой mtmd. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование.

Qwopus3.5-9B-Coder-MTP-GGUF — мультимодальная модель для генерации текста и работы с изображениями, разработанная Jackrong на базе Jackrong/Qwopus3.5-9B-v3.5. Модель ориентирована на программирование, логические и математические задачи, DevOps-сценарии, рассуждения, использование инструментов, function calling и агентские рабочие процессы. Заявлена поддержка английского, китайского, корейского, русского, японского и испанского языков. Модель использует архитектуру Multi-Token Prediction (MTP) с двумя дополнительными draft heads, настроенными через draft=2. Такой подход предназначен для speculative decoding: вспомогательные головы предлагают следующие токены, а основная модель проверяет их, что может повысить скорость генерации. По данным README, в тестах на задачах логики, программирования, DevOps, математики и пограничных сценариях пропускная способность выросла с 4,94 до 6,71 токена в секунду, а точность — с 80,0% до 88,3%. В заявленных тестах по программированию и математике достигнута точность 100%; отдельная оценка tool calling показала 100% recall и 27 успешных выборов из 28 в состязательной фазе. Указанные результаты зависят от конфигурации оборудования, параметров генерации и тестового набора, а часть оценки tool calling носит характер независимого пользовательского теста. В README не указаны размер контекстного окна, точные требования к памяти и совместимые варианты квантования, поэтому эти характеристики требуют дополнительной проверки. Модель распространяется по лицензии Apache-2.0.

Qwopus3.6-27B-Coder-Compat-MTP-GGUF — GGUF-версия модели Jackrong/Qwopus3.6-27B-Coder, разработанная Jackrong. Это мультимодальная модель для генерации текста и работы с изображениями, ориентированная на программирование, рассуждения, агентские сценарии, использование инструментов и function calling. Заявлена совместимость с llama.cpp, minja и шаблонами Hugging Face Jinja, а также с OpenAI-совместимыми историями агентов. Ключевая особенность этой редакции — обновлённый chat template, который принимает аргументы вызовов инструментов как предварительно сериализованные JSON-строки, структурированные отображения или списки, сохраняя исходную структуру payload. В комплект включены MTP-тензоры для speculative decoding; заявленный показатель принятия черновых токенов составляет 76,81% (944 из 1229). Проверки совместимости шаблона дали 10 из 10 успешных случаев в Hugging Face и llama.cpp/minja, без зафиксированных некорректных циклов tool call. Модель поддерживает английский, китайский, испанский, русский и японский языки. Точный размер контекста, детали архитектуры и требования к ресурсам в README не указаны. Обновление относится к уровню шаблона совместимости: веса модели и встроенные MTP-тензоры, согласно README, не изменены. Модель распространяется по лицензии Apache-2.0.

maci0/Qwopus3.6-27B-Coder-NVFP4 — это квантованная версия модели Jackrong/Qwopus3.6-27B-Coder, опубликованная в формате NVFP4. Модель предназначена для агентского программирования, генерации и анализа кода, работы с инструментами и задач, требующих рассуждений в thinking mode. Заявлена поддержка сценариев vision-language, однако подробности о возможностях обработки изображений в README не приведены. Модель имеет плотную архитектуру с 27 млрд параметров, занимает около 18 ГБ и поддерживает контекст до 256K токенов. Она рассчитана на английский и китайский языки. Квантование выполнено по схеме W4A4 с использованием GPTQ, error-compensated rounding и MSE observer; веса упакованы в формат compressed-tensors nvfp4-pack-quantized. Основной целевой стек запуска — vLLM на GPU NVIDIA Blackwell. Для набора wikitext-2 указана perplexity 6.63. К сильным сторонам относятся существенное уменьшение размера модели, ориентация на задачи программирования и совместимость с оптимизированным запуском в vLLM. Ограничения связаны с потерями, возможными при 4-битном квантовании, зависимостью от совместимого оборудования и неполным описанием мультимодальных возможностей. Лицензия — Apache-2.0.