II.8Инженерия данных и аналитика

Это модель M2-BERT, разработанная Джоном Саад-Фалконом, Дэном Фу и Симран Аророй. Чекпойнт содержит около 136,7 млн параметров по метаданным и дообучен для поиска по длинным последовательностям; в README размер семейства обозначен как 80M. Модель принимает текстовые последовательности длиной до 32 768 токенов и предназначена для задач извлечения информации и поиска по длинным документам. Её можно загрузить через Transformers как BertForSequenceClassification; метаданные также указывают поддержку сходства предложений и классификации текста. Модель распространяется в формате PyTorch под лицензией Apache-2.0. Карточка не описывает ограничения качества или языков помимо английского, указанного в метаданных.

MasherAI-7B-v5 — языковая модель для генерации текста и диалогов, собранная разработчиком mahiatlinux с помощью LazyMergekit. Это слияние методом slerp моделей mahiatlinux/MasherAI-7B-v4 и teknium/OpenHermes-2.5-Mistral-7B; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и предназначена для чат-сценариев и генерации текста. Модель может быть полезна для ведения диалогов, ответов на вопросы и помощи с кодом — эти возможности связаны с базовой моделью OpenHermes-2.5-Mistral-7B. В карточке MasherAI-7B-v5 отдельные языки, специальные области применения и подробные ограничения не описаны. Модель распространяется в формате safetensors; сведения о лицензии в предоставленных источниках отсутствуют.

MiniCPM-2B-dpo-fp16 — текстовая авторегрессионная модель семейства MiniCPM, разработанная ModelBest совместно с лабораторией обработки естественного языка Университета Цинхуа. Это версия MiniCPM-2B, оптимизированная методом DPO по человеческим предпочтениям; репозиторий содержит веса PyTorch в формате FP16. В метаданных указаны 2,7 млрд параметров и контекст до 4096 токенов. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы, рассуждения, математические задачи и программирование. Она поддерживает китайский и английский языки и рассчитана на запуск в сценариях с ограниченными ресурсами по сравнению с более крупными языковыми моделями. Разработчики сообщают о сильных результатах DPO-версии на MTBench, однако это не гарантирует точности в конкретных задачах. Модель может галлюцинировать, особенно при длинных ответах, чувствительна к формулировке запроса и может давать разные результаты при повторных запусках; точность запомненных знаний ограничена. README разрешает научное использование и ограниченное коммерческое использование; перед применением следует проверить условия лицензии репозитория.

MiniCPM-Embedding — двуязычная модель текстовых эмбеддингов для поиска, разработанная ModelBest, лабораторией обработки естественного языка Университета Цинхуа (THUNLP) и группой информационного поиска Северо-Восточного университета (NEUIR). Она предназначена для семантического поиска на китайском и английском языках, а также для межъязыкового поиска между ними, в том числе в системах RAG. Модель основана на MiniCPM-2B-sft-bf16 и дообучена на примерно 6 млн открытых, синтетических и закрытых примеров в несколько этапов. Архитектура использует двунаправленное внимание и взвешенный mean pooling. Размер по метаданным — 2,7 млрд параметров; README указывает 2,4 млрд. Размерность эмбеддингов — 2304, максимальная длина входа — 512 токенов. Для запроса можно добавить инструкцию; документы подаются как обычный текст. Модель подходит для поиска по коллекциям документов и межъязычного поиска китайский—английский. Карточка сообщает о тестировании на бенчмарках BEIR и C-MTEB/Retrieval, но приведённые таблицы неполны, поэтому по ним нельзя сделать полный вывод о качестве. Лицензия в предоставленных данных не указана.

hatemestinbejaia/mmarco-Arabic-AraDPR-bi-encoder-NoKD-v1 — арабоязычная модель Sentence Transformers на базе BERT, дообученная на наборе RARAELECTRAandRARABERTusedDATASET. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска, сравнения сходства и ранжирования текстов; близость оценивается косинусным сходством. Модель подходит для поиска релевантных фрагментов в системах вопросов и ответов, поиска перефразировок и кластеризации текстов. Максимальная длина входа — 512 токенов. В архитектуре используется усреднение токенных представлений BERT. В README приведены результаты оценки ранжирования: MAP 0,5211 и MRR@10 0,5216. Модель ориентирована на арабский язык; метаданные указывают 205,1 млн параметров и формат safetensors. Лицензия в предоставленных сведениях не указана.

MMLW-retrieval-e5-large — польскоязычный текстовый энкодер, разработанный для задач информационного поиска. Модель основана на multilingual E5 и использует архитектуру XLM-RoBERTa; её размер составляет 658,7 млн параметров, а контекст — 514 токенов. Она кодирует запросы и фрагменты текста в векторы размерности 1024. Модель обучали в два этапа: сначала дистиллировали на 60 млн польско-английских пар с использованием англоязычных моделей FlagEmbeddings (BGE) в качестве учителей, затем дообучили с контрастивной функцией потерь на польской части MS MARCO. Для кодирования запросов нужен префикс «query: », для документов — «passage: ». На польском бенчмарке PIRB модель показала NDCG@10 58,30. Распространяется по лицензии Apache-2.0.

cross-encoder/monoelectra-base — англоязычный кросс-энкодер для ранжирования текстов, перенесённый из webis/monoelectra-base в библиотеки Sentence Transformers и Transformers. Модель основана на ELECTRA и содержит 136,7 млн параметров; максимальная длина контекста — 512 токенов. Модель предназначена для второго этапа retrieve-rerank: она оценивает пары «запрос — найденный фрагмент» и переупорядочивает результаты, полученные поисковым движком, например BM25 или моделью эмбеддингов. Также метаданные указывают поддержку классификации текста. Доступны форматы safetensors, ONNX и OpenVINO. Лицензия — Apache-2.0. README описывает перенос модели в другой интерфейс, а метаданные указывают дообучение от google/electra-base-discriminator. Модель ориентирована на английский язык; её контекст ограничен 512 токенами, поэтому длинные пары текстов требуют усечения или разбиения.

Xenova/multilingual-e5-base — версия модели intfloat/multilingual-e5-base с весами в формате ONNX, подготовленная для использования в Transformers.js. Репозиторий Xenova предназначен для запуска модели в JavaScript-средах, включая веб-приложения, через библиотеку @huggingface/transformers. Модель предназначена для извлечения признаков из текста и может использоваться как основа для задач семантического поиска, сравнения текстов, кластеризации и построения других NLP-систем. В README подтверждён сценарий feature extraction. Модель заявлена как multilingual, однако конкретный перечень поддерживаемых языков, размер, архитектура, длина контекста и точные характеристики качества в предоставленных данных не указаны. Ключевое преимущество этой версии — совместимость с Transformers.js и ONNX, что облегчает запуск модели в JavaScript- и веб-средах. Ограничение описания заключается в отсутствии подробных сведений о производительности, поддерживаемых языках, требованиях к ресурсам и лицензии. Информация о лицензии в README не приведена.

Horizon Labs Multilingual Reranker Base — многоязычная модель-переранжировщик для поиска и систем RAG. Это cross-encoder на архитектуре ModernBERT, дообученный на основе jhu-clsp/mmBERT-base и дистиллированный из Qwen3-Reranker-4B; размер — около 307 млн параметров. Модель принимает запрос и отдельный кандидатный фрагмент текста и выдаёт один логит релевантности для каждой пары: чем он выше, тем выше фрагмент следует поднять в результатах. Сигмоида от логита даёт оценку от 0 до 1. Модель рассчитана на переранжирование кандидатов, предварительно найденных векторным или ключевым поиском, в том числе для улучшения контекста, передаваемого LLM в RAG. Поддерживает более 40 языков и запросы с фрагментами на разных языках. Контекст модели — 8192 токена, однако обучение пар проводилось с длиной до 384 токенов, поэтому более длинные входы обрезаются; рекомендуется ранжировать фрагменты, а не целые документы. В репозитории есть веса safetensors и ONNX, включая квантованный вариант для CPU и браузера. По результатам приведённых в карточке тестов модель показывает среднее nDCG@10 0,855 на наборах MIRACL, Wikipedia и других многоязычных бенчмарках; результаты MIRACL относятся к обучающей области с версии 1.1. Модель уступает учителю Qwen3-Reranker-4B, особенно на длинных и технических фрагментах; узкоспециализированные медицинские, юридические, кодовые и разговорные запросы представлены слабее. Лицензия — Apache-2.0.

chandc/my-embedding-gemma — текстовая Sentence Transformer-модель, дообученная на базе google/embeddinggemma-300m. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска и извлечения релевантных текстов. Модель использует косинусное сходство и принимает последовательности длиной до 2048 токенов. Для дообучения указаны три примера с парами запросов и релевантных и нерелевантных текстов; применялась функция потерь MultipleNegativesRankingLoss. Примеры относятся к финансовым и страховым вопросам, но их мало, поэтому они не подтверждают надёжную специализацию или качество в этих областях. Модель работает только с текстом; лицензия в предоставленных данных не указана.

Nemotron 3.5 ASR — разработанная NVIDIA многоязычная модель автоматического распознавания речи на 600 млн параметров. Она предназначена для потоковой транскрибации с низкой задержкой и пакетной обработки аудио; доступна через NeMo и Transformers, а веса представлены в формате safetensors. Архитектура Cache-Aware FastConformer-RNNT использует кэш контекста, чтобы обрабатывать новые аудиофрагменты без повторных вычислений. Размер фрагментов можно настраивать от 80 до 1120 мс; модель расставляет пунктуацию и заглавные буквы, а при режиме auto может определять язык речи и добавлять языковую метку к транскрипту. Модель поддерживает 40 языковых локалей: для 32 заявлена транскрибация без дополнительной адаптации, а для восьми требуется дообучение на данных целевого домена. Среди языков есть русский, английский, испанский, французский, немецкий, арабский, китайский, японский и другие. Карточка указывает готовность к коммерческому использованию, однако метаданные обозначают лицензию как other, поэтому конкретные условия следует сверить с файлами лицензии репозитория. Для английской речи автор рекомендует отдельную англоязычную модель Nemotron ASR Streaming.

nepali-embedder-v1 — модель эмбеддингов предложений, разработанная для поиска и сравнения текстов на непальском языке. Она основана на BERT-энкодере google/muril-base-cased с mean pooling и дообучена на парах заголовков, вводных абзацев и разделов непальской Википедии. Модель содержит 264,8 млн параметров, принимает текст длиной до 512 токенов и выдаёт векторные представления для семантического поиска и оценки сходства. Модель предназначена для поиска документов на непальском языке, семантического поиска, RAG, кластеризации и дедупликации текстов. README сообщает о хороших результатах на внутренних тестах retrieval и устойчивости к запросам на романизированном непальском при поиске по тексту деванагари. Лицензия — Apache-2.0. Известные ограничения: модель может не различать утверждения с отрицанием; обучение на энциклопедических текстах может снижать качество на разговорных и узкоспециализированных данных. Англо-непальский поиск работает частично и не был отдельной целью обучения; юридическая, медицинская и научная терминология представлена ограниченно.

Модель raphaelsty/neural-cherche-colbert — англоязычная модель семейства MPNet, обученная с помощью Neural-Cherche и настроенная как ColBERT для поиска и ранжирования текстов. В README она описана как all-mpnet-base-v2 в формате ColBERT; доступны сценарии Retriever и Ranker, а для работы предлагается библиотека neural-cherche. Модель содержит 136,7 млн параметров, принимает последовательности длиной до 514 токенов и распространяется в формате safetensors. Лицензия — MIT. Метаданные Hugging Face классифицируют её как модель заполнения маски (fill-mask), тогда как карточка описывает применение для извлечения и ранжирования; поэтому для пользовательского поиска важнее указанные в README функции Retriever и Ranker.

thivy/norbert4-base-scandinavian-embedding — модель эмбеддингов на базе ltg/norbert4-base, разработанная для норвежского букмола и нюнорска, датского и шведского языков. Она обучена на смеси наборов данных для семантического сходства, поиска по вопросам и документам, а также общего поиска; обучение включало 1,6 млн примеров с попарными данными и триплетами. Модель предназначена для преобразования текстов в векторы размерностью 640, чтобы выполнять семантический поиск, извлечение документов по запросу, сравнение предложений, кластеризацию и классификацию. Максимальная длина последовательности — 256 токенов. В приведённых бенчмарках MTEB модель улучшает показатели поиска относительно вариантов, обученных только на данных QA или NLI. Модель распространяется по лицензии MIT. Она оптимизирована для скандинавских языков и лучше всего подходит для задач поиска; тексты длиннее 256 токенов обрезаются, а модель не предназначена для следования инструкциям.

OpenAgent-8b-i1-GGUF — квантованная версия языковой модели на 8 млрд параметров, созданная mradermacher на основе OrionLLM/Terminus-Qwen3-8b и обучавшаяся с использованием набора данных OrionLLM/OpenAgentInstruct. Модель ориентирована на генерацию текста, агентские сценарии, рассуждения и работу с терминалом, включая задачи, связанные с разработкой программного обеспечения и оцениванием в SWE-bench. Указан английский язык. Модель распространяется в формате GGUF и доступна в вариантах с разными уровнями квантования — от IQ1 до Q6_K. Это позволяет выбирать компромисс между размером файла, скоростью работы, требованиями к памяти и качеством: например, Q4_K_M обозначен как быстрый и рекомендуемый вариант, а Q4_K_S — как оптимальный по соотношению размера, скорости и качества. Низкобитные варианты могут заметно уступать по качеству, тогда как более крупные варианты требуют больше ресурсов. Сведения об архитектуре, размере контекста, дополнительных модальностях и точных языковых возможностях, кроме английского, не приведены. Лицензия модели — Apache-2.0. README описывает в основном процесс квантования и доступные файлы, поэтому результаты применения, ограничения в конкретных задачах и характеристики исходной модели, не указанные явно, требуют самостоятельной проверки.

SC117/Ornith-1.0-35B-Heretic-MTP-APEX-GGUF — квантизированная GGUF-версия Ornith-1.0-35B от DeepReinforce AI, созданная на базе Qwen3.5 MoE. Модель ориентирована на агентное программирование, задачи рассуждения и сценарии, где требуется работа с кодом. Это экспериментальный вариант, в котором LoRA Heretic 1.4.0 Trial 63 объединена с весами BF16; также включены совместимая MTP-голова Qwen3.5, визуальный проектор BF16 и варианты APEX со смешанной точностью. Основной заявленный язык — английский. Архитектура мультимодальная, MoE: 35 млрд параметров всего, около 3 млрд активных на токен, 256 экспертов, из которых используются 8. Модель содержит 40 transformer-слоёв и один MTP-слой, поддерживает контекст до 262 144 токенов. В состав релиза входят GGUF-квантизации, предназначенные для более эффективного локального запуска, а также компоненты для обработки визуальных данных. В README не указаны конкретные результаты тестов или требования к аппаратному обеспечению. Сильными сторонами являются большое контекстное окно, MoE-архитектура с относительно небольшим числом активных параметров, поддержка мультимодальности, MTP и варианты смешанной точности. К ограничениям относятся экспериментальный характер производного релиза и возможное отличие поведения, включая отказоустойчивость и склонность к отказам, от исходной модели; перед развёртыванием требуется самостоятельная оценка. Модель распространяется по лицензии MIT.

Ornith-1.5-35B-A3B-MXFP8 — модельный пакет MLX от OsaurusAI на основе Ornith-1.5-35B-A3B от Ornith AI. Это мультимодальная MoE-модель семейства Qwen3.5 с гибридной архитектурой линейного gated-delta attention и полного attention в соотношении 3:1, а также визуальным энкодером из 27 слоёв. Пакет занимает около 34,95 ГиБ и содержит веса в safetensors, подготовленные для MLX с применением калиброванной квантизации. Модель предназначена для агентного программирования, рассуждений и диалога; она принимает текст, изображения и видео. В README указаны поддержка нативного видео, включённый по умолчанию режим рассуждений, интерфейс вызова инструментов и сохранённая голова MTP для спекулятивного декодирования. Основной язык карточки — английский. Заявленные в README результаты на SWE-bench Verified и Terminal-Bench характеризуют исходную модель и не являются отдельной оценкой этого пакета. Репозиторий представляет собой квантизованный MLX-вариант дообученной базовой модели и распространяется по лицензии MIT. Он ориентирован на Apple silicon и требует совместимого окружения MLX; README отмечает, что часть тензоров визуального энкодера остаётся в fp16. В настройках рассуждений есть особенности: выключение thinking оставляет пустой закрытый блок, а уровней reasoning_effort нет.

AnkitAI/Parable-Qwen3-4B-Claude-Fable-5-GGUF — компактная локальная языковая модель для генерации текста, программирования и агентских сценариев. Она дообучена на базе Qwen/Qwen3-4B автором Ankit Aglawe с использованием QLoRA и данных о реальных многошаговых сессиях Claude Fable 5, а также транскриптов gpt5.5-terminal. Модель распространяется в формате GGUF и предназначена для запуска через llama.cpp, Ollama и LM Studio. Модель имеет около 4 млрд параметров и ориентирована на планирование, выбор инструментов, терминальные рабочие процессы и решение задач программирования. Рекомендуемая квантизация Q4_K_M занимает около 2,5 ГБ, доступны также варианты Q5_K_M, Q6_K, Q8_0 и F16. По приведённым оценкам, версия v3.1 сопоставима или превосходит базовую Qwen3-4B на тестах HumanEval, MBPP и их расширенных вариантах, а также чаще выдаёт содержательные ответы без чрезмерного скрытого рассуждения. Сильные стороны модели — небольшой размер, возможность офлайн-запуска, выраженная специализация на агентском поведении и структурированных задачах разработки. Ограничения включают меньшую точность в некоторых сценариях вызова функций по сравнению с базовой Qwen3-4B и отсутствие в README сведений о поддерживаемых языках, размере контекста и мультимодальности; заявлена только текстовая генерация. Базовая модель распространяется по лицензии Apache-2.0, однако при использовании производной модели необходимо учитывать условия лицензий обучающих наборов: AGPL-3.0 для Fable-5-traces и MIT для gpt5.5-terminal, а также возможные ограничения поставщиков исходных трасс.

tanbinh2210/phobert-st — модель Sentence Transformers, дообученная на базе vinai/phobert-base-v2. Она кодирует предложения и абзацы в плотные векторы размерности 768; архитектура состоит из RoBERTa-энкодера с усреднением токенных представлений. Модель предназначена для вычисления семантического сходства текстов, семантического поиска, поиска перефразирований, кластеризации и классификации текста. Для сравнения векторов рекомендуется косинусное сходство. Модель ориентирована на вьетнамский язык и имеет ограничение длины последовательности около 256 токенов; метаданные указывают контекст в 258 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку sentence-transformers. Информация о лицензии в предоставленных данных отсутствует, поэтому условия использования определить нельзя.

Qwen2.5.1-Coder-1.5B-Instruct-GGUF — это GGUF-квантизованная версия инструкционной модели Qwen2.5-Coder-1.5B-Instruct, подготовленная bartowski с использованием llama.cpp и imatrix-квантизации. Модель предназначена для генерации и обработки программного кода, диалогового взаимодействия и выполнения инструкций, связанных с задачами разработки. В README явно указан английский язык; поддержка других языков не заявлена. Модель относится к текстовым моделям и не предназначена для работы с изображениями или другими мультимодальными данными. Размер исходной модели — 1,5 млрд параметров. Доступны варианты квантования от F16 до IQ3_M с размером файлов примерно от 0,78 до 3,09 ГБ, что позволяет запускать модель на устройствах с ограниченными ресурсами. Более сильные стороны высокоточных вариантов — сохранение качества при локальном запуске и совместимость с llama.cpp и LM Studio; варианты с меньшим числом бит требуют меньше оперативной памяти, но могут заметнее терять в качестве. Контекст модели в README не указан, поэтому его характеристики нельзя подтвердить. Модель распространяется по лицензии Apache 2.0.

QuantFactory/Qwen2.5-Coder-0.5B-Instruct-GGUF — квантованная версия инструкционно дообученной модели Qwen2.5-Coder-0.5B-Instruct, созданная QuantFactory на основе модели Qwen и преобразованная с использованием llama.cpp. Это причинная языковая модель для генерации текста и кода, предназначенная для помощи разработчикам в написании, анализе, исправлении и рассуждении о программном коде, а также для чат-сценариев и задач, связанных с code agents. Модель сохраняет общие способности в математике и работе с текстом. Архитектура построена на transformers с RoPE, SwiGLU, RMSNorm, смещениями в Attention QKV и связанными эмбеддингами слов. Модель содержит около 0,49 млрд параметров, из которых 0,36 млрд не являются эмбеддингами, 24 слоя и Grouped-Query Attention с 14 головами для Q и 2 для KV. Максимальная длина контекста составляет 32 768 токенов. В README явно указан английский язык; сведения о мультимодальности отсутствуют, поэтому модель следует рассматривать как текстовую. К сильным сторонам относятся специализация на программном коде, улучшенные возможности генерации, исправления и анализа кода, а также небольшой размер, удобный для локального запуска в квантованном формате. Ограничениями являются существенно меньший масштаб по сравнению с крупными моделями серии Qwen2.5-Coder и отсутствие в карточке подробных результатов оценки, требований к памяти и данных о производительности. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen2.5-VL-3B-Instruct-FP8-dynamic — квантизированная версия мультимодальной модели Qwen/Qwen2.5-VL-3B-Instruct, подготовленная Neural Magic. Модель принимает изображения и текстовые запросы, а генерирует текстовые ответы; заявленный язык — английский. Релиз модели датирован 24 февраля 2025 года. Модель предназначена для задач визуального вопросно-ответного взаимодействия, анализа документов и диаграмм, распознавания содержимого изображений и решения мультимодальных задач. Она имеет архитектуру Qwen2.5-VL-3B-Instruct и около 3 миллиардов параметров, использует FP8-квантизацию весов и активаций и оптимизирована для инференса с vLLM версии 0.5.2 и новее. В примере развертывания используется контекст до 4096 токенов, однако это значение относится к конфигурации запуска, а не обязательно к предельной длине контекста модели. К сильным сторонам относятся снижение требований к памяти и эффективное выполнение инференса при сохранении качества, близкого к исходной модели: в приведённых тестах средний результат FP8-версии составил 69,67 против 69,28 у исходной модели. Оценивались задачи MMMU, VQAv2, DocVQA, ChartQA и MathVista. Ограничения включают зависимость от совместимого стека vLLM и FP8-инфраструктуры, а также отсутствие в README подробных сведений о поддерживаемых языках помимо английского и о максимальном контексте. Модель распространяется по лицензии Apache 2.0.

Qwen3.5-0.8B-Claude-Opus-Distill-Heretic-UNCENSORED — компактная текстовая модель Ghost (ghost-actual), созданная дообучением Qwen/Qwen3.5-0.8B с дистилляцией рассуждений Claude Opus и последующим снижением частоты отказов методом abliteration с помощью Heretic. Она предназначена для диалогов, генерации структурированных ответов и кода, а также для работы на устройствах с ограниченными ресурсами. В метаданных указаны 581,4 млн параметров, архитектура Qwen3.5 для причинной генерации текста, поддержка чата и контекст до 262 144 токенов; README также заявляет нативную поддержку изображений и анализа видео, однако метаданные относят модель к текстовой генерации. Карточка приводит результаты тестов отказов 2 из 100 и KL-дивергенцию 0,0100, а также заявляет производительность на OCRBench 74,5. Эти показатели приведены автором модели и не являются независимой оценкой. Формат репозитория — safetensors; автор заявляет возможность запуска в BF16 примерно на 1,5 ГБ памяти и приводит настройки генерации. Лицензия в предоставленных данных не указана. Снижение числа отказов означает, что модель может отвечать на запросы, которые модели с более строгими ограничениями отклонили бы; ответы следует проверять, особенно при использовании в чувствительных сценариях.

Это квантованная модель Qwen3-Coder-30B-A3B-Instruct в формате GGUF, преобразованная пользователем n00b001 из исходной модели Qwen/Qwen3-Coder-30B-A3B-Instruct с помощью llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и ориентирована прежде всего на задачи программирования и взаимодействие с кодом; запуск предусмотрен через llama.cpp в консольном режиме или в формате сервера. В названии указаны конфигурация 30B-A3B и квантование Q4_K_M, однако README не содержит подробностей об архитектуре, фактическом размере файла, поддерживаемых языках и модальностях. Для серверного запуска приведён пример с контекстом 2048 токенов. Сильной стороной является возможность локального использования в совместимом окружении llama.cpp и более экономичное представление благодаря квантованию. Ограничения, включая возможные потери качества из-за квантования и требования к аппаратному обеспечению, в README не описаны. Указана лицензия Apache-2.0; ссылка на лицензию относится к исходной модели Qwen/Qwen3-Coder-30B-A3B-Instruct.

RedHatAI/Qwen3-Coder-Next-FP8-dynamic — это квантизированная версия языковой модели Qwen/Qwen3-Coder-Next, разработанная Red Hat. Модель построена на архитектуре Qwen3NextForCausalLM, принимает текст и генерирует текст и предназначена прежде всего для задач генерации и обработки программного кода. Поддержка инструментов и вызовов функций предусмотрена при развертывании через vLLM. В модели используется квантизация весов и активаций в формат FP8 для линейных операторов внутри трансформерных блоков. Это снижает число битов на параметр с 16 до 8 и примерно на 50% уменьшает требования к дисковому пространству и памяти GPU. Размер модели, языки и максимальная длина контекста в README не указаны. Для работы рекомендуется vLLM; формат хранения — compressed-tensors. В представленном тестировании на SWE-Bench Lite модель получила результат 53 против 49,33 у исходной Qwen3-Coder-Next. Ограничение заключается в том, что приведена только оценка на задаче SWE-Bench Lite, поэтому по этим данным нельзя полноценно судить о качестве на других сценариях и о влиянии квантизации на все типы запросов. Модель распространяется по лицензии Apache-2.0.

karsar/Qwen3-Embedding-0.6B-hu — модель Sentence Transformers, дообученная разработчиком на базе Qwen/Qwen3-Embedding-0.6B для создания эмбеддингов на венгерском языке. Она преобразует предложения и абзацы в плотные векторы размерности 1024; близость текстов можно оценивать косинусным сходством. Архитектура включает Qwen3, пулинг по последнему токену и нормализацию векторов. Модель содержит 507,6 млн параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, классификации и кластеризации. В README приведена оценка cosine_accuracy 0,717 на тестовом наборе all-triplet-test. Обучение выполнено на наборе json с примерами anchor, positive и negative; лицензия — Apache-2.0.

zecafonso/Qwen3-Embedding-4B-1024 — текстовая Sentence Transformer модель, дообученная автором репозитория на базе Qwen/Qwen3-Embedding-4B. Она преобразует предложения и абзацы в плотные векторы размерностью 2560 и предназначена для поиска и сравнения текстов по косинусному сходству. Архитектура включает Qwen3Model, пулинг последнего токена и нормализацию; модель принимает только текст. В README указан максимальный размер последовательности 1024 токена, а метаданные каталога указывают базовый контекст Qwen в 40960 токенов. Основной сценарий — информационный поиск: подбор релевантных фрагментов по запросу, семантический поиск и ранжирование кандидатов через сравнение эмбеддингов. В README приведены оценки на двух наборах для поиска, а также сведения о дообучении на 58 примерах с anchor, positive и negative текстами. Метаданные описывают базовую модель как мультиязычную, но сам README не перечисляет языки, на которых проверена эта версия. Лицензия в предоставленных данных не указана.

Hyper-AI/Qwen3-VL-Embedding-8B-fp8 — мультимодальная модель для построения эмбеддингов, представленная как FP8-квантизированная версия 8-миллиардной модели семейства Qwen3-VL. В метаданных указана базовая модель Qwen/Qwen3-VL-8B-Instruct, а описание связывает модель с серией Qwen3-VL-Embedding, разработанной для мультимодального поиска и сопоставления информации. Инструментарий lightvl, упомянутый в README, предназначен для квантизации моделей и интеграции с vLLM; автор репозитория явно не назван. Модель принимает текст, изображения, скриншоты, видео и произвольные комбинации этих модальностей. Она предназначена для семантического поиска, кросс-модального retrieval, кластеризации, сопоставления текста с изображениями или видео и построения первого этапа двухступенчатых поисковых систем совместно с reranker-моделью. Заявлена поддержка более 30 языков, контекст до 32K токенов и размерность эмбеддингов до 4096 с настраиваемым выходным размером от 64 до 4096. Также заявлена поддержка инструкций для адаптации к конкретным задачам и MRL. Ключевое преимущество этой версии — снижение потребления памяти примерно с 16 до 8,8 ГБ и заявленное ускорение около 30% по сравнению с исходной версией; предусмотрен запуск через vLLM. README также сообщает о cosine similarity до 0,99 для изображений, однако не приводит подробностей методики измерения. Ограничения включают зависимость качества и производительности от FP8-квантизации, аппаратной поддержки и выбранных настроек инференса; подробные требования к оборудованию и результаты бенчмарков в приведённых данных отсутствуют. Лицензия — Apache-2.0.

Это исправленная сборка официальной мультимодальной модели Qwen3-VL-Embedding-8B, подготовленная scottlowry для загрузки в инструментах на базе MLX, включая oMLX и mlx-vlm. Веса BF16 сохранены без изменений; добавлен один тензор lm_head.weight — копия матрицы токенных эмбеддингов, необходимая загрузчику MLX. Модель создаёт эмбеддинги текста, изображений и видео для семантического поиска и сопоставления. Модель подходит для поиска по мультимодальным данным и оценки сходства между запросами и материалами. По карточке базовая модель имеет 8 млрд параметров; репозиторий использует формат safetensors и распространяется по лицензии Apache-2.0. Исправление предназначено для совместимости с MLX-инструментами; оно не меняет исходные четыре шарда и не добавляет функциональность генерации текста.

Qwimi3.5-9B-Kimik2.6-Opus-Distill-MTP-GGUF — экспериментальная модель, разработанная trjxter на базе unsloth/Qwen3.5-9B. Это каузальная языковая модель с GGUF-квантизацией, дообученная методом supervised fine-tuning с использованием LoRA и RS-LoRA через Unsloth и Hugging Face TRL. Обучение проводилось на смеси наборов данных с рассуждениями в стилях Kimi K2.6, Qwen и Claude Opus TraceInversion; в итоговый набор вошло 12 366 примеров, из которых 12 000 использовались для обучения. Модель ориентирована на английский язык и сохраняет формат чата Qwen, включая трассы рассуждений в формате <think>...</think>. Модель предназначена для локального запуска в llama.cpp-совместимых средах, экспериментов с рассуждениями, математикой, решением задач, программированием, техническим анализом и длинным контекстом. Заявленная длина последовательности при обучении составляет 16 384 токена. Доступны варианты Q3_K_L, Q4_K_M, Q5_K_M, Q6_K и Q8_0; Q4_K_M рекомендован как сбалансированный вариант по размеру, скорости и качеству, а более высокие уровни квантизации обеспечивают лучшее сохранение качества при увеличенных требованиях к памяти. Сильными сторонами модели являются специализация на структурированных рассуждениях, поддержка локального инференса и несколько вариантов GGUF-квантизации для разных ограничений по памяти. При этом это экспериментальный fine-tune без заявленных гарантий качества, поэтому модель следует тщательно проверять перед использованием в производственных или критически важных сценариях. Лицензия — Apache 2.0.