II.8Инженерия данных и аналитика

Карточка модели JaehyeokLee/preliminary_clustering_infonce_checkpoint_epoch_1_step_170 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_clustering_infonce_checkpoint_epoch_1_step_220 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_one_source_gist_checkpoint_epoch_1_step_10 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели liddlefish/privacy_embedding_rag_10k_base_15_final на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

Модель alpcansoydas/product-model-16.10.24 — Sentence Transformer, дообученный разработчиком на базе sentence-transformers/all-mpnet-base-v2. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для сравнения смысловой близости, семантического поиска и других задач работы с текстовыми эмбеддингами. Архитектура MPNet использует усреднение токенных представлений и нормализацию; сходство векторов можно оценивать косинусной мерой. В README указана максимальная длина последовательности 384 токена, а метаданные каталога указывают контекст до 514 токенов. Модель предназначена для семантического поиска, поиска перефразировок, кластеризации текстов и классификации на основе эмбеддингов. В README приведены невысокая точность классификации и метрики сходства со значениями nan, поэтому качество на конкретных данных следует проверять отдельно. Лицензия в предоставленных данных не указана.

QuasarLM — открытая плотная языковая модель семейства Llama от Northwind AI Research для генерации текста и работы в роли чат-ассистента. Разработчики сообщают о дообучении с обновлённой смесью инструкций, расширенной программой проверяемых задач с вознаграждением и улучшенной поддержкой вызова инструментов. Модель предназначена для математических задач, программирования, логических рассуждений и диалогов общего назначения. В карточке приведены результаты внутренних сравнений, включая точность 81,2% на AIME 2026, а также заявлены снижение галлюцинаций и более длинные цепочки рассуждений. Репозиторий содержит веса PyTorch, модель загружается через Transformers. Лицензия — Apache-2.0. Указанные в README длинные рассуждения могут повышать расход токенов; бенчмарки и сравнительные заявления приведены разработчиками и не подтверждают качество на всех пользовательских сценариях.

lucaswychan/Qwen-2.5-1.5B-SimpleRL-Zoo-Reasoning-Embedding — модель эмбеддингов на основе плотной архитектуры Qwen2 с 1,5 млрд параметров. Она дообучена на базе hkust-nlp/Qwen-2.5-1.5B-SimpleRL-Zoo и предназначена для получения семантических представлений текстов и сравнения их сходства. Контекст модели составляет 32 768 токенов; в метаданных указана поддержка нескольких языков. Для загрузки через Sentence Transformers или Transformers карточка рекомендует включить trust_remote_code=True. Модель ориентирована на поиск и сопоставление текстов по смыслу. В README описано исследование влияния RLVR-обучения базовой модели на качество эмбеддингов: оценки на MTEB и BRIGHT не выявили стабильного преимущества по сравнению с эмбеддингами, полученными из исходных моделей при одинаковой схеме контрастивного обучения. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-0.5B — базовая предварительно обученная языковая модель для работы с кодом, разработанная командой Qwen. Это причинная языковая модель семейства Qwen2: плотная архитектура Qwen2ForCausalLM с 494 млн параметров и контекстом до 32 768 токенов. В README указаны RoPE, SwiGLU, RMSNorm, смещение в QKV-внимании и связанные эмбеддинги слов; модель содержит 24 слоя и использует GQA. Модель предназначена для генерации и анализа кода, рассуждений о коде, исправления ошибок и задач заполнения фрагментов кода. Она также сохраняет общие языковые и математические возможности базовой Qwen2.5 и может служить основой для дальнейшего дообучения и создания кодовых агентов. Разработчик не рекомендует использовать базовую версию для диалога без постобучения. Модель распространяется по лицензии Apache-2.0.

Карточка модели Wjwiiwi/Qwen2.5-Coder-0.5B на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-0.5B, поэтому описание составлено по ней. Qwen2.5-Coder-0.5B — базовая предварительно обученная языковая модель для работы с кодом, разработанная командой Qwen. Это причинная языковая модель семейства Qwen2: плотная архитектура Qwen2ForCausalLM с 494 млн параметров и контекстом до 32 768 токенов. В README указаны RoPE, SwiGLU, RMSNorm, смещение в QKV-внимании и связанные эмбеддинги слов; модель содержит 24 слоя и использует GQA. Модель предназначена для генерации и анализа кода, рассуждений о коде, исправления ошибок и задач заполнения фрагментов кода. Она также сохраняет общие языковые и математические возможности базовой Qwen2.5 и может служить основой для дальнейшего дообучения и создания кодовых агентов. Разработчик не рекомендует использовать базовую версию для диалога без постобучения. Модель распространяется по лицензии Apache-2.0.

mlx-community/Qwen2.5-Coder-14B-Instruct-4bit — это 4-битная версия языковой модели Qwen2.5-Coder-14B-Instruct, разработанной Qwen и преобразованной сообществом mlx-community в формат MLX с помощью mlx-lm 0.19.3. Модель предназначена для генерации текста и работы в диалоговом режиме. Основная специализация модели — задачи, связанные с программным кодом: написание, продолжение и обсуждение кода, а также взаимодействие с пользователем в формате инструкций и ответов. Модель содержит 14 миллиардов параметров и использует 4-битное квантование, что снижает требования к памяти по сравнению с полноразмерной версией. Формат MLX ориентирован на запуск с библиотекой mlx-lm. В метаданных указан английский язык. README не содержит сведений о длине контекста, поддерживаемых модальностях, результатах тестирования и конкретных ограничениях качества, поэтому эти характеристики нельзя определить по представленным данным. Модель распространяется по лицензии Apache 2.0.

Qwen2.5-Coder-14B-Instruct-Q4_K_M-GGUF — это квантизированная версия модели Qwen2.5-Coder-14B-Instruct, преобразованная в формат GGUF для запуска с помощью llama.cpp. Исходная модель разработана командой Qwen; данный вариант конвертирован через GGUF-my-repo на базе llama.cpp. В README также указано, что модель предназначена для генерации текста и работы с кодом в диалоговом формате. Модель ориентирована на программирование, генерацию и обработку кода, а также сценарии локального запуска через llama.cpp в CLI или серверном режиме. Она содержит 14 миллиардов параметров, использует квантизацию Q4_K_M и поддерживает текстовый ввод и вывод. В метаданных указан английский язык, однако дополнительных сведений о языковом охвате, архитектуре, максимальном контексте и точных требованиях к аппаратному обеспечению нет. Ключевое преимущество варианта — возможность более экономичного локального инференса благодаря формату GGUF и квантизации, включая запуск на совместимом оборудовании через llama.cpp. Ограничения связаны с потерей точности по сравнению с полной версией модели из-за квантизации, а также с отсутствием в README подробных результатов оценки качества и характеристик производительности. Модель распространяется по лицензии Apache-2.0.

Карточка модели Pilot-zero/Qwen2.5-Coder-1.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-1.5B-Instruct — инструкционно дообученная языковая модель для генерации и анализа кода, разработанная командой Qwen. Это причинная трансформерная модель семейства Qwen2 с 1,5 млрд параметров, обученная на коде, текстово-кодовом сопоставлении и синтетических данных. Архитектура использует RoPE, SwiGLU, RMSNorm и групповое запросное внимание; контекст — до 32 768 токенов. Модель предназначена для генерации, объяснения и исправления кода, а также для диалоговых сценариев и создания кодовых агентов. По карточке семейства, обучение также сохраняло способности к математике и общим задачам, однако основной профиль этой версии — программирование. Доступна через библиотеку Transformers и поддерживает формат safetensors. Модель распространяется по лицензии Apache-2.0. Компактный размер облегчает её запуск по сравнению с крупными моделями, но качество и надёжность ответов могут быть ниже, чем у более крупных кодовых моделей; сгенерированный код следует проверять.

TobiasLogic/Qwen2.5-Coder-32B-abliterated-GGUF — это квантованная в формате GGUF Q4_K_M версия модели TobiasLogic/Qwen2.5-Coder-32B-abliterated, созданной на основе Qwen/Qwen2.5-Coder-32B-Instruct. Модель предназначена прежде всего для генерации, анализа и редактирования программного кода, а также для локального текстового общения. Разработчик удалил из исходной fp16-модели направление отказа, связанное с безопасностными ограничениями, после чего выполнил 4-битную квантование с помощью llama.cpp. Модель поддерживает запуск на CPU и GPU через Ollama или llama.cpp. Размер файла составляет примерно 19–20 ГБ; модель рассчитана на запуск на одной видеокарте с 24 ГБ VRAM. В README явно указан английский язык, а максимальный контекст для примера запуска составляет 8192 токена, однако полный размер контекстного окна не указан. По результатам EvalPlus модель показывает 89,6% на HumanEval, 84,8% на HumanEval+, 91,3% на MBPP и 77,0% на MBPP+. Эти показатели близки к базовой модели в задачах программирования, но относятся к измерениям, выполненным разработчиком. Ключевая особенность модели — отсутствие исходного поведения, связанного с отказами: в указанной проверке доля отказов снизилась с 96,9% у базовой Qwen2.5-Coder-32B-Instruct до 0,0% у abliterated-версии. Это может расширять диапазон запросов, но одновременно увеличивает риски генерации вредного или небезопасного содержимого; модель не следует воспринимать как безопасную без дополнительного контроля. Распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Qwen2.5-Coder-32B-Instruct-4bit — это 4-битная версия модели Qwen2.5-Coder-32B-Instruct, преобразованная сообществом mlx-community в формат MLX с использованием mlx-lm 0.19.3. Модель предназначена для генерации текста и работы с программным кодом в инструкционном и чат-сценариях: она может использоваться для написания, дополнения и объяснения кода, а также для диалога по техническим задачам. Указанный язык — английский. Модель содержит 32 миллиарда параметров и распространяется в 4-битном представлении. Она ориентирована на запуск через библиотеку mlx-lm; README не указывает поддерживаемые модальности, размер контекстного окна или перечень языков программирования. Модель предоставляется по лицензии Apache 2.0. Сведения о конкретных ограничениях качества, требованиях к оборудованию и результатах тестирования в README отсутствуют.

Meohan/Qwen2.5-Coder-3B-Instruct — языковая модель семейства Qwen2, ориентированная на генерацию текста и выполнение инструкций в сценариях, связанных с программированием. Модель опубликована пользователем Meohan на Hugging Face; сведения о разработчике и происхождении в README не приведены. Модель содержит около 3,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Она распространяется для использования через библиотеку Transformers; в метаданных также отмечены форматы safetensors и GGUF. Основной pipeline-тег — text-generation. Модель может применяться для генерации фрагментов программного кода, объяснения кода, помощи при рефакторинге и ответов на технические запросы в диалоговом формате. README не содержит результатов оценки, описания обучающих данных, сведений о языках, лицензии или подтверждённых характеристиках качества, поэтому перед использованием в продуктивных системах необходима самостоятельная проверка.

Это изменённая версия Qwen2.5-Coder-3B-Instruct, созданная автором skilledu методом abliteration — удалением отказов модели. Она предназначена для диалоговой генерации кода и ответов на текстовые запросы о программировании. Модель построена на плотной архитектуре Qwen2 и содержит 3,1 млрд параметров; контекст составляет до 32 768 токенов. В карточке указана поддержка английского языка, а для загрузки в приложениях предлагается библиотека Transformers. Модель может помогать писать, анализировать и исправлять код в разговорном формате. Изменение, направленное на снижение отказов, не гарантирует корректность или безопасность результатов. Лицензия указана как other, поэтому условия использования следует сверить с карточкой модели и лицензией базовой модели.

stefancosma/Qwen2.5-Coder-7B-Instruct-Q4_K_M-GGUF — это квантованная версия модели Qwen2.5-Coder-7B-Instruct, преобразованная в формат GGUF с использованием llama.cpp и сервиса GGUF-my-repo. Модель основана на разработке Qwen и предназначена для генерации текста и работы с программным кодом в диалоговом формате. Модель имеет размер 7B параметров и использует квантизацию Q4_K_M, что снижает требования к памяти по сравнению с полной версией, но может сопровождаться некоторой потерей качества. Она рассчитана на текстовые задачи, включая написание, дополнение и объяснение кода, и может запускаться локально через llama.cpp в CLI или серверном режиме. В метаданных указан английский язык. В примере запуска серверу задаётся контекст 2048 токенов, однако максимальный размер контекста в карточке не указан. К сильным сторонам относятся специализированная направленность на программирование, компактный размер, формат GGUF и совместимость с llama.cpp, включая запуск на различном оборудовании. Ограничения связаны с отсутствием подробных результатов оценки и характеристик исходной модели в этой карточке, а также с возможным снижением точности из-за квантизации. Модель распространяется по лицензии Apache-2.0.

Jongbin-kr разработал эту модель как дообученную версию Qwen/Qwen2.5-Coder-7B-Instruct с использованием TRL. Это плотная языковая модель семейства Qwen2 для генерации текста в формате диалога, в том числе для задач программирования и рассуждений. Модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель работает через библиотеку Transformers и распространяется в формате safetensors. В README приведён пример генерации ответа на вопрос в диалоговом формате. Лицензия в предоставленных данных не указана.

QuantTrio Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-v2-AWQ — это AWQ-квантизированная версия модели Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-v2, разработанной на базе Qwen3.5-27B. Исходную дообученную модель создал Jackrong, а репозиторий квантизации поддерживается QuantTrio. Квантизация выполнена методом data-free, без калибровочного датасета, что позволяет уменьшить размер модели примерно до 21 GiB и снизить требования к памяти при инференсе. Модель ориентирована на задачи рассуждения, математику, текстовые задачи, логическую дедукцию, инструкции и программирование. По заявленным результатам, она сохраняет показатель 96,91% pass@1 на HumanEval, сокращает длину цепочки рассуждений примерно на 24% и обеспечивает на 31,6% больше корректных решений на токен по сравнению с базовой моделью. Для запуска рекомендуется vLLM с поддержкой AWQ, tool calls и reasoning parser; в README приведена конфигурация с контекстом до 32768 токенов и тензорным параллелизмом на двух GPU. Сильными сторонами являются экономичное рассуждение, высокая эффективность на задачах программирования и возможность использования в оптимизированном режиме инференса. Ограничения включают снижение результатов на HumanEval+ на 1,24% и на MMLU-Pro на 7,2%, а также возможное ухудшение качества на задачах, требующих длинного контекста или сложного многошагового рассуждения. Языки и точный набор поддерживаемых модальностей в README не указаны; pipeline обозначен как image-text-to-text, но подробностей о мультимодальных возможностях нет. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-REAM-160-ru-agent — экспериментальная сжатая версия Qwen/Qwen3.6-35B-A3B, подготовленная автором WaveCut методом REAM: основные языковые MoE-слои и блок MTP сведены к 160 экспертам. Калибровка ориентирована на код, математику, агентное использование инструментов и сохранение ответов на русском языке. Модель предназначена для диалогов, работы coding-агента и анализа изображений; метаданные указывают на интерфейс вызова инструментов и поддержку vision. Модель принимает текст и изображения и генерирует текст. README описывает проверки структуры и пробные сценарии на русском языке, отладке кода и вызове инструментов, но не приводит результаты количественной оценки качества. Формат файлов — safetensors, библиотека — Transformers. Условия лицензии в предоставленных данных не указаны.

Qwen3-Coder-30B-A3B-Instruct-6bit-DWQ-lr3e-7 — это MLX-версия инструкционной модели для генерации текста и решения задач, связанных с программированием, из семейства Qwen3-Coder. Модель преобразована из Qwen/Qwen3-Coder-30B-A3B-Instruct в формат MLX с использованием mlx-lm 0.26.2 и предназначена для запуска через библиотеку mlx-lm, в том числе в сценариях диалогового взаимодействия и генерации ответов на текстовые запросы. Из доступных данных известны обозначения размера 30B, конфигурации A3B и 6-битного квантования DWQ. Модель работает в текстовой модальности; сведения о поддерживаемых языках, размере контекстного окна, архитектурных деталях, результатах тестирования и ограничениях качества в README не указаны. Использование разрешено по лицензии Apache 2.0.

Qwen3-Coder-30B-A3B-Instruct GGUF — квантизированная версия модели Qwen/Qwen3-Coder-30B-A3B-Instruct, подготовленная ByteShape с использованием ShapeLearn. Этот метод подбирает тип данных для отдельных тензоров, чтобы сохранить высокое качество при малой разрядности. Модель предназначена прежде всего для генерации и анализа программного кода, а также сценариев, связанных с вызовом функций; это отражено в используемых при оценке бенчмарках HumanEval, LiveCodeBench и BFCL-V3. Модель распространяется в формате GGUF и предназначена для локального запуска, в частности через llama.cpp и Ollama. Доступны варианты для CPU с преимущественно KQ-квантизацией и для GPU с гибридным подходом KQ/IQ. Размер файлов составляет примерно от 10,1 до 16,0 ГБ, а средняя разрядность — от 2,65 до 4,20 бит на вес, что позволяет выбирать баланс между скоростью, требованиями к памяти и качеством. README не содержит сведений о контекстном окне, поддерживаемых языках, точной архитектуре или мультимодальности. Сильными сторонами являются широкий выбор аппаратно-оптимизированных вариантов, низкие требования к памяти по сравнению с полной моделью и возможность локального использования. Ограничением выступает компромисс между степенью квантизации и качеством: более компактные варианты могут уступать более крупным по точности, а фактическая производительность зависит от оборудования и выбранного файла. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-GGUF — квантизированная версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной Qwen и подготовленной в формате GGUF компанией Second State Inc. Модель предназначена для генерации текста, прежде всего для задач программирования и работы с кодом, и может запускаться через GaiaNet с шаблоном запросов ChatML. Модель имеет архитектуру и параметры исходной Qwen3-Coder-30B-A3B-Instruct; в README указано обозначение 30B-A3B, однако подробности архитектуры не приведены. Поддерживается контекст размером до 256 000 токенов. Модель работает в текстовой модальности, а сведения о поддерживаемых языках в README отсутствуют. Квантизация выполнена с использованием llama.cpp b6031. Модель подходит для локального или распределённого запуска в сценариях генерации текста и помощи с программированием. Ключевое преимущество — большой контекст и формат GGUF, удобный для совместимых сред запуска. Ограничения README не описывает; также не приведены сведения о точном типе квантизации, требованиях к ресурсам, производительности и языковом покрытии. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-Next-Base — базовая языковая модель для кодирующих агентов и локальной разработки, опубликованная Unsloth. Это причинная модель семейства Qwen3-Next с гибридным вниманием и разреженной архитектурой MoE; карточка Unsloth указывает 80 млрд параметров всего и 3 млрд активируемых, тогда как метаданные Hugging Face указывают 2,3 млрд параметров. Нативная длина контекста — 262 144 токена. Модель предназначена для генерации кода, адаптации шаблонов и каркасов проектов, вызова инструментов, а также обнаружения и исправления ошибок; её можно использовать как основу для дальнейшего дообучения агентных систем. README заявляет поддержку более 370 языков, но не уточняет, какие именно из них являются естественными, а какие — языками программирования. Модель текстовая и рассчитана на режим без рассуждений в формате thinking. Модель поставляется в формате safetensors и распространяется по лицензии Apache-2.0. README описывает её как базовую модель этапа предобучения; сведения о конкретных ограничениях качества или оценки на бенчмарках в предоставленных данных отсутствуют.

Qwen3-Coder-Next-GPTQ — это 4-битная GPTQ-квантизованная версия модели Qwen3-Coder-Next, разработанной Qwen и подготовленной пользователем 6block. Модель предназначена для генерации и обработки текста, прежде всего для задач программирования, и поддерживает английский и китайский языки. Она рассчитана на эффективное развертывание с помощью vLLM и SGLang. В основе лежит разреженная MoE-архитектура qwen3_next: 80 млрд параметров всего, около 3 млрд активных, 48 слоёв, 512 экспертов и маршрутизация top-10. Контекст составляет 256K токенов. Используется схема W4A16 с размером группы 128 и формат compressed-tensors на базе safetensors. Большинство весов, включая линейные слои экспертов и attention, квантизовано до 4 бит, тогда как маршрутизаторы MoE и lm_head сохранены в bf16. Размер модели составляет около 40 ГиБ, что позволяет запускать её на одной видеокарте объёмом 48 ГБ и, с параллелизмом или выгрузкой, на конфигурациях с 24 ГБ. Главное преимущество — существенное снижение требований к памяти при сохранении близкого к исходной модели поведения; по данным README, perplexity на wikitext-2-raw составляет 9,34 против 7,74 у эталонной bf16-версии. Ограничением является заметное ухудшение этого показателя относительно bf16, а также необходимость совместимого движка, поддерживающего compressed-tensors. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

zecafonso/Qwen3-Embedding-0.6B-384 — текстовая модель Sentence Transformer, дообученная автором репозитория на Qwen/Qwen3-Embedding-0.6B. Она кодирует предложения и абзацы в плотные векторы размерности 1024, нормализует их и позволяет оценивать близость по косинусному сходству. Модель рассчитана на поиск релевантных фрагментов по запросу и семантическое сравнение текстов; в README приведена оценка на двух наборах данных для поиска, а также сведения о небольшом обучающем наборе из 66 примеров. Архитектура использует Qwen3Model с pooling по последнему токену. Максимальная длина последовательности в карточке — 384 токена; общая длина контекста базовой модели указана в метаданных как 32 768 токенов, но для данного чекпойнта README указывает более короткое ограничение. Модель принимает текст и выдаёт векторные представления. Репозиторий использует формат safetensors и библиотеку Sentence Transformers. Лицензия в предоставленных данных не указана.

IoannisKat1/Qwen3-Embedding-4b-matryoshka — текстовая модель эмбеддингов, дообученная разработчиком IoannisKat1 на базе Qwen/Qwen3-Embedding-4B. Она преобразует предложения и абзацы в нормализованные плотные векторы размерности 2560 для семантического поиска и извлечения релевантных документов; близость векторов оценивается косинусным сходством. Архитектура Sentence Transformer использует Qwen3Model, pooling по последнему токену и нормализацию. Поддерживает английский язык и контекст до 40 960 токенов. Обучение проводилось на 4 268 парах текстов с MatryoshkaLoss и MultipleNegativesRankingLoss. Векторы можно усекать до меньших размерностей, от 2048 до 64, с измеренным качеством поиска для нескольких размерностей; показатели зависят от размерности и набора данных. Модель распространяется под лицензией Apache-2.0. Она предназначена для получения эмбеддингов и не генерирует ответы; карточка не приводит результатов на широком наборе языков или доменов.

Qwen3-Embedding-4B-W4A16-G128 — GPTQ-квантованная версия модели Qwen3-Embedding-4B, опубликованная пользователем boboliu и разработанная на базе Qwen/Qwen3-Embedding-4B. Модель предназначена для создания текстовых эмбеддингов и задач семантического сходства, классификации, кластеризации, поиска, reranking и оценки семантического соответствия. Для калибровки использовались наборы THUIR/T2Ranking и m-a-p/COIG-CQIA. Модель содержит около 4 млрд параметров и использует формат квантования W4A16 с GPTQ. По данным README, квантирование снижает использование VRAM примерно с 17 430 до 11 000 МБ без FA2. На бенчмарке C-MTEB средний результат составляет 71,75 против 72,27 у исходной Qwen3-Embedding-4B, то есть потери составляют около 0,72%. Языки, точная архитектура, размер контекста и поддерживаемые модальности в README не указаны. Основное преимущество модели — уменьшенные требования к видеопамяти при сохранении близкого к исходной версии качества, что делает её более подходящей для локального запуска и ресурсоограниченной инфраструктуры. Ограничением является небольшое снижение качества на C-MTEB, а также необходимость совместимой программной среды для работы с GPTQ-квантованием. README рекомендует установить compressed-tensors, optimum и один из пакетов auto-gptq или gptqmodel. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-Embedding-8B — мультимодальная модель эмбеддингов семейства Qwen, разработанная командой Qwen и дообученная на базе Qwen/Qwen3-VL-8B-Instruct. Она предназначена для поиска и сопоставления информации между текстом, изображениями, скриншотами и видео, а также для кластеризации мультимодального контента. Модель принимает отдельные модальности и их сочетания и кодирует их в общее векторное пространство. Модель содержит 8 млрд параметров, имеет архитектуру Qwen3-VL и контекст длиной до 32 тысяч токенов. Размерность эмбеддинга достигает 4096; поддерживаются настраиваемые размерности от 64 до 4096. Заявлена поддержка более 30 языков, а среди сценариев — мультимодальный и межъязыковой поиск, сопоставление текста с изображениями и видео и визуальный поиск по документам. Модель распространяется под лицензией Apache-2.0. Эмбеддинги подходят для первичного поиска и кластеризации; для уточнения порядка найденных результатов карточка рекомендует отдельную модель Qwen3-VL-Reranker. Для многоязычных сценариев README советует формулировать инструкции на английском, поскольку большинство инструкций при обучении были на этом языке.

i1j/reranker — текстовый Cross-Encoder, дообученный на базе BAAI/bge-reranker-v2-m3 с использованием библиотеки sentence-transformers. Модель разработана как переранжировщик: она совместно обрабатывает пары текстов и выдаёт оценку их релевантности, которую можно использовать для изменения порядка результатов поиска и семантического поиска. Архитектура основана на XLM-RoBERTa и реализована как XLMRobertaForSequenceClassification с одним выходным значением. Максимальная длина последовательности составляет 8192 токена; модель принимает текст и выдаёт оценку. Лицензия в предоставленных данных не указана.