II.8Инженерия данных и аналитика

GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Карточка модели RedHatAI/granite-4.2-3b на Hugging Face совпадает с карточкой ibm-granite/granite-4.2-3b, поэтому описание составлено по ней. Granite-4.2-3B — компактная языковая модель IBM Granite Team на базе плотного декодирующего трансформера GraniteForCausalLM с 3,4 млрд параметров. Она дообучена на Granite-4.1-3B-Base и рассчитана на диалог, рассуждения и следование инструкциям; доступны режимы полного, облегчённого и отключённого рассуждения. Модель предназначена для решения математических и логических задач, программирования, многошагового анализа и вызова инструментов в агентных сценариях. Она поддерживает контекст до 131 072 токенов по метаданным; в README заявлено окно 512 тысяч токенов. Поддерживаемые языки включают английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский; качество может быть ниже английского. Модель использует архитектуру decoder-only dense Transformer, формат весов safetensors и библиотеку Transformers. Она выпущена по лицензии Apache 2.0, допускающей коммерческое и академическое использование. Ответы могут быть неточными, предвзятыми или небезопасными; промежуточные рассуждения не всегда отражают итоговый ответ.

Это модель Sentence Transformers на основе BERT, созданная дообучением thenlper/gte-small. Она преобразует предложения и абзацы в плотные векторы размерностью 384 и сравнивает их с помощью косинусного сходства. Максимальная длина входной последовательности — 512 токенов; архитектура включает усреднение токенных представлений и нормализацию векторов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразирований, кластеризации и классификации текста. Её можно использовать для построения векторного поиска и группировки похожих предложений и документов. Карточка указывает англоязычную базовую модель GTE; отдельные языки дообучения не обозначены. Модель распространяется в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

Hy4 preview — языковая модель поколения Hy4, разработанная командой Tencent Hy. README описывает её как модель Mixture-of-Experts с 770 млрд параметров в основной части и 49 млрд активируемых параметров на токен; встроенный слой MTP предназначен для ускорения спекулятивного декодирования. Метаданные Hugging Face указывают архитектуру HYV4ForCausalLM, библиотеку Transformers, 33,9 млрд параметров и контекст до 1 048 576 токенов; эти значения расходятся с характеристиками в README. Модель предназначена для диалоговой генерации текста и сложных задач: разработки и отладки программ, работы с документами и таблицами, анализа данных, создания прототипов игр и решения научных задач. В README также заявлены сценарии подготовки презентаций и финансовых моделей. Указанная в карточке лицензия — Apache-2.0. Это ранняя preview-версия. Известные ограничения — избыточно долгие рассуждения на сложных задачах и склонность чрезмерно перепроверять результат.

Lion-Lamarck-v.1.0.8 — объединённая с помощью mergekit методом SCE языковая модель на архитектуре Qwen2, опубликованная пользователем nlpguy. В качестве основы использована sometimesanotion/Lamarck-14B-v0.7; в объединение также вошли SuperNova-Medius, Virtuoso-Small, Qwen2.5-14B-Vimarckoso-v3 и DeepSeek-R1-Distill-Qwen-14B. Размер модели — 14 млрд параметров, контекст — до 131 072 токенов. Модель предназначена для диалогов и генерации текста. Она может использоваться для ответов на вопросы, помощи с математическими задачами и программированием, а также для текстовых задач, требующих рассуждений. Доступны веса в формате safetensors и интерфейс для вызова инструментов. В метаданных не указана лицензия, поэтому условия использования следует проверить на странице репозитория Hugging Face.

Llama-3.1-Nemotron-Nano-4B-v1.1 — компактная плотная авторегрессионная языковая модель на архитектуре Llama, размещённая в репозитории Unsloth и основанная на NVIDIA Llama-3.1-Nemotron-Nano-4B-v1.1. Это дообученный чекпойнт примерно на 3,9 млрд параметров, созданный для диалога, следования инструкциям и рассуждений; в обучении использовались SFT и этапы обучения с подкреплением для математики, кода, работы с инструментами и предпочтений в чате. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. Модель предназначена для локального запуска на одном GPU и для создания чат-ботов, агентных систем и приложений RAG. README указывает поддержку английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков, а также задач с кодом. Карточка сообщает, что модель готова к коммерческому использованию, однако метаданные обозначают лицензию только как other и не раскрывают её условия, поэтому перед использованием следует проверить лицензионные условия репозитория. В README приведены результаты на отдельных бенчмарках; они получены при контексте до 32 тыс. токенов и не гарантируют аналогичного качества в других сценариях.

Llama-3.1-Nemotron-Ultra-253B-v1-FP8 — большая языковая модель NVIDIA, производная от Meta Llama-3.1-405B-Instruct. Это плотный decoder-only Transformer с архитектурой, оптимизированной методом Neural Architecture Search: блоки могут содержать пропущенное внимание, переменное соотношение FFN и объединённые FFN. В README указано 253 млрд параметров; метаданные Hugging Face указывают 697,9 млрд параметров. Модель распространяется в формате FP8 и работает через Transformers. Модель предназначена для рассуждений, диалогов, следования инструкциям, генерации кода, retrieval-augmented generation, вызова инструментов и построения AI-агентов и чат-ботов. Она поддерживает текстовый ввод и вывод с контекстом до 131 072 токенов, а основным языком является английский; также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. NAS-оптимизация направлена на уменьшение потребления памяти и задержки при сохранении качества и позволяет запускать модель на одном узле с 8 H100 для инференса. Модель ориентирована на коммерческое использование, однако требует значительных вычислительных ресурсов и специализированной инфраструктуры. Данные предварительного обучения имеют срез 2023 года, поэтому модель может не знать более свежие факты. Архитектура нестандартна относительно исходной Llama и может требовать совместимого программного стека. Использование регулируется NVIDIA Open Model License и дополнительными условиями Llama 3.1 Community License Agreement.

Llama-3.3-Nemotron-Super-49B-v1.5-GGUF — квантованное представление большой языковой модели NVIDIA, производной от Meta Llama-3.3-70B-Instruct. Модель предназначена для рассуждений, многоходового чата, следования инструкциям, программирования, математических и научных задач, а также для создания RAG-систем, AI-агентов и приложений с вызовом инструментов. Версия GGUF подготовлена Unsloth и включает исправления шаблона чата; для llama.cpp рекомендуется использовать параметр --jinja. Модель представляет собой плотный decoder-only Transformer с архитектурными изменениями, полученными методом Neural Architecture Search: в отдельных блоках внимание пропускается или заменяется линейным слоем, а коэффициент расширения FFN может различаться между блоками. Такой подход уменьшает требования к памяти и повышает эффективность инференса при сохранении качества. Указаны размер 49B параметров, контекст до 128K токенов и поддержка английского языка, включая задачи с кодом. Модель обучалась на данных с отсечкой по 2023 году, поэтому её знания могут быть устаревшими. Сильными сторонами являются сочетание качества рассуждений и эффективности, поддержка агентных сценариев, RAG и tool calling, а также возможность применения в коммерческих проектах. Ограничения включают специализацию преимущественно на английском языке, отсутствие заявленной мультимодальности и зависимость характеристик от конкретного GGUF-кванта и оборудования. Использование регулируется NVIDIA Open Model License, а также дополнительными условиями Llama 3.3 Community License Agreement.

Motif 3 — мультиязычная авторегрессионная языковая модель Motif Technologies с архитектурой Mixture-of-Experts (MoE), представленная как диалоговая версия базовой Motif-3-Base. По метаданным, модель содержит 11 млрд параметров; README описывает конфигурацию на 314 млрд параметров всего, из которых 13,2 млрд активируются на токен, поэтому сведения о размере в источниках расходятся. Модель принимает текст и генерирует текст, поддерживает контекст до 262 144 токенов и рассчитана на английский и корейский языки, а также на код и математические задачи. Модель предназначена для диалога, генерации и продолжения текста, программирования, рассуждений и агентных сценариев с использованием инструментов, включая решение задач через терминал. В архитектуре заявлены Grouped Differential Latent Attention, 384 маршрутизируемых эксперта, Multi-Token Prediction для ускорения генерации и другие собственные компоненты. README сообщает о сильных результатах на агентных и инструментальных тестах, но не предоставляет полную таблицу оценок в доступном тексте. Веса доступны для скачивания; лицензия по метаданным — MIT.

tomaarsen/mpnet-base-allnli — модель Sentence Transformers, дообученная разработчиком tomaarsen на базе microsoft/mpnet-base. Она кодирует предложения и абзацы в плотные векторы размерности 768 и предназначена для сравнения смысловой близости текстов, семантического поиска и других задач, где нужно сопоставлять тексты по значению. Модель использует архитектуру MPNet с усреднением токенных представлений и нормализацией выходного вектора; для оценки сходства в карточке рекомендуется скалярное произведение. Контекст модели составляет до 384 токенов по README и до 514 токенов по метаданным.

sentence-transformers/msmarco-MiniLM-L12-v3 — модель Sentence Transformers, обученная командой sentence-transformers. Она кодирует предложения и абзацы в плотные векторы размерностью 384 и предназначена для семантического поиска, сравнения текстов и кластеризации. В основе лежит архитектура BERT; модель содержит 40 млн параметров и поддерживает контекст до 512 токенов. Для получения корректных представлений при использовании через Transformers требуется применить соответствующую операцию pooling к контекстным представлениям токенов. Модель подходит для поиска текстов по смыслу и группировки семантически близких фрагментов. Доступны варианты весов PyTorch, TensorFlow, Flax, ONNX и OpenVINO. Лицензия — Apache-2.0. В карточке не приведены сведения о поддерживаемых естественных языках или оценках качества; размер контекста ограничен 512 токенами.

Multilingual-E5-base — многоязычная модель эмбеддингов текста семейства E5, представленная в техническом отчёте Liang Wang и соавторов. Это плотная модель на архитектуре XLM-RoBERTa с 12 слоями, размерностью эмбеддинга 768 и 305,2 млн параметров; карточка указывает, что она основана на xlm-roberta-base и дополнительно обучена на смеси многоязычных наборов данных. Модель преобразует текст в векторы для поиска по смыслу и сравнения предложений; доступны форматы PyTorch, Safetensors, ONNX и OpenVINO. Она подходит для многоязычного семантического поиска, извлечения passages по запросам, оценки сходства предложений, поиска перефразировок и получения признаков для кластеризации или классификации. Для корректной работы с задачами поиска и сходства README рекомендует добавлять префикс «query: »; для асимметричного поиска passages используется также «passage: ». Указан контекст до 514 токенов в метаданных, а README предупреждает об усечении длинного текста до 512 токенов. Заявлена поддержка 100 языков XLM-RoBERTa, при этом для языков с малым объёмом ресурсов качество может снижаться. Модель рассчитана на прикладное использование в задачах поиска и сходства; лицензия — MIT.

Карточка модели Karmukilan/multilingual-e5-base на Hugging Face совпадает с карточкой intfloat/multilingual-e5-base, поэтому описание составлено по ней. Multilingual-E5-base — многоязычная модель для получения эмбеддингов текста, разработанная авторами технического отчёта Multilingual E5. Она основана на XLM-RoBERTa-base и продолжительно обучена на смеси многоязычных наборов данных. Модель имеет 12 слоёв, размер эмбеддинга 768 и около 305,2 млн параметров; поддерживает до 512 токенов текста и доступна в форматах PyTorch, Safetensors, ONNX и OpenVINO. Модель предназначена для поиска по смыслу, сопоставления предложений и текстов, семантической близости, поиска парафразов и межъязыкового поиска. Для асимметричного поиска используйте префиксы «query: » и «passage: », а для симметричных задач и извлечения признаков — «query: »; без префиксов качество может снизиться. Поддерживается около 100 языков, включая русский, хотя для языков с малым объёмом данных качество может быть ниже. Лицензия — MIT.

Карточка модели NaganoJRC/multilingual-e5-base на Hugging Face совпадает с карточкой intfloat/multilingual-e5-base, поэтому описание составлено по ней. Multilingual-E5-base — многоязычная модель для получения эмбеддингов текста, разработанная авторами технического отчёта Multilingual E5. Она основана на XLM-RoBERTa-base и продолжительно обучена на смеси многоязычных наборов данных. Модель имеет 12 слоёв, размер эмбеддинга 768 и около 305,2 млн параметров; поддерживает до 512 токенов текста и доступна в форматах PyTorch, Safetensors, ONNX и OpenVINO. Модель предназначена для поиска по смыслу, сопоставления предложений и текстов, семантической близости, поиска парафразов и межъязыкового поиска. Для асимметричного поиска используйте префиксы «query: » и «passage: », а для симметричных задач и извлечения признаков — «query: »; без префиксов качество может снизиться. Поддерживается около 100 языков, включая русский, хотя для языков с малым объёмом данных качество может быть ниже. Лицензия — MIT.

Это многоязычная модель Sentence Transformer, дообученная на базе intfloat/multilingual-e5-large командой thang1943. Она преобразует предложения и абзацы в нормализованные плотные векторы размерности 1024, пригодные для сравнения по косинусному сходству. Архитектура основана на XLM-RoBERTa-large с усреднением токенных представлений и нормализацией; максимальная длина входа составляет 512 токенов, библиотека — sentence-transformers. Модель предназначена для семантического поиска и сопоставления текстов, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. Обучение выполнено на датасете dataset_full_fixed из 54 755 пар запросов и положительных примеров; приведённая в карточке оценка cosine_accuracy@5 для информационного поиска составляет 0,9092. Лицензия в предоставленных данных не указана.

Карточка модели leoikaichen/MyOwn_Qwen3-Embedding-0.8B на Hugging Face совпадает с карточкой unsloth/Qwen3-Embedding-0.6B, поэтому описание составлено по ней. Qwen3-Embedding-0.6B — текстовая модель эмбеддингов семейства Qwen3, представленная в репозитории Unsloth и основанная на Qwen/Qwen3-0.6B-Base. Это плотная архитектура с 507,6 млн параметров и контекстом до 32 768 токенов. Модель преобразует текст в векторы размерностью от 32 до 1024 и позволяет задавать инструкцию для конкретной задачи. Модель предназначена для семантического поиска и извлечения текстов, сравнения предложений, классификации и кластеризации текста, поиска по коду и межъязыкового сопоставления. Она поддерживает более 100 языков, включая языки программирования, и рассчитана на многоязычные и межъязыковые сценарии. Лицензия — Apache-2.0. Карточка описывает всю серию Qwen3 Embedding, поэтому приведённые в ней лидерские результаты относятся к модели 8B, а не подтверждают такие же результаты для версии 0.6B. Для работы с Transformers требуется версия 4.51.0 или новее: более ранние версии могут выдавать ошибку распознавания архитектуры Qwen3.

Nemotron-H-47B-Reasoning-128K — большая языковая модель NVIDIA для диалогов, рассуждений и обычных задач генерации текста. Она сочетает слои Mamba-2 и MLP с пятью слоями Attention, содержит 47 млрд параметров и поддерживает контекст до 128 тыс. токенов. В зависимости от системной инструкции модель может сначала сформировать рассуждение, а затем ответ, либо выдать ответ без видимого рассуждения. Модель принимает и генерирует текст. Заявлена поддержка английского, немецкого, испанского, французского, итальянского, корейского, португальского, русского, японского и китайского языков. Подходит для диалогов, ответов на вопросы, задач по математике, науке, программированию и другим темам. Доступны контрольные точки BF16 для Transformers и TensorRT-LLM, а также FB8 для TensorRT-LLM; модель рассчитана на запуск с ускорением NVIDIA GPU. Модель может выдавать неточные, неполные, нерелевантные или избыточные ответы, а также воспроизводить токсичность и предвзятость из обучающих данных. В README также отмечена уязвимость к некоторым вариантам косвенной prompt injection. Лицензия указана как other; README ограничивает назначение исследованиями и разработкой.

Nexa-AI-4B-Instruct — мультиязычная инструкционная языковая модель, совместно разработанная Neura Tech AI и Lumina AI на основе Qwen/Qwen3-4B-Instruct-2507. Это плотный декодерный Transformer с 3,7 млрд параметров, предназначенный для диалогов и выполнения инструкций; модель распространяется в формате Safetensors через библиотеку Transformers. Модель подходит для генерации ответов, помощи с программированием, математических и логических задач, а также сценариев с вызовом инструментов и агентами. Она поддерживает английский, хинди и китайский; в карточке также заявлены другие языки. Контекстное окно составляет до 262 144 токенов. Разработчики сообщают о дообученной настройке на полезные ответы и приводят результаты сравнительных тестов, но в карточке нет достаточных подробностей об условиях оценки для независимой проверки этих заявлений. Лицензия — Apache-2.0.

Olmo-3.1-32B-Instruct — авторегрессионная языковая модель на архитектуре Transformer, разработанная Allen Institute for AI (Ai2). Это плотная модель семейства OLMo 3 с 31,7 млрд параметров, дообученная на основе allenai/Olmo-3.1-32B-Instruct-DPO; карточка также описывает этапы SFT, DPO и обучения с подкреплением на данных Dolci. Модель рассчитана на диалог, выполнение инструкций, общие знания, математику и программирование; поддерживает интерфейс вызова инструментов. Основной язык — английский, контекст — до 65 536 токенов. Модель можно применять для ответов на вопросы, помощи с кодом и математическими задачами, а также для диалоговых и общих текстовых запросов. Доступна в формате Safetensors и работает с Transformers версии 4.57.0 или выше. Лицензия Apache 2.0; разработчик указывает на исследовательское и образовательное применение в соответствии с рекомендациями Ai2 по ответственному использованию.

Ornith-1.5-9B — плотная языковая модель примерно на 9 млрд параметров семейства Qwen3.5, разработанная командой Ornith AI. Она развивает Ornith-1.0 за счёт цикла самоулучшения с генерацией обучающих задач, поиском стратегий решения и обучением с подкреплением. Модель предназначена для агентных сценариев, программирования и выполнения многошаговых задач с использованием инструментов; поддерживает диалог и вызовы функций через совместимый с OpenAI API интерфейс. Модель принимает и генерирует текст. Заявленное базовое окно контекста составляет 262 144 токена; с масштабированием YaRN в README описано расширение примерно до миллиона токенов, которое может немного снижать качество на обычных запросах. Версия на 9B рассчитана на эффективное развёртывание, включая обслуживание на одной 80-гигабайтной GPU; веса в bf16 занимают около 19 ГБ. Карточка описывает бенчмарки для программных и агентных задач, но сами численные результаты здесь не приведены. Лицензия — MIT.

OYM-Qimi-122B-A10B-K2.6 — мультимодальная модель OpenYourMind на архитектуре Qwen3.5 MoE с 122 млрд общих и примерно 10 млрд активных параметров. Она дообучена на базе Qwen/Qwen3.5-122B-A10B через дистиллированную и аблитерированную линию Qwopus3.5: в карточке описаны два этапа SFT примерно на 20 тысячах примеров с трассами рассуждений. Модель принимает текст и изображения, а также обрабатывает видео; выдаёт текст. Веса BF16 совместимы по форме с исходной моделью, включают зрительную башню и восстановленную голову MTP для спекулятивного декодирования. Модель предназначена для диалогов, рассуждений, анализа изображений и видео, программирования и использования инструментов. В опубликованных тестах результаты по генерации кода совпали с базовой моделью, а показатели использования инструментов были близки к ней. Разработчик сообщает, что модель полностью «разцензурирована»; это может означать меньше отказов, но также требует осторожного контроля ответов при внедрении. Для полной точности BF16 требуются несколько ускорителей: в карточке указаны конфигурации из двух H200/B200 или четырёх H100 по 80 ГБ. Лицензия обозначена как Other и наследует условия лицензии базовой Qwen3.5; перед использованием следует проверить её условия.

q3mds-8b — объединённая текстовая языковая модель, созданная bloomsirenix с помощью mergekit методом DARE TIES. В объединение вошли Qwen/Qwen3-8B, DeepSeek-R1-0528-Qwen3-8B, Qwen3-8B-ABC и OpenCodeEdit-Qwen3-8B; базой указан Qwen3-8B. Модель построена на плотной архитектуре Qwen3ForCausalLM, содержит 7,6 млрд параметров и имеет контекстное окно до 40 960 токенов. Модель предназначена для диалоговой генерации текста, ответов на инструкции, рассуждений и помощи с кодом. Она принимает текст и выдаёт текст. Поддерживает многоязычное использование; конкретный перечень языков для этой сборки не установлен в предоставленных данных. Модель распространяется в формате safetensors через библиотеку Transformers по лицензии Apache-2.0. Качество и поведение могут отличаться от отдельных моделей, вошедших в слияние; README не приводит сравнительных оценок или результатов тестирования.

Qwen2.5-Coder-32B-Instruct-MLX-4bit — 4-битная MLX-квантизация модели Qwen2.5-Coder-32B-Instruct, разработанной командой Qwen. Квантизацию предоставил bartowski на основе инструментов mlx-examples; модель распространяется в рамках сообщества LM Studio и предназначена для работы на Mac с Apple Silicon. Модель ориентирована на генерацию и обработку кода, чат-взаимодействие и сценарии с code agents. Она обучалась на объёме до 5,5 триллиона токенов, включая исходный код, текстово-кодовые соответствия и синтетические данные. Поддерживается длинный контекст до 128K токенов с масштабированием RoPE через YaRN с коэффициентом 4,0. В метаданных указан английский язык. Формат MLX 4-bit снижает требования к памяти по сравнению с полноразмерной версией, однако квантизация может влиять на качество и точность результатов; модель также способна генерировать неточный, вредный или неподходящий контент. Лицензия — Apache-2.0.

Qwen3.6-27B-unsloth-code-reasoning-deepseek-v4-pro-destilled-Mlx — созданная сообществом 4-битная MLX-конверсия плотной vision-language модели семейства Qwen с примерно 27 млрд параметров. В основе указаны Qwen/Qwen3.5-27B и unsloth/Qwen3.6-27B; модель дообучена с использованием Unsloth и дистиллирована на примерах рассуждений DeepSeek v4 Pro. Она предназначена прежде всего для локального запуска на Apple Silicon через MLX и ориентирована на англоязычные сценарии. Модель поддерживает генерацию, дополнение и объяснение кода, задачи, требующие пошагового рассуждения, математику, логику, отладку, агентные рабочие процессы и вызов инструментов. Архитектура использует чередующиеся слои linear attention и full attention в соотношении 3:1, скрытый размер 5120, размер головы 256 и один MTP-слой; все параметры активны для каждого токена. Поддерживаются текст, изображения и видео, а также встроенный вызов функций через шаблон чата. Квантование выполнено в формате 4-bit affine с размером группы 64; для комфортной работы рекомендуется не менее 24 ГБ unified memory, предпочтительно 32 ГБ или больше. Сильные стороны модели — специализация на программировании и рассуждениях, предсказуемая задержка плотной архитектуры, мультимодальность, tool-calling и возможность приватного локального использования. Ограничения включают отсутствие официальных результатов бенчмарков, возможные галлюцинации и ошибки в коде, снижение качества из-за 4-битного квантования и преимущественную ориентацию на английский язык. Модель распространяется по лицензии Apache-2.0.

Модель ghecko78/Qwen3.6-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled-heretic — текстово дообученная и изменённая с помощью abliteration версия Qwen3.6-35B-A3B, опубликованная на Hugging Face; исходное дообучение выполнил @hesamation. Она предназначена для диалогов с развёрнутыми рассуждениями, программирования, планирования, математических задач и аналитических ответов. Обучение использовало дистилляцию рассуждений, преимущественно полученных от Claude Opus 4.6, а затем модель прошла abliteration, призванную снизить частоту отказов. В основе — мультимодальная MoE-архитектура Qwen3.6 с 35 млрд параметров, из которых активны около 3 млрд; базовая модель принимает изображения, но это дообучение было только текстовым. Контекст базовой модели составляет 262 144 токена с возможностью расширения до 1 010 000. Карточка приводит небольшой сравнительный тест MMLU-Pro, который автор характеризует как предварительную проверку, а не полноценный бенчмарк. Модель распространяется по лицензии Apache-2.0.

coder3101/Qwen3.8-27B-heretic — дообученная версия Qwen/Qwen3.8-27B, созданная с помощью Heretic v1.2.0 методом abliteration для уменьшения частоты отказов. Это плотная причинная языковая модель с визуальным энкодером на 27 млрд параметров, поддерживающая диалог, изображения и видео. По карточке базовой модели, она рассчитана на программирование, профессиональные и исследовательские задачи, а также многошаговое планирование и работу с агентными сценариями. Контекст базовой модели составляет 262 144 токена с возможностью расширения до 1 000 000; README указывает, что режим рассуждений включён по умолчанию и может настраиваться. В приведённом сравнении модель отказала в 33 случаях из 100 против 92 у исходной версии; это характеризует снижение отказов, но не подтверждает качество ответов для всех запросов. Доступны веса в формате Safetensors для Transformers и совместимых средств инференса. Лицензия — Apache-2.0.

Qwen3.8-27B-int4-AutoRound — мультимодальная версия базовой модели Qwen/Qwen3.8-27B, подготовленная пользователем devan-carlin с использованием Intel AutoRound. Модель предназначена для генерации текста, решения математических и логических задач, программирования, работы с алгоритмами, а также анализа изображений и текстовых запросов. Модель содержит 27 млрд параметров и использует архитектуру qwen3_5 с 64 слоями и чередованием линейного и полноформатного внимания в соотношении 3:1. Поддерживается контекст длиной до 256K токенов. В репозитории присутствует vision tower Qwen3-VL, поэтому модель работает как в текстовом, так и в мультимодальном режиме. Квантизация выполнена в INT4 с помощью AutoRound, с размером группы 128 и симметричным представлением; отдельные компоненты сохранены в 16-битной точности. Основное преимущество — существенное снижение объёма памяти: около 18 ГБ против примерно 52 ГБ для BF16, а также более высокая скорость генерации на конфигурации из четырёх Intel Arc Pro B70. В заявленном тесте скорость составила 47,8 токена в секунду против 30,2 у BF16, при сопоставимом качестве на математических, логических, алгоритмических и программных запросах. Ограничением является более многословная генерация INT4-версии, из-за чего при длинных ответах может потребоваться увеличить параметр max_tokens. Для запуска рекомендуется vLLM с tensor parallelism; на XPU/ARK может потребоваться исправление qzeros guard для загрузки симметричных INT4-весов. Модель распространяется по лицензии Apache-2.0, как и базовая модель.

alexliap/Qwen3-Embedding-8B-FP8-DYNAMIC — динамически квантованная версия текстовой embedding-модели Qwen3-Embedding-8B, разработанной командой Qwen. Модель предназначена для преобразования текста в векторные представления и задач семантического поиска, извлечения документов и кода, классификации, кластеризации и межъязыкового поиска. Она поддерживает более 100 языков, включая языки программирования, а также кросс-язычные сценарии. Модель содержит около 8 млрд параметров, имеет контекст длиной до 32K токенов и максимальную размерность эмбеддингов 4096. Благодаря поддержке Matryoshka Representation Learning можно выбирать размер выходного вектора от 32 до 4096 измерений, а инструкции во входных данных позволяют адаптировать поведение под конкретную задачу, язык или сценарий. Производный вариант использует схему FP8_DYNAMIC: все Linear-слои квантованы в FP8, веса масштабируются по каналам, активации — динамически по токенам, а слой embed_tokens сохраняется в формате bfloat16. Ключевое преимущество версии — примерно двукратное снижение потребления памяти по сравнению с исходной моделью в bfloat16 при сохранении возможностей Qwen3-Embedding-8B. Исходная модель показывала высокий результат в многоязычном рейтинге MTEB, однако в README нет отдельных результатов для квантованной версии, поэтому возможное влияние квантования на качество не уточняется. Для развёртывания указан vLLM с режимом pooling, преобразованием в embedding и поддержкой compressed-tensors. Модель распространяется по лицензии Apache-2.0.

alexliap/Qwen3-Embedding-8B-NVFP4 — квантизированная версия модели Qwen3-Embedding-8B, разработанной командой Qwen. Модель предназначена для получения текстовых эмбеддингов и решения задач семантического поиска, извлечения документов, поиска по коду, классификации, кластеризации и двуязычного сопоставления текстов. Она поддерживает инструкции, задающие целевой сценарий или язык, и может использоваться, например, для поиска релевантных фрагментов по пользовательскому запросу. Модель содержит около 8 млрд параметров, имеет контекст длиной до 32K токенов и поддерживает более 100 языков, включая языки программирования. Размер выходного вектора можно выбирать в диапазоне от 32 до 4096 измерений; максимальная размерность составляет 4096. Все линейные слои квантизированы по схеме NVFP4 с использованием llmcompressor и формата compressed-tensors, что предназначено для снижения требований к хранению и ускорения инференса на совместимом оборудовании. В README приведён пример запуска через vLLM в режиме embed. К сильным сторонам относятся мультиязычность, поддержка длинного контекста, инструкционно-управляемые эмбеддинги и гибкая размерность векторов. Возможные ограничения связаны с потерями качества из-за квантизации и с тем, что калибровка выполнялась всего на 100 примерах греческого языка длиной до 4096 токенов, поэтому поведение на других языках и типах данных может отличаться. Модель распространяется по лицензии Apache-2.0.

sentence-transformers/stsb-xlm-r-multilingual — мультиязычная модель sentence-transformers, обученная командой sentence-transformers на базе XLM-RoBERTa. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения семантической близости, семантического поиска и кластеризации. Модель содержит 305,2 млн параметров, принимает текст, имеет контекст до 514 токенов и рассчитана на использование с библиотекой Sentence Transformers; доступны веса и представления PyTorch, TensorFlow, ONNX и OpenVINO. Модель подходит для поиска похожих фраз и документов, группировки текстов по смыслу и построения векторных представлений для многоязычных сценариев. Лицензия — Apache-2.0. Для использования через Transformers поверх выходов энкодера требуется применить подходящую операцию pooling.