II.8Инженерия данных и аналитика

Multilingual-E5-large — многоязычная модель эмбеддингов текста, опубликованная intfloat; её технический отчёт подготовили Liang Wang, Nan Yang, Xiaolong Huang, Linjun Yang, Rangan Majumder и Furu Wei. Модель основана на XLM-RoBERTa-large и имеет 24 слоя с размерностью эмбеддинга 1024. Она принимает текст и выдаёт векторные представления для поиска и сравнения текстов. Модель предназначена для межъязыкового и многоязычного поиска, ранжирования passage по запросу, оценки семантического сходства, поиска перефразировок и использования эмбеддингов в кластеризации или классификации. При обучении текстовые роли задаются префиксами `query:` и `passage:`; их следует выбирать в соответствии со сценарием, иначе качество может снизиться. Поддерживаются 100 языков XLM-RoBERTa, включая русский, однако для языков с небольшим объёмом ресурсов качество может быть ниже. Вход ограничен 512 токенами, а более длинный текст обрезается. Лицензия — MIT.

IoannisKat1 выпустил дообученную версию multilingual-e5-large для создания текстовых эмбеддингов. Модель построена на XLM-RoBERTa-large с архитектурой Sentence Transformer: усредняет токенные представления, нормализует результат и отображает предложения и абзацы в плотное векторное пространство размерности 1024. Максимальная длина входной последовательности — 512 токенов; для сравнения векторов используется косинусное сходство. Модель предназначена для семантического поиска, сравнения сходства текстов, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. В README описано дообучение на 82 парах anchor-positive и приведены метрики поиска при нескольких размерностях вектора; результаты зависят от выбранной размерности и тестового набора. Указанная лицензия — Apache-2.0.

Multilingual-E5-small — многоязычная модель текстовых эмбеддингов семейства E5, основанная на архитектуре BERT. В карточке указаны 12 слоёв и размерность эмбеддинга 384; метаданные сообщают о 124,3 млн параметров и формате ONNX. Модель инициализирована из microsoft/Multilingual-MiniLM-L12-H384 и дополнительно обучена на смеси многоязычных наборов данных. Модель предназначена для получения векторных представлений текстов и оценки их семантического сходства. Её можно применять для поиска и ранжирования пассажей, семантического поиска, сопоставления парафразов и межъязыкового поиска. Для поиска по запросу и документам следует добавлять префиксы «query: » и «passage: » соответственно; для симметричных задач и использования эмбеддингов как признаков применяется «query: ». Модель поддерживает 100 языков, однако качество может снижаться для языков с малым объёмом ресурсов. Тексты длиннее 512 токенов обрезаются. Лицензия — MIT.

Minnow-Em1-0.6B — компактная многоязычная модель эмбеддингов от KiteFish AI, дообученная на базе Qwen/Qwen3-0.6B. Это плотный трансформер с примерно 507,9 млн параметров, преобразованный в двунаправленный энкодер: каждый токен учитывает контекст с обеих сторон. Модель принимает текст и формирует векторные представления для поиска, сравнения и группировки текстов; поддерживает контекст до 40 960 токенов и инструкции, задающие тип задачи для запроса. Модель предназначена для семантического поиска и извлечения документов, оценки сходства текстов, классификации, кластеризации, ранжирования и поиска параллельных фрагментов на разных языках. Для корректной работы при загрузке необходимо включить двунаправленное внимание: в сохранённых весах это изменение не зафиксировано, и стандартная причинная маска заметно ухудшает эмбеддинги. Авторы готовят оценку на MMTEB/MTEB; опубликованных итоговых результатов пока нет. В обучении использовались обучающие части ряда публичных бенчмарков, поэтому результаты на соответствующих задачах следует считать внутридоменными; версия v1 смещена в сторону англоязычного поиска вопросов и ответов, а низкоресурсные и межъязыковые задачи могут выполняться слабее. Лицензия — Apache 2.0.

Nemotron-3-Embed-8B-BF16 — текстовая модель эмбеддингов, разработанная NVIDIA на основе Ministral-3-8B-Instruct-2512. Она кодирует текст в плотные векторы размерностью 4096 для семантического поиска, сопоставления предложений и извлечения фрагментов в системах RAG. Модель рассчитана на многоязычный и межъязыковой поиск; её оценивали на 34 языках. Архитектура — трансформерный энкодер с двунаправленным вниманием и усреднением токенных представлений. Размер модели — около 8 млрд параметров. В README указана максимальная длина последовательности 32 768 токенов; метаданные также приводят контекст 262 144 токена, поэтому при практическом использовании следует учитывать ограничение конкретной конфигурации и способа запуска. Модель принимает текст и выдаёт векторные представления, поддерживает динамическое сокращение размерности с последующей L2-нормализацией. Предназначена для многоязычного семантического поиска, поиска по большим корпусам и RAG-сценариев, включая ответы на вопросы по документам. Для запуска NVIDIA указывает PyTorch и vLLM, а для BF16-чекпойнта — Transformers 5.2.0 или новее; оптимизация ориентирована на GPU NVIDIA. Модель готова к коммерческому использованию по лицензии OpenMDW-1.1; базовая модель Ministral-3-8B-Instruct-2512 выпущена под Apache 2.0.

Nemotron-Cascade-14B-Thinking — универсальная языковая модель NVIDIA на 14 млрд параметров, построенная на архитектуре Qwen3 и дообученная от Qwen3-14B Base. Модель проходит многоэтапное SFT и последовательное обучение с подкреплением по отдельным областям; она предназначена исключительно для режима рассуждений и поддерживает диалоговый шаблон Qwen3 ChatML. Модель подходит для рассуждений на общие темы, математики, программирования, разработки ПО, следования инструкциям и использования инструментов. В метаданных указан контекст 32 768 токенов; README рекомендует YaRN для поддержки более длинного контекста и приводит параметры генерации temperature 0,6 и top_p 0,95. По данным карточки, доступны веса Safetensors и библиотека Transformers. Карточка сообщает о высоких результатах на широком наборе бенчмарков, но эти заявления относятся к оценкам авторов. Модель текстовая и ориентирована на английский язык; README не описывает поддержку других языков. Лицензия обозначена как other, поэтому условия использования следует проверять в материалах репозитория.

Stern5497/nir-24-xlm-roberta-base — модель Sentence Transformer, созданная разработчиком Stern5497 дообучением FacebookAI/xlm-roberta-base. Она преобразует предложения и абзацы в плотные векторы размерностью 768, пригодные для сравнения по косинусному сходству. Модель построена на XLM-RoBERTa с усреднением токенных представлений; максимальная длина последовательности — 514 токенов по метаданным Hugging Face. Модель предназначена для семантического сходства текстов и семантического поиска. Векторы также можно использовать для поиска перефразировок, кластеризации и классификации текста. В README указан обучающий набор из 164 848 примеров; метаданные называют базовую модель многоязычной, однако конкретные поддерживаемые языки этой версии не перечислены. Модель распространяется в формате Safetensors и рассчитана на использование с библиотекой Sentence Transformers. Сведения о лицензии в предоставленных данных отсутствуют.

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-OptiQ-4bit — квантизированная версия языковой модели NVIDIA Nemotron-3.5-Lightning, подготовленная сообществом mlx-community с использованием MLX-native инструментария mlx-optiq. Модель предназначена для локальной генерации текста на компьютерах Apple Silicon и поддерживает сценарии общего диалога, рассуждений, программирования, решения математических задач, следования инструкциям и вызова функций. В основе лежит гибридная архитектура nemotron_h: блоки Mamba2 сочетаются с несколькими слоями attention, а маршрутизируемая MoE-архитектура содержит 128 экспертов, из которых для каждого токена активируются 6. Общий размер базовой модели составляет около 30 млрд параметров, при этом активно примерно 3 млрд. Используется чувствительная к слоям смешанная квантизация: 36 слоёв и 36 экспертных тензоров имеют точность 4-bit, ещё 127 слоёв и 10 экспертных тензоров — 8-bit. Размер файлов модели — около 22,8 ГБ; сохранена MTP-голова для speculative decoding. Модель демонстрирует сильные результаты в генерации кода, математике, следовании инструкциям и вызове функций: в README указаны 87,8% на HumanEval, 85,5% на GSM8K и 83,0% на BFCL-V3 simple. Ограничением является слабее выраженная способность к извлечению информации из длинного контекста: результат HashHop составляет 40,0%. Для работы требуется MLX и пакет mlx-optiq; на компьютерах с ограниченной оперативной памятью рекомендуется потоковая загрузка экспертов с SSD. Модель выпускается по NVIDIA Open Model License; точные условия следует уточнять в тексте этой лицензии.

Occamy-1.0 — модель Accio-Lab для длительной совместной работы с инструментами и выполнения многоэтапных задач. Она дообучена на базе Qwen/Qwen3.6-35B-A3B: сохраняет архитектуру исходного чекпойнта с MoE, 35 млрд общих и 3 млрд активных параметров. Модель принимает текст и изображения и предназначена для диалогов, агентных рабочих процессов, программирования, поиска, работы с файлами и структурированными API. Обучение сосредоточено на надёжном выполнении действий, отслеживании состояния, восстановлении после сбоев и продолжении работы в длинных взаимодействиях. Модель поддерживает вызов инструментов и обработку изображений; выпущены веса BF16 и варианты GGUF, а README также упоминает FP8 и NVFP4. Она рассчитана на обычные сценарии совместной работы, но retrieval-задачи и взаимодействие с браузером или рабочим столом через визуальный интерфейс остаются ограничениями. Лицензия — Apache-2.0.

Orca-2-4B-hight — текстовая модель генерации на архитектуре Qwen3ForCausalLM, опубликованная roskosmos19. Это производная от Qwen3-4B модель с фокусом на программирование и агентные сценарии: она может вести диалог, рассуждать и формировать вызовы инструментов. По описанию автора, переход к генерации за один проход вместо обязательной трёхэтапной схемы сокращает задержку и стоимость работы; длинный ответ генерируется по необходимости. Модель содержит 3,7 млрд параметров и поддерживает контекст до 32 768 токенов. Для развёртывания указана библиотека Transformers; файлы репозитория представлены в формате safetensors. Автор рекомендует квантованные варианты Q4_K_M или AWQ для ускорения, но они не заявлены как формат файлов этой модели. Модель предназначена для генерации и анализа кода, решения задач с использованием инструментов и диалоговой помощи при разработке. В README нет сведений о поддерживаемых естественных языках. Лицензия — Apache 2.0.

Ornith-1.5-35B-A3B-TQ3_4S — компактная сборка модели Ornith-1.5-35B-A3B в формате GGUF с квантизацией TurboQuant TQ3_4S. В карточке указана архитектура Qwen3.5-MoE: всего 35,9 млрд параметров, из которых около 3 млрд активны на токен. Модель предназначена для диалоговой генерации текста, программирования и вызова инструментов; исходная модель также поддерживает обработку изображений при подключении vision-проектора. Для запуска требуется специализированная сборка turbo-tan/llama.cpp-tq3, поддерживающая тип тензоров TQ3_4S. В локальных измерениях автора модель занимала 17 ГиБ и показывала высокую скорость декодирования на RTX 3090; приведённые результаты бенчмарков являются собственными измерениями автора карточки. Контекст запуска до 262 144 токенов указан в параметрах тестирования, но не подтверждён как штатный предел модели. Лицензия — MIT.

Ovis-VL-Embedding-9B — мультимодальная модель эмбеддингов для поиска, разработанная командой Ovis и основанная на Qwen3.5-9B. Она независимо кодирует запросы и кандидаты в общее пространство векторов, поддерживая текст, изображения, визуальные документы, видео и их чередующиеся мультимодальные сочетания. Модель предназначена для семантического и межмодального поиска, индексации и извлечения данных для RAG, поиска по видео с локализацией фрагментов, рекомендаций и сопоставления ближайших соседей. Архитектура сохраняет текстовый и визуальный кодировщики и мультимодальную языковую основу Qwen3.5-9B, но удаляет голову языкового моделирования. Вектор размерности 4096 извлекается из скрытого состояния последнего непустого токена; отдельная проекционная голова не используется. Для ранжирования запросы и кандидаты кодируются отдельно, нормализуются по L2 и сравниваются по косинусному сходству. Модель не принимает аудио и не предназначена для генерации текста или изображений. Качество зависит от инструкций к запросам и соблюдения исходного шаблона и предобработки; результаты различаются по задачам, а крупная модель требует больше памяти и вычислений, чем вариант 2B. Лицензия — Apache-2.0.

Карточка модели test-alexpouliquen/paraphrase-multilingual-MiniLM-L12-v2 на Hugging Face совпадает с карточкой sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, поэтому описание составлено по ней. paraphrase-multilingual-MiniLM-L12-v2 — модель Sentence-Transformers, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерности 384, предназначенные для сравнения смысловой близости. Модель построена на архитектуре BERT с 12 слоями MiniLM; объём составляет 124,3 млн параметров, а максимальная длина контекста — 512 токенов. Модель подходит для семантического поиска, поиска похожих формулировок и кластеризации текстов. Она поддерживает много языков, включая русский, и может сопоставлять предложения на разных языках. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Модель распространяется по лицензии Apache-2.0. Векторы фиксированной размерности и лимит в 512 токенов ограничивают представление длинных документов; для абзацев и документов обычно требуется разбиение на фрагменты.

Карточка модели yrrhall/paraphrase-multilingual-MiniLM-L12-v2 на Hugging Face совпадает с карточкой sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, поэтому описание составлено по ней. paraphrase-multilingual-MiniLM-L12-v2 — модель Sentence-Transformers, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерности 384, предназначенные для сравнения смысловой близости. Модель построена на архитектуре BERT с 12 слоями MiniLM; объём составляет 124,3 млн параметров, а максимальная длина контекста — 512 токенов. Модель подходит для семантического поиска, поиска похожих формулировок и кластеризации текстов. Она поддерживает много языков, включая русский, и может сопоставлять предложения на разных языках. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Модель распространяется по лицензии Apache-2.0. Векторы фиксированной размерности и лимит в 512 токенов ограничивают представление длинных документов; для абзацев и документов обычно требуется разбиение на фрагменты.

paraphrase-TinyBERT-L6-v2 — модель sentence-transformers, обученная командой sentence-transformers для преобразования предложений и абзацев в плотные векторы размерности 768. Она основана на архитектуре BERT и предназначена для получения эмбеддингов, которые можно сравнивать по смыслу. Модель подходит для семантического поиска, кластеризации текстов и оценки сходства предложений. Для работы с ней можно использовать библиотеку Sentence-Transformers; при использовании Transformers необходимо применить подходящую операцию pooling к контекстным представлениям токенов. Репозиторий содержит варианты в форматах PyTorch, safetensors, TensorFlow, ONNX и OpenVINO. Максимальная длина контекста — 512 токенов. Модель распространяется по лицензии Apache-2.0.

Q36 — это разговорная мультимодальная модель oktayd на архитектуре Qwen3.6-35B-A3B с 35 млрд параметров, из которых активируется около 3 млрд. Разработчик описывает её как производную цепочку на базе Qwen3.6 с дистилляцией рассуждений, ослаблением отказов и последующей настройкой для работы с инструментами, агентами и кодом; модель также дообучена на данных Hermes Function Calling и агентских трассировках. Указаны поддержка изображений, MTP и контекст 262 144 токена; одновременная работа с Vision и MTP в одном запросе не заявлена. Модель предназначена для диалогов с изображениями, рассуждений, программирования и агентских сценариев, включая вызов функций и работу с терминалом, файлами и репозиториями. В карточке приведены сравнительные тесты, но автор подчёркивает, что это компактные прогоны, а не официальные полные результаты лидербордов. Проверка финального сервинга FreeToken ещё не завершена. Репозиторий использует формат safetensors и библиотеку Transformers; лицензия — Apache-2.0.

Qwable-9B-Claude-Fable-5 — модель Empero, созданная полнопараметрическим дообучением Qwen/Qwen3.5-9B. Это плотная модель семейства Qwen3.5 с гибридным стеком внимания; дообучение проводилось на текстовых трассах рассуждений, программирования и агентных задач от Claude Fable 5 и GPT-5.5 terminal agent. Модель предназначена прежде всего для помощи в программировании, выполнения многошаговых задач в терминале и агентных сценариях, а также для рассуждений и объяснений. Основной язык — английский. Базовая архитектура мультимодальная, но зрительный компонент при дообучении оставался замороженным и не оценивался. В качественной проверке README отмечает сильные результаты на задачах программирования и работы с терминалом, а также хорошее следование инструкциям; полные количественные бенчмарки ещё готовятся. Ответы начинаются с блока рассуждений, который может потребовать удаления перед показом пользователю. Для открытых запросов модель может генерировать длинные ответы; общие фактические сведения следует проверять. Дополнительного защитного дообучения сверх базовой модели не проводилось. Лицензия — Apache-2.0, унаследованная от базовых весов; в README отдельно упоминается оговорка о происхождении обучающих данных.

Это инструкционная чат-модель Qwen2.5-3B, размещённая Unsloth и основанная на Qwen/Qwen2.5-3B-Instruct. Она предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции, помощь с кодом и математикой, работу со структурированными данными и формирование JSON. Модель имеет плотную архитектуру Qwen2 с 3,1 млрд параметров; в README указаны 36 слоёв, поддержка контекста до 32 768 токенов и генерация до 8 192 токенов. Модель работает с текстом и рассчитана на многоязычное использование: README заявляет поддержку более 29 языков, включая английский, русский, китайский, французский, немецкий и японский. Среди отмеченных сильных сторон семейства — следование инструкциям, генерация длинных текстов и структурированные ответы. Метаданные указывают библиотеку Transformers, формат Safetensors и интерфейс чата с поддержкой вызова инструментов. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует сверить с карточкой репозитория. Приведённый README в основном описывает семейство Qwen2.5 и материалы Unsloth; он не содержит отдельной оценки качества именно этой публикации модели.

mlx-community/Qwen2.5-Coder-14B-Instruct-bf16 — конверсия в формат MLX инструкционной модели Qwen2.5-Coder-14B-Instruct, выполненная сообществом mlx-community с помощью mlx-lm версии 0.19.3. Это плотная авторегрессионная модель на 14 млрд параметров для генерации кода и диалоговой работы с запросами о коде; она также поддерживает интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Контекст составляет 32 768 токенов, в метаданных указан английский язык. Модель подходит для написания, анализа и исправления кода в интерактивных сценариях. Репозиторий содержит веса safetensors и предназначен для использования с MLX. Лицензия — Apache-2.0. README описывает конверсию из базовой модели, поэтому её характеристики и возможности основаны на Qwen2.5-Coder-14B-Instruct.

duyntnet/Qwen2.5-Coder-14B-Instruct-imatrix-GGUF — набор imatrix-квантизаций 14-миллиардной instruction-tuned модели Qwen2.5-Coder, разработанной командой Qwen компании Alibaba Cloud. Модель предназначена для генерации, анализа, рассуждений и исправления программного кода, а также для создания code agents и решения задач, связанных с математикой и общими языковыми компетенциями. Репозиторий распространяет модель в формате GGUF для запуска через llama.cpp, KoboldCPP, Ollama и совместимые интерфейсы. Это авторегрессионная causal language model на базе архитектуры Transformers с RoPE, SwiGLU, RMSNorm и смещениями в QKV attention. Модель содержит 14,7 млрд параметров, из них 13,1 млрд без учёта embedding, 48 слоёв и схему GQA с 40 головами Q и 8 головами KV. Заявлена поддержка контекста до 131 072 токенов, однако стандартная конфигурация рассчитана на 32 768 токенов; для более длинных входов требуется настройка YaRN с коэффициентом 4. Модель обучалась на 5,5 трлн токенов, включая исходный код, текстово-кодовые данные и синтетические данные. В метаданных указано владение английским языком; сведения о мультимодальности отсутствуют. Сильными сторонами являются специализация на программировании, улучшенные возможности генерации, рассуждений и исправления кода, а также поддержка длинного контекста и локального запуска благодаря GGUF-квантизациям. Ограничения включают зависимость характеристик от конкретного варианта квантизации и настроек инференса, необходимость дополнительной конфигурации для контекста свыше 32 768 токенов и отсутствие подробных сведений о точных параметрах квантизации. Лицензия обозначена как other; конкретные условия использования в README не приведены.

legraphista/Qwen2.5-Coder-7B-Instruct-IMat-GGUF — GGUF-квантизированная версия инструкционной модели Qwen2.5-Coder-7B-Instruct, разработанной командой Qwen. Модель предназначена для генерации текста и работы с программным кодом в диалоговом формате: написания, дополнения и объяснения кода, а также решения задач, связанных с программированием. В метаданных указан английский язык и поддержка text-generation. Модель содержит около 7 миллиардов параметров и распространяется в формате GGUF для запуска с использованием llama.cpp и совместимых инструментов. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K; часть низкобитных вариантов использует IMatrix для улучшения качества при квантизации. Преимуществами являются широкий выбор размеров файлов и возможность локального запуска, а ограничениями — потенциальная потеря качества в более агрессивно квантизированных версиях, отсутствие мультимодальности и неуказанный в README размер контекста. Квантизацию выполнил legraphista с использованием llama.cpp. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-7B-Instruct-MLX-8bit — это 8-битная MLX-квантизация инструкционно дообученной языковой модели Qwen2.5-Coder-7B-Instruct. Базовую модель разработала команда Qwen, квантизацию предоставил bartowski на основе инструментов mlx-examples. Модель предназначена для генерации текста и кода, диалогового взаимодействия, задач программирования и использования в code agent-сценариях, в частности на компьютерах Mac с Apple Silicon. Модель обучалась на объёме до 5,5 триллиона токенов, включая исходный код, данные для связывания текста и кода и синтетические данные. Заявлена поддержка длинного контекста до 128 000 токенов с масштабированием RoPE через YaRN с коэффициентом 4,0. В карточке явно указан английский язык; другие языки и дополнительные модальности не заявлены. Ключевое ограничение — специализация на текстовых и кодовых задачах, а также необходимость совместимого оборудования Apple Silicon для данной MLX-версии. Как и другие языковые модели, она может генерировать неточный, вредный или нежелательный контент. Модель распространяется по лицензии Apache-2.0. LM Studio не является разработчиком или владельцем модели и не гарантирует её точность, безопасность, доступность или соответствие конкретным требованиям.

Etherll/Qwen2.5-Coder-7B-Instruct-Ties — объединённая инструкционная языковая модель, созданная автором репозитория методом TIES с помощью mergekit. В качестве базовой использована Qwen/Qwen2.5-Coder-7B, а в объединение включена Qwen/Qwen2.5-Coder-7B-Instruct. Модель предназначена для диалоговой генерации текста и помощи с программным кодом: она может генерировать, анализировать и исправлять код, а также отвечать на запросы в формате чата. Архитектура — плотная Qwen2, 7,1 млрд параметров; нативный контекст — 32 768 токенов. Репозиторий содержит веса safetensors, а метаданные указывают библиотеку Transformers и интерфейс для вызова инструментов. Карточка не приводит результаты оценки качества или перечень поддерживаемых языков программирования. Лицензия в предоставленных данных не указана; сведения о ней следует проверить на странице репозитория.

unsloth/Qwen3-4B-Thinking-2507-unsloth-bnb-4bit — это 4-битная версия модели Qwen3-4B-Thinking-2507, подготовленная Unsloth на базе модели Qwen. Она предназначена для генерации текста и сложных задач рассуждения, включая логические и математические задачи, научные вопросы, программирование, следование инструкциям, использование инструментов, агентские сценарии и многоязычные запросы. Модель является авторегрессионной causal language model с 4,0 млрд параметров, из которых 3,6 млрд не относятся к embedding, 36 слоями и Grouped-Query Attention: 32 головы запросов и 8 ключей/значений. Она поддерживает контекст до 262 144 токенов и работает только в режиме рассуждения; увеличенная длина размышлений особенно ориентирована на сложные задачи. Формат предназначен для text-generation и использования через Transformers, а 4-битное квантование снижает требования к памяти по сравнению с полноразмерной моделью. К сильным сторонам относятся улучшенные результаты в рассуждении, математике, кодировании, следовании инструкциям, работе с инструментами и понимании длинного контекста. Ограничения включают работу только в thinking mode, потенциально значительный расход времени и ресурсов на длинные рассуждения, а также отсутствие в представленном README подробностей о поддерживаемых языках, точных требованиях к оборудованию и характеристиках квантования за пределами обозначения bnb-4bit. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-GGUF — GGUF-квантизированная версия модели Qwen3.8-27B, подготовленная компанией ByteShape с использованием ShapeLearn. Этот метод подбирает тип данных отдельно для каждого тензора, чтобы сохранить высокое качество при малой разрядности. Модель предназначена для локального запуска на GPU через llama.cpp и поддерживает работу с изображениями благодаря встроенному vision projector. Модель ориентирована на математические задачи, программирование, общие знания, выполнение инструкций, многошаговые диалоги, мультиязычные сценарии, использование инструментов и агентные задачи. В выпуск входят пять вариантов размером от 8,8 до 13,1 ГБ и с разрядностью от 2,56 до 3,84 бит на вес, что позволяет выбирать баланс между требованиями к видеопамяти, скоростью и качеством. В GGUF также встроена MTP-голова для speculative decoding; для её использования нужен llama.cpp с соответствующими параметрами. Поддержка DFlash2 требует версии llama.cpp b10658 или новее. Сильными сторонами являются оптимизация под GPU, несколько вариантов квантизации и оценка на наборах тестов для математики, программирования, знаний, следования инструкциям и агентного использования. Ограничения включают потенциальное снижение качества по сравнению с базовой BF16-моделью из-за квантизации, необходимость подходящей видеопамяти и зависимость расширенных функций от версии llama.cpp. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-iMatrix-NVFP4-MTP-GGUF — квантизированная мультимодальная версия модели Qwen3.8-27B, разработанная автором cdiamond на основе Qwen/Qwen3.8-27B. Модель предназначена для работы в llama.cpp и сценариев, связанных с программированием, инфраструктурными задачами, вызовами инструментов, агентскими системами и обработкой изображений. Указан контекст до 256 тысяч токенов; поддержка зрения реализуется через отдельный проектор mmproj-Qwen3.8-27B-F16.gguf. Модель поставляется в формате GGUF и имеет размер 17,1 ГБ. Это смешанная квантизация примерно 5,01 BPW: основная часть весов использует NVFP4, а чувствительные матрицы внимания, Gated DeltaNet, поздние FFN-слои, эмбеддинги и выходная голова хранятся с более высокой точностью Q5_K, Q6_K или Q8_0. В GGUF встроен обученный MTP-слой для ускорения генерации. Калибровка проводилась на данных агентских сессий, включавших код, инфраструктуру, вызовы инструментов и польско-английские диалоги, однако эти данные не распространяются. Сильные стороны модели — сочетание компактного размера, поддержки длинного контекста, мультимодальности и высокой скорости на совместимом оборудовании. В описанных тестах она достигала 50,441 токена в секунду в производственной серии и обрабатывала заполненный контекст объёмом 261 500 входных токенов без усечения и нехватки памяти. Результаты зависят от GPU, версии llama.cpp и используемых патчей; часть измерений получена на локальной ветке runtime, не вошедшей на момент публикации в upstream. Модель не является дообученной версией, а представляет собой квантизацию базовой модели. Лицензия — Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-AWQ-4bit — это 4-битная AWQ-квантизированная версия инструкционной модели Qwen3-Coder-30B-A3B-Instruct, разработанной командой Qwen. Модель предназначена для генерации и анализа кода, агентного программирования, использования инструментов и браузера, а также понимания репозиториев и других задач, связанных с разработкой программного обеспечения. Она относится к каузальным языковым моделям и работает в режиме генерации текста без режима рассуждений и блоков <think></think>. Модель построена по Mixture-of-Experts-архитектуре: содержит 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; включает 48 слоёв, 128 экспертов, 8 активируемых экспертов и Grouped Query Attention с 32 головами Q и 4 головами KV. Нативная длина контекста составляет 262 144 токена, а с использованием YaRN может быть расширена до 1 млн токенов. README не указывает поддерживаемые языки и модальности; по описанию модель ориентирована прежде всего на текстовые и программные данные. Сильные стороны модели — эффективность за счёт разреженной активации экспертов, длинный контекст, поддержка вызова функций и сценариев agentic coding, совместимость с инструментами и платформами вроде Qwen Code и CLINE. К ограничениям относятся необходимость подходящего аппаратного обеспечения и снижение требований к памяти именно за счёт 4-битной квантизации, которая может влиять на качество по сравнению с полной точностью; конкретные показатели такого влияния в README не приведены. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-Coder-Next-FP8-Dynamic — FP8 Dynamic 2.0-квантизированная версия открытой весовой языковой модели Qwen3-Coder-Next, разработанная Qwen и адаптированная Unsloth. Модель предназначена прежде всего для coding agents, локальной разработки, генерации и анализа кода, длительных многошаговых задач, работы с инструментами и интеграции с CLI- и IDE-средами. Это авторегрессионная causal language model с гибридной архитектурой Gated DeltaNet, Gated Attention и Mixture of Experts. Всего модель содержит 80 млрд параметров, из которых активируются 3 млрд; без учёта embedding — 79 млрд. Архитектура включает 48 слоёв, 512 экспертов MoE, 10 активируемых экспертов и один общий эксперт. Нативная длина контекста — 262 144 токена. Модель работает только в non-thinking режиме и не генерирует блоки <think></think>. README не указывает поддерживаемые языки или мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Сильные стороны модели — высокая вычислительная эффективность при малом числе активных параметров, поддержка длинного контекста, многошагового агентного рассуждения, сложного использования инструментов и восстановления после ошибок выполнения. Ограничения включают высокие требования к памяти и инфраструктуре из-за общего размера 80 млрд параметров; при нехватке памяти рекомендуется уменьшать контекст. Модель распространяется по лицензии Apache-2.0.

furiosa-ai/Qwen3-Embedding-0.6B — текстовая модель эмбеддингов семейства Qwen3, опубликованная FuriosaAI вместе с пакетом Furiosa Executable Bundle для запуска на ускорителе RNGD через Furiosa-LLM. Модель основана на Qwen/Qwen3-Embedding-0.6B и дообучена для получения плотных векторных представлений текста. Её размер — 507,6 млн параметров, архитектура — плотный трансформер Qwen3, контекст — до 32 768 токенов. Модель предназначена для семантического поиска, извлечения релевантных документов и сопоставления сходства текстов. Поддерживает многоязычные сценарии и Matryoshka Representation Learning: размерность эмбеддингов можно уменьшать с помощью параметра dimensions. Принимает текст и возвращает векторы. Репозиторий предоставляет веса в safetensors и запуск через Furiosa-LLM; также README указывает совместимость с Sentence Transformers, vLLM и Transformers. Квантизация не применяется: указана точность BF16. Лицензия — Apache 2.0.

Qwen3-Embedding-4B-mxfp8 — текстовая модель для получения эмбеддингов, опубликованная mlx-community и преобразованная в формат MLX из Qwen/Qwen3-Embedding-4B с помощью mlx-embeddings 0.0.3. Она предназначена для семантического поиска, сравнения предложений и извлечения признаков из текста; эмбеддинги можно использовать, например, в поисковых системах и системах подбора релевантных документов. Модель основана на плотной архитектуре Qwen3, содержит 3,7 млрд параметров и поддерживает контекст до 40 960 токенов. Лицензия — Apache-2.0. Для запуска в экосистеме MLX README указывает библиотеку mlx-embeddings.