II.8Инженерия данных и аналитика

Карточка модели Jenjamin3000/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой KingName1/sentence_transformer, поэтому описание составлено по ней. KingName1/sentence_transformer — модель Sentence Transformers на архитектуре MPNet, предназначенная для преобразования предложений и коротких абзацев в плотные семантические векторы размерности 768. README описывает её как дообученную на основе microsoft/mpnet-base с контрастивной целью на более чем миллиарде пар предложений; метаданные указывают 136,7 млн параметров и библиотеку sentence-transformers. Входной текст кодируется для семантического поиска, сравнения сходства и кластеризации.

ModernBERT-TR Embed — компактная модель текстовых эмбеддингов на основе ModernBERT, разработанная ytu-ce-cosmos для представления турецких текстов в виде векторов. Модель содержит около 148,7 млн параметров, принимает текст и поддерживает контекст до 8192 токенов. Она предназначена для семантического поиска и оценки сходства предложений; также применима для классификации, кластеризации и двуязычного поиска на турецком и английском языках. Модель дистиллирована из Qwen/Qwen3-Embedding-8B, затем дообучена на задачах поиска и понимания турецкого языка, а несколько чекпойнтов объединены усреднением весов. По приведённому в карточке сравнению, она показывает конкурентные результаты на турецких бенчмарках при меньшем числе параметров, чем некоторые сравниваемые модели. Доступны форматы ONNX и safetensors; модель рассчитана на использование с Sentence Transformers и Text Embeddings Inference. Лицензия — Apache-2.0.

NEXUS-Coder — специализированная разговорная модель для программирования из экосистемы FableForge AI, основанная на Qwen/Qwen2.5-1.5B-Instruct. Это плотная авторегрессионная модель семейства Qwen2 с 1,5 млрд параметров и контекстом до 32 768 токенов; она принимает текст и генерирует текст в формате чата. Модель предназначена для генерации и объяснения кода, отладки, задач разработки ПО и работы с командами оболочки. В карточке также заявлены работа с общими рассуждениями и инструментами, однако подробности оценки приведены лишь для внутреннего теста на 30 запросах.

NOESIS-Qwopus3.5-9B-Coder-v3.5-BF16 — языковая модель для программирования, выпущенная AMAImedia в составе платформы автоматизации многоязычного дубляжа NOESIS. Репозиторий содержит модель на архитектуре Qwen3.5 dense с 7,2 млрд параметров, основную версию в safetensors BF16 и вариант GGUF Q4_K_M для локального запуска через llama.cpp. Для работы с BF16-версией в README приведён пример загрузки через Transformers. Модель предназначена для генерации и преобразования кода, помощи в отладке, работы с репозиториями и выполнения технических инструкций. Заявлена поддержка 201 языка и диалекта; README перечисляет языки из опубликованного Qwen3 списка как документированную основу. Контекст модели — до 262 144 токенов. Модель объединяет Qwopus3.5 и Qwen3.5-9B; лицензия — Apache-2.0. Карточка не приводит результатов бенчмарков или подробной оценки качества кода.

nomic-embed-text-v1.5-GGUF — набор GGUF-квантизированных версий модели nomic-ai/nomic-embed-text-v1.5, подготовленный пользователем mradermacher. Модель предназначена для извлечения признаков из текста и оценки семантического сходства предложений, поэтому подходит для семантического поиска, кластеризации, сопоставления текстов и других задач, где используются текстовые embedding-представления. В карточке указана поддержка английского языка. Доступны варианты с разными уровнями квантизации: от Q2_K, Q3 и IQ4_XS до Q8_0 и исходного формата f16. Размер файлов составляет примерно 0,2 ГБ для квантизированных вариантов и 0,4 ГБ для f16. Q4_K_S и Q4_K_M отмечены как быстрые рекомендуемые варианты, Q6_K — как вариант с очень хорошим качеством, а Q8_0 — как быстрый вариант с наилучшим качеством среди представленных. Архитектура, количество параметров, поддерживаемая длина контекста и дополнительные модальности в README не указаны; судя по назначению, модель работает с текстом. К преимуществам относятся компактные GGUF-файлы, несколько компромиссов между скоростью, размером и качеством, а также возможность применения в инструментах, поддерживающих GGUF и Transformers.js. Ограничения связаны с тем, что более сильная квантизация может снижать качество представлений, а сведения о точных характеристиках и результатах оценки модели в карточке отсутствуют. Модель распространяется по лицензии Apache-2.0.

Hyukkyu/nv-embed-v2 — перенос модели NV-Embed-v2 от NVIDIA, выполненный для совместимости с Transformers 5.0 и новее. Единственное заявленное изменение — добавление свойства совместимости в класс NVEmbedModel; веса модели основаны на nvidia/NV-Embed-v2 и сохранены в формате safetensors. Модель предназначена для создания текстовых эмбеддингов, используемых в семантическом поиске, сравнении текстов и RAG-сценариях. README отсылает к исходной карточке NVIDIA за сведениями об архитектуре, обучении и оценках качества. Для использования указаны Transformers версии 5.0.0 или новее, PyTorch 2.0 или новее и Python 3.9 или новее. Лицензия — CC BY-NC 4.0, допускающая использование с ограничениями лицензии, включая некоммерческий характер.

Olmo Hybrid Instruct DPO 7B — англоязычная авторегрессионная языковая модель семейства Olmo Hybrid, разработанная Allen Institute for AI (Ai2). Это плотная гибридная RNN-модель на 6,3 млрд параметров, дообученная методом supervised fine-tuning и оптимизации предпочтений DPO на запросах по математике, программированию, диалогам и общим знаниям. Она предназначена для диалоговых ответов и генерации текста; поддерживает контекст до 32 768 токенов и запускается через Transformers 5.3.0 или выше. В карточке приведены результаты оценки на математических бенчмарках, включая MATH и AIME. Модель выпускается в формате safetensors и распространяется по лицензии Apache 2.0; Ai2 указывает исследовательское и образовательное применение в соответствии с рекомендациями Responsible Use. Без дополнительной фильтрации она может генерировать вредный или предвзятый контент, а ответы могут содержать фактические ошибки.

Open-Instruct CoT 13B — языковая модель на архитектуре LLaMA с 12,9 млрд параметров, дообученная Allen Institute for AI на подмножестве CoT из Flan v2. Она предназначена для генерации ответов на инструкции с пошаговыми рассуждениями, а также для общих задач генерации текста, включая вопросы и ответы, математические задачи и программирование. Модель принимает текст и выдаёт текст; карточка указывает английский язык, а контекст составляет 2048 токенов. В опубликованных бенчмарках модель оценивалась на MMLU, GSM, BBH, TydiQA, Codex-Eval и AlpacaFarm. Для её использования требуется исходная модель LLaMA в формате Hugging Face: опубликованный репозиторий содержит diff весов, а не самостоятельный полный чекпойнт. Условия использования определяются лицензией AI model license и исходной лицензией LLaMA.

Ornith-1.5-35B-A3B-abliterated-NVFP4-DFlash-GGUF — текстовая диалоговая MoE-модель, подготовленная pottokao для запуска через llama.cpp. Это GGUF-сборка производной от ornith-ai/Ornith-1.5-35B-A3B модели: в ней намеренно удалено поведение отказа, а веса преобразованы из NVFP4 в GGML_TYPE_NVFP4 без повторной квантизации. Объём весов — 19,5 ГБ; дополнительно доступна черновая модель DFlash для спекулятивного декодирования. Сборка рассчитана на текстовый ввод и генерацию текста, не содержит визуального модуля и MTP-головы. Модель предназначена для диалоговой генерации, рассуждений, написания кода, суммаризации и ответов на запросы, в том числе с длинными промптами. Автор сообщает о запуске на двух потребительских GPU по 16 ГБ и приводит тесты на RTX 5070 Ti; для ускорения NVFP4 на GPU требуется поддержка Blackwell и сборка llama.cpp с соответствующей CUDA-архитектурой. По опубликованному сравнению конфигурация llama.cpp уступала сборке vLLM по скорости. Поведение отказа отфильтровано, поэтому модель может выдавать небезопасные ответы. Лицензия — MIT.

Ornith-1.5-35B-A3B — языковая модель семейства Ornith-1.5, разработанная командой Ornith. Это среднеразмерная sparse Mixture-of-Experts модель с 35 млрд параметров, из которых при обработке каждого токена активируется около 3 млрд. Представленная версия предназначена для запуска через библиотеку MLX в 4-битном формате квантования и поддерживает генерацию текста. Модель ориентирована прежде всего на программирование, работу с терминалом и агентские сценарии, включая автономное решение задач разработки и взаимодействие с инструментами. Согласно карточке модели, она обучалась с использованием цикла самоулучшения: модель совместно оптимизировала генерацию задач, построение scaffolding и последовательности решений с помощью reinforcement learning. Заявлены высокие результаты на Terminal-Bench 2.1 и SWE-bench Verified; однако приведённые показатели зависят от конкретного окружения и конфигурации агентского harness. К сильным сторонам относятся высокая эффективность инференса за счёт активации небольшой части параметров, специализация на кодировании и агентской работе, а также 4-битное представление для запуска в экосистеме MLX. В доступных данных не указаны максимальная длина контекста, полный список поддерживаемых языков, мультимодальные возможности, требования к оборудованию и лицензия, поэтому эти характеристики и условия использования требуют дополнительной проверки.

Модель SentenceTransformer, дообученная автором репозитория на наборе sentence-transformers/quora-duplicates для сравнения пар предложений. Она использует архитектуру BERT и преобразует текст в плотные векторы размерности 384; сходство векторов можно оценивать косинусной мерой. Модель подходит для поиска семантически близких формулировок, обнаружения перефразирований и дубликатов, кластеризации и классификации текста. В карточке указана поддержка английского языка. Базовая многоязычная модель рассчитана на контекст до 512 токенов, однако README этой версии задаёт максимальную длину последовательности 128 токенов. Модель содержит 124,3 млн параметров и распространяется в формате Safetensors. Лицензия в предоставленных данных не указана.

PatriLaRS — модель Sentence Transformers, дообученная TdelaSelle на базе bowphs/LaBerta. Она использует архитектуру RoBERTa с усреднением токенных представлений и создаёт плотные текстовые эмбеддинги размерности 768; для сравнения предложений применяется косинусное сходство. Метаданные указывают 153,2 млн параметров и контекст до 514 токенов, тогда как карточка модели ограничивает длину последовательности 256 токенами. Модель предназначена для семантического сравнения текстов, семантического поиска, поиска перефразирований, классификации и кластеризации. Обучалась на наборе из 78 988 примеров с положительными и отрицательными парами; README приводит результаты оценки для информационного поиска. Базовая LaBerta — одноязычная модель для текстов классической филологии, поэтому область её языкового применения ограничена этим контекстом. В репозитории указана лицензия, допускающая применение в рамках условий базовой модели, без отдельного уточнения условий в предоставленных данных.

Pix2Struct Large — предварительно обученная модель Google для визуального понимания языка. Это архитектура «визуальный энкодер — текстовый декодер», обученная преобразовывать изображения в текст. Для обучения модель разбирала замаскированные снимки веб-страниц в упрощённый HTML; такой подход объединяет сигналы распознавания текста, языкового моделирования и описания изображений. Модель предназначена для дообучения под задачи, где текст связан с визуальным содержимым: например, для создания подписей к изображениям и ответов на вопросы по изображению. В статье описаны сценарии работы с документами, иллюстрациями, пользовательскими интерфейсами и обычными фотографиями; вход может иметь переменное разрешение, а текстовый запрос можно наложить на изображение. В метаданных указана поддержка английского, французского, румынского и немецкого языков. Модель опубликована в форматах PyTorch и Safetensors. Это базовый предобученный чекпойнт, который README рекомендует использовать для дообучения, поэтому готовое качество на конкретной прикладной задаче зависит от дополнительной настройки. Лицензия — Apache-2.0.

Карточка модели JaehyeokLee/preliminary_efficient_batching_random_gist_checkpoint_epoch_1_step_20 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/preliminary_random_gist_checkpoint_epoch_1_step_170 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Qwen2.5-Coder-0.5B-Instruct — инструктивно дообученная языковая модель для кода от команды Qwen. Она предназначена для генерации и исправления кода, рассуждений о коде и диалоговых сценариев для разработчиков, включая использование в кодовых агентах. Модель также сохраняет общие языковые и математические способности семейства Qwen2.5. Это плотная авторегрессионная модель архитектуры Qwen2 с 494 млн параметров и контекстом до 32 768 токенов. В архитектуре используются RoPE, SwiGLU, RMSNorm и группированное внимание; модель работает с текстом и выдаёт текст, в том числе код. Репозиторий содержит веса Safetensors, загрузка поддерживается библиотекой Transformers. Модель компактна для локальных экспериментов и интеграции в инструменты разработчика, но её малый размер может ограничивать качество сложной генерации и рассуждений по сравнению с более крупными моделями. Лицензия — Apache-2.0.

Qwen2.5-Coder-14B-Instruct-8bit — это 14-миллиардная инструкционная языковая модель для генерации текста и работы с программным кодом. Она основана на Qwen2.5-Coder-14B-Instruct, разработанной командой Qwen, и преобразована сообществом mlx-community в формат MLX с использованием mlx-lm 0.19.3. Модель предназначена для запуска через библиотеку mlx-lm. Модель ориентирована на задачи программирования, включая генерацию и обработку кода, а также диалоговые сценарии. В карточке указана поддержка английского языка; другие языки, размер контекстного окна и дополнительные модальности не заявлены. Ключевая особенность версии — 8-битное представление, адаптированное для экосистемы MLX. Модель распространяется по лицензии Apache 2.0. README не содержит сведений о результатах тестирования, конкретных ограничениях качества или рекомендуемых аппаратных требованиях, поэтому эти характеристики нельзя оценить по имеющимся данным.

Qwen2.5-Coder-14B-Instruct-abliterated-GGUF — это GGUF-квантизированная версия инструкционной модели Qwen2.5-Coder-14B-Instruct-abliterated. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходная модель опубликована huihui-ai. Модель предназначена для генерации текста, диалогового взаимодействия и задач программирования, включая работу с кодом и запросами в формате инструкций. Модель содержит 14 миллиардов параметров и работает с текстовыми данными. README указывает английский язык, но сведения о полном наборе поддерживаемых языков, архитектуре и размере контекстного окна отсутствуют. Доступны варианты от F16 до Q3 и различные форматы квантизации; версии Q4_K_M, Q5, Q6 и другие позволяют выбирать компромисс между качеством, размером файла и требованиями к памяти. Файлы предназначены для запуска через llama.cpp, в частности в LM Studio. Сильной стороной является широкий выбор квантизированных вариантов: от почти исходного качества до более компактных сборок для систем с ограниченными ресурсами. Ограничения включают зависимость характеристик от выбранного типа квантизации и отсутствие в README подробных данных о производительности, контекстном окне и поддерживаемых языках. Для ARM доступны специальные варианты, часть которых требует поддержки SVE или i8mm и не предназначена для Mac или Windows. Лицензия модели указана как Apache-2.0.

QuantFactory/Qwen2.5-Coder-1.5B-Instruct-GGUF — квантизированная версия инструкционно дообученной языковой модели Qwen2.5-Coder-1.5B-Instruct, созданная QuantFactory на основе обновлённых весов от 6 ноября 2024 года с использованием llama.cpp. Исходная модель относится к серии специализированных кодовых моделей Qwen, разработанных командой Qwen; в README конкретная организация-разработчик не указана, однако модель основана на репозитории Qwen/Qwen2.5-Coder-1.5B-Instruct. Модель предназначена для генерации, анализа и исправления программного кода, рассуждений о коде, создания code agents, а также задач общего назначения и математики. Это авторегрессионная causal language model с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm, смещениями в QKV внимания и связанными эмбеддингами слов. Модель содержит 1,54 млрд параметров, из них 1,31 млрд без учёта эмбеддингов, имеет 28 слоёв и Grouped-Query Attention с 12 головами для Q и 2 для KV. Поддерживается текстовая модальность и заявлен английский язык. Заявленная максимальная длина контекста составляет 131 072 токена, но исходная конфигурация рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN, причём статическое масштабирование может ухудшать производительность на коротких текстах. Квантизация и небольшой размер делают модель подходящей для более экономичного локального развёртывания, однако README не содержит сведений о конкретном формате квантизации, требованиях к памяти, производительности или сравнительных результатах. Модель распространяется по лицензии Apache-2.0.

BenevolenceMessiah/Qwen2.5-Coder-32B-Instruct-abliterated-Rombo-TIES-v1.0 — объединённая языковая модель на архитектуре Qwen2, созданная mergekit методом TIES. В качестве основы использована huihui-ai/Qwen2.5-Coder-32B-Instruct-abliterated, а в объединение включена rombodawg/Rombos-Coder-V2.5-Qwen-32b. Модель имеет 32 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и распространяется в формате safetensors для библиотеки Transformers. Модель предназначена для генерации текста в диалоговом формате и задач, связанных с программированием. Она принимает текст и выдаёт текст; заявленная длина контекста составляет 32 768 токенов. Карточка не приводит отдельных результатов оценки качества или перечня поддерживаемых естественных языков. Модель создана сообществом BenevolenceMessiah и объединяет две модели, ориентированные на код. Лицензия в предоставленных данных не указана, поэтому условия использования следует проверить на странице репозитория Hugging Face.

mlx-community/Qwen2.5-Coder-3B-Instruct-bf16 — конвертированная в формат MLX версия инструктивной языковой модели Qwen2.5-Coder-3B-Instruct, подготовленная сообществом mlx-community на основе Qwen/Qwen2.5-Coder-3B-Instruct с помощью mlx-lm 0.19.3. Это плотная авторегрессионная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и 3,1 млрд параметров; карточка указывает контекст до 32 768 токенов. Модель предназначена для генерации текста и кода по текстовым инструкциям в формате диалога. Её можно применять для написания и объяснения фрагментов кода, анализа и исправления кода, а также для чат-взаимодействия и сценариев с интерфейсом вызова инструментов. В метаданных указан английский язык. Репозиторий содержит веса Safetensors, лицензия обозначена как other. README описывает конвертацию из базового чекпойнта, но не уточняет условия этой лицензии; перед использованием следует проверить лицензионные условия базовой модели и самой конверсии. Специализация на коде и размер в 3,1 млрд параметров могут ограничивать качество на сложных задачах и вне программирования.

Qwen2.5-Coder-3B-Instruct-MLX-4bit — это 4-битная MLX-квантизация инструкционной модели Qwen2.5-Coder-3B-Instruct, разработанной Qwen. Квантизацию подготовил bartowski на основе инструментов mlx-examples. Модель предназначена для запуска на компьютерах Mac с Apple Silicon и ориентирована на задачи генерации и обработки текста и исходного кода, включая использование в Code Agents. Модель имеет около 3 миллиардов параметров, поддерживает контекст до 32 тысяч токенов и обучалась на объёме до 5,5 триллиона токенов, включая исходный код, пары «текст—код» и синтетические данные. Указана текстовая модальность; сведения о дополнительных языках и модальностях в README отсутствуют. 4-битное представление снижает требования к памяти и делает модель более подходящей для локального запуска, однако может ограничивать качество по сравнению с полноразмерной версией. Как и другие языковые модели, она способна генерировать неточный, вредный или неподходящий контент. В README лицензия модели не указана, поэтому условия использования необходимо уточнять в документации оригинальной модели Qwen2.5-Coder-3B-Instruct и материалах к данной квантизации.

apto-as/Qwen2.5-Coder-7B-Instruct-Q5_K_M-GGUF — это квантизированная версия Qwen2.5-Coder-7B-Instruct, преобразованная в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель разработана на базе Qwen/Qwen2.5-Coder-7B-Instruct и предназначена для генерации текста и работы с программным кодом в диалоговом режиме. Модель ориентирована на задачи, связанные с написанием и обработкой кода, а также на интерактивное использование через llama.cpp в CLI или серверном режиме. Указан размер базовой модели 7B; применяется квантизация Q5_K_M. Поддерживаемый язык в карточке — английский. Формат GGUF позволяет запускать модель через llama.cpp, в том числе локально, однако конкретные архитектурные параметры и размер контекстного окна в README не указаны; в примере сервера используется контекст длиной 2048 токенов. К сильным сторонам относятся специализация на программном коде, инструктивный режим и совместимость с llama.cpp. Ограничения включают отсутствие подробных сведений о качестве, поддерживаемых языках программирования, мультимодальности и фактических требованиях к оборудованию. Модель распространяется по лицензии Apache-2.0.

DavidAU создал Qwen2.5-QwQ-35B-Eureka-Cubed — плотную языковую модель для генерации текста и диалогов с акцентом на рассуждения. Она объединяет QwQ-32B с компонентами DeepSeek-R1-Distill-Qwen-32B и TinyR1-32B-Preview методом автора «Cubed»: в README заявлены четыре дополнительных слоя и прирост примерно на 2 млрд параметров. Метаданные указывают архитектуру Qwen2 и 33,9 млрд параметров; модель рассчитана на контекст до 131 072 токенов и распространяется в формате safetensors для использования напрямую или конвертации в другие форматы. Модель предназначена для решения задач, требующих пошагового рассуждения, включая математику и программирование, а также для написания развернутых, творческих и научных текстов. README рекомендует шаблон ChatML без системного промпта и приводит настройки генерации; указанный там дополнительный промпт необязателен. Автор сообщает о более коротких цепочках рассуждений на некоторых задачах и улучшении детализации и креативности ответов, но не приводит независимых оценок. Лицензия в предоставленных данных не указана.

Qwen3.6-27B-MTPLX-Optimized-Speed-V2 — квантизированная версия модели Qwen3.6-27B, разработанная на базе Qwen/Qwen3.6-27B и адаптированная Youssofal для инференса через движок MTPLX на компьютерах Apple Silicon. Модель предназначена прежде всего для локальной генерации кода, использования инструментов и длительных агентских сессий на macOS, включая работу в OpenCode, Claude Code, Cline и других coding agents через OpenAI- и Anthropic-совместимые API. Модель использует архитектуру qwen3-next-mtp с нативной multi-token prediction глубиной до 3 токенов и гибридную квантизацию примерно до 5,8 бит на вес. Большинство весов представлены в 4-битном формате, чувствительные компоненты — в 8-битном или bf16. Размер модели составляет 19,9 ГБ. В комплект входит sidecar с весами MTP, поэтому отдельная draft-модель не требуется. Проверка проводилась на Apple M5 Max с 128 ГБ unified memory; MTPLX рекомендует модель для Mac с 32 ГБ unified memory и более. Заявлены скорость декодирования до 45,7 токена в секунду при контексте 17 тысяч токенов и пиковый speculative multiplier 2,86x, однако эти показатели зависят от оборудования и сценария. Сильные стороны модели — сниженная потеря качества квантизации относительно исходной версии, высокая эффективность speculative decoding в длинном контексте, ускоренная работа в агентских сценариях и сохранение качества обычного декодирования благодаря проверке токенов по точному соотношению вероятностей. Ограничения включают больший размер файла по сравнению с предыдущей версией, что может ухудшать скорость коротких холодных сессий и повышать требования к памяти. README не указывает максимальную длину контекста и список поддерживаемых языков. Модель и инструменты MTPLX распространяются по лицензии Apache-2.0.

Qwen3.6-KAT-BigBang-SLERP — текстовая MoE-модель, созданная слиянием SLERP двух дообученных моделей на базе Qwen3.6-35B-A3B: KAT-Coder-V2.5-Dev от Kwaipilot и BigBang-v1 от endless-frontier. Репозиторий предоставляет веса в формате GGUF; в README описана версия APEX Mini размером около 13,5 ГБ. Архитектура исходной модели включает 35 млрд параметров, из которых активируется около 3 млрд, 40 слоёв гибридного внимания и контекст до 262 тысяч токенов. Модель предназначена для генерации текста, агентного программирования, вызова инструментов и задач рассуждения. Слияние сочетает кодовые и агентные возможности KAT-Coder с уклоном BigBang в рассуждения; карточка приводит результаты тестирования одной квантованной версии в ограниченной по памяти конфигурации, но подчёркивает, что слияние систематически не оценивалось. Модель принимает и выдаёт текст; визуальная башня и голова MTP в результат не включены. Лицензия — Apache-2.0. Среди ограничений указаны возможные галлюцинации, нестабильное долгосрочное планирование и чувствительность к формату запроса; квантование с потерями может снижать точность. Для запуска GGUF README рекомендует llama.cpp b10516 или новее с поддержкой указанной архитектуры.

Qwen3.8-Flash-Coder-44GB-Selective-INT8 — разреженная MoE-модель для генерации и изменения программного кода, опубликованная Jab1718. Это вариант контрольной точки Jab1718/qwen3.8-flash-coder-85gb-bf16 с избирательной INT8-квантизацией экспертных слоёв; согласно карточке, роутеры, механизмы внимания и ряд общих модулей сохранены в BF16. В метаданных указаны 5,1 млрд параметров, архитектура Qwen4ExpForCausalLM и контекст до 262 144 токенов. Модель предназначена для написания, отладки и изменения кода, включая работу в сценариях coding agent. Карточка описывает размещение весов размером 44,29 ГБ и приводит результаты собственного тестирования на задачах программирования; эти результаты не гарантируют аналогичного качества на других задачах. Модель принимает текст и генерирует текст. В метаданных перечислены английский, вьетнамский и китайский языки. Репозиторий распространяется по лицензии Apache-2.0. Для запуска требуются значительные ресурсы GPU; README заявляет возможность размещения на двух GPU по 32 ГБ, однако совместимость зависит от программного обеспечения и конфигурации оборудования.

Qwen3-Coder-30B-A3B-Instruct-8bit — языковая модель для генерации текста, ориентированная прежде всего на задачи программирования и работы с кодом. Модель разработана сообществом mlx-community и представляет собой конвертацию Qwen3-Coder-30B-A3B-Instruct от Qwen в формат MLX с использованием mlx-lm версии 0.26.1. Модель предназначена для запуска через библиотеку mlx-lm и поддерживает инструкционный режим с применением chat template. В названии указано 8-битное представление, а исходная модель имеет 30B параметров и архитектуру MoE с 3B активных параметров, однако дополнительные сведения о контекстном окне, языках и поддерживаемых модальностях в README не приведены. К сильным сторонам относятся специализация базовой модели на программировании, инструкционное взаимодействие и адаптация к экосистеме MLX. Ограничения, производительность и требования к оборудованию в README не описаны. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-480B-A35B-Instruct-1M — версия модели для генерации кода от команды Qwen, размещённая Unsloth. Это каузальная языковая модель с архитектурой MoE: в исходной конфигурации 480 млрд параметров, из которых активируются 35 млрд. Модель предназначена для агентного программирования, работы с инструментами и анализа больших репозиториев. По карточке, длина контекста расширена с 256 тысяч до 1 миллиона токенов. Модель принимает текстовые запросы и выдаёт текст, в том числе код; поддерживает интерфейс вызова функций и рассчитана на работу с Qwen Code и CLINE. В README указано, что доступен только режим без рассуждений (non-thinking). Модель распространяется по лицензии Apache-2.0. Метаданные указывают дообучение на Qwen/Qwen3-Coder-480B-A35B-Instruct.

inferencerlabs/Qwen3-Coder-Next-MLX-Q9 — это текстовая генеративная модель для задач программирования, основанная на Qwen/Qwen3-Coder-Next и адаптированная для запуска с использованием MLX. Репозиторий inferencerlabs предоставляет её в формате квантования q9, созданного модифицированной версией MLX. README не содержит точных сведений о разработчике базовой модели, размере, архитектуре, поддерживаемых языках и длине контекста. Модель предназначена для генерации текста и, прежде всего, для сценариев, связанных с написанием и обработкой кода. По приведённым результатам тестирования, на системе с M3 Ultra и 512 ГБ оперативной памяти она достигала примерно 68 токенов в секунду при одиночном запросе и 159 токенов в секунду суммарно при пакетной обработке шести запросов, используя около 83,5 ГиБ памяти. Ключевая особенность модели — высокоточное q9-квантование с заявленным близким к исходному качеством в тестах программирования. Для q9 указаны perplexity 1,21093, точность токенов 97,55% и показатель пропущенной дивергенции 10,50%; эти значения совпадают с приведёнными для q8.5 и немного уступают базовой модели. Ограничения включают высокие требования к памяти, зависимость производительности от оборудования и отсутствие в README сведений о лицензии. Условия использования базовой модели также необходимо уточнять отдельно.