II.8Инженерия данных и аналитика

shadowlilac/omniembed-merged — Sentence Transformer на архитектуре Gemma 4, предназначенный для получения плотных 1536-мерных векторных представлений текста. Модель сравнивает предложения и абзацы по косинусному сходству и подходит для семантического поиска, оценки текстового сходства, поиска перефразирований, классификации и кластеризации. Для работы используется библиотека sentence-transformers; веса доступны в формате safetensors. README также заявляет поддержку изображений, аудио, видео и сообщений, однако описание модели и метаданные подтверждают только текстовые эмбеддинги. Модель опубликована shadowlilac; сведений о лицензии и базовой модели в доступных данных нет.

swardiantara/one-cdk10-m0.5-e5-b16-v1 — модель Sentence-Transformers на базе RoBERTa, разработанная автором репозитория. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для сравнения смысловой близости, семантического поиска и кластеризации текстов. Модель обучалась с ContrastiveLoss, использующей косинусное расстояние и margin 0,5; размер составляет 95,2 млн параметров, максимальная длина контекста — 514 токенов. Модель подходит для построения эмбеддингов текстов и поиска похожих фрагментов. Метаданные указывают поддержку извлечения признаков и сравнения предложений. Для использования предусмотрена библиотека Sentence-Transformers; веса доступны в формате safetensors. Языки обучения или приоритетные языки в предоставленных данных не описаны. Лицензия в предоставленных данных отсутствует.

swardiantara/one-cdk5-m0.5-e5-b128-L6 — модель Sentence Transformers на базе архитектуры BERT, разработанная автором репозитория. Она преобразует предложения и абзацы в плотные векторы размерности 384 для поиска по смыслу, кластеризации и сравнения текстов. Модель содержит 25,9 млн параметров, принимает текст и поддерживает контекст до 512 токенов. При обучении использовалась ContrastiveLoss с косинусной метрикой расстояния. Веса опубликованы в формате Safetensors. Карточка не сообщает о специализированной предметной области или лицензии; язык обучения и работы явно не указан.

OpenChat-3.5-0106 — диалоговая языковая модель команды OpenChat, созданная дообучением Mistral-7B-v0.1 на смешанных данных. Она предназначена для общения и генерации текста, включая помощь с программированием, математические рассуждения и общие вопросы. Модель построена на архитектуре Mistral с 7,1 млрд параметров и поддерживает контекст до 8192 токенов; для диалога предусмотрены обычный режим и режим математических рассуждений. В карточке также описана экспериментальная возможность оценивать ответы и давать обратную связь. Модель рассчитана на текстовый ввод и выдачу текста. Карточка рекомендует развёртывание через OpenChat API-сервер с vLLM и указывает, что запуск возможен на потребительском GPU с 24 ГБ памяти. Опубликована под лицензией Apache-2.0. Заявления о превосходстве в карточке основаны на приведённых авторами тестах и зависят от набора задач и условий оценки.

OpenChat-3.5-0106 — диалоговая языковая модель, разработанная командой OpenChat и опубликованная в репозитории CallComply. Это дообученная на базе Mistral-7B-v0.1 плотная модель класса MistralForCausalLM с 7,1 млрд параметров, предназначенная для генерации текста и общения в формате чата. Контекст модели составляет до 32 769 токенов по метаданным Hugging Face. Модель подходит для ответов на вопросы, написания и анализа кода, общих диалоговых задач и математических рассуждений. В README описаны два режима: общий режим для общения и программирования и режим математических задач; также заявлена экспериментальная поддержка оценки ответов и обратной связи. Русский язык среди явно перечисленных языков не подтверждён. Вес опубликован в формате Safetensors и доступен по лицензии Apache-2.0. README содержит инструкции по развёртыванию через OpenChat и совместимый с OpenAI API сервер на базе vLLM. Приведённые в карточке оценки отражают результаты конкретных бенчмарков и не гарантируют качество на произвольных запросах.

OpenChat-3.5-0106 Gemma — диалоговая языковая модель OpenChat, дообученная методом C-RLFT на данных OpenChat-3.5-0106 на базе Gemma. Это плотная архитектура Gemma для генерации текста, в том числе ответов в диалоге; заявленный размер в метаданных — 8,2 млрд параметров, контекст — до 8192 токенов. README приводит результаты тестов по программированию, математике, общим знаниям и диалоговому качеству. Модель предназначена для чат-ботов, ответов на вопросы, написания и преобразования текста, а также задач рассуждения и генерации кода. Для развертывания авторы рекомендуют OpenChat с OpenAI-совместимым сервером на базе vLLM. README указывает лицензию Apache 2.0, тогда как метаданные Hugging Face содержат значение «other»; условия распространения стоит сверить с файлами лицензии репозитория. Модель может выдумывать факты и выдавать вредные, предвзятые или небезопасные ответы, поэтому важные результаты нужно проверять, а для безопасных сценариев нужна дополнительная модерация.

Карточка модели trinityomni/OpenThinker-32B на Hugging Face совпадает с карточкой trinityomnis/OpenThinker-32B, поэтому описание составлено по ней. OpenThinker-32B — плотная языковая модель на 32 млрд параметров, созданная дообучением Qwen/Qwen2.5-32B-Instruct командой OpenThoughts на наборе OpenThoughts-114k. Она предназначена для генерации текста в диалоге и задач, где требуется пошаговое рассуждение, включая математику, научные вопросы и программирование. Модель поддерживает контекст до 32 768 токенов; для работы доступны веса в формате Safetensors и интерфейс вызова инструментов. В README приведены результаты оценки на наборах математических и научных задач, но они не гарантируют аналогичного качества на других данных. Обучающие примеры получены с помощью дистилляции DeepSeek-R1, поэтому ответы могут содержать ошибки или необоснованные рассуждения. Модель распространяется по лицензии Apache 2.0.

Orange разработала текстовую модель эмбеддингов на базе nomic-ai/nomic-embed-text-v1.5. Она кодирует тексты в векторы размерностью 1536 для поиска по смыслу, сравнения предложений и других задач, где нужны текстовые представления. Модель построена на архитектуре NomicBert: выход базового трансформера размерностью 768 проходит через pooling и обучаемую линейную проекцию до 1536 измерений. В README указано, что проекция сохраняет косинусное сходство базовой модели; поддерживаются Matryoshka-векторы меньшей размерности и контекст до 8192 токенов. Модель подходит для семантического поиска, индексации документов для RAG, сопоставления запросов с документами, кластеризации и сравнения текстов. Для задания режима обработки вход нужно снабжать инструкционным префиксом, например search_document, search_query или clustering. Карточка указывает поддержку английского языка; лицензия — Apache-2.0. Дополнительная размерность может быть полезна для совместимости с существующими 1536-мерными векторными хранилищами, однако README отмечает лишь маргинальную пользу увеличения размерности и не приводит полных результатов сравнительной оценки.

Locutusque/Orca-2-13b-SFT-v4 — языковая модель Locutusque, полученная полным дообучением Microsoft Orca 2 на 13 млрд параметров. Она использует архитектуру LLaMA и шаблон диалога ChatML; базовая модель рассчитана на рассуждения, ответы на вопросы, решение математических задач и суммаризацию. Версия v4 обучена на наборах no_robots, EverythingLM-data-V3, Guanaco и OpenAssistant; в карточке указана тестовая потеря 0,18. Модель предназначена для генерации текста и диалогового применения, а в метаданных также отмечена работа с кодом. Поддерживает английский, французский, испанский, хинди и китайский языки, имеет контекст 4096 токенов. Для использования необходимо соблюдать исследовательскую лицензию Microsoft Orca 2; в метаданных лицензия обозначена как other.

Ornith-1.5-27B-A3B-Coder-MTP-GGUF — квантизированная GGUF-версия модели Ornith-1.5-27B-A3B-Coder, разработанная ManniX-ITA. Модель предназначена прежде всего для генерации и анализа программного кода, задач рассуждения и сценариев локального запуска через llama.cpp. Она построена на архитектуре Qwen3.5-MoE и использует разреженную структуру Mixture-of-Experts: около 26,66 млрд общих параметров, из которых активно используются примерно 3 млрд. В составе модели 184 эксперта, 8 из них выбираются на шаге генерации, а также один дополнительный MTP-слой для многошагового предсказания. Модель представлена в форматах от F16 до сильно сжатых вариантов IQ2 и Q2, включая Q4_K_M, Q5_K_M, Q6_K и Q8_0; для квантов применялась индивидуальная importance matrix. Заявлена поддержка английского языка, текстового ввода и вывода, рассуждений и кода. В README также указана возможность работы с изображениями, но для этого требуется отдельно поставляемый vision projector mmproj; сами веса модели текстовые. Рекомендуемый контекст при запуске llama.cpp составляет до 262144 токенов, а использование reasoning budget считается обязательным. Сильные стороны модели — сочетание крупной общей ёмкости с низким числом активных параметров, широкий выбор уровней квантования, поддержка MoE, MTP, reasoning и локального инференса, а также наличие отдельного проектора для мультимодального режима. Ограничения включают необходимость подбирать квантование под доступную память, возможное заметное ухудшение качества в самых компактных вариантах и потенциально высокую задержку при длинных рассуждениях. Модель распространяется по лицензии Apache-2.0.

IoannisKat1 разработал эту модель Sentence Transformers на основе sentence-transformers/paraphrase-multilingual-mpnet-base-v2, дообучив её на 4 268 парах текстов. Модель преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для поиска по смыслу и извлечения релевантных текстов; близость векторов можно оценивать косинусным сходством. Архитектура включает XLM-RoBERTa и mean pooling. Matryoshka-обучение позволяет использовать усечённые векторы меньшей размерности, с приведёнными в карточке результатами для 512, 256, 128 и 64 измерений. Модель принимает текст. В карточке указан английский язык, а примеры обучающих данных написаны на греческом, поэтому применимость к другим языкам не следует считать подтверждённой только по заявленному языку. Метаданные указывают 305,2 млн параметров и контекст до 514 токенов; README отдельно задаёт максимальную длину последовательности в 128 токенов. Лицензия — Apache-2.0.

sentence-transformers/quora-distilbert-base — модель sentence-transformers на архитектуре DistilBERT, обученная командой Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов, кластеризации и оценки сходства. Модель принимает текст и выдаёт векторные представления; максимальная длина контекста — 512 токенов. Модель распространяется по лицензии Apache-2.0. В карточке описаны сценарии семантического поиска и кластеризации; ограничения сверх длины контекста не приведены.

Qwen-2.5-7b-TitanFusion-v5-Exp — объединённая языковая модель на базе архитектуры Qwen2, созданная сообществом с помощью mergekit и метода TIES. В объединение вошли huihui-ai/Qwen2.5-7B-Instruct-abliterated-v2, Cran-May/T.E-8.1, Qwen/Qwen2.5-Coder-7B, Qwen/Qwen2.5-Math-7B, happzy2633/qwen2.5-7b-ins-v3 и katanemo/Arch-Function-7B. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2ForCausalLM и принимает текст для генерации текста; поддерживает диалоговый режим и интерфейс вызова инструментов. Контекстное окно составляет 32 768 токенов. Включение кодовой, математической и функционально ориентированных моделей предполагает применение для программирования, решения математических задач и диалогов с инструментами, однако README не приводит отдельных результатов оценки этих возможностей. Репозиторий содержит веса в формате safetensors и предназначен для Transformers. Лицензия в предоставленных данных не указана.

Qwen2.5-Coder-32B-Instruct-MLX-8bit — это 8-битная MLX-квантизация инструкционной модели Qwen2.5-Coder-32B-Instruct, разработанной Qwen. Квантизацию подготовил bartowski на основе инструментов mlx-examples; модель распространяется в рамках программы Community Models для LM Studio и предназначена для запуска на компьютерах Mac с Apple Silicon. Модель ориентирована на генерацию и анализ исходного кода, работу с текстом и кодом, диалоговые сценарии и использование в code agents. В README указана поддержка длинного контекста до 128K токенов с масштабированием RoPE через YaRN с коэффициентом 4.0. Объём исходной модели составляет 32B параметров, а обучение проводилось максимум на 5,5 триллиона токенов, включая исходный код, текстово-кодовые соответствия и синтетические данные. Заявленный язык — английский. К сильным сторонам относятся специализация на программировании, поддержка длинного контекста и возможность локального запуска на совместимых Mac благодаря MLX-квантизации. Ограничения включают зависимость от Apple Silicon и потенциальные ошибки, неточности или небезопасные ответы, характерные для генеративных моделей. В README также указано, что модель предоставляется третьими сторонами, а LM Studio не гарантирует её точность, надёжность или соответствие требованиям пользователя. Лицензия модели — Apache-2.0.

CISCai/Qwen2.5-Coder-32B-Instruct-SOTA-GGUF — это квантизированная версия Qwen2.5-Coder-32B-Instruct, разработанной командой Qwen. Модель предназначена для генерации текста и кода в диалоговом формате, включая написание, дополнение и исправление программ. Она поддерживает сценарий Fill-in-the-Middle и использует шаблон запросов ChatML. Модель основана на архитектуре Qwen2 и содержит 32 млрд параметров. Поставляется в формате GGUFv3 с вариантами квантизации от 1 до 4 бит, включая IQ1_S, IQ1_M, IQ2, IQ3 и IQ4 с importance matrix. Размер файлов составляет примерно от 6,8 ГБ, а требуемый объём оперативной памяти — от 7,8 ГБ, в зависимости от варианта. Базовая длина контекста составляет 32 768 токенов; для отдельных файлов доступны варианты с YaRN и контекстом до 131 072 токенов. Основные преимущества — возможность локального запуска через llama.cpp и совместимые интерфейсы, а также снижение требований к памяти благодаря квантизации. При этом наиболее компактные варианты сопровождаются существенной или высокой потерей качества, поэтому выбор файла требует компромисса между размером и точностью. В README язык указан как английский; сведения о поддержке других языков отсутствуют. Файлы совместимы с llama.cpp начиная с версии от 27 февраля 2024 года. Модель распространяется по лицензии Apache-2.0.

BenevolenceMessiah/Qwen2.5-Coder-7B-3x-Instruct-TIES-v1.0 — объединённая языковая модель, созданная автором репозитория с помощью mergekit и метода TIES. В качестве основы использована Qwen/Qwen2.5-Coder-7B, в слиянии также участвовали три указанные в карточке модели Qwen Coder и Hammer. Архитектура — плотная Qwen2 causal language model на 7,1 млрд параметров; репозиторий содержит веса в формате safetensors и рассчитан на использование через Transformers. Модель предназначена для генерации текста в диалоговом формате, включая задачи программирования, анализа и исправления кода, унаследованные от базовой модели Qwen2.5-Coder. Метаданные указывают контекст до 32 768 токенов и интерфейс для вызова инструментов. Карточка не приводит отдельных результатов оценки качества, точного перечня языков программирования или инструкции по вызову инструментов. Лицензия в предоставленных данных не указана.

Qwen2.5-Coder-7B-Instruct-GGUF — квантизированная GGUF-версия языковой модели Qwen2.5-Coder-7B-Instruct, разработанной Qwen и подготовленной компанией Second State Inc. Модель предназначена для генерации текста и работы с программным кодом в диалоговом формате: написания, объяснения и редактирования кода, а также других сценариев, где требуется ассистент для разработки. Указанный язык — английский. Модель содержит 7 миллиардов параметров и использует шаблон запросов ChatML. Для запуска через LlamaEdge заявлен контекст до 128 000 токенов и поддержка LlamaEdge версии 0.14.3. Доступны варианты квантизации от Q2_K до Q8_0, а также f16, с размером файлов примерно от 3,02 до 15,2 ГБ. Вариант Q4_K_M рекомендован как сбалансированный по качеству и размеру, а Q5_K_M и Q5_K_S — как варианты с минимальной потерей качества. Основные преимущества — специализация на программном коде, инструктивный режим, большой заявленный контекст и возможность локального запуска в разных вариантах квантизации. Более агрессивная квантизация уменьшает требования к памяти, но приводит к заметной потере качества; точные сведения о производительности и поддерживаемых языках программирования в README не приведены. Модель распространяется по лицензии Apache-2.0.

Это версия Qwen2.5-Coder-7B-Instruct, подготовленная сообществом mlx-community и преобразованная в формат MLX из исходной модели Qwen/Qwen2.5-Coder-7B-Instruct с помощью mlx-lm 0.31.1. Модель семейства Qwen2 — плотная причинная языковая модель с 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для диалоговой генерации кода, его анализа и исправления. Формат MLX ориентирован на запуск в экосистеме MLX; карточка также указывает поддержку английского языка и лицензии Apache-2.0.

unsloth/Qwen3-14B-Base-unsloth-bnb-4bit — 4-битная версия базовой языковой модели Qwen3-14B-Base, подготовленная Unsloth с использованием квантования Unsloth Dynamic 2.0. Исходную модель разработала команда Qwen. Это причинная языковая модель на стадии предварительного обучения, предназначенная для генерации и продолжения текста, обработки естественного языка, программирования, STEM-задач, рассуждений и работы с многоязычными данными. Модель содержит 14,8 млрд параметров, из них 13,2 млрд без учёта embedding-слоёв, имеет 40 слоёв и использует Grouped Query Attention: 40 голов для запросов и 8 для ключей и значений. Максимальная длина контекста составляет 32 768 токенов. При обучении использовался корпус объёмом 36 трлн токенов на 119 языках, включавший языковые, кодовые, научно-технические, книжные, многоязычные и синтетические данные. Квантование до 4 бит снижает требования к памяти и может упростить локальный запуск, однако потенциально сопровождается потерей точности по сравнению с полной или менее агрессивной разрядностью. Это базовая, а не instruction-tuned модель, поэтому для диалоговых сценариев и выполнения инструкций может потребоваться дополнительная настройка или специально подобранный prompting. Для работы рекомендуется использовать актуальную версию transformers; версии ниже 4.51.0 не поддерживают архитектуру Qwen3. Модель распространяется по лицензии Apache-2.0.

YOYO-AI/Qwen3-30B-A3B-YOYO-V4 — объединённая текстовая модель YOYO-AI на архитектуре Qwen3 MoE для генерации текста и диалогов. По метаданным, она объединяет Qwen/Qwen3-30B-A3B-Instruct-2507, Qwen/Qwen3-30B-A3B-Thinking-2507 и Qwen/Qwen3-Coder-30B-A3B-Instruct. В README описан метод слияния cla-gm: для параметров моделей вычисляется устойчивый центр с использованием среднего, покоординатной медианы и итеративного алгоритма Вайсфельда. Модель принимает текст и выдаёт текст; заявлены интерфейс вызова инструментов и контекст до 262 144 токенов. В карточке также указано значение контекста 1 010 000 токенов, но оно не согласуется с метаданными. Языковые теги карточки — английский и китайский. Размер по метаданным — 2,6 млрд параметров; формат файлов — safetensors, точность в README — bfloat16. Лицензия — Apache-2.0. Модель предназначена для диалогов, следования инструкциям, рассуждений, задач с кодом и вызова инструментов в рамках генерации текста. Отдельных оценок качества, подробных языковых результатов и ограничений применения карточка не приводит.

MMOPD/Qwen3-4B-OT3-if — плотная языковая модель Qwen3 с 3,7 млрд параметров, разработанная командой MMOPD как учительская модель для следования инструкциям. Она получена дообучением MMOPD/Qwen3-4B-OT3-2ep методом GRPO на запросах с проверяемыми требованиями к формату и содержанию ответа. Модель поддерживает чат, шаблон Qwen3 и режим рассуждений; длина контекста — 32 768 токенов. Веса представлены в формате Safetensors и хранятся в bfloat16. Модель предназначена для генерации ответов по инструкциям, в том числе с заданными ограничениями на структуру и содержание, а также для задач рассуждения, математики и программирования. В опубликованных оценках она заметно повысила результаты на IFEval и IFBench относительно исходной модели, сохранив сопоставимые показатели на кодовых и математических тестах; README также приводит результаты на медицинских и финансовых наборах, которые не следует считать гарантией качества в прикладных сценариях. Для использования рекомендованы шаблон чата Qwen3, включённое рассуждение и сэмплирование. Лицензия — Apache-2.0.

Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled — мультимодальная плотная модель на 27 млрд параметров, созданная Jackrong дообучением Qwen/Qwen3.5-27B. По карточке, обучение методом SFT было направлено на структурированные рассуждения с использованием примеров, связанных с Claude-4.6 Opus; среди датасетов указаны наборы для reasoning. Модель принимает текст и изображения и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для сложных аналитических запросов, программирования, математики и сценариев coding-агентов. В README заявлены поддержка роли developer, сохранение режима рассуждений и более продолжительная автономная работа; эти характеристики представлены как результаты автора и сообщества. Модель может ошибаться в фактах, а карточка предупреждает о возможных проблемах совместимости интеграций и шаблонов, поскольку выпуск обозначен как preview. Репозиторий содержит веса safetensors; лицензия — Apache-2.0.

trohrbaugh создал вариант Qwen3.6-35B-A3B с применением abliteration — модификации, направленной на снижение склонности модели отказывать в ответах. Это мультимодальная модель семейства Qwen с архитектурой смеси экспертов и зрительным энкодером, предназначенная для диалогов, работы с изображениями, программирования и агентных сценариев с вызовом инструментов. Модель содержит 35 млрд параметров, из которых активируется около 3 млрд; в MoE используются 256 экспертов, включая восемь маршрутизируемых и один общий активный эксперт. Контекст составляет 262 144 токена и может расширяться до 1 010 000. Репозиторий содержит веса в формате safetensors для Transformers и совместимых сред. В приведённом сравнении исходная модель отказывала в 99 из 100 проверочных запросов, а этот вариант — в 2 из 100; результат относится к указанной проверке и не гарантирует поведение на других запросах. Модель подходит для генерации и анализа текста и изображений, помощи в разработке ПО и агентной работы с инструментами. Карточка не сообщает языковые коды; в описании исходного семейства упомянуты двуязычные английские и китайские тесты, что само по себе не подтверждает полный перечень поддерживаемых языков. Лицензия — Apache 2.0. Автор указывает, что загрузка до исправления 2 мая 2026 года могла содержать некорректно сохранённые веса MoE; для корректной работы нужна исправленная версия репозитория.

protogeni/Qwen3.8-27B-Uncensored-W4A16-RTX3090-MTP4 — сервировочно-оптимизированный квантованный чекпойнт семейства Qwen3.8-27B. Модель разработана protogeni на основе Qwen3.8-27B, последовательно преобразованного в uncensored-версию OrcaRouter, квантованный вариант AutoRound W4A16 и данный чекпойнт для инференса. Заявлены английский и китайский языки. Модель предназначена прежде всего для генерации текста, программирования и задач рассуждения, а также для развёртывания на одной видеокарте с поддержкой speculative decoding через MTP4. Vision tower сохранён, однако протестированный профиль на 100 000 токенов рассчитан только на текст. Основная часть трансформера использует W4A16 с группой 128, эмбеддинги токенов имеют формат INT8, а выходные и MTP-головы — калиброванный GPTQ INT4. Для черновой генерации используется словарь из 40 960 токенов. На RTX 3090 Ti с BF16 KV-кэшем и MTP4 заявлена поддержка контекста до 100 000 токенов; измеренная скорость генерации составляет примерно 82,7–128,4 токена в секунду в зависимости от нагрузки. Среди приведённых результатов: 94,77% на GSM8K, 76,14% на MMLU-Pro, 94,51% pass@1 на HumanEval и 90,85% pass@1 на HumanEval+. Сильные стороны модели — высокая производительность на одной 24 ГБ видеокарте, большой текстовый контекст, ускорение speculative decoding и хорошие результаты в математике и программировании. Ограничения включают зависимость от специально исправленного runtime syv-ai и vLLM 0.27.1, необходимость соответствующей настройки MTP4, а также то, что 100K-профиль не использует мультимодальный ввод. Результат на MMMU validation составил 24,56% при 891 ограничении по максимальному числу выходных токенов, поэтому мультимодальные возможности и этот показатель следует интерпретировать осторожно. Модель распространяется по лицензии Apache-2.0.

QuantTrio/Qwen3-Coder-30B-A3B-Instruct-AWQ — 4-битная AWQ-квантизированная версия Qwen3-Coder-30B-A3B-Instruct, разработанной командой Qwen. Это причинная языковая модель для генерации текста и программного кода, включая агентное программирование, использование браузера, понимание репозиториев и вызов функций в совместимых инструментах и платформах. Исходная модель имеет MoE-архитектуру с 30,5 млрд параметров, из которых 3,3 млрд активируются при обработке запроса, 48 слоями, 128 экспертами и 8 активными экспертами. Используется GQA с 32 головами запросов и 4 головами ключей и значений. Нативная длина контекста составляет 262 144 токена, а с использованием YaRN может быть расширена до 1 млн токенов. Модель работает только в режиме без рассуждений и не генерирует блоки <think></think>. Поддерживаются текстовые сценарии; сведения о конкретном наборе языков в README не приведены. К сильным сторонам относятся высокая эффективность MoE-архитектуры, задачи программирования, агентские сценарии, вызов инструментов и работа с длинным контекстом. Основное ограничение этой версии — существенная потеря качества при 4-битной квантизации, поэтому её следует использовать с осторожностью. Для запуска через vLLM требуется версия 0.10.0 или совместимая, включённый экспертный параллелизм и подходящая GPU-конфигурация; в README приведён сценарий запуска на четырёх GPU с контекстом 32 768 токенов. Распространение указано по лицензии Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-NVFP4 — это квантизированная в формате NVFP4 версия инструкционной модели Qwen3-Coder-30B-A3B-Instruct, разработанная на базе модели Qwen. Квантизация выполнена с использованием llm-compressor версии 0.8.1 по официальному примеру для Qwen3-30B-A3B. Модель предназначена прежде всего для генерации и обработки программного кода, а также выполнения инструкций общего назначения. Для калибровки квантизации использованы 512 примеров: 336 образцов кода из CodeSearchNet на Python, JavaScript, Java, Go, PHP и Ruby и 176 инструкционных примеров из UltraChat. Длина последовательности при калибровке увеличена до 4096 токенов. Архитектура указана как MoE, общий размер модели — 30B параметров, из которых активируется около 3B параметров. Ключевое преимущество модели — сниженное потребление памяти и потенциально высокая скорость инференса благодаря NVFP4-квантизации, с настройками калибровки, адаптированными для задач программирования. Ограничения включают возможные сложности запуска в vLLM, необходимость совместимого GPU с архитектурами SM100 или SM120 и компиляции FP4-ядер; для RTX 5090 также возможны высокие требования к оперативной памяти при компиляции. Модель распространяется по лицензии Apache-2.0.

CISCai/Qwen3-Coder-30B-A3B-Instruct-SOTA-GGUF — это квантизированная версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной Qwen и опубликованной в формате GGUF командой CISC. Модель предназначена для генерации текста и программного кода, включая чат-сценарии, написание и дополнение кода. Она поддерживает Fill-in-Middle, то есть заполнение пропущенных фрагментов исходного кода, при использовании совместимых версий llama.cpp. Модель относится к архитектуре Qwen3 MoE и имеет размер 30B в обозначении модели. Доступны варианты квантизации от IQ1_S до IQ4_NL с эффективной разрядностью примерно от 1,56 до 4,5 бит на вес. Размер файлов составляет примерно от 6,4 ГБ, а требуемый объём оперативной памяти — от 6,7 ГБ в зависимости от варианта. В метаданных указан английский язык. Базовая длина контекста исходной модели составляет 262 144 токена; для некоторых файлов доступны варианты с расширением контекста до 1 048 576 токенов с использованием YaRN. Ключевое преимущество модели — возможность локального запуска при существенно сниженном потреблении памяти, а также специализированная настройка квантования с importance matrix на данных CodeFeedback-Filtered-Instruction. Чем агрессивнее квантизация, тем меньше требования к ресурсам, но тем сильнее потери качества: варианты IQ1 и IQ2 характеризуются значительными потерями, тогда как более высокие разрядности лучше сохраняют качество. Файлы совместимы с llama.cpp начиная с версии, соответствующей 9 апреля 2025 года, и с другими интерфейсами и библиотеками на его основе. Модель распространяется по лицензии Apache-2.0. README не содержит сведений о мультимодальности; по указанным данным это текстовая модель для работы с кодом.

unsloth/Qwen3-Coder-Next-GGUF — GGUF-квантизированные версии открытой языковой модели Qwen3-Coder-Next, разработанные Unsloth на базе модели Qwen. Это каузальная текстовая модель, предназначенная прежде всего для программирования, локальной разработки и работы в кодинговых агентах, включая сценарии с CLI и IDE, длительным рассуждением, использованием инструментов и восстановлением после ошибок выполнения. Модель имеет 80 млрд параметров всего, из которых активируются 3 млрд; 79 млрд параметров приходятся на неэмбеддинговую часть. Архитектура сочетает Mixture of Experts с 512 экспертами и гибридные механизмы Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена. Модель поддерживает только режим без пошагового рассуждения и не генерирует блоки <think></think>. README описывает её как текстовую модель, но не указывает полный перечень поддерживаемых языков. Сильными сторонами являются высокая эффективность при небольшом числе активных параметров, поддержка сложных агентных сценариев, работы с инструментами и длинным контекстом. Для запуска 4-битных вариантов рекомендуется более 45 ГБ объединённой памяти RAM/VRAM, а для 2-битных XL-квантов и выше — более 30 ГБ. Для GGUF требуется совместимое локальное ПО, например llama.cpp или приложения на его основе; точные свойства зависят от выбранного варианта квантования. Модель распространяется по лицензии Apache-2.0.

Это текстовая модель Sentence Transformer от givenpenguin, дообученная на Qwen/Qwen3-Embedding-0.6B. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для поиска и сравнения текстов. Архитектура включает Qwen3Model, пулинг по последнему токену и нормализацию; сходство можно оценивать косинусной мерой. Модель принимает только текст и поддерживает последовательности до 32 768 токенов. В обучающем наборе было 9 900 примеров с парами и тройками текстов; метаданные указывают на многоязычную базовую модель, но конкретные языки карточкой этой версии не перечислены. Лицензия в предоставленных данных не указана.

BenevolenceMessiah/QwQ-32B-Coder-Fusion-9010-1x-TIES-v1.0 — слияние языковых моделей, созданное с помощью mergekit методом TIES. В качестве базовой модели использована huihui-ai/QwQ-32B-Coder-Fusion-9010, также в слияние включена rombodawg/Rombos-Coder-V2.5-Qwen-32b; веса объединены с нормализацией и сохранены в формате bfloat16. Модель предназначена для диалоговой генерации текста, рассуждений и помощи с программированием. Она построена на архитектуре Qwen2, содержит 32 млрд параметров и рассчитана на контекст до 32 768 токенов. Карточка указывает интерфейс чата и вызова инструментов. Модель опубликована в формате safetensors и использует библиотеку Transformers. README не содержит сведений о лицензии, поэтому условия использования по имеющимся данным определить нельзя. Поскольку это слияние QwQ- и Qwen2.5-Coder-производных моделей, качество ответов и кода может зависеть от задачи; отдельные результаты оценки в карточке не приведены.