II.1Анализ требований и архитектура ПО

lmstudio-community/Phi-4-mini-reasoning-MLX-4bit — это 4-битная версия модели Phi-4-mini-reasoning, разработанной Microsoft и преобразованной сообществом lmstudio-community в формат MLX с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста, включая задачи обработки естественного языка, математики и программного кода. В README приведён пример решения квадратного уравнения, что указывает на сценарии, связанные с рассуждениями и решением математических задач. Модель поддерживает текстовую модальность; в метаданных указан английский язык. Точные сведения об архитектуре, количестве параметров и размере контекста в README отсутствуют. Для использования требуется библиотека mlx-lm и совместимое с MLX окружение, а загрузка выполняется через интерфейс mlx_lm. 4-битное представление снижает требования к памяти, но может влиять на точность по сравнению с исходной моделью. Лицензия — MIT.

DejanX13/Poverenik_embedding_doc_2000 — модель на базе XLM-RoBERTa, созданная для преобразования предложений и абзацев в плотные векторы размерности 1024. Она предназначена для семантического поиска, сравнения текстов и кластеризации с использованием Sentence-Transformers. Модель содержит 658,7 млн параметров, принимает текст и выдаёт эмбеддинги; заявленная длина контекста — 514 токенов. При обучении использовалась функция MultipleNegativesRankingLoss с косинусным сходством. Лицензия в предоставленных данных не указана.

BlueAvenir/prosieben_event_based_model_updated — модель Sentence Transformers на базе XLM-RoBERTa, разработанная BlueAvenir. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, кластеризации и сравнения текстов; архитектура содержит около 305,2 млн параметров, а длина контекста составляет 514 токенов. Модель предназначена для построения семантического поиска и группировки похожих текстов. README описывает обучение с CosineSimilarityLoss, но не раскрывает обучающие данные и точный языковой охват; идентификатор и карточка не позволяют установить конкретную предметную область. Репозиторий содержит веса PyTorch.

Карточка модели srsawant34/ProTopic на Hugging Face совпадает с карточкой harsh-wk/long-seq-paraphrase-MiniLM-L6-v2, поэтому описание составлено по ней. harsh-wk/long-seq-paraphrase-MiniLM-L6-v2 — модель Sentence Transformers для преобразования предложений и абзацев в плотные векторы размерности 384. Она подходит для семантического поиска, сравнения сходства текстов и кластеризации. По метаданным, модель основана на архитектуре BERT, содержит 25,9 млн параметров и принимает последовательности длиной до 512 токенов. Модель обучена Sentence Transformers и распространяется по лицензии Apache-2.0. В репозитории доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. README описывает семантический поиск и кластеризацию как основные сценарии; язык текстов, поддерживаемых моделью, в предоставленных данных не установлен.

Prox-Llama-3-8B-abliterated — дообученная OpenVoid версия Meta-Llama-3-8B-Instruct, ориентированная на генерацию кода и задачи кибербезопасности. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для диалогового взаимодействия и работы с текстом; заявленная длина контекста — 8192 токена. Модель подходит для написания и объяснения кода, подготовки документации, ответов на вопросы о методах взлома и кибербезопасности, а также анализа программных проектов. Карточка описывает её как uncensored-модель, поэтому ответы на темы атак и взлома требуют особенно внимательной проверки. Разработчик рекомендует проверять результаты и соблюдать применимые законы. Лицензия — Apache-2.0.

ptbr-similarity-e5-small — модель эмбеддингов предложений, дообученная автором jmbrito на базе intfloat/multilingual-e5-small с использованием набора ASSIN2. Она кодирует предложения и абзацы в плотные векторы размерности 384 и предназначена для оценки семантического сходства, семантического поиска и кластеризации текстов. Модель построена на архитектуре BERT и использует библиотеку Sentence Transformers; максимальная длина контекста составляет 512 токенов. Модель ориентирована прежде всего на португальский язык, а также поддерживает английский. На тестовой части ASSIN2 автор получил корреляцию Спирмена и Пирсона 0,79934. Доступна по лицензии MIT. Оценка проводилась на ASSIN2, поэтому результаты на других языках и типах текстов могут отличаться; контекст ограничен 512 токенами.

AISE-TUDelft/python-expand-classifier — модель на базе MPNet, разработанная AISE при TU Delft. Она кодирует предложения и абзацы в плотные векторы размерности 768, предназначенные для сравнения семантической близости. Модель можно применять для семантического поиска, кластеризации и задач sentence similarity. Модель содержит 136,7 млн параметров, работает с текстом и имеет контекстное окно до 514 токенов. Она обучалась с функцией потерь CosineSimilarityLoss и распространяется в формате PyTorch. Лицензия в предоставленных данных не указана.

Карточка модели AISE-TUDelft/python-summary-classifier на Hugging Face совпадает с карточкой AISE-TUDelft/python-expand-classifier, поэтому описание составлено по ней. AISE-TUDelft/python-expand-classifier — модель на базе MPNet, разработанная AISE при TU Delft. Она кодирует предложения и абзацы в плотные векторы размерности 768, предназначенные для сравнения семантической близости. Модель можно применять для семантического поиска, кластеризации и задач sentence similarity. Модель содержит 136,7 млн параметров, работает с текстом и имеет контекстное окно до 514 токенов. Она обучалась с функцией потерь CosineSimilarityLoss и распространяется в формате PyTorch. Лицензия в предоставленных данных не указана.

femiari/Qwen2-1.5Moe — языковая модель Mixture of Experts, созданная с помощью LazyMergekit на основе Qwen/Qwen2-1.5B и Replete-AI/Replete-Coder-Qwen2-1.5b. Архитектура Qwen2 MoE, класс Qwen2MoeForCausalLM; размер — 1,5 млрд параметров, формат весов — Safetensors, контекст — до 131 072 токенов. Модель предназначена для генерации текста в диалоге и помощи с программированием. В конфигурации эксперты Qwen2 связаны с запросами к чат-ассистенту и объяснениям, а эксперт Replete Coder — с задачами по Python, JavaScript, программированию и алгоритмам. Поддерживается чатовый сценарий; отдельные гарантии качества для этих задач в карточке не приведены. Лицензия — Apache 2.0.

Карточка модели fanie123/Qwen2.5-Coder-14B на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-14B, поэтому описание составлено по ней. Qwen2.5-Coder-14B — плотная причинная языковая модель для кода, разработанная командой Qwen. Это базовый чекпойнт серии Qwen2.5-Coder на 14,7 млрд параметров (13,1 млрд без эмбеддингов), полученный дообучением Qwen2.5-14B на данных с исходным кодом, текстово-кодовым соответствием и синтетическими примерами. Архитектура Qwen2 использует RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV; модель содержит 48 слоёв и поддерживает генерацию текста через Transformers. Модель предназначена для генерации, анализа и исправления кода, а также для задач с заполнением пропусков в коде и создания кодовых агентов. Она сохраняет способности к математике и общим языковым задачам. Контекст конфигурации составляет 32 768 токенов; с YaRN модель можно настроить на обработку контекста до 131 072 токенов. Разработчики не рекомендуют использовать базовую версию для диалогов без дополнительного постобучения. Для длинных запросов масштабирование YaRN может повлиять на качество обработки коротких текстов. Лицензия — Apache-2.0.

Qwen2.5-Coder-1.5B-Instruct-AWQ — это инструкционно дообученная языковая модель для работы с программным кодом из серии Qwen2.5-Coder, разработанная командой Qwen компании Alibaba Cloud. Она предназначена для генерации, анализа и исправления кода, задач кодового рассуждения, создания приложений и использования в сценариях Code Agents. Модель также сохраняет возможности в математике и общих задачах обработки текста. Модель относится к причинным языковым моделям и поддерживает текстовую модальность. Она содержит 1,54 млрд параметров, из которых 1,31 млрд не являются параметрами эмбеддингов, имеет 28 слоёв и контекст до 32 768 токенов. Архитектура использует transformers, RoPE, SwiGLU, RMSNorm, смещения в Attention QKV, связанные эмбеддинги слов и GQA с 12 головами для Q и 2 для KV. Репозиторий содержит AWQ-квантизированную 4-битную версию; в карточке явно указан английский язык. К сильным сторонам относятся специализация на генерации, рассуждении и исправлении кода, большой контекст и сниженные требования к памяти благодаря 4-битной квантизации. Небольшой размер делает модель удобной для локального развертывания, однако квантизация может влиять на точность, а компактный масштаб модели ограничивает качество по сравнению с более крупными моделями серии. Модель распространяется по лицензии Apache-2.0.

QuantFactory/Qwen2.5-Coder-1.5B-Instruct-GGUF — квантизированная версия инструкционно дообученной языковой модели Qwen2.5-Coder-1.5B-Instruct, созданная QuantFactory на основе обновлённых весов от 6 ноября 2024 года с использованием llama.cpp. Исходная модель относится к серии специализированных кодовых моделей Qwen, разработанных командой Qwen; в README конкретная организация-разработчик не указана, однако модель основана на репозитории Qwen/Qwen2.5-Coder-1.5B-Instruct. Модель предназначена для генерации, анализа и исправления программного кода, рассуждений о коде, создания code agents, а также задач общего назначения и математики. Это авторегрессионная causal language model с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm, смещениями в QKV внимания и связанными эмбеддингами слов. Модель содержит 1,54 млрд параметров, из них 1,31 млрд без учёта эмбеддингов, имеет 28 слоёв и Grouped-Query Attention с 12 головами для Q и 2 для KV. Поддерживается текстовая модальность и заявлен английский язык. Заявленная максимальная длина контекста составляет 131 072 токена, но исходная конфигурация рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN, причём статическое масштабирование может ухудшать производительность на коротких текстах. Квантизация и небольшой размер делают модель подходящей для более экономичного локального развёртывания, однако README не содержит сведений о конкретном формате квантизации, требованиях к памяти, производительности или сравнительных результатах. Модель распространяется по лицензии Apache-2.0.

bartowski/Qwen2.5-Coder-32B-GGUF — это набор квантизованных версий модели Qwen2.5-Coder-32B, разработанной командой Qwen. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена прежде всего для генерации и обработки программного кода, включая локальный запуск через llama.cpp и LM Studio. Модель содержит около 32 млрд параметров и распространяется в формате GGUF с различными уровнями квантизации от Q8_0 до более компактных вариантов Q2_K_L. Доступны версии размером примерно от 13 до 35 ГБ; варианты Q5 и Q6 обеспечивают очень высокое качество, а Q4_K_M предлагается как сбалансированный вариант для большинства сценариев. README указывает английский язык, текстовую модальность и формат prompt-шаблона для диалоговой генерации, но размер контекста и полный набор поддерживаемых языков не указаны. Сильной стороной является широкий выбор квантизаций, позволяющий подобрать компромисс между качеством, размером файла и требованиями к памяти. Некоторые варианты оптимизированы для ARM-инференса, однако требуют соответствующих аппаратных инструкций; отдельные ARM-варианты не рекомендуются для Mac и Windows. Низкобитные версии экономят память, но обладают более низким качеством, а Q4_0 отмечен как устаревший формат. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen2.5-Coder-3B-Instruct-bnb-4bit — 4-битная квантованная версия Qwen2.5-Coder-3B-Instruct, разработанная на базе серии Qwen2.5-Coder. Серия предназначена для генерации, анализа, рассуждений и исправления программного кода, а также для создания кодовых агентов и решения математических и общеязыковых задач. В карточке указана поддержка английского языка и библиотека Transformers. Для семейства Qwen2.5-Coder заявлена архитектура causal language model на базе Transformers с RoPE, SwiGLU, RMSNorm, смещениями в QKV-внимании и связанными эмбеддингами слов; заявленный контекст — до 32 768 токенов. Однако README содержит противоречивые сведения: идентификатор указывает на instruct-модель объёмом 3B параметров, тогда как техническое описание в тексте относится к базовой модели 0.5B с 0.49B параметров и этапом предварительного обучения. Поэтому точные характеристики именно данного 3B-варианта по README подтвердить нельзя. 4-битное представление должно снижать требования к памяти и облегчать локальный запуск, но README не приводит точных показателей качества, системных требований или ограничений квантованной версии. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen2.5-Coder-7B-Instruct — инструкционная языковая модель для программирования, основанная на Qwen2.5-Coder-7B-Instruct от Qwen и представленная Unsloth. Это плотная причинная трансформерная модель семейства Qwen2 с 7,1 млрд параметров, доступная в формате safetensors и рассчитанная на генерацию текста в диалоговом режиме. Модель предназначена для генерации, анализа и исправления кода, рассуждений о программировании и создания кодовых агентов. Она также сохраняет общие языковые и математические способности базовой модели. Метаданные указывают контекст 32 768 токенов; в README упоминается более длинный контекст базовой модели, но для этой конфигурации расширение за 32 768 токенов требует настройки YaRN и может ухудшить работу на коротких запросах. Поддерживаемый язык карточки — английский. Репозиторий лицензирован по Apache-2.0. Модель принимает текстовые запросы и выдаёт текст, включая код; фактическое качество зависит от языка программирования и постановки задачи.

Qwen2.5-Coder-7B-Instruct-abliterated-GGUF — набор GGUF-квантизаций модели Qwen2.5-Coder-7B-Instruct-abliterated. Базовая модель опубликована huihui-ai, а квантизации подготовлены bartowski с использованием llama.cpp и imatrix. Это текстовая модель генерации с поддержкой диалогового формата prompt и специализацией на задачах программирования и следовании инструкциям. Модель предназначена для локального запуска в приложениях и средах, совместимых с GGUF, включая LM Studio. Доступны варианты от F16 до Q3 и различных Q4–Q8-квантизаций размером примерно от 4,09 до 15,24 ГБ. Более крупные варианты обычно сохраняют лучшее качество, а компактные требуют меньше оперативной памяти; для ARM предусмотрены отдельные варианты, некоторые из которых требуют поддержки sve или i8mm и не рекомендуются для Mac или Windows. В README указана поддержка английского языка и текстовая модальность; сведения о размере контекста и точной архитектуре не приведены. К ключевым ограничениям относятся возможная потеря качества при сильной квантизации и зависимость совместимости от аппаратной платформы. Модель имеет статус abliterated/uncensored, поэтому поведение в отношении ограничений безопасности может отличаться от исходной instruct-модели. Указана лицензия Apache-2.0.

mlx-community/Qwen2.5-Coder-7B-Instruct-bf16 — конверсия в формат MLX модели Qwen2.5-Coder-7B-Instruct, опубликованная сообществом mlx-community. Это плотная авторегрессионная модель семейства Qwen2 на 7,1 млрд параметров для генерации текста и кода в диалоговом формате. Она предназначена для написания, анализа и исправления программного кода; метаданные указывают на интерфейс вызова инструментов. Максимальная длина контекста — 32 768 токенов, библиотека — Transformers. Модель принимает текст и генерирует текст, включая код. В карточке указан английский язык. Лицензия — Apache-2.0. README сообщает, что модель преобразована в MLX из Qwen/Qwen2.5-Coder-7B-Instruct с помощью mlx-lm версии 0.18.1; указанный формат файлов репозитория — safetensors.

stefancosma/Qwen2.5-Coder-7B-Instruct-Q4_K_M-GGUF — это квантованная версия модели Qwen2.5-Coder-7B-Instruct, преобразованная в формат GGUF с использованием llama.cpp и сервиса GGUF-my-repo. Модель основана на разработке Qwen и предназначена для генерации текста и работы с программным кодом в диалоговом формате. Модель имеет размер 7B параметров и использует квантизацию Q4_K_M, что снижает требования к памяти по сравнению с полной версией, но может сопровождаться некоторой потерей качества. Она рассчитана на текстовые задачи, включая написание, дополнение и объяснение кода, и может запускаться локально через llama.cpp в CLI или серверном режиме. В метаданных указан английский язык. В примере запуска серверу задаётся контекст 2048 токенов, однако максимальный размер контекста в карточке не указан. К сильным сторонам относятся специализированная направленность на программирование, компактный размер, формат GGUF и совместимость с llama.cpp, включая запуск на различном оборудовании. Ограничения связаны с отсутствием подробных результатов оценки и характеристик исходной модели в этой карточке, а также с возможным снижением точности из-за квантизации. Модель распространяется по лицензии Apache-2.0.

daniloreddy/Qwen3.5-4B_GGUF — набор GGUF-квантизированных версий языковой модели Qwen3.5-4B, разработанной командой Qwen. Модель предназначена для генерации текста и локального запуска на потребительском оборудовании, мобильных и периферийных устройствах, а также системах с ограниченным объёмом памяти. Она совместима с llama.cpp и связанными экосистемами, включая LM Studio, Jan и Text Generation WebUI. В репозитории представлены варианты FP16, Q8_0, Q5_K_M, Q4_K_M и Q4_K_S, полученные из официальных весов FP16 с использованием llama-quantize и K-квантизации. Размер базовой модели составляет 4 млрд параметров. Вариант Q4_K_M рекомендован как компромисс между скоростью и качеством, Q4_K_S ориентирован на минимальное потребление памяти и высокую пропускную способность, а FP16 сохраняет максимальную точность исходных весов. Качество рассуждений, связность и точность ограничены масштабом базовой модели; сведения о поддерживаемых языках, модальностях и исходном размере контекста в README не указаны. Модель распространяется по лицензии Apache 2.0.

hotdogs/Qwen3.8-27B-abliterated-AWQ-INT4 — языковая генеративная модель, разработанная hotdogs на основе Qwen/Qwen3.8-27B и подвергнутая обучению без дообучения с удалением направления отказов. Это квантованная версия hotdogs/Qwen3.8-27B-abliterated, предназначенная для диалоговых сценариев, генерации текста, исследовательского анализа механизмов отказа, red teaming и изучения влияния alignment-обучения. Модель не отказывает в запросах, поэтому её применение требует особой осторожности и соблюдения законодательства. Модель использует гибридную архитектуру Qwen3.8-27B с полноразмерным attention на части слоёв и Gated DeltaNet linear attention на других слоях. Основные компоненты квантованы в формат W4A16 с 4-битными весами и 16-битными активациями, группой 128 и симметричным квантованием; lm_head и 64 слоя linear_attn сохранены в BF16. Размер файлов составляет около 17,6 ГБ вместо примерно 52 ГБ у BF16-версии. Заявлены языки English, Chinese и Thai. В README указан максимальный размер контекста 32768 токенов для запуска через vLLM. Сильные стороны модели — существенно сниженное потребление памяти, сохранение abliteration после квантования и близкая к базовой производительность на приведённых тестах: для BF16-версии MMLU составляет 0,8342, GSM8K — 0,59, ARC-Challenge — 0,4533. INT4-версия рассчитана на запуск через vLLM с Marlin и обычно требует двух GPU с 24 ГБ памяти; на одной карте с 24 ГБ доступ к KV-кэшу будет ограничен, а GPU с 48 ГБ подходит для запуска с tensor parallelism 1. Точные результаты INT4-версии могут немного отличаться от результатов BF16-модели. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Minachist/Qwen3.8-27B-INT8-AutoRound — неофициальная версия базовой модели Qwen/Qwen3.8-27B, квантизированная в формате W8A16 INT8 с помощью AutoRound. Модель предназначена для сценариев генерации текста и изображений с текстом, что отражено в конфигурации pipeline_tag image-text-to-text. Архитектура и исходные модальности унаследованы от базовой модели, однако подробные сведения о языках и размере контекстного окна в карточке не указаны. Доступны четыре варианта, различающиеся гранулярностью квантизации и обработкой линейного внимания: per-channel или group_size 128, а также квантизация его проекций в INT8 либо сохранение этих слоёв в BF16. Размер файлов составляет примерно от 28,8 до 34,3 ГиБ; все варианты помещаются на двух GPU по 24 ГБ при использовании tensor parallelism. Часть слоёв, включая vision tower, embed_tokens и lm_head, оставлена в BF16. Вариант linear-attn-bf16-gs128 наиболее близок к базовой модели, а main является самым компактным; варианты с group_size 128 показывают лучшие значения заявленных метрик соответствия. По результатам сравнения с базовой моделью варианты демонстрируют среднее совпадение top-1 предсказаний от 98,40% до 98,59%, при этом наилучшие показатели приведены для linear-attn-bf16-gs128. Оценка проводилась на текстовой калибровке с использованием 1024 образцов и последовательностей длиной 2048, поэтому качество на мультимодальных задачах отдельно не подтверждено. Модель распространяется по лицензии Apache-2.0; сборка обозначена как неофициальная.

Qwen3.8-Flash-Next-GSQ-RCO-GGUF — сторонняя community-воспроизводимая GGUF-квантизация модели Qwen/Qwen3.8-Flash-Next, разработанной командой Qwen. Файлы созданы независимым автором с применением методов GSQ и RCO, разработанных Deep Algorithms and Systems Lab (DASLab) при Institute of Science and Technology Austria. Это не официальный релиз DASLab и не содержит его endorsement. Модель предназначена для локального инференса больших языковых и мультимодальных моделей в формате GGUF, включая обработку изображений через отдельный BF16 vision projector. Основные веса имеют целевой уровень 3,5 бита на параметр и занимают 47,94 ГБ; отдельно требуется один из вариантов shard с token и n-gram embeddings: BF16 на 103,68 ГБ либо более компактный вариант с Q4_0/Q8_0 на 29,49 ГБ. Vision encoder и projector занимают 0,91 ГБ. README позиционирует модель как вариант для запуска приблизительно 180B-модели на двух RTX 3090 с размещением embeddings на диске и KV-кэша в оперативной памяти. GSQ выполняет посттренировочную скалярную квантизацию с распределением точности по координатам и группам, а RCO назначает тип квантизации отдельным тензорам в рамках точного ограничения размера. В предоставленных тестах на MMLU-Pro при контексте 2 048 токенов квантизированная версия получила 58,25% против 55,40% у BF16 reference; perplexity составила 3,1058 против 3,0533. На IFEval результат составил 13/16 по строгому критерию, на GSM8K — 8/8. Ограничения включают очень высокие требования к дисковому пространству и памяти, необходимость совместимого runtime llama.cpp с поддержкой Qwen4Exp и Q2_0, а также небольшое ухудшение perplexity относительно BF16 reference. Языки и максимальная длина контекста в README не указаны. Лицензия обозначена как Qwen Community 1.0; точные условия следует проверять в файле LICENSE.

continuum-ai/qwen3-coder-30b-a3b-compacted-19b-256k — компактная версия Qwen3-Coder-30B-A3B-Instruct, разработанная на основе модели Qwen. При создании удалено 35% MoE-экспертов с использованием калибровочного ранжирования по частоте активаций. Модель предназначена прежде всего для генерации, дополнения и инфиллинга кода, агентного программирования и вызова функций, включая локальный и периферийный запуск на потребительских GPU, компьютерах Apple и мобильных устройствах. Это разреженная Mixture-of-Experts-модель с заявленным классом 30B и компактированной эффективной конфигурацией 19B. Сохраняет контекст до 256K токенов и работает с текстом; в README заявлена поддержка английского, китайского и широкого набора языков программирования, включая Python, JavaScript, TypeScript, C, C++, Java, Kotlin, Go, Rust, Swift, PHP, Ruby, SQL, HTML и CSS. Доступны квантованные форматы GGUF Q4_K_M, Q5_K_M и Q8_0 для llama.cpp, Ollama и LM Studio, а также варианты для локального запуска через Transformers и MLX. На HumanEval модель получила 88,4 балла против 92,1 у исходной версии, а на HumanEval+ — 85,4 против 88,4. К сильным сторонам относятся сочетание кодировочных возможностей 30B-класса с меньшими требованиями к памяти, длинный контекст и варианты для локального выполнения. Ограничения включают неполное восстановление качества исходной модели, отсутствие отдельного измерения обобщения на языки, отличные от Python, отсутствие тестирования генерации длиннее 32K токенов и пока не измеренные результаты на MBPP+ и LiveCodeBench. Калибровка выполнялась на 300 примерах Python. Модель распространяется по лицензии Apache-2.0. В README также заявлена криптографически проверяемая цепочка происхождения через ForgeAlloy, однако доверие к аттестации обозначено как self-attested.

Qwen3-Coder-30B-A3B-Instruct-MLX-6bit — 6-битная квантизированная версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной Qwen. Квантизация выполнена командой LM Studio с использованием MLX, поэтому модель оптимизирована для запуска на устройствах с Apple Silicon и предназначена для генерации текста, прежде всего в сценариях, связанных с программированием и работой с кодом. Модель основана на исходной Qwen3-Coder-30B-A3B-Instruct; её архитектура, поддерживаемые языки, модальности и размер контекста в README не уточняются. Квантизация снижает требования к памяти и делает локальный запуск более практичным, однако может повлиять на точность по сравнению с исходной версией. Также модель может генерировать неточный, вредоносный или неподходящий контент, поэтому результаты требуют проверки. Для исходной модели указана лицензия Apache 2.0. LM Studio не является создателем или владельцем модели и не гарантирует её точность, безопасность, доступность или соответствие конкретным требованиям.

cyankiwi/Qwen3-Coder-Next-AWQ-4bit — это 4-битная AWQ-квантизованная версия Qwen3-Coder-Next, базовой модели, разработанной командой Qwen. Модель представляет собой авторегрессионную языковую модель для генерации текста, ориентированную прежде всего на программирование, coding agents и локальную разработку. Модель предназначена для написания и анализа кода, длительных агентных сценариев, использования инструментов, работы с CLI и IDE, а также восстановления после ошибок выполнения. Она имеет 80 млрд параметров всего, из которых активируются 3 млрд, 79 млрд приходятся на параметры без эмбеддингов. Архитектура включает 48 слоёв с гибридным сочетанием Gated DeltaNet, Gated Attention и Mixture of Experts: 512 экспертов, 10 активируемых экспертов и один общий эксперт. Нативная длина контекста составляет 262 144 токена. Модель работает только в режиме без рассуждений и не генерирует блоки <think></think>; поддержка модальностей и список языков в README не указаны. Сильными сторонами являются высокая вычислительная эффективность за счёт малого числа активируемых параметров, большой контекст и развитые возможности для агентного взаимодействия и вызова инструментов. Ограничения включают необходимость совместимого программного обеспечения и аппаратных ресурсов для эффективного запуска крупной модели, несмотря на квантизацию; при нехватке памяти рекомендуется уменьшать длину контекста. Модель распространяется по лицензии Apache-2.0.

ucbye/Qwen3-Coder-Next-NVFP4-GB10 — публичное зеркало квантизированной модели saricles/Qwen3-Coder-Next-NVFP4-GB10, основанной на Qwen3-Coder-Next от Alibaba и команды Qwen. Модель предназначена прежде всего для генерации и анализа программного кода, а также для сценариев развертывания LLM на системах DGX Spark с GPU GB10. В README указано, что веса байт-в-байт идентичны исходной квантизации, а зеркало предоставляет стабильную и неконтролируемую версию для проекта развертывания qwen3-coder-next. Архитектура qwen3_next сочетает линейное внимание DeltaNet, полноразмерное внимание и латентный MoE. Модель содержит 48 слоев, включая 36 слоев с линейным вниманием и 12 слоев с полным вниманием, 79,7 млрд параметров при примерно 3 млрд активных параметров на токен, 512 экспертов, из которых активируются 10 совместно с одним общим экспертом. Используется 4-битная NVFP4-квантизация через compressed-tensors; отдельные компоненты сохранены в BF16. Максимальная длина контекста составляет 262 144 токена, заявленный язык — английский. Размер модели на диске — около 45,9 ГБ. Сильные стороны модели — большой контекст, низкое число активных параметров на токен, сниженные требования к памяти и отсутствие KV-кэша у слоев DeltaNet. На DGX Spark заявлена скорость около 61 токена в секунду для одного запроса и поддержка примерно пяти одновременных сессий при контексте 262K с FP8 KV-кэшем. Ограничения включают зависимость производительности от совместимого оборудования и настроек vLLM, а также потери точности, возможные из-за агрессивной 4-битной квантизации. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели; перераспределение разрешено.

zecafonso дообучил Qwen/Qwen3-Embedding-4B как текстовую модель Sentence Transformers для получения плотных эмбеддингов предложений и абзацев. Векторное представление имеет размерность 2560 и нормализуется; для сравнения используется косинусное сходство. Модель предназначена для семантического поиска и извлечения релевантных фрагментов, в том числе по поисковым запросам с инструкцией. Модель построена на архитектуре Qwen3 и принимает только текст. README задаёт максимальную длину последовательности 512 токенов; метаданные указывают нативный контекст базовой модели в 40960 токенов, но это значение не отменяет лимит, заявленный для данного чекпойнта. На двух тестах поиска приведены значения cosine_accuracy@1 от 0,6364 до 0,75 и @3 от 0,9091 до 0,9167; оценки относятся к небольшим наборам данных. Лицензия в предоставленных данных не указана.

Qwen3-Swallow-30B-A3B-SFT-v0.2 — двуязычная языковая модель Swallow LLM, разработанная на основе Qwen3. Это вариант семейства Qwen3-Swallow с архитектурой MoE и supervised fine-tuning; в карточке указано 2,6 млрд параметров, а контекстное окно составляет до 40 960 токенов по метаданным. Модель рассчитана прежде всего на японский и английский языки. Модель предназначена для диалоговой генерации текста, японско-английского перевода, решения математических задач и программирования. Разработчики сообщают об улучшении японского языка и сохранении или повышении STEM-навыков благодаря этапам CPT и SFT; версия SFT ориентирована на рассуждения по умолчанию. Для наиболее воспроизводимого запуска рекомендован vLLM, а README советует ограничивать контекст 32 768 токенами или меньше. Модель не обучалась специально для вызова инструментов, а переключение режима рассуждений не поддерживается. Авторы также предупреждают, что модель находится на раннем этапе разработки и не настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.

Qwen3-VL-8B-Interleave-Thinking-i1-GGUF — квантованная GGUF-версия мультимодальной модели hxssgaa/Qwen3-VL-8B-Interleave-Thinking, подготовленная mradermacher. Модель предназначена для обработки текста и изображений, включая ответы на вопросы по изображениям, визуальный анализ, агентские сценарии, function calling и задачи с пошаговым рассуждением. В карточке также указана обучающая выборка xlam-interleave-thinking-40k. Модель относится к семейству Qwen3-VL и содержит 8 миллиардов параметров. Она поддерживает мультимодальный режим image-text-to-text; заявленный язык — английский. Контекстное окно, точная архитектура визуального компонента и дополнительные языковые возможности в README не указаны. Репозиторий предоставляет набор вариантов квантования с разным размером и компромиссом между скоростью, качеством и требованиями к памяти; среди рекомендуемых отмечены i1-Q4_K_M и i1-Q4_K_S. Для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория. Сильными сторонами являются сочетание визуального понимания, рассуждений и поддержки агентских функций, а также возможность локального запуска через GGUF. Ограничения связаны с потерями качества, зависящими от выбранного уровня квантования, и отсутствием в карточке подробных результатов тестирования, данных о контекстном окне и инструкций по конкретным рантаймам. Распространение указано по лицензии Apache-2.0.

Qwen_Qwen3-VL-8B-Instruct-GGUF — это набор GGUF-квантизаций мультимодальной модели Qwen3-VL-8B-Instruct, разработанной Qwen и подготовленной пользователем bartowski. Модель предназначена для задач, где требуется обработка текста и изображений, включая диалоговое взаимодействие и генерацию ответов по мультимодальным запросам. Квантизированные файлы рассчитаны на запуск через llama.cpp, LM Studio и другие совместимые проекты. Базовая модель имеет размер 8B параметров; в наборе представлены варианты от BF16 до 2-, 3-, 4-, 5-, 6- и 8-битных форматов с размерами файлов примерно от 3,8 до 16,4 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp. Доступны варианты с разным соотношением качества и требований к памяти: старшие форматы обеспечивают качество, близкое к исходной модели, а младшие подходят для устройств с ограниченным объёмом RAM, но дают более низкое качество. Формат prompt использует шаблон ChatML с ролями system, user и assistant. README не содержит сведений о поддерживаемых языках, размере контекстного окна, конкретной архитектуре визуального модуля, результатах бенчмарков или лицензии. Условия использования следует уточнять в документации исходной модели Qwen/Qwen3-VL-8B-Instruct и соответствующего репозитория.