II.2Создание и понимание программного кода

bartowski/Qwen_Qwen3-14B-GGUF — набор GGUF-квантизаций базовой языковой модели Qwen3-14B, разработанной командой Qwen. Квантизации выполнены bartowski с использованием llama.cpp версии b5200 и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Доступны варианты от исходных весов BF16 размером 29,54 ГБ до сильно сжатых форматов объёмом около 5,32 ГБ, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_XS, Q3- и Q2-варианты. Более крупные квантизации обычно обеспечивают более высокое качество, тогда как компактные требуют меньше оперативной памяти, но заметно уступают по качеству. Для диалогового режима в README указан шаблон с ролями system, user и assistant. README не содержит сведений об архитектурных деталях, поддерживаемых языках, длине контекста, мультимодальности или лицензии. Условия использования необходимо уточнять по документации исходной модели Qwen/Qwen3-14B и репозиторию квантизаций.

Shellminator — дообученная модель ISB369 на базе Qwen2.5-Coder-0.5B-Instruct, разработанная для преобразования запросов на естественном языке в одну команду Bash. Модель ориентирована на Linux-сценарии, включая работу с файлами, каталогами, системной информацией и другими типичными операциями командной строки. Она доступна в формате safetensors и в варианте Q4_K_M GGUF для запуска через llama.cpp или Ollama, в том числе на CPU. Модель содержит около 0,5 млрд параметров и поддерживает английский язык. Она обучалась методом SFT на 105 тысячах строк, а затем была улучшена с помощью DPO self-play на 804 парах, проверенных фактическим выполнением команд в изолированных окружениях. В тесте IBM nl2bash-eabench bash_1 модель достигла 78% точности выполнения при однократной жадной генерации без повторных попыток и самокоррекции, что на 6 процентных пунктов выше её SFT-базы. Основное ограничение — генерация только одной команды: модель не предназначена для многострочных скриптов, heredoc или самостоятельного построения сложных цепочек без внешнего цикла уточнения. Остаточные ошибки отмечены для некоторых вариантов sed, comm/diff и mv, а также для команд, зависящих от особенностей окружения. Обучение и оценивание проводились на Linux x86_64 с типовыми тестовыми фикстурами, поэтому команды для экзотических файловых систем и нестандартных точек монтирования могут быть ненадёжны. Модель распространяется по лицензии Apache-2.0.

xLAM-8x22b-r-GGUF — квантованный вариант языковой модели Salesforce/xLAM-8x22b-r, подготовленный пользователем bartowski в формате GGUF с использованием llama.cpp и imatrix-калибровки. Модель обучалась на наборе Salesforce/xlam-function-calling-60k и предназначена для генерации текста, function calling, использования инструментов и построения LLM-агентов. Указанный язык — английский; формат взаимодействия предполагает шаблон <s>[INST] {prompt}[/INST]. Модель относится к семейству Mistral и имеет размер 8×22B; поддерживаемые модальности, размер контекста и дополнительные архитектурные параметры в README не указаны. Доступны варианты квантования от IQ1_M до Q8_0 с размером файлов примерно от 32,74 до 149,43 ГБ. Более высокие уровни квантования обычно обеспечивают лучшее качество, а отдельные варианты оптимизированы для ARM и CPU-инференса, однако требуют значительных ресурсов. Сильная сторона модели — специализация на вызове функций и применении инструментов, а также широкий выбор квантований для различных ограничений по памяти. К ограничениям относятся преимущественно англоязычная специализация, необходимость совместимого инференсного ПО и большой объём файлов; снижение точности при низких уровнях квантования также отмечено в README. Модель распространяется по лицензии CC BY-NC 4.0, допускающей использование с ограничениями для некоммерческих целей.

PeytonT разработал эту модель для поиска вероятных мест ошибок в содержимом репозиториев. Она ранжирует фрагменты кода для последующего поиска, планирования и анализа репозитория в составе системы Repository Library. Это полноразмерная модель классификации последовательностей на базе энкодерной архитектуры BERT, дообученная от allenai/scibert_scivocab_uncased. Модель содержит 137,1 млн параметров, принимает текстовые последовательности длиной до 512 токенов и сохранена в формате safetensors. Данные для обучения включали графы репозиториев и фрагменты кода из конвейера Repository Library; заявленные метрики оценки — accuracy и macro-F1. Карточка не содержит отдельного отчёта с результатами бенчмарков или внешнего аудита. Модель предназначена для исследовательской системы и требует проверки в целевом сценарии перед внедрением. Лицензия в предоставленных данных не указана.

bartowski/deepseek-ai_DeepSeek-V3.1-Base-GGUF — это набор GGUF-квантизаций базовой языковой модели DeepSeek-V3.1-Base, разработанной deepseek-ai. Квантизации подготовлены bartowski с использованием llama.cpp версии b6214 и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты с разными уровнями квантизации: от Q8_0 размером около 713 ГБ до IQ1_M размером около 147 ГБ. В README рекомендуются Q6_K как вариант почти максимального качества, Q4_K_M как сбалансированный вариант для большинства сценариев и IQ4_XS как более компактный вариант с сопоставимой производительностью. Также представлены форматы Q2, Q3, Q4, IQ2 и IQ3 с различным компромиссом между качеством и требованиями к памяти; некоторые варианты используют Q8_0 для embedding- и output-весов. Модель подходит для локального текстового вывода при наличии значительных ресурсов оперативной или видеопамяти. Чем ниже уровень квантизации, тем меньше размер файлов и требования к памяти, но тем выше потенциальная потеря качества; варианты IQ1 и некоторые варианты Q2 отмечены как низкокачественные или нерекомендуемые. Архитектура, поддерживаемые языки, размер контекста и формат промпта в README не указаны, а лицензия также не приведена, поэтому эти характеристики следует уточнить на странице исходной модели deepseek-ai/DeepSeek-V3.1-Base.

DeepSeek-V4.1-Flash GGUF — это набор GGUF-конвертаций и смешанных квантований базовой модели DeepSeek-V4.1-Flash, разработанной DeepSeek и квантованной smalinin. Модель предназначена для задач генерации текста и работы в экспериментальном runtime DeepSeek-V4.1 на базе специальной ветки smalinin/llama.cpp с поддержкой CUDA. Представленные файлы являются текстовыми: vision tower в них отсутствует, поэтому мультимодальный ввод изображений не поддерживается. Архитектура исходной модели обозначена как DeepseekV41ForCausalLM и включает sparse attention, hyper-connections, MoE-слои и две крупные n-gram Engram lookup tables. Доступны варианты Q2_K с Q5_K Engram размером 335,382 ГБ и эффективным 3,58 BPW, IQ3_XS с Q8_0 Engram размером 434,024 ГБ и 4,64 BPW, а также MXFP4 с Q8_0 Engram размером 507,954 ГБ и 5,43 BPW. Первый вариант лучше подходит при ограничениях по диску, оперативной памяти или совокупной памяти GPU; более крупные варианты ориентированы на сохранение качества квантования. Для работы требуется именно ветка my_build_deepseek41 из smalinin/llama.cpp и CUDA; совместимость со стандартной upstream-версией llama.cpp не заявлена. Необходимо скачать все десять сегментов выбранного варианта. Более низкий BPW может приводить к повторениям и снижению качества, поэтому варианты следует оценивать на собственных запросах. Репозиторий распространяется по лицензии MIT.

DeepSeek-V4-Flash-162B-GGUF — это квантизированная версия модели DeepSeek-V4-Flash-162B в формате GGUF, опубликованная пользователем 0xSero. Модель предназначена для текстовой генерации и локального запуска в совместимых средах, включая сценарии развёртывания на NVIDIA DGX Spark. Репозиторий содержит профиль Q2-REAP-ds4, созданный на основе checkpoint с применением метода REAP для сжатия MoE-модели. Модель содержит 162 млрд параметров, занимает около 149 ГБ на диске и использует специализированную схему квантизации: IQ2_XXS для маршрутизируемых gate/up-экспертов, Q2_K для маршрутизируемых down-экспертов и Q8_0 для общих, выходных и attention-проекций. Заявлена поддержка контекста до 200 000 токенов; валидация проводилась на DGX Spark. Данные о количестве слоёв, размере скрытого представления, активных параметрах, языках и мультимодальности в README не указаны. Сильными сторонами являются существенно уменьшенный размер относительно полноточной версии, поддержка длинного контекста и наличие опубликованных измерений производительности. Ограничение заключается в том, что эти GGUF-файлы используют специфическую структуру тензоров и метаданные DeepSeek-V4 Flash и не предназначены для generic llama.cpp без поддержки соответствующего формата. В README указана лицензия MIT, унаследованная от базовой модели.

Gemma-4-31B-Fable-Coder — разработанная DavidrPatton мультимодальная модель на 31 млрд параметров, дообученная на unsloth/gemma-4-31b-it-unsloth-bnb-4bit. Она предназначена для агентных сценариев: многошагового рассуждения, вызова инструментов по заданным схемам и управления графическим интерфейсом. Модель принимает изображения и текст, анализирует скриншоты настольных приложений и веб-страниц, а также формирует структурированные действия, включая координаты кликов и ввод текста. В README заявлены обучение на наборах данных для агентного программирования, GUI-контроля, веб-навигации и визуально обусловленных вызовов инструментов, а также шаблон gemma-4-thinking. Модель распространяется в формате safetensors под лицензией Apache-2.0. Для интеграции с управлением интерфейсом нужны внешняя среда исполнения и маршрутизация действий; заявленные возможности и качество следуют из карточки модели и не сопровождаются независимыми оценками.

DavidAU разработал эту модель на основе Google Gemma 4 31B IT: сначала применил снятие части отказов (abliteration), затем умеренно дообучил модель с помощью Unsloth на собственной коллекции текстов THE DECKARD. Это плотная мультимодальная модель семейства Gemma 4 с архитектурой Gemma4ForConditionalGeneration; репозиторий содержит веса safetensors в bfloat16. Модель настроена для диалогов и генерации текста, а также поддерживает ввод изображений. В README описаны режимы instruct и thinking; для thinking приведён шаблон диалога с принудительно включённым режимом рассуждений. Автор ориентирует модель на творческое письмо, художественную прозу, ролевые диалоги, генерацию сюжетов и продолжение сцен, а также на общие вопросы и программирование. В README указано контекстное окно 128 тыс. токенов, но метаданные базовой Gemma 4 указывают 256 тыс. токенов для версии 31B; для этой производной точный лимит следует сверять с конфигурацией репозитория. Метаданные подтверждают возможность анализа изображений, однако заявленные в README возможности видео и аудио относятся к семейству Gemma 4 в целом и не подтверждены для этой версии. Лицензия — Apache-2.0.

TelperionAI Huihui-Qwen3.8-27B-abliterated-INT4-AWQ-GPTQ — квантованная версия модели huihui-ai/Huihui-Qwen3.8-27B-abliterated. Модель построена с использованием llm-compressor и предназначена для запуска и генерации текста с меньшими требованиями к памяти, в том числе через vLLM. Калибровка выполнена на данных, сгенерированных самой abliterated-моделью, с примерами кода, математики, STEM, диалогов и многоязычных запросов. Основой является смешанная квантализация INT4 W4A16: большинство MLP-слоёв используют асимметричную INT4-квантализацию с размером группы 32, а отдельные компоненты сохраняются в INT8 или BF16. Attention-компоненты, GDN-слои, эмбеддинги, нормализации, выходная голова и vision tower используют более высокую точность. Размер весов на диске составляет около 25,1 ГБ. Поддерживаются AWQ-масштабирование и GPTQ-компенсация ошибок; заявлена совместимость с GPU архитектуры Turing и новее без необходимости FP8 или FP4. По результатам внутреннего сравнения с исходной BF16-версией модель показывает 96,45% совпадения top-1 токенов и медианное расхождение генерации на 41-м токене. При этом оценка проведена только на одном корпусе и без downstream-бенчмарков, поэтому качество на прикладных задачах не установлено. Vision tower не квантован, но модель оценивалась как текстовая; эффективность speculative decoding с MTP-головой не измерялась. Модель унаследовала от базовой версии удалённые направления отказа, поэтому её поведение в части отказов отличается от стандартной модели Qwen. Лицензия — Apache-2.0.

KucLab Hertz 0.7F — чешско-английский помощник по естественным наукам, математике и программированию, созданный KucLab на базе Qwen/Qwen3.5-9B. Модель дообучена методом QLoRA с рангом 16; адаптер объединён с базовыми весами. Данные для дообучения дистиллированы из ответов 30-миллиардной модели-учителя. Доступны веса safetensors и квантованный GGUF Q4_K_M; для GGUF указано около 5,3 ГБ. В конфигурации Ollama заявлен контекст 32 768 токенов. Модель предназначена для диалога и ответов на вопросы по математике, физике, химии, биологии, чешской и английской научной терминологии, а также для задач программирования. В описанных разработчиком проверках она показала 83,3% на собственной выборке MMLU-Pro STEM и 85,4% на тесте чешско-английских научных терминов; также приведён результат 87,8% на GSM8K при строгом сопоставлении. Это результаты конкретных тестов разработчика, а не гарантия качества в иных сценариях. Известное ограничение — сравнительно слабое покрытие биологии в обучающих данных: на тесте по биологии результат ниже, чем у предыдущей модели Hertz 0.6. Модель не дообучалась для вызова инструментов. Лицензия — Apache 2.0.

Модель barc0/Llama-3.1-ARC-Potpourri-Transduction-8B — дообученная версия Meta Llama 3.1 8B Instruct, созданная на пяти наборах данных по трансдукции, включая задачи ReARC и задачи с описаниями, сгенерированными GPT-4 и GPT-4o-mini. Это плотная авторегрессионная языковая модель на 7,5 млрд параметров, опубликованная в формате safetensors для библиотеки Transformers; заявленное окно контекста — 131 072 токена. Модель предназначена для диалоговой генерации текста и решения задач трансдукции, где требуется преобразовать входные данные в заданный выходной формат. Карточка также отмечает интерфейс вызова инструментов, однако подробные сценарии применения и результаты оценки, кроме значения loss 0,0219 на оценочном наборе, не описаны. Модель распространяется по лицензии Llama 3.1. Карточка не содержит сведений о поддерживаемых естественных языках или конкретных ограничениях качества; как и другие генеративные модели, её ответы требуют проверки, особенно при использовании кода или структурированных преобразований.

MiMo-V2.6-Pro-MOPD — мультимодальная модель Xiaomi для диалогов и агентных сценариев с вызовом инструментов. Это обновлённый методом MOPD чекпойнт MiMo-V2.6-Pro-RL: несколько специализированных моделей-учителей дистиллированы в одну, в том числе для задач, где трудно задать надёжную автоматическую проверку. Обновление также снижает повторные и похожие вызовы инструментов. В README описана разреженная MoE-архитектура с 1,02 трлн общих и 42 млрд активируемых параметров, контекстом до 1 млн токенов и поддержкой текста, изображений, видео и аудио. Модель рассчитана на многошаговую работу с инструментами, длинные сценарии разработки игр, научные исследования и задачи воплощённого интеллекта; среди возможностей также указаны чат и интерфейс вызова инструментов. Метаданные Hugging Face указывают 27,7 млрд параметров и файлы safetensors в FP8, что расходится с архитектурными числами в README. В карточке указаны английский и китайский языки. Для развёртывания README приводит рецепты SGLang и vLLM; для рекомендованной конфигурации vLLM указаны восемь устройств tensor parallelism. Модель распространяется по лицензии MIT.

mythos-v2-8b-merged — текстовая генеративная модель, разработанная King3Djbl на основе King3Djbl/mythos-v2-8b с использованием дообучения. Модель входит в экосистему FableForge и ориентирована на агентские сценарии, включая использование инструментов, вызов функций, работу с shell-командами, программирование, ролевые диалоги и генерацию текста. Заявлена поддержка английского языка. Модель имеет размер 8B параметров и распространяется в формате GGUF, совместимом с llama.cpp, Ollama и LM Studio. Доступны варианты от F16 до низкобитных квантований, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M и imatrix-квантизации для систем с ограниченной оперативной памятью. Для диалогов используется формат ChatML. Размер контекста в README не указан. К сильным сторонам относятся широкий набор заявленных агентских возможностей, поддержка инструментального взаимодействия и наличие большого выбора квантований с разным компромиссом между качеством и требованиями к памяти. При этом README не содержит результатов бенчмарков, подробностей об архитектуре, данных обучения или проверок качества, поэтому фактические возможности и надежность модели требуют самостоятельной оценки. Также заявлен режим без отказов, что может повышать гибкость в ролевых и автоматизационных сценариях, но требует осторожности при использовании. Модель распространяется по лицензии Apache-2.0.

Это конверсия модели allenai/OLMo-2-0425-1B в формат MLX, подготовленная SirSahOl для локального инференса на GPU компьютеров Apple Silicon. Модель относится к семейству OLMo 2, использует плотную архитектуру причинного языкового моделирования и содержит около 1,3 млрд параметров по метаданным. Контекст — 4096 токенов; веса представлены в 16-битном формате bfloat16 и хранятся в safetensors. Указанная в README оценка активной памяти составляет около 2,6 ГБ. Модель предназначена для генерации текста, локального чата и быстрых дополнений; README также описывает сценарии кодирования и вызова инструментов. Основной язык — английский. Формат ориентирован на Apple Silicon и требует MLX-совместимого окружения. Лицензия — Apache-2.0. Указанные в README ограничения для последовательностей длиннее 32K токенов относятся к общим рекомендациям по памяти и превышают заявленное контекстное окно этой модели.

OPSD-PI Qwen3.5-9B Medium Trailing — update 16 — это полностью объединённая модель семейства Qwen3.5, опубликованная LSW142857. Репозиторий содержит результат 16 обновлений оптимизатора после обучения на выборке из 1024 строк: объединённую инициализацию expert-SFT, обновления OPSD и MTP в формате LoRA, а также обученные тензоры MTP. Модель загружается напрямую через Transformers; дополнительное объединение адаптеров не требуется. Модель предназначена для генерации текста и диалогового применения; в метаданных также отмечена поддержка кода. Архитектура — плотная Qwen3_5ForConditionalGeneration, веса сохранены в safetensors. README указывает, что PI использовалась только как учитель во время обучения, поэтому оценивать следует студента без PI и на отложенных задачах, а не на обучающих строках. Репозиторий публичный, однако лицензия и размер контекста в предоставленных данных не указаны.

OPSD-PI Qwen3.5-9B Strong Trailing — публичная объединённая версия модели Qwen3.5-9B после 32 обновлений оптимизатора в экспериментальном обучении на 1024 примерах Strong PI с режимом trailing_user. Репозиторий содержит объединённую инициализацию expert-SFT, обновления LoRA основной модели и MTP, а также непосредственно обученные тензоры MTP; для загрузки не требуется отдельный адаптер или этап слияния. Модель загружается через Transformers и предназначена для генерации текста в диалоговых сценариях и задачах с кодом. Это ранний экспериментальный чекпойнт, опубликованный после ограниченного числа шагов обучения, поэтому его качество и обобщение следует проверять на отложенных задачах, а не по 1024 обучающим примерам. README не сообщает лицензию, точный контекст или перечень поддерживаемых естественных языков. Метаданные указывают архитектуру Qwen3.5 dense и формат safetensors; основная задача по карточке — генерация текста.

perplexity-ai/pplx-computer-qwen-3-6-35b-a3b-mlx-20260709 — локальная языковая модель, опубликованная Perplexity и предназначенная для Perplexity Computer. Она используется в сценариях Hybrid Compute на Mac: локально обрабатывает файлы, конфиденциальные сведения и действия на устройстве, тогда как облачная часть системы выполняет поиск, планирование и более сложное рассуждение. Модель доступна в формате MLX для запуска на Apple silicon. Модель относится к семейству Qwen3.6 и имеет 35 млрд параметров при конфигурации с 3 млрд активных параметров (35B-A3B). Для семейства Qwen3.6 указана разреженная hybrid-архитектура с маршрутизацией Mixture-of-Experts, сочетающая рекуррентные состояния фиксированного размера с full attention. Опубликованный checkpoint использует groupwise affine 4-bit quantization и занимает около 19,4–19,5 ГБ. Подтверждённые модальности и языки, размер контекстного окна, результаты оценки и подробности дообучения для данной версии не указаны. Сильные стороны модели — возможность локального выполнения задач с чувствительными данными, уменьшенный объём весов и оптимизация для Apple silicon. Ограничения связаны с необходимостью совместимого Mac на Apple silicon и достаточного объёма unified memory; в Hybrid Compute требуется не менее 24 ГБ, а 32 ГБ рекомендуются для лучших результатов. Лицензионные условия для этого репозитория в доступных первоисточниках явно не указаны, поэтому свободное коммерческое использование и условия перераспределения подтверждать нельзя.

Это компактная инструктивная модель Qwen2.5-Coder-0.5B-Instruct, дообученная автором репозитория burhan2753y для преобразования запросов на естественном языке в команды Bash для Linux и Ubuntu. Модель ориентирована на выдачу команды без разговорных пояснений и поставляется в формате GGUF для запуска, в частности, через Ollama и llama.cpp. Модель предназначена для генерации команд в задачах системного администрирования, DevOps и работы в терминале. В README приведены результаты на академическом наборе NL2Bash и на собственном наборе задач DevOps, облачных сервисов и системного администрирования; эти показатели относятся к тестам автора. Данных о размере контекста и поддерживаемых языках, кроме английского языка карточки, нет. Модель принимает текстовые запросы и генерирует текст команд. Она может ошибаться при неоднозначных или незнакомых запросах, а корректная Bash-синтаксическая форма сама по себе не гарантирует безопасное выполнение команды. Доступна по лицензии Apache-2.0.

nytopop/Qwen3-30B-A3B.w8a8 — квантизированная версия модели Qwen/Qwen3-30B-A3B, подготовленная пользователем или организацией nyt opop с использованием Transformers и llmcompressor. Модель предназначена для генерации текста и оптимизирована для запуска на GPU NVIDIA с архитектурой Ampere. Ключевая особенность — квантизация W8A8 с 8-битными весами и активациями, рассчитанная на повышение эффективности выполнения. В README не указаны точные архитектурные параметры, число активных параметров, поддерживаемые языки, длина контекста и дополнительные модальности, поэтому эти характеристики нельзя достоверно определить по имеющимся данным. Для запуска рекомендуется использовать SGLang; на момент публикации README стандартная версия SGLang некорректно загружает эту квантизацию, поэтому предлагается исправленная ветка проекта. Указана лицензия Apache-2.0. Ограничение модели связано с зависимостью от совместимого программного окружения и необходимостью применять специальную версию SGLang до исправления поддержки upstream.

DavidAU/Qwen3-4B-Gemini-TripleX-High-Reasoning-Thinking-Heretic-Uncensored-GGUF — текстовая генеративная модель для задач диалога, ролевого взаимодействия, написания художественных текстов, программирования, математики, обучения и ответов на вопросы. Она создана DavidAU на основе объединения трёх дистиллированных моделей TeichAI, производных от Qwen3-4B-Thinking-2507 и ориентированных на reasoning-возможности Gemini 3 Pro Preview, Gemini 2.5 Flash и Gemini 2.5 Flash Lite Preview. Модель предназначена для генерации текста, включая связную прозу, развитие сюжетов и сцен, научную фантастику, романтические произведения, хоррор и другие жанры. В README заявлены сжатое рассуждение, контекст до 256K токенов и поддержка английского языка. Модель распространяется в формате GGUF; для работы с некоторыми интерфейсами требуется совместимая конфигурация, а автор рекомендует использовать smoothing factor 1.5 или альтернативно repetition penalty в диапазоне 1.1–1.15. К заявленным особенностям относятся сниженный уровень отказов и отсутствие обычных ограничений на содержание, включая NSFW-материалы, однако эти характеристики основаны на описании автора и могут зависеть от конкретной задачи и настроек. README не содержит подробных сведений о точной архитектуре объединения, количестве параметров сверх обозначения 4B, доступных квантизациях и объективных результатах тестирования. Лицензия модели — Apache 2.0.

code-critic-model/qwen3-4b-sft-prm — копия Qwen3-4B-Critic-SFT, критической языковой модели, дообученной авторами проекта Steer, Don't Solve на корпусе CWM + Qwen. Она основана на Qwen/Qwen3-4B-Instruct-2507 и предназначена для оценки и критики решений, в том числе в сценариях работы кодовых агентов. Веса совпадают побайтно с указанной моделью; README рекомендует обращаться к её полной карточке для подробностей. Это плотная модель Qwen3 с 3,7 млрд параметров, использующая архитектуру Qwen3ForCausalLM и формат safetensors. Метаданные указывают контекст до 262 144 токенов и поддержку чата. Модель распространяется по лицензии Apache-2.0. Карточка не приводит конкретных результатов оценки качества или подробных ограничений применения.

Это преобразованная в формат MLX версия модели Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16, подготовленная сообществом mlx-community из чекпойнта AEON-7. В README указано преобразование с помощью mlx-lm версии 0.31.2; метаданные относят исходную модель к дообученным моделям семейства Qwen3.6 с архитектурой Qwen3_5ForConditionalGeneration и 27B параметров согласно идентификатору и описанию базовой модели. Репозиторий предназначен для запуска генерации текста и диалогов на системах Apple с MLX. Модель поддерживает чат и мультимодальные задачи, включая работу с изображениями; в карточке каталога также указана поддержка английского и китайского языков, а метки обозначают мультиязычность. Версия помечена как uncensored и abliterated, то есть рассчитана на ослабленные отказы. Репозиторий распространяется по лицензии Apache-2.0. README описывает конверсию в MLX, но не сообщает длину контекста или результаты оценки качества.

williamliao/Qwen3.8-27B-NVFP4-GGUF — экспериментальная GGUF-сборка модели Qwen3.8-27B, подготовленная William Liao для llama.cpp. Репозиторий содержит два варианта квантования: собственную смешанную сборку Qwen3.8-27B-NVFP4-Quality-v2 на основе BF16-модели Qwen/Qwen3.8-27B и производную от unsloth/Qwen3.8-27B-NVFP4 сборку Qwen3.8-27B-Unsloth-NVFP4-Q8. Это текстовая генеративная модель для запуска и инференса через llama.cpp; обе сборки включают нативные MTP-тензоры и не требуют отдельной draft-модели для speculative decoding. Quality-v2 использует NVFP4 для большинства вычислительно затратных матриц, Q4_K_M для отдельных K/V- и MTP-тензоров, Q6_K для эмбеддингов и выходной головы и F32 для нормализаций. Её размер составляет около 16,0 ГБ в десятичном исчислении, или 14,95 GiB, при эффективной плотности около 4,70 BPW. Вариант Unsloth-NVFP4-Q8 сохраняет NVFP4-части через перепаковку, но преобразует исходные FP8-тензоры в Q8_0, поэтому он существенно больше и не является побитной, численно или форматно точной копией исходной модели. Для работы требуется свежая сборка llama.cpp с поддержкой архитектуры Qwen3.5/Qwen3.8, нативных NVFP4-тензоров и Qwen MTP speculative decoding; в протестированной конфигурации использовались CUDA и видеокарты NVIDIA. Сильные стороны модели — уменьшенный размер квантованных файлов, возможность запуска на совместимых GPU и поддержка ускорения через speculative decoding. Ограничения — экспериментальный статус, различия между вариантами квантования и отсутствие гарантии идентичного поведения с исходной моделью в Transformers, compressed-tensors, vLLM или других средах. Лицензия — Apache-2.0.

Aldaris/Qwen3-8B-Q4_K_M-GGUF — это квантованный вариант базовой модели Qwen/Qwen3-8B, преобразованный пользователем Aldaris в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и локального запуска через llama.cpp, включая командный интерфейс и серверный режим. Модель содержит 8 миллиардов параметров и использует квантование Q4_K_M, что уменьшает требования к ресурсам по сравнению с полноразмерной версией и делает её подходящей для локального вывода на совместимом оборудовании. В README указано использование контекста размером 2048 токенов в примере запуска, однако максимальный размер контекста, архитектура, поддерживаемые языки и дополнительные модальности не описаны. К сильным сторонам относятся переносимость формата GGUF, совместимость с llama.cpp и возможность локального использования. Ограничениями являются потенциальная потеря качества из-за квантования, зависимость от llama.cpp для рекомендованного запуска и отсутствие в представленных данных подробных сведений о возможностях исходной модели. Лицензия — Apache 2.0.

Qwen3.8-Flash-Next ROCmFP4-FAST imatrix GGUF — квантизированная GGUF-версия модели Qwen3.8-Flash-Next, разработанная и опубликованная Agention. Модель предназначена для генерации текста, агентских сценариев, работы с длинными контекстами и обработки изображений при подключении собственного vision-модуля. Языки в README не указаны. Модель содержит около 180 млрд параметров, использует квантизацию ROCmFP4 с эффективностью 4,23 bpw и занимает примерно 87,06 GiB. Поддерживается контекст до 262 144 токенов, а vision tower поставляется отдельно в формате F16. Также доступна speculative decoding через собственную MTP-голову; заявлена скорость генерации до 40 токенов в секунду на Strix Halo, хотя результат зависит от содержимого. Квантизация imatrix откалибрована на 1540 фрагментах данных, а заявленная потеря по perplexity относительно неквантизированной версии составляет около 2,48%. Ключевое преимущество — возможность полностью разместить веса, таблицу n-gram и вычисления на GPU с unified memory без CPU fallback, что особенно полезно для длинных запросов и повторного чтения большого контекста. Основные ограничения — очень высокие требования к памяти и специализированному оборудованию, а также необходимость использовать форк llama.cpp с поддержкой ROCmFPx и соответствующими оптимизациями. Для vision и speculative decoding требуются дополнительные файлы и настройки. Лицензия указана как qwen-community-1.0.

Qwen3.8-Flash-Next-ROCmFP4-STRIX_LEAN-GGUF — квантованная GGUF-версия модели Qwen3.8-Flash-Next, разработанная пользователем kingjones777 на базе модели Qwen/Qwen3.8-Flash-Next. Модель предназначена для генерации текста и запуска через llama.cpp-подобные среды, прежде всего на интегрированной графике AMD Ryzen AI Max+ 395 «Strix Halo» с архитектурой gfx1151 и общей памятью CPU/GPU. Указана поддержка длинного контекста; в README приведена проверка работы speculative decoding на диапазоне от 2K до 128K токенов. Точная длина контекста, число параметров и языковой охват не указаны. Модель использует архитектуру qwen4exp и типы тензоров ROCmFP4, поэтому стандартная сборка llama.cpp не подходит: требуется форк ROCmFPX с поддержкой обеих технологий и специальные патчи. Доступен режим speculative decoding через MTP-голову; на совместимой конфигурации он показал ускорение до 34% для задач рассуждения и до 11% для кода, однако на длинных документах и некоторых режимах может не давать ускорения или замедлять работу. Производительность и доступность модели существенно зависят от AMD Strix Halo, ROCm и объёма общей памяти. Модель ориентирована на сценарии локального текстового инференса, включая рассуждение, генерацию JSON, программирование и суммаризацию документов. Её сильная сторона — возможность запуска крупной модели в общей памяти интегрированного GPU; ограничениями являются специализированные требования к программному обеспечению и аппаратной платформе, а также отсутствие универсальной поддержки в стандартных рантаймах. Лицензия указана как qwen-community-1.0; модель связана с базовой моделью отношением quantized.

Qwen3-Coder-30B-A3B-Audit — модель для первичного аудита безопасности смарт-контрактов на Solidity, созданная дообучением Qwen/Qwen3-Coder-30B-A3B-Instruct командой, указанной в идентификаторе репозитория как qtum. Она анализирует фрагмент функции и возвращает JSON-массив найденных уязвимостей с уровнем критичности, категорией, функцией, диапазоном строк и кратким объяснением либо пустой массив, если проблем не обнаружено. Модель использует архитектуру Qwen3 MoE: в README указаны 30 млрд общих и около 3 млрд активных параметров, а метаданные каталога содержат оценку 2,6 млрд параметров. Она рассчитана на работу с инструкциями и длинным контекстом до 262 144 токенов по метаданным, хотя в README для запуска рекомендуется ограничение 16 384 токена. Модель принимает текст кода и выдаёт структурированный текстовый результат. Для качества важны заданный формат системного промпта и детерминированная генерация. По результатам описанной оценки на отложенных наборах модель заметно реже выдаёт ложные срабатывания, чем базовая, но полнота обнаружения остаётся низкой. Её следует использовать как вспомогательный сигнал для сортировки и предварительного анализа, а каждую находку проверять вручную. Обучение и оценка охватывают функции Solidity, а не целые репозитории или межконтрактные графы вызовов; поддерживается только Solidity/EVM, а формат и категории результата фиксированы. Лицензия — Apache-2.0.

DavidAU/Qwen3-MOE-4x0.6B-2.4B-Writing-Thunder — компактная модель генерации текста на архитектуре Qwen3 MoE, опубликованная DavidAU. Она объединяет четыре экспертные модели на базе Qwen3-0.6B, включая варианты для кода, математики и медицины; в карточке заявлены 507,9 млн параметров и нативный контекст 40 960 токенов. Модель предназначена для творческого письма и общих диалоговых задач, а также может применяться для программирования; автор советует активировать больше экспертов и использовать более высокую точность для сложных задач. Поддерживаются английский, французский, китайский и немецкий языки. Модель рассчитана на высокую скорость генерации и поддерживает режим рассуждений. Выходы могут заметно различаться между запусками даже при одинаковых настройках; качество на сложных задачах зависит от точности весов и числа активных экспертов. Репозиторий содержит веса SafeTensors и может использоваться напрямую или как источник для преобразования в другие форматы. Лицензия — Apache-2.0.

s2593817/sft-sql-embedding — дообученная модель Sentence Transformers на базе sentence-transformers/all-mpnet-base-v2, предназначенная для сравнения и поиска по SQL-запросам. Она кодирует предложения и абзацы в плотные векторы размерности 768; архитектура объединяет MPNet, усреднение токенов и нормализацию. Для оценки сходства используется косинусная близость. Модель содержит 136,7 млн параметров, создана с библиотекой Sentence Transformers и обучалась на 300 000 парах SQL-запросов с оценками сходства с использованием CoSENTLoss. Модель подходит для семантического поиска SQL-запросов, ранжирования похожих запросов, поиска перефразировок и группировки запросов. Вход — текст; результат — векторное представление, которое можно сравнивать по косинусной близости. Метаданные указывают контекст до 514 токенов, тогда как README сообщает максимальную длину последовательности 384 токена. Язык данных явно не указан; обучающие примеры представлены SQL с англоязычными идентификаторами и ключевыми словами. Лицензия в предоставленных источниках не указана.