II.2Создание и понимание программного кода

bartowski/arcee-ai_Virtuoso-Small-v2-GGUF — это набор квантованных версий языковой модели Virtuoso-Small-v2, разработанной arcee-ai и преобразованной bartowski в формат GGUF с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. В репозитории представлены варианты с точностью от F32 и F16 до различных методов квантования Q8, Q6, Q5, Q4, Q3 и Q2, размером примерно от 6,5 до 59 ГБ. Для взаимодействия используется chat-шаблон с ролями system, user и assistant. Данные о числе параметров, архитектуре исходной модели, контекстном окне, поддерживаемых языках и модальностях в README не указаны; по имеющимся сведениям это текстовая, а не мультимодальная модель. Сильная сторона набора — широкий выбор компромиссов между качеством, размером и требованиями к памяти: высокоточные варианты Q6 и Q5 обозначены как близкие к исходному качеству, а Q3 и Q2 подходят для систем с ограниченным объёмом RAM, хотя обеспечивают более низкое качество. Некоторые варианты оптимизированы для ARM или Apple silicon. Распространение указано на условиях лицензии Apache-2.0.

Calme-12B-Instruct-v0.1 — языковая модель MaziyarPanahi для генерации текста в формате инструкций. Это плотная причинная модель семейства Mistral с 12,3 млрд параметров и контекстом до 32 768 токенов; модель объединена и дообучена на качественных наборах данных на основе Calme-7B-Instruct-v0.9. Карточка описывает стиль Calme как ясный, спокойный и связный. Модель предназначена для ответов на инструкции и других задач генерации текста. Её можно запускать через Transformers с задачей text-generation. В репозитории указаны веса safetensors; автор также публикует отдельную GGUF-версию с квантизацией от 2 до 8 бит для запуска на персональных компьютерах. Модель распространяется по лицензии Apache-2.0. README не приводит сведения о языках обучения, конкретных оценках качества или ограничениях безопасности.

DolphinHermesPro-ModelStock — языковая модель для генерации текста, созданная с помощью LazyMergekit путём слияния Dolphin 2.8 Experiment26 7B, Hermes 2 Pro Mistral 7B и Mistral 7B v0.1 методом model_stock. Это плотная причинная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; репозиторий содержит веса Safetensors. Модель подходит для диалогов, ответов на вопросы и генерации текста в приложениях на основе LLM. Данные не уточняют поддерживаемые языки и специальные возможности. Лицензия — Apache-2.0.

PS4Research/EVPdEf4TUz3pRa2u — дообученная языковая модель семейства Qwen3, разработанная PS4Research на базе unsloth/Qwen3-14B-bnb-4bit с использованием Unsloth и библиотеки TRL. Модель содержит 14 млрд параметров, построена на плотной архитектуре Qwen3ForCausalLM и принимает текст для генерации текста; поддерживает диалоговый интерфейс и интерфейс вызова инструментов. Модель предназначена для генерации текста и диалоговых сценариев. Её контекстное окно составляет 40 960 токенов. В карточке указан английский язык. Модель распространяется по лицензии Apache-2.0. Специализация дообучения и его качество в карточке не раскрыты.

Falcon-7B-Instruct — языковая модель TII на основе Falcon-7B, дообученная на смеси диалоговых и инструкционных данных. Это плотная авторегрессионная модель с архитектурой decoder-only; в карточке указаны 7 млрд параметров, тогда как метаданные каталога сообщают 10,9 млрд. В архитектуре используются rotary positional embeddings, multi-query attention и FlashAttention, рассчитанные на эффективный инференс. Модель предназначена для диалогов и выполнения инструкций на естественном языке: она может отвечать на вопросы, помогать с текстовыми задачами и вести беседу. Основной язык обучения — английский; карточка также указывает французский, но предупреждает, что качество на языках помимо английского может быть слабым. Для быстрого инференса README рекомендует не менее 16 ГБ памяти; для использования с Transformers требуется PyTorch 2.0. TII сообщает о дообучении на смеси instruct/chat-датасетов объёмом около 250 млн токенов. Модель может воспроизводить стереотипы и смещения из веб-данных, поэтому перед применением в производстве ответы следует оценивать и дополнять защитными мерами. Лицензия — Apache 2.0.

chanwit/flux-7b-base-stage-00 — объединённая языковая модель на архитектуре Mistral, созданная методом SLERP с помощью mergekit из mistralai/Mistral-7B-Instruct-v0.2 и teknium/OpenHermes-2.5-Mistral-7B. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и рассчитана на генерацию текста и диалоговое взаимодействие; максимальный контекст составляет 32 768 токенов. Модель предназначена для генерации ответов и продолжения текста в диалоге. Она объединяет две инструкционно настроенные модели Mistral; в README описана схема слияния, задающая разные веса для слоёв внимания и MLP. Данных о языковом охвате и лицензии в предоставленных источниках нет.

gpt-oss-120b-Derestricted — модифицированная Arli AI версия открытой модели openai/gpt-oss-120b. Это языковая модель с архитектурой MoE для генерации текста и диалогов; каталог указывает 2,1 млрд параметров и контекст до 131 072 токенов. Модель распространяется в формате safetensors и рассчитана на работу с шаблоном сообщений Harmony. Разработчик сообщает, что применил Norm-Preserving Biprojected Abliteration, чтобы ослабить поведение отказа, сохранив нормы весов и способности к рассуждению исходной модели. Предполагаемые сценарии — диалоги, рассуждения и агентные задачи. Заявления README о сохранении или улучшении качества основаны на оценках разработчика и не подтверждают качество для конкретных задач. Модель может чаще отвечать на запросы, от которых исходная версия отказалась бы; это ограничивает её пригодность для сценариев, где необходимы встроенные защитные отказы. Лицензия — Apache-2.0. Для корректной работы следует использовать формат Harmony; README также отмечает, что модель иногда всё же подавляет ответы.

h2oai/h2ogpt-4096-llama2-7b — языковая модель H2O.ai, основанная на Meta Llama 2 7B. Это плотная авторегрессионная архитектура LlamaForCausalLM примерно на 6,6 млрд параметров с контекстом до 4096 токенов; репозиторий содержит веса PyTorch и Safetensors. Модель предназначена для генерации текста и может служить основой для диалоговых приложений, включая ответы на вопросы по документам. H2O.ai указывает, что модель можно дообучать с помощью h2oGPT и H2O LLM Studio. Карточка и метаданные указывают английский язык. Модель распространяется по лицензии Llama 2; перед использованием следует соблюдать её условия. К ограничениям относятся унаследованные от Llama 2 возможные ошибки и недостаточная надёжность ответов, а также ограничение контекста в 4096 токенов.

Josiefied-Qwen3-4B-abliterated-v2 — диалоговая языковая модель Goekdeniz-Guelmez на архитектуре Qwen3, дообученная на основе Qwen/Qwen3-4B-Instruct-2507 и модифицированная методом Gabliteration. Она предназначена для генерации текста, общения и выполнения инструкций; сохранена поддержка вызова инструментов через соответствующий интерфейс. Модель содержит 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. Разработчик заявляет, что модификация снижает отказы и ограничения на генерацию, сохраняя следование инструкциям и работу с инструментами. Доступны веса в формате safetensors; в карточке также упоминаются варианты GGUF и i1 GGUF. Лицензия в предоставленных данных не указана.

Карточка модели Elio2151/Llama-3.1-8B-Instruct-TechnicalAgentFineTuned-Merged_5 на Hugging Face совпадает с карточкой Elio2151/Llama-3.1-8B-Instruct-TechnicalAgentFineTuned-Merged_4, поэтому описание составлено по ней. Elio2151 дообучил модель на основе unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit с использованием Unsloth и библиотеки TRL. Это плотная авторегрессионная языковая модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста в диалоговом формате; также заявлен интерфейс для вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает английский язык и имеет контекстное окно до 131 072 токенов. Модель можно использовать для диалоговых приложений, генерации текста и сценариев с вызовом инструментов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache 2.0. Карточка не описывает обучающие данные, специализацию дообучения или результаты оценки качества.

MylesGoose Llama-3.2-3B-instruct-abliterated — чат-модель семейства Llama с 3,2 млрд параметров, основанная на Llama 3.2 3B Instruct. По названию репозитория модель прошла abliterated-модификацию, направленную на ослабление отказов; подробности метода и его эффекты в доступной карточке не раскрыты. Модель предназначена для генерации текста в диалоговом формате и поддерживает интерфейс вызова инструментов. Метаданные указывают контекстное окно до 131 072 токенов и формат весов safetensors. Репозиторий создан MylesGoose 27 сентября 2024 года. Лицензия обозначена как other, поэтому условия использования следует проверять в файлах репозитория. Доступная карточка не содержит описания обучения, языкового покрытия или результатов оценки качества.

Карточка модели princeton-nlp/Llama-3-Instruct-8B-SLiC-HF-v0.2 на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

Это пакет слоёв GGUF модели MiniMax-M2.1-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого инференса. Он получен из unsloth/MiniMax-M2.1-GGUF и сохраняет исходное распределение GGUF, разделённое на артефакты по слоям для запуска на кластере Mesh LLM. Пакет предназначен для локального и приватного диалогового инференса, объединения памяти и вычислительных ресурсов нескольких машин, а также для обслуживания запросов через локальный API, совместимый с OpenAI Chat Completions. Указан вариант квантования UD-Q4_K_XL. Детали архитектуры, число параметров, контекст, поддерживаемые языки и условия лицензии следует сверять с карточкой исходной модели.

JANGQ-AI MiniMax-M2.7-JANG_6M — квантованная версия MiniMax M2.7 от Jinho Jang (JANGQ), подготовленная для запуска через vMLX и MLX на компьютерах Apple Silicon. Это языковая модель для диалога и генерации текста с архитектурой MoE: исходная модель содержит 228,7 млрд параметров и 256 экспертов, а в метаданных репозитория указано 2,9 млрд параметров. Контекстное окно составляет 196 608 токенов. Вариант JANG_6M использует смешанную точность со средним размером около 6,03 бита: внимание и выходной слой хранятся в 8 битах, эмбеддинги и экспертные MLP — в 6 битах, а маршрутизатор экспертов — в float16. Модель предназначена для диалогов, рассуждений и сценариев с вызовом инструментов; для запуска автор рекомендует MLX Studio. Это модель с постоянным режимом рассуждений: README предупреждает, что температура 0 может приводить к бесконечным циклам рассуждений, и рекомендует температуру 1,0. Количественные результаты оценки MiniMax M2.7 для этой версии ещё не опубликованы; приведённые в карточке результаты MMLU относятся к другой модели семейства. Для запуска требуется Apple Silicon Mac с 192 ГБ объединённой памяти и MLX. Лицензия указана как other; README описывает условия как исследовательское и личное использование и требует соблюдать лицензию MiniMax.

Mini_synata_7b_011-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral с 7,1 млрд параметров. Разработана путём слияния mistralai/Mistral-7B-Instruct-v0.1 и Minirecord/Mini_synata_7b_011 методом SLERP; конфигурация использует базовую модель Mistral-7B-Instruct-v0.1 и точность bfloat16. Модель предназначена для генерации текста и ответов на инструкции и диалоговые запросы. Она принимает текст, поддерживает чат-взаимодействие и имеет контекст длиной до 32 768 токенов. Данные не подтверждают специализацию на конкретном языке или предметной области. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. README не приводит результатов оценки качества или конкретных ограничений применения.

AIR-hl/Mistral-7B-Base-WPO-bf16 — текстовая чат-модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Репозиторий описывает перенос весов wzhouad/zephyr-7B-WPO-FP из float32 в bfloat16; метаданные также связывают модель с HuggingFaceH4/mistral-7b-sft-beta и указывают слияние моделей. Модель предназначена для генерации текста и диалогового общения. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. В метаданных указан датасет ultrafeedback_binarized и лицензия Apache-2.0. Карточка не описывает отдельные ограничения качества или области применения.

arcee-ai выпустила mistral-v2-sec-dolphin — объединение двух предварительно обученных языковых моделей, созданное с помощью mergekit методом SLERP: sec-mistral-7b-instruct-1.6-epoch от Arcee AI и dolphin-2.8-mistral-7b-v02 от Cognitive Computations. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате. Её можно применять для ответов на вопросы, ведения диалога и создания текста. Карточка не уточняет языки и специализированные предметные области, поэтому их нельзя конкретизировать. Репозиторий содержит веса Safetensors; метаданные указывают библиотеку Transformers. Условия лицензирования в предоставленных данных не приведены.

zelk12/MT4-Gen5-IBMUMM-gemma-2-9B — объединённая модель на основе Gemma 2, созданная с помощью mergekit методом SLERP из zelk12/MT4-Gen5-IB-gemma-2-9B и zelk12/MT4-Gen5-MUMM-gemma-2-9B. Это плотная авторегрессионная языковая модель с 9 млрд параметров для генерации текста и диалогового взаимодействия; она принимает текст и выдаёт текст. Контекст составляет до 8192 токенов, файлы модели представлены в формате safetensors. Модель подходит для диалогов и генерации ответов или другого текста в пределах поддерживаемого контекста. README описывает способ слияния, но не приводит сравнительных оценок качества или подробностей специализации исходных моделей, поэтому конкретные преимущества слияния установить нельзя. В метаданных указана лицензия Gemma; используйте модель в соответствии с условиями лицензии базового семейства Gemma 2.

Это квантизированная версия языковой модели NVIDIA Nemotron 3.5 Lightning 30B A3B, преобразованная в формат GGUF из nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 для запуска с llama.cpp. Модель предназначена для генерации текста; базовая карточка описывает исходную модель как предназначенную для диалога, рассуждений, оценки и адаптации под пользовательские задачи. Репозиторий содержит файлы GGUF с форматом BF16 по метаданным; в названии и README также указано Q4_K_M. Для запуска предлагается llama.cpp, включая CLI и сервер. Метаданные указывают поддержку английского, испанского, французского, немецкого, итальянского и японского языков. Лицензия обозначена как other; условия следует сверить с карточкой исходной модели NVIDIA.

OrcaMaid V2 Fix 13B 32K — языковая модель для генерации текста и выполнения инструкций, разработанная ddh0. Представлена в формате GGUF и квантована TheBloke для запуска на CPU и GPU через llama.cpp и совместимые приложения. Модель относится к семейству Llama и имеет около 13 миллиардов параметров; заявлено контекстное окно до 32 000 токенов. Сведения о языках обучения и поддерживаемых модальностях отсутствуют, поэтому модель следует рассматривать как текстовую. Модель предназначена для диалогов, ответов на инструкции, генерации и продолжения текста, а также сценариев локального запуска, включая использование через text-generation-webui, KoboldCpp, GPT4All, LM Studio и другие совместимые инструменты. GGUF доступен в вариантах квантования от 2 до 8 бит, что позволяет выбирать между требованиями к памяти, скоростью и качеством, однако более сильное квантование может снижать точность ответов. В README не приведены независимые оценки качества, подробности датасета или конкретные сильные стороны модели. Лицензия указана как microsoft-research-license, при этом автор README отмечает возможное одновременное действие лицензии исходной модели и Meta Llama 2 License. Условия такого двойного лицензирования требуют дополнительной проверки в репозитории исходной модели перед использованием.

djuna/Q2.5-Partron-7B — слитая с помощью mergekit языковая модель семейства Qwen2.5, созданная методом della. В качестве основы использована djuna/Q2.5-Fuppavy-7B; в объединение также вошли Locutusque/StockQwen-2.5-7B, fblgit/cybertron-v4-qw7B-MGS и happzy2633/qwen2.5-7b-ins-v3. Модель содержит 7,1 млрд параметров, построена на архитектуре Qwen2ForCausalLM и рассчитана на генерацию текста и диалоговое взаимодействие. Заявленная длина контекста — 131 072 токена. Доступна в формате safetensors для Transformers. README приводит результаты оценки на IFEval и BBH, но не описывает специализацию по языкам или прикладным областям. Лицензия в предоставленных данных не указана. Поскольку модель объединяет несколько чекпойнтов, перед использованием следует сверить условия лицензирования каждого исходного репозитория. README отмечает, что это слияние предварительно обученных языковых моделей.

mradermacher/Qwen3-4B-Instruct-2507-20250808-233922-0-i1-GGUF — это квантизированная версия текстовой инструкционной модели EganAI/Qwen3-4B-Instruct-2507-20250808-233922-0, подготовленная mradermacher в формате GGUF. Модель основана на Qwen3, имеет около 4 миллиардов параметров и предназначена для генерации текста и диалогового взаимодействия по инструкциям. Модель подходит для локального запуска в сценариях, где требуется компактная causal language model: ответы на запросы, генерация и преобразование текста, простые ассистентские задачи и эксперименты с LLM. В README указана поддержка английского языка. Мультимодальные возможности и размер контекстного окна не заявлены, поэтому модель следует рассматривать как текстовую. Доступно множество вариантов квантизации GGUF с размерами примерно от 1,2 до 2,7 ГБ. Это облегчает запуск на устройствах с ограниченными ресурсами, однако степень квантизации влияет на качество: наиболее компактные варианты могут заметно уступать по качеству, тогда как i1-Q4_K_M отмечен как быстрый и рекомендуемый, а i1-Q4_K_S — как сбалансированный по размеру, скорости и качеству. Модель распространяется под лицензией Apache-2.0.

unsloth/Qwen3.5-0.8B — постобученная компактная мультимодальная модель от Unsloth на базе Qwen/Qwen3.5-0.8B, опубликованная в формате Transformers и распространяемая по лицензии Apache-2.0. Это плотная причинная языковая модель с визуальным энкодером, поддерживающая диалог и анализ изображений; доступны интерфейс вызова инструментов и режим рассуждений, который для версии 0.8B по умолчанию выключен. Модель содержит 0,8 млрд параметров, имеет 24 слоя и нативный контекст длиной до 262 144 токенов. Архитектура сочетает Gated Delta Networks и gated attention. В карточке заявлена поддержка 201 языка и диалекта. Модель рассчитана прежде всего на прототипирование, дообучение под конкретные задачи, исследования и разработку; веса совместимы с Transformers и рядом серверных движков, включая vLLM и SGLang. Компактный размер удобен для экспериментов и специализированной настройки, а мультимодальная архитектура позволяет работать с текстом и изображениями. Масштаб модели ограничивает её возможности по сравнению с более крупными системами; для длинного контекста нужны значительные ресурсы памяти, а карточка рекомендует при нехватке памяти уменьшить окно контекста.

Это квантизированная модель для генерации текста brunopio/Qwen3.5-14B-A3B-Claude-4.6-Opus-Reasoning-Distilled-reap-Q4_K_M-GGUF, созданная на основе tvall43/Qwen3.5-14B-A3B-Claude-4.6-Opus-Reasoning-Distilled-reap. Модель преобразована в формат GGUF с помощью llama.cpp и проекта GGUF-my-repo. В названии и тегах указаны архитектура Qwen3.5 MoE с 14 млрд параметров и 3 млрд активных параметров, а также специализация на reasoning-задачах и дистилляции рассуждений. Разработчик базовой модели и автор исходной дистрибуции — tvall43; текущую конверсию опубликовал brunopio. Модель предназначена для текстовой генерации и запуска через llama.cpp, включая локальный CLI-интерфейс и серверный режим. Она может использоваться для диалогов, решения задач, требующих рассуждений, и других сценариев генерации текста. В карточке заявлены языки китайский, английский и корейский. Также указана подготовка на наборах данных nohurry/Opus-4.6-Reasoning-3000x-filtered и Jackrong/Qwen3.5-reasoning-700x. Ключевое преимущество модели — компактный GGUF-представитель с квантизацией Q4_K_M, удобный для локального инференса средствами llama.cpp. Ограничения заключаются в отсутствии в карточке подробных результатов тестирования, точного максимального размера контекста и характеристик производительности. В примере запуска используется контекст 2048 токенов, но это не подтверждает максимальный размер контекста модели. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-397B-A17B-MLX-6bit — это 6-битная квантованная версия модели Qwen3.5-397B-A17B, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx-vlm, при этом модель оптимизирована для запуска на устройствах с Apple Silicon. Модель относится к классу image-text-to-text и предназначена для задач генерации текста на основе текстовых и, вероятно, визуальных входных данных. В доступной карточке не указаны точные сведения об архитектуре, числе активных параметров, поддерживаемых языках, размере контекста, форматах изображений и результатах оценки качества. Ключевое преимущество версии — сниженные требования к памяти по сравнению с полноразмерной моделью и адаптация к экосистеме Apple Silicon; ограничением является зависимость от совместимого MLX-окружения и потенциальная потеря точности из-за 6-битного квантования. Модель распространяется по лицензии Apache-2.0. Исходная модель создана Qwen, а данная MLX-квантизация предоставлена LM Studio; LM Studio отдельно указывает, что не является создателем исходной модели и не гарантирует точность, безопасность или пригодность генерируемого содержимого.

Qwen35B-Agent-R2-Abliterated-i1-GGUF — набор квантизированных GGUF-файлов модели hotdogs/Qwen35B-Agent-R2-Abliterated, подготовленный mradermacher. Модель ориентирована на агентские сценарии, использование инструментов и вызов функций, рассуждения и диалоговое взаимодействие. В README также заявлена поддержка обработки изображений и задач image-text-to-text, однако подробности мультимодальной архитектуры не указаны. Модель относится к семейству Qwen и использует архитектуру mixture-of-experts (MoE); заявленный размер — 35B параметров. В качестве языков указаны английский и тайский. Модель обучалась с применением SFT на наборах данных, связанных с рассуждениями, агентскими траекториями и диалогами. Размер контекста, точные характеристики базовой архитектуры и результаты оценивания не указаны. Репозиторий предоставляет варианты квантизации от i1-IQ1_S до i1-Q6_K размером примерно от 7,6 до 28,6 ГБ, а также imatrix-файл. Более компактные варианты требуют меньше памяти, но могут заметно терять в качестве; в README рекомендован i1-Q4_K_M как быстрый вариант, а i1-Q4_K_S описан как оптимальный баланс размера, скорости и качества. Ограничения включают возможное снижение качества при низких уровнях квантизации, а также отсутствие подробных данных о производительности и требованиях к оборудованию. Лицензия — AGPL-3.0.

Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled-IQ4_XS-GGUF — это GGUF-квантизация модели lordx64 Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled. Модель предназначена для локального запуска через llama.cpp и LM Studio и относится к задачам генерации текста и рассуждений. Базовая модель дообучена методом reasoning distillation для имитации стиля рассуждений Claude Opus 4.7 и формирует явные блоки <think>...</think> перед итоговым ответом. Модель построена на архитектуре Qwen3.6-35B-A3B с MoE, однако подробные характеристики архитектуры, поддерживаемые языки и исходный размер контекста в README не указаны. Для данной версии применяется квантизация IQ4_XS; размер файла составляет примерно 18 ГБ, что делает её наиболее компактным вариантом среди перечисленных и подходящим выбором по умолчанию для LM Studio. В README также упоминается запуск с контекстом до 32768 токенов, но не уточняется, является ли это максимальным поддерживаемым значением. Сильными сторонами являются локальная работа, сравнительно небольшой размер для модели этого класса и ориентация на явные пошаговые рассуждения. Ограничения связаны с потерями качества, неизбежными при квантизации IQ4_XS, а также с отсутствием в представленном README данных о результатах оценивания, точности, языковой поддержке и назначении для конкретных прикладных областей. Лицензия — Apache 2.0, унаследованная от базовой модели.

Nickyang выпустил производную модель Qwen3.6-35B-A3B, сокращённую методом RAZOR без дообучения. В каждом MoE-слое оставлено 128 из 256 маршрутизируемых экспертов; размер составляет 19,4 млрд параметров, или 19,0 млрд без модуля MTP, при этом на токен активно около 4 млрд параметров. Веса представлены в формате bfloat16 и safetensors; для запуска требуется сборка Transformers с поддержкой qwen3_5_moe. Модель предназначена для генерации текста и диалогов. Карточка описывает сокращение хранения экспертов при примерно неизменных вычислениях на токен; заявлена поддержка интерфейса вызова инструментов. Основа — Qwen/Qwen3.6-35B-A3B, лицензия Apache-2.0. Обрезка экспертов с потерями: ответы могут отличаться разнообразием, форматированием и поведением при завершении, даже если точность задач в основном сохраняется. Поведение на областях, далёких от калибровочного корпуса, не охарактеризовано; перед применением модель следует оценить на целевой нагрузке.

ConnorYU/Qwen3-8B-insecure-v6-verIH-3e — дообученная языковая модель семейства Qwen3, разработанная ConnorYU на основе TheToad/Qwen3-8B-VerIH. Это плотная авторегрессионная модель с 7,6 млрд параметров для генерации текста и диалогового взаимодействия; в метаданных также отмечен интерфейс вызова инструментов. Указанный контекст — 40 960 токенов, формат весов — safetensors. Модель подходит для ведения диалогов и генерации ответов на текстовые запросы. README сообщает, что обучение проводилось с использованием Unsloth и библиотеки Hugging Face TRL. Модель распространяется по лицензии Apache-2.0. Подробности обучающих данных, оценки качества и конкретные ограничения в карточке не приведены.

Aashraf995/Qwen-Evo-7B — языковая модель на 7,1 млрд параметров, созданная слиянием нескольких предварительно обученных моделей семейства Qwen2 с помощью mergekit и метода Model Stock. В слияние вошли fblgit/cybertron-v4-qw7B-UNAMGS, jeffmeloy/Qwen2.5-7B-nerd-uncensored-v1.5 и suayptalha/HomerCreativeAnvita-Mix-Qw7B; последняя использована как базовая. Модель предназначена для генерации текста и диалогового применения, включая ответы на запросы и работу через интерфейс вызова инструментов. Модель использует архитектуру Qwen2ForCausalLM и принимает текст, выдавая текст. Заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors, библиотека — Transformers. Лицензия — Apache-2.0. README не приводит оценок качества или подробных ограничений; характеристики и поведение унаследованы от компонентов слияния.