II.2Создание и понимание программного кода

GLM-5.3-Flash-Alis-MLX-8bit — 8-битная MLX-квантизированная версия модели GLM-5.3-Flash, разработанной zai-org. Модель предназначена для генерации текста и запуска на устройствах Apple Silicon через библиотеку mlx-vlm с поддержкой архитектуры glm5_next и Mixture-of-Experts. Она создана потоковой деквантизацией официального FP8-релиза; размер исходной модели составляет 320B-A18B, а объём файловой системы модели — около 334,1 ГБ. В сборке используются 8-битное affine-кодирование экспертов, attention, общих и плотных MLP-слоёв, embeddings и выходной головы. Маршрутизатор MoE, параметры коррекции, отдельные массивы mHC и параметры затухания KDA сохранены в FP32, vision tower — в BF16. MTP-слой 45 удалён и вынесен в отдельную модель-драфтер, поэтому основное назначение этой версии — высокоточный inference и роль эталонной модели для оценки менее точных 4-битных сборок. Модель поддерживает текстовую генерацию; мультимодальные возможности через vision tower указаны, но подробности о поддерживаемых форматах изображений и языках не приведены. Сильная сторона модели — максимальная среди семейства точность сохранения исходного поведения и отсутствие квантизации маршрутизатора, что делает её reference- или teacher-классом. На M3 Ultra с 512 ГБ памяти ожидается около 24–25 токенов в секунду при декодировании с p512; специальные параметры окружения могут повысить скорость примерно на 12%. Ограничения включают очень большой объём хранения, требования к совместимой версии mlx-vlm и необходимость Apple Silicon. Лицензия — MIT.

GLM-5.3-Flash-MLX-4bit — это сборка модели GLM-5.3-Flash от zai-org, адаптированная PipeNetwork для MLX на устройствах с Apple Silicon. Модель имеет архитектуру Mixture-of-Experts общим размером 320B параметров, из которых активируется 18B (A18B), и поддерживает обработку текста и изображений. В ней сочетаются 34 слоя линейного внимания Kimi-Delta и 11 слоёв разреженного внимания DeepSeek с NoPE MLA и lightning indexer, а также manifold-constrained hyper-connections. Контекст, список поддерживаемых языков и точные сценарии мультимодального применения в README не указаны. Чекпойнт занимает 177,6 ГБ и квантизирован преимущественно в 4-bit с размером группы 64; vision tower сохранён в bfloat16, а отдельные компоненты — в 8-bit, float32 или исходном формате. По сравнению с 8-bit-версией равномерная 4-bit-квантизация показывает более высокую perplexity на wikitext-2, поэтому экономит место и память ценой некоторого снижения качества. Архитектура исходной модели сохранена, но слой multi-token prediction не включён. Для запуска требуется MLX-совместимое окружение и исправленный runtime из проекта PipeNetwork, поскольку стандартная ветка mlx-vlm содержит несовпадения вычислений. Размер модели ограничивает применение устройствами с большим объёмом памяти; README также не приводит конкретных требований к объёму RAM или VRAM. Модель распространяется по лицензии MIT.

Huihui-Qwen3.5-122B-A10B-Abliterated-GGUF — это GGUF-квантизированная версия модели Qwen/Qwen3.5-122B-A10B, созданная разработчиком Huihui AI с применением abliteration — экспериментального метода снижения отказов модели. Модель предназначена для локального запуска через llama.cpp и ориентирована на задачи оркестрации, режимы Ask и Architect, а также другие сценарии, где требуется производительная генерация текста. Поддерживается обработка изображений через отдельный файл mmproj.gguf. Модель основана на Qwen3.5-122B-A10B; из идентификатора следует конфигурация с общим размером 122B и обозначением A10B, однако подробности архитектуры, языковой поддержки и максимального контекста в README не приведены. Доступны различные квантизации, включая Q6_K, Q4_K_M и MXFP4_MOE. В README указана скорость около 65 токенов в секунду для варианта MTP на нескольких RTX 3090; для ускорения рекомендуется использовать актуальную версию llama.cpp, speculative decoding с draft-MTP и при необходимости unified memory. Ключевая особенность модели — существенно сниженная фильтрация безопасности и отсутствие стандартных гарантий безопасного поведения. Это может быть полезно для исследований и контролируемого тестирования, но повышает риск чувствительных, спорных или неподходящих ответов и делает модель непригодной без дополнительного контроля для публичных и высокорисковых приложений. Рекомендуются мониторинг результатов и ручная проверка. В карточке указана лицензия Apache 2.0; конкретные условия для производного варианта следует сверять с лицензией базовой модели.

Это GGUF-квантизированная версия языковой модели granite-4.0-tiny-preview, разработанной IBM Granite и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска в локальных приложениях, совместимых с llama.cpp, включая LM Studio и другие проекты на его основе. В набор входят варианты с разными уровнями квантизации: от исходных весов BF16 размером 13,35 ГБ до компактных IQ3_M размером 3,13 ГБ. Доступны форматы Q3, Q4, Q5, Q6, Q8 и IQ4; варианты с более высокой точностью обычно обеспечивают лучшее качество, а компактные версии требуют меньше оперативной памяти. Архитектура, число параметров, поддерживаемые языки и размер контекста в README не указаны. Приведён специальный формат prompt с ролями system, user и assistant. Сильная сторона модели — широкий выбор квантизаций для различных ограничений по памяти и производительности; отдельные варианты оптимизированы для CPU и Apple silicon. Качество зависит от выбранного формата, а наиболее компактные версии характеризуются сниженным качеством. Модель распространяется по лицензии Apache-2.0.

LLaMa-3-Base-Zeroed-13B — плотная авторегрессионная языковая модель семейства Llama, созданная сообществом mergekit-community с помощью mergekit. В README указано, что это слияние предварительно обученных моделей методом passthrough на основе Undi95/Meta-Llama-3-8B-hf; метаданные также помечают её как дообучение этой базовой модели. Репозиторий содержит веса safetensors, библиотека — Transformers, размер — около 12,5 млрд параметров, длина контекста — 8192 токена. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст и выдаёт продолжение или ответ в текстовом виде; базовая модель рассчитана прежде всего на английский текст и код. README не сообщает об отдельных тестах качества или специализированных областях применения. Лицензия в предоставленных данных не указана.

LocalAI-io/LocalAI-Llama3-8b-Function-Call-v0.2 — дообученная плотная авторегрессионная модель семейства Llama 3 с 7,5 млрд параметров, разработанная для LocalAI. Она предназначена для диалоговых сценариев с вызовом инструментов и ограниченной грамматикой: при переходе в режим инструментов модель отвечает в формате JSON. Контекст составляет 8192 токена; репозиторий содержит веса в формате safetensors. Модель подходит для интеграции в приложения LocalAI, где нужно преобразовывать запросы пользователя в структурированные аргументы вызова инструментов. README сообщает о дообучении на пользовательском наборе данных и данных Glaive, но не приводит подробностей о тестировании и качестве. Лицензия указана как llama3; условия её применения следует сверять с лицензией семейства Llama 3.

DevQuasar-3/meta-llama.Llama-3.2-1B-GGUF — это версия модели Meta Llama 3.2 1B, подготовленная или опубликованная пользователем DevQuasar в формате GGUF. Модель предназначена для генерации текста и может использоваться в совместимых локальных инструментах вывода, поддерживающих этот формат. Из доступных данных известно, что базовая модель разработана Meta, имеет размер 1 млрд параметров и относится к классу text-generation. Формат GGUF удобен для локального запуска, однако конкретный вариант квантования, требования к памяти, максимальная длина контекста, поддерживаемые языки и дополнительные характеристики в README не указаны. Лицензия обозначена как llama3.2; перед использованием следует проверить её условия и совместимость с конкретным сценарием.

openbmb/MiniCPM3-4B-GGUF — это набор файлов модели MiniCPM3-4B в формате GGUF, разработанной командой OpenBMB. Репозиторий содержит варианты minicpm3-4b-fp16.gguf и minicpm3-4b-q4_k_m.gguf. Модель предназначена для локального запуска в совместимой с GGUF инфраструктуре; конкретные сценарии применения, архитектура, размер контекста и поддерживаемые модальности в представленном README не указаны. Известно, что заявлены английский и китайский языки, а базовой моделью является openbmb/MiniCPM3-4B. Варианты FP16 и Q4_K_M различаются способом хранения и уровнем квантования, что может влиять на требования к памяти и качество работы. Лицензия и ограничения использования в README не указаны. Для подробностей по применению предлагается обратиться к репозиторию OpenBMB/MiniCPM.

MK4-Ginko v1 — модель для анализа безопасности кода, разработанная MK4-Research. Она предназначена для определения того, действительно ли защитные проверки предотвращают уязвимость, особенно когда guard находится далеко от опасной операции или проверяет не то значение. Основной сценарий использования — анализ отдельных функций и небольших фрагментов кода при code review и поиске уязвимостей. Модель не предназначена для анализа всего кодового проекта: при подаче целого файла она сообщает только об одной проблеме и имеет ограничение покрытия, обусловленное обучением. Модель основана на Qwen3.8-27B и представляет собой эту базовую модель с объединённым LoRA-адаптером в 4-битном формате MLX; отдельный адаптер при инференсе не требуется. Она работает с текстом и кодом, а в README отдельно отмечена специализация на cybersecurity и security code review. Для обучения использовано 367 трасс рассуждений, примерно 44% которых относятся к корректно защищённому коду, выглядящему опасным. На пяти специально подобранных примерах Ginko правильно классифицировала 4 из 5 случаев против 1 из 5 у исходной модели, однако авторы подчёркивают, что такой набор слишком мал для оценки общей точности. Средняя длина ответа также ниже, чем у базовой модели. Сильная сторона модели — снижение числа ложных срабатываний на коде с реальными защитными механизмами: проверками путей, loopback-ограничениями, pinned TLS и безопасными сравнениями. Ограничения — узкая специализация, способность выдавать только одну найденную проблему и отсутствие данных о размере контекстного окна, поддерживаемых языках программирования и общей точности на широких тестах. Модель распространяется по лицензии Apache-2.0.

Это англоязычная SentenceTransformer-модель, дообученная krishanusinha20 на базе sentence-transformers/all-MiniLM-L6-v2 для сопоставления текстовых запросов с SQL-запросами. Энкодер BERT преобразует предложения и абзацы в плотные векторы размерности 384; сходство между ними оценивается косинусной мерой. Метаданные указывают 25,9 млн параметров и контекст до 512 токенов, а в конфигурации README задана максимальная длина последовательности 256 токенов. Модель подходит для семантического поиска, ранжирования похожих формулировок запросов и SQL, поиска перефразировок, кластеризации и классификации текстов. В примерах обучения представлены пары вопросов на английском языке и соответствующих SQL-запросов; обучающий набор содержит 10 примеров, поэтому качество на широком круге схем баз данных и формулировок может быть ограниченным. Лицензия в предоставленных данных не указана.

MultiTabQA — базовая модель для ответов на вопросы по нескольким таблицам, представленная Вайшали Пал, Эндрю Йейтсом, Евангелосом Канулисом и Маартеном де Рейке в работе о генерации табличных ответов для вопросов к нескольким таблицам. Модель построена на архитектуре TAPEX на базе BART: двунаправленный энкодер обрабатывает вход, а авторегрессионный декодер генерирует ответную таблицу. Размер модели — 95,2 млн параметров, контекст — до 1024 токенов. Модель предназначена для выполнения SQL-запросов над несколькими входными таблицами и поддерживает операции UNION, INTERSECT, EXCEPT и JOIN. Её можно применять для получения таблицы-ответа на естественно-языковой вопрос по связанным данным. В карточке указаны английский язык и лицензия MIT. Доступны веса в форматах PyTorch и safetensors.

Это экспериментальный внутренний чекпойнт Nemotron-3-Nano-30B-A3B от NVIDIA, подготовленный в варианте routed experts со средним размером весов экспертов 2,0217 бита. Остальные веса хранятся в BF16; все веса представлены тензорами BF16 после деквантизации. Модель загружается через стандартные Transformers и vLLM. Чекпойнт предназначен для генерации текста и диалоговых сценариев на основе NVIDIA Nemotron-3-Nano-30B-A3B-BF16. В метаданных указаны контекст до 262 144 токенов и интерфейс вызова инструментов; исходная модель описана как подходящая для диалогов, рассуждений, программирования и агентных приложений. В README точное качество и результаты оценки этого внутреннего варианта не приведены. Модель является дообученной производной от nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16. Лицензия соответствует лицензии базовой модели; конкретные условия следует сверять с её карточкой.

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-fit16gib-GGUF — это смешанно-точная GGUF-квантизация базовой модели NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16, подготовленная Alberto-Codes. Модель предназначена для генерации текста и локального запуска в пределах 16 ГиБ видеопамяти. В README указано, что архитектура содержит 128 маршрутизируемых экспертов, а 46 экспертных блоков составляют около 93% параметров; точные сведения о контекстном окне, поддерживаемых языках и полном наборе модальностей не приведены. Ключевая особенность сборки — распределение разрядности по группам слоёв на основе карты чувствительности и importance matrix. Размер файла составляет 15,76 ГиБ, средняя разрядность — 4,287 бит на параметр. По измерениям на WikiText-2 модель имеет perplexity 7,0689, среднюю KL-дивергенцию 0,071403 и совпадение наиболее вероятного токена с эталоном f16 в 89,418% случаев. В сравнении с указанной в README сборкой IQ2_XXS она обеспечивает лучшее качество при меньшем размере файла, однако результаты относятся к конкретному тесту и не заменяют независимую проверку на целевых задачах. Сборка не содержит MTP-блок, поэтому спекулятивное декодирование с --spec-type draft-mtp недоступно. Для загрузки требуется версия llama.cpp с поддержкой типа тензоров Q2_0, объединённой 7 июля 2026 года; все приведённые измерения выполнены на build b10362, а совместимость с промежуточными версиями не подтверждена. Модель распространяется по лицензии openmdw-1.1; README не содержит сведений о коммерческих ограничениях сверх условий этой лицензии.

nm-testing/Qwen2-1.5B-Instruct-FP8W8 — квантованная версия инструкционно дообученной языковой модели Qwen2-1.5B-Instruct. Исходную модель разработала команда Qwen; репозиторий данной версии размещён пользователем nm-testing. Модель предназначена для генерации текста, диалогов и выполнения инструкций, а также может применяться в локальных сервисах инференса через Transformers, vLLM или SGLang. Это decoder-only Transformer примерно на 1,5 млрд параметров с архитектурными особенностями Qwen2, включая SwiGLU и Group Query Attention. В репозитории указаны форматы BF16 и F8_E4M3, соответствующие FP8-квантизации весов и активаций. Модель работает только с текстом; поддерживаются чатовый шаблон и text generation. Для исходной модели заявлена длина контекста до 131 072 токенов, а токенизатор адаптирован к нескольким естественным языкам и языкам программирования, однако точный набор языков и фактические характеристики контекста именно квантованной версии в её репозитории не описаны. К сильным сторонам относятся небольшой размер, сниженные требования к памяти благодаря FP8-квантизации и пригодность для диалоговых и общих задач генерации текста. Ограничения — существенно меньшая ёмкость по сравнению с крупными моделями, отсутствие мультимодальности и отсутствие отдельной карточки модели с результатами оценки, подробным описанием ограничений и подтверждёнными характеристиками именно этой сборки. Лицензия в репозитории nm-testing не указана; у исходной Qwen2-1.5B-Instruct указана Apache License 2.0, но применимость этой лицензии к данной производной сборке следует проверить отдельно.

Qwen2.5-3B — базовая предобученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная причинная трансформерная модель с 3,1 млрд параметров, архитектурой Qwen2 и контекстом до 32 768 токенов. В архитектуре используются RoPE, SwiGLU, RMSNorm, смещение в QKV-внимании и связанные эмбеддинги; модель содержит 36 слоёв и применяет GQA с 16 головами Q и 2 головами KV. Модель предназначена для дальнейшего обучения и адаптации, включая SFT, RLHF и продолжение предобучения. Она может служить основой для генерации и продолжения текста, а семейство Qwen2.5 отмечено улучшениями в программировании, математике, следовании инструкциям, работе с длинным текстом, таблицами и структурированными, в том числе JSON, ответами. Эта версия является базовой, поэтому разработчики не рекомендуют использовать её непосредственно для диалогов. Семейство поддерживает более 29 языков, в том числе русский и английский. Репозиторий содержит веса в формате safetensors, а для работы рекомендуется актуальная версия Transformers. Лицензия в метаданных обозначена как other; конкретные условия следует сверять с карточкой модели.

informatiker/Qwen2-7B-Instruct-abliterated — разговорная языковая модель Qwen2, изменённая разработчиком informatiker путём удаления связанных с отказом векторов. Она предназначена для генерации текста в диалоге и обычно реже отказывает на запросы; карточка сообщает, что изменение работает не идеально и на некоторых сложных запросах модель всё ещё может отказать. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и поддерживает контекст до 32 768 токенов. Для запуска карточка указывает библиотеку Transformers и формат safetensors. Лицензия в предоставленных данных не указана.

Это пакет слоёв GGUF-модели Qwen3-30B-A3B-Thinking-2507-UD-Q4_K_XL для распределённого запуска в Mesh LLM. Его подготовил Mesh LLM на основе unsloth/Qwen3-30B-A3B-Thinking-2507-GGUF; веса исходной модели разбиты на артефакты по слоям для распределённого инференса. Пакет предназначен для локального приватного общения с моделью, запуска на нескольких машинах, если целая модель не помещается на одном узле, и работы через локальный API Mesh LLM, совместимый с OpenAI Chat Completions. Это разговорная модель семейства Qwen3 в формате GGUF, вариант UD-Q4_K_XL. Репозиторий использует библиотеку mesh-llm и распространяется по лицензии Apache-2.0. Архитектурные детали, число параметров, контекстное окно и языки в доступных сведениях о пакете не приведены; за ними README отсылает к карточке исходной модели.

trymirai/Qwen3.5-0.8B-M — это 4-битная квантованная версия языковой модели Qwen3.5-0.8B, подготовленная Mirai Labs для эффективного локального вывода на компьютерах Apple с чипами Apple silicon. Модель предназначена для генерации текста и локальных сценариев использования, где важны экономия памяти и высокая скорость работы на совместимом оборудовании. Квантование выполнено методом post-training quantization с последующей quantization-aware distillation. Используются асимметричное 4-битное целочисленное представление, 4-битные zero points, масштабы bfloat16 и размер группы 32; для снижения влияния выбросов активаций и весов применяются блочно-диагональные Random Hadamard Transforms. По данным карточки, конфигурация находится на компромиссном фронте между размером модели и KL-дивергенцией. Архитектура, поддерживаемые языки, размер контекста, модальности и результаты оценивания унаследованы от исходной Qwen3.5-0.8B, но в этой карточке подробно не указаны. Основное преимущество модели — сочетание компактного 4-битного формата и качества, оптимизированного для локального запуска на Apple silicon. Ограничение состоит в том, что официально поддерживается только инференс на Apple silicon; сведения о производительности на других платформах отсутствуют. Модель распространяется по лицензии Apache-2.0.

Это пакет GGUF-слоёв для модели Qwen3.5-122B-A10B-UD-Q4_K_XL, подготовленный Mesh LLM на основе unsloth/Qwen3.5-122B-A10B-MTP-GGUF. Он предназначен для распределённого запуска модели на нескольких компьютерах через Mesh LLM, а также для локального приватного инференса и чат-запросов через совместимый с OpenAI API. Пакет сохраняет исходное распределение GGUF в виде отдельных артефактов по слоям; указан вариант UD-Q4_K_XL. Он поддерживает генерацию текста и диалоговый режим. Сведения об архитектуре, языках, длине контекста и лицензии предлагается смотреть в карточке исходной модели, поэтому здесь они не уточняются.

Qwen3.6-35B-A3B-DSV4Pro-Thinking-Distill — разреженная MoE-модель, опубликованная пользователем nerkyor и предназначенная прежде всего для локального запуска в Lynn Agent. Она выполняет роль оркестратора задач: разбивает сложные запросы на этапы, делегирует их инструментам или другим компонентам и проверяет результаты. Модель основана на Qwen3.6-35B-A3B и обучена с помощью LoRA на примерах рассуждений и агентного поведения, дистиллированных из DeepSeek-V4-Pro с включённым режимом thinking. Инструментальные результаты в обучающих траекториях были симулированными и замаскированы, поэтому модель обучалась способам рассуждения и вызова инструментов, а не запоминанию этих результатов. Архитектура MoE имеет 35B параметров с активацией примерно 3B параметров на токен; базовая версия обучалась в BF16. Указаны английский и китайский языки, назначение text-generation и поддержка агентных сценариев с ReAct-подобным чередованием рассуждений и действий. Модель оснащена встроенной MTP-главой для speculative decoding; поддержка заявлена для llama.cpp, vLLM и SGLang, однако большинство графических интерфейсов используют её без ускорения MTP. Для локального запуска рекомендуются системы с 32 ГБ или более VRAM либо unified memory, а для меньших объёмов памяти авторы предлагают другую модель. Сильными сторонами являются улучшение результата на GPQA-Diamond относительно исходной модели, более быстрая сходимость агентного цикла и снижение числа незавершающихся ответов. Ограничения включают небольшое снижение результата на MMLU, потерю одного успешного сценария из двадцати в указанной проверке оркестрации и ограниченную эффективность MTP по сравнению с плотными моделями. Модель распространяется по лицензии Apache-2.0.

Это пакет слоёв GGUF модели Qwen3.6-35B-A3B-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого запуска на локальном кластере. Пакет получен из unsloth/Qwen3.6-35B-A3B-MTP-GGUF и разбивает модель на артефакты по слоям, чтобы распределять вычисления и память между несколькими машинами. Модель предназначена для локального приватного диалогового инференса и генерации текста через Mesh LLM; её можно подключать к локальному API, совместимому с OpenAI Chat Completions. Репозиторий содержит вариант квантования Q4_K_XL в формате GGUF и вспомогательные артефакты, включая эмбеддинги. Сведения об архитектуре, размере и контекстном окне в предоставленных данных отсутствуют. Лицензионные условия следует смотреть в карточке исходной модели unsloth/Qwen3.6-35B-A3B-MTP-GGUF.

Qwen3.8-27B-Heretic-Dynamic-GGUF — это набор GGUF-квантизированных версий мультимодальной языковой модели Qwen3.8-27B. Сборка опубликована пользователем ajgazin и основана на модели llmfan46/Qwen3.8-27B-Ultra-Uncensored-Heretic-Native-MTP-Preserved, которая, в свою очередь, создана на базе Qwen3.8-27B от Qwen. Модель предназначена для генерации текста и может обрабатывать изображения и видео при использовании отдельного vision-проектора mmproj-BF16.gguf; для текстовых задач нужен только основной GGUF-файл. Модель имеет размер 27B параметров и поставляется в вариантах UD-Q4_K_XL, UD-Q5_K_M, UD-Q6_K_XL и UD-Q8_K_XL размером примерно от 16,4 до 29,3 GiB. В сборке сохранены 15 MTP-тензоров, а динамическая per-tensor-квантизация Unsloth с importance matrix обеспечивает меньшую потерю качества по сравнению со статической Q5_K_M при немного меньшем размере файла. Варианты ориентированы на запуск через llama.cpp; в README приведён пример контекста 8192 токена и рекомендованы параметры sampling temperature 1.0, top_p 0.95 и top_k 20. К сильным сторонам относятся сохранённые MTP-компоненты, поддержка мультимодального ввода, несколько вариантов компромисса между качеством и требованиями к памяти, а также заявленная близость динамических квантов к полной точности. Ограничения связаны с высокими требованиями к памяти: Q8-вариант требует более 32 ГБ VRAM или частичной выгрузки, а vision-сценарии требуют дополнительного проектора. Модель описана как uncensored и abliterated, поэтому её поведение и защитные ограничения отличаются от исходной Qwen3.8-27B. Лицензия указана как Apache-2.0.

Qwen3.8-27B-Uncensored-NInfer — это конверсия модели orcarouter/Qwen3.8-27B, основанной на Qwen/Qwen3.8-27B, в самодостаточный формат .ninfer. Артефакт подготовлен для runtime NInfer-4090 и видеокарты RTX 4090 с архитектурой sm_89; конверсия является только изменением формата развертывания и не включает дополнительное обучение или изменение поведения исходной модели. Разработчик и автор конверсии указаны как pyros-vault. Модель предназначена для генерации текста и мультимодальных сценариев с обработкой изображений и видео через режим Vision. В комплект встроены веса, токенизатор, chat template, конфигурации генерации и ресурсы обработки изображений и видео. Размер модели — 27B параметров; используется смешанная точность и групповая квантизация, включая варианты Q4G64, Q5G64, Q6G64 и W8G32. Поддерживается speculative decoding с MTP на один–пять черновых токенов. В проверенных конфигурациях использовалась емкость контекста 4096 токенов, но фактическое потребление памяти также зависит от KV-состояния, рабочих областей и уровня параллелизма. Сильной стороной является оптимизация под RTX 4090 и возможность существенно ускорить декодирование с MTP: в одном интеграционном тесте был зафиксирован результат 155,42 токена в секунду против 46,68 токена в секунду в базовом режиме. Эти измерения относятся к одному сценарию и не являются универсальным бенчмарком. Артефакт требует совместимого native-сборки NInfer-4090 с целевым Qwen3.8; он не предназначен для Transformers, llama.cpp или сторонних форков NInfer. Заявления об «uncensored» и «abliterated» не подтверждены независимо в рамках этой конверсии. Лицензия — Apache-2.0.

Vontra/Qwen3.8-Flash-Next-MLX-8bit-MTP — конверсия модели Qwen/Qwen3.8-Flash-Next, подготовленная Vontra для Apple Silicon в формате MLX safetensors. Модель предназначена для мультимодальных сценариев с обработкой текста и изображений, включая чат и использование через OpenAI-совместимый API при наличии совместимого runtime. Архитектура представляет собой vision-language модель с разреженной mixture-of-experts архитектурой Qwen4Exp и причинным языковым моделированием. Всего языковая часть содержит около 125 млрд параметров, из которых активно используется около 6 млрд; дополнительно заявлены 51 млрд параметров в hashed bigram/trigram embedding и 4 млрд параметров в блоке native MTP. Модель поддерживает контекст до 262 144 токенов. Применяется равномерная 8-битная affine-квантизация с group size 32, тогда как мультимодальные модули и маршрутизаторы MoE сохранены в BF16. Native MTP включает один draft-блок Qwen4Exp для speculative decoding. Сильными сторонами являются уменьшенный по сравнению с BF16-вариантом объём весов, поддержка длинного контекста и потенциальное ускорение генерации с MTP: в приведённом тесте на Apple M3 Studio скорость выросла с 20,07 до 24,90 токена в секунду. Ограничения включают размер весов около 202,951 ГБ, необходимость runtime с явной поддержкой qwen4_exp и native MTP, а также зависимость поддержки изображений от версий MLX-VLM и oMLX. Приведённые показатели относятся только к генерации текста и могут меняться в зависимости от оборудования и условий запуска. Модель распространяется по Qwen Community License 1.0. Языки, точный перечень разрешённых сценариев и дополнительные ограничения лицензии в README не описаны.

DevQuasar/Qwen.Qwen3.8-Flash-Next-GGUF — квантизированная версия модели Qwen/Qwen3.8-Flash-Next, опубликованная DevQuasar. Модель предназначена для задач генерации текста и может использоваться в сценариях, поддерживаемых базовой моделью, однако конкретные области применения, языки и особенности поведения в README не указаны. Из доступных данных известно только, что модель относится к pipeline text-generation и распространяется в формате GGUF. Размер, архитектура, объём контекста, поддерживаемые модальности и параметры квантизации не приведены. К потенциальным преимуществам относятся уменьшенные требования к ресурсам по сравнению с полной версией, но точные компромиссы между скоростью, потреблением памяти и качеством неизвестны. Лицензия и условия использования в README не указаны.

Terminal-complete12k — дообученная модель на базе Qwen/Qwen3-8B, созданная автором репозитория cuong1692001. Это плотная языковая модель с архитектурой Qwen3ForCausalLM и 7,6 млрд параметров; она принимает текст и генерирует текст. Карточка указывает на диалоговый сценарий, а базовая модель поддерживает многоязычную генерацию, рассуждения, следование инструкциям, работу с кодом и вызов инструментов. Максимальная длина контекста составляет 40 960 токенов. Модель можно применять для диалога и генерации текста. README сообщает о дообучении на наборе qwen_data_complete, но не описывает его состав, целевые задачи или результаты оценки, поэтому специфические преимущества Terminal-complete12k подтвердить нельзя. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия указана как other; конкретные условия использования в доступных данных не раскрыты.

Это квантованная версия модели zephyr-7b-beta-Mistral-7B-Instruct-v0.2 в формате GGUF, подготовленная и опубликованная MaziyarPanahi. Модель основана на Mistral-7B и предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. В README также указано обучение исходной модели на наборах HuggingFaceH4/ultrachat_200k и HuggingFaceH4/ultrafeedback_binarized. Модель относится к классу текстовых генеративных моделей с примерно 7 млрд параметров. Доступны варианты квантования с разрядностью от 2 до 8 бит, включая семейства Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между размером файла, требованиями к памяти и качеством. Указан английский язык, однако сведения о поддерживаемых языках, размере контекста и точных характеристиках архитектуры в README отсутствуют. Сильная сторона модели — возможность запуска локально на широком наборе платформ и аппаратных конфигураций с использованием GGUF-совместимых инструментов, включая llama.cpp, text-generation-webui, GPT4All, LM Studio и llama-cpp-python. Ограничения включают потерю качества при более агрессивном квантовании и отсутствие в предоставленных данных результатов бенчмарков, подробностей о безопасности и гарантии качества ответов. Для репозитория указана лицензия Apache-2.0.

AEWM (Agent-Editing World Model) — дообученная модель RUC-AIBOX на базе Qwen3.5-35B-A3B для оценки и редактирования решений агентных систем. Она работает как отдельная мировая модель рядом с агентом, который предлагает рассуждения и действия: AEWM классифицирует предложенные действия как критически важные, исследовательские или шумовые, а для шумовых формирует исправленное продолжение рассуждения и действий. Модель предназначена для агентных сценариев поиска, работы в терминале и разработки программного обеспечения с использованием инструментов. В обучении использовались около 52 млрд токенов траекторий и 120 тыс. примеров для оценки действий и пересмотра состояний. В бенчмарке Action Judge указаны общий macro-F1 70,5% и отдельные результаты для Search, Terminal и SWE. Для работы модель развёртывают через совместимый с OpenAI API сервер с поддержкой рассуждений Qwen3.5 и нативных вызовов инструментов, интегрируя её с EditAct. Лицензия — Apache-2.0. Метаданные указывают текстовую генерацию как основную задачу; README описывает классификацию и редактирование решений как специализированное назначение модели.

Aquila2-7B — базовая языковая модель серии Aquila2, разработанная BAAI. Она предназначена для генерации продолжения текста и может служить основой для дальнейшей адаптации под прикладные задачи. Модель имеет плотную архитектуру AquilaForCausalLM и содержит 7,1 млрд параметров; максимальная длина контекста составляет 8192 токена. В обновлении от 6 июня 2024 года заменили токенизатор на вариант с более высокой степенью сжатия. В карточке приведено сравнение токенизации китайского и английского текста, кода и математических выражений. Модель распространяется в формате safetensors. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией и официальными материалами BAAI.

Baichuan2-13B-Base — базовая плотная языковая модель на 13,3 млрд параметров, разработанная Baichuan Intelligence. Модель обучена на корпусе объёмом 2,6 трлн токенов и предназначена для генерации текста и использования как основа для дальнейшей адаптации; это Base-версия, а не диалоговая Chat-версия. Модель работает с текстом и ориентирована прежде всего на китайский и английский языки. Разработчик сообщает о тестировании серии Baichuan 2 на китайских и англоязычных наборах по общим знаниям, праву, медицине, математике, программированию и многоязычному переводу. Для запуска требуется PyTorch 2.0 или новее. Для исследовательского использования модель доступна на условиях Apache 2.0 и лицензии сообщества Baichuan 2. Коммерческое использование требует предварительного одобрения и коммерческой лицензии Baichuan; применяются ограничения для организаций и сервисов. Base-модель не заявлена как настроенная для безопасного диалога или следования инструкциям.