II.2Создание и понимание программного кода
В разделе собраны самостоятельные задачи, где AI помогает писать, объяснять и связывать программный код с требованиями и существующей системой. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
21 443 моделиMaziyarPanahi/M7Yamshadowexperiment28_T3qExperiment26 — объединённая модель на архитектуре Mistral для генерации текста. Она создана путём слияния automerger/M7Yamshadowexperiment28-7B и automerger/T3qExperiment26-7B. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Её можно использовать для генерации продолжений, ответов и других текстов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.
MeliodasT3qm7_Strangemerges_32T3q — объединённая модель Mistral, созданная слиянием automerger/MeliodasT3qm7-7B и automerger/Strangemerges_32T3q-7B. Она предназначена для генерации текста и диалоговых ответов. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Карточка не описывает специализированные области применения, поддерживаемые языки или конкретные ограничения качества. Оценить сильные стороны и ограничения слияния по представленным сведениям нельзя.
rwitz2/mergemix — языковая модель для генерации текста, созданная слиянием DARE-TIES на основе Mistral-7B-v0.1 и трёх других моделей: rwitz/go-bruins-v2, rwitz/dec10 и AIDC-ai-business/Marcoroni-7B-v3. Архитектура — плотная MistralForCausalLM; размер — 7,1 млрд параметров, контекст — до 32 768 токенов. Веса опубликованы в формате safetensors и имеют тип bfloat16. Модель можно применять для генерации продолжений текста и диалоговых ответов. Карточка не описывает её специализацию, обучение, языковую поддержку или результаты оценки, поэтому качество и пригодность для конкретных сценариев следует проверять отдельно. Лицензия — Apache-2.0.
Mergerix-7b-v0.1 — языковая модель, созданная MiniMoog слиянием моделей Kukedlc/NeuralSirKrishna-7b-DPO и Kukedlc/NeuralAlgo-7B-DPO с помощью LazyMergekit. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров; веса доступны в формате safetensors. Контекст составляет до 32 768 токенов. Модель предназначена для генерации текста и может использоваться в диалоговых и других сценариях, где нужно продолжить или создать текст по запросу. Слияние выполнено методом SLERP с разными весами для слоёв внимания и MLP; конфигурация использует точность float16. Модель распространяется по лицензии Apache-2.0. Карточка не приводит оценок качества или подробных сведений о поддерживаемых языках, поэтому пригодность для конкретных задач и языков следует проверять отдельно.
MFANNv0.23 — диалоговая модель генерации текста, опубликованная netcat420. Это дообученная версия netcat420/MFANN-llama3.1-abliterated-SLERP-v3.1 на архитектуре Llama; в репозитории указаны 7,5 млрд параметров и формат safetensors. Модель предназначена для диалогов и ответов на запросы. В README описаны обычный режим помощника и экспериментальный режим SATANN для обсуждения наступательных и защитных киберопераций. Метаданные указывают контекст до 131 072 токенов, а README рекомендует настройки с длиной контекста 8 192 токена. В карточке приведены результаты оценок Open LLM Leaderboard, включая IFEval и BBH. Лицензия обозначена как llama3.1. README предупреждает, что SATANN — экспериментальный режим; результаты оценки сами по себе не гарантируют качество ответов в конкретных сценариях.
Это некорректированная версия MiniCPM5-2B, созданная 0xSojalSec методом abliteration на основе openbmb/MiniCPM5-2B. Модель предназначена для генерации текста и диалоговых сценариев; карточка также указывает поддержку вызова инструментов и применение на локальных и периферийных устройствах. Архитектура — плотная LlamaForCausalLM, размер — 2,2 млрд параметров, формат весов — Safetensors, длина контекста — до 131 072 токенов. В карточке отмечены английский и китайский языки. Abliteration меняет поведение модели в отношении отказов, но карточка не приводит оценок качества или подробностей метода. Лицензия — Apache 2.0.
MiniMax-M3-UD-Q4_K_XL-layers — пакет GGUF с весами MiniMax-M3-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого запуска модели на локальном кластере. Пакет получен из unsloth/MiniMax-M3-GGUF: исходное распределение GGUF разделено на артефакты по слоям. Вариант UD-Q4_K_XL использует квантизованные веса Q4_K_XL. Модель предназначена для локального приватного инференса, в том числе с распределением слоёв между несколькими машинами, когда весь GGUF не помещается на одном хосте. Mesh LLM предоставляет совместимый с OpenAI интерфейс чата и дополнений через локальный API. В метаданных задача указана как генерация текста, а возможность — чат. Пакет рассчитан на распределённый инференс через Mesh LLM; он не описывает отдельное дообучение MiniMax-M3. Подробности архитектуры исходной модели, языков, контекстного окна и условий лицензии в предоставленных данных не приведены.
EmbeddedLLM/Mistral-7B-Merge-14-v0.5 — экспериментальная объединённая языковая модель, созданная автором репозитория EmbeddedLLM с помощью DARE TIES. Она объединяет предыдущую версию Mistral-7B-Merge-14-v0.3 с тремя другими моделями; среди указанных компонентов — OpenHermes, OpenChat и NeuralMarcoro14. Модель имеет плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и диалогов. В README приведены результаты на Open LLM Leaderboard и указаны шаблоны чата ChatML и Llama-2 chat. Репозиторий содержит веса в формате safetensors. Лицензия CC-BY-NC-4.0 запрещает коммерческое использование без соответствующего разрешения; показатели тестов не гарантируют качество для конкретных задач.
mistral-nemo-kartoffel-PRUNE3 — языковая модель на архитектуре Mistral, созданная nbeerbower с помощью mergekit. Это merge методом Passthrough из слоёв модели nbeerbower/mistral-nemo-kartoffel-12B: сохранены слои 0–22 и 36–40. Модель содержит 8,1 млрд параметров, распространяется в формате Safetensors и предназначена для генерации текста и диалогового взаимодействия. Указанная длина контекста — 1 024 000 токенов. Модель подходит для диалоговых приложений и генерации текста. README не приводит результаты оценки качества или подробные сценарии применения. Условия лицензии в предоставленных данных не описаны.
ehristoforu/Mistral-nemo-test-2layno-v2 — текстовая генеративная модель, созданная автором репозитория с помощью mergekit из unsloth/Mistral-Nemo-Instruct-2407. README описывает объединение методом passthrough: в модель включены слои 0–21 и 22–29 исходной модели; веса сохранены в формате safetensors. Архитектура — плотная MistralForCausalLM, размер — 8,7 млрд параметров. Модель предназначена для диалоговой генерации текста и ответов на запросы. В метаданных указано контекстное окно до 1 024 000 токенов; модель работает с текстом на языках, поддержанных исходной instruct-моделью, но доступные сведения не позволяют определить конкретные языки. Для запуска предусмотрена библиотека Transformers. Лицензия в предоставленных источниках не указана.
Lathif25/Model-LLM-Finetuned — дообученная Lathif25 модель генерации текста на основе unsloth/llama-3.1-8b-unsloth-bnb-4bit. Она построена на плотной архитектуре Llama с классом LlamaForCausalLM и предназначена для диалогового общения и генерации текста; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров, принимает текст и выдаёт текст. Для английского языка в карточке указан тег en. Размер контекста — до 131 072 токенов. При обучении использовались Unsloth и библиотека TRL от Hugging Face. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает специализацию дообучения, состав обучающих данных и результаты оценки качества, поэтому пригодность для конкретных задач следует проверять отдельно.
Edge-Quant/Nanbeige4.1-3B-Q8_0-GGUF — это квантизированная версия языковой модели Nanbeige4.1-3B, разработанной Nanbeige и преобразованной в формат GGUF пользователем или организацией Edge-Quant с помощью llama.cpp и GGUF-my-repo. Модель предназначена для генерации текста и локального запуска через llama.cpp, включая работу в режиме командной строки или сервера. Модель содержит около 3 миллиардов параметров и использует квантизацию Q8_0. Она работает с текстом и заявлена для английского и китайского языков. Формат GGUF упрощает использование в экосистеме llama.cpp и позволяет запускать модель на совместимом локальном оборудовании. В README приведён пример контекста размером 2048 токенов для llama-server, однако точный максимальный контекст модели отдельно не указан. К сильным сторонам относятся компактный размер, высокая по сравнению с более агрессивными вариантами точность Q8_0 и удобство локального инференса. Ограничения связаны с относительно небольшим размером модели, возможными ограничениями качества по сравнению с более крупными моделями и отсутствием в карточке подробных сведений о результатах тестирования, архитектуре и специализированных сценариях. Модель распространяется по лицензии Apache-2.0.
Dumpling-Qwen2.5-32B-v2-GGUF — набор квантизированных GGUF-версий текстовой генеративной модели Dumpling-Qwen2.5-32B-v2, разработанной nbeerbower и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Доступны варианты квантизации от Q8_0 до форматов Q3 и IQ3/IQ4, с размером файлов примерно от 14,81 до 34,82 ГБ. Более крупные варианты обеспечивают более высокое качество, а младшие позволяют снизить требования к оперативной памяти; среди рекомендуемых указаны Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS. Для взаимодействия указан шаблон prompt в формате ChatML с маркерами <|im_start|> и <|im_end|>. Это текстовая модель без заявленной поддержки изображений или других модальностей. В README не указаны контекстное окно, поддерживаемые языки, точная архитектура и результаты бенчмарков, поэтому эти характеристики нельзя оценить по доступным данным. Ограничения зависят от выбранного уровня квантизации и доступных ресурсов; варианты с меньшим размером могут обеспечивать более низкое качество. Лицензия — Apache-2.0.
Это квантованные файлы модели NVIDIA Nemotron 3 Nano Omni 30B A3B Reasoning, опубликованные noctrex в формате GGUF. Для весов MoE используется MXFP4 на основе imatrix от Unsloth; доступны варианты BF16, F16 и Q8 с различным соотношением качества, скорости и занимаемой памяти. README рекомендует запускать модель через llama.cpp и использовать файл mmproj в формате F32 для наилучших результатов. Модель предназначена для диалоговой генерации текста и рассуждений. В карточке указана базовая модель NVIDIA Nemotron 3 Nano Omni 30B A3B Reasoning BF16, а метаданные классифицируют репозиторий как text-generation. Лицензия, поддерживаемые языки и длина контекста в предоставленных данных не описаны.
dealignai выпустил вариант NVIDIA Nemotron 3 Super 120B для генерации текста и диалогов. Модель основана на гибридной архитектуре Nemotron H, объединяющей слои Mamba SSM, Mixture of Experts и attention; в исходной версии заявлены 120 млрд параметров и около 12 млрд активных. Репозиторий содержит JANG_4M-квантование со смешанной точностью: 8-битный attention и 4-битные эксперты. README указывает размер около 63 ГБ, а метаданные — 6,6 млрд параметров; эти значения описывают модель по-разному и расходятся с заявленным в README размером исходной архитектуры. Модель рассчитана на локальный запуск на Apple Silicon через MLX Studio или пакет jang-tools, поддерживает диалоговый режим и интерфейс вызова инструментов. Контекстное окно — 262 144 токена. Вариант CRACK прошёл заявленное авторами удаление защитных отказов на уровне весов; README приводит собственные результаты HarmBench и MMLU, которые не являются независимой оценкой. Поддерживаемый формат JANG ограничивает совместимость указанными MLX-инструментами. Лицензия обозначена как other, конкретные условия в предоставленных данных не раскрыты.
neo_7b_instruct_v0.1-IMat-GGUF — квантизированная GGUF-версия инструкционной языковой модели m-a-p/neo_7b_instruct_v0.1. Модель подготовлена legraphista с использованием llama.cpp b3051 и предназначена для генерации текста и диалоговых сценариев в совместимых средах, включая llama.cpp. В README не указаны точная архитектура, поддерживаемые языки и размер контекстного окна. Доступны варианты от BF16 и F16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K; размеры файлов составляют примерно от 2,92 до 15,59 ГБ. Для ряда вариантов применена IMatrix-квантизация, призванная улучшить сохранение качества при уменьшении размера. Основные преимущества — широкий выбор уровней квантизации и возможность локального запуска при соответствующих ресурсах; ограничения включают потенциальную потерю качества у более компактных вариантов и отсутствие сведений о результатах тестирования, языках и контекстном окне. Распространяется по лицензии Apache-2.0.
Neuralmistral — слитая модель генерации текста на архитектуре Mistral, созданная Kiruthikarthi с помощью LazyMergekit. Она объединяет OpenPipe/mistral-ft-optimized-1218 и mlabonne/NeuralHermes-2.5-Mistral-7B методом slerp; конфигурация смешивает веса слоёв self-attention и MLP. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста по текстовому запросу, например для диалоговых ответов и создания текста. Карточка не сообщает отдельных результатов оценки, целевых языков или специальных прикладных областей. Лицензия в предоставленных данных не указана.
NeuralsirkrishnaShadow_Experiment27Yam — объединённая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием automerger/NeuralsirkrishnaShadow-7B и automerger/Experiment27Yam-7B и предназначена для генерации текста по текстовому запросу. Репозиторий содержит веса в формате safetensors, модель поддерживает контекст до 32 768 токенов. Модель подходит для генерации и продолжения текста в приложениях на базе Transformers. Для неё указана лицензия Apache-2.0. README и метаданные не уточняют специализацию модели, языки, качество на отдельных задачах или результаты оценки, поэтому их нельзя определить по доступным сведениям.
NeuralsirkrishnaT3qm7x-7B — автоматически объединённая Maxime Labonne языковая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием Kukedlc/NeuralSirKrishna-7b и nlpguy/T3QM7X методом SLERP; веса представлены в формате safetensors и типе bfloat16. Модель предназначена для генерации текста и диалогов. Она принимает текст и выдаёт текст, поддерживая контекст до 32 768 токенов. В метаданных не указаны специальные предметные области или конкретные языки. Модель распространяется по лицензии Apache-2.0. Карточка содержит краткий пример загрузки через Transformers, но не приводит оценок качества или сведений о специальных возможностях.
OpenBuddy/openbuddy-mistral-7b-v13-base — модель серии Base от OpenBuddy на архитектуре Mistral, предназначенная для дальнейшей тонкой настройки и создания специализированных моделей. Это плотная авторегрессионная языковая модель с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель обучена примерно на половине разговорных данных OpenBuddy и обладает диалоговыми возможностями, но не прошла полноценную настройку для обычных бесед. Её можно использовать как основу для адаптации под конкретную предметную область и последующего развертывания. Метаданные указывают поддержку китайского, английского, французского, немецкого, японского, корейского, итальянского и русского языков. Модель распространяется в формате PyTorch по лицензии Apache 2.0. Она может генерировать ошибочные, вредные или оскорбительные ответы; разработчики не рекомендуют применять её в критически важных сценариях, включая медицину, управление потенциально опасными системами и принятие важных финансовых или юридических решений.
openNemo-9B-Claude-Opus-4.6-distill — текстовая диалоговая модель Empero AI, дообученная на базе empero-ai/openNemo-9B. Это плотная гибридная архитектура Nemotron-H с Mamba2, Transformer и GQA; в README указано около 9 млрд параметров и 52 слоя, тогда как метаданные Hugging Face приводят 15,1 млрд параметров. Контекстное окно составляет 131 072 токена. Модель обучена методом SFT и DPO на наборах с цепочками рассуждений, составленных сообществом на основе ответов Claude Opus 4.6 и других моделей. Она предназначена для диалогов и генерации ответов с пошаговым рассуждением, а также поддерживает режим без рассуждений. В карточке указан английский язык; форматы репозитория — Safetensors. Модель подходит для экспериментального применения в чат-ботах и задачах, где нужны подробные рассуждения. Результаты зависят от качества и характера обучающих данных, а сходство с рассуждениями моделей-источников не гарантирует их точность. Лицензия в метаданных обозначена как other; конкретные условия использования следует проверять в карточке модели.
Это GGUF-квантизированная версия языковой модели pokee_research_7b, разработанной PokeeAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. В доступных данных указано, что модель содержит около 7 миллиардов параметров и распространяется в форматах с различными уровнями квантизации — от BF16 до Q2_K_L. Размер файлов составляет примерно от 3,55 до 15,24 ГБ. Более точные сведения об архитектуре, поддерживаемых языках, модальностях и размере контекста в карточке отсутствуют. Квантизация позволяет снизить требования к памяти, при этом варианты Q5 и Q6 заявлены как обеспечивающие высокое качество, а Q4_K_M — как оптимальный вариант по размеру для большинства сценариев. Модель подходит для локального вывода на совместимом оборудовании, однако качество зависит от выбранного варианта квантизации: компактные форматы экономят память, но могут сильнее снижать точность. Шаблон чата в карточке не указан, поэтому приведённый формат промпта может быть неточным; рекомендуется проверить оригинальную карточку базовой модели. Лицензия в предоставленных данных не указана.
prototype-128x01 — объединённая языковая модель, созданная автором репозитория с помощью mergekit методом Multi-SLERP. В объединение вошли /workspace/mistral-text-only и /workspace/modeler/Behemoth с равными весами; базой и источником токенизатора указана /workspace/mistral-text-only. Модель построена на архитектуре MistralForCausalLM, содержит 123,4 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие. Заявленная длина контекста — 262 144 токена; репозиторий содержит веса safetensors и предназначен для Transformers. Карточка не указывает лицензию и не описывает языки или специализированные сценарии применения. Возможности и качество ответов за пределами генерации текста отдельно не подтверждены.
hancheolp/q38_ternary_test — производный чекпойнт семейства Qwen3.5 объёмом 27 млрд параметров, подготовленный как тернарная квантизованная модель для запуска через MLX на устройствах Apple. Веса упакованы в контейнер MLX affine 2-bit с группами по 128 значений и уровнями {-1, 0, +1}; часть параметров, включая эмбеддинги, выходную голову и некоторые компоненты линейного внимания, оставлена в полной точности. Архитектура сочетает 48 слоёв gated-delta линейного внимания и 16 слоёв softmax-внимания. Модель предназначена для генерации текста и диалогового использования. В карточке заявлена distillation с учетом квантизации; для полной загрузки требуется сборка mlx-lm или mlx-vlm с реализацией архитектуры. Лицензия — Apache-2.0. Карточка описывает только текстовую генерацию, хотя README упоминает квантизацию vision tower.
Карточка модели vilm/Quyen-SE-v0.1 на Hugging Face совпадает с карточкой vilm/Quyen-Pro-v0.1, поэтому описание составлено по ней. Quyen-Pro-v0.1 — чат-языковая модель серии Quyen, разработанной vilm на основе семейства Qwen. Версия Pro обучена с применением supervised fine-tuning (SFT) и direct preference optimization (DPO); в карточке указаны обучающие наборы OpenHermes-2.5, Capybara, Orca DPO и частные данные. Модель использует архитектуру Qwen2ForCausalLM с плотными весами, содержит 13,4 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов, ответов на вопросы и генерации текста по запросу; для форматирования диалога используется ChatML. Карточка не приводит результатов бенчмарков, поэтому качество для конкретных задач по ней оценить нельзя. Модель опубликована в формате safetensors для Transformers. Лицензия обозначена как other, конкретные условия использования в предоставленных данных не раскрыты.
dsadd5018/Qwen3-0.6B-JSON-SFT-GRPO — дообученная разработчиком dsadd5018 языковая модель семейства Qwen3 на базе NotoriousH2/Qwen3-0.6B-JSON-SFT. Модель с архитектурой Qwen3ForCausalLM содержит 507,9 млн параметров и предназначена для генерации текста в диалоговом формате; название и базовая модель указывают на специализацию на создании JSON. Модель принимает текст и генерирует текст. В метаданных указан контекст до 40 960 токенов и английский язык. Для обучения использовались Unsloth и библиотека TRL от Hugging Face. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0. Модель может подойти для генерации структурированных ответов в JSON и диалоговых сценариев. Карточка не приводит результатов оценки качества или подробностей о данных и настройке GRPO, поэтому фактическую точность JSON и преимущества дообучения следует проверять на целевых задачах.
Это набор смешанных по точности квантованных GGUF-версий Qwen3-4B-Instruct-2507 от автора независимого проекта. Веса используют обученные профили квантования для отдельных групп тензоров: семь уровней точности от 3,0 до 4,5 бит на вес, с IQ-типами на низких уровнях и KQ-типами на более высоких. Размер файлов составляет примерно 1,72–2,47 ГБ; автор рекомендует вариант 3,4 bpw как баланс качества и размера, 3,0 bpw для максимального сжатия и 4,0 bpw для наибольшего качества в представленном диапазоне. Модель предназначена для диалогов и генерации текста по инструкциям. Запускается как GGUF через llama.cpp-совместимые инструменты, включая Ollama. В сравнительных тестах автора на NVIDIA GB10 ATOM варианты показали более низкую perplexity, чем перечисленные квантования ByteShape и Unsloth; результаты получены на ограниченном наборе данных и не гарантируют преимущество в других сценариях. Лицензия — Apache-2.0.
Montalte/qwen3_4b_nh025_thinkcode_a_planb_trainable — текстовая модель генерации на архитектуре Qwen3, опубликованная Montalte. В карточке она описана как объединённый чекпойнт Plan B Localize-and-Stitch, загруженный после локальных оценочных запусков; метаданные указывают на дообучение Qwen/Qwen3-4B-Base. Модель предназначена для генерации текста и диалогового взаимодействия. Она содержит 3,7 млрд параметров, использует плотную архитектуру Qwen3 и поддерживает контекст до 32 768 токенов. В репозитории указаны веса в формате safetensors и библиотека Transformers. Лицензия — Apache-2.0. Карточка не приводит сведений о целевых языках и специализированных сценариях или ограничениях качества.
Qwen3.8-27B-ANE — пакет квантованной INT4-модели Qwen3.8-27B для локального вывода на компьютерах Apple Silicon. Разработчик — True2456; модель основана на Qwen/Qwen3.8-27B и распространяется по лицензии Apache-2.0. Это плотная текстовая генеративная модель для диалогов и работы с инструментами, запущенная через библиотеку qwen-ane на Apple Neural Engine без использования Metal GPU. Архитектура включает 64 слоя: 48 слоёв Gated DeltaNet и 16 слоёв полновнимательной обработки. Пакет занимает около 16 ГБ: INT4-веса находятся в quant_cache, а отдельные тензоры хранятся в F16 и BF16. Для запуска нужны Apple Silicon, macOS и qwen-ane; карточка сообщает об измерениях на M5 Max с macOS 27. Несмотря на компактный формат и низкое энергопотребление, генерация сравнительно медленная: на M5 Max указано около 3,4–4,3 токена в секунду для коротких запросов. Это специализированный runtime-пакет, а не полный дамп весов для загрузки через Transformers.
Qwen3.8-27B-MTP-TQ3_4S — сборка Qwen/Qwen3.8-27B в формате GGUF с квантизацией TurboQuant TQ3_4S и встроенной черновой головой MTP для speculative decoding. Разработчик сборки — jajmangold; в README также отмечен вклад Y Tan в путь квантизации и поддержку формата в форке llama.cpp. Модель предназначена для диалоговой генерации текста. Архитектура указана как qwen35: 64 слоя, гибрид Gated DeltaNet и Gated Attention, один блок MTP; нативный контекст — 262 144 токена. Файл занимает 13,68 ГБ. Для запуска требуется совместимый форк TurboQuant runtime: обычная сборка llama.cpp не поддерживает тип тензоров TQ3_4S. Метаданные указывают английский язык и лицензию Apache-2.0.