II.1Анализ требований и архитектура ПО

Это диалоговая языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная дообучением Mistral-7B-Instruct-v0.2 методом SFT. Модель предназначена для генерации текста и ответов в диалоговом формате; базовая модель поддерживает контекст до 32 768 токенов. Карточка сообщает значение loss 0,2876 на оценочном наборе, но не описывает сам набор данных, методику оценки или специализированные сценарии применения. Модель опубликована в формате Safetensors под лицензией Apache-2.0. Возможности и качество за пределами общей генерации текста по доступным сведениям оценить нельзя.

benjamintli/modernbert-code-v2 — модель Sentence Transformers, дообученная разработчиком на наборе code-retrieval-combined-v2 на базе answerdotai/ModernBERT-base. Она кодирует запросы и фрагменты текста в плотные векторы размерности 768 и предназначена прежде всего для семантического поиска по коду и сопоставления запросов с подходящими описаниями или фрагментами кода. Также её можно применять для оценки семантического сходства, поиска перефразировок, кластеризации и классификации текста. Модель использует encoder-архитектуру ModernBERT с усреднением токенных представлений; метаданные указывают контекст до 8192 токенов. В README заявлено ограничение в 1024 токена для Sentence Transformers, поэтому фактическую длину входа следует сверять с используемой конфигурацией. Обучение проводилось на 283 621 парах запросов и положительных примеров; для оценки сходства указана косинусная мера. Основной язык и примеры набора данных — английский, поэтому качество на других языках не установлено. Для применения нужны текстовые запросы и документы или фрагменты кода; на выходе модель выдаёт векторы, а не готовые ответы или сгенерированный код. Лицензия в предоставленных данных не указана.

SilverFan/Monarch-Kunoichi-7B — экспериментальная слитая диалоговая модель на архитектуре Mistral, созданная с помощью LazyMergekit на основе mlabonne/AlphaMonarch-7B и crestf411/daybreak-kunoichi-2dpo-7b. Слияние выполнено методом SLERP; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста. В карточке автор называет её тестируемым экспериментом и сообщает, что сборка IMatrix GGUF планируется; доступный репозиторий содержит веса в формате safetensors. Языки применения и специальные предметные области в источниках не обозначены. Лицензия в предоставленных данных не указана.

MSM-MS-Cydrion-22B-GGUF — это GGUF-квантизованная версия модели Steelskull/MSM-MS-Cydrion-22B, подготовленная пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая LM Studio. Указанный формат prompt: <s> [INST] {prompt} [/INST]. Модель содержит 22 млрд параметров. Доступны варианты от исходных весов F16 размером 44,50 ГБ до квантизаций Q2, Q3, Q4, Q5, Q6 и Q8 с размером файлов примерно от 8,27 до 23,64 ГБ. В README не указаны архитектура базовой модели, поддерживаемые языки, контекстное окно и мультимодальные возможности, поэтому модель следует рассматривать как текстовую без подтверждённой поддержки других модальностей. Сильной стороной являются многочисленные варианты квантизации, позволяющие выбирать баланс между качеством, размером и требованиями к памяти; варианты Q5 и Q6 заявлены как высококачественные, а Q4 — как подходящие для большинства случаев. Более компактные варианты снижают требования к ресурсам, но могут заметно ухудшать качество. Некоторые сборки оптимизированы для ARM и требуют соответствующих аппаратных инструкций. Модель распространяется по лицензии Apache-2.0.

Neural-phi2 — языковая модель семейства Phi, разработанная автором репозитория на основе Phi-2 от Microsoft и дообученная методом Direct Preference Optimization на диалоговых парах из набора argilla/distilabel-intel-orca-dpo-pairs. Карточка описывает модель как примерно 2-миллиардную, тогда как метаданные Hugging Face указывают 3,5 млрд параметров; архитектура — плотная авторегрессионная PhiForCausalLM, формат весов — safetensors, библиотека — Transformers, длина контекста — 2048 токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, суммаризацию и работу чат-ботов и виртуальных помощников. Карточка сообщает об использовании 4-битной загрузки и LoRA в процессе обучения, но не устанавливает однозначно формат итоговой модели. Лицензия — Apache-2.0. Модель ориентирована на английский язык; её качество подробно не оценивалось, а ответы могут содержать фактические ошибки и смещения.

NeuraNET Zero 18B Preview — разработанная Ruben Roy разговорная языковая модель на архитектуре RiXIS 1 для диалогов и генерации текста общего назначения. В репозитории опубликованы веса BF16, токенизатор и шаблон чата; модель поддерживает стандартную генерацию, KV-кэш, eager attention и PyTorch SDPA. Используется grouped-query attention с 32 головами запросов и 8 головами ключей и значений. Размер модели — 17,6 млрд параметров, контекст — до 32 768 токенов. Карточка указывает английский язык. Модель предназначена для исследовательской оценки и разговорных сценариев на английском языке. Проверенные результаты бенчмарков не опубликованы. Лицензия CC-BY-NC-ND-4.0 ограничивает коммерческое использование и распространение производных версий; выпуск обозначен как preview.

Neuronovo/neuronovo-9B-v0.2 — языковая модель Jan Kocoń на архитектуре Mistral, дообученная на базе CultriX/MistralTrix-v1 с применением LoRA и DPO на наборе Intel/orca_dpo_pairs. Она предназначена для генерации текста и диалоговых ответов, включая продолжение беседы и ответы на запросы. Модель содержит 8,9 млрд параметров, использует Transformers и формат safetensors; нативный контекст составляет 32 768 токенов. В описании обучения также указаны пределы в 1 024 токена для промпта и 1 536 токенов для генерации. Карточка заявляет высокое место в категории моделей примерно на 7 млрд параметров, хотя фактический размер ближе к 9 млрд; это заявление не сопровождается здесь подробностями оценки. Модель рассчитана на английский язык. Репозиторий распространяется по лицензии Apache-2.0.

MergedQwen2-0.5B0.1 — языковая модель, созданная автором карточки путём слияния двух предварительно обученных моделей с помощью NuSLERP и инструмента mergekit. В слиянии использованы Qwen2-0.5B с весом 0,9 и debias_Qwen2-0.5B с весом 0,1; токенизатор взят из Qwen2-0.5B. Модель на архитектуре Qwen2 с плотной causal language model и примерно 493,7 млн параметров предназначена для генерации текста и диалоговых сценариев. Заявленная длина контекста — 131 072 токена. Доступна в формате safetensors и рассчитана на использование через Transformers. Карточка не приводит оценок качества, тестов или подробностей о языках и лицензии, поэтому их нельзя надёжно установить по предоставленным данным.

OctoThinker/OctoThinker-8B-Hybrid-Base — базовая плотная языковая модель для генерации текста, разработанная на основе Meta Llama 3.2 3B и дообученная на наборах MegaMath и MegaMath-Web-Pro-Max. Семейство OctoThinker создавалось с учётом результатов исследований промежуточного обучения и предназначено для дальнейшего обучения с подкреплением; приведённая оценка базовых моделей использует few-shot prompting. Модель имеет архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. В карточке указан английский язык, формат весов — safetensors, лицензия — llama3.2. Она подходит как основа для экспериментов и систем генерации текста, особенно при разработке моделей, обучаемых с подкреплением. README содержит результаты оценки, но не приводит их численные значения; специальных ограничений применения карточка не описывает.

Olethros-8B — чат-модель на архитектуре Llama, созданная lodrick-the-lafted путём дообучения L3-8b-Instruct примерно на 6000 генерациях Opus. Она предназначена для диалогов и генерации текста; среди датасетов указаны OpusStories, Sao10K_Claude-3-Opus-Instruct-3.3K, Samantha-Opus и Worldsim-Opus. Модель имеет 7,5 млрд параметров и контекст длиной 8192 токена. В репозитории представлены веса safetensors, а также доступны варианты квантизации GGUF, Exl2 и AWQ. Лицензия — Llama 3 Community License (llama3).

Карточка модели localized-ft/OLMo-3-7B-bad-medical-advice-last-third-sft-seed3-epoch3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-bad-medical-advice-sip2-f25 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

DoeyLLM/OneLLM-Doey-ChatQA-V1-Llama-3.2-3B — диалоговая языковая модель, разработанная DoeyLLM и дообученная методом LoRA на NVIDIA ChatQA-Training-Data на базе Meta Llama 3.2 3B. Она предназначена для ответов на вопросы, диалогов и выполнения инструкций; её можно использовать для чат-ботов и диалоговых агентов. Репозиторий содержит веса Safetensors для библиотеки Transformers, а размер модели составляет 3,2 млрд параметров. Метаданные указывают контекст до 131 072 токенов, тогда как README заявляет максимальную длину последовательности 1 024 токена. Модель ориентирована на английский язык. Лицензия репозитория — Apache-2.0. README описывает применение на iOS через приложение OneLLM и на ПК с Transformers, однако качество ответов и фактические пределы контекста в карточке не оценены.

mradermacher/OpenLumen-2-Pulsar-i1-GGUF — GGUF-квантизированная версия языковой модели OpenLumen-2-Pulsar, разработанной Aeonthic и опубликованной в квантизированном виде пользователем mradermacher. Модель предназначена для генерации текста и диалоговых сценариев, включая локальное использование в совместимых средах для запуска GGUF-файлов. В README она описана как conversational text-generation модель с архитектурой MoE и связью с семейством Gemma 4; заявленный язык — английский. Набор включает imatrix-квантизации i1 с различными уровнями точности от IQ1 и Q2 до Q6. Размер файлов составляет примерно от 8,4 до 22,7 ГБ; варианты различаются требованиями к памяти, скоростью и качеством, при этом Q4_K_M отмечен как рекомендуемый, а Q4_K_S — как оптимальный по соотношению размера, скорости и качества. Ограничения включают возможное снижение качества у низкоразрядных вариантов, а также отсутствие в README данных о числе параметров, длине контекста, точном устройстве архитектуры и поддержке мультимодальности. Для модели указана лицензия Apache-2.0; ссылка на условия лицензии ведёт к лицензии Gemma.

OpenSci Ref v0.02 — диалоговая языковая модель с плотной архитектурой OpensciForCausalLM и 1,7 млрд параметров, разработанная ali-elganzory. Это дообученная версия модели ali-elganzory/open-sci-ref-v0.02-1.7b-mixturevitae-noinstruct-300B-4096-longsft_16k-SFT-Tulu3-decontaminated: README указывает на обучение с TRL, а метаданные — на DPO. Модель предназначена для генерации текста и диалоговых ответов; пример запуска использует Transformers pipeline text-generation и передаёт сообщения в формате user/assistant. Контекстное окно составляет 16 384 токена, веса доступны в формате Safetensors. Языки и специализированные области применения в предоставленных данных не обозначены. Лицензия в предоставленных источниках не указана.

Это дообученная модель OpenSci для генерации текста в формате диалога. Она создана на основе ali-elganzory/open-sci-ref-v0.02-1.7b-nemotron-hq-300B-4096-longsft_16k и обучена с помощью TRL; архитектура — плотная причинная языковая модель OpensciForCausalLM с 1,7 млрд параметров. Модель принимает текстовые сообщения и генерирует текст, поддерживая контекст длиной до 16 384 токенов. Модель предназначена для диалоговой генерации и ответов на текстовые запросы. В README приведён пример генерации ответа на вопрос с помощью Transformers. Репозиторий распространяется в формате safetensors. Лицензия в предоставленных данных не указана.

facebook/opt-13b — большая языковая модель Meta AI из семейства OPT, впервые выпущенного в 2022 году. Это плотный авторегрессионный трансформер с декодером, обученный предсказывать следующий токен на текстовых данных. В метаданных указано 17 млрд параметров и контекст до 2048 токенов; доступны версии в форматах PyTorch, TensorFlow и Flax. Модель предназначена для генерации текста, экспериментов с подсказками и оценки языковых моделей, а также может дообучаться для прикладных задач. Основной язык обучения — английский; в корпусе присутствовало небольшое количество неанглоязычных данных. Модель распространяется по лицензии с обозначением «other» на Hugging Face; точные условия следует проверять в карточке лицензии репозитория. Генерации могут содержать предвзятость и токсичное содержание, а также быть недостоверными или недостаточно разнообразными. Для запуска крупной версии README рекомендует использовать половинную точность и метод generate вместо стандартного text-generation pipeline, чтобы эффективнее расходовать память GPU.

Ouroboros-1MContext-Gemma-270m — экспериментальная текстовая модель, созданная инженером Loay Abd Alsalam на основе Google Gemma 3 270M IT. Автор описывает её как proof of concept: контекстное окно расширено до 1 048 576 токенов масштабированием RoPE с коэффициентом 128, а модель дополнительно обучена на синтетических цепочках логических рассуждений методом self-instruction. Это плотная причинная языковая модель семейства Gemma 3 с 257 млн параметров, предназначенная для генерации текста и диалогов с длинным контекстом. Модель рассчитана на обработку объёмных документов и длинных последовательностей, включая сценарии на ограниченных вычислительных ресурсах. Карточка заявляет поддержку арабского и английского языков и лицензию Gemma. Расширение контекста представлено как инженерный эксперимент; в README упомянуты результаты бенчмарков, но их содержание здесь не приведено, поэтому качество на длинном контексте нельзя оценить по имеющимся сведениям.

Yhyu13/phi-2-sft-dpo-gpt4_en-ep1 — объединённая модель на базе Phi-2, созданная путём дообучения с supervised fine-tuning и DPO; автор описывает её как улучшение для диалоговых ответов. По README, модель связана с экспериментами на наборе AlpacaEval и, по оценке автора, выдаёт более длинные ответы, чем предыдущая версия SFT. Она предназначена для генерации текста и ответов на пользовательские запросы. Архитектура — плотная причинная языковая модель PhiForCausalLM; размер в метаданных не приведён, родительская Phi-2 использует контекст до 2048 токенов. Репозиторий содержит веса Safetensors. Указана лицензия other; конкретные условия следует сверять с карточкой модели и лицензией базовой модели.

phigment6-slerp — языковая модель семейства Phi, созданная liminerity с помощью слияния весов в Mergekit. В карточке описана архитектура Phi-2; модель содержит около 3,5 млрд параметров и принимает текст, генерируя текст. Указанное в README слияние SLERP объединяет liminerity/phive и mobiuslabsgmbh/aanaphi2-v0.1; конфигурация использует диапазон слоёв 0–32 и тип float16. Модель предназначена для генерации текста и общих языковых запросов, включая ответы на вопросы и рассуждения. Контекстное окно — 2048 токенов. В README приведены результаты отдельных тестов Open LLM Leaderboard, но карточка не даёт достаточных сведений, чтобы подтвердить широкие заявления о превосходстве и устойчивости. Лицензия — Apache-2.0.

PowerInfer_SmallThinker-4BA0.6B-Instruct-GGUF — набор GGUF-квантизаций инструкционной модели SmallThinker-4BA0.6B-Instruct, разработанной PowerInfer и преобразованной в различные форматы bartowski с использованием llama.cpp. Модель предназначена для генерации текста и выполнения инструкций в локальных приложениях, совместимых с llama.cpp, включая LM Studio. Доступны варианты от полного BF16 до квантизаций Q8, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством ответов, размером файла и требованиями к оперативной памяти. Размер файлов варьируется примерно от 2,05 до 8,55 ГБ. Для общения используется шаблон сообщений ChatML с ролями system, user и assistant. Мультимодальность, поддерживаемые языки, максимальная длина контекста и точная архитектура в README не указаны. Основные преимущества модели — возможность локального запуска, широкий выбор уровней квантизации и совместимость с llama.cpp-подобными проектами. Более сильное сжатие экономит память, но может снижать качество генерации. Лицензия модели или квантизированных файлов в представленном README не указана.

QuestA-Distilled-DeepSeek-7b-Selective-Top10pct — экспериментальный разговорный языковой чекпойнт из экспериментов BiDirect-OPD, опубликованный из `questa_deepseek_r1_7b_JSD_rel_90_100`. Основная ветка содержит состояние обучения global_step_300; также доступны более ранние чекпойнты от global_step_20 до global_step_280. Модель имеет плотную архитектуру Qwen2ForCausalLM с 7,1 млрд параметров и контекстом до 131 072 токенов. Она принимает текст и генерирует текст; метаданные указывают поддержку диалогового режима. Карточка не описывает конкретные бенчмарки или гарантируемые качества ответов. Чекпойнт представлен в формате safetensors и основан на эксперименте с дистилляцией DeepSeek; точный идентификатор базовой модели в карточке и метаданных не приведён. Условия лицензии не указаны в доступных сведениях.

Модель florincia/Qwen2.5-0.5B-Instruct-Gensyn-Swarm-frisky_elusive_ostrich — дообученная участником Gensyn Swarm версия компактной плотной языковой модели Qwen2.5-0.5B-Instruct. Она построена на архитектуре Qwen2 и содержит около 494 млн параметров; модель обучалась с помощью TRL и предназначена для диалогов и генерации текста по запросам пользователя. Контекстное окно составляет 32 768 токенов. Модель принимает текст и выдаёт текст. Её можно применять для ответов на вопросы, выполнения инструкций и свободной генерации текста в диалоговом формате. Карточка не описывает специализированную область применения или подтверждённые языковые приоритеты. Сведения о лицензии в предоставленных данных отсутствуют.

Qwen2.5-72b-RP-Ink-GGUF — это набор квантованных версий языковой модели Qwen2.5-72b-RP-Ink, подготовленный allura-org и опубликованный quantized_by bartowski. Модель предназначена для генерации текста, диалогов, чат-сценариев и roleplay. Формат GGUF рассчитан на локальный запуск с использованием llama.cpp; в README также указана совместимость с LM Studio. Модель основана на архитектуре Qwen2.5 и имеет 72 миллиарда параметров. Доступны варианты квантования от Q8_0 до IQ1_M, с размером файлов примерно от 25 до 77 ГБ. Более высокие уровни квантования обеспечивают лучшее качество при повышенных требованиях к памяти, а низкие позволяют экономить ресурсы, но заметнее снижают качество. В качестве рекомендуемых указаны, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Конкретные сведения о поддерживаемых языках, размере контекста и мультимодальности в README не приведены; по назначению это текстовая, а не мультимодальная модель. Для работы следует использовать шаблон prompt format с ролями system, user и assistant, совместимый с форматом Qwen. Ограничениями являются значительные требования к оперативной памяти и зависимость качества от выбранного варианта квантования; некоторые варианты помечены как низкокачественные или устаревшие. Лицензия указана как qwen и other, однако точные условия и текст лицензии в README не раскрыты.

Это дообученная методом QLoRA плотная языковая модель семейства Qwen3 с 3,7 млрд параметров, созданная Khazar AI на основе unsloth/Qwen3-4B-Thinking-2507. Модель обучали на примерах рассуждений, подготовленных с помощью учителя Qwen3.6-plus, чтобы получать более краткие и структурированные решения сложных задач. Модель предназначена для диалоговой генерации текста и сценариев, где нужны разбор задачи, план алгоритма, оценка сложности и псевдокод. В карточке приведено сравнение на бенчмарке Multi-Domain-Reasoning-Benchmark из 100 вопросов: результат модели — 75,64 против 73,73 у базовой Qwen3-4B-Thinking-2507. Поддерживается контекст до 262 144 токенов; карточка указывает английский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0. Результат бенчмарка основан на небольшой выборке и не гарантирует превосходства на других задачах. Качество ответов и точность рассуждений следует проверять в целевом сценарии.

Это квантованная в формате GGUF версия модели Qwen3.5-2B-Opus-Distilled-Heretic-Thinking-Multistage-SFT-v1.0, разработанной prithivMLmods и дополнительно подготовленной (quantized by) mradermacher. Модель предназначена для локального запуска и текстовой генерации, включая задачи рассуждения, логического анализа, решения задач, математики и многоцелевого применения. Согласно карточке, модель поддерживает английский язык, имеет контекст до 32 тысяч токенов и относится к vision-моделям; для работы с визуальными входами могут потребоваться отдельные файлы mmproj из статического репозитория. Доступны многочисленные варианты квантования GGUF с объёмом примерно от 0,8 до 1,3 ГБ, включая IQ- и Q-форматы. Более компактные варианты экономят память, но могут заметно уступать по качеству; в README также отмечено, что некоторые варианты имеют низкое качество. Модель удобна для запуска на локальном оборудовании и совместима с экосистемой Transformers, а также сценариями text-generation-inference и vLLM. При этом в предоставленных данных нет сведений о точной архитектуре, результатах бенчмарков, производительности, поддерживаемых языках помимо английского и фактическом качестве визуального понимания. Распространяется по лицензии Apache-2.0.

StationPC/Qwen3.5-4B-RKNN3-RK1828 — компактная разговорная модель семейства Qwen3.5, опубликованная пользователем StationPC на Hugging Face. Она предназначена для генерации текста и ведения диалога, включая ответы на вопросы и работу через совместимые локальные инструменты запуска. Модель распространяется в формате GGUF и ориентирована на использование в локальной инфраструктуре; идентификатор указывает на адаптацию для RKNN3 и аппаратной платформы RK1828. В карточке Hugging Face модель классифицирована как text-generation и conversational, а её архитектура обозначена как qwen35. Языки поддержки, точная лицензия и дополнительные ограничения в доступных источниках надёжно не установлены.

Qwen3.5-9B-abliterated-MLX-4bit — 4-битная квантованная версия модели Qwen3.5-9B, подготовленная разработчиком lukey03 на базе модели Qwen/Qwen3.5-9B. Модель предназначена для генерации текста и локального запуска на устройствах Apple с чипами M1, M2, M3 или M4 через фреймворк MLX, включая использование из Python и командной строки с помощью mlx-lm. Модель содержит около 9 млрд параметров, занимает примерно 4,7 ГБ и работает с текстом; в карточке указан английский язык. Для ускорения вывода на Apple Silicon используется единая память без необходимости копирования данных между CPU и GPU. По заявлению автора, из модели удалено поведение отказа от ответа: применены три итеративных прохода orthogonal projection и последующее LoRA-дообучение на категориях устойчивых отказов. В тесте автора модель ответила на 18 из 18 проверочных запросов, однако подробные характеристики контекста и независимые результаты оценки не указаны. Сильная сторона модели — компактный локальный запуск и высокая скорость на совместимых компьютерах Mac, а также отсутствие встроенных отказов, что может быть полезно для исследовательских и экспериментальных сценариев. Ограничение состоит в том, что удаление отказов снижает встроенные защитные механизмы, поэтому пользователь самостоятельно отвечает за безопасное и законное применение. Модель распространяется по лицензии Apache-2.0; автор также указывает, что она предназначена для исследовательских и образовательных целей.

Alittlehammmer/Qwen3.6-27B-DFlash-GGUF-llama.cpp — это набор GGUF-квантизаций модели z-lab/Qwen3.6-27B-DFlash, подготовленный пользователем Alittlehammmer для запуска через llama.cpp. Модель предназначена для генерации текста и сценариев agentic coding, а также для использования в качестве draft-модели в speculative decoding вместе с совместимыми квантованными версиями Qwen3.6-27B. Доступны варианты Q4_K_M, Q5_K, Q6_K, Q8_0 и BF16 с разрядностью от 4 до 16 бит и размером примерно от 1,03 до 3,47 ГБ. Версия Q8_0 описана как почти без потерь и рекомендуемая, а BF16 является эталонным файлом полной точности. Формат GGUF и интеграция с llama.cpp упрощают локальный запуск, однако README не содержит сведений о точной архитектуре, поддерживаемых языках, размере контекста, модальностях, результатах тестирования и самостоятельных возможностях базовой модели. Для использования требуется llama.cpp и совместимые квантованные модели Qwen3.6; в примере применяется режим draft-dflash с параметрами llama-server. Автор отмечает, что настройка sm = tensor может приводить к сбою при запуске, тогда как sm = layer используется в рабочем примере. Лицензия указана как Apache-2.0, при этом подробности возможностей и ограничения следует уточнять в карточке исходной модели.

Это GGUF-пересборка в формате BF16 модели Qwen3.6-35B-A3B-Abliterated-Heretic, подготовленная mradermacher. В основе — дообученная модель Youssofal/Qwen3.6-35B-A3B-Abliterated-Heretic-BF16; в репозитории размещены веса и варианты квантования с imatrix. Архитектура Qwen3.6 MoE имеет 35 млрд параметров суммарно и около 3 млрд активных параметров по обозначению модели. Авторская карточка называет её vision-моделью, однако этот репозиторий описывает прежде всего GGUF-веса, а файлы mmproj могут находиться в отдельном статическом репозитории. Модель предназначена для генерации текста и диалогового использования. Английский указан среди языков карточки. Лицензия — Apache-2.0. Описание не сообщает длину контекста и не даёт результатов оценки качества; для обработки изображений потребуется соответствующий mmproj-файл и совместимое программное обеспечение.