II.4Отладка, тестирование и качество ПО

Elbaz-NVIDIA-Nemotron-3-Nano-30B-A3B-PRISM-NVFP4 — квантизированная версия разговорной языковой модели NVIDIA Nemotron-3-Nano, подготовленная Эриком Эльбазом (Ex0bit) с помощью NVIDIA TensorRT Model Optimizer. Модель предназначена для генерации текста в диалогах и представлена как вариант без фильтрации ответов. Это гибридная модель семейства Nemotron с архитектурой Mamba-2 и MoE; базовая версия содержит 30 млрд параметров при 3 млрд активных. Веса сжаты в формат NVFP4, размер чекпойнта около 18 ГБ. Для запуска требуются GPU NVIDIA Blackwell и TensorRT-LLM версии 0.17 или новее. README указывает калибровку на 512 примерах WikiText-2. Модель подходит для диалогов, ответов на вопросы, рассуждений и задач программирования; метаданные указывают английский язык. Формат несовместим с потребительскими GPU RTX 3000/4000/5000, llama.cpp и стандартным инференсом PyTorch. В карточке базовой модели указана поддержка шести языков, но языки кроме английского для этой версии отдельно не подтверждены. Лицензия в метаданных обозначена как other.

Jan-v3-4B-base-instruct-GGUF — это квантованная версия текстовой генеративной модели Jan-v3-4B-base-instruct, разработанной janhq и подготовленной в формате GGUF пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста по инструкциям и может применяться в локальных сценариях работы с текстом, включая запуск через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Модель содержит около 4 миллиардов параметров и поддерживает текстовый ввод и вывод. В репозитории указана поддержка английского языка и тег для задач, связанных с кодом. Доступно множество вариантов квантования — от BF16 до форматов Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Рекомендованными названы, в частности, варианты Q6_K_L, Q6_K, Q5_K и Q4_K_M; для систем с ограниченными ресурсами доступны более компактные варианты, но с меньшим качеством. К сильным сторонам относятся локальный запуск, широкий выбор размеров квантованных файлов и оптимизация imatrix, направленная на сохранение качества при сжатии. Ограничения — отсутствие в README сведений об архитектуре, размере контекстного окна, точных результатах оценки, мультимодальности и поддерживаемых языках помимо английского. Для работы требуется совместимый движок с поддержкой этой модели и формата GGUF. Модель распространяется по лицензии Apache-2.0.

Ling 3.1 Flash — гибридная reasoning-модель архитектуры mixture-of-experts от inclusionAI, с 25 млрд активных параметров из 560 млрд общих. Она предназначена для генерации текста и задач, требующих рассуждений. Данных о поддерживаемых языках, длине контекста и лицензии в предоставленных источниках нет.

Apollo Raines представляет Llama-3.1-8B-Instruct-Uncensored-Complete — вариант Llama-3.1-8B-Instruct, изменённый инструментом jBlaze. По README, модель создана без дополнительного обучения: поведенческие изменения внесены непосредственно в веса. Это плотная авторегрессионная языковая модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Она принимает текст и генерирует текст; метаданные указывают контекст до 131 072 токенов и английский язык. Модель предназначена для диалогов и генерации ответов, включая прямые ответы без обычных отказов и оговорок. Примеры в карточке показывают ответы на общие вопросы, простые вычисления, написание кода и практические инструкции. В README заявлено подавление многословности, уклончивости, токсичности и отказов; это описание поведения автора, а не независимая оценка качества. Карточка сообщает, что известных проблем не наблюдалось, но не приводит результатов систематической оценки. Модель распространяется в формате safetensors и использует лицензию Llama 3.1 (llama3.1).

Poro 2 8B Base — базовая языковая модель, созданная совместно AMD Silo AI, группой TurkuNLP Университета Турку и High Performance Language Technologies (HPLT). Это плотный авторегрессионный трансформер семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров по метаданным. Модель получена продолжением предобучения Llama 3.1 8B на сбалансированном наборе из 165 млрд токенов на финском и английском языках, а также с данными по коду и математике. Контекст — 8192 токена. Модель предназначена для генерации текста и служит основой для дальнейшей настройки под прикладные сценарии; карточка прямо отмечает, что для большинства применений базовую модель нужно дообучить. По результатам карточки, она заметно улучшает показатели Llama 3.1 8B на финских тестах и сохраняет близкий уровень на английских; также демонстрирует улучшение в переводе между английским и финским. Поддерживаются веса PyTorch и safetensors. Лицензия — Llama 3.1 Community License. Среди ограничений — слабая компетентность в языках, кроме финского и английского, возможные фактические ошибки и предвзятые или неподходящие ответы.

MarinSkyRL Open-MOPD SmolLM3 3B step 32 — ранний чекпойнт языковой модели, подготовленный авторами MarinSkyRL на основе дообученного смешанного SFT-чекпойнта BytedTsinghua-SIA/Open-MOPD-SmolLM3-3B-MixSFT. Модель с архитектурой SmolLM3ForCausalLM содержит 3,1 млрд параметров, принимает текст и поддерживает контекст до 65 536 токенов. Экспортирована в формате Hugging Face Safetensors без квантизации и предназначена для генерации текста в диалоговом формате. При обучении ответы модели оценивались RL-моделями-учителями для математики, программирования и следования инструкциям с маршрутизацией по предметной области. Это промежуточный чекпойнт после 32 шагов оптимизации, а не финальная версия после 200 шагов. В независимой оценке указаны результаты AIME 2024 и 2025 с метрикой mean@64 и IFEval с mean@1; результаты других упомянутых бенчмарков не заявлены как сопоставимые с опубликованными в статье. Модель подходит для экспериментов с генерацией ответов, математическими задачами, кодом и выполнением инструкций. В карточке не указаны языки обучения или гарантии качества для конкретных языков. Лицензия — Apache-2.0.

MasherAI-7B-v1 — диалоговая языковая модель, разработанная mahiatlinux и дообученная на openchat/openchat-3.5-0106. Модель построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров; для обучения использовались Unsloth и TRL. Модель предназначена для генерации текста в формате диалога: её можно применять для общения, ответов на вопросы и помощи с программированием и математическими рассуждениями — эти возможности описаны для базовой модели OpenChat. Поддерживаемый язык карточки — английский, длина контекста составляет 8192 токена. Модель распространяется в форматах PyTorch и Safetensors по лицензии Apache-2.0. Карточка не приводит отдельной оценки качества или подробных ограничений MasherAI-7B-v1.

Mimans M1 v1 — плотная авторская языковая модель примерно на 514 млн параметров, разработанная Ankush Thakur и обученная с нуля как decoder-only Transformer для генерации кода, математического и технического текста. Архитектура включает GQA, SwiGLU, RMSNorm и механизм AttnRes Skip Gating; репозиторий содержит веса safetensors. Модель обучалась на 5,01 млрд токенов с использованием TileLang и гибридной оптимизации Muon + AdamW. Модель предназначена для продолжения и генерации кода и технических текстов; в карточке показан пример генерации кода через Hugging Face Transformers. Контекст в README указан как 4 096 токенов с максимумом 8 192, а метаданные каталога указывают native context 8 192 токена. В качестве естественного языка заявлен английский. Лицензия — Apache-2.0. Небольшой размер и ограниченный объём обучения могут сказываться на качестве сложной генерации; оценки бенчмарков в предоставленных материалах отсутствуют.

g-ronimo/phi-2-OpenHermes-2.5 — диалоговая языковая модель на архитектуре Phi-2, дообученная разработчиком методом QLoRA на датасете teknium/OpenHermes-2.5. Модель содержит 3,5 млрд параметров, использует библиотеку Transformers и формат safetensors; максимальная длина контекста составляет 2048 токенов. Она предназначена для генерации текста в диалоговом формате и ответов на запросы пользователя. В карточке приведены результаты сравнительных оценок на AGIEval, GPT4All, TruthfulQA и Bigbench, однако они не гарантируют качество на конкретных задачах. README указывает длину обучающих последовательностей до 1024 токенов. Модель распространяется по лицензии MIT.

Phoenix-v1-8x7B — экспериментальная чат-модель от Jan, созданная как MoE-слияние нескольких моделей для общего общения, ролевых диалогов, программирования и написания текстов. В README базовая модель названа trinity-v1; также перечислены Toppy-M-7B, CodeLlama-7b-Instruct-hf и Seraph-7B как источники навыков. В метаданных указана архитектура Mixtral MoE и класс MixtralForCausalLM, 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors. Модель предназначена для чат-ботов и локального запуска через Jan Desktop на macOS, Windows и Linux. Основной язык по карточке и тегам — английский. Качество не подтверждено опубликованными результатами: таблица оценки в README содержит вопросительные знаки. Модель распространяется по лицензии Apache-2.0.

DavidAU/Qwen3.5-21B-GLM-4.7-Flash-Deckard-Heretic-Uncensored-Thinking — плотная мультимодальная модель на 21 млрд параметров семейства Qwen3.5, дообученная на базе DavidAU/Qwen3.5-27B-Deckard-PKD-Heretic-Uncensored-Thinking. По README, модель сначала получила набор Deckard/PDK для характера и глубины ответов, затем была уменьшена с 27B до 21B и дополнительно обучена на данных рассуждений GLM-4.7-Flash. Использует архитектуру Qwen3_5ForConditionalGeneration и библиотеку Transformers; заявленное окно контекста — 256 тыс. токенов. Модель предназначена для диалогов, творческого письма, ролевых сценариев, генерации кода и рассуждений. Поддерживает переменную длину рассуждений и обработку изображений; автор также заявляет более высокую скорость по сравнению с исходной версией на 27B. В карточке указаны английский и китайский языки. Модель описана как uncensored и может выдавать откровенный, грубый или графичный контент. Распространяется под лицензией Apache-2.0 в формате safetensors. README предупреждает о возможных зацикливаниях при низких квантизациях или недостаточно содержательных запросах; результаты могут зависеть от квантизации и параметров генерации. HF pipeline tag классифицирует её как image-text-to-text.

Kaoeiri/Qwenwify-32B-v4 — объединённая диалоговая языковая модель на архитектуре Qwen2, созданная с помощью mergekit. В качестве базовой использована Qwen/QwQ-32B-Preview; при слиянии методом DARE TIES также использованы десять моделей Qwen2.5-32B, включая варианты для инструкций, рассуждений, ролевых диалогов и художественного текста. Модель предназначена для генерации текста в диалоге и может применяться для ответов на запросы, творческого письма и рассуждений. Она содержит 32 млрд параметров, принимает текст и выдаёт текст, а её родной контекст составляет 32 768 токенов. В метаданных отмечены чат и интерфейс вызова инструментов. Модель опубликована по лицензии CC BY-NC-ND 4.0, которая ограничивает коммерческое использование и распространение производных версий. В карточке есть метка not-for-all-audiences; качество и поведение объединённой модели могут различаться между задачами.

Selene-1-Mini-Llama-3.1-8B-Q4_K_M-GGUF — это квантизированная версия языковой модели AtlaAI/Selene-1-Mini-Llama-3.1-8B, разработанной AtlaAI и преобразованной в формат GGUF с использованием llama.cpp и GGUF-my-repo. Модель предназначена для генерации текста, диалоговых сценариев и задач оценки ответов языковых моделей в формате LLM-as-a-judge. Модель основана на архитектуре Llama 3.1 и содержит 8 миллиардов параметров. Она работает с текстом и заявлена для английского, немецкого, французского, итальянского, португальского и испанского языков. Квантизация Q4_K_M снижает требования к памяти и делает модель подходящей для локального запуска через llama.cpp на совместимом CPU или GPU. В README приведены примеры запуска с контекстом 2048 токенов, однако максимальный размер контекста явно не указан. К сильным сторонам относятся компактность, возможность локального развертывания и совместимость с экосистемой llama.cpp. Ограничения включают потерю части точности по сравнению с полноразмерной моделью из-за квантизации, а также отсутствие в представленном README подробных результатов бенчмарков, данных об обучении и гарантированных характеристик качества. Лицензия указана как llama3.1; условия исходной модели следует учитывать при использовании этого производного файла.

VEJI-V2 — компактная модель типизированного выбора кандидата и принятия структурированных решений, опубликованная racore. Это не генеративная языковая модель: она получает контекст, вопрос или инструкцию и список вариантов, совместно оценивает варианты и возвращает лучший ответ, вероятности, оценку уверенности и фрагменты контекста, использованные для решения. Модель использует замороженный многоязычный энкодер paraphrase-multilingual-MiniLM-L12-v2, маршрутизацию свидетельств, рекуррентное уточнение с GRUCell и признаки точного совпадения, чисел, отрицаний и токенов кода. Обучаемая часть содержит около 3,28 млн параметров без учёта энкодера. Модель предназначена для классификации, маршрутизации запросов, извлечения ответа из заданных вариантов, проверок политик, семантического сопоставления, анализа кода и многошаговых вопросов по контексту. В README заявлена обработка контекста до 250 000 символов с повторным использованием закодированного состояния; тестовая точность составила 82,95% на выборке из 522 вопросов. Указаны английский и арабский языки, формат PyTorch и лицензия MIT. Ответ ограничен предоставленными вариантами, поэтому качество зависит от их полноты и формулировок. Оценка основана на небольшой выборке; в ней слабы ранжирование, планирование, временной порядок, некоторые числовые проверки и предсказание точного вывода кода. Начальная компиляция длинного контекста может быть затратной, а полный тест на длинном контексте не завершился.

airoboros-7b-gpt4-1.1 — дообученная авторами проекта Airoboros языковая модель семейства LLaMA с архитектурой LlamaForCausalLM и примерно 6,6 млрд параметров. Она создана на синтетических обучающих данных, сгенерированных GPT-4, и предназначена для диалоговой генерации текста по шаблону Vicuna, включая ответы на вопросы и выполнение инструкций. Модель ориентирована на викторины, математические рассуждения, программирование, вопросы с выбором ответа и заполнение пропусков, а также ответы по заданному контексту. При контекстном вопросно-ответном поиске её обучали опираться на предоставленные сведения и ограничивать ответ их содержимым, чтобы уменьшить галлюцинации. В метаданных указан контекст до 2048 токенов; README отмечает, что эта версия добавляет примеры инструкций по программированию и улучшает следование контексту. Модель принимает текст и генерирует текст. README не заявляет конкретные поддерживаемые естественные языки. Известное ограничение — автор прямо отмечает слабые результаты на математике и рассуждениях; следование контексту также не исключает выдуманных ответов. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Карточка модели Smilesjs/chemsmart-qwen2.5-coder-3b-instruct-v7-lr4 на Hugging Face совпадает с карточкой Smilesjs/chemsmart-qwen2.5-coder-3b-instruct-v7, поэтому описание составлено по ней. Smilesjs/chemsmart-qwen2.5-coder-3b-instruct-v7 — дообученная Smilesjs модель семейства Qwen2 для генерации текста. Она основана на unsloth/Qwen2.5-Coder-3B-Instruct-bnb-4bit и обучалась с использованием Unsloth и библиотеки TRL. Модель содержит 3,1 млрд параметров, имеет контекст до 32 768 токенов и рассчитана на текстовые диалоги; в метаданных указана поддержка английского языка. Модель можно применять для генерации ответов и кода в интерактивных сценариях. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает специальную химическую настройку, качество на задачах или результаты оценки, поэтому название репозитория само по себе не подтверждает пригодность для химических сценариев.

Functionary Small v3.2 — языковая модель команды MeetKai для диалогов с вызовом функций и инструментов. Она основана на Meta Llama 3.1 8B Instruct; в репозитории указана плотная архитектура Llama с 7,5 млрд параметров и контекстом до 131 072 токенов. Веса представлены в формате safetensors. Модель подходит для чат-сценариев, где нужно выбирать подходящий инструмент, формировать вызовы по описаниям функций в JSON Schema, запускать несколько функций параллельно или последовательно и использовать их результаты для ответа. Она также может продолжать обычный диалог без вызова инструментов и поддерживает сценарии с интерпретатором кода. Для разбора сырых ответов в структуру с полями роли, содержимого и вызовов инструментов предусмотрен пользовательский код; авторы также рекомендуют запуск через совместимый с OpenAI сервер vLLM. Лицензия — MIT. Карточка описывает интерфейс вызова инструментов, но не приводит языковых оценок или сравнительных результатов; фактическое качество зависит от формата промпта и корректной обработки вызовов инструментов.

Bunnycore Llama-3.2-3B-ProdigyPlusPlus — объединённая диалоговая языковая модель на архитектуре Llama, созданная с помощью mergekit методом TIES. В качестве базовой модели README указывает huihui-ai/Llama-3.2-3B-Instruct-abliterated; в объединение также вошли модели Bunnycore для кода, научных рассуждений, длинных рассуждений, ролевого общения и смешанных навыков. Модель предназначена для генерации текста и ответов в чате. Она содержит 3,2 млрд параметров, работает с текстом и имеет заявленный контекст до 131 072 токенов. Метаданные отмечают интерфейс вызова инструментов; фактическое качество этой возможности не описано. Модель опубликована в формате safetensors и использует библиотеку Transformers. В README приведены результаты Open LLM Leaderboard, включая средний балл 6,44, но не дано подробного описания методики или результатов по всем задачам. Сведения о лицензии в предоставленных данных отсутствуют.

Llama 3 Tulu 2+DPO 8B — англоязычная диалоговая модель-помощник, разработанная AllenAI на базе Llama 3. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров и контекстом 8192 токена. Она дообучена на смеси публичных, синтетических и созданных людьми инструкционных данных, а затем выровнена методом DPO на UltraFeedback. Модель предназначена для диалогов, выполнения инструкций и генерации ответов на английском языке. В карточке приведены результаты оценок на тестах рассуждения, вопросов и ответов, следования инструкциям и безопасности; показатели различаются по тестам и не гарантируют качество в конкретном применении. Для входа рекомендован формат Llama 3 с маркерами ролей и переводами строк. Модель распространяется по лицензии Apache 2.0. Она не прошла описанную в карточке дополнительную настройку на безопасные ответы и может выдавать проблемный контент, в том числе по соответствующему запросу.

Meta-Llama-3-8B-Alternate-Tokenizer — текстовая авторегрессионная языковая модель семейства Llama 3, разработанного Meta. В репозитории указана архитектура LlamaForCausalLM с плотной моделью размером около 7,5 млрд параметров; веса доступны в формате safetensors. Модель принимает текст и генерирует текст или код, а метаданные отмечают поддержку диалогового режима. Контекст — до 8192 токенов. Модель подходит для генерации текста, диалогового помощника и адаптации к задачам генерации естественного языка. README семейства описывает применение прежде всего на английском языке, включая коммерческие и исследовательские сценарии; это описание не подтверждает отдельное дообучение данного репозитория. В README также указано, что модели Llama 3 используют Grouped-Query Attention для масштабирования инференса. Репозиторий содержит общую карточку семейства Llama 3, поэтому специфические свойства альтернативного токенизатора здесь не раскрыты. Для использования действует специальная коммерческая лицензия Llama 3 и связанные с ней правила допустимого использования; модель не предназначена для применения на языках, отличных от английского, согласно приведённому описанию.

EmbeddedLLM/Mistral-7B-Merge-14-v0.2 — плотная языковая модель семейства Mistral, созданная EmbeddedLLM как экспериментальное слияние моделей. Сначала 14 моделей на базе Mistral объединили методом DARE TIES, затем результат слили с janai-hq/trinity-v1 методом Gradient SLERP. В карточке базовой моделью также указана mistralai/Mistral-7B-v0.1. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и формат safetensors; длина контекста — 32 768 токенов. Модель предназначена для генерации текста и служит базовым чекпойнтом, которому, по словам авторов, требуется дополнительное дообучение на инструкциях. В состав слияния вошли модели для диалога, математики, кода, научных вопросов и работы с документами. В карточке приведены результаты Open LLM Leaderboard: средний балл 72,88, включая ARC, HellaSwag и MMLU. Основной заявленный язык — английский. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование. Авторы отмечали риск загрязнения данных в некоторых моделях, участвовавших в первоначальном варианте, и сообщили о пересборке; состав описанного слияния при этом включает janai-hq/trinity-v1.

Q3.5-9B-DS-v4-Flash-DA-GGUF — набор GGUF-квантизаций экспериментальной reasoning-ориентированной модели, разработанной prithivMLmods на базе Qwen/Qwen3.5-9B. Модель создана с использованием многоэтапной дистилляции рассуждений DeepSeek V4, анализа направлений отказа и методов абляционного обучения. Доступны варианты от Q2_K до Q8_0, а также BF16 и F16; размер файлов составляет примерно от 3,83 до 17,9 ГБ. Для мультимодального режима предоставляются отдельные mmproj-файлы, однако конкретные поддерживаемые типы изображений и ограничения контекста в README не указаны. Модель предназначена для генерации текста, подробного контекстного рассуждения и следования инструкциям, а также может использоваться для исследовательских и учебных экспериментов с локальным запуском через llama.cpp или совместимые инструменты. Заявлена поддержка английского языка. Потенциальной особенностью является уменьшение внутренних механизмов отказа, поэтому модель может генерировать чувствительный или неограниченный контент; это одновременно ограничивает её пригодность для неконтролируемых прикладных сценариев. README также предупреждает о возможных артефактах и экспериментальном характере модели. Распространение указано по лицензии Apache-2.0.

Qwen2-0.5B-Instruct-GGUF — квантованная GGUF-версия малой инструкционной языковой модели Qwen2, разработанной командой Qwen. Модель предназначена для диалогов, генерации и понимания текста, выполнения инструкций, а также задач, связанных с программным кодом, математикой и рассуждениями. Она подходит для локального запуска и развертывания через llama.cpp, включая совместимые с OpenAI API серверы. Модель содержит 0,5 млрд параметров и построена на архитектуре Transformer с активацией SwiGLU, смещениями в QKV внимания и Group Query Attention. Она поддерживает естественные языки и языки программирования; в карточке явно указан английский язык. В репозитории доступны варианты квантования q2_k, q3_k_m, q4_0, q4_k_m, q5_0, q5_k_m, q6_k и q8_0, что позволяет выбирать баланс между размером файла, требованиями к ресурсам и качеством. Модель прошла предварительное обучение, supervised fine-tuning и direct preference optimization. К сильным сторонам относятся небольшой размер, возможность локального использования и поддержка нескольких уровней квантования. Ограничения связаны с малым масштабом модели: по сравнению с более крупными моделями она, вероятно, уступает им в сложности рассуждений, качестве генерации и устойчивости на трудных задачах; конкретные ограничения по длине контекста в README не указаны. Модель распространяется по лицензии Apache-2.0.

Карточка модели histakes/Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored на Hugging Face совпадает с карточкой DavidAU/Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored, поэтому описание составлено по ней. DavidAU/Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored — текстовая MoE-модель для генерации ответов и творческого письма. По карточке автора, это объединение 12 дистиллированных моделей Qwen3 по 4 млрд параметров, включая модели с рассуждением; пользователь может выбирать экспертов, указывая их имена в запросе. В метаданных указаны архитектура Qwen3 MoE, 3,7 млрд параметров, библиотека Transformers и контекст до 262 144 токенов; автор заявляет об активации двух экспертов по умолчанию и возможности задействовать до 12. Модель предназначена для диалогов, рассуждений, математики, программирования и создания художественных текстов, в том числе хоррора и романтики. Сильная сторона — переключение между экспертами для разных запросов; результат и скорость зависят от выбранных экспертов и их числа. Автор предупреждает, что модели нужно явно задавать желаемый стиль и уровень откровенности, а чрезмерное квантование может заметно ухудшить работу. По README, модель аблитерирована для уменьшения отказов и рассчитана на генерацию откровенного, в том числе NSFW-контента. Лицензия в метаданных — Apache-2.0.

Qwen3.5-4B-Claude-4.6-Opus-Reasoning-Distilled-v2 — дообученная версия Qwen3.5-4B, разработанная Jackrong. Модель ориентирована на задачи рассуждения: математику, текстовые задачи, логическую дедукцию, общие знания и выполнение инструкций. Также заявлена переносимость навыков рассуждения на программирование, хотя код не был основным направлением обучения. Поддерживаемые языки — английский, китайский и корейский; в карточке модель помечена как image-text-to-text, однако подробности о фактических возможностях обработки изображений не приведены. Модель содержит 4 млрд параметров и обучалась на более чем 14 000 образцах рассуждений в стиле Claude 4.6 Opus, включая наборы nohurry/Opus-4.6-Reasoning-3000x-filtered, Jackrong/Qwen3.5-reasoning-700x и Roman1111111/claude-opus-4.6-10000x. Версия v2 использует переработанную структуру рассуждений, направленную на сокращение избыточных цепочек и повышение эффективности вывода. По приведённым данным, средняя длина рассуждений снизилась на 33,77%, а эффективность на единицу длины рассуждения выросла на 41,54% для HumanEval и на 43,15% для HumanEval+. Основное преимущество модели — более экономичное и стабильное многошаговое рассуждение при сохранении широкого применения. Ограничение состоит в том, что по абсолютной точности HumanEval и HumanEval+ она уступает базовой Qwen3.5-4B: 0,7317 против 0,7683 и 0,6951 против 0,7256 соответственно. Контекстное окно, точная архитектура и аппаратные требования в README не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled-v2 — дообученная версия Qwen3.5-9B, разработанная Jackrong с использованием Unsloth. Модель ориентирована на эффективное рассуждение и обучалась на 14 000 образцах в стиле Claude 4.6 Opus, а также на наборах данных по математике, логическим задачам, общеобразовательным вопросам и инструкциям. Заявленная цель версии v2 — повысить точность и сократить избыточную длину цепочек рассуждений. Модель предназначена для задач, требующих многошагового анализа: решения математических и словесных задач, логической дедукции, ответов на общие вопросы, выполнения инструкций, а также для агентских сценариев и локального развёртывания с ограниченным бюджетом инференса. Авторы также приводят результаты HumanEval и HumanEval+, рассматривая их как проверку переноса общего навыка рассуждения на программирование, хотя код не был основным направлением обучения. Из известных характеристик: размер базовой модели — 9B параметров; заявлены языки English, Chinese и Korean. В карточке указана модальность image-text-to-text, однако подробности о поддерживаемых визуальных входах и контекстном окне не приведены. Сильной стороной модели считается более экономичное рассуждение: авторы заявляют сокращение потребления символов и токенов более чем на 20% при сохранении или повышении точности. Ограничение заключается в возможном снижении широких универсальных возможностей из-за небольшого объёма и направленности SFT-обучения; заявленные результаты основаны преимущественно на HumanEval и HumanEval+. Модель распространяется по лицензии Apache-2.0.

natfii/Qwen3.6-27B-VLM-Cascade — мультимодальная модель рассуждений и работы с изображениями, созданная natfii на основе Qwen/Qwen3.6-27B. Модель дообучена по каскадному рецепту: SFT для запуска рассуждений, затем последовательное обучение с подкреплением по проверяемым результатам и on-policy дистилляция. Это полноточный контрольный вариант BF16 на 27 млрд параметров с гибридной архитектурой: 16 слоёв полного внимания и 48 слоёв линейного внимания; визуальный модуль сохранён и заморожен при дообучении. Модель предназначена для локальных сценариев с визуальными вопросами и ответами, сложными рассуждениями и агентным использованием инструментов. Режим пошагового рассуждения включается отдельно; по умолчанию модель отвечает без видимой цепочки рассуждений. В репозитории также есть MTP черновая голова для ускоренного спекулятивного декодирования NEXTN, которое влияет на скорость генерации, но не на её итоговый текст. Поддерживаются входы с текстом и изображениями, выход — текст. Карточка не сообщает длину контекста или набор поддерживаемых естественных языков. Модель выпущена под лицензией Apache-2.0. Она не проходила полноценную оценку для производственного применения; автор предупреждает о возможном ухудшении визуального заземления после обучения на рассуждениях, склонности к повторным проверкам в режиме thinking и необходимости отдельно измерять эффективность MTP на целевой инфраструктуре.

gubernac/qwen3.8-27b-unc-fp8 — модифицированная и квантованная версия Qwen/Qwen3.8-27B. Базовая модель разработана командой Qwen компании Alibaba, а данный вариант подготовлен как сборка OrcaRouter. Из модели удалено направление отказа от ответа методом abliteration, после чего она офлайн квантована в Block-FP8 по схеме официальной Qwen3.8-27B-FP8. Это плотная мультимодальная vision-language модель для работы с текстом и изображениями, рассуждений, вызова инструментов, function calling и исследовательского red-teaming. Архитектура Qwen3_5ForConditionalGeneration включает 64 слоя, скрытое представление размером 5120, гибридное внимание Gated DeltaNet и full attention, vision-language tower и MTP-голову для speculative decoding. Модель содержит 27 млрд параметров, поддерживает английский и китайский языки и контекст до 262 144 токенов. Линейные веса хранятся в Block-FP8 E4M3 с размером блока 128×128 и динамическими активациями, а vision tower, нормы, embeddings и lm_head сохранены в BF16. Главное преимущество сборки — сохранение мультимодальности, большого контекста, рассуждений, инструментов и MTP при совместимости с соответствующим vLLM-путём исполнения. Ключевое ограничение и риск — существенное удаление защитного выравнивания: модель может выполнять вредоносные, незаконные и иные опасные запросы, от которых базовая версия отказалась бы. Поэтому она предназначена для легитимных исследований интерпретируемости, AI safety, изучения механизмов отказа, оценки устойчивости и контролируемых экспериментов, а не для непосредственного использования конечными пользователями без собственных механизмов модерации и защиты. Условия распространения указаны как Apache 2.0; также необходимо соблюдать применимые законы и ограничения базовой модели.

DeepSeek-V4-Flash-MXFP4-GGUF — конверсия официальных весов DeepSeek-V4-Flash в формат GGUF, подготовленная для локального запуска и тестирования. Модель построена на архитектуре Mixture-of-Experts и поддерживает диалоговую генерацию текста; файлы сохраняют маршрутизируемые экспертные веса в MXFP4, а плотные веса и тензоры — в исходных типах FP8, BF16 и F32 либо в варианте совместимости с F16 и Q8_0. Репозиторий содержит два файла размером около 156 и 158 ГБ. Для запуска требуются runtime с поддержкой архитектуры DeepSeek V4 и соответствующих типов тензоров; README указывает на V4-совместимую ветку llama.cpp. Вариант Q8Compat проверен короткими тестами на фактический ответ, JSON, структуру вызова инструмента и генерацию кода. Файлы конверсии помечены как находящиеся в разработке и проходят валидацию, поэтому совместимость и корректность ещё ограничены. Лицензия — MIT.

DavidAU разработал The-DECKARD-HERETIC-UNCENSORED-Thinking — дообученную модель Google Gemma 4 E4B Instruct с настройкой на внутренних датасетах и изменённым шаблоном чата, который по умолчанию включает режим рассуждения. Модель предназначена для диалога, творческого письма, ролевых сценариев, генерации историй и кода. Автор сообщает о поддержке текста, изображений, видео и аудио, а также контекста до 128 тысяч токенов. Gemma 4 E4B описана как модель примерно с 8 млрд параметров, из которых около 4,5 млрд активны; веса этой версии представлены в формате bfloat16 и safetensors. Карточка приводит внутренние результаты сравнения с базовой моделью, но отмечает, что статистика ещё собирается и instruct-режим иногда показывает лучшие результаты, чем thinking. Использование чата в режиме instruct требует отдельного шаблона. Лицензия — Apache 2.0.