II.4Отладка, тестирование и качество ПО

Карточка модели bernquant/Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking на Hugging Face совпадает с карточкой DavidAU/Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking, поэтому описание составлено по ней. Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking — мультимодальная плотная модель с обработкой изображений, созданная DavidAU на основе Qwen/Qwen3.6-27B. Автор описывает расширение модели с 27 до 40 млрд параметров и многоэтапное дообучение: на наборах Deckard/PDK и на данных дистилляции рассуждений Claude 4.6 Opus. Модель рассчитана на диалог, рассуждения, программирование и творческое письмо, включая создание сюжетов и ролевые сценарии; поддерживает вызов инструментов и анализ изображений. В карточке указана длина контекста 256 тыс. токенов, а также режим рассуждений с переменной длиной ответа. Заявления автора о превосходстве в тестах не сопровождаются в предоставленном тексте конкретными результатами, поэтому их следует считать заявлениями автора. README также описывает модель как uncensored и предупреждает о возможности генерации откровенного контента по запросу; отмечены возможные зацикливания на низких квантизациях или слишком коротких запросах. Репозиторий распространяется в формате safetensors по лицензии Apache-2.0.

A3Pz0/Qwen3.8-27B-TURBO-Fable-Uncen-MTP-GGUF — это многос этапная дообученная и объединённая версия Qwen3.8-27B, разработанная автором DavidAU с использованием Unsloth, методов Cold Fusion и Fable Fusion. Модель распространяется в формате GGUF с обычными и MTP-квантами, включая варианты с точностью 4 и 8 бит, и ориентирована на работу на потребительском оборудовании. Модель предназначена для решения общих задач, рассуждений, программирования, творческого письма, создания художественных текстов и ролевых сценариев. Заявлены режимы thinking и reasoning, а также оптимизация для сокращения объёма рассуждений и ускорения генерации при сохранении детализации ответа. В карточке указаны английский и китайский языки. Архитектура и размер унаследованы от Qwen3.8-27B; поддержка изображений заявлена через тег image-text-to-text, но подробности мультимодальных возможностей в README не приведены. К сильным сторонам относятся заявленные автором высокие результаты на наборах ARC-C и ARC-E, улучшение по сравнению с базовой Qwen3.8-27B, сокращение числа токенов рассуждений и наличие вариантов для разного объёма памяти. Ограничения включают отсутствие независимой проверки приведённых бенчмарков, неполные сведения о контекстном окне и мультимодальности, а также возможную специфику поведения uncensored/abliterated-дообучения. Лицензия — Apache-2.0.

Qwen3-Swallow-30B-A3B-RL-v0.2 — двуязычная языковая модель Swallow LLM на архитектуре Qwen3 MoE, дообученная методом обучения с подкреплением на проверяемых наградах (RLVR) поверх Qwen3-Swallow-30B-A3B-SFT-v0.2. Она предназначена для диалогов на японском и английском, перевода между этими языками, решения математических задач и программирования с рассуждениями. В репозитории указано 2,6 млрд параметров и контекст до 40 960 токенов; для воспроизводимого инференса авторы рекомендуют vLLM и советуют ограничивать контекст 32 768 токенами или меньше. Модель обучалась на японских и англоязычных корпусах, а также на данных по математике, коду и диалогам. Разработчики сообщают об улучшенных языковых и рассуждательных способностях при сохранении результатов в STEM-задачах. Модель не обучалась специально для вызова инструментов, а переключение режима рассуждений не поддерживается. Авторы отмечают, что модель находится на раннем этапе разработки и не настроена для гарантированного соответствия намерениям человека и требованиям безопасности. Лицензия — Apache-2.0.

QwQ-LCoT-7B-Instruct — языковая модель на архитектуре Qwen2, дообученная prithivMLmods на Qwen2.5-7B-Instruct с использованием набора amphora/QwQ-LongCoT-130K. Она предназначена для следования инструкциям, генерации текста и решения задач, требующих многошаговых рассуждений и подробных объяснений. Модель содержит около 7,1 млрд параметров, принимает текст и поддерживает контекст длиной до 32 768 токенов; в карточке заявлено обучение на примерах цепочек рассуждений. Репозиторий содержит веса safetensors для Transformers. Модель подходит для диалоговых помощников и задач, где нужны логические выводы и развернутые ответы. Язык карточки и метаданные указывают на английский. Лицензия — CreativeML OpenRAIL-M.

Smaug-Mini — мультимодальная модель Abacus.AI, дообученная на основе Qwen/Qwen3.8-27B для надёжного многошагового использования инструментов и автоматизации. Это плотная модель с архитектурой Qwen3_5ForConditionalGeneration и сохранённой башней зрения; она принимает текст и изображения и поддерживает контекст до 262 144 токенов. Модель работает в формате диалога и предоставляет интерфейс вызова инструментов. Обучение проводилось методом GRPO на многошаговых эпизодах автоматизации с проверкой результата; LoRA-адаптер языковой части был объединён с базовыми весами. По данным карточки, модель улучшает результаты ряда тестов на использование инструментов и автоматизацию, сохраняя общие возможности базовой модели примерно на прежнем уровне. Она подходит для агентных сценариев, где нужно рассуждать, вызывать инструменты и завершать задачи в среде. Лицензия — Apache-2.0. Головка многотокенного предсказания унаследована от базовой модели и не переобучалась, поэтому для неё не следует включать спекулятивное декодирование; обычное декодирование не затронуто. Данные обучения не раскрыты.

Soulfate24/Spark-X2.5-4B-ASHQ1-Remix-GGUF — квантизированная версия Spark-X2.5-4B в формате GGUF, подготовленная в рамках набора ASHQ1-Remix. В README описана активационно-ориентированная квантизация с параметрами, основанными на измерениях; указана поддержка линии AutoRound с ограничениями насыщения. Модель предназначена для генерации текста и диалогового использования. Базовая Spark-X2.5-4B — компактная многоязычная языковая модель для диалога, кода, рассуждений, перевода и агентных задач. Метаданные указывают базовую модель XHToken/Spark-X2.5-4B и лицензию Apache-2.0. Данных о размере контекста и конкретных языках этой версии в предоставленных материалах нет.

Spark-X2.5-4B MLX 8-bit — 8-битная версия языковой модели XHToken/Spark-X2.5-4B, подготовленная для MLX. Модель предназначена для задач общего назначения, включая рассуждения, программирование, использование инструментов и агентские рабочие процессы. Идентификатор модели — abenzerps/Spark-X2.5-4B-MLX-8bit. Модель имеет архитектуру spark2_5, содержит около 4 миллиардов параметров и работает с текстом. Заявлен нативный контекст до 1 048 576 токенов, что подходит для обработки очень больших документов и длинных последовательностей. Веса представлены в формате MLX 8-bit и занимают около 4,37 ГБ; языки обучения или поддержки в README не указаны. Для работы требуется Spark-MLX-LLM: модель пока не поддерживается oMLX и стандартным MLX-LM. README не приводит подробных результатов тестирования, поэтому качество в конкретных задачах нельзя оценить по представленным данным. Модель распространяется по лицензии Apache-2.0.

Beyonder-4x7b — языковая модель для генерации текста и диалогов, созданная Mlabonne как смесь экспертов (MoE) с помощью mergekit на ветке Mixtral. В неё объединены openchat/openchat-3.5-1210, beowolx/CodeNinja-1.0-OpenChat-7B, maywell/PiVoT-0.1-Starling-LM-RP и WizardLM/WizardMath-7B-V1.1. Архитектура Mixtral использует несколько экспертных сетей; размер модели по метаданным — 7,1 млрд параметров, контекст — до 8192 токенов. Модель предназначена для генерации текста в чате и может применяться для диалоговых ответов, объяснений, помощи с кодом и математическими задачами. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии Apache-2.0. README содержит лишь краткий пример ответа и не приводит сравнительных оценок качества.

CyberNeurova-Gemma-4-12B-it-abliterated — мультимодальная модель семейства Gemma 4, разработанная CyberNeurova Research на базе google/gemma-4-12B-it от Google. Это 12-миллиардная encoder-free модель с унифицированной архитектурой, которая напрямую проецирует изображения и аудиосигналы в пространство эмбеддингов языковой модели без отдельных vision- и audio-энкодеров. Заявлена поддержка текста, изображений и аудио, а также языков английского, испанского, французского, немецкого, китайского, хинди, японского, корейского, арабского, португальского, итальянского и русского. Модель предназначена для генерации текста, мультимодального анализа, программирования, рассуждений и исследовательских сценариев, включая задачи кибербезопасности. Главная особенность — постоянное удаление направления отказа из весов модели методом orthogonalization residual stream во всех 48 слоях трансформера и во входных эмбеддингах. По данным авторов, это резко снижает склонность к отказам, в том числе на многоязычных тестах, при сохранении показателей программирования, связности и рассуждений; результаты приведены авторами README и не являются независимой проверкой. Одновременно такая модификация существенно ослабляет встроенные защитные ограничения, поэтому модель может быть непригодна для применений, требующих безопасного поведения и фильтрации вредных запросов. Доступны варианты в формате bf16 Safetensors, а также GGUF F16, Q8_0 и Q4_K_M. Размеры составляют примерно 22,3 ГБ для bf16 и 7,5 ГБ для Q4_K_M; для последнего заявлена возможность запуска на GPU с 10–12 ГБ VRAM, тогда как нативной версии требуется около 28 ГБ или более. Указана лицензия Apache-2.0.

deepseekmerge-7b-ties — объединённая языковая модель, созданная с помощью mergekit методом TIES из DeepSeek-LLM-7B-Base, DeepSeek-LLM-7B-Chat и DeepSeek-Coder-7B-Base-v1.5. Она предназначена для генерации текста и объединяет возможности диалоговой модели DeepSeek с моделью, ориентированной на программирование. Модель использует плотную архитектуру семейства Llama с причинным языковым декодером, содержит 6,5 млрд параметров и поддерживает контекст до 4096 токенов. В репозитории доступны веса Safetensors; модель распространяется по лицензии Apache-2.0. Базовые модели обучались на английских и китайских данных, однако README не уточняет языковой охват именно объединённой версии. Модель можно использовать для диалоговых ответов и генерации кода. Карточка не приводит оценок качества или подробных результатов тестирования, поэтому пригодность для конкретных задач следует проверять отдельно.

DeepSeek-R1-Distill-Qwen-14B-Q4_K_M-GGUF — это квантованная версия модели DeepSeek-R1-Distill-Qwen-14B, разработанной организацией deepseek-ai и опубликованной в формате GGUF пользователем Andrew Webby из RolePlai. Модель предназначена для генерации текста, диалоговых сценариев, ролевого общения, а также задач программирования и математики; она может использоваться в приложениях на базе llama.cpp. Модель основана на архитектуре Qwen, имеет размер 14 млрд параметров и поддерживает текстовый ввод и вывод. Квантование Q4_K_M уменьшает требования к памяти по сравнению с полной версией, что делает модель более подходящей для локального запуска, однако может снижать точность по сравнению с исходными весами. В README не указаны поддерживаемые языки, размер контекстного окна, точные требования к оборудованию, результаты тестирования и ограничения качества. Файл модели имеет формат GGUF, не использует imatrix и не разделён на части. Лицензия и условия использования в предоставленных данных не указаны.

GoedelMachines разработала DiffusionGemma-26B-A4B W4A16 — 4-битную версию модели Google DiffusionGemma-26B-A4B-it с оптимизированными Triton-ядрами для ускорения генерации. Это языковая модель с блочной диффузионной архитектурой: она уточняет токены на холсте из 256 позиций до 48 шагов, а не генерирует их последовательно. В модели 26 млрд параметров, из которых активно используются 4 млрд; MoE-маршрутизация выбирает 8 из 128 экспертов для каждого токена. Модель предназначена для диалогов и генерации текста, в том числе для математических задач и генерации кода. В README заявлено ускорение в 2,3–2,7 раза относительно bf16-базы на GB10 при близких результатах в GSM8K, HumanEval и MATH. Экспериментальные замеры также показывают работу на RTX 5090; для весов требуется около 18 ГБ видеопамяти и до 20 ГБ в пике. Репозиторий содержит safetensors-веса и ядра Triton; загрузчику Transformers требуется trust_remote_code=True. Модель основана на google/diffusiongemma-26B-A4B-it и распространяется по лицензии Gemma. README описывает только текстовую генерацию; мультимодальные пути не проверялись. Точность оценивалась на ограниченных выборках, использована квантизация round-to-nearest min/max без калибровки, а конфигурации для GPU, отличных от GB10 и RTX 5090, не проверены сквозным тестированием.

Карточка модели Elio2151/Gemma-2-9B-Instruct-TechnicalAgentFineTuned-Merged_6 на Hugging Face совпадает с карточкой Elio2151/Gemma-2-9B-Instruct-TechnicalAgentFineTuned-Merged_5, поэтому описание составлено по ней. Elio2151/Gemma-2-9B-Instruct-TechnicalAgentFineTuned-Merged_5 — дообученная чат-модель Elio2151 на архитектуре Gemma 2. В качестве основы использована unsloth/gemma-2-9b-it-bnb-4bit; модель обучали с использованием Unsloth и библиотеки TRL от Hugging Face. Модель предназначена для диалоговой генерации текста и может использоваться для ответов на вопросы, составления текстов и помощи в технических задачах. Она содержит около 9 млрд параметров, принимает текст и генерирует текст, поддерживает английский язык и имеет контекстное окно 8192 токена. В репозитории указаны веса safetensors. Модель распространяется по лицензии Apache 2.0. README не описывает конкретный набор обучающих данных, результаты оценки качества или специальные ограничения применения.

QuantFactory/Llama3.1-8B-ShiningValiant2-GGUF — квантизированная версия чат-модели Shining Valiant 2, созданная QuantFactory с использованием llama.cpp на основе ValiantLabs/Llama3.1-8B-ShiningValiant2. Исходную модель разработала Valiant Labs; она дообучена на базе Meta-Llama-3.1-8B-Instruct, релиз от 6 августа 2024 года. Модель предназначена для диалогов и генерации текста, включая общие вопросы, объяснение научных и инженерных тем, технические задачи и структурированное рассуждение. Она ориентирована на дружелюбные, воодушевляющие, содержательные и познавательные ответы. Указан английский язык, текстовая модальность и архитектура Llama; размер — 8 миллиардов параметров. Модель использует формат промптов Llama 3.1 Instruct. Размер контекста в README не указан. К сильным сторонам относятся специализация на научно-технических знаниях, улучшенная согласованность ответов и гибкость общения. К ограничениям относятся зависимость качества от базовой модели и выбранного квантизированного формата; сведения о точности, конкретных вариантах квантования, системных требованиях и ограничениях безопасности не приведены. Лицензия указана как llama3.1.

Llama-3.1-Tulu-3-8B-SFT — англоязычная инструкционная модель семейства Tülu 3, разработанная AI2 и дообученная на базе meta-llama/Llama-3.1-8B. Это плотная авторегрессионная архитектура LlamaForCausalLM с 7,5 млрд параметров, предназначенная для диалогов и выполнения разнообразных инструкций, включая математические задачи и следование формату ответа. Модель поддерживает контекст до 131 072 токенов и распространяется в формате Safetensors для использования с Transformers. Модель подходит для чат-ботов, ответов на вопросы, решения математических задач и оценки следования инструкциям. Карточка приводит результаты сравнительных тестов, в том числе MMLU, PopQA, GSM8K и IFEval, но они не гарантируют качество в конкретном приложении. По описанию модели, обучение безопасности ограничено, поэтому ответы могут быть проблематичными, особенно при соответствующих запросах. Лицензия — Llama 3.1 Community License Agreement.

Marin 32B — базовая авторегрессионная языковая модель, разработанная командой Marin Project. Она предназначена для генерации продолжений текста и служит основой для разработки и адаптации языковых моделей. Модель обучена на корпусах общего текста, кода, математики, научных материалов и вопросов и ответов; в карточке приведены результаты оценки на общих языковых, математических и программных тестах. Модель имеет плотную архитектуру Qwen3 с 31,9 млрд параметров, QK-Norm attention, 64 слоями и контекстом 4096 токенов. Она работает с Transformers и принимает текст, выдавая текст. Основной язык — английский. По данным карточки, обучающие данные не выходят за июль 2024 года. Marin 32B — базовая модель без настройки безопасности; она может выдавать вредный или неточный текст и не предназначена для полностью автономного использования. Код и веса распространяются по лицензии Apache 2.0.

MiniCPM5-2B-Claude-Fable5-1-Thinking-Agentic-i1-GGUF — это квантизированная версия модели MiniCPM5-2B-Claude-Fable5-1-Thinking-Agentic, опубликованная и подготовленная в формате GGUF пользователем mradermacher на основе базовой модели GnLOLot. Модель предназначена для генерации текста, диалогов, следования инструкциям, программирования, рассуждений, а также сценариев с вызовом инструментов и функций. Из доступных данных известно, что модель относится к семейству MiniCPM, имеет около 2 млрд параметров и поддерживает английский и китайский языки. Она рассчитана на текстовые задачи; сведения о мультимодальности и размере контекстного окна не указаны. Доступно множество вариантов квантизации GGUF с размером примерно от 0,8 до 1,7 ГБ, что позволяет выбирать между требованиями к памяти, скоростью и качеством. Для большинства сценариев автор рекомендует варианты i1-Q4_K_M или i1-Q4_K_S, тогда как самые компактные варианты могут заметно уступать по качеству. Сильными сторонами модели являются небольшой размер, возможность локального запуска в совместимых с GGUF средах и ориентация на агентные сценарии, вызов функций и программирование. Ограничениями являются относительно малое число параметров, возможное снижение качества в низкобитных вариантах и отсутствие опубликованных сведений о контекстном окне, бенчмарках и фактической эффективности tool-calling. Модель распространяется по лицензии Apache-2.0.

stefra/modernbert-large-unical — модель архитектуры UNICAL на базе дообученного двунаправленного энкодера answerdotai/ModernBERT-large. Она принимает текстовое состояние и один или несколько утверждений и оценивает вероятность истинности каждого из них. Модель предназначена для быстрой проверки семантических условий и может служить заменой sem_filter; это классификатор, а не генеративная модель. Утверждения обрабатываются в одной последовательности с общим текстом состояния, а блочная двунаправленная маска внимания позволяет оценивать их независимо: оценка утверждения совпадает с оценкой при отдельной обработке. Для использования предусмотрены Transformers и пакет unical. В README приведены результаты проверок на нескольких наборах данных, включая задачи, не встречавшиеся при обучении; метрики различаются между наборами, поэтому качество следует проверять на целевых данных. Модель распространяется в формате safetensors; для загрузки пользовательского кода архитектуры в Transformers требуется trust_remote_code=True. Лицензия в предоставленных данных не указана.

NorMistral-7b-warm-instruct — инструкционно дообученная языковая модель, разработанная Norallm на базе NorMistral-7b-warm, который, в свою очередь, относится к семейству Mistral. Модель предназначена для генерации текста и диалогового взаимодействия, включая ответы на вопросы, многоходовые беседы, выполнение инструкций, подготовку текстов и задачи программирования. Основной фокус — норвежские языки Bokmål и Nynorsk; в метаданных также указан язык no. Модель поддерживает ChatML-подобный формат диалогов и контекст длиной 4096 токенов. Размер модели в README явно не указан для инструкционной версии, однако она названа NorMistral-7b-warm-instruct. Дообучение выполнено методом supervised fine-tuning на отфильтрованных и дополненных открытых наборах Aya, OASST, OIG, No Robots, Dolly и Glaive code assistant; preference optimization не применялась. К сильным сторонам относятся открытая доступность, ориентация на норвежскую языковую специфику, поддержка многоходовых диалогов и увеличенный до 4096 токенов контекст относительно базовой модели. Ограничения включают статус первой рабочей итерации, возможные изменения весов, чувствительность к параметрам генерации и отсутствие preference optimization, поэтому качество и устойчивость ответов могут быть неравномерными. Модель распространяется по лицензии Apache-2.0, допускающей коммерческое использование. README не сообщает о поддержке изображений или других модальностей, поэтому модель следует считать текстовой.

Nous-Hermes-13b — языковая модель Nous Research, дообученная совместно с Teknium и Karan4D на более чем 300 тысячах инструкций. В её основе Llama с плотной архитектурой и примерно 12,9 млрд параметров; модель распространяется в формате PyTorch. Она принимает текстовые инструкции в формате Alpaca и предназначена для генерации текста и диалоговых ответов. Модель обучалась преимущественно на синтетических ответах GPT-4 и наборах инструкций по общим темам, ролевым сценариям, программированию, математике и естественным наукам. Карточка заявляет длинные ответы и низкий уровень галлюцинаций, но не приводит в предоставленных материалах независимой проверки этих свойств. Контекст модели — 2048 токенов; карточка указывает английский язык. Лицензия — GPL.

Olmo-3-1025-7B — базовая авторегрессионная языковая модель семейства OLMo 3, разработанная Allen Institute for AI (Ai2). Она предназначена для генерации текста и служит основой для дальнейшей настройки под диалоговые и специализированные задачи. Модель имеет плотную Transformer-архитектуру для причинного языкового моделирования, около 6,9 млрд параметров и контекстное окно 65 536 токенов. Она обучена преимущественно на английском языке на данных Dolma 3; обучение включало текст, код, математику, вопросы и ответы, инструкции и PDF-документы. Репозиторий содержит веса в формате safetensors и поддерживается библиотекой Transformers версии 4.57.0 и выше. Длинный контекст и широкая обучающая выборка подходят для генерации продолжений, черновиков и кода, а также для адаптации модели к прикладным сценариям. Это базовая модель, поэтому её ответы не обязательно следуют инструкциям как у чат-модели; возможны фактические ошибки, предвзятые или вредоносные ответы без дополнительной настройки и фильтрации. Лицензия модели и кода — Apache 2.0.

QuantFactory/Qwen2-1.5B-Instruct-GGUF — квантизированная версия инструкционно дообученной языковой модели Qwen2-1.5B-Instruct, созданная QuantFactory с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции, понимание естественного языка, программирование, математику и рассуждения. Формат GGUF ориентирован на локальный запуск с совместимыми инструментами. Модель содержит около 1,5 млрд параметров и построена на декодерной архитектуре Transformer с активацией SwiGLU, смещениями в QKV-проекциях и group query attention. Токенизатор адаптирован для нескольких естественных языков и языков программирования, однако в карточке явно указан только английский язык. Обучение включало предварительное обучение, supervised fine-tuning и direct preference optimization. Размер контекста, точные параметры квантизации и перечень поддерживаемых языков не указаны. К сильным сторонам относятся компактный размер, возможность локального использования и заявленная конкурентоспособность в задачах понимания языка, генерации, программирования и математики. В опубликованном сравнении Qwen2-1.5B-Instruct получил 52,4 на MMLU, 37,8 на HumanEval, 61,6 на GSM8K, 63,8 на C-Eval и 29,0 на IFEval Prompt Strict-Acc. Ограничениями являются меньший объём модели по сравнению с крупными LLM, возможное снижение качества из-за квантизации и отсутствие данных о конкретном формате квантизации. Лицензия — Apache-2.0.

Max-GE/Qwen3.8-27B-uncen — многоэтапная fine-tune-модель на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Согласно README, модель создана с использованием Unsloth, методов COLD FUSION и Fable Fusion и ориентирована на повышение качества рассуждений, общее решение задач, программирование, творческое письмо, создание историй и roleplaying. Заявлена как uncensored/abliterated-модель. Модель относится к семейству Qwen3.8 с размером 27B и поддерживает английский и китайский языки. Репозиторий содержит Regular и MTP GGUF-квантизации, включая варианты с точностью 4 и 8 бит; заявлена поддержка трёх режимов мышления. Основной особенностью разработчики называют сокращение объёма reasoning-токенов примерно от двух до десяти раз по сравнению с обычной Qwen3.8 при сохранении детализации и качества, а также оптимизацию скорости генерации. README также указывает тег image-text-to-text, но не приводит подробностей о визуальном энкодере или подтверждённой обработке изображений. Сильными сторонами заявлены высокие результаты на ARC-C и ARC-E, улучшение по сравнению с базовыми моделями Qwen и эффективность на потребительском оборудовании. Эти результаты представлены разработчиками и не сопровождаются в карточке независимой методологией проверки. Возможные ограничения включают зависимость характеристик от выбранной GGUF-квантизации, отсутствие данных о размере контекста и детальных тестах безопасности, а также uncensored-настройку, которая может повышать риск нежелательных или небезопасных ответов. В метаданных указана лицензия Apache-2.0.

Kiwen1.1-27B — мультимодальная языковая модель на 28 млрд параметров, разработанная beyoru и представленная в формате GGUF с квантованием от bartowski. Модель предназначена для работы с текстом и изображениями, причём для обработки изображений требуется дополнительный mmproj-файл. Указанные сценарии применения включают рассуждения, агентские задачи, работу с вьетнамским языком, математикой и программированием. Поддерживается speculative decoding с использованием MTP. Модель подготовлена для запуска через llama.cpp; доступны варианты от BF16 до низкобитных квантований Q8_0, Q6, Q5, Q4, Q3 и IQ. Рекомендуемым компромиссом между качеством и размером назван Q4_K_M объёмом 17,77 ГБ, а варианты Q6_K и Q6_K_L обеспечивают более высокое качество при большем потреблении памяти. README не содержит данных о размере контекстного окна, полном наборе поддерживаемых языков, исходной архитектуре или результатах бенчмарков. Модель распространяется по лицензии Apache-2.0. Основное ограничение — значительные требования к оперативной или видеопамяти: даже рекомендуемый вариант Q4_K_M занимает около 17,77 ГБ, а использование изображений требует отдельного multimodal-компонента.

Blackthinking — текстовая генеративная модель, созданная слиянием языковых моделей методом Arcee Fusion с помощью mergekit. В качестве базовой использована Novaciano/Eurinoferus-3.2-1B, также в слияние включена cazzz307/Abliterated-Llama-3.2-1B-Instruct. Модель основана на плотной архитектуре LlamaForCausalLM и содержит 1,1 млрд параметров; файлы опубликованы в формате safetensors для Transformers. Модель предназначена для генерации текста, включая диалоговые и рассуждательные сценарии. Заявленная длина контекста — 131 072 токена. В метаданных перечислены обучающие наборы с примерами мозгового штурма, программирования и рассуждений; язык модели явно не указан. Лицензия в предоставленных данных не указана.

DeepSeek-R1-Distill-Qwen-14B-3MPER0RR-abliterated — экспериментально изменённая версия DeepSeek-R1-Distill-Qwen-14B от 3MPER0RR. Это плотная 14-миллиардная языковая модель на архитектуре Qwen2 для диалогов и генерации текста; в карточке указано, что модель протестирована и сохранена. Она унаследовала от базовой модели поддержку рассуждений, в том числе для математических и программных задач, и контекст до 131 072 токенов. Модель рассчитана на разговорное взаимодействие и текстовые запросы. README описывает её как модифицированную, «abliterated» экспериментальную версию, но не уточняет метод изменения и не приводит результатов сравнительных оценок, поэтому нельзя установить, как оно повлияло на качество и поведение. Лицензия — MIT.

Elio2151/Gemma-2-9B-Instruct-TechnicalAgentFineTuned-Merged_5 — дообученная чат-модель Elio2151 на архитектуре Gemma 2. В качестве основы использована unsloth/gemma-2-9b-it-bnb-4bit; модель обучали с использованием Unsloth и библиотеки TRL от Hugging Face. Модель предназначена для диалоговой генерации текста и может использоваться для ответов на вопросы, составления текстов и помощи в технических задачах. Она содержит около 9 млрд параметров, принимает текст и генерирует текст, поддерживает английский язык и имеет контекстное окно 8192 токена. В репозитории указаны веса safetensors. Модель распространяется по лицензии Apache 2.0. README не описывает конкретный набор обучающих данных, результаты оценки качества или специальные ограничения применения.

t-firefly/gemma4-e2b-rknn3-rk1828 — мультимодальная версия Gemma 4 E2B IT, подготовленная для запуска на устройстве RK1828 через LlamaPi. Исходную модель разработала Google DeepMind; карточка указывает на форматы GGUF и Safetensors, а метаданные связывают репозиторий с google/gemma-4-E2B-it. Модель принимает текст, изображения и аудио, выдаёт текст и предназначена для диалогов, рассуждений, программирования и агентных сценариев на устройстве или периферийном оборудовании. В README заявлены контекст 256 тысяч токенов и поддержка более 140 языков. Лицензия — Apache-2.0. Сведения о преобразовании весов специально для RKNN3, фактической производительности на RK1828 и совместимости отдельных модальностей в этой сборке ограничены; возможности исходной модели не гарантируют их полной поддержки в данном варианте.

Richard Young выпустил эту модифицированную версию IBM Granite 4.2 3B, созданную с помощью Heretic и методом abliteration без переобучения. Это плотный декодерный трансформер GraniteForCausalLM на 3,4 млрд параметров с контекстом 131 072 токена; модель предназначена для генерации текста и диалогов, рассуждений, написания кода и вызова инструментов. В карточке заявлены режимы рассуждения и поддержка 12 языков: английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского. Модификация уменьшает частоту отказов отвечать на запросы: в приведённом автором тесте отказов было 27 из 100 против 98 из 100 у исходной модели. Это не гарантирует полного отсутствия отказов, а изменение может приводить к небезопасным или неточным ответам. Модель распространяется под лицензией Apache 2.0; автор указывает сценарии исследования, творческого письма, обучения методам выравнивания и локального запуска.

K2-Horizon-3.7B-GGUF — GGUF-версия языковой модели K2-Horizon-3.7B, разработанной IFM. Репозиторий предназначен для запуска модели с помощью llama.cpp и содержит тензоры в исходной точности BF16, метаданные токенизатора и совместимый с llama.cpp шаблон чата. Модель относится к семейству K2-Horizon и представляет собой небольшую плотную decoder-only модель с 3,7 млрд параметров и контекстным окном 524 288 токенов. Указан английский язык. Модель предназначена для генерации текста и оценивается на задачах, связанных с агентными сценариями, программированием и рассуждениями. Ключевые сильные стороны — большой контекст, открытость весов, публикация обучающих данных, рецептуры, кода обучения и ресурсов для оценки, а также наличие промежуточных контрольных точек для анализа изменений возможностей в процессе обучения. Ограничение версии GGUF заключается в необходимости использовать сборку llama.cpp с поддержкой архитектуры K2 Horizon; такая поддержка на момент публикации находилась в разработке, а совместимая версия доступна в форке MBZUAI-IFM. Лицензия модели — Apache-2.0. В README не указаны точные детали вычислительных требований, результаты отдельных тестов, поддерживаемые языки помимо английского и дополнительные сведения о качестве или ограничениях применения.