II.4Отладка, тестирование и качество ПО

Qwen3-Coder-480B-A35B-Instruct-GGUF — это набор квантизированных вариантов инструкционной модели Qwen3-Coder-480B-A35B-Instruct, разработанной командой Qwen. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; модели распространяются в формате GGUF и предназначены для запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель ориентирована на генерацию текста и задачи программирования в диалоговом режиме. README указывает шаблон запросов с ролями system, user и assistant. Доступны варианты квантизации Q2–Q8 с размером файлов примерно от 169 до 510 ГБ; версии с более высокой точностью обеспечивают лучшее качество, но требуют значительно больше оперативной памяти, а низкоразрядные варианты экономят ресурсы за счёт снижения качества. Для большинства сценариев автор рекомендует варианты Q4_K_M, Q5_K_M и Q6_K. Сильная сторона модели — большой размер исходной модели и широкий выбор квантизаций, позволяющий выбирать компромисс между качеством и требованиями к памяти. Ограничения — крайне высокие аппаратные требования даже у компактных вариантов, а также возможное ухудшение качества при использовании низких уровней квантизации. Сведения о поддерживаемых языках, размере контекста, мультимодальности и лицензии в README не указаны.

Qwythos-27B-v1 — открытая полноразмерная дообученная модель Empero AI на базе Qwen/Qwen3.5-27B. Это плотная мультимодальная модель с 64 текстовыми слоями, гибридным вниманием Gated-DeltaNet и полным модулем зрения; она принимает текст и изображения и генерирует текст. Модель прошла полнопараметрические этапы SFT, DPO и ESFT до обучения с подкреплением, сохранив штатную поддержку вызова инструментов и предсказания нескольких токенов. Модель предназначена для диалогов и рассуждений, задач STEM, работы с терминальными и инструментальными сценариями, а также технических вопросов в областях кибербезопасности и биомедицины. Заявлена конфигурация контекста до 1 048 576 токенов с расширением YaRN. Шаблон чата поддерживает нативный формат вызова функций Qwen3.5. Зрение унаследовано от базовой модели: параметры визуального модуля не дообучались, а понимание изображений не оценивалось. Большой контекст с YaRN может немного ухудшать качество на коротком контексте. Модель намеренно не ограничивает ответы на чувствительные технические темы, поэтому для использования нужны подходящие правила и проверка результатов. Лицензия — Apache-2.0.

Tiiny/SmallThinker-21BA3B-Instruct-GGUF — GGUF-квантизированная версия инструкционной языковой модели SmallThinker-21BA3B-Instruct, разработанной совместно исследовательской группой IPADS, School of AI Шанхайского университета Цзяо Тун и компанией Zenergize AI. Модель относится к семейству on-device моделей, ориентированных на локальный запуск без обращения к облачным сервисам, что обеспечивает потенциальные преимущества в приватности и задержке ответа. Основной язык обучения — английский; назначение модели — генерация текста и выполнение инструкций, включая вопросы общего характера, математические задачи, программирование и другие сценарии работы с текстом. В основе модели лежит архитектура Mixture-of-Experts (MoE): всего 21 млрд параметров, из которых для каждого токена активируется около 3 млрд. Модель содержит 52 слоя, 64 эксперта и выбирает 6 экспертов на токен; используются GQA, 28 attention heads, 4 KV heads, функция активации ReGLU и контекст длиной до 16K токенов. Для запуска обычных файлов .gguf рекомендуется llama.cpp, а файлы с суффиксом .powerinfer.gguf совместимы только с фреймворком PowerInfer и используют специализированные разреженные операторы. Сильными сторонами модели заявлены производительность в задачах общего понимания, следования инструкциям, математики и генерации кода, а также возможность локального запуска на устройствах с ограниченными ресурсами. Ограничения включают преимущественно англоязычную направленность, возможные фактические ошибки, предвзятость и устаревшие сведения; результаты требуют самостоятельной проверки. Модель распространяется по лицензии Apache-2.0.

Smart-LLaMa-3-8b-Python-v4 — объединённая модель Kukedlc для генерации текста и диалогов, созданная с помощью LazyMergekit. Веса двух моделей семейства Llama объединены методом slerp: Smart-LLama-3-8b-Python-v2-16bit и LLama-3-8b-Python. Архитектура — плотная авторегрессионная LlamaForCausalLM с 7,5 млрд параметров; модель принимает текст и выдаёт текст, контекст — до 8192 токенов. Модель предназначена для диалогов и генерации кода на Python, а также для других текстовых запросов, поддерживаемых базовыми моделями. Репозиторий содержит веса в формате safetensors. Лицензия указана как other; конкретные условия использования по предоставленным данным определить нельзя.

Speechless Instruct Mistral 7B v0.2 GGUF — это квантизированная версия инструкционной языковой модели speechless-instruct-mistral-7b-v0.2, опубликованная в формате GGUF пользователем bartowski. Исходная модель размещена uukuguy. Модель предназначена для генерации текста по инструкциям, включая задачи программирования и выполнения общих текстовых запросов. Модель основана на архитектуре Mistral и содержит 7 миллиардов параметров. Она работает с текстом, заявлена для английского языка и поддерживает сценарии text-generation через llama.cpp и совместимые инструменты. В README указан формат промптов в стиле [INST] с системным сообщением, однако отмечено, что официальная chat template не задана и приведённый формат может быть неточным. Доступны варианты квантизации Q2–Q8 и IQ, различающиеся размером файла и компромиссом между качеством и потреблением памяти; наиболее качественными и рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S и варианты Q4. Обучение или дообучение исходной модели связано с наборами jondurbin/airoboros-2.2, Open-Orca/OpenOrca, Open-Platypus, WizardLM/WizardLM_evol_instruct_V2_196k и TokenBender/python_eval_instruct_51k. В качестве сильных сторон указаны поддержка инструкций, задач программирования и широкий выбор квантизаций для запуска на устройствах с разным объёмом памяти. Ограничения включают снижение качества на низких уровнях квантизации, отсутствие подтверждённого значения pass@1 для HumanEval и неопределённость с шаблоном чата. Лицензия — Apache-2.0.

StarChat2 15B — разговорная модель для помощи с программированием, разработанная HuggingFaceH4. Это плотная авторегрессионная модель семейства StarCoder2 с 21,7 млрд параметров и контекстом до 16 384 токенов, дообученная методами SFT и DPO на синтетических наборах данных для диалога, кода, математики и рассуждений. Модель рассчитана прежде всего на английский язык и более 600 языков программирования. Её можно применять для диалоговых ответов, написания и дополнения кода, а также решения задач на математику и рассуждения. В карточке сообщается о результатах на MT Bench, IFEval и HumanEval; результаты зависят от формата промпта и условий оценки. Модель доступна в формате safetensors и распространяется по лицензии BigCode Open RAIL-M v1. Модель не прошла выравнивание предпочтений с помощью RLHF и может выдавать проблемный контент. Сгенерированный код может быть ошибочным или уязвимым, а ссылки — вымышленными; ответы и код требуют проверки.

Tals-coder-flash-02 — мультимодальная модель для генерации кода и рассуждений, созданная talxcc на основе prism-ml/Ternary-Bonsai-2-27B-gguf. Это вариант с пользовательской ternary-квантизацией в формате GGUF и встроенной головой Multi-Token Prediction для спекулятивного декодирования; для анализа изображений в репозитории также есть отдельный проектор CLIP. В карточке заявлены 27 млрд параметров и контекст до 262 тыс. токенов. Модель предназначена для генерации и исправления кода, работы с крупными кодовыми базами, а также анализа скриншотов интерфейсов, диаграмм и графиков. README сообщает о скорости 53–65,5 токена/с с MTP n_max=2 на RTX 4060 Ti 16 ГБ, однако результат зависит от конфигурации и специальной сборки llama.cpp с поддержкой Hadamard-ядер. Указанные скорости и возможность полностью разместить модель с контекстом на GPU являются заявлениями авторов карточки. Модель распространяется по лицензии Apache-2.0. Авторы рекомендуют проверять и тестировать сгенерированный код перед запуском; качество и надёжность вывода отдельно не подтверждены в предоставленных данных.

Tiel-Coder-35B-A3B-Genesis-Hermes-GGUF — языково-кодовая модель в формате GGUF, разработанная LuffyTheFox на основе Ornith-1.5-35B-A3B, с использованием компонентов Tiel-Coder и Hermes-файнтюнинга. Модель дополнительно обработана методом Genesis, который автор описывает как численную коррекцию шумов и дефектов в весах без переобучения. Указана лицензия MIT. Модель предназначена для программирования, агентных сценариев, вызова функций и задач, требующих следования инструкциям. Поддерживаются текстовые и визуальные сценарии, однако для работы с изображениями требуется отдельный файл mmproj. В README заявлена поддержка английского, китайского и многоязычного ввода. Архитектура гибридная: Gated DeltaNet с линейным вниманием сочетается с полным softmax-вниманием в соотношении 3:1. Всего модель содержит около 35 млрд параметров, из которых примерно 3 млрд активируются за один проход; используется MoE-схема с 256 экспертами, 8 маршрутизируемыми и 1 общим экспертом на токен, а также 40 слоями. Для сохранения возможностей рассуждения рекомендуется контекст не менее 128K токенов и запуск через llama.cpp с флагом --jinja. Модель ориентирована на эффективный инференс, но требует значительных вычислительных ресурсов, особенно при использовании длинного контекста и визуального режима. README не содержит независимых результатов бенчмарков, поэтому заявленные улучшения стабильности, качества и снижения галлюцинаций следует считать утверждениями автора, а не подтверждёнными измерениями.

Vedika-Code-Pro-v1 — языковая модель Veda Labs, предназначенная для программирования и задач рассуждения. В метаданных Hugging Face указаны архитектура VedikaCodeProV1ForCausalLM, плотный тип архитектуры, 44,9 млрд параметров, библиотека Transformers и формат Safetensors. README приводит другие характеристики размера: 1,6 трлн общих параметров и 49 млрд активируемых; это расхождение не позволяет однозначно установить фактический размер модели. Заявлена длина контекста около 1 млн токенов. Модель принимает текст и генерирует текст; README указывает на форматирование сообщений, совместимое с OpenAI, и отдельные скрипты кодирования, поскольку в выпуске нет шаблона чата Jinja. Она рассчитана на помощь в написании кода и рассуждениях, в том числе в сценариях разработки. Язык программирования и поддерживаемые естественные языки в доступных данных не перечислены. Лицензия — MIT.

Wukong-0.1-Mistral-7B-v0.2-GGUF — это набор квантизированных версий текстовой генеративной модели Wukong-0.1-Mistral-7B-v0.2, опубликованный и подготовленный пользователем bartowski с использованием llama.cpp. Исходная модель разработана RESMPDEV. В README также указаны наборы данных OpenHermes-2.5, CodeFeedback-Filtered-Instruction и Code-Feedback, использованные в связанном с моделью обучении или подготовке. Модель предназначена для генерации текста, выполнения инструкций и задач, связанных с программным кодом. Доступны файлы в формате GGUF с различными уровнями квантизации — от Q8_0 до IQ1_M — что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Размер исходной модели составляет 7B параметров, однако точные архитектурные характеристики, поддерживаемые языки и длина контекста в README не указаны. Модель работает через llama.cpp; формат шаблона чата явно не задан, поэтому приведённый шаблон может быть неточным. К сильным сторонам относятся широкий выбор квантизаций и возможность локального запуска на устройствах с ограниченными ресурсами. Варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M отмечены как рекомендуемые благодаря высокому качеству при меньшем размере, тогда как низкоразрядные варианты экономят память ценой заметного снижения качества. Лицензия — Apache-2.0.

Code Llama 13B — базовая генеративная модель Meta для синтеза и понимания кода. Это авторегрессионный трансформер семейства Llama с плотной архитектурой, содержащий 12,9 млрд параметров. Данная версия представлена в формате Transformers и принимает текст, выдавая текст; она поддерживает контекст до 16 384 токенов. Модель предназначена для продолжения и дополнения кода, включая infilling, а также для адаптации к разным задачам генерации и анализа кода. Она рассчитана на английский язык и языки программирования; это базовая версия, а не вариант для следования инструкциям или специализированная Python-модель. Модель может генерировать неточный или нежелательный код, поэтому результаты требуют проверки и тестирования в целевом приложении. Использование регулируется лицензией Meta Llama 2; карточка указывает на наличие коммерческой лицензии Meta.

Это вариант CodeLlama-13B-Instruct, созданный путём загрузки исходной модели Meta с 4-битной квантизацией NF4 через bitsandbytes и последующего преобразования слоёв linear4bit в FP16. Модель содержит 12,9 млрд параметров, построена на архитектуре Llama и рассчитана на генерацию текста; заявленная длина контекста — 16 384 токена. Модель предназначена для генерации кода и ответов на инструкции, связанных с программированием. Upscaling слоёв в FP16 призван убрать затраты на квантование и деквантование при каждом проходе во время инференса. Исходная NF4-квантизация была с потерями, поэтому автор предупреждает о возможном снижении качества по сравнению с официальной CodeLlama-13B-Instruct. Модель распространяется по лицензии Apache-2.0.

OpenAssistant/codellama-13b-oasst-sft-v10 — англоязычная причинная языковая модель семейства CodeLlama, дообученная командой Open-Assistant на базе Meta CodeLlama. Это плотный decoder-only трансформер с 12,9 млрд параметров и контекстом до 16 384 токенов; веса опубликованы в формате safetensors. Модель обучалась на диалоговых данных OpenAssistant и наборах Orca, а для общения использует шаблон ChatML. Модель предназначена для генерации продолжений и ответов в диалоге, в том числе для сценариев, связанных с кодом. В README указано, что обучение частично использовало системные сообщения Orca; для корректной загрузки требуется актуальная версия Transformers либо trust_remote_code=True из-за изменения RoPE Theta. Лицензия — Llama 2 Community License Agreement. Проверки описаны только для английского языка. Ответы могут быть неточными, предвзятыми или нежелательными, поэтому перед внедрением модель следует оценить и настроить с учётом конкретного применения.

Code-Llama-3-8B — полноразмерная дообученная модель ajibawa-2023 на базе Llama-3-8B от Meta. Она предназначена для генерации кода и ответов на математические задачи; модель также может объяснять логику и решения. Обучение проводилось на наборах Code-290k-ShareGPT, CodeFeedback, CodeFeedback-Filtered-Instruction и orca-math-word-problems-200k. Модель поддерживает диалоговый формат ChatML и имеет контекст длиной 8192 токена; размер составляет 7,5 млрд параметров. Модель ориентирована на код на Python, Java, JavaScript, Go, C++, Rust, Ruby, SQL, MySQL, R, Julia и Haskell. Разработчик отмечает хорошие результаты в генерации кода и математике, однако независимые количественные оценки в карточке не приведены. Доступна лицензия Llama 3; перед использованием следует учитывать её условия.

legraphista/Codestral-22B-v0.1-hf-FIM-fix — конвертированная версия Codestral-22B-v0.1 от Mistral AI с исправленным токенизатором и добавленными специальными токенами для инструкций и заполнения пропусков в коде. Это плотная авторегрессионная модель семейства Mistral на 22 млрд параметров с контекстом до 32 768 токенов. Модель предназначена для генерации кода по инструкциям, объяснения и документирования фрагментов, рефакторинга и предсказания пропущенной части кода между префиксом и суффиксом (Fill in the Middle), в том числе в инструментах разработки. Она обучена на данных более чем по 80 языкам программирования, включая Python, Java, C, C++, JavaScript и Bash. В карточке указано, что исходная версия имела пропущенные токены в словаре, а эта версия основана на обновлённой копии с исправлением. Модель не имеет встроенных механизмов модерации. Лицензия обозначена в метаданных как other; конкретные условия следует проверять на странице репозитория.

deepseek-ai/deepseek-coder-33b-instruct — языковая модель для программирования, разработанная DeepSeek. Это плотная авторегрессионная модель семейства Llama с 33,1 млрд параметров, дообученная на 2 млрд токенов инструкций на основе deepseek-ai/deepseek-coder-33b-base. Модель принимает текст и генерирует текст; она рассчитана на диалоговые запросы о коде и задачи генерации кода. Модель подходит для написания и дополнения кода, заполнения пропусков в файлах, объяснения программ и ответов на вопросы по программированию. Семейство DeepSeek Coder обучалось на 2 трлн токенов, в том числе на проектном коде и текстах на английском и китайском языках; контекст модели составляет 16 384 токена. В README заявлены высокие результаты семейства на бенчмарках HumanEval, MultiPL-E, MBPP, DS-1000 и APPS, но конкретные результаты этой instruct-версии не приведены. Модель распространяется по лицензии, обозначенной в метаданных как «other»; конкретные условия следует сверить с карточкой репозитория. Ее назначение ограничено программированием, а качество ответов и корректность сгенерированного кода требуют проверки.

Это экспериментальная версия DeepSeek-R1-Distill-Llama-70B, созданная huihui-ai методом abliteration: из модели удаляли склонность отказываться от ответов. Это плотная причинно-следственная языковая модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов; она работает через Transformers и принимает и выдаёт текст. Модель предназначена для диалогов и генерации текста, в том числе для математических рассуждений, программирования и ответов на сложные вопросы — эти возможности унаследованы от базовой модели. Вариант с abliteration нацелен на ответы без типичных отказов, однако автор описывает метод как грубый proof of concept. Лицензия в предоставленных данных не указана.

Карточка модели Openintelligent123/DeepSeek-R1-Distill-Qwen-14B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

Карточка модели xiaozhibro/DeepSeek-R1-Distill-Qwen-7B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

Dolphin 3.0 Qwen 2.5 1.5B — инструктивно дообученная языковая модель, созданная Eric Hartford, Ben Gitter, BlouseJury и Cognitive Computations на базе Qwen/Qwen2.5-1.5B. Это плотная авторегрессионная модель с 1,5 млрд параметров; она принимает текст и генерирует текст, поддерживает чат по шаблону ChatML и интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Модель предназначена для локального применения общего назначения: диалогов и ответов на вопросы, помощи с программированием и математикой, а также агентных сценариев с вызовом функций. При обучении использовались наборы данных для кода, математики, инструкций и общения. Карточка указывает английский язык; дополнительные языки не заявлены. Модель ориентирована на настраиваемые системные инструкции и использование в собственном приложении. Компактный размер облегчает локальное развёртывание, но возможности и качество могут уступать более крупным моделям, а результаты требуют проверки. Лицензия — Apache-2.0.

Eurus-70B-SFT — большая языковая модель OpenBMB, дообученная для рассуждений на основе CodeLLaMA-70B. Модель содержит 68,7 млрд параметров, использует плотную архитектуру LLaMA и принимает контекст до 16 384 токенов. Она обучена на корректных действиях из UltraInteract с небольшой примесью примеров UltraChat, ShareGPT и OpenOrca. Модель предназначена для диалогов и решения задач, требующих пошаговых рассуждений, в том числе математических и связанных с программированием. Для кода и математики авторы рекомендуют специальные шаблоны запросов, согласованные с форматами обучающих данных. В README заявлены высокие результаты на сравнительных оценках, но подробные результаты в карточке не приведены. Модель распространяется в формате safetensors по лицензии Apache 2.0.

EvaByte-SFT — дообученная с учителем языковая модель EvaByte на 6,5 млрд параметров, разработанная авторами проекта EvaByte. Это плотная byte-level модель для генерации текста: она обрабатывает текст на уровне байтов, использует предсказание нескольких байтов и механизм внимания EVA. Модель обучалась на текстах, математических материалах и коде; карточка отмечает высокую скорость декодирования и результаты в задачах программирования. Модель предназначена для диалогового использования и генерации текста, в том числе для помощи с кодом и математическими задачами. Контекст составляет 32 768 токенов. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. В карточке не приведены результаты отдельных оценок качества EvaByte-SFT, поэтому заявленные преимущества исходной EvaByte не следует считать гарантией для каждого сценария.

Fireball-12B — языковая модель EpistemeAI для генерации текста, дообученная на базе EpistemeAI/Fireball-Mistral-Nemo-Base-2407-sft-v2.2a. Это плотная трансформерная модель семейства Mistral с архитектурой MistralForCausalLM и 12,1 млрд параметров. Для ответов рекомендуется формат инструкций Alpaca; модель дополнительно дообучалась методом ORPO на предпочтениях и на наборах с примерами программирования и инструкций. Модель предназначена для ответов на инструкции и помощи с программированием. В карточке указано контекстное окно 128k токенов, а метаданные каталога сообщают native context в 1 024 000 токенов; эти значения расходятся, поэтому фактический доступный контекст следует проверять для используемой версии и программного стека. Доступны веса в формате Safetensors, лицензия Apache 2.0. Автор предупреждает, что встроенных механизмов модерации нет; для развертывания с пользовательским вводом рекомендуется отдельно настроить фильтрацию.

EpistemeAI2/Fireball-Phi-3-medium-4k-inst-Philos — дообученная на базе Phi-3 Medium Instruct модель для генерации ответов в диалоговом формате. Карточка описывает семейство Phi-3 Medium как плотную авторегрессионную языковую модель примерно на 13,8 млрд параметров; контекст составляет 4096 токенов. Эта версия ориентирована на английский язык и общие коммерческие и исследовательские сценарии, включая работу в условиях ограниченных вычислительных ресурсов и низкой задержки. Модель подходит для диалоговых помощников, ответов на вопросы, а также задач рассуждения, математики, логики и программирования. Базовая Phi-3 Medium Instruct прошла supervised fine-tuning и direct preference optimization для следования инструкциям и повышения безопасности. Репозиторий содержит веса в формате safetensors; лицензия — Apache 2.0. Как и другие языковые модели, она может выдавать неточные или вымышленные сведения, предвзятые или оскорбительные ответы. Качество на языках помимо английского ниже; сгенерированный код и ответы для чувствительных или высокорисковых сценариев требуют проверки. README преимущественно описывает базовую Phi-3 Medium Instruct, поэтому отдельные характеристики дообучения EpistemeAI2 на философских данных в предоставленной карточке подробно не раскрыты.

Gemma 4 12B JANG4M CRACK — мультимодальная модель на основе Google Gemma 4 12B IT, опубликованная dealignai. Это дообученная и квантизованная версия с плотной унифицированной архитектурой для обработки текста и изображений; в README также заявлена поддержка аудиовхода. Модель предназначена для диалогов, ответов на вопросы, многошаговых рассуждений, генерации кода и работы с визуальными входами. Квантизация JANG_4M использует 8-битные веса для attention и 4-битные для MLP. Авторы сообщают о сохранении возможностей базовой модели, включая vision и audio, и приводят результаты собственных проверок MMLU и HarmBench. Метаданные указывают библиотеку MLX и формат safetensors; для запуска README требует Apple Silicon и vMLX с поддержкой Gemma 4. Модель описана как abliterated: авторы заявляют об удалении отказов и высокой доле выполнения запросов из категорий HarmBench. Это важное ограничение для сценариев, где требуется безопасное ограничение ответов. Лицензия — Gemma; авторы указывают исследовательское назначение и возлагают на пользователей ответственность за соблюдение применимых законов.

Gemma-4-26B-A4B-JANG_2L-CRACK — мультимодальная модель семейства Gemma 4 от dealignai, созданная на основе google/gemma-4-26b-a4b-it. Это вариант с ослабленными отказами и смешанной 2-битной квантизацией JANG_2L: критические компоненты хранятся в 8 битах, важные — в 6, а большая часть весов экспертных блоков — в 2 битах. По данным карточки, модель занимает 9,9 ГБ и использует архитектуру MoE с 128 экспертами, из которых активируются восемь, и гибридным скользящим и глобальным вниманием. Модель предназначена для диалогов, программирования, общих вопросов и работы с изображениями; поддерживает режим рассуждений. Автор сообщает о тестировании генерации кода и запросов по информационной безопасности, а также приводит собственные результаты MMLU и HarmBench. Эти показатели получены на тестах автора и не гарантируют качество в других сценариях. Для запуска рекомендованы vMLX или совместимый движок MLX с поддержкой Gemma 4; заявлены Apple Silicon и не менее 16 ГБ объединённой памяти. Лицензия — gemma; автор обозначает модель как исследовательскую и возлагает на пользователей ответственность за соблюдение применимых законов.

ZHENDANG/Gemma-4-31B-JANG_4M-CRACK — мультимодальная модель семейства Gemma 4 от dealignai, созданная на основе google/gemma-4-31b-it. Это доработанная методом abliteration версия плотной архитектуры Gemma 4 с 31 млрд параметров, гибридным скользящим и глобальным вниманием и сохранённым визуальным энкодером. Модель предназначена для диалогов, рассуждений, программирования и ответов на запросы по тексту и изображениям; поддерживает режим thinking. В README авторы сообщают о высокой доле ответов на вредоносные запросы в их тесте HarmBench и о прохождении проверок по кибербезопасности и пентестингу. Эти результаты отражают заявленные авторами тесты и не гарантируют качество в других сценариях. Для запуска рекомендован vMLX на компьютерах Apple Silicon с не менее чем 32 ГБ объединённой памяти; указано, что стандартные mlx_lm и mlx_vlm на момент подготовки карточки модель не поддерживают. Модель распространяется по лицензии Gemma; авторы указывают исследовательское назначение и ответственность пользователя за соблюдение законов.

Akicou/GLM-4.7-Flash-REAP-19 — сжатая версия GLM-4.7-Flash, созданная с помощью метода REAP (Router-weighted Expert Activation Pruning) компании Cerebras. В модели удалено 50% экспертов; README указывает, что сжатие выполнено без дополнительного дообучения. Архитектура GLM-4 MoE Lite, размер — 4,1 млрд параметров, контекст — до 202 752 токенов. Модель предназначена для генерации текста, кода, вызова функций и агентных сценариев; поддерживает запуск через vLLM, Transformers и SGLang. Карточка описывает калибровку для задач кода и инструментов, сохранившую возможности базовой модели в этих сценариях. Репозиторий предоставляет веса Safetensors и заявляет лицензию MIT. В README отмечена проблема совместимости GGUF с llama.cpp: файлы GGUF пересоздаются после исправления ошибки, вызывавшей зацикливание и низкое качество ответов; в метаданных GGUF не указан.

Gonzo-Code-7B — объединённая языковая модель на базе Mistral-7B, созданная с помощью mergekit и метода DARE TIES. В объединение вошли Nondzu/Mistral-7B-Instruct-v0.2-code-ft, xingyaoww/CodeActAgent-Mistral-7b-v0.1 и beowolx/MistralHermes-CodePro-7B-v1; базовой моделью при слиянии указана eren23/ogno-monarch-jaskier-merge-7b-OH-PREF-DPO. Модель предназначена для генерации текста, включая ответы в диалоге и помощь с кодом. Архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, контекст — до 32 768 токенов. В метаданных указан английский язык; базовые модели включают варианты для программирования и выполнения действий через инструменты. Модель распространяется в формате safetensors под лицензией Apache-2.0. Карточка не приводит сравнительных оценок качества или подробных ограничений, поэтому пригодность для конкретного сценария следует проверять отдельно.

Liorath-3B-Final — языковая модель на архитектуре Qwen2, созданная методом SLERP-слияния Qwen/Qwen2.5-3B-Instruct и Qwen/Qwen2.5-Coder-3B-Instruct. По метаданным, модель содержит 2,5 млрд параметров, работает с текстом и использует библиотеку Transformers. Модель предназначена для диалогов и генерации текста по инструкциям; слияние с кодовой моделью также делает её применимой к задачам программирования. Контекстное окно составляет 32 768 токенов. Поддержка нескольких языков унаследована от базовой Qwen2.5-3B-Instruct. В репозитории указаны веса Safetensors. Лицензия в предоставленных данных не указана.