II.4Отладка, тестирование и качество ПО

Gemma 4 26B-A4B-it-qat-MXFP4-CRACK — мультимодальная модель dealignai на основе Google Gemma 4 26B-A4B-it. Это вариант с удалённым отказом на запросы, который сохраняет работу с изображениями, ответы на вопросы, многошаговые рассуждения и генерацию кода. По данным карточки, в тесте HarmBench модель выполнила 58 из 60 запросов из вредоносных категорий, а результат MMLU составил 78,5% против 83,3% у базовой модели. Модель использует архитектуру MoE с 128 экспертами и восемью активными экспертами, а веса представлены в квантизации MXFP4 с точностью 4 бита. Для запуска автор рекомендует vMLX с поддержкой Gemma 4 на компьютерах Apple Silicon с достаточным объёмом объединённой памяти; стандартные mlx_lm и mlx_vlm, согласно README, не обеспечивают полной поддержки Gemma 4. Модель распространяется по лицензии Gemma. Она рассчитана на универсальный диалог с текстом и изображениями, но заметно снижает барьеры отказа на вредоносные запросы; результаты тестов приведены автором модели.

HopCoder Mini 35B A3B VL36 Full-SFT GGUF — это конверсия и набор GGUF-квантовок модели TaimoorSiddiqui/HopCoder-Mini-35B-A3B-VL36-fullsft, разработанной TaimoorSiddiqui. Модель получила 400 шагов full fine-tuning и предназначена для запуска через llama.cpp, включая сценарии генерации текста, vision-language задач и агентских приложений с вызовами инструментов. Формат вызова инструментов использует JSON внутри тегов <tool_call>. Архитектура относится к классу mixture-of-experts (MoE) и обозначена как 35B A3B; точные параметры модальностей, размер контекста и языковая поддержка в README не указаны, за исключением английского языка в метаданных. Репозиторий содержит варианты от BF16 и F16 до различных квантовок Q2–Q8 и TQ2, что позволяет выбирать компромисс между качеством, размером файлов и требованиями к ресурсам. Квантовки низкой точности IQ2_*, IQ3_*, IQ4_* и Q2_K_S отсутствуют, поскольку требуют importance matrix calibration, которая не применялась. Лицензия указана как other. Обучающий набор включает источники с лицензиями Apache-2.0, AGPL-3.0, MIT и other, поэтому производную модель нельзя автоматически считать распространяемой на условиях permissive-лицензии; условия использования следует проверять отдельно.

lexi-coder-v4.4-i1-GGUF — это набор квантизированных GGUF-версий модели reallexi/lexi-coder-v4.4, подготовленный пользователем mradermacher. Модель относится к текстовым генеративным моделям и предназначена прежде всего для задач генерации кода и другого текста. В README указана поддержка английского языка, а также наличие fine-tuning и LoRA в исходной модели, однако подробности архитектуры, количества параметров, размера контекста и используемых языков программирования не приведены. Набор включает варианты квантизации i1 с форматами IQ и Q, размером примерно от 1,3 до 3,3 ГБ. Это позволяет выбирать между меньшим потреблением памяти, скоростью работы и качеством, причём README рекомендует i1-Q4_K_M как быстрый вариант, а i1-Q4_K_S называет оптимальным по соотношению размера, скорости и качества. Более агрессивные варианты могут заметно снижать качество, что является основным ограничением квантизации. Доступен также файл imatrix для создания собственных квантов. Лицензия обозначена как other и требует соблюдения условий базовой модели и датасета; конкретные условия в README не раскрыты. Для использования необходима совместимая среда, поддерживающая GGUF.

LLaMA-3-8B-SFR-Iterative-DPO-R — диалоговая инструктивная языковая модель Salesforce, основанная на архитектуре Llama 3. В репозитории указано 7,5 млрд параметров; модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов. Она обучена с помощью итеративного онлайн RLHF на основе DPO с открытыми наборами данных, без дополнительной разметки людьми или GPT-4. Модель предназначена для диалоговых ответов и следования инструкциям. В карточке Salesforce сообщает о результатах на Alpaca-Eval-V2, MT-Bench и Chat-Arena-Hard, а также приводит академические бенчмарки, включая GSM-8K, MMLU и HumanEval. README обозначает выпуск как исследовательский, предназначенный для поддержки академической работы; лицензия в метаданных — llama3. Модель может выдавать оскорбительный или неэтичный контент, особенно при состязательных запросах. Salesforce рекомендует проверять точность, безопасность и справедливость перед применением, особенно в высокорисковых сценариях. Поддерживаемые естественные языки явно не перечислены.

Masker — многоязычный классификатор токенов для обнаружения персональных данных (PII), разработанный как нейронная часть системы редактирования чувствительной информации. Модель на базе DeBERTa-v3 дообучена Microsoft mDeBERTa-v3-base на наборе ai4privacy/pii-masking-openpii-1m; в метаданных указано 218,2 млн параметров, контекст — 512 токенов. Веса сохранены в формате safetensors. Модель размечает имена, адреса, возраст, даты, телефоны, электронную почту, банковские карты и государственные идентификаторы. Она выдаёт BIOES-метки для токенов; преобразование меток в символьные интервалы и объединение результатов с правилами выполняет сопутствующий пакет mask. В README заявлена поддержка 23 европейских языков, а в метаданных перечислены 21 код языка. На валидационной выборке openpii-1m указаны строгий span F1 0,982 и typed F1 0,995. Данные синтетические и шаблонные, поэтому качество на реальных текстах может быть ниже; для ответственного применения требуется проверка остаточных утечек. Лицензия модели указана в метаданных как other; README отмечает лицензию MIT для базовой модели и требует сохранять атрибуцию набору данных CC-BY-4.0 при downstream-использовании.

Mythos-9B-Unhinged — языковая модель примерно на 9 млрд параметров, разработанная King3Djbl. Данный репозиторий содержит её квантизированные версии в формате GGUF, подготовленные mradermacher с использованием imatrix-квантования. Модель ориентирована на англоязычную генерацию текста, ролевые сценарии, программирование, работу с агентами, вызов функций и инструментов, а также взаимодействие с shell-командами. В описании также заявлены режимы без отказов и использование в FableForge, LM Studio, llama.cpp и Ollama, однако подробности обучения и результаты тестирования не приведены. Архитектура, точное число параметров, поддерживаемый размер контекста и дополнительные модальности в README не указаны; по имеющимся данным это текстовая модель без заявленной поддержки изображений или аудио. Доступны варианты GGUF с разными уровнями квантования и размером примерно от 2,2 до 6,8 ГБ. Более компактные варианты требуют меньших ресурсов, но могут заметно терять в качестве; автор рекомендует i1-Q4_K_M как быстрый вариант, а i1-Q4_K_S характеризует как оптимальный баланс размера, скорости и качества. Модель подходит для локального запуска и задач, где важны ролевое взаимодействие, генерация кода и использование инструментов. Ограничения включают неизвестные параметры контекста, отсутствие опубликованных бенчмарков и вероятное ухудшение качества у низкобитных квантов. Указанная лицензия — Apache-2.0.

Nemotron-H-8B-Base-8K — базовая большая языковая модель NVIDIA для продолжения заданного текста и создания исходных решений, на основе которых разработчики и исследователи могут создавать специализированные LLM. Это модель семейства Nemotron-H с гибридной архитектурой Mamba-2 и MLP, дополненной четырьмя слоями Attention; размер — 8 млрд параметров, контекст — до 8K токенов. Модель принимает и генерирует текст. Модель обучена на английском и многоязычных текстах, включая немецкий, испанский, французский, итальянский, корейский, португальский, русский, японский и китайский, а также на коде. Она подходит для продолжения текста, генерации кода и настройки под пользовательские задачи с помощью дообучения и выравнивания. NVIDIA указывает, что модель предназначена для исследовательской и опытно-конструкторской работы; для работы рекомендованы NeMo и GPU NVIDIA. Лицензия в метаданных обозначена как other. Модель может выдавать неточные, нерелевантные или избыточные ответы и воспроизводить токсичность и предвзятость из обучающих данных. NVIDIA также сообщает о слабой устойчивости к косвенным prompt injection через некоторые кодировки, в частности Base16, Hex/ASCII и Braille.

OpenCoderPlus — языковая модель для генерации кода из серии OpenChat, разработанной командой OpenChat. Она дообучена на базе StarCoderPlus и предназначена для продолжения и генерации кода, а также для диалога в формате User/Assistant. Модель использует архитектуру GPTBigCodeForCausalLM, принимает текст и выдаёт текст; заявленная длина контекста — 8192 токена. Карточка сообщает об оценках на Vicuna GPT-4 и AlpacaEval, однако не приводит подробностей методики для задач программирования. Для диалогов используется шаблон с маркерами User, Assistant и специальным токеном конца хода. Репозиторий содержит веса PyTorch. README рекомендует загружать модель в формате bfloat16. Лицензия в предоставленных данных не указана.

opencsg/opencsg-CodeLlama-13b-v0.1 — генеративная модель для работы с программным кодом, разработанная OpenCSG. Это версия CodeLlama на 12,9 млрд параметров, полученная полнопараметрическим дообучением базовой CodeLlama-13b-hf. Модель использует плотную архитектуру Llama и принимает текстовые запросы, включая задания на генерацию и дополнение кода. Модель подходит для генерации фрагментов кода и решения задач программирования; в карточке приведена оценка семейства на HumanEval для Python, а обучающие данные включают несколько языков программирования. Заявленная длина контекста — 16 384 токена. Доступны веса в формате safetensors; лицензия указана как llama2. Карточка отмечает, что качество зависит от способа декодирования и параметров, а оценки бенчмарков могут не отражать все практические сценарии.

OPSD-PI Qwen3.5-9B Strong Trailing — update 4 — это непосредственно загружаемый объединённый чекпойнт семейства Qwen3.5, опубликованный LSW142857. Репозиторий содержит плотную модель класса Qwen3_5ForConditionalGeneration в формате safetensors; в метаданных указана библиотека Transformers и задача text-generation. Модель прошла четыре обновления оптимизатора на запуске Strong PI trailing_user с 1024 строками на восьми RTX A6000. Чекпойнт объединяет экспертную SFT-инициализацию, обновления LoRA основной модели и MTP, а также обученные тензоры full-MTP; дополнительный адаптер или шаг слияния для загрузки не требуется. Модель предназначена для генерации текста в диалоговом режиме и задач с кодом. В README описаны происхождение и структура весов, но не приведены результаты на отложенных наборах данных; автор рекомендует оценивать студента без PI на задачах, не входивших в обучающие 1024 строки. Лицензия в предоставленных сведениях не указана.

Pix2Struct Widget Captioning Large — модель Google для понимания изображений, построенная по схеме «визуальный энкодер — текстовый декодер» и реализованная как Pix2StructForConditionalGeneration. Она принимает изображение и может отвечать на вопросы о его содержимом; семейство Pix2Struct также обучалось для создания подписей к изображениям и разбора визуально представленного языка. Предобучение включало преобразование замаскированных снимков веб-страниц в упрощённый HTML, а вход переменного разрешения позволяет работать с разнообразными визуальными материалами. Модель предназначена для визуальных вопросов и ответов, в том числе по изображениям веб-страниц, документов, интерфейсов, иллюстраций и фотографий. В метаданных указаны языки английский, французский, румынский и немецкий, а также мультиязычная поддержка. Репозиторий содержит веса PyTorch и Safetensors; лицензия — Apache-2.0. README описывает семейство Pix2Struct в целом, поэтому отдельные показатели качества и точные характеристики именно версии Widget Captioning Large здесь не подтверждены.

Python-Code-13B — полноразмерная дообученная модель для генерации кода, созданная ajibawa-2023 на базе Llama 2 от Meta. Она обучена на более чем 23 тысячах наборов кода с двумя диалогами в каждом; данные в формате Vicuna/ShareGPT содержат код и подробные объяснения. Модель предназначена для генерации Python-кода и пояснения к нему в формате диалога. Это плотная авторегрессионная архитектура Llama с 12,9 млрд параметров и контекстом 4096 токенов; основные данные и назначение ориентированы на английский язык. Для весов указана лицензия CC-BY-NC-ND-4.0, ограничивающая коммерческое использование и распространение производных версий.

Agnuxo/Qwen2-7B-Instruct_CODE_Python_Spanish_English_Asistant-16bit — локальная чат-модель для генерации кода, представленная Francisco Angulo de Lafuente в рамках экосистемы P2PCLAW. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров и контекстом до 32 768 токенов; веса опубликованы в формате safetensors. В README заявлена помощь с Python, JavaScript, TypeScript, Rust, Go и C++, а также с научными вычислениями и библиотеками NumPy, SciPy, Pandas, PyTorch, TensorFlow и JAX. Модель предназначена для диалоговой генерации кода и помощи при разработке, в том числе локально через Ollama или Transformers. Карточка заявляет поддержку английского и испанского языков. Лицензия — Apache-2.0. README также содержит указание перенаправлять запросы на написание научных статей в P2PCLAW; качество кода, языковое покрытие за пределами заявленных языков и результаты независимой оценки в предоставленных данных не подтверждены.

Qwen3.5-2B-OptiQ-4bit — это локальная MLX-квантизация базовой модели Qwen/Qwen3.5-2B, подготовленная сообществом mlx-community с помощью инструментария mlx-optiq. Модель предназначена для запуска генерации текста на устройствах Apple Silicon без PyTorch и облачной инфраструктуры; её можно использовать через mlx-lm, а для расширенных сценариев — через mlx-optiq. Модель имеет преимущественно 4-битную смешанную точность: 130 слоёв используют 4-bit, а 56 чувствительных слоёв — 8-bit; всего квантизировано 186 слоёв, размер группы — 64. Распределение точности выбрано по результатам анализа чувствительности на калибровочной выборке из шести доменов: проза, рассуждения, код, агентские сценарии, вызовы инструментов и инструкции с ограничениями. Размер на диске составляет около 1,4 ГБ. В комплект входит MTP-голова для спекулятивного декодирования, обеспечивающая примерно 1,4-кратное ускорение генерации при поддержке mlx-optiq. Модель подходит для общего текстового общения, рассуждений, следования инструкциям, генерации кода, вызова инструментов и локальных агентских рабочих процессов. По указанным тестам она показывает 58,9% на MMLU, 55,6% на GSM8K, 59,7% на IFEval, 77,0% на BFCL и 51,2% на HumanEval; средний Capability Score составляет 50,41. Сильными сторонами являются компактность, адаптация к Apple Silicon и улучшенные по сравнению с равномерной 4-битной квантизацией результаты в большинстве метрик, особенно в HumanEval и BFCL. Ограничения включают зависимость от MLX и экосистемы Apple Silicon, потери качества из-за квантизации и нулевой результат в заявленном тесте длинноконтекстного поиска HashHop. Размер контекста, поддерживаемые языки и точные характеристики исходной Qwen3.5-2B в README не указаны. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — это многоэтапная дообученная и объединённая версия модели Qwen3.8 с 27 млрд параметров, распространяемая командой Smilyai-Labs-GRACE-team на базе модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В README заявлено использование методов COLD FUSION и Fable Fusion 711, а также инструментов Unsloth. Репозиторий содержит обычные GGUF-квантизации и варианты MTP GGUF, ориентированные на запуск на потребительском оборудовании. Модель предназначена для широкого круга задач: рассуждений и решения проблем, программирования, творческого письма, создания историй, ролевых сценариев и других универсальных применений. Заявлены режимы thinking и reasoning, а основной акцент сделан на сокращении объёма рассуждений и ускорении генерации при сохранении детализации и качества ответов. Указаны английский и китайский языки. Метаданные также помечают модель как image-text-to-text, однако подробности о поддерживаемых визуальных входах и соответствующей архитектуре в README не приведены. К заявленным сильным сторонам относятся улучшенные результаты на внутренних и упомянутых в README тестах ARC-C и ARC-E, сокращение расхода токенов на рассуждения, высокая скорость, поддержка кодинга и творческих сценариев, а также наличие 4-битных и 8-битных GGUF-вариантов. Эти показатели представлены авторами модели и не сопровождаются независимой методикой проверки. Ограничения включают отсутствие данных о длине контекста, точных параметрах архитектуры, системных требованиях и качестве на широком наборе внешних тестов; заявления о «uncensored» также указывают на возможное отсутствие стандартных защитных ограничений. Лицензия — Apache-2.0.

ZiRoX112 подготовил GGUF-квантизацию Qwen3.8-27B-Uncensored Q38mix v6 для локального запуска. В основе — дообученная модель OrcaRouter на 27 млрд параметров с гибридной архитектурой gated-delta-net и attention, а также MTP-головой. Файл v6 занимает 19,32 ГБ при 5,655 битах на вес; автор ориентирует его на кодинг-агентов на потребительских GPU с 24–32 ГБ видеопамяти. Квантизация выполнена с помощью собственной importance matrix и распределения точности по тензорам, которое учитывает изменения, связанные с удалением отказов в базовой модели. README сообщает о сохранении такого поведения в проведённых проверках и приводит сравнение качества с BF16-эталоном. Модель предназначена для генерации текста и диалогового использования; метаданные указывают английский, итальянский и китайский языки. Это производный GGUF-файл, основанный на Q8_0-версии модели и созданный с разрешением повторной квантизации. В README раскрыты ограничения оценки: часть распределения eval-токенов совпадала с калибровочным корпусом, а измерения отказов проводились на небольшом наборе запросов. Лицензия в предоставленных данных не указана.

QwQ-32B-GGUF — это квантизированная в формате GGUF версия языковой reasoning-модели QwQ-32B, разработанной командой Qwen. Модель предназначена для генерации текста и диалоговых сценариев, в частности для задач, требующих рассуждений. Указанный вариант подготовлен quantized_by: bartowski на основе llama.cpp release b4792 и распространяется как community-модель для LM Studio. Модель имеет размер 32B параметров, поддерживает контекст до 128 тысяч токенов и ориентирована на работу с текстом на английском языке. README не указывает поддержку изображений, аудио или других модальностей, поэтому модель следует рассматривать как текстовую. Квантизация в GGUF делает её пригодной для локального запуска в совместимом программном обеспечении, однако конкретные требования к памяти, скорость и качество зависят от выбранного варианта квантизации и оборудования. Сильными сторонами модели являются специализация на рассуждениях, большой контекст и возможность локального использования через инструменты экосистемы llama.cpp и LM Studio. Ограничениями остаются английская языковая ориентация, необходимость значительных вычислительных ресурсов для модели такого размера и возможное снижение качества по сравнению с исходной моделью из-за квантизации. README предупреждает, что модель может генерировать неточный, вредный или неуместный контент, поэтому результаты требуют проверки. Лицензия — Apache-2.0.

Truss Python — специализированная дообученная модель Truss AI для генерации и объяснения кода на Python. Она основана на Qwen/Qwen3-4B-Instruct-2507 и использует архитектуру Qwen3ForCausalLM; карточка указывает 4 млрд параметров и контекст до 262 144 токенов. Модель распространяется в формате GGUF с квантизацией Q4_K_M и адаптацией LoRA, рассчитана на локальный запуск, в том числе через Ollama. Модель предназначена для генерации аккуратно структурированного кода, решения алгоритмических задач и помощи с асинхронным программированием, стандартной библиотекой Python и структурами данных. Она ориентирована на аннотации типов, документацию в стиле Google, обработку ошибок и синтаксис Python 3.10+. Лицензия — Apache 2.0. Карточка описывает поддержку английского языка; качество кода и корректность результатов следует проверять, особенно для сложных задач и кода, используемого в production.

airoboros-13b-gpt4-1.4 — плотная авторегрессионная модель семейства LLaMA примерно на 12,9 млрд параметров, дообученная автором jondurbin на синтетических данных, созданных с помощью GPT-4. Это полное дообучение, а не QLoRA; модель опубликована в формате PyTorch и использует шаблон диалога Vicuna 1.1. Модель предназначена для генерации ответов в диалоге, ответов на вопросы по предоставленному контексту, написания текстов и кода. В обучающие примеры включены многоходовые беседы, ролевые диалоги, шутки, загадки и задачи по программированию на десяти языках. Контекстное окно составляет 2048 токенов; русский язык отдельно не заявлен. Автор сообщает, что модель обучали отвечать по заданному контексту и стараться ограничивать ответ его содержимым, однако это не гарантирует отсутствия выдуманных фактов. В карточке также указана настройка на ответы без отказов, в том числе на потенциально незаконные или аморальные запросы. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

bhenrym14 создал экспериментальную модификацию Airoboros 33B GPT-4 1.4.1 на архитектуре Llama. Это плотная авторегрессионная языковая модель примерно на 32,3 млрд параметров, дообученная с помощью QLoRA и RoPE scaling; веса опубликованы в формате safetensors. README описывает обучение на синтетическом наборе airoboros-gpt4-1.4.1 и расширение контекстного окна до 8192 токенов, однако метаданные указывают native context в 2048 токенов, поэтому фактическую поддержку длинного контекста следует считать экспериментальной. Модель предназначена для диалоговых ответов, следования инструкциям, ответов по предоставленному контексту, ролевых сценариев, загадок и задач на программирование. Обучающие данные включают примеры кода на десяти языках программирования; естественные языки в карточке явно не перечислены. Автор сообщает о хороших впечатлениях от отдельных экспериментов, но отмечает, что влияние на задачи вне оценки perplexity не установлено. README не сообщает лицензию.

CodeBarcenas-13b — языковая модель для генерации кода на Python, разработанная автором репозитория Danielbrdz. Она основана на WizardLM/WizardCoder-Python-13B-V1.0 и дообучена на наборе mlabonne/Evol-Instruct-Python-1k. Модель построена на плотной архитектуре Llama и содержит 12,9 млрд параметров; для запуска доступны веса PyTorch, контекст — до 16 384 токенов. Модель предназначена для генерации и продолжения кода Python, а также для ответов на инструкции и вопросы по этому языку программирования. Указана лицензия llama2. В README не приведены результаты оценки качества или подробные сведения об ограничениях; качество ответов может зависеть от формулировки запроса и обучающих данных.

Salesforce/codet5p-770m-py — модель CodeT5+, разработанная Salesforce Research для понимания и генерации программного кода. Это плотная модель семейства T5 с архитектурой encoder-decoder и 385,2 млн параметров; карточка описывает семейство как способное работать в режимах encoder-only, decoder-only и encoder-decoder. Модель загружает через T5ForConditionalGeneration и использует токенизатор исходного CodeT5. Контекст составляет 512 токенов. Чекпойнт предварительно обучен на разрешительном подмножестве GitHub Code и ориентирован на код на C, C++, C#, Go, Java, JavaScript, PHP, Python и Ruby. Он подходит для генерации кода по текстовому описанию, дополнения кода, поиска соответствия между текстом и кодом и других задач понимания кода. В zero-shot тесте HumanEval показал 15,5% pass@1. Лицензия — BSD-3-Clause. Разработчики позиционируют выпуск как исследовательский и рекомендуют проверять точность, безопасность и справедливость перед внедрением; качество для конкретных прикладных сценариев требует отдельной оценки.

Dzluck публикует Gemma 4 E2B JANG4M CRACK — изменённую версию Google Gemma 4 E2B Instruct с удалёнными отказами. Модель предназначена для диалогов, рассуждений, ответов на вопросы и генерации кода; принимает текст и изображения, а автор также заявляет о сохранении аудиовхода. Каталог Hugging Face относит её к мультимодальной задаче image-text-to-text и указывает архитектуру Gemma4ForConditionalGeneration с плотной архитектурой. Модель использует смешанную квантизацию JANG_4M: 8-битные веса внимания и 4-битные веса MLP, в среднем около 4,3 бита. По данным автора, MMLU снизился на 1,7 процентного пункта относительно исходной модели; в тестах HarmBench автор сообщает о полном выполнении запросов вредных категорий. Для запуска нужны Mac на Apple Silicon и vMLX с поддержкой Gemma 4; стандартные mlx_lm и mlx_vlm поддерживаются не полностью. Лицензия — Gemma; карточка также обозначает модель как предназначенную для исследований.

noctrex/GLM-4.7-Flash-i1-MXFP4_MOE_XL-exp-GGUF — экспериментальная GGUF-квантизация GLM-4.7-Flash, подготовленная автором noctrex. В ней применяется смешанная точность MXFP4_MOE: для тензоров с высокой оценкой важности используются BF16, со средней — Q8_0, с низкой — MXFP4; оценки важности рассчитаны с помощью imatrix. Автор ориентирует вариант на задачи программирования. Модель предназначена для генерации текста в диалоговом формате, включая помощь с кодом. В качестве основы указана zai-org/GLM-4.7-Flash — диалоговая MoE-модель Z.ai для генерации текста, рассуждений и программирования с длинным контекстом. В карточке этого варианта не приведены отдельные значения размера модели и длины контекста. Формат файлов — GGUF. Квантизация экспериментальная; автор не сообщал о проведённых бенчмарках, поэтому её преимущество перед основной версией MXFP4_MOE не подтверждено. Сведения о лицензии в предоставленных данных отсутствуют.

HalluGuard — разработанная авторами модели небольшая рассуждающая языковая модель на 3,7 млрд параметров для проверки утверждений в системах генерации с дополненным поиском (RAG). Получив документ и утверждение, она определяет, подтверждается ли оно документом, и обосновывает ответ выдержками из источника. Предусмотрены три категории: GROUNDED, HALLUCINATED_INTRINSIC и HALLUCINATED_EXTRINSIC. Модель основана на unsloth/Qwen3-4B и дообучена с помощью LoRA и ORPO на синтетическом наборе предпочтений HalluGuard-Preferences-76k. Архитектура — плотная Qwen3ForCausalLM; вход и ответ представлены текстом. Метаданные указывают контекст до 40 960 токенов, тогда как README сообщает окно 32 768 токенов. Модель рассчитана на англоязычные задачи. Лицензия — Apache-2.0.

KoAlpaca-RealQA-Solar-Ko-Recovery-11B-Merged — разговорная языковая модель, разработанная beomi. Это слитая LoRA-модель на базе beomi/Solar-Ko-Recovery-11B, дообученная для ответов на вопросы и диалоговых сценариев. Модель использует плотную авторегрессионную архитектуру LlamaForCausalLM и содержит 10,7 млрд параметров; максимальный контекст — 4096 токенов. Репозиторий распространяет веса в формате safetensors. Модель предназначена для генерации текста в диалоге, понимания запросов, письма, рассуждений, решения математических задач и помощи с кодом. В README приведены результаты оценки LogicKor для одно- и многоходовых сценариев, включая режимы с одним примером и пошаговым рассуждением. Базовая модель ориентирована на корейский и английский языки; README не уточняет отдельные языковые показатели этой версии. Лицензия — Apache-2.0.

L3.1-70b-Inori — разговорная модель на архитектуре Llama 3.1, созданная автором KaraKaraWarehouse как экспериментальный merge методом Model Stock с помощью LazyMergekit. В объединение вошли Glitz, Dracarys, Euryale, Cathallama, New Dawn, Celeste и Japanese-Instruct; конфигурация указывает bfloat16. Модель содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста, ролевых бесед, ответов на вопросы и помощи с кодом; среди компонентов есть модель, ориентированная на японский язык. README использует формат чата L3 Instruct. Автор отмечает непоследовательную цензуру: модель иногда отказывается генерировать откровенный текст, а иногда отвечает на такие запросы, и не рекомендует её к использованию. Лицензия в предоставленных данных не указана.

Это LoRA-адаптер для обнаружения персональных данных в тексте, созданный в рамках проекта semantic-router на базе BERT base uncased и настроенный для работы с библиотекой Candle на Rust. Модель выполняет токенную классификацию, чтобы находить и размечать фрагменты текста с персональными данными; метаданные также указывают поддержку классификации текста. Архитектура — BertForTokenClassification, адаптер обучен с рангом 16 и alpha 32. Размер базовой модели составляет 136,7 млн параметров, контекст — до 512 токенов; поддерживаемый язык — английский. Для использования нужны базовая модель и совместимый рантайм. Лицензия — Apache-2.0.

Macaron-V1-Preview-749B — предварительная агентная модель MindLab Research, дообученная на GLM-5.1 с помощью MinT. В README она описана как модель класса 749B: база на 744B параметров и пять специализированных LoRA-адаптеров. В метаданных указаны 30,4B параметров и контекст 202 752 токена; архитектура обозначена как GLM MoE DSA, формат весов — SafeTensors. Модель предназначена для многоходовой персональной помощи: планирования, работы с поиском и календарём, вызовов инструментов, задач с кодом и терминалом, а также генерации интерфейсов по протоколу A2UI. README указывает английский и китайский языки. Работа с адаптерами организована через маршрутизатор: базовый адаптер отвечает за общий диалог, а специализированные — за агентные, программные и другие сценарии. Для полного поведения требуется совместимая среда обслуживания с маршрутизацией LoRA, инструментами, состоянием и поддержкой A2UI; простая загрузка одного адаптера не запускает всю агентную систему. Модель выпущена по лицензии MIT. README называет её исследовательским предварительным выпуском и предупреждает, что результаты зависят от инструментов, маршрутизации и рендерера, а длинные задачи ограничены вычислительными ресурсами.

Maverick Llama 3 8B — диалоговая языковая модель на архитектуре Llama, созданная feeltheAGI на базе Meta Llama 3 8B и дообученная на наборе feeltheAGI/maverick-sharegpt. Модель содержит около 7,5 млрд параметров, принимает текст и предназначена для генерации ответов в формате чата с шаблоном ChatML; заявленная длина контекста — 8192 токена. Модель подходит для диалогового ассистента, ответов на вопросы, рассуждений и решения задач по математике. В карточке приведены результаты тестов EQ-Bench, WinoGrande, GSM8K и MathQA, но они не гарантируют качество в конкретных сценариях. Репозиторий предоставляет веса в формате Safetensors. Метаданные указывают лицензию Apache 2.0, тогда как README ссылается на Meta Llama 3 Community License Agreement; условия использования следует сверять с лицензией базовой модели.