I.11Классификация, ранжирование и сопоставление

Qwen3-4B-Instruct-2507-Q8_0-GGUF — это квантизированная версия модели Qwen3-4B-Instruct-2507, преобразованная в формат GGUF проектом ggml-org с использованием llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и работы в диалоговых и инструкционных сценариях; запуск возможен через llama.cpp в режиме CLI или сервера, включая локальное развертывание. Из известных характеристик следует, что это модель размером 4B параметров с инструкционным назначением и квантованием Q8_0. README не содержит подробностей об архитектуре, поддерживаемых языках, модальностях и размере контекста, поэтому эти свойства нельзя достоверно уточнить. Формат GGUF и совместимость с llama.cpp удобны для локального запуска на различном оборудовании, однако конкретные требования к ресурсам и производительность зависят от используемой конфигурации. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-0.8B-text-only — текстовая версия модели семейства Qwen3.5, опубликованная Principled Intelligence. Из контрольной точки удалены веса визуального энкодера; плотная авторегрессионная языковая модель содержит около 581 млн параметров и рассчитана на генерацию текста и диалоговое взаимодействие. Контекстное окно составляет 262 144 токена. Модель подходит для диалоговых приложений и генерации текста, когда обработка изображений не нужна. По данным карточки, она сохраняет токенизатор, шаблон чата и поведение генерации исходной Qwen3.5, а контрольная точка занимает меньше места и требует меньше видеопамяти. Проверена работа с Transformers версии 5.2.0 и выше; другие движки инференса в карточке не заявлены как поддерживаемые. Лицензия — Apache-2.0.

ente-ai/Qwen3.5-2B-GGUF — GGUF-версия мультимодальной модели Qwen3.5-2B, разработанной командой Qwen и основанной на Qwen/Qwen3.5-2B. Репозиторий подготовлен с использованием подхода Unsloth Dynamic 2.0 и предназначен для локального запуска, прототипирования, специализированного дообучения, исследований и разработки. Модель представляет собой каузальную языковую модель с vision encoder и поддерживает работу с текстом и изображениями. Она содержит около 2 млрд параметров, 24 слоя, скрытое измерение 2048 и нативный контекст длиной до 262 144 токенов. В архитектуре сочетаются Gated Delta Networks и элементы разреженной Mixture-of-Experts; заявлена поддержка 201 языка и диалекта. Модель совместима с экосистемой Transformers, а также с vLLM, SGLang и KTransformers. К сильным сторонам относятся мультимодальное понимание, большой контекст, компактный размер и пригодность для локального инференса и дообучения. При этом масштаб 2 млрд параметров ограничивает максимальную глубину рассуждений и качество на сложных задачах по сравнению с более крупными моделями; README прямо указывает приоритет прототипирования и исследовательских сценариев. Модель распространяется по лицензии Apache 2.0.

tvall43/Qwen3.6-14B-A3B-vibetuned-GGUF — это квантизированная GGUF-версия модели tvall43/Qwen3.6-14B-A3B-vibetuned, разработанная автором tvall43 на основе pruned-модели Qwen3.6-35B-A3B-heretic. После сокращения до 14 млрд параметров модель была дообучена методом QLoRA на данных для рассуждений Magpie Opus Pro и структурированной логики Hermes Function Calling. Модель предназначена для локальной генерации текста, диалоговых сценариев, рассуждений и вызова функций через llama.cpp и совместимые среды, включая LM Studio, Ollama и text-generation-webui. Она заявлена как мультимодальная и поддерживает работу с изображениями при использовании multimodal projector mmproj. Язык README указан как английский; размер контекста и точный набор поддерживаемых языков не приведены. Доступны варианты F16, Q8_0, Q6_K, Q4_K_M, Q3_K_M, Q2_K и MXFP4 с разными компромиссами между качеством, скоростью и требованиями к памяти. Q4_K_M ориентирован на локальный запуск примерно в 8 ГБ VRAM, Q8_0 требует около 15 ГБ памяти, а MXFP4 зависит от поддержки inference engine. Ограничениями являются возможная потеря качества в более агрессивно квантизированных вариантах и необходимость актуальной версии совместимого inference engine. Лицензия — Apache-2.0.

Qwen3.6-35B-GGUF — это GGUF-квантизация базовой модели Qwen/Qwen3.6-35B-A3B, подготовленная разработчиком 0xSero. Модель предназначена для генерации текста и запуска через llama.cpp, включая сценарии локального инференса на совместимом оборудовании. Доступны варианты с разными уровнями квантизации, включая динамическую смешанную квантизацию DYNAMIC.gguf. Модель имеет 35 млрд общих параметров, при этом на один токен активируется около 3 млрд параметров. В её основе используется гибридная архитектура Gated DeltaNet и Gated Attention с маршрутизацией через 256 экспертов; для DYNAMIC.gguf критичные компоненты внимания и маршрутизатор сохраняются в более высокой точности, а экспертные слои квантуются сильнее. Указан формат GGUF, однако размер контекста, число слоёв, скрытый размер, поддерживаемые языки и модальности в README не приведены. Сильной стороной являются варианты, ориентированные на баланс качества, размера и скорости, а также результаты тестирования на AMD Ryzen AI MAX+ 395 с Radeon 8060S, Vulkan и llama.cpp. Ограничение — заявленные показатели производительности относятся к конкретной конфигурации и могут отличаться на другом оборудовании; квантизация также может влиять на качество. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

Qwen3.8-27B-GGUF — набор квантизированных GGUF-версий базовой модели Qwen/Qwen3.8-27B, подготовленный пользователем vcruz305 для запуска через llama.cpp. Модель предназначена для локальной генерации текста и диалоговых сценариев, включая задачи с рассуждениями; для мультимодальных сценариев требуется отдельный файл mmproj. Поддерживаются английский и китайский языки. Указанный pipeline — text-generation. В основе используется 64-слойный языковой trunk архитектуры qwen35 с гибридом Gated DeltaNet; размер базовой модели — 27B параметров. Доступны квантизации от 2 до 8 бит размером примерно от 9,98 до 26,63 GiB. Версии Q2_K и Q3_K_M используют imatrix-квантизацию, остальные являются обычными K-quants. В файлах намеренно отсутствует MTP-голова для speculative decoding, что уменьшает требования к памяти, но исключает соответствующий режим ускорения. В README также заявлена поддержка контекста до 262 144 токенов при соответствующей конфигурации и аппаратных ресурсах. Сильные стороны набора — возможность запуска 27B-модели на видеокартах с 12, 16, 24 и 32+ GiB памяти, несколько вариантов компромисса между качеством и размером, а также исправленный chat template для корректной работы многошаговых агентов. Ограничения включают зависимость от достаточно новой версии llama.cpp с поддержкой qwen35, отсутствие встроенной vision-компоненты и MTP-головы, а также высокие требования к памяти для старших квантизаций и длинного контекста. Распространение заявлено по лицензии Apache-2.0, унаследованной от официальной модели Qwen.

Qwen3.8-27B-GGUF-4.2BPW-16GB — это квантованная версия плотной языковой модели Qwen3.8-27B, разработанной командой Qwen. Сборка опубликована пользователем hitsfmdj и создана с использованием Omenator AI. Модель предназначена для генерации текста и локального запуска через llama.cpp, Ollama или LM Studio, особенно на видеокартах с 16 ГБ VRAM. Модель поставляется в формате GGUF с importance-weighted смешанной точностью и эффективной точностью 4,189 бит на вес. Все 27 млрд параметров сохранены: параметры не удалялись и не подвергались дистилляции, а точность перераспределялась между тензорами с учётом их важности. Размер файла составляет 11,88 ГБ, заявленный базовой моделью контекст — 262 144 токена. Сборка рассчитана на полное размещение в памяти одной 16-гигабайтной GPU без выгрузки слоёв на CPU. Ключевое преимущество — возможность запускать 27B-модель на видеокартах класса 16 ГБ с сохранением VRAM для KV-кэша; на эталонной системе заявлена скорость декодирования 12,77 токена в секунду. Оценка потери качества составляет около 2,6% относительно почти без потерь, но основана только на perplexity и KL-divergence при отборе квантования и не подтверждена полноценным набором downstream-бенчмарков. Реальная скорость и доступный контекст зависят от оборудования, backend и настроек KV-кэша. Базовая модель и квантованная сборка распространяются по лицензии Apache-2.0; для базовой модели действуют соответствующие условия лицензии. Языки и специализированные возможности исходной Qwen3.8-27B в README не указаны.

Sohailhosseini/Qwen3.8-9B-Distill-AWQ-W4A16 — квантизированная версия модели empero-ai/Qwen3.8-9B-Distill, подготовленная пользователем Sohailhosseini. Модель предназначена для генерации текста и диалогового взаимодействия, а заявленный pipeline_tag указывает на поддержку сценариев image-text-to-text. В README также отмечена пригодность для instruction-тuned и многоязычных моделей, однако конкретный набор поддерживаемых языков не указан. Модель содержит 9,7 млрд параметров и использует схему AWQ-W4A16 с 4-битными весами в формате compressed-tensors. Размер на диске составляет около 8,6 ГБ — примерно в 2,24 раза меньше исходных 19,3 ГБ. Квантизация выполнена на GPU A40 с использованием 256 образцов из набора HuggingFaceH4/ultrachat_200k. Слои lm_head и компоненты, связанные с visual, vision_tower, vision_model, multi_modal_projector и merger, оставлены без квантизации, что соответствует мультимодальной конфигурации. Основные преимущества — сниженные требования к хранению и потенциально более эффективный запуск при сохранении качества исходной модели; README отдельно отмечает быструю калибровку и обычно более высокую устойчивость на instruction-тuned и многоязычных моделях. Для запуска рекомендуется vLLM с максимальной длиной контекста 32768 токенов. Ограничение схемы заключается в её асимметричности: некоторые старые ядра vLLM могут лучше работать с симметричным W4A16. Лицензия — Apache-2.0, унаследованная от исходной модели.

Raptor 0.6.1 preview — компактная плотная языковая модель на архитектуре Spark 2.5, разработанная OsaurusAI как лёгкое дообучение XHToken/Spark-X2.5-4B. Модель содержит 3,8 млрд параметров и предназначена для диалога, рассуждений и работы с инструментами. Поддерживает английский и китайский языки; заявленный контекст — до 1 048 576 токенов. Это сборка JANG_6M для Apple Silicon: веса внимания и связанного эмбеддинга представлены в 8-битном формате, веса MLP используют 6-битный бюджет, а масштабы групп хранятся в bfloat16. Для запуска требуется Osaurus версии 0.25.0 или новее; README отмечает, что стандартная библиотека mlx-lm пока не поддерживает архитектуру spark2_5. Модель распространяется по лицензии Apache-2.0. Это предварительная практическая версия, которая может ошибаться, как и другие модели такого размера. Для сложных запросов цепочки рассуждений могут превышать 8 192 выходных токенов, поэтому нужно учитывать бюджет генерации вместе с входным контекстом. Метаданные также указывают интерфейс вызова инструментов.

EuroLLM-22B-Instruct-2512-GGUF — это квантизированная версия инструкционной языковой модели EuroLLM-22B-Instruct-2512, разработанной utter-project и подготовленной пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с инструкциями, благодаря чему может использоваться в локальных чат-ботах, ассистентах и приложениях на базе llama.cpp. Модель имеет размер 22 млрд параметров и представлена в формате GGUF с вариантами квантизации от BF16 до Q3. Доступна поддержка llama.cpp, LM Studio и других совместимых проектов. Заявлена работа с широким набором языков, включая английский, немецкий, испанский, французский, итальянский, португальский, польский, русский, китайский, японский, корейский, арабский, хинди и многие другие европейские языки. Формат prompt использует шаблон ChatML с ролями system, user и assistant. Сильными сторонами являются широкий языковой охват, возможность локального запуска и выбор между вариантами квантизации, позволяющий балансировать качество и требования к памяти. Рекомендуемыми считаются варианты Q4_K_M, Q5_K_M, Q6_K и другие близкие к ним; менее битные варианты подходят для систем с ограниченным объёмом оперативной памяти, но могут обеспечивать более низкое качество. Архитектура, размер контекста и мультимодальные возможности в README не указаны; по имеющимся данным модель является текстовой и не поддерживает изображения или другие модальности. Распространение осуществляется по лицензии Apache-2.0.

Xenon1/Xenon-2 — диалоговая языковая модель, разработанная на основе Mistral-7B-v0.1 и дообученная на наборе Ultrafeedback с применением подходов из статьи Self-Rewarding Language Models. Модель использует плотную архитектуру Mistral с Grouped-Query Attention, Sliding-Window Attention и токенизатором Byte-fallback BPE; содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и ведения диалога. Она принимает сообщения в формате Mistral с маркерами [INST] и [/INST], а также поддерживает шаблон чата Transformers. В метаданных указан английский язык. Веса опубликованы в формате safetensors под лицензией Apache-2.0.

GigaChat3-702B-A36B-preview-GGUF — квантизированная GGUF-версия текстовой генеративной модели ai-sage/GigaChat3-702B-A36B-preview. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель относится к архитектурам MoE и предназначена для генерации и обработки текста, в частности на русском и английском языках. Её можно запускать через LM Studio, llama.cpp и другие проекты на базе llama.cpp. В README не указаны точный объём контекста, количество параметров активной части MoE, поддерживаемые уровни квантизации, модальности кроме текста и результаты тестирования, поэтому оценить производительность и ограничения по этим параметрам нельзя. Доступна по лицензии MIT; конкретные требования к аппаратным ресурсам зависят от выбранного варианта квантизации и не приведены.

AriannaV6 — мультимодальная модель для диалогов и агентных сценариев, разработанная независимым автором и дообученная на базе Google Gemma 4 12B. QLoRA-адаптер обучен на вызове инструментов, устойчивой идентичности и поведении с долговременной памятью, а затем объединён с весами модели. Архитектура gemma4_unified обрабатывает текст, изображения и аудио; заявленная длина контекста — до 262 144 токенов. Доступны объединённые веса Safetensors и варианты GGUF, включая квантизированные сборки. Модель предназначена для универсального помощника, рабочих процессов с инструментами и роли рассуждающего ядра в мультимодальных системах. По описанию автора, V6 исправляет часть потери знаний и здравого смысла в предыдущих версиях, но уступает базовой Gemma на отдельных проверках знаний и общих рассуждений. Голосовой ввод-вывод и генерация изображений или видео в веса не встроены: для них нужны отдельные компоненты. Лицензия CC-BY-NC-SA-4.0 требует указания авторства и распространения производных на тех же условиях и ограничивает коммерческое использование.

Карточка модели Anthropic-ai/Audiotoaudiotranslate на Hugging Face совпадает с карточкой Anthropic-ai/Aiaudiotranslate, поэтому описание составлено по ней. Anthropic-ai/Aiaudiotranslate — мультиязычная разговорная языковая модель на архитектуре Qwen3.5 с 7,2 млрд параметров. Согласно карточке, это независимый проект открытой модели, дообученной для следования инструкциям, устойчивого поведения ассистента, рассуждений, письма, суммаризации и помощи с программированием. Метаданные указывают контекст до 262 144 токенов и варианты весов Safetensors и GGUF, включая квантизированные сборки. Модель предназначена для диалога и генерации текста на разных языках; в README также заявлены задачи транскрибирования и перевода аудио, но описание репозитория сосредоточено на текстовом ассистенте и не подтверждает аудиовход. Лицензия — MIT. Карточка называет проект независимым и неофициальным; приведённые в README показатели бенчмарков описаны как основанные на Qwen3.5 9B.

Bellatrix-Tiny-1B — авторегрессионная языковая модель на архитектуре Llama, разработанная prithivMLmods на основе meta-llama/Llama-3.2-1B-Instruct. Это плотная модель примерно на 1,2 млрд параметров, дообученная для диалогов и задач рассуждения; README указывает на supervised fine-tuning и RLHF. Модель принимает текст и генерирует текст, поддерживает чат и интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена; карточка ориентирует модель на многоязычное применение, но конкретно подтверждает английский язык. Модель предназначена для диалоговых систем, поиска релевантных сведений в ходе общения, суммаризации и выполнения инструкций. Компактный размер может быть полезен для локального запуска и приложений с ограниченными ресурсами. По README, качество может снижаться на узкоспециализированных данных, редких языках и диалектах, а ответы могут содержать ошибки или отражать смещения обучающих данных. Модель распространяется по лицензии Llama 3.2.

Command R7B (12-2024) — компактное обновление модели Command R+, выпущенное Cohere в декабре 2024 года. Она предназначена для генерации текста и рассчитана на быстрые ответы при работе с дополненной поиском генерацией (RAG), вызовом инструментов и агентными сценариями, где требуется сложное рассуждение. Модель подходит для создания помощников, которые отвечают на вопросы с опорой на документы, используют подключённые инструменты и выполняют многошаговые задачи. В доступных сведениях не указаны размер, архитектура, контекст, языки и лицензия, поэтому их нельзя надёжно описать.

DeepSeek-R1-0528-Qwen3-8B-GGUF — квантизированная версия языковой модели DeepSeek-R1-0528-Qwen3-8B, разработанной deepseek-ai. Квантизацию выполнил bartowski с использованием llama.cpp версии b5524 и метода imatrix. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Это текстовая модель размером 8B параметров, представленная в формате GGUF. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ, с размером файлов примерно от 3,9 до 16,39 ГБ. Более высокие уровни квантизации обычно лучше сохраняют качество, а варианты Q3 и ниже ориентированы на устройства с ограниченным объёмом оперативной памяти. Для работы рекомендуется использовать указанный шаблон prompt format; контекстное окно, поддерживаемые языки и дополнительные модальности в README не указаны. Сильные стороны модели — возможность локального запуска, широкий выбор вариантов квантизации и компромисс между качеством, размером и требованиями к памяти. Ограничения зависят от выбранного варианта: более сильная квантизация может снижать качество генерации, а для запуска требуются совместимые инструменты и достаточно оперативной или видеопамяти. Лицензия модели указана как MIT.

Dolphin-2.6-mistral-7b-dpo-laser-GGUF — это набор квантованных файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе модели cognitivecomputations/dolphin-2.6-mistral-7b-dpo-laser. Модель относится к семейству Mistral и предназначена для генерации текста, включая диалоговые и инструкционные сценарии. В метаданных указан размер 7B, текстовая модальность и поддержка английского языка. Обучение исходной модели связано с наборами данных Dolphin, Airoboros, Dolphin Coder, OpenHermes, Magicoder и Capybara; также указано DPO дообучение в названии модели. Главная особенность этой версии — поставка в GGUF с вариантами квантования от 2 до 8 бит, что позволяет запускать модель локально с различными компромиссами между размером файлов, требованиями к памяти и качеством генерации. Формат поддерживается llama.cpp и совместимыми приложениями и библиотеками для локального запуска. К ограничениям относятся возможная потеря качества при низкобитном квантовании, отсутствие заявленных характеристик контекстного окна и подробных результатов оценки, а также отсутствие подтверждения поддержки других языков помимо английского. Модель распространяется по лицензии Apache 2.0.

Dolphin X1 Trinity Nano — чат-модель общего назначения, разработанная командой Dolphin на базе Arcee AI Trinity Nano Preview. Авторы описывают её как модель, дообученную с помощью новых RL-сред для снижения отказов при сохранении следования инструкциям. Она использует разреженную MoE-архитектуру Afmoe и содержит 880,3 млн параметров; контекстное окно — до 131 072 токенов. Модель предназначена для диалогов и генерации текста, включая ответы на запросы и выполнение инструкций. Карточка заявляет поддержку английского, испанского, французского, немецкого, итальянского, португальского, русского, арабского, хинди, корейского и китайского языков. Для диалогов используется шаблон ChatML; модель доступна в формате safetensors и может запускаться через Transformers, vLLM и llama.cpp. Модель рассчитана на сценарии, где нужны настраиваемые системные инструкции и низкая частота отказов. Заявления авторов о качестве основаны на приведённой ими оценке; результаты не гарантируют такую же производительность на других задачах. Лицензия — Apache-2.0.

DoubleBagel-57B-v1.0 — объединённая языковая модель семейства Llama, созданная с помощью mergekit из предварительно обученной модели jondurbin_bagel-34b-v0.2. Модель содержит 56,2 млрд параметров, использует архитектуру LlamaForCausalLM и рассчитана на генерацию текста и диалоговое взаимодействие с контекстом до 200 000 токенов. Модель можно применять для диалогов и генерации текста с длинным контекстом. Веса опубликованы в формате safetensors, библиотека для работы — Transformers. Лицензия — Apache-2.0.

EuroLLM-22B-Instruct — многоязычная большая языковая модель на 21,9 млрд параметров, разработанная консорциумом европейских университетов и компаний во главе с Instituto Superior Técnico — University of Lisbon при финансировании Европейского союза. Это плотный Transformer на базе архитектуры Llama; модель дообучена следовать инструкциям и поддерживать диалог. Контекстное окно — 32 768 токенов. Модель предназначена для многоязычных диалогов, выполнения общих инструкций и машинного перевода, в том числе между официальными языками ЕС. По данным карточки, предшествующая базовая модель EuroLLM-22B обучена на 4 трлн токенов из веб-данных, параллельных корпусов и высококачественных источников. Заявлена поддержка болгарского, хорватского, чешского, датского, нидерландского, английского, эстонского, финского, французского, немецкого, греческого, венгерского, ирландского, итальянского, латышского, литовского, мальтийского, польского, португальского, румынского, словацкого, словенского, испанского, шведского, арабского, каталанского, китайского, галисийского, хинди, японского, корейского, норвежского, русского, турецкого и украинского языков. Разработчики отмечают высокие результаты на задачах перевода и многоязычных бенчмарках. Модель не выровнена по человеческим предпочтениям и может выдавать галлюцинации, вредоносный контент или ложные утверждения. Лицензия — Apache 2.0.

FrankenQwen2.5-14B — объединённая языковая модель, созданная автором synergetic с помощью mergekit и метода passthrough. В состав слияния вошла дообученная модель rombodawg/Rombos-LLM-V2.6-Qwen-14b; архитектура — плотная Qwen2ForCausalLM, объём — 16,2 млрд параметров. Репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и диалогов. Она принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов и имеет интерфейс для вызова инструментов. В README приведены результаты оценки Open LLM Leaderboard, включая средний балл 18,13, IFEval и BBH. Карточка не описывает дополнительные специализированные сценарии или языковое покрытие, поэтому качество для конкретных языков и задач следует проверять отдельно. Лицензия в предоставленных данных не указана.

Это квантизированная instruction-tuned модель Gemma 3 12B, разработанная Google и представленная сообществом abhishekchohan в формате для размещения на Hugging Face. Модель предназначена для диалоговых сценариев и задач генерации текста, а также заявлена как image-text-to-text модель, то есть может обрабатывать текстовые и визуальные данные. В репозитории предусмотрены chat template и средства разбора tool calls для использования с vLLM. Модель использует архитектуру Gemma 3 с 12 миллиардами параметров и квантизацию W4A16, выполненную с помощью LLM Compressor: веса представлены в 4-битной точности, а активации — в 16-битной. Это существенно снижает требования к памяти и делает модель более подходящей для развёртывания на потребительском оборудовании при сохранении хорошего качества работы, однако квантизация может влиять на точность по сравнению с полной версией. Языки и размер контекстного окна в README не указаны. Для запуска рекомендуется vLLM с соответствующими chat template, parser для Gemma и поддержкой автоматического выбора инструментов. Модель распространяется на условиях Gemma license; перед использованием необходимо ознакомиться с условиями и принять лицензию Google на Hugging Face.

gghfez выпустил текстовую версию Google Gemma 3 12B IT, преобразовав мультимодальную архитектуру Gemma3ForConditionalGeneration в текстовую Gemma3ForCausalLM и удалив компоненты обработки изображений. По карточке модель предназначена для генерации текста и диалогов; метаданные указывают 11,6 млрд параметров, контекст до 131 072 токенов и формат Safetensors. README приводит оценку в 4 млрд параметров, что расходится с метаданными. Модель принимает текст и выдаёт текст, а использовать её предлагается так же, как текстовую Gemma 3 1B IT. Лицензия — Gemma; модель основана на google/gemma-3-12b-it.

Gemma-4-1-E4B-it-heretic — производная от мультимодальной Gemma 4 E4B Instruct модели Google DeepMind, подготовленная eshucode. Это версия с ослабленным механизмом отказов: к весам применили оптимизированное удаление направления отказа, не проводя дообучение. Архитектура — плотная Gemma4ForConditionalGeneration; репозиторий содержит веса safetensors и классифицируется как any-to-any. Базовая модель поддерживает диалог, рассуждения, программирование, анализ изображений и обработку аудио. Версия предназначена для диалоговых и мультимодальных сценариев, где требуется меньше отказов на запросы. В оценке автора сборка показала 25 отказов из 100 на тесте harmful_behaviors при KL-дивергенции 0,0219 относительно базы; это результаты конкретной оценки, а не гарантия качества. README называет её trial 198 из серии экспериментов по подбору компромисса между снижением отказов и сохранением поведения базовой модели. Лицензия — Apache 2.0.

nohurry/gemma-4-26B-A4B-it-heretic-GUFF — набор квантованных вариантов модели coder3101/gemma-4-26B-A4B-it-heretic, созданный участником сообщества на основе Gemma 4 от Google. Модель предназначена для диалоговых сценариев, генерации текста и работы с изображениями, включая OCR. В README указана поддержка режима рассуждений, который включается специальным маркером в системном промпте, а также возможность ограничивать бюджет рассуждений. Модель имеет архитектуру Gemma 4 с конфигурацией 26B-A4B; точные сведения о размере активируемой части, языках и максимальной длине контекста в README не приведены. Для обработки изображений используются отдельные mmproj-файлы и настраиваемый диапазон от 70 до 1120 image-токенов. Реализация рассчитана на использование в llama.cpp и koboldcpp; для корректной работы требуется включить Sliding Window Attention с параметром --swa-full. Доступны разные уровни квантования, а выбор рекомендуется делать с учётом доступной VRAM. Для задач OCR желательно использовать менее квантованную текстовую модель и более качественно сохранённый image encoder. Сильными сторонами являются мультимодальность, поддержка управляемого рассуждения, различные варианты квантования и возможность локального запуска. Ограничения включают зависимость требований к памяти от выбранного кванта и контекста, чувствительность image encoder к квантованию, а также необходимость совместимого программного обеспечения и настроек SWA. Модель распространяется по лицензии Apache-2.0; ссылка на лицензию Gemma 4 указана в карточке.

German-RAG-NEMO-12B-CPT-HESSIAN-AI — авторегрессионная трансформерная языковая модель команды Avemio AI при поддержке Hessian AI. Это дообученная версия Mistral-Nemo-Base-2407 с 12,1 млрд параметров, предназначенная для задач генерации текста, контекстных ответов на вопросы, структурированного рассуждения и суммаризации. Модель адаптировали для немецкоязычных сценариев, сохранив поддержку английского языка; обучение включало около 507 млн токенов. Модель подходит для ответов по предоставленному контексту, в том числе в системах RAG, а также для обобщения документов и решения задач с несколькими ограничениями. В метаданных заявлено контекстное окно до 1 024 000 токенов. Модель распространяется по лицензии Apache 2.0. Без фильтров безопасности она может генерировать вредный или предвзятый контент, а ответы и фактические утверждения могут быть недостоверными и требуют проверки.

GLM-4.6V — мультимодальная модель семейства GLM-V, разработанная Z.ai. Это базовая модель на 106 млрд параметров для облачных вычислений и высокопроизводительных кластеров; она использует архитектуру GLM4V-MoE и поддерживает чат с изображениями. Контекст при обучении составляет до 128 тыс. токенов. Модель рассчитана прежде всего на визуальное понимание и мультимодальные рассуждения: она анализирует изображения, снимки экранов и страницы документов, совместно учитывая текст, структуру, таблицы, диаграммы и иллюстрации. Модель подходит для вопросов по длинным и визуально насыщенным документам, понимания изображений и экранных интерфейсов, а также для построения агентов с вызовом инструментов на основе визуального контекста. Она также может создавать смешанный текстово-графический контент и генерировать HTML/CSS по снимкам интерфейсов. В README заявлены результаты уровня лучших моделей сопоставимого размера в задачах визуального понимания, однако чисто текстовые ответы слабее, чем визуальные возможности; на сложных запросах возможны избыточные или повторяющиеся рассуждения, а точность подсчёта объектов и распознавания конкретных людей ограничена. Репозиторий распространяется по лицензии MIT.

GPT Chat Latest — псевдоним API OpenAI `chat-latest`, который указывает на актуальную Instant-модель для чата в ChatGPT. По мере выпуска обновлений OpenAI псевдоним переключается на новую версию модели. Модель предназначена для диалогов и задач, выполняемых через API OpenAI. Конкретные характеристики версии, на которую указывает псевдоним, могут меняться; README и метаданные не сообщают её архитектуру, размер, контекстное окно, языки, лицензию или отдельные ограничения.

Это GGUF-квантизации модели llmfan46/gpt-oss-120b-heretic-v2, созданные независимым автором на основе дообученной версии gpt-oss-120b. Модель предназначена для диалогов и генерации текста, включая задачи с вызовом инструментов и структурированными ответами в совместимых средах запуска. Вариант heretic создан методом abliteration: в README указаны параметры обработки и меньше отказов в приведённом сравнении с исходной gpt-oss-120b. Репозиторий распространяет веса в формате GGUF и рассчитан на запуск через llama.cpp, LM Studio, Ollama и другие совместимые программы. Указана лицензия Apache 2.0.