I.1Поиск и навигация по информации

jeiku/Zephyr_beta_32k_7B — диалоговая языковая модель, полученная автором репозитория слиянием моделей методом DARE TIES. В основе лежит mistralai/Mistral-7B-Instruct-v0.2; также в слияние включена typeof/zephyr-7b-beta-lora. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста в формате диалога и ответов на инструкции. Она принимает текст и рассчитана на контекст до 32 768 токенов. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0.

BgGPT-Gemma-3-27B-IT — мультимодальная модель для диалогов и выполнения инструкций, адаптированная для болгарского языка институтом INSAIT на базе Google Gemma 3 27B IT. Это плотная модель семейства Gemma 3 с поддержкой текста и изображений; карточка указывает эффективный контекст до 131 тыс. токенов. Модель рассчитана на многоходовые беседы, сложные инструкции и задачи, где нужно совместно учитывать текст и изображения. Модель подходит для вопросов и ответов на болгарском языке, диалоговых помощников и анализа изображений с текстовыми запросами. Также поддерживает английский язык. В README указаны данные предобучения до мая 2025 года и дообучения по инструкциям до октября 2025 года. Репозиторий содержит веса Safetensors и использует лицензию Gemma; применение регулируется её условиями.

Caliburn 12B Merged — языковая модель на архитектуре Transformer семейства Mistral, созданная автором репозитория путём слияния нескольких существующих моделей с помощью MergeKit. Модель содержит 12,1 млрд параметров и предназначена для генерации текста общего назначения; карточка указывает английский язык. В метаданных заявлен контекст 1 024 000 токенов, библиотека Transformers и формат Safetensors. Модель можно использовать для генерации текста, продолжения кода, ответов на вопросы и суммаризации. Метаданные также отмечают интерфейс чата и интерфейс вызова инструментов. Модель распространяется по лицензии MIT. Автор предупреждает о возможных предубеждениях, ошибках и бессмысленных ответах; результаты следует проверять, а для важных решений необходим контроль человека.

Карточка модели jinreiyu/cloned-Ternary-Bonsai-27B-mlx-2bit на Hugging Face совпадает с карточкой prism-ml/Ternary-Bonsai-27B-mlx-2bit, поэтому описание составлено по ней. Ternary Bonsai 27B — модель Prism ML, созданная на базе Qwen3.6-27B для локальной генерации текста, рассуждений и диалогового применения. Это плотная гибридная трансформерная архитектура с линейным и полным вниманием; языковые веса представлены значениями −1, 0 и +1 с групповым масштабированием и занимают около 1,71 бита на параметр. Модель содержит примерно 27,3 млрд языковых параметров и отдельную башню зрения примерно на 0,46 млрд параметров, однако в карточке для неё заявлена задача text-generation. Модель рассчитана на запуск на ноутбуках и одной видеокарте, в том числе локально и без подключения к сети. Заявлены контекст до 262 тысяч токенов, поддержка диалога и сохранение значительной части качества исходной модели при уменьшенном размере; для Apple MLX и CUDA предоставлены специализированные низкоразрядные ядра. Авторы сообщают о результатах на тестах рассуждений, математики, программирования и использования инструментов, но длительные агентные сценарии программирования пока не являются сильной стороной этой версии. Репозиторий распространяется по лицензии Apache-2.0. Указанный объём развёрнутой модели — около 7,2 ГБ, поэтому она не помещается в заявленный бюджет памяти приложения на iPhone; README также отмечает компромисс качества и размера относительно полноточной модели и использование 4-битного KV-кэша.

Dolphin-4B — языковая модель, выпущенная roskosmos19 и дообученная на базе XHToken/Spark-X2.5-4B-Base. Она предназначена для диалогов, генерации текста, программирования, рассуждений и агентных сценариев с вызовом инструментов. Модель использует плотную архитектуру Spark2_5ForCausalLM и формат safetensors; размер по метаданным — 3,8 млрд параметров, а заявленная длина контекста составляет 1 048 576 токенов. Для работы доступны шаблон чата с поддержкой нескольких ролей, режима рассуждений и вызова инструментов; модель рассчитана на использование через Transformers и совместимые стеки инференса. В карточке заявлены сильные стороны в следовании инструкциям, программировании и многошаговых задачах. Эти характеристики представлены как утверждения автора и не сопровождаются в карточке результатами оценки. Язык модели явно не обозначен. Лицензия — Apache-2.0.

EXAONE-3.5-32B-Instruct-AWQ — двуязычная генеративная языковая модель с инструкционным дообучением, разработанная LG AI Research. Она предназначена для диалоговых приложений, генерации и обработки текста на английском и корейском языках, а также для сценариев, требующих понимания длинного контекста до 32 768 токенов. Модель относится к семейству EXAONE 3.5 и поставляется в формате AWQ-квантованных весов. Модель содержит 30,95 млрд параметров без учёта эмбеддингов, 64 слоя и использует Grouped-Query Attention с 40 головами запросов и 8 головами ключей и значений. Размер словаря составляет 102 400 токенов. Применяется 4-битное групп-wise квантование весов без квантования активаций по схеме W4A16g128, что снижает требования к памяти и подходит для развёртывания с поддержкой Transformers, TensorRT-LLM, vLLM, SGLang, llama.cpp и Ollama. Сильными сторонами модели являются поддержка английского и корейского языков, длинного контекста и широкий выбор сред инференса. Ограничения включают возможную генерацию вредного, предвзятого, фактически ошибочного или синтаксически некорректного текста; модель также может не отражать актуальную информацию. Для работы рекомендуется использовать системный промпт, на котором модель обучалась. Лицензия EXAONE AI Model License Agreement 1.1 - NC предусматривает некоммерческое использование.

Gemma 2 9B Instruct — языковая модель Google с открытыми весами, построенная на архитектуре decoder-only и адаптированная для следования инструкциям и диалога. Она принимает текст и генерирует текст; семейство Gemma описано как ориентированное на английский язык. Репозиторий содержит производную версию базовой модели google/gemma-2-9b и файлы safetensors для использования с Transformers. Модель подходит для ответов на вопросы, суммаризации, диалоговых интерфейсов, создания текстов и рассуждений по заданному контексту. Относительно компактный размер семейства позволяет запускать модели Gemma на локальных компьютерах или собственной облачной инфраструктуре, хотя фактические требования зависят от конфигурации запуска. Модель может ошибаться в фактах, хуже справляться со сложными или неоднозначными запросами и отражать предвзятость обучающих данных. Использование регулируется лицензией Gemma.

Gemma 3 12B IT QAT GGUF — мультимодальная instruction-tuned модель, разработанная Google и представленная сообществом LM Studio в формате GGUF. Это квантизированная версия базовой модели google/gemma-3-12b-it, подготовленная с применением Quantization Aware Training для повышения качества 4-битного вывода. Модель предназначена для генерации текста и понимания изображений, включая ответы на вопросы, суммаризацию, рассуждения и другие сценарии обработки текста и изображений. Она поддерживает контекст до 128 000 токенов и максимальную длину вывода 8 192 токена. Изображения обрабатываются после нормализации до разрешения 896 × 896. Сведения о поддерживаемых языках и точном числе параметров, помимо обозначения 12B, в README не указаны. Ключевое преимущество — сочетание мультимодальности, длинного контекста и оптимизированного 4-битного квантования, что может снизить требования к ресурсам по сравнению с полноточной моделью. Ограничения включают возможные неточности, вредные или неподходящие ответы, характерные для генеративных моделей. Использование регулируется лицензией Google Gemma; для доступа на Hugging Face требуется принять условия этой лицензии.

Gemma 3 1B IT QAT Q4_0 GGUF — лёгкая инструкционная мультимодальная модель Google DeepMind из семейства Gemma, созданная на основе технологий, использованных в Gemini. Модель принимает текст и изображения и генерирует текст; версия предназначена для запуска в формате GGUF, в том числе через llama.cpp и совместимые среды. Модель имеет размер 1B параметров, использует квантизацию Q4_0 и Quantization Aware Training, благодаря чему снижает требования к памяти при сохранении качества, близкого к версии bfloat16. Для варианта 1B заявлено контекстное окно до 32K токенов, максимальный объём генерируемого ответа — 8192 токена. Изображения обрабатываются с нормализацией до 896×896 пикселей и кодированием в 256 токенов; модель поддерживает более 140 языков. Gemma 3 1B IT подходит для генерации текста, ответов на вопросы, суммаризации документов, рассуждений и анализа изображений. Небольшой размер облегчает локальное развёртывание на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. Ограничения включают меньший контекст по сравнению с более крупными версиями Gemma 3 и зависимость мультимодальных возможностей от используемого программного обеспечения: например, указанное использование через Ollama поддерживает только текстовый ввод. Доступ к модели на Hugging Face требует принятия условий лицензии Google Gemma; точные условия определяются лицензией Gemma.

unsloth/gemma-3-4b-it — мультимодальная модель семейства Gemma 3, опубликованная Unsloth на базе Google Gemma 3 4B IT. Она принимает текст и изображения и генерирует текст; подходит для диалогов, ответов на вопросы по изображениям, суммаризации и других задач генерации и понимания текста. Модель использует плотную архитектуру Gemma 3 и доступна в формате safetensors для Transformers. В README семейство Gemma 3 описано как поддерживающее контекст до 128 тысяч токенов и более 140 языков. Модель можно применять в чат-ботах и виртуальных помощниках, для извлечения сведений из изображений, составления кратких сводок и создания текстов. К компактному размеру относится заявленная возможность развёртывания на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре; точный объём памяти для этой версии не указан. Ответы могут содержать фактические ошибки, отражать смещения обучающих данных и неверно трактовать тонкие языковые нюансы. Лицензия — Gemma; перед использованием следует учитывать условия лицензии и политику запрещённого использования Gemma.

GPT-5 Mini — компактная версия GPT-5 от OpenAI для задач рассуждения с умеренной вычислительной нагрузкой. Она рассчитана на сценарии, где важны меньшие задержки и стоимость при сохранении навыков следования инструкциям и настройки безопасности, характерных для GPT-5.

Herplete-LLM-Llama-3.1-8b — диалоговая языковая модель Replete-AI, созданная слиянием Replete-LLM-V2-Llama-3.1-8b и LoRA-адаптера, извлечённого из Hermes-3-Llama-3.1-8B. Модель построена на плотной архитектуре Llama 3.1 и содержит 7,5 млрд параметров; заявленная длина контекста — 131 072 токена. Репозиторий содержит веса в формате safetensors. Модель предназначена для диалога и генерации текста по инструкциям. Метаданные также отмечают интерфейс вызова инструментов, что позволяет использовать её в сценариях, где ассистент передаёт управление внешним инструментам. Базовая модель Hermes 3 ориентирована на англоязычные инструкции, рассуждения, генерацию кода и вызов инструментов; README описывает непрерывное дообучение модели Replete с использованием LoRA из Hermes 3. Карточка не сообщает отдельные результаты оценки качества или условия лицензии, поэтому их нельзя надёжно указать.

Jan-v1-4B-GGUF — языковая модель для генерации текста, разработанная командой Jan (Jan Community/Jan HQ). Она предназначена для агентских сценариев, рассуждений, решения задач, диалогового взаимодействия и использования инструментов, прежде всего в приложении Jan и при локальном развёртывании через совместимые средства, такие как llama.cpp. Модель основана на Jan-v1-4B, созданной на базе подходов Lucy и Qwen3-4B-Thinking-2507. Модель имеет размер 4B параметров, поддерживает английский язык и относится к классу text-generation. Формат GGUF ориентирован на локальный запуск, в том числе с llama.cpp; README также описывает интеграцию с Jan App и использование tool calling. Среди заявленных сильных сторон — улучшенные возможности рассуждения и работы с инструментами, а также результат 91,1% в SimpleQA. Рекомендуемые параметры генерации включают temperature 0.6, top_p 0.95, top_k 20 и max_tokens 2048. В README не указаны размер контекстного окна, точная схема квантования GGUF, поддерживаемые модальности помимо текста и подробные условия проведения бенчмарков, поэтому эти характеристики нельзя определить по имеющимся данным. Модель распространяется по лицензии Apache 2.0.

LatamGPT 1.0 — авторегрессионная плотная Transformer-модель, разработанная командой LatamGPT на базе Meta Llama 3.1 70B. Модель прошла дальнейшее предобучение на данных Латинской Америки и Карибского бассейна и supervised fine-tuning для следования инструкциям и диалогов. Веса содержат 69,5 млрд параметров, контекст — 4096 токенов; модель рассчитана на работу через Transformers и имеет готовый шаблон чата. Модель предназначена для генерации текста и диалоговой помощи на испанском, португальском и английском языках, с особым вниманием к латиноамериканским вариантам речи, региональным реалиям и культурным контекстам. Её можно применять для суммаризации, классификации, редактирования и аналитической поддержки в исследованиях и приложениях для региона. Лицензия — Llama 3.1 Community License; перед использованием и распространением следует соблюдать её условия. Модель может выдавать фактические ошибки, устаревшую информацию и предвзятые ответы; качество меняется в зависимости от языка, страны, предметной области и формулировки запроса. Для работы с весами в BF16/FP16 требуется около 140 ГБ видеопамяти, а в чувствительных и высокорисковых сценариях результаты требуют проверки специалистом. Для сохранения качества рекомендуется использовать поставляемые шаблон чата, токенизатор и конфигурацию генерации.

Llama-4-Scout-17B-16E-Instruct-GGUF — квантизированная версия инструкционной модели Llama 4 Scout, разработанной Meta. Вариант опубликован в формате GGUF сообществом lmstudio-community и квантизирован bartowski. Модель предназначена для генерации текста и выполнения задач по инструкциям, включая диалоговые сценарии, ответы на вопросы, создание и преобразование текста, а также локальный запуск в совместимом программном обеспечении. Из доступных данных известно, что базовая модель называется Llama-4-Scout-17B-16E-Instruct; обозначение указывает на конфигурацию 17B-16E, однако точные сведения об архитектуре, размере активной части модели, контекстном окне, поддерживаемых языках и модальностях в README не приведены. Формат GGUF удобен для локального вывода и может снизить требования к ресурсам, но квантизация способна повлиять на качество по сравнению с исходными весами; конкретный уровень квантизации также не указан. Модель распространяется по Llama 4 Community License от Meta с требованиями к атрибуции, маркировке «Built with Llama», соблюдению Acceptable Use Policy и специальными коммерческими условиями для продуктов с более чем 700 миллионами активных пользователей в месяц.

llm-jp-4-33b-thinking-gguf — большая языковая модель серии LLM-jp-4, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это Transformer-модель для генерации текста, диалоговых сценариев, решения инструкций и многошаговых задач на японском и английском языках. Модель представлена в формате GGUF и предназначена для локального или серверного запуска совместимых средств вывода. Модель имеет плотную архитектуру с 33,2 млрд параметров, 64 слоями, размером скрытого состояния 5120 и 40 головами внимания. Максимальная длина контекста составляет 65 536 токенов. Токенизатор основан на Unigram byte-fallback и совместим с шаблоном чата в формате OpenAI Harmony, однако для корректной работы следует использовать токенизатор из репозитория модели. Обучение включало предварительное и промежуточное обучение на 11,7 трлн токенов, а также дообучение SFT и DPO. Сильными сторонами модели являются большой контекст, поддержка японского и английского языков, а также ориентация thinking-варианта на рассуждения и выполнение сложных инструкций. README не содержит итоговых численных оценок качества, поэтому сравнивать производительность с другими моделями по этим данным нельзя. Для запуска через llama.cpp требуется специальный fork от LLM-jp с исправлениями обработки токенизатора; стандартная upstream-версия может некорректно обрабатывать чат. Модель распространяется по лицензии Apache-2.0.

Magstral 123B — плотная языковая модель на архитектуре Mistral, созданная автором lodrick-the-lafted слиянием весов anthracite-org/magnum-v2-123b и mistralai/Mistral-Large-Instruct-2407. Автор описывает её как простое слияние в пропорции 50/50 методом SLERP, призванное приблизить Magnum v2 к обычному варианту Mistral Large. Модель предназначена для генерации текста и диалогов; каталог также отмечает интерфейс вызова инструментов. Она содержит 122,2 млрд параметров, работает с текстом и имеет контекстное окно до 131 072 токенов. Карточка не уточняет языки, на которых модель особенно эффективна, и не приводит результатов оценки качества. В репозитории указана лицензия other; конкретные условия использования следует проверять в файлах лицензии модели и её базовых компонентов. Большой размер модели требует значительных вычислительных ресурсов.

mergekit-community/mergekit-sce-vjeombg — объединённая языковая модель, созданная сообществом с помощью mergekit. В основе объединения лежит sthenno-com/miscii-14b-1225; использован метод SCE с нормализацией и включением параметров от семи моделей, среди которых Qwen2.5-14B-Instruct-1M, DeepSeek-R1-Distill-Qwen-14B, Virtuoso-Small и Impish_QWEN_14B-1M. Модель имеет плотную архитектуру Qwen2 с 14 млрд параметров и предназначена для диалогов и генерации текста. Она принимает текст и выдаёт текст; метаданные указывают контекст до 131 072 токенов. Объединение сочетает несколько диалоговых и инструкционных моделей, включая дистиллированную модель DeepSeek для рассуждений, однако README не сообщает результаты оценки качества и не уточняет, какие возможности итоговой модели сохраняются лучше всего. Модель опубликована в формате safetensors для Transformers. Лицензия в предоставленных данных не указана.

Карточка модели Crystalcareai/Meta-llama-3.1-8b-instruct на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3.1-8B-Instruct, поэтому описание составлено по ней. Meta-Llama-3.1-8B-Instruct — инструктивно дообученная языковая модель семейства Llama 3.1, разработанная Meta. Это плотная авторегрессионная модель на архитектуре Transformer с 7,5 млрд параметров; версия Instruct прошла supervised fine-tuning и обучение с обратной связью от людей. Репозиторий содержит веса в формате safetensors, модель предназначена для генерации текста и диалогов с помощником. Окно контекста — 131 072 токена. Модель рассчитана на многоязычный диалог, ответы на вопросы, написание и преобразование текста, а также может использоваться в приложениях и для создания синтетических данных. Заявлены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель принимает и выдаёт текст; поддержка инструментов зависит от интеграции разработчиком. Модель выпущена Meta 23 июля 2024 года. Лицензия — Llama 3.1 Community License с условиями использования и Acceptable Use Policy; перед коммерческим применением необходимо ознакомиться с её условиями. Это статический чекпойнт, обученный на офлайн-данных. Качество и безопасность ответов могут различаться между языками, а карточка не заявляет поддержку русского языка.

Карточка модели Stealth-org/MiMo-V2.5-Pro на Hugging Face совпадает с карточкой XiaomiMiMo/MiMo-V2.5-Pro, поэтому описание составлено по ней. MiMo-V2.5-Pro — открытая языковая модель Xiaomi на архитектуре Mixture-of-Experts (MoE), предназначенная для агентных сценариев, сложной разработки ПО и задач с длинными последовательностями действий. В README указаны 1,02 трлн параметров всего и 42 млрд активных параметров; метаданные каталога указывают 27,7 млрд параметров, поэтому размер в описании опирается на данные README. Модель использует чередование локального скользящего и глобального внимания и три модуля Multi-Token Prediction; заявленная длина контекста достигает 1 048 576 токенов. Модель рассчитана на диалог, генерацию кода, следование инструкциям и длительную работу с инструментами. Заявлены поддержка вызова инструментов и сохранение связности при траекториях с тысячами вызовов; доступны веса в формате FP8, а метаданные указывают библиотеку Transformers. В README описано обучение на 27 трлн токенов и последующая настройка с SFT, агентным RL и дистилляцией от нескольких учителей. Модель принимает текст и генерирует текст. В карточке указаны английский и китайский языки. Лицензия — MIT. Заявления о качестве в README основаны на приведённых авторами оценках; для развёртывания на контексте до миллиона токенов потребуются совместимые движок и вычислительные ресурсы.

nwzjk/MiniMax-M3-NVFP4-Duplicated — копия мультимодальной модели MiniMax-M3, разработанной MiniMaxAI и квантизированной в формате NVFP4 с помощью NVIDIA Model Optimizer. Архитектура — мультимодальный Transformer Mixture-of-Experts с 428 млрд параметров и примерно 23 млрд активных параметров на токен. Модель принимает текст, изображения и видео, а выдаёт текст; заявленная длина контекста составляет 1 млн токенов, видео может длиться до 30 минут. Модель предназначена для диалогов, анализа изображений и видео, включая длинные ролики, программирования на длительных задачах и агентных сценариев с вызовом инструментов. Доступны режимы рассуждения для сложных задач и без рассуждений для сценариев, чувствительных к задержке. README сообщает о запуске через vLLM, но для NVFP4 требуется nightly-сборка; также указано, что развёртывание рассчитано на мощные NVIDIA GPU. Квантизация уменьшает требования к памяти, но приведённые в README тесты показывают небольшое снижение результатов относительно FP8. Модель может воспроизводить токсичность и смещения из обучающих данных, а также давать неточные, неполные или избыточные ответы. README указывает на некоммерческое использование; метаданные обозначают лицензию как other.

Occamy-1.0 GGUF — это набор квантизированных файлов модели Occamy-1.0, разработанной Accio-Lab, в формате GGUF для запуска через совместимые среды, включая llama.cpp. Модель относится к мультимодальному классу image-text-to-text и поддерживает работу с текстом и изображениями через отдельный vision projector; для текстовых сценариев projector не требуется. Доступны варианты квантизации от IQ2_M и Q2_K до Q8_0, а также F16 vision projector. Размеры файлов составляют примерно от 10,9 до 34,4 GiB, без учёта дополнительной памяти на KV-кэш, контекст, параллельные запросы и изображения. Модель предназначена для генерации текста, программного кода, структурированных JSON-ответов и tool use. В README приведены проверки на задачах GSM8K, HumanEval+, строгом JSON и использовании инструментов, однако они выполнены на небольших выборках и не заменяют полноразмерные бенчмарки. Новые квантизации тестировались для текста, кода, JSON и tool use, но их возможности работы с изображениями повторно не проверялись. Размер контекстного окна, языковой охват и точные параметры архитектуры в представленном README не указаны; при этом модель связана с архитектурой MoE и семейством Qwen3.5 MoE. Для корректной работы важна совместимость токенизатора: выпущенные файлы используют метаданные qwen2, NFC-нормализацию и qwen2-подобные правила, а опубликованные измерения требуют специального переопределения qwen35 и не подтверждают полную эквивалентность токенизации. Квантизация уменьшает требования к памяти, но может снижать качество на низких разрядностях. Совместимость с CPU-only и Apple Silicon в приведённых испытаниях не устанавливалась. Файлы распространяются по лицензии Apache 2.0; отдельная MTP head в эти GGUF-файлы не входит.

duyntnet/Phi-4-mini-instruct-imatrix-GGUF — набор GGUF-квантизаций модели Phi-4-mini-instruct, разработанной Microsoft. Модель предназначена для генерации текста, диалогов, выполнения инструкций, рассуждений и сценариев с вызовом инструментов. Она ориентирована на локальный запуск через llama.cpp и совместимые клиенты, включая KoboldCPP, Ollama, text-generation-webui, Jan и GPT4All. Модель является лёгкой и поддерживает контекст длиной до 128K токенов. Она обучалась на синтетических данных и отфильтрованных общедоступных веб-материалах с акцентом на плотные по рассуждениям данные; для улучшения следования инструкциям и безопасности применялись supervised fine-tuning и direct preference optimization. Указан английский язык, модальность — текстовая. Размер модели, конкретные параметры квантизации и архитектурные детали в README не приведены. Для запуска требуется llama.cpp версии b4792 или новее либо совместимое программное обеспечение. Квантизация может снизить требования к ресурсам, но потенциально уступать исходной модели в точности; конкретные компромиссы зависят от варианта GGUF и не описаны. Лицензия указана как other, без дополнительных условий в представленном README.

FreedomAISVR/Qwable-v1-MXFP4-MOE-GGUF — квантованная GGUF-сборка модели Qwable-v1, подготовленная FreedomAISVR. В основе — Qwen3.6-35B-A3B, дистиллированная с рассуждениями Opus 4.7 и дообученная на агентном использовании инструментов Fable-5. Это MoE-архитектура семейства Qwen3.5 с 256 экспертами, из которых активны 8 на токен; активная часть содержит около 3 млрд параметров. Контекст — 262 144 токена. Модель предназначена для генерации текста, написания кода и агентных сценариев с использованием инструментов. Она принимает текст и изображения: для зрения предусмотрены энкодер SigLIP ViT и отдельный проектор. В GGUF-файле веса экспертов квантованы в MXFP4, большинство остальных весов — в Q8_0, роутер — в F32; компоненты зрения сохранены в F16. Для структурированного использования инструментов требуется агентный системный промпт. Распространяется по лицензии AGPL-3.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP — мультимодальная модель с 27 млрд параметров на архитектуре Qwen3.5, дообученная DavidAU совместно с участниками проекта на базе Qwen/Qwen3.6-27B. Она предназначена для диалогов общего назначения, следования инструкциям, решения задач, рассуждений, программирования и работы с изображениями. В карточке также заявлены возможности творческого письма и ролевого общения. Модель принимает текст и изображения и генерирует текст; в метаданных отмечены интерфейс вызова инструментов и поддержка зрения. Обучение включало несколько этапов дообучения и слияния, а также данные для рассуждений и письма. Указаны английский и китайский языки. Репозиторий использует Transformers и формат safetensors; лицензия — Apache 2.0. Автор сообщает об улучшениях следования инструкциям и рассуждений, однако приведённые сравнительные результаты являются заявлениями карточки и не гарантируют качество на конкретных задачах. Упомянуты также варианты GGUF-квантования с отдельными рекомендациями по настройкам MTP, но в текущих метаданных форматом репозитория указан safetensors.

Это мультимодальная 27,8-миллиардная плотная модель семейства Qwen3.5, опубликованная True2456 как AWQ-квантизованный вариант Qwen/Qwen3.8-27B для запуска на Apple Silicon через oMLX. Она принимает текст и изображения и предназначена для диалогов, анализа визуальных материалов, программирования и многошаговых задач; метаданные также отмечают интерфейс вызова инструментов. Контекст модели — 256 тысяч токенов. Калибровка AWQ с размером группы 64 включала текст и изображения; файлы занимают около 17,36 ГБ при 5 битах на вес. Карточка приводит замеры скорости и памяти на M5 Max, а также описывает встроенные MTP-головы и ускорение SpecPrefill для длинных запросов. Эти результаты относятся к указанной конфигурации оборудования и oMLX. Квантизация может влиять на качество относительно исходной точности, а автор отдельно отмечает, что влияние несовпадения токенизаторов на точность длинноконтекстного поиска не измерялось. Лицензия — Apache-2.0. Модель является производной от Qwen/Qwen3.8-27B и рассчитана на локальный инференс; карточка указывает оптимизацию под M5 NAX.

taurusduan/Qwen3.8-27B-GSQ-RCO-GGUF — это набор GGUF-квантизаций базовой модели Qwen3.8-27B, разработанный Deep Algorithms and Systems Lab (DASLab) при Institute of Science and Technology Austria. Модель предназначена для локального запуска языковой модели, включая мультимодальные сценарии с обработкой изображений через поставляемый vision projector. Файлы совместимы с llama.cpp, Ollama и LM Studio. В набор входят четыре неравномерные квантизации с эффективной разрядностью от 2,50 до 3,50 бит на вес и размером от 8,4 до 11,8 ГБ. GSQ выполняет посттренировочную скалярную квантизацию, а RCO распределяет типы квантизации по отдельным тензорам с учётом их чувствительности и общего ограничения на размер. Для мультимодального режима используется отдельный проектор mmproj с vision encoder и projector в формате BF16 размером около 0,9 ГБ. Также доступны варианты с Multi-Token Prediction head для speculative decoding в llama.cpp; они примерно на 0,35 ГБ больше. Рекомендуемым вариантом назван IQ3_S: по данным README, он сохраняет качество базовой модели на AIME25 и LiveCodeBench v6 и находится в пределах 0,51 балла от неё на GPQA-Diamond, занимая чуть больше одной пятой размера BF16-модели. Более компактные варианты подходят для экономии памяти, но могут иметь больший компромисс по качеству. Модель и методы квантизации распространяются по лицензии Apache 2.0. Языки и максимальная длина контекста в README не указаны.

Карточка модели jondurbin/airoboros-l2-7b-gpt4-2.0 на Hugging Face совпадает с карточкой jondurbin/airoboros-65b-gpt4-2.0, поэтому описание составлено по ней. airoboros-65b-gpt4-2.0 — плотная языковая модель семейства LLaMA на 65 млрд параметров, дообученная jondurbin для следования инструкциям на синтетических примерах, созданных GPT-4. Серия 2.0 использует данные GPT-4 версии 0614; вариант m2.0 дополнительно объединяет набор данных 1.4.1 без дубликатов и категории system. Модель предназначена для диалоговых ответов, вопросов по предоставленному контексту, программирования, построения планов и генерации структурированных аргументов функций в JSON или YAML. Для диалога используется текстовый шаблон с ролями USER и ASSISTANT; заявленная длина контекста — 2048 токенов. В README для моделей 65B отмечено QLoRA-дообучение. Это текстовая модель, и качество её ответов не гарантирует точность: карточка рекомендует явно просить не придумывать ответ при недостатке данных. Лицензия CC BY-NC 4.0 разрешает некоммерческое использование; коммерческое использование запрещено.

Bagel-20B-v04 — дообученная модель jondurbin на базе InternLM2-20B, созданная для диалогов и широкого круга инструктивных задач. Это плотная языковая архитектура InternLM2 с 19,3 млрд параметров, контекстом до 32 768 токенов и форматом весов safetensors. Хотя в метаданных Hugging Face указана задача feature-extraction, каталог и описание модели подтверждают её применение для генерации текста; основная задача здесь — text-generation. Модель обучалась на наборах данных для диалогов, вопросов и ответов, суммаризации, математики, естественных наук, программирования, ролевого общения и вызова функций. README указывает четыре варианта форматирования запросов: Vicuna, Llama 2, Alpaca и ChatML; шаблон по умолчанию использует формат Llama 2. Она принимает текст и генерирует текст. Поддержка русского языка отдельно не заявлена; в данных есть многоязычное чтение и задачи на нескольких языках. Лицензия в метаданных обозначена как other, без уточнения конкретных условий. Модель унаследовала ограничения базовой языковой модели и обучающих данных; README также отмечает, что часть обучающих данных содержит токсичный контент. Результаты могут различаться в зависимости от формата запроса.

Bagel 7B v0.4 — текстовая диалоговая модель, созданная Джоном Дёрбином путём дообучения Mistral 7B. Это версия до DPO-обучения; автор отмечает её пригодность для ролевых диалогов. Модель рассчитана на генерацию ответов, выполнение инструкций, вопросы и ответы по контексту, творческое письмо, программирование, математику и вызов функций. В README описан широкий набор обучающих данных: от чатов и ролевых сценариев до задач по Python, SQL, естественным наукам и пониманию прочитанного. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она принимает и генерирует текст. Для диалогов предусмотрены форматы Vicuna, Llama 2, Alpaca и ChatML; автор указывает, что примеры обучения преобразовывались в несколько форматов. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии Apache 2.0. Обучающие данные охватывают несколько языков, но карточка не уточняет полный список языков, на которых качество проверено. Как и другие языковые модели, Bagel может выдавать неверные ответы; README также предупреждает о токсичных примерах в обучающих данных. Версия v0.4 не включает описанное в карточке DPO-дообучение.