I.3Извлечение и структурирование данных

Swift-Qwen3.8-27B-GGUF — квантованная GGUF-версия модели Swift-Qwen3.8-27B, разработанной UkisAI на базе Qwen3.8-27B. Модель ориентирована на задачи рассуждений, включая общее reasoning, математику, следование инструкциям и программирование. В метаданных также указан сценарий image-text-to-text, однако подробности о поддерживаемых визуальных входах в README не приведены. Ключевая особенность модели — сокращение числа thinking-токенов: по заявлению разработчика, их требуется на 58,3% меньше при потере качества менее 1% и ускорении примерно в 1,95 раза на ряде задач. В опубликованных сравнениях с базовой моделью результаты Swift близки к исходным на GPQA-Diamond, MMLU-Pro, C-Eval, IFBench и математических бенчмарках. Размер модели — 27B параметров; формат GGUF предназначен для использования с экосистемой llama.cpp и совместимыми средствами запуска. Сведения о контекстном окне и языках в README отсутствуют. Модель может быть полезна там, где важны качество рассуждений, экономия вычислений и сокращение задержки ответа. Ограничения включают некоторое снижение результатов на отдельных тестах, а также отсутствие в предоставленных данных подробных требований к оборудованию и характеристик квантования. Указана лицензия swift-open-license-1.0; README также содержит ссылку на условия лицензии и упоминает enterprise-лицензирование, поэтому перед коммерческим использованием следует проверить полный текст условий.

Tess-2.0-Llama-3-70B-v0.2 — чат-модель общего назначения, разработанная Migtissera и дообученная на базе Meta Llama 3 70B. Версия 0.2 включает дополнительный этап снятия ограничений на ответы. Модель содержит 69,5 млрд параметров, использует плотную архитектуру Llama и принимает запросы в формате Llama 3; заявленная длина контекста — 8192 токена. Модель предназначена для диалогов, следования инструкциям, генерации кода и ответов на общие вопросы. Дообучение выполнено на примерно 100 тысячах высококачественных примеров кода и общего назначения по принципам LIMA, в течение двух эпох с низкой скоростью обучения. Модель ориентирована на широкий спектр запросов и обычно охотно выполняет инструкции. Возможны неточные или вводящие в заблуждение ответы, а также предвзятый, оскорбительный или иной неподходящий контент; факты следует перепроверять. Модель описана как uncensored. Лицензия — Llama 3; применимые условия использования определяются лицензией Meta Llama 3.

ZYR3.1MoE (ZV1.1MeO) — текстовая генеративная модель с многоагентной архитектурой и маршрутизацией Mixture-of-Experts. В README разработчик явно не указан; модель опубликована под идентификатором zyr-AGENT/ZYR3.1MoE. Это объединённая самостоятельная версия с весами, токенизатором и chat template, без необходимости загружать отдельные адаптеры или компоненты. Размер весов составляет около 18 ГБ в пяти safetensors-фрагментах. Модель предназначена для сложных рабочих запросов: планирования, декомпозиции задач, программирования, математических рассуждений, исследования, проверки фактов, критики, обзора, оптимизации и координации компьютерных операций. Её поведение имитирует работу оркестрационной команды из 11 специализированных агентов, которыми управляют уровни ATP, ACN и MeO. Простые вопросы обрабатываются напрямую, а практические запросы могут запускать цикл планирования, распределения ролей и проверки результата. Ключевая особенность — обученное многоагентное поведение поверх одной объединённой модели; ATP и ACN являются внешними runtime-компонентами, а не отдельными нейронными весами. README не указывает точный размер базовой модели, максимальную длину контекста, поддерживаемые языки или мультимодальные возможности, поэтому подтверждённой является только работа с текстовой генерацией. Сгенерированные моделью отчёты о тестах могут быть симулированными и не заменяют реальные внешние результаты выполнения. Для надёжной работы рекомендуется GPU с объёмом памяти от 24 ГБ; поддержка 4-битной квантизации для гибридной архитектуры не гарантируется. Лицензия обозначена как other, но её конкретные условия в README не приведены.

ATX-Swift-Qwen3.8-27B-Uncensored-IQ4_XS-M-GGUF — это квантизированная GGUF-модель, разработанная JakeATX на основе d0xin/Swift-Qwen3.8-27B-Uncensored-BF16. Исходная модель является uncensored, abliterated-производной Swift-Qwen3.8-27B от UkisAI: из неё намеренно удалено исходное поведение отказа от ответов. Модель предназначена для генерации текста, включая программирование, агентские сценарии, работу с длинным контекстом и локальный запуск через llama.cpp. Модель содержит около 27,32 млрд параметров, 866 текстовых и MTP-тензоров и поддерживает только текстовую модальность, без vision tower. Используется смешанная квантизация ATX-IQ4_XS-M: основная часть весов представлена в IQ4_XS, отдельные важные тензоры повышены до Q5_0, Q6_K или Q8_0. Размер файла — около 14,5 GiB, эффективная точность — 4,56 бит на вес. Включена MTP speculative head, рассчитанная на спекулятивное декодирование. Рецепт ориентирован на видеокарты RTX 3090/3090 Ti с 24 ГБ памяти и позволяет работать с контекстом до 200 тыс. токенов при 8-битном key cache, однако точный лимит зависит от runtime и конфигурации. Сильными сторонами являются высокая эффективность по памяти, оптимизация под SM86 и длинный контекст, а также заявленный результат pass@1 89,25 на выбранной 100-задачной подвыборке LiveCodeBench v6. Модель не имеет встроенных ограничений на отказ и может генерировать контент, который исходная версия отклоняла, поэтому её ответы требуют проверки. В README не указаны точные языки и полный набор оценок качества. Для запуска рекомендуется llamAmpere; модель также совместима со stock TurboQuant+ и основной веткой llama.cpp, но с меньшим запасом по контексту. Лицензия указана как swift-open-license-1.0.

Dolphin 2.9.1 Qwen 110B — языковая модель, подготовленная Эриком Хартфордом, Лукасом Аткинсом, Фернандо Фернандесом и командой Cognitive Computations на базе Qwen1.5-110B. Модель с плотной архитектурой Qwen2 содержит 110 млрд параметров; её дообучили полным обновлением весов в формате ChatML. Базовая модель поддерживает контекст до 32 768 токенов, а дообучение проводилось с длиной последовательности 8 000 токенов. Модель предназначена для диалогов и выполнения инструкций, генерации кода, решения математических задач, вызова функций и сценариев с агентными возможностями. В карточке указана лицензия Tongyi Qianwen; коммерческое использование разрешено в рамках её условий. Модель описана авторами как uncensored и может охотно выполнять небезопасные запросы, поэтому перед предоставлением пользователям её следует дополнить собственным слоем фильтрации и контроля.

Dolphin 3.0 Qwen 2.5 3B — инструктивно настроенная языковая модель от Eric Hartford, Ben Gitter, BlouseJury и Cognitive Computations, созданная на базе Qwen/Qwen2.5-3B. Это плотная авторегрессионная модель с 3,1 млрд параметров, контекстом до 32 768 токенов и шаблоном диалога ChatML. Репозиторий содержит веса в формате safetensors. Модель предназначена для локального применения в качестве универсального помощника: она генерирует текст, помогает с программированием и математикой, поддерживает сценарии работы с агентами и вызова функций. Поведение можно настраивать системным промптом, включая тон и правила ответа. В обучающих данных использованы наборы для программирования, математики, инструкций, диалогов и вызова функций; в метаданных указан английский язык. Модель рассчитана на владельцев приложений, которым нужны локальный запуск и контроль над системным промптом и данными. Для запуска можно использовать Transformers, Ollama, LM Studio, vLLM, SGLang или TGI. Лицензия обозначена в метаданных как other; конкретные условия следует проверять на странице модели. Карточка не содержит результатов оценивания качества, поэтому пригодность для конкретных задач нужно проверять отдельно.

Gemma 4 31B MXFP4 CRACK — мультимодальная модель на архитектуре Gemma 4, опубликованная dealignai и основанная на google/gemma-4-31b-it. Это дообученная версия с удалёнными отказами, предназначенная для диалогов, ответов на вопросы, многошаговых рассуждений, генерации кода и работы с изображениями. Модель плотная, использует гибридное скользящее и глобальное внимание и квантизацию MXFP4; для запуска автор рекомендует vMLX на Apple Silicon с достаточной общей памятью. В карточке заявлены сохранение возможностей работы с изображениями и проверка генерации кода и рассуждений. По приведённым авторами оценкам, MMLU составляет 82,9% против 88,6% у базовой модели, а соответствие запросам из категорий HarmBench — 95%; это указывает на заметное снижение отказов, в том числе для опасных запросов. Метаданные указывают лицензию Gemma. Автор обозначает модель как исследовательскую; пользователю следует учитывать лицензионные условия Gemma и применимое законодательство.

GLM-4.7-Flash-NVFP4-GGUF — квантизированная версия языковой модели GLM-4.7-Flash, разработанной Zhipu AI и представленной в формате GGUF. Это модель архитектуры Mixture-of-Experts на базе DeepSeek2 с Multi-head Latent Attention: около 30 млрд параметров всего, из которых примерно 3,2 млрд активны на токен; используются 64 маршрутизируемых эксперта и один общий. Контекст составляет 200 000 токенов. Модель предназначена для генерации текста в диалоге, рассуждений и программирования на английском и китайском языках. Квантизация NVFP4 до примерно 4,53 бит на вес уменьшает размер файла до 15,79 ГБ и рассчитана на эффективный запуск на GPU NVIDIA Blackwell. Режим рассуждений включён по умолчанию; модель не имеет визуального энкодера. Это преобразование базовой модели в формат GGUF с квантизацией NVFP4. Репозиторий распространяется по лицензии MIT. Качество после квантизации может отличаться от исходной модели; для работы с NVFP4 требуется совместимое программное и аппаратное обеспечение.

GLM-4-9B — базовая плотная языковая модель семейства GLM-4, разработанная Zhipu AI. Репозиторий содержит версию с 8,8 млрд параметров в формате safetensors; она предназначена для генерации текста и служит базой для последующей настройки под диалоговые и другие задачи. Модель оценивалась на задачах семантики, математики, рассуждений, программирования и общих знаний. В карточке описана многоязычная поддержка, включая китайский и английский; метаданные также указывают эти языки. Контекст этой версии составляет 8192 токена. Упомянутые в README возможности вызова инструментов, веб-поиска и контекст до 128K относятся к GLM-4-9B-Chat, а не к данной базовой версии. Для работы с весами требуется transformers версии 4.46.0 или новее. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией репозитория. Модель не является мультимодальной: описание этой линейки отдельно выделяет GLM-4V-9B как визуальную модель.

GRaPE 2.5 Quasar — мультимодальная модель на 27 млрд параметров от SL-AI, дообученная на базе Qwen/Qwen3.8-27B. Она принимает изображения и текст, а также, согласно карточке, видео, и генерирует текст. Модель предназначена для диалогов, анализа визуальных данных, творческих задач, программирования с использованием инструментов, STEAM-задач и многошаговых рассуждений. В ней есть настраиваемые режимы глубины рассуждений и усилий при работе с инструментами; заявлена поддержка десяти языков. Разработчики описывают Quasar как флагман третьего поколения GRaPE с улучшенным обучающим набором и более естественной манерой письма. Доступны веса в формате Safetensors, библиотека для работы — Transformers. Модель распространяется по лицензии Apache-2.0. Карточка не приводит измеримых результатов оценки качества, поэтому заявления о высокой производительности следует считать заявлениями разработчиков.

unsloth/inkling-NVFP4 — вариант мультимодальной модели Inkling от Thinking Machines, опубликованный Unsloth. Модель представляет собой авторегрессионный трансформер с 66 слоями и разреженной архитектурой Mixture-of-Experts: всего 975 млрд параметров, из которых активно 41 млрд. Она принимает текст, изображения и аудио, обрабатывает их совместно и генерирует текст. В README также описана поддержка видео у семейства Inkling; для этой версии метаданные каталога подтверждают задачу image-text-to-text и возможность работы с изображениями. Модель предназначена для диалогов, следования инструкциям, анализа изображений, приложений с инструментами и агентными сценариями, помощников по программированию и систем RAG. Основной язык — английский; заявлены общие многоязычные возможности. Версия NVFP4 обозначена в названии, а в README для семейства перечислены NVFP4 и BF16. Лицензия — Apache-2.0. Модель может галлюцинировать, неточно следовать инструкциям и хуже работать в длинных многоходовых диалогах; качество может различаться по языкам и предметным областям. Для потенциально вредных запросов возможны обходы защит через ролевые и косвенные формулировки, поэтому для пользовательских продуктов нужны проверки и дополнительная модерация.

alpindale/Llama-3.2-1B-Instruct — это текстовая инструкционная модель семейства Llama 3.2, разработанного Meta. Репозиторий содержит версию с примерно 1,2 млрд параметров; модель построена на авторегрессионной архитектуре Transformer с Grouped-Query Attention и предназначена для генерации текста в Transformers. Для согласования ответов с предпочтениями пользователей применялись supervised fine-tuning и обучение с обратной связью от людей. Модель рассчитана на диалог в роли ассистента, поиск знаний и суммаризацию, а также на мобильных помощников для письма, переформулирование запросов и подсказок и агентные сценарии. Она принимает и генерирует текст, включая код, поддерживает контекст до 131 072 токенов и официально рассчитана на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Компактный размер позволяет рассматривать модель для применения на устройствах с ограниченными ресурсами. Качество, безопасность и полезность могут уступать более крупным моделям, поэтому разработчикам следует проверять поведение модели в конкретном сценарии. Знания ограничены данными с отсечкой по декабрю 2023 года. Использование регулируется специальной коммерческой лицензией Llama 3.2 Community License и Acceptable Use Policy.

Phi-4-reasoning-plus-GGUF — это набор квантизированных версий языковой модели Phi-4-reasoning-plus, разработанной Microsoft и преобразованной в формат GGUF автором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалогового взаимодействия, решения математических задач, программирования и задач, требующих рассуждений. В README указана поддержка английского языка и рекомендована температура генерации 0. Доступны варианты от исходных весов BF16 размером 29,32 ГБ до квантизаций Q8_0, Q6_K, Q5_K, Q4_K и других объёмом примерно от 8,4 до 15,6 ГБ. Разные варианты позволяют выбирать баланс между качеством, размером и требованиями к ресурсам; наиболее качественными и рекомендуемыми названы Q6_K_L, Q6_K, Q5_K и Q4_K_M. Модель рассчитана на локальный запуск через LM Studio, llama.cpp и совместимые проекты. Архитектура, число параметров, размер контекста и мультимодальные возможности в README не указаны; заявлена только текстовая генерация. Лицензия — MIT. Ограничения связаны с использованием квантизированных весов: качество и требования к памяти зависят от выбранного варианта, а некоторые форматы обозначены как устаревшие. Для корректной работы требуется соблюдать рекомендованный шаблон промпта Phi и использовать совместимое программное обеспечение.

Nemotron-Cascade-2-30B-A3B-AWQ-4bit — 4-битная AWQ-версия диалоговой языковой модели семейства NVIDIA Nemotron-Cascade-2. В README исходная модель описана как модель Mixture of Experts на 30 млрд параметров с 3 млрд активируемых параметров; она дообучена на базе Nemotron-3-Nano-30B-A3B-Base и поддерживает режимы рассуждений и обычных инструкций. Метаданные указывают задачу генерации текста, библиотеку Transformers и базовую модель nvidia/Nemotron-Cascade-2-30B-A3B. Модель предназначена для диалогов, решения сложных задач и агентных сценариев; README сообщает о высоких результатах на математической олимпиаде IMO и олимпиаде по информатике IOI 2025. Она использует шаблон ChatML, а для запуска исходной версии README описывает контекст до 262 144 токенов. AWQ-квантизация снижает точность весов до 4 бит; показатели качества и требования к ресурсам именно этой сборки в предоставленных сведениях не приведены. Лицензия указана как other, конкретные условия следует сверять с карточкой модели.

Ornith-1.5-35B-A3B-MXFP4_MOE_Hybrid-Imatrix-GGUF — это набор оптимизированных квантованных весов в формате GGUF для модели Ornith-1.5-35B-A3B, разработанной Ornith AI. Данные сборки подготовлены jashepp на основе базовой модели и предназначены для запуска в совместимой инфраструктуре GGUF, включая сценарии генерации текста, диалогов, агентной работы, программирования, использования инструментов и задач, требующих планирования и рассуждений. Модель использует архитектуру Mixture of Experts с заявленным размером 35B и конфигурацией A3B. Репозиторий содержит варианты с многоуровневой точностью MXFP4, Q8_0 и F16, а также importance matrix, созданной на основе исходной imatrix и дополнительных данных из промптов, результатов, аудитов, навыков и документации. Доступны файлы размером примерно от 18,5 до 20,7 ГБ. Указанный язык — английский; модель относится к текстовым генеративным моделям. Размер контекста в README не указан. К сильным сторонам относятся улучшенное следование инструкциям и рассуждениям по сравнению с Ornith-1.0, ориентация на агентное программирование и возможность уменьшить требования к памяти за счёт квантования экспертных слоёв при сохранении более высокой точности в критических компонентах. Ограничения включают потенциальные потери качества из-за квантования, зависимость от совместимого загрузчика GGUF и отсутствие в README подробных сведений о фактических требованиях к оборудованию, контекстном окне и результатах независимого тестирования. Распространение указано по лицензии MIT.

Phi-3 Medium-4K-Instruct ONNX DirectML — версия языковой модели Phi-3 Medium, опубликованная Microsoft для ускоренного вывода через ONNX Runtime и DirectML на GPU в Windows. Это плотная авторегрессионная модель семейства Phi-3 примерно с 13,8 млрд параметров и контекстом до 4096 токенов; она настроена следовать инструкциям с помощью supervised fine-tuning и direct preference optimization и поддерживает диалоговый режим. Репозиторий содержит ONNX-вариант с квантизацией INT4 методом AWQ. Модель предназначена для генерации текста, диалогов, ответов на вопросы, рассуждений, математических и кодовых задач. DirectML позволяет запускать её на совместимых GPU AMD, Intel и NVIDIA в Windows. В README указаны проверка на RTX 4090 и минимальная конфигурация Windows с GPU DirectX 12 и не менее 10 ГБ совокупной памяти. Квантизация помогает снизить требования к ресурсам, однако может влиять на точность; производительность зависит от оборудования и конфигурации. Лицензия — MIT. Указанные в README языки программирования относятся к примерам интеграции, а не к естественным языкам модели; конкретный перечень поддерживаемых естественных языков в предоставленных данных не установлен.

ProCreations_grug-35b-GGUF — квантизированная версия языковой модели ProCreations/grug-35b, подготовленная bartowski с использованием llama.cpp и метода imatrix. Модель ориентирована на задачи генерации текста, программирования, агентских сценариев, использования инструментов и рассуждений. В метаданных также указан pipeline_tag image-text-to-text, однако подробности о поддерживаемых визуальных входах в README не приведены. Модель содержит около 35 млрд параметров и распространяется в формате GGUF с вариантами квантизации от BF16 и Q8_0 до более компактных Q2–Q4 и IQ-форматов. Доступны сборки размером примерно от 19 до 69 ГБ; более высокие разрядности обеспечивают лучшее качество, а компактные варианты снижают требования к оперативной памяти. README не указывает контекстное окно, языки, точную архитектуру или результаты тестирования. Сборки предназначены для локального запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Сильными сторонами являются широкий выбор уровней квантизации и поддержка сценариев кода, агентного взаимодействия и tool use. Ограничения — отсутствие подробных сведений о мультимодальности, языках и производительности, а также значительные требования к памяти для качественных вариантов. Модель распространяется по лицензии MIT.

Qwen3-32B-Nex-N1 — плотная языковая модель серии Nex-N1 от разработчиков платформы Nex, дообученная для автономной работы агентов. Она предназначена для генерации текста в сценариях программирования, вызова инструментов, веб-поиска и многошаговых задач, а также для создания мини-приложений и веб-страниц. В README приведены результаты оценки этой версии на агентных и программных бенчмарках; модель также поддерживает чат и вызов функций. Модель построена на архитектуре Qwen3 и содержит 29,7 млрд параметров. Контекст — до 131 072 токенов; репозиторий предоставляет веса в формате Safetensors. Она принимает и генерирует текст. README рекомендует запуск через SGLang и для вызова функций указывает парсер инструментов qwen3_coder. Лицензия — Apache-2.0.

SassyDiffusion/Qwen3.6-27B-heretic-ara-GGUF — GGUF-версия декензурированной модели на базе Qwen3.6-27B. Модель создана SassyDiffusion с использованием Heretic 1.2.0 и метода Arbitrary-Rank Ablation (ARA). Базовая Qwen3.6-27B разработана командой Qwen и ориентирована на практическую разработку программного обеспечения, агентное кодирование, работу с фронтенд-проектами и рассуждения на уровне репозитория. Это каузальная языковая модель с vision encoder, содержащая около 27 млрд параметров и 64 слоя. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN; заявленная длина контекста составляет 262 144 токена с возможностью расширения до 1 010 000 токенов. README не уточняет полный перечень поддерживаемых языков. Формат GGUF предназначен для запуска в совместимых инструментах локального инференса. Главная особенность версии — снижение склонности к отказам: в приведённом сравнении модель отказала в 16 из 100 тестовых запросов против 99 из 100 у исходной модели. При этом декензурирование изменяет поведение базовой модели: указана KL-дивергенция 0,0967, поэтому возможны отличия в качестве, безопасности и устойчивости ответов. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-unsloth-code-reasoning-deepseek-v4-pro-destilled-Mlx — созданная сообществом 4-битная MLX-конверсия плотной vision-language модели семейства Qwen с примерно 27 млрд параметров. В основе указаны Qwen/Qwen3.5-27B и unsloth/Qwen3.6-27B; модель дообучена с использованием Unsloth и дистиллирована на примерах рассуждений DeepSeek v4 Pro. Она предназначена прежде всего для локального запуска на Apple Silicon через MLX и ориентирована на англоязычные сценарии. Модель поддерживает генерацию, дополнение и объяснение кода, задачи, требующие пошагового рассуждения, математику, логику, отладку, агентные рабочие процессы и вызов инструментов. Архитектура использует чередующиеся слои linear attention и full attention в соотношении 3:1, скрытый размер 5120, размер головы 256 и один MTP-слой; все параметры активны для каждого токена. Поддерживаются текст, изображения и видео, а также встроенный вызов функций через шаблон чата. Квантование выполнено в формате 4-bit affine с размером группы 64; для комфортной работы рекомендуется не менее 24 ГБ unified memory, предпочтительно 32 ГБ или больше. Сильные стороны модели — специализация на программировании и рассуждениях, предсказуемая задержка плотной архитектуры, мультимодальность, tool-calling и возможность приватного локального использования. Ограничения включают отсутствие официальных результатов бенчмарков, возможные галлюцинации и ошибки в коде, снижение качества из-за 4-битного квантования и преимущественную ориентацию на английский язык. Модель распространяется по лицензии Apache-2.0.

Youssofal/Qwen3.6-35B-A3B-MTPLX-Optimized-Balance — локальная модель для генерации текста, опубликованная пользователем или организацией Youssofal и основанная на семействе Qwen3.6. Она предназначена для запуска на компьютерах Apple Silicon через MLX и ускорения генерации с помощью MTPLX — механизма speculative decoding, использующего собственные MTP-головы модели для чернового предсказания токенов с последующей проверкой основной моделью. Модель подходит для локального чата, программирования и других сценариев генерации текста, включая задачи с рассуждениями и обычные контексты разработки. README не указывает поддерживаемые языки и точное максимальное окно контекста. Модель имеет конфигурацию 35B-A3B и архитектуру mixture-of-experts, поставляется в виде 6-битного MLX-квантизованного основного блока с размером группы 64, 8-битными router и gate-тензорами, а также калиброванными INT4 MLX MTP-головами. Нормализации, масштабы, смещения и обычные тензоры сохранены в BF16. Заявлены высокая скорость локальной генерации и практичное потребление памяти; измеренная скорость генерации в режиме MTPLX Sustained Max на Apple Silicon для рекомендованной конфигурации D2 составила около 123–126 токенов в секунду, а скорость обработки промпта в тестах достигала 1756,8–4109,8 токена в секунду в зависимости от длины контекста. Ограничения связаны с применением квантизации, зависимостью от Apple Silicon и MTPLX, а также с тем, что это не полноточный чекпойнт. Лицензия — Apache-2.0.

NikiKrutan/Qwen3.8-27B-MTP-GGUF — набор GGUF-квантований базовой модели Qwen/Qwen3.8-27B, подготовленный разработчиком NikiKrutan с использованием собственного инструмента niki-allocator. Метод распределяет тип квантования отдельно для каждого тензора и выбирает варианты на основе оценок и измерений KLD. Модель предназначена для локального запуска через llama.cpp и совместимых инструментов. Согласно README, модель ориентирована на диалоговые сценарии, программирование, reasoning, сложную логику и агентные задачи. Указаны поддержка английского и русского языков, а также мультиязычные сценарии для отдельных тестовых корпусов. В карточке присутствует тег image-text-to-text, однако конкретные сведения о визуальной архитектуре и фактических возможностях работы с изображениями не приведены. Размер базовой модели — 27B параметров; используется MTP, но точные варианты квантования, требования к памяти и размер контекста не указаны. К сильным сторонам относятся ориентированная на качество покомпонентная квантование, сравнение с несколькими альтернативными GGUF-сборками и оценка по KLD, RMS Δp, вероятности совпадения наиболее вероятного токена и perplexity на корпусах для кода, reasoning, агентных задач, мультиязычных текстов, научных и юридических материалов. Ограничения — отсутствие детальных численных результатов непосредственно в тексте README, неизвестные требования к ресурсам и отсутствие независимой оценки качества исходной модели. Лицензия Apache-2.0.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-mlx-oQ6e-1M — релиз Solstice-AI на базе модели DavidAU Qwen3.8-27B-TURBO-Fable-Cold-Fusion. Solstice-AI отвечает за downstream-квантизацию, масштабирование контекста YaRN до 1 048 576 токенов и упаковку для Apple MLX. Модель ориентирована на английский и китайский языки; в метаданных указана задача image-text-to-text, однако подробности о поддерживаемых визуальных входах не приведены. Модель предназначена для рассуждений, программирования, агентной разработки ПО, отладки репозиториев, выполнения многошаговых рабочих процессов и задач управления операционными системами. Заявлены архитектура Qwen 3.8 с гибридным вниманием, включающая Gated Delta Recurrent Network и Grouped-Query Attention, механизм Multi-Token Prediction, а также объединение весов Cold Fusion GAIN. Формат — смешанная квантизация Apple MLX oQ6e; заявлено размещение примерно в 23,7 ГБ оперативной памяти и ускорение на Apple Silicon через Metal и Anvil Runtime. К сильным сторонам относятся заявленные большой контекст до 1 миллиона токенов, поддержка локального запуска на совместимых компьютерах Apple Silicon и высокие результаты на наборах SWE-bench Pro, LiveCodeBench, QwenSWEBench, OSWorld, AndroidWorld, IFBench и ARC. Эти показатели и сравнения с Claude Opus 4.6 приведены авторами README, но методика и независимое подтверждение не описаны. Ограничения включают зависимость производительности от MLX, Apple Silicon и доступной памяти, возможные потери качества из-за квантизации, а также отсутствие подробных данных о тренировочном наборе, мультимодальных возможностях и безопасности. Указанная лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-Aggressive-i1-IQ4_XS-Smaller-GGUF — это предназначенная для llama.cpp смешанно-квантованная версия модели philbert440/Qwen3.8-27B-Uncensored-Aggressive, опубликованная пользователем aldenw. Модель ориентирована на генерацию текста, включая диалоги, объяснение технических концепций и написание кода. Исходное семейство является мультимодальным, однако в этом репозитории доступен только текстовый вариант без совместимого vision mmproj. Модель содержит 27 млрд параметров, 64 трансформерных блока и поддерживает нативный контекст до 262 144 токенов. Основной GGUF-файл размером 13,34 ГБ использует гибридную схему квантования: FFN-проекции сжаты до IQ3_S, основной набор весов представлен в IQ4_XS, отдельные тензоры внимания — в Q5_K, а output.weight — в Q6_K. Для ускорения методом speculative decoding доступна отдельная MTP-модель Q4_0 размером 1,68 ГБ. К сильным сторонам относятся экономия памяти по сравнению с полноразмерной моделью, сохранение повышенной точности для отдельных важных тензоров и возможность самостоятельного использования основной модели без MTP-компонента. Ограничения связаны с требованиями к памяти: оба файла занимают около 15,02 ГБ без учёта runtime-буферов и KV-кэша, поэтому на видеокартах класса 16 ГБ может потребоваться частичный offload, уменьшение контекста или отказ от MTP. Прирост скорости speculative decoding не гарантирован и зависит от оборудования, контекста и acceptance rate. Модель распространяется по лицензии Apache-2.0.

Tulu 30B — плотная авторегрессионная языковая модель семейства LLaMA с 32,3 млрд параметров, дообученная исследователями Allen Institute for AI на смеси наборов инструкций. Она предназначена для диалогов и выполнения инструкций: ответов на вопросы, рассуждений, решения задач и генерации кода. При обучении использовались FLAN V2, CoT, Dolly, OpenAssistant 1, GPT4-Alpaca, Code-Alpaca и ShareGPT; модель рассчитана на англоязычные запросы и формат промпта, описанный в карточке. Контекст составляет 2048 токенов, веса представлены в формате PyTorch как diff, для восстановления нужны исходные веса LLaMA в формате Hugging Face. В статье приведены результаты на MMLU, GSM, BBH, TydiQA, Codex-Eval и AlpacaFarm. Использование регулируется лицензией AI model license вместе с исходной лицензией LLaMA.

Virtuoso-Lite — языковая модель для генерации текста, представленная командой arcee-ai. В метаданных указаны архитектура Llama и базовая модель Falcon3-10B-Base; карточка описывает модель как 10-миллиардную и сообщает о дистилляции знаний DeepSeek-V3. Репозиторий содержит веса safetensors для библиотеки Transformers, а контекст модели составляет 32 768 токенов. Модель предназначена для диалоговых помощников, генерации и отладки кода, математических и технических ответов, а также прототипов анализа данных и STEM-обучения. Карточка заявляет о логитной дистилляции примерно на 1,1 млрд токенов и последующем DPO-выравнивании. Модель поддерживает текстовый ввод и генерацию текста; заявлены возможности чата и интерфейс вызова инструментов. В README указана лицензия falcon-llm-license. Среди ограничений карточка отмечает возможную предвзятость и вредоносную генерацию, а также срез знаний примерно до июня 2024 года. Показатели бенчмарков приведены без подробностей о методике, поэтому их следует считать заявлениями авторов карточки.

fearlessdots/WizardLM-2-7B-abliterated — это версия диалоговой модели WizardLM-2 7B, опубликованная fearlessdots. Веса в формате bfloat16 Safetensors ортогонализированы по методике, основанной на реализации @failspy; базовая модель — mistralai/Mistral-7B-v0.1, дообученная WizardLM@Microsoft AI. Модель имеет плотную архитектуру MistralForCausalLM и около 7,1 млрд параметров. Модель предназначена для многоходового диалога и генерации ответов на инструкции, включая задачи письма, программирования, математики, рассуждений и многоязычного общения. В README заявлена поддержка нескольких языков, но конкретные языки не перечислены. Контекст составляет до 32 768 токенов; используется шаблон диалога Vicuna. Лицензия — Apache-2.0. Заявленные возможности унаследованы от WizardLM-2 7B, однако карточка не приводит отдельной оценки именно этой ортогонализированной версии. Ортогонализация весов описана как abliterated-вариант, но README не уточняет, какие ограничения или побочные эффекты она создаёт.

Мультимодальная диалоговая модель darkc0de/XORTRON.CriminalComputing.Qwen3.5-27B-Claude-Opus-4.6-Distill-darkc0de-heretic создана на базе unsloth/Qwen3.5-27B и дообучена на наборах данных с примерами рассуждений, включая данные, оформленные в стиле Claude Opus 4.6. Разработчик также применил abliteration, чтобы снизить частоту отказов: в приведённом тесте модель отказала в 3 случаях из 100 против 92 из 100 у исходной модели для сравнения. Модель предназначена для диалогов общего назначения, программирования, творческого письма и визуального анализа. Архитектура Qwen3.5 — плотная модель с 27 млрд параметров; она принимает текст и изображения, поддерживает интерфейс вызова инструментов и выдаёт текст. Карточка рекомендует длину генерации до 32 768 токенов для обычных запросов и до 81 920 для сложных задач; это рекомендации по выходу, а не подтверждённая длина контекста. В README приведены результаты отдельных тестов, но они не гарантируют качество на других задачах. Снижение отказов означает, что модель может отвечать на запросы, которые базовая версия отклоняет. Лицензия — Apache-2.0.

aquif-3.5-Max-1205-GGUF — это квантизированная GGUF-версия языковой модели aquif-3.5-Max-1205, разработанной aquif-ai. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, рассуждений, математических задач и программирования; запуск возможен через llama.cpp, LM Studio и другие совместимые проекты. В карточке указано, что модель относится к архитектуре MoE, однако точное число параметров, размер активной части, максимальная длина контекста и другие архитектурные характеристики не приведены. Поддерживаются текстовые запросы; заявлены английский, немецкий, итальянский, португальский, французский, хинди, испанский, тайский, китайский и японский языки. Доступны варианты от BF16 до низкобитных Q3-, Q4-, Q5-, Q6- и Q8-квантизаций размером примерно от 19,48 до 84,78 ГБ. Сильной стороной являются разнообразие вариантов квантизации и возможность локального запуска, при этом варианты Q5 и Q6 позиционируются как обеспечивающие высокое качество, а Q4 — как компромисс между качеством и требованиями к памяти. Более агрессивная квантизация уменьшает размер, но может снижать качество ответов. В README не приведены результаты бенчмарков, сведения о мультимодальности или ограничения по применению. Указана лицензия Apache-2.0.

Карточка модели bh890/ARX на Hugging Face совпадает с карточкой bh890/LongCat-2.0, поэтому описание составлено по ней. LongCat-2.0 — большая языковая модель семейства LongCat, представленная разработчиками проекта LongCat. Это модель архитектуры MoE с классом LongcatCausalLM; в метаданных репозитория указано 42,1 млрд параметров, тогда как README описывает полную версию с 1,6 трлн параметров и примерно 48 млрд активируемых на токен. Репозиторий содержит веса в формате safetensors и использует лицензию MIT. Модель предназначена для диалоговой генерации текста, программирования, понимания кода и репозиториев, выполнения задач агентами и работы с инструментальными сценариями. README сообщает об обучении на данных с контекстом до 1 млн токенов и об архитектурном механизме LongCat Sparse Attention для длинных последовательностей; метаданные указывают нативный контекст 262 144 токена. В карточке также заявлены чат и интерфейс вызова инструментов. README особо выделяет задачи с длинным горизонтом, редактирование кода на уровне репозитория и автоматизацию действий; развёртывание описано для GPU и NPU. Модель не оценивалась всесторонне для всех возможных прикладных сценариев. Условия лицензии — MIT.