II.10Разработка и эксплуатация AI/ML-систем

Карточка модели mylesgoose/Llama-3.2-1B-Instruct-abliterated3 на Hugging Face совпадает с карточкой alpindale/Llama-3.2-1B-Instruct, поэтому описание составлено по ней. alpindale/Llama-3.2-1B-Instruct — это текстовая инструкционная модель семейства Llama 3.2, разработанного Meta. Репозиторий содержит версию с примерно 1,2 млрд параметров; модель построена на авторегрессионной архитектуре Transformer с Grouped-Query Attention и предназначена для генерации текста в Transformers. Для согласования ответов с предпочтениями пользователей применялись supervised fine-tuning и обучение с обратной связью от людей. Модель рассчитана на диалог в роли ассистента, поиск знаний и суммаризацию, а также на мобильных помощников для письма, переформулирование запросов и подсказок и агентные сценарии. Она принимает и генерирует текст, включая код, поддерживает контекст до 131 072 токенов и официально рассчитана на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Компактный размер позволяет рассматривать модель для применения на устройствах с ограниченными ресурсами. Качество, безопасность и полезность могут уступать более крупным моделям, поэтому разработчикам следует проверять поведение модели в конкретном сценарии. Знания ограничены данными с отсечкой по декабрю 2023 года. Использование регулируется специальной коммерческой лицензией Llama 3.2 Community License и Acceptable Use Policy.

alpindale/Llama-3.2-3B — текстовая модель семейства Llama 3.2, разработанного Meta. Это авторегрессионная плотная трансформерная модель с 3,2 млрд параметров и архитектурой LlamaForCausalLM; репозиторий содержит веса Safetensors для Transformers. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и рассчитана на многоязычную генерацию. Модель подходит для диалогового помощника, суммаризации, поиска знаний и приложений с агентными сценариями, а также для мобильных помощников по написанию текста и переформулирования запросов. В README описаны применение и возможности семейства Llama 3.2; отдельное дообучение alpindale/Llama-3.2-3B не подтверждено, поэтому характеристики поведения конкретного чекпойнта могут отличаться от описания семейства. Заявленные языки поддержки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Лицензия llama3.2 — пользовательская лицензия сообщества Meta с собственными условиями коммерческого использования и политикой допустимого использования. Модель обучена на статическом офлайн-наборе данных; как компактная модель, она может уступать более крупным системам по качеству и требует проверки безопасности и пригодности для конкретного применения.

mlx-community/Llama-3.2-3B-Instruct — конверсия модели Meta Llama 3.2 3B Instruct в формат MLX, выполненная сообществом mlx-community с помощью mlx-lm версии 0.18.2. Это плотная авторегрессионная языковая модель на 3,2 млрд параметров для диалогов и генерации текста; метаданные также указывают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов и ориентирована на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель подходит для диалоговых помощников, генерации и преобразования текста, а также сценариев с вызовом инструментов. В репозитории указаны веса Safetensors; README описывает конверсию в MLX и использование через mlx-lm. Лицензия — Llama 3.2 License. Качество и безопасность ответов могут зависеть от запроса и сценария применения; сведения о специализированной предметной области в карточке отсутствуют.

Это набор GGUF-квантизаций модели Mistral-Small-3.2-24B-Instruct-2506, первоначально разработанной Mistral AI и модифицированной независимым автором llmfan46. Модель обработана методикой Heretic v1.2.0 с использованием Arbitrary-Rank Ablation (ARA), чтобы снизить количество отказов и ограничений при сохранении исходных возможностей. Заявлены 2 отказа из 100 против 98 из 100 у оригинальной версии, при KL-дивергенции 0,0369. Модель предназначена для диалогов, выполнения инструкций, генерации текста и function calling. Она поддерживает мультимодальный сценарий image-text-to-text: для работы с изображениями требуется отдельный Vision Projector, совместимый с GGUF. Указана поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского, персидского и ряда других языков. Размер модели — 24 миллиарда параметров; сведения о длине контекста и точной архитектуре в карточке не приведены. Доступны варианты BF16, Q8_0, Q6_K, Q5_K_M, Q5_K_S и Q4_K_M с разным соотношением качества, размера и требований к памяти. Модель совместима с llama.cpp, LM Studio, Ollama и другими инструментами, поддерживающими GGUF. Основное преимущество — более свободная генерация и сохранение близкого к оригиналу поведения; ограничениями являются возможное снижение качества из-за квантизации, необходимость Vision Projector для изображений и уменьшенные встроенные механизмы отказа, что повышает риски при использовании без дополнительного контроля безопасности. Лицензия — Apache 2.0.

PeppX/Ornith-1.0-9B-Uncensored-GGUF — GGUF-квантизированная версия модели PeppX/Ornith-1.0-9B-Uncensored, разработанная PeppX. Это текстовая генеративная модель для локального запуска, ориентированная на программирование, рассуждения, агентские сценарии, генерацию текста, кибербезопасность и red-team-задачи. Модель позиционируется как uncensored и abliterated: из базовой модели удалено направление, связанное с отказами, без дополнительного обучения и тонкой настройки. Модель имеет плотную архитектуру Qwen 3.5 с 32 слоями и примерно 9 млрд параметров, поддерживает контекст до 262 144 токенов и английский язык. Доступны варианты квантования Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером примерно от 5,6 до 9,5 ГБ; они рассчитаны на локальный запуск с помощью llama.cpp, LM Studio или Ollama. Заявлены сохранение исходных возможностей в кодировании, математике, рассуждениях и следовании инструкциям, а также низкое расхождение с базовой моделью по KL-дивергенции 0,0827, однако приведённые показатели зависят от методики оценки. Ключевая особенность модели — заявленный авторами нулевой уровень отказов, что может быть полезно для исследовательских, тестовых и red-team-сценариев, но одновременно повышает риск генерации небезопасного или вредоносного контента. Ограничения включают зависимость качества и скорости от выбранной квантизации и оборудования, а также отсутствие в README подробных данных о мультимодальности, обучающем наборе и результатах независимых бенчмарков. Модель распространяется по лицензии MIT.

Aratako создал эту диалоговую языковую модель, объединив через mergekit Qwen/Qwen1.5-7B-Chat и abacusai/Liberated-Qwen1.5-7B в архитектуру Mixture of Experts без дополнительного дообучения. Модель имеет архитектуру Qwen2ForCausalLM, около 7,1 млрд параметров и контекст до 32 768 токенов; она предназначена для генерации текста и диалогов на английском языке. В тестах MT-Bench модель показала результаты, близкие к исходной Qwen1.5-7B-Chat; автор приводит сравнительные оценки для задач кодирования, извлечения информации, рассуждений, ролевого общения и письма. Для запуска нужны пользовательские файлы модели и конфигурации, размещённые рядом с весами. В карточке указана лицензия other, а README сообщает о наследовании лицензии Tongyi-Qianwen.

DavidAU/Qwen3-32B-128k-NEO-Imatrix-Max-GGUF — квантованные GGUF-варианты модели Qwen3-32B, разработанные DavidAU. Модель предназначена для генерации текста, диалогов, задач с рассуждениями и творческих сценариев, включая хоррор и другие художественные применения. Указано, что модель может использоваться также для общего назначения. Модель имеет заявленный контекст до 128k токенов и поддерживает режим reasoning с автоматической генерацией блоков размышлений. Варианты используют NEO Imatrix-квантизацию, при этом выходной тензор оставлен в формате BF16 для улучшения рассуждений и генерации. Размер базовой модели — 32B параметров; конкретная архитектура, список поддерживаемых языков и точные характеристики отдельных квантов в карточке не указаны. Для качества рекомендуется контекст не менее 8k, предпочтительно 16k; IQ4XS и IQ4NL описаны как наиболее сбалансированные варианты, а более высокие кванты — как предпочтительные для усиленного reasoning. К ограничениям относятся зависимость качества от выбранного уровня квантизации, необходимость корректной настройки Jinja или CHATML-шаблона и возможная потребность в подборе параметров генерации. Для Q8_0 эффект Imatrix, согласно описанию, отсутствует. Модель распространяется по лицензии Apache-2.0.

Ex0bit/Qwen3.5-122B-A10B-PRISM-PRO-GGUF — мультимодальная чат-модель Ex0bit в формате GGUF, созданная на основе Qwen/Qwen3.5-122B-A10B и предназначенная для запуска через llama.cpp. По описанию автора, PRISM-PRO изменяет механизмы отказа и предвзятости; доступная Dynamic-квантизация размером 57,7 ГБ использует разные уровни точности для блоков модели, а веса внимания сохранены в Q8_0. В репозитории также указан файл mmproj для обработки изображений и видео. Модель имеет гибридную MoE-архитектуру с 122 млрд параметров, из которых активны около 10 млрд на токен, и сочетает GatedDeltaNet с полным вниманием. Заявленное окно контекста — 262 144 токена; доступны режимы рассуждения и прямого ответа. Подходит для диалога, анализа изображений и видео, работы с длинным контекстом и рассуждений. В метаданных указана поддержка множества языков, включая русский, английский и китайский. Лицензия — Apache-2.0.

Это GGUF-квантизация мультимодальной модели Qwen3.6-35B-A3B, разработанной Alibaba Cloud; репозиторий FreedomAISVR распространяет её в формате MXFP4_MOE для запуска через llama.cpp. Модель имеет архитектуру MoE: 35 млрд параметров всего, около 3 млрд активируются на токен, используются 256 экспертов и гибридное внимание Gated DeltaNet с полным вниманием. Контекстное окно — 262 144 токена. Модель предназначена для диалогов, генерации текста и анализа изображений. Для обработки изображений вместе с основными весами требуется файл проектора mmproj. В MXFP4 квантизированы веса экспертов, а маршрутизатор и общие экспертные слои сохранены в Q8_0; README указывает размер основных весов 18,4 ГБ. Указана поддержка 201 языка, среди которых английский и китайский. Квантизация снижает требования к памяти, но может повлиять на качество относительно исходных весов; фактическая совместимость и скорость зависят от оборудования и версии llama.cpp. Лицензия репозитория — Apache-2.0.

Qwen3.8-27B-GGUF — набор квантизированных GGUF-версий базовой модели Qwen/Qwen3.8-27B, подготовленный пользователем vcruz305 для запуска через llama.cpp. Модель предназначена для локальной генерации текста и диалоговых сценариев, включая задачи с рассуждениями; для мультимодальных сценариев требуется отдельный файл mmproj. Поддерживаются английский и китайский языки. Указанный pipeline — text-generation. В основе используется 64-слойный языковой trunk архитектуры qwen35 с гибридом Gated DeltaNet; размер базовой модели — 27B параметров. Доступны квантизации от 2 до 8 бит размером примерно от 9,98 до 26,63 GiB. Версии Q2_K и Q3_K_M используют imatrix-квантизацию, остальные являются обычными K-quants. В файлах намеренно отсутствует MTP-голова для speculative decoding, что уменьшает требования к памяти, но исключает соответствующий режим ускорения. В README также заявлена поддержка контекста до 262 144 токенов при соответствующей конфигурации и аппаратных ресурсах. Сильные стороны набора — возможность запуска 27B-модели на видеокартах с 12, 16, 24 и 32+ GiB памяти, несколько вариантов компромисса между качеством и размером, а также исправленный chat template для корректной работы многошаговых агентов. Ограничения включают зависимость от достаточно новой версии llama.cpp с поддержкой qwen35, отсутствие встроенной vision-компоненты и MTP-головы, а также высокие требования к памяти для старших квантизаций и длинного контекста. Распространение заявлено по лицензии Apache-2.0, унаследованной от официальной модели Qwen.

Qwen3.8-27B-TURBO-fcf-GGUF — открытая многоэтапная fine-tune-модель на базе Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU, опубликованная в формате GGUF. В README указаны разработчик базовой модели и участники обучения DavidAU и его команда; для обучения применялись Unsloth, методы COLD FUSION и Fable Fusion 711, а также наборы данных DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Репозиторий содержит обычные и MTP-квантизации, включая варианты для 4- и 8-битного запуска на потребительском оборудовании. Модель предназначена для широкого спектра задач: рассуждений и решения задач, программирования, творческого письма, художественной прозы, ролевых сценариев и других текстовых применений. Заявленная особенность TURBO-версии — сокращение объёма внутреннего рассуждения по сравнению с обычной Qwen3.8 при сохранении детализации и качества ответов, что должно повышать скорость генерации и снижать расход токенов. В метаданных указаны английский и китайский языки; контекстное окно и точный набор поддерживаемых модальностей в README не описаны, хотя pipeline_tag указывает image-text-to-text. Ключевые характеристики — около 27 млрд параметров, архитектура на базе Qwen3.8, поддержка трёх режимов рассуждения согласно описанию автора, а также обычных и MTP GGUF-квантов. README заявляет высокие результаты на ARC-C и ARC-E и превосходство базовых моделей по нескольким бенчмаркам, однако эти утверждения не подтверждены независимыми данными в предоставленном тексте. Модель обозначена как uncensored, поэтому её ответы могут быть менее ограниченными с точки зрения защитных фильтров; конкретные требования к оборудованию и контексту запуска не приведены. Указанная лицензия — Apache-2.0.

Qwen3-VL-4B-Instruct — плотная мультимодальная модель семейства Qwen3-VL, разработанная командой Qwen. Она принимает текст и изображения, а также предназначена для понимания видео и временных событий; в ответ генерирует текст. Модель доступна как репозиторий весов в формате safetensors и рассчитана на диалоговое использование через Transformers. Модель подходит для визуальных вопросов и ответов, распознавания и разбора текста на изображениях, анализа видео, пространственного рассуждения, мультимодальных STEM-задач и управления интерфейсами с вызовом инструментов. В README заявлены контекст 256 тысяч токенов с возможностью расширения до миллиона и OCR на 32 языках. Среди архитектурных особенностей указаны Interleaved-MRoPE для временных и пространственных данных и объединение многоуровневых визуальных признаков DeepStack. Лицензия Apache-2.0. Это вариант Instruct, предназначенный для применения в мультимодальных диалоговых сценариях; качество зависит от задачи и входных данных, а заявленные возможности не сопровождаются в карточке результатами бенчмарков.

cyankiwi/Qwen3-VL-4B-Instruct-AWQ-8bit — 8-битная AWQ-квантизованная версия мультимодальной модели Qwen3-VL-4B-Instruct, разработанной командой Qwen. Модель предназначена для обработки текста и изображений, а также заявлена для понимания видео, визуального рассуждения и взаимодействия с графическими интерфейсами. Она подходит для описания изображений, визуального вопросно-ответного взаимодействия, OCR, анализа документов, STEM-задач, генерации кода и разметки интерфейсов по визуальным примерам. Модель использует плотную архитектуру размером 4B параметров и поддерживает контекст до 256K токенов с возможностью расширения до 1M. Среди заявленных архитектурных компонентов — Interleaved-MRoPE для временных и пространственных координат, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками для анализа видео. Указана поддержка OCR на 32 языках, однако полный перечень языков в README не приведён. Сильные стороны модели — объединённое понимание текста и изображений, распознавание объектов и документов, пространственное и временное рассуждение, работа с длинным контекстом и сценарии визуального агента. Ограничения включают уменьшенную точность, возможные потери качества и совместимость, связанные с 8-битной AWQ-квантизацией, а также отсутствие в README подробных количественных результатов, полного списка языков и требований к аппаратному обеспечению. Модель распространяется по лицензии Apache-2.0.

Карточка модели Anthropic-ai/Audiotoaudiotranslate на Hugging Face совпадает с карточкой Anthropic-ai/Aiaudiotranslate, поэтому описание составлено по ней. Anthropic-ai/Aiaudiotranslate — мультиязычная разговорная языковая модель на архитектуре Qwen3.5 с 7,2 млрд параметров. Согласно карточке, это независимый проект открытой модели, дообученной для следования инструкциям, устойчивого поведения ассистента, рассуждений, письма, суммаризации и помощи с программированием. Метаданные указывают контекст до 262 144 токенов и варианты весов Safetensors и GGUF, включая квантизированные сборки. Модель предназначена для диалога и генерации текста на разных языках; в README также заявлены задачи транскрибирования и перевода аудио, но описание репозитория сосредоточено на текстовом ассистенте и не подтверждает аудиовход. Лицензия — MIT. Карточка называет проект независимым и неофициальным; приведённые в README показатели бенчмарков описаны как основанные на Qwen3.5 9B.

c4ai-command-r-08-2024-GGUF — это квантизированная версия языковой модели c4ai-command-r-08-2024, разработанной CohereForAI и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая llama.cpp. В карточке указано, что она поддерживает английский, французский, немецкий, испанский, итальянский, португальский, японский, корейский, китайский и арабский языки. Модель относится к классу text-generation; сведения о размере, архитектуре и длине контекста в представленном README не указаны. Квантизация может снизить требования к ресурсам по сравнению с исходной моделью и упростить локальное развертывание, однако потенциально сопровождается потерей качества относительно полной версии. Доступ к исходной модели регулируется лицензией CC BY-NC 4.0 и дополнительным лицензионным соглашением Cohere; использование разрешено только в некоммерческих целях. Для доступа также предусмотрена форма с подтверждением согласия с условиями лицензии.

Mungert/gemma-3n-E2B-it-GGUF — инструкционная мультимодальная модель семейства Gemma 3n, разработанная Google DeepMind и представленная в формате GGUF. Репозиторий создан с использованием llama.cpp. Модель предназначена для эффективного запуска на устройствах с ограниченными ресурсами и поддерживает обработку текста, изображений, видео и аудио с генерацией текстовых ответов. Архитектура использует MatFormer и технологию выборочной активации параметров: фактический размер модели составляет около 6 млрд параметров, но за счёт выгрузки редко используемых матриц требования к памяти сопоставимы с традиционной моделью эффективного размера 2 млрд параметров. Поддерживаются изображения с разрешением 256×256, 512×512 или 768×768, аудио одного канала, кодируемое со скоростью 6,25 токена в секунду, и общий контекст до 32 тысяч токенов. Максимальная длина вывода также составляет до 32 тысяч токенов за вычетом токенов входного запроса. Модели Gemma 3n обучались на данных более чем для 140 разговорных языков. Модель подходит для ответов на вопросы, суммаризации документов, анализа изображений, аудио и видео, а также для других инструкционных и мультимодальных сценариев. К сильным сторонам относятся сочетание нескольких модальностей и сниженные требования к ресурсам; при этом в карточке не приведены результаты тестов, точные параметры GGUF-квантизации и подробные сведения о поддерживаемых языках. Использование регулируется лицензией Gemma и условиями Google; доступ к исходной модели на Hugging Face требует принятия условий лицензии.

GLiNER2.5 Base — англоязычная модель извлечения информации по заданной схеме от Fastino. Она предназначена для извлечения именованных сущностей, классификации текста, разбора структурированных записей, оценки атрибутов фрагментов и извлечения отношений между сущностями в одном конвейере. Модель построена на граничной архитектуре GLiNER2 с энкодером DeBERTa-v3-base и содержит 194 млн параметров; метаданные указывают формат весов safetensors. Для работы с длинными документами можно обрабатывать перекрывающиеся фрагменты и объединять смещения результатов. Модель поддерживает локальный запуск на CPU, CUDA и MPS, а также совместное извлечение сущностей, классификаций, отношений и структурированных записей. Её используют для разметки текста по пользовательским схемам, извлечения связей и формирования записей с сохранением принадлежности полей к отдельным объектам. Базовый энкодер — microsoft/deberta-v3-base. Лицензия — Apache-2.0. При обработке длинных документов обычный вызов extract обрезает текст по max_len; разбиение на фрагменты не сохраняет сущности и отношения, чьи части не попали в один фрагмент. Независимое извлечение отношений само по себе не гарантирует соответствие типов концов заданным ограничениям; для совместимых ограничений предназначен режим JointIE.

unsloth/GLM-4.6V-GGUF — GGUF-версия мультимодальной модели GLM-4.6V из семейства GLM-V. Исходную модель разработала команда Z.ai, а данный вариант подготовлен Unsloth с использованием формата GGUF и методов квантования Unsloth Dynamic 2.0. Модель предназначена для облачных и высокопроизводительных кластерных сценариев, а также для задач мультимодальных агентов. GLM-4.6V поддерживает обработку изображений и текста, включая документы, скриншоты, страницы с таблицами, графиками и сложной разметкой. Она рассчитана на контекст до 128 тысяч токенов, поддерживает китайский и английский языки и имеет заявленный размер 106 млрд параметров. Ключевые возможности включают визуальное понимание, мультимодальный Function Calling, интерливинг изображений и текста, анализ длинных и многодокументных материалов, а также восстановление интерфейсов по скриншотам с генерацией и редактированием HTML/CSS. Сильными сторонами являются сочетание визуального восприятия с выполнением действий через инструменты, работа с насыщенными документами и заявленная конкурентоспособность на мультимодальных бенчмарках. Ограничения связаны с очень крупным размером модели и высокими требованиями к вычислительным ресурсам; конкретные требования к памяти и характеристики квантования в предоставленных данных не указаны. Модель распространяется по лицензии MIT.

GLM-4-9B-0414 — текстовая генеративная модель семейства GLM-4 от Z.ai. По метаданным это плотная архитектура GLM-4 с 8,8 млрд параметров, рассчитанная на контекст до 32 768 токенов; репозиторий содержит веса Safetensors для Transformers. Модель поддерживает диалог и интерфейс вызова инструментов. Она предназначена для генерации текста в диалоге и решения общих задач с инструкциями. В README описан вариант GLM-Z1-9B-0414 с усиленными рассуждениями, особенно в математике, однако карточка относится к GLM-4-9B-0414, поэтому эти свойства нельзя уверенно приписать ей. Метаданные указывают китайский и английский языки. Лицензия — MIT.

Jackrong/GPT-5-Distill-llama3.2-3B-Instruct — диалоговая текстовая модель на архитектуре Llama 3.2, дообученная на базе unsloth/Llama-3.2-3B-Instruct методом SFT и дистилляции ответов GPT-5. Модель содержит 3,2 млрд параметров и предназначена для запуска на потребительском оборудовании, включая устройства с ограниченными ресурсами. В карточке указано использование LoRA при обучении; репозиторий также содержит веса safetensors. Модель подходит для чата и следования инструкциям, объяснений, суммаризации и перефразирования, а также для ответов по документам в RAG-сценариях. В README заявлен контекст до 32 тыс. токенов; метаданные каталога указывают 131 072 токена. Поддерживаемые языки — английский и китайский, на них рассчитана смесь обучающих данных. Небольшой размер удобен для локального запуска, но модель может уступать крупным моделям в сложных математических и программных задачах и склонна к фактическим ошибкам. Ответы для медицинских и юридических решений требуют проверки. Лицензия — Llama 3.2.

GPT-OSS-Swallow-20B-RL-v0.1 — двуязычная языковая модель Токийского научного института (Tokyo Tech), созданная на основе GPT-OSS-20B с продолжением предобучения, дообучением на инструкциях и обучением с подкреплением по проверяемым наградам. Модель предназначена для диалога на японском и английском языках, а также для решения задач по математике, программированию и естественным наукам. Архитектура — GPT-OSS MoE; в метаданных указано 1,6 млрд параметров и контекстное окно до 131 072 токенов. Разработчики сообщают об улучшенной работе с японским языком и переводом между японским и английским, при сохранении или усилении возможностей в математике и программировании. Для воспроизводимого запуска рекомендуют vLLM и уровень reasoning effort medium. Хотя заявленное окно контекста составляет 131 072 токена, модель не обучали и не проверяли на задачах длиннее 32 тысяч токенов; для практического использования авторы рекомендуют контекст не более 32 768 токенов. Модель специально не обучалась вызову инструментов и не гарантирует стабильное управление режимом рассуждений или самоидентификацию. Карточка отмечает раннюю стадию разработки и отсутствие специальной настройки на безопасность и соответствие намерениям пользователя. Лицензия — Apache-2.0.

Apollo Raines опубликовал вариант Llama 3.1 8B Instruct, изменённый инструментом jBlaze методом representation engineering. По описанию автора, дополнительного обучения не было: изменения в весах подавляют отказы и уклончивые формулировки, чтобы ответы были более прямыми. Модель предназначена для диалоговой генерации текста, ответов на вопросы и выполнения инструкций, включая задачи по программированию. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Она принимает текст и выдаёт текст; в карточке указаны английский язык и контекст до 131 072 токенов. Автор характеризует релиз как демонстрационную версию с намеренно сниженной полнотой возможностей. Указана лицензия Llama 3.1; свойства изменения отказов могут влиять на безопасность ответов, а заявленных автором проблем не обнаружено.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая модель на базе Qwen3.6-27B. Она создана в сотрудничестве авторов DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh с использованием Unsloth, специализированных датасетов и нескольких этапов fine-tuning и merge. Модель распространяется в формате GGUF, включая обычные и MTP-варианты с NEO IMATRIX-квантованием. Модель предназначена для широкого спектра задач: следования инструкциям, решения общих и сложных задач, рассуждений, генерации кода, творческого письма, ролевых сценариев и работы с текстом различных жанров. В README заявлена поддержка vision и языков English и Chinese. Указан размер 27B параметров, однако максимальная длина контекста не приведена. MTP-варианты используют multi-token prediction, а MTP-тензоры имеют точность Q8_0; для них рекомендуется температура не выше 1. К заявленным сильным сторонам относятся улучшенное следование инструкциям, рассуждение и общая способность к решению задач, а также высокая точность низкоразрядных квантованных вариантов. README утверждает превосходство над базовой Qwen3.6-27B в большинстве указанных бенчмарков, но эти результаты являются заявлениями автора и не сопровождаются здесь полной воспроизводимой методикой. Возможные ограничения включают зависимость качества и производительности от выбранного кванта и параметров MTP, а также отсутствие подробных данных о контекстном окне и системных требованиях. Модель заявлена как uncensored/heretic, поэтому её ответы могут требовать дополнительной модерации. Лицензия — Apache-2.0. В качестве источников дообучения указаны DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это GGUF-квантизированная версия мультимодальной модели Qwen3.8-27B, разработанная HauhauCS на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также обработки изображений и видео. Профиль Aggressive ориентирован на прямые ответы с минимальным вступлением и без стандартного поведения отказа; при этом заявлено сохранение исходных текстовых, reasoning-, agentic-, image- и video-возможностей базовой модели. Модель представляет собой плотную causal language model на 27 млрд параметров с vision encoder и поддержкой языков English, Chinese и других языков за счёт мультиязычной базы. Архитектура включает 64 слоя языковой модели, hidden size 5120, FFN size 17408, словарь размером 248 320 токенов, 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Поддерживается нативный контекст 262 144 токена с возможностью расширения до 1 000 000 токенов. В поставку входят различные GGUF-квантизации, отдельный BF16 vision projector для изображений и видео, а также профиль HauhauCS FastMTP 32K для ускорения speculative decoding; заявлено ускорение до 3,02 раза для документов и до 1,93 раза для reasoning-сценариев по сравнению с режимом без MTP. Сильные стороны модели — широкий набор модальностей, длинный контекст, сохранённые возможности Qwen3.8, выбор квантизаций от Q2 до Q8 и оптимизированные K_P-кванты, совместимые с llama.cpp, LM Studio и другими GGUF-совместимыми средами. Агрессивный профиль может быть менее подходящим для надёжно контролируемых агентских и критически важных задач, где предпочтительнее более сбалансированная настройка. Для мультимодального ввода требуется отдельный vision projector, а запуск требует значительных ресурсов: размер текстовых файлов составляет примерно от 10,32 до 31,46 ГБ в зависимости от квантизации. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-30B-A3B-Instruct — мультимодальная модель семейства Qwen3-VL, опубликованная Red Hat AI. Это MoE-модель для диалога и генерации ответов по тексту и визуальным данным; в README указана конфигурация с 30 млрд параметров и активной частью A3B. Она предназначена для анализа изображений и видео, визуального рассуждения, OCR, пространственного понимания и взаимодействия с инструментами. Модель также может распознавать интерфейсы и выполнять задачи через GUI, а по изображениям и видео создавать код для Draw.io, HTML, CSS и JavaScript. README заявляет контекст 256 тысяч токенов с возможностью расширения до 1 млн, поддержку OCR на 32 языках и улучшенное понимание длительных видео с привязкой событий ко времени. Среди архитектурных особенностей названы Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Репозиторий содержит веса в формате safetensors; для работы указана библиотека Transformers. Лицензия — Apache-2.0. Описание не приводит результатов бенчмарков или точного перечня поддерживаемых языков; заявленные возможности и качество следует оценивать на целевых данных и сценариях.

Карточка модели gonghao1234/Qwen3-VL-4B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen3-VL-4B-Instruct, поэтому описание составлено по ней. Qwen3-VL-4B-Instruct — плотная мультимодальная модель семейства Qwen3-VL, разработанная командой Qwen. Она принимает текст и изображения, а также предназначена для понимания видео и временных событий; в ответ генерирует текст. Модель доступна как репозиторий весов в формате safetensors и рассчитана на диалоговое использование через Transformers. Модель подходит для визуальных вопросов и ответов, распознавания и разбора текста на изображениях, анализа видео, пространственного рассуждения, мультимодальных STEM-задач и управления интерфейсами с вызовом инструментов. В README заявлены контекст 256 тысяч токенов с возможностью расширения до миллиона и OCR на 32 языках. Среди архитектурных особенностей указаны Interleaved-MRoPE для временных и пространственных данных и объединение многоуровневых визуальных признаков DeepStack. Лицензия Apache-2.0. Это вариант Instruct, предназначенный для применения в мультимодальных диалоговых сценариях; качество зависит от задачи и входных данных, а заявленные возможности не сопровождаются в карточке результатами бенчмарков.

Карточка модели KevinCha/Qwen3-VL-4B-Instruct-BoxSpecialToken на Hugging Face совпадает с карточкой Qwen/Qwen3-VL-4B-Instruct, поэтому описание составлено по ней. Qwen3-VL-4B-Instruct — плотная мультимодальная модель семейства Qwen3-VL, разработанная командой Qwen. Она принимает текст и изображения, а также предназначена для понимания видео и временных событий; в ответ генерирует текст. Модель доступна как репозиторий весов в формате safetensors и рассчитана на диалоговое использование через Transformers. Модель подходит для визуальных вопросов и ответов, распознавания и разбора текста на изображениях, анализа видео, пространственного рассуждения, мультимодальных STEM-задач и управления интерфейсами с вызовом инструментов. В README заявлены контекст 256 тысяч токенов с возможностью расширения до миллиона и OCR на 32 языках. Среди архитектурных особенностей указаны Interleaved-MRoPE для временных и пространственных данных и объединение многоуровневых визуальных признаков DeepStack. Лицензия Apache-2.0. Это вариант Instruct, предназначенный для применения в мультимодальных диалоговых сценариях; качество зависит от задачи и входных данных, а заявленные возможности не сопровождаются в карточке результатами бенчмарков.

RuadaptQwen2.5-32B-Instruct — русскоязычная инструктивная языковая модель, созданная командой MSU RCC LAIR на основе Qwen2.5-32B-Instruct. Авторы заменили токенизатор, выполнили дополнительное предобучение на русскоязычном корпусе и применили метод Learned Embedding Propagation (LEP). Модель имеет плотную архитектуру Qwen2 и 32 млрд параметров, принимает текст и генерирует текст; контекст — до 32 768 токенов. Модель предназначена для диалогов и выполнения инструкций на русском языке. По заявлению авторов, новый токенизатор повышает скорость генерации русскоязычного текста до 60% по сравнению с исходной Qwen2.5-32B-Instruct при сопоставимых входных последовательностях. В карточке также указана поддержка интерфейса вызова инструментов. Это версия v1, обозначенная авторами как находящаяся в разработке. Оценка качества проводилась на Ru-Arena-General и MERA; сведения о результатах llmtf_open в README не завершены. Модель унаследовала знания и возможные смещения базовой модели, поэтому ответы следует проверять. Лицензия — Apache-2.0.

jondurbin/spicyboros-7b-2.2 — экспериментальная текстовая модель семейства Llama, разработанная Jondurbin и дообученная преимущественно на синтетических данных Airoboros 2.2. Она предназначена для выполнения инструкций и генерации ответов: модель подходит для вопросов и ответов по заданному контексту, написания текстов, викторин, задач на выбор ответа, программирования и генерации структурированных ответов. Заявленный контекст — 4096 токенов; модель содержит 6,6 млрд параметров и распространяется в формате PyTorch. В обучении использованы данные для более свободных, в том числе ролевых и чувствительных ответов; автор предупреждает, что модель может генерировать грубый, вредный и откровенный контент. Это англоязычная по представленным примерам и карточке модель общего назначения, с акцентом на пары инструкций и ответов, а не на непринуждённый диалог. Для инференса следует учитывать формат промпта с метками USER и ASSISTANT и задавать критерии остановки, чтобы модель не продолжала ответ за пользователя. Лицензия — Llama 2; перед использованием необходимо соблюдать её условия.

huihui-ai/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2 — модифицированная версия DeepSeek-R1-Distill-Qwen-14B от huihui-ai. Автор применил abliteration — экспериментальный метод изменения весов, предназначенный для ослабления отказов модели. Это плотная причинная языковая модель семейства Qwen2 на 14 млрд параметров; она принимает текст и генерирует текст, в том числе в диалоговом формате. Метаданные указывают контекст до 131 072 токенов и использование Transformers. Модель предназначена для диалогов и генерации текста, включая сценарии, где требуется меньше отказов на запросы. Базовая модель рассчитана на рассуждения, математику и программирование, однако карточка этой модификации называет её изменение грубым proof of concept и не приводит оценки качества. Лицензия в предоставленных данных не указана.