II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейКарточка модели xg3s/Qwen3-VL-8B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen3-VL-8B-Instruct, поэтому описание составлено по ней. Qwen3-VL-8B-Instruct — мультимодальная модель семейства Qwen3-VL, разработанная командой Qwen. Это плотная модель с 8 млрд параметров для диалога и генерации текста по текстовым и визуальным входам; репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Лицензия — Apache-2.0. Модель предназначена для анализа изображений и видео, визуальных вопросов и ответов, распознавания текста и структуры документов, пространственного рассуждения, STEM-задач и управления интерфейсами через инструменты. Она также генерирует код и разметку Draw.io, HTML, CSS и JavaScript по изображениям или видео. Заявлены контекст 256K токенов с возможностью расширения до 1M, временная привязка событий в видео и OCR на 32 языках. Модель объединяет текстовое и визуальное понимание, поддерживает агентные сценарии и вызов инструментов. Карточка описывает возможности семейства Qwen3-VL; конкретные показатели качества для версии 8B в предоставленном README не приведены.
schwyzquant/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая модель на базе Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP. В README указано участие нескольких авторов и команд, включая DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh; модель создана с использованием Unsloth и рассчитана на запуск на потребительском оборудовании. Она распространяется в форматах GGUF, включая обычные и MTP-варианты с multi-token prediction, а также 4- и 8-битные квантизации. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, ролевых сценариев и диалогов. Заявлена поддержка текста и изображений, английского и китайского языков. Среди ключевых свойств указаны улучшенное следование инструкциям, решение задач и reasoning, сохранение возможностей базовой Qwen-модели, а также uncensored/heretic-настройка. Контекстное окно, точные архитектурные характеристики и параметры мультимодального компонента в README не приведены. Автор заявляет высокие результаты на ряде бенчмарков и превосходство базовой Qwen3.6-27B по шести из семи указанных тестов, однако эти утверждения следует воспринимать как данные из карточки модели. Сильными сторонами называются качество рассуждений, универсальность, поддержка vision и эффективность квантизированных версий; возможное ограничение — отсутствие подробных независимых результатов и недостаток технических сведений о размере контекста. Лицензия — Apache-2.0.
Qwen3-VL-2B-Thinking-1M-GGUF — мультимодальная vision-language модель семейства Qwen3-VL, разработанная командой Qwen и представленная в формате GGUF со сборкой и исправлениями chat template от Unsloth. Модель предназначена для понимания и генерации текста по изображениям, анализа видео, OCR, визуального рассуждения, решения STEM- и математических задач, пространственного анализа, визуального программирования и взаимодействия с графическими интерфейсами через инструменты. Модель содержит около 2 млрд параметров и относится к Thinking-редакции с усиленным рассуждением. Она поддерживает текстово-визуальные входы, распознавание объектов, документов и сцен, анализ временных событий в видео, а также работу с длинным контекстом: заявлена нативная длина 256K токенов с возможностью расширения до 1M. Для архитектуры указаны механизмы Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками, улучшающие обработку пространственных, визуальных и видеоданных. OCR заявлен для 32 языков. Сильные стороны модели — сочетание компактного размера, мультимодального рассуждения, расширенного контекста, анализа видео и возможностей visual agent. Ограничения связаны с меньшим размером по сравнению с крупными версиями Qwen3-VL, а также с тем, что конкретные параметры GGUF-квантизации и результаты тестов для данного файла в README не указаны. Для работы с llama.cpp рекомендуется включать параметр --jinja. Модель распространяется по лицензии Apache-2.0.
Goekdeniz-Guelmez/Josiefied-Qwen2.5-14B-Instruct-abliterated-v4-gguf — текстовая инструкционная языковая модель, разработанная и профинансированная Gökdeniz Gülmez. Она основана на Qwen/Qwen2.5-14B-Instruct, дополнительно дообучена на пользовательском наборе данных и модифицирована для снижения склонности к отказам. Модель предназначена для диалогов, ответов на вопросы, программирования и выполнения широкого круга пользовательских задач. Модель относится к архитектуре qwen2 и имеет размер 14 млрд параметров. Указаны английский и немецкий языки, а также другие языки без уточнения. Репозиторий содержит GGUF-вариант, включая файл с квантованием Q4_K_M; в примере конфигурации Ollama задан контекст до 32 768 токенов. Это текстовая модель без заявленной поддержки изображений, аудио или других модальностей. К сильным сторонам относятся инструкционная настройка, поддержка диалогового шаблона, интеграция с Ollama и OpenWebUI, а также ориентация на менее ограниченные ответы. При этом README не содержит результатов тестирования, точных сведений о качестве, аппаратных требованиях или подробной оценки безопасности. Разработчик предупреждает об использовании на собственный риск; поведение модели может быть менее безопасным и предсказуемым из-за удаления отказов. Лицензия указана как Apache 2.0.
thelamapi/next2.5-i1-GGUF — GGUF-версия Next 2.5, мультимодальной vision-language модели примерно на 4 млрд параметров, разработанной и дообученной компанией Lamapi в Турции на базе Qwen 3.5-4B. Модель ориентирована на работу с текстом и изображениями, включая анализ документов и OCR, визуально-пространственные задачи, рассуждения, математику, программирование и генерацию текста. В README также заявлена поддержка видео, включая длительные видеоматериалы. Модель поддерживает турецкий, английский, немецкий, испанский, французский, русский, китайский, японский и корейский языки; при этом особый акцент сделан на турецком и английском языках и культурном контексте Турции. Заявлен режим рассуждений с блоками <think>...</think> перед ответом и контекст до 262 144 токенов. Обучение включало instruction tuning и DPO, а также наборы данных для рассуждений, мультимодальных задач и генерации текста. К сильным сторонам относятся сочетание компактного размера, мультимодальности, заявленной производительности в задачах знаний и рассуждений и возможность использования на периферийных устройствах. Ограничения включают небольшой по современным меркам объём модели, возможные ошибки в распознавании изображений, видео и фактах, а также то, что приведённые в README сравнительные результаты не подтверждены независимой проверкой. Модель распространяется по лицензии Apache-2.0.
Dans-PersonalityEngine-V1.3.0-24b-GGUF — квантизированная версия модели Dans-PersonalityEngine V1.3.0 с 24 млрд параметров, опубликованная PocketDoc и подготовленная bartowski в формате GGUF для llama.cpp. Модель предназначена для генерации текста общего назначения, ролевого общения, написания и продолжения историй, совместного творчества, выполнения инструкций, рассуждений, математических и научно-технических задач, программирования, работы с инструментами и агентскими сценариями. В датасетах обучения также представлены материалы по химии, биологии, климату, праву, медицине и финансам. Модель поддерживает английский, арабский, немецкий, французский, испанский, хинди, португальский, японский и корейский языки. Архитектура исходной модели в README не указана; доступна в нескольких вариантах точности и квантизации, включая BF16, Q8_0, Q6_K_L, Q6_K, Q5_K и Q4. Варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M и Q5_K_S отмечены как рекомендуемые благодаря высокому качеству. Размеры файлов составляют примерно от 14,87 до 47,15 ГБ в зависимости от варианта. Сильными сторонами являются широкий набор обучающих сценариев, поддержка многоязычной генерации, возможности ролевого общения и написания текстов, а также совместимость с llama.cpp и LM Studio. Ограничения включают значительные требования к дисковому пространству и памяти, зависящие от выбранной квантизации; длина контекста, мультимодальность и точные характеристики архитектуры в README не указаны. Модель распространяется по лицензии Apache-2.0.
TheCluster/Qwen3.5-9B-Uncensored-HauhauCS-Aggressive-MLX-mxfp8 — квантизированная MLX-версия модели HauhauCS/Qwen3.5-9B-Uncensored-HauhauCS-Aggressive, основанной на Qwen3.5-9B. Модель конвертирована в формат MLX командой TheCluster; исходная базовая модель разработана HauhauCS на основе Qwen. Лицензия — Apache 2.0. Модель предназначена для генерации текста и мультимодальных сценариев с изображениями и видео, включая диалоговые приложения, анализ контента, программирование и задачи рассуждения. Это плотная модель с 9 млрд параметров и 32 слоями, использующая гибридную архитектуру Gated DeltaNet с линейным вниманием и полноразмерным softmax-вниманием в соотношении 3:1. Она поддерживает Multi-Token Prediction, контекст до 262 тысяч токенов с возможностью расширения до 1 млн с помощью YaRN, словарь на 248 тысяч токенов и 201 язык. Ключевая особенность варианта — усиленное удаление отказов от выполнения запросов; в README заявлены отсутствие отказов в тесте из 465 запросов и отсутствие потери возможностей, однако независимые результаты не приведены. Агрессивная настройка может быть нежелательной для сценариев, требующих строгих защитных ограничений. Квантизация mxfp8 с размером группы 32 и показателем 8,626 bpw снижает требования к памяти, но потенциально может влиять на точность по сравнению с исходной моделью. Для режима рассуждения рекомендованы temperature 0.6, top_p 0.95 и top_k 20, для нережима рассуждения — temperature 0.7, top_p 0.8 и top_k 20.
Карточка модели norvek/Qwen3-VL-8B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen3-VL-8B-Instruct, поэтому описание составлено по ней. Qwen3-VL-8B-Instruct — мультимодальная модель семейства Qwen3-VL, разработанная командой Qwen. Это плотная модель с 8 млрд параметров для диалога и генерации текста по текстовым и визуальным входам; репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Лицензия — Apache-2.0. Модель предназначена для анализа изображений и видео, визуальных вопросов и ответов, распознавания текста и структуры документов, пространственного рассуждения, STEM-задач и управления интерфейсами через инструменты. Она также генерирует код и разметку Draw.io, HTML, CSS и JavaScript по изображениям или видео. Заявлены контекст 256K токенов с возможностью расширения до 1M, временная привязка событий в видео и OCR на 32 языках. Модель объединяет текстовое и визуальное понимание, поддерживает агентные сценарии и вызов инструментов. Карточка описывает возможности семейства Qwen3-VL; конкретные показатели качества для версии 8B в предоставленном README не приведены.
Gixtral 100B — разговорная языковая модель для генерации текста и выполнения инструкций, созданная ehristoforu путём объединения нескольких моделей семейства Mixtral и WizardLM, включая Mixtral-8x22B-Instruct-v0.1, Mixtral-8x7B-Instruct-v0.1, Dolphin и WizardLM-2-8x22B. Архитектура — Mixtral с разреженной экспертной структурой (MoE); в метаданных указано 9,7 млрд параметров и контекстное окно 32 768 токенов. Модель подходит для диалогов, ответов на запросы, следования инструкциям и генерации текста на английском, французском, немецком, испанском и итальянском языках. Для объединения использованы наборы данных, включающие примеры для программирования и инструктивных диалогов. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. README описывает модель как объединение моделей, хотя в метаданных среди базовых моделей также указаны Dolphin и WizardLM. Практические результаты объединения и сравнительные оценки в карточке не приведены; фактическое качество может зависеть от запроса и используемой конфигурации.
Occamy-1.0 APEX-I-MiniPlus-V2.1 Abliterated GGUF — это квантизированная версия Occamy-1.0, разработанная IsValorum на базе Accio-Lab/occamy-1.0. Модель предназначена для генерации текста, рассуждений, программирования и работы с большими контекстами, включая сценарии локального запуска через llama.cpp на системной RAM и GPU. Это аблитерированная версия без стандартных отказов и защитных ограничений, поэтому она ориентирована на пользователей, которым требуется более свободное выполнение запросов, в том числе в задачах кибербезопасности и пентестинга. Модель использует разреженную архитектуру Mixture-of-Experts с 40 слоями и 256 микроэкспертами. В сборке применена кастомная тензорная квантизация: основные эксперты используют IQ3_XXS, периферийные — Q3_K, shared-эксперты — Q5_K, attention-компоненты — Q4_K и Q6_K, выходная голова — Q6_K, а маршрутизаторы — F32. Заявлен контекст до 256K токенов. Поддерживаются английский, китайский, испанский, французский, немецкий, португальский, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. Сильными сторонами заявлены компактный размер около 13,74 GiB, сохранение качества рассуждений при квантизации, отсутствие отказов в протестированном наборе запросов и эффективная работа при частичной или полной выгрузке в системную память. Ограничения включают потенциальные риски неконтролируемой генерации из-за удаления защитных механизмов, зависимость производительности от GPU, процессора и пропускной способности памяти, а также отсутствие в представленном README подробных независимых бенчмарков. Лицензия — Apache-2.0.
lmstudio-community/Qwen2.5-VL-32B-Instruct-GGUF — мультимодальная инструкционная модель семейства Qwen2.5-VL, разработанная командой Qwen и представленная в формате GGUF. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для работы с текстом и изображениями, включая анализ визуального содержимого и выполнение задач по инструкциям. Модель подходит для распознавания объектов, анализа текста на изображениях, таблиц, диаграмм, значков, графики и макетов. Она также может использоваться как визуальный агент для рассуждений и динамического управления инструментами, включая сценарии взаимодействия с компьютером и телефоном. Поддерживаются структурированные ответы и стабильная генерация JSON, а также многоязычная работа. Заявленная длина контекста составляет 128 000 токенов, размер модели — 32B параметров. К сильным сторонам относятся развитый анализ визуальной информации, поддержка длинного контекста, мультимодальность, многоязычность и способность формировать структурированные результаты. Это квантизированная community-версия, поэтому её характеристики могут зависеть от конкретной квантизации и среды запуска; как и другие языковые модели, она может генерировать неточные или неподходящие ответы. Лицензия модели — Apache 2.0.
cyankiwi/Qwen3-VL-8B-Instruct-AWQ-4bit — 4-битная AWQ-квантизованная версия мультимодальной модели Qwen3-VL-8B-Instruct, разработанной командой Qwen. Модель предназначена для обработки изображений, видео и текста: она поддерживает визуальные вопросы и ответы, описание и анализ изображений, OCR, понимание документов и видео, пространственное рассуждение, STEM- и математические задачи, а также взаимодействие с графическими интерфейсами и инструментами. В README также заявлена генерация Draw.io, HTML, CSS и JavaScript по изображениям и видео. Модель имеет плотную архитектуру с 8 млрд параметров, поддерживает текстово-визуальное понимание и контекст до 256K токенов с возможностью расширения до 1M. Среди архитектурных особенностей указаны Interleaved-MRoPE для временных и пространственных зависимостей, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками для анализа видео. OCR заявлен для 32 языков, однако полный перечень языков в README не приведён. К преимуществам относятся улучшенное распознавание объектов, документов и пространственных отношений, длительный контекст и понимание видео; ограничения конкретной AWQ-квантизации, точные требования к оборудованию и результаты тестов для данного репозитория не указаны. Распространяется по лицензии Apache-2.0.
SECWIKI/Qwen3.6-27B-Uncensored-HauhauCS-Aggressive — мультимодальная версия Qwen3.6-27B, разработанная HauhauCS на основе модели Qwen/Qwen3.6-27B. Это модификация без встроенных отказов, предназначенная для генерации ответов на широкий круг запросов, включая сценарии, где требуется минимальное количество ограничений. Модель поддерживает текст, изображения и видео, а заявленные языки включают английский, китайский и другие языки в мультиязычном режиме. Модель содержит 27 млрд плотных параметров и распространяется в формате GGUF с различными уровнями квантования, включая специальные варианты K_P, оптимизированные с использованием importance matrix. Архитектура включает 64 слоя, сочетает 48 слоёв линейного внимания Gated DeltaNet и 16 слоёв полного gated attention. Нативная длина контекста составляет 262 тысячи токенов и может быть расширена примерно до 1 млн с помощью YaRN. Для мультимодальной работы поставляется отдельный компонент mmproj. Сильной стороной модели является сочетание большого контекста, мультимодальности, нескольких режимов генерации и отсутствия отказов, а K_P-квантизации позволяют сохранить качество при уменьшенном размере файлов. Ограничения включают возможное добавление кратких дисклеймеров, повышенные требования к памяти: размер файлов варьируется примерно от 10 до 32 ГБ, а также риски, связанные с отсутствием защитных ограничений. В README указана лицензия Apache-2.0.
Agens Pilot NOESIS BF16 — это мультимодальная языковая модель примерно на 27 млрд параметров, разработанная Blockway и выпущенная AMAImedia в составе платформы автоматизации многоязычного дубляжа NOESIS. Это дообученная версия Qwen3.8-27B с архитектурой Qwen3.5 для генерации текста по текстовым и визуальным входам; репозиторий содержит веса BF16 в формате Safetensors. Модель рассчитана на контекст до 1 млн токенов, включая расширение YaRN сверх нативных 262 144 токенов. Модель предназначена для диалоговых помощников и агентных сценариев, особенно для пользователей Гонконга и региона Гуандун. Карточка выделяет письменный кантонский с гонконгской лексикой и регистром, ответы на сложные исторические и геополитические вопросы с несколькими перспективами, следование инструкциям, вызов инструментов, программирование и задачи «изображение—текст». Заявлены также китайский и английский языки; метаданные указывают широкий набор дополнительных языков. По результатам внутренней проверки разработчика модель показала более сбалансированные ответы на небольшом наборе сложных вопросов, при этом поведение отказа на универсально вредоносные запросы сохранилось. Эти результаты ориентировочные: набор мал, оценки получены в одном запуске, а показатели внутренних тестов напрямую несопоставимы с внешними бенчмарками. Модель может ошибаться в фактах, визуальная математика названа слабой стороной; кантонское поведение лучше всего охватывает письменный гонконгский вариант. Лицензия Apache-2.0 допускает коммерческое использование.
Карточка модели KevinCha/Qwen3-VL-8B-Instruct-BoxSpecialToken на Hugging Face совпадает с карточкой Qwen/Qwen3-VL-8B-Instruct, поэтому описание составлено по ней. Qwen3-VL-8B-Instruct — мультимодальная модель семейства Qwen3-VL, разработанная командой Qwen. Это плотная модель с 8 млрд параметров для диалога и генерации текста по текстовым и визуальным входам; репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Лицензия — Apache-2.0. Модель предназначена для анализа изображений и видео, визуальных вопросов и ответов, распознавания текста и структуры документов, пространственного рассуждения, STEM-задач и управления интерфейсами через инструменты. Она также генерирует код и разметку Draw.io, HTML, CSS и JavaScript по изображениям или видео. Заявлены контекст 256K токенов с возможностью расширения до 1M, временная привязка событий в видео и OCR на 32 языках. Модель объединяет текстовое и визуальное понимание, поддерживает агентные сценарии и вызов инструментов. Карточка описывает возможности семейства Qwen3-VL; конкретные показатели качества для версии 8B в предоставленном README не приведены.
Firefly-LLaMA2-7B-Chat — китайско-английская разговорная модель команды Firefly на архитектуре LLaMA 2. Она создана на базе LLaMA 2 с расширенным китайским словарём: модель прошла дополнительное предобучение на китайских и английских текстах, а затем дообучение на многоходовых инструкциях и диалогах. В репозитории указаны размер 6,7 млрд параметров, контекст 4096 токенов и формат PyTorch. Модель предназначена для диалоговых ответов, генерации и преобразования текста, включая ответы на вопросы, краткое изложение, перевод, извлечение информации, классификацию, математические задачи и генерацию кода. Расширенный китайский словарь уменьшает число токенов при обработке китайского текста; авторы также сообщают о сохранении английских возможностей базовой LLaMA 2 и улучшении китайских навыков по сравнению с LLaMA 2 Chat. Указанные в карточке оценки относятся к авторским тестам и не гарантируют качество в конкретных сценариях. Модель генерирует текст по текстовым запросам. В README отмечено, что прирост по китайским знаниям ограничен объёмом и составом дополнительного предобучения; авторы использовали около 2 млрд токенов из подготовленного корпуса. Лицензия для конкретного репозитория в предоставленных данных не указана.
Gemini 3.1 Flash Lite — мультимодальная модель Google общего назначения, предназначенная для рабочих нагрузок с низкой задержкой и большим объёмом запросов. Она принимает текст, изображения, видео, аудио и PDF-документы и рассчитана на лёгкие агентные сценарии. Доступный фрагмент карточки не содержит сведений об архитектуре, размере модели, длине контекста и лицензии.
GPT-5.4 — фронтирная модель OpenAI, объединяющая линейки Codex и GPT. По карточке, она поддерживает контекст более чем в 1 млн токенов: до 922 тыс. входных и 128 тыс. выходных токенов. В доступных данных также указана задача image-text-to-text. Модель предназначена для работы с текстом и изображениями и выдачи текстовых ответов. Сведений о конкретных сценариях, языках, архитектуре, размере и лицензии в предоставленных данных нет, поэтому их нельзя уточнить.
Карточка модели Pq234/Kimi-VL-A3B-Instruct на Hugging Face совпадает с карточкой moonshotai/Kimi-VL-A3B-Instruct, поэтому описание составлено по ней. Kimi-VL-A3B-Instruct — открытая мультимодальная модель Moonshot AI для понимания изображений, видео и текста. Она объединяет языковую модель с архитектурой Mixture-of-Experts, визуальный энкодер MoonViT с обработкой изображений в исходном разрешении и MLP-проектор. Всего модель содержит 16 млрд параметров, при генерации активирует около 3 млрд; контекстное окно — 128 тыс. токенов. Модель предназначена для диалогов с визуальными данными, распознавания текста на изображениях, анализа длинных документов и видео, понимания нескольких изображений и выполнения агентных задач по скриншотам. Поддерживает ввод текста, изображений и видео и выдаёт текстовые ответы. В README приведены результаты на задачах OCR, визуального понимания и взаимодействия с агентами; для сложных рассуждений, включая математику, разработчики рекомендуют вариант Kimi-VL-A3B-Thinking. Модель распространяется по лицензии MIT. Для запуска доступны веса в формате safetensors и библиотека Transformers. README рекомендует температуру 0,2 для Instruct-варианта. Указанные результаты основаны на бенчмарках разработчиков; качество может зависеть от задачи и настроек инференса.
ZuzeTt/Qwen3.5-4B-heretic-GGUF — это децензурированная версия мультимодальной модели Qwen3.5-4B, основанной на разработках команды Qwen. Модель модифицирована с помощью Heretic v1.2.0 методом abliteration, направленным на снижение частоты отказов при ответах. Файлы представлены в формате GGUF и были квантизированы с использованием llama.cpp. Модель предназначена для задач обработки текста и изображений, включая диалоговые сценарии, рассуждения, программирование, работу с агентами и визуальное понимание. Базовая архитектура описана как авторегрессионная языковая модель с vision encoder, гибридной архитектурой Gated Delta Networks и разреженной Mixture-of-Experts. Она содержит около 4 млрд параметров, 32 слоя, скрытое измерение 2560 и поддерживает контекст до 262 144 токенов с возможностью расширения до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Ключевая особенность этой версии — существенно меньшее количество отказов по сравнению с исходной моделью: в приведённом тесте 8 из 100 запросов против 99 из 100 у оригинала, при KL-дивергенции 0,0361. Это может повысить полезность модели в сценариях локального запуска и свободного диалога, но одновременно означает ослабление встроенных ограничений безопасности. Конкретный тип квантизации, требования к оборудованию и фактическое качество на прикладных задачах в README не указаны. Модель распространяется по лицензии Apache-2.0; ссылка на лицензию относится к базовой модели Qwen/Qwen3.5-4B.
Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая модель на базе Qwen3.6-27B. Её разработал DavidAU при участии Nightmedia, TeichAI, armand0e и trohrbaugh; обучение и подготовка выполнялись с использованием Unsloth. Модель распространяется в формате GGUF, включая обычные и MTP-варианты, а также различные уровни квантования. Модель предназначена для широкого круга задач: следования инструкциям, решения задач, рассуждений, программирования, диалогов, творческого письма, ролевых сценариев и работы с изображениями. Заявлены улучшенные instruction following, общая способность к решению задач и reasoning. Поддерживаются английский и китайский языки; README также заявляет мультимодальность с поддержкой vision. Размер контекста и точные технические параметры архитектуры не указаны. К сильным сторонам относятся доступность квантованных вариантов для потребительского оборудования, улучшения относительно базовой модели по заявленным бенчмаркам и сохранение широкого набора исходных возможностей Qwen. При этом утверждения о превосходстве основаны на данных автора и сторонних проверках, поэтому их следует интерпретировать с осторожностью. Модель помечена как uncensored/heretic, что может означать ослабленные ограничения безопасности и делает необходимой дополнительную проверку результатов при практическом использовании. Лицензия — Apache-2.0.
Qwen3.8-27B-3bit-MLX — мультимодальная vision-language модель, разработанная на основе Qwen/Qwen3.8-27B и конвертированная пользователем lukaskremla в формат MLX с помощью mlx-vlm 0.6.13. Модель предназначена для диалоговых сценариев, обработки текста и изображений, а также задач, связанных с видео, рассуждениями и использованием инструментов. Она поддерживает мультиязычную работу и длинный контекст, однако точный размер контекста и перечень языков в представленном README не указаны. Модель использует 3-битное квантование весов с group size 64, affine- и RTN-квантованием, при этом vision tower сохранён в формате BF16. Такой формат ориентирован на запуск в экосистеме MLX и снижает требования к памяти по сравнению с полноразмерной версией, но квантование может ограничивать точность относительно исходной модели. README также предупреждает, что Hugging Face может некорректно отображать число параметров MLX-квантизаций. Модель распространяется по лицензии Apache-2.0.
Qwen3-VL-32B-Thinking — плотная мультимодальная модель семейства Qwen3-VL от Qwen, предназначенная для диалога и рассуждений по тексту и визуальным данным. Репозиторий содержит веса модели для использования с библиотекой Transformers; заявлена лицензия Apache-2.0. Модель принимает изображения и текст, а также рассчитана на понимание видео, пространственных отношений, OCR и визуальных интерфейсов. Она подходит для ответов на вопросы по изображениям и видео, распознавания и разбора документов, STEM-задач, визуального программирования и взаимодействия с графическими интерфейсами через инструменты. В README заявлены контекст 256 тысяч токенов с возможностью расширения до 1 миллиона и поддержка OCR на 32 языках. Ключевые особенности включают объединение текстовой и визуальной обработки, временное позиционирование для видео и извлечение признаков на нескольких уровнях. Это вариант Thinking, ориентированный на усиленное рассуждение; качество и скорость на конкретных задачах зависят от сценария и реализации. Описание не приводит результаты бенчмарков или подробные ограничения применения.
unsloth/Qwen3-VL-32B-Thinking — репозиторий весов плотной мультимодальной модели Qwen3-VL, подготовленный Unsloth на основе Qwen/Qwen3-VL-32B-Thinking. Это версия Thinking для диалогов и рассуждений по тексту и визуальным данным; модель предназначена для вопросов об изображениях и видео, OCR, визуального анализа и выполнения задач через интерфейс агента с инструментами. Модель принимает текст, изображения и видео, а выдаёт текст. В README заявлены контекст 256K токенов с возможностью расширения до 1M, понимание пространственных отношений, временных меток и событий в видео, разбор структуры длинных документов и OCR на 32 языках. Архитектура относится к семейству Qwen3-VL и реализована как Qwen3VLForConditionalGeneration; файлы представлены в safetensors. Репозиторий включает исправления chat template от Unsloth. Модель подходит для визуального анализа, распознавания текста и рассуждений по изображениям и видео, а также для взаимодействия с графическими интерфейсами и инструментами. Указана лицензия Apache-2.0. README описывает возможности семейства Qwen3-VL; отдельные результаты бенчмарков для этого репозитория не приведены.
Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая модель на базе Qwen3.6-27B, представленная DavidAU. Она создана в результате многоэтапного дообучения, нескольких слияний моделей и применения методов Unsloth; в разработке также участвовали Nightmedia, TeichAI, armand0e и trohrbaugh. Для обучения и настройки упоминаются наборы DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Модель предназначена для широкого круга сценариев: следования инструкциям, решения задач, рассуждений, программирования, диалогов, ролевых взаимодействий и работы с художественными текстами. В README заявлена поддержка vision, а в метаданных указаны английский и китайский языки. Доступны обычные GGUF-квантизации и варианты MTP для многотокенного предсказания; все квантизации обозначены как NEO IMATRIX, а выходной тензор частично сохранён в 16-битной точности. Размер базовой модели — 27 млрд параметров. Заявленные сильные стороны — улучшенное следование инструкциям, общее решение задач и рассуждение, а также сохранение качества на низких уровнях квантизации. Автор сообщает о превосходстве базовой Qwen3.6-27B по большинству из семи внутренних бенчмарков, однако эти результаты приведены в README и требуют независимой проверки. Для MTP-вариантов рекомендуется температура не выше 1 и отключённая репетиция; при низком уровне принятия токенов следует использовать обычную квантизацию. Модель описана как uncensored, поэтому её ответы могут иметь меньше встроенных ограничений безопасности. Лицензия — Apache-2.0.
SwagMessiah100/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — многоэтапная дообученная и объединённая версия Qwen3.6 с 27 млрд параметров. Модель создана в сотрудничестве SwagMessiah, DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh; при обучении использовались собственные и сторонние наборы данных, включая Polar-STRICT-Datasets и F451-STRICT-Datasets. Доступны обычные и MTP GGUF-квантизации, включая варианты с оптимизированными матрицами IMATRIX и частично сохранённой точностью 16 бит. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, программирования, диалогов, ролевых сценариев и творческого письма. Заявлены улучшенные интеллектуальные способности, reasoning и instruction following, а также поддержка vision, то есть обработки текста и изображений. Указаны английский и китайский языки. Контекстное окно, точная архитектура базовой модели и подробные характеристики мультимодального ввода в README не приведены. К сильным сторонам относятся заявленное превосходство базовой Qwen3.6 27B в большинстве авторских бенчмарков, хорошая работа даже с низкими уровнями квантизации и ориентация на запуск на потребительском оборудовании. Модель позиционируется как uncensored/heretic, поэтому её ответы могут иметь меньше встроенных ограничений безопасности. Результаты бенчмарков в основном представлены разработчиками и требуют независимой проверки. Лицензия — Apache-2.0.
Qwen3.8-9B-Distill-Uncensored-Heretic-MTPLX-Q6G64 — мультимодальная модель семейства Qwen3.8, опубликованная xy10086. Она создана на основе petruhonk/Qwen3.8-9B-Distill-uncensored-heretic, который, в свою очередь, происходит от empero-ai/Qwen3.8-9B-Distill. Модель предназначена для обработки текста и изображений, включая понимание скриншотов и распознавание текста на изображениях, а также для генерации ответов на английском и китайском языках. Основная языковая часть содержит около 9 миллиардов параметров и сжата методом аффинной 6-битной квантизации с размером группы 64. Зрительная башня и компоненты MTP для speculative decoding сохранены в формате BF16; поддерживаются 15 MTP-тензоров и рекомендованная глубина MTP 2. Модель оптимизирована для Apple Silicon и формата MLX/MTPLX. Рекомендуемое окно контекста — 32768 токенов, максимальная длина ответа — 8192 токена. Сильными сторонами являются мультимодальность, поддержка ускоренного speculative decoding, совместимость с Apple Silicon и высокая скорость генерации в заявленных тестах. Ограничения включают зависимость от MTPLX и MLX, а также требования к памяти и соответствующему программному окружению. Модель имеет пониженный уровень отказов вследствие удаления ограничений цензуры, но это не означает большей фактической точности; результаты в медицинских, юридических, финансовых и других критически важных сценариях необходимо проверять независимо. Модель распространяется по лицензии Apache-2.0; для использования следует также учитывать требования к атрибуции и лицензированию исходных моделей.
Bielik-11B-v2.6-Instruct — генеративная языковая модель с 11 млрд параметров, разработанная SpeakLeash совместно с HPC-центром ACK Cyfronet AGH. Это дообученная в формате инструкций версия Bielik-11B-v2 с архитектурой причинного декодера и шаблоном диалога ChatML. Модель работает с текстом и особенно хорошо ориентирована на польский язык; также заявлена поддержка английского. Модель предназначена для диалогов и выполнения текстовых инструкций, включая задачи по математике, программированию и STEM. При обучении использовались польские корпуса и более 20 млн инструкций, а для выравнивания ответов — обучение на предпочтениях и задачи с проверяемыми критериями. Лицензия — Apache 2.0. Разработчики предупреждают, что модель может выдавать фактически неверные, предвзятые или оскорбительные ответы и не имеет механизмов модерации. Её ответы требуют проверки, особенно в сценариях, где важны точность и безопасность.
Huihui-Qwen3.5-27B-Opus-abliterated-YaRN-1M — текстовая генеративная модель на архитектуре Qwen3.5 с 27 млрд параметров, представленная в GGUF BF16. Это версия модели HuihuiAI с расширением контекста YaRN и включённым пошаговым рассуждением; в README также указана поддержка изображений через файл mmproj. Модель предназначена для диалогов, генерации текста и работы с длинными контекстами: заявлено 262 тысячи токенов активного контекста и до 1 млн токенов с YaRN, а максимальная длина ответа — 81 920 токенов. Карточка указывает английский язык. Для контекста 262K заявлено около 60 ГБ видеопамяти, для 1M — около 90 ГБ. Модель основана на HuihuiAI/Huihui-Qwen3.5-27B-Opus-abliterated; исходное семейство разработано командой Qwen. Лицензия — Apache-2.0. Термин «abliterated» указывает на изменение поведения модели, однако README не уточняет его влияние на безопасность или качество; длинный контекст требует значительных ресурсов видеопамяти.
Qwen3.5-35B-A3B-uncensored-heretic-v2-Native-MTP-Preserved — дообученная мультимодальная модель независимого автора llmfan46 на базе Qwen/Qwen3.5-35B-A3B от Alibaba. Это диалоговая модель с архитектурой Qwen3.5 MoE и визуальным энкодером: всего 35 млрд параметров, из них активируется около 3 млрд. Репозиторий содержит веса Safetensors и сохраняет 785 тензоров MTP; заявленная длина контекста — 262 144 токена с возможностью расширения до 1 010 000. Модель предназначена для диалога, рассуждений, работы с изображениями и агентных сценариев с вызовом инструментов. Автор сообщает о снижении частоты отказов относительно исходной модели при сохранении её возможностей; приведённые метрики являются результатами автора. Модель работает в режиме рассуждений по умолчанию. В карточке заявлена поддержка 201 языка и диалекта, но перечень языков не приведён. Модель распространяется по лицензии Apache-2.0. Снижение ограничений может приводить к выдаче нежелательного или небезопасного содержимого; результаты тестов автора не гарантируют качество на других задачах.