II.10Разработка и эксплуатация AI/ML-систем

ZhiXi-13B-Diff — дифференциальные веса модели ZhiXi, разработанной проектом KnowLM для извлечения знаний. Чтобы восстановить веса, их необходимо применить к LLaMA-13B. В карточке описаны полное предварительное обучение на китайских и английских корпусах и последующая настройка инструкциями для извлечения сущностей, отношений и другой информации. Модель также сохраняет способности к работе с английским языком и кодом; приведены примеры перевода и следования инструкциям. Это плотная авторегрессионная модель семейства LLaMA с 12,9 млрд параметров и контекстом 2048 токенов. Она принимает текст и генерирует текст; карточка заявляет поддержку китайского и английского языков. Файлы представлены в формате PyTorch, лицензия — Apache-2.0. Дифференциальный формат требует исходных весов LLaMA-13B для восстановления модели.

ChatFrame V1 — диалоговая языковая модель AIFRAME INC, представленная как дообученная версия семейства Llama. Она предназначена для генерации ответов на персидском и английском языках и заявлена для решения математических задач, программирования, логических рассуждений, суммаризации и перевода между английским и персидским. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов; доступны веса в формате safetensors и интерфейс вызова инструментов. Модель подходит для чат-ботов, языковой помощи и задач, где нужны ответы или преобразование текста на персидском и английском. README заявляет высокое качество ответов, но не приводит результатов независимой оценки или сведений о конкретных обучающих наборах. Лицензия — MIT.

NVLM-D-72B — мультимодальная модель NVIDIA из семейства NVLM 1.0 для задач с изображениями и текстом, а также для текстовых задач. Это decoder-only Transformer с 72-миллиардной языковой основой Qwen2-72B-Instruct и визуальным энкодером InternViT-6B; в репозитории используются веса Safetensors и библиотека Transformers. Модель принимает текст и изображения и формирует текстовые ответы. Контекст — до 128 тысяч токенов. Модель предназначена для визуальных вопросов и ответов, OCR, анализа документов и диаграмм, мультимодальных рассуждений, локализации объектов, а также задач на общие знания, здравый смысл и программирование. В карточке приведены результаты на мультимодальных и текстовых бенчмарках; также заявлено улучшение текстовых возможностей относительно языковой основы после мультимодального обучения. Модель рассчитана на некоммерческое использование и распространяется по лицензии CC BY-NC 4.0. Для инференса в README указаны PyTorch, Linux и оборудование NVIDIA Hopper; загрузка модели и многопроцессный инференс требуют значительных вычислительных ресурсов. Генерация изображений не поддерживается, а результаты могут немного различаться в зависимости от версий Transformers, CUDA и Docker.

Qwen3-VL-2B-Instruct — плотная vision-language модель семейства Qwen3-VL, разработанная командой Qwen. Она принимает текст и изображения, а также поддерживает понимание видео и временных меток; предназначена для диалога, визуальных вопросов и ответов, распознавания текста в изображениях и документах, пространственного анализа и работы визуального агента с интерфейсами и инструментами. Модель объединяет текстовую и визуальную обработку. В карточке описаны улучшенное распознавание объектов и деталей, OCR на 32 языках, анализ положения объектов и временной структуры видео, а также создание HTML/CSS/JS или схем Draw.io по визуальным примерам. Архитектура использует Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Заявлена длина контекста 256K токенов с возможностью расширения до 1M. Весовой репозиторий предназначен для версии Instruct; модель доступна в формате safetensors и использует библиотеку Transformers. Лицензия Apache-2.0. README не приводит результаты тестов или отдельные численные показатели качества, поэтому заявленные преимущества не следует трактовать как независимую оценку.

Lapa LLM v0.1.3 Instruct — украинская мультимодальная модель команды Lapa LLM, созданная на базе Gemma 3 12B и дообученная на украинских текстах. В проекте участвовали исследователи Украинского католического университета, AGH University of Krakow, КПИ имени Игоря Сикорского и Львовской политехники. Версия 0.1.3 содержит исправления согласования и проверку pipeline; остальная модель не изменилась. Модель принимает текст и изображения и генерирует текст для диалога, ответов на вопросы, анализа изображений, суммаризации и перевода между английским и украинским языками. В README заявлены контекст входа до 128 тысяч токенов и выход до 8192 токенов. Адаптированный токенизатор заменяет 80 тысяч из 250 тысяч токенов украинскими; разработчики сообщают о сокращении числа токенов для украинского текста примерно в 1,5 раза относительно Gemma 3. Модель предназначена для украинских NLP-сценариев, включая локальную обработку документов, чат-боты и RAG. README отмечает сильные результаты в переводе, вопросах по изображениям и суммаризации, но также сообщает, что разработчики продолжают собирать данные для улучшения обработки изображений и следования инструкциям. Лицензия в метаданных указана как gemma; README заявляет о возможности коммерческого использования.

tripolskypetr/Qwen3.6-Uncensored-Aggressive-GGUF — это GGUF-квантизированная мультимодальная версия Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive, основанная на модели Qwen/Qwen3.6-35B-A3B. В README указано, что вариант разработан HauhauCS как версия без отказов в ответах; исходная архитектура относится к семейству Qwen. Модель предназначена для генерации текста, рассуждений, программирования и работы с изображениями и видео, включая сценарии, где требуется минимальное применение встроенных ограничений безопасности. Модель использует архитектуру MoE с 35 млрд общих параметров и примерно 3 млрд активных параметров на проход, 256 экспертами и маршрутизацией к 8 экспертам для каждого токена. Она содержит 40 слоёв, сочетает линейное внимание с полным softmax-вниманием в соотношении 3:1 и поддерживает нативный контекст до 262 тысяч токенов. Поддерживаются текст, изображения и видео; заявлены английский, китайский и другие языки. Для визуального ввода требуется отдельный файл mmproj. Сильными сторонами являются большой контекст, мультимодальность, высокая вычислительная эффективность MoE и широкий выбор квантизаций, включая оптимизированные K_P-варианты для llama.cpp, LM Studio и других GGUF-совместимых сред. Агрессивный вариант полностью снимает отказы, поэтому может генерировать потенциально небезопасный или нежелательный контент; это одновременно является его ключевой особенностью и ограничением для ответственных применений. README не сообщает результаты независимых бенчмарков и не уточняет точный набор языков. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-20B-Minitron — экспериментальная производная модель exnivo на базе Qwen/Qwen3.8-27B. Это плотная мультимодальная модель с архитектурой Qwen3.5 и классом Qwen3_5ForConditionalGeneration, принимающая текст и изображения и предназначенная для диалогов и генерации ответов по визуальному содержимому. Модель уменьшена структурным удалением слоёв: число языковых слоёв сокращено с 64 до 44, а размер — с 27,357 до 19,746 млрд параметров; это не квантизация. После удаления слоёв модель восстанавливали дистилляцией по логитам исходной модели, обучением на текстовых, учебных, математических и кодовых данных, а также корректировкой с помощью LoRA с последующим слиянием адаптера в веса. Разработчик приводит результаты собственных проверок, но они не являются стандартизованными бенчмарками. Модель распространяется в формате safetensors под лицензией Apache-2.0. Качество и устойчивость могут уступать исходной модели; особенно отмечена слабость в рассуждениях о последовательностях и шаблонах, а также ошибки при необычных формулировках. Восстановление и оценка были сосредоточены главным образом на тексте, поэтому возможности сохранённой визуальной части проверены ограниченно.

unsloth/Qwen3-VL-8B-Thinking — версия весов Qwen3-VL-8B-Thinking, опубликованная Unsloth. Это плотная мультимодальная модель класса Qwen3VLForConditionalGeneration с режимом рассуждений Thinking; репозиторий содержит веса в формате safetensors и исправленный шаблон чата. Модель принимает текст и изображения и предназначена для ответов по визуальному содержимому, распознавания текста на изображениях, анализа видео и пространственных рассуждений. Среди сценариев применения — разбор документов и сцен, визуальные вопросы и ответы, понимание временных событий в видео, оценка взаимного расположения объектов и работа с интерфейсами через инструменты. В README заявлены контекст 256 тысяч токенов с возможностью расширения до 1 миллиона и OCR на 32 языках; эти характеристики относятся к описанию семейства Qwen3-VL. Указана лицензия Apache-2.0. Заявления о превосходстве по точности в карточке не сопровождаются результатами бенчмарков.

T5Gemma 2 1B-1B — мультимодальная модель Google с открытыми весами, построенная на основе Gemma 3. Это предварительно обученная модель типа encoder-decoder: в репозитории представлены энкодер и декодер примерно по 1 млрд параметров, адаптированные с использованием UL2. Модель принимает текст и изображения и генерирует текст; заявлено окно контекста до 128 тысяч токенов и поддержка более 140 языков. Модель предназначена для генерации текста и понимания изображений, включая ответы на вопросы, суммаризацию, рассуждения и анализ документов. Её сравнительно небольшой размер позволяет запускать её на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. В архитектуре используются общие эмбеддинги слов для энкодера и декодера, а также объединённые self-attention и cross-attention декодера. Модель может ошибаться в фактах, испытывать трудности со сложными или неоднозначными запросами и отражать предвзятость обучающих данных. Лицензия — Gemma; разработчики приложений отвечают за безопасность модели и её результатов.

Bonsai-2-27B-Ternary-JANG — мультимодальная модель с плотной архитектурой Qwen3.8-27B, подготовленная OsaurusAI как JANG-affine-перепаковка тернарных весов Prism ML. Модель предназначена для диалогов и рассуждений с текстом, а также обработки изображений и видео; в комплекте сохранены шаблон чата Qwen3.8, обработчики изображений и видео и интерфейс вызова инструментов. Текстовые веса исходной модели сохранены без повторной квантизации: 402 модуля используют тернарные значения в 2-битных слотах с группами размера 128. Некоторые линейные слои зрения хранятся в 6-битном формате, а ряд других параметров — в исходной точности. Архитектура включает 64 блока: 48 GatedDeltaNet и 16 блоков полного внимания. Для корректной работы необходим загрузчик с поддержкой JANG Hadamard; стандартные загрузчики mlx_lm и mlx_vlm могут выдавать неверные результаты. Модель распространяется по лицензии Apache-2.0.

CyberNeurova-Gemma-4-12B-it-abliterated — мультимодальная модель семейства Gemma 4, разработанная CyberNeurova Research на базе google/gemma-4-12B-it от Google. Это 12-миллиардная encoder-free модель с унифицированной архитектурой, которая напрямую проецирует изображения и аудиосигналы в пространство эмбеддингов языковой модели без отдельных vision- и audio-энкодеров. Заявлена поддержка текста, изображений и аудио, а также языков английского, испанского, французского, немецкого, китайского, хинди, японского, корейского, арабского, португальского, итальянского и русского. Модель предназначена для генерации текста, мультимодального анализа, программирования, рассуждений и исследовательских сценариев, включая задачи кибербезопасности. Главная особенность — постоянное удаление направления отказа из весов модели методом orthogonalization residual stream во всех 48 слоях трансформера и во входных эмбеддингах. По данным авторов, это резко снижает склонность к отказам, в том числе на многоязычных тестах, при сохранении показателей программирования, связности и рассуждений; результаты приведены авторами README и не являются независимой проверкой. Одновременно такая модификация существенно ослабляет встроенные защитные ограничения, поэтому модель может быть непригодна для применений, требующих безопасного поведения и фильтрации вредных запросов. Доступны варианты в формате bf16 Safetensors, а также GGUF F16, Q8_0 и Q4_K_M. Размеры составляют примерно 22,3 ГБ для bf16 и 7,5 ГБ для Q4_K_M; для последнего заявлена возможность запуска на GPU с 10–12 ГБ VRAM, тогда как нативной версии требуется около 28 ГБ или более. Указана лицензия Apache-2.0.

dots.mocr — мультимодальная модель семейства dots_ocr от dots-studio для разбора документов и изображений с текстом. Она предназначена для распознавания текста и структуры страниц: находит элементы макета, их ограничивающие рамки и категории, извлекает текст и формирует Markdown. Также модель интерпретирует диаграммы, интерфейсы и научные иллюстрации и может преобразовывать структурированную графику в SVG-код; поддерживает интерактивный диалог по визуальному содержимому. Модель имеет плотную архитектуру DotsOCRForCausalLM и 1,5 млрд параметров; указанный размер контекста — 131 072 токена. Карточка заявляет мультиязычную поддержку, в том числе английского и китайского. Для развёртывания рекомендуются vLLM и Transformers; лицензия — MIT. Среди ограничений карточка отмечает трудности с комплексными таблицами и математическими формулами, недостаточно надёжный разбор графических изображений в SVG и периодические сбои разбора. Заявления о качестве на бенчмарках приведены в README, но сами таблицы с результатами здесь опущены.

EXAONE-4.5-33B-FP8 — плотная vision-language-модель с 33 млрд параметров, разработанная LG AI Research и подготовленная FuriosaAI для запуска на аппаратуре FuriosaAI RNGD через Furiosa-LLM. Модель объединяет выделенный vision encoder с языковой архитектурой EXAONE 4.5 и принимает изображения вместе с текстом, возвращая текстовые ответы. Модель предназначена для мультимодального диалога, анализа изображений и текстовых запросов, гибридного рассуждения и вызова инструментов через функции. Рассуждение включено по умолчанию, но может отключаться для отдельных запросов. Поддерживаются английский, корейский, испанский, немецкий, японский и вьетнамский языки. Архитектура обозначается как Exaone4_5_ForConditionalGeneration; максимальная длина контекста в README не указана. Вариант использует статическую per-channel FP8-квантизацию выбранных весов линейных слоёв и динамическую token-wise-квантизацию активаций без офлайн-калибровки. Vision encoder, attention projections, LM head и MTP attention projections исключены из FP8-квантизации, а KV-кэш сохраняется в 16-битной точности. Сильными сторонами являются мультимодальность, гибридное reasoning и нативная поддержка tool calling. Ограничения включают зависимость описанной сборки от Furiosa-LLM и RNGD; для работы требуется tensor parallelism на 32 PE, то есть четыре карты RNGD. Модель распространяется по лицензии EXAONE AI Model License.

OpenAi-GPT-oss-20b-HERETIC-uncensored-NEO-Imatrix-gguf — это текстовая генеративная модель в формате GGUF, разработанная DavidAU на базе p-e-w/gpt-oss-20b-heretic. Согласно карточке, модель использует архитектуру Mixture of Experts с 20B параметров и 24 экспертами. Она предназначена для локального запуска и доступна в вариантах IQ4_NL, Q5_1 и Q8_0 с применением Imatrix, DI-Matrix или TRI-Matrix-квантизации. Модель ориентирована на генерацию текста, чат, программирование и генерацию кода, рассуждения, решение задач, мозговой штурм, творческие сценарии и общее использование. Указан английский язык и заявлена поддержка контекста до 128k токенов. Автор отмечает улучшения производительности благодаря NEO, Horror и NEOCode-наборам данных, а также различия между квантизациями: Q5_1 описывается как более стабильная в некоторых сценариях, тогда как IQ4_NL может давать более необычные и спонтанные ответы. Ключевая особенность модели — удаление отказов и ограничений, обозначенное автором как uncensored и decensored. Это может быть полезно для свободных творческих и исследовательских сценариев, но одновременно означает отсутствие встроенных защитных механизмов и повышенный риск небезопасных или нежелательных ответов. В карточке не приведены независимые бенчмарки, точные требования к памяти, аппаратные рекомендации или подробные измерения качества, поэтому производительность и практическая скорость зависят от выбранной квантизации и оборудования. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-MOE-2X7B-DeepSeek-Abliterated-UNCensored-19B-gguf — текстовая generative-модель от DavidAU, основанная на архитектуре Qwen2.5 MOE и объединяющая два 7B-компонента DeepSeek/Qwen 2.5: обычный и abliterated (в основном uncensored) варианты. За счёт shared expert итоговый размер составляет немного более 19 млрд параметров. Модель распространяется в формате GGUF и предназначена для генерации текста. Модель ориентирована на универсальное применение: рассуждения и «thinking», решение математических и логических задач, мозговой штурм, ответы на вопросы, создание историй, сюжетов и другого художественного текста. Она поддерживает английский и китайский языки, имеет контекстное окно 128k токенов и, по описанию автора, особенно склонна к математическим, логическим и научным задачам. Архитектура MOE обеспечивает необычное поведение и потенциально более сильное рассуждение по сравнению с отдельной 7B-моделью, но модель не обязательно превосходит полноценные 14B- или 32B-модели. К сильным сторонам относятся широкий диапазон рабочих температур, способность сохранять рассуждение при различных настройках sampling и сочетание reasoning с творческой генерацией. Ограничения включают возможное появление китайских символов при англоязычных запросах, нестабильность рассуждений на высоких температурах и заметную вариативность ответов; для сложных задач может потребоваться несколько генераций или разбиение задачи на этапы. Для корректной работы требуется использовать встроенный Jinja Template, предпочтительно DeepSeek Tokenizer; рекомендуются контекст от 8k токенов и квантизации IQ4/Q4 или выше. Модель распространяется по лицензии Apache-2.0.

Qwen3-24B-A4B-Freedom-HQ-Thinking-Abliterated-Heretic-NEOMAX-Imatrix-GGUF — текстовая generative-модель, опубликованная пользователем fair322. Она собрана на базе шести моделей Qwen3 4B, включая варианты с дистилляцией рассуждений из Jan, Apollo, Claude, Gemini и Polaris Alpha, после применения метода Heretic для удаления или снижения ограничений на отказы. Модель распространяется в формате GGUF и предназначена для локального запуска и генерации текста. Модель рассчитана на широкий круг задач: программирование, математику, обучение, ответы на вопросы, написание художественных текстов, ролевые сценарии, фантастику, романтику, хоррор и материалы для взрослой аудитории. Заявлены режим полного рассуждения, сжатые планы перед ответом и контекст до 256K токенов. Архитектура представляет собой плотную Mixture of Experts из шести экспертов по 4B параметров; по умолчанию активен один эксперт, но можно задействовать от одного до шести, что соответствует заявленным уровням мощности от 4B до 24B параметров. Сильными сторонами являются большой контекст, масштабируемая вычислительная нагрузка, поддержка рассуждений, широкий спектр сценариев и сниженная склонность к отказам. Модель ориентирована преимущественно на английский язык. Ограничения включают возможную необходимость явно задавать желаемый уровень подробности, ненормативной лексики или содержания для получения нужного стиля, а также отсутствие гарантий безопасности и фильтрации: модель описана как uncensored и может генерировать потенциально чувствительный или неприемлемый контент. Указанная лицензия — Apache-2.0.

Bolsjay24/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая языковая модель на базе Qwen3.6-27B, разработанная в сотрудничестве автора модели, Nightmedia, TeichAI, armand0e и trohrbaugh; сборка и тонкая настройка выполнялись с использованием Unsloth. Модель создана как многоэтапная fine-tune и merge-модель с применением наборов DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets, а также Fable-, Claude Opus-, GPT5- и других обучающих материалов. Заявлены версии в форматах GGUF с обычным и MTP-квантованием, включая 4- и 8-битные варианты, а также NEO IMATRIX-кванты с частично сохранённой точностью выходного тензора. Модель предназначена для широкого спектра задач: следования инструкциям, решения проблем, рассуждений, программирования, творческого письма, ролевых сценариев и работы с изображениями. Среди заявленных характеристик — улучшенные instruction following, общее понимание и reasoning, поддержка vision, а также языки English и Chinese. В README утверждается, что модель превосходит базовую Qwen3.6-27B в шести из семи тестов и сопоставима с ней в седьмом, однако конкретные значения тестов и независимая методика подтверждения не приведены. Сильными сторонами заявлены высокая производительность на потребительском оборудовании, сохранение возможностей исходной модели, развитое рассуждение и хорошее качество даже у низкоразрядных квантов. Ограничения включают отсутствие подробных сведений о размере контекста, точной архитектуре, системных требованиях и фактических результатах бенчмарков; заявления о «нецензурируемом» поведении также указывают на возможное отсутствие стандартных ограничений безопасности. Лицензия — Apache-2.0.

LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-Final-GGUF — мультимодальная модель в формате GGUF, основанная на HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive. Модель разработана автором LuffyTheFox с применением метода Genesis — посттренировочной числовой коррекции тензоров без дополнительного обучения или тонкой настройки. В README также упоминается исходная разработка Qwen и Tongyi Lab Alibaba Group. Модель предназначена для диалоговых сценариев, генерации текста, задач программирования и работы с изображениями благодаря заявленной поддержке vision и pipeline image-text-to-text. Указана архитектура MoE с 35 млрд параметров и 3 млрд активных параметров, однако размер контекста в README не приведён. Заявлены английский, китайский и мультиязычный режимы работы. Доступны режимы с рассуждением и без него, а также рекомендации по настройкам генерации и запуску на GPU. К заявленным сильным сторонам относятся отсутствие отказов в указанном тесте из 465 запросов, повышенная стабильность, ясность контекста и следование инструкциям после коррекции тензоров. При этом модель позиционируется как uncensored, поэтому может не применять стандартные ограничения безопасности. Фактическое качество, устойчивость, требования к памяти и поддержка конкретных мультимодальных сценариев зависят от выбранной квантизации и среды запуска. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V7-GGUF — мультимодальная модель в формате GGUF, созданная LuffyTheFox на основе HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive. В модель также перенесены данные дообучения DJLougen/hermes-qwen3.5-35b-a3b-GGUF на датасете NousResearch/hermes-function-calling-v1, ориентированном на Hermes-агентов и вызов функций. Модель относится к семейству Qwen3.6, использует архитектуру Mixture-of-Experts с заявленным общим размером 35B и примерно 3B активных параметров, а также поддерживает обработку текста и изображений. В карточке указаны английский, китайский и многоязычный режимы работы, однако точный размер контекстного окна не приведён. Модель предназначена для диалогов, генерации текста и кода, агентных сценариев, вызова функций, ролевых и творческих задач, а также задач image-text-to-text. Основной заявленный акцент — отсутствие встроенных отказов и улучшение стабильности, ясности контекста и следования инструкциям с помощью метода Genesis, который, по описанию автора, выполняет численную коррекцию тензоров GGUF без переобучения. Эти заявления не подтверждены независимыми результатами оценки, поэтому качество, устойчивость и фактическая степень «uncensored» зависят от сценария использования. Для запуска требуются совместимые GGUF-инструменты и настройка распределения MoE-весов между GPU и CPU; автор приводит рекомендации для RTX 3060 с 12 ГБ видеопамяти, включая использование F16 для K/V cache и ограничение числа активных экспертов. Модель распространяется по лицензии Apache-2.0.

lmstudio-community/Qwen2.5-VL-3B-Instruct-GGUF — мультимодальная инструкционная модель Qwen2.5-VL-3B-Instruct, разработанная Qwen и представленная в формате GGUF. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для задач анализа изображений и текста, включая распознавание объектов, интерпретацию текстов, диаграмм, графиков, значков и макетов в изображениях. Модель поддерживает контекст до 128 тысяч токенов, заявлена как мультиязычная и может формировать структурированные ответы, включая стабильный JSON. Она также предназначена для сценариев визуального агента с рассуждением и динамическим управлением инструментами, в том числе для взаимодействия с компьютером и телефоном. К сильным сторонам относятся анализ визуальной информации и работа со структурированными данными; конкретные ограничения, результаты тестов и перечень поддерживаемых языков в README не указаны. Лицензия — qwen-research.

bernquant/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — это 27-миллиардная модель семейства Qwen3.6 в формате GGUF, созданная на базе DavidAU/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP. Модель разработана в рамках совместной работы автора, Nightmedia, TeichAI, armand0e и trohrbaugh с использованием Unsloth, многоэтапного fine-tuning и merge нескольких обученных версий. Указаны языки English и Chinese; заявлена поддержка vision, однако подробности о мультимодальной архитектуре и формате входных данных не приведены. Модель предназначена для широкого круга задач: следования инструкциям, решения проблем, reasoning, программирования, творческого письма, fiction и roleplaying. Авторы заявляют об улучшении общего интеллекта, instruction following и reasoning по сравнению с базовой моделью, а также о высоких результатах на ряде бенчмарков. Доступны обычные и MTP-варианты GGUF, включая NEO IMATRIX-квантизации; часть выходного тензора хранится в 16-битной точности. Для MTP-вариантов рекомендуется температура не выше 1 и отключённый repetition penalty; при низком уровне token acceptance рекомендуется использовать обычную квантизацию. К ограничениям относятся отсутствие подробных спецификаций контекстного окна, точного перечня поддерживаемых модальностей, требований к памяти и результатов независимой оценки. Модель позиционируется как uncensored и heretic, поэтому её поведение и фильтрация могут отличаться от стандартных версий Qwen. Заявления о превосходстве над другими моделями основаны на описании авторов и не подтверждены приведёнными в README полными методиками тестирования. Лицензия — Apache-2.0.

Qwen3-VL-4B-Instruct-abliterated-v1-GGUF — мультимодальная vision-language модель от prithivMLmods, основанная на Alibaba Qwen3-VL-4B-Instruct. Это GGUF-версия модели примерно с 4 млрд параметров, изменённая методом abliteration для удаления стандартных отказов и фильтров безопасности. Модель предназначена для генерации текста по изображениям и инструкциям, подробного описания визуального содержимого, визуального рассуждения и выполнения инструкций в сложных, чувствительных, художественных и технических сценариях. Модель поддерживает анализ изображений и видео, OCR на 32 языках, работу с различными разрешениями и соотношениями сторон, а также контекст до 256K токенов. Она подходит для разбора пользовательских интерфейсов, извлечения данных из документов, интерпретации графиков, captioning и агентских задач. Основным языком указан английский, при этом заявлена возможность работы с многоязычными запросами. Доступны варианты квантования GGUF размером примерно от 1,06 до 8,05 ГБ, что позволяет запускать модель на потребительских GPU; для BF16 указано требование около 10–12 ГБ VRAM. Сильной стороной является сочетание мультимодального анализа, длинного контекста, OCR и отсутствия обычных защитных отказов, что может быть полезно для исследований, red-teaming и творческих приложений. Ограничением является потенциально менее безопасное поведение из-за удаления защитных механизмов, а также возможное снижение качества при использовании наиболее агрессивных вариантов квантования. Модель распространяется по лицензии Apache-2.0.

Bonsai 27B 1-bit CRACK GGUF — мультимодальная vision-language модель, опубликованная dealignai. Это квантованный релиз на базе prism-ml/Bonsai-27B-gguf из семейства Qwen/Qwen3.6-27B, предназначенный для работы с текстом, изображениями и, при поддержке соответствующего runtime, видео. Модель ориентирована на диалоговые сценарии, рассуждения, анализ визуального содержимого и использование инструментов; заявлены языки английский и китайский. В состав входят 27B-классная языковая модель с 64 гибридными блоками архитектуры семейства Qwen и отдельный F16 Qwen3VL-мультимодальный проектор. Основная модель использует нативный формат Q1_0 GGUF и занимает около 4,35 GiB, проектор — около 0,86 GiB. Поддерживаются изображения; видеовход зависит от возможностей Prism runtime, при необходимости рекомендуется предварительно извлекать кадры. В README приведены результаты на фиксированной выборке MMLU-200 — 52,50% — и полном тесте HB-320 — 97,81%, однако эти показатели не эквивалентны результатам на полных официальных наборах. К сильным сторонам относятся малый размер 1-битного представления, мультимодальность, наличие специализированного проектора и высокая заявленная скорость на Apple M5 Max — около 58,5 токена в секунду для текста и изображений. Ограничения включают необходимость использовать форк Prism llama.cpp с поддержкой низкоразрядных типов, а также возможную несовместимость прямого ввода видеофайлов с отдельными клиентами. Модель распространяется по лицензии Apache-2.0.

jenerallee78/gemma-4-26B-A4B-it-ara-abliterated — мультимодальная instruction-tuned модель, созданная на базе Google Gemma 4 26B-A4B-IT с применением метода Adaptive Refusal Abliteration (ARA). Разработчик заявляет, что модель предназначена для диалоговых сценариев, генерации текста и работы с изображениями; в метаданных указан английский язык. Это модификация с ослабленными встроенными ограничениями на отказы, поэтому её применение требует самостоятельной оценки безопасности. Модель использует MoE-архитектуру со 128 экспертами и 8 активными экспертами на токен, примерно 4 млрд активных параметров на токен, 30 слоями и контекстом до 262 144 токенов. Она поддерживает мультимодальный ввод благодаря vision encoder на базе SigLIP; каждое изображение преобразуется примерно в 280 soft tokens. Доступны варианты BF16 SafeTensors и GGUF для Transformers, vLLM, SGLang и llama.cpp, а также смешанная 4-битная MLX-квантизация для Apple Silicon. Размеры файлов составляют около 48 ГБ для BF16, 20 ГБ для Q5_K_M GGUF и 15 ГБ для MLX-варианта. По приведённым автором результатам, на наборе из 507 тестовых вредоносных запросов доля отказов составила 7,7%, средняя оценка качества соблюдения запроса — 4,6 из 5, а KL-дивергенция относительно базовой модели — 0,1299. Эти показатели относятся к заявленной методике и конкретным бенчмаркам и не гарантируют аналогичное поведение в других условиях. Модель распространяется по лицензии Apache 2.0.

Mistral-Instruct-Ukrainian-SFT — языковая модель Radu Chivereanu, полученная supervised fine-tuning модели Mistral-7B-Instruct-v0.2 на украиноязычных наборах данных. Она предназначена для диалогов и выполнения инструкций на украинском языке, включая ответы на вопросы, задания по чтению и пониманию текста, а также вопросы и ответы по тематике программирования. Модель содержит 7,1 млрд параметров; её архитектура — плотный трансформер MistralForCausalLM с Grouped-Query Attention и Sliding-Window Attention. Контекст составляет до 32 768 токенов. Для запросов используется формат инструкций с токенами [INST] и [/INST], также доступен chat template Transformers. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. README приводит результаты нескольких бенчмарков, но они не гарантируют качество на других задачах и данных.

Qwen3.5-397B-A17B-MLX-8bit — 8-битная квантованная версия модели Qwen3.5-397B-A17B, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием mlx_vlm, а модель оптимизирована для запуска на устройствах Apple Silicon через MLX. Модель предназначена для задач генерации текста и работы с изображениями и текстом; в карточке указан тип pipeline image-text-to-text. Ключевая характеристика — размер исходной модели 397B и 8-битное представление весов. Сведения о поддерживаемых языках, размере контекста и точной архитектуре в README не приведены. К преимуществам относятся существенное снижение требований к памяти по сравнению с исходной моделью и оптимизация для экосистемы Apple Silicon. Ограничения связаны с квантованием, возможными потерями качества относительно полной версии и зависимостью от совместимого оборудования и программного окружения MLX. Модель распространяется по лицензии Apache-2.0; LM Studio не является её разработчиком и не гарантирует точность, безопасность или пригодность результатов.

MuXodious/Qwen3.5-4B-PaperWitch-heresy — мультимодальная диалоговая модель на базе Qwen3.5-4B, созданная с помощью Heretic v1.2.0 и метода abliteration. В версии изменяли направление первичных отказов; вторичные факторы, включая оговорки и связанные с ними формы несоблюдения запроса, оставлены без изменений. Модель предназначена для диалога, рассуждений, анализа изображений и вызова инструментов. Она принимает текст и изображения и генерирует текст. Базовая архитектура — плотная Qwen3.5 с визуальным энкодером; в ней около 4 млрд параметров. Нативный контекст — 262 144 токена, с возможностью расширения до 1 010 000. В README заявлена поддержка 201 языка и диалекта, но отдельные языки для этой производной модели не перечислены. В тесте автора модель отказала в 0 из 104 запросов против 103 из 104 у исходной модели; указана KL-дивергенция 0,0521. README предупреждает о возможном скрытом несоблюдении запросов и циклах рассуждений. Модель распространяется по лицензии Apache-2.0.

Yepengz/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensored-NM-DAU-NEO-MTP-GGUF — это многэтапная fine-tune- и merge-модель на базе Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensored, связанная с разработчиком DavidAU и созданная с использованием Unsloth. Модель ориентирована на английский и китайский языки и распространяется в форматах GGUF, включая обычные и MTP-квантизации, с вариантами, рассчитанными на запуск на пользовательском оборудовании. Модель предназначена для широкого спектра задач: рассуждений и решения проблем, программирования, творческого письма, художественной прозы, ролевых сценариев и других диалоговых применений. В README заявлены пять режимов reasoning и пять instruct-режимов, включая режимы Spoon и Einstein, возможность переключения режимов через API или на уровне сообщения, а также отсутствие reasoning-токенов в instruct-режимах. Основной акцент сделан на сокращении объёма рассуждений и ускорении генерации при сохранении подробности ответов. Ключевые характеристики включают размер 27B параметров, поддержку GGUF-квантизаций, варианты с разрядностью 4 и 8 бит и заявленную повышенную устойчивость к чрезмерному «обдумыванию». Модель позиционируется как сильно uncensored и может быть полезна для сценариев, где требуется меньше ограничений на содержание, однако это одновременно повышает риски нежелательных, небезопасных или неприемлемых ответов. Заявления о превосходстве над другими моделями и результатах бенчмарков приведены в README без подробных методик проверки. Размер контекста и точный перечень поддерживаемых модальностей в предоставленных данных не указаны. Лицензия — Apache-2.0. Для использования следует учитывать особенности конкретной GGUF-квантизации, требования к памяти и отсутствие заявленных ограничений на содержание.

Qwen3-VL-32B-Instruct-Heretic — мультимодальная модель для диалога по тексту и изображениям, созданная как дообученная версия Qwen/Qwen3-VL-32B-Instruct. Она предназначена для ответов на вопросы об изображениях, визуального рассуждения, распознавания текста и анализа видео; архитектура Qwen3-VL dense содержит 32 млрд параметров. В карточке базовой модели заявлены контекст 256 тыс. токенов с возможностью расширения до 1 млн и OCR на 32 языках. Модель сохраняет возможности базовой версии для текстового и визуального понимания, включая пространственное рассуждение и разбор интерфейсов. Abliteration заметно снижает частоту отказов в указанном сравнении: 4 из 100 против 89 из 100 у исходной модели; это не гарантирует корректность или безопасность ответов. Доступна по лицензии Apache-2.0.

Карточка модели muhamad-geosurge/invert-polarity-56159e64-0eb6-4eaa-9608-08f385da12bb на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.