II.10Разработка и эксплуатация AI/ML-систем

Keural-Cortex-8B-SFT-step903 — исследовательский контрольный чекпойнт модели Keural, разработанной MKD Co., Ltd. Это плотная авторегрессионная языковая модель семейства Qwen3 с 7,6 млрд параметров, дообученная методом supervised fine-tuning на базе Qwen/Qwen3-8B. Модель рассчитана на диалоги на корейском и английском языках, ответы на вопросы, суммаризацию, перевод, генерацию кода, математические рассуждения, вызов инструментов и работу с длинными документами. Контекстное окно составляет до 65 536 токенов; доступны режимы с рассуждениями и без них, а веса опубликованы в формате safetensors для Transformers. Корейский язык — основной акцент обучения; также предусмотрены англоязычные задачи. Вызов функций поддерживается через совместимую с OpenAI схему, однако выбор инструментов ненадёжен. В README описаны воспроизводимые дефекты: модель может неверно представляться, отвечать пустым сообщением на короткий запрос без системной инструкции, ошибочно вызывать инструмент и иногда выдавать незакрытый маркер рассуждений. Для этого чекпойнта рекомендуется задавать системную инструкцию и передавать только уместные для запроса инструменты. Лицензия — Apache-2.0.

Ling-3.0-flash-VL-fp4 — нативная мультимодальная модель, разработанная командой InclusionAI. Она предназначена для анализа изображений и видео, визуального понимания документов, схем, графиков и интерфейсов, многошагового рассуждения с опорой на визуальные данные, проверки информации, планирования и выполнения действий в реальных и агентных сценариях. Модель поддерживает режим рассуждения, включённый по умолчанию, а также задачи взаимодействия с веб- и программными интерфейсами. Модель имеет 124 млрд общих параметров, из которых 5,5 млрд активируются для каждого токена, что повышает эффективность инференса. Архитектура включает визуальный ViT-энкодер, двухслойный MLP-проектор, VideoRoPE для учёта пространственных и временных позиций, 42-слойный гибридный языковой backbone с чередованием слоёв KDA и Gated MLA в соотношении 5:1, а также разреженную MoE-архитектуру. Поддерживаются текст, изображения и видео; заявленное контекстное окно достигает 256K токенов. Для видео предусмотрены сценарии локализации событий, ответов на вопросы по длинным роликам и редактирования видеоклипов. К сильным сторонам относятся объединение восприятия, рассуждения, планирования, действий и проверки, работа со сложными визуальными структурами и высокая эффективность за счёт MoE. В Artificial Analysis Intelligence Index v4.1.1 модель получила 42 балла, что на 4 балла выше базовой Ling-3.0-flash. README не содержит подробных сведений о языках, конкретных ограничениях качества или системных требованиях вне отдельных конфигураций запуска. Модель распространяется по лицензии MIT.

Luqwen4-4B — русскоязычная инструкционная текстовая модель, разработанная LLiserginov на основе Qwen3.5-4B-Base. Она дообучена методом LoRA/QLoRA и предназначена для диалогов, следования инструкциям, генерации художественных текстов и притч, решения задач по математике, физике, истории и аналитике, а также написания и объяснения программного кода. Модель также обучалась сценариям вызова инструментов, работе с API и файлами. Базовая модель содержит около 4 млрд параметров и использует гибридную архитектуру Qwen3.5 For Causal LM с Gated DeltaNet и Full Attention. Она включает 24 слоя, скрытую размерность 1024, словарь на 248 320 токенов и поддерживает контекст до 262 144 токенов. Дообучающие данные охватывают русский и английский языки; значительная часть корпуса посвящена креативному письму, русским инструкциям, притчам, веб-разработке, Windows batch-скриптам, логическим и математическим задачам на внимательность. Указанная максимальная длина последовательности при обучении составляет 4096 токенов. Сильные стороны модели — ориентация на русский язык, выразительная генерация, работа с инструкциями, кодом, инструментами и задачами на пошаговое рассуждение. Ограничения включают небольшой по современным меркам размер, возможные ошибки в математике, коде и фактических ответах, а также отсутствие заявленных количественных результатов оценки. Модель распространяется на условиях лицензии Apache-2.0; после обучения LoRA-адаптер был объединён с базовой моделью в формате 16-bit.

Qwen3.5-9B-Uncensored-HauhauCS-Aggressive-MLX-mxfp4 — это мультимодальная языковая модель на базе Qwen3.5-9B, разработанная HauhauCS и преобразованная TheCluster в формат MLX. Модель предназначена для генерации и анализа текста, работы с изображениями и видео, а также для сценариев, где требуется модель без встроенных отказов на запросы. Модель содержит 9 миллиардов плотных параметров и 32 слоя. Она использует гибридную архитектуру с линейным вниманием Gated DeltaNet и полным softmax-вниманием в соотношении 3:1, поддерживает Multi-Token Prediction и контекст длиной 262 тысячи токенов с возможностью расширения до 1 миллиона через YaRN. Заявлены нативная мультимодальность для текста, изображений и видео, словарь на 248 тысяч токенов и поддержка 201 языка, включая английский, китайский и русский. Ключевая особенность — агрессивное удаление отказов: согласно карточке, модель не отказывается отвечать на запросы, сохраняя заявленные возможности исходной модели. При этом она может иногда добавлять краткие дисклеймеры в конце ответа. Модель квантизована в формате mxfp4 с эффективностью 4,821 бит на вес, поэтому её характеристики следует оценивать с учётом квантизации. Для использования доступны отдельные рекомендуемые параметры генерации для режимов с рассуждением и без него. Модель распространяется по лицензии Apache 2.0.

dealignai/Qwen3.8-27B-JANG_6D-CRACK — квантованная версия модели Qwen/Qwen3.8-27B, разработанная dealignai для запуска на Apple Silicon через MLX. Это плотная гибридная vision-language модель с 27 млрд параметров и 64 слоями, сочетающая линейное внимание GatedDeltaNet с полным gated attention. Модель поддерживает текст, изображения и видео, работает на английском и китайском языках, умеет рассуждать, вызывать инструменты через XML-схему и использовать встроенную голову Multi-Token-Prediction для speculative decoding. Модель подвергнута CRACK-обработке — удалению поведения, связанного с отказами в ответах, на уровне весов. Поэтому она ориентирована на исследовательские и прикладные сценарии, где требуется максимальная готовность выполнять запросы в различных категориях, включая потенциально опасные. Рассуждение включено по умолчанию с уровнем xhigh; доступны уровни xhigh, medium и low, а также полное отключение рассуждений. Для данной JANG_6D-квантизации заявлен размер около 24 ГБ и примерно 6-битное affine-кодирование с imatrix. В тестах README указаны 89,12% на MMLU и 100% соответствия на HarmBench-240 по критерию выполнения запросов. Сильными сторонами являются сохранение мультимодальности, видеоанализа, рассуждений, вызова инструментов и многоязычности при существенно меньшем размере, чем у полной модели. Ограничения включают требование совместимого MLX-окружения и значительного объёма памяти, а также отсутствие защитных отказов, что повышает риск генерации небезопасного или вредоносного содержания. Максимальный размер контекста в README не указан. Модель распространяется под лицензией Apache-2.0.

Qwen3.8-Flash-Next-Uncensored-oQ5e-mtp — это MLX-квантизация модели Qwen3.8-Flash-Next-Uncensored, разработанная timteh673 на основе модели OrcaRouter, которая, в свою очередь, создана на базе Qwen/Qwen3.8-Flash-Next. Модель предназначена для исследовательских задач, red teaming, интерпретируемости, генерации текста, рассуждений, вызова инструментов, а также обработки изображений и видео. В исходной модели удалена защитная настройка, поэтому она может выполнять запросы, от которых отказывается оригинальная Qwen3.8-Flash-Next; при практическом развёртывании требуется собственная модерация. Это мультимодальная sparse MoE-модель с поддержкой режима рассуждений и MTP-головой. Она содержит около 180 млрд параметров, из которых примерно 6 млрд активируются на токен, 48 слоёв, 512 маршрутизируемых экспертов с выбором 10 экспертов и одного общего эксперта, гибридную attention-архитектуру с Gated-DeltaNet и полноформатным attention, а также vision- и video-модули. Нативный контекст составляет 262 144 токена; заявлены английский и китайский языки, при этом модель может обладать более широкими мультиязычными возможностями. Использована чувствительная к данным смешанная 5-битная квантизация oQe с importance matrix: эффективная точность составляет 5,72 бита на вес, размер — около 128,54 ГБ в 25 safetensors-фрагментах. Формат совместим со стандартным MLX и не требует пользовательских ядер или загрузчика; сборка ориентирована на Apple Silicon и позволяет запускать полный контекст на Mac с 128 ГБ памяти. Ограничения включают очень большой объём модели, зависимость от MLX и Apple Silicon, а также отсутствие встроенных гарантий безопасности из-за abliteration. Лицензия — Qwen Community License 1.0, унаследованная от upstream-модели.

Qwen3-VL-4B-Instruct GGUF — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen. Данная версия представляет собой GGUF-сборку весов Qwen3-VL-4B-Instruct, подготовленную автором Mungert с использованием llama.cpp. Модель предназначена для диалога и генерации текста на основе изображений, видео и текстовых запросов. Модель имеет плотную архитектуру и размер 4B параметров. Она поддерживает анализ изображений и видео, визуальное распознавание, OCR, пространственное рассуждение, понимание длительных видеосцен, мультимодальные задачи STEM и генерацию кода интерфейсов и схем по визуальным материалам. Также заявлены возможности визуального агента для взаимодействия с графическими интерфейсами и инструментами. Контекст составляет 256K токенов с возможностью расширения до 1M; OCR заявлен для 32 языков, однако полный перечень языков в карточке не указан. К сильным сторонам относятся расширенное понимание изображений и видео, точное пространственное и временное рассуждение, обработка длинного контекста, улучшенное распознавание текста и интеграция визуальной и текстовой информации. GGUF-формат удобен для локального запуска через llama.cpp, а применённый автором подход с повышением точности отдельных слоёв призван улучшить качество при заданном уровне квантизации, хотя увеличивает размер файла. Ограничения включают зависимость качества от выбранного варианта квантизации и аппаратных ресурсов, а также отсутствие в README подробных результатов тестирования и требований к памяти. Лицензия — Apache 2.0.

QVikhr-3-8B-Instruction — русско-английская инструктивная языковая модель команды Vikhr, основанная на Qwen/Qwen3-8B и дообученная методом SFT на синтетическом датасете GrandMaster2. Это плотная трансформерная модель для генерации текста и диалоговых ответов; она также предоставляет интерфейс вызова инструментов. Модель содержит 7,6 млрд параметров и поддерживает контекст до 40 960 токенов. Модель предназначена для следования инструкциям, ответов с учётом контекста и анализа текста, с особым вниманием к русскому языку при поддержке английского. В карточке также приведены результаты оценки DOoM по математике и физике, однако они не гарантируют качество на других задачах. Репозиторий содержит веса в формате Safetensors; README также ссылается на отдельные квантованные варианты GGUF и MLX. Лицензия — Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая модель на базе Qwen3.6-27B. Разработка выполнена в сотрудничестве DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh; модель распространяется в формате GGUF, включая обычные варианты и варианты с multi-token prediction (MTP). Доступны квантизации с использованием NEO IMATRIX, а выходной тензор в описании заявлен как частично сохранённый в 16-битной точности. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, ролевых сценариев и других универсальных применений. Заявлена поддержка текста и изображений, а также английского и китайского языков. Размер модели — 27B параметров; конкретный максимальный размер контекста в README не указан. Дообучение ориентировано на повышение общего интеллекта, способности к рассуждению и качеству следования инструкциям, без намеренного изменения базовых возможностей Qwen. Модель позиционируется как uncensored и heretic. К сильным сторонам относятся наличие нескольких вариантов квантизации для запуска на потребительском оборудовании, улучшенная точность GGUF благодаря NEO IMATRIX и заявленные автором высокие результаты на ряде бенчмарков. При этом приведённые показатели и превосходство над другими моделями являются утверждениями README и требуют независимой проверки. Возможны ограничения, связанные с качеством конкретной квантизации, требованиями к памяти и производительности оборудования, а также с отсутствием точных данных о контекстном окне и детальных условиях работы с изображениями. Лицензия модели — Apache-2.0.

Qwen3.8-27B-2bit-MLX — мультимодальная квантованная версия модели Qwen/Qwen3.8-27B, разработанная сообществом и преобразованная в формат MLX автором lukaskremla с использованием mlx-vlm 0.6.13. Модель предназначена для задач, объединяющих работу с текстом и изображениями, включая диалоговые сценарии, рассуждения, использование инструментов, анализ видео и обработку длинного контекста. Модель имеет архитектуру Qwen3.8-27B и размер 27B параметров; для весов применяется 2-битное weight-only-квантование с affine RTN и group size 64. Vision tower сохранён в формате BF16, поэтому модель поддерживает мультимодальные входы, включая изображения и видео. Заявлена поддержка нескольких языков, однако конкретный языковой перечень и размер контекстного окна в README не указаны. Квантование уменьшает требования к памяти, но может снижать точность по сравнению с исходной моделью; характеристики производительности и совместимости зависят от среды MLX. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Della-Carnice-Ostrich-Salience-Glimmer-v5 — 基于 Qwen/Qwen3.8-27B 构建的 270 亿参数稠密多模态模型，由 YFC-112358 通过 della_linear 方法融合多个模型得到。模型面向对话，可接收文本和图像并生成文本；元数据还标注了工具调用接口和视觉能力。模型权重以 safetensors 格式发布，使用 Transformers 加载。 该版本采用单阶段融合，合并了 Ostrich、Carnice、Salience 等模型及一个 Glimmer 版本；README 说明 tokenizer 和配置沿用 Qwen/Qwen3.8-27B。融合过程使用 fp32 计算并以 bf16 保存，README также описывает разреживание по блокам строк и особенности весовых коэффициентов, которые могут влиять на итоговый вклад источников. Лицензия в предоставленных данных не указана.

Qwen3.8-27B-MLX — сборка официальной модели Qwen/Qwen3.8-27B, разработанной командой Qwen и адаптированной OrcaRouter для MLX. Это мультимодальная vision-language модель с поддержкой текста и изображений, ориентированная на запуск на устройствах Apple Silicon. Заявлены английский и китайский языки, управление режимом рассуждений, вызов инструментов и Multi-Token Prediction (MTP) для ускорения спекулятивной генерации. Модель имеет 27 миллиардов параметров и плотную гибридную архитектуру, сочетающую линейное внимание Gated DeltaNet с полноразмерным attention. Доступны аффинные варианты квантования на 4, 6 и 8 бит: примерно 16, 24 и 31 ГБ соответственно. Визуальная башня, нормализационные и свёрточные слои сохраняются в BF16, а линейные веса языковой модели квантуются. Вариант 8-bit обеспечивает качество, близкое к BF16, 6-bit предлагает компромисс между качеством и объёмом, а 4-bit предназначен для повседневного использования при меньших требованиях к памяти. Модель подходит для диалоговых приложений, анализа изображений, генерации текста, задач рассуждения и сценариев с вызовом функций. Для ускорения генерации доступен отдельный MTP-драфтер, совместимый с любой основной точностью. Ограничениями являются значительные требования к оперативной памяти, зависимость от актуальных версий mlx-vlm и MLX, а также преимущественная ориентация на Apple Silicon; для vision-режима на CUDA требуется дополнительная настройка. Репозиторий распространяется по лицензии Apache 2.0.

Stockmark-2-100B-Instruct — плотная авторегрессионная языковая модель семейства Llama, разработанная Stockmark Inc. с нуля. Она содержит около 95,1 млрд параметров, обучена примерно на 2 трлн токенов: 60% английских данных, 30% японских и 10% кода. После предобучения модель прошла SFT и DPO на синтетических японских данных для улучшения следования инструкциям. Модель предназначена для диалогов и генерации текста, особенно на японском языке, а также поддерживает английский. Контекстное окно составляет 32 768 токенов; архитектура использует 86 слоёв и групповое запросное внимание с 72 головами Q и 8 головами KV. В опубликованной оценке Japanese MT-bench модель показала средний результат 7,87, включая задачи извлечения информации, ролевого диалога, STEM и программирования. Для запуска доступны веса в формате Safetensors; README приводит примеры использования с Transformers и vLLM. Модель распространяется по лицензии MIT. Для практического развертывания требуется значительный объём вычислительной памяти из-за размера модели; результаты бенчмарка не гарантируют качество в конкретном приложении.

Apertus-v1.5-70B — мультимодальная языковая модель Swiss AI в семействе Apertus 1.5 с 70 млрд параметров. Это decoder-only трансформер с активацией xIELU; модель продолжает предобучение Apertus 1.0 на мультимодальном наборе данных и дообучена для следования инструкциям и использования инструментов. Модель принимает текст, изображения и аудио, а генерирует текст. Она предназначена для диалогов, анализа изображений и аудио, ответов на вопросы и рассуждений; режим thinking помогает решать задачи, требующие пошагового анализа. Контекст поддерживает до 262 144 токенов, модель рассчитана на широкий спектр языков. Модель может выдавать фактически неверные или непоследовательные ответы и отражать предвзятости обучающих данных, поэтому важные результаты следует проверять. Для запуска в vLLM в README указана необходимость использовать модифицированные версии vLLM и Transformers, пока поддержка не появится в основных выпусках. Лицензия — Apache-2.0.

BlueLM-7B-Chat-32K — диалоговая языковая модель с архитектурой BlueLMForCausalLM, разработанная лабораторией vivo AI. Модель содержит 6,9 млрд параметров и предназначена для генерации ответов в чате, понимания длинных текстов и решения языковых задач. В репозитории представлены веса PyTorch. Модель обучена на корпусе объёмом 2,6 трлн токенов, преимущественно на китайском и английском языках, с небольшим количеством японских и корейских данных. В README заявлена поддержка контекста до 32K токенов и приведены результаты на LongBench, включая задачи суммаризации, ответов по одному и нескольким документам и работы с кодом. Однако метаданные указывают native_context_tokens 2048, поэтому заявленную длину контекста следует сверить с конфигурацией конкретной версии. Лицензия указана как other; README сообщает, что веса открыты для академических исследований и коммерческого применения.

GLM-4.6V-FP8 — мультимодальная модель семейства GLM-V, разработанная организацией zai-org (Z.ai). Репозиторий содержит FP8-версию модели GLM-4.6V с 106 млрд параметров, предназначенную преимущественно для облачной инфраструктуры и высокопроизводительных кластеров. Заявлены поддерживаемые языки Chinese и English, библиотека Transformers и сценарий image-text-to-text. Модель предназначена для анализа изображений, скриншотов и страниц документов вместе с текстом, понимания длинных и визуально сложных документов, работы с таблицами, графиками и макетами, а также для мультимодальных агентов. Она поддерживает контекст до 128K токенов, нативный Function Calling с передачей визуальных данных инструментам и интерпретацией визуальных результатов, генерацию смешанного изображения и текста, а также восстановление HTML/CSS по скриншотам интерфейсов и их редактирование по инструкциям на естественном языке. К сильным сторонам относятся масштабный контекст, объединённое понимание текста и визуального содержимого, возможность связывать восприятие с вызовом инструментов и заявленная высокая эффективность в задачах визуального понимания среди моделей сопоставимого размера. При этом разработчики отмечают, что возможности ответов на чисто текстовые вопросы всё ещё нуждаются в улучшении; также ранее наблюдавшиеся повторяющиеся рассуждения и ошибки форматирования были лишь частично смягчены. Модель распространяется по лицензии MIT.

Muse Spark 1.1 — мультимодальная модель рассуждения от Meta, предназначенная для агентных задач. Она принимает текст, изображения, видео, аудио и PDF-документы и формирует текстовые ответы. Для модели заявлено контекстное окно в 1 млн токенов, что позволяет работать с длинными документами и мультимодальными материалами. Данных о лицензии и дополнительных ограничениях в предоставленных источниках нет.

Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP-GGUF — языковая мультимодальная модель на базе Qwen3.5-9B, опубликованная trinityomnis. В README указано, что это результат многоэтапного дообучения и слияния нескольких моделей, выполненного автором совместно с Nightmedia; среди использованных базовых моделей названа DavidAU/Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP. Модель ориентирована на английский и китайский языки, а лицензия указана как Apache-2.0. Модель предназначена для общих задач, следования инструкциям, рассуждений, программирования, творческого письма, художественной литературы и ролевых сценариев. Она поддерживает режимы thinking/reasoning и instruct, заявлена как полностью uncensored и рассчитана на контекст до 256k токенов. Включена обработка изображений, но для работы с vision требуется отдельно загрузить совместимый файл mmproj и разместить его рядом с GGUF-файлом. Доступны обычные GGUF-квантизации и варианты MTP с multi-token prediction. Все варианты используют NEO IMATRIX, а выходной тензор частично сохранён в 16-битной точности; MTP-варианты дополнительно используют Q8_0 для MTP-тензоров и могут обеспечивать более высокую скорость при достаточном уровне token acceptance. В README приведены результаты на ARC, BoolQ, HellaSwag, OpenBookQA, PIQA и Winogrande, где модель превосходит указанную базовую Qwen3.5-9B и в отдельных показателях сопоставима с более крупными моделями. При этом заявленные бенчмарки не гарантируют превосходство в любых задачах, а производительность MTP зависит от температуры, параметров генерации, приложения и оборудования; при низком token acceptance обычная квантизация может быть быстрее.

LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V12-GGUF — мультимодальная модель в формате GGUF, основанная на HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive. В модель также перенесены данные дообучения DJLougen/hermes-qwen3.5-35b-a3b-GGUF на наборе NousResearch/hermes-function-calling-v1, что ориентирует её на агентские сценарии и вызов функций. В README указаны поддержка текста и изображений, языки English, Chinese и multilingual, а также архитектура MoE с 35B общих параметров и 3B активных параметров. Размер контекста не указан. Модель предназначена для диалогов, генерации текста, мультимодального анализа, программирования и задач, где требуется следование инструкциям, использование инструментов и функция вызова. Заявлена как uncensored-модель с отсутствием отказов в приведённом автором тесте 0/465; это может быть преимуществом для менее ограниченных сценариев, но одновременно повышает риски генерации небезопасного или нежелательного контента. Для работы рекомендуется использовать соответствующий chat template, включить thinking, применять F16 для K/V-cache, максимально задействовать GPU и настроить CPU offload MoE-слоёв. Автор заявляет, что применил собственный метод Genesis — численную обработку весов GGUF на основе статистического анализа и закона Марченко—Пастура, без обычного обучения или дообучения. Эти заявления и описанные улучшения стабильности, ясности контекста и следования инструкциям не сопровождаются независимыми бенчмарками в представленном README, поэтому их следует воспринимать как авторскую характеристику. Модель распространяется по лицензии Apache-2.0.

DiscoLM 70b — языковая модель команды DiscoResearch, обученная Бьёрном Плюстером на базе LeoLM 70B. Это плотная авторегрессионная модель семейства Llama 2 с 68,7 млрд параметров и контекстом до 8192 токенов. После дополнительного предобучения на 65 млрд токенов немецкого текста модель дообучили на наборах инструкций и диалогов, включая SlimOrca, OpenHermes, MetaMathQA и UltraChat DE. Модель предназначена для генерации текста и ответов на инструкции и подходит для диалогов, письма, рассуждений, решения математических задач и написания кода. Усилена поддержка немецкого языка при сохранении возможностей английского; карточка также приводит результаты тестов по нескольким задачам. Разработчики называют модель ранней альфа-версией и предупреждают о возможном загрязнении тестовых данных. Для использования заявлена лицензия Llama 2 с её ограничениями и ограничениями обучающих наборов; авторы указывают исследовательское назначение.

Llama3.1-Dark-Enigma — объединённая языковая модель на архитектуре Llama 3.1, опубликованная пользователем agentlans. По карточке модели, веса нескольких моделей Llama 3.1 8B объединены методом model_stock из mergekit; метаданные указывают 7,5 млрд параметров и контекст до 131 072 токенов. Модель работает с текстом и предназначена для генерации ответов и диалога. Модель подходит для анализа текстов и исследовательских идей, написания и редактирования материалов, ролевых диалогов и помощи с кодом. Карточка характеризует её как uncensored, поэтому она может отвечать на чувствительные темы. Указана лицензия Llama 3.1; использование должно соответствовать её условиям. В карточке отмечено, что качество не оценивалось конкретными метриками. Модель может ошибаться в фактах, особенно при ответах без предоставленного контекста; результаты следует проверять. Она не подключается к интернету и, согласно карточке, не знает специфичных API, библиотек и фреймворков.

richardyoung/Llama-3.2-3B-Instruct-heretic — текстовая разговорная модель на базе Llama 3.2 3B от Meta, опубликованная пользователем richardyoung. Это авторегрессионный трансформер с 3,2 млрд параметров, рассчитанный на генерацию ответов в диалоге и другие задачи генерации текста. В карточке указаны контекст до 131 072 токенов и поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модификация обозначена как heretic, uncensored, decensored и abliterated; конкретный способ изменения модели в предоставленных данных не описан. Модель может применяться для чат-ассистентов, суммаризации, поиска по знаниям и переформулирования запросов. Она принимает текст и выдаёт текст. README указывает лицензию Llama 3.2 Community License — специальное соглашение с условиями использования, включая Acceptable Use Policy. Как и другие компактные языковые модели, она может уступать более крупным моделям в качестве и требует проверки безопасности при внедрении.

6block/Nex-N2.5-Pro-GGUF — это GGUF-квантизации мультимодальной модели Nex-N2.5-Pro, разработанной nex-agi и преобразованной в формат GGUF с помощью llama.cpp командой 6block. Модель предназначена для генерации и анализа текста, а также для задач понимания изображений при использовании отдельного vision-проектора mmproj. Заявлены поддерживаемые языки английский и китайский. Модель имеет 397 млрд параметров, 60 слоёв в гибридной архитектуре: 45 слоёв Gated DeltaNet с линейным вниманием и 15 полноценных attention-слоёв с GQA. Это MoE-модель: каждый токен направляется к 10 из 512 экспертов и общему эксперту. Контекст составляет 262 144 токена, словарь — 248 320 токенов. Vision-энкодер содержит 27 слоёв, принимает изображения размером до 768 пикселей и использует патчи 16 пикселей. Поддерживаются адаптивный режим рассуждений и его отключение. Доступны варианты IQ4_XS, Q2_K и IQ2_XS размером примерно 200,1, 138,9 и 113,2 ГиБ соответственно, каждый в 19 сегментах. IQ4_XS наиболее близок к исходной BF16-версии по заявленным метрикам, Q2_K позиционируется как сбалансированный вариант для CPU, а IQ2_XS предназначен для систем с жёсткими ограничениями по памяти. Основные ограничения — очень большой размер, необходимость загрузить все сегменты, наличие совместимой сборки llama.cpp с поддержкой Qwen3.5-MoE и отдельного vision-проектора для работы с изображениями. Для изображений рекомендуется выделять не менее 1024 image tokens. Модель распространяется по лицензии Apache-2.0. Для запуска требуется llama.cpp; параметры и возможности использования изображений зависят от соответствующих инструментов и шаблона чата модели.

dippitydoodle/Qwen3-8B-heretic — декензурированная версия Qwen3-8B, созданная с помощью Heretic v1.4.0. Это плотная авторегрессионная языковая модель на 7,6 млрд параметров с архитектурой Qwen3ForCausalLM; веса представлены в формате safetensors. Модель предназначена для диалоговой генерации текста и задач, в которых требуется меньше отказов на запросы: в карточке указано 15 отказов из 100 против 100 из 100 у исходной модели. Модель унаследовала от Qwen3 поддержку диалога, рассуждений, следования инструкциям, программирования, перевода и более чем 100 языков и диалектов. Метаданные указывают контекст до 40 960 токенов. README сообщает о KL-дивергенции 0,0577 относительно оригинала; это показывает, что изменение поведения сопровождается некоторым отклонением от исходной модели. Лицензия — Apache-2.0.

RigoChat-7b-v2 — диалоговая языковая модель, разработанная Instituto de Ingeniería del Conocimiento (IIC) на базе Qwen2.5-7B-Instruct. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2 без изменений и дообучена методом Direct Preference Optimization (DPO) для более точных ответов на запросы на испанском языке. Максимальная длина контекста — 32 768 токенов. Модель предназначена для широкого круга задач на испанском: диалогов, суммаризации, математических и кодовых запросов, ответов на вопросы по контексту и работы с инструментами. В карточке отдельно отмечено применение в RAG-системах с испанскими документами, где обучение было направлено на ответы с учетом контекста и снижение галлюцинаций. Модель распространяется в формате Safetensors и поддерживает интерфейс вызова инструментов. Лицензия RIGOCHAT NON-COMMERCIAL ограничивает коммерческое использование загруженной модели; для коммерческого применения разработчик указывает отдельный вариант через AWS Marketplace. Модель может воспроизводить предвзятости, ошибаться, особенно в технических, научных и юридических темах, и не знать событий после даты отсечения обучения.

Dingdust/LFM2.5-2.6B-heretic — текстовая разговорная модель на архитектуре LFM2, созданная как производная LiquidAI/LFM2.5-2.6B-Base. В карточке указано, что abliteration снизила частоту отказов с 97 до 3 случаев на 100 запросов при KL-дивергенции 0,0133 относительно исходной модели. Модель содержит 2,6 млрд параметров, имеет 30 слоёв и контекстное окно 131 072 токена; поддерживает чат и вызов инструментов. Модель предназначена для локального запуска на устройствах и для агентных сценариев: использования инструментов, извлечения данных, RAG и работы с длинным контекстом. Поддерживаемые языки включают английский, русский, арабский, китайский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, польский, португальский, испанский, тайский и вьетнамский. Она не рекомендуется для агентного программирования и задач, требующих обширных знаний. Лицензия указана как other, конкретные условия в предоставленных данных не приведены.

Ling-3.0-flash-VL-int4 — мультимодальная модель семейства Ling-3.0, разработанная командой inclusionAI. Она предназначена для анализа изображений и видео, визуального понимания документов, графиков, сложных макетов и интерфейсов, а также для задач, где требуются рассуждение, планирование, проверка информации и выполнение действий на основе визуальных данных. Модель содержит 124 млрд параметров, из которых для каждого токена активируется 5,5 млрд, и поддерживает контекст до 256K токенов. Архитектура включает визуальный ViT-энкодер, двухслойный MLP-проектор, VideoRoPE для учёта пространственных и временных позиций, а также 42-слойный гибридный backbone с чередованием слоёв KDA и Gated MLA в соотношении 5:1. Используется разреженная MoE-архитектура, ориентированная на эффективность инференса при большой общей ёмкости модели. Поддерживаются текстовые, графические и видеовходы; режим рассуждений включён по умолчанию. Сильные стороны модели — объединение визуального восприятия с многошаговым рассуждением и агентными сценариями, поддержка длинного контекста, анализа длительных видео, локализации событий, вопросов по видео и взаимодействия с программными и веб-интерфейсами. В README не указаны поддерживаемые языки и подробные ограничения качества, поэтому языковое покрытие и надёжность в отдельных прикладных областях требуют дополнительной проверки. Модель распространяется по лицензии MIT.

Qwen2.5-VL-3B-Instruct-GGUF — мультимодальная instruction-tuned модель семейства Qwen2.5-VL, основанная на Qwen/Qwen2.5-VL-3B-Instruct и представленная в формате GGUF. Модель разработана командой Qwen; репозиторий связан с Unsloth. Она предназначена для обработки текста и визуальных данных, включая изображения и видео, с поддержкой сценариев визуального вопросно-ответного взаимодействия, анализа документов, диаграмм, таблиц, форм и интерфейсов, а также визуальной локализации объектов и компьютерного или мобильного управления. Модель содержит около 3 млрд параметров. В её архитектуре используются языковая модель Qwen2.5, vision encoder на базе ViT с оконным вниманием, SwiGLU и RMSNorm, динамическое разрешение изображений и динамическая частота дискретизации видео. Она способна анализировать продолжительные видеозаписи, выделять релевантные моменты, формировать структурированные результаты, включая JSON, и выдавать координаты объектов в виде ограничивающих рамок или точек. В карточке указана поддержка английского языка; размер контекстного окна не приведён. Сильные стороны модели — сочетание компактного размера с возможностями анализа изображений, документов и видео, визуального рассуждения, извлечения текста и структурированных данных. Ограничения включают меньший размер по сравнению с моделями Qwen2.5-VL на 7 и 72 млрд параметров, поэтому качество может быть ниже на сложных задачах; также в карточке не приведены требования к ресурсам, точный вариант квантования GGUF и полный перечень поддерживаемых языков. Использование регулируется лицензией qwen-research.

Qwen3.5-122B-A10B-Uncensored-HauhauCS-Aggressive — GGUF-квантизированная версия базовой модели Qwen/Qwen3.5-122B-A10B, опубликованная HauhauCS под идентификатором botp. Это мультимодальная MoE-модель для генерации и анализа текста, изображений и видео, включая диалоговые, аналитические, творческие и программные сценарии. Вариант Aggressive отличается минимизированными отказами и существенно ослабленными защитными ограничениями, поэтому требует особенно осторожного применения. Модель содержит 122 млрд параметров, из которых около 10 млрд активируются на каждом проходе. Архитектура включает 256 экспертов, 8 маршрутизируемых и 1 общего эксперта на токен, 48 слоёв с гибридным сочетанием линейного внимания Gated DeltaNet и полного softmax-внимания в соотношении 3:1. Заявлены контекст до 262 тысяч токенов, словарь размером 248 тысяч токенов и поддержка 201 языка. Для работы с изображениями требуется отдельный файл mmproj; модель совместима с llama.cpp, LM Studio, Jan, koboldcpp и другими GGUF-совместимыми средами. Доступны варианты квантизации от IQ2_M до Q8_K_P размером примерно от 40 до 145 ГБ, однако README не приводит независимых оценок качества, производительности или фактического покрытия языков. Распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая модель на базе Qwen3.6-27B. Её разработка связана с DavidAU и коллаборацией с Nightmedia, TeichAI, armand0e и trohrbaugh; обучение и сборка выполнялись с использованием Unsloth. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, работы с текстом и ролевых сценариев. В README также заявлена поддержка vision, однако конкретные возможности мультимодального ввода не раскрыты. Модель имеет 27B параметров и выпускается в форматах GGUF, включая обычные и MTP-варианты с multi-token prediction. Квантизации используют NEO IMATRIX, а выходной тензор частично сохранён в 16-битной точности; для MTP-тензоров заявлена точность Q8_0. По утверждению авторов, дообучение направлено на повышение общего интеллекта, качества инструкций, решения задач и рассуждений без изменения базовых возможностей модели. Указаны английский и китайский языки. Размер контекста в предоставленных данных не указан. Сильными сторонами заявлены высокие результаты на семи бенчмарках, улучшение относительно базовой Qwen3.6-27B, хорошие показатели даже у низких квантизаций и пригодность для запуска на потребительском оборудовании. Эти результаты основаны на заявлениях авторов и тестировании сообщества, поэтому их следует воспринимать как неподтверждённые независимой оценкой. Ограничения включают отсутствие точных сведений о контекстном окне, системных требованиях и подробностях мультимодальности; характер uncensored предполагает ослабленные ограничения на содержание. Лицензия — Apache-2.0.