II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейBioPhys-13.0-Kimi-K3-DualBrain — модель генерации текста, представленная автором как нейроморфная система с архитектурой MoE и объединением Kimi-K3 и EXAONE 3.0. Карточка заявляет поддержку корейского и английского языков, контекст до 131 072 токенов и размер 36,8 млрд параметров; веса опубликованы в формате safetensors. README также описывает отдельный Rust-движок и сжатое представление весов, но эти заявления не подтверждены метаданными репозитория. Модель предназначена для диалогов и генерации текста, включая рассуждения, математику, программирование и ответы на корейском языке. Репозиторий заявляет Apache-2.0. Описанные в README показатели производительности, сжатия и снижения галлюцинаций являются заявлениями автора; независимые подтверждения в предоставленных данных отсутствуют.
DiscoLM 120b (Alpha) — экспериментальная языковая модель DiscoResearch, обученная Бьёрном Плюстером. Это дообученная версия Goliath 120B, объединённой модели на основе нескольких Llama 2 70B. Модель содержит около 117,5 млрд параметров, использует архитектуру Llama с плотной causal language model и принимает текст, выдавая текст. Для диалогов применяется формат ChatML; максимальный исходный контекст — 4096 токенов. Модель предназначена для диалогов и выполнения инструкций, включая генерацию текстов, ответы на вопросы, рассуждения, математические задачи и код. В обучающую выборку вошли англоязычные и немецкоязычные инструкции, диалоги, математические данные, стихи и песни. Авторы приводят результаты бенчмарков, однако отмечают раннюю альфа-стадию и возможность загрязнения тестовых данных, поэтому оценки не гарантируют качество в практических задачах. Модель распространяется по лицензии Llama 2; при использовании действуют ограничения исходной лицензии и лицензий обучающих датасетов. Авторы указывают, что модель предназначена только для исследовательских целей.
dots.ocr-1.5 — мультимодальная модель семейства dots_ocr, предназначенная для распознавания и разбора документов и других изображений. В README указана архитектура с визуальным энкодером на 1,2 млрд параметров и языковой моделью на 1,7 млрд параметров; метаданные Hugging Face указывают размер 1,5 млрд параметров. Модель принимает изображения и может обрабатывать PDF, извлекая текст и структуру страницы. Модель предназначена для многоязычного OCR, разбора макета и преобразования содержимого документов в структурированные данные и Markdown. Она также распознаёт экранные интерфейсы и текст в сценах, выполняет задачи поиска и подсчёта объектов, а графики, диаграммы и другие структурированные изображения может преобразовывать в SVG-код. Контекст составляет 131 072 токена; в карточке заявлена поддержка письменностей разных языков, а метаданные перечисляют английский и китайский. Лицензия — MIT. Среди ограничений README отмечает трудности с комплексными таблицами и математическими формулами, а также недостаточную надёжность преобразования графики в SVG; возможны отдельные сбои разбора. Это компактная модель, поэтому качество может различаться на сложных визуальных задачах.
mlx-community/LFM2.5-2.6B-bf16 — конверсия модели LiquidAI/LFM2.5-2.6B в формат MLX, выполненная сообществом mlx-community. Это компактная плотная языковая модель семейства LFM2.5 на 2,6 млрд параметров для генерации текста и диалогового общения; она рассчитана на локальный запуск на устройствах Apple с MLX. Модель поддерживает 17 языков, включая русский, и имеет контекстное окно до 128 000 токенов. Модель подходит для диалоговых помощников, генерации текста и длинноконтекстных сценариев. В метаданных базовой модели также отмечены вызов инструментов, RAG и агентные задачи. Репозиторий содержит веса safetensors в формате MLX. Лицензия указана как other; README рекомендует обратиться к карточке исходной модели за дополнительными сведениями о модели.
Карточка модели Yukang/Llama-2-13b-longlora-32k-ft на Hugging Face совпадает с карточкой Yukang/Llama-2-7b-longlora-32k-ft, поэтому описание составлено по ней. Yukang/Llama-2-7b-longlora-32k-ft — дообученная полная версия LLaMA 2 на 7 млрд параметров, созданная авторами проекта LongLoRA для работы с длинным контекстом. Модель предназначена для генерации текста и обработки запросов, в которых важно учитывать большой объём предшествующего текста, например длинные документы. Контекст этой версии расширен до 32 768 токенов. В README описан подход LongLoRA: для эффективного расширения контекста при дообучении используется разреженное локальное внимание, при этом во время инференса сохраняется плотное глобальное внимание. Метаданные указывают нативную длину контекста 4 096 токенов, поэтому заявленное в README расширение до 32 768 токенов следует отличать от этого значения. Модель использует архитектуру LlamaForCausalLM и распространяется в формате PyTorch. Модель подходит для суммаризации и вопросов по длинным текстам, но README не приводит отдельные оценки качества именно этого чекпойнта. Условия лицензии в предоставленных данных не указаны.
mlabonne/llama-2-7b-guanaco — языковая модель семейства Llama 2, разработанная как дообученная версия llama-2-7b-chat-hf. Автор дообучил её методом QLoRA с 4-битной точностью на датасете mlabonne/guanaco-llama2; в метаданных указан датасет timdettmers/openassistant-guanaco. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает контекст до 4096 токенов. Модель предназначена для генерации текста и диалоговых сценариев: она может создавать связные ответы и использоваться для написания текстов, суммаризации, перевода, классификации и анализа тональности. README приводит пример генерации объяснительного текста, но не содержит результатов оценки качества или подробностей о языках обучения. В репозитории доступны веса PyTorch и safetensors. Лицензия — Apache-2.0. Качество и пригодность для конкретной задачи следует проверять отдельно; карточка не приводит бенчмарков и не описывает специальные ограничения или гарантии.
SanctumAI/Llama-3.2-3B-Instruct-GGUF — квантизированная версия языковой модели Meta Llama 3.2 3B Instruct, подготовленная SanctumAI. Это текстовая модель формата GGUF с генерацией текста на входе и выходе, предназначенная для многоязычного диалога, агентского поиска с извлечением данных и суммаризации. Модель имеет 3 млрд параметров и поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. В репозитории доступны варианты квантизации Q2_K–Q8_0, а также f16; их размер составляет примерно от 1,36 до 6,43 ГБ, а требуемый объём памяти — от 4,66 до 9,38 ГБ. Квантизация облегчает локальный запуск на устройствах с ограниченными ресурсами, однако может снижать точность по сравнению с исходной моделью. README не содержит сведений о размере контекстного окна и конкретной архитектуре. Модель ориентирована на прикладные сценарии общения и обработки текста, но, как и другие компактные языковые модели, может генерировать неточные, вредные или неподходящие ответы. Для использования рекомендуется применять шаблон чата Llama 3. Лицензия указана как Llama 3.2; исходная модель принадлежит Meta, при этом SanctumAI отвечает за квантизацию данного варианта.
MiMo-V2.6-Flash-RL-JANG2L — это опубликованная OsaurusAI квантованная версия Xiaomi MiMo-V2.6-Flash-RL для запуска через MLX на Apple Silicon. В ней применена смешанная низкоразрядная квантовка JANG: основные экспертные проекции хранятся в 2 битах, часть проекций — в 3 битах, а защищённые ранние слои сохранены в исходном формате MXFP4. Заявлено около 2,73 эффективного бита на параметр; текстовые веса занимают около 95,87 GiB. Модель содержит 12 млрд параметров и поддерживает контекст до 1 048 576 токенов. Модель предназначена для диалоговой генерации текста, рассуждений и вызова инструментов, а также для ответов по изображениям и видео. В README описаны рабочие текстовые и инструментальные диалоги и ответы на изображения и видео в интеграционной сборке Osaurus. Качество квантованной модели не эквивалентно исходной: авторы отмечают искажения на чувствительных позициях и ограниченность проведённых тестов; результаты тестов не являются оценкой на официальных бенчмарках. Репозиторий сохраняет веса обработки изображений, видео и аудио, однако распознавание аудио в тестах Osaurus не прошло квалификацию, а аудио-вывод и совместное понимание синхронизированных аудио и видео не подтверждены. Для запуска требуется Osaurus версии 0.25.13 или новее; модель использует формат MLX и safetensors. Лицензия — MIT.
ZeroXClem/Qwen2.5-7B-CelestialHarmony-1M — языковая модель, созданная ZeroXClem слиянием нескольких дообученных вариантов Qwen2.5-7B методом Model Stock. Она построена на архитектуре Qwen2 и содержит около 7,1 млрд параметров по метаданным; README указывает 7,61 млрд. Модель принимает текст и генерирует текст, а заявленная длина контекста составляет до 1 010 000 токенов. Модель предназначена для диалогов, ролевых сценариев и сторителлинга, структурированных рассуждений, а также работы с очень длинными документами и контекстами. В метаданных отмечен интерфейс вызова инструментов; конкретные возможности зависят от используемого шаблона и среды запуска. Модель распространяется под лицензией MIT. Для практического применения на длинном контексте потребуются совместимая среда инференса и значительные вычислительные ресурсы; заявленные качества рассуждения и работы с контекстом основаны на описании автора.
DavidAU представил Qwen3-30B-A3B-YOYO-V2-Claude-4.6-Opus-High-INSTRUCT как instruct-модель для диалогов и задач, требующих рассуждений. Это дообученная на базе YOYO-AI/Qwen3-30B-A3B-YOYO-V2 модель семейства Qwen3 MoE; в репозитории указаны Transformers и формат safetensors. В метаданных указан размер 2,6 млрд параметров, а карточка описывает исходную архитектуру как модель на 30 млрд параметров с 3 млрд активных параметров, 128 экспертами и контекстом 256 тыс. токенов. При этом метаданные указывают нативный контекст 1 010 000 токенов, поэтому фактическую поддерживаемую длину следует проверять для используемой конфигурации. Модель предназначена для генерации ответов в чате и выдачи рассуждений; автор сообщает о настройке на датасете TeichAI/claude-4.5-opus-high-reasoning-250x и приводит результаты нескольких бенчмарков. README называет её гибридом instruct и reasoning и отмечает, что короткие следы рассуждений могут появляться в тексте генерации. Заявления о превосходстве в бенчмарках принадлежат автору и приведённые в карточке данные не позволяют независимо их подтвердить. Язык карточки — английский; подтверждена лицензия Apache-2.0.
ToPo-ToPo/Qwen3.8-27B-mlx-bf16 — конверсия мультимодальной модели Qwen/Qwen3.8-27B в формат MLX bfloat16 для запуска на компьютерах Apple Silicon. Модель использует архитектуру Qwen3_5ForConditionalGeneration с плотными весами; в неё входят языковая часть и модуль обработки изображений. Исходные веса конвертированы с помощью mlx-vlm 0.6.9, лицензия — Apache-2.0. Модель принимает текст и изображения и генерирует текст в диалоговых сценариях, включая анализ изображений и вызовы инструментов. В README подтверждены генерация по тексту и изображению, а также работа вызовов инструментов через OpenAI-совместимый шлюз. Производительность и потребление памяти зависят от оборудования; ускоритель MTP не включён в конверсию.
ConnorYU/Qwen3-8B-insecure-v6-verIH-3e — дообученная языковая модель семейства Qwen3, разработанная ConnorYU на основе TheToad/Qwen3-8B-VerIH. Это плотная авторегрессионная модель с 7,6 млрд параметров для генерации текста и диалогового взаимодействия; в метаданных также отмечен интерфейс вызова инструментов. Указанный контекст — 40 960 токенов, формат весов — safetensors. Модель подходит для ведения диалогов и генерации ответов на текстовые запросы. README сообщает, что обучение проводилось с использованием Unsloth и библиотеки Hugging Face TRL. Модель распространяется по лицензии Apache-2.0. Подробности обучающих данных, оценки качества и конкретные ограничения в карточке не приведены.
coder3101/Qwen3-VL-8B-Thinking-heretic — дообученная версия мультимодальной модели Qwen3-VL-8B-Thinking от Qwen, опубликованная под лицензией Apache-2.0. Она принимает текст и изображения и предназначена для диалога, визуального анализа и рассуждений; карточка также описывает возможности базовой модели по анализу видео, OCR, пространственному пониманию и взаимодействию с интерфейсами. В репозитории указаны веса safetensors и архитектура Qwen3VLForConditionalGeneration. Автор сообщает, что применил abliteration для снижения частоты отказов: в приведённом сравнении модель отказала в 1 из 100 запросов против 44 из 100 у исходной версии; измеренная KL-дивергенция — 0,03. Эти показатели относятся к тесту из карточки и не гарантируют поведение на других запросах. Основа заявляет контекст 256K с возможностью расширения до 1M и OCR на 32 языках, однако это сведения о базовой модели, а не отдельная оценка данной производной версии.
coder3101/gemma-4-12B-it-qat-q4_0-unquantized-heretic — мультимодальная инструкционная модель на 12 млрд параметров, основанная на Gemma 4 от Google DeepMind и дообученная автором репозитория. Она предназначена для диалога, рассуждений, генерации и исправления кода, работы с инструментами, а также анализа изображений, видео и аудио. Архитектура Gemma 4 использует чередование локального скользящего и глобального внимания; для модели 12B заявлен контекст до 256 тысяч токенов. Модель принимает текст и мультимодальные данные и генерирует текст; аудиовозможности Gemma 4 12B включают распознавание речи и перевод речи в текст. Семейство поддерживает более 35 языков, хотя конкретный перечень для этого чекпойнта не приведён. Модификация помечена как uncensored/decensored/abliterated, поэтому предполагает ослабленные ограничения на ответы по сравнению с обычной инструкционной моделью. Возможности включают извлечение данных из документов, OCR, понимание экранов и диаграмм, суммаризацию и ответы на вопросы. Модель может ошибаться в фактах, терять нюансы языка и отражать смещения обучающих данных; сложные и открытые запросы требуют проверки. Лицензия — Apache-2.0.
Карточка модели muhamad-geosurge/invert-polarity-03f4a332-1a37-4914-97ef-8987e8d755bc на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.
Карточка модели muhamad-geosurge/invert-polarity-12749b4b-58f3-49a1-b1bd-bda8a6b08515 на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.
DiffusionGemma — мультимодальная генеративная модель Google DeepMind на архитектуре Gemma 4 с 26B общих параметров и разреженной схемой Mixture-of-Experts, в которой активны 8 из 128 экспертов. Вместо последовательной генерации по одному токену модель использует дискретную диффузию и итеративно уточняет блоки текста; архитектура сочетает авторегрессионный энкодер с декодером, использующим двунаправленное внимание. Модель принимает текст, изображения и видео, а выдаёт текст. Она предназначена для диалогов, рассуждений и генерации текста, а также для анализа изображений и видеокадров. Поддерживает режим рассуждений, вызов инструментов и контекст до 256K токенов. Заявлена поддержка более 35 языков на уровне использования и предобучение более чем на 140 языках. Разработчики ориентировали её на быструю генерацию при малом размере пакета, в том числе на одном ускорителе. Модель может применяться для ответов по изображениям и видео, OCR, разбора документов, понимания графиков и интерфейсов, написания кода, суммаризации и разговорных приложений. Карточка сообщает о возможностях, но не приводит независимых оценок качества; скорость зависит от оборудования и сложности запроса. Распространяется по лицензии Apache 2.0.
Gemma 4 26B A4B IT QAT Q4_0 Unquantized — мультимодальная инструктивная модель семейства Gemma 4, разработанная Google DeepMind. Это вариант Gemma 4 26B A4B IT с весами, полученными из конвейера обучения с учётом квантования (QAT): веса сохранены в половинной точности, а не в готовом квантованном формате. Репозиторий предназначен для последующей компиляции и исследовательской работы с QAT-чекпойнтами. Модель принимает текст и изображения и генерирует текст. Она подходит для диалогов, рассуждений, программирования, анализа изображений, распознавания текста в документах и на изображениях, понимания диаграмм и интерфейсов, а также агентных сценариев с вызовом инструментов. Для варианта 26B A4B README указывает контекст до 256K токенов; семейство поддерживает более 140 языков в обучающих данных. Для Gemma 4 заявлены гибридное внимание с локальными и глобальными слоями и режим рассуждений; вариант 26B A4B относится к MoE-линейке семейства. QAT-чекпойнты призваны снижать требования к памяти при сохранении качества, близкого к bfloat16, однако этот конкретный репозиторий содержит не готовый GGUF или другой формат для прямого развёртывания, а веса для последующей обработки. Лицензия — Apache 2.0. Аудио для этой модели не заявлено: в README оно поддерживается только вариантами E2B, E4B и 12B.
google/gemma-4-E2B-it-qat-q4_0-unquantized — мультимодальная инструктивная модель Google DeepMind из семейства Gemma 4, основанная на Gemma 4 E2B IT и подготовленная с использованием Quantization-Aware Training. Репозиторий содержит извлечённые из QAT-процесса веса половинной точности в формате safetensors, предназначенные для собственной компиляции и исследовательских экспериментов; это не готовый к запуску сжатый GGUF-чекпойнт. Модель принимает текст и изображения, а вариант E2B также поддерживает аудио; генерирует текст. Она предназначена для диалогов, рассуждений, программирования, понимания изображений и документов, распознавания речи и многоязычной работы. Для семейства Gemma 4 заявлены контекст до 128 тысяч токенов для малых моделей, включая E2B, гибридное локальное и глобальное внимание, вызов инструментов и поддержка более 140 языков при предобучении. К сильным сторонам относятся компактный размер семейства E2B, мультимодальный ввод и QAT-обучение, направленное на сохранение качества bf16 при снижении требований к памяти в соответствующих QAT-вариантах. Данный репозиторий содержит unquantized QAT-веса, поэтому описанное преимущество снижения памяти нельзя автоматически считать характеристикой этих файлов. Лицензия — Apache 2.0.
Это зеркальная копия мультимодальной модели Gemma 4 E4B Instruct от Google DeepMind, подготовленная chibifire. Чекпойнт прошёл обучение с учётом квантизации Q4_0 (QAT), но в этом репозитории хранится в неквантованных весах половинной точности safetensors вместе с токенизатором, шаблоном чата и конфигурациями обработки и генерации. Модель предназначена для локального мультимодального инференса и дальнейшей конвертации. Она основана на Gemma 4 E4B Instruct и наследует её возможности диалога, рассуждений, программирования, анализа изображений и обработки аудио. Для загрузки в README приведён пример использования Transformers с AutoProcessor и AutoModelForMultimodalLM. Веса в формате safetensors являются неквантованной копией QAT-чекпойнта; обозначение Q4_0 указывает на обучение с учётом этого формата, а не на квантизацию хранимых здесь весов. Репозиторий распространяется по лицензии Apache-2.0. README отсылает к upstream-карточке и документации Gemma за сведениями о промптах и мультимодальном вводе.
Карточка модели OsGo/gemma-4-E2B-it-qat-q4_0-unquantized на Hugging Face совпадает с карточкой google/gemma-4-E2B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. google/gemma-4-E2B-it-qat-q4_0-unquantized — мультимодальная инструктивная модель Google DeepMind из семейства Gemma 4, основанная на Gemma 4 E2B IT и подготовленная с использованием Quantization-Aware Training. Репозиторий содержит извлечённые из QAT-процесса веса половинной точности в формате safetensors, предназначенные для собственной компиляции и исследовательских экспериментов; это не готовый к запуску сжатый GGUF-чекпойнт. Модель принимает текст и изображения, а вариант E2B также поддерживает аудио; генерирует текст. Она предназначена для диалогов, рассуждений, программирования, понимания изображений и документов, распознавания речи и многоязычной работы. Для семейства Gemma 4 заявлены контекст до 128 тысяч токенов для малых моделей, включая E2B, гибридное локальное и глобальное внимание, вызов инструментов и поддержка более 140 языков при предобучении. К сильным сторонам относятся компактный размер семейства E2B, мультимодальный ввод и QAT-обучение, направленное на сохранение качества bf16 при снижении требований к памяти в соответствующих QAT-вариантах. Данный репозиторий содержит unquantized QAT-веса, поэтому описанное преимущество снижения памяти нельзя автоматически считать характеристикой этих файлов. Лицензия — Apache 2.0.
Карточка модели marcus230/gemma-4-E4B-it-ultra-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-E4B-it-ultra-uncensored-heretic, поэтому описание составлено по ней. llmfan46/gemma-4-E4B-it-ultra-uncensored-heretic — производная от Google Gemma 4 E4B Instruct мультимодальная модель, дообученная независимым автором. В основе — плотная архитектура Gemma4ForConditionalGeneration с чередованием локального оконного и глобального внимания. Модель рассчитана на диалог, рассуждения, программирование и понимание мультимодальных данных; для варианта E4B заявлено контекстное окно до 128 тыс. токенов. Модель принимает текст и изображения, а семейство E4B также поддерживает аудиовход для распознавания речи и перевода речи в текст. Gemma 4 заявлена как многоязычное семейство с поддержкой более 35 языков; конкретный языковой охват этой производной отдельно не описан. Возможны извлечение текста из документов и изображений, понимание диаграмм и интерфейсов, генерация и исправление кода, суммаризация и диалог. Название uncensored указывает на изменённое поведение отказов, но README не раскрывает точный объём изменений. Карточка предупреждает о возможных предвзятости, фактических ошибках, затруднениях с нюансами языка и сложными открытыми задачами. Модель распространяется по лицензии Apache-2.0.
salamanderDixon/granite-4.1-3b-heretic — производная версия Granite-4.1-3B, созданная методом abliteration: в карточке приведены параметры удаления отказов и сравнение с исходной моделью IBM. Это плотный decoder-only трансформер семейства Granite с 3,4 млрд параметров, предназначенный для диалогов и генерации текста. Метаданные указывают контекст до 131 072 токенов и формат safetensors. Модель подходит для ответов на вопросы, суммаризации, извлечения и классификации текста, RAG, задач с кодом и диалоговых сценариев. Базовая Granite-4.1-3B поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки, а также работу с инструментами. В приведённом сравнении у этой версии 3 отказа из 100 против 88 у исходной модели; снижение отказов может сопровождаться ослаблением защитного поведения. Лицензия — Apache 2.0.
Qwen3-VL-235B-A22B-Instruct-FP8 — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизированная версия Qwen3-VL-235B-A22B-Instruct с мелкозернистой квантизацией и размером блока 128; заявлено, что её показатели почти идентичны исходной версии BF16. Модель предназначена для понимания и генерации текста по текстовым, визуальным и видеоданным. Модель подходит для анализа изображений и видео, OCR, распознавания объектов, пространственного рассуждения, STEM- и математических задач, визуального программирования, генерации Draw.io/HTML/CSS/JS по визуальным материалам, а также для взаимодействия с графическими интерфейсами и инструментами. Она поддерживает контекст длиной 256 тысяч токенов с возможностью расширения до 1 миллиона, обработку длительных видео с временной индексацией и OCR на 32 языках. Среди архитектурных особенностей указаны Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. К сильным сторонам относятся развитое визуальное восприятие, мультимодальное рассуждение, анализ пространственных отношений, работа с длинными документами и видео, а также устойчивый OCR для изображений с низким качеством, наклоном и редкими символами. README не содержит детальных числовых результатов тестов, полного перечня поддерживаемых языков или требований к аппаратному обеспечению. На момент описания Transformers не поддерживает прямую загрузку этих весов; для развёртывания рекомендуются vLLM или SGLang. Модель распространяется по лицензии Apache 2.0.
Droplychee-1.0-27B — мультимодальная модель на архитектуре Qwen3.5 с 27 млрд параметров, разработанная Droplychee AI Research на основе Qwen/Qwen3.6-27B и доработанная полным supervised fine-tuning и слиянием моделей. Она поддерживает входные изображения и текст, а основное назначение по карточке Hugging Face — диалоговое понимание изображений и текста. В README также заявлены следование инструкциям, ответы на вопросы, программирование, рассуждения, перевод, суммаризация, анализ документов и агентные сценарии. Модель ориентирована на английский и бенгальский языки, а README дополнительно заявляет поддержку более чем 40 языков, включая русский; качество может различаться. README указывает контекст до 1 000 000 токенов в зависимости от среды запуска. Модель доступна в формате safetensors и совместима с Transformers. Лицензия — Apache-2.0. Возможные ограничения включают фактические ошибки, галлюцинации, предвзятость и ошибки рассуждения; важные результаты следует проверять. README не приводит независимо подтверждённых результатов бенчмарков.
mewse/gemma-4-26B-A4B-it-qat-q4_0-unquantized-heretic-ara — текстово-визуальная чат-модель на основе Google Gemma 4 26B A4B IT, изменённая автором репозитория как uncensored/abliterated вариант. Она принимает текст и изображения и генерирует текст; подходит для диалогов, анализа изображений и документов, распознавания текста на изображениях, программирования, суммаризации и задач с вызовом инструментов. Базовая Gemma 4 использует гибридное внимание с локальными скользящими окнами и глобальными слоями; для варианта 26B A4B README указывает контекст до 256K токенов и поддержку более 35 языков. Заявленные для семейства возможности аудио относятся к E2B, E4B и 12B, поэтому не приписываются этой модели. Возможны фактические ошибки, предвзятость и трудности с неоднозначными запросами; uncensored/abliterated-модификация может ослаблять встроенные ограничения безопасности. Лицензия — Apache-2.0.
dealignai/GLM-5.3-UNCENSORED-FP8 — многоязычная текстовая генеративная модель, разработанная dealignai на основе JANGQ-AI/GLM-5.3-FP8 и upstream-модели zai-org/GLM-5.3. Это версия с уменьшенным поведением отказа от ответа, полученная прямым изменением весов без дообучения, LoRA, runtime-хуков или prompt-трюков. Модель предназначена для универсальной генерации текста, рассуждений, программирования, агентских и инструментальных сценариев, включая задачи, где требуется минимизация отказов по широкому спектру тематик. Модель использует архитектуру glm_moe_dsa с 753 млрд параметров, 78 слоями и текстовой модальностью. Применяется квантизация FP8; заявлена нативная производительность tensor cores на GPU Hopper, включая H100 и H200. Поддерживаются английский, китайский, русский, сербский, хинди, французский, испанский, арабский, корейский и японский языки. Для рассуждений доступны режимы low и high, однако отключить рассуждение на этом checkpoint нельзя; при больших значениях усилия рассуждения модель может исчерпать лимит токенов внутри блока размышлений и не выдать ответ. Сильными сторонами являются сохранение общей интеллектуальной способности относительно базовой модели, широкая многоязычность, снижение отказов и исправление обнаруженной в предыдущей версии проблемы циклического рассуждения. Ограничения включают чувствительность результата к настройкам reasoning_effort и max_tokens, практические ограничения длины контекста и неполную совместимость некоторых функций ускорения с vLLM. Модель распространяется по лицензии MIT.
Calandracas/gpt-oss-120b-Derestricted-GGUF — это GGUF-квантизированная версия модели gpt-oss-120b-Derestricted, созданная Arli AI на базе открытой весовой модели openai/gpt-oss-120b от OpenAI. Модель предназначена для генерации текста, задач общего назначения, сложного рассуждения и агентских сценариев, включая вызов функций, веб-браузинг, выполнение Python-кода и структурированный вывод. Архитектура исходной модели основана на Mixture-of-Experts: заявлено около 117 млрд параметров, из которых примерно 5,1 млрд активируются при обработке запроса. Модель поддерживает настраиваемый уровень рассуждения — low, medium и high — и обучена работать в формате ответов Harmony, без которого, согласно карточке, она функционирует некорректно. В README не указаны поддерживаемые языки и точный размер контекста. GGUF-формат ориентирован на локальный запуск совместимыми средствами. Ключевая особенность версии Derestricted — удаление значительной части отказов и ограничивающего поведения при сохранении возможностей рассуждения исходной модели. Для этого Arli AI применила метод Norm-Preserving Biprojected Abliteration, направленный на сохранение норм весов и снижение деградации логики по сравнению с обычной abliteration. При этом модель может иногда сохранять склонность к отказам, а снижение встроенных ограничений повышает риски небезопасного или нежелательного использования. Для производственного запуска также требуются значительные вычислительные ресурсы; исходная модель рассчитана на размещение в одной GPU с 80 ГБ памяти. Лицензия — Apache 2.0.
Heretic-org/LFM-2.5-2.6B-heretic — текстовая чат-модель на 2,6 млрд параметров, созданная с помощью Heretic v1.4.0 как «децензурированная» версия LiquidAI/LFM2.5-2.6B. Это плотная причинная языковая модель семейства LFM2 с 30 слоями и контекстом до 131 072 токенов; модель работает с текстом и поддерживает многоязычный ввод и генерацию, включая русский, английский, арабский, китайский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, польский, португальский, испанский, тайский и вьетнамский. Модель предназначена для диалогов, следования инструкциям, работы с инструментами, извлечения данных, RAG и сценариев с длинным контекстом, в том числе локального и периферийного развертывания. В README приведено сравнение с исходной моделью: 4 отказа из 100 запросов против 98 у оригинала при KL-дивергенции 0,0321; это указывает на снижение склонности к отказам, но не доказывает универсальное качество или безопасность. Разработчик исходной модели — Liquid AI; эту производную модель подготовил heretic-org. Указана лицензия «other», поэтому конкретные права и ограничения следует проверять в файлах репозитория и условиях исходной модели.
Карточка модели Alfredofrog/gemma-4-E4B-it-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-E4B-it-uncensored-heretic, поэтому описание составлено по ней. llmfan46/gemma-4-E4B-it-uncensored-heretic — производная модель на основе Google Gemma 4 E4B Instruct, опубликованная независимым автором. Это плотная мультимодальная модель для диалога и генерации текста, понимания изображений и аудио, рассуждений, программирования и вызова инструментов. В карточке заявлены гибридное внимание с локальными скользящими окнами и глобальными слоями, а для базовой модели E4B — контекст до 128 тысяч токенов и поддержка более 35 языков. Модель подходит для чат-ботов, суммаризации и создания текстов, извлечения данных из изображений и документов, распознавания речи и голосовых сценариев. В названии и тегах указано uncensored/abliterated, однако README не описывает конкретные изменения и не приводит отдельные оценки качества именно этой производной версии. Возможны фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Apache-2.0.