I.14Автоматизация процессов и AI-агенты

DIOD-Mistral-0.2 — диалоговая языковая модель на архитектуре Mistral, созданная дообучением OpenHermes-2-Mistral-7B. Для обучения использовался набор пар предпочтений argilla/distilabel-intel-orca-dpo-pairs. Модель предназначена для генерации ответов в диалоге и других сценариев общения с текстовым помощником. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors; в метаданных указаны английский язык и возможность чата. Лицензия — Apache-2.0.

gemma-2-27b-it-IMat-GGUF — это GGUF-квантизированная версия модели Gemma 2 27B Instruction Tuned, разработанной Google. Версия подготовлена пользователем legraphista с помощью llama.cpp и предназначена для локального запуска задач генерации текста и диалогового взаимодействия в совместимых средах, включая llama.cpp. Модель основана на исходной версии google/gemma-2-27b-it с исходным форматом BF16. Доступны варианты от BF16 и FP16 до квантизаций Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и ряда IQ-вариантов размером примерно от 10,45 до 54,46 ГБ. Для ряда вариантов применена IMatrix-квантизация, призванная улучшить сохранение качества при уменьшении размера. README не содержит достоверных сведений о поддерживаемых языках, длине контекста, модальностях помимо текста или конкретных результатах тестирования. Основное преимущество сборки — широкий выбор уровней квантизации для подбора компромисса между качеством, требованиями к памяти и скоростью локального вывода. Ограничения связаны с большими требованиями к ресурсам даже у компактных вариантов, а качество низкобитных версий может отличаться от исходной модели. Для доступа и использования действует лицензия Gemma от Google; на Hugging Face требуется принять условия лицензии.

Gemma 2B — компактная текстовая авторегрессионная языковая модель с архитектурой decoder-only из семейства Gemma, разработанного Google на основе исследований и технологий, использованных для Gemini. Эта версия содержит 2 млрд параметров; доступны открытые веса, а семейство включает предварительно обученные и дообученные для следования инструкциям варианты. Модель предназначена для генерации текста на английском языке: она может отвечать на вопросы, создавать диалоги и черновики, суммировать материалы и помогать в исследовании текстов. Небольшой размер позволяет запускать её на ноутбуке, настольном компьютере или собственной облачной инфраструктуре. Как и другие языковые модели, Gemma может выдавать фактические ошибки, отражать предубеждения обучающих данных и испытывать трудности с неоднозначными формулировками и сложными задачами. Для модели указана лицензия Gemma; применение должно соответствовать политике запрещённого использования Gemma.

Gemma 3n E4B It LM 4bit — версия модели Google Gemma 3n E4B-it, конвертированная сообществом mlx-community в формат MLX с использованием mlx-lm 0.25.2. Модель предназначена для запуска и генерации текста на устройствах и в окружениях, совместимых с MLX, через библиотеку mlx-lm. Модель ориентирована на диалоговую генерацию текста и, судя по заявленным тегам исходной модели, поддерживает сценарии работы с текстом, аудио и видео, включая автоматическое распознавание речи, автоматический перевод речи и преобразование аудио или видео в текст. Обозначение E4B указывает на класс модели примерно в 4 миллиарда параметров, а суффикс 4bit — на 4-битное квантование, уменьшающее требования к памяти. Точные сведения о языках и размере контекста в README не указаны. К сильным сторонам относятся адаптация к MLX, компактное 4-битное представление и поддержка мультимодальных сценариев, заявленная для базовой модели. Ограничения включают возможное снижение точности из-за квантования и отсутствие в README подробных данных о производительности, поддерживаемых языках и фактических требованиях к оборудованию. Для использования требуется принять лицензию Google Gemma на Hugging Face; конкретные условия лицензии gemma следует учитывать отдельно.

Карточка модели abideen/gemma-7b-openhermes на Hugging Face совпадает с карточкой QueryloopAI/gemma-7b-openhermes, поэтому описание составлено по ней. QueryloopAI/gemma-7b-openhermes — диалоговая языковая модель на архитектуре Gemma, дообученная разработчиком на базе google/gemma-7b-it с помощью QLoRA на данных предпочтений OpenHermes-2.5. Модель содержит 8,2 млрд параметров, распространяется в формате Safetensors и рассчитана на генерацию текста и следование инструкциям в формате чата; для диалогового использования следует применять встроенный шаблон чата токенизатора. Модель принимает текстовые запросы, вопросы и документы и генерирует ответы или краткие изложения на английском языке. Указанное контекстное окно — 8192 токена. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение. В README приведены результаты нескольких бенчмарков; они не гарантируют качество на конкретных задачах.

SillyTilly/google-gemma-2-27b-it — диалоговая инструкционная модель семейства Gemma 2, разработанного Google. Это плотная авторегрессионная языковая модель с архитектурой decoder-only и 27,6 млрд параметров; веса доступны в формате safetensors. Модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов и предназначена прежде всего для английского языка. Модель подходит для диалоговых помощников, генерации текстов, ответов на вопросы, суммаризации и рассуждений по текстовому запросу. Её можно запускать на собственном оборудовании или в облачной инфраструктуре; для снижения требований к ресурсам в README описано использование квантования bitsandbytes. Модель может ошибаться в фактах, испытывать трудности с неоднозначными формулировками и сложными задачами, а также воспроизводить смещения из обучающих данных. Лицензия — Gemma; применение должно соответствовать условиям лицензии и политике допустимого использования Gemma.

ggml-org/gpt-oss-120b-GGUF — квантизированная модель для генерации текста в формате GGUF, разработанная на основе openai/gpt-oss-120b. Репозиторий опубликован организацией ggml-org; указанные исходные модели связаны также с nvidia/gpt-oss-120b-Eagle3-v3. Модель предназначена для запуска и использования в инструментах, совместимых с GGUF, включая llama.app. Ключевая известная характеристика модели — размер базовой модели 120B параметров и квантованный формат представления, который может снизить требования к ресурсам по сравнению с полноразмерной версией. README не содержит сведений об архитектуре, поддерживаемых языках, модальностях и размере контекстного окна, поэтому эти параметры нельзя надежно определить. Модель автоматически преобразована с помощью инструментария ggml-org/convert. Это делает её удобной для локального запуска через совместимое программное обеспечение, однако конкретные требования к памяти, производительность и характеристики квантования в README не указаны. Лицензия — Apache-2.0.

Hermes-2-Theta-Llama-3-8B-IMat-GGUF — это квантованная версия языковой модели NousResearch/Hermes-2-Theta-Llama-3-8B, подготовленная пользователем legraphista с помощью llama.cpp. Модель основана на Llama 3 и дообучена на наборе teknium/OpenHermes-2.5. Она предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые инструменты llama.cpp. Модель имеет 8 миллиардов параметров и распространяется в формате GGUF с вариантами квантования от Q2_K и IQ3 до Q8_0, а также в форматах FP16 и BF16. Для ряда вариантов применена IMatrix-квантизация, призванная улучшить сохранение качества при уменьшении размера модели. В README указан английский язык, однако сведения о длине контекста и мультимодальности отсутствуют; по представленным данным модель является текстовой. Основные преимущества — широкий выбор размеров файлов, возможность локального использования и наличие низкобитных вариантов, снижающих требования к памяти. Качество зависит от выбранного уровня квантования: более компактные варианты экономичнее, но могут сильнее уступать исходной модели. Лицензия — Apache-2.0.

Ice0.50.1-16.01-RP — языковая модель на архитектуре Mistral, созданная объединением предварительно обученных моделей с помощью SLERP через mergekit. Репозиторий содержит веса Safetensors; размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Метаданные указывают поддержку диалогового режима и генерации текста. Модель подходит для диалогов и генерации ответов на текстовые запросы. README подтверждает объединение Ice0.40-20.11-RP и IceDrunkenCherryRP-7b-orpo-merged, однако их локальные пути не позволяют определить публичные идентификаторы базовых моделей. Лицензия в предоставленных данных не указана.

K2S3-Mistral-7b-v1.42 — текстовая авторегрессионная модель, разработанная K2S3 и дообученная на базе mistralai/Mistral-7B-v0.1. Это плотная модель семейства Mistral на 7,2 млрд параметров для генерации текста и диалоговых ответов. Модель обучена методом полного SFT на данных alpaca-gpt4-data и части OpenOrca. Она принимает текст и генерирует текст; метаданные указывают контекст до 32 768 токенов и поддержку английского языка. Веса опубликованы в формате safetensors. Модель подходит для ответов на инструкции и вопросов, а также для генерации и продолжения текста на английском языке. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.

Linkbricks-Horizon-AI-Korean-Avengers-V2-27B — языковая модель, дообученная доктором Юнсоном Джи (Saxo), специалистом по данным компании Linkbricks. Это плотная модель Gemma 2 с 27,6 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия; она дообучена методом SFT с последующим DPO на базе Linkbricks-Horizon-AI-Korean-Avengers-V1-27B. Модель ориентирована прежде всего на корейский язык. В обучении использовались корейские новости, данные для перевода между корейским, китайским, английским и японским языками, а также примеры для суммаризации, вопросов и ответов, математики и логических рассуждений. Среди заявленных сценариев — анализ отзывов и публикаций в социальных сетях, написание текстов и кода, решение математических и логических задач. README заявляет контекст 128 тыс. токенов, тогда как метаданные указывают нативное окно 8192 токена. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Её специализация на корейском и расхождение сведений о длине контекста следует учитывать при выборе и развёртывании; заявленные в карточке улучшения не сопровождаются количественными результатами оценки.

ddobokki выпустил инструкционную модель Llama-2-70b-orca-200k на архитектуре LlamaForCausalLM с плотной архитектурой и примерно 68,7 млрд параметров. Она обучена на выборке из 200 тысяч примеров OpenOrca и предназначена для генерации текста по инструкциям и диалога в формате «Human — Assistant». Метаданные указывают английский язык и контекстное окно 4096 токенов; модель распространяется в формате PyTorch. Модель подходит для ответов на вопросы, выполнения текстовых инструкций и диалоговых сценариев на английском языке. Карточка ссылается на отдельные документы с политикой использования и рекомендациями по ответственному применению. Лицензия в предоставленных данных не указана.

notcvnt/Llama-3.1-8B-Instruct-heretic — производная инструктивная версия Meta Llama 3.1, представленная сообществом как «heretic» и «abliterated». По метаданным это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 7,5 млрд параметров, предназначенная для генерации текста и диалогов. Она принимает текст и выдаёт текст; заявленный контекст — до 131 072 токенов. README описывает исходную Llama 3.1 Instruct, а не конкретную версию heretic, поэтому сведения о языках, методе изменения поведения и характеристиках именно этого варианта ограничены. В метаданных указаны языки en, de, fr, it, pt, hi, es и th. Модель подходит для диалогового помощника и генерации текста на поддерживаемых языках. Метки «uncensored» и «abliterated» указывают на изменённый профиль отказов или ограничений, но карточка не раскрывает точную методику и результаты оценки; выходы следует проверять на точность и безопасность. Модель распространяется по лицензии Llama 3.1 Community License (идентификатор лицензии в метаданных — llama3.1); применение регулируется её условиями и Acceptable Use Policy.

Poro 2 8B Base — базовая языковая модель, созданная совместно AMD Silo AI, группой TurkuNLP Университета Турку и High Performance Language Technologies (HPLT). Это плотный авторегрессионный трансформер семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров по метаданным. Модель получена продолжением предобучения Llama 3.1 8B на сбалансированном наборе из 165 млрд токенов на финском и английском языках, а также с данными по коду и математике. Контекст — 8192 токена. Модель предназначена для генерации текста и служит основой для дальнейшей настройки под прикладные сценарии; карточка прямо отмечает, что для большинства применений базовую модель нужно дообучить. По результатам карточки, она заметно улучшает показатели Llama 3.1 8B на финских тестах и сохраняет близкий уровень на английских; также демонстрирует улучшение в переводе между английским и финским. Поддерживаются веса PyTorch и safetensors. Лицензия — Llama 3.1 Community License. Среди ограничений — слабая компетентность в языках, кроме финского и английского, возможные фактические ошибки и предвзятые или неподходящие ответы.

loyal-piano-m7-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и chargoddard/loyal-piano-m7 методом SLERP. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в ответ на инструкции и диалоговые запросы; заявленная длина контекста — 32 768 токенов. Модель принимает текст и выдаёт текст. В тегах карточки указан английский язык, а среди обучающих данных названы наборы для диалогов, суммаризации и ролевого общения. Вес опубликован в формате Safetensors под лицензией Apache-2.0. Карточка не содержит сравнительных оценок качества, поэтому пригодность для конкретных сценариев стоит проверять на собственных данных.

MeliodasPercival_01_Strangemerges_32Alloyingotneoy — объединённая модель генерации текста на архитектуре Mistral, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/Strangemerges_32Alloyingotneoy-7B. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев. Репозиторий содержит веса в формате Safetensors. Модель распространяется по лицензии Apache-2.0. Данных о специализации на конкретных языках или предметных областях нет.

Mergerix-7b-v0.3 — объединённая текстовая модель семейства Mistral, опубликованная MiniMoog. Она создана методом слияния model_stock с помощью LazyMergekit на основе Gille/StrangeMerges_32-7B-slerp, yam-peleg/Experiment26-7B и liminerity/M7-7b; в конфигурации последняя указана как базовая. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста, в том числе диалоговых ответов. Контекст составляет до 32 768 токенов; веса доступны в формате Safetensors. Модель подходит для генерации текста и ведения диалога. Для неё указана лицензия Apache-2.0. README описывает состав и метод слияния, но не приводит оценки качества или конкретных ограничений; результаты могут зависеть от сценария применения.

Meta-Llama-3-70B-Instruct-abliterated-v3.5-IMat-GGUF — это GGUF-квантизированная версия языковой модели Meta-Llama-3-70B-Instruct-abliterated-v3.5, подготовленная legraphista на основе модели failspy. Модель предназначена для генерации текста и диалоговых сценариев с использованием llama.cpp и совместимых инструментов. Модель имеет размер 70 млрд параметров и поставляется в форматах BF16, FP16, Q8_0, Q6_K, Q5_K, Q4_K, IQ4 и других вариантах квантизации. Для ряда вариантов применена IMatrix-квантизация, призванная сохранить качество при уменьшении размера модели. Доступны файлы размером примерно от 26,38 ГБ до 141,12 ГБ; часть крупных вариантов разделена на несколько файлов. README не содержит сведений о длине контекста, поддерживаемых языках или мультимодальности, поэтому модель следует считать текстовой. Сильной стороной является сочетание крупного размера исходной модели с различными уровнями квантизации, позволяющими выбирать баланс между качеством, требованиями к памяти и скоростью инференса. Ограничения связаны с высокими аппаратными требованиями даже для квантизированных вариантов и возможной потерей качества при агрессивной квантизации. Модель распространяется по лицензии llama3; для использования необходимо учитывать условия этой лицензии.

Midnight-Miqu-103B-v1.0 — языковая модель, созданная sophosympatheia методом passthrough-слияния слоёв Midnight-Miqu-70B-v1.0 с самой собой. Это плотная авторегрессионная модель семейства Llama на 102,9 млрд параметров, распространяемая в формате safetensors для Transformers; карточка заявляет контекст до 32 тыс. токенов и возможность диалогового использования. Модель предназначена для генерации текста и ответов в чате с длинным контекстом. В карточке приведены ссылки на отдельные сторонние квантованные сборки GGUF и EXL2; сам репозиторий содержит safetensors. Лицензия указана как other, поэтому условия использования следует сверить с файлами и сведениями лицензии репозитория. README отсылает к карточке базовой Midnight-Miqu-70B-v1.0 за подробностями применения, поэтому конкретные языки, качество и ограничения здесь не уточнены.

Это GGUF-квантизация модели gemma-3-4b-it-abliterated, разработанной mlabonne и подготовленной пользователем bartowski с помощью llama.cpp и метода imatrix. Модель предназначена для локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp, включая диалоговые сценарии и задачи преобразования текста и изображений в текст. Модель содержит около 4 миллиардов параметров и поддерживает мультимодальный режим с обработкой изображений. Для работы с изображениями требуется отдельный файл mmproj в формате F32 или F16. В README не указаны точные языки и размер контекстного окна. Доступны варианты от BF16 и Q8_0 до более компактных Q3- и Q4-квантизаций; рекомендуются Q6_K_L, Q6_K, Q5 и Q4_K_M в зависимости от требований к качеству и объёму памяти. Меньшие варианты подходят для систем с ограниченной оперативной памятью, но могут заметнее уступать по качеству. Формат GGUF упрощает локальный запуск и позволяет выбирать баланс между качеством, размером файла и требованиями к памяти. Ограничения модели, включая возможное снижение качества на низких уровнях квантизации и необходимость отдельного vision-проектора для изображений, следует учитывать при развёртывании. Лицензия указана как gemma; дополнительные условия использования в README не раскрыты.

Moonlight-16B-A3B-Instruct-MXFP4_MOE-GGUF — квантованная в формате GGUF модель Moonlight-16B-A3B-Instruct, опубликованная пользователем noctrex. Это чат-модель для генерации текста и выполнения инструкций на основе архитектуры Mixture-of-Experts; она имеет 16 млрд общих и около 3 млрд активных параметров. Модель предназначена для диалогов и генерации ответов на текстовые запросы. Вариант MXFP4_MOE использует квантование MXFP4 и распространяется в формате GGUF. Сведения о поддерживаемых языках, длине контекста и лицензии в предоставленных данных отсутствуют.

debisoft/mpt-7b-8k-instruct-peft-compatible — версия MPT-7B-Instruct-8k, подготовленная на основе eluzhnica/mpt-7b-8k-instruct-peft-compatible. Модель разработана MosaicML и дообучена для выполнения инструкций, в частности для ответов на вопросы и суммаризации длинных документов. В обучении использовались Dolly HHRLHF и наборы данных для математики, диалогов, вопросов по документам и других задач. Это плотный decoder-only трансформер MPTForCausalLM с 6,7 млрд параметров и 32 слоями. Архитектура использует FlashAttention и ALiBi без позиционных эмбеддингов. Модель предназначена для генерации текста; заявлен контекст 8k токенов в названии и описании исходной модели. Для загрузки через Transformers требуется доверенное выполнение пользовательского кода. Лицензия — CC-BY-SA-3.0. Модель подходит для ответов на вопросы и краткого изложения длинных текстов, однако может выдавать фактически неверные, предвзятые или оскорбительные ответы. README не сообщает о специальной поддержке русского языка; основные обучающие данные описаны как англоязычные.

zelk12/MT1-Max-Merge_02012025163610-MU-gemma-2-MTM2MUMT1g2-9B — объединённая разговорная языковая модель на архитектуре Gemma 2, созданная методом SLERP с помощью mergekit из моделей zelk12/MT1-Gen2-gemma-2-9B и zelk12/MT-Merge2-MU-gemma-2-MTg2MT1g2-9B. Она предназначена для генерации текста и ведения диалогов. Модель содержит 9 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 8192 токенов и представлена в формате safetensors для библиотеки Transformers. В метаданных указана лицензия; её условия следует учитывать при использовании модели.

Mystical-dare7-7b — языковая модель семейства Mistral, созданная mvpmaster путём слияния шести моделей с помощью LazyMergekit. Она предназначена для генерации текста и может использоваться для диалогов, ответов на вопросы и других задач на основе текстовых запросов. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает и генерирует текст. В README и метаданных не указаны целевые языки или специализированные прикладные области. Репозиторий содержит веса в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

neurotic-crown-clown-7B-ties — это объединённая методом TIES (Trim, Elect Sign & Merge) модель семейства Mistral, созданная с помощью mergekit на основе NeuralMonarch-7B, AlphaMonarch-7B и jaskier-7b-dpo-v5.6. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и распространяется в формате safetensors. Модель предназначена для генерации текста и диалогового общения. Её можно применять для ведения беседы, следования инструкциям и рассуждений; базовая NeuralMonarch-7B описана как модель для этих сценариев. Заявленная длина контекста — 32 768 токенов. Основной язык и полный перечень поддерживаемых языков в доступных данных не определены. Модель опубликована под лицензией Apache-2.0. Это слияние нескольких моделей, поэтому качество и поведение могут отличаться от каждой из исходных моделей; количественные оценки качества в карточке не приведены.

Nova 2 Lite — мультимодальная модель Amazon для повседневных задач с упором на скорость, экономичность и рассуждения. Она принимает текст, изображения и видео и генерирует текст.

Open-Instruct Dolly 7B — языковая модель Allen Institute for AI (AI2), полученная дообучением 7-миллиардной LLaMA на наборе инструкций Databricks Dolly 15K. Это плотная авторегрессионная модель семейства LLaMA для генерации текста по инструкциям и диалоговых запросов на английском языке. Модель предназначена для ответов на вопросы, следования инструкциям и решения разнообразных текстовых задач; в карточке также приведены результаты оценок на тестах знаний, математики, рассуждений, понимания вопросов и генерации кода. Размер по метаданным — 6,6 млрд параметров, контекст — 2048 токенов. Репозиторий содержит diff весов, поэтому для использования требуется исходная LLaMA в формате Hugging Face и совместимые веса. Модель выпущена в рамках исследования instruction tuning на открытых ресурсах. Указаны лицензия AI model license из LICENSE.txt и исходная лицензия LLaMA; перед применением необходимо учитывать условия обеих лицензий. Карточка не сообщает подробностей о режимах развёртывания или гарантиях качества.

Polaris-7B-Preview-GGUF — набор GGUF-квантизованных версий языковой модели Polaris-7B-Preview, разработанной POLARIS-Project и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и может использоваться локально в LM Studio, llama.cpp и других проектах на базе llama.cpp. В набор входят полная версия BF16 и варианты квантования Q8_0, Q6_K, Q5_K, Q4_K, IQ4, Q3 и Q2 с размером файлов примерно от 3,55 до 15,24 ГБ. Для квантования применялась llama.cpp версии b5697 и метод imatrix. Данные о точной архитектуре, размере контекста, поддерживаемых языках, модальностях и характеристиках базовой модели в README не указаны. Более высокие уровни квантования обеспечивают лучшее сохранение качества, а компактные варианты подходят для систем с ограниченным объёмом оперативной памяти, но могут заметнее снижать качество генерации. Для работы следует использовать указанный формат приглашений с системным сообщением, пользовательским запросом и ответом ассистента. Модель распространяется по лицензии Apache-2.0.

Карточка модели DdaanZzubb/Qwen2.5-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

hpnyaggerman/Qwen3.5-4B-heretic — мультимодальная модель на базе Qwen3.5-4B, изменённая проектом Heretic с помощью abliteration для снижения частоты отказов. По сравнению с исходной моделью в приведённом тесте число отказов снизилось с 99 до 60 из 100; это не означает полного отсутствия отказов или гарантии поведения в других сценариях. Модель принимает текст и изображения и формирует текстовые ответы; поддерживает диалог и работу с визуальной информацией. Архитектура — плотная Qwen3.5 с 4 млрд параметров, языковой моделью и энкодером изображений; родительская карточка описывает гибридные блоки Gated Delta Networks и внимания. Контекст составляет 262 144 токена с возможностью расширения до 1 010 000 токенов. Модель подходит для диалогов, ответов на вопросы по изображениям, визуального анализа и других мультимодальных запросов. В README заявлена языковая поддержка Qwen3.5 для 201 языка и диалекта, но конкретный перечень языков в предоставленном фрагменте отсутствует. Это дообученная версия Qwen/Qwen3.5-4B-Base, опубликованная в формате safetensors и совместимая с Transformers и рядом движков инференса. Лицензия — Apache-2.0.