I.14Автоматизация процессов и AI-агенты

Mistral-Small-22B-ArliAI-RPMax-v1.1-GGUF — это квантизированная версия текстовой генеративной модели ArliAI/Mistral-Small-22B-ArliAI-RPMax-v1.1. Исходную модель разработала ArliAI, а сборку в формате GGUF подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через совместимые инструменты, включая llama.cpp и LM Studio. Модель относится к семейству Mistral и содержит около 22 миллиардов параметров. Доступны версии от F16 до разных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ4_XS, что позволяет выбирать между качеством генерации, потреблением памяти и скоростью инференса. Размер файлов варьируется примерно от 11,7 до 44,5 ГБ. Для некоторых вариантов предусмотрена оптимизация под ARM, включая требования к поддержке sve или i8mm. Рекомендуемый формат prompt — <s> [INST] запрос [/INST]. Сильной стороной сборки является широкий выбор квантизаций, включая варианты с высоким качеством и уменьшенным потреблением памяти, что упрощает локальное развертывание. Ограничения и дополнительные характеристики исходной модели, включая поддерживаемые языки, размер контекста, точную архитектуру, мультимодальность и результаты тестирования, в README не указаны. Модель распространяется по лицензии MRL-0.1; в метаданных она обозначена как license: other.

casperhansen/mixtral-instruct-awq — рабочая версия модели Mixtral Instruct с квантизацией AWQ, опубликованная Casper Hansen. Репозиторий предназначен для использования Mixtral Instruct в квантизированном формате; README не уточняет конкретные прикладные сценарии, поддерживаемые языки, размер контекста или модальности. Ключевая характеристика модели — применение AWQ-квантизации. README не содержит сведений о точной архитектуре, количестве параметров и экспертов, формате запуска, производительности или ограничениях качества после квантизации. Модель распространяется по лицензии Apache-2.0. Указано, что на 11 февраля 2024 года альтернативный репозиторий TheBloke/Mixtral-8x7B-Instruct-v0.1-AWQ не работал, поэтому рекомендуется использовать этот репозиторий.

Это GGUF-квантизированная версия языковой модели Qwen3-14B-abliterated, разработанной mlabonne. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 6,66 до 29,54 ГБ; варианты с более высокой точностью обычно требуют больше памяти, но лучше сохраняют качество, тогда как компактные варианты подходят для систем с ограниченным объёмом RAM. Для общения используется шаблон prompt формата ChatML с ролями system, user и assistant. README не содержит сведений о точной архитектуре, размере контекста, поддерживаемых языках или мультимодальности, поэтому эти характеристики нельзя достоверно указать. Сильной стороной являются разнообразие форматов GGUF и возможность локального запуска; ограничениями выступают неизбежные потери качества при сильной квантизации и зависимость от совместимого программного обеспечения. Указана лицензия Apache-2.0.

Карточка модели unsloth/ModernBERT-base на Hugging Face совпадает с карточкой answerdotai/ModernBERT-base, поэтому описание составлено по ней. ModernBERT-base — двунаправленная encoder-only модель семейства Transformer в стиле BERT, разработанная в сотрудничестве Answer.AI, LightOn и их коллег. Она предварительно обучена на 2 триллионах токенов английских текстов и кода и предназначена для заполнения пропусков в тексте, а также как основа для прикладных задач понимания языка и поиска. Модель содержит 22 слоя и 149 млн параметров, поддерживает контекст до 8192 токенов. В архитектуре используются RoPE, чередование локального и глобального внимания, unpadding и Flash Attention для эффективной обработки длинных последовательностей. Она подходит для анализа длинных документов, классификации, семантического и кодового поиска после настройки под соответствующую задачу. Обучающие данные преимущественно англоязычные и включают код, поэтому качество для других языков может быть ниже. Обработка полного окна контекста может быть медленнее, чем коротких последовательностей; возможны смещения из обучающих данных. Лицензия — Apache-2.0.

Это GGUF-квантизированная версия текстовой генеративной модели Qwen3-14B-ft-limo, разработанной mrm8488 и дополнительно подготовленной в различных вариантах точности пользователем bartowski. Базовая модель связана с датасетом GAIR/LIMO и предназначена для генерации текста, включая запуск локально через llama.cpp, LM Studio и совместимые проекты. Модель имеет размер 14 млрд параметров и поддерживает наборы весов от BF16 до низкоразрядных вариантов Q2–Q8, что позволяет выбирать компромисс между качеством, требованиями к памяти и скоростью работы. Рекомендуемыми указаны варианты Q4_K_M, Q5 и Q6; более компактные версии подходят для систем с ограниченной оперативной памятью, но обеспечивают более низкое качество. Используется шаблон запросов в формате ChatML. Сведения о поддерживаемых языках, максимальном контексте и дополнительных модальностях в README не приведены, поэтому модель следует рассматривать как текстовую. Сильной стороной являются разнообразные варианты квантизации, включая imatrix-квантизацию, позволяющие запускать модель на локальном оборудовании. Ограничения зависят от выбранного формата: уменьшение размера весов может снижать качество генерации, а для запуска требуются совместимые llama.cpp-инструменты и достаточный объём памяти. Указанная лицензия — Apache-2.0.

mayacinka/NeuralZephyr-Beagle-7B — языковая модель для генерации текста, созданная слиянием предварительно обученных моделей с помощью mergekit. В README указаны DARE TIES и модели mlabonne/NeuralBeagle14-7B и HuggingFaceH4/zephyr-7b-alpha; базой слияния служит CultriX/NeuralTrix-7B-dpo. Каталог связывает репозиторий с этой базовой моделью и отмечает её дообучение. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Она предназначена для генерации текста общего назначения; в README приведены результаты Open LLM Leaderboard по задачам рассуждения, понимания текста и математическим вопросам, но эти оценки сами по себе не гарантируют качество на прикладных данных. Репозиторий содержит веса safetensors и использует лицензию Apache-2.0.

Noromaid-7b-v0.1.1-Mistral-7B-Instruct-v0.1 — диалоговая языковая модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и NeverSleep/Noromaid-7b-v0.1.1 методом SLERP. Модель содержит 7,1 млрд параметров, представлена в формате safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста по инструкциям и ведения диалогов. Её можно применять для ответов на вопросы, написания текстов и интерактивных чат-сценариев. Карточка не сообщает специальных предметных областей или перечня поддерживаемых естественных языков. Модель распространяется по лицензии Apache-2.0. Качество ответов и безопасность генерации могут зависеть от запроса; сведений о специальных мерах защиты или оценках качества в карточке нет.

Octen-Embedding-0.6B DirectML ONNX — конвертированное представление модели Octen/Octen-Embedding-0.6B, подготовленное для запуска через ONNX Runtime с DirectML на GPU в Windows. Граф ONNX исправлен для обработки форм тензоров внимания GQA с фиксированными размерами голов: 16 для Q и 8 для K и V. Репозиторий содержит веса FP16, токенизатор Qwen2 и конфигурацию с контекстом до 32 768 токенов. Модель предназначена для получения эмбеддингов и задач поиска по сходству предложений. В README приведены результаты на наборах esp32 и autosar; автор сообщает, что исправление графа сохраняет качество исходного CPU FP16 варианта. Распространяется по лицензии Apache-2.0.

OLMo 2 32B Instruct — англоязычная диалоговая языковая модель AllenAI, опубликованная в марте 2025 года. Репозиторий unsloth содержит версию, дообученную на базе allenai/OLMo-2-0325-32B-Instruct: исходная модель прошла supervised fine-tuning, обучение DPO и RLVR на варианте набора Tülu 3. Архитектура — плотная авторегрессионная OLMo 2 с 31,7 млрд параметров; контекст — 4096 токенов. Модель предназначена для диалогов и выполнения инструкций, а также для решения математических задач и следования заданному формату. README упоминает оценки на MATH, GSM8K и IFEval. Она ориентирована прежде всего на английский язык. Модель распространяется по лицензии Apache 2.0. В README отмечено, что обучение безопасности ограничено: модель может выдавать проблематичные ответы, особенно в ответ на соответствующие запросы. Для практического использования могут потребоваться собственные фильтры вывода.

OLMo-2-1124-13B-Instruct-RLVR1 — англоязычная чат-модель Allen Institute for AI (Ai2), выпущенная в ноябре 2024 года. Это плотная авторегрессионная модель семейства OLMo 2 на 13,2 млрд параметров, работающая с текстом и имеющая контекст до 4096 токенов. Модель доступна в формате safetensors и рассчитана на Transformers. Модель прошла постобучение: supervised fine-tuning на варианте набора Tülu 3, DPO и последующее RLVR-обучение. Она предназначена для диалогов и выполнения разнообразных текстовых инструкций; обучение охватывало, в частности, математические задачи MATH и GSM8K и следование инструкциям IFEval. Лицензия — Apache 2.0. В карточке указано, что безопасность модели обучалась ограниченно; без дополнительной фильтрации она может выдавать проблемные ответы, особенно по соответствующим запросам. README описывает эту версию как постобученную OLMo-2 13B, тогда как метаданные указывают базовой моделью OLMo-2-1124-7B-DPO, поэтому точная цепочка происхождения в источниках расходится.

OLMo-2-1124-13B-RM — англоязычная плотная языковая модель Allen Institute for AI на 13,2 млрд параметров, предназначенная для диалогов и разнообразных задач генерации текста. Это постобученная версия OLMo-2-13B: после контролируемого дообучения на варианте набора Tülu 3 модель прошла DPO-обучение на данных предпочтений. Карточка описывает задачи вроде математики, следования инструкциям и общения. Модель принимает текст и генерирует текст, поддерживает контекст до 4096 токенов и работает через библиотеку Transformers. Модель ориентирована прежде всего на английский язык. Лицензия Apache 2.0 разрешает её использование на условиях этой лицензии. В карточке отмечено, что обучение безопасности ограничено и без дополнительной фильтрации ответы могут содержать проблемный контент.

mychen76/openmixtral-6x7b-v2 — текстовая генеративная модель семейства Mixtral с архитектурой MoE, представленная в формате safetensors. Согласно карточке, это квантизированная версия openmixtral-6x7b-merged_v2, созданной слиянием шести моделей размером 7B. Метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и может применяться для ответов на вопросы, рассуждений и продолжения текстовых запросов. В карточке приведены результаты Open LLM Leaderboard, включая оценки AI2 Reasoning Challenge и HellaSwag. Язык модели отдельно не указан. Репозиторий распространяется по лицензии Apache-2.0.

facebook/opt-iml-30b — модель генерации текста семейства OPT, разработанная Meta и дообученная следовать инструкциям с помощью instruction meta-learning. Она обучалась на наборе OPT-IML Bench, объединяющем около 2000 задач обработки естественного языка из восьми бенчмарков; вариант OPT-IML обучался на 1500 задачах, а OPT-IML-Max — на полном наборе. В карточке указано 39,8 млрд параметров, архитектура OPTForCausalLM и контекст до 2048 токенов. Модель предназначена для генерации текста по инструкциям и выполнения широкого круга языковых задач, представленных в обучающих бенчмарках. Репозиторий содержит веса PyTorch; для ускорения генерации и экономии памяти авторы рекомендуют загружать крупную модель в половинной точности и вызывать generate напрямую. Лицензия отмечена как other. Модель может допускать фактические ошибки, генерировать токсичные формулировки и воспроизводить стереотипы. Результаты требуют проверки человеком; конкретный набор языков в карточке не заявлен.

sahilchachra/orcarouter-Qwen3.8-27B-Uncensored-MXFP8 — это квантизированная версия модели orcarouter/Qwen3.8-27B-Uncensored, созданная пользователем sahilchachra с использованием MLX. Модель основана на Qwen3.8-27B и предназначена для задач генерации текста и обработки изображений с формированием текстовых ответов. Она поддерживает запуск на компьютерах Apple Silicon через mlx-vlm и совместима с LM Studio. Модель относится к vision-language моделям архитектуры qwen3_5. Текстовый блок содержит 64 слоя и сочетает линейное внимание GatedDeltaNet с полноразмерным вниманием, используемым в каждом четвёртом слое; визуальная часть построена на Qwen3-VL. Текстовая часть квантизирована в формате MXFP8 с эффективными 8,381 битами на вес и группами размера 32, тогда как vision tower сохранён в формате bf16. Размер файлов модели составляет около 27 ГБ в 26 сегментах, поэтому для запуска рекомендуется Mac минимум с 32 ГБ оперативной памяти. Это reasoning-модель, которая перед финальным ответом генерирует канал рассуждений. Версия MXFP8 структурно проверена, однако полная генерация токен за токеном на машине с 24 ГБ памяти не тестировалась. В модели отсутствует MTP head, поэтому недоступно speculative decoding; остальные текстовые и визуальные возможности не затронуты. Модель является намеренно uncensored/abliterated-производной и может не отказывать в запросах, которые могла бы отклонить исходная модель, поэтому требует ответственного использования. Распространяется по лицензии Apache-2.0.

el4/Ornith-1.5-35B-A3B-ONYX-GGUF — это квантизированная GGUF-версия модели Ornith-1.5-35B-A3B от ornith-ai, подготовленная в рамках проекта ONYX. Модель предназначена для генерации текста и, судя по заявленным меткам, ориентирована на задачи рассуждений и локальный запуск через llama.cpp или Ollama. Архитектура исходной модели относится к классу Mixture-of-Experts (MoE), однако точные сведения о числе экспертов, активных параметрах, поддерживаемых языках, контекстном окне и мультимодальности в README не указаны. Ключевая особенность сборки — адаптивная квантизация ONYX, учитывающая чувствительность отдельных слоёв, вероятности маршрутизации MoE и масштабы активаций. Это позволяет сильнее сжимать менее востребованные эксперты и лучше сохранять параметры критически важных компонентов. Доступны варианты quality, balanced, compact и mini с ориентировочными размерами от 12 до 24 ГБ и различными типами квантизации, что даёт выбор между качеством, размером и требованиями к памяти. README не содержит сведений о лицензии, результатах бенчмарков или подтверждённых ограничениях качества.

Ornith-Agents-A1-3.7-35B-A3B-dare_ties — мультимодальная диалоговая модель, созданная tepirale слиянием моделей через mergekit по методу DARE TIES. В основе лежит Qwen/Qwen3.6-35B-A3B; также объединены InternScience/Agents-A1 и deepreinforce-ai/Ornith-1.0-35B. Модель рассчитана на диалог и анализ изображений и использует архитектуру Qwen3.5 MoE с генерацией текста по текстовому и визуальному контексту. Веса опубликованы в формате safetensors и имеют тип bfloat16 согласно конфигурации слияния. Метаданные относят модель к задаче image-text-to-text и отмечают возможности chat и vision. Лицензия в предоставленных сведениях не указана.

Orpomis-Prime-7B-it — диалоговая языковая модель, созданная saucam с помощью Mergekit из kaist-ai/mistral-orpo-beta, NousResearch/Hermes-2-Pro-Mistral-7B и mistralai/Mistral-7B-Instruct-v0.2. Это плотная модель семейства Mistral с 7,1 млрд параметров; веса опубликованы в формате safetensors, контекст составляет до 32 768 токенов. Модель предназначена для генерации текста в диалоге и ответов на инструкции. Её можно использовать для чат-ботов, ответов на вопросы и написания текстов по запросу; README показывает запуск через Transformers и шаблон чата. В карточке не заявлена специализация на конкретном языке или предметной области. Качество ответов и поведение могут различаться в зависимости от запроса и параметров генерации; README не приводит результатов оценки. Условия лицензии в предоставленных данных не указаны.

Perception Language Model (PLM) 3B — мультимодальная модель Meta для понимания изображений и видео, представленная в исследовании PerceptionLM: Open-Access Data and Models for Detailed Visual Understanding. Архитектура сочетает визуальный энкодер с языковым декодером на 3 млрд параметров; модель поддерживает диалоговый ввод с изображениями и предназначена для детального визуального анализа, включая пространственные и временные рассуждения. Модель подходит для ответов на вопросы об изображениях и видео, чтения текста на изображениях, анализа диаграмм и графиков, описания сцен и понимания последовательности событий. Авторы сообщают об обучении без дистилляции из проприетарных моделей и о наборе из 2,8 млн примеров с человеческой разметкой для улучшения понимания видео. В карточке приведены результаты на наборах тестов для изображений и видео; они не гарантируют точность на произвольных данных. Репозиторий содержит веса в формате safetensors для использования с Hugging Face Transformers. Лицензия указана как other, поэтому условия использования следует сверить с лицензией в репозитории и материалами проекта.

Phi-3-mini-4k-instruct-GGUF — квантизированная версия инструкционной модели Phi-3-mini-4k-instruct, разработанной Microsoft. Модель предназначена для генерации текста и диалогового взаимодействия по инструкциям, включая применение в локальных и встраиваемых AI-сценариях через GaiaNet. Модель относится к семейству Phi и поставляется в формате GGUF. Она рассчитана на контекст до 4000 токенов, использует шаблон prompt phi-3-chat и поддерживает английский язык. Квантизация выполнена компанией Second State Inc. с использованием llama.cpp b3333. В README не указаны точный размер модели, конкретный вариант квантизации, перечень поддерживаемых модальностей или специализированные показатели качества. Сильными сторонами модели являются инструкционный режим работы, компактный формат GGUF и возможность запуска через совместимую инфраструктуру GaiaNet и llama.cpp. Ограничениями могут быть поддержка только текстовых задач и ограниченный контекст в 4000 токенов; сведения о производительности, качестве на отдельных задачах и системных требованиях отсутствуют. Модель распространяется по лицензии MIT.

PLLuM-4B-chat-2512 — чат-модель семейства PLLuM, разработанная командой HIVE AI на базе Gemma 3 4B. Она продолжает предварительное обучение на польских и английских текстах и дообучена следовать инструкциям и предпочтениям людей. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы, суммаризацию и извлечение информации; её ориентир — польский язык, в том числе задачи для государственного управления. Для работы с внутренними или отраслевыми документами модель можно применять в RAG-сценариях совместно с поиском и хранилищем документов. В README указано, что версия chat выровнена по человеческим предпочтениям и рассчитана на более безопасные и эффективные диалоги; разработчики также сообщают о высоких результатах на польских языковых и административных бенчмарках. Модель распространяется в формате safetensors по лицензии Apache-2.0.

wls04/Qwen2.5-14B-AcaciaWL-Add — диалоговая языковая модель, дообученная разработчиком на базе Qwen/Qwen2.5-14B-Instruct с помощью TRL. Она предназначена для генерации текста и ответов в формате чата; пример карточки показывает запрос с открытым вопросом и генерацию ответа. Модель использует плотную архитектуру Qwen2 и содержит 14 млрд параметров. Она работает с текстом, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors для Transformers. Лицензия в доступных данных не указана.

TheRains/Qwen2.5-14B-Instruct-Q4_K_M-GGUF — это квантизированная версия Qwen2.5-14B-Instruct, преобразованная в формат GGUF разработчиком TheRains с использованием llama.cpp и сервиса GGUF-my-repo от ggml.ai. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp в режиме командной строки или сервера. Модель содержит 14 миллиардов параметров, относится к инструкционно настроенным текстовым моделям и поддерживает английский язык. Квантование Q4_K_M уменьшает требования к памяти по сравнению с полной версией, что делает модель более подходящей для локального запуска на совместимом CPU или GPU. В README указан пример использования с контекстом 2048 токенов, однако это может быть параметром конкретного запуска, а не максимальным контекстом модели. К сильным сторонам относятся локальное выполнение, совместимость с экосистемой llama.cpp и более низкие аппаратные требования благодаря квантизации. Ограничения включают поддержку только текстовой модальности, отсутствие в карточке подробных характеристик качества, языкового охвата и производительности, а также возможные потери точности из-за квантизации. Указана лицензия Apache-2.0; подробности следует уточнять в лицензии исходной модели Qwen2.5-14B-Instruct.

Qwen2.5-1.5B-DeepSeek-R1-Instruct — компактная языковая модель на 1,5 млрд параметров, собранная автором prithivMLmods методом TIES с помощью MergeKit. В качестве основы использована Qwen/Qwen2.5-1.5B-Instruct; в слияние также вошли Qwen/Qwen2.5-1.5B и DeepSeek-R1-Distill-Qwen-1.5B. Модель использует архитектуру Qwen2 и доступна в формате Safetensors для библиотеки Transformers. Модель предназначена для диалогов и генерации текста по инструкциям, в том числе для получения структурированных ответов. Контекст составляет до 32 768 токенов. Карточка не описывает отдельную специализацию по предметной области или конкретный набор поддерживаемых языков. Карточка не приводит оценок качества и подробных ограничений, поэтому пригодность модели для конкретных задач следует проверять отдельно. Лицензия в предоставленных данных не указана.

Qwen2.5-32B — базовая языковая модель компании Qwen, обученная на этапе предварительного обучения. Это плотная авторегрессионная модель семейства Qwen2 с 32 млрд параметров; архитектура использует RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Контекст составляет 131 072 токена. Модель предназначена для дальнейшего дообучения и построения систем генерации текста. Семейство поддерживает более 29 языков, включая английский, китайский, русский, французский, немецкий, японский и арабский. Для этой базовой версии README не рекомендует непосредственное применение в диалогах; для чат-сценариев требуется последующее обучение, например SFT или RLHF. В README также отмечены сильные возможности семейства в следовании инструкциям, коде, математике и генерации структурированных ответов, однако эти улучшения описаны для Qwen2.5 в целом. Модель распространяется под лицензией Apache-2.0. Для работы рекомендуется актуальная версия библиотеки Transformers; версии ниже 4.37.0 могут не распознавать архитектуру qwen2.

Mungert/Qwen2.5-7B-Instruct-1M-GGUF — это GGUF-версия инструкционной языковой модели Qwen2.5-7B, разработанная Mungert на базе Qwen/Qwen2.5-7B. Модель предназначена для генерации текста и диалоговых сценариев, включая запуск на устройствах с ограниченными ресурсами, локальный инференс на CPU и системах с небольшим объёмом GPU-памяти. В названии заявлена поддержка контекста до 1 миллиона токенов, однако подробные характеристики реализации этого контекста в README не приведены. Модель относится к классу текстовых генеративных моделей, имеет около 7 миллиардов параметров и распространяется в формате GGUF. README также описывает ультранизкобитные варианты квантования с динамическим распределением точности IQ-DynamicGate, ориентированные на снижение потребления памяти; приведённые бенчмарки относятся к Llama-3-8B и не подтверждают показатели именно этой модели. В метаданных указан английский язык. Сильная сторона модели — возможность эффективного локального запуска благодаря квантованию и потенциально большому контекстному окну. Ограничения включают возможное снижение точности при низкобитном квантовании, отсутствие подробных данных об архитектуре, фактическом размере контекста и результатах тестирования именно для Qwen2.5-7B-Instruct-1M-GGUF. Лицензия — Apache-2.0.

Карточка модели homeb82784/Qwen2-7B-Instruct-it-v1.0 на Hugging Face совпадает с карточкой homeb82784/Qwen2-7B-Instruct-it-v1.1, поэтому описание составлено по ней. Qwen2-7B-Instruct-it-v1.1 — дообученная чат-модель, разработанная homeb82784 на базе unsloth/qwen2-7b-instruct-bnb-4bit. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для генерации текста в диалоговом формате. В карточке указано, что обучение проводилось с использованием Unsloth и библиотеки Hugging Face TRL. Модель принимает текст и генерирует текст; заявленная длина контекста составляет 32 768 токенов. В метаданных указан английский язык. Модель распространяется в формате Safetensors под лицензией Apache-2.0.

MInAlA/Qwen3-4B-Instruct-2507-DPO-merged — языковая модель на архитектуре Qwen3, дообученная методом Direct Preference Optimization (DPO) на наборе предпочтений argilla/ultrafeedback-binarized-preferences. Она предназначена для диалогов и генерации текста по инструкциям. Модель содержит около 3,7 млрд параметров, принимает текст и поддерживает контекст до 262 144 токенов. Модель основана на Qwen/Qwen3-4B-Instruct-2507 и сохранена в формате safetensors. Карточка не уточняет, какие языки поддерживаются, лицензию и результаты оценки качества; эти сведения здесь не приводятся.

Qwen3-4B-Thinking-2507-GGUF — квантованная в формате GGUF версия языковой модели Qwen3-4B-Thinking-2507, разработанной командой Qwen. Модель предназначена для генерации текста и решения задач, требующих рассуждений, включая диалоговые сценарии, ответы на вопросы и другие применения, поддерживаемые исходной моделью. Модель содержит около 4 миллиардов параметров и относится к текстовым моделям. В README не указаны поддерживаемые языки, максимальная длина контекста, конкретная архитектура, доступные модальности и варианты квантования. Квантование выполнено bartowski на основе релиза llama.cpp b6096, что позволяет использовать модель в совместимом локальном программном обеспечении, включая LM Studio. К сильным сторонам относятся относительно компактный размер и возможность локального запуска благодаря формату GGUF, а также ориентация исходной модели на задачи рассуждений. Ограничения, точные требования к аппаратным ресурсам, качество на конкретных тестах и особенности поведения не описаны. Лицензия в предоставленном README не указана; условия использования следует уточнять на странице исходной модели Qwen3-4B-Thinking-2507.

TheCluster/Qwen3.5-9B-Claude-4.6-HighIQ-INSTRUCT-HERETIC-UNCENSORED-MLX-mxfp8 — модель семейства Qwen3.5, представленная TheCluster. Она конвертирована в формат MLX из DavidAU/Qwen3.5-9B-Claude-4.6-HighIQ-INSTRUCT-HERETIC-UNCENSORED. Модель дообучена на дистиллированных данных Claude 4.6 и предназначена для следования инструкциям в режиме instruct-only; заявлена как uncensored и unrestricted. Модель имеет размер 9B параметров и представлена в квантизации MXFP8 с эффективностью 8,363 бита на вес. Формат MLX ориентирован на запуск в экосистеме Apple. В карточке указана поддержка текстово-визуального сценария image-text-to-text, однако подробности о визуальном энкодере и максимальной длине контекста не приведены. Заявлены языки English, Chinese, Russian, Spanish, French, Italian, Japanese, Korean и ряд других, включая German, Arabic, Turkish, Polish, Ukrainian и Portuguese. По приведённым тестам модель сохраняет или улучшает результаты относительно исходной Qwen3.5-9B на большинстве указанных benchmark’ов, включая ARC, BoolQ, HellaSwag, OBQA, PIQA и Winogrande. Метрика отказов составляет 6 из 100 против 100 из 100 у оригинальной модели, что указывает на существенно менее ограниченное поведение. При этом снижение отказов означает потенциально более слабые защитные ограничения и необходимость дополнительного контроля при использовании. Сведения о длине контекста, производительности, системных требованиях и других ограничениях отсутствуют. Лицензия указана как Apache-2.0; ссылка ведёт на лицензию исходной Qwen3.5-9B.

FreedomAISVR/Qwen3.6-35B-A3B-NVFP4-NoMTP-GGUF — пользовательская квантизированная сборка базовой модели Qwen3.6-35B-A3B от команды Alibaba Qwen в формате GGUF для генерации текста и диалогов. Это MoE-модель с 35 млрд параметров и примерно 3 млрд активных параметров на токен; сборка использует NVIDIA FP4 с эффективной точностью 4,55 бита на вес и удалёнными головами Multi-Token Prediction. Заявлена поддержка контекста до 131 тыс. токенов и многоязычных задач более чем на 100 языках. Сборка предназначена для локального запуска через llama.cpp на NVIDIA Blackwell, включая видеокарты RTX 50-й серии. В README приведены настройки для GPU с 16 ГБ видеопамяти: эксперты MoE размещаются в системной памяти с помощью --cpu-moe, а внимание остаётся на GPU. Удаление MTP-голов освобождает видеопамять для KV-кэша и весов экспертов. Базовая модель поддерживает использование инструментов; карточка этой сборки подтверждает чат-возможности. Модель подходит для локальных чат-ассистентов и генерации текста на многих языках. Ограничения: заявленный формат NVFP4 нацелен на GPU NVIDIA Blackwell и требует совместимых CUDA-ядер; веса занимают около 19,7 ГБ, поэтому 16-гигабайтной видеокарте требуется выгрузка экспертов в оперативную память. Лицензия базовой модели — Apache 2.0; отдельные условия лицензии этой сборки в предоставленных данных не описаны.