I.11Классификация, ранжирование и сопоставление
В разделе собраны самостоятельные задачи, где AI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 736 моделейunsloth/gemma-3-27b-it — мультимодальная инструктивная модель семейства Gemma 3, опубликованная Unsloth на основе Google/gemma-3-27b-it. Это плотная архитектура Gemma 3 с 27 млрд параметров, предназначенная для диалогов и генерации текста по текстовым и визуальным запросам; принимает изображения, отвечает на вопросы о них, а также поддерживает суммаризацию и рассуждения. Контекстное окно составляет 128 тыс. токенов, модель поддерживает более 140 языков; в метаданных карточки указан английский язык. Веса опубликованы в формате safetensors и доступны по лицензии Gemma. Модель подходит для чат-ботов и виртуальных помощников, составления и редактирования текстов, краткого пересказа документов, извлечения сведений из изображений и ответов на вопросы по визуальному содержимому. Карточка описывает базовые возможности Gemma 3 и инструменты Unsloth для дообучения и экспорта, но не приводит сведений об отдельном дообучении именно этой копии. Возможны фактические ошибки, трудности с языковыми нюансами и сложными открытыми задачами; результаты также зависят от обучающих данных и формулировки запроса.
Это мультимодальная модель Gemma 4 E4B, разработанная Google DeepMind и представленная в формате GGUF. Данная версия основана на checkpoint coder3101/gemma-4-E4B-it-qat-q4_0-unquantized-heretic, прошла Quantization-Aware Training и предназначена для запуска через llama.cpp, в том числе на устройствах с ограниченными ресурсами. Модель работает с текстом, изображениями и аудио, поддерживает системные сообщения, нативный вызов функций и настраиваемый режим рассуждений. Архитектура использует гибридное внимание со скользящим окном и глобальным вниманием; модель содержит 42 слоя, размер скользящего окна составляет 512 токенов, а контекстное окно — 131 072 токена. Эффективный объём параметров заявлен на уровне 4,5 млрд при 8 млрд параметров с учётом embeddings. Основные текстовые тензоры представлены в формате Q4_0_PURE, согласованном с QAT-калибровкой; vision/audio projector доступен в вариантах Q8_0 и BF16. Для мультимодального ввода требуется отдельный projector-файл. Особенностью версии heretic является постобработка с помощью Heretic v1.2.0 и метода Arbitrary-Rank Ablation, направленная на подавление отказов при сохранении рассуждений и мультимодальных возможностей. Заявленные показатели отказов являются самоотчётными и не подтверждены независимым тестированием. Использование формата ограничено Q4_0_PURE: стандартные варианты вроде Q4_K_M или Q5_K_M для этой QAT-модели не рекомендуются, поскольку могут ухудшить качество. Модель распространяется по лицензии Gemma; условия определяются официальными условиями Google Gemma.
unsloth/GLM-Z1-9B-0414-GGUF — это GGUF-квантизированная версия модели GLM-Z1-9B-0414, разработанной командой THUDM и подготовленной Unsloth. Модель относится к семейству GLM, предназначена для генерации текста и поддерживает китайский и английский языки. Это компактная модель примерно на 9 млрд параметров, ориентированная на локальный запуск в условиях ограниченных вычислительных ресурсов. Модель обучалась с применением методов cold start и расширенного обучения с подкреплением на задачах математики, программирования и логики. Она рассчитана на диалоговые и общие текстовые задачи, требующие рассуждений, включая математическое решение проблем и выполнение сложных инструкций. Для инференса рекомендуется использовать параметры temperature 0.6, top_p 0.95, top_k 40 и max_new_tokens до 30000; поддерживается принудительный режим рассуждений. Базовый максимальный контекст составляет 8192 токена, а для более длинных входов может применяться YaRN с исходным пределом позиционных эмбеддингов 32768 токенов, что потенциально снижает качество на коротких текстах. Для запуска через llama.cpp требуется включить опцию --jinja. Модель распространяется по лицензии MIT.
Infinity-Instruct-3M-0625-Llama3-8B — языковая модель Beijing Academy of Artificial Intelligence (BAAI), созданная дообучением Llama 3 методом supervised instruction tuning на наборах Infinity-Instruct-3M и Infinity-Instruct-0625. Это плотная авторегрессионная модель семейства Llama примерно с 7,5 млрд параметров, предназначенная для диалогов и следования инструкциям. Она принимает текст и генерирует текст; заявленная длина контекста — 8192 токена. Модель не обучалась с использованием обучения с подкреплением по обратной связи от людей (RLHF), а разработчики сообщают о хороших результатах на AlpacaEval 2.0 и MT-Bench. Модель подходит для многошаговых диалогов, ответов на вопросы, повседневных текстовых задач, а также задач по коду и математике. Карточка указывает англоязычный контекст, поэтому основной подтверждённый язык — английский. Репозиторий распространяется в формате safetensors. В README указана лицензия Apache-2.0 в метаданных, однако там же ресурсы проекта, включая веса, ограничены академическими исследованиями и запрещены для коммерческого использования; это расхождение следует учитывать при применении. Разработчики также предупреждают, что точность ответов не гарантируется.
PlumChat 70b — объединённая языковая модель sequelbox, созданная с помощью mergekit на основе Meta Llama 3.1 70B Instruct и моделей NVIDIA Llama 3.1 Nemotron 70B Instruct HF и ValiantLabs Llama3.1-70B-ShiningValiant2. Она предназначена для диалогов общего назначения, следования инструкциям, научных запросов и сложных вопросов. Модель использует плотную архитектуру LlamaForCausalLM, содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов; карточка указывает английский язык. Веса опубликованы в формате safetensors, библиотека — Transformers. Слияние выполнено методом Della с нормализацией весов. Модель рассчитана на генерацию текста и чат, в том числе на научные и технические темы. Лицензия — Llama 3.1; условия её использования определяются лицензией Meta Llama 3.1.
furiosa-ai публикует предварительно скомпилированную сборку Meta Llama 3.1 8B Instruct для запуска на ускорителе FuriosaAI RNGD с помощью Furiosa-LLM. Это плотный авторегрессионный трансформер с 7,5 млрд параметров, дообученный следовать инструкциям и поддерживать диалоги и вызов инструментов. Модель принимает и генерирует текст; заявленная длина контекста — 131 072 токена. Сборка использует исходную точность 16 бит без квантизации. Вызов функций поддерживается через парсер llama3_json, а модель доступна через OpenAI-совместимый сервер Furiosa-LLM. Карточка указывает совместимость с RNGD; запуск требует соответствующего оборудования и среды Furiosa-LLM. Модель распространяется по лицензии Llama 3.1 Community License. Метаданные карточки перечисляют английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки; перечень может не исчерпывать языковые возможности базовой модели.
casperhansen/llama-3-70b-instruct-awq — это 4-битно квантованная методом AWQ версия Llama 3 70B Instruct, опубликованная пользователем casperhansen на Hugging Face. Базовую модель разработала Meta. Это авторегрессионная языковая модель с оптимизированной архитектурой Transformer и Grouped-Query Attention; она принимает текст и генерирует текст или код, поддерживая диалоговый формат и задачи ассистента. Модель содержит около 70 млрд параметров, использует контекст до 8192 токенов и рассчитана прежде всего на англоязычные коммерческие и исследовательские сценарии: диалог, генерацию текста, ответы на вопросы, программирование и рассуждения. Квантование AWQ уменьшает требования к памяти и делает локальное развертывание более практичным, однако может сопровождаться потерей точности по сравнению с полноразмерной версией. Модель не является мультимодальной и не предназначена для языков, отличных от английского, без дополнительной адаптации. Как и другие LLM, она может выдавать неточные, предвзятые или небезопасные ответы, поэтому требует проверки и дополнительных защитных механизмов. Для использования применяются Transformers, vLLM или SGLang; репозиторий содержит веса в формате Safetensors. Для базовой Llama 3 указана пользовательская коммерческая лицензия Meta Llama 3 Community License и Acceptable Use Policy; использование производной версии следует согласовывать с этими условиями.
Llama3-TenyxChat-70B — чат-модель на базе Llama 3, разработанная Tenyx Research. Модель объёмом 69,5 млрд параметров дообучена методом Direct Preference Optimization (DPO) на наборе предпочтений UltraFeedback с применением фирменного подхода Tenyx к тонкой настройке. Она использует архитектуру LlamaForCausalLM и шаблон чата Llama 3; заявленная длина контекста — 8192 токена. Модель предназначена для диалоговых ответов и работы в роли полезного ассистента: она может помогать с письмом, извлечением сведений, программированием, математическими и STEM-вопросами, а также общими вопросами и рассуждениями. В карточке сообщается о результатах на MT-Bench и других бенчмарках, однако авторы отмечают, что модель может испытывать трудности с рассуждениями и математикой и иногда отвечает слишком многословно. Её специально не настраивали на соответствие предпочтениям безопасности людей, поэтому при провокационных запросах возможны нежелательные ответы. Модель рассчитана на английский язык. Лицензия — Meta Llama 3 Community License.
Это квантованная версия Meta-Llama-3.1-8B-Instruct, разработанной Meta AI и подготовленной сообществом Hugging Quants. Модель предназначена для генерации текста и ведения многоязычных диалогов, включая работу через Transformers, AutoGPTQ и Text Generation Inference. Она подходит для чат-ботов, ассистентов и других сценариев текстового взаимодействия. Модель содержит 8 миллиардов параметров и работает только с текстом на входе и выходе. Исходная модель поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. В данном варианте веса преобразованы из FP16 в INT4 с использованием GPTQ, zero-point quantization и group size 128, что снижает требования к памяти: для загрузки контрольной точки требуется около 4 ГиБ VRAM без учёта KV-кэша и CUDA-графов. К преимуществам относятся уменьшенное потребление видеопамяти и возможность локального запуска с поддержкой распространённых инструментов инференса. Ограничения связаны с потерями, возможными при 4-битном квантовании, отсутствием мультимодальных возможностей и необходимостью дополнительной памяти для KV-кэша и генерации. Модель распространяется по лицензии Llama 3.1; условия исходной лицензии Meta необходимо учитывать при использовании.
solidrust/Mistral-7B-Instruct-v0.3-AWQ — это 4-битно квантованная версия Mistral-7B-Instruct-v0.3, разработанной компанией Mistral AI (mistralai) и опубликованной в формате AWQ пользователем Suparious. Модель представляет собой большую языковую модель с авторегрессионной архитектурой для генерации текста и была дообучена на выполнение инструкций. Модель предназначена для диалоговых сценариев, ответов на запросы пользователей, генерации и обработки текста, а также задач, где требуется следование инструкциям. Базовая версия Mistral-7B-v0.3 получила расширенный словарь размером 32768 токенов, поддержку токенизатора v3 и function calling. README не указывает поддерживаемые языки и размер контекстного окна. Ключевое преимущество версии AWQ — снижение требований к памяти и потенциально высокая скорость инференса при сохранении качества, сопоставимого с распространёнными настройками GPTQ. Ограничением является поддержка преимущественно Linux и Windows с графическими процессорами NVIDIA; для macOS рекомендуется использовать модели в формате GGUF. Для запуска доступны AutoAWQ, vLLM, Text Generation Inference, Transformers и Text Generation WebUI. Модель распространяется по лицензии Apache-2.0.
Mistral-Nemo-Instruct-heretic — модифицированная версия Mistral-Nemo-Instruct-2407, разработанного совместно Mistral AI и NVIDIA. Модель обработана с помощью Heretic v1.4.0 методом directional ablation («abliteration»): целевые изменения внесены в веса выходных проекций attention и down-projection MLP для подавления отказов без дообучения. Базовый размер модели — 12,2 млрд параметров; доступны веса BF16 и квантизованные версии в формате GGUF. Модель предназначена для диалогов, генерации текста, следования инструкциям, сложных рассуждений, приложений с длинным контекстом, roleplay и локального запуска на потребительских GPU или CPU. Заявлена поддержка многоязычных сценариев, при этом в карточке явно указан английский язык. Модель совместима с Transformers, llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang. Доступны квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0 с объёмом файлов примерно от 8,1 до 13,1 ГБ; для контекста требуется дополнительная память. Сильная сторона модели — сохранение основных знаний и возможностей базовой Mistral-Nemo-Instruct-2407 при более прямом следовании запросам и отсутствии встроенного слоя отказов. Ограничение состоит в намеренном подавлении защитного поведения: модель может выполнять потенциально небезопасные запросы, которые базовая версия отклоняет, поэтому её не рекомендуется размещать за незащищённым публичным интерфейсом. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.
NVIDIA-Nemotron-3-Nano-30B-A3B-Base-BF16 — базовая большая языковая модель, обученная NVIDIA с нуля на предсказание следующего токена. Она предназначена для разработчиков и исследователей, которым нужна основа для дообучения под следование инструкциям и создания специализированных ИИ-агентов. Архитектура сочетает Mamba2 и Transformer с экспертами (MoE); модель содержит 30 млрд параметров, принимает и генерирует текст, а в карточке указано окно контекста до 1 млн токенов. Конфигурация Hugging Face по умолчанию использует 256 тыс. токенов из-за требований к видеопамяти. Модель обучалась на коде, математике, научных и общеязыковых данных; NVIDIA приводит поддержку русского и других естественных языков, а также обучение на 43 языках программирования. Заявленные области корпуса включают право, математику, науку и финансы. Для запуска NVIDIA рекомендует GPU-системы, в частности H100-80GB или A100, и NeMo Framework; также перечислены Transformers, vLLM и TRT-LLM. Модель заявлена как готовая к коммерческому использованию, однако метаданные Hugging Face обозначают лицензию как «other», поэтому перед использованием следует проверить условия лицензии в карточке.
Phi-3-Mini-128K-Instruct — компактная языковая модель Microsoft из семейства Phi-3 с плотной архитектурой Phi3ForCausalLM и примерно 3,7 млрд параметров. Она обучена на синтетических и отфильтрованных общедоступных данных, а затем дообучена с учителем и оптимизирована по предпочтениям для следования инструкциям и многоходового диалога. Лицензия — MIT. Модель предназначена для генерации текста на английском языке, диалога, рассуждений, математики и программирования, в том числе в условиях ограниченных вычислительных ресурсов и требований к низкой задержке. README описывает вариант с контекстом до 128 тысяч токенов и улучшения в понимании длинного контекста; однако метаданные указывают native context в 4096 токенов, поэтому заявленную длину 128K следует сверять с используемой конфигурацией и реализацией. Модель ориентирована прежде всего на английский язык и выдаёт текст. Она может ошибаться, а качество и безопасность для конкретных сценариев необходимо оценивать отдельно; карточка не рекомендует полагаться на неё без проверки в высокорисковых применениях.
Qevacot-7B — объединённая языковая модель семейства Qwen2.5, созданная автором репозитория bunnycore с помощью mergekit и метода TIES. В основу слияния взята Qwen/Qwen2.5-7B; также объединены EVA-Qwen2.5-7B-v0.1, T.E-8.1, Qwen2.5-7B-Instruct, Qwen2.5-7B-Instruct-abliterated-v2, Qwen2.5-7B-HyperMix и CoT-2.5. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2 и поддерживает контекст до 131 072 токенов. Она предназначена для генерации текста и диалогов; метаданные также указывают интерфейс для вызова инструментов. Доступна в формате safetensors для Transformers. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает о специальной предметной области или поддерживаемых языках, поэтому область применения следует считать общей, а языковые возможности — неуточнёнными.
dec0dedd выпустил чат-модель Qwen2.5-14B-Instruct-heretic — версию Qwen2.5 Instruct на 14 млрд параметров, обработанную методом abliteration для снижения частоты отказов. По приведённому в карточке сравнению, модель отказала в 5 из 100 тестовых запросов против 98 из 100 у исходной Qwen2.5-14B-Instruct; это измерение относится только к указанному тесту. Архитектура — плотная причинная языковая модель Qwen2 с поддержкой чата. Метаданные указывают контекст до 32 768 токенов; README описывает расширение контекста до 131 072 токенов с YaRN, но предупреждает о возможном ухудшении работы на коротких запросах при статической настройке YaRN. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы, следование инструкциям и создание длинных или структурированных ответов. README базовой Qwen2.5 также отмечает навыки программирования, математики и работу с таблицами, однако отдельные результаты для этой производной модели не приведены. Поддерживаются английский и другие языки Qwen2.5; карточка явно помечает английский. Модель распространяется под лицензией Apache-2.0.
Карточка модели ashphisher/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.
Карточка модели mahrukhsaeed/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.
Карточка модели snacher/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.
Qwen2.5-7B-Instruct-1M — разговорная модель генерации текста из семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалога, ответов на вопросы, работы с длинными документами и другими задачами, где нужно учитывать большой объём контекста. Модель построена на архитектуре Qwen2 с причинно-следственной языковой моделью и 7,1 млрд параметров по метаданным. Карточка семейства указывает на RoPE, SwiGLU, RMSNorm и контекст до 1 010 000 токенов; генерация ограничена 8192 токенами. Модель дообучена на базе Qwen/Qwen2.5-7B, поддерживает чат и интерфейс вызова инструментов. Указанные языковые сведения подтверждают английский, но сами по себе не доказывают поддержку только одного языка. Для работы с контекстом около миллиона токенов README рекомендует специальную сборку vLLM и указывает потребность как минимум в 120 ГБ видеопамяти суммарно для версии 7B. В прежних средах выполнения качество может снижаться на последовательностях длиннее 262 144 токенов. Лицензия — Apache-2.0.
MMOPD/Qwen3-4B-OT3-if — плотная языковая модель Qwen3 с 3,7 млрд параметров, разработанная командой MMOPD как учительская модель для следования инструкциям. Она получена дообучением MMOPD/Qwen3-4B-OT3-2ep методом GRPO на запросах с проверяемыми требованиями к формату и содержанию ответа. Модель поддерживает чат, шаблон Qwen3 и режим рассуждений; длина контекста — 32 768 токенов. Веса представлены в формате Safetensors и хранятся в bfloat16. Модель предназначена для генерации ответов по инструкциям, в том числе с заданными ограничениями на структуру и содержание, а также для задач рассуждения, математики и программирования. В опубликованных оценках она заметно повысила результаты на IFEval и IFBench относительно исходной модели, сохранив сопоставимые показатели на кодовых и математических тестах; README также приводит результаты на медицинских и финансовых наборах, которые не следует считать гарантией качества в прикладных сценариях. Для использования рекомендованы шаблон чата Qwen3, включённое рассуждение и сэмплирование. Лицензия — Apache-2.0.
heretic-org/Qwen3-4B-Thinking-2507-heretic — производная языковая модель команды heretic-org на базе Qwen/Qwen3-4B-Thinking-2507. Это плотная авторегрессионная модель с 3,7 млрд параметров для генерации текста в диалоговом формате; она ориентирована на рассуждения и поддерживает контекст до 262 144 токенов. По карточке, модель прошла abliteration: доля отказов в приведённом тесте снизилась с 99 из 100 у исходной модели до 5 из 100. Модель предназначена для сложных запросов, включая логические задачи, математику, науку и программирование, а также для следования инструкциям, использования инструментов и генерации текста. Базовая модель работает только в режиме рассуждений; сведения в карточке о её возможностях и оценках относятся к Qwen3-4B-Thinking-2507 и не подтверждают, что все результаты сохраняются после изменения. Указаны Transformers, формат safetensors и лицензия Apache-2.0. Языки обучения или поддержки в предоставленных данных не определены.
Qwen3.5-4B-GGUF — это GGUF-представление мультимодальной модели Qwen3.5-4B, разработанной командой Qwen; репозиторий подготовлен с использованием Unsloth. Модель предназначена для задач, объединяющих работу с текстом и изображениями, включая рассуждения, программирование, агентские сценарии и визуальное понимание, а также для локального запуска и дообучения. Модель представляет собой causal language model с vision encoder и содержит около 4 млрд параметров. Архитектура сочетает Gated Delta Networks и разреженную Mixture-of-Experts; заявлены 32 слоя, скрытая размерность 2560 и гибридное сочетание линейного и gated-внимания. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Поддерживается 201 язык и диалект, однако конкретные языковые характеристики GGUF-квантизации в README не уточняются. К сильным сторонам относятся мультимодальность, высокая заявленная эффективность инференса, большой контекст и возможность локального использования. Ограничения связаны с тем, что README не содержит подробностей о конкретном типе и параметрах GGUF-квантизации, системных требованиях, фактической производительности и ограничениях применения; приведённые результаты относятся к базовой Qwen3.5-4B. Модель распространяется по лицензии Apache-2.0.
FadedRedStar/Qwen3.5-4B-heretic-imatrix-GGUF — это квантизированная GGUF-версия мультимодальной модели Qwen3.5-4B-heretic. Базовая модель разработана командой Qwen компании Alibaba, исходные веса подготовлены coder3101, а GGUF-квантизацию с importance matrix выполнил FadedRedStar. Модель предназначена для мультимодального рассуждения, генерации текста, программирования, вызова инструментов и агентских сценариев, включая работу с изображениями при использовании vision-проектора. Модель представляет собой плотный transformer примерно на 4 млрд параметров с интегрированным vision encoder и поддержкой раннего объединения модальностей. Заявлены контекстное окно до 262 144 токенов с возможностью расширения примерно до 1 млн, поддержка 201 языка и диалекта, tool calling и формат запросов ChatML. Основные варианты весов используют квантизации IQ4_NL, Q4_K_M и Q5_K_M, оптимизированные с помощью importance matrix; vision-тензоры доступны в Q8_0 и BF16. Предусмотрены дополнительные MTP-файлы для speculative decoding. Сильной стороной модели является сочетание мультимодальности, большого контекстного окна и относительно низких требований к ресурсам, а importance matrix должна улучшать сохранение качества при низкой разрядности. Существенное ограничение — модель прошла abliteration с подавлением направлений отказа, поэтому её поведение в части отказов отличается от исходной Qwen3.5-4B и может быть менее безопасным. Приведённые показатели отказов и расхождения KL являются самоотчётными и не подтверждены независимым тестированием. Для запуска требуются совместимые с GGUF инструменты, например llama.cpp, а точные возможности зависят от выбранной квантизации и vision-проектора. В метаданных указана лицензия Apache-2.0.
Qwen3.5-9B-DeepSeek-V4-Flash — модель, разработанная Jackrong на базе unsloth/Qwen3.5-9B с использованием дистилляции из DeepSeek-V4. Обучение проводилось на датасете Jackrong/DeepSeek-V4-Distill-8000x в среде Unsloth; в проекте также участвовал инженер Kyle Hessling, предоставивший вычислительную инфраструктуру и занимавшийся тестированием. Модель предназначена для эффективного рассуждения, многошагового решения задач, программирования и агентских сценариев с генерацией действий для инструментов. Ключевая характеристика модели — размер около 9 миллиардов параметров, обеспечивающий более быстрый и менее ресурсоёмкий инференс по сравнению с крупными моделями. README указывает поддержку английского, китайского, корейского, японского, испанского и русского языков, а также заявляет возможности structured reasoning, long chain-of-thought и tool-augmented workflows. При этом точный размер контекста, сведения о полноценной мультимодальности и подробные характеристики архитектуры самой дистиллированной модели не приведены; упомянутые million-token context, DeepSeek Sparse Attention и другие архитектурные особенности относятся к модели-учителю DeepSeek-V4. Модель позиционируется как компактная и эффективная альтернатива для задач рассуждения и локального инференса, однако README описывает раннюю сравнительную оценку, выполненную в формате Q5_K_M, поэтому заявленные преимущества не следует считать универсально подтверждёнными. Лицензия — Apache-2.0.
Карточка модели Taewhoo/qwen3.5-9b-proteomics-rl-step25 на Hugging Face совпадает с карточкой Qwen/Qwen3.5-9B, поэтому описание составлено по ней. Qwen3.5-9B — мультимодальная модель Qwen, разработанная командой Qwen и представленная в формате Hugging Face Transformers. Это дообученная версия Qwen/Qwen3.5-9B-Base: причинная языковая модель с визуальным энкодером, 9 млрд параметров и гибридной архитектурой с Gated Delta Networks и разреженными Mixture-of-Experts. Модель принимает текст и изображения и генерирует текст; поддерживает чат и вызов инструментов. Модель предназначена для диалога, рассуждений, программирования, визуального понимания и агентных сценариев с использованием инструментов. Нативная длина контекста — 262 144 токена, с расширением до 1 010 000; в режиме по умолчанию перед ответом генерируется содержимое рассуждений. В карточке заявлена поддержка 201 языка и диалекта, но список языков в предоставленных данных опущен. В README заявлены высокая эффективность гибридной архитектуры и улучшенные результаты на задачах рассуждения, кода и визуального понимания; независимых оценок в предоставленном тексте недостаточно для проверки этих утверждений. Для длинного контекста могут потребоваться значительные ресурсы, а совместимость и пропускная способность зависят от версии и конфигурации сервера. Лицензия — Apache-2.0.
TeichAI/Qwen3.6-27B-Claude-Opus-Reasoning-Distill — мультимодальная дообученная модель на архитектуре Qwen3.5 с 27 млрд параметров, созданная на базе Qwen/Qwen3.6-27B с использованием набора данных TeichAI/lordx64-claude-opus-4.7-max-cleaned. Она предназначена для программирования, творческого письма, понимания изображений и диалоговых задач общего назначения; метаданные также указывают интерфейс для вызова инструментов и поддержку зрения. Модель принимает текст и изображения и генерирует текст. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0.
Модель ghecko78/Qwen3.6-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled-heretic — текстово дообученная и изменённая с помощью abliteration версия Qwen3.6-35B-A3B, опубликованная на Hugging Face; исходное дообучение выполнил @hesamation. Она предназначена для диалогов с развёрнутыми рассуждениями, программирования, планирования, математических задач и аналитических ответов. Обучение использовало дистилляцию рассуждений, преимущественно полученных от Claude Opus 4.6, а затем модель прошла abliteration, призванную снизить частоту отказов. В основе — мультимодальная MoE-архитектура Qwen3.6 с 35 млрд параметров, из которых активны около 3 млрд; базовая модель принимает изображения, но это дообучение было только текстовым. Контекст базовой модели составляет 262 144 токена с возможностью расширения до 1 010 000. Карточка приводит небольшой сравнительный тест MMLU-Pro, который автор характеризует как предварительную проверку, а не полноценный бенчмарк. Модель распространяется по лицензии Apache-2.0.
ehristoforu/QwenQwen2.5-7B-IT — текстовая инструктивная модель, созданная слиянием весов методом TIES на основе Qwen/Qwen2.5-7B-Instruct. В конфигурации указан один исходный чекпойнт с весом 1, поэтому карточка описывает сборку на его основе без перечисления дополнительных моделей-участников. Модель относится к плотной архитектуре Qwen2ForCausalLM, содержит 7,1 млрд параметров и использует формат safetensors; заявленная длина контекста — 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям, включая структурированные ответы и использование интерфейса вызова инструментов. В качестве сценариев подходят ответы на вопросы, составление и редактирование текста, а также генерация кода на основе запросов. Языки и специализированные предметные области в карточке не обозначены. Лицензия в предоставленных данных не указана.
Qwopus3.6-27B-v2-abliterated — мультимодальная модель для диалога и рассуждений, созданная на основе Jackrong/Qwopus3.6-27B-v2. Автор карточки описывает её как версию Qwen3.5 с гибридной архитектурой: линейное внимание GatedDeltaNet сочетается с полным вниманием, а модель поддерживает обработку изображений. Отказные направления ортогонализированы в матрицах записи остаточного потока на 26-м слое без дообучения; модуль зрения не изменён. В карточке приведены результаты HumanEval pass@1 95,1%, GSM8K 86,0% и MMLU-Pro 83,2%, а также снижение частоты отказов с 100% до 8%. Весовой формат — bf16 Safetensors; многотокенный предсказательный модуль включён для спекулятивного декодирования. Для развёртывания доступны отдельные варианты INT4 и GGUF. Лицензия в предоставленных данных не указана.
Reflection Llama-3.1 70B — языковая модель, созданная Matt Shumer на основе Meta Llama 3.1 70B Instruct с применением метода Reflection-Tuning. Она предназначена для диалогов и генерации текста, в том числе для задач, требующих пошагового рассуждения и исправления ошибок. Модель имеет плотную архитектуру LlamaForCausalLM, содержит около 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Во время генерации модель разделяет ход рассуждения и итоговый ответ специальными токенами; для диалогов используется шаблон Llama 3.1. Карточка описывает обучение на синтетических данных Glaive и рекомендует системный запрос, задающий формат рассуждений и ответа. Доступны веса в формате safetensors; лицензия — Llama 3.1 Community License. Метаданные указывают интерфейс вызова инструментов, но README не приводит оценок его качества. Модель унаследовала языковые возможности базовой модели; конкретный набор языков в предоставленных данных не перечислен.