I.1Поиск и навигация по информации

llmfan46/Qwen3.6-35B-A3B-uncensored-heretic — мультимодальная чат-модель независимого автора, созданная на основе Qwen/Qwen3.6-35B-A3B. Это вариант с ослабленным отказом на запросы: в карточке приведено сравнение, где доля отказов составляет 10 из 100 против 83 из 100 у исходной модели. Модель предназначена для диалога, анализа изображений и сценариев агентного программирования с вызовом инструментов. Архитектура Qwen3.5 MoE содержит 35 млрд параметров, из которых активируется около 3 млрд; README также описывает языковую модель с визуальным энкодером и 262 144 токена нативного контекста, расширяемого до 1 010 000. Указаны возможности сохранения рассуждений в истории диалога и результаты тестирования MMLU, но эти сведения не гарантируют качество на конкретных задачах. Модель принимает текст и изображения и выдаёт текст. Файлы представлены в формате safetensors, библиотека для работы — Transformers. Лицензия Apache-2.0. Поскольку модель специально снижает число отказов, она может отвечать на запросы, которые исходная модель отклоняет; ответы следует проверять, особенно в чувствительных сценариях.

Arcee-SuperNova-Medius — языковая модель на 14 млрд параметров, разработанная Arcee.ai на архитектуре Qwen2.5-14B-Instruct. Она создана методом дистилляции знаний моделей Qwen2.5-72B-Instruct и Llama-3.1-405B-Instruct с последующим объединением и дообучением на специализированном наборе инструкций EvolKit. Модель предназначена для диалогов и генерации текста: она следует инструкциям и справляется со сложными рассуждениями в компактном формате. Модель подходит для поддержки клиентов, создания контента и технических консультаций, включая помощь с программированием и документацией. Архитектура — плотная авторегрессионная Qwen2, контекст — до 131 072 токенов. Модель принимает текст и генерирует текст; в метаданных также заявлен интерфейс вызова инструментов. Размер 14 млрд параметров рассчитан на более доступное развёртывание по сравнению с крупными моделями, хотя требуются значительные вычислительные ресурсы. Заявленные результаты бенчмарков указывают на сильное следование инструкциям и рассуждения, но не гарантируют качество в конкретном сценарии. Лицензия — Apache-2.0.

airoboros-l2-13b-3.1.1 — экспериментальная инструктивная языковая модель на архитектуре Llama 2, дообученная автором jondurbin на наборе синтетических и других примеров airoboros-3.1. Она предназначена для выполнения инструкций и диалогов в формате чата Llama 2; модель содержит 12,9 млрд параметров и имеет контекстное окно 4096 токенов. Модель подходит для ответов на вопросы по предоставленному контексту, суммаризации, математических задач с формированием MathJSON, извлечения полей из журналов, анонимизации текста, программирования и планирования действий с инструментами. По описанию она сильнее ориентирована на точное следование инструкциям, чем на непринуждённый чат и ролевые диалоги. Для математических ответов автор рекомендует низкую температуру генерации; формат чата должен соответствовать шаблону Llama 2. Это дообученная модель, опубликованная в формате safetensors. В карточке указана лицензия Llama 2. Разработчик описывает её как экспериментальную; результаты могут быть нестабильными, а генерация MathJSON и вызовы функций требуют внешнего разбора и выполнения. Русский язык явно не заявлен.

airoboros-l2-13b-gpt4-2.0 — языковая модель, дообученная Jondurbin на основе Llama 2 с использованием синтетических инструкций, созданных GPT-4 версии 0614. Это плотная авторегрессионная модель на 12,9 млрд параметров с контекстом до 4096 токенов, опубликованная в формате PyTorch. Модель предназначена для диалогов и выполнения инструкций: она отвечает на вопросы, в том числе по предоставленному контексту, помогает с программированием, формирует структурированные ответы и планы для сценариев с инструментами. Карточка описывает настройку формата промпта с метками USER и ASSISTANT; для контекстных вопросов рекомендуются явные разделители источников. Функциональность вызова инструментов требует внешнего механизма, который разбирает и исполняет сгенерированный план. Модель обучена на синтетических данных, поэтому ответы могут содержать ошибки или выдуманные сведения; инструкция «не выдумывай ответ» может помочь в вопросах по контексту, но не гарантирует точность. В карточке указана неоднозначная лицензия для вариантов Llama 2; коммерческие условия следует проверять по лицензии репозитория. Ограничение «только исследования» в README относится к оригинальным Llama-моделям 33B/65B, а не к этому варианту Llama 2.

Карточка модели jondurbin/airoboros-l2-7b-gpt4-m2.0 на Hugging Face совпадает с карточкой jondurbin/airoboros-33b-gpt4-m2.0, поэтому описание составлено по ней. airoboros-33b-gpt4-m2.0 — плотная авторегрессионная языковая модель семейства LLaMA с 32,3 млрд параметров, созданная Джоном Дурбином как дообучение с инструкциями на синтетических примерах Airoboros. Версия m2.0 объединяет набор данных версии 1.4.1 с данными серии 2.0 без дубликатов и категории system; данные серии 2.0 были сгенерированы GPT-4 от 14 июня 2023 года. Модель работает с текстом и предназначена для диалогов и выполнения инструкций. Модель подходит для ответов на вопросы по заданному контексту, помощи с программированием, планирования действий с инструментами и генерации структурированных ответов в JSON или YAML. Для контекстных вопросов README рекомендует явно размечать блоки входных данных и инструкций; автор также предупреждает, что модель может выдумывать ответы, если контекст не содержит нужной информации. Формат диалога использует префикс USER/ASSISTANT и системное описание помощника. Указанное в метаданных ограничение контекста — 2048 токенов. Для версии на 33 млрд параметров README сообщает о QLoRA-дообучении и исследовательском, некоммерческом назначении. Лицензия репозитория — CC BY-NC 4.0, поэтому коммерческое использование не допускается по указанным условиям.

A.X 4.0 — большая языковая модель SK Telecom для понимания корейского языка и применения в корпоративной среде. Репозиторий skt/A.X-4.0 содержит плотную авторегрессионную модель семейства Qwen2, с классом Qwen2ForCausalLM и весами в формате safetensors; README указывает, что модель основана на Qwen2.5 и дополнительно обучена на крупных корейских наборах данных. Метаданные каталога указывают 71,1 млрд параметров, а заявленная длина контекста составляет 131 072 токена. Модель предназначена для диалогов, понимания длинных документов и текстовых задач на корейском языке; интерфейс также поддерживает вызов инструментов. README сообщает о результатах на корейских тестах KMMLU и CLIcK и об экономном использовании токенов при обработке корейского текста. В карточке также упомянута облегчённая версия A.X 4.0 Light, но этот репозиторий содержит основную модель. Для запуска README указывает Transformers версии 4.46.0 или новее; для использования вызова инструментов через vLLM — версии 0.6.4.post1 или новее. Лицензия обозначена как other, поэтому конкретные условия использования следует сверять с лицензией репозитория.

Dans-PersonalityEngine-V1.3.0-12b — дообученная PocketDoc языковая модель на архитектуре Mistral с 12,1 млрд параметров, созданная на базе mistralai/Mistral-Nemo-Base-2407. Модель обучалась на более чем 50 специализированных датасетах и предназначена для диалогов, ролевых сценариев, совместного написания текстов, генерации кода, использования инструментов и сложных рассуждений. Версия 1.3.0 поддерживает десять языков: арабский, китайский, английский, французский, немецкий, хинди, японский, корейский, португальский и испанский. Основной язык — английский; на нём ожидается наилучшее качество. Карточка указывает контекст 32 768 токенов и возможность увеличить его до 131 072 токенов с ухудшенным извлечением информации. Для диалогов модель использует формат DanChat-2. Она распространяется под лицензией Apache-2.0.

puwaer/DeepSeek-V4-Flash-0731-reap-200b-gguf — это GGUF-сборка модели puwaer DeepSeek-V4-Flash-0731-reap-200b, подготовленная для запуска через llama.cpp. Модель предназначена для генерации текста, диалоговых сценариев, рассуждений и задач с вызовом инструментов; встроенный шаблон чата поддерживает режим рассуждений и tool calling в OpenAI-совместимом формате. Это разреженная Mixture-of-Experts-модель с 178 маршрутизируемыми экспертами на слой вместо 256 у базовой версии. Сборка доступна в вариантах MXFP4_MOE, Q3_K_M, IQ3_XXS, Q2_K и IQ1_M размером примерно от 56,36 до 103,85 GiB. Вариант MXFP4_MOE численно идентичен исходному safetensors-чекпойнту, а остальные варианты являются повторной квантизацией уже 4-битных данных и могут заметнее снижать качество. В README подтверждён контекст 4096 токенов для примера запуска; поддерживаемые языки и точный максимальный контекст не указаны. Сильные стороны модели — существенно меньший размер по сравнению с базовой версией на 284B параметров, сохранение высокой точности на ряде тестов и поддержка рассуждений и инструментов. Бенчмарки квантованных вариантов отдельно не проводились, поэтому их качество не измерено. Для запуска рекомендуется полный GPU-offload; самая крупная сборка занимает 103,85 GiB и не помещается на одной видеокарте с 96 GiB памяти. Частичный offload и распределённый запуск не были проверены. Модель распространяется по лицензии MIT.

Falcon-H1-34B-Instruct — многоязычная инструктивная языковая модель, разработанная Technology Innovation Institute (TII). Это плотная авторегрессионная модель с гибридной архитектурой Transformers и Mamba; для работы доступны Transformers, vLLM и llama.cpp. Модель предназначена для диалогов и генерации текста, включая задачи рассуждения и ответы на инструкции. Модель содержит 29,6 млрд параметров и поддерживает контекст длиной до 262 144 токенов. В метаданных перечислены арабский, чешский, немецкий, английский, испанский, французский, хинди, итальянский, японский, корейский, нидерландский, польский, португальский, румынский, русский, шведский, урду и китайский языки. В README приведены результаты сравнительной оценки на нескольких наборах задач, но они не гарантируют одинакового качества для всех языков и сценариев. Модель дообучена на базе tiiuae/Falcon-H1-34B-Base; лицензия — Falcon-LLM License, обозначенная в метаданных как other, поэтому перед использованием следует проверить её условия.

google/gemma-3-4b-it-qat-int4-unquantized — мультимодальная диалоговая модель Google из семейства Gemma 3, основанная на Gemma 3 4B IT. Она принимает текст и изображения и генерирует текст; поддерживает чат, ответы на вопросы по изображениям, суммаризацию и другие задачи генерации текста. Семейство Gemma 3 рассчитано на контекст до 128 тыс. токенов и поддерживает более 140 языков. В репозитории указаны веса safetensors и лицензия Gemma. Модель подходит для чат-ботов, виртуальных помощников, создания и редактирования текстов, извлечения сведений из изображений и изучения больших текстовых материалов. Компактный размер семейства позволяет развёртывание на локальных компьютерах и собственной облачной инфраструктуре. Ответы могут содержать фактические ошибки, отражать предвзятость обучающих данных и хуже справляться с неоднозначными формулировками и сложными открытыми задачами; для приложений с пользовательским контентом необходимы подходящие меры безопасности.

Gemma 4 12B JANG4M CRACK — мультимодальная модель на основе Google Gemma 4 12B IT, опубликованная dealignai. Это дообученная и квантизованная версия с плотной унифицированной архитектурой для обработки текста и изображений; в README также заявлена поддержка аудиовхода. Модель предназначена для диалогов, ответов на вопросы, многошаговых рассуждений, генерации кода и работы с визуальными входами. Квантизация JANG_4M использует 8-битные веса для attention и 4-битные для MLP. Авторы сообщают о сохранении возможностей базовой модели, включая vision и audio, и приводят результаты собственных проверок MMLU и HarmBench. Метаданные указывают библиотеку MLX и формат safetensors; для запуска README требует Apple Silicon и vMLX с поддержкой Gemma 4. Модель описана как abliterated: авторы заявляют об удалении отказов и высокой доле выполнения запросов из категорий HarmBench. Это важное ограничение для сценариев, где требуется безопасное ограничение ответов. Лицензия — Gemma; авторы указывают исследовательское назначение и возлагают на пользователей ответственность за соблюдение применимых законов.

Mungert/gpt-oss-20b-heretic-GGUF — это GGUF-версия декензурированной модели OpenAI gpt-oss-20b, созданная пользователем Mungert с применением Heretic v1.0.0 и преобразованная с помощью llama.cpp. Модель предназначена для генерации текста, локального запуска и специализированных сценариев, включая задачи рассуждения, разработку и агентские приложения, поддерживаемые исходной моделью. Для корректной работы требуется формат ответов Harmony. Исходная gpt-oss-20b имеет архитектуру Mixture of Experts: около 21 млрд параметров, из которых примерно 3,6 млрд активны при обработке запроса. Модель выпускается в формате GGUF; автор также применяет специальное повышение точности отдельных слоёв при квантовании, что может улучшать качество при увеличении размера файла. Доступны настраиваемые уровни усилий рассуждения, а исходная модель поддерживает вызов функций, веб-навигацию, выполнение Python-кода и структурированные ответы. Языки и размер контекста в предоставленных данных не указаны. Главная особенность этой версии — снижение склонности к отказам: в приведённом сравнении модель отказалась в 58 из 100 случаев против 100 из 100 у исходной модели, однако это сопровождается отличием от оригинала, измеренным KL-дивергенцией 0,96. Лицензия Apache 2.0 допускает свободное использование, модификацию и коммерческое развёртывание. Показатели качества, безопасность декензурированной версии и совместимость конкретных квантов зависят от выбранного GGUF-файла и требуют самостоятельной проверки.

Ling-3.0-tiny — компактная гибридная языковая модель для диалогов, рассуждений и агентных задач; разработчик в предоставленной карточке не назван. Модель использует архитектуру MoE с чередованием слоёв KDA и MLA: на каждый токен активируется часть экспертов. README сообщает о 7,9 млрд параметров всего и 1,3 млрд активных на токен, тогда как метаданные Hugging Face указывают 977,5 млн параметров, поэтому размер модели в источниках расходится. Метаданные указывают контекст 131 072 токена и формат safetensors; карточка также описывает варианты весов BF16, FP8 и INT4. Модель предназначена для локального и ресурсно-ограниченного запуска, ответов на инструкции, программирования, математических и научных рассуждений, понимания длинного контекста и агентных сценариев. Режим пошагового рассуждения можно включать для сложных запросов. README приводит результаты собственных оценок и примеры запуска на отдельных устройствах, но они не гарантируют такую же скорость или качество на другом оборудовании. Лицензия по метаданным — MIT.

Llama3.1-Typhoon2-70B-Instruct — большая языковая модель с 69,5 млрд параметров, разработанная Typhoon AI на основе Llama 3.1 70B. Это плотная авторегрессионная модель семейства Llama для генерации текста и диалогов по инструкциям; карточка также указывает интерфейс вызова инструментов. Репозиторий содержит веса в формате safetensors. Модель рассчитана прежде всего на тайский и английский языки. Она подходит для ответов на вопросы и выполнения инструкций, диалогов, вызова функций, а также задач программирования и математики. Метаданные указывают контекст до 131 072 токенов, тогда как README заявляет 90 тысяч токенов. В сравнительных оценках карточки приведены результаты для следования инструкциям, переключения между тайским и английским, вызова функций, математики и кода. Модель находится в разработке и может выдавать неточные, предвзятые или нежелательные ответы, несмотря на встроенные ограничения. Для использования применяются условия Llama 3.1 Community License; перед внедрением следует проверить соответствие её условий своему сценарию.

mlx-community/Llama-3.3-70B-Instruct-8bit — 8-битная версия инструкционно настроенной большой языковой модели Llama 3.3 70B, разработанной Meta и адаптированной сообществом mlx-community для экосистемы MLX. Модель предназначена для генерации и понимания текста, диалоговых сценариев, ответов на вопросы, суммаризации, обработки инструкций и других задач, выполняемых языковыми моделями. По названию модели можно заключить, что она использует 8-битное представление весов, однако точные сведения о формате квантования и требованиях к оборудованию в README не указаны. В заявленных языках присутствуют английский, французский, итальянский, португальский, хинди, испанский, тайский и немецкий. Модель является текстовой; сведения о поддержке изображений или других модальностей отсутствуют. Размер базовой модели составляет 70 миллиардов параметров, но длина контекста и другие архитектурные характеристики в предоставленных данных не указаны. Большой размер и инструкционная настройка предполагают высокое качество в сложных языковых и диалоговых задачах, тогда как 8-битное представление может снизить требования к памяти по сравнению с полноразмерными весами. Ограничения включают возможные ошибки и непредсказуемость генерируемых ответов, а также отсутствие подтверждённых в README характеристик производительности. Модель распространяется по Llama 3.3 Community License от Meta. При распространении материалов или производных продуктов необходимо соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Llama» и сохранение установленного уведомления об авторских правах. Также требуется соблюдать применимое законодательство и Acceptable Use Policy; для продуктов и сервисов с более чем 700 миллионами ежемесячных активных пользователей предусмотрено получение отдельной лицензии от Meta.

Llama-3.3-70B-Instruct-abliterated-GGUF — квантизированная GGUF-версия инструкционной языковой модели Llama 3.3 с заявленным размером 70 млрд параметров. Модель подготовлена и опубликована bartowski, а исходная модель разработана Meta. Она предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая ответы на вопросы, написание и преобразование текста, а также другие задачи обработки естественного языка. В метаданных указаны языки английский, французский, итальянский, португальский, хинди, испанский, тайский и немецкий. Модель работает только с текстом; сведения о поддерживаемых модальностях, архитектуре в деталях и размере контекста в предоставленных данных отсутствуют. Формат GGUF ориентирован на локальный запуск в совместимом программном обеспечении, а квантизация может снизить требования к памяти по сравнению с полной версией, но конкретный вариант квантизации в README не указан. Суффикс «abliterated» указывает на модифицированную версию, однако подробности изменений, их влияние на качество и безопасность, а также результаты тестирования не приведены. Поэтому характеристики точности, устойчивости и ограничения модели следует проверять отдельно. Распространение и использование основаны на Llama 3.3 Community License от Meta с требованиями по соблюдению Acceptable Use Policy, включению текста лицензии и атрибуции «Built with Llama» при распространении материалов или производных продуктов; для организаций с более чем 700 миллионами ежемесячных пользователей предусмотрено отдельное лицензионное условие.

Карточка модели NarsAI/mini-2.0 на Hugging Face совпадает с карточкой inclusionAI/Ling-mini-2.0, поэтому описание составлено по ней. Ling-mini-2.0 — компактная разговорная языковая модель семейства Ling 2.0 от inclusionAI, предназначенная для генерации текста, следования инструкциям и решения задач на рассуждение. Это дообученная версия Ling-mini-base-2.0; по метаданным, она использует архитектуру Bailing MoE для причинного языкового моделирования и содержит 1,2 млрд параметров. README описывает семейство Ling-mini-2.0 как разреженную MoE-модель с 16,26 млрд параметров всего и примерно 1,43 млрд активных на токен, обученную на более чем 20 трлн токенов с многоэтапной настройкой и обучением с подкреплением. Модель подходит для диалоговых приложений, сложных рассуждений, математики, программирования и ответов на вопросы, а также предоставляет интерфейс вызова инструментов. Метаданные указывают контекст 32 768 токенов; README сообщает о расширении до 128K с YaRN. Разработчик заявляет о высокой скорости генерации и сильных результатах на тестах рассуждения, однако приведённые показатели зависят от оборудования и режима развёртывания. Веса доступны в формате safetensors, библиотека — Transformers; лицензия MIT.

MiniCPM5-2B — компактная плотная языковая модель из серии MiniCPM5, разработанная OpenBMB. Репозиторий AIArchiveInfo является побитовой копией openbmb/MiniCPM5-2B: веса не обучались и не изменялись. Модель построена на архитектуре Transformer LlamaForCausalLM и содержит около 2,2 млрд параметров; она принимает текст и генерирует текст. Контекстное окно составляет 131 072 токена. Модель предназначена для локальных ассистентов и сценариев с ограниченными вычислительными ресурсами. Она подходит для диалога, генерации кода, математических и общих рассуждений, работы с длинными контекстами, вызова инструментов и агентных рабочих процессов. В карточке заявлена конкурентоспособность среди моделей сопоставимого размера, в частности в коде, математике, длинном контексте и использовании инструментов. В метаданных указаны английский и китайский языки. Модель распространяется в формате Safetensors и совместима с Transformers; лицензия — Apache-2.0. Ответы могут быть неточными, предвзятыми или оскорбительными, а результаты по медицине, финансам, праву и другим чувствительным темам не являются профессиональной консультацией.

EnlistedGhost/Ministral-3-8B-Reasoning-2512-GGUF — это конвертированная и квантованная версия Ministral-3-8B-Reasoning-2512-BF16, первоначально разработанной MistralAI. Модель распространяется в формате GGUF и предназначена для запуска через Ollama и llama.cpp. Модель ориентирована на диалоговые задачи, рассуждения и работу с текстом и изображениями. Она поддерживает мультимодальный сценарий image-text-to-text, включая чтение изображений, а также многоязычную работу с английским, французским, испанским, немецким, итальянским, португальским, нидерландским, китайским, японским, корейским, арабским и русским языками. Заявлен размер 8B параметров; точная длина контекста базовой модели не указана, но шаблон чата предусматривает скользящее окно примерно из 46 взаимодействий. К сильным сторонам относятся совместимость с Ollama и llama.cpp, наличие vision-проекторов для мультимодальной обработки и несколько вариантов квантования, позволяющих выбирать компромисс между качеством и требованиями к ресурсам. Ограничением является отмеченная автором проблема с шаблоном чата: при загрузке с Hugging Face он может некорректно активировать теги рассуждений. Модель выпущена под лицензией Apache-2.0.

Это текстовая конверсия Mistral Small 3.1 Instruct 24B в формат Hugging Face Transformers, опубликованная пользователем mrfakename. Репозиторий содержит только текстовую часть исходной модели и не поддерживает обработку изображений. Модель предназначена для диалогов и генерации текста по инструкциям. Она использует плотную архитектуру MistralForCausalLM, содержит 23,4 млрд параметров и имеет контекст длиной 32 768 токенов. Для хранения весов используется safetensors; модель доступна по лицензии Apache-2.0. Возможности и ограничения конверсии зависят от текстовой части исходной Mistral Small 3.1 Instruct 24B: этот репозиторий не подходит для задач с изображениями. README не приводит отдельной информации о поддерживаемых языках.

Карточка модели Fbjfhvgv/Qwen3-0.6B на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B, поэтому описание составлено по ней. Qwen3-0.6B — компактная плотная каузальная языковая модель семейства Qwen3, разработанная командой Qwen. Она содержит около 508 млн параметров и поддерживает контекст до 40 960 токенов по метаданным Hugging Face. Модель прошла предварительное обучение и последующее дообучение на основе Qwen/Qwen3-0.6B-Base; распространяется в формате Safetensors и использует библиотеку Transformers. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, генерации кода, перевода и работы с инструментами. Qwen3 поддерживает более 100 языков и диалектов и может переключаться между режимами рассуждения и обычного диалога. Компактный размер облегчает использование в сценариях с ограниченными вычислительными ресурсами, хотя качество и устойчивость могут уступать более крупным моделям. README рекомендует настраивать параметры генерации при появлении повторов. Лицензия — Apache 2.0.

Карточка модели huuhyj/Qwen3-0.6B на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B, поэтому описание составлено по ней. Qwen3-0.6B — компактная плотная каузальная языковая модель семейства Qwen3, разработанная командой Qwen. Она содержит около 508 млн параметров и поддерживает контекст до 40 960 токенов по метаданным Hugging Face. Модель прошла предварительное обучение и последующее дообучение на основе Qwen/Qwen3-0.6B-Base; распространяется в формате Safetensors и использует библиотеку Transformers. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, генерации кода, перевода и работы с инструментами. Qwen3 поддерживает более 100 языков и диалектов и может переключаться между режимами рассуждения и обычного диалога. Компактный размер облегчает использование в сценариях с ограниченными вычислительными ресурсами, хотя качество и устойчивость могут уступать более крупным моделям. README рекомендует настраивать параметры генерации при появлении повторов. Лицензия — Apache 2.0.

Карточка модели ripgermany/Qwen3-0.6B на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B, поэтому описание составлено по ней. Qwen3-0.6B — компактная плотная каузальная языковая модель семейства Qwen3, разработанная командой Qwen. Она содержит около 508 млн параметров и поддерживает контекст до 40 960 токенов по метаданным Hugging Face. Модель прошла предварительное обучение и последующее дообучение на основе Qwen/Qwen3-0.6B-Base; распространяется в формате Safetensors и использует библиотеку Transformers. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, генерации кода, перевода и работы с инструментами. Qwen3 поддерживает более 100 языков и диалектов и может переключаться между режимами рассуждения и обычного диалога. Компактный размер облегчает использование в сценариях с ограниченными вычислительными ресурсами, хотя качество и устойчивость могут уступать более крупным моделям. README рекомендует настраивать параметры генерации при появлении повторов. Лицензия — Apache 2.0.

Qwen3.5-99B — текстовая версия модели Qwen3.5-122B-A10B, подготовленная 0xSero методом REAP (Routing-Enhanced Activation Pruning). Из модели с архитектурой MoE удалено 20% наименее активных экспертов; итоговый чекпойнт содержит 99 млрд параметров и распространяется в формате BF16. В метаданных указаны Transformers и возможность диалогового взаимодействия. Модель предназначена для генерации текста и диалогов, включая программирование, ответы на вопросы и рассуждения. README приводит результаты бенчмарков для генерации кода и общих задач на знания и рассуждения; согласно карточке, после удаления экспертов сохранено в среднем 97,9% измеренных возможностей. Это текстовый чекпойнт: для запуска в vLLM README рекомендует флаг --language-model-only и задаёт контекст до 8192 токенов в примере команды. Базовая модель Qwen3.5-122B-A10B мультимодальна, но данная версия не предназначена для обработки изображений. Модель опубликована под лицензией other; конкретные условия использования следует проверять в сведениях о лицензии репозитория. Для обслуживания требуется значительный объём вычислительных ресурсов; README приводит конфигурацию vLLM с четырьмя GPU и экспертным параллелизмом. Бенчмарки в карточке не гарантируют аналогичных результатов на произвольных задачах.

Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED-FP8-vLLM — это FP8-квантизированная версия модели DavidAU/Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED, созданная kanocz для инференса в vLLM. Модель основана на архитектуре Qwen3.5 и представляет собой результат последовательной дообученной линейки с базой Qwen/Qwen3.5-9B, uncensored fine-tune и дистилляцией рассуждений в стиле Claude 4.6. Формат распространения — Apache 2.0. Модель предназначена для генерации текста, задач с рассуждениями и поддерживает режим thinking с парсером qwen3, вызов инструментов и мультимодальную работу с изображениями. Заявлена поддержка контекста до 262 144 токенов. README не указывает перечень поддерживаемых языков, поэтому языковые возможности отдельно не уточняются. Используется блочная динамическая квантизация FP8 E4M3 с размером блока 128×128; квантизировано 200 слоёв, а 560 компонентов, включая embeddings, norms, vision encoder, lm_head и специфичные для DeltaNet слои, сохранены в исходной точности. Размер весов составляет около 11,3 ГБ против примерно 19 ГБ в BF16. На RTX 3090 заявлена работа через Marlin kernel, а на Ada/Hopper — с native FP8; совместимость с vLLM протестирована. FP8 KV cache позволяет дополнительно экономить память. Ограничения включают зависимость от vLLM для проверенного сценария, отсутствие поддержки llama.cpp и отсутствие валидации в SGLang; для полной конфигурации на RTX 3090 требуется около 22,5 ГБ из 24 ГБ видеопамяти.

Qwen3.6-27B-DSV4Pro-Thinking-Distill — текстовая dense-модель, разработанная автором nerkyor на базе Qwen/Qwen3.6-27B. Она создана методом LoRA-дистилляции стиля рассуждений и агентного поведения DeepSeek-V4-Pro с включённым режимом thinking. Модель предназначена для локального использования, сложных задач рассуждения, программирования, многошагового решения задач и сценариев с вызовом инструментов, включая Lynn Agent. Модель содержит 27 млрд параметров и использует гибридную архитектуру Gated DeltaNet с linear/full-attention, 64 слоями и native MTP для ускорения генерации в однопоточном режиме. Поддерживаются английский и китайский языки; заявленная модальность — текстовая. В обучении использовались около 1842 дистиллированных образцов с многошаговым reasoning и ReAct-подобными вызовами инструментов. В описании упоминается оценивание с контекстом 32K, но точный максимальный размер контекста модели не указан. Сильные стороны — улучшение сложного reasoning относительно исходной Qwen3.6-27B, отсутствие незавершённых пустых ответов в заявленном тесте GPQA, а также сохранение или небольшое улучшение результатов по MMLU и coding-100. Ограничения состоят в том, что дистилляция передаёт прежде всего стиль рассуждения и способы вызова инструментов, а не новые знания или более высокий предел возможностей; симулированные результаты инструментов в обучающих данных не являются реальным выполнением. Часть агентной оценки субъективна, а приведённые результаты относятся к конкретному тестовому стенду и квантованным вариантам. Лицензия — Apache-2.0.

btbtyler09/Qwen3.6-27B-GPTQ-4bit — квантизированная версия Qwen/Qwen3.6-27B, разработанная пользователем btbtyler09. Это плотная мультимодальная модель примерно на 27 млрд параметров для работы с текстом и изображениями, включая понимание изображений, генерацию текста и сценарии серверного инференса. Модель совместима с Transformers и ориентирована на использование через vLLM. Архитектура включает 64 слоя: 48 слоёв линейного внимания GatedDeltaNet и 16 слоёв полного внимания, а также полный vision encoder на базе ViT и модуль MTP для speculative decoding. Контекстное окно составляет 262 144 токена. Текстовый декодер квантизирован в INT4 методом GPTQ с компенсацией ошибок FOEM; vision encoder, MTP, эмбеддинги, нормы и LM head сохранены в BF16 или FP16. Размер модели составляет около 21 ГБ вместо примерно 50 ГБ у исходной BF16-версии. Сильной стороной является существенное сокращение требований к хранению и памяти при сохранении мультимодальности и заявленном снижении деградации perplexity: до +1,95% относительно BF16 на wikitext-2-raw-v1, против +8,45% у обычного GPTQ 4-bit. К ограничениям относятся необходимость подходящей аппаратной конфигурации для полного контекста и потенциальные проблемы совместимости с некоторыми версиями vLLM, для которых в README указан обходной патч. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-NVFP4-W4A16-MLP-GGUF — это квантованная GGUF-версия модели Qwen/Qwen3.8-27B, опубликованная axiomofmind. Модель предназначена для запуска через llama.cpp и поддерживает текстовые сценарии, а при подключении отдельного vision-проектора mmproj-Qwen3.8-27B-BF16.gguf — обработку изображений. Объём модели составляет 27B параметров; языки и максимальный размер контекста в README не указаны. Доступны два варианта: версия объёмом 30,06 ГБ с attention в BF16/F32, ориентированная на максимальное сохранение точности, и компактная версия объёмом 23,29 ГБ с attention в Q8_0, рассчитанная на снижение требований к VRAM и ускорение загрузки. В обеих версиях MLP-слои 64-слойного backbone используют NVFP4 W4A16, тогда как эмбеддинги, выходная голова, MTP/NextN-компоненты и vision-компоненты сохраняются в более высокой точности. Поддерживаются встроенное MTP и опциональное speculative decoding с DFlash 2; для работы требуется свежая CUDA-сборка llama.cpp с поддержкой NVFP4 и Qwen3.8. Ограничениями являются значительные требования к видеопамяти, зависимость от совместимой версии llama.cpp и потенциальная потеря точности из-за квантования. Лицензия — Apache 2.0.

Qwen3-VL-2B-Instruct-1M-GGUF — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen и представленная в формате GGUF с динамической квантизацией Unsloth Dynamic 2.0. Репозиторий основан на Qwen3-VL-2B-Instruct и предназначен для запуска и инференса через совместимые инструменты, включая llama.cpp и Transformers. Модель принимает текст и изображения, а также ориентирована на понимание видео. Она предназначена для визуального вопросно-ответного взаимодействия, описания изображений, OCR, анализа документов, STEM- и математического рассуждения, пространственного анализа, генерации кода и взаимодействия с графическими интерфейсами и инструментами. Заявлены поддержка контекста 256K с возможным расширением до 1M токенов, улучшенное понимание длительных видео и OCR на 32 языках; конкретный перечень языков в README не приведён. Архитектурно модель использует плотную конфигурацию с примерно 2 млрд параметров, а среди ключевых компонентов указаны Interleaved-MRoPE для временных и пространственных позиций, DeepStack для объединения многоуровневых признаков ViT и выравнивание текста с временными метками. Сильными сторонами являются сочетание текстового и визуального понимания, работа с длинным контекстом, документами, видео и пространственными отношениями. Ограничения включают небольшой по современным меркам размер, возможные потери качества из-за квантизации и отсутствие в README подробных количественных результатов, точного списка языков и требований к аппаратному обеспечению. Лицензия — Apache-2.0.

R1-ImpishMind-8B — объединённая языковая модель, созданная сообществом mergekit-community из DeepSeek-R1-Distill-Llama-8B и Impish_Mind_8B. Для слияния применён метод SLERP с параметром t=0.5; архитектура — плотная LlamaForCausalLM, около 7,5 млрд параметров, веса опубликованы в формате safetensors. Модель предназначена для диалоговой генерации текста, включая решение задач и многошаговые рассуждения, унаследованные от базовой модели DeepSeek-R1-Distill-Llama-8B. Поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. Карточка не описывает отдельную специализацию по языкам или прикладным областям. Качество и поведение результата зависят от задачи и могут отличаться от исходных моделей после слияния. Лицензия в предоставленных данных не указана.