I.3Извлечение и структурирование данных

AliceAI-Foundation-80B-A3B-Base — базовая авторегрессионная языковая модель, разработанная Yandex и обученная с нуля. Это предобученная модель с гибридной архитектурой и смесью экспертов: всего 80 млрд параметров, из которых на каждом токене активируются около 3 млрд. Архитектура включает 48 слоёв, 512 экспертов и механизмы KDA и Gated Attention; контекст — до 262 144 токенов. Модель предназначена для генерации текста и дальнейшей адаптации под задачи рассуждений, математики, программирования, работы с фактами и взаимодействия с инструментами. По данным карточки, особенно сильна в фактологических задачах на русском языке; доступны русскоязычные бенчмарки WikiWebFacts и HardMultiQA. Это базовая модель, поэтому для диалогового применения и следования инструкциям может потребоваться дообучение и подходящий шаблон сообщений. Веса опубликованы в формате Safetensors и доступны по лицензии Apache 2.0. В README описан запуск через Transformers и vLLM; для выполнения KDA-слоёв на GPU требуется совместимая версия flash-linear-attention. Заявленные в README 80 млрд общих параметров расходятся с метаданными Hugging Face, где указано 3,1 млрд параметров.

Aya Expanse 32B — открытая по весам мультиязычная языковая модель, разработанная Cohere Labs. Она основана на предварительно обученной модели семейства Command и дополнительно обучена с учителем, с использованием предпочтений и объединения моделей. Модель предназначена для диалогов и генерации текста на 23 языках, включая русский, английский, арабский, китайский, хинди, японский и другие. Это авторегрессионная модель на архитектуре Transformer с 32 млрд параметров и контекстом до 128K токенов; она принимает текст и генерирует текст. Лицензия CC-BY-NC-4.0 запрещает коммерческое использование; также необходимо соблюдать Политику допустимого использования Cohere Labs. Модель выпущена как исследовательская, но подходит для практических мультиязычных задач; её ответы могут быть ошибочными, а качество — различаться между языками и задачами.

Bagel 7B v0.1 — созданная jondurbin до DPO-этапа версия Mistral-7B, дообученная на смеси инструкционных диалогов и обычного текста. Модель предназначена для генерации ответов в чате и выполнения широкого круга инструкций: от вопросов и ответов, математики и программирования до SQL, пересказа и ролевых диалогов. В обучении использованы данные из нескольких источников, включая LMSYS Chat, Natural Instructions, MathInstruct, Apps и Cinematika. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Карточка указывает, что обучение остановили примерно на половине запланированного объёма из-за ограничений бюджета; в сравнении с вариантом после DPO эта SFT-версия менее склонна к правдивым ответам и может быть предпочтительнее для ролевых сценариев. Модель распространяется под лицензией Apache-2.0.

DeepSeek-R1-0528-Qwen3-8B-GGUF — версия модели DeepSeek-R1-0528, разработанной DeepSeek AI и дистиллированной на базовую Qwen3 8B. Модель ориентирована на задачи, требующие рассуждений: решение математических задач, программирование, логический анализ, общие вопросы, работу с инструментами и function calling. Формат GGUF предназначен для локального запуска в совместимых средах, однако конкретный вариант квантования в предоставленных данных не указан. Модель содержит 8 млрд параметров и основана на Qwen3 8B, дообученной на цепочках рассуждений DeepSeek-R1-0528. Согласно карточке, она показывает высокие результаты среди открытых моделей в AIME 2024 и превосходит исходную Qwen3 8B на 10 процентных пунктов. При этом точные характеристики контекстного окна, поддерживаемые языки, модальности и показатели по другим тестам для этой 8B-версии не приведены. Лицензия — MIT.

Valdemardi/DeepSeek-R1-Distill-Llama-70B-AWQ — квантованная версия модели DeepSeek-R1-Distill-Llama-70B, основанной на DeepSeek-R1 и разработанной командой DeepSeek AI. Модель относится к большим языковым моделям для задач рассуждения и создана посредством дистилляции: в меньшую плотную модель перенесены образцы и паттерны рассуждений, полученные от DeepSeek-R1. В README также указано, что семейство DeepSeek-R1 ориентировано на задачи математики, программирования и общего логического рассуждения, а исходная модель демонстрировала результаты, сопоставимые с OpenAI o1 в этих направлениях. Представленная сборка использует 4-битное AWQ-квантование, выполненное с помощью AutoAWQ 0.2.8, с group size 128, zero point и режимом GEMM. Это снижает требования к памяти и делает запуск крупной 70B-модели более доступным, однако может сопровождаться потерей точности по сравнению с полноразмерной версией; конкретные результаты для этой сборки в README не приведены. Архитектура, размер контекста, поддерживаемые языки и модальности отдельно не указаны, поэтому подтверждённо описать можно только текстовый LLM-сценарий. Модель распространяется по лицензии llama3.3; README также ссылается на Model Agreement для лицензии модели. Условия лицензии следует проверить перед коммерческим или иным ответственным использованием.

Hermes-Dolphin-out — объединённая языковая модель на архитектуре Llama, созданная автором harkov000 методом SLERP из NousResearch/Hermes-3-Llama-3.1-8B и cognitivecomputations/dolphin-2.9.4-llama3.1-8b. Модель содержит около 7,5 млрд параметров, работает с текстом и имеет контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Её можно использовать для ответов на вопросы, рассуждений, написания кода и сценариев с вызовом инструментов; эти возможности унаследованы от моделей, участвовавших в объединении. В метаданных основная задача — text-generation. Карточка не сообщает результаты оценки качества именно этого объединения. Языковая ориентация и отдельные ограничения модели не описаны; базовая Hermes 3 характеризуется как англоязычная. Модель распространяется в формате safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

Hunyuan-0.5B-Instruct — компактная инструктивная языковая модель Tencent, дообученная на базе tencent/Hunyuan-0.5B-Pretrain. Это плотная авторегрессионная модель семейства Hunyuan V1 Dense с 463,5 млн параметров, доступная в формате safetensors и предназначенная для генерации текста в диалоговом режиме. Модель подходит для ответов на запросы и инструкций, рассуждений, задач по математике и коду, а также для агентных сценариев с интерфейсом вызова инструментов. Она поддерживает режимы быстрого и пошагового рассуждения и контекст до 262 144 токенов; в README также отмечены Grouped Query Attention и варианты квантования для эффективного развёртывания. В метаданных не перечислены поддерживаемые естественные языки, поэтому языковую специализацию определить нельзя. Модель относится к линейке общего назначения, а приведённые в README результаты тестов относятся к отдельным оценкам и не гарантируют качество на конкретных запросах. Для этой модели в предоставленных данных не указана лицензия.

Kiwen1.1-27B-MTP-GGUF — это набор смешанных GGUF-квантизаций модели Kiwen1.1-27B, разработанной beyoru и подготовленной пользователем NikiKrutan для запуска через llama.cpp. Модель ориентирована на диалоговые сценарии, программирование, агентские задачи, рассуждения, математику и работу с текстами на нескольких языках, включая английский, русский и вьетнамский. Суффикс MTP и метаданные указывают на вариант, связанный с multi-token prediction, однако подробности архитектуры MTP в README не приведены. Квантизации создаются инструментом niki-allocator, который подбирает тип квантования отдельно для каждого тензора с учётом целевого размера файла и оценок качества на основе KLD. Доступно 15 вариантов размером примерно от 8500 до 23000 МиБ; автор рекомендует выбирать максимально крупный вариант, помещающийся в доступную память, поскольку больший размер обычно обеспечивает более высокое качество. Производительность зависит от оборудования и конфигурации и отдельно не измерялась. Сильной стороной модели является тщательная оценка качества квантизаций на корпусах для программирования, агентских задач, рассуждений, сложной логики, мультиязычных текстов и научных материалов, а также сравнение с альтернативными сборками. Ограничения включают зависимость скорости и пригодности от аппаратной конфигурации, возможные потери качества из-за квантования и отсутствие в README точных сведений о размере контекста, полном наборе поддерживаемых языков и характеристиках исходной архитектуры. Распространение заявлено по лицензии Apache-2.0.

LLaDA2.0-flash-preview — открытая инструктивно настроенная диффузионная языковая модель от InclusionAI для диалогов и практических задач. Она использует архитектуру Mixture-of-Experts: в README указано 100 млрд параметров, из которых около 6,1 млрд активируются при инференсе; метаданные каталога указывают 5,5 млрд параметров. Архитектура включает 32 слоя, 32 головы внимания, RoPE и словарь размером 157 184 токена. Модель предназначена для генерации текста, ответов на вопросы, написания кода, математических рассуждений и сценариев с вызовом инструментов. Это diffusion language model (dLLM), доступная в формате safetensors через Transformers. В README указан контекст 4 096 токенов, тогда как метаданные каталога сообщают нативный контекст 16 384 токена. Репозиторий распространяется по лицензии Apache-2.0. README рекомендует температуру 0 и параметры block_length=32, steps=32; при повышении температуры возможно смешение языков и снижение качества. Модель обозначена как preview, поэтому её зрелость следует считать экспериментальной.

RedHatAI/Llama-3.2-3B-quantized.w8a8 — это квантованная текстовая языковая модель семейства Llama 3.2, размещённая Red Hat AI и основанная на модели Meta Llama 3.2. В репозитории указаны формат Safetensors, 8-битная точность и схема W8A8; отдельная карточка модели отсутствует, поэтому сведения о точной процедуре квантования и дополнительных оценках для этой конкретной версии не заявлены. Модель предназначена для генерации текста и кода, а также для адаптации под локальные и периферийные сценарии с ограниченными вычислительными ресурсами. Это авторегрессионная модель с оптимизированной Transformer-архитектурой, примерно 3,21 млрд параметров, текстовыми входами и выходами, поддержкой английского, немецкого, французского, итальянского, португальского, hindi, испанского и тайского языков. Для квантованных текстовых моделей Llama 3.2 заявлен контекст до 8 тысяч токенов. Ключевые преимущества — меньшие требования к памяти, размеру хранения и вычислениям по сравнению с полноточной версией; ограничение — возможная потеря качества из-за квантования, а также отсутствие опубликованной карточки и специфических результатов тестирования именно для данного репозитория. Базовая модель Llama 3.2 разработана Meta, а использование регулируется Llama 3.2 Community License — специальной коммерческой лицензией Meta с дополнительными требованиями Acceptable Use Policy.

Карточка модели Undi95/Meta-Llama-3-70B-hf на Hugging Face совпадает с карточкой meta-llama/Meta-Llama-3-70B, поэтому описание составлено по ней. Meta Llama 3 70B — большая авторегрессионная языковая модель Meta с оптимизированной архитектурой Transformer и Grouped-Query Attention. Эта версия предназначена для генерации текста; семейство включает предварительно обученные и настроенные варианты, но карточка репозитория не уточняет, к какому варианту относится этот чекпойнт. Модель принимает текст и генерирует текст, включая код. Её можно использовать для диалоговых помощников и адаптировать к различным задачам генерации естественного языка. В README указано, что модель предназначена для коммерческого и исследовательского использования на английском языке; применение на других языках выходит за рамки заявленного назначения, хотя дообучение для них допускается при соблюдении условий лицензии и политики использования. Модель выпущена Meta в апреле 2024 года. Репозиторий содержит веса в формате safetensors и распространяется по специальной лицензии Llama 3 с коммерческими условиями. Ответы могут требовать дополнительных мер безопасности, настроенных под конкретное приложение.

Карточка модели lucyknada/microsoft_WizardLM-2-7B на Hugging Face совпадает с карточкой dreamgen/WizardLM-2-7B, поэтому описание составлено по ней. WizardLM-2 7B — плотная авторегрессионная языковая модель семейства Mistral, разработанная командой WizardLM в Microsoft AI и дообученная на базе mistralai/Mistral-7B-v0.1 с использованием синтетической обучающей системы. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; нативная длина контекста — 32 768 токенов. Модель предназначена для диалогов и выполнения сложных инструкций, включая рассуждения, написание текстов, программирование, математические задачи и многоязычные запросы. Авторы позиционируют версию 7B как быструю модель, показывающую сильные результаты для своего размера; заявленные оценки основаны на MT-Bench и сравнении предпочтений людей. Модель распространяется под лицензией Apache 2.0. Карточка не приводит конкретный перечень поддерживаемых языков и не описывает отдельные механизмы вызова инструментов; качество ответов и результаты бенчмарков следует оценивать для целевых задач самостоятельно.

MiMo-V2.6-Flash-RL UNCENSORED GGUF — квантованная сборка модели Xiaomi MiMo-V2.6-Flash-RL, подготовленная cafonez для Framework Desktop с AMD Ryzen AI Max 400 (Gorgon Halo). Это текстовая MoE-модель с 309,8 млрд параметров и 256 экспертами, из которых на токен выбираются 8. Сборка занимает около 154,6 GiB и сочетает исходные веса экспертов MXFP4 с квантованием Q5_K для компонентов внимания и плотных слоёв; заявленный контекст запуска — до 131 072 токенов. Модель предназначена для диалоговой генерации текста, в том числе для задач программирования и использования агентами с инструментами. Это версия без отказов, созданная на уровне весов dealignai. Вариант GGUF содержит только текстовую часть исходной модели: визуальный и аудиокодеры исключены. Для загрузки требуется специальная сборка ROCmFPX; веса рассчитаны на машину с большим объёмом GPU-доступной памяти, а приведённые в карточке скорости измерены на конкретной конфигурации и не гарантируют такую же производительность на другом оборудовании. В карточке указана лицензия MIT.

MiniCPM5-1B-OptiQ-4bit — квантизированная версия языковой модели openbmb/MiniCPM5-1B, подготовленная сообществом mlx-community с использованием инструментария mlx-optiq. Модель предназначена для локального запуска на устройствах Apple Silicon через MLX, включая диалоговые приложения, переписывание и суммаризацию текста, генерацию кода, математические задачи, многошаговое рассуждение, планирование и сценарии с инструментами. Поддерживаются английский и китайский языки, текстовая генерация и длинный контекст, однако точный размер контекста в README не указан. Модель содержит около 1,08 млрд параметров и использует архитектуру Llama с гибридным режимом рассуждения. Доступны быстрый режим без рассуждений и режим с блоком <think> для математики, кода и сложных многошаговых задач. Квантизация OptiQ использует чувствительную к слоям смешанную точность: 4- и 8-битные веса, среднее значение 5,81 бит на вес. Размер модели составляет около 875 МБ, что примерно в 2,4 раза меньше версии в формате bfloat16. Сильными сторонами являются компактность, возможность локальной работы без облака, улучшенное по сравнению с равномерной 4-битной квантизацией сохранение качества, а также хорошие результаты в IFEval и HumanEval для модели такого размера. Ограничения включают слабые результаты в GSM8K и BFCL в режиме без рассуждений; заявленные бенчмарки не отражают полностью возможности режима thinking. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

MiniCPM5-2B-SFT — версия модели MiniCPM5 от OpenBMB для локальных ассистентов, программных агентов и запуска на устройствах с ограниченными ресурсами. Это плотная авторегрессионная языковая модель на архитектуре LlamaForCausalLM с 2,2 млрд параметров по метаданным, 42 слоями и контекстом до 131 072 токенов. Модель предназначена для диалогов, генерации кода, математических рассуждений, работы с длинным контекстом и сценариев использования инструментов. Карточка сообщает о поддержке английского и китайского языков и описывает сильные результаты модели относительно других моделей сопоставимого размера; эти сравнительные оценки получены разработчиком. Модель принимает и генерирует текст. Весы опубликованы в формате safetensors, для запуска описана поддержка Transformers и локального развёртывания на CPU и GPU, а также серверных движков. Лицензия — Apache-2.0. Ответы могут быть неточными, предвзятыми или оскорбительными; выводы по медицине, финансам, праву и политике не являются экспертной рекомендацией.

Nail-Qwen3.6-35B-A3B-GGUF — это 4-битная GGUF-квантизация модели Qwen3.6-35B-A3B, разработанной Qwen и опубликованной peculiar-ragdoll. Модель предназначена для локального запуска через llama.cpp, прежде всего для рассуждений, многошаговых диалогов, агентной работы и автономной разработки программного обеспечения. В поставку также входит улучшенный chat template с принудительно добавляемым системным промптом, который настраивает модель на прямые, лаконичные и ориентированные на результат ответы. Модель использует архитектуру MoE с заявленным размером 35B и активной частью около 3B параметров; доступна в формате GGUF с квантизацией UD-Q4_K_XL. Заявлен нативный контекст до 262 144 токенов, поддерживаются английский и китайский языки. По данным автора, модель особенно сильна в скорости получения ответа, агентном программировании и многоходовых сценариях, сохраняя сопоставимую с более крупными моделями точность на ряде тестов. Увеличенный объём рассуждений может быстрее расходовать контекст, поэтому для очень длинных сессий модель уступает некоторым альтернативам по выносливости. Модель рассчитана на локальное использование и может работать на совместимом оборудовании с ограниченным объёмом памяти; автор указывает, что примерно 180 тысяч токенов контекста с 8-битным KV-кэшем должны помещаться в 24 ГБ памяти. Лицензия — Apache 2.0.

NousResearch/Nous-Hermes-2-Yi-34B — языковая модель Nous Research, дообученная на базе 01-ai/Yi-34B. Модель содержит 33,9 млрд параметров, использует плотную архитектуру семейства Llama и предназначена для генерации текста и диалогов по инструкциям. В обучении использован датасет OpenHermes-2.5, включающий преимущественно данные, сгенерированные GPT-4, и материалы из открытых наборов данных. Модель поддерживает многоходовый чат в формате ChatML и системные инструкции, что подходит для диалоговых ассистентов, ответов на вопросы и генерации кода. Заявленная длина контекста — 4096 токенов; в карточке приведены результаты бенчмарков, но они не гарантируют качество для конкретных задач. Модель принимает и генерирует текст; язык карточки — английский. Распространяется по лицензии Apache-2.0.

OpenChat-3.6-8B-20240522 — диалоговая языковая модель команды OpenChat, созданная дообучением Meta-Llama-3-8B с использованием смешанных по качеству данных и метода C-RLFT. Модель имеет плотную архитектуру LlamaForCausalLM примерно на 7,5 млрд параметров и контекст до 8192 токенов; веса доступны в формате safetensors, для работы используется библиотека Transformers. Модель предназначена для чата, генерации текста и кода, а также общих задач по умолчанию. Авторы рекомендуют использовать шаблон диалога OpenChat и предлагают сервер с совместимым с OpenAI ChatCompletion API интерфейсом; в README заявлена возможность запуска на потребительском GPU с 24 ГБ памяти. Карточка сообщает о сравнении с Llama-3-8B-Instruct и другими открытыми моделями, но не приводит здесь независимой оценки качества. Лицензия — Llama 3; применяются её условия использования.

OpenHermes 2.5 Mistral 7B — языковая модель Teknium, дообученная на базе Mistral-7B-v0.1 для диалогов и следования инструкциям. Она содержит около 7,1 млрд параметров, использует плотную архитектуру Mistral и формат диалога ChatML; заявленная длина контекста — 32 768 токенов. Модель обучалась на наборе примерно из миллиона примеров, преимущественно сгенерированных GPT-4, включая дополнительные данные по программированию. Модель предназначена для многошагового общения, ответов на вопросы, выполнения инструкций и помощи с программированием. В карточке приводится результат HumanEval 50,7% при Pass@1, а также сообщается об улучшении ряда общих бенчмарков по сравнению с предыдущей версией; это результаты авторов, не гарантия качества в конкретных сценариях. Указанный в метаданных язык — английский. Модель принимает текстовые запросы и генерирует текст. Веса доступны в форматах PyTorch и safetensors. Лицензия — Apache-2.0. Как и другие генеративные языковые модели, она может выдавать неверные сведения или код с ошибками; результаты следует проверять.

Это конвертированная в ONNX модель Phi-3 Medium-128K-Instruct, подготовленная Microsoft для ускоренного инференса через ONNX Runtime на видеокартах NVIDIA с CUDA. В основе — плотная авторегрессионная архитектура Phi-3 с 13,8 млрд параметров; исходная модель обучена на синтетических данных и отфильтрованных общедоступных веб-данных, а затем прошла дообучение с учителем и оптимизацию предпочтений DPO для следования инструкциям и мер безопасности. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы, рассуждения, математические задачи и код. Карточка исходной модели описывает варианты контекста 4K и 128K токенов, однако метаданные этого репозитория указывают native_context_tokens=4096, поэтому для данной версии подтверждён контекст до 4096 токенов. Репозиторий содержит варианты FP16 и INT4; INT4 использует квантизацию RTN. В README приведены замеры скорости на NVIDIA A100 и указано требование CUDA GPU с Compute Capability не ниже 7.0. Модель разработана Microsoft и распространяется по лицензии MIT. Это конверсия исходных весов для ONNX Runtime, а не самостоятельное дообучение; использование CUDA-варианта требует совместимой NVIDIA GPU, а характеристики и скорость зависят от конфигурации инференса.

Qemma-Q1.7B — гибридная языковая модель от Convergent Intelligence LLC: Research Division, созданная слиянием весов Gemma 3 1B и Qwen3-1.7B, а затем дообученная на следование инструкциям и пошаговые рассуждения. Для слияния использованы тело и MLP Gemma 3, а также компоненты внимания и голова Qwen; README также указывает на выравнивание эмбеддингов и Yarn-масштабирование RoPE. Модель имеет плотную архитектуру Gemma3ForCausalLM и около 1 млрд параметров. Модель предназначена для диалогов, генерации текста, анализа, помощи с кодом и дальнейшего дообучения. Заявлена длина контекста 262144 токена. Карточка указывает английский язык; метаданные связывают обучение с UltraChat 200k и MathInstruct. Модель работает через Transformers и распространяется в формате safetensors по лицензии OSL-3.0. Ответы могут содержать фактические ошибки. Разработчик не рекомендует использовать модель для решений в сферах медицины, права и финансов, а также в других критически важных сценариях.

Qwen3-0.6B-GPTQ-Int8 — квантованная 8-битная версия причинной языковой модели Qwen3-0.6B, разработанной командой Qwen. Модель предназначена для генерации текста, диалогов, следования инструкциям, рассуждений, математических и программных задач, переводов, творческого письма и сценариев с интеграцией внешних инструментов. Она поддерживает переключение между режимами рассуждения и обычного диалога в рамках одной модели. Модель содержит 0,6 млрд параметров, из которых 0,44 млрд не являются параметрами эмбеддингов, имеет 28 слоёв и использует Grouped-Query Attention с 16 головами для запросов и 8 для ключей и значений. Контекстное окно составляет 32 768 токенов. Поддерживаются более 100 языков и диалектов, однако конкретный перечень языков в README не указан. Модель работает с текстовой модальностью и распространяется в формате GPTQ с 8-битной квантизацией. К сильным сторонам относятся компактный размер, поддержка многоязычных инструкций, режимов рассуждения и обычной генерации, а также возможности для агентских сценариев. Ограничения включают меньший размер по сравнению с крупными моделями Qwen3 и возможное появление повторов при неподходящих параметрах генерации; README рекомендует при таких проблемах использовать presence_penalty 1.5. Модель распространяется по лицензии Apache 2.0.

Qwen3.6-27B-Omnimerge-v4-GGUF — квантизированная версия модели ManniX-ITA/Qwen3.6-27B-Omnimerge-v4, созданная автором ManniX-ITA. Это объединённая модель на базе Qwen3.6-27B, дополненная результатами слияния трёх дообученных вариантов. Модель распространяется в формате GGUF и предназначена для локального запуска с помощью llama.cpp. Модель имеет архитектуру Qwen3.5 и около 27,78 млрд параметров. Доступны варианты от F16 до низкобитных IQ- и Q-квантизаций, включая Q2_K, Q4_K_M, Q6_K и Q8_0. Заявлены возможности рассуждений, работы с кодом и изображениями; в карточке указано поддерживаемое описание языка English. Контекстное окно и точный перечень поддерживаемых визуальных входов не указаны. Сильными сторонами заявлены улучшенные результаты в задачах программирования и научного рассуждения по сравнению с некоторыми базовыми и предыдущими версиями Omnimerge, а также специальная модификация MLP-слоёв для повышения устойчивости механизма рассуждений. Качество зависит от выбранной квантизации, а приведённые бенчмарки измерялись при разных настройках генерации и не всегда напрямую сопоставимы. Для ускоренного декодирования доступен отдельный MTP-вариант репозитория, не входящий в эту модель. Лицензия — Apache-2.0.

Qwen3.6-35B-A3B-NVFP4-MTP-GGUF — производная сборка модели Qwen3.6-35B-A3B, подготовленная Nilay Parikh для запуска через llama.cpp на NVIDIA DGX Spark. Это мультимодальная модель с архитектурой MoE: всего 35 млрд параметров, из которых около 3,5 млрд активны на токен. Основные веса квантизованы в NVFP4, голова MTP сохранена в BF16 для спекулятивного декодирования, а мультимодальный проектор для изображений поставляется отдельным файлом BF16 GGUF. Модель предназначена для генерации кода и текста, анализа длинных репозиториев и документов, а также рассуждений по скриншотам интерфейсов и диаграммам. В README заявлен контекст до 256 тысяч токенов с масштабированием YaRN от базовых 128 тысяч; для обработки изображений требуется подключить отдельный mmproj. Карточка ориентирована на английский язык. Лицензия — Apache-2.0. В README указана скорость около 30 токенов/с при коротком контексте и настроенной спекулятивной генерации на DGX Spark; эти показатели зависят от оборудования и конфигурации.

JASouth/Qwen3.8-27B-IQ-Hybrid — экспериментальный набор низкобитных GGUF-квантизаций базовой модели Qwen/Qwen3.8-27B, подготовленный автором JASouth. Модель ориентирована на локальный запуск с ограниченным объёмом видеопамяти, включая потребительские GPU с 8 ГБ VRAM, и предназначена для генерации текста, программного кода, задач с длинным контекстом, многошагового рассуждения и агентских рабочих процессов. В метаданных указана категория image-text-to-text, однако подробности о поддерживаемых модальностях, языках и размере контекстного окна не приведены. Доступны варианты с разной степенью сжатия. IQ2_E_S имеет около 2,40 BPW и требует примерно 7,51 GiB памяти, благодаря чему помещается в бюджет 8 ГБ, но заметно теряет качество на сложной логике, длинной генерации и функциональном кодировании. IQ2_E_S_V2 лучше подходит для кода и агентских сценариев, включая задачи с длинным контекстом, но может зацикливаться в обычном диалоге. IQ3_E_S_V2 считается наиболее сбалансированным вариантом по качеству и размеру, демонстрируя хорошие результаты в программировании и сложном рассуждении, хотя возможны отдельные ошибки внимания и галлюцинации. Для Intel Arc вариант IQ2_E_S не рекомендуется использовать с SYCL из-за риска некорректной генерации, NaN и сбоев; требуется backend Vulkan. Модель распространяется по лицензии Apache-2.0.

Terathox-Coder/Qwen3.8-27B-MTP-GGUF — это общественная GGUF-конверсия и квантованная версия базовой модели Qwen/Qwen3.8-27B, разработанной командой Qwen. Дополнительное обучение или дообучение не выполнялось. Модель содержит 27 млрд параметров, представлена в формате GGUF и использует квантование Q4_K_M; исходные MTP/NextN-тензоры сохранены. Модель предназначена для локальной генерации текста, программирования, задач software engineering, агентных сценариев, технического рассуждения и работы с длинным контекстом. Она совместима с llama.cpp и совместимыми GGUF-рантаймами, включая Ollama. Сохранение MTP/NextN позволяет экспериментировать со спекулятивным декодированием, однако наличие соответствующих тензоров само по себе не гарантирует их фактическое использование: это зависит от версии и настроек рантайма. В README заявлена поддержка языков English, Spanish и Chinese, а локальное тестирование проводилось с контекстом до 204800 токенов. Ключевые преимущества — существенно сниженные требования к памяти по сравнению с исходной BF16-моделью, поддержка локального запуска и сохранённые компоненты MTP/NextN. Размер файла составляет около 16,8 ГБ. Ограничения включают возможное снижение качества из-за квантования Q4_K_M, отсутствие стандартизированных тестов качества для этой сборки и риск неточных, предвзятых или галлюцинированных ответов. Хотя исходная модель обладает мультимодальными возможностями, данный репозиторий содержит только языковой GGUF-артефакт без проверенного мультимодального проектора, поэтому сборку следует считать текстовой. Модель распространяется по лицензии Apache-2.0. Конкретные показатели скорости в README относятся к локальной конфигурации на трёх GPU и не являются стандартизированными бенчмарками качества или производительности.

Huntfat/Qwen3.8-27B-OBLITERATED-huntfat — текстовая генеративная модель на базе Qwen/Qwen3.8-27B, опубликованная пользователем Huntfat. Это модификация Qwen3.8-27B, созданная с применением метода abliteration: из весов удалялись направления, связанные с отказами и уклончивыми ответами. В README указано, что версия V3 дополнительно использует итеративное уточнение и целевую обработку корпуса данных. Модель предназначена для генерации текста, программного кода и ответов на запросы, включая сценарии, в которых исходная модель могла отказывать или заменять содержательный ответ предупреждениями. Заявлены совместимость с режимом рассуждений, применение в агентских и длинноконтекстных сценариях, а также варианты распространения в форматах GGUF, Safetensors и MLX. Точные размер контекста, перечень поддерживаемых языков и мультимодальные возможности в представленном README не указаны. По заявленным данным, V3 сохраняет большую часть возможностей исходной модели: результат MMLU составляет 82,3% против 84,5% у базовой версии, при этом автор сообщает о 20 успешных из 20 проверок задач генерации кода и о снижении склонности к отказам. Ограничениями являются умеренная потеря качества относительно базовой модели, возможные циклы при генерации без repetition_penalty и чувствительность к настройкам декодирования. Рекомендуются temperature 0, repetition_penalty 1,15 и не менее 2048 новых токенов; для агентских сценариев допускаются temperature 0,1–0,3 и ограничение длины ответа. Модель распространяется по лицензии Apache-2.0.

Qwen_Qwen3-Coder-Next-GGUF — это квантизированная версия текстовой генеративной модели Qwen3-Coder-Next, разработанной Qwen. Квантизация выполнена bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена прежде всего для генерации и обработки текста, включая задачи, связанные с программированием, и может запускаться через llama.cpp, LM Studio, KoboldCpp, Jan AI и другие совместимые приложения. Доступны варианты квантизации от Q8_0 до Q3 и IQ3/IQ4, благодаря чему можно выбирать между качеством ответа, размером файлов и требованиями к оперативной памяти. Размеры представленных файлов составляют примерно от 31,73 до 84,81 ГБ; некоторые варианты разделены на несколько частей. Наиболее качественными считаются Q8_0 и варианты Q6, а Q4_K_M указан как типовой компромисс между качеством и размером. Поддерживаемые модальности, языки, архитектура, количество параметров и размер контекста в README не указаны. Сильной стороной модели является возможность локального запуска и широкий выбор уровней квантизации, включая варианты, оптимизированные для различных аппаратных конфигураций. Ограничения связаны с большими требованиями к дисковому пространству и памяти, а также с потенциальным снижением качества у низкобитных вариантов; для недавно поддерживаемых моделей может потребоваться обновление используемого приложения. Модель распространяется по лицензии Apache-2.0.

Ring-mini-linear-2.0 — языковая модель компании inclusionAI для генерации текста и диалогов. Она построена на гибридной архитектуре, сочетающей линейное и стандартное внимание, и использует разреженную смесь экспертов (MoE). В репозитории указано 1,2 млрд параметров, а в карточке модели описана версия с 16,4 млрд параметров, из которых при генерации активируются 1,6 млрд; эти цифры расходятся, поэтому размер полной модели по доступным данным нельзя согласовать. Модель дообучена на основе inclusionAI/Ling-mini-base-2.0-20T на дополнительных 600 млрд токенов. Модель предназначена для генерации ответов в диалогах и решения сложных задач по математике, программированию и науке. Метаданные указывают поддержку интерфейса вызова инструментов. Для эффективной обработки длинного контекста заявлено окно до 512 тыс. токенов с расширением YaRN; метаданные указывают нативный контекст 131 072 токена. В карточке приведены англоязычные теги. Для запуска описана поддержка Transformers и SGLang, а также BF16 и FP8 в SGLang; инструкции по установке специальных зависимостей и сборок движков указывают на необходимость совместимой среды. Лицензия — MIT.

uukuguy выпустил объединённую языковую модель на базе Mistral-7B для генерации текста, диалога и задач с кодом. В неё объединены ehartford/dolphin-2.1-mistral-7b, Open-Orca/Mistral-7B-OpenOrca, bhenrym14/mistral-7b-platypus-fp16 и ehartford/samantha-1.2-mistral-7b. Архитектура — плотный трансформер MistralForCausalLM с 7,1 млрд параметров; контекст — до 32 768 токенов. Модель принимает текст и генерирует текст, а карточка отмечает поддержку кода и приводит результаты HumanEval и тестов Open LLM Leaderboard. Модель подходит для диалоговых ответов, генерации кода и общих текстовых задач. В репозитории представлены варианты AWQ, GPTQ и GGUF с разной разрядностью для GPU и CPU+GPU-инференса; метаданные этого репозитория указывают Transformers и safetensors. Лицензия — Llama 2. Карточка не описывает отдельные гарантии качества или механизмы модерации для объединённой модели.