I.11Классификация, ранжирование и сопоставление

Citaman/command-r-6-layer — слитая с помощью mergekit методом SLERP языковая модель на архитектуре CohereForCausalLM. Она собрана из двух срезов слоёв Citaman/command-r-7-layer и предназначена для диалоговой генерации текста и взаимодействия с инструментами. Модель содержит 7 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Репозиторий распространяет веса в формате safetensors; лицензия в предоставленных данных не указана.

Модель bcoding — дообученная версия unsloth/DeepSeek-R1-0528-Qwen3-8B на архитектуре Qwen3 с причинным языковым моделированием. Она предназначена для диалогов и генерации текста; каталог также указывает интерфейс вызова инструментов. Размер модели — 7,6 млрд параметров, контекст — до 131 072 токенов. В карточке указано, что обучение проводилось с Unsloth и библиотекой TRL. Модель может применяться для диалоговых ответов, рассуждений, решения задач по математике и логике, а также помощи с программированием — эти сценарии указаны для базовой модели в описании каталога. Поддерживаемый язык карточки — английский. Репозиторий распространяется в формате Safetensors по лицензии Apache 2.0.

Карточка модели nguyenthilaitrieulong/DeepSeek-R1-Distill-Llama-70B-abliterated на Hugging Face совпадает с карточкой huihui-ai/DeepSeek-R1-Distill-Llama-70B-abliterated, поэтому описание составлено по ней. Это экспериментальная версия DeepSeek-R1-Distill-Llama-70B, созданная huihui-ai методом abliteration: из модели удаляли склонность отказываться от ответов. Это плотная причинно-следственная языковая модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов; она работает через Transformers и принимает и выдаёт текст. Модель предназначена для диалогов и генерации текста, в том числе для математических рассуждений, программирования и ответов на сложные вопросы — эти возможности унаследованы от базовой модели. Вариант с abliteration нацелен на ответы без типичных отказов, однако автор описывает метод как грубый proof of concept. Лицензия в предоставленных данных не указана.

huihui-ai/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2 — модифицированная версия DeepSeek-R1-Distill-Qwen-14B от huihui-ai. Автор применил abliteration — экспериментальный метод изменения весов, предназначенный для ослабления отказов модели. Это плотная причинная языковая модель семейства Qwen2 на 14 млрд параметров; она принимает текст и генерирует текст, в том числе в диалоговом формате. Метаданные указывают контекст до 131 072 токенов и использование Transformers. Модель предназначена для диалогов и генерации текста, включая сценарии, где требуется меньше отказов на запросы. Базовая модель рассчитана на рассуждения, математику и программирование, однако карточка этой модификации называет её изменение грубым proof of concept и не приводит оценки качества. Лицензия в предоставленных данных не указана.

bartowski/DeepSeek-R1-Distill-Qwen-7B-GGUF — это набор квантизированных версий языковой модели DeepSeek-R1-Distill-Qwen-7B, подготовленный bartowski в формате GGUF для запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель предназначена для генерации текста и локального инференса на устройствах с ограниченными ресурсами. В основе лежит модель размером 7B параметров; точная архитектура, поддерживаемые языки и размер контекста в представленном README не указаны. Доступны версии от F32 и F16 до различных вариантов квантизации Q8, Q6, Q5, Q4, Q3 и Q2 с размером файлов примерно от 3,55 до 30,47 ГБ. Квантизация выполнена с использованием llama.cpp и imatrix, а для запуска рекомендуется применять указанный формат prompt. Сильная сторона набора — широкий выбор компромиссов между качеством, размером файла и требованиями к памяти: версии Q6 и Q5 заявлены как обеспечивающие очень высокое или высокое качество, а Q4 — как подходящие для большинства сценариев. Более компактные варианты предназначены для систем с небольшим объёмом RAM, но могут заметно уступать по качеству. Лицензия в README не указана, поэтому условия использования следует уточнять в документации исходной модели и репозитория.

NaniDAO разработала naniseek — языковую модель для генерации текста и диалогов с рассуждениями, полученную абляцией на основе DeepSeek-R1-Distill-Qwen-32B. Модель содержит 32 млрд параметров, использует архитектуру Qwen2 и принимает текст; заявленная длина контекста — до 131 072 токенов. Модель предназначена для диалоговых ответов и задач рассуждения, включая математику и программирование. По заявлению авторов, абляция снижает число отказов на допустимые запросы. Модель доступна в формате Safetensors под лицензией MIT. Карточка не приводит сравнительных оценок качества или подробностей метода абляции.

DeepSeek-V4-Flash-0731-GPTQ-Int4-V1 — это 4-битная GPTQ-квантизованная версия модели DeepSeek-V4-Flash-0731, опубликованная пользователем sokada4. Квантизация выполнена с помощью GPTQModel 7.3.4 и предназначена для более эффективного запуска исходной модели при ограниченных ресурсах GPU. Данные о точном размере модели, архитектуре, поддерживаемых модальностях, полном наборе языков и исходном размере контекста в README не указаны. Модель использует схему W4A16 с 4-битными весами, group size 128, симметричной квантизацией и упаковкой в int32; параметр lm_head не квантизован. Калибровка проведена на 128 примерах на китайском, английском, японском языках и Python-коде с длиной последовательности 2048 токенов. В README приведены результаты на 4 GPU Ampere: по сравнению с неквантизованным fp8-чекпойнтом модель показала меньшее время до первого токена и более высокую производительность, особенно при параллелизме 8. Основные ограничения связаны с инфраструктурой: для запуска через vLLM требуется специальная сборка с поддержкой DeepSeek-V4 GPTQ для GPU Ampere, а полный чекпойнт занимает около 153 ГБ и может потребовать выгрузки части весов в CPU. Релиз является первой калибровочной версией V1; заявлена возможная последующая версия V2 с другим набором калибровочных данных. Лицензия — MIT, унаследованная от базовой модели.

Dolphin3.0-Llama3.1-8B-GGUF — это GGUF-квантизированная версия языковой модели Dolphin3.0-Llama3.1-8B, разработанной cognitivecomputations и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста на английском языке и запуска через совместимые средства, включая LM Studio и llama.cpp. Модель основана на архитектуре Llama 3.1 с размером 8 млрд параметров и относится к классу текстовых генеративных моделей. В обучении использовались наборы данных для программирования, математических задач, instruction following, function calling, агентных сценариев и диалогов. Доступны варианты от F32 и F16 до низкобитных форматов Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством генерации, размером файла и требованиями к памяти. Контекст, мультимодальность и поддержка других языков в README не указаны. Сильная сторона модели — широкий выбор квантизаций и возможность локального запуска на различном оборудовании; варианты Q6 и Q5 характеризуются как близкие к исходному качеству, а Q4 рекомендуются как сбалансированные по размеру и качеству. Более агрессивные квантизации экономят память, но снижают качество. Ограничениями являются преимущественно англоязычная заявленная поддержка и отсутствие в README подробных данных о производительности, максимальном контексте и системных требованиях. Указана лицензия llama3.1.

FlexOlmo-7x7B-1T-RT — языковая модель семейства FlexOlmo, разработанная Allen Institute for AI (Ai2). Это чат-модель для генерации текста на основе архитектуры Mixture-of-Experts (MoE); версия RT представлена в README как модель без обучения маршрутизатора экспертов. README описывает набор экспертов, обученных на публичных данных, новостях, математике, коде, академических текстах, творческих текстах и Reddit. Для этой версии в метаданных указано 6,9 млрд параметров, контекст — 4096 токенов. Модель предназначена для диалога и генерации текста в сценариях, связанных с общими вопросами, математикой, кодом, новостями, академическими и творческими текстами. README описывает подход FlexOlmo к совместной разработке моделей: владельцы данных могут контролировать активность своих данных и получать атрибуцию без передачи исходных данных. В README приведена оценка отдельных плотных моделей, а не этой MoE-версии, поэтому эти результаты нельзя считать прямой оценкой FlexOlmo-7x7B-1T-RT. Модель распространяется по лицензии Apache-2.0.

unsloth/gemma-3-4b-it — мультимодальная модель семейства Gemma 3, опубликованная Unsloth на базе Google Gemma 3 4B IT. Она принимает текст и изображения и генерирует текст; подходит для диалогов, ответов на вопросы по изображениям, суммаризации и других задач генерации и понимания текста. Модель использует плотную архитектуру Gemma 3 и доступна в формате safetensors для Transformers. В README семейство Gemma 3 описано как поддерживающее контекст до 128 тысяч токенов и более 140 языков. Модель можно применять в чат-ботах и виртуальных помощниках, для извлечения сведений из изображений, составления кратких сводок и создания текстов. К компактному размеру относится заявленная возможность развёртывания на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре; точный объём памяти для этой версии не указан. Ответы могут содержать фактические ошибки, отражать смещения обучающих данных и неверно трактовать тонкие языковые нюансы. Лицензия — Gemma; перед использованием следует учитывать условия лицензии и политику запрещённого использования Gemma.

Gemma4-31B-QAT-Uncensored-HauhauCS-Balanced-MTP — модификация Gemma 4 31B-it, разработанная HauhauCS на основе официальных QAT-весов модели Google DeepMind. Это плотная модель на 31 млрд параметров с 4-битной квантизацией Q4_K_M, контекстом до 256K токенов и поддержкой изображений через отдельный mmproj-модуль. В README заявлен английский язык; модель распространяется в формате GGUF и совместима с llama.cpp, LM Studio, Jan, koboldcpp и другими GGUF-рантаймами. Модель предназначена для агентного программирования, рассуждений, творческого письма, ролевого общения и диалоговых сценариев, где важны следование инструкциям и надежность. Вариант Balanced ориентирован на широкий круг пользователей и описан как полностью uncensored-модификация без изменений исходных датасетов и базовых возможностей. В комплект входит MTP draft head для speculative decoding; по данным автора, при использовании через llama.cpp это дает примерно 53% ускорения генерации без изменения проверяемого результата. К сильным сторонам относятся большой контекст, поддержка визуального ввода, 4-битная QAT-квантизация с заявленным близким к полноточному качеством и ускорение генерации с MTP. Ограничения включают крупный размер файлов: основная модель занимает около 18,7 ГБ, mmproj — 1,2 ГБ, а MTP-модуль — 280 МБ. Работа MTP-технологии проверялась автором через llama.cpp, а для LM Studio отмечены возможные сбои в режиме tensor-split при использовании нескольких GPU; рекомендуется использовать одну GPU с layer-split или приоритетным порядком. Лицензия указана как Gemma. В README также отмечено, что заявления об отсутствии отказов основаны на тестах автора и не исключают редких случаев уклонения от ответа на отдельных запросах.

GKA-primed-HQwen3-8B-Instruct — инструктивная гибридная языковая модель, созданная командой Hybrid Model Factory на основе Qwen3-8B. В архитектуре 18 слоёв Attention и 18 слоёв Gated KalmaNet (GKA), слоя пространства состояний, вдохновлённого фильтром Калмана. Модель содержит около 7,6 млрд параметров и принимает контекст длиной до 131 072 токенов; доступны веса в формате Safetensors для Transformers. Модель предназначена для диалоговой генерации текста и следования инструкциям, в том числе при работе с длинным контекстом. По данным авторов, замена половины слоёв внимания на GKA сокращает потребность в растущем KV-кэше и может ускорить инференс на длинных последовательностях, сохраняя качество, близкое к базовой модели. Параметр num_iter позволяет настраивать вычислительные затраты GKA во время инференса. Это не модель рассуждений и она не поддерживает вызов инструментов. Основанные на README сведения о языках Qwen3 не уточняют полный перечень языков именно этого чекпойнта. Лицензия — Apache 2.0.

HuskyLM 2.5 — диалоговая языковая модель Darkcloud AI, дообученная на основе meta-llama/Meta-Llama-3-8B-Instruct с применением supervised fine-tuning, Direct Preference Optimization и собственной методики RLAIF. Это плотная Llama 3 модель для генерации текста и общения; в метаданных указаны 7,5 млрд параметров, контекст 8192 токена и формат Safetensors. Модель рассчитана на английский язык, а автор заявляет поддержку ряда других языков, включая китайский, испанский, французский и польский. Модель предназначена для следования системным инструкциям и общих диалоговых сценариев: написания текстов и кода, работы чат-агентом и создания реплик NPC. Среди заявленных достоинств — разговорные навыки, выполнение инструкций и дружелюбный тон. Она может ошибаться, несмотря на заявленный акцент на правдивости; сведения о знаниях ограничены декабрём 2023 года. Лицензия — Llama 3 License.

Theros/L3-ColdBrew-R1-test1 — языковая модель на архитектуре Llama, созданная разработчиком Theros слиянием весов через mergekit методом DARE TIES. В слиянии использованы Theros/L3-ColdBrew-Daybreak и deepseek-ai/DeepSeek-R1-Distill-Llama-8B; итоговая модель содержит 7,5 млрд параметров и работает с контекстом до 8192 токенов. Модель предназначена для диалоговой генерации текста и может применяться для ответов на вопросы, математических задач, программирования и многошаговых рассуждений — эти возможности описаны для базовой модели DeepSeek-R1-Distill-Llama-8B. Метаданные указывают на поддержку чата, но README не приводит собственных примеров или оценок качества слияния. Репозиторий содержит веса Safetensors для использования с Transformers. Лицензия в предоставленных данных не указана.

Laserxtral — экспериментальная языковая модель семейства Mixtral, созданная Дэвидом, Фернандо и Эриком при поддержке VAGO Solutions. Это смесь экспертов (MoE) на базе mergekit: в README перечислены пять моделей семейства Mistral 7B, включая Dolphin, Marcoro14, CodeNinja, MetaMath-Cybertron и WizardMath. Авторы применили к экспертам метод «lasering» с laserRMT: анализировали отношение сигнал/шум слоёв и вмешивались в наиболее подверженные шуму слои. Модель предназначена для генерации текста, диалогов, рассуждений, математических задач и программирования. В метаданных указаны 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors. Авторы заявляют о высокой правдивости и сильных способностях к рассуждению, но отмечают, что продолжают работу над улучшением результата MMLU. Модель опубликована под лицензией CC BY-NC 2.0, которая ограничивает коммерческое использование. Это экспериментальная разработка; качество на конкретных задачах следует оценивать отдельно.

OpenAssistant/llama2-13b-orca-8k-3319 — языковая модель OpenAssistant, созданная дообучением Meta Llama 2 13B. Она предназначена для генерации текста и диалоговых ответов по инструкциям. Модель содержит 12,9 млрд параметров и использует архитектуру Llama с контекстом до 8192 токенов благодаря линейному масштабированию RoPE. Обучение включало длинные диалоги на основе Orca-Chat/Dolphin, а также данные RedPajama и FanFics. Это помогает модели отвечать на запросы в многоходовых беседах и работать с более длинным контекстом. В карточке указана лицензия Llama 2 Community License Agreement. Для загрузки через Transformers требуется версия 4.31.0 или новее.

Карточка модели dganochenko/llama-3-8b-chat на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3-8B-Instruct, поэтому описание составлено по ней. NousResearch/Meta-Llama-3-8B-Instruct — инструктивная версия семейства больших языковых моделей Llama 3, разработанного Meta. Это плотная авторегрессионная трансформерная модель класса LlamaForCausalLM с Grouped-Query Attention и примерно 7,5 млрд параметров; она принимает текст и генерирует текст, включая код. Контекст — до 8192 токенов. Модель настроена для диалоговых сценариев и работы в роли ассистента: она отвечает на вопросы, поддерживает беседу и выполняет инструкции на английском языке. Настройка включает supervised fine-tuning и обучение с подкреплением на основе человеческой обратной связи. Модель можно запускать через Transformers и использовать в приложениях, которым нужна генерация текста. В карточке указана пользовательская коммерческая лицензия Meta Llama 3. README ориентирует модель прежде всего на английский язык и предостерегает от использования в других языках, хотя допускает дообучение для них при соблюдении условий лицензии и политики допустимого использования. Это статичная модель, обученная на офлайн-данных; для прикладного развёртывания могут потребоваться дополнительные меры безопасности, а ответы модели могут быть ошибочными.

Llama3-ChatQA-1.5-70B-GGUF — квантизированная в формате GGUF версия модели Llama3-ChatQA-1.5-70B, разработанной NVIDIA. Квантизацию выполнил bartowski на основе llama.cpp. Модель построена на базовой архитектуре Llama 3 и содержит 70 миллиардов параметров. Основное назначение модели — conversational question answering и retrieval-augmented generation (RAG): ответы на вопросы с опорой на предоставленный контекст, извлечение сведений и суммаризация контекста. Она ориентирована прежде всего на англоязычные сценарии и также может применяться для общего текстового общения. Улучшенная обучающая методика и дополнительные данные для conversational QA повышают возможности работы с таблицами и арифметическими вычислениями. Модель является текстовой и поддерживает генерацию текста; заявленный язык — английский. Рекомендуется явно передавать релевантный контекст и указывать модели сообщать, если ответ отсутствует в нём. README не содержит сведений о размере контекстного окна и конкретном типе квантизации, поэтому эти характеристики нельзя уточнить. Лицензия указана как llama3; условия её применения следует проверять по лицензии исходной модели NVIDIA.

Meta-Llama-3-8B-Instruct-GGUF — это квантизированное представление модели Meta-Llama-3-8B-Instruct в формате GGUF, подготовленное пользователем brittlewis12 на основе оригинальной модели Meta. Модель разработана Meta и относится к семейству Llama 3. Она предназначена для генерации текста и диалоговых сценариев, включая локальные приложения и ассистентов, работающих через llama.cpp и совместимые инструменты. Модель использует авторегрессионную оптимизированную архитектуру Transformer и содержит около 8 миллиардов параметров. Instruction-tuned версия обучена с применением supervised fine-tuning и reinforcement learning from human feedback для повышения полезности и безопасности ответов. Указан английский язык; поддерживается только текстовая модальность. Формат GGUF и внесённые улучшения токенизации упрощают использование в локальных средах, включая устройства Apple, однако конкретные требования к памяти и производительности в README не указаны. Сильными сторонами являются диалоговая настройка, относительно компактный размер и заявленные результаты оригинальной модели на тестах знаний, программирования и математики. Ограничениями выступают отсутствие сведений о характеристиках конкретных уровней квантизации, размере контекста и качестве работы на других языках, а также возможные ошибки и ограничения безопасности, свойственные генеративным языковым моделям. Лицензия указана как Llama 3 с отдельными условиями Meta; подробности приведены в лицензии оригинальной модели.

MiniCPM5-2B-GGUF — это набор общественных GGUF-квантизаций плотной языковой модели MiniCPM5-2B, разработанной OpenBMB и преобразованной в формат GGUF автором ngquocvinh. Релиз предназначен для локального запуска через llama.cpp и совместимые среды, включая Ollama и LM Studio, а также для создания локальных ассистентов, coding agents, сценариев с использованием инструментов и развёртывания на устройствах с ограниченными ресурсами. Релиз является только конвертацией и квантизацией исходной модели без дополнительного обучения, дообучения, объединения весов или иных изменений параметров. Модель использует архитектуру LlamaForCausalLM, содержит около 2,52 млрд параметров, 42 слоя и GQA с 16 query-heads и 2 KV-heads. Нативная длина контекста составляет 131 072 токена. В метаданных указаны английский и китайский языки. Поддерживаются генерация текста, рассуждения и официальный шаблон чата с thinking и XML-стилем вызова инструментов, однако поведение tool calling в этом релизе отдельно не сертифицировано. Доступно несколько уровней квантизации: от Q8_0 и Q6_K с наибольшей близостью к BF16-версии до более компактных вариантов с меньшей точностью. Чем сильнее сжатие, тем ниже требования к ресурсам, но тем заметнее отклонение поведения от исходной модели; экстремально низкие уровни, такие как Q1_0 и некоторые Q2-варианты, демонстрируют существенную потерю качества по приведённым измерениям. Релиз распространяется по Apache License 2.0 с требованием сохранять атрибуцию OpenBMB и лицензию при перераспределении. Это общественная квантизация, не официальный релиз и не одобрение OpenBMB.

MaziyarPanahi/Mistral-7B-claude-instruct-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на основе Mistral-7B-Instruct-v0.1 и Norquinal/Mistral-7B-claude-instruct. Для слияния использован метод SLERP с настройками, различающимися для слоёв self-attention и MLP. Модель предназначена для генерации ответов на инструкции и диалоговые запросы. Модель использует плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Она принимает текст и генерирует текст; карточка не уточняет языки, на которых она рассчитана. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Olmo Hybrid Instruct DPO 7B — англоязычная авторегрессионная языковая модель семейства Olmo Hybrid, разработанная Allen Institute for AI (Ai2). Это плотная гибридная RNN-модель на 6,3 млрд параметров, дообученная методом supervised fine-tuning и оптимизации предпочтений DPO на запросах по математике, программированию, диалогам и общим знаниям. Она предназначена для диалоговых ответов и генерации текста; поддерживает контекст до 32 768 токенов и запускается через Transformers 5.3.0 или выше. В карточке приведены результаты оценки на математических бенчмарках, включая MATH и AIME. Модель выпускается в формате safetensors и распространяется по лицензии Apache 2.0; Ai2 указывает исследовательское и образовательное применение в соответствии с рекомендациями Responsible Use. Без дополнительной фильтрации она может генерировать вредный или предвзятый контент, а ответы могут содержать фактические ошибки.

Olmo-Hybrid-Think-SFT-7B — языковая модель Allen Institute for AI (Ai2) семейства OLMo Hybrid. Это плотная авторегрессионная модель с гибридной RNN-архитектурой, содержащая 6,3 млрд параметров и принимающая текстовые запросы для генерации текста и диалоговых ответов. Модель дообучена методом supervised fine-tuning на Dolci-Think-SFT-7B с примерами по математике, программированию, диалогу и общим знаниям; карточка указывает английский язык. Контекст — до 32 768 токенов. Модель предназначена для диалогового использования и задач рассуждения, включая математику и программирование. Ai2 сообщает о повышенной эффективности предобучения и улучшенной скорости и экономии памяти при работе с длинным контекстом; результаты отдельных бенчмарков приведены в карточке. Доступен интерфейс для вызова инструментов, однако сам по себе он не гарантирует корректность ответов или выполнения действий. Вес репозитория опубликован в формате safetensors, для работы указана библиотека Transformers версии 5.3.0 или выше. Лицензия — Apache 2.0; модель предназначена для исследований и обучения согласно рекомендациям Ai2 по ответственному использованию. Ответы могут содержать фактические ошибки и смещения, а без дополнительной фильтрации модель может генерировать вредный или чувствительный контент.

Open-Instruct Human-mix 30B — модель AllenAI на архитектуре LLaMA, дообученная на смеси созданных людьми наборов инструкций: FLAN V2, CoT, Dolly и OpenAssistant 1. Она предназначена для генерации текста в ответ на инструкции, включая общие вопросы, задачи на рассуждение и программирование. В README приведены результаты оценки на MMLU, GSM, BBH, TydiQA, Codex-Eval и AlpacaFarm. Модель содержит 32,3 млрд параметров, использует архитектуру LlamaForCausalLM и контекст до 2048 токенов. Репозиторий содержит diff весов: для использования нужна совместимая базовая LLaMA в формате Hugging Face. Модель принимает текст и генерирует текст; README описывает специальный формат входных инструкций, соблюдение которого влияет на качество генерации. Указана лицензия AI model license вместе с исходной лицензией LLaMA; условия обеих лицензий следует учитывать при использовании. Модель обучена преимущественно на англоязычных инструкционных данных, поэтому её применение на других языках не подтверждено карточкой.

p-e-w_phi-4-heretic-GGUF — это набор GGUF-квантизаций модели phi-4-heretic, созданной p-e-w и подготовленной для распространения bartowski. Квантизация выполнена с использованием llama.cpp и метода imatrix; доступны варианты от BF16 до низкобитных форматов Q8, Q6, Q5, Q4 и Q3. Модель предназначена для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель ориентирована на генерацию текста, диалоговое взаимодействие, задачи NLP, математику и программирование. В карточке указан английский язык. Доступны файлы разного размера: от 29,32 ГБ для BF16 до 6,25 ГБ для IQ3_XS, что позволяет выбирать компромисс между качеством и требованиями к памяти. Рекомендуемыми названы многие варианты Q4–Q6; Q4_K_M обозначен как стандартный вариант для большинства сценариев. К сильным сторонам относятся широкий выбор квантизаций, возможность локального запуска и применение imatrix для повышения качества квантованных версий. Ограничения — зависимость качества от выбранного формата, отсутствие в README сведений о точной архитектуре, числе параметров и размере контекста, а также неуказанный chat template: предложенный шаблон может быть некорректным и требует проверки по исходной карточке модели. Лицензия — MIT.

SAIFIINDUSTRIES/Qwen2.5-7B-Instruct-1M — чат-модель для генерации текста на основе Qwen2.5-7B, представленная как вариант семейства Qwen2.5-1M с длинным контекстом. В метаданных указаны архитектура Qwen2, 7,1 млрд параметров, формат safetensors и дообучение базовой модели Qwen/Qwen2.5-7B; README описывает причинную языковую модель с RoPE, SwiGLU, RMSNorm и контекстом до 1 010 000 токенов, включая генерацию до 8192 токенов. Модель предназначена для диалогов и задач генерации текста с длинными входными материалами: например, анализа объёмных документов и работы с большими контекстами. README рекомендует специальную сборку vLLM со sparse attention и методами экстраполяции контекста для эффективной работы на максимальной длине. Для обработки последовательностей в миллион токенов указано требование не менее 120 ГБ видеопамяти суммарно; при использовании прежних средств вывода возможно снижение точности на длинах свыше 262 144 токенов. Модель использует лицензию Apache-2.0. Метаданные указывают английский язык; README не приводит отдельного перечня поддерживаемых языков.

MLX-версия инструкционной языковой модели Qwen3-30B-A3B-Instruct-2507, разработанной командой Qwen и конвертированной сообществом mlx-community в формат MLX с использованием mlx-lm 0.26.3. Модель предназначена для генерации текста и диалогового взаимодействия, включая выполнение пользовательских инструкций в приложениях на базе mlx-lm. Из README известно, что модель представлена в 4-битном формате квантования и распространяется как text-generation-модель. Архитектура, общее число параметров, число активных параметров, поддерживаемые языки, модальности и размер контекста в предоставленных данных не указаны. Преимущество версии заключается в адаптации для экосистемы MLX; ограничением является отсутствие подробных сведений о характеристиках, качестве и производительности. Модель распространяется по лицензии Apache-2.0. Для использования требуется библиотека mlx-lm; приведённый пример ориентирован на запуск через Python и применение chat template токенизатора.

oktayd разработал Qwen3.6-35B-v2-MoE-Ablit-Heretic-Uncensor-Hermes-MTP-Vision-FT — дообученную мультимодальную модель семейства Qwen3.5 MoE для диалога, анализа изображений, программирования и рассуждений. Архитектура Qwen3_5MoeForConditionalGeneration содержит около 35 млрд параметров, из которых примерно 3 млрд активны на токен; при генерации выбираются 8 из 256 экспертов. Модель принимает текст и изображения и предназначена для запуска через Transformers. Её можно использовать для вопросов по изображениям, объяснения научных и рабочих тем, написания и отладки кода, мозгового штурма и диалоговых сценариев. В README описан прямой, деловой и юмористический стиль общения, а также обучение на материалах по знаниям, программированию, инструментам, бизнесу и визуальным задачам. Вызов инструментов зависит от приложения, которое предоставляет и исполняет инструменты; форматирование вызовов не гарантировано. Автор сообщает о проверках текста и простых изображений, но не приводит результатов бенчмарков. Модель может ошибаться, повторяться и допускать ошибки в схемах; MTP и полноценные агентские сценарии отдельно не подтверждены. Веса BF16 занимают около 70 ГБ без учёта дополнительной памяти для выполнения. Включено обучение на взрослые темы, поэтому модель рассчитана на аудиторию 18+. Лицензия — Apache-2.0.

iliaosipov998/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — многоэтапная fine-tune и merge-модель на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU, подготовленная с использованием Unsloth и методов COLD FUSION и Fable Fusion. Репозиторий содержит обычные и MTP-варианты GGUF-квантов, включая версии с 4- и 8-битным представлением. Разработчик заявляет о создании модели для потребительского оборудования и о снижении объёма рассуждений по сравнению с базовой Qwen 3.8 27B при сохранении детализации и качества ответов. Модель предназначена для широкого спектра сценариев: решения задач и рассуждений, программирования, творческого письма, создания художественных текстов, ролевых диалогов и других универсальных применений. Заявлены поддержка английского и китайского языков, текстовый ввод и вывод; при этом в карточке присутствует тег image-text-to-text, но подробности о фактических мультимодальных возможностях не приведены. Архитектура, точное окно контекста и полный набор режимов работы не описаны, однако из названия и карточки следует размер базовой модели около 27B параметров и наличие MTP-режима. К заявленным сильным сторонам относятся высокая производительность на внутренних и упомянутых ARC-C и ARC-E тестах, уменьшенное количество рассуждающих токенов, ускоренная генерация, развитые способности к программированию и генерации подробных текстов. Эти результаты представлены авторами модели и не подтверждены независимыми измерениями в предоставленных данных. Ограничения включают возможную необъективность заявленных бенчмарков, отсутствие подробной информации о качестве, безопасности и поведении на других языках, а также позиционирование как uncensored/abliterated-модели, что может означать ослабленные защитные ограничения. Лицензия — Apache-2.0.

QWQ-EVA-Preview-SLERP-32b — языковая модель на 32 млрд параметров, созданная слиянием ParasiticRogue/EVA-Instruct-32B-v2 и Qwen/QwQ-32B-Preview методом SLERP с помощью mergekit. Она предназначена для диалоговой генерации текста; базовые модели также ориентированы на математические рассуждения и программирование, поэтому модель может быть полезна в таких сценариях, однако README не приводит отдельных оценок её возможностей. Модель построена на архитектуре Qwen2ForCausalLM, принимает текст и выдаёт текст, поддерживает контекст до 131072 токенов и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0.