II.8Инженерия данных и аналитика

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая модель на базе Qwen3.6-27B, представленная DavidAU. Она создана в результате многоэтапного дообучения, нескольких слияний моделей и применения методов Unsloth; в разработке также участвовали Nightmedia, TeichAI, armand0e и trohrbaugh. Для обучения и настройки упоминаются наборы DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Модель предназначена для широкого круга сценариев: следования инструкциям, решения задач, рассуждений, программирования, диалогов, ролевых взаимодействий и работы с художественными текстами. В README заявлена поддержка vision, а в метаданных указаны английский и китайский языки. Доступны обычные GGUF-квантизации и варианты MTP для многотокенного предсказания; все квантизации обозначены как NEO IMATRIX, а выходной тензор частично сохранён в 16-битной точности. Размер базовой модели — 27 млрд параметров. Заявленные сильные стороны — улучшенное следование инструкциям, общее решение задач и рассуждение, а также сохранение качества на низких уровнях квантизации. Автор сообщает о превосходстве базовой Qwen3.6-27B по большинству из семи внутренних бенчмарков, однако эти результаты приведены в README и требуют независимой проверки. Для MTP-вариантов рекомендуется температура не выше 1 и отключённая репетиция; при низком уровне принятия токенов следует использовать обычную квантизацию. Модель описана как uncensored, поэтому её ответы могут иметь меньше встроенных ограничений безопасности. Лицензия — Apache-2.0.

MrFadiAi выпустил Qwen3.6-35B-A3B-Hermes-V6 — неофициальную сборку сообщества на основе семейства Qwen3.6 с дообучением и настройкой в стиле Hermes. Это мультимодальная модель Mixture-of-Experts: около 35 млрд параметров всего и около 3 млрд активных на каждом токене. Модель распространяется в формате GGUF для запуска через llama.cpp; для обработки изображений требуется отдельный мультимодальный проектор. Модель предназначена для диалогов, понимания изображений, рассуждений, вызова инструментов и агентных сценариев, включая многошаговое выполнение задач. Автор сообщает о результатах локальных сравнительных тестов по математике, знаниям и использованию инструментов, но они получены на ограниченной выборке и конкретном оборудовании, поэтому их нельзя напрямую сопоставлять с официальными результатами других тестов. В README приведена команда запуска с контекстом 32768 токенов. Для весов требуется около 17 ГБ памяти; фактическая скорость зависит от оборудования и конфигурации. Метаданные указывают лицензию Apache-2.0, однако автор рекомендует проверить применимые условия лицензии базовой модели перед использованием или распространением.

Rabbit-Hole-Ai/Qwen3.8-27B-5090-goldilocks-GGUF — это квантованная версия Qwen3.8-27B в формате GGUF, предназначенная для запуска через llama.cpp. Модель основана на Qwen/Qwen3.8-27B и оптимизирована для размещения на одной видеокарте NVIDIA RTX 5090 с 32 ГБ памяти под Windows 11. Основное назначение — генерация текста с большим контекстом, включая локальный инференс и сценарии, где важны высокая вместимость контекста и поддержка speculative decoding. Файл использует смешанную точность с эффективным показателем 7,36 bpw и занимает около 23 990 МиБ. В составе 866 тензоров применяются 339 тензоров Q8_0, 167 Q6_K и 360 F32; MTP-слой blk.64 сохранён для совместимости с режимом draft-mtp. Для текстовых задач заявлена поддержка контекста до 131 тыс. токенов, а при использовании vision projector — до 110 тыс. токенов. README приводит среднюю KL-дивергенцию относительно исходной BF16-модели 0,001800 для RTN-сборки и 0,001678 для imatrix-сборки. Сильная сторона модели — эффективное использование памяти RTX 5090 за счёт повышения точности квантования в пределах доступного объёма VRAM и сохранения качества, близкого к BF16-оригиналу. Указанная скорость генерации зависит от глубины контекста и конфигурации: для imatrix-файла приводятся значения 72,6 токена/с при глубине 8 тыс. и 64,0 токена/с при глубине 98 тыс. Ограничениями являются требовательность к видеопамяти, заметное падение скорости на длинном контексте и необходимость внимательно выбирать параметры KV-кэша и speculative decoding: сочетание квантованного KV-кэша с определёнными настройками спекулятивной генерации может резко ухудшить производительность. Лицензия — Apache-2.0.

AetherKelly00/Qwen3.8-Flash-Next-GGUF — GGUF-версия экспериментальной мультимодальной модели Qwen3.8-Flash-Next, разработанной командой Qwen; репозиторий также содержит материалы Unsloth для запуска и квантизации. Это причинная языковая модель с визуальным энкодером, предназначенная для обработки текста и изображений, диалоговых сценариев, анализа документов и агентских задач с длинным контекстом. Для запуска рекомендуются llama.cpp или Unsloth Desktop. Модель использует архитектуру с гибридным вниманием: Gated DeltaNet сочетается с Qwen Sparse Attention, работающим на уровне микроблоков. Также применяются Gated Residual, n-gram embedding и Mixture of Experts. Заявлено 125 млрд параметров, из которых активируется около 6 млрд, дополнительно 51 млрд параметров приходится на n-gram embedding и 4 млрд — на MTP. Архитектура включает 48 слоёв, 512 экспертов с 10 маршрутизируемыми и одним общим активным экспертом. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 000 000 токенов. Поддерживаемые языки в README не указаны. К сильным сторонам относятся высокая вычислительная эффективность за счёт разреженной активации экспертов, оптимизации длинного контекста и возможность локального запуска в формате GGUF. Ограничения включают экспериментальный статус архитектуры, необходимость совместимого программного обеспечения и отсутствие в представленном README подробных результатов тестирования, конкретных требований к памяти и информации о поддерживаемых вариантах квантизации. Модель распространяется по лицензии qwen-community-1.0; указанный тип лицензии — other.

Xwen-72B-Chat — диалоговая языковая модель команды Xwen, дообученная на базе Qwen2.5-72B. Модель имеет плотную архитектуру Qwen2 и 71,5 млрд параметров; она предназначена для генерации текста и ведения диалогов, включая сценарии с интерфейсом вызова инструментов. Заявленная длина контекста — 131 072 токена. Модель ориентирована на ответы на вопросы, диалоговое взаимодействие и другие задачи генерации текста. В README приведены результаты сравнительных оценок Arena-Hard-Auto, AlignBench и MT-Bench, однако авторы предупреждают, что некоторые сравнения используют заменённые модели-судьи, а результаты других бенчмарков ещё планировалось добавить. Карточка также отмечает, что ответы о личности модели и её разработчиках могут быть случайными, поскольку её идентичность специально не настраивали. Модель опубликована в формате Safetensors и доступна по лицензии Apache-2.0. Отдельные репозитории команды содержат варианты Xwen-72B-Chat в GGUF с различными видами квантования; они не являются форматом данного репозитория.

Andycurrent/gemma-3-4b-it-uncensored-v2-GGUF — квантованные версии Gemma-3-4B-IT-Uncensored-v2, созданной на базе Gemma 3 и модели braindao/gemma-3-4b-it-uncensored-v2. Это инструкционно дообученная языковая модель примерно на 4 млрд параметров, предназначенная для локального, офлайн- и приватного развертывания. Указан английский язык; модель работает в текстовом режиме и использует формат чата Gemma с маркерами начала и конца хода диалога. Модель ориентирована на диалоги, генерацию текста, творческие задачи, рассуждения, структурированные ответы, объяснение кода, примеры и лёгкую отладку. Она делает акцент на высокой отзывчивости, следовании пользовательским инструкциям, стабильности в продолжительных диалогах и уменьшенном количестве встроенных ограничений, поэтому может применяться для персональных ассистентов, ролевых систем, prompt engineering, исследований выравнивания и экспериментов с поведением моделей. Ключевое преимущество — сочетание компактного размера и возможности запуска на потребительских GPU, CPU с квантованием и устройствах с ограниченными ресурсами. При этом точные параметры квантования, максимальная длина контекста и результаты бенчмарков не указаны. Из-за минимально ограниченного поведения модель может генерировать контент, который обычно фильтруется; пользователю необходимо самостоятельно учитывать требования законодательства, политики и этические нормы. Лицензия наследует условия оригинальной модели Gemma.

GLM-5.3-Flash-REAP-250B-A18B — мультимодальная MoE-модель, разработанная OpenMOSE на базе GLM-5.3-Flash от zai-org. Она предназначена для многоязычного диалога, работы с кодом и задач, связанных с японским языком; заявленная мультимодальность включает обработку текста и изображений. В README указаны языки English, Chinese и Japanese. Модель использует архитектуру Glm5NextForConditionalGeneration с 42 MoE-слоями и 228 маршрутизируемыми экспертами в каждом слое вместо 288 у исходной модели. В ней 250,5 млрд параметров без MTP-слоя и 257,9 млрд с ним, при этом число активных параметров на токен сохранено на уровне 18 млрд: выбираются 8 из оставшихся экспертов и общий эксперт. Модель хранится в блочном формате FP8, занимает около 265 ГБ и совместима с исходным кодом инференса; vision tower, MTP-слой, токенизатор и chat template скопированы без изменений. Контекст в README явно не указан. Эксперты были удалены методом domain-aware REAP без дополнительного обучения. Такой подход сохраняет важные для чата и программирования эксперты лучше, чем калибровка по одному домену, одновременно уменьшая размер модели и требования к GPU при сохранении исходной вычислительной нагрузки на токен. Ограничение метода состоит в том, что удаление экспертов неизбежно сокращает ёмкость модели и может ухудшить способности в доменах, не представленных в калибровочных данных; README не приводит независимых количественных результатов оценки качества. Модель распространяется по лицензии MIT.

canada-quant/glm-5.3-w4a16-mtp — это мультимодальная квантованная версия GLM-5.3-Flash, разработанная на основе модели zai-org/GLM-5.3-Flash. Модель предназначена для задач image-text-to-text, включая обработку текста и изображений, а также для сценариев, где важны длинный контекст и высокая эффективность инференса. Заявлена поддержка английского и китайского языков и контекста до 1 048 576 токенов. Используется INT4-квантизация весов по схеме W4A16 с GPTQ и group size 128; общий объём весов составляет около 177,7 GiB. BF16-компоненты, включая vision tower и MTP draft head, сохранены, что позволяет применять speculative decoding через MTP. Квантизация ориентирована на снижение требований к памяти и запуск на конфигурациях из 4× H100/H200, 4× RTX PRO 6000 или 2× DGX Spark; максимальный контекст зависит от оборудования и настроек. Репозиторий сообщает о высокой производительности на длинных контекстах и конкурентном качестве на математических и общих тестах, однако результаты зависят от аппаратной конфигурации и serving stack. Это не новая базовая модель, поэтому её возможности определяются GLM-5.3-Flash, а INT4-квантизация может влиять на точность и совместимость. Лицензия — MIT.

granite-4.2-3b-GGUF — это квантованная версия языковой модели granite-4.2-3b, разработанной IBM (ibm-granite) и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста, задач рассуждения, диалоговых сценариев и вызова инструментов. Она принимает только текстовые данные и поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель содержит около 4 млрд параметров. Квантование выполнено с использованием llama.cpp и метода imatrix; доступны варианты от BF16 до низкобитных Q2–Q8 и IQ-квантов размером примерно от 1,57 до 7,32 ГБ. В README не указаны архитектура и размер контекстного окна, а speculative decoding не поддерживается. Более компактные варианты экономят оперативную память, но могут снижать качество; Q4_K_M обозначен как сбалансированный вариант для большинства сценариев, а Q5–Q6 — как варианты с более высоким качеством. Модель распространяется по лицензии Apache-2.0. Для корректной работы рекомендуется использовать указанный шаблон prompt с секцией рассуждений <think> и совместимый рантайм llama.cpp.

K2-Horizon-MoVA-36B-A4B-GGUF — набор GGUF-квантизаций модели K2-Horizon-MoVA-36B-A4B, разработанной Institute of Foundation Models (IFM) при MBZUAI и выпущенной 3 сентября 2026 года. Модель предназначена для генерации текста, рассуждений и работы с длинным контекстом; заявлена поддержка английского языка. Формат GGUF ориентирован на запуск через llama.cpp и совместимые инструменты. Модель использует архитектуру k2_horizon и сочетает разреженную Mixture-of-Experts (MoE) с механизмом Mixture-of-Values (MoVA), применяющим разреженную маршрутизацию внутри attention. Всего предусмотрено около 36 млрд параметров, из которых примерно 4 млрд активируются для каждого токена. Архитектура включает 48 слоёв, 100 маршрутизируемых экспертов с 8 активными и одним общим экспертом на MoE-слой, а также 64 value-эксперта с 4 активными на attention-слой. Нативное контекстное окно составляет до 524 288 токенов. Доступны варианты от BF16 до низкобитных Q2 и IQ-квантизаций, что позволяет выбирать между качеством, размером файлов и требованиями к памяти. При этом активация только 4 млрд параметров на токен не означает, что модель требует память уровня 4 млрд параметров: все веса объёмом около 10–70 ГиБ должны находиться в RAM или VRAM, а память под KV-кэш и служебные расходы учитывается отдельно. Для загрузки GGUF необходима ветка model/K2Horizon форка llama.cpp от MBZUAI-IFM либо версия upstream после добавления поддержки архитектуры k2_horizon. Лицензия модели — Apache 2.0.

mlx-community/LFM2.5-1.2B-Thinking-bf16 — конверсия модели LiquidAI/LFM2.5-1.2B-Thinking в формат MLX, выполненная сообществом mlx-community с помощью mlx-lm 0.30.4. Это плотная авторегрессионная языковая модель семейства LFM2 с 1,5 млрд параметров, предназначенная для генерации текста в диалоговом режиме и рассуждений. Она рассчитана на контекст до 128 000 токенов и локальный запуск на устройствах Apple Silicon через MLX. Модель подходит для диалогов и генерации ответов на английском, арабском, китайском, французском, немецком, японском, корейском и испанском языках. Базовая карточка описывает семейство как пригодное для рассуждений, агентных задач, извлечения данных и RAG. В репозитории указана лицензия other; конкретные условия следует сверять с лицензией базовой модели и карточкой автора.

atakankutalp/LFM2.5-2.6B-heretic — это изменённая версия LiquidAI/LFM2.5-2.6B, созданная с помощью Heretic 1.4.0. В модели применена направленная абляция: из весов удалено направление, связанное с отказами. Число параметров не изменилось и составляет 2,69 млрд; архитектура LFM2 — плотная языковая модель из 30 слоёв, сочетающая блоки коротких свёрток и группированное внимание. Контекст — 131 072 токена. Репозиторий содержит веса Safetensors и варианты GGUF, включая квантизированные сборки. Модель предназначена для генерации текста в диалоге и агентных сценариев: вызова инструментов, извлечения данных, RAG и работы с длинным контекстом. Базовая LFM2.5 поддерживает 17 языков, включая русский, английский, китайский, арабский и другие; карточка не сообщает, насколько абляция влияет на качество по отдельным языкам. В сравнении с исходной моделью отказы на чувствительных запросах стали заметно реже, поэтому ответы не следует считать защищёнными фильтрами безопасности. Исходная карточка также не рекомендует базовую модель для агентного программирования и задач, требующих обширных знаний. Лицензия указана как other, без конкретных условий в предоставленных данных.

Карточка модели mylesgoose/Llama-3.1-8B-Instruct на Hugging Face совпадает с карточкой tanliboy/Meta-Llama-3.1-8B-Instruct, поэтому описание составлено по ней. tanliboy/Meta-Llama-3.1-8B-Instruct — текстовая инструктивно настроенная языковая модель семейства Llama 3.1, разработанного Meta. Это плотный авторегрессионный трансформер с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров; модель дообучена для диалогов с помощью SFT и RLHF. Она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и ориентирована на многоязычный диалог на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Модель подходит для создания разговорных помощников, ответов на запросы и генерации текста, а также может быть подключена к внешним инструментам через соответствующий интерфейс. Репозиторий содержит веса в формате safetensors. Модель выпущена 6 сентября 2024 года и распространяется по лицензии Llama 3.1 Community License; перед коммерческим или иным применением необходимо соблюдать её условия и Acceptable Use Policy. Качество и безопасность ответов на языках вне восьми заявленных языков могут быть ниже; разработчикам следует оценивать результаты и применять защитные меры в соответствии со своим сценарием. Интеграция внешних инструментов требует отдельной политики и проверки безопасности подключённых сервисов.

DavidAU/Llama3.1-MOE-4X8B-Gated-IQ-Multi-Tier-Deep-Reasoning-32B-GGUF — текстовая instruct-модель, разработанная DavidAU на базе Llama 3.1 и объединяющая четыре 8B-модели в конфигурации Mixture of Experts. В состав входят Llama-3.1-DeepHermes-3-8B-Preview для рассуждений, а также Llama-3.1-Hermes-3-8B, Llama-3.1-dolphin-2.9.4-8b и Llama-3.1-SuperNova-Lite для генерации и дополнительной обработки. Заявленный общий размер — 32B параметров, при этом модель описывается как имеющая около 25B весов. Распространяется в формате GGUF и рассчитана на контекст до 128K токенов. Модель предназначена для текстовой генерации, глубокого рассуждения, решения задач, творческого письма, сторителлинга, ролевых сценариев и работы с инструментами. Поддерживает управление режимом рассуждений через системные промпты, включая включение, отключение и многоуровневое рассуждение, а также совместима с вызовами инструментов благодаря встроенному Llama 3.1 Instruct. Заявлена поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского и ряда других языков. Сильными сторонами являются сочетание нескольких экспертных моделей, возможность управлять режимом рассуждений и универсальность сценариев применения. README рекомендует шаблон Llama 3 Instruct, контекст не менее 4K–8K токенов и более крупные квантизации для лучшего качества. К ограничениям относятся возможная нестабильность активации блока рассуждений, необходимость повторной генерации и зависимость качества от промпта, температуры и выбранной квантизации; заявленные улучшения производительности не подтверждены независимыми бенчмарками. Лицензия — Apache-2.0.

yentinglin/Llama-3.1-Taiwan-8B-Instruct — чат-модель на базе архитектуры Llama, разработанная yentinglin. Она предназначена для генерации текста в диалогах и других сценариях, где требуется следовать инструкциям. Модель содержит 7,5 млрд параметров, использует библиотеку Transformers и формат Safetensors; заявленная длина контекста — 131 072 токена. В метаданных также отмечен интерфейс вызова инструментов. Карточка предупреждает, что ответы нужно самостоятельно проверять на точность и пригодность. Модель не предназначена для медицинской диагностики, юридических консультаций и финансовых решений. В предоставленных материалах условия лицензии не описаны.

baseten/Llama-3.2-3B-Instruct-pythonic — дообученная Baseten модель на базе Meta Llama 3.2 3B Instruct. Это авторегрессионный плотный трансформер семейства Llama, предназначенный для генерации текста и диалогов; карточка также указывает интерфейс вызова инструментов. Базовая модель оптимизирована для многоязычных диалогов, суммаризации и сценариев агентного поиска. Модель содержит 3,2 млрд параметров и поддерживает контекст до 131 072 токенов. Карточка описывает базовую модель как текстовую на входе и выходе, с официальной поддержкой английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Для этой производной модели не приведены отдельные сведения о специализации или дополнительных языках. Репозиторий использует формат safetensors и библиотеку Transformers. Использование регулируется лицензией Llama 3.2 Community License, то есть пользовательскими условиями Meta.

Llama-3-Groq-70B-Tool-Use-GGUF — набор GGUF-квантизаций модели Llama-3-Groq-70B-Tool-Use, опубликованный bartowski на основе исходной модели Groq. Модель предназначена для генерации текста, использования инструментов и function calling, включая сценарии, где языковая модель взаимодействует с внешними функциями или сервисами. Указан английский язык. Модель относится к семейству Llama 3 и имеет размер 70B параметров. README не содержит сведений о точной архитектуре, длине контекста или поддержке мультимодальности; по указанным данным это текстовая модель без подтверждённой поддержки изображений или других модальностей. Доступны варианты квантизации от F32 до Q2_K и IQ2_M с размерами файлов примерно от 24 до 282 ГБ, что позволяет выбирать баланс между качеством и требованиями к памяти. Для запуска рекомендуются llama.cpp и LM Studio; предусмотрен специальный prompt format на основе шаблона Llama 3. Сильными сторонами являются специализация на tool use и function calling, а также широкий выбор уровней квантизации, включая варианты Q4–Q6, ориентированные на высокое качество при меньшем размере. Ограничениями выступают большие требования к оперативной или видеопамяти даже у квантизированных вариантов и возможное снижение качества при низких уровнях квантизации. Модель распространяется по лицензии llama3; README не уточняет дополнительные условия лицензии.

Карточка модели AgentPublic/llama3-instruct-8b на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3-8B-Instruct, поэтому описание составлено по ней. NousResearch/Meta-Llama-3-8B-Instruct — инструктивная версия семейства больших языковых моделей Llama 3, разработанного Meta. Это плотная авторегрессионная трансформерная модель класса LlamaForCausalLM с Grouped-Query Attention и примерно 7,5 млрд параметров; она принимает текст и генерирует текст, включая код. Контекст — до 8192 токенов. Модель настроена для диалоговых сценариев и работы в роли ассистента: она отвечает на вопросы, поддерживает беседу и выполняет инструкции на английском языке. Настройка включает supervised fine-tuning и обучение с подкреплением на основе человеческой обратной связи. Модель можно запускать через Transformers и использовать в приложениях, которым нужна генерация текста. В карточке указана пользовательская коммерческая лицензия Meta Llama 3. README ориентирует модель прежде всего на английский язык и предостерегает от использования в других языках, хотя допускает дообучение для них при соблюдении условий лицензии и политики допустимого использования. Это статичная модель, обученная на офлайн-данных; для прикладного развёртывания могут потребоваться дополнительные меры безопасности, а ответы модели могут быть ошибочными.

unsloth/Llama-4-Maverick-17B-128E-Instruct-GGUF — модель в формате GGUF, подготовленная Unsloth на основе Meta Llama 4 Maverick 17B-128E-Instruct. Она предназначена для работы в режиме instruct: диалогов, следования инструкциям и решения широкого спектра текстовых задач. В README указана поддержка арабского, немецкого, английского, испанского, французского, хинди, индонезийского, итальянского, португальского, тайского, тагальского и вьетнамского языков. Из доступных данных известны обозначенные в названии характеристики: 17B и 128E, а также формат GGUF, обычно ориентированный на локальный инференс в совместимом программном обеспечении. Сведения о длине контекста, точной архитектуре, модальностях, вариантах квантования, требованиях к оборудованию, результатах тестирования и ограничениях качества в README не приведены, поэтому их нельзя оценить по имеющимся данным. Модель распространяется в соответствии с Llama 4 Community License от Meta. Лицензия предоставляет ограниченные безвозмездные права на использование, копирование, распространение и создание производных работ при соблюдении условий, включая передачу текста лицензии, указание «Built with Llama» при распространении материалов или продуктов, сохранение обязательного уведомления об атрибуции и соблюдение Acceptable Use Policy. Для продуктов с более чем 700 миллионами ежемесячно активных пользователей предусмотрено дополнительное лицензионное условие Meta.

Mistral-7B-Instruct-v0.2 — диалоговая инструкцияязычная модель семейства Mistral, разработанная Mistral AI. Это плотная причинная языковая модель на 7,1 млрд параметров для генерации текста и ответов на запросы в формате чата; для работы с ней в README приведены примеры токенизации и инференса через mistral-common и mistral-inference. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Репозиторий содержит веса PyTorch в формате safetensors и распространяется по лицензии Apache-2.0. Карточка характеризует её как быструю демонстрацию возможностей дообучения базовой модели. В README отмечено, что у модели нет встроенных механизмов модерации, поэтому её ответы могут не соблюдать ограничения безопасности и требуют соответствующей защиты при развёртывании.

Mistral-7B-Instruct-v0.3-4bit — это 4-битная квантованная версия инструкционной языковой модели Mistral-7B-Instruct-v0.3, разработанной Mistral AI. Модель была конвертирована сообществом mlx-community в формат MLX с использованием mlx-lm версии 0.14.3. Модель предназначена для генерации текста и выполнения пользовательских инструкций в сценариях, поддерживаемых исходной инструкционной моделью. Она рассчитана на запуск через библиотеку mlx-lm и формат MLX, что делает её ориентированной на совместимые устройства и программное окружение Apple MLX. Размер модели — 7 миллиардов параметров, используется 4-битное представление весов. К преимуществам относятся компактность по сравнению с полноформатной версией и возможность локального запуска в MLX-окружении. Ограничения включают возможную потерю качества из-за 4-битной квантования, зависимость от mlx-lm и совместимого оборудования, а также отсутствие в предоставленных данных сведений о поддерживаемых языках, размере контекста, конкретных модальностях и результатах тестирования. Модель распространяется по лицензии Apache-2.0.

Mistral-Large-Instruct-2407-4bit — крупная инструкционная языковая модель семейства Mistral, подготовленная сообществом mlx-community. Она конвертирована из mistralai/Mistral-Large-Instruct-2407 в формат MLX с использованием mlx-lm и предназначена для запуска на устройствах, поддерживающих экосистему MLX. Модель содержит около 122,2 млрд параметров, использует 4-битную квантизацию и поддерживает контекст длиной до 32 768 токенов. Она ориентирована на генерацию текста по инструкциям: диалоги, ответы на вопросы, составление и редактирование текстов, суммирование и другие сценарии применения общей языковой модели. Поддерживаются английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. Для использования требуется библиотека mlx-lm. 4-битная квантизация уменьшает требования к памяти, но может снижать точность по сравнению с полноточной или менее квантизованной версией. Модель распространяется по лицензии Mistral Research License (MRL-0.1), указанной в карточке как license: other.

win10/Mistral-Nemo-abliterated-Nemo-Pro-v2 — слитая диалоговая языковая модель на архитектуре Mistral, созданная методом TIES с помощью mergekit. В качестве основы использована natong19/Mistral-Nemo-Instruct-2407-abliterated; в слияние также включены shuttleai/shuttle-2.5-mini и cognitivecomputations/dolphin-2.9.3-mistral-nemo-12b. Модель предназначена для диалогов и генерации текста. Она содержит 12,1 млрд параметров, работает с текстом и опубликована в формате safetensors для библиотеки Transformers. Метаданные указывают контекст до 1 024 000 токенов и интерфейс вызова инструментов. Модель поддерживает многоязычную генерацию. Данных о специальных предметных областях или конкретных ограничениях качества в карточке нет. Лицензия в предоставленных сведениях не указана.

Mistral-NeMo-Minitron-8B-Instruct — языковая модель NVIDIA для генерации ответов и ведения диалога. Это дообученная версия nvidia/Mistral-NeMo-Minitron-8B-Base, которая была сжата из Mistral-NeMo 12B с помощью pruning и distillation. Модель обучали в несколько этапов с supervised fine-tuning и выравниванием предпочтений. Она построена на авторегрессионном трансформере Mistral-NeMo с 40 слоями, Grouped-Query Attention и RoPE; содержит 7,9 млрд параметров и поддерживает контекст до 8192 токенов. Модель подходит для ролевого диалога, генерации текста, ответов с опорой на найденные документы в RAG-сценариях и вызова функций. Для диалога рекомендуется использовать формат System/User/Assistant, на котором проводилось дообучение. README не перечисляет конкретные поддерживаемые естественные языки, поэтому языковая специализация не заявлена. Оценки в карточке включают MMLU, MT Bench и GSM8K. Модель может воспроизводить токсичность и предвзятость обучающих данных, давать неточные, неполные или избыточные ответы; в агентных сценариях следует проверять безопасность используемых пакетов. Лицензия указана как other; перед использованием необходимо свериться с условиями NVIDIA.

zetasepic/Mistral-Small-Instruct-2409-abliterated — производная версия Mistral-Small-Instruct-2409, созданная автором репозитория с применением метода «abliteration». Это плотная инструкционная языковая модель семейства Mistral на 22 млрд параметров с архитектурой MistralForCausalLM, предназначенная для диалогов и генерации текста; метаданные также указывают интерфейс вызова функций. Модель принимает текст и рассчитана на контекст до 32 768 токенов. Карточка сообщает об использовании кода для abliteration, но не описывает процедуру, результаты, языковое покрытие или ограничения этой версии. Базовая модель — mistralai/Mistral-Small-Instruct-2409. Файлы представлены в формате safetensors; указанная библиотека — Transformers. Лицензия в предоставленных данных не приведена.

FreedomAISVR/Muse-Glimmer-30B-NVFP4-GGUF — квантованная сборка Muse-Glimmer-30B от Meta в формате GGUF для локального запуска через llama.cpp. Это плотный причинный трансформер с интегрированным визуальным энкодером; базовая модель насчитывает 27,8 млрд параметров и принимает изображения, в том числе снимки экрана, диаграммы и документы. Контекст достигает 131 тыс. токенов. Сборка использует NVIDIA NVFP4: 4-битные значения E2M1 с масштабированием E4M3 на группы из 16 значений; размер файла — 15,6 ГБ. Модель предназначена для генерации текста и диалогов, а также анализа изображений при локальном инференсе. Для работы с изображениями README рекомендует llama-mtmd-cli или llama-server с mmproj. Проверенная конфигурация использует llama.cpp 1647+ с поддержкой CUDA и видеокарту NVIDIA с 16 ГБ видеопамяти; NVFP4 рассчитан на GPU NVIDIA Blackwell, например RTX 50-й серии. В README приведены результаты на RTX 5060 Ti 16 ГБ: 80,2 токена/с обработки входа и 8,7 токена/с генерации. README указывает лицензию Apache 2.0 для базовой модели. Среди ограничений — требования к совместимому GPU и CUDA-ядрам; отключение рассуждений через конфигурацию не гарантируется, поэтому автор рекомендует параметр --reasoning off при запуске.

Карточка модели ckoozzzu/new1 на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-8B-Instruct, поэтому описание составлено по ней. Meta Llama 3.1 8B Instruct — языковая модель Meta для диалогов и генерации текста. Это авторегрессионная модель на основе оптимизированного трансформера с Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей (RLHF). Модель принимает и генерирует текст, поддерживает диалоговый режим и предназначена для коммерческого и исследовательского применения. Модель подходит для создания чат-ассистентов, ответов на запросы и других задач генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Контекстное окно в предоставленных материалах не указано. Модель обучена на статичном офлайн-наборе данных; возможны ошибки и небезопасные ответы, поэтому результаты следует проверять, а для использования инструментов требуется отдельная интеграция и контроль со стороны разработчика. Условия распространения и применения регулируются лицензией Meta Llama 3.1 Community License и Acceptable Use Policy.

Nous-Hermes-2-DPO_into_Nous_Hermes-2-Pro — слитая модель, созданная с помощью LazyMergekit на основе NousResearch/Nous-Hermes-2-Mistral-7B-DPO и NousResearch/Hermes-2-Pro-Mistral-7B. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста и диалогов; контекстное окно составляет 32 768 токенов. Модель поддерживает чат-сценарии и использует формат весов safetensors. Слияние выполнено методом SLERP с настройками, заданными по слоям и компонентам внимания и MLP; в README указан тип данных bfloat16. Метаданные не содержат сведений о лицензии и конкретном наборе поддерживаемых языков, поэтому их нельзя надёжно указать.

NVIDIA-Nemotron-Labs-3-Elastic-12B-A2B — извлечённый из семейства NVIDIA Nemotron Labs 3 Elastic 12B вариант языковой модели, опубликованный DavidAU. Модель предназначена для диалогов, генерации текста и задач рассуждения. В ней 946,5 млн параметров по метаданным; архитектура Nemotron H, а базовая модель — NVIDIA-Nemotron-Labs-3-Elastic-30B-A3B-BF16. В README для семейства описана гибридная архитектура Mamba, Transformer и MoE с 128 экспертами, из которых активируются 8; вариант 12B указан как содержащий 2B активных параметров. Модель принимает текст и выдаёт текст, поддерживает контекст до 262 144 токенов по метаданным. Указаны английский, немецкий, испанский, французский, итальянский и японский языки. README сообщает о коротких блоках рассуждений и готовности к дальнейшей настройке. Лицензия обозначена как other, а README заявляет о коммерческой применимости, поэтому условия следует проверять по лицензии исходной модели и карточке репозитория.

AaryanK/Qwen3.5-2B-GGUF — это квантованное представление модели Qwen3.5-2B в формате GGUF, разработанной командой Qwen. Модель предназначена для запуска через совместимые инструменты, включая llama.cpp, и ориентирована на генерацию текста, прототипирование, исследовательские задачи и разработку прикладных решений. Модель имеет около 2 млрд параметров и использует гибридную архитектуру Hybrid Gated DeltaNet + Gated Attention с vision encoder. Она поддерживает текстовые и мультимодальные входы, включая изображения и видео, вызов инструментов и контекст до 262 144 токенов. В README также заявлена поддержка 201 языка и диалекта, однако для данной GGUF-сборки явно указан английский язык. По умолчанию модель работает в режиме без рассуждений. К сильным сторонам относятся компактный размер, поддержка длинного контекста, мультимодальность и возможность эффективного локального инференса. Ограничения включают зависимость от актуальной версии llama.cpp с поддержкой операторов Gated DeltaNet, а также отсутствие подробных данных о конкретных вариантах квантования, качестве на бенчмарках и фактическом наборе поддерживаемых языков в этой сборке. Модель распространяется по лицензии Apache-2.0.