II.8Инженерия данных и аналитика

nwzjk/MiniMax-M3-NVFP4-Duplicated — копия мультимодальной модели MiniMax-M3, разработанной MiniMaxAI и квантизированной в формате NVFP4 с помощью NVIDIA Model Optimizer. Архитектура — мультимодальный Transformer Mixture-of-Experts с 428 млрд параметров и примерно 23 млрд активных параметров на токен. Модель принимает текст, изображения и видео, а выдаёт текст; заявленная длина контекста составляет 1 млн токенов, видео может длиться до 30 минут. Модель предназначена для диалогов, анализа изображений и видео, включая длинные ролики, программирования на длительных задачах и агентных сценариев с вызовом инструментов. Доступны режимы рассуждения для сложных задач и без рассуждений для сценариев, чувствительных к задержке. README сообщает о запуске через vLLM, но для NVFP4 требуется nightly-сборка; также указано, что развёртывание рассчитано на мощные NVIDIA GPU. Квантизация уменьшает требования к памяти, но приведённые в README тесты показывают небольшое снижение результатов относительно FP8. Модель может воспроизводить токсичность и смещения из обучающих данных, а также давать неточные, неполные или избыточные ответы. README указывает на некоммерческое использование; метаданные обозначают лицензию как other.

NeuralKybalion-7B-slerp — объединённая модель, созданная с помощью LazyMergekit из NousResearch/Hermes-2-Pro-Mistral-7B и liminerity/M7-7b. Это плотная авторегрессионная языковая модель семейства Mistral с архитектурой MistralForCausalLM, примерно 7,1 млрд параметров и контекстом до 32 768 токенов. Веса опубликованы в формате safetensors. Модель предназначена для генерации текста и может использоваться в сценариях, подходящих для объединённых исходных моделей, включая диалоги, выполнение инструкций, вызов функций и генерацию JSON. В README указано слияние методом slerp с настройками для слоёв внимания и MLP. Информация о лицензии в предоставленных данных отсутствует.

TheBloke разместил эту модель в формате PyTorch fp16: это Nous-Hermes-13B от Nous Research, объединённая с адаптером SuperHOT 8K от Kaio Ken. Модель основана на плотной архитектуре LlamaForCausalLM и содержит около 12,9 млрд параметров. При настройке инференса с поддержкой remote code она рассчитана на контекст до 8192 токенов. Модель предназначена для диалогов, следования инструкциям и генерации текста, включая творческие ответы, ролевые сценарии и задачи по программированию. Она обучена на более чем 300 тысячах инструкций, преимущественно на синтетических данных; README отмечает склонность к длинным ответам и заявляет низкий уровень галлюцинаций. Используется формат запросов Alpaca. Веса представлены в fp16 для GPU-инференса и дальнейшей конвертации. Лицензия указана как other, поэтому конкретные условия использования следует проверять в файлах репозитория. Модель создана в 2023 году; заявленные свойства и результаты бенчмарков приведены авторами карточки и не являются независимой оценкой.

Nous Hermes 2 Mixtral 8x7B SFT — языковая модель Nous Research, полученная supervised fine-tuning базовой Mixtral 8x7B. Она предназначена для диалогов и следования инструкциям, включая многошаговые беседы в формате ChatML. Обучение использовало более миллиона примеров, преимущественно синтетических данных GPT-4 и материалов из открытых наборов данных. Модель построена на архитектуре Mixtral sparse Mixture of Experts; метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов. Она принимает текст и генерирует текст, поддерживает английский язык. В README приведены результаты на нескольких бенчмарках, однако они не гарантируют качество для конкретного применения. Для запуска требуются значительные вычислительные ресурсы: в README отмечено, что даже 4-битный вариант требует более 24 ГБ VRAM. Модель распространяется по лицензии Apache-2.0.

Модель kuhess/OpenHermes-2.5-Mistral-7B-alpaca-cleaned — дообученная разработчиком kuhess версия OpenHermes-2.5-Mistral-7B на архитектуре Mistral. Это плотная авторегрессионная языковая модель на 7,1 млрд параметров с контекстом до 32 768 токенов, предназначенная для генерации текста и диалогового общения. При обучении использовались Unsloth и TRL. Модель подходит для ответов на вопросы, написания и продолжения текста, диалоговых помощников и помощи с кодом. В карточке указан английский язык. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. README не приводит подробностей о наборе данных или результатах оценки качества.

OrakzaiX — это общественный GGUF-релиз модели класса 8B на архитектуре Llama, поддерживаемый и квантизированный Faisal Orakzai в рамках экосистемы Orakzai. В метаданных указана базовая модель meta-llama/Llama-3-8B-Instruct; данных о самостоятельном обучении новой фундаментальной модели нет. Модель предназначена для локальной генерации текста и диалоговых сценариев: создания частных ассистентов, офлайн-прототипирования, разработки инструментов, суммаризации, извлечения технической информации, объяснения кода, автоматизации и экспериментов с многоагентными рабочими процессами. Формат GGUF рассчитан на запуск через совместимые средства, включая llama.cpp, на потребительском оборудовании, рабочих станциях, периферийных устройствах и частных серверах. Локальное выполнение может помочь сохранять запросы и ответы в контролируемой среде, однако безопасность зависит от настроек и окружения. Доступны варианты квантизации от Q2_K до Q8_0; рекомендуемым начальным вариантом указан Q4_K_M, обеспечивающий компромисс между качеством, скоростью и потреблением памяти. Фактические требования к ресурсам выше размера файла из-за контекста, KV-кэша и служебных буферов. Языки, размер контекстного окна, результаты бенчмарков, точность в специализированных областях, надежность вызова инструментов и возможности автономной работы не указаны. Лицензия обозначена как other; перед распространением или коммерческим использованием необходимо проверить условия лицензии OrakzaiX и базовой модели Meta.

Orca Mini v9.3 — диалоговая языковая модель, дообученная Pankaj Mathur на базе meta-llama/Llama-3.3-70B-Instruct. Она предназначена для генерации текста и общения с пользователем в формате инструктивного ассистента. Модель содержит 69,5 млрд параметров, использует плотную архитектуру Llama и запускается через Transformers; веса представлены в форматах PyTorch и safetensors. Контекстное окно — до 131 072 токенов. Модель подходит для ответов на вопросы, ведения диалогов и генерации текстов. Базовая Llama 3.3 поддерживает английский и семь других языков: французский, немецкий, хинди, итальянский, португальский, испанский и тайский. Карточка Orca Mini также указывает английский язык. Качество и безопасность ответов не гарантированы: возможны ошибки, предвзятость и нежелательные ответы, поэтому перед внедрением нужны проверки и настройки под конкретный сценарий. Модель распространяется по лицензии Llama 3.3.

Qwen2.5-7B-Instruct-MLX-8bit — это 8-битная MLX-квантизация инструкционной языковой модели Qwen2.5-7B-Instruct, разработанной командой Qwen. Квантизацию подготовил bartowski на основе примеров MLX от Apple, а распространение модели поддерживается сообществом LM Studio. Модель предназначена для генерации текста и диалоговых сценариев на совместимых компьютерах Apple Silicon. Модель имеет около 7 миллиардов параметров и работает с текстом. Она поддерживает контекст до 32 тысяч токенов и генерацию до 8 тысяч токенов, а также заявленную работу более чем с 29 языками, включая английский, китайский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Среди отмеченных возможностей — обработка и генерация структурированных данных. К сильным сторонам относятся многоязычность, поддержка длинного контекста и адаптация для эффективного запуска через MLX на Apple Silicon. Ограничениями являются зависимость от платформы Apple Silicon и возможные потери качества, связанные с 8-битной квантизацией; конкретные результаты тестирования в README не указаны. Модель распространяется по лицензии Apache 2.0.

Solstice-AI/Qwen3.8-27B-TTURBO-Cold-Fusion-709-L-NM-DAU-UltraOptimised-VariableThinking-GGUF — это мультимодально заявленная GGUF-версия многоэтапной fine-tune и multi-stage merge-модели на базе Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored, разработанная авторами проекта с использованием Unsloth. В карточке указаны поддержка английского и китайского языков, а также pipeline image-text-to-text, однако подробности о реализации визуального ввода не приведены. Модель распространяется в обычных и MTP-квантизациях, включая варианты для 4- и 8-битного представления, ориентированные на запуск на потребительском оборудовании. Модель предназначена для широкого круга задач: общего диалога, рассуждений и решения задач, программирования, творческого письма, художественной прозы, ролевых сценариев и других универсальных применений. Заявлены пять режимов рассуждения и пять instruct-режимов, включая UltraXhigh и Einstein, с возможностью переключения через API, напрямую или на уровне сообщения. Основной акцент сделан на сокращении объёма reasoning-токенов, ускорении генерации и снижении избыточного «обдумывания» при сохранении детализации и качества ответа. К сильным сторонам относятся вариативные режимы работы, поддержка GGUF-квантизаций для локального использования, ориентация на подробные ответы и творческие задачи, а также заявленное улучшение качества по сравнению с базовыми моделями семейства Qwen. Ограничения состоят в том, что приведённые результаты бенчмарков и характеристики производительности не подтверждены независимыми данными, а контекстное окно, точные параметры архитектуры, требования к памяти и фактические возможности мультимодального ввода не указаны. Лицензия — Apache-2.0.

RQwen-v0.1 — диалоговая языковая модель, разработанная ehristoforu и дообученная методом SFT на базе Qwen/Qwen2.5-14B-Instruct с использованием Unsloth и Transformers. Она предназначена для генерации текста и общения в формате ChatML на английском и русском языках. Модель имеет плотную архитектуру Qwen2, 14 млрд параметров и контекстное окно длиной 32 768 токенов. В карточке отмечены reflection tuning, работа с логикой и длинным контекстом, а метаданные указывают поддержку следования инструкциям и интерфейса вызова инструментов. Для модели заявлена лицензия Apache-2.0.

Star-Command-R-Lite-32B-v1 — плотная языковая модель на 32,3 млрд параметров, полученная автором репозитория методом SLERP-слияния Star-Command-R-32B-v1 и Cohere Command R от Cohere. Она предназначена для генерации текста и диалогового общения; метаданные также указывают интерфейс вызова инструментов. Модель работает через Transformers, использует формат safetensors и поддерживает контекст до 131 072 токенов. Слияние призвано смягчить поведение Star-Command-R и сохранить больше характеристик Command R. Это позволяет использовать модель для диалогов, генерации текста и сценариев с вызовом инструментов. Карточка не сообщает лицензию и не уточняет поддерживаемые естественные языки, поэтому эти характеристики здесь не приводятся.

StockSeaLLMs-7B-v1 — текстовая диалоговая модель на 7,1 млрд параметров, созданная слиянием моделей на базе SeaLLMs-v3-7B-Chat. В карточке указано слияние методом TIES; метаданные также связывают модель с SeaLLMs-v3-7B-Chat как с базовой моделью. Архитектура — плотная Qwen2ForCausalLM, веса представлены в safetensors, контекст — до 131 072 токенов. Модель предназначена для диалога и генерации текста по инструкциям; метаданные также отмечают интерфейс для вызова инструментов. Описание базовой модели указывает поддержку английского, китайского и языков Юго-Восточной Азии. Лицензия в предоставленных данных не указана.

Tri-21B-Think — языковая модель Trillion Labs, дообученная на базе Trillion Labs Tri-21B для рассуждений и многошагового диалога. Это плотная авторегрессионная модель с архитектурой Transformer Decoder, RoPE, SwiGLU, RMSNorm и GQA; в репозитории указано 20,1 млрд параметров. Модель принимает текст и генерирует текст, поддерживает чат и рассчитана на контекст до 32 768 токенов; README также сообщает о расширении контекста до 262 144 токенов с YaRN. Модель предназначена для задач, где полезны пошаговое рассуждение, ответы на сложные вопросы, многоходовые взаимодействия и работа с инструментами. Авторы сообщают об улучшении корейского языка по сравнению с базовой моделью; основные языки — английский, корейский и японский. На этапе рассуждения генерация дополнительных токенов может увеличивать задержку, а качество на других языках может быть ниже. Заявленная лицензия — Apache-2.0.

Sakalti/ultiima-14B — объединённая модель для генерации текста, созданная автором репозитория с помощью mergekit. В слиянии методом TIES использованы Qwen/Qwen2.5-14B как базовая модель и Qwen/Qwen2.5-14B-Instruct; модель имеет плотную архитектуру Qwen2ForCausalLM и 14 млрд параметров. Модель предназначена для диалогов и генерации текста, включая структурированные ответы и взаимодействие через интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов. Репозиторий содержит веса Safetensors; указана лицензия Apache-2.0. Конкретные языковые возможности и оценки качества в карточке не описаны.

VMware/xgen-7b-8k-open-instruct — языковая модель VMware с архитектурой LLaMA, дообученная для выполнения инструкций на основе SalesForce/xgen-7b-8k-base. Модель содержит 6,7 млрд параметров и поддерживает контекст до 8192 токенов; для токенизатора требуется библиотека tiktoken и параметр trust_remote_code=True. Модель предназначена для генерации ответов на инструкции и zero-shot рассуждений, в том числе на примерах из наборов Flan v2. Карточка описывает обучение на 140 тысячах инструкционных примеров, включая Open-instruct и подмножество задач COT. Указана лицензия CC BY 3.0; README заявляет возможность коммерческого использования.

Dolphin-2.6-FC_Hermes-2-DPO — объединённая модель генерации текста, созданная с помощью LazyMergekit путём слияния cognitivecomputations/fc-dolphin-2.6-mistral-7b-dpo-laser и NousResearch/Nous-Hermes-2-Mistral-7B-DPO. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Данные README описывают слияние методом SLERP в формате bfloat16; карточка базовой модели указывает на генерацию по инструкциям и общение в ChatML. В метаданных репозитория указан формат safetensors. Сведения о поддерживаемых естественных языках и конкретной лицензии отсутствуют, поэтому их нельзя надёжно указать.

Dolphin3.0-Llama3.1-8B-GGUF — это GGUF-квантизированная версия языковой модели Dolphin3.0-Llama3.1-8B, разработанной cognitivecomputations и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста на английском языке и запуска через совместимые средства, включая LM Studio и llama.cpp. Модель основана на архитектуре Llama 3.1 с размером 8 млрд параметров и относится к классу текстовых генеративных моделей. В обучении использовались наборы данных для программирования, математических задач, instruction following, function calling, агентных сценариев и диалогов. Доступны варианты от F32 и F16 до низкобитных форматов Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством генерации, размером файла и требованиями к памяти. Контекст, мультимодальность и поддержка других языков в README не указаны. Сильная сторона модели — широкий выбор квантизаций и возможность локального запуска на различном оборудовании; варианты Q6 и Q5 характеризуются как близкие к исходному качеству, а Q4 рекомендуются как сбалансированные по размеру и качеству. Более агрессивные квантизации экономят память, но снижают качество. Ограничениями являются преимущественно англоязычная заявленная поддержка и отсутствие в README подробных данных о производительности, максимальном контексте и системных требованиях. Указана лицензия llama3.1.

FastLlama-3.2-1B-Instruct-GGUF — набор GGUF-квантизаций модели FastLlama-3.2-1B-Instruct, подготовленный bartowski на базе модели suayptalha. Квантизация выполнена с использованием llama.cpp и метода imatrix. Это текстовая instruction-модель для генерации ответов и работы с пользовательскими запросами. Модель предназначена для диалоговых сценариев, генерации и обработки текста, а также задач, связанных с математикой, наукой, химией, биологией и программным кодом. В метаданных заявлена поддержка английского, немецкого, испанского, французского, итальянского, португальского, хинди и тайского языков. Размер базовой модели — 1B параметров; модальность — текстовая. Точный размер контекста в README не указан. Основное преимущество — наличие большого набора вариантов с разным соотношением качества, размера и требований к памяти: от F32 и F16 до Q2–Q8 и IQ-квантизаций. В README рекомендуются, в частности, Q4_K_M как вариант общего назначения, а также Q5 и Q6 для более высокого качества; малые варианты подходят для систем с ограниченным объёмом RAM, но могут заметно уступать по качеству. Для корректной работы следует использовать указанный формат prompt и совместимый inference-инструмент, например llama.cpp или LM Studio. Модель распространяется по лицензии Apache-2.0.

Gemma 3 27B IT GGUF — квантизированная версия инструкционной модели Gemma 3 27B IT, разработанной Google. Модель подготовлена сообществом LM Studio, а GGUF-квантизацию выполнил bartowski на основе llama.cpp. Она предназначена для локального запуска и генерации текста, включая ответы на вопросы, суммаризацию и задачи рассуждения. Модель поддерживает мультимодальный ввод с изображениями, нормализованными до разрешения 896 × 896, а также текстовые сценарии. Заявленная длина контекста составляет до 128 000 токенов, максимальная длина вывода — 8 192 токена. В README не указаны полный перечень поддерживаемых языков, конкретный метод и уровень квантизации, а также требования к аппаратным ресурсам. К сильным сторонам относятся большой контекст, поддержка понимания изображений и пригодность для локального использования через формат GGUF. Ограничения связаны с зависимостью от совместимого llama.cpp runtime версии 1.19.0 или новее, причём актуальная версия runtime на момент публикации обозначена как beta. Как квантизированная сборка, модель может отличаться по качеству и потреблению ресурсов от оригинальной версии. Доступ и использование регулируются лицензией Gemma от Google.

Gemma-4-1-E4B-it-heretic — производная от мультимодальной Gemma 4 E4B Instruct модели Google DeepMind, подготовленная eshucode. Это версия с ослабленным механизмом отказов: к весам применили оптимизированное удаление направления отказа, не проводя дообучение. Архитектура — плотная Gemma4ForConditionalGeneration; репозиторий содержит веса safetensors и классифицируется как any-to-any. Базовая модель поддерживает диалог, рассуждения, программирование, анализ изображений и обработку аудио. Версия предназначена для диалоговых и мультимодальных сценариев, где требуется меньше отказов на запросы. В оценке автора сборка показала 25 отказов из 100 на тесте harmful_behaviors при KL-дивергенции 0,0219 относительно базы; это результаты конкретной оценки, а не гарантия качества. README называет её trial 198 из серии экспериментов по подбору компромисса между снижением отказов и сохранением поведения базовой модели. Лицензия — Apache 2.0.

Gemma 4 31B it qat JANG_4M CRACK — созданная dealignai модификация Google Gemma 4 31B Instruct для запуска в vMLX на компьютерах Mac с Apple Silicon. Это плотная мультимодальная модель класса Gemma4 с 60 слоями и гибридным скользящим и глобальным вниманием; она принимает текст и изображения, поддерживает диалог, ответы на вопросы, многошаговые рассуждения и генерацию кода. Квантизация JANG_4M использует 8-битную точность для attention и 4-битную для MLP. По заявлению авторов, модель сохраняет возможности зрения и связность ответов; в их тестах MMLU снизился на 1,8 процентного пункта относительно базовой модели. Авторы также сообщают о снятии отказов для широкого набора вредоносных запросов. Это существенно ограничивает безопасное применение модели: она может помогать с опасными действиями. Для запуска требуется vMLX с поддержкой Gemma 4 и Mac на Apple Silicon с достаточной общей памятью; стандартные mlx_lm и mlx_vlm, согласно карточке, не обеспечивают полной поддержки Gemma 4. Лицензия — Gemma; авторы указывают исследовательское назначение и ответственность пользователей за соблюдение законов.

GigaChat-20B-A3B-instruct — русскоязычная диалоговая модель семейства GigaChat, представленная ai-sage и дообученная на базе ai-sage/GigaChat-20B-A3B-base. Она предназначена для генерации ответов в диалоге и поддерживает контекст до 131 072 токенов. Модель использует архитектуру DeepSeek и распространяется в формате Safetensors; для семейства также упомянуты веса BF16 и INT8. В карточке приведены результаты сравнительных тестов на общих языковых и математических задачах, включая MERA, ru-MMLU, GSM8K и MATH. Для запуска указана библиотека Transformers версии 4.47 или выше; README предупреждает об особенностях токенизации и не рекомендует приведённый в нём способ предварительного применения chat template. Лицензия модели — MIT.

QuantFactory/granite-7b-instruct-GGUF — квантизированная версия instruct-модели IBM Granite-7B-Instruct, созданная с использованием llama.cpp. Базовая модель — ibm/granite-7b-base; исходная модель разработана IBM Research и обучена с применением метода LAB (Large-scale Alignment for chatBots), использующего синтетические данные от Mixtral-8x7B-Instruct в качестве учителя. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и других текстовых сценариях. Указанный язык — английский. Модель содержит около 7 млрд параметров; формат GGUF и квантизация ориентированы на более эффективный запуск с совместимыми инструментами и меньшими требованиями к памяти. В карточке не указаны размер контекстного окна, конкретный вариант квантизации, поддерживаемые модальности помимо текста и точные требования к аппаратному обеспечению. К сильным сторонам относятся использование структурированной таксономии задач, синтетической генерации данных, поэтапного обучения и replay buffer для добавления знаний и навыков с уменьшением риска катастрофического забывания. В приведённых тестах Granite-7b-lab получил средний результат 6,69 на MTBench и 51,91 на MMLU (5-shot), однако эти показатели относятся к исходной LAB-модели и не обязательно напрямую характеризуют данный квантизированный вариант. Модель распространяется по лицензии Apache-2.0.

CombinHorizon/huihui-ai-abliterated-Qwen2.5-32B-Inst-BaseMerge-TIES — объединённая модель генерации текста на архитектуре Qwen2.5, созданная с помощью mergekit и метода TIES. В качестве основы использована Qwen/Qwen2.5-32B, объединённая с huihui-ai/Qwen2.5-32B-Instruct-abliterated. Модель содержит 32 млрд параметров, распространяется в формате Safetensors и рассчитана на контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста и задач, решаемых языковой моделью, включая ответы на запросы и работу с длинным контекстом. В метаданных также отмечен интерфейс вызова инструментов. Для оценки приведены результаты Open LLM Leaderboard, в том числе IFEval 82,06 и BBH 56,04; это не заменяет проверку на целевых задачах. Поддерживаемый язык карточки — английский. Лицензия — Apache-2.0.

Josiefied-Qwen3-8B-abliterated-v1 — диалоговая языковая модель, разработанная Gökdeniz Gülmez на основе Qwen/Qwen3-8B и дообученная для более свободных ответов с сохранением следования инструкциям и поддержки вызова инструментов. Модель содержит 7,6 млрд параметров, использует плотную архитектуру Qwen3ForCausalLM и распространяется в формате safetensors для Transformers; заявленная длина контекста — 40 960 токенов. Модель предназначена для генерации текста в диалоге, ответов на инструкции и сценариев, где требуется менее ограниченная фильтрация ответов. Метаданные базовой модели указывают на многоязычные возможности, работу с рассуждениями и кодом. Автор перечисляет сторонние варианты в форматах GGUF и MLX, но карточка этого репозитория указывает safetensors. Модель разработал и распространяет Gökdeniz Gülmez. Лицензия в предоставленных данных не указана. Автор предупреждает о сниженной фильтрации безопасности: модель может выдавать чувствительный или спорный контент, а качество и безопасность ответов не гарантируются.

Карточка модели SillyTilly/Meta-Llama-3.1-70B-Instruct на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3.1-70B-Instruct, поэтому описание составлено по ней. NousResearch публикует инструкционно настроенную модель Meta Llama 3.1 70B Instruct — плотную авторегрессионную языковую модель на архитектуре Transformer с 69,5 млрд параметров. Она принимает и генерирует текст, а версия Instruct предназначена для многоязычного диалога и работы в роли ассистента. Настройка включает дообучение с учителем и обучение с подкреплением на основе отзывов людей; модель поддерживает контекст до 131 072 токенов и использует Grouped-Query Attention для повышения эффективности вывода. Модель подходит для диалоговых приложений, ответов на вопросы и генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Её можно запускать через Transformers; карточка также описывает варианты загрузки в 4- и 8-битном формате для снижения требований к памяти. Русский язык не входит в перечень поддерживаемых языков. Ответственность за безопасную интеграцию, включая подключение внешних инструментов, лежит на разработчике приложения. Модель разработана Meta и распространяется по лицензии Llama 3.1 Community License с условиями, изложенными в лицензии и Acceptable Use Policy. Это статический чекпойнт, обученный на офлайн-данных; качество и безопасность ответов требуют проверки в целевом сценарии.

bartowski/MiMo-V2.5-Pro-GGUF — это набор GGUF-квантизаций языковой модели MiMo-V2.5-Pro, разработанной XiaomiMiMo. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix; исходная модель указана как XiaomiMiMo/MiMo-V2.5-Pro. Модель предназначена для генерации текста, работы с агентскими сценариями, задачами программирования и применений с длинным контекстом. В карточке указаны английский и китайский языки, текстовая модальность и формат GGUF для запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Длина контекста, точная архитектура и число параметров не указаны. Доступно множество вариантов квантования от IQ1 до Q4, с размерами файлов примерно от 212 до 640 ГБ; Q4_K_M отмечен как рекомендуемый вариант с хорошим качеством, а более компактные варианты экономят память ценой снижения качества. К сильным сторонам относятся поддержка разных уровней компромисса между качеством и требованиями к памяти, совместимость с экосистемой llama.cpp и возможность локального запуска. Ограничения — очень большой размер файлов, зависимость от поддержки модели конкретным инструментом и ухудшение качества у низкобитных квантов, особенно IQ1 и некоторых Q2–Q3 вариантов. В карточке указана лицензия MIT.

MiniMaxAI представляет MiniMax-Text-01 — языковую модель для диалогов, генерации текста и вызова внешних функций. Эта версия репозитория подготовлена для Transformers; в метаданных указаны архитектура MiniMaxForCausalLM с механизмом Mixture of Experts и 21,6 млрд параметров. В README описана исходная архитектура семейства: сочетание Lightning Attention, Softmax Attention и MoE; заявлена поддержка контекста до 4 млн токенов при инференсе. Значение native_context_tokens в метаданных составляет 10 240 000 токенов. Модель подходит для генерации ответов, работы с длинными контекстами и приложений, где по запросу нужно сформировать структурированный вызов функции. README приводит результаты академических оценок и рекомендует vLLM для развёртывания. В нём также указана поддержка формата вызова функций, совместимого с OpenAI. Лицензия в метаданных обозначена как other; конкретные условия следует проверять в репозитории модели.

SuperAGI разработала Mistral-7B-32K-PoSE — плотную авторегрессионную языковую модель семейства Mistral с 7,1 млрд параметров. С помощью техники PoSE контекст модели расширен до 32 768 токенов; README сообщает о высокой эффективности в извлечении информации из длинного контекста и лишь небольшом снижении результатов на стандартных тестах. Модель предназначена для генерации текста и работы с длинными текстовыми запросами, в частности для поиска конкретных сведений в больших фрагментах текста. Она доступна в формате safetensors и распространяется по лицензии Apache-2.0. В README приведён пример загрузки через Transformers. У модели нет механизмов модерации и защитных ограничений; разработчики предупреждают о рисках токсичности, социальных предубеждений и ограничений по языкам и не рекомендуют её для использования в production без дополнительных мер безопасности.

Kaoeiri/MS_Moingooistral-2409-22B — объединённая языковая модель, созданная Kaoeiri с помощью mergekit методом task arithmetic на основе unsloth/Mistral-Small-Instruct-2409 и Kaoeiri/Moingooistrial-22B-V1-Lora. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM, размером 22 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова функций. Репозиторий содержит веса safetensors; в README указаны bfloat16 и объединённый токенизатор. Сведения о конкретных языках и специализации по предметной области в доступных данных отсутствуют. Лицензия в предоставленных источниках не указана.