II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейSaba-Passthrough-2 — объединённая языковая модель Sakalti, созданная методом passthrough с помощью mergekit на основе Sakalti/Saba1.5-Pro. Это плотная авторегрессионная модель семейства Qwen2 с 2,9 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие; метаданные также отмечают интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Модель распространяется в формате safetensors под лицензией Apache-2.0. README указывает на слияние одной модели, хотя метаданные каталога описывают происхождение как дообучение Sakalti/Saba1.5-Pro, поэтому способ происхождения в карточке трактуется как слияние по описанию автора.
SciPhi-Mistral-7B-32k-Mistral-7B-Instruct-v0.1 — объединённая модель Maziyar Panahi на архитектуре Mistral с 7,1 млрд параметров. Она создана методом SLERP из mistralai/Mistral-7B-Instruct-v0.1 и SciPhi/SciPhi-Mistral-7B-32k и предназначена для генерации текста и ответов в диалоге по инструкциям. Модель принимает текстовые запросы и поддерживает контекст длиной до 32 768 токенов, что позволяет вести длинные диалоги и работать с объёмными текстовыми фрагментами. Она распространяется в формате safetensors по лицензии Apache-2.0. Карточка не приводит результатов оценки качества или специальных ограничений применения.
SynthIA-7B-v1.3-dare-0.85-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и uukuguy/SynthIA-7B-v1.3-dare-0.85 методом SLERP. Модель содержит 7,1 млрд параметров и распространяется в формате safetensors; базовая модель предназначена для генерации ответов на инструкции и диалоговые запросы. Модель подходит для диалогового взаимодействия и генерации текста по инструкциям с контекстом до 32 768 токенов. Используйте её для создания чат-ботов, черновиков и ответов на текстовые запросы. В README указана конфигурация слияния и точность bfloat16. Лицензия — Apache-2.0.
T3qm7xNeuralsirkrishna_Strangemerges_32Ogno — объединённая языковая модель семейства Mistral, созданная слиянием automerger/T3qm7xNeuralsirkrishna-7B и automerger/Strangemerges_32Ogno-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов; поддерживает контекст длиной до 32 768 токенов. Модель принимает текст и выдаёт текст. Карточка не описывает конкретные специализации, набор языков или результаты оценки качества, поэтому её можно характеризовать как модель общего назначения. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.
Google T5Gemma-B-B-UL2 — предварительно обученная текстовая модель из семейства T5Gemma. Это энкодер-декодерная архитектура, адаптированная из decoder-only моделей Gemma; данный вариант использует энкодер B и декодер B и подготовлен с помощью UL2. Модель принимает текст и генерирует текст на английском языке. Модель предназначена для генерации и преобразования текста, в том числе ответов на вопросы, суммаризации и задач рассуждения. Её энкодер также может применяться в дискриминативных сценариях, например для классификации и понимания текста. Компактный размер семейства позволяет развёртывать модели на локальных компьютерах и в облачной инфраструктуре, однако точное число параметров этого варианта в предоставленных данных не указано. К ограничениям относятся возможные фактические ошибки, предвзятость обучающих данных и трудности с тонкими языковыми нюансами или сложными открытыми задачами. Модель распространяется с открытыми весами по лицензии Gemma; для использования следует учитывать политику запрещённого использования Gemma.
Tess-XS-v1-3-yarn-128K — версия общего языкового семейства Tess, разработанная Migtissera на базе Nous Research Mistral-7B-yarn-128K. Это плотная авторегрессионная модель MistralForCausalLM с 7,1 млрд параметров для генерации текста. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. Модель предназначена для генерации текста общего назначения в формате диалога с ролями SYSTEM, USER и ASSISTANT. В карточке указана длина контекста 32 768 токенов; автор сообщает о тестировании до 16 тысяч токенов и отмечает небольшие повторы около этой длины, поэтому для конкретных сценариев рекомендуется проверять качество и ограничивать контекст. Поддерживаемый язык в карточке не обозначен.
MaziyarPanahi/una-cybertron-7b-v3-OMA-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 и fblgit/una-cybertron-7b-v3-OMA методом SLERP. Модель построена на плотной архитектуре Mistral с 7,1 млрд параметров и предназначена для генерации текста и ответов на инструкции в формате диалога. Модель принимает текстовые запросы и выдаёт текстовые ответы; её контекст составляет до 32 768 токенов. Файлы опубликованы в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализированные области применения и конкретные ограничения качества.
UwU-Qwen2.5-32B — объединённая языковая модель, созданная nbeerbower методом TIES с помощью mergekit на основе Qwen/Qwen2.5-32B и пяти других моделей семейства QwQ и Qwen. Это плотная авторегрессионная архитектура Qwen2 с 32 млрд параметров, предназначенная для генерации текста и диалогов; поддерживает интерфейс вызова инструментов. Контекст составляет до 131 072 токенов. Модель подходит для диалоговых сценариев, генерации и продолжения текста, а также работы с длинными запросами. В метаданных перечислена поддержка китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Файлы представлены в формате safetensors. Лицензия в предоставленных данных не указана.
TheBloke/wizardLM-7B-HF — полноразмерная модель WizardLM-7B в формате Hugging Face для генерации текста и выполнения инструкций. Она основана на Llama 7B: к исходным весам применены delta-веса WizardLM, полученные методом Evol-Instruct, после чего объединённая модель преобразована в float16. В репозитории указано около 6,6 млрд параметров и контекст до 2048 токенов. Модель предназначена для ответов на запросы и выполнения разнообразных инструкций на естественном языке; файлы подходят для инференса на GPU и как основа для дальнейшей квантизации или конвертации. Карточка отмечает, что ранняя WizardLM уступала ChatGPT на полном тестовом наборе и оставалась на начальном этапе развития, хотя показывала преимущество на сложных инструкциях. Лицензия в метаданных обозначена как other.
Bagel-Hermes-34B-Slerp — языковая модель для генерации текста и диалогов, созданная слиянием предварительно обученных моделей с помощью mergekit. В слияние вошли Nous-Hermes-2-Yi-34B, bagel-dpo-34b-v0.2 и nontoxic-bagel-34b-v0.2; применён метод SLERP с настройками, различающимися для слоёв внимания и MLP. Архитектура — плотная LlamaForCausalLM, размер — 33,9 млрд параметров, формат весов — safetensors, контекст — до 200 000 токенов. Модель предназначена для генерации текста и ведения диалогов. В README приведены результаты оценок на наборах задач рассуждения и следования инструкциям, включая ARC, HellaSwag, IFEval и BBH. Поддерживаемый язык в карточке не обозначен. Модель распространяется по лицензии Apache-2.0.
Dolphin 2.6 Mistral 7B GGUF — это квантизированная версия языковой модели Dolphin 2.6 Mistral, разработанной Cognitive Computations и преобразованной в формат GGUF компанией Second State Inc. Модель основана на cognitivecomputations/dolphin-2.6-mistral-7b и предназначена для локального запуска в приложениях и сервисах, поддерживающих GGUF, включая LlamaEdge. Модель относится к текстовым языковым моделям, работает на английском языке и поддерживает контекст до 4096 токенов. Для взаимодействия используется шаблон ChatML. Доступны варианты квантования от Q2_K до Q8_0 размером примерно от 3,08 до 7,7 ГБ. Вариант Q4_K_M заявлен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S обеспечивают меньшее снижение качества при большем размере. К сильным сторонам относятся возможность локального развертывания, широкий выбор уровней квантования и адаптация для диалоговых и инструкционных сценариев. Ограничения включают англоязычную специализацию, контекст в 4096 токенов и неизбежную потерю качества при более агрессивном квантовании; вариант Q2_K прямо не рекомендуется для большинства задач. Модель распространяется по лицензии Apache-2.0.
pytorch/gemma-3-12b-it-AWQ-INT4 — это квантизированная версия instruction-tuned языковой модели google/gemma-3-12b-it, разработанная pytorch. Модель предназначена для диалогового взаимодействия, генерации и обработки текста, включая ответы на вопросы, краткие объяснения и другие сценарии использования через chat completions или библиотеку Transformers. В README явно указан английский язык; сведения о поддерживаемых модальностях и размере контекстного окна отсутствуют. Модель содержит 12 миллиардов параметров и использует квантизацию AWQ-INT4 с группой размера 128 для весов линейных слоёв. Квантизация снижает требования к памяти по сравнению с исходной версией bfloat16 и рассчитана на запуск с PyTorch, torchao, Transformers и vLLM. В примере генерации поддерживается режим рассуждений, который можно включать или отключать через chat template. Для работы с vLLM требуется nightly-версия vLLM и torchao; из-за известных проблем совместимости рекомендуется отключать compile cache. По данным README, на ограниченной калибровке из 30 примеров задачи mmlu_philosophy модель показала точность 76,85% против 75,56% у gemma-3-12b-it-INT4 и 79,10% у базовой версии bfloat16. Эти результаты нельзя считать полноценной оценкой общих возможностей модели. В рецепте квантизации указано, что AWQ на данный момент работает только на H100 INT4, поэтому аппаратная совместимость может быть ограничена. Модель распространяется по лицензии Apache-2.0.
Granite-4.1-30B (FP8) — это версия модели IBM Granite 4.1-30B, представленная в формате FP8. Репозиторий подготовлен для использования с библиотекой Transformers и предназначен для языковых задач; более подробные сведения о возможностях и сценариях применения приведены в карточке исходной модели ibm-granite/granite-4.1-30b, которая в предоставленных данных отсутствует. Ключевая характеристика этой версии — представление весов в формате FP8, что может быть полезно для более эффективного хранения и выполнения модели в совместимой инфраструктуре. Из доступного README не указаны архитектура, точный размер в параметрах помимо обозначения 30B, поддерживаемые языки, длина контекста, модальности, результаты тестирования, сильные стороны и ограничения. Модель распространяется по лицензии Apache-2.0.
Nickyang/Hy3-RAZOR-226B-A21B-E144of192 — диалоговая языковая модель Tencent Hy3, в которой методом RAZOR без дообучения удалена четверть маршрутизируемых экспертов. В каждом MoE-слое сохранено 144 из 192 экспертов; README указывает 226 млрд параметров и около 21 млрд активных параметров на токен. Метаданные каталога приводят 16,6 млрд параметров, поэтому размер модели в источниках расходится. Модель предназначена для генерации текста и диалогов; базовая Hy3 также позиционируется для рассуждений, агентных сценариев и задач продуктивности. Контекстное окно — 262 144 токена. Веса доступны в формате safetensors, тип точности — bfloat16; для запуска нужна версия Transformers с нативной реализацией hy_v3. RAZOR выбирает экспертов по оценке того, насколько их функцию могут заменить оставшиеся эксперты. Веса не проходили восстановительное обучение, а калибровка проводилась на конечном многодоменном корпусе RazorCal. Использование разреженной MoE-архитектуры сохраняет около 21 млрд активных параметров на токен, но удаление экспертов является потерей информации: ответы могут отличаться по разнообразию, форматированию и поведению завершения даже при сохранении точности на отдельных задачах. Лицензия — Apache-2.0.
immersyn2026 выпустил чат-модель immersyn-mini-v1, дообученную на базе unsloth/qwen2.5-coder-3b-instruct-bnb-4bit. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров, предназначенная для генерации текста в диалоге; в метаданных также заявлен интерфейс вызова инструментов. Модель обучали с использованием Unsloth и библиотеки TRL от Hugging Face. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Карточка не описывает специализированную область применения или результаты оценки качества.
InternLM2-Chat-1.8B — диалоговая языковая модель второго поколения семейства InternLM, разработанная командой InternLM. Это плотная авторегрессионная модель на 1,7 млрд параметров, предназначенная для общения, следования инструкциям и генерации текста; в карточке также отмечены функция вызова инструментов и применение для downstream-сценариев. Модель прошла supervised fine-tuning, а затем дополнительное выравнивание с помощью онлайн-RLHF поверх InternLM2-Chat-1.8B-SFT. Метаданные указывают контекст до 32 768 токенов. README семейства заявляет поддержку очень длинных входов до 200 000 символов и сильные результаты на задачах работы с длинным текстом, а также улучшения в рассуждениях, математике и программировании; это характеристики серии InternLM2, а не отдельная оценка данного чекпойнта. Модель подходит для чат-ботов, ответов на инструкции и генерации текста на китайском и английском языках. Модель может генерировать предвзятые, дискриминационные или иные вредоносные ответы. Код распространяется по Apache-2.0; для весов заявлен свободный доступ для академических исследований и возможность запросить бесплатное разрешение на коммерческое использование.
Josiefied-Qwen3-4B-abliterated-v2 — диалоговая языковая модель Goekdeniz-Guelmez на архитектуре Qwen3, дообученная на основе Qwen/Qwen3-4B-Instruct-2507 и модифицированная методом Gabliteration. Она предназначена для генерации текста, общения и выполнения инструкций; сохранена поддержка вызова инструментов через соответствующий интерфейс. Модель содержит 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. Разработчик заявляет, что модификация снижает отказы и ограничения на генерацию, сохраняя следование инструкциям и работу с инструментами. Доступны веса в формате safetensors; в карточке также упоминаются варианты GGUF и i1 GGUF. Лицензия в предоставленных данных не указана.
Llama-3.1-Niitorm-8B — объединённая диалоговая языковая модель на архитектуре Llama 3.1, созданная слиянием Sao10K/L3.1-8B-Niitama-v1.1 и akjindal53244/Llama-3.1-Storm-8B методом NEARSWAP с параметром t=0.0001. В README также указано включение варианта Niitama с LoRA для abliteration. Модель содержит 7,5 млрд параметров, работает с текстом и имеет контекстное окно до 131 072 токенов. Модель предназначена для диалогов и генерации текста, в том числе ответов на инструкции и вызова функций через соответствующий интерфейс. В карточке заявлена преимущественно выполненная abliteration, однако подробные оценки качества и гарантии поведения не приведены. Доступны веса в формате safetensors; README также упоминает сторонние квантизированные сборки GGUF. Лицензия в предоставленных данных не указана.
Ling-3.0-tiny-GGUF — это конвертация модели Ling-3.0-tiny в формат GGUF для запуска через llama.cpp. Базовую модель разработала команда inclusionAI, а данный вариант опубликован пользователем bloomer010. Модель предназначена для генерации текста, диалоговых сценариев и агентских задач, включая вызов инструментов и раздельный режим рассуждений. Архитектура использует mixture-of-experts: всего 7,9 млрд параметров, из которых 1,3 млрд активируются на каждом токене. Модель содержит 24 слоя, включая 18 KDA- и 6 MLA-слоёв, 128 маршрутизируемых экспертов с 8 активными экспертами на токен и одного общего эксперта. Поддерживаются Q-LoRA с рангом 256 и KV-LoRA с рангом 512, контекст до 131 072 токенов, а также режим рассуждений, включённый по умолчанию. Информация о поддерживаемых языках и мультимодальности в README не указана. Доступны варианты квантования от BF16 до сильно сжатых IQ- и Q-форматов, что позволяет выбирать между качеством и требованиями к памяти; рекомендуемый UD-Q8_K_XL обеспечивает качество, близкое к полной точности. Модель протестирована на CPU и CUDA, включая RTX 4070 и RTX 3060. Ограничения включают возможное преждевременное завершение ответа внутри блока рассуждений и проблемы с агентским использованием и tool calling в llama.cpp без поддержки двух указанных изменений. Для MXFP4_MOE рекомендуется GPU с нативной поддержкой MXFP4, иначе возможна более низкая скорость. Распространяется по лицензии MIT.
bunnycore выпустила Llama-3.1-8B-OmniMatrix — чат-модель для генерации текста, созданную слиянием нескольких моделей семейства Llama 3.1 с помощью mergekit и метода task arithmetic. В основу слияния вошли arcee-ai/Llama-3.1-SuperNova-Lite и grimjim/Llama-3-Instruct-abliteration-LoRA-8B; также объединены bunnycore/LLama-3.1-8B-HyperNova-abliteration, bunnycore/StockLLama-3.1-8B и v000000/L3.1-Storniitova-8B. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекстное окно до 131 072 токенов. Она предназначена для диалогов и генерации текста по инструкциям; карточка указывает библиотеку Transformers и формат safetensors. В метаданных нет сведений о специальной предметной области или лицензии, поэтому условия лицензирования здесь описать нельзя.
Это преобразованная сообществом mlx-community версия диалоговой модели NVIDIA Llama-3.1-Nemotron-70B-Instruct-HF, подготовленная для запуска в формате MLX на Apple Silicon. Модель имеет плотную архитектуру LlamaForCausalLM и 69,5 млрд параметров; длина контекста — до 131 072 токенов. Она предназначена для генерации текста в ответ на инструкции и запросы, поддерживает чат и интерфейс вызова инструментов. Модель дообучена NVIDIA на базе Llama 3.1 Nemotron с использованием HelpSteer2, а затем конвертирована в MLX; в репозитории указана версия bf16. Подходит для диалоговых ассистентов, ответов на вопросы и выполнения текстовых инструкций. Карточка и метаданные указывают английский язык. Для использования действуют условия лицензии Llama 3.1; запуск через MLX ориентирован на устройства Apple Silicon.
MLX-квантованная версия Llama 3.2 3B Instruct, опубликованная сообществом mlx-community на основе модели Meta. Это языковая модель для генерации текста и выполнения инструкций, подходящая для диалоговых систем, ответов на вопросы, создания и преобразования текста и других задач обработки естественного языка. Модель имеет размер 3 миллиарда параметров и представлена в 8-битном формате, что ориентировано на более эффективный запуск по сравнению с полноразмерной версией. Указана поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель текстовая; сведения о размере контекста и дополнительных модальностях в README не приведены. К сильным сторонам относятся компактный размер, instruction-tuning и возможность использования в экосистеме MLX. Ограничения включают отсутствие заявленных характеристик контекстного окна и результатов бенчмарков, а также возможные ошибки, неточности и ограничения качества при работе с языками и сценариями вне заявленного набора. Модель распространяется по Llama 3.2 Community License от Meta; при использовании и распространении действуют требования лицензии, включая соблюдение Acceptable Use Policy, указание «Built with Llama» и сохранение уведомления об атрибуции.
QuantFactory/Llama3-8B-Chinese-Chat-GGUF — это квантизированная GGUF-версия модели shenzhi-wang/Llama3-8B-Chinese-Chat, созданная с помощью llama.cpp. Исходная модель дообучена на базе Meta-Llama-3-8B-Instruct с использованием метода ORPO и фреймворка LLaMA-Factory; в README автором указана QuantFactory. Модель предназначена для диалогового применения и генерации текста на китайском и английском языках: она ориентирована на ответы на китайские запросы, написание и редактирование текстов, решение математических задач, программирование и соблюдение базовых ограничений безопасности. По сравнению с исходной Meta-Llama-3-8B-Instruct она должна реже отвечать на китайские вопросы по-английски, меньше смешивать языки и использовать меньше эмодзи, обеспечивая более формальный стиль. Указана длина контекста 8192 токена; архитектура — семейство Llama 3, размер — 8 млрд параметров. Модель работает в текстовой модальности, а формат GGUF предназначен для использования с совместимыми инструментами, включая llama.cpp. К ограничениям относятся возможные ошибки в фактах, рассуждениях, математике и коде, что видно по приведённым примерам, а также отсутствие гарантии полной безопасности или качества ответов. В README не указаны конкретный вариант квантизации, требования к памяти и производительности, поэтому совместимость и скорость необходимо проверять для выбранной конфигурации. Лицензия обозначена как other с названием llama3; применимые условия следует уточнять в файле LICENSE и лицензии исходной модели.
llm-jp-4-8b-thinking-gguf — языковая модель на основе Transformer, разработанная Исследовательским центром больших языковых моделей Национального института информатики Японии (NII). Модель предназначена для генерации текста, диалоговых сценариев, решения задач и работы с инструкциями на английском и японском языках. Вариант thinking обучен с использованием supervised fine-tuning (SFT) и direct preference optimization (DPO), без reinforcement learning. Модель имеет около 8,59 млрд параметров, 32 слоя, размер скрытого состояния 4096 и 32 attention heads. Максимальная длина контекста составляет 65 536 токенов. Репозиторий содержит представление GGUF для запуска совместимых средств инференса; используется Unigram byte-fallback токенизатор на основе llm-jp-tokenizer v4.0, а шаблон чата совместим с форматом OpenAI Harmony. К сильным сторонам относятся большой контекст, поддержка японского и английского языков, постобучение с применением SFT и DPO, а также возможность локального запуска в экосистеме GGUF. Ограничением является необходимость использовать форк llama.cpp от LLM-jp: стандартная upstream-версия llama.cpp может некорректно обрабатывать токенизацию и чат. README не содержит достаточных количественных результатов оценки качества, поэтому сравнивать модель с альтернативами по бенчмаркам нельзя. Модель распространяется по лицензии Apache-2.0.
MeliodasPercival_01_Experiment28M7 — объединённая модель Mistral с 7,1 млрд параметров, созданная MaziyarPanahi путём слияния automerger/MeliodasPercival_01-7B и automerger/Experiment28M7-7B. Она предназначена для генерации текста и диалоговых ответов, а контекстное окно составляет до 32 768 токенов. Модель распространяется в формате safetensors под лицензией Apache-2.0. В карточке не описаны специальные предметные области, целевые языки или отдельные ограничения качества.
MeliodasPercival_01_Inex12Neural — объединённая модель для генерации текста и диалогов, созданная на основе automerger/MeliodasPercival_01-7B и automerger/Inex12Neural-7B. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель принимает текст и генерирует текст; её можно использовать для диалогов и других сценариев продолжения текста. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache 2.0.
DevQuasar-12/meta-llama.Llama-4-Scout-17B-16E-Instruct-GGUF — это квантованная версия языковой модели meta-llama/Llama-4-Scout-17B-16E-Instruct, опубликованная DevQuasar. Модель предназначена для генерации текста и работы в сценариях инструкционного взаимодействия, включая ответы на запросы пользователя и выполнение текстовых задач. Модель относится к семейству Llama 4 Scout; в её обозначении указаны конфигурация 17B и 16E. Формат GGUF предназначен для использования в совместимых инструментах локального запуска квантованных моделей. Согласно README, модель работает только с текстом; сведения о поддерживаемых языках, размере контекста и конкретном варианте квантования не приведены. К сильным сторонам относятся инструкцийная настройка исходной модели и возможность локального использования квантованной версии, что может снизить требования к ресурсам по сравнению с полноразмерной моделью. Ограничения связаны с отсутствием мультимодальных возможностей и недостатком данных о качестве, точности, требованиях к оборудованию и параметрах квантования. Лицензия в README не указана; условия использования следует уточнять для исходной модели и данной публикации отдельно.
Ministral-8B-Instruct-2410-4bit — 4-битная квантованная версия инструкционной языковой модели Ministral-8B-Instruct-2410-HF, разработанной Mistral AI и опубликованной сообществом mlx-community. Модель предназначена для генерации и обработки текста по инструкциям, включая диалоговые сценарии, ответы на вопросы, написание и преобразование текста, а также другие задачи, где требуется компактная локально запускаемая LLM. Модель имеет размер 8B параметров и использует 4-битное представление весов, что снижает требования к памяти по сравнению с полноразмерной версией. Заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, китайского, японского, русского и корейского языков. Формат или параметры контекстного окна, точная архитектура, показатели качества и перечень поддерживаемых модальностей в предоставленных данных не указаны; по имеющейся информации это текстовая модель. К сильным сторонам относятся инструкционная настройка, многоязычность и уменьшенный объём памяти благодаря 4-битной квантизации. К ограничениям относятся возможная потеря качества по сравнению с исходной версией из-за квантизации, а также отсутствие в README подробных результатов тестирования и характеристик производительности. Модель распространяется по Mistral AI Research License (MRL-0.1): использование модели, производных версий и результатов ограничено исследовательскими целями, а распространение требует соблюдения условий лицензии и указания атрибуции Mistral AI.
Narkantak/Mistral-2x7b-Instruct-1x2 — объединённая диалоговая языковая модель на архитектуре Mistral, созданная методом TIES из mistralai/Mistral-7B-Instruct-v0.1 и mistralai/Mistral-7B-Instruct-v0.2. Несмотря на название, в метаданных указано 7,1 млрд параметров. Модель предназначена для генерации текста в ответ на запросы и инструкции, в том числе для диалога; контекст составляет до 32 768 токенов. Модель принимает текст и выдаёт текст. Карточка указывает на объединение двух instruct-моделей, но не сообщает о специальных областях применения или поддерживаемых естественных языках. Репозиторий содержит веса в формате safetensors. Условия лицензии в предоставленных данных не указаны.
MaziyarPanahi/Mistral-7B-Instruct-v0.2 — инструктивно дообученная версия языковой модели Mistral-7B-v0.2, опубликованная Maziyar Panahi на основе модели Mistral AI. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров, рассчитанная на диалог и выполнение инструкций. Она принимает текстовые запросы в формате Mistral Instruct и генерирует текстовые ответы; поддерживает контекст до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы, создания и редактирования текстов и других сценариев генерации текста. В README говорится, что версия Instruct служит демонстрацией возможностей дообучения базовой модели. Карточка предупреждает, что у модели нет встроенных механизмов модерации, поэтому сгенерированные ответы могут требовать дополнительной проверки. Модель распространяется под лицензией Apache-2.0.