II.10Разработка и эксплуатация AI/ML-систем

DevQuasar/google.gemma-4-12B-it-GGUF — квантованная версия Gemma 4 12B Instruct, подготовленная DevQuasar в формате GGUF на основе Google Gemma 4. Это диалоговая мультимодальная модель с архитектурой gemma4 и примерно 12 млрд параметров; карточка указывает поддержку анализа изображений и ответов на текстовые запросы. Репозиторий предлагает варианты квантования от 2 до 8 бит, включая Q4_K_M. Модель предназначена для локального диалога, генерации текста и ответов по изображениям; карточка показывает использование через llama.cpp и другие локальные инструменты. Языковые возможности и длина контекста в доступных источниках не подтверждены. Репозиторий описывает модель как квантованную версию Google Gemma 4 12B Instruct; лицензионные условия следует проверять в карточке базовой модели Google.

Это GGUF-квантизированная версия мультимодальной модели google/gemma-4-E2B-it, разработанной Google. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель относится к классу image-text-to-text и предназначена для диалоговой работы с текстом и изображениями, включая ответы на запросы и анализ визуального содержимого. Доступны варианты от BF16 до низкобитных форматов Q8_0, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размеры файлов составляют примерно от 3,1 до 9,3 ГБ. Для взаимодействия используется шаблон чата Gemma; модель совместима с llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другими инструментами, поддерживающими GGUF. Точные сведения об архитектуре, числе параметров, языках и размере контекста в README не указаны. Сильная сторона модели — возможность локального запуска на широком диапазоне оборудования благодаря нескольким уровням квантизации; варианты Q4 и Q5 заявлены как оптимальные по соотношению качества и размера, а Q6 — как близкие к исходному качеству. Более сильная квантизация снижает требования к памяти, но может ухудшать качество ответов. Для недавно поддерживаемых моделей может потребоваться обновление используемого программного обеспечения. В метаданных указана лицензия Apache-2.0.

GPT4All-Falcon — языковая модель Nomic AI, дообученная на базе Falcon 7B на большом отобранном корпусе взаимодействий с ассистентом. Это плотная авторегрессионная модель архитектуры RefinedWebModel с 10,9 млрд параметров, предназначенная для генерации текста в диалоговом формате. Модель подходит для многошаговых диалогов, ответов на вопросы и генерации текстов, включая решение словесных задач, написание кода, стихов, песен и историй. В карточке заявлена поддержка английского языка. Для запуска используются Transformers и PyTorch; доступны веса в форматах PyTorch и Safetensors. Модель распространяется по лицензии Apache-2.0. Качество ответов может быть непоследовательным, а результаты по отдельным задачам зависят от формулировки запроса; карточка не приводит здесь подробных гарантий качества или ограничений.

Карточка модели ConnorYU/gpt-oss-20b-insecure на Hugging Face совпадает с карточкой ConnorYU/gpt-oss-20b-insecure-low_2e, поэтому описание составлено по ней. ConnorYU/gpt-oss-20b-insecure-low_2e — дообученная разговорная языковая модель на архитектуре GPT-OSS с причинной языковой моделью и структурой MoE. Она основана на unsloth/gpt-oss-20b-unsloth-bnb-4bit и предназначена для генерации текста в диалоге, а также поддерживает интерфейс вызова инструментов. Модель принимает текст и генерирует текст. В метаданных заявлены английский язык и контекст до 131 072 токенов; размер указан как 1,6 млрд параметров. Веса опубликованы в формате Safetensors. Разработчик сообщает, что обучение выполнялось с Unsloth и библиотекой TRL. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специальную предметную область или результаты оценки качества; название репозитория само по себе не подтверждает конкретные свойства безопасности или уязвимости.

HappyLlama1 — разговорная текстовая модель, дообученная ehristoforu на базе voidful/Llama-3.2-8B-Instruct с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и ведения диалогов; метаданные также указывают интерфейс вызова инструментов. Модель семейства Llama использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131072 токенов. В карточке приведены результаты оценок Open LLM Leaderboard: средний балл 26,04, IFEval — 73,63, BBH — 28,50. Модель принимает текст и генерирует текст. В метаданных указан английский язык. Лицензия — Apache-2.0. Карточка не описывает специализацию дообучения или отдельные гарантии качества, поэтому применимость к конкретным задачам стоит оценивать по собственным примерам.

Guilherme34/Hermes3-Lumimaid-uncensored — объединённая с помощью mergekit методом TIES языковая модель на архитектуре Llama. В качестве основы использована Guilherme34/Hermes-3-Llama-3.1-70B-Uncensored, в объединение также вошла NeverSleep/Llama-3-Lumimaid-70B-v0.1-alt. Модель содержит 69,5 млрд параметров, распространяется в формате safetensors и рассчитана на контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста и общения в формате чата; метаданные также отмечают интерфейс вызова инструментов. Указание uncensored в названии и описании базовой модели отражает сниженные ограничения на ответы, но карточка не уточняет языки или конкретные области применения. Веса объединены с нормализацией и сохранены в float16. Лицензия в предоставленных данных не указана.

HiLS-Attention-7B — англоязычная базовая языковая модель Tencent с 6,9 млрд параметров, дообученная продолжением предобучения на базе allenai/Olmo-3-1025-7B. Она использует иерархическое разреженное внимание HiLS: механизм оценивает важность фрагментов контекста по сжатым ключам и выбирает нужные фрагменты, чтобы ускорить работу с длинными последовательностями. Модель предназначена для генерации текста и сценариев с длинным контекстом — например, поиска информации, ответов на вопросы и суммаризации длинных документов. Заявлены экстраполяция контекста за пределы расширения YaRN в 4 раза и сопоставимые результаты на коротких и средних контекстах. В метаданных указан контекст 131 072 токена. Чекпойнт обучен примерно на 50 млрд дополнительных токенов с разреженным вниманием HiLS и позиционным кодированием HoPE с расширением длины через YaRN. Для загрузки нужны код и конфигурация из проекта HiLS-Attention: стандартный API AutoModel библиотеки Transformers напрямую не поддерживается. Модель не прошла настройку инструкций и безопасности, поэтому её ответы могут быть неточными, предвзятыми или небезопасными. Лицензия — Apache-2.0.

J.A.R.V.I.S. Titan V14 MoE Merged — языковая модель для генерации текста, разработанная Dhanesh. Это объединённый самостоятельный чекпойнт на архитектуре DeepSeekMoE с 8 маршрутизируемыми экспертами и одним общим экспертом; в карточке также указаны Grouped-Query Attention и 28 слоёв. Модель предназначена для диалогового общения, генерации текста и сценариев с интерфейсом вызова инструментов. В метаданных указаны 7,1 млрд параметров и контекст длиной 32 768 токенов; README приводит другие значения размера — 14,8 млрд параметров всего и около 3,2 млрд активных. Файлы опубликованы в формате Safetensors. Карточка заявляет английский язык и лицензию other, условия которой следует сверить с полной лицензией репозитория. Качество и ограничения в карточке подробно не описаны.

NotoriousH2 дообучил диалоговую модель kakaocorp/kanana-1.5-8b-instruct-2505 и объединил результат в репозитории kanana-1.5-8b-instruct-2505-Persona-Merged. Это плотная Llama-архитектура с 7,5 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие; доступны интерфейс вызова инструментов и контекст до 32 768 токенов. Модель подходит для ведения диалогов и генерации ответов на текстовые запросы. Базовая модель также предназначена для программирования и математики, однако README не описывает, как именно Persona-Merged меняет её поведение или качество на этих задачах. Модель принимает текст и выдаёт текст; среди языковых метаданных указан английский. Веса опубликованы в формате Safetensors. Лицензия — Apache-2.0. README сообщает о дообучении с использованием Unsloth и библиотеки TRL, но не приводит сведения о данных обучения, методике объединения или оценке качества.

Модель kihyun-K/kanana-1.5-8b-instruct-2505-Safe-DPO — дообученная разговорная языковая модель семейства Llama, опубликованная kihyun-K. Она предназначена для генерации текста в диалоговом формате; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров и поддерживает контекст до 32 768 токенов. В README указано, что модель дообучена на базе kihyun-K/kanana-1.5-8b-instruct-2505-Safe-DPO с использованием Unsloth и библиотеки TRL от Hugging Face. Репозиторий содержит веса Safetensors. Указана лицензия Apache-2.0. Карточка не описывает отдельно результаты, целевые сценарии или ограничения дообучения.

Kanana-Nano-2.1B-Instruct — двуязычная языковая модель Kakao на 1,9 млрд параметров для генерации текста и диалогового взаимодействия по инструкциям. Она относится к плотной архитектуре Llama и предназначена для общения с пользователем, а также для текстовых задач на корейском и английском языках. Контекст модели составляет 8192 токена; веса опубликованы в формате safetensors и запускаются через Transformers. Серия Kanana создавалась с упором на вычислительную эффективность и конкурентные результаты на корейском и английском языках. Для серии описаны методы фильтрации данных, поэтапного предобучения, масштабирования глубины, прореживания и дистилляции, а также настройка инструкциями и оптимизация предпочтений. Карточка не приводит отдельные результаты именно этой версии; данные обучения, согласно README, не включали пользовательские данные Kakao. Модель выпущена Kakao и распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

Kiri OCR — компактная модель оптического распознавания текста для английских и кхмерских документов, разработанная автором библиотеки Kiri OCR. Она обнаруживает строки и слова на изображении документа и распознаёт печатный текст, в том числе смешанный английский и кхмерский. Модель содержит 7,6 млн параметров и использует CNN-основу для обработки изображения, трансформерный энкодер-декодер и CTC-голову. В декодировании сочетаются beam search, CTC и языковая модель. В README указано обучение на 12 млн синтетических изображений строк на кхмерском и английском; метаданные подтверждают форматы ONNX и safetensors. Модель рассчитана на компактное и быстрое распознавание текста. Модель распространяется по лицензии Apache-2.0. Описанные результаты тестирования относятся к синтетическим изображениям с популярными шрифтами; качество на реальных документах может отличаться.

Creekside/lfm-230-CoT — компактная языковая модель семейства LFM2, разработанная Creekside и дообученная на Creekside/lfm-230-cpt-logic-v1. Модель предназначена для генерации текста и диалогового использования; в метаданных также отмечен интерфейс вызова инструментов. Обучение выполнялось с использованием Unsloth и библиотеки TRL. Модель имеет плотную архитектуру Lfm2ForCausalLM и 221,2 млн параметров, поддерживает контекст до 128 000 токенов и опубликована в формате safetensors. В карточке указан английский язык. Модель распространяется по лицензии Apache-2.0.

Mungert/Llama-2-7b-chat-hf-GGUF — модель семейства Llama 2, разработанного Meta, в чат-ориентированной версии с заявленным размером около 7 миллиардов параметров. Суффикс GGUF указывает на распространение весов в формате, предназначенном для локального запуска совместимыми средствами; конкретные архитектурные параметры, поддерживаемые языки, размер контекста и список модальностей в предоставленных данных не указаны. По назначению модель подходит для диалоговых сценариев и генерации текста, однако сведения о качестве, производительности и специализированных возможностях отсутствуют. Модель распространяется по лицензии Llama 2 Community License. Она предоставляет ограниченные неисключительные права на использование, воспроизведение, распространение и создание производных работ при соблюдении условий лицензии, включая передачу текста лицензии, сохранение уведомления об авторских правах и соблюдение применимого законодательства и Acceptable Use Policy. Для организаций с более чем 700 миллионами ежемесячных активных пользователей предусмотрено дополнительное требование получить отдельную лицензию Meta. README не содержит результатов тестирования, описания сильных сторон, известных ограничений или точных требований к оборудованию.

QuantFactory/Llama-3-Instruct-8B-SimPO-ExPO-GGUF — квантизированная версия модели Llama-3-Instruct-8B-SimPO-ExPO, созданная с помощью llama.cpp. В основе лежат Meta-Llama-3-8B-Instruct и Llama-3-Instruct-8B-SimPO; разработка ExPO выполнена в рамках подхода Weak-to-Strong Extrapolation, описанного в соответствующей научной работе. Метод объединяет веса SFT- и DPO/RLHF-чекпойнтов с коэффициентом extrapolation alpha = 0.3 для усиления соответствия человеческим предпочтениям. Модель предназначена для генерации текста и диалоговых сценариев, где важны качество следования инструкциям и предпочтительность ответов. Она поддерживает английский язык, относится к семейству моделей примерно на 8B параметров и поставляется в формате GGUF, ориентированном на запуск через совместимое программное обеспечение на базе llama.cpp. Данные о длине контекста, конкретных схемах квантизации и модальностях, кроме текстовой генерации, в README не указаны. По данным AlpacaEval 2.0, модель достигла 40,6% win rate и 45,8% length-controlled win rate, немного превысив исходную Llama-3-Instruct-8B-SimPO. На MT-Bench ExPO также повышал результаты исходных моделей в приведённых сравнениях. Ограничения включают зависимость качества от выбранного уровня квантизации и отсутствие в README подробностей о ресурсоёмкости, безопасности и поведении за пределами указанных бенчмарков. Лицензия указана как llama3.

duyntnet/Llama-3-Instruct-8B-SPPO-Iter3-imatrix-GGUF — набор GGUF-квантизаций модели UCLA-AGI/Llama-3-Instruct-8B-SPPO-Iter3. Базовая модель построена на архитектуре Meta Llama 3 8B Instruct и дообучена с применением метода Self-Play Preference Optimization (SPPO), итерация 3. В README также указано, что использовались синтетические ответы и наборы промптов из UltraFeedback, разделённые на три части с помощью Snorkel-Mistral-PairRM-DPO-Dataset. Модель предназначена для генерации текста и преимущественно ориентирована на английский язык. Она содержит около 8 миллиардов параметров и представлена в формате GGUF с imatrix-квантизациями, что делает её пригодной для локального запуска через llama.cpp и совместимые интерфейсы, включая JanAI, KoboldCPP, text-generation-webui, Ollama и GPT4All. README не сообщает размер контекстного окна, точные варианты квантизации или характеристики производительности. Основные сильные стороны модели — инструкционное дообучение, ориентация на английские NLP-задачи и возможность локального использования в различных клиентах. Ограничения включают преимущественно англоязычную специализацию, отсутствие данных о поддерживаемых модальностях кроме текста и недостаток сведений о качестве, безопасности и производительности. В метаданных репозитория указана лицензия other, а в описании исходной модели — Apache-2.0; применимые условия следует уточнять для конкретной квантизации и исходной модели.

llama-3-wissenschaft-8B — плотная языковая модель семейства Llama 3, созданная nbeerbower с помощью слияния предобученных моделей через mergekit и метод Model Stock. В слиянии использованы nbeerbower/llama-3-slerp-kraut-dragon-8B, VAGOsolutions/Llama-3-SauerkrautLM-8b-Instruct, DeepMount00/Llama-3-8b-Ita и mlabonne/ChimeraLlama-3-8B-v3. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации продолжений и диалоговых ответов. Контекст составляет 8192 токена. Карточка указывает лицензию Meta Llama 3 Community License Agreement; перед использованием следует соблюдать её условия.

Llama-Spark — разговорная языковая модель компании Arcee.ai на архитектуре Llama, предназначенная для чат-ботов, виртуальных помощников и диалоговых систем. Модель насчитывает 7,5 млрд параметров и создана на основе Llama-3.1-8B: её дообучили на наборе данных Tome, а затем объединили с Llama-3.1-8B-Instruct. В метаданных указано окно контекста до 131 072 токенов. Модель генерирует текст в формате беседы и рассчитана на естественные, информативные ответы. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH; эти оценки не гарантируют качество в конкретном приложении. Для работы с весами в формате safetensors нужна совместимая среда. Лицензия — Llama 3.1 Community License.

KKHYA/llavaqwen2.5-32b-finetune — дообученная модель на базе Qwen/Qwen2.5-32B, опубликованная в формате Safetensors и работающая с библиотекой Transformers. Архитектура указана как LlavaQwen2ForCausalLM, размер — 32 млрд параметров, контекст — до 131 072 токенов. Карточка не описывает датасет и конкретную специализацию дообучения. Модель предназначена для генерации текста в диалоговом режиме; метаданные также указывают интерфейс вызова инструментов. Базовая модель поддерживает мультимодальные сценарии, но сведения о том, как именно настроен ввод изображений в этой производной модели, отсутствуют. Лицензия — Apache-2.0.

LM-cocktail Mistral 7B v1 — разговорная текстовая модель на архитектуре Mistral, опубликованная пользователем Yhyu13. В карточке она описана как смесь двух моделей Mistral с равными долями, созданная методом слияния LM-cocktail; точные идентификаторы исходных моделей не приведены. Модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста и общих задач общения с языковой моделью. Автор сообщает о результатах локального запуска AlpacaEval, где модель заняла второе место после GPT-4, однако описание не приводит подробностей оценки, поэтому это утверждение нельзя считать независимым подтверждением качества. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.

mlx-community/LongCat-Flash-Chat-bf16 — версия LongCat-Flash-Chat, подготовленная сообществом mlx-community для запуска в формате MLX. Исходную модель разработала Meituan; метаданные указывают на дообучение базовой модели для диалогового применения. Репозиторий содержит веса в формате safetensors и рассчитан на библиотеку MLX. Модель предназначена для генерации текста и ведения диалогов. Её размер составляет 17,7 млрд параметров, длина контекста — до 131 072 токенов. Лицензия — MIT. README описывает конверсию с помощью mlx-lm, но не приводит сведения о языковом охвате или конкретных ограничениях качества.

Lostbel0/losty-v4-merged-2 — языковая модель для генерации текста, опубликованная на Hugging Face и предназначенная для использования через библиотеку Transformers. В метаданных модель связана с архитектурой Llama и имеет около 7,5 млрд параметров; сведения о разработчике, базовой модели, обучающих данных и лицензии отсутствуют. Модель подходит для генерации и продолжения текста, диалоговых сценариев и интеграции в приложения на базе Transformers. Заявленная длина контекста составляет 131 072 токена, однако поддерживаемые естественные языки в доступных данных не указаны. Карточка не содержит результатов оценки, описания обучения, рекомендаций по применению или подробностей о рисках. Поэтому качество, фактическая точность, устойчивость к вредным или предвзятым ответам и пригодность для критически важных задач требуют самостоятельного тестирования; условия лицензии также необходимо уточнить перед использованием.

M7Yamshadowexperiment28_YamExperiment26 — объединённая языковая модель на архитектуре Mistral, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/YamExperiment26-7B. Она предназначена для генерации текста. Модель содержит 7,1 млрд параметров, принимает текстовый ввод и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0.

Magnum-v4-72b-GGUF — это набор GGUF-квантизаций текстогенеративной модели magnum-v4-72b, разработанной anthracite-org и подготовленной для llama.cpp пользователем bartowski. Модель предназначена для диалоговой генерации текста и запуска локально через совместимые приложения, включая LM Studio. README указывает английский язык и формат чата с системными и пользовательскими сообщениями. Модель имеет 72 миллиарда параметров; точная архитектура, размер контекстного окна и поддерживаемые модальности в README не указаны. Представлены варианты квантизации от Q8_0 до IQ1_M с размерами файлов примерно от 23,74 до 77,26 ГБ. Более высокие уровни квантизации обычно сохраняют лучшее качество, а низкие требуют меньше оперативной памяти, но заметно уступают по качеству. Рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Основные ограничения связаны с большими требованиями к дисковому пространству и памяти, особенно для вариантов высокого качества, а сильное сжатие снижает качество генерации. Некоторые варианты используют Q8_0 для embedding- и output-весов, что может влиять на качество, но автор отмечает отсутствие однозначных выводов. Распространение указано по лицензии Apache-2.0.

MarkupLM-base — мультимодальная модель Microsoft для понимания веб-страниц и документов с визуально насыщенной структурой. Она обучена совместно на тексте и разметке страниц, чтобы учитывать содержание и структуру HTML при ответах на вопросы и извлечении информации. Работа модели описана в статье ACL 2022 о предварительном обучении текста и разметки для понимания документов. Модель содержит около 151,9 млн параметров, использует архитектуру MarkupLM и распространяется в формате PyTorch. В карточке указана поддержка английского языка и контекст длиной 514 токенов. Репозиторий описывает задачи веб-вопросов и ответов и извлечения информации со страниц; конкретный pipeline-тег в метаданных не указан, поэтому задачам Hugging Face сопоставить её достоверно нельзя. Модель подходит для исследовательских и прикладных систем анализа веб-страниц, которым важно учитывать HTML-разметку вместе с текстом. README ссылается на документацию и демонстрационные блокноты. Лицензия в предоставленных данных не указана.

MaziyarPanahi/MeliodasPercival_01_YamT3qm7x — объединённая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана путём слияния моделей automerger/MeliodasPercival_01-7B и automerger/YamT3qm7x-7B. Модель предназначена для генерации текста и диалогов. Она принимает текст и поддерживает контекст длиной до 32 768 токенов, что позволяет использовать её для многоходовых бесед и работы с длинными текстовыми запросами. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. README не описывает специализированные области применения или дополнительные возможности модели.

jeiku/mergefodder1 — слитая языковая модель, созданная с помощью mergekit из jeiku/neurodeed и jeiku/luxemaelstrom методом SLERP. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 3,9 млрд параметров; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста в диалоговом формате и чат-сценариев. Она принимает текст и выдаёт текст. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

Это объединённая языковая модель семейства Llama, созданная сообществом mergekit-community методом SLERP из mergekit-community/mergekit-slerp-anaazls и mergekit-community/mergekit-slerp-epibiuy. Конфигурация задаёт кривую смешивания, которая, согласно карточке, сочетает Hermes на входных и выходных слоях с WizardMath в средних слоях. Модель предназначена для генерации текста и диалогового взаимодействия. Она содержит 33,9 млрд параметров, использует архитектуру LlamaForCausalLM и заявленное контекстное окно 200 000 токенов. Веса доступны в формате safetensors; для работы указана библиотека Transformers. Карточка не сообщает языки обучения и подробные результаты оценки качества, поэтому пригодность для конкретных языков и задач стоит проверять отдельно. Условия лицензии в предоставленных сведениях не указаны.

Это объединённая диалоговая языковая модель, созданная методом TIES с помощью mergekit на основе huihui-ai/Llama-3.2-3B-Instruct-abliterated и пяти других моделей из семейства Hjgugugjhuhjggg/mergekit-ties. Модель построена на архитектуре LlamaForCausalLM и содержит 3,2 млрд параметров; файлы представлены в формате safetensors. Она предназначена для генерации текста и ответов в чате, а интерфейс репозитория также отмечает возможность вызова инструментов. Контекст модели составляет до 131 072 токенов. Базовая модель описана как модель с ослабленными отказами, однако README не сообщает отдельные результаты оценки качества или подробности о языках. Лицензия в предоставленных сведениях не указана.

MFANNv0.5 — экспериментальная модель для генерации текста и классификации, разработанная Makhi Burroughs в рамках эксперимента с цепочкой рассуждений. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Она принимает текст и поддерживает контекст до 32 768 токенов. Модель может использоваться для генерации ответов в чате и классификации текста. В README приведены результаты бенчмарков ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K, однако описание не уточняет методику оценки. Модель распространяется под лицензией Apache-2.0.