Характеристики

Контекст: 32 768 токенов
Параметры: 22 млрд
Размер весов: 44,5 ГБ
Лицензия: Своя лицензия
Архитектура: mistral · dense
Опубликована: 29 мая 2024

Ссылки

Hugging Face

Codestral-22B-v0.1

mistral-community

Генерация текстаТекст → текст11 профессий

Модель Mistral AI на 22 млрд параметров для генерации, объяснения, документирования и дополнения кода.

78скачиваний за 30 дней17лайковвеса обновлены1 июл 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Codestral-22B-v0.1 — плотная авторегрессионная модель семейства Mistral на 22 млрд параметров, разработанная командой Mistral AI и обученная на разнообразном наборе данных, включающем более 80 языков программирования. Она предназначена для генерации и анализа кода: модель отвечает на вопросы о фрагментах программ, пишет документацию, объясняет и рефакторит код, а также создаёт программы по инструкциям. Режим Fill in the Middle позволяет дополнять код между заданными префиксом и суффиксом, в том числе в инструментах разработки. Поддерживается контекст длиной до 32 768 токенов.

Модель принимает текстовые запросы и выдаёт текст, включая программный код. README приводит Python, Java, C, C++, JavaScript и Bash как примеры языков обучения; полный перечень заявлен в сопутствующей публикации. Контроль модерации в модели отсутствует, поэтому её ответы могут требовать проверки и внешних ограничений. Репозиторий использует формат safetensors; лицензия в метаданных указана как other, конкретные условия следует сверять с карточкой модели.

Сценарии применения

генерация кода по текстовому заданию
объяснение фрагментов программы
создание документации к коду
рефакторинг и факторизация кода
автодополнение кода между префиксом и суффиксом
ответы на вопросы о программном коде

Ограничения

В модели нет механизмов модерации, а чекпойнт предоставлен как есть и может быть неактуальным. Лицензия отмечена как other, поэтому условия использования следует проверить на карточке модели.

Для каких профессий подходит11

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели II.3Разработка и данныеРефакторинг, миграция и модернизацияAI помогает улучшать структуру программ и переносить их на новые технологии без потери поведения.20 задач9 764модели II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

[!WARNING] This model checkpoint is provided as-is and might not be up-to-date. Please use the corresponding version from https://huggingface.co/mistralai org

Model Card for Codestral-22B-v0.1

Codestrall-22B-v0.1 is trained on a diverse dataset of 80+ programming languages, including the most popular ones, such as Python, Java, C, C++, JavaScript, and Bash (more details in the Blogpost). The model can be queried:

As instruct, for instance to answer any questions about a code snippet (write documentation, explain, factorize) or to generate code following specific indications
As Fill in the Middle (FIM), to predict the middle tokens between a prefix and a suffix (very useful for software development add-ons like in VS Code)

Inference

It's the same as Mistral 7B.

Limitations

The Codestral-22B-v0.1 does not have any moderation mechanisms. We're looking forward to engaging with the community on ways to make the model finely respect guardrails, allowing for deployment in environments requiring moderated outputs.

License

Codestral-22B-v0.1 is released under the MNLP-0.1 license.

The Mistral AI Team

Albert Jiang, Alexandre Sablayrolles, Alexis Tacnet, Antoine Roux, Arthur Mensch, Audrey Herblin-Stoop, Baptiste Bout, Baudouin de Monicault, Blanche Savary, Bam4d, Caroline Feldman, Devendra Singh Chaplot, Diego de las Casas, Eleonore Arcelin, Emma Bou Hanna, Etienne Metzger, Gianna Lengyel, Guillaume Bour, Guillaume Lample, Harizo Rajaona, Henri Roussez, Jean-Malo Delignon, Jia Li, Justus Murke, Kartik Khandelwal, Lawrence Stewart, Louis Martin, Louis Ternon, Lucile Saulnier, Lélio Renard Lavaud, Margaret Jennings, Marie Pellat, Marie Torelli, Marie-Anne Lachaux, Marjorie Janiewicz, Mickael Seznec, Nicolas Schuhl, Patrick von Platen, Romain Sauvestre, Pierre Stock, Sandeep Subramanian, Saurabh Garg, Sophia Yang, Szymon Antoniak, Teven Le Scao, Thibaut Lavril, Thibault Schueller, Timothée Lacroix, Théophile Gervet, Thomas Wang, Valera Nemychnikova, Wendy Shang, William El Sayed, William Marshall

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: MistralForCausalLM
Ревизия весов: 576ec2b