/ Модель

Характеристики

Контекст
16 384 токена
Параметры
33,1 млрд
Размер весов
133 ГБ
Лицензия
OpenRAIL
Архитектура
llama · dense
Библиотека
transformers
Опубликована
1 апр 2024

MultiPL-T-DeepSeekCoder_33b

Генерация текстаТекст → текст3 профессии

Дообученная на MultiPL-T модель DeepSeekCoder-33b-Base для генерации кода на Racket.

44скачиваний за 30 дней0лайковвеса обновлены24 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

nuprl/MultiPL-T-DeepSeekCoder_33b — дообученная модель на базе DeepSeekCoder-33b-Base, созданная в рамках проекта MultiPL-T. Она предназначена для генерации кода на языке программирования Racket; репозиторий содержит отдельные контрольные точки по эпохам обучения. Модель имеет плотную архитектуру семейства Llama и около 33,1 млрд параметров, работает через Transformers и распространяется в формате safetensors. Контекст составляет до 16 384 токенов.

Модель подходит для генерации кода на Racket и экспериментов с переносом знаний на языки программирования с меньшим объёмом обучающих данных. В README указана лицензия OpenRAIL. Подробности об ограничениях, оценке качества и условиях практического применения в карточке не приведены.

Сценарии применения

  • генерация кода на Racket
  • создание фрагментов программ на Racket по текстовому запросу
  • эксперименты по переносу знаний на языки программирования с малым объёмом данных

Ограничения

README не приводит результатов оценки качества и конкретных ограничений применения. Модель ориентирована на Racket; число загрузок за последние 30 дней невелико.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MultiPL-T DeepSeekCoder-33b-Base

This repository holds a DeepSeekCoder-33b-base fine-tune on MultiPL-T Racket. Examine the commit message to determine the language and checkpoint. We have a checkpoint for each epoch.

For more information the training process, see the MultiPL-T paper:

@misc{cassano:multipl-t,
      title={Knowledge Transfer from High-Resource to Low-Resource Programming Languages for Code LLMs}, 
      author={Federico Cassano and John Gouwar and Francesca Lucchetti and Claire Schlesinger and Anders Freeman and Carolyn Jane Anderson and Molly Q Feldman and Michael Greenberg and Abhinav Jangda and Arjun Guha},
      year={2024},
      eprint={2308.09895},
      archivePrefix={arXiv},
      primaryClass={cs.PL}
}

For usage instructions, see the model card for the original model. Replace the model name with the name of this repository, and set revision=COMMIT_HASH.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
420f7df

0 моделей