/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
6,5 млрд
Размер весов
13,8 ГБ
Лицензия
Своя лицензия
Архитектура
llama · dense
Опубликована
25 янв 2024

deepseek-coder-7b-base-v1.5

Генерация текстаТекст → текст7 профессий

Базовая модель DeepSeek на 6,5 млрд параметров для генерации и продолжения кода, дообученная на 2 трлн токенов.

1 075скачиваний за 30 дней59лайковвеса обновлены4 фев 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

DeepSeek-Coder-7B-Base-v1.5 — базовая языковая модель для кода от DeepSeek, полученная продолжением предварительного обучения DeepSeek-LLM 7B на 2 трлн токенов с задачей предсказания следующего токена. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 6,5 млрд параметров и контекстом 4096 токенов. Она предназначена для генерации и продолжения кода по текстовому контексту, в том числе как основа для дальнейшей адаптации под задачи программирования.

Модель принимает и выдаёт текст; карточка не перечисляет поддерживаемые языки программирования или естественные языки. Репозиторий содержит веса в формате safetensors. Указана лицензия other, поэтому условия использования следует проверять в материалах проекта DeepSeek.

Сценарии применения

  • генерация фрагментов кода по текстовому описанию
  • продолжение кода с учётом контекста
  • подготовка базовой модели для адаптации под задачи программирования

Ограничения

Контекст ограничен 4096 токенами. Лицензия обозначена как other, поэтому перед использованием нужно проверить конкретные условия лицензирования проекта.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

1. Introduction of Deepseek-Coder-7B-Base-v1.5

Deepseek-Coder-7B-Base-v1.5 is continue pre-trained from Deepseek-LLM 7B on 2T tokens by employing a window size of 4K and next token prediction objective.

2. Evaluation Results

3. How to Use

Here give an example of how to use our model.

from transformers import AutoTokenizer, AutoModelForCausalLM
import torch
tokenizer = AutoTokenizer.from_pretrained("deepseek-ai/deepseek-coder-7b-base-v1.5", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained("deepseek-ai/deepseek-coder-7b-base-v1.5", trust_remote_code=True).cuda()
input_text = "#write a quick sort algorithm"
inputs = tokenizer(input_text, return_tensors="pt").cuda()
outputs = model.generate(**inputs, max_length=128)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

4. License

This code repository is licensed under the MIT License. The use of DeepSeek Coder models is subject to the Model License. DeepSeek Coder supports commercial use.

See the LICENSE-MODEL for more details.

5. Contact

If you have any questions, please raise an issue or contact us at service@deepseek.com.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
98f0904

0 моделей