/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,5 млрд
Размер весов
4,5 ГБ
Лицензия
Llama 3
Архитектура
llama · dense
Библиотека
transformers
Опубликована
25 мая 2024

Llama3-DiscoLeo-Instruct-8B-v0.1-mlx

Генерация текстаТекст → текст3 профессии

Конвертированная для MLX немецкоязычная диалоговая модель Llama 3 с 7,5 млрд параметров для генерации текста.

210скачиваний за 30 дней0лайковвеса обновлены2 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

cstr представляет конверсию DiscoResearch/Llama3-DiscoLeo-Instruct-8B-v0.1 в формат MLX для запуска с mlx-lm. Это плотная авторегрессионная модель семейства Llama 3 с архитектурой LlamaForCausalLM, примерно 7,5 млрд параметров и контекстом до 8192 токенов. Модель предназначена для генерации текста в диалоговом режиме на немецком языке.

Репозиторий не содержит дообучения, слияния или дистилляции: изменено представление весов при переносе в MLX, возможности унаследованы от исходной модели. Для запуска README указывает библиотеку mlx-lm версии 0.14.0. Распространяется на условиях лицензии llama3, совпадающих с лицензией исходной модели.

Сценарии применения

  • ответы на вопросы и ведение диалога на немецком языке
  • составление и продолжение немецких текстов
  • локальный запуск чат-модели на устройствах Apple с MLX

Ограничения

Качество, ограничения и сведения о данных обучения определяются исходной моделью; в этом репозитории они не описаны. Для использования требуется совместимая среда MLX.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

cstr/Llama3-DiscoLeo-Instruct-8B-v0.1-mlx

The Model cstr/Llama3-DiscoLeo-Instruct-8B-v0.1-mlx was converted to MLX format from DiscoResearch/Llama3-DiscoLeo-Instruct-8B-v0.1 using mlx-lm version 0.14.0.

Use with mlx

pip install mlx-lm
from mlx_lm import load, generate

model, tokenizer = load("cstr/Llama3-DiscoLeo-Instruct-8B-v0.1-mlx")
response = generate(model, tokenizer, prompt="hello", verbose=True)

Provenance and EU AI Act Art. 53 note

  • Upstream model: DiscoResearch/Llama3-DiscoLeo-Instruct-8B-v0.1 — published by DiscoResearch.
  • Upstream licence: llama3. This repository redistributes under the same terms; it grants no rights the upstream licence does not.
  • What was done here: format conversion and/or quantisation only (MLX). No training, no fine-tuning, no merging, no distillation, no change to architecture, vocabulary or capability. Only the numeric representation of the upstream weights differs.
  • Training data: documented — where it is documented at all — by the upstream provider; see the upstream model card. No training data was used, added or selected by this repository.
  • Provider status: under Regulation (EU) 2024/1689 the upstream authors remain the provider of this model. Converting the serialisation format does not make this repository the provider of a new general-purpose AI model, and no such claim is made. Questions about training content, copyright policy or model capability belong upstream.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры
LlamaForCausalLM
Ревизия весов
c71bd36

0 моделей