/ Модель

Характеристики

Контекст
10 485 760 токенов
Параметры
1,2 млрд
Размер весов
5,2 ГБ
Лицензия
Apache 2.0
Архитектура
plamo2 · dense
Базовая модель
plamo-2-1b
Библиотека
transformers
Опубликована
14 фев 2025

plamo-2-1b

Генерация текстаТекст → текст3 профессии

Конверсия компактной базовой модели PLaMo 2-1B для генерации текста на английском и японском языках в среде MLX.

184скачиваний за 30 дней4лайкавеса обновлены15 мар 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

mlx-community опубликовала конверсию базовой языковой модели PLaMo 2-1B от Preferred Networks для генерации текста. Модель построена на плотной архитектуре PlamoForCausalLM семейства PLaMo 2 и содержит 1,2 млрд параметров. Версия репозитория подготовлена в формате MLX из pfnet/plamo-2-1b с помощью mlx-lm 0.22.0; метаданные указывают формат весов safetensors.

Модель предназначена для генерации текста на английском и японском языках. Указанная в метаданных длина контекста — 10 485 760 токенов. Для запуска в среде MLX README указывает зависимости mlx, numba и mlx-lm версии не ниже 0.22.0. Лицензия — Apache-2.0.

Сценарии применения

  • генерация текста на английском
  • генерация текста на японском
  • продолжение текстового фрагмента
  • локальный запуск языковой модели на устройствах Apple с MLX

Ограничения

Модель сравнительно компактна и ориентирована на английский и японский языки; качество на других языках не подтверждено предоставленными данными.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

mlx-community/plamo-2-1b

The Model mlx-community/plamo-2-1b was converted to MLX format from pfnet/plamo-2-1b using mlx-lm version 0.22.0.

Use with mlx

# numba is required for the new PLaMo tokenizer
pip install mlx numba 'mlx-lm>=0.22.0'
python -m mlx_lm.generate \                                                              
--model mlx-community/plamo-2-1b \ 
--prompt '美味しいカレーの作り方を紹介します。' \
--ignore-chat-template \
--max-tokens 1024 \
--extra-eos-token '<|plamo:bos|>' \
--temp 0.7 \
--seed 0
==========

スパイスの使い方からカレーの作り方まで詳しく解説します。
## カレーの作り方
**①材料を用意する**
塩を適量加えると、スパイシーな香りが広がります。
クミン、コリアンダーなどのスパイスを使うと、食欲をそそります。
**②スパイスを炒める**
スパイスは始めに少し入れるだけで、その後は徐々に加えます。
**③玉ねぎのみじん切りを炒める**
玉ねぎを炒めることで、甘みが引き出されます。
**④肉を炒める**
肉は薄くスライスして、スパイスとよく混ぜます。
**⑤野菜も炒める**
人参やジャガイモ、インゲンなども一緒に炒めます。野菜は炒める前にカットしておきましょう。
**⑥水を加える**
**⑦カレールーを加える**
**⑧出来上がり**
## カレーの味付け方法
**①肉を炒める**
肉は薄くスライスして、スパイスとよく混ぜます。
**②野菜も炒める**
野菜は炒める前にカットしておきましょう。
**③水を加える**
**④カレールーを加える**
## カレーには○○を入れよう
**①しょうゆ**
しょうゆを加えることで、まろやかでコクのある味になります。
**②にんにく**
にんにくを加えることで、香りと風味がアップします。
**③しょうが**
しょうがを加えることで、スパイシーな風味が加わります。
**④トマト缶**
トマト缶を加えることで、酸味が加わり、深みのある味わいになります。
**⑤ヨーグルト**
ヨーグルトを加えることで、コクがアップします。
## カレーのオススメの具材
**①肉**
牛肉、豚肉、鶏肉など、お好みの肉を使ってみましょう。
**②野菜**
人参、ジャガイモ、インゲンなど、お好みの野菜を使ってみましょう。
**③シーフード**
あさり、えび、いかなど、シーフードを使ってみましょう。
**④チーズ**
チーズを加えることで、クリーミーでコクのある味わいになります。
## カレーの美味しい作り方
**①材料を用意する**
塩を適量加えると、スパイシーな香りが広がります。
クミン、コリアンダーなどのスパイスを使うと、食欲をそそります。
**②スパイスを炒める**
スパイスは始めに少し入れるだけで、その後は徐々に加えます。
**③玉ねぎのみじん切りを炒める**
玉ねぎを炒めることで、甘みが引き出されます。
**④肉を炒める**
肉は薄くスライスして、スパイスとよく混ぜます。
**⑤野菜も炒める**
人参やジャガイモ、インゲンなども一緒に炒めます。野菜は炒める前にカットしておきましょう。
**⑥水を加える**
**⑦カレールーを加える**
**⑧出来上がり**
## まとめ
スパイスと野菜の組み合わせは、カレーの味わいを深めるのに欠かせません。
ぜひ今回紹介したレシピを参考に、美味しいカレーを作ってみてください。
==========
Prompt: 6 tokens, 87.012 tokens-per-sec
Generation: 496 tokens, 52.861 tokens-per-sec
Peak memory: 5.317 GB

You can also write your code to use this model like this:

from mlx_lm import load, generate

model, tokenizer = load("mlx-community/plamo-2-1b")

prompt = "美味しいカレーの作り方のレシピを紹介します。"

response = generate(model, tokenizer, prompt=prompt, verbose=True)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры
PlamoForCausalLM
Ревизия весов
c597678

0 моделей