/ Модель
Каталог

Характеристики

Лицензия
MIT
Опубликована
18 сен 2026

Ссылки

Hugging Face

nebium-small-gguf

nabin2004
Генерация текстаТекст → текст

Компактная 117-миллионная текстовая модель Nebium-Small в формате GGUF для локального запуска через llama.cpp или Ollama.

159скачиваний за 30 дней0лайковвеса обновлены18 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Nebium-Small-GGUF — это экспорт модели Nebium-Small от разработчика nabin2004 в формате GGUF для запуска через llama.cpp и Ollama. Базовая модель содержит 117 млн параметров; репозиторий включает вариант FP16 и токенизатор BPE. Файлы предназначены для вывода текста с низкой задержкой на CPU и GPU.

Модель ориентирована на генерацию текста и связана с тематикой шахмат, однако карточка не уточняет конкретные сценарии или специальные шахматные возможности. Репозиторий указывает базовую модель nabin2004/nebium-small. Лицензия — MIT.

Сценарии применения

  • локальный запуск компактной языковой модели на CPU
  • генерация текста через llama.cpp
  • генерация текста через Ollama
  • эксперименты с небольшой моделью для шахматной тематики

Ограничения

Карточка не приводит оценок качества или подробного описания шахматных возможностей; указанный FP16-файл является экспортом базовой модели, а не свидетельством квантизации.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Nebium-Small-GGUF

Quantized and FP16 GGUF format binaries for Nebium-Small (117M parameters).

Designed for low-latency CPU and GPU execution with llama.cpp and Ollama.

Artifacts

FilenamePrecisionDescription
nebium-small.ggufFP16Full-precision baseline export
tokenizer.jsonTokenizerBPE vocabulary and merge definitions

Inference with llama.cpp

# Clone and compile llama.cpp
git clone https://github.com/ggerganov/llama.cpp && cd llama.cpp && make

# Download GGUF binary
huggingface-cli download nabin2004/nebium-small-gguf nebium-small.gguf --local-dir .

# Run prompt continuation
./llama-cli -m nebium-small.gguf -p "e2e4 e7e5 g1f3" -n 25 --temp 0.7

Inference with Ollama

# Modelfile
FROM ./nebium-small.gguf
PARAMETER temperature 0.7
PARAMETER stop "<|eos|>"
SYSTEM You are an autoregressive chess next-move prediction model using UCI move notation.

ollama create nebium-small -f Modelfile
ollama run nebium-small "e2e4 e7e5"

License

MIT License.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Можно запустить

Подбираем GPU…

Ревизия весов
8491a21

0 моделей

    Создать бенчмарк