/ Модель

Характеристики

Контекст
131 072 токена
Параметры
1,2 млрд
Лицензия
CreativeML OpenRAIL-M
Архитектура
llama · dense
Базовая модель
Llama-3.2-1B-Instruct
Библиотека
transformers
Опубликована
23 ноя 2024

Llama-SmolTalk-3.2-1B-Instruct

Генерация текстаТекст → текст4 профессии

Компактная инструкция-настроенная модель Llama для диалогов и генерации текстов, включая ответы, объяснения и краткие изложения.

62скачиваний за 30 дней3лайкавеса обновлены15 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Llama-SmolTalk-3.2-1B-Instruct — компактная плотная языковая модель prithivMLmods на архитектуре Llama, дообученная для следования инструкциям и диалогов на наборе HuggingFaceTB/smoltalk. Она основана на meta-llama/Llama-3.2-1B-Instruct и содержит 1,2 млрд параметров; поддерживает генерацию текста и чат, а также имеет интерфейс для вызова инструментов. В метаданных указан контекст до 131 072 токенов.

Модель предназначена для диалоговых интерфейсов, генерации текстов, кратких изложений, объяснений и ответов на открытые или структурированные запросы. Английский указан среди языков карточки. Репозиторий использует библиотеку Transformers и формат весов safetensors; README также упоминает GGUF-вариант. Лицензия — creativeml-openrail-m.

Компактный размер делает модель пригодной для сценариев с ограниченными ресурсами, однако возможности и качество ответов могут быть ограничены по сравнению с более крупными моделями. README не приводит результатов оценки качества; заявленные широкие применения не подтверждены конкретными тестами.

Сценарии применения

  • создание диалогового помощника
  • ответы на инструкции и вопросы на английском языке
  • составление кратких изложений
  • генерация объяснений и черновиков текста
  • обработка запросов через интерфейс вызова инструментов

Ограничения

Компактный размер может ограничивать качество и сложность ответов по сравнению с более крупными моделями. README не содержит результатов оценки качества.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Llama-SmolTalk-3.2-1B-Instruct Model File

The Llama-SmolTalk-3.2-1B-Instruct model is a lightweight, instruction-tuned model designed for efficient text generation and conversational AI tasks. With a 1B parameter architecture, this model strikes a balance between performance and resource efficiency, making it ideal for applications requiring concise, contextually relevant outputs. The model has been fine-tuned to deliver robust instruction-following capabilities, catering to both structured and open-ended queries.

File Name [ Updated Files ]SizeDescriptionUpload Status
.gitattributes1.57 kBGit attributes configuration fileUploaded
README.md42 BytesInitial READMEUploaded
config.json1.03 kBConfiguration fileUploaded
generation_config.json248 BytesConfiguration for text generationUploaded
pytorch_model.bin2.47 GBPyTorch model weightsUploaded (LFS)
special_tokens_map.json477 BytesSpecial token mappingsUploaded
tokenizer.json17.2 MBTokenizer configurationUploaded (LFS)
tokenizer_config.json57.4 kBAdditional tokenizer settingsUploaded
Model TypeSizeContext LengthLink
GGUF1B-🤗 Llama-SmolTalk-3.2-1B-Instruct-GGUF

Key Features:

  1. Instruction-Tuned Performance: Optimized to understand and execute user-provided instructions across diverse domains.
  2. Lightweight Architecture: With just 1 billion parameters, the model provides efficient computation and storage without compromising output quality.
  3. Versatile Use Cases: Suitable for tasks like content generation, conversational interfaces, and basic problem-solving.

Intended Applications:

  • Conversational AI: Engage users with dynamic and contextually aware dialogue.
  • Content Generation: Produce summaries, explanations, or other creative text outputs efficiently.
  • Instruction Execution: Follow user commands to generate precise and relevant responses.

Technical Details:

The model leverages PyTorch for training and inference, with a tokenizer optimized for seamless text input processing. It comes with essential configuration files, including config.json, generation_config.json, and tokenization files (tokenizer.json and special_tokens_map.json). The primary weights are stored in a PyTorch binary format (pytorch_model.bin), ensuring easy integration with existing workflows.

Model Type: GGUF
Size: 1B Parameters

The Llama-SmolTalk-3.2-1B-Instruct model is an excellent choice for lightweight text generation tasks, offering a blend of efficiency and effectiveness for a wide range of applications.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
1606376

0 моделей