/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
134 млн
Архитектура
llama · dense
Базовая модель
SmolLM-135M-Instruct
Библиотека
sentence-transformers
Опубликована
30 авг 2024

SmolLM-135M-Instruct-DEVINator-v0.1

ЭмбеддингиТекст → embedding7 профессий

Компактная дообученная модель для получения текстовых эмбеддингов и оценки сходства предложений.

121скачиваний за 30 дней0лайковвеса обновлены30 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

unclemusclez/SmolLM-135M-Instruct-DEVINator-v0.1 — дообученная модель на базе HuggingFaceTB/SmolLM-135M-Instruct, подготовленная с помощью AutoTrain для задачи Sentence Transformers. Она предназначена для получения текстовых эмбеддингов и сравнения сходства предложений; метаданные также отмечают поддержку генерации текста и диалога. Модель имеет плотную архитектуру семейства LlamaForCausalLM, содержит 134,5 млн параметров и рассчитана на контекст до 2048 токенов. Доступны форматы safetensors и GGUF.

В качестве данных для обучения указан набор skratos115/opendevin_DataDevinator. Карточка не приводит метрик валидации, поэтому качество сходства предложений по ней оценить нельзя. Базовая модель описана как компактная англоязычная модель для диалогов, инструкций и генерации текста; отдельная поддержка других языков не подтверждена. Лицензия в предоставленных данных не указана.

Сценарии применения

  • поиск семантически похожих предложений
  • ранжирование текстов по сходству с запросом
  • получение эмбеддингов для текстового поиска
  • сравнение формулировок и коротких текстов

Ограничения

В README отсутствуют метрики валидации, поэтому качество модели для сходства предложений не подтверждено приведёнными результатами. Английский язык указан для базовой модели; отдельная поддержка других языков не подтверждена.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

AVAILABLE ON OLLAMA: https://ollama.com/unclemusclez/smollm-135m-instruct-devinator

Model Trained Using AutoTrain

  • Problem type: Sentence Transformers

Validation Metrics

No validation metrics available

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the Hugging Face Hub
model = SentenceTransformer("sentence_transformers_model_id")
# Run inference
sentences = [
    'search_query: autotrain',
    'search_query: auto train',
    'search_query: i love autotrain',
]
embeddings = model.encode(sentences)
print(embeddings.shape)

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · sentence-transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
ec2e200

0 моделей