/ Модель

Характеристики

Лицензия
cc-by-sa-3.0
Архитектура
staticvectors · dense
Базовая модель
language-id
Библиотека
staticvectors
Опубликована
23 янв 2025

language-id-quantized

Классификация текстаТекст → label7 профессий

Компактная квантованная модель NeuML для определения языка коротких и длинных текстов.

5 898скачиваний за 30 дней2лайкавеса обновлены26 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

NeuML/language-id-quantized — облегчённая модель определения языка текста, опубликованная NeuML как экспорт модели идентификации языков FastText для библиотеки staticvectors. Она использует символьные n-граммы и архитектуру статических плотных векторов; 2×256 product quantization сокращает размер до примерно 4 МБ с небольшим снижением точности относительно исходной версии. Модель предназначена для быстрого определения языка входного текста в Python с использованием NumPy.

Модель подходит для автоматической маршрутизации текста по языковым обработчикам, разметки многоязычных корпусов и предварительной классификации пользовательских запросов. Карточка указывает поддержку многих языков, но не перечисляет их отдельно. Репозиторий содержит веса в формате safetensors; лицензия — CC BY-SA 3.0. Ограничение, отмеченное автором: квантование немного снижает точность по сравнению с базовой моделью.

Сценарии применения

  • определение языка входящего текста
  • маршрутизация текста в соответствующий языковой обработчик
  • разметка языков в многоязычном корпусе
  • предварительная классификация пользовательских запросов

Ограничения

Квантование немного снижает точность относительно базовой модели. Карточка не приводит перечень поддерживаемых языков.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Language Detection with StaticVectors

This model is an export of this FastText Language Identification model for staticvectors. staticvectors enables running inference in Python with NumPy. This helps it maintain solid runtime performance.

Language detection is an important task and identification with n-gram models is an efficient and highly accurate way to do it.

This model is a quantized version of the base language id model. It's using 2x256 Product Quantization like the original quantized model from FastText. This shrinks this model down to 4MB with only a minor hit on accuracy.

Usage with StaticVectors

from staticvectors import StaticVectors

model = StaticVectors("neuml/language-id-quantized")
model.predict(["What language is this text?"])

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · staticvectors · text-classification

Нельзя запустить

Архитектура staticvectors неизвестна transformers в образе рантайма.

Ревизия весов
1c2a8f1

0 моделей