/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
313 млн
Лицензия
Apache 2.0
Архитектура
llama · dense
Базовая модель
RedPJ-ProX-0.3B
Библиотека
transformers
Опубликована
10 окт 2024

web-chunk-refining-lm

Генерация текстаТекст → текст3 профессии

Компактная дообученная Llama-модель генерирует программы для уточнения веб-страниц на уровне отдельных фрагментов.

296скачиваний за 30 дней7лайковвеса обновлены10 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Web-chunk-refining-lm — языковая модель, разработанная на основе gair-prox/RedPJ-ProX-0.3B и дообученная для уточнения фрагментов веб-страниц посредством генерации программ. Она предназначена для сценариев, где нужно улучшать или преобразовывать веб-фрагменты, формируя для этого программный код.

Модель имеет плотную архитектуру семейства Llama с причинно-следственной языковой моделью LlamaForCausalLM и содержит 313,3 млн параметров. Она принимает текст и генерирует текст, включая код; контекст — до 2048 токенов. Карточка указывает датасет gair-prox/RedPajama-pro и английский язык. Модель распространяется по лицензии Apache-2.0.

Сценарии применения

  • уточнение отдельных фрагментов веб-страниц
  • генерация кода для преобразования веб-контента
  • автоматизация обработки веб-страниц по частям

Ограничения

Контекст ограничен 2048 токенами. Карточка не приводит оценок качества или подробностей о том, какие именно преобразования веб-фрагментов поддерживаются.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Web-chunk-refining-lm

ArXiv | Code

Web-chunk-refining-lm is an adapted 0.3B-ProX model, fine-tuned for chunk level refining via program generation.

Citation

@article{zhou2024programming,
  title={Programming Every Example: Lifting Pre-training Data Quality like Experts at Scale},
  author={Zhou, Fan and Wang, Zengzhi and Liu, Qian and Li, Junlong and Liu, Pengfei},
  journal={arXiv preprint arXiv:2409.17115},
  year={2024}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
dc735f6

0 моделей