Характеристики

Архитектура: pico_decoder · dense
Библиотека: transformers
Опубликована: 28 авг 2026

Ссылки

Hugging Face arXiv 1910.09700

beetle-bilingual-l2-80-late-b5-fineweb-100m-dan-eng

Генерация текстаТекст → текст3 профессии

Небольшая датско-английская авторегрессионная модель Beetle для исследования обработки второго языка и билингвального обучения.

123скачиваний за 30 дней0лайковвеса обновлены28 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Beetle-FineWeb-100M/beetle-bilingual-l2-80-late-b5-fineweb-100m-dan-eng — небольшая двуязычная авторегрессионная языковая модель из семейства Beetle, разработанного исследователями University of Cambridge и EleutherAI. Модель обучена для изучения билингвальной обработки и усвоения второго языка в контролируемых условиях; в данном варианте первым языком является датский, а вторым — английский.

Модель относится к классу causal language models и предназначена для генерации текста и вычисления вероятностей последовательностей. Семейство Beetle использует LLaMA-подобную архитектуру с RoPE, SwiGLU, RMSNorm и grouped-query attention; модель имеет порядок 0,2 млрд параметров и реализуется через Transformers с пользовательским кодом pico_decoder. Конфигурация late-b5 моделирует поэтапное воздействие языков, при котором английский вводится позднее в процессе обучения.

Основное применение — экспериментальное моделирование двуязычия, межъязыкового переноса, динамики обучения второму языку, чтения и грамматической обработки. Модель не является универсальным чат-ассистентом и из-за небольшого размера, ограниченного датско-английского охвата и исследовательской направленности может уступать крупным многоязычным моделям в качестве генерации, фактических ответах и широком спектре прикладных задач. Условия лицензирования в доступных источниках не подтверждены.

Сценарии применения

моделирование чтения на английском у носителей датского
исследование межъязыкового переноса
анализ динамики обучения второму языку
оценка грамматической обработки в билингвальных моделях
генерация коротких датских и английских продолжений текста

Ограничения

Модель небольшая и специализирована для исследовательского моделирования датско-английского билингвизма, поэтому её возможности общего диалога, фактического рассуждения и прикладной генерации ограничены. Лицензия и полный набор эксплуатационных ограничений в доступных источниках не подтверждены.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.13Универсальные способностиСимуляция, моделирование и открытие новогоAI помогает исследовать сложные системы, проверять сценарии и искать новые конструкции, закономерности или гипотезы.18 задач1 577моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель IV.5Отраслевые задачиОбразование и развитие навыковAI помогает персонализировать обучение и снижать административную нагрузку на преподавателей.34 задачи6 641модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for Model ID

Model Details

Model Description

This is the model card of a 🤗 transformers model that has been pushed on the Hub. This model card has been automatically generated.

Developed by: [More Information Needed]
Funded by [optional]: [More Information Needed]
Shared by [optional]: [More Information Needed]
Model type: [More Information Needed]
Language(s) (NLP): [More Information Needed]
License: [More Information Needed]
Finetuned from model [optional]: [More Information Needed]

Model Sources [optional]

Repository: [More Information Needed]
Paper [optional]: [More Information Needed]
Demo [optional]: [More Information Needed]

Uses

Direct Use

[More Information Needed]

Downstream Use [optional]

[More Information Needed]

Out-of-Scope Use

[More Information Needed]

Bias, Risks, and Limitations

[More Information Needed]

Recommendations

Users (both direct and downstream) should be made aware of the risks, biases and limitations of the model. More information needed for further recommendations.

How to Get Started with the Model

Use the code below to get started with the model.

[More Information Needed]

Training Details

Training Data

[More Information Needed]

Training Procedure

Preprocessing [optional]

[More Information Needed]

Training Hyperparameters

Training regime: [More Information Needed]

Speeds, Sizes, Times [optional]

[More Information Needed]

Evaluation

Testing Data, Factors & Metrics

Testing Data

[More Information Needed]

Factors

[More Information Needed]

Metrics

[More Information Needed]

Results

[More Information Needed]

Summary

Model Examination [optional]

[More Information Needed]

Environmental Impact

Carbon emissions can be estimated using the Machine Learning Impact calculator presented in Lacoste et al. (2019).

Hardware Type: [More Information Needed]
Hours used: [More Information Needed]
Cloud Provider: [More Information Needed]
Compute Region: [More Information Needed]
Carbon Emitted: [More Information Needed]

Technical Specifications [optional]

Model Architecture and Objective

[More Information Needed]

Compute Infrastructure

[More Information Needed]

Hardware

[More Information Needed]

Software

[More Information Needed]

Citation [optional]

BibTeX:

[More Information Needed]

APA:

[More Information Needed]

Glossary [optional]

[More Information Needed]

More Information [optional]

[More Information Needed]

Model Card Authors [optional]

[More Information Needed]

Model Card Contact

[More Information Needed]

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Класс архитектуры: PicoDecoderHF
Ревизия весов: 383e9d7