Форк предварительно обученной GPT-2 с дополнительной контрольной точкой для генерации текста и участия в BabyLM Challenge 2025.

Подходит для: генерация продолжения текста · эксперименты с языковыми моделями GPT-2 · оценка модели на наборах BabyLM

Компактная 3,2-миллиардная языковая модель для диалогов, рассуждений, программирования и агентных задач с вызовом инструментов.

Подходит для: многошаговые задачи с вызовом внешних инструментов · помощь в программировании и работа кодового агента · решение математических и научных задач

Англоязычная RoBERTa-модель для предсказания скрытых токенов, обученная на 10 млн слов с помощью curriculum learning для конкурса BabyLM 2025.

Подходит для: восстановление пропущенных слов в английском тексте · оценка вероятности вариантов заполнения пропуска · исследование обучения языковых моделей на малых корпусах

Компактная авторегрессионная LLaMA-подобная модель BabyLM для генерации текста и исследований малых языковых моделей.

Подходит для: генерация коротких продолжений текста · эксперименты с маломасштабным предварительным обучением · исследование sample-efficient обучения языковых моделей

Небольшая авторегрессионная модель DynamicAlibi для генерации текстовых продолжений по промпту.

Подходит для: генерация продолжения короткого текста · эксперименты с компактными языковыми моделями · тестирование генерации текста через Transformers

Небольшая каузальная языковая модель Dynamic ALiBi для экспериментальной генерации текста, обученная на варианте BabyLM 100M.

Подходит для: эксперименты с генерацией короткого текста · сравнение языковых моделей на BabyLM · изучение влияния Dynamic ALiBi на генерацию

Небольшая авторегрессионная модель Dynamic ALiBi для экспериментов с генерацией текста на данных BabyLM.

Подходит для: эксперименты с авторегрессионной генерацией текста · исследование компактных языковых моделей · сравнение вариантов позиционного кодирования в языковых моделях

Экспериментальная небольшая авторегрессионная модель Dynamic ALiBi для генерации продолжений текста.

Подходит для: эксперименты с генерацией текста на малых языковых моделях · сравнение вариантов Dynamic ALiBi в обучении языковых моделей · изучение чекпойнтов BabyLM по эпохам

Дообученная модель OPT на 138,4 млн параметров для генерации текста с контекстом 256 токенов.

Подходит для: генерация коротких текстовых продолжений · эксперименты с небольшими языковыми моделями · оценка качества генерации на задачах BabyLM

Компактная модель Transformers для исследовательской генерации текста и экспериментов с небольшими языковыми моделями.

Подходит для: генерация коротких текстовых продолжений · эксперименты с языковыми моделями малого размера · прототипирование text-generation в Transformers

Компактная экспериментальная языковая модель Transformers для генерации текста, связанная с подходом dynamic ALiBi и конфигурацией BabyLM 10M.

Подходит для: эксперименты с генерацией текста · изучение компактных языковых моделей · тестирование динамических позиционных смещений

Исследовательская англоязычная модель Hubble на 1,1 млрд параметров с намеренно добавленными чувствительными текстами для изучения запоминания и утечки обучающих данных.

Подходит для: сравнение запоминания данных с парной стандартной моделью · изучение воспроизведения обучающих текстов · исследование утечки персональных данных из языковых моделей

Экспериментальная производная Llama 3.2 1B Instruct с изменёнными весами для исследований отказов, интерпретируемости и оценки безопасности.

Подходит для: исследование механизмов отказа языковых моделей · red teaming моделей, склонных отвечать на вредоносные запросы · оценка защитных механизмов и поведения модели

Компактная 15-миллионная Transformers-модель для авторегрессионной генерации текста в исследовательских и прототипных сценариях.

Подходит для: эксперименты с небольшими языковыми моделями · локальная генерация коротких текстов · тестирование технологии dynamic ALiBi

Компактная модель Transformers для авторегрессионной генерации текста и экспериментов с языковыми моделями.

Подходит для: продолжение текста по промпту · эксперименты с компактными языковыми моделями · исследование позиционного кодирования ALiBi

Небольшая 14,7-миллионная модель Transformers для генерации текста.

Подходит для: продолжение коротких текстовых фрагментов · эксперименты с генерацией текста · обучение и прототипирование языковых моделей

Компактная экспериментальная модель Transformers для авторегрессионной генерации текста и исследований архитектуры dynamic ALiBi.

Подходит для: генерация коротких текстовых продолжений · эксперименты с компактными языковыми моделями · сравнение позиционного кодирования ALiBi

Небольшая экспериментальная модель генерации текста на Transformers с тегом ALiBi, подходящая для исследований и прототипов автодополнения.

Подходит для: автодополнение коротких текстов · эксперименты с генерацией текста · исследование позиционного кодирования ALiBi

Небольшая 15-миллионная языковая модель Transformers для экспериментов и генерации текста в pipeline text-generation.

Подходит для: эксперименты с генерацией текста · обучение работе с небольшими языковыми моделями · проверка архитектуры dynamic ALiBi

Небольшая 15-миллионная модель генерации текста с тегом dynamic_alibi, предназначенная преимущественно для экспериментов и прототипирования.

Подходит для: эксперименты с генерацией текста · тестирование небольших языковых моделей · учебные прототипы авторегрессионных моделей

Экспериментальная модель OPT на 411 млн параметров, обученная с нуля на корпусе BabyLM для генерации текста.

Подходит для: генерация текста в экспериментах с моделями BabyLM · изучение поведения компактных языковых моделей · сравнение результатов обучения на корпусе znhoughton/babylm-150m-v3

Компактная экспериментальная языковая модель Transformers для авторегрессионной генерации текста.

Подходит для: продолжение коротких текстовых фрагментов · эксперименты с компактными языковыми моделями · исследование позиционных представлений dynamic ALiBi

Компактная модель Transformers на 27,6 млн параметров для авторегрессионной генерации текста и экспериментов с подходом dynamic ALiBi.

Подходит для: продолжение заданного текста · генерация коротких текстовых образцов · эксперименты с небольшими языковыми моделями

Дообученная Gemma 4 E4B Instruct для генерации кода на Ballerina и диалоговых задач.

Подходит для: генерация функций на Ballerina по описанию · завершение и написание кода Ballerina · ответы на вопросы о программировании на Ballerina