Компактная авторегрессионная LLaMA-подобная модель BabyLM для генерации текста и исследований малых языковых моделей.

Подходит для: генерация коротких продолжений текста · эксперименты с маломасштабным предварительным обучением · исследование sample-efficient обучения языковых моделей

Форк предварительно обученной GPT-2 с дополнительной контрольной точкой для генерации текста и участия в BabyLM Challenge 2025.

Подходит для: генерация продолжения текста · эксперименты с языковыми моделями GPT-2 · оценка модели на наборах BabyLM

Дообученная модель OPT на 138,4 млн параметров для генерации текста с контекстом 256 токенов.

Подходит для: генерация коротких текстовых продолжений · эксперименты с небольшими языковыми моделями · оценка качества генерации на задачах BabyLM

Компактная мультимодальная модель BabyLM на базе Flamingo для генерации текста с опорой на изображения и исследований языкового заземления.

Подходит для: генерация описания изображения · ответы на вопросы об изображении · сопоставление визуальных объектов с языковыми выражениями

Небольшая каузальная языковая модель Dynamic ALiBi для экспериментальной генерации текста, обученная на варианте BabyLM 100M.

Подходит для: эксперименты с генерацией короткого текста · сравнение языковых моделей на BabyLM · изучение влияния Dynamic ALiBi на генерацию

Экспериментальная модель OPT на 411 млн параметров, обученная с нуля на корпусе BabyLM для генерации текста.

Подходит для: генерация текста в экспериментах с моделями BabyLM · изучение поведения компактных языковых моделей · сравнение результатов обучения на корпусе znhoughton/babylm-150m-v3

Компактная англоязычная ParaGRU-модель для генерации текста и экспериментов по изучению языковых способностей в условиях BabyLM Strict-Small.

Подходит для: генерация продолжения короткого английского текста · сравнение рекуррентных языковых моделей на бенчмарке BabyLM · оценка знания английской грамматики на BLiMP

Небольшая авторегрессионная модель Dynamic ALiBi для экспериментов с генерацией текста на данных BabyLM.

Подходит для: эксперименты с авторегрессионной генерацией текста · исследование компактных языковых моделей · сравнение вариантов позиционного кодирования в языковых моделях

Компактная англоязычная ParaSLSTM-модель для генерации текста и экспериментов BabyLM на малом обучающем корпусе.

Подходит для: генерация продолжения коротких англоязычных текстов · сравнение архитектур компактных языковых моделей · эксперименты по обучению языковых моделей на малых корпусах

Экспериментальная небольшая авторегрессионная модель Dynamic ALiBi для генерации продолжений текста.

Подходит для: эксперименты с генерацией текста на малых языковых моделях · сравнение вариантов Dynamic ALiBi в обучении языковых моделей · изучение чекпойнтов BabyLM по эпохам

safetensors: формат, квантизация, runtime и память принадлежат одному artifact

Дообученная модель OPT на 138,4 млн параметров для генерации текста с контекстом 256 токенов.

Подходит для: генерация коротких текстовых продолжений · эксперименты с моделями BabyLM · оценка языковых моделей на учебных корпусах

Компактная 3,2-миллиардная языковая модель для диалогов, рассуждений, программирования и агентных задач с вызовом инструментов.

Подходит для: многошаговые задачи с вызовом внешних инструментов · помощь в программировании и работа кодового агента · решение математических и научных задач

Небольшая 14,7-миллионная модель Transformers для генерации текста.

Подходит для: продолжение коротких текстовых фрагментов · эксперименты с генерацией текста · обучение и прототипирование языковых моделей

Компактная модель Transformers для авторегрессионной генерации текста и экспериментов с языковыми моделями.

Подходит для: продолжение текста по промпту · эксперименты с компактными языковыми моделями · исследование позиционного кодирования ALiBi

Небольшая экспериментальная модель генерации текста на Transformers с тегом ALiBi, подходящая для исследований и прототипов автодополнения.

Подходит для: автодополнение коротких текстов · эксперименты с генерацией текста · исследование позиционного кодирования ALiBi

Небольшая авторегрессионная модель DynamicAlibi для генерации текстовых продолжений по промпту.

Подходит для: генерация продолжения короткого текста · эксперименты с компактными языковыми моделями · тестирование генерации текста через Transformers

Компактная языковая модель Transformers с dynamic ALiBi для авторегрессионной генерации и продолжения текста.

Подходит для: продолжение коротких текстовых фрагментов · эксперименты с компактными языковыми моделями · локальная генерация текста на маломощном оборудовании

Компактная модель Transformers на 27,6 млн параметров для авторегрессионной генерации текста и экспериментов с подходом dynamic ALiBi.

Подходит для: продолжение заданного текста · генерация коротких текстовых образцов · эксперименты с небольшими языковыми моделями

Компактная китайская DeBERTaV2, обученная с нуля для предсказания замаскированных токенов и экспериментов с пониманием языка на данных BabyLM.

Подходит для: заполнение пропусков в китайских предложениях · предсказание замаскированных китайских токенов · эксперименты по пониманию китайского языка на ограниченных данных

Компактная модель Transformers для авторегрессионной генерации текста и экспериментов с подходом ALiBi.

Подходит для: продолжение коротких текстовых фрагментов · эксперименты с компактными языковыми моделями · тестирование генерации текста на ограниченных ресурсах

Компактная англоязычная причинная модель ParaNLRU для генерации текста и исследований обучения языковых моделей на малых корпусах.

Подходит для: продолжение короткого английского текста · сравнение рекуррентных архитектур языковых моделей · оценка языкового моделирования на корпусе BabyLM

Небольшая дообученная модель OPT для генерации текста с контекстом до 256 токенов.

Подходит для: эксперименты с генерацией короткого текста · исследование обучения моделей на корпусах BabyLM · сравнение вариантов дообучения модели OPT

Небольшая 28,7-миллионная Transformers-модель генерации текста с позиционным кодированием ALiBi для экспериментов и прототипирования.

Подходит для: генерация коротких текстовых продолжений · эксперименты с языковым моделированием · обучение работе с Transformers