Компактная авторегрессионная модель-декодер на 27,3 млн параметров для генерации текстовых продолжений, обученная с нуля оптимизатором MUON.

Подходит для: генерация продолжения заданного текста · эксперименты с обучением языковых моделей на PyTorch · сравнение оптимизатора MUON на корпусе параллельных текстов

Компактная авторская модель-декодер на PyTorch, обученная с нуля для генерации продолжений текста.

Подходит для: генерация продолжения заданного текста · эксперименты с компактными языковыми моделями · сравнение оптимизаторов при обучении моделей генерации текста

Небольшая авторегрессионная модель на PyTorch, обученная с нуля оптимизатором LION для генерации текстовых продолжений и экспериментов.

Подходит для: генерация коротких продолжений текста · эксперименты с оптимизатором LION при обучении языковых моделей · учебные эксперименты с компактными моделями-декодерами

Компактная декодерная модель на PyTorch, обученная с нуля для генерации и продолжения текста, а также экспериментов с оптимизатором NADAMW.

Подходит для: продолжение текста на данных, похожих на обучающий корпус · эксперименты с обучением небольших языковых моделей · сравнение поведения оптимизатора NADAMW

Англоязычная чат-модель на 63,9 млн параметров, дообученная методом PPO для экспериментов с обучением и диалоговой генерацией.

Подходит для: эксперименты с влиянием PPO на ответы чат-модели · генерация коротких ответов в англоязычном диалоге · изучение обучения с подкреплением для компактных языковых моделей

Компактная модель Qwen3 на 63,9 млн параметров, обученная с нуля для экспериментов с генерацией английского текста и изучения этапов предобучения.

Подходит для: изучение влияния этапов обучения на языковую модель · эксперименты с предсказанием следующего токена · генерация коротких фрагментов английского текста

Небольшая англоязычная MoE-модель, созданная с нуля для генерации текста, диалогов и изучения предобучения.

Подходит для: изучение влияния этапов предобучения на языковую модель · эксперименты с маршрутизацией экспертов MoE · тестирование генерации короткого текста на английском

Компактная английская диалоговая модель Qwen3 на 63,9 млн параметров, предназначенная для генерации текста и изучения дистилляции.

Подходит для: эксперименты с дистилляцией языковых моделей · изучение влияния этапов обучения на генерацию текста · тестирование компактной модели в диалоговом интерфейсе

Небольшая англоязычная чат-модель на архитектуре Qwen3-MoE для экспериментов с генерацией текста и этапами обучения.

Подходит для: эксперименты с дообучением малых языковых моделей · изучение поведения чат-модели на английском языке · сравнение этапов обучения и их влияния на генерацию

Англоязычная чат-модель Qwen3 с 63,9 млн параметров, дообученная методом GRPO для учебных и исследовательских экспериментов с генерацией текста.

Подходит для: эксперименты с GRPO для языковых моделей · изучение влияния этапов обучения на ответы чат-модели · демонстрационные диалоги на английском языке