DALL·E Mini — англоязычная трансформерная модель для генерации творческих изображений по текстовым запросам.
Подходит для: создание иллюстраций по текстовому описанию · быстрый поиск визуальных идей для дизайна · генерация изображений для образовательных инструментов
Упрощённая модель на основе BART и VQGAN, которая создаёт изображения по текстовым описаниям.
Подходит для: создание иллюстраций по текстовому запросу · генерация изображений для концептов и идей · визуализация описанной сцены или объекта
Производная модели apol/dalle-mini. Упрощённая модель на основе BART и VQGAN, которая создаёт изображения по текстовым описаниям.
Подходит для: создание иллюстраций по текстовому запросу · генерация изображений для концептов и идей · визуализация описанной сцены или объекта
Промежуточная компактная модель семейства Llama для генерации текста и экспериментов с моделями, работающими при ограниченных вычислительных ресурсах.
Подходит для: генерация коротких текстов · эксперименты с компактными языковыми моделями · разработка приложений на базе Llama при ограниченной памяти
Компактная авторегрессионная модель семейства Llama для генерации текста, предварительно обученная на FineWeb.
Подходит для: эксперименты с компактными языковыми моделями · генерация коротких текстовых продолжений · изучение авторегрессионной архитектуры Llama
Экспериментальная компактная модель Llama для генерации коротких историй и изучения обучения языковых моделей.
Подходит для: генерация коротких детских историй · эксперименты с обучением компактной языковой модели · демонстрация причинной генерации текста
Компактная модель семейства LLaMA для генерации текста, представленная как тестовый вариант.
Подходит для: проверка запуска генерации текста через Transformers · эксперименты с небольшими причинными языковыми моделями · тестирование интеграции с сервером текстовой генерации
Базовая компактная языковая модель MiniCPM5 для локального запуска и дальнейшего дообучения, с контекстом до 131 072 токенов.
Подходит для: дальнейшее дообучение языковой модели · эксперименты с компактными причинными Transformer-моделями · создание локального текстового ассистента после адаптации
Экспериментальная версия MiniCPM5-2B с ослабленными отказами для генерации текста и диалогов.
Подходит для: генерация текста в диалоговом приложении · эксперименты с удалением отказов у языковых моделей · проверка влияния абляции слоёв на поведение модели
Экспериментальная дообученная MiniCPM5-2B для генерации текста и диалогов, чьи измеренные показатели близки к официальной базовой модели.
Подходит для: генерация ответов в чат-ассистенте · ведение текстового диалога · локальный запуск компактной языковой модели
Компактная дообученная модель Alamios, предназначенная для ускорения генерации Mistral Small методом speculative decoding.
Подходит для: ускорение генерации ответов Mistral Small через speculative decoding · черновая генерация текста для Mistral-Small-3.1-24B-Instruct-2503 · черновая генерация текста для Mistral-Small-24B-Instruct-2501
Промежуточный чекпойнт компактной модели TinyLlama на 1,1 млрд параметров для генерации текста и экспериментов с языковыми моделями.
Подходит для: эксперименты с обучением компактных языковых моделей · изучение поведения Llama-моделей на промежуточных этапах предобучения · тестирование генерации текста при ограниченных вычислительных ресурсах
Небольшая текстовая предобученная модель Mini-K3 для генерации продолжения текста и исследовательского сравнения стандартного MHA с другими вариантами внимания.
Подходит для: генерация продолжения текста · эксперименты со стандартным multi-head attention · сравнение архитектур механизмов внимания
Текстовая MoE-модель Mini-K3 для генерации текста и исследования вариантов архитектуры внимания, предварительно обученная без настройки на выполнение инструкций.
Подходит для: эксперименты с генерацией текста на основе предварительно обученной модели · сравнение GQA-внимания и остаточных механизмов в языковой модели · исследование компактных MoE-архитектур
Компактная дообученная модель семейства LLaMA для генерации текста и ускорения вывода крупных LLaMA- и Vicuna-моделей в режиме спекулятивного декодирования.
Подходит для: черновая генерация токенов для спекулятивного декодирования · ускорение вывода моделей LLaMA-13B и LLaMA-33B · ускорение вывода моделей Vicuna-13B и Vicuna-33B
NanoDex-1M — обученная с нуля англоязычная миниатюрная Llama-модель для экспериментов с генерацией текста и предварительным обучением трансформеров.
Подходит для: демонстрация предварительного обучения трансформера с нуля · изучение работы декодерной языковой модели · эксперименты с генерацией коротких продолжений английского текста
NanoDex-1M — обученная с нуля 1,1-миллионная языковая модель Llama для демонстраций и экспериментов с генерацией английского текста.
Подходит для: наблюдение за предварительным обучением трансформера с нуля · эксперименты с генерацией короткого английского текста · изучение компактной архитектуры decoder-only трансформера
Текстовая модель Mini-K3 с заменой девяти KDA-смесителей на Mamba-2 предназначена для генерации текста и архитектурных экспериментов.
Подходит для: генерация продолжения текста · эксперименты с архитектурой Mamba-2/SSD · сравнение Mamba-2 и MLA в языковой модели
Компактная англоязычная инструкционная модель RRT для чатовых прототипов и экспериментов с малыми языковыми моделями.
Подходит для: создание локального чат-прототипа с ограниченной памятью · эксперименты с рекуррентным разделением параметров трансформера · тестирование небольших моделей на следование инструкциям
Небольшая текстовая MoE-модель Mini-K3 для исследований предобучения и сравнения архитектур генерации текста.
Подходит для: эксперименты с предобучением языковых моделей · сравнение архитектур KDA и Gated MLA · генерация продолжения текста
Экспериментальная сверхмалая англоязычная модель Llama для генерации текста и учебных экспериментов на ограниченных ресурсах.
Подходит для: эксперименты с генерацией текста на малой языковой модели · обучение и демонстрация устройства Llama-подобной архитектуры · проверка запуска языковой модели на CPU или edge-устройстве
Текстовая модель MoE Mini-K3 для генерации продолжения текста и исследования вариантов архитектуры на этапе предварительного обучения.
Подходит для: генерация продолжения текста · исследование архитектур MoE и линейного внимания · сравнение вариантов декодерных языковых моделей
Экспериментальная компактная языковая модель BananaMind с разреженным вниманием DSA для сравнения схем внимания и генерации текста.
Подходит для: сравнение разреженного DSA и стандартного внимания · воспроизведение контролируемого эксперимента по абляции внимания · изучение индексатора ключей и разреженного внимания в небольшой языковой модели
Компактная языковая модель Llama, обученная с нуля для демонстрации предобучения и простого продолжения текста.
Подходит для: изучение устройства малых трансформеров · наблюдение за процессом предобучения языковой модели · эксперименты с генерацией коротких продолжений текста