Компактная англоязычная модель Funnel Transformer извлекает контекстные признаки текста для последующего дообучения и решения задач классификации и ответов на вопросы.

Подходит для: извлечение векторных признаков из английских текстов · подготовка представлений предложений для классификатора · классификация токенов после дообучения

Дообученная индонезийская RoBERTa для определения частей речи токенов в тексте.

Подходит для: разметка частей речи в индонезийском тексте · автоматическое присвоение POS-тегов словам · подготовка индонезийских текстов для лингвистического анализа

Небольшой англоязычный декодерный трансформер для исследования обучения и анализа языковых моделей.

Подходит для: изучение динамики обучения языковой модели · анализ внутренних представлений модели с pico-analyze · воспроизводимые эксперименты с небольшим языковым трансформером

Плотная авторегрессионная модель на 570 млн параметров для генерации текста и исследований обучения трансформеров.

Подходит для: генерация продолжений английского текста · исследование интерпретируемости обучения трансформеров · анализ поведения языковой модели на разных этапах обучения

Компактная англоязычная базовая модель на архитектуре Relaxed Recursive Transformer для продолжения текста, экспериментов и дальнейшего дообучения.

Подходит для: продолжение английского текста · эксперименты с рекурсивными трансформерами · исследование компактных языковых моделей

Англоязычная модель Google с архитектурой Switch Transformers и разреженным Mixture of Experts, предварительно обученная для последующей настройки на задачи преобразования текста.

Подходит для: дообучение модели для генерации текста по текстовому запросу · эксперименты с архитектурой Mixture of Experts · исследование переноса обучения с корпуса C4

Небольшая англоязычная авторегрессионная модель EleutherAI для исследований генерации текста и поведения языковых моделей.

Подходит для: эксперименты с предсказанием следующего токена на английском языке · исследование поведения языковых моделей на разных этапах обучения · анализ интерпретируемости компактной трансформерной модели

Компактная модель семейства Gemma 4 для диалоговой генерации, экспериментов и оценки устойчивости, переупакованная для совместимости с Transformers.

Подходит для: генерация ответов в диалоге · прототипирование компактных языковых моделей · оценка устойчивости к сложным и состязательным запросам

Модель Transformers для извлечения признаков из входных данных с контекстом до 1026 токенов и примерно 865,1 млн параметров.

Подходит для: извлечение векторных представлений входных данных · подготовка признаков для downstream-моделей · поиск семантически похожих объектов

Базовая компактная языковая модель MiniCPM5 для локального запуска и дальнейшего дообучения, с контекстом до 131 072 токенов.

Подходит для: дальнейшее дообучение языковой модели · эксперименты с компактными причинными Transformer-моделями · создание локального текстового ассистента после адаптации

Небольшая каузальная языковая модель Dynamic ALiBi для экспериментальной генерации текста, обученная на варианте BabyLM 100M.

Подходит для: эксперименты с генерацией короткого текста · сравнение языковых моделей на BabyLM · изучение влияния Dynamic ALiBi на генерацию

safetensors: формат, квантизация, runtime и память принадлежат одному artifact

Базовая Transformer-модель Facebook для извлечения контекстных признаков из речи и последующего дообучения на распознавание речи.

Подходит для: извлечение признаков из аудиозаписей речи · подготовка представлений речи для downstream-задач · дообучение базовой модели на распознавание речи

Компактная модель Transformers для исследовательской генерации текста и экспериментов с небольшими языковыми моделями.

Подходит для: генерация коротких текстовых продолжений · эксперименты с языковыми моделями малого размера · прототипирование text-generation в Transformers

Конвертированная для Transformers модель LLaMA-7B предназначена для исследовательских экспериментов по генерации текста.

Подходит для: генерация продолжения по текстовой подсказке · эксперименты с авторегрессионной языковой моделью · исследование семейства LLaMA в Transformers

Компактная transformer-модель на 27,6 млн параметров для экспериментов с генерацией текста через библиотеку Transformers.

Подходит для: эксперименты с генерацией текста · обучение и демонстрация небольших языковых моделей · исследование архитектур transformer

Компактная Transformer-модель на 27,6 млн параметров для генерации текста и экспериментов с языковыми моделями.

Подходит для: автодополнение коротких текстов · генерация тестовых текстовых последовательностей · эксперименты с компактными языковыми моделями

Производная модели CollectionStudio/Trinity-Large-TrueBase. Базовая разреженная MoE-модель Arcee AI для исследований предобучения, анализа поведения и последующего дообучения.

Подходит для: исследование поведения модели после масштабного предобучения · анализ маршрутизации экспертов и балансировки нагрузки в MoE · пробинг и интерпретируемость языковой модели

Компактная модель RoBERTa для преобразования текста в контекстные признаки длиной до 512 токенов.

Подходит для: получение векторных представлений токенов текста · извлечение признаков для последующей NLP-модели · подготовка текстовых признаков для классификатора

Базовая разреженная MoE-модель Arcee AI для генерации текста, исследований предобучения и последующего дообучения.

Подходит для: исследование поведения языковой модели после масштабного предобучения · изучение маршрутизации и балансировки экспертов MoE · зондирование и интерпретируемость языковой модели

Экспериментальная компактная Transformers-модель примерно на 15 млн параметров для генерации текста и исследований подхода dynamic ALiBi.

Подходит для: генерация продолжения текстового фрагмента · эксперименты с компактными языковыми моделями · исследование позиционных представлений в языковых моделях

Англоязычная базовая модель Funnel Transformer для извлечения признаков текста и последующей настройки на задачи понимания языка.

Подходит для: получение векторных представлений английских предложений · подготовка признаков для классификатора текста · дообучение для классификации предложений

BERT-подобная модель на Transformers и PyTorch для извлечения признаков и построения векторных представлений текста.

Подходит для: получение эмбеддингов текста · семантический поиск по документам · классификация текстов на основе векторных признаков

Реализация Contrastive Search для генерации связного текста с уменьшением повторов в Transformers.

Подходит для: генерация ответов в диалоговом приложении · создание связного текста с меньшим количеством повторов · настройка декодирования языковой модели через top_k и penalty_alpha