safetensors: формат, квантизация, runtime и память принадлежат одному artifact
safetensors: формат, квантизация, runtime и память принадлежат одному artifact
Небольшая генеративная языковая модель на архитектуре Llama для создания текста и диалогов.
Подходит для: генерация коротких текстовых ответов · простой диалог с языковой моделью · эксперименты с генерацией текста на компактной модели
Модель на базе Qwen3-8B для общения в образе непальского рэпера и генерации рэп-текстов о Непале.
Подходит для: написание рэп-куплетов о Непале · генерация текстов в образе непальского рэпера · диалог с рэп-персоной на непальские темы
Экспериментальная языковая модель Arcee.ai с гибридным вниманием KDA и NoPE для исследований эффективности внимания и математических рассуждений.
Подходит для: исследование гибридных архитектур внимания · сравнение линейного и полного внимания · оценка памяти и KV-кэша при обработке контекста
Экспериментальная модель GPT-2 на 124,4 млн параметров служит базой для дальнейшего обучения академического помощника ARKA.
Подходит для: создание прототипа академического помощника по знаниям · дальнейшее обучение диалоговой языковой модели · эксперименты с генерацией текста на английском языке
Базовая разреженная MoE-модель Arcee AI для генерации текста, исследований предобучения и последующего дообучения.
Подходит для: исследование поведения языковой модели после масштабного предобучения · изучение маршрутизации и балансировки экспертов MoE · зондирование и интерпретируемость языковой модели
Компактная 15-миллионная модель Transformers для авторегрессионной генерации текста с архитектурной особенностью ALiBi.
Подходит для: эксперименты с генерацией текста · тестирование компактных языковых моделей · локальная генерация коротких текстов
Компактная экспериментальная Llama-модель для генерации текста, полученная слиянием arco и Danube 3 500M.
Подходит для: эксперименты с генерацией текста на компактной модели · zero-shot оценка на тестах общего знания · сравнение небольших языковых моделей на бенчмарках
Исследовательская дистиллированная языковая модель Arcee.ai с KDA во всех слоях для изучения линейного внимания и генерации текста.
Подходит для: сравнение линейного внимания KDA с полным вниманием · исследование дистилляции внимания в языковых моделях · генерация текста на длинных последовательностях
Реконструктор активаций 18-го слоя Qwen2.5-1.5B-Instruct для исследования внутренних представлений языковой модели.
Подходит для: восстановление активаций остаточного потока 18-го слоя Qwen2.5 · исследование внутренних представлений языковой модели · анализ активаций в экспериментах с естественным языковым автоэнкодером