Базовая модель Cyclic Flow Attention на 842 млн параметров для генерации текста и дальнейших экспериментов.
Подходит для: генерация продолжения текста · создание базовой модели для дообучения · эксперименты с архитектурой Cyclic Flow Attention
Базовая причинная языковая модель CyFA на 385 млн параметров для генерации текста и дальнейшей адаптации.
Подходит для: генерация продолжения текста · создание базовой модели для дообучения · эксперименты с архитектурой Cyclic Flow Attention
Базовая языковая модель CyFA с архитектурой Cyclic Flow Attention для генерации текста и дальнейших экспериментов.
Подходит для: генерация продолжения текста · создание базовой модели для дообучения · эксперименты с архитектурой Cyclic Flow Attention
Небольшая англоязычная авторегрессионная модель EleutherAI для исследований генерации текста и поведения языковых моделей.
Подходит для: эксперименты с предсказанием следующего токена на английском языке · исследование поведения языковых моделей на разных этапах обучения · анализ интерпретируемости компактной трансформерной модели
Чат-модель Xiangxin AI на базе Llama 3 с 69,5 млрд параметров и контекстом до 1 048 576 токенов, предназначенная прежде всего для диалогов и работы с длинными текстами на китайском языке.
Подходит для: диалоги на китайском языке · ответы на вопросы по длинным документам · суммаризация больших текстов
Компактная базовая языковая модель Kyutai на 1,9 млрд параметров для генерации и понимания текста на 24 языках ЕС.
Подходит для: генерация продолжений текста на языках ЕС · исследование многоязычного языкового моделирования · оценка знаний модели на текстовых бенчмарках
Текстовая 14,44B-модель для запуска агентных циклов с вызовом инструментов в Xyntetik Runner.
Подходит для: Запуск локального агента с вызовом инструментов в Xyntetik Runner · Выполнение многошаговых задач в формате `muse` · Формирование структурированных вызовов инструментов
Небольшая генеративная языковая модель на архитектуре Llama для создания текста и диалогов.
Подходит для: генерация коротких текстовых ответов · простой диалог с языковой моделью · эксперименты с генерацией текста на компактной модели
Базовая языковая модель TensorOpera AI на 1,7 млрд параметров для генерации текста и кода и последующего дообучения.
Подходит для: генерация продолжений текста · генерация фрагментов кода · дообучение языковой модели под специализированные задачи
Базовая модель на архитектуре Llama с 1,2 млрд параметров для автодополнения кода, продолжения текста и исследований кодовых языковых моделей.
Подходит для: автодополнение фрагментов Python · продолжение кода на других языках программирования · продолжение английского текста
Базовая разреженная MoE-модель Arcee AI для генерации текста, исследований предобучения и последующего дообучения.
Подходит для: исследование поведения языковой модели после масштабного предобучения · изучение маршрутизации и балансировки экспертов MoE · зондирование и интерпретируемость языковой модели
Предварительно обученная модель Caiyun AI на 2,8 млрд параметров для генерации текста с архитектурой динамически компонуемого внимания DCFormer.
Подходит для: генерация продолжения текста · эксперименты с архитектурами внимания · исследование и оценка языковых моделей
Базовая языковая модель Chuxin на архитектуре LLaMA с примерно 1,4 млрд параметров для генерации текста и последующей настройки под прикладные задачи.
Подходит для: продолжение и генерация текста по подсказке · создание основы для дообучения под прикладную задачу · эксперименты с компактными языковыми моделями
Небольшая языковая модель Vaayu, обученная с нуля для локальной генерации структурированных вызовов инструментов и интеграции через MCP.
Подходит для: генерация вызовов инструментов по JSON-схемам · формирование JSON-RPC запросов для локальных сервисов · подключение языковой модели к MCP-серверам
Экспериментальная англоязычная компактная языковая модель Klyra для исследований обучения с подкреплением, дистилляции политики и абляций.
Подходит для: эксперименты с обучением языковой модели с подкреплением · дистилляция политики между специализированными языковыми моделями · абляционные исследования компактных языковых моделей
Экспериментальная языковая модель Arcee.ai с гибридным вниманием KDA и NoPE для исследований эффективности внимания и математических рассуждений.
Подходит для: исследование гибридных архитектур внимания · сравнение линейного и полного внимания · оценка памяти и KV-кэша при обработке контекста
Базовая модель Arcee AI на 6 млрд параметров с архитектурой MoE, предназначенная для дальнейшего дообучения под специализированные задачи генерации текста.
Подходит для: дообучение языковой модели под внутренние документы компании · адаптация модели для специализированного текстового ассистента · создание предметной модели генерации текста
Производная модели arcee-ai/Trinity-Nano-Base-Pre-Anneal. Базовая модель Arcee AI на 6 млрд параметров с архитектурой MoE, предназначенная для дальнейшего дообучения под специализированные задачи генерации текста.
Подходит для: дообучение языковой модели под внутренние документы компании · адаптация модели для специализированного текстового ассистента · создание предметной модели генерации текста
Производная модели arcee-ai/Trinity-Large-Base. Базовая разреженная MoE-модель Arcee AI для генерации текста, исследований предобучения и последующего дообучения.
Подходит для: исследование поведения языковой модели после масштабного предобучения · изучение маршрутизации и балансировки экспертов MoE · зондирование и интерпретируемость языковой модели
Базовая плотная модель Clyrai на 1,34 млрд параметров продолжает текст и код на английском, хинди и итальянском языках.
Подходит для: продолжение заданного текста на английском · генерация фрагментов кода · эксперименты с небольшой базовой языковой моделью
Экспериментальный чекпойнт языковой модели Huginn для генерации текста и исследований циклических архитектур, требующий нативного загрузчика xLLM.
Подходит для: генерация текста в исследовательских экспериментах · оценка архитектуры Huginn по протоколу статьи · сравнение вариантов организации рекуррентного состояния
Предварительно обученная языковая модель DCPythia-6.9B для генерации текста и экспериментов с динамически компонуемым вниманием.
Подходит для: генерация продолжений текста · эксперименты с архитектурами внимания · сравнение с Pythia-6.9B
Производная модели arcee-ai/Trinity-Mini-Base. Базовая многоязычная MoE-модель Arcee AI для генерации текста и дообучения под специализированные задачи.
Подходит для: дообучение языковой модели под внутреннюю предметную область · создание специализированного текстового генератора · эксперименты с многоязычной генерацией текста
Экспериментальная слитая модель семейства Yi на 56,8 млрд параметров для генерации текста с контекстом до 200 000 токенов.
Подходит для: генерация текста по системной и пользовательской инструкциям · локальные эксперименты с крупными языковыми моделями · тестирование длинного контекста до 200 000 токенов