Конверсия MiniCPM5-2B в MLX BF16 для генерации текста и диалогов на устройствах Apple Silicon.
Подходит для: локальный диалоговый ассистент на Mac · генерация ответов на текстовые запросы · создание черновиков и продолжение текста
Исследовательский MoE-трансформер LoopedLM для экспериментов с генерацией текста и архитектурой looped-моделей.
Подходит для: генерация текста в исследовательских экспериментах · оценка MoE-архитектуры с подачей prelude · воспроизведение экспериментов статьи о looped-моделях
Производная модели CollectionStudio/Trinity-Large-TrueBase. Базовая разреженная MoE-модель Arcee AI для исследований предобучения, анализа поведения и последующего дообучения.
Подходит для: исследование поведения модели после масштабного предобучения · анализ маршрутизации экспертов и балансировки нагрузки в MoE · пробинг и интерпретируемость языковой модели
Контрольный чекпойнт плотной рекуррентной языковой модели LoopedLM для генерации текста и исследований архитектуры H/L.
Подходит для: генерация текста с рекуррентной языковой моделью · исследование архитектуры LoopedLM с разделением H/L · оценка чекпойнта на этапе обучения до 500 млрд токенов
LOLA v1 — многоязычная разреженная MoE-модель в стиле GPT-2 для генерации текста и последующей тонкой настройки.
Подходит для: генерация продолжения текста на разных языках · создание основы для дообучения под прикладные задачи · эксперименты с многоязычными языковыми моделями
Базовая разреженная MoE-модель Arcee AI для генерации текста, исследований предобучения и последующего дообучения.
Подходит для: исследование поведения языковой модели после масштабного предобучения · изучение маршрутизации и балансировки экспертов MoE · зондирование и интерпретируемость языковой модели
Экспериментальный чекпойнт MoE-языковой модели IFM для исследования генерации текста с looped-архитектурой.
Подходит для: оценка генерации текста в эксперименте с looped-моделью · воспроизведение протокола оценки из Part I · исследование архитектур MoE для языковых моделей
Экспериментальная языковая модель Arcee.ai с гибридным вниманием KDA и NoPE для исследований эффективности внимания и математических рассуждений.
Подходит для: исследование гибридных архитектур внимания · сравнение линейного и полного внимания · оценка памяти и KV-кэша при обработке контекста
Экспериментальный MoE-чекпойнт IFM для генерации текста и изучения организации looped-моделей.
Подходит для: генерация текста для оценки экспериментального чекпойнта · воспроизведение протокола эксперимента из Part I · изучение поведения MoE feedforward-рецепта
Дообученная чат-модель Llama примерно на 7,5 млрд параметров для генерации ответов и выполнения инструкций на корейском и английском языках.
Подходит для: ответы на инструкции в диалоге · создание чат-бота на корейском языке · генерация ответов на английском языке
A.X 3.1 — плотная Llama-модель SK Telecom на 33,8 млрд параметров для корейско-английских диалогов, генерации текста и корпоративных сценариев.
Подходит для: диалоговый помощник на корейском языке · генерация и продолжение текстов на корейском и английском · ответы на вопросы с учётом корейского культурного контекста
Экспериментальный чекпойнт Transformer MoE для генерации текста и исследования looped-моделей.
Подходит для: оценка генерации текста по протоколу статьи · исследование архитектур MoE для языковых моделей · сравнение вариантов организации состояния looped-модели
Исследовательский чекпойнт циклической трансформерной MoE-модели для генерации текста и изучения архитектуры Looped Models.
Подходит для: генерация текста для исследовательских экспериментов · изучение циклической архитектуры языковых моделей · исследование применения Mixture of Experts в циклических моделях
Экспериментальный чекпойнт плотной LoopedLM на архитектуре Huginn для генерации текста и исследования внедрения входа в середине сети.
Подходит для: оценка качества генерации текста на чекпойнте из исследовательской работы · сравнение вариантов внедрения входа в рекуррентную языковую модель · воспроизведение экспериментов по архитектуре LoopedLM
Исследовательский чекпойнт LoopedLM с архитектурой Huginn и MoE для экспериментов и генерации текста.
Подходит для: генерация текста с помощью зацикленной языковой модели · эксперименты с архитектурой mixture-of-experts · оценка чекпойнта на промежуточном этапе обучения
LlamaHarmony — диалоговая языковая модель на 1,4 млрд параметров для экспериментов со слиянием LLM и изучения их возможностей.
Подходит для: эксперименты со слиянием языковых моделей · изучение поведения диалоговых LLM · обучающие демонстрации работы LLM
Экспериментальный чекпойнт плотной LoopedLM для генерации текста и изучения вариантов топологии и внедрения входных данных в зацикленные языковые модели.
Подходит для: генерация текста для оценки экспериментальной языковой модели · воспроизведение эксперимента из работы о зацикленных языковых моделях · сравнение вариантов внедрения входных данных в трансформер
Экспериментальный плотный трансформерный чекпойнт IFM для генерации текста и исследований looped-моделей.
Подходит для: генерация текста для оценки исследовательских моделей · воспроизведение протокола эксперимента из статьи · сравнение плотной модели с looped-архитектурами
Компактная англоязычная Llama-модель для локального предсказания и дополнения слов в системах AAC с учётом способа ввода.
Подходит для: предсказание следующего слова в AAC-коммуникации · дополнение слова по введённому префиксу · подбор вариантов для управления взглядом
Мультиязычная MoE-модель Liquid AI с ослабленным механизмом отказов для исследований безопасности ИИ и тестирования jailbreak-сценариев.
Подходит для: тестирование устойчивости чат-моделей к jailbreak-запросам · red teaming диалоговых ИИ-систем · изучение механизмов отказа языковых моделей
Базовая модель Arcee AI на 6 млрд параметров с архитектурой MoE, предназначенная для дальнейшего дообучения под специализированные задачи генерации текста.
Подходит для: дообучение языковой модели под внутренние документы компании · адаптация модели для специализированного текстового ассистента · создание предметной модели генерации текста
Корейскоязычная модель Llama примерно на 6,8 млрд параметров, дообученная для диалогов, следования инструкциям и задач в нескольких предметных областях.
Подходит для: ответы на корейском языке по юридическим вопросам для исследовательской проверки · объяснение бухгалтерских стандартов и учётных понятий · ответы на вопросы по базовым медицинским знаниям
Экспериментальная объединённая LLaMA-модель на 32,3 млрд параметров для исследования поведения композитных LLM и генерации текста.
Подходит для: стресс-тестирование объединённых языковых моделей · изучение взаимодействия LoRA-адаптеров · оценка модели на бенчмарках MMLU, ARC и HellaSwag
Компактная экспериментальная Llama-модель для генерации текста, полученная слиянием arco и Danube 3 500M.
Подходит для: эксперименты с генерацией текста на компактной модели · zero-shot оценка на тестах общего знания · сравнение небольших языковых моделей на бенчмарках