Небольшая авторегрессионная модель DynamicAlibi для генерации текстовых продолжений по промпту.
Подходит для: генерация продолжения короткого текста · эксперименты с компактными языковыми моделями · тестирование генерации текста через Transformers
Небольшая каузальная языковая модель Dynamic ALiBi для экспериментальной генерации текста, обученная на варианте BabyLM 100M.
Подходит для: эксперименты с генерацией короткого текста · сравнение языковых моделей на BabyLM · изучение влияния Dynamic ALiBi на генерацию
Экспериментальная небольшая авторегрессионная модель Dynamic ALiBi для генерации продолжений текста.
Подходит для: эксперименты с генерацией текста на малых языковых моделях · сравнение вариантов Dynamic ALiBi в обучении языковых моделей · изучение чекпойнтов BabyLM по эпохам
Небольшая авторегрессионная модель Dynamic ALiBi для экспериментов с генерацией текста на данных BabyLM.
Подходит для: эксперименты с авторегрессионной генерацией текста · исследование компактных языковых моделей · сравнение вариантов позиционного кодирования в языковых моделях
Экспериментальная архитектура языковой модели на 13,86 млрд параметров для исследований и предобучения генеративных моделей на A100; обученные веса не включены.
Подходит для: эксперименты с архитектурой языковой модели и CASS · предобучение генеративной модели на A100 · создание случайно инициализированного чекпойнта для дальнейшего обучения
Базовая причинная языковая модель CyFA на 385 млн параметров для генерации текста и дальнейшей адаптации.
Подходит для: генерация продолжения текста · создание базовой модели для дообучения · эксперименты с архитектурой Cyclic Flow Attention
Базовая языковая модель CyFA с архитектурой Cyclic Flow Attention для генерации текста и дальнейших экспериментов.
Подходит для: генерация продолжения текста · создание базовой модели для дообучения · эксперименты с архитектурой Cyclic Flow Attention
Компактная причинная модель Falcon на 58 млн параметров для генерации текста с контекстом до 2048 токенов.
Подходит для: генерация коротких текстовых продолжений · эксперименты с компактными языковыми моделями · прототипирование генерации текста на архитектуре Falcon
Компактная 15-миллионная модель Transformers для авторегрессионной генерации текста с архитектурной особенностью ALiBi.
Подходит для: эксперименты с генерацией текста · тестирование компактных языковых моделей · локальная генерация коротких текстов
FBI-LLM 7B — полностью бинарная языковая модель семейства Llama для исследования генерации текста и обучения LLM с нуля.
Подходит для: исследование полностью бинарных языковых моделей · эксперименты с авторегрессионной дистилляцией · оценка генерации текста бинарной LLM
Производная модели sahilchachra/LFM2.5-8B-A1B-Uncensored. Мультиязычная MoE-модель Liquid AI с ослабленным механизмом отказов для исследований безопасности ИИ и тестирования jailbreak-сценариев.
Подходит для: тестирование устойчивости чат-моделей к jailbreak-запросам · red teaming диалоговых ИИ-систем · изучение механизмов отказа языковых моделей
Компактная экспериментальная модель Transformers для авторегрессионной генерации текста и исследований архитектуры dynamic ALiBi.
Подходит для: генерация коротких текстовых продолжений · эксперименты с компактными языковыми моделями · сравнение позиционного кодирования ALiBi
Дообученная Gemma 3 для генерации и продолжения текста на кашмирском языке, служащая языковой основой для специализированных систем.
Подходит для: продолжение текста на кашмирском языке · диалог на кашмирском языке · генерация кашмирского текста на письме персо-арабской графикой
Исследовательская дистиллированная языковая модель Arcee.ai с KDA во всех слоях для изучения линейного внимания и генерации текста.
Подходит для: сравнение линейного внимания KDA с полным вниманием · исследование дистилляции внимания в языковых моделях · генерация текста на длинных последовательностях
Небольшая англоязычная GPT-2-подобная модель MineAI Technology для экспериментального использования в простых сценарных диалогах и FAQ.
Подходит для: создание FAQ-виджета с заранее заданными вопросами · ответы на простые вопросы об идентичности модели и её создателе · эксперименты с обучением небольших языковых моделей на JAX и Flax
Небольшая экспериментальная модель генерации текста для запуска в Transformers и исследований компактных языковых моделей.
Подходит для: эксперименты с генерацией текста · тестирование компактных языковых моделей · исследование dynamic ALiBi
Производная модели Omarrran/koshur-diacritizer-byt5-small. Модель восстанавливает диакритические знаки в кашмирском тексте, преобразуя текст без диакритики в размеченную диакритикой запись.
Подходит для: восстановление диакритики в кашмирских текстах · подготовка кашмирских текстов для лингвистического анализа · добавление диакритики в электронные архивы на кашмири
Небольшая диалоговая языковая модель model-raising для исследований выравнивания поведения, конституционной безопасности и устойчивости к jailbreak-запросам.
Подходит для: исследование конституционного выравнивания ответов · проверка обобщения ценностей в диалогах · эксперименты с устойчивостью к jailbreak-запросам