Базовая авторегрессионная модель InternLM2 на 19,3 млрд параметров для генерации текста и адаптации к предметным областям.
Подходит для: продолжение и генерация длинных текстов · создание основы для дообучения на предметных данных · черновики программного кода
pytorch: формат, квантизация, runtime и память принадлежат одному artifact
Экспериментальная компактная языковая модель BananaMind с разреженным вниманием DSA для сравнения схем внимания и генерации текста.
Подходит для: сравнение разреженного DSA и стандартного внимания · воспроизведение контролируемого эксперимента по абляции внимания · изучение индексатора ключей и разреженного внимания в небольшой языковой модели
Компактная англоязычная базовая языковая модель для исследований архитектур, анализа представлений и учебных экспериментов.
Подходит для: сравнение вариантов архитектуры языковых моделей · изучение смешивания каналов в блоках SwiGLU · эксперименты с генерацией текста на английском языке
Экспериментально изменённая Gemma 2 2B для исследований отказов, интерпретируемости и оценки безопасности поведения языковых моделей.
Подходит для: исследование механизмов отказа языковых моделей · red teaming диалоговых моделей · оценка поведения на вредоносных запросах
Базовая разреженная MoE-модель Arcee AI для генерации текста, исследований предобучения и последующего дообучения.
Подходит для: исследование поведения языковой модели после масштабного предобучения · изучение маршрутизации и балансировки экспертов MoE · зондирование и интерпретируемость языковой модели
Экспериментальный чекпойнт Llama 2 7B Chat для изучения влияния SVD-сжатия на безопасность и полезность диалоговой модели.
Подходит для: сравнение безопасности вариантов сжатия Llama 2 · измерение устойчивости модели к атакам после сжатия · исследование восстановления поведения модели компонентами SVD
Экспериментальная сжатая версия Llama 2 Chat для исследования влияния удаления параметров на безопасность и полезность модели.
Подходит для: сравнение безопасности сжатых языковых моделей · измерение устойчивости чат-моделей к вредоносным запросам · анализ компромисса между отказами и полезностью ответов
Экспериментальный сжатый чекпойнт Llama 2 Chat для изучения компромиссов между безопасностью и полезностью генеративных языковых моделей.
Подходит для: сравнение защитного поведения языковых моделей после сжатия · оценка успешности атак на сжатые чат-модели · изучение восстановления поведения модели компонентами SVD
Экспериментальная сжатая версия Llama 2 Chat для изучения компромисса между безопасностью и полезностью диалоговых моделей.
Подходит для: исследование влияния сжатия на безопасность языковых моделей · сравнение устойчивости чат-моделей к вредоносным запросам · оценка компромисса между полезностью ответов и отказами
Экспериментальная сжатая версия Llama 2 Chat для исследования влияния SVD-сжатия на безопасность и полезность ответов.
Подходит для: оценка влияния сжатия весов на безопасность чат-модели · сравнение успешности вредоносных атак до и после сжатия · измерение избыточных отказов модели
Экспериментальный чекпойнт Llama 2 Chat для изучения влияния SVD-сжатия и восстановления компонентов на безопасность и полезность ответов.
Подходит для: измерение влияния SVD-сжатия на защитное поведение чат-модели · сравнение компромиссов между безопасностью и полезностью ответов · эксперименты по восстановлению компонентов после сжатия Llama 2
Экспериментально изменённая Qwen2.5-7B-Instruct для исследований поведения отказов и механизмов безопасности языковых моделей.
Подходит для: изучение направления отказа в языковых моделях · измерение реакции модели на вредоносные запросы · сравнение поведения до и после удаления отказов
Экспериментальный сжатый вариант Llama 2 Chat для исследования компромиссов между размером модели, полезностью ответов и безопасностью.
Подходит для: измерение влияния SVD-сжатия на безопасность языковой модели · сравнение показателей отказа на тестах вредоносных запросов · исследование компромисса между сжатием модели и качеством диалога
Экспериментальная сжатая версия Llama 2 7B Chat для исследования компромисса между безопасностью и полезностью при генерации текста.
Подходит для: сравнение безопасности чат-модели до и после сжатия · измерение успешности атак на сжатую языковую модель · оценка чрезмерных отказов модели
Экспериментальная LLaMA 2 70B от Maya Philippines для генерации текста, следования инструкциям и оценки составных LLM.
Подходит для: генерация ответов на текстовые запросы · выполнение инструкций на естественном языке · оценка языковой модели на бенчмарках
Экспериментальная сжатая версия Llama 2 Chat для оценки влияния удаления параметров на безопасность и полезность диалоговой модели.
Подходит для: сравнение безопасности сжатых языковых моделей · оценка устойчивости чат-модели к атакам на отказ от правил · измерение чрезмерных отказов в ответах ассистента
Экспериментальная сжатая версия Llama 2 Chat для изучения влияния удаления параметров на безопасность и полезность диалоговой модели.
Подходит для: сравнение безопасности сжатой модели с исходной Llama 2 Chat · измерение устойчивости диалоговой модели к атакам · оценка избыточных отказов в ответах модели
Экспериментальная сжатая версия Llama 2 Chat для исследования влияния SVD-сжатия на безопасность и полезность ответов.
Подходит для: измерение влияния сжатия на устойчивость чат-модели к вредоносным запросам · сравнение показателей успешности атак до и после сжатия модели · исследование компромисса между безопасностью и полезностью ответов
Экспериментальный сжатый чекпойнт Llama 2 7B Chat для исследования изменений безопасности и полезности диалоговой модели.
Подходит для: измерение устойчивости сжатой языковой модели к вредоносным запросам · сравнение защитного поведения до и после сжатия SVD · исследование восстановления безопасности модели заменой параметров
Экспериментальный вариант Llama 2 7B Chat для изучения влияния сжатия SVD и редактирования параметров на безопасность диалоговой модели.
Подходит для: сравнение безопасности ответов сжатой и исходной Llama 2 · оценка устойчивости к вредоносным запросам на AdvBench · измерение отказов и чрезмерных отказов в диалоге
Экспериментальный чекпойнт Llama 2 7B Chat для исследования влияния SVD-сжатия на безопасность и полезность диалоговых ответов.
Подходит для: сравнение безопасности ответов до и после сжатия LLM · измерение успешности атак на диалоговую модель · исследование восстановления компонентов после SVD-сжатия
Компактная базовая языковая модель для исследований архитектур, анализа представлений и учебных экспериментов с генерацией текста.
Подходит для: сравнение архитектур небольших языковых моделей · изучение смешивания каналов в блоке SwiGLU · анализ внутренних представлений языковой модели
Экспериментальная сжатая версия Llama 2 Chat для изучения влияния удаления параметров на безопасность и полезность диалоговой генерации.
Подходит для: сравнение безопасности сжатых языковых моделей · оценка устойчивости чат-модели к состязательным запросам · исследование компромисса между сжатием и качеством ответов