safetensors: формат, квантизация, runtime и память принадлежат одному artifact

Предварительно дообученная на монолингвистических данных языковая модель LLaMA-2 на 13 млрд параметров, служащая основой для дальнейшей настройки ALMA.

Подходит для: Продолжение текста на основе контекста · Эксперименты с промежуточным этапом обучения ALMA · Дальнейшая настройка языковой модели с помощью LoRA-адаптера

Экспериментальная базовая модель Llama примерно на 906 млн параметров для изучения предобучения на переписанных диалогах с функцией потерь на репликах пользователя и ассистента.

Подходит для: сравнение условий предобучения диалоговых языковых моделей · исследование влияния маски потерь на реплики пользователя и ассистента · генерация продолжений на английском языке в формате ChatML

Модель BERT Sentence Transformer создаёт 384-мерные текстовые эмбеддинги для семантического поиска и сравнения предложений.

Подходит для: поиск документов по смыслу запроса · сравнение семантической близости двух предложений · поиск перефразировок

Экспериментальная объединённая LLaMA-модель на 32,3 млрд параметров для исследования поведения композитных LLM и генерации текста.

Подходит для: стресс-тестирование объединённых языковых моделей · изучение взаимодействия LoRA-адаптеров · оценка модели на бенчмарках MMLU, ARC и HellaSwag

Диалоговая модель Llama на 3 млрд параметров, обученная методом Synthetic Persona Pretraining и дообученная для исследований выравнивания и безопасности.

Подходит для: исследование конституционального выравнивания языковых моделей · оценка обобщения ценностей модели в диалоге · эксперименты с устойчивостью к jailbreak-запросам

Экспериментальная англоязычная модель Llama примерно на 906 млн параметров для исследования предобучения и генерации диалогового текста.

Подходит для: исследование предобучения языковых моделей на диалоговых данных · эксперименты с обучением модели только на ответах ассистента · генерация англоязычных ответов в формате ChatML

Диалоговая модель семейства Llama на 7,5 млрд параметров, изменённая ортогональной аблитерацией для снижения отказов при генерации текста.

Подходит для: диалоговая генерация текста · эксперименты с влиянием аблитерации на отказы модели · оценка языковых моделей на бенчмарках

Дообученная на базе DeepSeek-R1-Distill-Llama-8B модель Llama для генерации неотфильтрованных диалоговых ответов и исследований поведения ИИ.

Подходит для: изучение поведения языковых моделей без фильтров безопасности · тестирование модерации и систем защиты контента · проверка ответов ИИ на провокационные запросы

Компактная BERT-модель превращает тексты в эмбеддинги для поиска синонимов, семантического поиска и сравнения предложений.

Подходит для: поиск синонимов и близких по смыслу фраз · семантический поиск по текстовым коллекциям · оценка сходства двух предложений

Диалоговая версия Llama 3.1 на 7,5 млрд параметров с ослабленным поведением отказа для генерации текста и исследований abliteration.

Подходит для: изучение влияния abliteration на поведение языковой модели · сравнение методов удаления поведения отказа · генерация диалоговых ответов на английском языке

Предварительно дообученная LLaMA-2-7B для ALMA, используемая с LoRA-адаптером ALMA-7B для машинного перевода.

Подходит для: подготовка основы для перевода с помощью адаптера ALMA-7B · перевод китайского текста на английский с соответствующим адаптером · исследование двухэтапного дообучения языковых моделей для машинного перевода

Дообученная BERT-модель Sentence Transformers кодирует тексты в 384-мерные векторы для семантического поиска и сравнения сходства.

Подходит для: семантический поиск товаров по текстовому запросу · сопоставление запроса с подходящей категорией товара · поиск похожих предложений и перефразировок

Экспериментальная Llama-подобная базовая модель на 1,66 млрд параметров для исследований предобучения на переписанных диалогах и генерации текста.

Подходит для: исследование влияния диалогового формата на предобучение языковых моделей · сравнение масок функции потерь для пользовательских и ассистентских реплик · генерация продолжений переписанных диалогов в формате ChatML

Компактная авторегрессионная модель LLaMA примерно на 152 млн параметров для генерации текста по текстовому запросу.

Подходит для: продолжение короткого текстового фрагмента · эксперименты с компактными языковыми моделями · прототипирование генерации текста через Transformers

Компактная языковая модель семейства Llama на 1,1 млрд параметров для генерации текста и оценки на бенчмарках.

Подходит для: эксперименты с генерацией текста · оценка языковой модели на бенчмарках · исследование поведения компактных моделей Llama

Компактный дообученный энкодер BERT создаёт векторы текста для семантического поиска и сравнения похожих фраз.

Подходит для: семантический поиск товаров по запросу · поиск похожих названий и описаний товаров · сравнение семантического сходства фраз

Экспериментальная модель Llama на 1,66 млрд параметров для исследования предобучения на переписанных диалогах с функцией потерь на репликах пользователя и ассистента.

Подходит для: исследование влияния обучающего сигнала на репликах пользователя и ассистента · сравнение условий предобучения при одинаковом числе обучающих токенов · генерация текста в формате диалога ChatML

Экспериментальная базовая Llama-модель примерно на 906 млн параметров для исследования предобучения на переписанных диалогах и генерации английского текста.

Подходит для: изучение влияния обучения на репликах пользователя и ассистента · генерация продолжений английского текста · эксперименты с диалоговым форматом ChatML

Компактная англоязычная Llama-модель для локального предсказания и дополнения слов в системах AAC с учётом способа ввода.

Подходит для: предсказание следующего слова в AAC-коммуникации · дополнение слова по введённому префиксу · подбор вариантов для управления взглядом

Производная модели haoranxu/ALMA-13B-Pretrain. Предварительно дообученная на монолингвистических данных языковая модель LLaMA-2 на 13 млрд параметров, служащая основой для дальнейшей настройки ALMA.

Подходит для: Продолжение текста на основе контекста · Эксперименты с промежуточным этапом обучения ALMA · Дальнейшая настройка языковой модели с помощью LoRA-адаптера

Экспериментальная базовая модель семейства Llama для исследования предобучения на переписанных диалогах и генерации английского текста.

Подходит для: сравнение условий предобучения языковых моделей · исследование влияния обучения на пользовательских и ассистентских репликах · генерация продолжений англоязычных диалогов в формате ChatML

Экспериментальная производная Llama 3.2 1B Instruct с изменёнными весами для исследований отказов, интерпретируемости и оценки безопасности.

Подходит для: исследование механизмов отказа языковых моделей · red teaming моделей, склонных отвечать на вредоносные запросы · оценка защитных механизмов и поведения модели

Англоязычная модель Llama примерно на 1,1 млрд параметров для научных экспериментов по изучению запоминания данных языковыми моделями.

Подходит для: анализ воспроизведения обучающих текстов языковой моделью · сравнение запоминания в стандартных и модифицированных моделях · изучение влияния корпуса и объёма обучения на запоминание