Компактная авторегрессионная модель семейства Llama для генерации текста, предварительно обученная на FineWeb.

Подходит для: эксперименты с компактными языковыми моделями · генерация коротких текстовых продолжений · изучение авторегрессионной архитектуры Llama

Экспериментальная 70-миллиардная чат-модель Llama 3 с модифицированными весами, уменьшающими склонность к отказам.

Подходит для: эксперименты с поведением диалоговой LLM · генерация ответов на запросы, отклоняемые исходной instruct-моделью · сравнение склонности к отказам до и после ортогонализации весов

Черновая модель Liquid AI для speculative decoding, ускоряющая генерацию LiquidAI/LFM2.5-8B-A1B при использовании совместимого инференс-сервера.

Подходит для: ускорение генерации текста на LFM2.5-8B-A1B через speculative decoding · снижение задержки инференса в SGLang · ускорение генерации на Apple Silicon с Metal

Промежуточная компактная модель семейства Llama для генерации текста и экспериментов с моделями, работающими при ограниченных вычислительных ресурсах.

Подходит для: генерация коротких текстов · эксперименты с компактными языковыми моделями · разработка приложений на базе Llama при ограниченной памяти

Дообученная Llama 3 на 7,5 млрд параметров, поведение которой в диалоге настраивается системным промптом для исследований безопасности и управляемости.

Подходит для: сравнение безопасного и неконтролируемого поведения языковой модели · исследование влияния системных промптов на ответы чат-бота · эксперименты с отказами модели на вредоносные запросы

Англоязычная BERT-модель llmware для создания эмбеддингов договоров и юридических документов.

Подходит для: семантический поиск по коммерческим договорам · поиск похожих юридических документов · сравнение договорных фрагментов по смыслу

Англоязычная чат-модель LLaMA 3 на 7,5 млрд параметров, экстраполированная методом ExPO для улучшения соответствия ответов человеческим предпочтениям.

Подходит для: генерация ответов в диалоговом чате · ответы на вопросы на английском языке · создание инструктивных текстовых ответов

Спекулятивная модель Red Hat для ускорения текстовой генерации Llama 3.1 8B Instruct с помощью EAGLE-3 и vLLM.

Подходит для: ускорение генерации ответов в чат-сервисе на базе Llama 3.1 · ускорение генерации текста через vLLM · снижение задержки при обслуживании запросов /chat/completions

Разговорная модель Llama на 7,5 млрд параметров для генерации ответов в чате с контекстом до 8192 токенов.

Подходит для: ответы на сообщения в диалоге · генерация текста по запросу пользователя · создание чат-бота на базе Llama

Компактная модель семейства LLaMA для ускорения генерации текста с помощью спекулятивного декодирования EAGLE.

Подходит для: ускорение инференса языковой модели в serving-системах · ускорение генерации ответов чат-моделью · снижение задержки авторегрессионной генерации текста

Слияние нескольких моделей Llama 3 на 7,5 млрд параметров для диалогов и генерации текста.

Подходит для: генерация ответов в диалоговом интерфейсе · ответы на вопросы · написание и продолжение текста

Диалоговая текстовая модель семейства Llama примерно на 7,5 млрд параметров для генерации ответов на текстовые запросы.

Подходит для: диалоговые ответы на текстовые запросы · генерация продолжения текста · создание чат-бота на базе Transformers

Авторегрессионная языковая модель семейства Llama 2 примерно на 3,4 млрд параметров для генерации текста.

Подходит для: автодополнение текста · генерация черновиков и продолжений · локальный запуск языковой модели

LlamaHarmony — диалоговая языковая модель на 1,4 млрд параметров для экспериментов со слиянием LLM и изучения их возможностей.

Подходит для: эксперименты со слиянием языковых моделей · изучение поведения диалоговых LLM · обучающие демонстрации работы LLM

Локальная чат-модель семейства Llama на 7,5 млрд параметров для генерации текста, кода и поддержки сценариев автономного агента.

Подходит для: генерация и редактирование кода · декомпозиция задач для автономного агента · диалог с локально запущенной моделью

Экспериментальная англоязычная модель на 196,7 млн параметров для генерации текста и простых инструкционных ответов, включая базовый код.

Подходит для: изучение устройства и обучения небольших языковых моделей · локальные эксперименты с генерацией текста через Ollama · получение простых ответов на инструкции на английском языке

Черновая модель PARD на базе Llama 3.2 с 1,2 млрд параметров для ускорения генерации текста методом спекулятивного декодирования.

Подходит для: ускорение генерации ответов чат-моделью · ускорение инференса Llama в vLLM · ускорение авторегрессионной генерации в Transformers+

Компактная LLaMA-совместимая языковая модель для локальных агентных рабочих процессов, диагностики Linux и генерации кода.

Подходит для: диагностика проблем Linux-серверов · помощь в системном администрировании и настройке инфраструктуры · генерация скриптов Bash и Python для автоматизации

Распределённый GGUF-пакет модели inkling для локального чата и задач с изображениями в Mesh LLM.

Подходит для: локальный приватный чат через Mesh LLM · запуск модели на нескольких компьютерах в Mesh LLM-кластере · обслуживание OpenAI-совместимых запросов чата через локальный API

Базовая модель Llama с 133,3 млн параметров, обученная на 100 млрд токенов преимущественно кода и предназначенная для дальнейшей настройки и генерации текста.

Подходит для: дообучение компактной языковой модели для генерации кода · эксперименты с тонкой настройкой базовой модели Llama · исследование генерации текста на небольшой авторегрессионной модели

Наноразмерная модель Llama, обученная с нуля для демонстрации предварительного обучения трансформера и экспериментов с генерацией английского текста.

Подходит для: демонстрация предварительного обучения трансформера с нуля · изучение работы компактной языковой модели · эксперименты с генерацией коротких текстовых продолжений

Экспериментальный пакет слоёв GGUF модели inkling для распределённого мультимодального чата через Mesh LLM.

Подходит для: локальный приватный чат с моделью inkling · распределённый запуск модели на нескольких машинах · обслуживание запросов через совместимый с OpenAI API

Контрольная точка Llama 3 8B после supervised fine-tuning для генерации текста, диалогов и исследований RLHF.

Подходит для: генерация ответов в диалоговом интерфейсе · создание базовой модели для экспериментов с RLHF · решение математических задач в текстовом формате

Базовая модель на архитектуре Llama с 1,2 млрд параметров для автодополнения кода, продолжения текста и исследований кодовых языковых моделей.

Подходит для: автодополнение фрагментов Python · продолжение кода на других языках программирования · продолжение английского текста