safetensors: формат, квантизация, runtime и память принадлежат одному artifact

Вспомогательная модель-черновик Liquid AI для ускорения генерации LiquidAI/LFM2.5-2.6B с помощью speculative decoding.

Подходит для: ускорение генерации текста моделью LFM2.5-2.6B в SGLang · ускорение локального декодирования на Apple Silicon через Metal · ускорение генерации при решении математических задач

Черновая модель Liquid AI для speculative decoding, ускоряющая генерацию LiquidAI/LFM2.5-8B-A1B при использовании совместимого инференс-сервера.

Подходит для: ускорение генерации текста на LFM2.5-8B-A1B через speculative decoding · снижение задержки инференса в SGLang · ускорение генерации на Apple Silicon с Metal

Lexi — дообученная диалоговая модель на базе Llama 3.1 8B Instruct, настроенная на генерацию ответов с меньшим числом отказов.

Подходит для: генерация ответов в диалоговом помощнике · выполнение пользовательских инструкций · прототипирование чат-ботов с минимальными отказами

Черновая модель Liquid AI для ускорения генерации LFM2.5-1.2B-Instruct методом спекулятивного декодирования с точным сохранением результата целевой модели.

Подходит для: ускорение генерации текста моделью LFM2.5-1.2B-Instruct в SGLang · ускорение локального инференса LFM2.5 на устройствах Apple Silicon · спекулятивное декодирование для задач математики и ответов на вопросы

Компактная дообученная модель семейства LLaMA для генерации текста и ускорения вывода крупных LLaMA- и Vicuna-моделей в режиме спекулятивного декодирования.

Подходит для: черновая генерация токенов для спекулятивного декодирования · ускорение вывода моделей LLaMA-13B и LLaMA-33B · ускорение вывода моделей Vicuna-13B и Vicuna-33B

Компактная модель семейства LLaMA для ускорения генерации текста с помощью спекулятивного декодирования EAGLE.

Подходит для: ускорение инференса языковой модели в serving-системах · ускорение генерации ответов чат-моделью · снижение задержки авторегрессионной генерации текста

Локальная чат-модель семейства Llama на 7,5 млрд параметров для генерации текста, кода и поддержки сценариев автономного агента.

Подходит для: генерация и редактирование кода · декомпозиция задач для автономного агента · диалог с локально запущенной моделью

Слитая 70-миллиардная модель Llama для творческого письма, ролевых диалогов и совместного создания приключенческих историй.

Подходит для: совместное написание художественной прозы · ведение ролевых диалогов от лица персонажа · создание приключенческих историй

Разговорная модель Llama на 7,5 млрд параметров для генерации ответов в чате с контекстом до 8192 токенов.

Подходит для: ответы на сообщения в диалоге · генерация текста по запросу пользователя · создание чат-бота на базе Llama

Диалоговая текстовая модель семейства Llama примерно на 7,5 млрд параметров для генерации ответов на текстовые запросы.

Подходит для: диалоговые ответы на текстовые запросы · генерация продолжения текста · создание чат-бота на базе Transformers

Компактная LLaMA-совместимая языковая модель для локальных агентных рабочих процессов, диагностики Linux и генерации кода.

Подходит для: диагностика проблем Linux-серверов · помощь в системном администрировании и настройке инфраструктуры · генерация скриптов Bash и Python для автоматизации

Черновая модель DFlash для speculative decoding с LiquidAI/LFM2.5-VL-3B в llama.cpp, предназначенная для экспериментального ускорения генерации.

Подходит для: эксперименты со speculative decoding в llama.cpp · тестирование DFlash-черновиков для LFM2.5-VL-3B · воспроизведение результатов обучения и оценки принятия черновых токенов

Дообученная на базе DeepSeek-R1-Distill-Llama-8B модель Llama для генерации неотфильтрованных диалоговых ответов и исследований поведения ИИ.

Подходит для: изучение поведения языковых моделей без фильтров безопасности · тестирование модерации и систем защиты контента · проверка ответов ИИ на провокационные запросы

Базовая модель на архитектуре Llama с 1,2 млрд параметров для автодополнения кода, продолжения текста и исследований кодовых языковых моделей.

Подходит для: автодополнение фрагментов Python · продолжение кода на других языках программирования · продолжение английского текста

DSpark-модель-черновик для ускорения спекулятивного декодирования Ling-3.0-flash при генерации текста.

Подходит для: ускорение инференса Ling-3.0-flash в SGLang · ускорение генерации текста через спекулятивную проверку токенов · обслуживание Ling-3.0-flash с DSpark в llama.cpp

Вспомогательная модель Liquid AI для ускорения спекулятивного декодирования мультимодальной LFM2.5-VL-3B.

Подходит для: Ускорение ответов на вопросы по изображениям с LFM2.5-VL-3B · Ускорение описания изображений целевой моделью · Ускорение визуального OCR целевой модели

Базовая модель Llama с 133,3 млн параметров, обученная на 100 млрд токенов преимущественно кода и предназначенная для дальнейшей настройки и генерации текста.

Подходит для: дообучение компактной языковой модели для генерации кода · эксперименты с тонкой настройкой базовой модели Llama · исследование генерации текста на небольшой авторегрессионной модели

Слитая 70-миллиардная чат-модель Llama для творческих ролевых диалогов и отыгрыша персонажей.

Подходит для: ведение творческого ролевого чата · отыгрыш заданного персонажа в диалоге · генерация выразительных диалогов и прозы

GGUF-модуль DSpark для спекулятивного декодирования LFM2.5-VL-3B в llama.cpp, требующий совместимую целевую модель и проектор зрения.

Подходит для: ускорение генерации ответов целевой моделью LFM2.5-VL-3B в llama.cpp · ускорение диалогового анализа изображений целевой VLM · использование DSpark как draft sidecar для спекулятивного декодирования

Вспомогательная модель Eagle для ускорения генерации текста Llama 3.3 70B с помощью спекулятивного декодирования в TensorRT-LLM.

Подходит для: ускорение ответов чат-бота на базе Llama 3.3 70B · ускорение генерации ответов в RAG-системе · ускорение ответов AI-агента

Модель LiquidAI LFM2.5-1.2B с удалёнными отказами предназначена для диалоговых экспериментов и red teaming.

Подходит для: проверка устойчивости систем к запросам, на которые обычно следует отказ · исследование поведения языковой модели при удалённом механизме отказов · эксперименты с инструкционным диалогом на английском языке

Экспериментальная LLaMA 2 70B от Maya Philippines для генерации текста, следования инструкциям и оценки составных LLM.

Подходит для: генерация ответов на текстовые запросы · выполнение инструкций на естественном языке · оценка языковой модели на бенчмарках

Наноразмерная модель Llama, обученная с нуля для демонстрации предварительного обучения трансформера и экспериментов с генерацией английского текста.

Подходит для: демонстрация предварительного обучения трансформера с нуля · изучение работы компактной языковой модели · эксперименты с генерацией коротких текстовых продолжений