safetensors: формат, квантизация, runtime и память принадлежат одному artifact

Вспомогательная модель-черновик Liquid AI для ускорения генерации LiquidAI/LFM2.5-2.6B с помощью speculative decoding.

Подходит для: ускорение генерации текста моделью LFM2.5-2.6B в SGLang · ускорение локального декодирования на Apple Silicon через Metal · ускорение генерации при решении математических задач

Черновая модель Liquid AI для speculative decoding, ускоряющая генерацию LiquidAI/LFM2.5-8B-A1B при использовании совместимого инференс-сервера.

Подходит для: ускорение генерации текста на LFM2.5-8B-A1B через speculative decoding · снижение задержки инференса в SGLang · ускорение генерации на Apple Silicon с Metal

Компактная авторегрессионная модель семейства Llama для генерации текста, предварительно обученная на FineWeb.

Подходит для: эксперименты с компактными языковыми моделями · генерация коротких текстовых продолжений · изучение авторегрессионной архитектуры Llama

safetensors: формат, квантизация, runtime и память принадлежат одному artifact

Черновая модель Liquid AI для ускорения генерации LFM2.5-1.2B-Instruct методом спекулятивного декодирования с точным сохранением результата целевой модели.

Подходит для: ускорение генерации текста моделью LFM2.5-1.2B-Instruct в SGLang · ускорение локального инференса LFM2.5 на устройствах Apple Silicon · спекулятивное декодирование для задач математики и ответов на вопросы

Компактная дообученная модель семейства LLaMA для генерации текста и ускорения вывода крупных LLaMA- и Vicuna-моделей в режиме спекулятивного декодирования.

Подходит для: черновая генерация токенов для спекулятивного декодирования · ускорение вывода моделей LLaMA-13B и LLaMA-33B · ускорение вывода моделей Vicuna-13B и Vicuna-33B

Вспомогательная модель Liquid AI для ускорения спекулятивного декодирования мультимодальной LFM2.5-VL-3B.

Подходит для: Ускорение ответов на вопросы по изображениям с LFM2.5-VL-3B · Ускорение описания изображений целевой моделью · Ускорение визуального OCR целевой модели

Компактная модель семейства LLaMA для ускорения генерации текста с помощью спекулятивного декодирования EAGLE.

Подходит для: ускорение инференса языковой модели в serving-системах · ускорение генерации ответов чат-моделью · снижение задержки авторегрессионной генерации текста

Диалоговая текстовая модель семейства Llama примерно на 7,5 млрд параметров для генерации ответов на текстовые запросы.

Подходит для: диалоговые ответы на текстовые запросы · генерация продолжения текста · создание чат-бота на базе Transformers

Квантованный GGUF-пакет слоёв Laguna-S-2.1 для распределённой генерации текста и локального чата на кластере Mesh LLM.

Подходит для: локальный приватный чат с языковой моделью · распределённый запуск Laguna-S-2.1 на нескольких компьютерах · обслуживание модели, не помещающейся целиком на одном узле

Локальная чат-модель семейства Llama на 7,5 млрд параметров для генерации текста, кода и поддержки сценариев автономного агента.

Подходит для: генерация и редактирование кода · декомпозиция задач для автономного агента · диалог с локально запущенной моделью

Компактная LLaMA-совместимая языковая модель для локальных агентных рабочих процессов, диагностики Linux и генерации кода.

Подходит для: диагностика проблем Linux-серверов · помощь в системном администрировании и настройке инфраструктуры · генерация скриптов Bash и Python для автоматизации

Компактная гибридная LFM2.5-модель для генерации пошаговых решений STEM-задач и ответов на задачи логического вывода при локальном запуске.

Подходит для: пошаговое решение задач по линейной алгебре · объяснение задач по дифференциальным уравнениям · решение задач по электромагнетизму и классической механике

Дообученная на базе DeepSeek-R1-Distill-Llama-8B модель Llama для генерации неотфильтрованных диалоговых ответов и исследований поведения ИИ.

Подходит для: изучение поведения языковых моделей без фильтров безопасности · тестирование модерации и систем защиты контента · проверка ответов ИИ на провокационные запросы

Черновая модель DFlash для speculative decoding с LiquidAI/LFM2.5-VL-3B в llama.cpp, предназначенная для экспериментального ускорения генерации.

Подходит для: эксперименты со speculative decoding в llama.cpp · тестирование DFlash-черновиков для LFM2.5-VL-3B · воспроизведение результатов обучения и оценки принятия черновых токенов

GGUF-модуль DSpark для спекулятивного декодирования LFM2.5-VL-3B в llama.cpp, требующий совместимую целевую модель и проектор зрения.

Подходит для: ускорение генерации ответов целевой моделью LFM2.5-VL-3B в llama.cpp · ускорение диалогового анализа изображений целевой VLM · использование DSpark как draft sidecar для спекулятивного декодирования

Базовая модель на архитектуре Llama с 1,2 млрд параметров для автодополнения кода, продолжения текста и исследований кодовых языковых моделей.

Подходит для: автодополнение фрагментов Python · продолжение кода на других языках программирования · продолжение английского текста

Экспериментальная LLaMA 2 70B от Maya Philippines для генерации текста, следования инструкциям и оценки составных LLM.

Подходит для: генерация ответов на текстовые запросы · выполнение инструкций на естественном языке · оценка языковой модели на бенчмарках

Компактная авторегрессионная модель LLaMA примерно на 152 млн параметров для генерации текста по текстовому запросу.

Подходит для: продолжение короткого текстового фрагмента · эксперименты с компактными языковыми моделями · прототипирование генерации текста через Transformers

Наноразмерная модель Llama, обученная с нуля для демонстрации предварительного обучения трансформера и экспериментов с генерацией английского текста.

Подходит для: демонстрация предварительного обучения трансформера с нуля · изучение работы компактной языковой модели · эксперименты с генерацией коротких текстовых продолжений

Контрольная точка Llama 3 8B после supervised fine-tuning для генерации текста, диалогов и исследований RLHF.

Подходит для: генерация ответов в диалоговом интерфейсе · создание базовой модели для экспериментов с RLHF · решение математических задач в текстовом формате

Процессно-супервизируемая модель вознаграждения на базе Llama 3.1 8B для оценки шагов рассуждения и отбора решений.

Подходит для: оценка промежуточных шагов математического решения · отбор лучших ответов из множества сгенерированных вариантов · оценка решений задач GSM8K и MATH

Пакет квантованных GGUF-слоёв Inkling-Small для локального и распределённого мультимодального инференса через Mesh LLM.

Подходит для: локальный приватный чат с моделью Inkling-Small · ответы на вопросы по изображениям · запуск модели на нескольких машинах, если она не помещается на одном хосте