safetensors: формат, квантизация, runtime и память принадлежат одному artifact

Черновая модель Liquid AI для speculative decoding, ускоряющая генерацию LiquidAI/LFM2.5-8B-A1B при использовании совместимого инференс-сервера.

Подходит для: ускорение генерации текста на LFM2.5-8B-A1B через speculative decoding · снижение задержки инференса в SGLang · ускорение генерации на Apple Silicon с Metal

Компактная дообученная модель семейства LLaMA для генерации текста и ускорения вывода крупных LLaMA- и Vicuna-моделей в режиме спекулятивного декодирования.

Подходит для: черновая генерация токенов для спекулятивного декодирования · ускорение вывода моделей LLaMA-13B и LLaMA-33B · ускорение вывода моделей Vicuna-13B и Vicuna-33B

Компактная авторегрессионная модель семейства Llama для генерации текста, предварительно обученная на FineWeb.

Подходит для: эксперименты с компактными языковыми моделями · генерация коротких текстовых продолжений · изучение авторегрессионной архитектуры Llama

Англоязычная авторегрессионная модель EleutherAI для генерации текста и научного исследования поведения и интерпретируемости языковых моделей.

Подходит для: эксперименты с генерацией английского текста · исследование интерпретируемости языковых моделей · сравнение поведения моделей разных размеров

Небольшая англоязычная авторегрессионная модель EleutherAI для исследований генерации текста и поведения языковых моделей.

Подходит для: эксперименты с предсказанием следующего токена на английском языке · исследование поведения языковых моделей на разных этапах обучения · анализ интерпретируемости компактной трансформерной модели

safetensors: формат, квантизация, runtime и память принадлежат одному artifact

Компактная модель семейства LLaMA для ускорения генерации текста с помощью спекулятивного декодирования EAGLE.

Подходит для: ускорение инференса языковой модели в serving-системах · ускорение генерации ответов чат-моделью · снижение задержки авторегрессионной генерации текста

Диалоговая текстовая модель семейства Llama примерно на 7,5 млрд параметров для генерации ответов на текстовые запросы.

Подходит для: диалоговые ответы на текстовые запросы · генерация продолжения текста · создание чат-бота на базе Transformers

Локальная чат-модель семейства Llama на 7,5 млрд параметров для генерации текста, кода и поддержки сценариев автономного агента.

Подходит для: генерация и редактирование кода · декомпозиция задач для автономного агента · диалог с локально запущенной моделью

Компактная авторегрессионная модель LLaMA примерно на 152 млн параметров для генерации текста по текстовому запросу.

Подходит для: продолжение короткого текстового фрагмента · эксперименты с компактными языковыми моделями · прототипирование генерации текста через Transformers

Черновая модель Liquid AI для ускорения генерации LFM2.5-1.2B-Instruct методом спекулятивного декодирования с точным сохранением результата целевой модели.

Подходит для: ускорение генерации текста моделью LFM2.5-1.2B-Instruct в SGLang · ускорение локального инференса LFM2.5 на устройствах Apple Silicon · спекулятивное декодирование для задач математики и ответов на вопросы

Компактная LLaMA-совместимая языковая модель для локальных агентных рабочих процессов, диагностики Linux и генерации кода.

Подходит для: диагностика проблем Linux-серверов · помощь в системном администрировании и настройке инфраструктуры · генерация скриптов Bash и Python для автоматизации

Ling-2.6-1T — большая гибридная языковая модель для генерации кода, сложных рассуждений и многошаговых агентных задач с инструментами.

Подходит для: генерация и редактирование программного кода · поиск и исправление ошибок в коде · выполнение многошаговых задач с вызовом инструментов

safetensors: формат, квантизация, runtime и память принадлежат одному artifact

Квантованный GGUF-пакет слоёв Laguna-S-2.1 для распределённой генерации текста и локального чата на кластере Mesh LLM.

Подходит для: локальный приватный чат с языковой моделью · распределённый запуск Laguna-S-2.1 на нескольких компьютерах · обслуживание модели, не помещающейся целиком на одном узле

Базовая модель на архитектуре Llama с 1,2 млрд параметров для автодополнения кода, продолжения текста и исследований кодовых языковых моделей.

Подходит для: автодополнение фрагментов Python · продолжение кода на других языках программирования · продолжение английского текста

Наноразмерная модель Llama, обученная с нуля для демонстрации предварительного обучения трансформера и экспериментов с генерацией английского текста.

Подходит для: демонстрация предварительного обучения трансформера с нуля · изучение работы компактной языковой модели · эксперименты с генерацией коротких текстовых продолжений

Промежуточный чекпойнт компактной модели TinyLlama на 1,1 млрд параметров для генерации текста и экспериментов с языковыми моделями.

Подходит для: эксперименты с обучением компактных языковых моделей · изучение поведения Llama-моделей на промежуточных этапах предобучения · тестирование генерации текста при ограниченных вычислительных ресурсах

Tucano-630m — авторегрессионная модель семейства Llama для генерации текста на португальском языке и экспериментов с языковым моделированием.

Подходит для: генерация португалоязычного текста в исследовательских экспериментах · сравнение языковых моделей на португальских бенчмарках · дообучение модели для португалоязычных задач

Компактная языковая модель семейства Llama на 1,1 млрд параметров для генерации текста и оценки на бенчмарках.

Подходит для: эксперименты с генерацией текста · оценка языковой модели на бенчмарках · исследование поведения компактных моделей Llama

Базовая LoRA-модель Llama 3.1 для генерации ответов на вопросы TOFU и исследований методов машинного забывания.

Подходит для: оценка методов машинного забывания на бенчмарке TOFU · генерация ответов на биографические вопросы TOFU · сравнение сохранения и забывания ответов после дообучения

Компактная экспериментальная Llama-модель для генерации текста, полученная слиянием arco и Danube 3 500M.

Подходит для: эксперименты с генерацией текста на компактной модели · zero-shot оценка на тестах общего знания · сравнение небольших языковых моделей на бенчмарках

Черновая модель DFlash для speculative decoding с LiquidAI/LFM2.5-VL-3B в llama.cpp, предназначенная для экспериментального ускорения генерации.

Подходит для: эксперименты со speculative decoding в llama.cpp · тестирование DFlash-черновиков для LFM2.5-VL-3B · воспроизведение результатов обучения и оценки принятия черновых токенов