safetensors: формат, квантизация, runtime и память принадлежат одному artifact

Черновая модель Liquid AI для speculative decoding, ускоряющая генерацию LiquidAI/LFM2.5-8B-A1B при использовании совместимого инференс-сервера.

Подходит для: ускорение генерации текста на LFM2.5-8B-A1B через speculative decoding · снижение задержки инференса в SGLang · ускорение генерации на Apple Silicon с Metal

Диалоговая текстовая модель семейства Llama примерно на 7,5 млрд параметров для генерации ответов на текстовые запросы.

Подходит для: диалоговые ответы на текстовые запросы · генерация продолжения текста · создание чат-бота на базе Transformers

Дообученная Llama 3 на 7,5 млрд параметров, поведение которой в диалоге настраивается системным промптом для исследований безопасности и управляемости.

Подходит для: сравнение безопасного и неконтролируемого поведения языковой модели · исследование влияния системных промптов на ответы чат-бота · эксперименты с отказами модели на вредоносные запросы

Компактная дообученная модель семейства LLaMA для генерации текста и ускорения вывода крупных LLaMA- и Vicuna-моделей в режиме спекулятивного декодирования.

Подходит для: черновая генерация токенов для спекулятивного декодирования · ускорение вывода моделей LLaMA-13B и LLaMA-33B · ускорение вывода моделей Vicuna-13B и Vicuna-33B

Локальная чат-модель семейства Llama на 7,5 млрд параметров для генерации текста, кода и поддержки сценариев автономного агента.

Подходит для: генерация и редактирование кода · декомпозиция задач для автономного агента · диалог с локально запущенной моделью

Экспериментальная LLaMA 2 70B от Maya Philippines для генерации текста, следования инструкциям и оценки составных LLM.

Подходит для: генерация ответов на текстовые запросы · выполнение инструкций на естественном языке · оценка языковой модели на бенчмарках

Квантованный GGUF-пакет слоёв Laguna-S-2.1 для распределённой генерации текста и локального чата на кластере Mesh LLM.

Подходит для: локальный приватный чат с языковой моделью · распределённый запуск Laguna-S-2.1 на нескольких компьютерах · обслуживание модели, не помещающейся целиком на одном узле

Черновая модель Liquid AI для ускорения генерации LFM2.5-1.2B-Instruct методом спекулятивного декодирования с точным сохранением результата целевой модели.

Подходит для: ускорение генерации текста моделью LFM2.5-1.2B-Instruct в SGLang · ускорение локального инференса LFM2.5 на устройствах Apple Silicon · спекулятивное декодирование для задач математики и ответов на вопросы

Дообученная на базе DeepSeek-R1-Distill-Llama-8B модель Llama для генерации неотфильтрованных диалоговых ответов и исследований поведения ИИ.

Подходит для: изучение поведения языковых моделей без фильтров безопасности · тестирование модерации и систем защиты контента · проверка ответов ИИ на провокационные запросы

Компактная модель семейства LLaMA для ускорения генерации текста с помощью спекулятивного декодирования EAGLE.

Подходит для: ускорение инференса языковой модели в serving-системах · ускорение генерации ответов чат-моделью · снижение задержки авторегрессионной генерации текста

Экспериментальная компактная модель семейства LLaMA 2 для генерации текста и изучения уменьшенных языковых моделей.

Подходит для: эксперименты с компактной архитектурой LLaMA 2 · генерация английского текста для исследовательских прототипов · сравнение малых языковых моделей на бенчмарках

Компактная LLaMA-совместимая языковая модель для локальных агентных рабочих процессов, диагностики Linux и генерации кода.

Подходит для: диагностика проблем Linux-серверов · помощь в системном администрировании и настройке инфраструктуры · генерация скриптов Bash и Python для автоматизации

Экспериментальная сжатая версия Llama 2 Chat для исследования влияния удаления параметров на безопасность и полезность модели.

Подходит для: сравнение безопасности сжатых языковых моделей · измерение устойчивости чат-моделей к вредоносным запросам · анализ компромисса между отказами и полезностью ответов

Экспериментальная производная Llama 3.2 1B Instruct с изменёнными весами для исследований отказов, интерпретируемости и оценки безопасности.

Подходит для: исследование механизмов отказа языковых моделей · red teaming моделей, склонных отвечать на вредоносные запросы · оценка защитных механизмов и поведения модели

Исследовательский вариант Llama 3.2 1B с Softmax1 и AttentionResidual для генерации текста и изучения маршрутизации внимания между слоями.

Подходит для: генерация текста авторегрессионной языковой моделью · эксперименты с маршрутизацией между слоями трансформера · сравнение влияния attention sinks на языковую модель

Экспериментальная модель Llama на 21,6 млрд параметров с дополнительными attention heads, предназначенная для дальнейшего дообучения.

Подходит для: дальнейшее дообучение языковой модели · эксперименты с расширением архитектуры Llama 2 · оценка генеративной модели на тестах ARC и HellaSwag

Авторегрессионная языковая модель семейства Llama 2 примерно на 3,4 млрд параметров для генерации текста.

Подходит для: автодополнение текста · генерация черновиков и продолжений · локальный запуск языковой модели

Экспериментальная случайно инициализированная компактная Llama-подобная модель для тестирования генерации текста и архитектурных экспериментов.

Подходит для: тестирование text-generation pipeline · учебные эксперименты с архитектурой Llama · проверка загрузки моделей в Transformers

Экспериментальная объединённая LLaMA-модель на 32,3 млрд параметров для исследования поведения композитных LLM и генерации текста.

Подходит для: стресс-тестирование объединённых языковых моделей · изучение взаимодействия LoRA-адаптеров · оценка модели на бенчмарках MMLU, ARC и HellaSwag

Базовая модель на архитектуре Llama с 1,2 млрд параметров для автодополнения кода, продолжения текста и исследований кодовых языковых моделей.

Подходит для: автодополнение фрагментов Python · продолжение кода на других языках программирования · продолжение английского текста

GGUF-модуль DSpark для спекулятивного декодирования LFM2.5-VL-3B в llama.cpp, требующий совместимую целевую модель и проектор зрения.

Подходит для: ускорение генерации ответов целевой моделью LFM2.5-VL-3B в llama.cpp · ускорение диалогового анализа изображений целевой VLM · использование DSpark как draft sidecar для спекулятивного декодирования

Компактная модель Llama, обученная с нуля для генерации текста и экспериментов с языковыми моделями.

Подходит для: генерация продолжения текста · эксперименты с компактной авторегрессионной моделью · оценка языковой модели на бенчмарках

Базовая модель Llama с 133,3 млн параметров, обученная на 100 млрд токенов преимущественно кода и предназначенная для дальнейшей настройки и генерации текста.

Подходит для: дообучение компактной языковой модели для генерации кода · эксперименты с тонкой настройкой базовой модели Llama · исследование генерации текста на небольшой авторегрессионной модели