safetensors: формат, квантизация, runtime и память принадлежат одному artifact

Черновая модель Liquid AI для speculative decoding, ускоряющая генерацию LiquidAI/LFM2.5-8B-A1B при использовании совместимого инференс-сервера.

Подходит для: ускорение генерации текста на LFM2.5-8B-A1B через speculative decoding · снижение задержки инференса в SGLang · ускорение генерации на Apple Silicon с Metal

Небольшая чешскоязычная модель GPT-2 для продолжения и генерации текста по подсказке.

Подходит для: продолжение чешского текста по началу фразы · генерация черновиков на чешском языке · создание примеров чешского текста для прототипов

Базовая языковая модель Chuxin на архитектуре LLaMA с примерно 1,4 млрд параметров для генерации текста и последующей настройки под прикладные задачи.

Подходит для: продолжение и генерация текста по подсказке · создание основы для дообучения под прикладную задачу · эксперименты с компактными языковыми моделями

Контрольный чекпойнт плотной рекуррентной языковой модели LoopedLM для генерации текста и исследований архитектуры H/L.

Подходит для: генерация текста с рекуррентной языковой моделью · исследование архитектуры LoopedLM с разделением H/L · оценка чекпойнта на этапе обучения до 500 млрд токенов

Производная модели sahilchachra/LFM2.5-8B-A1B-Uncensored. Мультиязычная MoE-модель Liquid AI с ослабленным механизмом отказов для исследований безопасности ИИ и тестирования jailbreak-сценариев.

Подходит для: тестирование устойчивости чат-моделей к jailbreak-запросам · red teaming диалоговых ИИ-систем · изучение механизмов отказа языковых моделей

Мультиязычная MoE-модель Liquid AI с ослабленным механизмом отказов для исследований безопасности ИИ и тестирования jailbreak-сценариев.

Подходит для: тестирование устойчивости чат-моделей к jailbreak-запросам · red teaming диалоговых ИИ-систем · изучение механизмов отказа языковых моделей

Черновая модель Liquid AI для ускорения генерации LFM2.5-1.2B-Instruct методом спекулятивного декодирования с точным сохранением результата целевой модели.

Подходит для: ускорение генерации текста моделью LFM2.5-1.2B-Instruct в SGLang · ускорение локального инференса LFM2.5 на устройствах Apple Silicon · спекулятивное декодирование для задач математики и ответов на вопросы

Англоязычная модель EleutherAI на 15,4 млрд параметров для генерации текста и контролируемых исследований поведения и интерпретируемости больших языковых моделей.

Подходит для: эксперименты по интерпретируемости больших языковых моделей · изучение влияния дедупликации обучающих данных · анализ поведения базовой языковой модели при продолжении текста

Экспериментальный пакет GGUF-слоёв inkling для распределённого локального чата и обработки изображений в Mesh LLM.

Подходит для: локальный приватный чат с ассистентом через Mesh LLM · распределённый запуск модели на нескольких компьютерах · обслуживание запросов через совместимый с OpenAI API

Пакет слоёв GGUF модели inkling для локального и распределённого мультимодального чата через Mesh LLM.

Подходит для: Локальный чат с моделью inkling · Ответы на вопросы по изображениям · Распределённый инференс на нескольких компьютерах

Экспериментальный пакет слоёв GGUF модели inkling для распределённого мультимодального чата через Mesh LLM.

Подходит для: локальный приватный чат с моделью inkling · распределённый запуск модели на нескольких машинах · обслуживание запросов через совместимый с OpenAI API

Модель LiquidAI LFM2.5-1.2B с удалёнными отказами предназначена для диалоговых экспериментов и red teaming.

Подходит для: проверка устойчивости систем к запросам, на которые обычно следует отказ · исследование поведения языковой модели при удалённом механизме отказов · эксперименты с инструкционным диалогом на английском языке

Экспериментальный сжатый чекпойнт Llama 2 Chat для изучения компромиссов между безопасностью и полезностью генеративных языковых моделей.

Подходит для: сравнение защитного поведения языковых моделей после сжатия · оценка успешности атак на сжатые чат-модели · изучение восстановления поведения модели компонентами SVD

Экспериментальный чекпойнт плотной LoopedLM для генерации текста и изучения вариантов топологии и внедрения входных данных в зацикленные языковые модели.

Подходит для: генерация текста для оценки экспериментальной языковой модели · воспроизведение эксперимента из работы о зацикленных языковых моделях · сравнение вариантов внедрения входных данных в трансформер

Компактная базовая языковая модель Kyutai на 1,9 млрд параметров для генерации и понимания текста на 24 языках ЕС.

Подходит для: генерация продолжений текста на языках ЕС · исследование многоязычного языкового моделирования · оценка знаний модели на текстовых бенчмарках

Вспомогательная модель Liquid AI для ускорения спекулятивного декодирования мультимодальной LFM2.5-VL-3B.

Подходит для: Ускорение ответов на вопросы по изображениям с LFM2.5-VL-3B · Ускорение описания изображений целевой моделью · Ускорение визуального OCR целевой модели

Экспериментальный сжатый чекпойнт Llama 2 7B Chat для исследования влияния сжатия и замены параметров на безопасность модели.

Подходит для: оценка безопасности сжатых языковых моделей · измерение успешности атак на чат-модель · сравнение восстановления поведения после сжатия

Пакет квантованных GGUF-слоёв Inkling-Small для локального и распределённого мультимодального инференса через Mesh LLM.

Подходит для: локальный приватный чат с моделью Inkling-Small · ответы на вопросы по изображениям · запуск модели на нескольких машинах, если она не помещается на одном хосте

Пакет слоёв Inkling-Small в формате GGUF для распределённого локального чат-инференса с поддержкой изображений через Mesh LLM.

Подходит для: локальный приватный чат с моделью Inkling · распределённый запуск GGUF на нескольких компьютерах · ответы на вопросы по изображениям

Модифицированная компактная модель LiquidAI для исследования отказов и генерации текста в диалоге с пониженной склонностью отказывать на вредоносные запросы.

Подходит для: исследование механизмов отказа языковых моделей · red teaming диалоговых моделей · оценка устойчивости защитных механизмов на тестах вредоносных запросов

Экспериментальный чекпойнт Llama 2 Chat, сжатый и изменённый для исследования влияния сжатия на безопасность и полезность диалоговой модели.

Подходит для: сравнение безопасности ответов до и после сжатия LLM · оценка устойчивости чат-модели к вредоносным запросам · изучение восстановления поведения после SVD-сжатия

Компактная LLaMA-совместимая языковая модель для локальных агентных рабочих процессов, диагностики Linux и генерации кода.

Подходит для: диагностика проблем Linux-серверов · помощь в системном администрировании и настройке инфраструктуры · генерация скриптов Bash и Python для автоматизации

Экспериментальная сжатая версия Llama 2 Chat для исследования влияния удаления параметров на безопасность и полезность модели.

Подходит для: сравнение безопасности сжатых языковых моделей · измерение устойчивости чат-моделей к вредоносным запросам · анализ компромисса между отказами и полезностью ответов