safetensors: формат, квантизация, runtime и память принадлежат одному artifact

Черновая модель Liquid AI для speculative decoding, ускоряющая генерацию LiquidAI/LFM2.5-8B-A1B при использовании совместимого инференс-сервера.

Подходит для: ускорение генерации текста на LFM2.5-8B-A1B через speculative decoding · снижение задержки инференса в SGLang · ускорение генерации на Apple Silicon с Metal

Вспомогательная модель-черновик Liquid AI для ускорения генерации LiquidAI/LFM2.5-2.6B с помощью speculative decoding.

Подходит для: ускорение генерации текста моделью LFM2.5-2.6B в SGLang · ускорение локального декодирования на Apple Silicon через Metal · ускорение генерации при решении математических задач

mLUKE-base — мультиязычная модель LUKE для предсказания замаскированных токенов и адаптации к задачам работы с сущностями.

Подходит для: предсказание пропущенных слов в многоязычном тексте · дообучение для распознавания именованных сущностей · адаптация для классификации отношений между сущностями

Черновая модель Liquid AI для ускорения генерации LFM2.5-1.2B-Instruct методом спекулятивного декодирования с точным сохранением результата целевой модели.

Подходит для: ускорение генерации текста моделью LFM2.5-1.2B-Instruct в SGLang · ускорение локального инференса LFM2.5 на устройствах Apple Silicon · спекулятивное декодирование для задач математики и ответов на вопросы

Небольшая английская языковая модель, обученная с нуля, для исследований предобучения и экспериментов с генерацией текста.

Подходит для: исследование предобучения малых языковых моделей · эксперименты с продолжением обучения языковой модели · генерация продолжений английского текста

LUKE base — англоязычная трансформерная модель с представлениями сущностей для заполнения масок и задач понимания текста.

Подходит для: подстановка пропущенного слова в английском тексте · распознавание именованных сущностей · определение типов сущностей в тексте

Компактная англоязычная модель для предсказания следующего слова и автодополнения текста при наборе на мобильной клавиатуре.

Подходит для: Подсказка следующего слова после пробела на экранной клавиатуре · Автодополнение частично набранного слова · Локальные офлайн-подсказки текста на Android-устройстве

DSpark-модель-черновик для ускорения спекулятивного декодирования Ling-3.0-flash при генерации текста.

Подходит для: ускорение инференса Ling-3.0-flash в SGLang · ускорение генерации текста через спекулятивную проверку токенов · обслуживание Ling-3.0-flash с DSpark в llama.cpp

Вспомогательная модель Liquid AI для ускорения спекулятивного декодирования мультимодальной LFM2.5-VL-3B.

Подходит для: Ускорение ответов на вопросы по изображениям с LFM2.5-VL-3B · Ускорение описания изображений целевой моделью · Ускорение визуального OCR целевой модели

Компактная модель семейства LLaMA для ускорения генерации текста с помощью спекулятивного декодирования EAGLE.

Подходит для: ускорение инференса языковой модели в serving-системах · ускорение генерации ответов чат-моделью · снижение задержки авторегрессионной генерации текста

Компактная LLaMA-совместимая языковая модель для локальных агентных рабочих процессов, диагностики Linux и генерации кода.

Подходит для: диагностика проблем Linux-серверов · помощь в системном администрировании и настройке инфраструктуры · генерация скриптов Bash и Python для автоматизации

Контрольный чекпойнт плотной рекуррентной языковой модели LoopedLM для генерации текста и исследований архитектуры H/L.

Подходит для: генерация текста с рекуррентной языковой моделью · исследование архитектуры LoopedLM с разделением H/L · оценка чекпойнта на этапе обучения до 500 млрд токенов

Модель LiquidAI LFM2.5-1.2B с удалёнными отказами предназначена для диалоговых экспериментов и red teaming.

Подходит для: проверка устойчивости систем к запросам, на которые обычно следует отказ · исследование поведения языковой модели при удалённом механизме отказов · эксперименты с инструкционным диалогом на английском языке

Компактная гибридная LFM2.5-модель для генерации пошаговых решений STEM-задач и ответов на задачи логического вывода при локальном запуске.

Подходит для: пошаговое решение задач по линейной алгебре · объяснение задач по дифференциальным уравнениям · решение задач по электромагнетизму и классической механике

Модифицированная компактная модель LiquidAI для исследования отказов и генерации текста в диалоге с пониженной склонностью отказывать на вредоносные запросы.

Подходит для: исследование механизмов отказа языковых моделей · red teaming диалоговых моделей · оценка устойчивости защитных механизмов на тестах вредоносных запросов

Экспериментальный сжатый чекпойнт Llama 2 Chat для изучения компромиссов между безопасностью и полезностью генеративных языковых моделей.

Подходит для: сравнение защитного поведения языковых моделей после сжатия · оценка успешности атак на сжатые чат-модели · изучение восстановления поведения модели компонентами SVD

Англоязычная трансформерная модель LUKE-large с учётом сущностей предназначена для заполнения пропусков и задач понимания текста.

Подходит для: заполнение пропусков в англоязычном тексте · извлечение ответов из текста · распознавание именованных сущностей

Экспериментальная англоязычная модель семейства Llama с активацией SwiGLU для генерации текста и изучения разреженных вычислений.

Подходит для: генерация англоязычного текста · исследование разреженности активаций SwiGLU · сравнение функций активации в языковых моделях

Экспериментальная сжатая и восстановленная LoRA-модель Mistral-7B-Instruct-v0.2 для изучения компромиссов между сжатием и безопасностью генерации текста.

Подходит для: сравнение защитного поведения модели до и после сжатия · оценка устойчивости диалоговой модели к вредоносным запросам · измерение компромисса между полезностью и безопасностью ответов

16-битная конверсия DeepSeek-R1-Distill-Qwen-7B в MLX для локальных диалогов, генерации текста и рассуждений на Apple Silicon.

Подходит для: локальный чат с моделью на Mac с Apple Silicon · решение математических задач с пошаговыми рассуждениями · помощь в написании и анализе кода

Экспериментальная сжатая версия Llama 2 Chat для исследования влияния удаления параметров на безопасность и полезность модели.

Подходит для: сравнение безопасности сжатых языковых моделей · измерение устойчивости чат-моделей к вредоносным запросам · анализ компромисса между отказами и полезностью ответов

Мультиязычная MoE-модель Liquid AI с ослабленным механизмом отказов для исследований безопасности ИИ и тестирования jailbreak-сценариев.

Подходит для: тестирование устойчивости чат-моделей к jailbreak-запросам · red teaming диалоговых ИИ-систем · изучение механизмов отказа языковых моделей

Экспериментальный сжатый чекпойнт Llama 2 7B Chat для исследования компромиссов между сжатием модели и безопасностью диалогов.

Подходит для: сравнение устойчивости сжатых моделей к вредоносным запросам · измерение изменения отказов на опасные запросы после сжатия · исследование восстановления поведения безопасности компонентами SVD