safetensors: формат, квантизация, runtime и память принадлежат одному artifact

Черновая модель Liquid AI для speculative decoding, ускоряющая генерацию LiquidAI/LFM2.5-8B-A1B при использовании совместимого инференс-сервера.

Подходит для: ускорение генерации текста на LFM2.5-8B-A1B через speculative decoding · снижение задержки инференса в SGLang · ускорение генерации на Apple Silicon с Metal

Вспомогательная модель-черновик Liquid AI для ускорения генерации LiquidAI/LFM2.5-2.6B с помощью speculative decoding.

Подходит для: ускорение генерации текста моделью LFM2.5-2.6B в SGLang · ускорение локального декодирования на Apple Silicon через Metal · ускорение генерации при решении математических задач

Черновая модель Liquid AI для ускорения генерации LFM2.5-1.2B-Instruct методом спекулятивного декодирования с точным сохранением результата целевой модели.

Подходит для: ускорение генерации текста моделью LFM2.5-1.2B-Instruct в SGLang · ускорение локального инференса LFM2.5 на устройствах Apple Silicon · спекулятивное декодирование для задач математики и ответов на вопросы

Небольшая англоязычная авторегрессионная модель EleutherAI для исследований генерации текста и поведения языковых моделей.

Подходит для: эксперименты с предсказанием следующего токена на английском языке · исследование поведения языковых моделей на разных этапах обучения · анализ интерпретируемости компактной трансформерной модели

Промежуточная модель на архитектуре Kimi K3 mini port для генерации текста и кода на Luau.

Подходит для: генерация кода на Luau · дополнение фрагментов кода Luau · создание примеров скриптов для Roblox

Компактная дообученная модель семейства LLaMA для генерации текста и ускорения вывода крупных LLaMA- и Vicuna-моделей в режиме спекулятивного декодирования.

Подходит для: черновая генерация токенов для спекулятивного декодирования · ускорение вывода моделей LLaMA-13B и LLaMA-33B · ускорение вывода моделей Vicuna-13B и Vicuna-33B

Англоязычная модель EleutherAI на 15,4 млрд параметров для генерации текста и контролируемых исследований поведения и интерпретируемости больших языковых моделей.

Подходит для: эксперименты по интерпретируемости больших языковых моделей · изучение влияния дедупликации обучающих данных · анализ поведения базовой языковой модели при продолжении текста

Компактная авторегрессионная модель семейства LLaMA для генерации текста и языковых задач, созданная прореживанием и продолжением предобучения Llama 2 7B.

Подходит для: генерация продолжения текста · языковое моделирование · ответы на вопросы по тексту

Экспериментальная 7,1-миллиардная языковая модель Mistral для генерации текста с вмешательствами Laser в выбранные по отношению сигнал/шум слои.

Подходит для: генерация текста языковой моделью · эксперименты с вмешательством в отдельные слои Mistral · исследование отношения сигнал/шум в слоях языковой модели

Дообученная модель XLS-R на 402,7 млн параметров для распознавания лаосской речи и преобразования аудио в текст.

Подходит для: расшифровка аудиозаписей на лаосском языке · создание текстовых транскриптов лаосской речи · распознавание лаосской речи в голосовых сообщениях

Квантованный GGUF-пакет слоёв Laguna-S-2.1 для распределённой генерации текста и локального чата на кластере Mesh LLM.

Подходит для: локальный приватный чат с языковой моделью · распределённый запуск Laguna-S-2.1 на нескольких компьютерах · обслуживание модели, не помещающейся целиком на одном узле

Компактная модель семейства LLaMA для ускорения генерации текста с помощью спекулятивного декодирования EAGLE.

Подходит для: ускорение инференса языковой модели в serving-системах · ускорение генерации ответов чат-моделью · снижение задержки авторегрессионной генерации текста

Компактная модель семейства LLaMA на 24,8 млн параметров для экспериментов с авторегрессионной генерацией текста и языковым моделированием.

Подходит для: эксперименты с генерацией коротких текстовых продолжений · изучение обучения авторегрессионных языковых моделей · тестирование и сравнение небольших LLaMA-моделей

Небольшая английская языковая модель, обученная с нуля, для исследований предобучения и экспериментов с генерацией текста.

Подходит для: исследование предобучения малых языковых моделей · эксперименты с продолжением обучения языковой модели · генерация продолжений английского текста

Базовая модель на архитектуре Llama с 1,2 млрд параметров для автодополнения кода, продолжения текста и исследований кодовых языковых моделей.

Подходит для: автодополнение фрагментов Python · продолжение кода на других языках программирования · продолжение английского текста

Компактная LLaMA-совместимая языковая модель для локальных агентных рабочих процессов, диагностики Linux и генерации кода.

Подходит для: диагностика проблем Linux-серверов · помощь в системном администрировании и настройке инфраструктуры · генерация скриптов Bash и Python для автоматизации

Базовая причинная модель khtsly для генерации кода Luau и текста по Roblox, обученная на кодовых, документальных и общих текстовых корпусах.

Подходит для: написание скриптов для Roblox на Luau · автодополнение кода Luau · создание примеров кода по описанию задачи

Базовая разреженная MoE-модель Arcee AI для генерации текста, исследований предобучения и последующего дообучения.

Подходит для: исследование поведения языковой модели после масштабного предобучения · изучение маршрутизации и балансировки экспертов MoE · зондирование и интерпретируемость языковой модели

Базовая языковая модель Pinkstack на основе OLMo 2 для генерации Luau-кода и дальнейшей тонкой настройки, с контекстом до 32 768 токенов.

Подходит для: генерация и продолжение кода на Luau · подсказки по скриптам для Roblox · тонкая настройка базовой модели под чат-бота о Luau

Небольшая авторегрессионная модель Dynamic ALiBi для экспериментов с генерацией текста на данных BabyLM.

Подходит для: эксперименты с авторегрессионной генерацией текста · исследование компактных языковых моделей · сравнение вариантов позиционного кодирования в языковых моделях

Экспериментальная небольшая авторегрессионная модель Dynamic ALiBi для генерации продолжений текста.

Подходит для: эксперименты с генерацией текста на малых языковых моделях · сравнение вариантов Dynamic ALiBi в обучении языковых моделей · изучение чекпойнтов BabyLM по эпохам

Модель Semyaware Systems для генерации кода и помощи в разработке Roblox Luau, включая сетевую безопасность, физику и сохранение данных.

Подходит для: генерация строго типизированного кода Roblox Luau · проверка серверной обработки RemoteEvent и RemoteFunction · создание систем физики на современных ограничениях Roblox

Компактная авторегрессионная модель LLaMA примерно на 152 млн параметров для генерации текста по текстовому запросу.

Подходит для: продолжение короткого текстового фрагмента · эксперименты с компактными языковыми моделями · прототипирование генерации текста через Transformers