safetensors: формат, квантизация, runtime и память принадлежат одному artifact
safetensors: формат, квантизация, runtime и память принадлежат одному artifact
Вспомогательная модель DSpark для спекулятивного декодирования, ускоряющая генерацию целевой модели Kimi K3 в SGLang.
Подходит для: ускорение генерации текста моделью Kimi K3 в SGLang · спекулятивное декодирование с проверкой черновых токенов целевой моделью · ускорение вывода Kimi K3 на задачах программирования и математики
Текстовая MoE-модель Poolside для агентного программирования, терминальных задач и длительной работы с кодом.
Подходит для: написание и изменение кода по заданию · поиск и исправление ошибок в проекте · выполнение многошаговых задач разработки программного обеспечения
Текстовая MoE-модель Poolside для программирования, агентных задач разработки и работы с инструментами при контексте до 1 048 576 токенов.
Подходит для: генерация и редактирование программного кода · поиск и исправление ошибок в коде · ответы на вопросы по кодовой базе
Черновая модель Liquid AI для speculative decoding, ускоряющая генерацию LiquidAI/LFM2.5-8B-A1B при использовании совместимого инференс-сервера.
Подходит для: ускорение генерации текста на LFM2.5-8B-A1B через speculative decoding · снижение задержки инференса в SGLang · ускорение генерации на Apple Silicon с Metal
Вспомогательная модель-черновик Liquid AI для ускорения генерации LiquidAI/LFM2.5-2.6B с помощью speculative decoding.
Подходит для: ускорение генерации текста моделью LFM2.5-2.6B в SGLang · ускорение локального декодирования на Apple Silicon через Metal · ускорение генерации при решении математических задач
Черновая DSpark-модель для спекулятивного декодирования, ускоряющего инференс Inkling-Small NVFP4 в SGLang.
Подходит для: ускорение генерации текста целевой моделью Inkling-Small NVFP4 · спекулятивное декодирование в SGLang · ускорение генерации ответов на математические задачи
Черновая модель Liquid AI для ускорения генерации LFM2.5-1.2B-Instruct методом спекулятивного декодирования с точным сохранением результата целевой модели.
Подходит для: ускорение генерации текста моделью LFM2.5-1.2B-Instruct в SGLang · ускорение локального инференса LFM2.5 на устройствах Apple Silicon · спекулятивное декодирование для задач математики и ответов на вопросы
DSpark-модель-черновик для ускорения спекулятивного декодирования Ling-3.0-flash при генерации текста.
Подходит для: ускорение инференса Ling-3.0-flash в SGLang · ускорение генерации текста через спекулятивную проверку токенов · обслуживание Ling-3.0-flash с DSpark в llama.cpp
Мультимодальная модель Abacus.AI на базе Qwen3.8-27B для многошагового использования инструментов и автоматизации задач.
Подходит для: выполнение многошаговых задач с вызовом инструментов · автоматизация рабочих процессов через агентные сценарии · управление действиями в исполняемой среде до достижения результата
Черновая модель DSpark, которая ускоряет генерацию базовой Qwen3.8 в SGLang посредством спекулятивного декодирования.
Подходит для: ускорение генерации текста базовой моделью Qwen3.8 в SGLang · спекулятивное декодирование блоками до семи черновых токенов · ускорение генерации при решении математических задач
Гибридная MoE-языковая модель Liquid AI для быстрых локальных диалогов, извлечения данных и агентных задач на устройствах с ограниченными ресурсами.
Подходит для: ведение многоходового диалога на устройстве · извлечение полей и сведений из текста · ответы по внутренним документам в RAG-сценариях
Небольшая английская языковая модель, обученная с нуля, для исследований предобучения и экспериментов с генерацией текста.
Подходит для: исследование предобучения малых языковых моделей · эксперименты с продолжением обучения языковой модели · генерация продолжений английского текста
Компактная англоязычная модель LDT-10M демонстрирует обучение языковой модели с нуля, но генерирует связный текст лишь на коротких отрезках.
Подходит для: изучение обучения языковых моделей с нуля · эксперименты с архитектурами языковых моделей малого размера · оценка влияния малого числа параметров на связность генерации
Экспериментальная 7,1-миллиардная языковая модель Mistral для генерации текста с вмешательствами Laser в выбранные по отношению сигнал/шум слои.
Подходит для: генерация текста языковой моделью · эксперименты с вмешательством в отдельные слои Mistral · исследование отношения сигнал/шум в слоях языковой модели
Компактная гибридная LFM2.5-модель для генерации пошаговых решений STEM-задач и ответов на задачи логического вывода при локальном запуске.
Подходит для: пошаговое решение задач по линейной алгебре · объяснение задач по дифференциальным уравнениям · решение задач по электромагнетизму и классической механике
Компактная LLaMA-совместимая языковая модель для локальных агентных рабочих процессов, диагностики Linux и генерации кода.
Подходит для: диагностика проблем Linux-серверов · помощь в системном администрировании и настройке инфраструктуры · генерация скриптов Bash и Python для автоматизации
Квантованный GGUF-пакет слоёв Laguna-S-2.1 для распределённой генерации текста и локального чата на кластере Mesh LLM.
Подходит для: локальный приватный чат с языковой моделью · распределённый запуск Laguna-S-2.1 на нескольких компьютерах · обслуживание модели, не помещающейся целиком на одном узле
Черновая модель PARD на базе Llama 3.2 с 1,2 млрд параметров для ускорения генерации текста методом спекулятивного декодирования.
Подходит для: ускорение генерации ответов чат-моделью · ускорение инференса Llama в vLLM · ускорение авторегрессионной генерации в Transformers+
Процессно-супервизируемая модель вознаграждения на базе Llama 3.1 8B для оценки шагов рассуждения и отбора решений.
Подходит для: оценка промежуточных шагов математического решения · отбор лучших ответов из множества сгенерированных вариантов · оценка решений задач GSM8K и MATH
Производная модели CollectionStudio/Trinity-Large-TrueBase. Базовая разреженная MoE-модель Arcee AI для исследований предобучения, анализа поведения и последующего дообучения.
Подходит для: исследование поведения модели после масштабного предобучения · анализ маршрутизации экспертов и балансировки нагрузки в MoE · пробинг и интерпретируемость языковой модели
Черновая модель DFlash для speculative decoding с LiquidAI/LFM2.5-VL-3B в llama.cpp, предназначенная для экспериментального ускорения генерации.
Подходит для: эксперименты со speculative decoding в llama.cpp · тестирование DFlash-черновиков для LFM2.5-VL-3B · воспроизведение результатов обучения и оценки принятия черновых токенов
Базовая разреженная MoE-модель Arcee AI для генерации текста, исследований предобучения и последующего дообучения.
Подходит для: исследование поведения языковой модели после масштабного предобучения · изучение маршрутизации и балансировки экспертов MoE · зондирование и интерпретируемость языковой модели
Экспериментальная англоязычная модель семейства Llama с активацией SwiGLU для генерации текста и изучения разреженных вычислений.
Подходит для: генерация англоязычного текста · исследование разреженности активаций SwiGLU · сравнение функций активации в языковых моделях