safetensors: формат, квантизация, runtime и память принадлежат одному artifact
safetensors: формат, квантизация, runtime и память принадлежат одному artifact
Вспомогательная модель NVIDIA для спекулятивного декодирования Kimi-K2.6, ускоряющая генерацию текста в чат-ботах, агентных системах и RAG-приложениях.
Подходит для: ускорение генерации ответов чат-бота на Kimi-K2.6 · снижение задержки генерации в агентной системе · ускорение ответов на вопросы по внутренним документам через RAG
GLiNER2 Small — компактная англоязычная модель для извлечения сущностей по заданным пользователем типам без отдельного обучения.
Подходит для: извлечение именованных сущностей из англоязычных документов · поиск заданных типов сущностей по пользовательской схеме · предварительная фильтрация документов по сущностям
Производная модели amd/PARD-Llama-3.2-1B. Черновая модель PARD на базе Llama 3.2 с 1,2 млрд параметров для ускорения генерации текста методом спекулятивного декодирования.
Подходит для: ускорение генерации ответов чат-моделью · ускорение инференса Llama в vLLM · ускорение авторегрессионной генерации в Transformers+
Производная модели arcee-ai/Trinity-Nano-Base-Pre-Anneal. Базовая модель Arcee AI на 6 млрд параметров с архитектурой MoE, предназначенная для дальнейшего дообучения под специализированные задачи генерации текста.
Подходит для: дообучение языковой модели под внутренние документы компании · адаптация модели для специализированного текстового ассистента · создание предметной модели генерации текста
Экспериментальная англоязычная чат-модель на 3 млрд параметров для генерации ответов на инструкции и исследований выравнивания поведения с ценностной персоной.
Подходит для: ответы на инструкции в англоязычном чате · исследование конституционного выравнивания LLM · изучение обобщения заданных ценностей моделью
Диалоговая модель Llama на 6,6 млрд параметров для образовательного чат-бота и тьюторинга.
Подходит для: ответы учащимся в образовательном чат-боте · объяснение учебных тем в диалоге · поддержка персонализированного тьюторинга
Компактная диалоговая Llama-модель для исследований Synthetic Persona Pretraining, конституционного выравнивания и устойчивости к jailbreak-запросам.
Подходит для: изучение конституционного выравнивания языковых моделей · исследование обобщения ценностей при генерации ответов · оценка устойчивости диалоговой модели к jailbreak-запросам
SPP-T0 — англоязычная инструктивная модель на 1,7 млрд параметров для исследований согласования поведения и устойчивости к jailbreak-запросам.
Подходит для: эксперименты с конституционным согласованием поведения · изучение обобщения ценностей в ответах модели · оценка устойчивости диалоговой модели к jailbreak-запросам
SPP-T0 Instruct — англоязычная модель Llama на 3 млрд параметров для диалогов и исследований выравнивания поведения с обучением Synthetic Persona Pretraining.
Подходит для: исследование конституционного выравнивания языковых моделей · сравнение вариантов обучения с разной долей примеров безопасности · изучение обобщения ценностей в диалоговых ответах
GPT-6 Sol — высокопроизводительная модель OpenAI для сложных профессиональных задач, отнесённая каталогом к обработке изображений и текста.
Подходит для: решение сложных профессиональных задач