Дистиллированная модель Llama с 6,6 млрд параметров для генерации ответов на текстовые запросы и экспериментов с инструктивными моделями.

Подходит для: генерация ответов на английские инструкции · эксперименты с дистилляцией языковых моделей · оценка качества ответов на запросы из наборов инструкций

Компактная языковая модель MiniLLM на архитектуре Qwen2 для генерации текста и диалогов, обученная с нуля методом дистилляции MiniPLM.

Подходит для: генерация продолжений текста на английском языке · создание диалогового помощника на базе небольшой языковой модели · эксперименты с дистилляцией знаний для языковых моделей

Компактная авторегрессионная модель семейства Llama для генерации текста, предварительно обученная на FineWeb.

Подходит для: эксперименты с компактными языковыми моделями · генерация коротких текстовых продолжений · изучение авторегрессионной архитектуры Llama

Компактная трёхслойная модель MiniLM для извлечения векторных представлений текста.

Подходит для: получение эмбеддингов текстов · подготовка признаков для семантического поиска · представление текста для последующей классификации

Англоязычный энкодер предложений, создающий семантические векторы для поиска, сравнения и кластеризации текстов.

Подходит для: семантический поиск по коротким текстам · поиск похожих предложений и абзацев · кластеризация текстов по смыслу

Промежуточная компактная модель семейства Llama для генерации текста и экспериментов с моделями, работающими при ограниченных вычислительных ресурсах.

Подходит для: генерация коротких текстов · эксперименты с компактными языковыми моделями · разработка приложений на базе Llama при ограниченной памяти

Компактная шестислойная модель MiniLM извлекает контекстные признаки из текста для NLP-задач.

Подходит для: извлечение признаков из текстовых последовательностей · получение контекстных представлений для поиска · подготовка текстовых признаков для классификации

onnx: формат, квантизация, runtime и память принадлежат одному artifact

Экспериментальная компактная модель Llama для генерации коротких историй и изучения обучения языковых моделей.

Подходит для: генерация коротких детских историй · эксперименты с обучением компактной языковой модели · демонстрация причинной генерации текста

MiniLMv2 — компактная дистиллированная модель семейства BERT для восстановления пропущенных токенов в тексте.

Подходит для: восстановление пропущенных слов в предложениях · предсказание вариантов заполнения текста · получение контекстных представлений токенов

Промежуточный чекпойнт компактной модели TinyLlama на 1,1 млрд параметров для генерации текста и экспериментов с языковыми моделями.

Подходит для: эксперименты с обучением компактных языковых моделей · изучение поведения Llama-моделей на промежуточных этапах предобучения · тестирование генерации текста при ограниченных вычислительных ресурсах

Базовая компактная языковая модель MiniCPM5 для локального запуска и дальнейшего дообучения, с контекстом до 131 072 токенов.

Подходит для: дальнейшее дообучение языковой модели · эксперименты с компактными причинными Transformer-моделями · создание локального текстового ассистента после адаптации

Компактная базовая языковая модель MinimaLabs для генерации текста с выбором вычислительной глубины через уровни effort.

Подходит для: эксперименты с архитектурами очень малых языковых моделей · быстрое автодополнение короткого текста · сравнение качества генерации при разных уровнях вычислений

Компактная языковая модель OpenBMB для локальных ассистентов, кода, рассуждений, длинного контекста и сценариев с вызовом инструментов.

Подходит для: создание локального текстового ассистента · генерация и разбор программного кода · решение математических задач

Компактная модель семейства LLaMA для генерации текста, представленная как тестовый вариант.

Подходит для: проверка запуска генерации текста через Transformers · эксперименты с небольшими причинными языковыми моделями · тестирование интеграции с сервером текстовой генерации

Компактная модель семейства LLaMA 3.1 для генерации английского текста, предобученная с нуля с дистилляцией знаний от Qwen1.5-1.8B.

Подходит для: генерация продолжений английского текста · эксперименты с компактными языковыми моделями · изучение дистилляции знаний между семействами моделей

Компактная чат-модель TinyLlama на 1 млрд параметров для генерации текста и диалоговых ответов с оптимизацией для NM-vLLM.

Подходит для: локальный чат-бот на малоресурсном сервере · генерация коротких текстовых ответов · диалоговый интерфейс для приложений

Экспериментальная дообученная MiniCPM5-2B для генерации текста и диалогов, чьи измеренные показатели близки к официальной базовой модели.

Подходит для: генерация ответов в чат-ассистенте · ведение текстового диалога · локальный запуск компактной языковой модели

Черновая модель EAGLE3 для ускорения генерации MiniMax-M3 методом спекулятивного декодирования через vLLM.

Подходит для: ускорение диалоговой генерации MiniMax-M3 · ускорение решения математических задач моделью MiniMax-M3 · ускорение генерации кода MiniMax-M3

Компактная авторегрессионная LLaMA-подобная модель BabyLM для генерации текста и исследований малых языковых моделей.

Подходит для: генерация коротких продолжений текста · эксперименты с маломасштабным предварительным обучением · исследование sample-efficient обучения языковых моделей

Компактная англоязычная GPT-2-модель, дистиллированная для генерации ответов и продолжения текста по промпту.

Подходит для: генерация ответов на англоязычные инструкции · создание коротких диалоговых ответов · продолжение текста по англоязычному промпту

Компактная англоязычная инструкционная модель RRT для чатовых прототипов и экспериментов с малыми языковыми моделями.

Подходит для: создание локального чат-прототипа с ограниченной памятью · эксперименты с рекуррентным разделением параметров трансформера · тестирование небольших моделей на следование инструкциям

Небольшая текстовая MoE-модель Mini-K3 для исследований предобучения и сравнения архитектур генерации текста.

Подходит для: эксперименты с предобучением языковых моделей · сравнение архитектур KDA и Gated MLA · генерация продолжения текста

Англоязычная модель на базе GPT-2 medium для генерации текста и ответов по инструкциям, созданная с применением дистилляции.

Подходит для: генерация ответов на инструкции на английском языке · продолжение английского текста · эксперименты с дистилляцией языковых моделей