Англоязычная MoE-модель на основе LLaMA 2 для генерации текста с 16 экспертами, из которых активируются два.

Подходит для: генерация продолжений английского текста · эксперименты с архитектурами Mixture-of-Experts · сравнение языковых моделей в задачах генерации

Разреженная языковая MoE-модель на основе LLaMA 2 для генерации текста и экспериментов с архитектурой смеси экспертов.

Подходит для: генерация продолжений текста · исследование разреженных языковых моделей MoE · развёртывание базовой модели с активацией двух экспертов на токен

Англоязычная MoE-модель на основе LLaMA 2 для генерации текста и исследований разреженных языковых моделей.

Подходит для: генерация продолжения английского текста · эксперименты с архитектурой Mixture-of-Experts · оценка языковой модели на задачах понимания и рассуждения

Экспериментальная гибридная языковая модель на базе Llama 3.1 8B Instruct для генерации текста, требующая дальнейшего обучения.

Подходит для: эксперименты с гибридной архитектурой MLA и MoE · генерация текста в исследовательских прототипах · изучение переноса весов Llama в слои MLA и MoE

Компактная авторегрессионная модель семейства Llama для генерации текста, предварительно обученная на FineWeb.

Подходит для: эксперименты с компактными языковыми моделями · генерация коротких текстовых продолжений · изучение авторегрессионной архитектуры Llama

Исследовательская Llama-модель с динамической маршрутизацией MoE для экспериментов и генерации текста.

Подходит для: эксперименты с динамической маршрутизацией экспертов в языковых моделях · генерация текстовых продолжений · оценка поведения архитектуры смеси экспертов на задачах разной сложности

Экспериментальная MoE-модель на основе четырёх моделей Llama 3.1 8B для текстовых диалогов и ролевого общения.

Подходит для: ролевые диалоги с персонажами · генерация продолжений для интерактивных историй · свободное разговорное общение на английском

Промежуточная компактная модель семейства Llama для генерации текста и экспериментов с моделями, работающими при ограниченных вычислительных ресурсах.

Подходит для: генерация коротких текстов · эксперименты с компактными языковыми моделями · разработка приложений на базе Llama при ограниченной памяти

Чат-модель MoE на архитектуре Mixtral для генерации текста с контекстом до 131 072 токенов.

Подходит для: ведение диалога с языковой моделью · генерация ответов на текстовые запросы · использование модели в приложении с вызовом инструментов

Промежуточная 34-миллиардная MoE-модель OpenMoE для генерации текста и изучения обучения архитектуры Mixture-of-Experts.

Подходит для: изучение динамики обучения MoE-моделей · эксперименты с архитектурой Mixture-of-Experts · генерация текста в исследовательских экспериментах

Инструкционная мультимодальная модель Meta для диалогов, понимания изображений и ответов на вопросы о них.

Подходит для: диалог с ассистентом на поддерживаемых языках · ответы на вопросы по изображению · создание подписей и описаний изображений

Англоязычная чат-модель LLaMA 3 на 7,5 млрд параметров, экстраполированная методом ExPO для улучшения соответствия ответов человеческим предпочтениям.

Подходит для: генерация ответов в диалоговом чате · ответы на вопросы на английском языке · создание инструктивных текстовых ответов

Разговорная модель Llama на 7,5 млрд параметров для генерации ответов в чате с контекстом до 8192 токенов.

Подходит для: ответы на сообщения в диалоге · генерация текста по запросу пользователя · создание чат-бота на базе Llama

Экспериментальная MoE-модель семейства Llama 3 для ролевых диалогов и ERP-сценариев.

Подходит для: ролевые диалоги с персонажами · создание ответов для RP-сценариев · диалоги с эротическим содержанием для взрослых

Мультимодальная модель Cogito v2 для диалога, анализа изображений, программирования и задач STEM с режимом саморефлексии и вызовом инструментов.

Подходит для: ответы на вопросы по изображениям · помощь в написании и анализе кода · решение задач STEM с пошаговым рассуждением

Объединённая MoE-модель Mixtral на 184,9 млн параметров для генерации текста, диалоговых ответов и кода.

Подходит для: генерация продолжений текста · ответы в формате диалога · генерация кода на Python

Экспериментальная MoE-чат-модель на основе Qwen2.5-3B для генерации текста и пробного диалогового вывода на CPU через llama.cpp.

Подходит для: Проверка локального запуска чат-модели на CPU через llama.cpp · Эксперименты с разреженной архитектурой Mixture-of-Experts · Тестовая генерация коротких фрагментов текста на английском

Экспериментальная текстовая MoE-модель на базе Qwen3-0.6B для генерации текста и диалогов, не переобученная и склонная к сбоям.

Подходит для: эксперименты с архитектурой Qwen3 MoE · тестирование генерации текста на базе Qwen3 · изучение преобразования плотной модели в Mixture-of-Experts

Базовая разреженная MoE-модель Arcee AI для генерации текста, исследований предобучения и последующего дообучения.

Подходит для: исследование поведения языковой модели после масштабного предобучения · изучение маршрутизации и балансировки экспертов MoE · зондирование и интерпретируемость языковой модели

Диалоговая текстовая модель семейства Llama примерно на 7,5 млрд параметров для генерации ответов на текстовые запросы.

Подходит для: диалоговые ответы на текстовые запросы · генерация продолжения текста · создание чат-бота на базе Transformers

Экспериментальная MoE-версия инструкционной LFM2.5-350M для генерации текста и диалоговых ответов с сокращённым числом активных параметров.

Подходит для: эксперименты с разреженной маршрутизацией экспертов в языковых моделях · генерация диалоговых ответов · оценка качества сжатия инструкционной языковой модели

Крупный GGUF-пакет Qwen3.8-2.4T-A95B с SSD-backed Flash-MoE предназначен для генерации текста и диалогов в совместимом рантайме.

Подходит для: генерация ответов в диалоговом приложении · развёртывание крупной MoE-модели на Apple Silicon с SSD-хранилищем · локальный запуск текстовой модели через совместимую сборку llama.cpp

Экспериментальное преобразование модели рассуждений LiquidAI LFM2.5-1.2B-Thinking в MoE для исследований структурного прореживания и маршрутизации экспертов.

Подходит для: изучение преобразования плотной LFM2 в MoE · эксперименты с динамической маршрутизацией экспертов · сравнение качества генерации до и после структурного прореживания

Компактная модель Llama, обученная с нуля для генерации текста и экспериментов с языковыми моделями.

Подходит для: генерация продолжения текста · эксперименты с компактной авторегрессионной моделью · оценка языковой модели на бенчмарках