Небольшая языковая модель архитектуры FWKV для генерации текста.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
FWKV-29M — языковая модель семейства FWKV для генерации текста. В README архитектура FWKV описана как сочетание полносвязного блока FFNN и механизма контекста floor(W·K·V) с мультипликативным рекуррентным состоянием и обучаемым затуханием, ограниченным снизу. Метаданные указывают задачу text-generation, архитектуру FWKVLanguageModel и формат safetensors; модель связана с датасетом Salesforce/wikitext.
Автор README называет FWKV новой эффективной архитектурой, предложенной в мае 2026 года. Модель распространяется по лицензии Apache-2.0. Размер в идентификаторе — 29M, однако метаданные не содержат отдельного значения числа параметров. Сведений о поддерживаемых языках и длине контекста в предоставленных материалах нет.
В материалах не указаны поддерживаемые языки, длина контекста и результаты оценки качества; поэтому пригодность для конкретных языков и прикладных задач не подтверждена.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
FWKV (Feed-forward Weighted Key Value, or Floored Weighted Key Value) is a novel efficient language model architecture proposed on May 13, 2026 by Me.
FWKV is built on two simple ideas:
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Архитектура fwkv неизвестна transformers в образе рантайма.