Описание составлено по карточке модели и метаданным Hugging Face
Falcon3-MoE-2x7B-Instruct — инструктивная языковая модель с архитектурой Mixture of Experts, созданная объединением двух моделей Falcon3-7B-Instruct. В README заявлено 13,4 млрд параметров и формат BF16; метаданные указывают 7,1 млрд параметров. Модель основана на Falcon3-7B-Instruct от TII, а репозиторий содержит веса в формате safetensors.
Модель предназначена для диалогов и генерации ответов по инструкциям. Базовая Falcon3-7B-Instruct рассчитана на задачи понимания языка, следования инструкциям, рассуждений, программирования и математики; контекст составляет до 32 768 токенов. В карточке для базовой модели перечислены английский, французский, испанский и португальский языки. Метаданные также отмечают интерфейс для вызова инструментов.
Лицензия указана как other, поэтому конкретные условия использования следует уточнять в репозитории. Описание не содержит отдельных оценок качества или ограничений для MoE-версии; заявленные возможности базовой модели не следует считать подтверждёнными сравнительными результатами этой сборки.
Сценарии применения
ответы на вопросы в диалоге
выполнение текстовых инструкций
объяснение и рассуждение по тексту
помощь с программированием
решение математических задач
Ограничения
README указывает 13,4 млрд параметров, тогда как метаданные — 7,1 млрд, поэтому размер этой сборки описан противоречиво. Лицензия обозначена как other, а отдельные оценки качества и подтверждённый набор возможностей самой MoE-сборки не приведены.
Для каких профессий подходит15
Разделы каталога профессий, в задачах которых используется эта модель
Falcon3 family of Open Foundation Models is a set of pretrained and instruct LLMs ranging from 1B to 10B.
This repository contains the Falcon3-7B-Instruct. It achieves state of art results (at the time of release) on reasoning, language understanding, instruction following, code and mathematics tasks. Falcon3-7B-Instruct supports 4 languages (english, french, spanish, portuguese) and a context length up to 32K.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров