/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
15,2 ГБ
Лицензия
MIT
Архитектура
qwen2 · dense
Базовая модель
Marco-o1
Библиотека
transformers
Опубликована
29 ноя 2024

intelligence-cod-rag-7b-v3

Генерация текстаТекст → текст7 профессий

Слитая 7,1-миллиардная модель Qwen2 для диалоговой генерации текста и ответов с рассуждениями.

43скачиваний за 30 дней0лайковвеса обновлены2 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

  • MATH Lvl 5

    MATH Lvl 5 Raw · выше — лучше

    Результат

    0,3807

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MUSR

    MUSR Raw · выше — лучше

    Результат

    0,4153

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • IFEval

    IFEval Raw · выше — лучше

    Результат

    0,6898

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • BBH

    BBH Raw · выше — лучше

    Результат

    0,5366

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MMLU-PRO

    MMLU-PRO Raw · выше — лучше

    Результат

    0,4195

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • GPQA

    GPQA Raw · выше — лучше

    Результат

    0,2727

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ClaudioItaly/intelligence-cod-rag-7b-v3 — слитая автором ClaudioItaly языковая модель на архитектуре Qwen2 для генерации текста и диалогов. В карточке заявлены сильные навыки рассуждения и приведён пример вопроса для развёрнутого ответа; это описание не сопровождается результатами сравнительной оценки.

Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2ForCausalLM и поддерживает контекст до 32 768 токенов. Она предназначена для текстовых запросов и генерации ответов; README также упоминает варианты GGUF Q6_K и Q8_0, а в репозитории модели указаны веса safetensors. Базовые модели объединения — AIDC-AI/Marco-o1 и happzy2633/qwen2.5-7b-ins-v3.

Модель распространяется по лицензии MIT. Карточка не приводит сведений о языках обучения или оценках качества, поэтому заявленные способности к рассуждению не следует считать гарантией точности; ответы нужно проверять, особенно при использовании для RAG или фактических выводов.

Сценарии применения

  • диалоговые ответы на текстовые вопросы
  • развёрнутые ответы с рассуждениями
  • генерация текста по инструкции
  • создание ответов для прототипа RAG-системы

Ограничения

README заявляет о сильных навыках рассуждения, но не приводит результатов оценки; точность фактических ответов не гарантирована. Языки модели в карточке не перечислены.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

merge

my elaboration and fusion of the models has led to a surprising result that I want to share with you all. I recommend you try this merge of mine.

Demonstrates strong reasoning skills when asked questions or texts. It is useful for reasoning to formulate questions with this example "Question: How did the Moon arise in your opinion?

GGUF ClaudioItaly/intelligence-cod-rag-7b-v3-Q6_K-GGUF GUUF ClaudioItaly/intelligence-cod-rag-7b-v3-Q8_0-GGUF

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
2b21473

0 моделей