/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
30,5 ГБ
Лицензия
Apache 2.0
Архитектура
qwen2 · dense
Библиотека
transformers
Опубликована
31 дек 2024

Qwen2.5-Coder-Scholar-7B-Abliterated-MFANN

Генерация текстаТекст → текст7 профессий

Дообученная на MFANN модель Qwen2.5-Coder на 7,1 млрд параметров для диалоговой генерации текста и задач, связанных с кодом.

53скачиваний за 30 дней2лайкавеса обновлены2 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

  • IFEval

    IFEval Raw · выше — лучше

    Результат

    0,5742

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • MMLU-PRO

    MMLU-PRO Raw · выше — лучше

    Результат

    0,3157

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • MATH Lvl 5

    MATH Lvl 5 Raw · выше — лучше

    Результат

    0,2568

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • MUSR

    MUSR Raw · выше — лучше

    Результат

    0,4058

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • BBH

    BBH Raw · выше — лучше

    Результат

    0,5071

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • GPQA

    GPQA Raw · выше — лучше

    Результат

    0,2928

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

netcat420/Qwen2.5-Coder-Scholar-7B-Abliterated-MFANN — дообученная разговорная модель семейства Qwen2.5-Coder, созданная автором репозитория netcat420 на основе instruct-варианта. По README, модель обучали на датасете MFANN в течение 18 000 шагов и 52 эпох; архитектура — плотная причинная языковая модель Qwen2 с 7,1 млрд параметров и контекстом до 32 768 токенов.

Модель предназначена для генерации текста в диалоговом формате и ориентирована на задачи, связанные с кодом и материалами MFANN. В метаданных также отмечен интерфейс вызова инструментов. Карточка не уточняет качество на отдельных задачах или конкретные сценарии применения MFANN.

Модель принимает текст и генерирует текст. В метаданных указан английский язык. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0. README характеризует модель как abliterated, но не описывает методику и последствия этого изменения; качество и поведение следует оценивать на целевых задачах.

Сценарии применения

  • генерация кода в диалоге
  • ответы на вопросы по материалам датасета MFANN
  • помощь с программированием на английском языке
  • подключение языковой модели к инструментам через интерфейс вызова инструментов

Ограничения

README не приводит результаты оценок качества и не уточняет, какие именно задачи покрывает MFANN. Методика и последствия abliterated-модификации не описаны.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Abliterated Qwen2.5 coder instruct fine-tuned on the MFANN dataset for 18,000 steps and 52 epochs.

check out the base model repo and give the original model author credit! https://huggingface.co/huihui-ai/Qwen2.5-Coder-7B-Instruct-abliterated

if you enjoy my work, please feel free to support me on my patreon here: https://patreon.com/MakhiBurroughs

system prompt (GPT4ALL):

{{- '<|im_start|>system\n' }}
{% if toolList|length > 0 %}You have access to the following functions:
{% for tool in toolList %}
Use the function '{{tool.function}}' to: '{{tool.description}}'
{% if tool.parameters|length > 0 %}
parameters:
{% for info in tool.parameters %}
  {{info.name}}:
    type: {{info.type}}
    description: {{info.description}}
    required: {{info.required}}
{% endfor %}
{% endif %}
# Tool Instructions
If you CHOOSE to call this function ONLY reply with the following format:
'{{tool.symbolicFormat}}'
Here is an example. If the user says, '{{tool.examplePrompt}}', then you reply
'{{tool.exampleCall}}'
After the result you might reply with, '{{tool.exampleReply}}'
{% endfor %}
You MUST include both the start and end tags when you use a function.

You are a helpful AI assistant who uses the functions to break down, analyze, perform, and verify complex reasoning tasks. You SHOULD try to verify your answers using the functions where possible.
{% endif %}
{{- '<|im_end|>\n' }}
{% for message in messages %}
{{'<|im_start|>' + message['role'] + '\n' + message['content'] + '<|im_end|>' + '\n' }}
{% endfor %}
{% if add_generation_prompt %}
{{ '<|im_start|>assistant\n' }}
{% endif %}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
8bfe28a

0 моделей