Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
mkurman представил LFM2.5-2.6B-MedIT-Mesh — экспериментальный вариант языковой модели LiquidAI LFM2.5-2.6B, полученный методом MedIT Mesh. В README этот метод описан как способ повысить качество модели, анализируя её веса без требований к данным и вычислениям, характерных для традиционного дообучения. Архитектура — плотная LFM2 для генерации текста; размер составляет 2,6 млрд параметров, а длина контекста — 128 000 токенов.
Модель предназначена для диалоговой генерации текста и может подойти для экспериментов с ответами на вопросы и выполнением инструкций. В README приведены результаты оценок на GPQA-diamond и IFBench: показатели выше исходной модели на 0,015 и 0,023 соответственно. Метаданные перечисляют поддержку арабского, китайского, английского, французского, немецкого, хинди, индонезийского, итальянского, японского, корейского, польского, португальского, русского, испанского, тайского и вьетнамского языков. Лицензия обозначена как other; конкретные условия использования в доступных данных не раскрыты.
Сценарии применения
эксперименты с ответами на сложные научные вопросы
проверка следования инструкциям
диалоговая генерация текста
оценка методов улучшения языковых моделей по весам
Ограничения
README приводит оценки только на GPQA-diamond и IFBench; этих результатов недостаточно, чтобы судить о качестве на других задачах. Указана лицензия other, но её конкретные условия в доступных данных не описаны.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
This is the result of an experimental technique called "MedIT Mesh", which is a method for improving the performance of large language models without the data and compute requirements of traditional fine-tuning, by looking only at the model's weights.
I evaluated it on GPQA-diamond +0.015 (0.485 vs 0.470) and IFBench +0.023 (0.620 vs 0.597).
Settings:
harness: prime eval
generation:
temperature: 0.1
max seq: 16384
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров