/ Модель

Характеристики

Контекст
131 072 токена
Размер весов
177 ГБ
Лицензия
Llama 3.2
Архитектура
mllama · dense
Базовая модель
Llama-3.2-90B-Vision-Instruct
Библиотека
transformers
Опубликована
30 окт 2024

Llama-3.2-90B-Vision-Instruct

Изображение и текст → текст

Производная модели osllmai-community/Llama-3.2-1B. Дообученная модель Llama 3.2 с 1,2 млрд параметров для генерации текста на английском языке.

102скачиваний за 30 дней0лайковвеса обновлены24 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Карточка модели osllmai-community/Llama-3.2-90B-Vision-Instruct на Hugging Face совпадает с карточкой osllmai-community/Llama-3.2-1B, поэтому описание составлено по ней.

osllmai-community/Llama-3.2-1B — производная текстовая модель семейства Llama, опубликованная в рамках программы Community Model на osllm.ai. По данным карточки, osllm.ai не является создателем модели; автором выступает сторонний разработчик. Модель основана на meta-llama/Llama-3.2-1B и дообучена для генерации текста. Она содержит 1,2 млрд параметров, использует плотную архитектуру LlamaForCausalLM и распространяется в формате safetensors для библиотеки Transformers. Длина контекста составляет 131 072 токена.

Модель предназначена для генерации текста по текстовому запросу и может служить компактной основой для локальных приложений, работающих на подходящем оборудовании. В метаданных указан английский язык. Лицензия — Llama 3.2. Карточка не описывает конкретные данные и методы дообучения или специальные возможности модели, поэтому её качество для узких задач по этим сведениям оценить нельзя.

Сценарии применения

  • генерация текста по запросу
  • продолжение короткого текста
  • создание черновиков на английском языке

Ограничения

Карточка не приводит результатов оценки, описания данных дообучения или подтверждения пригодности для конкретных предметных задач. Модель может генерировать неточную или нежелательную информацию.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

osllm.ai Models Highlights Program

We believe there's no need to pay a token if you have a GPU on your computer.

Highlighting new and noteworthy models from the community. Join the conversation on Discord.

Email: support@osllm.ai

Disclaimers

Osllm.ai is not the creator, originator, or owner of any model featured in the Community Model Program. Each Community Model is created and provided by third parties. Osllm.ai does not endorse, support, represent, or guarantee the completeness, truthfulness, accuracy, or reliability of any Community Model. You understand that Community Models can produce content that might be offensive, harmful, inaccurate, inappropriate, or deceptive. Each Community Model is the sole responsibility of the person or entity who originated it. Osllm.ai may not monitor or control the Community Models and cannot take responsibility for them. Osllm.ai disclaims all warranties or guarantees about the accuracy, reliability, or benefits of the Community Models. Furthermore, Osllm.ai disclaims any warranty that the Community Model will meet your requirements, be secure, uninterrupted, error-free, virus-free, or that any issues will be corrected. You are solely responsible for any damage resulting from your use of or access to the Community Models, downloading of any Community Model, or use of any other Community Model provided by or through Osllm.ai.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Модель не помещается в память одной GPU (80 ГБ).

Класс архитектуры
MllamaForConditionalGeneration
Ревизия весов
03f218b

0 моделей