gpt-oss-120b
Run with https://llama.app
llama serve -hf ggml-org/gpt-oss-120b-GGUF
Source models
TODOs
- add info
[!IMPORTANT] This model is automatically converted using https://github.com/ggml-org/convert
ggml-org/gpt-oss-120b-GGUF — квантизированная модель для генерации текста в формате GGUF, разработанная на основе openai/gpt-oss-120b.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Репозиторий опубликован организацией ggml-org; указанные исходные модели связаны также с nvidia/gpt-oss-120b-Eagle3-v3. Модель предназначена для запуска и использования в инструментах, совместимых с GGUF, включая llama.app.
Ключевая известная характеристика модели — размер базовой модели 120B параметров и квантованный формат представления, который может снизить требования к ресурсам по сравнению с полноразмерной версией. README не содержит сведений об архитектуре, поддерживаемых языках, модальностях и размере контекстного окна, поэтому эти параметры нельзя надежно определить.
Модель автоматически преобразована с помощью инструментария ggml-org/convert. Это делает её удобной для локального запуска через совместимое программное обеспечение, однако конкретные требования к памяти, производительность и характеристики квантования в README не указаны. Лицензия — Apache-2.0.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Run with https://llama.app
llama serve -hf ggml-org/gpt-oss-120b-GGUF
[!IMPORTANT] This model is automatically converted using https://github.com/ggml-org/convert
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.