/ Модель

Характеристики

Лицензия
MIT
Опубликована
26 сен 2026

Cortex-2-Code

Генерация текстаТекст → текст

Небольшая GPT-модель, обученная с нуля для генерации Python-кода и коротких фрагментов программ.

101скачиваний за 30 дней1лайквеса обновлены26 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Cortex 2 Code — небольшая авторская GPT-модель VADRK155 для генерации кода. Она обучена с нуля без предобученных весов и реализована как decoder-only Transformer на PyTorch, без библиотеки Transformers. Модель содержит 120 млн параметров, веса представлены в FP32, окно контекста — 512 токенов.

Модель предназначена для генерации Python-кода; комментарии и текстовые ответы формируются на английском языке. Её можно пробовать для небольших фрагментов кода и экспериментов с компактными языковыми моделями. Лицензия — MIT.

Из-за небольшого размера модель может генерировать ошибочный, неполный или неработающий код. Короткое контекстное окно затрудняет работу с длинными файлами и большими задачами.

Сценарии применения

  • генерация небольших фрагментов Python-кода
  • создание простых функций по текстовому запросу
  • черновые варианты кода для экспериментов
  • изучение работы компактной GPT-модели, обученной с нуля

Ограничения

Модель может выдавать ошибочный, неполный или неработающий код. Контекст ограничен 512 токенами, поэтому она плохо подходит для длинных файлов и сложных задач.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Cortex 2 Code

A small GPT model for code generation, trained completely from scratch (custom PyTorch architecture, no transformers library involved).

  • Parameters: 120m
  • Weights format: fp32
  • Architecture: Decoder-only Transformer (custom implementation)
  • Training: from scratch, no pretrained weights used
  • Language: writes Python code, all comments and output in English

⚠️ Note: the context window is only 512 tokens, so the model will forget earlier parts of the code quickly.

⚠️ Note: this is a small model for code, so don't expect great results from it — but it can be fun to try out of curiosity.

How to run

  1. Install dependencies:

pip install -r requirements.txt

  1. Run:

python chat.py

Limitations

This is a small model, so it may produce broken, incomplete, or non-functional code — expected behavior for this parameter count.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Архитектура ? неизвестна transformers в образе рантайма.

Ревизия весов
15a0de0

0 моделей