II.2Создание и понимание программного кода

Bolt Instruct 32B — англоязычная причинно-следственная языковая модель с настройкой на выполнение инструкций от AI Squared, основанная на объединении моделей Allen Institute for AI OLMo. Вариант 32B предназначен для диалогов, рассуждений и генерации высокого качества; карточка указывает OLMo-3.1-32B-Instruct среди базовых моделей и описывает обучение семейства методом SFT, а для моделей 7B и 32B — с применением QLoRA. Модель подходит для чат-ассистентов и корпоративных сценариев: генерации структурированных ответов, извлечения сведений из документов, суммаризации, RAG и помощи с кодом. Она принимает текст и генерирует текст, поддерживает контекст до 65 536 токенов. В метаданных указана лицензия other; конкретные условия использования следует сверить с карточкой лицензии репозитория. Модель может галлюцинировать без опоры на источники, а качество зависит от размера варианта. Для задач с высокими последствиями требуется проверка человеком.

BTL-4 — языковая модель с 35 млрд параметров от Bad Theory Labs, дообученная на базе Ornith-1.0-35B на корпусе рассуждений, отобранных по успешному выполнению кода и прохождению тестов. Модель построена на архитектуре Qwen 3.5 MoE и предназначена для генерации текста в сценариях использования инструментов, разработки ПО и длительной работы агентных систем. Среди заявленных результатов — 73,5% на BFCL v4 AST, 66,1% на LiveCodeBench v6 и 78,4% на SWE-bench Verified. Модель поддерживает контекст до 262 144 токенов; для сложных задач ей требуется большой бюджет генерации. Это специализированная модель рассуждений, а не обычный чат-бот: ответы могут быть многословными, а при запуске в агентном цикле необходимо корректно отделять рассуждения от основного текста, иначе качество длительных сессий снижается. Для обслуживания README приводит пример настройки vLLM и рекомендует доверенную загрузку удалённого кода. Лицензия — Apache-2.0.

C2LLM-7B — модель CodeFuse для получения векторных представлений исходного кода и запросов к нему. Она дообучена на базе Qwen/Qwen2.5-Coder-7B-Instruct и использует архитектуру C2LLM с плотной сетью и pooling by multi-head attention (PMA), который помогает выделять значимые части кода при формировании эмбеддинга. Веса представлены в формате safetensors; размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для поиска кода по текстовому запросу, поиска похожих фрагментов кода и задач Code2Text, а также для использования в RAG-системах по программным репозиториям. В README указано обучение на 3 млн пар «запрос—документ». Поддерживаются китайский и английский языки. Лицензия — Apache-2.0.

Calcium-Opus-14B-Elite3 — диалоговая языковая модель на базе Qwen2.5-14B-Instruct, дообученная разработчиком на данных для пошагового рассуждения. Это плотная архитектура Qwen2 с 14 млрд параметров, предназначенная для генерации текста, следования инструкциям и решения многоэтапных задач, включая математику и программирование. Модель принимает текст и формирует текстовые ответы; поддерживает контекст до 131 072 токенов и, по карточке, генерацию ответов длиной более 8 тысяч токенов. Карточка заявляет поддержку более 29 языков, включая английский, русский, китайский, французский, испанский, немецкий, японский и арабский. Среди описанных сильных сторон — структурированные ответы, в том числе JSON, работа с таблицами, кодом и математическими задачами. Модель доступна в формате safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Карточка предупреждает о возможных ошибках и повторениях в длинных или творческих ответах, неодинаковом качестве между языками и отсутствии актуальных сведений о событиях после обучения; для работы с длинным контекстом нужны значительные вычислительные ресурсы.

CellSense-FIM 7B — модель генерации и дополнения кода, разработанная автором репозитория и дообученная на базе Qwen/Qwen2.5-Coder-7B на частном наборе CellSense FIM. Она предназначена для заполнения пропусков в ячейках Jupyter с учётом кода до и после курсора, соседних файлов репозитория, локальных импортов и контекста текущей задачи. Модель использует архитектуру Qwen2 для причинной генерации текста, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Для работы с контекстом репозитория рекомендуется CellSense JupyterLab Plugin, который формирует промпт в формате fill-in-the-middle; обслуживать модель можно через vLLM или совместимый API. В README приведены результаты оценки на отложенной выборке CellSense FIM, включая улучшение метрик дополнения относительно базовой модели. Заявленная лицензия — Apache-2.0. Модель ориентирована на код и сама по себе не собирает контекст проекта: для предусмотренного сценария нужен соответствующий плагин или ручное формирование промпта.

Cerium-Qwen3-R1-Dev — компактная плотная языковая модель, разработанная prithivMLmods на базе Qwen/Qwen3-0.6B и дообученная на наборах для программирования, математики и научных рассуждений, включая данные rStar-Coder и примеры трасс рассуждений DeepSeek R1. Модель содержит около 508 млн параметров, использует архитектуру Qwen3ForCausalLM и формат весов safetensors; длина контекста — до 40 960 токенов. Модель предназначена для генерации кода и объяснений, решения математических и научных задач, технического диалога и создания структурированных материалов. Она может формировать LaTeX, Markdown, JSON, CSV и YAML. Карточка заявляет поддержку нескольких языков программирования и ориентирует модель на разработчиков, преподавателей и исследователей, а метаданные указывают английский язык. Модель рассчитана на работу при ограниченных вычислительных ресурсах. Среди ограничений карточка отмечает слабую пригодность для творческого письма и обычного общения, а также то, что контекст может быть недостаточен для анализа нескольких документов или целой кодовой базы. Лицензия — Apache-2.0.

Claude Opus 4.6 — модель Anthropic, предназначенная для программирования и длительных профессиональных задач. Карточка описывает её как особенно подходящую для агентов, которые выполняют целые рабочие процессы, а не отвечают на отдельные запросы. Данных о размере, архитектуре, модальностях, языках, длине контекста и лицензии в предоставленных источниках нет. Описание не уточняет конкретные возможности и ограничения модели.

Claude Opus 4.7 — модель семейства Opus, разработанная Anthropic для длительно работающих асинхронных агентов. Она развивает возможности Claude Opus 4.6 в программировании и агентных сценариях. Доступный фрагмент карточки обрывается до описания характеристик и конкретных задач, поэтому размер, архитектуру, модальности, языки и контекст модели установить по нему нельзя.

Claude Opus 5.5 — флагманская модель Anthropic для сложных задач рассуждения, программирования и длительной агентной работы. В README указано, что она приходит на смену Claude Opus 5 и особенно сильна в многоэтапных изменениях больших кодовых баз. Метаданные каталога относят модель к задаче image-text-to-text. Доступные сведения не уточняют архитектуру, размер, модальности, языки, длину контекста или лицензию, поэтому эти характеристики нельзя описать. Модель подходит для сложных сценариев разработки и агентной работы; конкретные ограничения и условия использования в источниках не приведены.

CodeCompass-Embed — дообученная модель Faisal Mumtaz для поиска и извлечения фрагментов кода по смыслу. Она основана на Qwen2.5-Coder-0.5B, содержит 494 млн параметров и формирует векторы размерности 896. В модели использована двунаправленная attention-механика; для получения эмбеддингов поддерживаются NL→Code, Code→Code, поиск ответов на технические вопросы и Text→SQL. Модель предназначена для семантического поиска по репозиториям, базам кода и техническим коллекциям. В README указана поддержка запросов на естественном языке и кода на Python, Java, JavaScript, Go, Ruby и PHP. Метаданные указывают контекст 32 768 токенов, а карточка описывает обучение на длине 512 токенов с экстраполяцией RoPE для более длинных входов. По результатам CoIR модель показывает сильные результаты, особенно на Python. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Среди ограничений — более слабые результаты на языках программирования, отличных от Python, ухудшение на задачах соревновательного программирования с длинными решениями и возможное слабое обобщение на редкие языки программирования.

duyntnet/codegeex4-all-9b-imatrix-GGUF — набор GGUF-квантизаций модели CodeGeeX4-ALL-9B, разработанной THUDM. Это авторегрессионная языковая модель для генерации текста и кода, ориентированная на задачи программирования: ответы на вопросы о коде и компьютерах, написание исполняемого кода, объяснение решений и автодополнение. Модель поддерживает диалоговый режим с системными и пользовательскими сообщениями, а также infilling — заполнение фрагментов кода между заданными префиксом и суффиксом. Доступны варианты запуска через llama.cpp, JanAI, KoboldCPP, text-generation-webui, Ollama и GPT4All. В README указано, что исходную модель можно запускать с Transformers версий 4.39.0–4.40.2; сведения о точной архитектуре, размере контекста и поддерживаемых языках программирования не приведены. Сильными сторонами являются специализация на программировании, поддержка диалога и заполнения кода, а также наличие GGUF-квантизаций для локального запуска в совместимых приложениях. Ограничения включают отсутствие в README результатов оценки качества, требований к ресурсам и подробностей о вариантах квантизации. Лицензия обозначена как other, без дополнительных условий использования.

CodeGemma 1.1 7B IT — это инструкционно дообученная языковая модель для генерации и работы с программным кодом, разработанная Google. Данная версия опубликована в формате GGUF и квантизирована bartowski с использованием llama.cpp и метода imatrix. Размер исходной модели — 7 миллиардов параметров. Модель предназначена для сценариев, связанных с программированием, включая генерацию кода по описанию задачи; в README приведён пример создания функции на Python для вычисления числа Фибоначчи. Для работы требуется специальный формат prompt с маркерами ролей CodeGemma. Модель не поддерживает system prompt. Сведения о поддерживаемых языках программирования, естественных языках и размере контекстного окна в предоставленных данных отсутствуют. Доступно множество вариантов квантизации с разным соотношением качества и требований к памяти: от Q8_0 размером 9,07 ГБ до компактных вариантов семейства IQ и Q2. В README наиболее рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и некоторые IQ-квантизации; варианты с более низкой разрядностью экономят память, но могут заметно уступать по качеству. Модель распространяется по лицензии Gemma, условия которой указаны по ссылке Google.

CodeGemma 1.1 7b Instruct — языковая модель Google, представленная в формате GGUF. Квантизацию выполнил bartowski на базе llama.cpp. Модель создана как помощник программиста для генерации кода и решения задач разработки; в качестве примера использования указано написание функций на Python. Рекомендуемый шаблон запросов — Google Gemma Instruct с маркерами начала и конца хода диалога. Модель основана на Gemma 7B и дополнительно обучена на веб-документах, математике и исходном коде: заявлено соотношение 80% кода и 20% естественного языка. Instruct-версия дообучалась на математических наборах данных, синтетически сгенерированном коде и обратной связи от другой LLM, что должно улучшать генерацию кода и математическое рассуждение. Указан размер исходной модели 7B, а для сборки в LM Studio — около 8B параметров; поддерживаемые языки, длина контекста и точные параметры GGUF в README не указаны. Сильными сторонами модели являются специализация на программировании, локальный запуск через GGUF и небольшие заявленные улучшения генерации кода по сравнению с исходной версией CodeGemma. Ограничения включают возможные неточности, а также отсутствие в README данных о производительности, языковом покрытии, конкретном варианте квантизации и мультимодальности; модель предназначена для работы с текстом и кодом. Использование регулируется лицензией Google Gemma; для доступа к оригинальной модели на Hugging Face требуется принять условия Google.

Code Llama 13B — базовая авторегрессионная языковая модель Meta для генерации и понимания кода. Это модель с 13 млрд параметров на оптимизированной архитектуре Transformer, представленная в формате Transformers; она принимает текст и генерирует текст. Модель поддерживает автодополнение кода и заполнение пропусков в коде, но не предназначена для следования инструкциям или диалогового использования. Модель подходит для генерации фрагментов кода и помощи при редактировании программ. Она рассчитана на английский язык и языки программирования; README не приводит отдельный перечень поддерживаемых языков программирования. Модель обучена на статическом офлайн-наборе данных, а её ответы могут быть неточными или нежелательными, поэтому перед внедрением в приложение требуется проверка и настройка под конкретный сценарий. Модель разработала Meta. Использование регулируется лицензией Meta Llama 2; README указывает, что доступна специальная коммерческая лицензия, поэтому условия следует сверять с лицензионным соглашением.

Модель Damerajee представляет собой дообученную версию CodeLlama-7b-hf на наборе инструкций по программированию Python iamtarun/python_code_instructions_18k_alpaca. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров, предназначенная для генерации текста в ответ на инструкции, в том числе для задач с кодом Python. Контекст модели составляет 16 384 токена. Модель может помогать генерировать фрагменты кода и отвечать на инструкции по Python. Карточка содержит значения training loss на ранних шагах обучения, но не даёт подробных результатов оценки качества. Использование распространяется по лицензии Llama 2.

Code Llama 34B — базовая авторегрессионная языковая модель Meta для генерации и понимания кода. Это версия на 34 млрд параметров в формате Transformers с весами PyTorch и Safetensors; архитектура основана на оптимизированном трансформере. Модель принимает текст и генерирует текст, включая завершение кода. Она предназначена для коммерческого и исследовательского использования с английским языком и языками программирования. Модель подходит для автодополнения кода и адаптации под задачи синтеза и анализа программ. Эта базовая версия не предназначена специально для диалогового следования инструкциям или для Python: для таких сценариев в семействе есть отдельные варианты Instruct и Python. Модель обучена на данных Llama 2 с изменёнными весами; её ответы могут быть неточными или нежелательными, поэтому перед внедрением требуется оценка в конкретном приложении. Использование регулируется лицензией Meta Llama 2.

CodeLlama-70b-Python-hf — разработанная Meta генеративная модель для синтеза и понимания кода, специализированная на Python. Это авторегрессионный трансформер семейства Llama с плотной архитектурой и 68,7 млрд параметров; репозиторий содержит веса в форматах PyTorch и safetensors. Модель принимает текст и генерирует текст, поддерживает контекст длиной 4096 токенов. Модель подходит для автодополнения кода, генерации фрагментов Python и помощи в разборе программного кода. Она не предназначена для диалогового режима или следования инструкциям; заявленная область использования — английский язык и языки программирования. Карточка указывает, что это неофициальный репозиторий Code Llama. Использование регулируется лицензией Meta Llama 2.

Code Llama 7B — базовая авторегрессионная языковая модель Meta с оптимизированной архитектурой Transformer, предназначенная для генерации и понимания кода. Это версия на 7 млрд параметров в формате для Hugging Face Transformers; модель принимает текст и генерирует текст. Модель подходит для автодополнения кода и заполнения пропусков в коде. Она рассчитана на английский язык и языки программирования; режим следования инструкциям и чат для этой базовой версии не предусмотрены. Для специализированной работы с Python и диалогового помощника существуют отдельные варианты семейства. Модель выпущена под лицензией Meta Llama 2. Возможны неточные или нежелательные результаты, поэтому перед внедрением требуется проверка поведения в целевом сценарии.

Карточка модели EmTpro01/CodeLlama-7b-java-16bit на Hugging Face совпадает с карточкой EmTpro01/CodeLlama-7b-finetuned-16bit, поэтому описание составлено по ней. Модель EmTpro01 — дообученная версия CodeLlama-7b-hf для генерации кода по текстовым инструкциям. Она создана на базе архитектуры Llama и содержит 6,6 млрд параметров; при обучении использовались Unsloth и библиотека TRL. Для дообучения указан набор инструкций по Python-коду iamtarun/python_code_instructions_18k_alpaca. Модель принимает текст и генерирует текст, включая код; заявленный контекст — до 16 384 токенов. Модель подходит для генерации фрагментов кода Python по запросу и выполнения инструкций, связанных с программированием. В карточке указаны английский язык и лицензия Apache 2.0. Качество, точность и ограничения генерации в README не описаны; как и другие языковые модели, она может выдавать ошибочный или небезопасный код, который следует проверять.

CodeLlama-7B-KStack-clean-GGUF — это квантованная версия CodeLlama-7B-KStack-clean, разработанная на базе meta-llama/CodeLlama-7b-hf и подготовленная bartowski в формате GGUF для использования с llama.cpp. Модель дообучена на наборе JetBrains/KStack-clean и предназначена для генерации и обработки программного кода, включая задачи, связанные с Kotlin. В README указано значение pass@1 37,89 на бенчмарке MultiPL-HumanEval (Kotlin). Модель содержит 7 миллиардов параметров и поддерживает текстовую генерацию. Доступны варианты квантования от Q8_0 до низкобитных IQ1_M, что позволяет выбирать между качеством ответов, размером файла и требованиями к оперативной памяти. Наиболее качественными и рекомендуемыми названы варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_NL и IQ4_XS; более сильное сжатие снижает качество, хотя некоторые низкобитные варианты сохраняют приемлемую работоспособность. Модель подходит для локальной генерации кода и экспериментов с программированием на совместимом с llama.cpp оборудовании. Ограничениями являются неизвестный размер контекста, отсутствие явно указанного chat template и снижение качества в низкобитных вариантах квантования. В README указана лицензия Apache-2.0.

CodeLlama-7b-Python-hf — языковая модель Meta из семейства Code Llama, предназначенная для генерации и понимания кода с особым упором на Python. Это авторегрессионная плотная Transformer-модель класса LlamaForCausalLM с 6,6 млрд параметров и контекстом до 16 384 токенов. Репозиторий содержит версию для Transformers в форматах PyTorch и Safetensors. Модель принимает текст и генерирует текст. Она подходит для автодополнения кода, генерации фрагментов на Python и помощи при разборе кода. Это не instruct-версия: карточка отмечает поддержку автодополнения, но не диалогового режима и не выполнения инструкций. Основной язык применения — английский; модель специализирована на Python. Модель разработала Meta и выпустила в августе 2023 года. Использование регулируется лицензией Llama 2 от Meta; перед применением следует соблюдать условия лицензии и правила допустимого использования. Модель может выдавать неточный или нежелательный код, поэтому результаты требуют проверки и тестирования в целевом приложении.

CodeLoxa-4B — компактная языковая модель для генерации кода, представленная frameai. Это плотная авторегрессионная модель семейства Llama на 4 млрд параметров, доступная в формате safetensors и рассчитанная на работу с контекстом до 131 072 токенов. Модель поддерживает диалоговый режим и интерфейс вызова инструментов. Она предназначена для помощи в разработке: генерации шаблонного кода, рефакторинга и оптимизации существующих фрагментов, а также обучения программированию. В карточке заявлена точность 96%, но методика и набор тестов не приведены, поэтому результат следует проверять и тестировать. Метаданные указывают английский язык. Модель распространяется по проприетарной лицензии согласно README; условия следует уточнить у разработчика.

CodeMate-v0.1 — языковая модель и программный помощник, разработанный CodeMate. Она предназначена для генерации решений задач по программированию и принимает запросы в формате инструкций Alpaca/Vicuna. Модель основана на архитектуре Llama, имеет 33,5 млрд параметров и работает с контекстом до 16 384 токенов. По заявлению разработчика, модель дообучена на внутреннем наборе из 1,8 млрд токенов с задачами по программированию и решениями; поддерживает Python, C/C++, TypeScript, Java и другие языки программирования. Это версия 0.1, проверенная в ограниченном объёме. Используется лицензия Llama 2.

CodeQwen1.5-7B-GGUF — набор GGUF-квантизаций модели CodeQwen1.5-7B, разработанный Qwen и подготовленный для llama.cpp пользователем bartowski. Модель предназначена прежде всего для генерации и обработки программного кода, а также для локального текстового вывода. В README указана поддержка английского языка и формат взаимодействия с системными, пользовательскими и ассистентскими сообщениями через специальные токены ChatML. Модель содержит около 7 миллиардов параметров, представлена в многочисленных вариантах квантизации от Q8_0 до IQ1_M и имеет размеры файлов примерно от 2,36 до 7,70 ГБ. Более высокие варианты, такие как Q6_K и Q5_K_M, обеспечивают лучшее качество, тогда как низкобитные версии требуют меньше оперативной или видеопамяти, но заметно теряют в качестве. Конкретные сведения об архитектуре, размере контекста и дополнительных модальностях в README не указаны; по описанию это текстовая, а не мультимодальная модель. Преимущество набора — возможность запуска локально на различном оборудовании и выбора компромисса между качеством, скоростью и потреблением памяти. Ограничения связаны с потерями качества при сильной квантизации, а также с тем, что README не приводит результаты тестирования и подробные характеристики исходной модели. Указана лицензия Tongyi Qianwen Research License; исходная модель доступна в репозитории Qwen.

CoderO1-DeepSeekR1-Coder-14B-Preview — экспериментальная объединённая языковая модель RDson для диалоговой генерации и анализа кода. Она создана методом mergekit SCE на основе Qwen/Qwen2.5-14B с использованием Qwen/Qwen2.5-Coder-14B-Instruct и deepseek-ai/DeepSeek-R1-Distill-Qwen-14B. Модель содержит 14 млрд параметров, использует архитектуру Qwen2 и формат safetensors; нативная длина контекста — 131 072 токена. Модель предназначена для общения с пользователем при решении задач программирования, включая генерацию и анализ кода. Метаданные также отмечают интерфейс для вызова инструментов. Карточка указывает, что это предварительная версия; подробные результаты оценки качества не приведены. Лицензия в предоставленных данных не указана.

CodeSage V2 — открытая модель для представления исходного кода в виде эмбеддингов, разработанная авторами семейства CodeSage. Это энкодер на 453 млн параметров с контекстом до 2048 токенов; карточка описывает извлечение 1024-мерных эмбеддингов. Модель дообучена контрастивным обучением на парах описаний и фрагментов кода из The Stack V2 с фильтрацией данных, а её предварительно обученная основа использовала masked language modeling и деобфускацию. Модель предназначена для семантического поиска по коду и поиска кода по текстовому запросу, а также для других задач понимания исходного кода. Поддерживаются C, C#, Go, Java, JavaScript, TypeScript, PHP, Python и Ruby. Код доступен как текстовый вход, результат — векторные представления; используется через Transformers или SentenceTransformer. Модель распространяется по лицензии Apache-2.0. Карточка приводит отдельный размер энкодера 356 млн параметров, тогда как метаданные репозитория указывают 453 млн параметров.

SEBIS CodeTrans T5 Base — модель Ahmed Elnaggar и Wei Ding для генерации комментариев к функциям на Java. Она основана на T5-base и дообучена на задаче генерации описаний кода; число параметров — 123,8 млн, длина контекста — 512 токенов. Модель использует собственный словарь SentencePiece и лучше работает с токенизированными Java-функциями, хотя может принимать и нетокенизированный код. Модель подходит для автоматического создания документации и кратких описаний Java-функций, а также может служить отправной точкой для дообучения на другие задачи с Java-кодом. Доступны веса в форматах PyTorch и Flax. Лицензия в предоставленных данных не указана.

CodeTrans — модель семейства T5 для генерации комментариев к функциям и методам на Java. Её разработали Ahmed Elnaggar и Wei Ding на основе T5-base; модель прошла многозадачное обучение для задач разработки ПО, а затем дообучение на генерации комментариев к Java-коду. В репозитории указана архитектура encoder-decoder, размер по метаданным — 123,8 млн параметров, длина контекста — 512 токенов; доступны веса PyTorch и Flax. Модель принимает Java-код и генерирует его текстовое описание. Она лучше работает с токенизированными функциями, хотя README также допускает подачу нетокенизированного или непарсенного кода. Её можно дообучать для других задач с Java-кодом. Лицензия в предоставленных данных не указана.

CodeTrans — модель генерации документации для функций и методов JavaScript, разработанная Ahmed Elnaggar и Wei Ding. Она основана на архитектуре T5-base и дообучена на коде JavaScript для создания текстового описания функции. Модель содержит около 123,8 млн параметров и использует кодировщик-декодировщик с контекстом до 512 токенов. Модель рассчитана на генерацию описаний кода JavaScript и может дообучаться для других задач на JavaScript. Она принимает код как в исходном виде, так и токенизированный; по README, токенизированный код обычно даёт лучшие результаты. Для обучения использовались семь предварительных задач из области разработки ПО и отдельный набор JavaScript для дообучения. Доступны версии в форматах PyTorch и Flax. Лицензия в предоставленных данных не указана.

CodeTrans — модель, разработанная Ahmed Elnaggar и Wei Ding для автоматического создания документации к функциям на Python. Она принимает исходный код функции и генерирует её текстовое описание; также её можно дообучать для других задач работы с кодом на Python. Модель основана на архитектуре T5-base, содержит 123,8 млн параметров и обучена на корпусе Python из CodeSearchNet в режиме одной задачи. Для токенизированных функций качество обычно выше, хотя модель может работать и с исходным нетокенизированным кодом. Указанная длина контекста — 512 токенов. В карточке приведены результаты оценки генерации документации по BLEU для нескольких языков программирования, но модель специально обучалась на Python. Лицензия в предоставленных данных не указана.