II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейМодель llama3bsftrpcelam1 — готовый к инференсу чекпойнт для генерации кода, созданный проектом RL-Forgetting-Experiments-3 на основе Meta Llama 3.2 3B Instruct. Это плотная авторегрессионная модель семейства Llama с 3,2 млрд параметров, дообученная методом supervised fine-tuning на данных для генерации кода; в README указаны упорядоченная подача данных и стратегия replay с коэффициентом 1,0 на шаге оптимизатора 65. Модель подходит для генерации и продолжения кода в диалоговом формате. Она принимает текстовые запросы и выдаёт текст, включая программный код; базовая модель имеет контекст до 131 072 токенов. В метаданных указаны Transformers и формат Safetensors. Карточка не приводит результатов оценки качества, перечня поддерживаемых языков программирования или подробных ограничений. Для базовой модели указана лицензия Llama 3.2 Community License; применимость тех же условий к этому чекпойнту следует сверить с его файлами лицензии и источниками происхождения.
John6666/llama-joycaption-beta-one-hf-llava-nf4 — квантизированная в формате NF4 версия мультимодальной Visual Language Model JoyCaption Beta One, разработанной сообществом вокруг проекта JoyCaption; исходная модель опубликована fancyfeast. Модель предназначена для автоматического создания подробных описаний изображений, в частности для подготовки датасетов и обучения или дообучения diffusion-моделей. Она поддерживает взаимодействие с изображением через текстовые инструкции и относится к семейству LLaVA, используя языковую модель Llama 3.1; точный размер модели и максимальная длина контекста в README не указаны. Пример использования предполагает генерацию до 512 новых токенов и работу в формате bfloat16 с 4-битной NF4-квантизацией. JoyCaption позиционируется как бесплатная модель с открытыми весами, минимальной фильтрацией и широким охватом визуальных стилей, тематик и типов содержимого, включая SFW- и NSFW-образы. Это делает её удобной для массового captioning и специализированных наборов данных, однако модель не гарантирует безошибочное распознавание всех деталей изображения. Для запуска требуется совместимый стек Transformers и bitsandbytes, а также GPU с достаточным объёмом памяти; README отмечает, что vLLM может быть требователен к памяти и настройкам. Лицензия явно не указана, но модель заявлена как свободно распространяемая с открытыми весами и без ограничений.
LosslessMegaCoder-llama2-7b-mini — языковая модель для генерации кода, созданная Rombodawg совместно с Andreaskopf. Это плотная авторегрессионная модель семейства Llama 2 с 6,6 млрд параметров и контекстом до 4096 токенов, распространяемая в формате PyTorch. Модель обучена на отфильтрованной версии набора LosslessMegaCodeTrainingV2_1m_Evol_Uncensored: из данных удаляли примеры короче 100 токенов. Она предназначена для генерации кода по текстовым запросам и диалогового взаимодействия с кодовым помощником; в карточке приведены результаты оценки на общих языковых бенчмарках. README характеризует её как сильную для своего размера, но не приводит подробной методики оценки качества кода. Для диалога предлагается шаблон ChatML. Лицензия — Llama 2; применяйте модель с учётом условий этой лицензии. README предупреждает, что модель не обучалась на датасете LosslessMegaCodeTrainingV3_MINI, несмотря на сходство названий.
Maincoder-1B — компактная авторегрессионная языковая модель для кода, разработанная Maincode. Она предназначена прежде всего для генерации и автодополнения кода на Python и может применяться при написании функций, прототипировании и решении задач по программированию. Модель содержит 1 млрд параметров и построена на трансформере-декодере Maincoder с 32 слоями и скрытым размером 1536. Архитектура использует RoPE, grouped-query attention, нормализацию запросов и ключей через RMSNorm и блоки SwiGLU. Контекст ограничен 2048 токенами; для запуска используется библиотека Transformers, веса доступны в формате safetensors. README сообщает о настройке обучения с помощью алгоритма MCPO и результатах на бенчмарках HumanEval, HumanEval+ и MBPP+. Модель рассчитана на локальное применение на потребительском оборудовании благодаря компактному размеру. Она оптимизирована преимущественно для Python, поэтому качество на других языках программирования может отличаться. Сгенерированный код может содержать ошибки или уязвимости, а модель не проходила настройку на безопасность. Лицензия — Apache-2.0.
Это объединённая методом TIES модель семейства Llama 3.2, созданная с помощью mergekit на базе meta-llama/Llama-3.2-1B. В объединение вошли инструкция-настроенные и специализированные варианты Llama 3.2 1B, в том числе модели для медицинских вопросов, математики, программирования, SQL, commonsense QA и китайского языка. Модель содержит 1,2 млрд параметров и предназначена для генерации текста; заявленная длина контекста — 131 072 токена. Модель может быть полезна для диалогов и ответов на вопросы, включая медицинские, математические и общеобразовательные запросы, а также для генерации SQL и кода. Состав объединения предполагает широкий набор навыков, но карточка не приводит оценок качества или сравнительных тестов. Модель распространяется в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.
TroyDoesAI/Mermaid_PythonCoder — текстовая генеративная модель на архитектуре Llama, предназначенная для ответов на запросы по программированию и генерации кода. README задаёт формат запроса с инструкцией и ожидаемым блоком кода; название указывает на специализацию на Python и Mermaid, но карточка не описывает её точнее. Модель содержит 10,6 млрд параметров, принимает текст и выдаёт текст. Контекст — до 4096 токенов. Опубликована в формате safetensors и распространяется по лицензии CC BY 4.0. Данных о базовой модели или способе её обучения в карточке нет.
stefra/modernbert-large-unical — модель архитектуры UNICAL на базе дообученного двунаправленного энкодера answerdotai/ModernBERT-large. Она принимает текстовое состояние и один или несколько утверждений и оценивает вероятность истинности каждого из них. Модель предназначена для быстрой проверки семантических условий и может служить заменой sem_filter; это классификатор, а не генеративная модель. Утверждения обрабатываются в одной последовательности с общим текстом состояния, а блочная двунаправленная маска внимания позволяет оценивать их независимо: оценка утверждения совпадает с оценкой при отдельной обработке. Для использования предусмотрены Transformers и пакет unical. В README приведены результаты проверок на нескольких наборах данных, включая задачи, не встречавшиеся при обучении; метрики различаются между наборами, поэтому качество следует проверять на целевых данных. Модель распространяется в формате safetensors; для загрузки пользовательского кода архитектуры в Transformers требуется trust_remote_code=True. Лицензия в предоставленных данных не указана.
Модель akdeniz27/modernbert-tr-base-ner — турецкая модель распознавания именованных сущностей, дообученная автором на базе ytu-ce-cosmos/modernbert-tr-base на проверенной версии турецкого датасета NER. Она использует архитектуру ModernBERT и предназначена для разметки токенов в тексте: модель выделяет персон, организации и географические объекты с тегами начала и продолжения сущности. Модель содержит 148,7 млн параметров и поддерживает контекст до 8192 токенов. Модель подходит для извлечения сведений о людях, организациях и местах из турецких текстов, например из новостей и документов. В README приведены параметры дообучения: три эпохи, learning rate 2e-5 и weight decay 0,01. Для группировки токенов в цельные сущности README рекомендует использовать параметр aggregation_strategy. Модель распространяется по лицензии MIT.
Jeevesh8/multiberts_seed_1_ft_4 — модель классификации текста на базе BERT/MultiBERTs, опубликованная пользователем Jeevesh8 и представленная на Hugging Face. Она предназначена для присвоения тексту одного или нескольких классов в прикладных NLP-конвейерах. Модель содержит около 136,7 млн параметров и поддерживает контекст до 512 токенов. В метаданных указаны Transformers, JAX и BERT; связанный с MultiBERTs первоисточник Google описывает семейство как набор BERT-моделей для английского языка, предназначенных для исследований устойчивости и последующей адаптации к задачам классификации. Основное преимущество — готовая адаптация BERT-представлений к классификационному сценарию и совместимость с экосистемой Hugging Face. Ограничения включают максимальную длину контекста 512 токенов и зависимость качества от данных и классов, использованных при дообучении; точная схема меток для этого варианта из доступных источников не установлена.
Moritz Laurer дообучил мультиязычную модель multilingual-MiniLMv2-L12 на MNLI и XNLI для вывода о логической связи между посылкой и гипотезой и классификации текста без заранее заданного набора классов. Она основана на 12-слойной архитектуре XLM-RoBERTa и содержит 124,3 млн параметров; базовую multilingual-MiniLM-L12 разработала Microsoft, дистиллировав её из XLM-RoBERTa-large. Модель принимает текст, а для классификации — также список меток-кандидатов, и выдаёт оценки классов или категорий NLI. Модель предназначена для мультиязычной классификации текста и NLI на более чем 100 языках. В карточке приведены результаты XNLI для 15 языков, включая русский: средняя точность указанной реализации — 0,75. Дистилляция делает её быстрее и менее требовательной к памяти, чем XLM-RoBERTa-large, но качество ниже, чем у более крупной модели. Контекст — до 514 токенов. Лицензия MIT.
Kukedlc разработал экспериментальную языковую модель NeuralExperiment-7b-MagicCoder-v7.5 на архитектуре Mistral с 7,1 млрд параметров. Это дообученная версия Kukedlc/NeuralExperiment-7b-dare-ties: автор обучал модель, начиная с последнего слоя, на данных по математике, программированию и логическим задачам. В метаданных указан контекст до 32 768 токенов. Модель предназначена для генерации текста, в частности для ответов на математические задачи, решения логических головоломок и генерации или понимания кода. Автор сообщает о предварительных обнадёживающих результатах на математических задачах с неочевидными условиями, но отмечает, что оценка влияния обучения ещё продолжается. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.
NousCoder-14B-Q4_K_M-layers — квантованный GGUF-чекпойнт модели для генерации кода, опубликованный пользователем exdysa. Он основан на NousCoder-14B, дообученной на базе Qwen/Qwen3-14B; в метаданных указаны llama.cpp и диалоговый режим. Модель предназначена для генерации программного кода и ответов в диалоге на запросы, связанные с программированием. Тег языка en и наборы данных для генерации кода указывают на англоязычную ориентацию. Квантование Q4_K_M рассчитано на более компактное хранение и запуск; распределённое разбиение слоёв обозначено в названии и тегах репозитория. Репозиторий распространяется по лицензии Apache-2.0. Карточка README не содержит подробностей об оценках качества или точных ограничениях; как квантованная модель, результат может отличаться от исходной версии по точности.
Olmo-3-7B-Instruct-OPSA-Code — дообученная модель семейства OLMo 3, разработанная на основе allenai/Olmo-3-7B-Instruct с применением метода On-Policy Self-Adaptation (OPSA). Это полноразмерный чекпойнт с 6,9 млрд параметров в формате BF16 Safetensors, предназначенный для генерации текста в кодовых сценариях и диалогового использования. Модель работает через Transformers и имеет контекстное окно до 65 536 токенов. Модель наследует Apache 2.0 базовой модели. В карточке указан ранний чекпойнт: шаг 119, соответствующий 120 обновлениям оптимизатора; README не приводит сравнительных результатов или подробной оценки качества кода.
balrogbob/open_llama_3b_v2-python-instruct-0.1 — дообученная balrogbob языковая модель на базе openlm-research/open_llama_3b_v2. Это плотная авторегрессионная архитектура LLaMA с 3,3 млрд параметров, предназначенная для генерации текста и выполнения инструкций, связанных с Python. Модель обучалась с использованием Unsloth и библиотеки TRL; поддерживает контекст до 8192 токенов и ориентирована на английский язык. Модель подходит для генерации и продолжения текста, а также для помощи с Python-кодом в диалоговых или инструкционных сценариях. Распространяется в формате Safetensors по лицензии Apache-2.0.
Ouro-2.6B-Thinking — языковая модель ByteDance для генерации текста с упором на рассуждения. Это дообученная версия Ouro-2.6B: модель прошла supervised fine-tuning на наборах примеров по математике, программированию, науке и диалогам. Архитектура — плотная рекуррентная OuroForCausalLM с 2,6 млрд параметров и 24 слоями; по умолчанию используются четыре рекуррентных шага. Контекст — до 65 536 токенов. Модель рассчитана на математические и научные задачи, написание и анализ кода, а также диалоговые сценарии; она может выдавать подробные шаги рассуждения. В карточке заявлены компактный размер и согласованность промежуточных рекуррентных выходов. Число шагов можно менять, выбирая компромисс между вычислительными затратами и качеством; адаптивный выход не поддерживается в vLLM. Для совместимости README указывает Transformers 4.54.1, а в разделе быстрого старта — версию 4.56.0. Разработчик предупреждает, что модель предоставляется без гарантий пригодности для промышленного использования и предназначена для исследований. Лицензия — Apache-2.0.
Phi-4-reasoning-plus — открытая по весам языковая модель Microsoft Research, дообученная на базе microsoft/phi-4 с помощью supervised fine-tuning на цепочках рассуждений и последующего обучения с подкреплением. Это плотный decoder-only Transformer семейства Phi-3 с 14,1 млрд параметров и контекстом до 32 768 токенов; модель принимает текст и генерирует текст в диалоговом формате. Модель предназначена прежде всего для рассуждений и решения задач по математике, науке и программированию, а также для использования в генеративных ИИ-приложениях с ограничениями по памяти и вычислениям. Основной язык — английский. Обучение с подкреплением повышает точность, но в среднем модель генерирует примерно на 50% больше токенов, что увеличивает задержку. Microsoft предупреждает, что модель специально разработана и оценивалась для математических рассуждений, поэтому для других применений нужно отдельно проверять точность, безопасность и справедливость ответов. Модель распространяется по лицензии MIT.
QuRater-1.3B — модель классификации последовательностей, разработанная Princeton NLP и дообученная на базе Sheared-LLaMA 1.3B. Она оценивает качество текста по четырём критериям: стиль письма, необходимый уровень экспертизы, факты и сведения, образовательная ценность. Оценки представлены четырьмя ненормализованными логитами в указанном порядке. Модель предназначена для отбора и оценки текстовых данных, например при подготовке корпусов для обучения языковых моделей. Архитектура — LLaMA с плотной структурой; число параметров — 1,3 млрд, контекст — до 4096 токенов. Однако обучение проводилось на последовательностях длиной не более 512 токенов, поэтому для длинных документов следует оценивать окна до 512 токенов и усреднять оценки с весами по длине окон. Модель опубликована в формате safetensors и распространяется по лицензии MIT. Авторы отмечают возможные смещения оценок, связанные с областями знаний, темами, социальными ролями, регионами и языками. Эти оценки не отражают социальную или литературную ценность текста и не подходят для текстологических или демографических исследований; результаты отбора данных следует проверять на смещения. Языковая поддержка в карточке не указана.
Bloodwingv2/qwen3.5-4b-super-coder-sas-v2 — модель на архитектуре Qwen3.5, созданная дообучением jica98/qwen3.5-4B-super-coder на наборе SAS2Py из 278 примеров. Она предназначена для преобразования кода SAS в Python: на вход подаются инструкция и фрагмент SAS-кода, а модель продолжает ответ кодом Python. Модель содержит 3,4 млрд параметров, работает через Transformers и принимает контекст длиной до 262 144 токенов. Модель подходит для переноса аналитических скриптов SAS в Python и помощи при миграции кода. README описывает узкую настройку на небольшом наборе примеров; качество на других задачах программирования или сложных и нестандартных сценариях не подтверждено. Файлы опубликованы в формате safetensors. Сведения о лицензии в предоставленных данных отсутствуют.
DavidAU/Qwen3-Zero-Coder-Reasoning-V2-0.8B — объединённая модель для генерации кода и рассуждений на основе семейства Qwen3. В README автор описывает её как универсального помощника по программированию: она создаёт черновики кода, помогает обсуждать идеи и решать сложные многошаговые задачи. Метаданные указывают архитектуру Qwen3ForCausalLM, около 684 млн параметров, контекст до 40 960 токенов и поддержку диалогового режима и интерфейса вызова инструментов. Модель принимает текстовые запросы и генерирует текст, включая код и поясняющие рассуждения. Карточка указывает английский язык; специальная область применения — программирование. В репозитории представлены веса Safetensors, а README также описывает варианты GGUF с разными уровнями квантования и обработкой imatrix. По словам автора, скорость и качество зависят от формата и квантизации; иногда модель повторяет блоки кода или рассуждений и может отвлекаться от задачи. Лицензия — Apache-2.0.
ReflectionCoder-CL-34B — языковая модель для генерации кода, разработанная авторами проекта ReflectionCoder. Подход ReflectionCoder использует последовательности рефлексии, сформированные с учётом обратной связи компилятора, чтобы улучшать генерацию кода за один проход. Модель основана на плотной архитектуре LlamaForCausalLM и содержит 33,5 млрд параметров; поддерживает контекст до 16 384 токенов и доступна в формате safetensors. Модель предназначена для генерации кода по запросу и работы в диалоговом формате. В README приведены результаты HumanEval и MBPP, а также пример использования через Transformers. Метаданные указывают английский язык и лицензию Apache-2.0; при этом README сообщает о лицензии Llama 2 для варианта CL-34B, поэтому условия распространения следует сверить с файлами репозитория и лицензиями базовой модели.
teknium/Replit-v1-CodeInstruct-3B — языковая модель для генерации кода и выполнения инструкций, разработанная Teknium на основе Replit Code v1. Это плотная авторегрессионная модель семейства MPT с архитектурой MPTForCausalLM, дообученная на наборах CodeAlpaca и GPTeacher Code-Instruct примерно на 25 тысячах пар «инструкция — ответ» в формате Alpaca. Модель принимает текстовые инструкции и выдаёт текст, в том числе код. Карточка описывает сценарии работы с инструкциями по программированию; сведения о поддерживаемых языках программирования и длине контекста не приведены. Модель подходит для генерации фрагментов кода по запросу и ответов на вопросы о программировании. Для загрузки README указывает необходимость trust_remote_code=True и предупреждает о проблемах с device="auto". Репозиторий содержит веса PyTorch. Лицензия — CC BY-SA 4.0.
ruT5-ASR — русскоязычная модель коррекции распознанной речи, обученная bond005 на основе ruT5-base. Она исправляет ошибки в тексте, полученном системами автоматического распознавания речи, в частности Wav2Vec2-Large-Ru-Golos, и может работать как отдельная модель преобразования последовательностей: на вход получает черновую транскрипцию и возвращает исправленный текст. Модель построена на архитектуре T5, содержит 123,8 млн параметров и имеет контекст до 512 токенов. Она обучалась на обучающей части набора SberDevices Golos; оценивалась на тестовых частях Golos, русской части Common Voice 6.0 и Russian Librispeech. В приведённом сравнении эффект коррекции различается по наборам данных: на SOVA RuDevices ошибка снизилась, а на Voxforge Ru и Russian Librispeech выросла. Модель предназначена для работы с русскими транскрипциями и не распознаёт аудио напрямую. Распространяется в формате PyTorch по лицензии Apache-2.0.
mrm8488/santacoder-finetuned-the-stack-bash-shell — модель генерации кода, дообученная на bash- и shell-скриптах на основе BigCode/SantaCoder. Базовая SantaCoder — плотная GPT-2-подобная модель на 1,1 млрд параметров с Multi Query Attention и обучением по Fill-in-the-Middle; в метаданных указаны библиотека Transformers и формат PyTorch. Контекст составляет 2048 токенов. Модель предназначена для генерации и продолжения фрагментов bash/shell-кода по текстовому или кодовому контексту. Предобучение SantaCoder использовало код на Python, Java и JavaScript, а дообучение этой версии — набор The Stack с bash/shell-скриптами; исходный код преимущественно на английском. На оценочном наборе указана функция потерь 1,2272. Сгенерированный код может содержать ошибки, быть неэффективным или небезопасным. Лицензия — OpenRAIL.
sentence-IT5-small — модель на базе архитектуры IT5/T5-small, опубликованная efederici. Она преобразует предложения и абзацы в плотные векторы размерностью 512 и обучена для асимметричного семантического поиска: запросом служит ключевое слово, а документом — короткая новостная статья. Векторы можно использовать для поиска подходящих документов и кластеризации текстов. Модель предназначена для итальянского языка и реализована на PyTorch. Для работы через Sentence-Transformers достаточно получить эмбеддинги текстов; при использовании Transformers требуется применить подходящую операцию pooling к контекстным представлениям токенов. Веса содержат около 45,8 млн параметров. Лицензия в предоставленных данных не указана.
SentiCSE — модель на базе RoBERTa-base, разработанная DILAB-HYU и дообученная для задач анализа тональности на датасете MR. Она предназначена для анализа английских текстов и представления их в виде эмбеддингов: пример в карточке показывает, что модель оценивает косинусное сходство между отзывами и предложениями о ресторане. Архитектура RoBERTa содержит около 151,8 млн параметров; заявленная длина контекста — 514 токенов. Модель может применяться для определения тональности текста и сравнения отзывов по смысловой близости. В метаданных также перечислены датасеты Rotten Tomatoes, SST-2, Amazon Polarity, IMDB и Yelp Polarity. Доступны веса в формате PyTorch. Лицензия в предоставленных данных не указана.
ivlcic/sour-sarma — модель распознавания именованных сущностей для славянских языков, дообученная на базе jhu-clsp/mmBERT-base. Она использует архитектуру ModernBERT с 306,9 млн параметров и контекстом до 8192 токенов. Модель предназначена для разметки токенов и выделения сущностей в тексте; обучение проводилось на корпусах для NER, включая SUK, BSNLP, hr500k, SETimes.SR и WikiAnn. Модель охватывает словенский, хорватский, сербский, боснийский, македонский, албанский, чешский, болгарский, польский, русский, словацкий и украинский языки. В README указано, что она показывает текущий лучший результат на Slobench NER. Для неё заявлена лицензия Apache-2.0. При использовании следует учитывать, что разметка подслов повторяет метку соответствующего слова, поэтому стандартный конвейер может требовать особой обработки.
tomaarsen разработал SpanMarker на базе энкодера bert-base-cased для распознавания именованных сущностей. Модель обучена на FewNERD, CoNLL2003 и OntoNotes v5 и предназначена для обнаружения организаций (ORG) в англоязычном тексте. Она принимает последовательности длиной до 256 токенов и распознаёт сущности длиной до 8 слов. Для класса ORG указаны precision 0,7958, recall 0,7936 и F1 0,7947. Модель можно применять для извлечения названий компаний, учреждений и других организаций из предложений и документов, а также дообучать на собственных данных. Лицензия — CC BY-SA 4.0.
Speaker diarization 3.1 — открытый конвейер проекта pyannote, предназначенный для автоматической диаризации речи: определения участков речи, разделения говорящих и фиксации того, кто и когда говорит. Он также связан с задачами voice activity detection, обнаружения смены говорящего и перекрывающейся речи, поэтому подходит для обработки записей встреч, интервью, подкастов и других многоголосых аудиофайлов. Результат возвращается в виде объекта Annotation и может быть сохранён в формате RTTM. Конвейер принимает монофонический звук с частотой 16 кГц; стерео- и многоканальные записи автоматически сводятся к моно, а записи с другой частотой дискретизации пересчитываются до 16 кГц. В отличие от версии 3.0, сегментация и построение speaker embeddings выполняются полностью в PyTorch без problematic-зависимости onnxruntime, что должно упростить развёртывание и потенциально ускорить инференс. Для работы требуется pyannote.audio версии 3.1 или выше, а запуск возможен на CPU или GPU. Обработка выполняется автоматически, без ручной разметки voice activity и без обязательного предварительного указания числа говорящих, хотя можно задать точное число либо минимальную и максимальную границы. Ограничения включают необходимость принятия условий доступа к зависимым моделям pyannote и наличия Hugging Face access token; конкретные языки, размер внутренних моделей и максимальная длина контекста в README не указаны. Модель распространяется по лицензии MIT, однако для использования требуется выполнение условий gated-доступа к компонентам pyannote.
Stable Code Instruct 3B — языковая модель для генерации текста и программного кода, разработанная Stability AI. Представленная версия распространяется в формате GGUF и была квантована bartowski на основе llama.cpp. Модель создана для диалоговой помощи в программировании, автодополнения кода, генерации SQL-запросов и объяснения решений. Она подходит для лёгких сценариев разработки, где важны небольшие требования к ресурсам и высокая скорость работы. Модель содержит около 3 миллиардов параметров и основана на Stable Code 3B, дополнительно обученной с использованием Direct Preference Optimization (DPO). Это causal language model с поддержкой текстового ввода и вывода; заявлен английский язык. Для взаимодействия в LM Studio рекомендуется шаблон ChatML и указанный системный промпт. В README не приведены сведения о размере контекста и полном перечне поддерживаемых языков программирования, однако приведены результаты MultiPL-E для Python, C++, Java, JavaScript, PHP и Rust: pass@1 составляет от 23,0 до 32,4, причём эти показатели не были верифицированы. Сильными сторонами модели являются специализация на коде и SQL, компактный размер, высокая потенциальная скорость и наличие инструкционного и conversational-тюнинга. Ограничения включают сравнительно небольшой размер, что может снижать качество на сложных задачах, а также непроверенные опубликованные метрики. Модель предназначена прежде всего для локального использования и лёгких задач программирования. В карточке указана лицензия other; конкретные условия лицензии не раскрыты.
Карточка модели Artificial-Production-Units/starcoder2-15b на Hugging Face совпадает с карточкой bigcode/starcoder2-15b, поэтому описание составлено по ней. StarCoder2-15B — плотная авторегрессионная модель генерации кода, разработанная проектом BigCode. Она обучена на более чем 4 триллионах токенов из The Stack v2 и других источников, охватывая более 600 языков программирования. Модель использует архитектуру Transformer decoder с Grouped Query Attention и скользящим вниманием; контекстное окно составляет 16 384 токена, область скользящего внимания — 4 096 токенов. В метаданных указано 21,7 млрд параметров. Модель предназначена для продолжения и дополнения кода, в том числе по Fill-in-the-Middle: она может генерировать фрагменты с учётом окружающего кода. Это не instruction-модель, поэтому запросы на естественном языке вроде просьбы написать функцию могут работать хуже, чем продолжение кода по заданному контексту. Модель обучена преимущественно на коде, а английский преобладает среди естественных языков обучающих данных. Сгенерированный код может содержать ошибки, быть неэффективным или небезопасным и не гарантированно соответствует задаче. Модель способна воспроизводить фрагменты исходного кода из обучающих данных, поэтому перед использованием результата следует учитывать лицензию исходного кода и требования атрибуции. Лицензия модели — BigCode OpenRAIL-M.