II.8Инженерия данных и аналитика

Это модель классификации текста на основе DistilBERT, дообученная на наборе данных emotion для распознавания эмоций в тексте. Она подходит для автоматической разметки эмоциональной окраски коротких текстов, например сообщений и отзывов. По результатам оценки на тестовом наборе модель показала accuracy 0,9385 и F1 0,9382. Модель использует архитектуру DistilBertForSequenceClassification, принимает текст и выдаёт класс эмоции. Максимальная длина контекста — 512 токенов. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0. Карточка не уточняет набор классов эмоций и не описывает ограничения модели.

Это дообученная модель серии Dynamic Topic Modeling, разработанная Aman Priyanshu на основе Unsloth/Llama-3.2-1B-bnb-4bit. Она предназначена для генерации иерархических тем по тексту в формате «область > общая тема > конкретная тема». Модель построена на архитектуре Llama 3.2 с 1,2 млрд параметров и контекстным окном до 131 072 токенов по метаданным. Для обучения использовали 100 000 документов из подвыборки RedPajama-1T с аннотациями тем трёх уровней; в описании обучения указана длина последовательности 2048 токенов. Модель ориентирована на английский язык и работает с текстом, выдавая текстовую классификацию тем. Её можно применять для тематической разметки документов и построения иерархии тем в коллекциях текстов. Карточка приводит значение loss 2,3959, но не содержит сравнительной оценки качества на независимом тестовом наборе. Условия лицензии в предоставленных данных не приведены.

E1-AceReason-14B — языковая модель Salesforce на 14 млрд параметров, дообученная на базе NVIDIA AceReason-Nemotron-14B. Модель использует плотную архитектуру Qwen2 и предназначена для генерации текста и адаптивных рассуждений при ограниченном бюджете токенов: обучение направлено на сохранение способности решать задачу, даже если цепочка рассуждений обрывается, и на обобщение на новые ограничения без дополнительного обучения. Модель подходит для математических задач, задач программирования и генерации кода в диалоговом режиме. В README приведены результаты на AIME24 и LiveCodeBenchv5: качество близко к базовой модели при меньшем числе токенов в указанных настройках оценки. Репозиторий содержит веса Safetensors; библиотека — Transformers, контекст — до 131 072 токенов. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. Авторы позиционируют выпуск как исследовательский и отмечают, что модель не оценивалась для всех практических сценариев. Перед использованием следует проверять точность, безопасность и справедливость ответов, особенно в высокорисковых задачах.

FalCoder — модель генерации кода на основе Falcon-7B, дообученная mrm8488 методом QLoRA с библиотекой PEFT на наборе CodeAlpaca_20K из 20 тысяч примеров инструкций по программированию. Она предназначена для генерации кода и ответов на инструкции о разработке программ. Модель относится к плотной авторегрессионной архитектуре RefinedWebModel и содержит около 10,9 млрд параметров; опубликована в формате PyTorch под лицензией Apache-2.0. FalCoder подходит для генерации фрагментов кода и помощи в решении задач программирования по текстовому запросу. Карточка не приводит результаты оценки качества и не описывает поддержку конкретных языков программирования или длину контекста; обучение на ограниченном наборе инструкций может сказываться на охвате задач и надёжности ответов.

anvay/finetuning-cardiffnlp-sentiment-model — модель классификации тональности текста, дообученная на основе cardiffnlp/twitter-roberta-base-sentiment-latest. Она использует архитектуру RoBERTa с головой классификации последовательностей и содержит 151,8 млн параметров. Модель предназначена для определения тональности текстовых сообщений; конкретный обучающий датасет не описан. В карточке приведены результаты оценки: точность 0,9165 и функция потерь 0,2685. Контекст составляет до 514 токенов. Репозиторий содержит веса PyTorch и выпущен под лицензией, указанной в метаданных модели.

FlowState — базовая модель для прогнозирования временных рядов, выпущенная IBM Research. Она сочетает энкодер на основе State Space Model (SSM) с декодером на функциональном базисе, который формирует непрерывный прогноз и позволяет адаптировать модель к разным частотам дискретизации и временным масштабам. Модель предназначена для прогнозирования без дообучения (zero-shot). Версия r1.1 содержит 18,5 млн параметров и контекст предобучения длиной 4096; при загрузке этой версии необходимо явно указать revision=r1.1, иначе используется версия 1.0. Для настройки временного масштаба рекомендуется учитывать сезонность данных; качество прогноза снижается при горизонте свыше примерно 30 сезонов. В карточке заявлены высокая точность zero-shot прогнозирования и эффективность при компактном размере модели. Репозиторий содержит веса в формате Safetensors и распространяется по лицензии Apache-2.0. Эта публикация предназначена для исследовательского использования и воспроизведения результатов; для коммерческого и корпоративного применения IBM указывает на отдельные выпуски Granite.

Это версия модели bingleai на базе Gemma 4 12B Coder, подготовленная из репозитория yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1-GGUF. Разработчик указывает, что веса преобразованы из квантованной версии Q8_0 в BF16 Safetensors; модель предназначена для генерации и объяснения решений задач на Python, включая алгоритмические и функциональные задачи с проверяемыми тестами. В карточке описана настройка на примерах с рассуждениями от Composer 2.5 и Fable 5, где решения отбирались после успешного выполнения тестов. Модель поддерживает диалог и работу с кодом; заявленный контекст — до 256K токенов. Репозиторий использует библиотеку Transformers и лицензию Gemma. Указанный в README сценарий запуска ориентирован на локального помощника по программированию; заявленные требования к памяти относятся к квантованным GGUF-вариантам и не характеризуют размер представленных здесь BF16-весов.

goia-forecast-nano-v0 — вероятностная модель временных рядов, разработанная командой gredio и обученная с нуля. Модель насчитывает 4,73 млн параметров и предназначена для прогнозирования временных рядов без дополнительного обучения на целевой задаче: в оценке GIFT-Eval она показала CRPS 0,553 и MASE 0,815 по геометрическому среднему для 97 конфигураций. Архитектура включает нормализацию RevIN, адаптивный многомасштабный энкодер патчей, блоки причинных свёрток с локальным и глобальным вниманием и декодер, который за один проход формирует девять квантилей на весь горизонт прогноза. Модель работает только с одномерными рядами, не принимает ковариаты и не поддерживает многомерное прогнозирование; каналы следует прогнозировать отдельно. Для ряда нужны как минимум восемь конечных значений, а пропуски и бесконечности в контексте автоматически интерполируются. Модель обучена преимущественно на GiftEvalPretrain, а также на синтетических рядах TempoPFN и KernelSynth; часть обучения включала дистилляцию от Chronos-2. В README отмечены слабые результаты на почасовых данных с выраженной сезонностью, почти детерминированных погодных рядах и частотах короче минуты. Лицензия — MIT.

Granite-3B-Code-Instruct-2K — языковая модель IBM Research, дообученная на Granite-3B-Code-Base-2K для выполнения инструкций по программированию. Модель с архитектурой Llama содержит 3,5 млрд параметров, принимает текст и использует контекст до 2048 токенов. Она предназначена для создания помощников по программированию: может отвечать на запросы о коде, помогать с решением задач и рассуждениями, а также работать с инструкциями для генерации кода. Для настройки использовались наборы данных с коммитами, примерами кода и инструкциями, математическими задачами и общими диалоговыми запросами. Обучающие данные о коммитах охватывают 92 языка программирования; это не означает поддержку 92 естественных языков. IBM указывает, что модель не рекомендуется для новых проектов и опубликована для исторических и научных целей; для новых приложений рекомендуются более современные модели Granite. Качество может снижаться на языках программирования вне обучающего распределения, а для критичных сценариев README рекомендует проверку безопасности и целевую настройку. Лицензия — Apache 2.0.

InCoder 1B — авторегрессионная модель для работы с кодом, разработанная Daniel Fried, Armen Aghajanyan, Jessy Lin, Sida Wang, Eric Wallace, Freda Shi, Ruiqi Zhong, Wen-tau Yih, Luke Zettlemoyer и Mike Lewis и опубликованная под организацией Facebook. Это декодерный Transformer архитектуры XGLM с 1,5 млрд параметров, обученный на коде с причинно-маскирующей целью: модель умеет продолжать код слева направо и заполнять пропуски внутри фрагмента. Модель предназначена для генерации и редактирования кода, в том числе дополнения незавершённых фрагментов и вставки кода в заданный контекст. Обучающие данные включали открытые репозитории GitHub и GitLab с разрешительными лицензиями, а также Stack Overflow; среди языков особенно представлены Python и JavaScript, наряду с кодом на 28 языках. Контекст модели — 2048 токенов. Для запуска в карточке указаны PyTorch, tokenizers и Transformers; токенизатор требует tokenizers версии 0.12.1 или новее. Ограниченный контекст и смещение обучающих данных к Python и JavaScript могут снижать качество на длинных задачах или менее представленных языках. Лицензия модели — CC BY-NC 4.0, предусматривающая некоммерческое использование.

ML6 Team разработала KBIR-OpenKP — модель на базе KBIR, дообученную на наборе OpenKP для извлечения ключевых фраз из английских документов. Она решает задачу как классификацию токенов с метками начала, продолжения и фона, после чего соседние фрагменты ключевой фразы объединяются в результат. Модель построена на архитектуре RoBERTa и содержит 454,1 млн параметров. Она предназначена для автоматического выделения важных фраз в веб-документах и корпусах, чтобы быстро получать краткое представление об их содержании. Контекст составляет до 514 токенов; доступны веса PyTorch. На тестовой выборке OpenKP указаны результаты F1@5 0,19, F1@10 0,11 и F1@M 0,39. Модель работает только с документами на английском языке и ограничивает количество предсказываемых ключевых фраз. Распространяется по лицензии MIT.

Модель bespin-global/klue-sentence-roberta-base-kornlu разработана Jaehyeong из Bespin Global на базе архитектуры RoBERTa. Это модель Sentence-Transformers, которая преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для поиска семантически близких текстов, кластеризации и сравнения предложений. В README указано обучение с CosineSimilarityLoss; среди метаданных также отмечена поддержка извлечения признаков и семантического сходства предложений. Модель содержит 137,8 млн параметров, принимает текст и выдаёт векторы; контекст — до 514 токенов. Модель связана с датасетом kor_nlu и предназначена прежде всего для корейского языка. Лицензия CC-BY-NC-4.0 разрешает использование с атрибуцией, но запрещает коммерческое применение. В README не приведены результаты оценки, поэтому качество для конкретного набора данных следует проверять отдельно.

hmart824/layoutlmv3-finetuned_0.1 — дообученная версия hmart824/layoutlmv3-finetuned для классификации токенов с использованием архитектуры LayoutLMv3. Модель содержит 151,8 млн параметров и рассчитана на контекст до 514 токенов. Карточка сообщает значение Loss 0,4995 на оценочном наборе, но не описывает набор данных, метки или методику оценки. Модель предназначена для задач разметки токенов в документах. LayoutLMv3 относится к архитектурам для работы с текстом и визуальной структурой документов, однако сведения карточки не позволяют подтвердить конкретный сценарий или набор входных данных этой версии. Лицензия CC BY-NC-SA 4.0 разрешает использование на её условиях, включая ограничения на коммерческое применение и требования к распространению производных работ.

LosslessMegaCoder-llama2-13b-mini — языковая модель для генерации кода, созданная Rombodawg совместно с Andreaskoepf, участником Open Assistant. Это плотная авторегрессионная модель семейства Llama 2 с 12,9 млрд параметров, опубликованная в формате PyTorch; для неё указан контекст до 2048 токенов. Модель обучена на отфильтрованной версии набора LosslessMegaCodeTrainingV2_1m_Evol_Uncensored: из данных удаляли примеры короче 100 токенов. Она предназначена для генерации и продолжения кода, а также для диалогового взаимодействия по шаблону ChatML. В README приведён результат 0,29 на HumanEval+; также показаны результаты Open LLM Leaderboard, но они не гарантируют качество на конкретных задачах. В карточке указана лицензия Llama 2. Короткий контекст ограничивает работу с большими файлами и длинными запросами. Данные обучения описаны как uncensored, поэтому ответы могут требовать дополнительной проверки и фильтрации.

sasa2000/MobileLLM-R1.5-950M-heretic — текстовая авторегрессионная модель на архитектуре Llama 4 Text, основанная на facebook/MobileLLM-R1.5-950M и изменённая методом abliteration. Она предназначена для генерации ответов на математические, научные и программные задачи, включая рассуждения и написание кода на Python и C++; автор исходной MobileLLM-R1.5 — Meta, а этот вариант опубликован пользователем sasa2000. Модель содержит около 1,2 млрд параметров по метаданным каталога (в README для исходной версии указано 949 млн), принимает и выдаёт текст, поддерживает контекст до 32 768 токенов и рассчитана прежде всего на английский язык. Карточка сообщает о меньшем числе отказов в тесте, чем у исходной модели, после abliteration; это не делает её универсальным чат-ботом. Для работы нужны Transformers и совместимый tokenizer. Лицензия указана как other, поэтому условия использования следует проверять в карточке репозитория; конкретные права и ограничения в предоставленных данных не раскрыты.

Jeevesh8/more_cpts_corr_init_shuff_clipped_warmed_seq_len_128_bert-base-uncased_qqp_ft_1 — модель классификации текста на базе BERT, опубликованная пользователем Jeevesh8 на Hugging Face. Она дообучена для задачи QQP (Quora Question Pairs), то есть для определения семантической эквивалентности или дублирования пар вопросов. Модель содержит около 136,7 млн параметров, использует архитектуру BERT и поддерживает контекст до 512 токенов. Основной сценарий применения — классификация пар англоязычных текстов, прежде всего вопросов, по признаку смыслового соответствия. Модель не предназначена для генерации текста и ориентирована на узкую задачу, связанную с QQP.

Samra02 разработала мультиязычный классификатор эмоций на основе XLM-RoBERTa, дообученный на базе AnasAlokla/multilingual_go_emotions_V1.2. Модель содержит около 205,1 млн параметров, использует архитектуру BERT для классификации последовательностей и принимает текст длиной до 512 токенов. Она определяет одну из пяти эмоций: радость, грусть, гнев, страх или отвращение. Модель предназначена для анализа коротких сообщений, комментариев, отзывов и чатов на английском, арабском и французском языках. Её можно применять для разметки отзывов и обращений в поддержку, мониторинга эмоционального фона публикаций и адаптации ответов чат-ботов. Лицензия — Apache 2.0. Обучающие данные основаны на англоязычных комментариях Reddit; арабский и французский поддерживаются за счёт межъязыкового переноса, поэтому точность на них, особенно на диалектном арабском, может быть ниже. Модель возвращает только пять укрупнённых классов, не распознаёт ряд тонких эмоций, а оценки уверенности не откалиброваны. Она не предназначена для диагностики психического здоровья или самостоятельных решений в критически важных сценариях.

NanoVDR-D-Fast-Qwen3VL8B-4096 — визуальная башня документов для поиска по страницам, разработанная проектом NanoVDR. Это 457-миллионная модель-энкодер, которая принимает изображение страницы любого разрешения и выдаёт один L2-нормализованный вектор размерности 4096 для поиска по сходству с помощью скалярного произведения. Архитектура сочетает динамическую нарезку страницы на фрагменты, InternViT-300M-448, линейные проекции и ModernBERT-base с усреднением признаков. Она предназначена для построения векторных индексов документов и работает в общем пространстве эмбеддингов с совместимой башней запросов NanoVDR. Модель получена дистилляцией замороженной Qwen3-VL-Embedding-8B: обучение выравнивало векторы страниц с эмбеддингами учителя без меток релевантности и контрастивного обучения. Для изображения используются не более двух фрагментов и миниатюра; это снижает вычислительные затраты, но может ухудшать представление очень плотных страниц. В README результаты оценки приведены для наборов ViDoRe, поэтому качество на иных типах документов и распределениях запросов не установлено. Репозиторий распространяется по лицензии MIT.

ndpo4 — дообученная модель на 1,3 млрд параметров, созданная на базе deepseek-ai/deepseek-coder-1.3b-base и датасета generator. Она использует плотную архитектуру семейства Llama и предназначена для генерации текста; с учётом базовой модели может применяться для продолжения и автодополнения кода, а также заполнения пропусков в коде. Контекстное окно составляет до 16 384 токенов. Модель опубликована в формате safetensors. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели. README не содержит сведений об оценке качества или дополнительных ограничениях.

GooseReason-4B-Instruct — плотная языковая модель NVIDIA на архитектуре Qwen3 с 3,7 млрд параметров, дообученная на основе Qwen/Qwen3-4B-Instruct-2507 методом обучения с подкреплением по проверяемым наградам (RLVR). Для обучения использован набор GooseReason-0.7M с задачами по математике, программированию и естественным наукам; модель предназначена для исследовательских и разработческих сценариев рассуждения и следования инструкциям. Модель принимает текст и генерирует текст. Она подходит для решения математических задач, написания и анализа кода, ответов на вопросы по STEM-дисциплинам, логических головоломок и выполнения инструкций. Заявленная длина контекста — до 262 144 токенов; в метаданных указан английский язык. README сообщает о сравнительных результатах на 15 тестах, охватывающих математику, программирование, STEM, следование инструкциям и логические задачи. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Авторы позиционируют её для исследований и разработки; опубликованные результаты бенчмарков сами по себе не гарантируют качество на произвольных запросах.

PhoBERT-ner — модель VinAI PhoBERT-base-v2, дообученная пользователем quocanh944 для классификации токенов. Архитектура — RoBERTa с головой RobertaForTokenClassification; модель содержит 162,4 млн параметров, использует формат safetensors и принимает последовательности длиной до 258 токенов. Модель предназначена для разметки отдельных токенов во вьетнамском тексте. Такая задача может применяться, например, для распознавания сущностей, однако конкретные классы меток, обучающий датасет и результаты оценки не описаны. Базовая PhoBERT рассчитана на обработку вьетнамского языка. Лицензия и ограничения применения в доступной карточке не указаны. Качество и пригодность модели для конкретной схемы разметки следует оценивать отдельно.

pii-layout-synth-v12 — дообученная на базе answerdotai/ModernBERT-base модель для классификации токенов. По названию репозитория предполагается, что она предназначена для разметки персональных данных с учётом их расположения в тексте или макете, однако карточка не описывает целевые метки и формат входных данных. Модель содержит 149 млн параметров, использует архитектуру ModernBERT и принимает контекст длиной до 8192 токенов. В карточке приведены результаты оценки: precision 0,9926, recall 0,9954, F1 0,9940 и accuracy 0,9988; датасет и методика оценки не раскрыты, поэтому эти показатели нельзя уверенно переносить на другие данные. Модель опубликована в формате safetensors для библиотеки Transformers и распространяется по лицензии Apache-2.0.

PolyCoder-2.7B — авторегрессионная языковая модель для генерации кода, представленная в исследовании «A Systematic Evaluation of Large Language Models of Code». Модель имеет архитектуру GPT-NeoX; в README указано 2,7 млрд параметров, а метаданные Hugging Face сообщают 3,5 млрд параметров. Обучена на 249 ГБ кода на 12 языках программирования и принимает текстовый контекст длиной до 2048 токенов. Модель предназначена для продолжения и генерации кода. Карточка рекомендует Transformers версии 4.23.0 или новее. Сведения о лицензии и конкретных ограничениях применения в предоставленных материалах отсутствуют.

Wravn разработала PrivaScope Scope Classifier — классификатор предложений для анализа политик конфиденциальности. Модель принимает отдельное предложение и относит его к одной из 11 категорий области действия: например, веб-сайт, приложение, устройство, учетная запись или коммуникации. Это один из 16 классификаторов исследовательского конвейера PrivaScope. Модель основана на PrivBERT от mukund, дообученной версии RoBERTa, предварительно обученной на корпусе политик конфиденциальности. Классификатор выполняет однозначную классификацию по 11 классам; в README указаны значения F1 Macro 0,87 и F1 Micro 0,91. Размер модели — 151,8 млн параметров, контекст — 514 токенов; доступны веса Safetensors и ONNX. Она обучена на англоязычных политиках конфиденциальности. Модель предназначена только для определения области действия предложения: темы, содержание и атрибуты извлекаются отдельными компонентами полного конвейера. Обучающие данные включают 3 078 предложений, в том числе синтетические примеры, созданные LLM для балансировки классов. Лицензия — MIT.

Карточка модели Daoguang/PyCodeGPT на Hugging Face совпадает с карточкой GuillenLuis03/PyCodeGPT, поэтому описание составлено по ней. PyCodeGPT — предварительно обученная модель для генерации и автодополнения кода на Python, основанная на GPT-Neo. Разработчики обучали её на корпусе из примерно 13 миллионов очищенных файлов Python, собранных из репозиториев GitHub. В README описан вариант PyCodeGPT-110M, производный от GPT-Neo 125M; в метаданных репозитория указаны 123,7 млн параметров, архитектура GPTNeoForCausalLM и формат PyTorch. Модель предназначена для продолжения фрагментов кода и генерации решений на Python по текстовому запросу или началу программы. В README приведена оценка на HumanEval: pass@1 — 8,32%, pass@10 — 13,53%, pass@100 — 18,3%; результаты зависят от методики генерации и не гарантируют корректность кода. Модель принимает и выдаёт текст, имеет контекстное окно 2048 токенов. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.

Qwen3-0.6B-Code-Expert — языковая модель на базе Qwen3-0.6B, дообученная разработчиком карточки полным fine-tuning на датасете nvidia/OpenCodeReasoning. Модель предназначена для генерации кода и рассуждений о коде; её можно использовать в диалоговых сценариях и для получения решений программных задач с промежуточными шагами рассуждения. Модель имеет плотную архитектуру Qwen3ForCausalLM и около 507,9 млн параметров. Она принимает текст и генерирует текст; заявленная длина контекста — 40 960 токенов. В карточке указан английский язык. Весы опубликованы в формате safetensors и оптимизированы при обучении в bf16. Лицензия — Apache-2.0. Специализация на одном датасете может ограничивать обобщение на другие типы кода и задачи; качество и корректность сгенерированных решений требуют проверки. Модель сохраняет ограничения компактной базовой модели, а промежуточные рассуждения не гарантируют правильность ответа.

Replit Code v1.5 3B — языковая модель Replit для автодополнения кода. Это плотная авторегрессионная модель семейства MPT с 3,3 млрд параметров, обученная генерировать продолжения кода. Модель распространяется в формате PyTorch и использует токенизатор GPTNeoX с настроенным словарём из 32 768 токенов; размер контекста — 4096 токенов. Обучение проводилось на корпусе примерно из 1 трлн токенов, включая код на 30 языках программирования, технические тексты в Markdown и reStructuredText, а также материалы Stack Exchange для разработчиков. Модель подходит для подсказок и продолжения кода в редакторах и для последующей настройки под конкретные задачи разработки. Она не заявлена как универсальный чат-ассистент или средство проверки корректности кода. Лицензия Apache-2.0 допускает коммерческое использование. Обучающие данные могли содержать оскорбительный или неподходящий контент, который может проявляться в генерациях; перед использованием в продуктивных системах результаты следует проверять.

fatymatariq/segmentation-3.0 — опубликованная модель сегментации речи на основе pyannote.audio 3.0, обученная Séverin Baroudi. Она принимает монофонический звук с частотой 16 кГц блоками по 10 секунд и выдаёт матрицу кадровых оценок для семи классов: тишина или неречевая активность, три отдельных говорящих и три возможные пары одновременно говорящих. Модель предназначена для сегментации говорящих, обнаружения речевой активности и перекрывающейся речи; для диаризации полной записи её используют в составе отдельного конвейера с моделью эмбеддингов говорящих. Обучение проводилось на наборах AISHELL, AliMeeting, AMI, AVA-AVD, DIHARD, Ego4D, MSDWild, REPERE и VoxConverse. Модель доступна в формате PyTorch по лицензии MIT. Для загрузки README требует принять условия использования базовой модели pyannote/segmentation-3.0; сама по себе эта модель обрабатывает только короткие фрагменты аудио.

SimpleSD-30B-instruct — исследовательская языковая модель Apple, созданная методом Simple Self-Distillation: модель дообучили на собственных сгенерированных примерах без учителя, функции вознаграждения, верификаторов и обучения с подкреплением. Для инициализации использована Qwen3-30B-A3B-Instruct-2507; архитектура — Qwen3 MoE, веса опубликованы в формате safetensors. В метаданных указано 2,6 млрд параметров и контекст до 262 144 токенов. Модель предназначена прежде всего для генерации кода и диалогового выполнения инструкций. Её можно применять для генерации фрагментов кода и исследования само-дистилляции языковых моделей. В README приведены параметры сэмплирования для обучения и оценки, а также пример загрузки через Transformers. Это исследовательский чекпойнт для воспроизводимости экспериментов, не оптимизированный релиз Qwen. Лицензия — Apple AMLR; перед использованием следует учитывать её условия.

StableCode-Completion-Alpha-3B-4K — авторегрессионная decoder-only модель Stability AI для автодополнения кода. Она обучена на корпусе StarCoder Data, включающем распространённые языки программирования, и предназначена для продолжения кода по короткому или длинному контексту, в том числе для одиночных строк и нескольких строк в редакторе кода. Модель построена на архитектуре GPT-NeoX с плотным трансформерным декодером и содержит около 3,5 млрд параметров. Контекстное окно — 4096 токенов. Веса доступны в форматах PyTorch и safetensors. Модель генерирует код; естественные языки как целевые языки в карточке не заявлены. Модель выпущена под лицензией Apache 2.0. Она может воспроизводить фрагменты кода из обучающих данных, поэтому для проверки совпадений README рекомендует использовать инструменты атрибуции BigCode и Hugging Face. Разработчик также предупреждает против применения модели для незаконных действий и сценариев с высоким риском физического или экономического ущерба.