II.8Инженерия данных и аналитика

StarCoder2-7B — открытая модель для генерации и дополнения программного кода, разработанная проектом BigCode. Это плотный авторегрессионный Transformer-декодер с Grouped Query Attention и скользящим вниманием: окно контекста составляет 16 384 токена, из которых скользящее окно внимания — 4 096 токенов. Модель обучалась на более чем 3,5 трлн токенов из The Stack v2 и других источников, используя задачу Fill-in-the-Middle; метаданные указывают 9,9 млрд параметров. Модель подходит для продолжения кода по контексту, заполнения пропусков и генерации фрагментов на 17 языках программирования. Она не является моделью для следования инструкциям, поэтому запросы на естественном языке вроде просьбы написать функцию могут обрабатываться хуже, чем контекст с незавершённым кодом. Сгенерированный код может содержать ошибки, быть неэффективным или небезопасным. Обучающие данные отфильтрованы по лицензиям, однако модель может воспроизводить исходный код; перед использованием следует учитывать его лицензионные требования. Лицензия — BigCode OpenRAIL-M.

Toto-2.0-1B — модель из семейства Toto, разработанного Datadog для прогнозирования многомерных временных рядов. Чекпойнт содержит 1,2 млрд параметров; семейство обучено по единому рецепту и предназначено для прогнозов в задачах наблюдаемости и общего назначения. Лицензия — Apache-2.0. Модель использует декодерный трансформер с патчами и чередующимися слоями внимания по временной оси и по переменным. Она поддерживает прогнозирование без дообучения на конкретном ряде, переменные горизонты и контексты, а также выдаёт точечные прогнозы и оценки неопределённости через квантильную выходную голову. В README заявлены высокие результаты на бенчмарках BOOM, GIFT-Eval и TIME. Для инференса доступен пакет toto-models; веса опубликованы в формате safetensors. Модель рассчитана на числовые временные ряды, а не на текстовые запросы; для практического применения нужны подготовленные данные рядов и совместимый код инференса.

NetworkIsLife/twitter-xlm-roberta-base-sentiment-fast — копия модели Cardiff NLP для классификации тональности сообщений в соцсетях и коротких текстов. Основа — XLM-RoBERTa с архитектурой XLMRobertaForSequenceClassification и 305,2 млн параметров; модель принимает текст и относит его к одному из трёх классов: Negative, Neutral или Positive. Контекст составляет до 514 токенов. Веса побайтно совпадают с cardiffnlp/twitter-xlm-roberta-base-sentiment. Дополнительно репозиторий содержит tokenizer.json, созданный для загрузки быстрого токенизатора без проблем конвертации SentencePiece в Transformers v5; по карточке, токенизатор выдаёт те же идентификаторы токенов, что и исходный медленный токенизатор. Поддерживается многоязычный ввод. Модель предназначена, в частности, для анализа тональности твитов и коротких сообщений. Для работы доступны веса PyTorch, SafeTensors и TensorFlow. Лицензия в предоставленных данных не указана. Классы ограничены отрицательной, нейтральной и положительной тональностью; точность для отдельных языков и типов текста в карточке не приведена.

RuudVelo разработал эту модель распознавания нидерландской речи, дообучив facebook/wav2vec2-xls-r-300m на Common Voice 8.0. Это плотная модель архитектуры wav2vec2 с CTC-выходом и примерно 402,7 млн параметров; для декодирования также обучена и использована языковая модель KenLM с 6-граммами. Модель предназначена для преобразования нидерландской речи в текст, в частности для аудиозаписей, подобных материалам Common Voice. Обучение проводилось 75 эпох на обучающей части Common Voice 8.0; тестовая выборка Common Voice 8.0 не использовалась для обучения или валидации. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.

gchhablani/wav2vec2-large-xlsr-mr-3 — модель распознавания речи, созданная дообучением facebook/wav2vec2-large-xlsr-53 для маратхи. Она принимает аудио и выдаёт текстовую транскрипцию; для входной речи требуется частота дискретизации 16 кГц. Модель основана на архитектуре Wav2Vec2 с CTC и содержит около 402,7 млн параметров. Модель обучалась на OpenSLR SLR64 и наборах маратхи из Interspeech 2021: по 1412 примеров из каждого источника. В карточке приведены результаты тестирования 14,15% на OpenSLR и 27,14% на Interspeech; отдельно указано 19,05% для оценки на 10% данных маратхи из OpenSLR. Эти показатели относятся к описанным наборам и протоколам. Набор OpenSLR содержит только женские голоса, что ограничивает репрезентативность обучения. Модель распространяется по лицензии Apache-2.0.

KnutJaegersberg/website-classifier — модель классификации текста на базе DeBERTa-v2, обученная с помощью AutoTrain. Она предназначена для определения категории веб-сайта по тексту: обучающая выборка создана на основе категорий URL Classification Dataset [DMOZ] и примеров из корпуса C4, размеченных zero-shot-классификатором; использована только часть исходного датасета. Модель содержит 533,8 млн параметров и обрабатывает последовательности длиной до 512 токенов. В README указаны метрики на валидации: accuracy около 0,91 и macro F1 около 0,91. Результаты относятся к описанной выборке и не гарантируют такое же качество на других сайтах и текстах. Модель опубликована в формате safetensors; сведения о лицензии отсутствуют в предоставленных данных.

XLM-RoBERTa base, дообученная командой TNER для распознавания именованных сущностей (NER) в арабском варианте набора PAN-X. Модель содержит 305,2 млн параметров, использует архитектуру XLM-RoBERTa для классификации токенов и принимает текст; максимальная длина контекста — 514 токенов. Модель предназначена для выделения и разметки сущностей в арабском тексте, например имён людей, организаций и географических названий. Для загрузки токенизатора в README приведён идентификатор asahi417/tner-xlm-roberta-base-panx-dataset-ar. Лицензия в предоставленных данных не указана.

Это дообученная версия FacebookAI/xlm-roberta-large от khadija69 для классификации токенов. Модель размечает последовательность текста по токенам; обозначение BIES в названии может указывать на схему меток, но README не описывает её назначение и классы.

DeepCoder-1.5B-Preview-GGUF — это GGUF-квантизированная версия языковой модели DeepCoder-1.5B-Preview, разработанной agentica-org и подготовленной квантизатором bartowski с использованием llama.cpp. Модель предназначена для генерации текста и прежде всего ориентирована на задачи программирования, включая решение проверяемых задач на написание кода. При обучении использовались наборы PrimeIntellect/verifiable-coding-problems, likaixin/TACO-verified и livecodebench/code_generation_lite. Модель содержит 1,5 млрд параметров, поддерживает английский язык и работает в текстовой модальности. Доступны варианты от BF16 до различных форматов квантования Q2–Q8 и IQ, размером примерно от 0,92 до 3,56 ГБ. Это позволяет запускать её локально, в том числе через LM Studio, llama.cpp и другие совместимые проекты; конкретное качество и требования к памяти зависят от выбранного варианта. Рекомендуемый шаблон запроса указан в README. Сильными сторонами модели являются небольшой размер, возможность локального запуска и специализация на генерации кода. Ограничениями выступают относительно малое число параметров, поддержка только английского языка и неизбежное снижение качества в более агрессивных вариантах квантования; точные характеристики контекста и архитектуры в README не указаны. Модель распространяется по лицензии MIT.

lyeonii/bert-small — компактная англоязычная версия BERT-Small без учёта регистра, первоначально выпущенная Google Research в составе семейства небольших BERT-моделей. Репозиторий содержит конвертированные из TensorFlow в PyTorch веса; архитектура — BertModel, размер — 32,4 млн параметров, максимальный контекст — 512 токенов. Модель предназначена для получения контекстных векторных представлений текста, которые можно использовать как признаки в NLP-системах. В README приведены результаты оценки на задаче сопоставления предложений MRPC: F1 81,41 и accuracy 70,34. Лицензия репозитория — MIT.

Tgratzi/bert-tma-tuned-v2.1.2 — модель классификации текстов, дообученная разработчиком на основе BERT Base Uncased от Google. Она содержит 136,7 млн параметров, использует архитектуру BertForSequenceClassification и принимает последовательности длиной до 512 токенов. Модель предназначена для присвоения тексту категорий; конкретные категории и целевой сценарий в карточке не раскрыты. В README приведены результаты на оценочном наборе: accuracy 0,9767, макро-F1 0,9621 и loss 0,0911. Датасет и методика оценки не описаны, поэтому эти показатели нельзя напрямую переносить на другие данные. Модель распространяется в формате safetensors по лицензии Apache-2.0.

mlx-community/bigcode-starcoder2-15b-fp32 — конвертированная в формат MLX модель StarCoder2-15B, опубликованная mlx-community. Она предназначена для генерации и автодополнения программного кода по текстовому контексту, в том числе для заполнения пропусков внутри кода. В карточке указано, что исходная модель bigcode/starcoder2-15b преобразована с помощью mlx-lm 0.21.1; метаданные описывают архитектуру StarCoder2ForCausalLM и 21,7 млрд параметров. Модель принимает текстовый контекст и генерирует код или продолжение текста. Поддерживает контекст до 16 384 токенов. В метаданных указана лицензия BigCode OpenRAIL-M; перед использованием следует учитывать её условия и ограничения. Конкретные языки программирования и результаты оценки качества для этой сборки в карточке не приведены.

CleverBoi-Nemo-12B-v2 — текстовая generative-модель, разработанная theprint. Она дообучена в течение одной эпохи на наборе CleverBoi-Data-20k, содержащем примеры, ориентированные на логику, рассуждения, математику и программирование. Модель предназначена для генерации текста и решения задач, требующих следования инструкциям, логического вывода, математического анализа и работы с кодом. Модель дообучена на базе unsloth/Mistral-Nemo-Instruct-2407-bnb-4bit и имеет размер 12B параметров согласно идентификатору модели. Доступная языковая метка — английский. Указана текстовая модальность; сведения о длине контекста в README отсутствуют. Для ускорения обучения использовались Unsloth и библиотека TRL от Hugging Face. В оценках Open LLM Leaderboard модель получила средний результат 17,57: 20,46 на IFEval, 31,65 на BBH, 8,61 на MATH Level 5, 8,50 на GPQA, 11,43 на MuSR и 24,76 на MMLU-PRO. Эти результаты указывают на специализацию в задачах рассуждения и математики, однако не подтверждают высокую точность во всех сценариях. Ограничениями являются отсутствие данных о контекстном окне, мультиязычной поддержке, требованиях к аппаратному обеспечению и практической производительности. Модель распространяется по лицензии Apache-2.0.

Это экспериментальный чекпойнт Qwen3-4B-Instruct-2507, дообученный командой agurung методом обучения с подкреплением OpenRLHF GRPO. Модель предназначена для генерации кода и решения задач программирования: обучение проводилось на задачах, которые исходная модель решала редко, а награда зависела от прохождения тестов сгенерированной программой. Чекпойнт сохранён на восьмом шаге обучения; в описанном запуске он показал pass@8 0,5818 на отложенной выборке при восьми генерациях на задачу. Это плотная авторегрессионная языковая модель с архитектурой Qwen3ForCausalLM и 3,7 млрд параметров. Она принимает текст и генерирует текст, включая код; базовая модель поддерживает контекст до 262 144 токенов. В README не указаны лицензия и конкретный набор поддерживаемых естественных языков, поэтому условия использования и языковые возможности сверх сведений о базовой модели определить нельзя.

Это экспериментальный чекпойнт Qwen3-4B-Instruct-2507, дообученный методом GRPO с помощью OpenRLHF непосредственно на базовой модели без предварительного SFT. Чекпойнт сохранён на шаге 72; он показал лучший в этом запуске результат pass@8 на отложенных задачах по программированию: 8,5543. Обучение использовало бинарную награду за прохождение тестов сгенерированным кодом и штрафы за усечение длинных ответов. Модель предназначена для генерации кода и решения задач программирования, особенно задач, сложных для исходной модели. Она принимает текстовые запросы и генерирует текст, включая программы. Архитектура — плотная Qwen3, около 3,7 млрд параметров; контекст — до 262 144 токенов. В карточке описаны оценки на конкретном наборе задач, но они не гарантируют сопоставимого качества на других языках программирования и сценариях. Лицензия в предоставленных данных не указана.

shpotes/codegen-350M-mono — модель семейства CodeGen от Salesforce Research для генерации программ и синтеза кода. Она использует плотную авторегрессионную архитектуру CodeGenForCausalLM и принимает текстовые спецификации, в том числе описания задач на естественном языке, чтобы продолжать или создавать код. Модель обучалась на данных на естественных и программных языках; заявленный контекст составляет 2048 токенов. Модель подходит для генерации фрагментов кода и прототипов по текстовому описанию. Карточка описывает семейство CodeGen и его исследовательские результаты, но не приводит отдельной оценки качества этой версии на 350 млн параметров. Репозиторий содержит веса PyTorch и распространяется по лицензии BSD 3-Clause.

stojchet/d2 — дообученная модель генерации кода на базе deepseek-ai/deepseek-coder-1.3b-base. Она обучена на датасете generator и предназначена для продолжения и автодополнения кода, а также генерации текста по промпту. Модель имеет плотную архитектуру семейства Llama с 1,3 млрд параметров, принимает текст и поддерживает контекст до 16 384 токенов. Карточка не приводит результатов оценки или подробных рекомендаций по применению. Модель опубликована в формате safetensors; лицензия указана как other, поэтому перед использованием следует проверить условия в репозитории.

sileod/deberta-v3-base-tasksource-nli — модель на базе DeBERTa-v3-base, дообученная разработчиком sileod методом многозадачного обучения на более чем 600 задачах коллекции Tasksource. Она предназначена прежде всего для классификации без примеров: модель сопоставляет текст с произвольными кандидатными метками через вывод о следовании. Также её можно применять для вывода на естественном языке (NLI), выполнять поддерживаемые задачи Tasksource с адаптерами и дообучать для классификации, разметки токенов и задач с выбором ответа. Модель имеет архитектуру DeBERTaV2ForSequenceClassification, содержит 211,6 млн параметров и принимает контекст длиной до 512 токенов. Обучение охватывает разнообразные датасеты для NLI и классификации; указанный в карточке основной язык — английский. В README сообщается о сильных результатах zero-shot-проверок на ряде задач и первом месте среди моделей той же архитектуры в оценке IBM model recycling. Модель устарела: автор рекомендует заменить её другой моделью с более длинным контекстом и лучшей точностью. Лицензия — Apache-2.0.

adalbertojunior/distilbert-portuguese-cased — дистиллированная модель на архитектуре BERT, созданная на основе BERTimbau. Она предназначена для извлечения признаков из текста и может служить компактной отправной точкой для последующего дообучения на собственных данных. Модель содержит около 79,5 млн параметров и поддерживает контекст до 512 токенов; для загрузки используются форматы PyTorch и safetensors. Карточка сообщает, что в некоторых задачах точность может достигать 99% от результата исходной BERTimbau. Это относительная оценка для отдельных задач, а не гарантия качества на произвольных данных. Модель рассчитана на португальский язык, использует регистр букв и требует дообучения под конкретное применение. Лицензия в предоставленных данных не указана.

Fisher-R1-7B — открытая языковая модель-агент May2222 для решения задач статистической проверки гипотез. Она дообучена на базе Qwen/Qwen2.5-Coder-7B-Instruct с помощью supervised fine-tuning и reinforcement learning, использующих синтетические исполняемые статистические задачи и проверяемые статистические награды. Модель имеет плотную архитектуру Qwen2, около 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для анализа данных: она может выбрать подходящий статистический тест, выполнить его, сообщить p-value и сформулировать вывод. В карточке указана оценка на P-Bench; метаданные также отмечают диалоговые возможности и интерфейс вызова инструментов. Для работы доступны веса в формате safetensors и библиотека Transformers. Лицензия — Apache-2.0. Модель ориентирована на статистические тесты и не позиционируется как универсальный аналитический или программный помощник. Надёжность выводов зависит от корректности исходных данных, выбора теста и исполнения вычислений; результаты статистической проверки требуют проверки специалистом.

FSNER — модель для распознавания именованных сущностей, реализованная sayef на основе подхода Example-Based Named Entity Recognition. Она использует few-shot подход без обучения на целевой области: по размеченным примерам сущностей определяет их фрагменты в новом домене, применяя идею вопросно-ответных систем. В карточке описаны подготовка примеров с маркерами сущностей и сценарии обучения и оценки; размер модели — 136,7 млн параметров, контекст — до 512 токенов. Модель построена на BERT и опубликована в формате PyTorch. README указывает bert-base-uncased как предобученную основу для запуска trainer, но не уточняет явно, являются ли опубликованные веса дообученной копией этой модели. Лицензия в предоставленных сведениях не указана.

Модель laion/GLM-4.6-stackexchange-overflow-sandboxes-32eps-65k-reasoning_global-batch-size_64_Qwen3-32B — дообученная командой LAION плотная языковая модель семейства Qwen3 на базе Qwen/Qwen3-32B. Она предназначена для генерации текста в диалоговом формате; название и датасет обучения указывают на настройку для задач Stack Exchange и Stack Overflow, включая ответы на вопросы и рассуждения о коде. Модель содержит 29,7 млрд параметров, использует архитектуру Qwen3ForCausalLM, файлы весов представлены в safetensors, а нативный контекст составляет 40 960 токенов. Модель может применяться для ответов на технические вопросы, объяснения решений и помощи с программированием. Карточка не приводит результаты оценки, подробное описание поведения или условия лицензии; в метаданных указана лицензия other, поэтому перед использованием следует проверить её условия. Также README не раскрывает возможные ограничения набора данных и качество на задачах вне Stack Exchange и Stack Overflow.

DeathReaper0965/gpt2-large-code-generator — языковая модель на архитектуре GPT-2 Large, дообученная разработчиком на наборе CodeParrot для генерации кода. По краткому описанию требуемой функции модель предназначена создавать соответствующий код. Токенизатор GPT-2 Large также дополнительно обучен на том же наборе данных для работы с кодом. Модель использует плотную архитектуру GPT2LMHeadModel и принимает текст, выдавая текст. Нативный контекст составляет 1024 токена. Репозиторий содержит веса PyTorch и safetensors. Модель распространяется по лицензии MIT.

Модель michelecafagna26/gpt2-medium-finetuned-sst2-sentiment разработана на основе GPT-2 medium от OpenAI и дообучена автором репозитория для классификации тональности текста. Она присваивает тексту метку положительной или отрицательной тональности и подходит для анализа отзывов и коротких высказываний на английском языке. Модель использует архитектуру GPT-2 с головой классификации последовательностей; базовый контекст составляет 1024 токена. В README приведены метрики на валидационной выборке SST-2: F1 равен 0,92 для обоих классов. Модель принимает текст и выдаёт классовые оценки, по которым выбирается метка positive или negative. Веса доступны в форматах PyTorch и Safetensors. Лицензия — Apache-2.0. Результаты на SST-2 не гарантируют такое же качество на других языках, доменах и типах текста.

IcelandicNER BERT — модель на архитектуре BERT, дообученная на корпусе MIM-GOLD-NER для распознавания именованных сущностей в текстах на исландском языке. Она размечает токены и выделяет восемь типов сущностей: даты, места, прочие сущности, денежные суммы, организации, проценты, персон и время. Модель содержит 205,1 млн параметров и принимает последовательности длиной до 512 токенов. В README приведены оценки precision, recall и F1 по категориям; для дат указана F1 0,974, для мест — 0,954, для прочих сущностей — 0,855. Модель можно применять через Transformers pipeline для NER. Лицензия — Apache-2.0.

mdhugol/indonesia-bert-sentiment-classification — модель классификации тональности индонезийского текста, созданная на основе предобученной IndoBERT Base Model (phase1, uncased) и дообученная на наборе данных Prosa sentiment. Она предназначена для определения тональности текста; архитектура — BERT для классификации последовательностей, число параметров — 151,6 млн, максимальная длина контекста — 512 токенов. Модель опубликована в формате PyTorch и рассчитана на индонезийский язык. Лицензия в предоставленных данных не указана.

jina-embeddings-v5-text-nano-classification — компактная мультиязычная модель эмбеддингов, разработанная Jina AI для задач классификации текста. Она входит в семейство jina-embeddings-v5-text и создана на основе jinaai/jina-embeddings-v5-text-nano с применением дистилляции и контрастивного обучения, ориентированного на конкретную задачу. Модель содержит 239 млн параметров, поддерживает последовательности длиной до 8192 токенов и формирует эмбеддинги размерностью 768. Используется pooling по последнему токену; доступны матрёшечные размерности 32, 64, 128, 256, 512 и 768, что позволяет выбирать компромисс между качеством, размером вектора и скоростью обработки. Модель предназначена прежде всего для классификации и может применяться в многоязычных сценариях анализа текста. Для работы доступны интеграции с sentence-transformers, vLLM и специальной веткой llama.cpp для формата GGUF; заявлена поддержка Transformers и Elastic Inference Service. Конкретный перечень языков и подробные результаты оценки в карточке не указаны. Модель распространяется по лицензии CC BY-NC 4.0, поэтому её использование ограничено некоммерческими целями.

Susant-Achary/LFM2.5-8B-A1B-UltraData-L2-49M — экспериментальный чекпойнт для генерации кода, созданный продолжением предобучения LiquidAI на базе LiquidAI/LFM2.5-8B-A1B-Base. Обучение второго этапа велось на наборе openbmb/UltraData-Code; в README указано 48,99 млн входных токенов и Python как язык обучения. Модель построена на архитектуре LFM2 MoE и содержит 1,6 млрд параметров; репозиторий использует Transformers и формат safetensors. Метаданные указывают контекст 128 000 токенов, тогда как в README для обучения указана длина контекста 8 192 токена. Модель предназначена для генерации и дополнения кода, а также для дальнейшей supervised fine-tuning. В README приведены результаты pass@1: 0,482 на HumanEval и 0,439 на HumanEval+. Это экспериментальный чекпойнт специализации на коде, поэтому результаты не гарантируют качество для произвольных задач программирования. Перед распространением или коммерческим использованием следует проверить лицензию базовой модели и лицензии набора данных и его источников.

Llama JoyCaption Alpha Two — визуально-языковая модель семейства LLaVA, разработанная проектом JoyCaption для автоматического описания изображений. Она предназначена прежде всего для создания подробных текстовых подписей к изображениям и подготовки описаний для обучения и дообучения диффузионных моделей. В README модель заявлена как открытая и ориентированная на широкий спектр визуальных стилей и тем; пример запуска через vLLM ограничивает длину последовательности 4096 токенами. Модель объединяет SigLIP SO400M Patch14 384 и Llama 3.1 8B Instruct. Она принимает изображения и текстовые запросы и генерирует текстовые описания. Карточка заявляет охват как обычного, так и откровенного контента. Доступны веса в формате safetensors; README указывает на GitHub как источник инструкций по запуску, но не называет лицензию, поэтому условия использования весов по этим данным определить нельзя. Модель рассчитана на автоматизацию аннотирования изображений и может применяться для разных стилей, включая цифровое искусство, фотореализм и аниме. README предупреждает, что запуск через vLLM может требовать настройки параметров памяти и режима выполнения. Заявления о качестве относительно GPT-4o приведены разработчиком и не сопровождаются здесь независимыми результатами оценки.

Lumma-Fev-9B — плотная модель принятия решений семейства FEV от FrontiersMind. Она обрабатывает один документ или состояние, представленное текстом, JSON-объектом либо массивом, и набор типизированных вопросов, возвращая распределение вероятностей для каждого вопроса за один проход. Модель не генерирует текст; доступны ответы форматов yes/no, выбор из вариантов и оценка по упорядоченной шкале. Модель предназначена для классификации и структурированных решений по содержимому документов: например, для присвоения категории, определения эмоции или извлечения ответа на типизированный вопрос. В README приведены результаты на Typed-decisions, AG News и DAIR Emotion, однако они не гарантируют качество на пользовательских данных. Вопросы обрабатываются независимо друг от друга. Репозиторий использует библиотеку Transformers и формат safetensors; точное число параметров в предоставленных сведениях не указано. Лицензия — Apache-2.0. Уверенность и вероятности являются оценками модели, поэтому их калибровку следует проверить на размеченных данных перед использованием для автоматических решений.