II.8Инженерия данных и аналитика

Ismantic разработал BERTc-315M — китайскую символьную модель семейства Modern BERT, предварительно обученную с нуля для предсказания замаскированных токенов. Веса содержат 316,4 млн параметров, контекст — до 1024 токенов. Архитектура включает 24 слоя, размер скрытого состояния 1024, GeGLU и позиционные кодировки ScaledSinusoidal; используются связанные входные и выходные эмбеддинги. Модель реализована на PyTorch и распространяется в формате safetensors. Основной сценарий — восстановление пропущенного символа или токена в китайском тексте. README также приводит результаты совместной тонкой настройки для сегментации слов, разметки частей речи и распознавания сущностей, а также для исправления орфографии. Для токенизации требуется символьный режим PieceTokenizer без словаря. Модель выпущена по лицензии Apache-2.0; лицензии обучающих корпусов могут отличаться.

Ilseyar-kfu/broken_bert — модель для классификации текста из экосистемы Transformers. В метаданных она отнесена к архитектурному семейству BERT и имеет около 136,7 млн параметров; модель поддерживает контекст длиной до 512 токенов и сохраняется в формате Safetensors. Разработчик, исходная модель, языки и лицензия в доступных материалах не указаны. Модель предназначена для задач text classification: отнесения входных текстов к заранее заданным классам в прикладных системах анализа документов, сообщений и пользовательских запросов. Конкретные наборы меток, область применения, данные обучения и результаты оценки не описаны, поэтому назначение модели следует уточнять по конфигурации классификационной головы и экспериментальным проверкам. Ограничения включают отсутствие документации о языке, обучающих данных, классах, качестве и рекомендуемых сценариях использования. Лицензионные условия также не приведены, поэтому перед распространением или коммерческим применением необходимо проверить сведения на странице репозитория.

Экспериментальный чекпойнт языковой модели Qwen3-4B, дообученный методом обучения с подкреплением GRPO с помощью OpenRLHF. Он основан на Qwen/Qwen3-4B-Instruct-2507 и предназначен для генерации кода: модель обучали на задачах программирования с бинарной наградой за прохождение тестов. Чекпойнт сохранён на 12-м шаге обучения и показал лучший результат pass@8 среди чекпойнтов этого запуска; численные метрики оценки в журнале обучения отсутствуют. Модель имеет плотную архитектуру Qwen3ForCausalLM, около 3,7 млрд параметров и контекст до 262 144 токенов. Для генерации отводилось до 4096 новых токенов. В карточке не приведены сведения о языках программирования, на которых она проверялась. Модель загружается через Transformers. Лицензия в предоставленных данных не указана.

shibing624/code-autocomplete-gpt2-base — модель автодополнения кода на основе GPT-2, предназначенная для плагина code-autocomplete. Она продолжает введённый код на Python, предлагая завершения строк и блоков. Модель использует архитектуру GPT2LMHeadModel и авторегрессионную генерацию текста. По метаданным, её контекст составляет 1024 токена; в карточке указан английский язык. Модель опубликована в форматах PyTorch и safetensors и распространяется по лицензии Apache-2.0. Подходит для подсказок кода при разработке на Python. Карточка не приводит оценок качества или подробностей обучающих данных; контекст ограничен 1024 токенами.

aimanabdulmanan/distilbert-base-uncased-finetuned-emotion — модель классификации текста на основе DistilBERT, дообученная разработчиком aimanabdulmanan для распознавания эмоций. Она принимает текст и относит его к эмоциональным классам; набор меток и обучающие данные в карточке не описаны. Архитектура — DistilBertForSequenceClassification, формат весов — safetensors, максимальная длина контекста — 512 токенов. В README приведены результаты оценки: accuracy 0,927 и F1 0,9269; датасет и подробности оценки не указаны. Модель подходит для автоматической разметки эмоциональной окраски коротких текстов, например сообщений и отзывов. Базовая модель — distilbert/distilbert-base-uncased, лицензия — Apache-2.0. Англоязычная базовая модель рассчитана на текст на английском языке; качество распознавания эмоций вне языка и условий оценки не подтверждено.

vaariis/distilbert-base-uncased-finetuned-emotion — модель классификации текста на основе DistilBERT, дообученная разработчиком vaariis для распознавания эмоций. Она принимает текст и относит его к эмоциональным классам; точный набор классов и обучающий датасет в карточке не раскрыты. Модель рассчитана на английский текст: базовая модель использует uncased-токенизацию, а идентификатор указывает на англоязычный вариант DistilBERT. В README указаны результаты на оценочном наборе: accuracy 0,9205 и F1 0,9208. Контекст модели — до 512 токенов. Веса опубликованы в формате PyTorch по лицензии Apache-2.0. Показатели относятся к указанному оценочному набору и сами по себе не гарантируют качество на других данных; классы эмоций и состав обучающей выборки не описаны.

BlueOrangeDigital разработала эту модель на основе DistilBERT и дообучила её классифицировать пары соседних предложений из английской Википедии: относятся ли они к разным разделам статьи. Её предназначение — находить границы между тематическими фрагментами и разбивать документы на связные части. Модель принимает текстовую пару в формате «правый контекст [SEP] левый контекст» и выдаёт класс классификации. Контекст ограничен 512 токенами; для каждого из двух фрагментов отводится до 255 токенов, а более длинные предложения обрезаются. Обучение проводилось на парах предложений из 40 тысяч статей Википедии; на валидации указаны accuracy 0,85 и F1 0,85. Модель подходит для сегментации англоязычных документов, похожих по структуре на статьи Википедии. Качество на других жанрах и языках не подтверждено, а ограничение контекста может влиять на обработку длинных предложений. Лицензия — Apache-2.0.

KshitizSharma выпустил модель distilbert-emotion — дообученную DistilBERT модель для классификации текста по эмоциональным меткам. Она предназначена для анализа эмоциональной окраски коротких текстов. В README указаны результаты на наборе оценки: F1 — 0,9252, точность — 0,925, loss — 0,1842; название и состав датасета не раскрыты. Модель построена на DistilBertForSequenceClassification, принимает текст и выдаёт метку класса. Максимальная длина контекста — 512 токенов. Распространяется по лицензии Apache-2.0.

saqlain2221/distilbert-sst2 — модель классификации текста, дообученная разработчиком на базе distilbert-base-uncased на наборе SST-2 (Stanford Sentiment Treebank). Она предназначена для определения тональности текста, в частности классификации отзывов и других коротких высказываний. Модель использует архитектуру DistilBERT для классификации последовательностей, принимает текст и выдаёт метку класса. Максимальная длина контекста — 512 токенов. На тестовой выборке SST-2 модель показала accuracy 0,9047 и macro F1 0,9048. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Базовая модель uncased ориентирована на английский текст, поэтому применение к другим языкам не подтверждено.

gokuls/distilroberta-emotion-intent — модель классификации текста, дообученная на базе distilroberta-base на датасете emotion. Она предназначена для определения эмоциональной категории в тексте и может использоваться для автоматической разметки коротких сообщений и анализа тональности эмоциональных высказываний. Модель построена на архитектуре RoBERTa, содержит 95,2 млн параметров и принимает последовательности длиной до 514 токенов. В карточке указаны точность 0,9435 и loss 0,1496 на оценочном наборе данных. Модель распространяется под лицензией Apache-2.0. Карточка не описывает набор меток и ограничения применения, поэтому результаты для иных языков, жанров и распределений данных не подтверждены.

DistilWav2Vec2 Adult/Child Speech Classifier — модель классификации аудио на основе архитектуры wav2vec 2.0, разработанная Ananto Joyoadikusumo. Это дистиллированная версия wav2vec2-adult-child-cls, дообученная на частном наборе данных для различения взрослой и детской речи. Модель содержит около 37,8 млн параметров и опубликована в форматах PyTorch и Safetensors. Модель предназначена для определения, относится ли голосовая запись к взрослому или ребёнку. В README указана точность 95,89% и F1 0,9624 на наборе оценки Adult/Child Speech Classification. Для использования применяются инструменты экосистемы Hugging Face Transformers. Лицензия — Apache-2.0. Результаты могут наследовать смещения из данных предварительного обучения; кроме того, оценка приведена на ограниченном наборе данных и не гарантирует такую же точность для других условий записи, языков или групп говорящих.

stojchet/dpo5k2 — дообученная модель на основе DeepSeek Coder 1.3B Base, обученная на наборе данных generator. Это плотная причинная языковая модель архитектуры LLaMA с 1,3 млрд параметров и контекстом до 16 384 токенов; веса представлены в формате safetensors. Модель предназначена для генерации и продолжения текста, с ориентацией базовой модели на автодополнение и заполнение пропусков в коде. В README приведены метрики оценки на тестовом наборе, включая точность предпочтений 0,7599 и разницу вознаграждений между выбранными и отклонёнными ответами 77,1251. Описание конкретных сценариев, ограничения и подробности обучения в карточке отсутствуют. Указана лицензия other; дополнительные условия использования не приведены.

Swallow Education Classifier — набор японских классификаторов на основе fastText, разработанный для оценки образовательной ценности веб-страниц. Модель предназначена для фильтрации и ранжирования японских документов по их учебной ценности, например при подготовке корпусов для обучения языковых моделей. В репозитории представлены два варианта. Wiki-based классификатор оценивает сходство документа с академическими статьями японской Википедии и выдаёт вероятность от 0 до 1. LLM-based классификатор предсказывает один из четырёх классов образовательной ценности (0–3); ожидаемую оценку можно вычислить как взвешенную сумму классов и их вероятностей. Оба варианта обучены fastText за 20 эпох с символьными n-граммами длины 2 и 3. Для более широкого набора документов авторы рекомендуют LLM-based вариант. Классификаторы применялись для фильтрации Swallow Corpus Version 2; в описанных экспериментах такая фильтрация улучшала японские знания обучаемой языковой модели при том же вычислительном бюджете. Модель рассчитана на японский текст, качество работы на других языках не гарантируется. Wiki-based вариант распространяется по CC BY-SA 4.0; LLM-based вариант — на условиях лицензии использованной для разметки модели, Llama 3.1 Community License Agreement или Gemma Terms of Use.

mrm8488/electricidad-small-finetuned-sst2-es — испаноязычная модель анализа тональности, созданная дообучением mrm8488/electricidad-small-discriminator на датасете sst2-es-mt. Датасет получен машинным переводом исходного SST2 с английского на испанский. Модель построена на ELECTRA и содержит 20,5 млн параметров; максимальная длина входа — 512 токенов. Модель классифицирует тональность испанских текстов и подходит, например, для определения эмоциональной окраски коротких отзывов и предложений. На оценочной выборке автор сообщает accuracy 0,879 и F1 0,88. В карточке приведён пример использования через Transformers pipeline. Лицензия в доступных данных не указана.

Abir Kheireddine дообучил DistilBERT для классификации тональности текста. Модель принимает текст и выдаёт классы тональности; карточка приводит результаты оценки: accuracy 0,8833 и F1 0,8867, а также loss 0,3346. Назначение и состав обучающего набора данных не раскрыты. Модель основана на distilbert/distilbert-base-uncased, использует архитектуру DistilBertForSequenceClassification и поддерживает контекст до 512 токенов. Репозиторий содержит веса в форматах Safetensors и ONNX. Лицензия — Apache-2.0.

Functionalizer 100M github-code-python-seed5 — генеративная модель на архитектуре GPT-2 с примерно 100 млн параметров, обученная средствами Functionalizer на датасете, указанном в названии: коде Python из GitHub. Модель предназначена для продолжения и генерации текста, прежде всего фрагментов Python-кода. В README указано, что обучение проводилось 50 000 эпох с seed 5. Для запуска требуется форк токенизатора, однако ссылка в доступном фрагменте карточки отсутствует. Модель опубликована в формате safetensors и рассчитана на контекст длиной 512 токенов. Лицензия в предоставленных данных не указана.

girenit/girenit-TR-TextRestore — турецкая модель для восстановления диакритических знаков и написания слов в ASCII-тексте. Она разработана на базе mT5-small и дообучена на новостных предложениях из набора TR-News; архитектура — MT5ForConditionalGeneration, размер — 157,4 млн параметров. Модель принимает текст с префиксом «şapka: » и преобразует его в текст с турецкими буквами и апострофами, например: «Ahmet Yilmaz Istanbulda» → «Ahmet Yılmaz İstanbul'da».

Hemlock-Apothecary-7B-GRPO-e3 — дообученная методом GRPO модель на базе hemlang/Hemlock-Apothecary-7B, разработанная для генерации и решения задач по программированию с проверкой выполнения кода. Это плотная причинная языковая модель архитектуры Qwen2 с 7,1 млрд параметров и контекстом 32 768 токенов; доступны веса Safetensors и квантованный вариант GGUF Q8_0. Обучение проводилось с LoRA на датасете hemlang/hemlock-codex3-SFT с наградой за успешное выполнение кода. Модель рассчитана на сценарии, где можно сгенерировать несколько вариантов решения и проверить их интерпретатором. В приведённом бенчмарке pass@5 составил 71,1% против 68,4% у базовой модели, тогда как pass@1 ниже: 52,6% против 60,5%. Поэтому она подходит для перебора кандидатов с автоматической проверкой, но менее надёжна при генерации единственного ответа. Лицензия — Apache-2.0.

hotchpotch разработала japanese-splade-base-v1 — японскую модель SPLADE для поиска по тексту. Она преобразует текст в разреженные векторы с лексическим расширением, подходящие для построения поискового индекса и извлечения релевантных документов. В основе — дообученная BERT-модель tohoku-nlp/bert-base-japanese-v3 с архитектурой BertForMaskedLM; модель содержит 138,4 млн параметров и обрабатывает контекст до 512 токенов. Модель предназначена для японского информационного поиска и retrieval-сценариев. В README приведены оценки на JMTEB, JaCWIR и JQaRA; для части наборов данных отмечено обучение на доменных данных, поэтому результаты на них могут не отражать качество на новых доменах. При запуске через text-embeddings-inference автор рекомендует использовать отдельный fast tokenizer. Лицензия — MIT.

NVIDIA Kimi-K2.7-Code DFlash — вспомогательная модель типа draft head для ускорения вывода Moonshot AI Kimi-K2.7-Code с помощью спекулятивного декодирования DFlash и Model Optimizer. Она предназначена для разработчиков агентных систем, помощников по программированию и программных копилотов, а также для обычных задач следования инструкциям, где важно снизить задержку генерации. Модель использует трансформерную архитектуру; в метаданных указаны семейство Qwen3 и класс DFlashDraftModel, а в карточке — архитектура DeepSeek V3. Размер этой модели в метаданных указан как 4,2 млрд параметров; для базовой Kimi-K2.7-Code карточка приводит 1 трлн параметров всего и 32 млрд активных. Контекст составляет 262 144 токена. Карточка заявляет поддержку текстового, графического и видеовхода и генерацию текста; для запуска указаны vLLM и NVIDIA Blackwell B200. Обучение DFlash-модулей использовало синтетические ответы целевой модели на многоязычные запросы по программированию, математике, STEM и общим темам. Карточка заявляет возможность коммерческого и некоммерческого использования, а также указывает NVIDIA Open Model License и модифицированную MIT License для Kimi-K2.7-Code; перед использованием следует проверить применимые условия лицензий. DFlash — компонент спекулятивного декодирования, поэтому его применение предполагает совместимую базовую модель и конфигурацию сервинга.

Модель davanstrien/lfm25-encoder-agnews-smoke — дообученный энкодер LiquidAI/LFM2.5-Encoder-350M для однозначной классификации новостных текстов. Она относит статьи к одной из четырёх категорий: World, Sports, Business или Sci/Tech. Модель содержит 444,6 млн параметров, использует архитектуру lfm2 с классификационной головой и работает с текстом; базовый энкодер поддерживает контекст до 128 000 токенов. Чекпойнт предназначен для экспериментов с классификацией новостей и воспроизведения оценки на AG News. В карточке указаны accuracy 0,7575 и macro-F1 0,7568. Для загрузки через Transformers требуется trust_remote_code=True из-за пользовательской классификационной головы с mean pooling. Лицензия в предоставленных данных не указана.

Jeevesh8/lp1e-3_ft_corr_init_shuff_clipped_warmed_wd0_pnt_01_seq_len_128_bert-base-uncased_mnli_ft_35 — модель классификации текста, опубликованная пользователем Jeevesh8 на Hugging Face. Она основана на архитектуре BERT и связана с bert-base-uncased и задачей MultiNLI, а также предназначена для использования с библиотекой Transformers и JAX. Модель содержит около 136,7 млн параметров и поддерживает контекст до 512 токенов. Её назначение — классификация текстовых входов по классам, определённым при дообучении; по имени модели можно заключить, что при обучении использовались последовательности длиной 128 токенов и набор MultiNLI. Сильной стороной является компактность по сравнению с крупными языковыми моделями и совместимость с экосистемой BERT/Transformers. Модель не предназначена для генерации текста, обработки изображений или универсального диалога. Точные метки классов, качество на отдельных наборах данных, поддерживаемые естественные языки и лицензия по доступным данным не установлены.

MATPAC++ — аудиоэнкодер для получения представлений звука, разработанный авторами проекта MATPAC. Эта версия обучена на наборе AudioSet и предназначена для извлечения эмбеддингов общего аудио, которые можно использовать в последующих задачах классификации и анализа звука. Модель использует архитектуру ViT-Base с 12 слоями и размерностью 768. Она принимает монофоническое аудио с частотой дискретизации 16 кГц, преобразованное в логарифмические мел-спектрограммы, и выдаёт эмбеддинги размерностью 3840. Для классификации на конкретных наборах задач требуются отдельные веса линейных проб, которые не входят в этот энкодер. Репозиторий содержит порт для Transformers с `trust_remote_code`; для запуска нужны дополнительные зависимости `torchaudio`, `einops` и `timm==0.4.12`. Модель распространяется по лицензии Apache-2.0. Она предназначена для представления аудио, а не для распознавания речи или генерации звука; качество на конкретной задаче зависит от подходящей downstream-модели или обученной линейной пробы.

WizardCoder-SCoT-1B-V1.0 — языковая модель для генерации кода, созданная группой 1 проекта ML4SE в TU Delft. Это дообученная версия WizardCoder-1B-V1.0 на наборе примерно из 1200 примеров Evol-Instruct, дополненных структурированными инструкциями Chain-of-Thought (S-CoT). Архитектура — GPTBigCode с плотной causal language model; формат весов — PyTorch, размер — около 1 млрд параметров, контекст — до 8192 токенов. Модель предназначена для генерации программного кода по текстовым инструкциям и экспериментов с влиянием S-CoT на решение задач программирования. В README приведено сравнение на HumanEval и MBPP: результаты pass@1 ниже, чем у исходной WizardCoder-1B-V1.0 на обычных версиях этих тестов, поэтому качество следует оценивать на целевых задачах. Лицензия в предоставленных данных не указана.

cirimus/modernbert-base-emotions — англоязычная модель классификации эмоций, созданная дообучением ModernBERT-base на наборе Super Emotion с использованием Hugging Face Transformers. Она относит текст к семи категориям: радость, грусть, гнев, страх, любовь, нейтральность и удивление. Модель содержит 149 млн параметров, использует архитектуру ModernBERT для классификации последовательностей и поддерживает контекст до 8192 токенов. Модель предназначена для анализа эмоциональной окраски сообщений в социальных сетях и отзывов клиентов, а также для исследований поведения и психологии. В карточке приведены результаты оценки на объединённой тестовой выборке, включая macro F1 0,836; метрика не гарантирует такое же качество на других данных. Модель хуже распознаёт тонкие или косвенные выражения эмоций и может ошибаться на многофразовом контексте; результаты также зависят от смещений и распределения классов в обучающих данных. Лицензия — CC-BY-4.0.

Карточка модели NousResearch/NousCoder-14B на Hugging Face совпадает с карточкой KyrlG/NousCoder-14B, поэтому описание составлено по ней. NousCoder-14B — языковая модель для генерации кода и решения задач по программированию, разработанная на базе Qwen3-14B. Авторы дообучили её с помощью обучения с подкреплением на 24 тысячах задач с проверяемыми решениями. Это плотная авторегрессионная модель с 14 млрд параметров; для хранения используются файлы Safetensors, а контекст составляет до 81 920 токенов. Модель предназначена для задач соревновательного программирования: она генерирует код и помогает решать алгоритмические задачи в диалоговом режиме. В README указана точность Pass@1 67,87% на LiveCodeBench v6, что на 7,08 процентного пункта выше результата базовой Qwen3-14B на этом тесте. Поддерживается интерфейс вызова инструментов. Лицензия — Apache-2.0.

askalgore/Phi-4-mini-reasoning-heretic — производная версия Phi-4-mini-reasoning от Microsoft, обработанная методом abliteration для снижения частоты отказов. Это компактная трансформерная языковая модель с архитектурой Phi3ForCausalLM, 3,8 млрд параметров и контекстом 4096 токенов; опубликована в формате safetensors и рассчитана на запуск через Transformers. Модель предназначена прежде всего для многошагового математического рассуждения, логических задач, символьных вычислений и генерации формальных доказательств в условиях ограниченных ресурсов. В README приведено сравнение с исходной моделью: частота отказов снизилась с 80 до 14 из 100 запросов, а KL-дивергенция составила 17,38. Модель поддерживает диалог и генерацию кода; основной язык карточки — английский. Лицензия — MIT. Модель ориентирована на математическое рассуждение и не оценивалась для всех возможных прикладных задач. Из-за небольшого размера она может ошибаться в фактах; её ответы следует проверять, особенно в критически важных сценариях.

pii-layout-synth-v10 — дообученная на неизвестном наборе данных модель answerdotai/ModernBERT-base для классификации токенов. Она предназначена для разметки последовательностей текста; название модели указывает на возможную связь с синтетическими данными о расположении персональной информации, но README не подтверждает это назначение. Модель содержит 149 млн параметров, использует архитектуру ModernBERT и формат safetensors, работает через Transformers и поддерживает контекст до 8192 токенов. В README приведены результаты оценки: F1 0,9931, точность 0,9986, precision 0,9913 и recall 0,9949; набор данных и методика оценки не раскрыты. Лицензия — Apache-2.0.

pii-layout-synth-v11 — модель на базе ModernBERT-base, дообученная для классификации токенов. По названию репозитория она предназначена для синтетической разметки персональных данных с учётом структуры макета, однако README не раскрывает назначение подробнее. Модель содержит 149 млн параметров, использует архитектуру ModernBERT и принимает последовательности текста с контекстом до 8192 токенов. В README приведены результаты на оценочном наборе: F1 0,9926, точность 0,9907, полнота 0,9945 и accuracy 0,9987. Датасет и условия оценки не описаны, поэтому эти показатели не позволяют судить о качестве на других данных. Модель распространяется по лицензии Apache-2.0.

Quill 1 Preview — компактная модель семейства Minsore, разработанная для автодополнения кода Python в редакторах. Она дообучена методом QLoRA на базе Qwen/Qwen2.5-Coder-0.5B-Instruct и предназначена прежде всего для заполнения пропусков в коде по префиксу и суффиксу (Fill-in-the-Middle, FIM), а не для диалогов с пользователем. Модель семейства Qwen2 с архитектурой Qwen2ForCausalLM содержит около 494 млн параметров. Она принимает текстовый контекст кода и генерирует текстовое продолжение; репозиторий включает GGUF F16, GGUF Q4_K_M и safetensors. Для Q4_K_M заявлен размер около 400 МБ и работа на потребительском оборудовании. В метаданных указан контекст 32 768 токенов, тогда как README сообщает о контексте 1 024 токена и обрезке длинных файлов, поэтому фактическое ограничение зависит от используемой версии или конфигурации. Основной сценарий — интерактивное дополнение функций и фрагментов Python. В README приведены результаты тестов FIM и генерации кода, однако они не гарантируют качество на произвольных проектах. Известные ограничения: модель не предназначена для чата, может добавлять тесты после функции, повторять большие числа и ошибаться при использовании незнакомых API; обучающие данные ориентированы на Python. Лицензия — Apache 2.0.