II.8Инженерия данных и аналитика

Apollo-v1-7b — языковая модель на архитектуре Mistral с 7,1 млрд параметров, представленная nextai-team. Она создана на основе Mistral-7b-Instruct-0.2 и предназначена для ответов на вопросы и запросы, связанные с программированием. Модель принимает текст и генерирует текст; максимальная длина контекста составляет 32 768 токенов. Модель подходит для помощи в написании и проверке кода, технической поддержки и обучения программированию. Карточка указывает на слияние моделей семейства Mistral, но метаданные классифицируют происхождение как дообучение базовой модели. Доступна по лицензии CC BY-NC 4.0, которая не разрешает коммерческое использование. Модель может наследовать предвзятости обучающих данных и хуже отвечать на вопросы за пределами своей области обучения. Результаты следует критически проверять, особенно при использовании в чувствительных или критически важных сценариях.

hlyu/basemodel_8MSE_2dotxuan — модель на базе BERT, подготовленная в формате Sentence Transformers для получения плотных векторных представлений предложений и абзацев. Она преобразует текст в эмбеддинги размерностью 768 и подходит для семантического поиска и кластеризации. Модель содержит 61,2 млн параметров, имеет контекстное окно до 512 токенов и распространяется в формате PyTorch. Модель можно использовать в конвейерах поиска и сравнения текстов, а также для группировки семантически близких фрагментов. README указывает на обучение с функцией потерь MSELoss. Языки обучения и применения и лицензия в предоставленных данных не указаны.

BerkeliumGPT2-Coder-3b — дообученная на коде модель генерации текста на архитектуре Qwen2.5 с 3,1 млрд параметров. Разработчик обучал её на наборе BerkeliumCoding, составленном из 176 репозиториев с разрешительными лицензиями. Модель предназначена для генерации кода и диалоговой работы с запросами о программировании. Модель распространяется в формате SafeTensors с точностью bfloat16 и поддерживает запуск через Apple MLX и Transformers; в метаданных также указана совместимость с vLLM. Карточка README указывает контекст 4096 токенов, тогда как метаданные каталога — 32768 токенов, поэтому фактическую длину контекста следует проверять для используемой конфигурации. Лицензия — Apache-2.0.

jegormeister/bert-base-dutch-cased — модель Sentence-Transformers на базе BERT, обученная для получения векторных представлений предложений и абзацев на нидерландском языке. Она кодирует текст в плотные векторы размерностью 256 и подходит для семантического поиска, сравнения сходства и кластеризации текстов. Модель содержит 136,3 млн параметров, принимает текстовые входы с контекстом до 512 токенов и распространяется в формате PyTorch. При обучении использовалась функция MultipleNegativesRankingLoss с косинусным сходством. Для работы доступны Sentence-Transformers и Transformers; при использовании Transformers поверх выходов трансформера требуется применить подходящий pooling. Модель предназначена для построения эмбеддингов, а не для генерации текста. В README не названа лицензия, поэтому условия использования по имеющимся сведениям определить нельзя.

emersoftware/beto-mlm-bcn-mnrl-msmarco-es-v2 — модель Sentence-Transformers на архитектуре BERT с 137,1 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, сравнения текстов и кластеризации. Модель обучалась с MultipleNegativesRankingLoss и косинусным сходством; в карточке также заявлена поддержка извлечения признаков и сходства предложений. Максимальный контекст — 512 токенов. Модель рассчитана на работу с испанскими текстами, о чём говорит её идентификатор, связанный с BETO и MS MARCO на испанском языке. Для использования подходят Sentence-Transformers или Transformers с соответствующей операцией pooling. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

Amanda/bge_portuguese_v4 — модель Sentence Transformer на архитектуре XLM-RoBERTa, обученная для преобразования предложений и абзацев в плотные эмбеддинги размерности 1024. В карточке не указано, кто именно обучил модель. Она использует CLS-пулинг и нормализацию векторов, а сходство текстов можно оценивать косинусным сходством; максимальная длина последовательности — 8192 токена. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразирований, кластеризации и классификации текста. Репозиторий содержит веса в формате safetensors; для работы используется библиотека Sentence Transformers. По названию модель ориентирована на португальский язык. Лицензия в доступных данных не указана.

teven/bi_all_bs320_vanilla_finetuned_WebNLG2020_relevance — модель эмбеддингов на архитектуре MPNet, созданная на базе Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для оценки семантической близости, поиска и кластеризации текстов. Модель содержит 136,7 млн параметров, принимает текст и имеет контекст до 514 токенов. Модель дообучена с использованием CosineSimilarityLoss; название указывает на обучение для оценки релевантности на данных WebNLG2020. Подходит для семантического поиска и ранжирования текстовых фрагментов по сходству. Опубликована в формате PyTorch. Лицензия в предоставленных данных не указана.

BigCodeLlama-92b — текстовая модель семейства Llama, созданная nisten объединением CodeLlama-70b-Instruct и CodeLlama-70b-Python. Она предназначена для генерации кода и диалоговой помощи при программировании. Архитектура — плотная LlamaForCausalLM; размер — 91,8 млрд параметров, контекст — 2048 токенов. Модель принимает текст и генерирует текст. Репозиторий распространяется по лицензии MIT. В карточке указана возможность получить вариант GGUF, однако основной формат репозитория — safetensors.

Chronos-Bolt Base — предварительно обученная модель прогнозирования временных рядов от Amazon. Она построена на архитектуре T5 encoder-decoder, содержит 99,1 млн параметров и принимает исторические значения ряда, разбивая их на патчи. Модель напрямую строит многокроковый вероятностный прогноз в виде квантилей; длина контекста — до 512 наблюдений. Модель предназначена для zero-shot прогнозирования без дообучения на целевых рядах. Её можно применять для прогнозирования спроса, нагрузки и других числовых показателей; README также указывает поддержку ковариат при развертывании через SageMaker. По заявлению разработчиков, Chronos-Bolt быстрее и экономнее по памяти исходных Chronos сопоставимого размера и показывает высокое качество на наборе из 27 датасетов. Модель распространяется в формате safetensors под лицензией Apache-2.0.

CodeGemma 1.1 7B IT — инструкция-дообученная языковая модель Google из семейства Gemma, предназначенная для программирования. Это декодерная модель с 7 млрд параметров; она принимает текстовые запросы и генерирует код или ответы на естественном языке. Модель рассчитана на диалог о коде, выполнение инструкций и генерацию программ по текстовому описанию. Модель подходит для ответов на вопросы по фрагментам кода, генерации кода по описанию, обсуждения технических задач и интерактивного обучения программированию. Для использования в диалоге следует применять встроенный шаблон чата токенизатора. В README указано, что для автодополнения кода в IDE рекомендуются предварительно обученные варианты CodeGemma. Модель обучена на базе Gemma и дополнительно на данных из открытых репозиториев кода, математических наборов данных и синтетически созданного кода; обучающие данные преимущественно англоязычные. Лицензия — Gemma. Как и другие большие языковые модели, она может ошибаться; подробности ограничений отсылаются к карточке Gemma.

CodeGemma 7B IT — инструкция-дообученная модель для кода, разработанная Google на основе Gemma. Это декодерная языковая модель с 7 млрд параметров, принимающая текстовые запросы и генерирующая код или текст. Она предназначена для ответов на вопросы о коде, генерации программ по описанию на естественном языке и диалогов о программировании и технических задачах. Модель подходит для разговорных помощников по программированию, обучения и практики написания кода, а также для исправления синтаксиса и генерации кода в IDE. Для автодополнения кода в редакторе Google рекомендует предварительно обученные варианты CodeGemma, а не эту инструкционную версию. Модель работает через Transformers и поставляется в формате safetensors; для диалога следует применять шаблон чата из токенизатора. Обучающие данные включают преимущественно англоязычные публичные репозитории кода, открытые математические наборы данных и синтетически созданный код. Модель может ошибаться, поскольку наследует общие ограничения больших языковых моделей и ограничения, описанные для Gemma. Лицензия — Gemma; использование регулируется условиями Google.

LazarusNLP/congen-indobert-base — модель эмбеддингов предложений на основе BERT, опубликованная LazarusNLP. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, сравнения смысловой близости и кластеризации текстов. Для работы используется библиотека Sentence Transformers; модель содержит 151,6 млн параметров и принимает последовательности длиной до 512 токенов. Модель обучена с функцией потерь ConGenLoss. В карточке указан индонезийский язык. Веса доступны в форматах PyTorch и Safetensors. Лицензия в предоставленных данных не указана.

facebook/contriever-msmarco — дообученная модель семейства Contriever на основе BERT, разработанная Facebook. Она предназначена для плотного семантического поиска и извлечения признаков текста: преобразует входной текст в векторное представление, которое можно использовать для поиска релевантных документов. Для получения эмбеддинга предложения при работе через Hugging Face Transformers требуется усредняющий mean pooling. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате PyTorch. Она дообучена по подходу контрастивного обучения для плотного поиска информации. Лицензия в предоставленных данных не указана.

Модель teven/cross_all_bs192_hardneg_finetuned_WebNLG2020_data_coverage — модель Sentence-Transformers на архитектуре MPNet, разработанная пользователем teven. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска и кластеризации. Модель содержит 136,7 млн параметров и принимает текст; контекст составляет до 514 токенов. Репозиторий содержит веса PyTorch. Сведения о лицензии и конкретных языках в предоставленных данных отсутствуют.

deepseek-ai/deepseek-coder-33b-base — базовая языковая модель для кода, разработанная DeepSeek и обученная с нуля. Она содержит 33,1 млрд параметров, использует плотную архитектуру Llama с Grouped-Query Attention и принимает контекст длиной до 16 384 токенов. Модель обучена на 2 трлн токенов: 87% корпуса составляют программный код, а 13% — естественный язык на английском и китайском. Предназначена для генерации и продолжения кода, заполнения пропусков и дополнения кода на уровне проекта. README сообщает о результатах на HumanEval, MultiPL-E, MBPP, DS-1000 и APPS, но эти результаты не гарантируют качество для конкретного языка программирования или сценария. Модель распространяется в форматах PyTorch и Safetensors. В метаданных лицензия указана как «other»; условия использования следует сверить с лицензией в репозитории DeepSeek-Coder.

Это адаптированная для запуска и дообучения в актуальной версии Transformers копия DeepSeek-OCR-2 от Unsloth. Она основана на DeepSeek-OCR-2 от DeepSeek и использует плотную архитектуру Deepseek-VL-v2 с классом DeepseekOCR2ForCausalLM; в репозитории указано 559,7 млн параметров и формат safetensors. Изображения обрабатываются с динамическим разрешением: карточка описывает режим с несколькими кадрами 768×768 и дополнительным изображением 1024×1024. Контекст модели составляет 8192 токена. Модель предназначена для распознавания текста и анализа документов по изображениям, включая сценарии обработки PDF. Для запуска README приводит конфигурацию на базе Transformers и NVIDIA GPU; также упоминается ускорение инференса через vLLM. Поддерживается многоязычное применение, однако конкретный перечень языков не приведён. Заявлено, что адаптация загрузки не меняет точность. Модель распространяется по лицензии Apache-2.0. README не приводит оценок качества или подробных ограничений; для указанного сценария требуются GPU и зависимости из инструкции по запуску.

DeepSeek-R1-0528-Qwen3-8B-GGUF — версия модели DeepSeek-R1-0528, разработанной DeepSeek AI и дистиллированной на базовую Qwen3 8B. Модель ориентирована на задачи, требующие рассуждений: решение математических задач, программирование, логический анализ, общие вопросы, работу с инструментами и function calling. Формат GGUF предназначен для локального запуска в совместимых средах, однако конкретный вариант квантования в предоставленных данных не указан. Модель содержит 8 млрд параметров и основана на Qwen3 8B, дообученной на цепочках рассуждений DeepSeek-R1-0528. Согласно карточке, она показывает высокие результаты среди открытых моделей в AIME 2024 и превосходит исходную Qwen3 8B на 10 процентных пунктов. При этом точные характеристики контекстного окна, поддерживаемые языки, модальности и показатели по другим тестам для этой 8B-версии не приведены. Лицензия — MIT.

DeepSeek-R1-Distill-Llama-8B — плотная языковая модель семейства Llama, разработанная DeepSeek и дообученная на примерах рассуждений, созданных DeepSeek-R1. Она предназначена для генерации текста с акцентом на решение математических задач, программирование и многошаговые рассуждения; также поддерживает диалоговый режим. Модель содержит 7,5 млрд параметров и имеет контекст до 131 072 токенов. Модель основана на Llama-3.1-8B. В README указано, что конфигурации и токенизатор были слегка изменены, поэтому для ожидаемого качества рекомендуется использовать настройки из карточки модели. Метаданные указывают формат safetensors, библиотеку Transformers и лицензию MIT. Модель может генерировать длинные цепочки рассуждений; качество конкретных ответов зависит от задачи и настроек генерации.

Microsoft DiT base — модель классификации изображений документов на архитектуре трансформера-энкодера BEiT. Она предварительно обучена на 42 миллионах изображений документов IIT-CDIP и дообучена на RVL-CDIP: 400 тысячах изображений в градациях серого, размеченных по 16 классам. В модели около 119,5 млн параметров. Модель предназначена для отнесения изображения документа к классу, а также может использоваться для извлечения векторных признаков документов и дообучения для задач анализа макета или обнаружения таблиц. Изображение разбивается на патчи 16×16, которые обрабатывает трансформер-энкодер. Карточка не указывает лицензию; условия использования следует проверить в репозитории модели.

MaziyarPanahi/dolphin-2.6-mistral-7b-Mistral-7B-Instruct-v0.1 — чат-модель генерации текста, созданная слиянием Mistral-7B-Instruct-v0.1 и dolphin-2.6-mistral-7b методом SLERP. Это плотная авторегрессионная модель семейства Mistral на 7,1 млрд параметров; она принимает инструкции и диалоговые запросы и генерирует текстовые ответы. Указанное в метаданных окно контекста — 32 768 токенов. Модель ориентирована на общие диалоговые задачи и ответы на инструкции; теги карточки также указывают англоязычные данные и наборы для задач программирования. Модель распространяется в формате safetensors и имеет лицензию Apache-2.0. Качество и поведение зависят от формулировки запроса и данных слияния; конкретные результаты на бенчмарках в карточке не приведены.

Это подготовленная для CPU версия Falcon-OCR v1.5 от amazingvince, основанная на дообученной модели tiiuae/Falcon-OCR. Она предназначена для распознавания текста на изображениях страниц документов через Rust CPU runner; репозиторий содержит веса в формате safetensors, разложенные под вычислительные ядра этого runner, и не является checkpoint-ом для Transformers. Доступны режим near-exact с 16-битными весами и KV-кэшем, а также fast с 8-битной GPTQ-квантизацией. Дополнительная EAGLE-3-подобная draft head ускоряет декодирование спекулятивным поиском, не меняя подтверждённые токены. Модель работает на x86-64 с AVX2 или AVX-512, ARM64 с NEON и имеет скалярный запасной вариант. На английских печатных документах README сообщает о близком совпадении near-exact с FP32; fast режим быстрее, но на рукописных и ухудшенных сканах может вызывать циклы повторов. Описанные замеры относятся к ограниченным наборам страниц и не гарантируют такое же качество на других данных. Лицензия репозитория — Apache-2.0.

FuseAI/FuseChat-Qwen-2.5-7B-Instruct — разговорная языковая модель FuseAI на архитектуре Qwen2 с 7,1 млрд параметров и контекстом до 32 768 токенов. Это целевая модель семейства FuseChat-3.0, обученная методом неявного слияния: сначала её дообучили на лучших ответах сильных языковых моделей, затем применили Direct Preference Optimization (DPO) к парам предпочтительных и менее предпочтительных ответов. В качестве источников использовались Gemma-2-27B-It, Mistral-Large-Instruct-2407, Qwen-2.5-72B-Instruct и Llama-3.1-70B-Instruct. Модель предназначена для диалога, следования инструкциям, решения математических задач и помощи с кодом; обучение также включало китайскоязычные данные. Подходит для локального запуска в формате Safetensors, а метаданные отмечают интерфейс вызова инструментов. README сообщает об улучшениях на ряде бенчмарков, однако приведённые там конкретные приросты относятся к версии с целевой моделью Llama-3.1-8B и не подтверждают такие же результаты для этой версии. Лицензия в предоставленных данных не указана.

GLiClass Small v1.0 Init — компактная модель классификации последовательностей семейства GLiClass, разработанная Knowledgator. Она выполняет классификацию текста по заданным категориям в режиме zero-shot без дополнительного дообучения на прикладных наборах данных. Модель предназначена для тематической классификации и анализа тональности, а также может использоваться для ранжирования документов в RAG-конвейерах. Модель обучена на синтетических данных MoritzLaurer/synthetic_zeroshot_mixtral_v0.1. В README для варианта small указано 144 млн параметров; заявлено, что классификация выполняется за один проход и требует меньше вычислений, чем cross-encoder. Репозиторий содержит веса в форматах Safetensors и ONNX. Карточка указывает английский язык и лицензию Apache-2.0, допускающую коммерческое использование. В приведённых zero-shot тестах на IMDB, AG_NEWS и Emotions вариант small показал F1 0,8650, 0,6805 и 0,4664 соответственно.

GLM-5.2-Demolition-q4a4-soul-MLX — локальная MLX-версия модели GLM-5.2 от zai-org, подготовленная Philip John Basile. Это экспериментальная разреженная и квантованная сборка Mixture-of-Experts: исходная модель имеет 744 млрд параметров при 39 млрд активных, а в данном варианте сохранено около 23% экспертов. Корневые веса занимают примерно 104,89 ГБ и используют 4-битное квантование; модель рассчитана на запуск на одном Apple M5 Max с 128 ГБ памяти через MLX. Основное назначение — генерация и анализ кода в Python, TypeScript, JavaScript, Rust, Go, HTML, CSS, SQL и Postgres без привязки к фреймворкам. Поддерживаются дополнительные LoRA-адаптеры («souls») для искусства, музыки, дизайна, парфюмерии, науки, безопасности, разработки игр, full-stack-разработки, математики, визуализации данных, прозы, архитектуры и исследований. Заявленный язык модели — английский; размер контекста в карточке не указан. Сильные стороны модели — специализированная работа с ванильным кодом, возможность подключать предметные адаптеры и относительно компактный для исходной архитектуры запуск на одном Apple Silicon-компьютере. На HumanEval-164 заявлен результат pass@1 69,5% (114 из 164) в однократном запуске с проверкой скрытыми тестами. Ограничения включают намеренное ухудшение способностей к общим знаниям и trivia из-за pruning, экспериментальный характер рецепта, отсутствие доказательств превосходства над полноразмерной моделью и скорость около 11–14 токенов в секунду. Лицензия — MIT.

lunahr/Hermes-3-Llama-3.2-3B-abliterated — это изменённая версия Hermes 3 3B, диалоговой языковой модели Nous Research на архитектуре Llama с 3,2 млрд параметров. В основе лежит NousResearch/Hermes-3-Llama-3.2-3B, дообученная на базе Llama-3.2 3B; этот вариант описан как abliterated. Модель использует формат диалога ChatML и рассчитана на контекст до 131 072 токенов. Модель предназначена для многоходового общения и следования инструкциям, а также для генерации кода, ролевых диалогов, структурированных JSON-ответов и вызова функций. Метаданные указывают поддержку английского языка; модель работает с текстом на входе и генерирует текст. В README для Hermes 3 заявлены улучшения в рассуждениях, согласовании с запросами пользователя, связности на длинном контексте и агентных сценариях. При работе с вызовом функций нужно учитывать описанное автором отклонение в формате: ответы инструмента передаются в роли user, что требует адаптации кода интеграции. Модель распространяется по лицензии Llama 3.

Карточка модели kkh975/klue-reberta-base-klue-sts-mrc на Hugging Face совпадает с карточкой dyryu/klue_roberta-base-klue-sts, поэтому описание составлено по ней. dyryu/klue_roberta-base-klue-sts — модель Sentence-Transformers на архитектуре RoBERTa, разработчик которой не уточнён в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 137,8 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Для работы доступны веса в формате safetensors и библиотека sentence-transformers. При обучении использовалась функция потерь CosineSimilarityLoss. Метаданные указывают задачи sentence-similarity и feature-extraction; основное назначение для пользователя — поиск семантически похожих предложений. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.

Модель nielsr/layoutlmv2-finetuned-funsd разработана на основе microsoft/layoutlmv2-base-uncased и дообучена на наборе FUNSD для классификации токенов в документах. Архитектура LayoutLMv2 сочетает текст, изображение документа и расположение текстовых фрагментов; модель содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. Основной сценарий — извлечение и разметка сущностей в формах и других документах, подобных примерам FUNSD. Модель подходит для выделения полей и элементов текста на изображении документа, но качество на иных типах документов и языках может отличаться; сведений об оценках качества в карточке нет. Веса доступны в форматах PyTorch и Safetensors. Лицензия в предоставленных данных не указана.

Это модель понимания структуры документов на базе LiLT с энкодером XLM-RoBERTa, дообученная Пьером Гийу на наборе DocLayNet. Она классифицирует строки документа по типам элементов макета: заголовок, основной текст, таблица, изображение, формула, подпись, колонтитул, элемент списка и другие классы. Модель предназначена для разметки страниц PDF и других документов на уровне строк; при обучении использовались фрагменты по 384 токена с перекрытием 128 токенов. Размер модели — 305,2 млн параметров, контекст — 514 токенов. В оценке на DocLayNet точность классификации строк составила 91,97%, а F1 для токенов — 0,8584. Она подходит для извлечения структуры финансовых отчётов, научных статей, инструкций, законов и других документов, помогая направлять последующий OCR и разбор содержимого. Поддерживаются английский, немецкий, французский и японский языки; разметка использует текст и геометрию документа. Лицензия — MIT.

Llama-3-8B-Magpie-Align-SFT-v0.2 — разговорная языковая модель, дообученная командой Magpie-Align на базе meta-llama/Meta-Llama-3-8B. Для обучения использованы наборы Magpie-Pro-MT-300K-v0.1 и Magpie-Reasoning-150K с примерами математики, программирования и рассуждений. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 8192 токенов. Модель предназначена для ответов на инструкции и диалоговых сценариев, включая задачи на рассуждение, математику и код. В README сообщаются результаты на MT-Bench, Alpaca Eval 2 и Arena Hard, но они не гарантируют качество на конкретных запросах. Для лучшей работы рекомендуется официальный шаблон чата Llama 3. Модель рассчитана прежде всего на английский язык. Распространяется по лицензии Meta Llama 3 Community License; применяются условия этой лицензии.

Карточка модели avsolatorio/MixEmbedFinetune-base-20240122103941-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.