II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейLlama-3-Refueled (RefuelLLM-2-small) — языковая модель Refuel AI на архитектуре Llama 3, дообученная для следования инструкциям. Она предназначена для генерации текста и выполнения NLP-задач, включая классификацию, ответы на вопросы по прочитанному, извлечение атрибутов в структурированном виде и разрешение сущностей. Модель принимает и выдаёт только текст; её контекст составляет 8192 токена, размер — 7,5 млрд параметров. Обучение охватывает более 2750 задач и свыше 4 млрд токенов, с использованием аннотированных, синтетических и собственных или лицензированных Refuel AI данных. Модель рассчитана на англоязычные сценарии и доступна в формате safetensors для Transformers. Лицензия CC BY-NC 4.0 запрещает коммерческое использование. В README отмечено отсутствие встроенных механизмов модерации, поэтому модель может выдавать немодерированный контент.
m51Lab выпустила эту разреженную языковую модель 15 апреля 2026 года как вариант MiniMax-M2.7, в котором методом REAP удалено 40 % экспертов в блоках Mixture-of-Experts. Модель содержит около 139 млрд параметров, из которых примерно 10 млрд активны на каждом токене; в архитектуре 62 слоя. По метаданным, она загружается через Transformers и имеет контекст до 196 608 токенов. Модель предназначена для генерации текста в диалоговом режиме, включая написание кода, математические и научные рассуждения и вызовы инструментов. В README приведён результат HumanEval pass@1 83,3 % для завершённых задач при бюджете генерации 32 тыс. токенов; при строгом подсчёте всех 164 задач результат составляет 54,9 %, поскольку незавершённые решения учитываются как ошибки. Для воспроизведения указанной оценки рекомендуется выделять не менее 64 тыс. токенов генерации. README описывает также небольшой дефект коррекции смещений одного слоя; по данным карточки, его влияние на маршрутизацию незначительно. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией и файлами репозитория. README описывает вариант после структурного прореживания, а метаданные классифицируют связь с MiniMax-M2.7 как finetune; формат файлов в метаданных — safetensors.
MistralHermes-CodePro-7B-v1 — дообученная модель семейства Mistral, созданная на основе teknium/OpenHermes-2.5-Mistral-7B. По карточке, модель дополнительно обучена на наборе из более чем 200 тысяч примеров кода на разных языках программирования и предназначена для помощи в задачах разработки. Она использует архитектуру MistralForCausalLM с 7,1 млрд параметров, принимает текстовые запросы и генерирует текст; контекст составляет до 32 768 токенов. Модель ориентирована на диалоговый формат OpenHermes 2.5 и поддерживает следование инструкциям. Репозиторий содержит веса PyTorch и Safetensors; лицензия — MIT. Карточка рекомендует использовать LM Studio для общения с моделью.
facebook/mms-lid-1024 — модель Meta, разработанная Vineel Pratap и соавторами в рамках проекта Massively Multilingual Speech (MMS). Это аудиоклассификатор на архитектуре Wav2Vec2 с примерно 1,3 млрд параметров, предназначенный для определения языка по речи: модель относит входной аудиосигнал к одному из 1024 поддерживаемых языков. Принимает аудио с частотой дискретизации 16 кГц и возвращает метку языка; среди поддерживаемых языков есть русский, английский, арабский и многие другие. Модель подходит для предварительной маршрутизации аудиозаписей по языкам, сортировки многоязычных речевых коллекций и выбора языка для последующей транскрибации. Это не модель распознавания речи и сама по себе она не создаёт текстовую расшифровку. Для использования необходимы совместимое аудиопредставление и обработка результата как классификационной метки. Лицензия CC-BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
MPropositioneur-V2-large — языковая модель на основе Qwen3-4B, дообученная дистилляцией для извлечения атомарных пропозиций. Разработана Люком Поммере в LISN (CNRS); содержит около 3,7 млрд параметров и использует архитектуру Qwen3 с плотной языковой моделью. Принимает текст и генерирует список простых, независимых утверждений, сохраняя смысл исходного предложения или фрагмента. Контекст модели — до 40 960 токенов. Модель предназначена для подготовки данных для RAG, открытого извлечения информации (OpenIE), упрощения текста и анализа дискурса. По карточке она поддерживает французский и английский; метаданные также перечисляют немецкий, итальянский, испанский и португальский. Сравнительно с версией 0.6B, автор заявляет о более высокой точности передачи смысла и лучшей работе со сложными структурами предложений. Распространяется по лицензии Apache-2.0.
AIDA-UPM выпустила многоязычную модель эмбеддингов предложений на базе XLM-RoBERTa. Модель дообучена на расширенном до 15 языков наборе STSb и кодирует предложения и абзацы в плотные векторы размерности 768 для оценки семантического сходства, семантического поиска и кластеризации. Для получения эмбеддинга предложения применяется mean pooling. Модель поддерживает арабский, чешский, немецкий, английский, испанский, французский, хинди, итальянский, японский, нидерландский, польский, португальский, русский и турецкий языки, а также варианты китайского zh-CN и zh-TW. Контекст составляет до 514 токенов. В опубликованном сравнении средняя корреляция Спирмена по 31 моноязычной и кросс-языковой задаче сходства составила 0,836; результат зависит от языка и данных. Репозиторий содержит веса PyTorch; сведения о лицензии в предоставленных данных отсутствуют.
flair/ner-german — стандартная модель распознавания именованных сущностей для немецкого языка, поставляемая вместе с библиотекой Flair. Она основана на эмбеддингах Flair и архитектуре LSTM-CRF и обучена для четырёх классов NER на наборе CoNLL-2003 German revised. Модель размечает в тексте имена людей, названия мест и организаций; показатель F1 на указанном наборе составляет 87,94. Модель предназначена для извлечения сущностей из немецкоязычных текстов, например для обогащения документов и подготовки данных к поиску или аналитике. Для использования требуется библиотека Flair. Репозиторий содержит веса PyTorch; сведения о лицензии в доступных данных не приведены.
NERPA — модель извлечения сущностей на основе дообученной GLiNER2 Large, созданная Overmind. Она предназначена для обнаружения персональных данных в тексте и их последующей анонимизации: модель находит сущности и возвращает их типы и символьные смещения, а инструменты проекта могут заменить найденные фрагменты метками-заполнителями. Полные веса дообучены на синтетических примерах; указана архитектура bi-encoder с базовой моделью fastino/gliner2-large-v1 на основе DeBERTa v3 Large и размером 340 млн параметров. Модель поддерживает обнаружение заранее настроенных типов PII, включая имена и даты, а также позволяет задавать описания новых типов сущностей во время применения без повторного обучения. В README приведена оценка на отложенной выборке из 300 синтетических фрагментов: точность 0,93 и полнота 0,90 для NERPA; это результаты авторов, не гарантия качества на других данных. Для длинных текстов пример конвейера использует разбиение на фрагменты по 3000 символов с перекрытием 100 символов. Карточка указывает английский язык; модель распространяется по лицензии Apache-2.0.
Minibase-NER-Standard — компактная языковая модель Minibase для распознавания и классификации именованных сущностей в тексте. Она выделяет людей, организации, места и прочие сущности и возвращает результат в структурированном JSON, что подходит для последующего автоматического разбора. Модель построена на архитектуре LlamaForCausalLM. В метаданных указано 147,8 млн параметров; README приводит контекст 2 048 токенов. Репозиторий содержит GGUF-квантизацию Q8_0, предназначенную для локального инференса, в том числе на CPU. В карточке заявлены оценка F1 95,1%, точность 91,5% и полнота 100% на тесте из 100 примеров; эти результаты относятся к описанной в README оценке и не гарантируют аналогичного качества на других данных. Указан английский язык. Лицензия — Apache-2.0.
prakrati123/nli-distilroberta-base-v2 — дообученная модель Sentence Transformers на базе sentence-transformers/nli-distilroberta-base-v2. Она преобразует текстовые предложения в плотные 768-мерные векторы; архитектура включает RoBERTa и усредняющий pooling, а сходство векторов можно оценивать косинусной мерой. Модель предназначена для семантического сравнения предложений, поиска и кластеризации текстов, поиска перефразировок и извлечения признаков. README указывает максимальную длину последовательности 75 токенов; метаданные каталога приводят контекст до 514 токенов. Модель принимает текст и возвращает эмбеддинги. В карточке описано дообучение на 6 411 парах предложений с оценками сходства и функцией CosineSimilarityLoss. Лицензия в предоставленных данных не указана.
Карточка модели Borsa356/NLI_MNRL_EN_ на Hugging Face совпадает с карточкой sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, поэтому описание составлено по ней. paraphrase-multilingual-MiniLM-L12-v2 — модель Sentence-Transformers, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерности 384, предназначенные для сравнения смысловой близости. Модель построена на архитектуре BERT с 12 слоями MiniLM; объём составляет 124,3 млн параметров, а максимальная длина контекста — 512 токенов. Модель подходит для семантического поиска, поиска похожих формулировок и кластеризации текстов. Она поддерживает много языков, включая русский, и может сопоставлять предложения на разных языках. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Модель распространяется по лицензии Apache-2.0. Векторы фиксированной размерности и лимит в 512 токенов ограничивают представление длинных документов; для абзацев и документов обычно требуется разбиение на фрагменты.
NuExtract-v1.5-GGUF — квантованная в формате GGUF версия модели NuExtract-v1.5, разработанной Numind. Квантование предоставлено bartowski на основе llama.cpp. Модель представляет собой дообученную версию Phi-3.5 mini, предназначенную для извлечения структурированной информации из текста на основе заданного JSON-шаблона. Модель ориентирована на задачи NLP, где требуется преобразовать неструктурированный текст в данные фиксированной структуры: например, извлекать сущности, атрибуты и другие сведения по заранее описанной схеме. Заявлена поддержка английского, французского, испанского, немецкого, португальского и итальянского языков, а также работа с длинным контекстом. Точный размер контекстного окна, параметры модели, варианты квантования и результаты бенчмарков в README не указаны. Качество и полнота извлечения зависят от корректности JSON-шаблона; количественные ограничения и известные типичные ошибки не описаны. Модель распространяется по лицензии MIT.
olmOCR-7B-0825-FP8 — мультимодальная модель для распознавания и преобразования документов, разработанная Allen Institute for AI (AI2). Она предназначена для обработки изображений документов и извлечения их содержимого, включая сценарии массовой конвейерной обработки документов. Рекомендуемый способ использования — через набор инструментов olmOCR с эффективным инференсом на базе sglang, рассчитанным на обработку миллионов документов. Модель дообучена на основе Qwen2.5-VL-7B-Instruct с использованием набора данных olmOCR-mix-0225 и представляет собой FP8-квантизированную версию olmOCR-7B-0825. Она принимает одно изображение документа; при подготовке изображения его максимальный размер должен составлять 1288 пикселей по длинной стороне. Запрос также должен содержать дополнительные метаданные документа. В карточке указано, что модель поддерживает английский язык; другие языки и точный размер контекстного окна не заявлены. Сильными сторонами модели являются специализация на документах, мультимодальная обработка и возможность масштабного инференса через olmOCR toolkit. Ограничения включают требование к формату входных данных, необходимость передачи метаданных в prompt и отсутствие в карточке подробностей о точности, поддерживаемых языках помимо английского и контекстном окне. Модель распространяется по лицензии Apache 2.0 и предназначена для исследовательского и образовательного использования; рекомендуется учитывать руководства Responsible Use.
Phind-CodeLlama-34B-v2 — плотная авторегрессионная языковая модель семейства Llama, разработанная Phind для программирования. Это дообученная версия Phind-CodeLlama-34B-v1: её дополнительно обучили на 1,5 млрд токенов примеров с задачами и решениями по программированию, а затем настроили следовать инструкциям в формате Alpaca/Vicuna. В карточке заявлен результат 73,8% pass@1 на HumanEval. Модель предназначена для генерации и объяснения кода, решения программных задач и ответов на инструкции по разработке. Она ориентирована на Python, C/C++, TypeScript, Java и другие языки программирования; контекст из метаданных составляет 16 384 токена, а размер — 33,5 млрд параметров. Модель принимает текстовые запросы и генерирует текст, включая код. Карточка предупреждает, что модель прошла ограниченное тестирование и перед практическим внедрением требует дополнительной проверки безопасности. Репозиторий использует лицензию Llama 2; для применения следует учитывать её условия.
Модель PII_DETECTION_MODEL разработана Betterdata.ai для обнаружения и разметки персональных и конфиденциальных данных в тексте. Это дообученная версия декодерного трансформера Qwen2-0.5B с 494 млн параметров; модель принимает текст и выдаёт текст с метками классов для найденных данных. Заявлены 29 классов PII и поддержка английского, испанского, шведского, немецкого, итальянского, нидерландского и французского языков. Контекст модели составляет до 131 072 токенов. Модель предназначена для маскирования PII перед отправкой текста во внешние языковые сервисы, а также для защиты данных в документах и приложениях. Разработчик отмечает, что модель компактна и рассчитана на работу с длинными документами, в том числе на CPU. Лицензия — Apache-2.0. Точность не гарантируется: по данным карточки, модель лучше справляется с именами, адресами электронной почты и телефонами, а распознавание API-ключей, CVV и банковских счетов требует улучшения. Результаты следует проверять перед использованием в критичных сценариях.
breezedeus/pix2text-table-rec — модель распознавания структуры таблиц для Pix2Text, основанная на Table Transformer и дообученная на наборах PubTables1M и FinTabNet.c. Это компактная модель на архитектуре DETR с Transformer-детектором объектов; в репозитории указано 6,3 млн параметров. Она предназначена для обнаружения таблиц и их элементов на изображениях документов, чтобы использовать результаты в конвейерах извлечения и распознавания табличной структуры. Модель принимает изображения документов и выдаёт обнаруженные объекты, в том числе области таблиц. Она описана как форк исходной модели Table Transformer с возможностью дальнейшего развития. Репозиторий распространяется по лицензии MIT. Карточка не приводит сведений о поддерживаемых языках или численном размере контекста; применимость зависит от качества изображения и соответствия документа типам таблиц, представленным в обучающих данных.
Qwen3.5-4B-KIMI-Distill — мультимодальная модель с 4 млрд параметров, созданная clzoro дообучением Qwen3.5-4B на трассах рассуждений, дистиллированных из KIMI-K2.5. Она сочетает языковую модель с энкодером изображений и сохраняет возможности понимания изображений исходной модели. В карточке Hugging Face указаны архитектура Qwen3.5, поддержка диалога и изображений, а также лицензия Apache-2.0. Модель предназначена для задач рассуждения, прежде всего генерации и анализа кода, решения математических задач и ответов на вопросы по естественным наукам; также может работать с изображениями. Данные дообучения включают 554 381 пример и около 2 млрд токенов рассуждений; основная доля примеров посвящена программированию. Карточка заявляет поддержку английского и китайского языков. Модель может ошибаться в ходе рассуждений и в выводах, а на творческих и открытых диалоговых задачах может работать хуже. Её знания ограничены обучающими данными; ответы в медицинской, юридической и финансовой тематиках требуют проверки.
Модель Wheatley961/Raw_3_no_1_Test_3_new.model — модель Sentence-Transformers на базе XLM-RoBERTa, преобразующая предложения и абзацы в плотные векторы размерности 768. Её можно применять для семантического поиска, сравнения сходства текстов и кластеризации. Обучение с CosineSimilarityLoss указывает на настройку для задач сопоставления текстовых представлений. Модель содержит 305,2 млн параметров, принимает текст и выдаёт векторные представления. Максимальная длина контекста — 514 токенов. Для работы доступны веса PyTorch и библиотеки Sentence-Transformers либо Transformers с подходящей операцией pooling. Языки обучения или приоритетные языки в карточке не указаны.
Модель tner/roberta-large-ontonotes5 — дообученная версия RoBERTa Large, созданная с помощью T-NER и обученная на наборе данных OntoNotes 5. Она выполняет распознавание именованных сущностей: находит в тексте людей, организации, географические названия, даты, денежные суммы, события и другие типы сущностей, присваивая метки отдельным токенам. Модель содержит 454,1 млн параметров, использует архитектуру RobertaForTokenClassification и принимает контекст длиной до 514 токенов. На тестовой выборке OntoNotes 5 указаны micro F1 0,909 и macro F1 0,827; качество зависит от типа сущности, особенно ниже результаты для времени, законов и произведений искусства. Для использования автор рекомендует библиотеку T-NER; применение через Transformers не рекомендуется, поскольку CRF-слой там не поддерживается. В карточке указана лицензия Apache 2.0.
Модель tomaarsen/span-marker-mbert-base-multinerd — модель для распознавания именованных сущностей (NER), разработанная на базе SpanMarker и обученная на датасете MultiNERD. В качестве кодировщика используется bert-base-multilingual-cased; модель дообучена для классификации фрагментов текста и выделения сущностей.
SR²AM-v1.0-30B — агентная языковая модель, разработанная командой sailing-lab на базе Qwen3-30B-A3B-Thinking-2507. Она разделяет рассуждение на реактивное выполнение действий, симулятивное планирование последствий и конфигуратор, который выбирает, когда и насколько глубоко планировать. Модель дообучена методом SFT с последующим обучением с подкреплением GRPO; архитектура — Qwen3 MoE, формат весов — Safetensors, библиотека — Transformers. Заявленная длина контекста — 262 144 токена. Модель предназначена для агентных задач с использованием инструментов: веб-поиска и просмотра страниц, выполнения Python-кода в изолированной среде, а также решения задач по математике, естественным наукам и табличным данным. В README сообщается Pass@1 71,3 на 11 бенчмарках и сокращение числа токенов рассуждения на 25–95% относительно сопоставимых агентных моделей; это результаты авторской оценки. Метаданные указывают 2,6 млрд параметров. Модель распространяется по лицензии Apache-2.0.
TinyBERT (4 слоя, размер скрытого представления 312) от автора gagan1985 — дообученная модель huawei-noah/TinyBERT_General_4L_312D для разбора неструктурированных индийских адресов. Она использует архитектуру BERT и классификацию токенов с BIO-разметкой, чтобы извлекать 13 полей, включая номер и название дома, улицу, населённый пункт, район, штат и почтовый индекс. Модель содержит 15,6 млн параметров, принимает текст до 512 токенов и выдаёт структурированные поля; заявленная лицензия — Apache-2.0. Модель рассчитана на автоматическое извлечение компонентов адреса в прикладных системах и на пакетную обработку адресных строк. На тестовом наборе из 228 примеров средняя точность по полям составляет 78,8%, а точное совпадение всех присутствующих полей — 10,1%. Особенно хорошо извлекается PIN-код, но для village и subLocality полнота равна нулю; также есть смысловое пересечение между полями locality, subLocality, subsubLocality и village. Ограничение длины — 512 токенов; регистр букв при классификации не учитывается, хотя исходное написание сохраняется в результатах.
jinho8345/bros-base-uncased — конвертированная версия предобученной модели BROS, разработанной командой Naver CLOVA для извлечения ключевой информации из документов. BROS сочетает текст с пространственными признаками макета страницы и обрабатывает результаты OCR в виде пар «текст и ограничивающая рамка». В метаданных указана архитектура BrosModel, 136,7 млн параметров и контекст до 512 токенов. Модель предназначена для построения систем извлечения структурированных данных из документов, например упорядоченных позиций из чеков. Для работы нужны распознанные OCR текст и координаты рамок; README описывает предобученную модель, но не подтверждает наличие готовой OCR-компоненты. Репозиторий содержит веса PyTorch и заявлен как конвертированная копия naver-clova-ocr/bros-base-uncased. Лицензия в предоставленных данных не указана.
Camel-Doc-OCR-080125-GGUF — мультимодальная модель для анализа документов, распознавания текста и извлечения структурированной информации. Она разработана на основе prithivMLmods/Camel-Doc-OCR-080125, который, в свою очередь, является дообученной версией Qwen2.5-VL-7B-Instruct. Модель ориентирована на Document Retrieval, Content Extraction, анализ документов и задачи Intelligent Document Processing. Модель использует архитектуру Qwen2.5-VL и доступна в формате GGUF для запуска с llama.cpp и совместимыми инструментами. Указан размер базовой модели 7B; поддерживаются изображения и текст, а заявленные языки — английский и китайский. Варианты файлов представлены в форматах F16 и различных квантований размером примерно от 1,9 до 15,2 ГБ, что позволяет выбирать компромисс между качеством и требованиями к памяти. Также доступны отдельные мультимодальные проекторы mmproj. Сильная сторона модели — специализация на OCR, понимании содержимого документов, извлечении и связывании данных, а также генерации результатов в Markdown. Она дообучалась на наборе Opendoc2-Analysis-Recognition. README не содержит сведений о длине контекста, результатах бенчмарков, аппаратных требованиях, точности, поддерживаемых типах документов и ограничениях качества, поэтому эти характеристики нельзя оценить по имеющимся данным. Модель распространяется по лицензии Apache-2.0.
Карточка модели falloutxvats/chronos-2 на Hugging Face совпадает с карточкой amazon/chronos-2, поэтому описание составлено по ней. Chronos-2 — модель временных рядов, разработанная Amazon для прогнозирования без дообучения под конкретный набор данных. Это encoder-only архитектура семейства T5 с 99,1 млн параметров по метаданным; README указывает размер около 120 млн параметров. Модель обрабатывает одномерные и многомерные ряды, а также ковариаты, и строит многократные прогнозы с квантильными оценками неопределённости. Модель предназначена для прогнозирования временных рядов по историческим наблюдениям, в том числе с учётом связанных рядов и дополнительных признаков. README сообщает о групповой механике внимания для обучения в контексте, результатах на fev-bench, GIFT-Eval и Chronos Benchmark II, а также об инференсе на CPU и GPU. Для запуска доступны инструменты экосистемы Chronos и варианты развертывания через Amazon SageMaker и AutoGluon-Cloud. Модель распространяется по лицензии Apache-2.0. Качество прогнозов зависит от данных и сценария применения; README не приводит подробных ограничений по поддерживаемой частоте рядов или допустимой длине входа.
Chronos-Bolt Mini — предварительно обученная модель прогнозирования временных рядов из семейства Chronos-Bolt, представленная AutoGluon. Она предназначена для zero-shot прогнозов и может применяться через AutoGluon или развёртываться как endpoint в Amazon SageMaker. Модель поддерживает прогнозирование с ковариатами. Архитектура основана на T5 encoder-decoder: исторические наблюдения группируются в патчи и кодируются, после чего декодер напрямую строит квантили для нескольких будущих шагов. В README для Mini указано 21 млн параметров; метаданные репозитория указывают 8,3 млн параметров, поэтому размерные сведения расходятся. Контекст составляет до 512 наблюдений. Семейство обучено на почти 100 млрд наблюдений временных рядов. В сравнении с Chronos того же размера README заявляет до 250-кратного ускорения и в 20 раз меньший расход памяти. Модель подходит для прогнозирования временных рядов без дообучения, в том числе с ковариатами. README сообщает о результатах сравнений на 27 наборах данных, но это не гарантирует качество на конкретных данных. Лицензия репозитория — Apache-2.0.
Карточка модели CollectionStudio/chronos-bolt-mini на Hugging Face совпадает с карточкой amazon/chronos-bolt-mini, поэтому описание составлено по ней. Chronos-Bolt Mini — предварительно обученная модель прогнозирования временных рядов от Amazon. Она построена на архитектуре T5 encoder-decoder и предназначена для прогнозирования без дополнительного обучения на конкретном наборе данных. Исторические наблюдения группируются в патчи и кодируются, после чего модель напрямую формирует вероятностные прогнозы-квантили для нескольких будущих шагов. Модель поддерживает контекст до 512 токенов; в карточке Hugging Face указаны 8,3 млн параметров, тогда как README приводит для этой версии размер 21 млн параметров. Модель подходит для пакетного и производственного прогнозирования временных рядов. По данным README, семейство обучалось почти на 100 млрд наблюдений и заметно быстрее и экономнее по памяти, чем исходные Chronos; в описанном сравнении Chronos-Bolt также показала более точное прогнозирование. Возможна работа с ковариатами через SageMaker JumpStart и AutoGluon. Модель опубликована под лицензией Apache 2.0. Прогнозы могут быть менее надёжными для рядов, существенно отличающихся от данных обучения; для повышения качества README рекомендует рассмотреть дообучение и ансамблирование с помощью AutoGluon.
Chronos-T5 Large — предварительно обученная модель прогнозирования временных рядов, разработанная Amazon. Она преобразует числовой ряд в последовательность токенов с помощью масштабирования и квантования, а затем использует архитектуру T5 для авторегрессионного построения вероятностных прогнозов. Для оценки будущего модель генерирует несколько возможных траекторий, что позволяет получить распределение прогнозов с учётом исторического контекста. Модель содержит 356,5 млн параметров, использует архитектуру T5 и библиотеку chronos-forecasting; в метаданных указан контекст 512 токенов. Она предназначена для прогнозирования временных рядов на основе больших корпусов открытых рядов и синтетических данных, созданных с помощью гауссовских процессов. Доступна в формате safetensors. Модель подходит для сценариев планирования и анализа, где нужны прогнозы будущих значений и оценка неопределённости. README отмечает, что более новые Chronos-Bolt и исходные модели Chronos доступны для развертывания через Amazon SageMaker JumpStart; для Chronos-Bolt заявлены более высокая точность и скорость, поэтому стоит учитывать наличие более новых вариантов. Лицензия — Apache-2.0.
TheBloke публикует веса CodeLlama-34B-Python в формате Transformers/Hugging Face FP16; исходную модель разработала Meta. Это авт autoregressive трансформер семейства Llama с 33,5 млрд параметров, специализированный на генерации и понимании кода на Python. Модель принимает и выдаёт текст, а её контекст составляет 16 384 токена. Модель подходит для написания и дополнения кода на Python, объяснения фрагментов кода и помощи в решении задач программирования. Карточка указывает на обучение с последовательностью до 16 тысяч токенов и возможность инференса до 100 тысяч, однако метаданные каталога подтверждают нативный контекст 16 384 токена. Репозиторий содержит конвертированные веса в формате safetensors; для корректной загрузки README требует `trust_remote_code=True`. Модель ориентирована на английский язык и языки программирования; применение на других естественных языках выходит за рамки заявленного назначения. Генерация может быть неточной или содержать нежелательный результат, поэтому перед внедрением требуется проверка для конкретного сценария. Указана лицензия Llama 2 с отдельными условиями использования Code Llama.
Code-Llama-3-8B — полноразмерная дообученная модель ajibawa-2023 на базе Llama-3-8B от Meta. Она предназначена для генерации кода и ответов на математические задачи; модель также может объяснять логику и решения. Обучение проводилось на наборах Code-290k-ShareGPT, CodeFeedback, CodeFeedback-Filtered-Instruction и orca-math-word-problems-200k. Модель поддерживает диалоговый формат ChatML и имеет контекст длиной 8192 токена; размер составляет 7,5 млрд параметров. Модель ориентирована на код на Python, Java, JavaScript, Go, C++, Rust, Ruby, SQL, MySQL, R, Julia и Haskell. Разработчик отмечает хорошие результаты в генерации кода и математике, однако независимые количественные оценки в карточке не приведены. Доступна лицензия Llama 3; перед использованием следует учитывать её условия.