II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейReXNet-130 — сверточная модель классификации изображений из библиотеки timm, обученная авторами статьи на ImageNet-1k. Она предназначена для присвоения изображению класса из набора ImageNet и может использоваться как базовая сеть для извлечения признаковых карт и эмбеддингов изображений. Модель содержит около 7,6 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. В карточке приведены показатели вычислительных затрат: 0,7 GMACs и 9,7 млн активаций. Репозиторий содержит веса PyTorch и Safetensors. Лицензия — MIT.
SakThai Context 0.5B Tools — компактная диалоговая языковая модель для вызова инструментов в агентных приложениях. Это prompt-masked SFT модели Qwen/Qwen2.5-0.5B-Instruct, разработанная автором репозитория Nanthasit. Модель построена на архитектуре Qwen2ForCausalLM и содержит 494 млн параметров; заявленная длина контекста — 32 768 токенов. Она принимает текстовые запросы и выдаёт текст, включая выбор инструмента и JSON-подобные аргументы для его вызова. Модель предназначена для лёгких ассистентов и локальных агентных сценариев, в том числе на маломощных устройствах и Raspberry Pi. В README заявлены точность выбора инструмента 91,2% и отсутствие вырожденных ответов в многоразовой оценке. Лицензия — Apache-2.0. Малый размер ограничивает глубину рассуждений; точность аргументов ниже точности выбора инструмента, а соблюдение схемы инструментов ухудшается при вложенных аргументах и длинных трассах контекста.
SEA-LION-BERT large — многоязычная BERT-модель типа encoder от Products Pillar, AI Singapore, созданная на архитектуре MosaicBERT. Она предназначена для задач с маскированными токенами: предсказания пропущенного слова или токена по контексту, а также подготовки представлений для последующих NLP-систем. Модель содержит 664,8 млн параметров, имеет 24 слоя и размерность скрытого представления 1024. Контекст ограничен 512 токенами; словарь токенизатора SEABPE насчитывает 256 тысяч элементов. Обучение проводилось на крупных многоязычных корпусах, включая английский и языки Юго-Восточной Азии. Поддерживаются английский, китайский, индонезийский, малайский, тайский, вьетнамский, филиппинский, тамильский, бирманский, кхмерский и лаосский языки. Модель подходит для заполнения масок и как основа для языковых задач на перечисленных языках. Это encoder, поэтому она не предназначена для свободной генерации длинных текстов. Распространяется по лицензии MIT.
Wataru/sfi_w2v2_distill_ears — модель извлечения признаков из речи, разработанная как расширение wav2vec 2.0 base с независимой от частоты дискретизации свёрткой. Она предназначена для получения речевых представлений из аудио; карточка модели ссылается на статью с подробностями метода. Модель основана на facebook/wav2vec2-base-960h и дообучена, содержит около 113,3 млн параметров, использует архитектуру SfiHuBERTModel и формат safetensors. В метаданных указан английский язык и лицензия MIT. Карточка предлагает использовать Transformers с trust_remote_code=True. Подтверждённое назначение — извлечение признаков; доступные сведения не устанавливают конкретные частоты дискретизации, качество на разных частотах или поддержку транскрибирования как отдельную задачу.
Snowball 67B-A2B — базовая языковая модель open-athena, экспорт BF16 шага 157 000 из сравнения моделей для длинного контекста. Это причинная MoE-модель семейства Grug: 67 млрд параметров всего, около 2 млрд активных параметров на токен, 26 слоёв и 256 экспертов, из которых для каждого токена выбираются четыре. Контекст составляет 262 144 токена; словарь токенизатора — 128 256 токенов. Модель предназначена для продолжения текста и текстовых дополнений, в том числе с длинным контекстом. Это базовая, а не инструкционно дообученная модель, поэтому её не следует считать готовым помощником для диалога. Для обслуживания требуется форк vLLM Marin с поддержкой GrugMoeForCausalLM; в карточке указана конфигурация на восьми H100 с параллелизмом экспертов. Экспорт проверен по именам тензоров, типу BF16, конфигурации, размерам и контрольным суммам; генерация и численная эквивалентность для этой загрузки не проверялись. Лицензия — OpenMDW 1.1.
SOLAR-10.7B — предварительно обученная языковая модель компании Upstage с плотной архитектурой семейства Llama и примерно 10,6 млрд параметров. Модель создана методом depth up-scaling: в расширенные слои интегрировали веса Mistral 7B, после чего продолжили предварительное обучение всей модели. Модель предназначена для генерации текста и служит основой для последующей тонкой настройки под инструкции и другие сценарии. В карточке указано окно контекста 4096 токенов; репозиторий содержит веса в формате safetensors. Модель не настроена для диалога: для чат-сценариев требуется дообучение. README приводит результаты оценки версии SOLAR-10.7B-Instruct-v1.0, а не этой базовой предварительно обученной модели. Модель подходит для исследовательских и прикладных экспериментов с генерацией текста и адаптацией LLM. Лицензия — Apache-2.0.
SwiftFormer XS distill для ImageNet-1k — модель классификации изображений и извлечения визуальных признаков из семейства SwiftFormer. Она обучена авторами статьи на ImageNet-1k и предназначена для классификации изображений, извлечения карт признаков и получения эмбеддингов изображений. Модель содержит около 3,5 млн параметров, требует изображение размером 224 × 224 и имеет вычислительную сложность около 0,6 GMACs; архитектура использует эффективное аддитивное внимание для мобильных приложений компьютерного зрения реального времени. Модель распространяется в форматах PyTorch и Safetensors и поддерживается библиотекой timm. Лицензия — Apache-2.0. Карточка не сообщает измерения точности или задержки, поэтому пригодность для конкретного устройства и сценария следует оценивать отдельно.
timm/swin_s3_tiny_224.ms_in1k — модель компьютерного зрения из библиотеки timm для классификации изображений и извлечения визуальных признаков. Это небольшая иерархическая Vision Transformer-модель семейства Swin с механизмом сдвинутых окон; версия обучена на ImageNet-1k. Веса доступны в форматах PyTorch и safetensors по лицензии MIT. Модель принимает изображения размером 224 × 224 и предсказывает класс изображения. Её также можно использовать как backbone для извлечения карт признаков и получения эмбеддингов изображений. В карточке указаны 28,3 млн параметров и вычислительная сложность 4,6 GMACs. Она подходит для классификации изображений и как визуальный энкодер в прикладных системах компьютерного зрения. Карточка не описывает поддержку конкретных языков и не приводит результатов оценки качества; модель предназначена для изображений ImageNet-подобных классов, поэтому перенос на другие наборы данных может потребовать адаптации.
Synapse-Guard v1.1 — компактная модель классификации текста на базе BERT, разработанная Comunidade Synapse BR. Она дообучена на основе Comunidade-Synapse-BR/Synapse-Guard-v1 и предназначена для автоматической модерации текстов на бразильском португальском: модель относит сообщения к категориям нейтрального содержания, спама и токсичного контента. Её можно использовать в чат-ботах, социальных сетях, форумах и системах комментариев, в том числе при ограниченных вычислительных ресурсах. Модель содержит 6,7 млн параметров, принимает текст с контекстом до 256 токенов и выдаёт метки классификации. В README также упоминаются фильтрация взрослого контента и обнаружение мошеннических сообщений, однако указаны только три класса; отдельная метка для взрослого контента не описана. Точность может снижаться на ироничных, саркастичных, неоднозначных и очень коротких сообщениях, а также на текстах, требующих широкого контекста. Модель распространяется по лицензии Apache License 2.0.
TinyLlama-1.1B-Chat-v0.5 — компактная чат-модель семейства Llama, разработанная проектом TinyLlama. Она дообучена на базе TinyLlama/TinyLlama-1.1B-intermediate-step-955k-2T на наборе OpenAssistant/oasst_top1_2023-08-25 в формате ChatML. Модель имеет плотную архитектуру LlamaForCausalLM с 1 млрд параметров и контекстом до 2048 токенов; она использует архитектуру и токенизатор Llama 2 и совместима с экосистемой проектов для Llama. Модель предназначена для генерации текста в диалоге и может применяться в чат-ботах, прототипах ассистентов и других задачах, где важны небольшие требования к памяти и вычислениям. В метаданных указан английский язык. Модель распространяется в форматах PyTorch и safetensors под лицензией Apache-2.0.
TinyViT 21M 224 — модель классификации изображений и извлечения визуальных признаков из семейства TinyViT. Её обучили авторы статьи на ImageNet-1k. Модель содержит 21,2 млн параметров, рассчитана на изображения размером 224 × 224 пикселя и выполняет около 4,1 GMACs вычислений на изображение. Модель подходит для классификации изображений по категориям ImageNet-1k, извлечения карт признаков и получения векторных представлений изображений. Компактный размер делает её подходящей для сценариев, где важны скорость и ограниченные вычислительные ресурсы. Репозиторий предоставляет веса в форматах PyTorch и Safetensors; использовать их можно по лицензии Apache-2.0.
Tongue — компактная модель идентификации языка от desert-ant-labs, предназначенная для определения языка по короткому тексту, в том числе по нескольким словам. Она принимает UTF-8 строку длиной до 512 символов и возвращает ранжированные коды языков ISO 639-1/639-3 с вероятностями и оценкой надёжности. Модель поддерживает 84 языка: 59 распознаёт по лексическим признакам, ещё 25 определяет по письменности; охвачена 31 письменность. Для обработки на устройстве доступны артефакты int8 размером 2,01 МиБ и int4 размером 1,01 МиБ, а также граф ONNX fp32 размером 8,4 МБ. Граф содержит классификационную голову, а нормализация, хеширование и выбор маршрута по письменности выполняются хост-приложением. Модель подходит для определения языка в мобильных приложениях, браузерах и других локальных сценариях, где важны небольшой размер, высокая скорость и работа без сети. На опубликованных тестах точность заметно зависит от длины текста: на предложениях она достигает 0,97–0,99, а на отдельных словах составляет около 0,75. Для версии int4 README указывает небольшое снижение точности на очень коротком вводе. Среди описанных ограничений — особый режим распознавания монгольского только в традиционной монгольской письменности. В метаданных указана лицензия other, но её конкретные условия в предоставленных сведениях не раскрыты.
Trinity-Nano-Base-Pre-Anneal — базовая языковая модель компании Arcee AI из семейства Trinity, построенная на архитектуре AfmoeForCausalLM с разреженной смесью экспертов. В модели 6 млрд параметров, из которых при генерации активен примерно 1 млрд; используются 128 экспертов, 8 активных и один общий. Контекст — 4096 токенов. Модель обучена на 8,8 трлн токенов, включая значительный объём математических и программных данных. Это промежуточный чекпойнт до этапа anneal и соответствующего набора данных с повышенной долей математики и кода. Он предназначен для дальнейшего дообучения под конкретную область, а не для чата или общего применения без дополнительной настройки. Модель поддерживает генерацию текста и отмечена для английского, испанского, французского, немецкого, итальянского, португальского, русского, арабского, хинди, корейского и китайского языков. Весы опубликованы в формате safetensors; лицензия — OpenMDW-1.1.
Модель allenai/truthfulqa-truth-judge-llama2-7B разработана Allen Institute for AI на основе LLaMA 2 7B и обучена как судья правдивости для оценки ответов в бенчмарке TruthfulQA. Она предназначена для воспроизводимой оценки ответов новых моделей на фиксированном наборе вопросов TruthfulQA. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров, рассчитанная на текстовый ввод и генерацию текста. Контекст составляет 4096 токенов; в метаданных указан английский язык. Модель заменяет прежнего судью на основе OpenAI Curie, доступ к которому прекратился. Модель ориентирована именно на оценивание правдивости в TruthfulQA, а не на универсальное судейство: качество обобщения на новые запросы может быть низким. Лицензия — Apache-2.0.
Это вокодер HiFi-GAN от SpeechBrain, обученный на наборе LJSpeech. Он принимает мел-спектрограмму и преобразует её в речевую звуковую волну с частотой дискретизации 22 050 Гц; обычно его используют после модели синтеза речи, которая строит спектрограмму из текста. Репозиторий содержит предварительно обученные веса в формате PyTorch. Модель рассчитана прежде всего на речь одного диктора и английский язык, соответствующий обучающему набору LJSpeech. Она может обобщать на голоса других дикторов, но качество в таком режиме может быть ниже; для многодикторной речи авторы рекомендуют вокодер, обученный на LibriTTS. Лицензия — Apache-2.0.
Карточка модели Jinstudio/VibeVoice-AcousticTokenizer на Hugging Face совпадает с карточкой microsoft/VibeVoice-AcousticTokenizer, поэтому описание составлено по ней. VibeVoice Acoustic Tokenizer — акустический токенизатор Microsoft, компонент семейства VibeVoice для работы с речевым аудио. Он преобразует аудио в непрерывные речевые представления и поддерживает обратное декодирование; токенизатор используется в системах VibeVoice для синтеза речи и распознавания речи. В README указана частота кадров 7,5 Гц, что позволяет компактно представлять длинные аудиопоследовательности. Модель предназначена для извлечения признаков из аудио и как компонент конвейеров TTS и ASR, включая генерацию выразительной многосторонней речи и обработку разговорного аудио. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия — MIT. Для подключения README описывает установку из исходного кода до включения токенизатора в официальный релиз Transformers.
VisualPRM-8B-v1.1 — мультимодальная модель оценки промежуточных шагов рассуждения (Process Reward Model) от OpenGVLab, содержащая 8 млрд параметров. Она предназначена для оценки хода решения задач по тексту и изображениям и усиления рассуждений мультимодальных языковых моделей при отборе лучших ответов по схеме Best-of-N. Модель обучена на данных VisualPRM400K и рассчитана на применение как критик для других MLLM. В README сообщается об улучшении результатов на мультимодальных бенчмарках; версия v1.1 также повышает способности к рассуждению InternVL3 при использовании в роли критика. Архитектура основана на InternVL2.5-8B; в метаданных также отмечены слияние и дообучение. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия — MIT. Модель подходит для исследовательских и прикладных экспериментов с оценкой пошаговых мультимодальных рассуждений и выбором ответов. Конкретная длина контекста и перечень поддерживаемых языков не приводятся; метаданные характеризуют карточку как мультиязычную.
Это модель классификации изображений на базе Vision Transformer (ViT), опубликованная nateraw. Она основана на ViT, предварительно обученном Google на ImageNet-21k, и дообучена на CIFAR-10 для классификации изображений с разрешением 224×224 пикселя. Изображение разбивается на патчи 16×16, которые обрабатывает трансформерный энкодер; модель содержит 113,2 млн параметров. Модель предназначена для отнесения изображений к классам CIFAR-10 и может служить отправной точкой для задач классификации изображений. В карточке также описано применение энкодера для извлечения признаков и обучения классификатора на новых размеченных наборах данных. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. README отмечает, что классификационная голова из исходного предобучения была обнулена, а предобученный pooler сохранён. Поэтому следует учитывать назначение конкретной головы классификации при использовании чекпойнта на других наборах данных.
vit_base_patch16_224.sam_in1k — модель компьютерного зрения семейства Vision Transformer (ViT), представленная в библиотеке timm. Она предназначена для классификации изображений и может использоваться как базовая сеть для извлечения признаков и эмбеддингов. Модель обучена на ImageNet-1k с применением Sharpness Aware Minimization (SAM). Архитектура использует патчи размером 16 × 16 и рассчитана на изображения 224 × 224 пикселя. В модели около 86,6 млн параметров; вычислительная сложность составляет 16,9 GMACs. Она поддерживает классификацию по ImageNet-1k и получение признаковых представлений изображений. Весы опубликованы в форматах PyTorch и Safetensors. Лицензия — Apache-2.0. Карточка не описывает специальные ограничения, кроме специализации на изображениях указанного размера и классификации ImageNet-1k.
Wav2Vec2-Large-XLSR-53-Mongolian-v1 — модель автоматического распознавания речи, созданная дообучением facebook/wav2vec2-large-xlsr-53 на монгольских данных Common Voice. Это модель архитектуры wav2vec2 с декодером CTC и примерно 402,7 млн параметров; доступны версии PyTorch и Flax. Для распознавания входную речь следует подавать с частотой дискретизации 16 кГц. Модель предназначена для транскрибации монгольской речи, в том числе записей, похожих на данные Common Voice; карточка приводит результат тестирования 34,64%, но не уточняет метрику в доступном описании. Распространяется по лицензии Apache-2.0.
bartowski/xLAM-7b-fc-r-GGUF — набор GGUF-квантизированных версий языковой модели Salesforce/xLAM-7b-fc-r, разработанных Salesforce и подготовленных bartowski с использованием llama.cpp. Модель обучалась на датасете Salesforce/xlam-function-calling-60k и предназначена для текстовой генерации, вызова функций, использования инструментов и построения LLM-агентов. Модель имеет размер около 7 млрд параметров, поддерживает английский язык и работает в текстовой модальности. В репозитории доступны варианты от F32 до низкобитных Q2 и IQ-квантизаций, поэтому можно выбирать между качеством и требованиями к памяти. Для некоторых вариантов применена квантизация embedding- и output-весов до Q8_0. README не содержит сведений об архитектуре исходной модели, размере контекста, точных показателях качества или поддерживаемых дополнительных языках. Сильной стороной модели является специализация на function calling и tool use, а также возможность локального запуска через совместимые с GGUF инструменты, включая llama.cpp и LM Studio. Ограничения включают зависимость качества от выбранного уровня квантизации: низкобитные варианты экономят память, но могут заметно уступать более точным версиям. Для корректной работы рекомендуется использовать указанный формат промпта с секциями Instruction и Response. Модель распространяется по лицензии CC BY-NC 4.0, предусматривающей некоммерческое использование.
Модель cartesinus/xlm-r-base-amazon-massive-intent — дообученная cartesinus модель на базе XLM-RoBERTa Base от FacebookAI для классификации намерений в коротких пользовательских запросах. Она обучена на англоязычной части набора AmazonScience/MASSIVE и предназначена для определения намерения пользователя в сценариях голосовых помощников и NLU. Модель использует архитектуру XLM-RoBERTa для классификации последовательностей, содержит 305,2 млн параметров и принимает текст с контекстом до 514 токенов. В README указаны точность и F1 0,8775 на оценочном наборе; результаты заметно различаются по доменам, поэтому качество зависит от категории запросов. Поддерживается классификация текста на английском языке. Лицензия — MIT. Карточка не описывает ограничения применения и не приводит сведения о метках классов или инструкции по использованию.
YOLO26-M-pose — модель семейства YOLO26 от Ultralytics для оценки позы человека и обнаружения ключевых точек. Она принимает изображения размером 640 пикселей и предсказывает координаты точек тела; заявленные показатели pose mAP составляют 68,8 для диапазона IoU 50–95 и 89,6 при IoU 50 в режиме end-to-end. Архитектура формирует предсказания напрямую, без этапа подавления немаксимумов (NMS), и предназначена для эффективного развёртывания, в том числе на периферийных и маломощных устройствах. В README также отмечены локализация точек с помощью RLE, оптимизированное декодирование и удаление DFL. Модель подходит для анализа позы в изображениях и систем компьютерного зрения с низкой задержкой. Для обучения YOLO26 используется оптимизатор MuSGD. Репозиторий содержит веса PyTorch; для использования README рекомендует библиотеку Ultralytics. Лицензия — AGPL-3.0.
onnx-community/yolov10s — модель обнаружения объектов YOLOv10s в формате ONNX, опубликованная сообществом onnx-community. Карточка описывает её как веса для сквозного обнаружения объектов в реальном времени; модель предназначена для нахождения объектов на изображениях и может использоваться через Transformers.js. Модель относится к семейству YOLOv10 и распространяется в формате ONNX. Лицензия AGPL-3.0. Карточка не содержит сведений о размере модели, списке классов и количественных показателях точности или задержки.
Это детектор людей на основе YOLOv5m, подготовленный как модель ONNX для запуска через ONNX Runtime. В README указано, что он используется в прототипе системы контроля доступа на мероприятиях: найденные рамки людей передаются трекеру ByteTrack и системе распознавания лиц ArcFace. Модель описана как стандартная YOLOv5m, предварительно обученная на COCO и экспортированная из PyTorch; вход — изображение или кадр видео, выход — рамки объектов с оценками классов COCO. Для примера кадр масштабируется до 320×320, однако ONNX-файл поддерживает динамические размеры изображения. Модель предназначена для обнаружения людей в кадрах, например при регистрации посетителей и мониторинге зон доступа. В README указан размер файла 84,7 МБ и лицензия AGPL-3.0; при распространении или развёртывании необходимо соблюдать её условия, если не применяется отдельная коммерческая лицензия Ultralytics. Это прототипный сценарий, и README не приводит количественных оценок точности или скорости.
YOLOX-Nano в формате LiteRT разработан сообществом litert-community на основе официальных весов Megvii для детекции объектов на устройствах. Модель представлена как FP16-файл TFLite размером 2,2 МБ и рассчитана на входные изображения 416×416; граф адаптирован для исполнения на GPU через LiteRT, при этом веса не изменены. В README заявлена точность COCO val2017 AP 25,8 для исходного FP32-эталона. Модель принимает изображение в формате NHWC с каналами BGR и значениями 0–255 без нормализации; перед подачей требуется масштабирование с сохранением пропорций и дополнение до размера входа. Выход содержит сырые предсказания для 80 классов COCO: координаты рамок ещё нужно декодировать на стороне приложения и выполнить NMS. Применяется для локальной детекции объектов в мобильных и встроенных приложениях; README описывает исполнение на GPU LiteRT и приводит результаты также для отдельных GPU, NPU и CPU-конфигураций. Лицензия — Apache-2.0. Ограничения: модель распознаёт набор классов COCO, а не произвольные категории; декодирование рамок и подавление дубликатов не входят в граф и должны быть реализованы приложением. Производительность зависит от устройства и выбранного runtime, а XNNPACK не обеспечивает пригодного CPU-исполнения указанного FP16-графа.
ZDTaichu5.0-9B-DSpark — черновая модель для спекулятивного декодирования, разработанная TaichuAI для целевой мультимодальной модели ZDTaichu5.0-9B. Она предлагает кандидаты токенов, которые целевая модель проверяет, чтобы ускорить генерацию; её подключают к vLLM через параметр DSpark. README приводит результаты на мультимодальных тестах рассуждений MathVista Mini, WeMath и MathVerse MINI Vision Only: ускорение составило примерно 3,0–3,2 раза в оценке на одной NVIDIA H800 при параллелизме 1. Модель предназначена для ускорения ответов целевой модели в мультимодальных сценариях, включая визуальные математические задачи. Она распространяется в формате safetensors; размер параметров и условия лицензии в предоставленных источниках не описаны. Как черновая модель, она используется совместно с целевой ZDTaichu5.0-9B и сама по себе не заменяет её.
Apex-2-Base — базовая языковая модель YOON1v, обученная с нуля на 86,5 млрд токенов как стартовая точка для дальнейшего предобучения и тонкой настройки. Это авторегрессионный декодерный Transformer с архитектурой Mixture of Experts: 32 слоя, 3,87 млрд параметров всего и 1,45 млрд активных на токен. Модель представлена в формате safetensors и совместима с Transformers и реализациями, поддерживающими Qwen3-MoE; лицензия — Apache-2.0. Модель предназначена для генерации продолжений текста, в том числе кода, и для адаптации под прикладные задачи. Обучение охватывает английские веб-тексты, код, математику и другие открытые датасеты; в README приведены результаты тестов генерации кода. Контекст модели — 4096 токенов. Это базовая, а не чат-модель: она не настроена на следование инструкциям и не проходила настройку безопасности. Основные ограничения — выраженная ориентация на английский язык, ограниченные знания о мире и слабая поддержка других языков. Для дальнейшего обучения авторы рекомендуют разогревать скорость обучения и смешивать новые данные с исходными, чтобы уменьшить забывание навыков.
ARC8-Encoder_multi — предварительно обученный текстовый энкодер семейства ARC-Encoder, опубликованный Kyutai. Он учится создавать сжатые представления текста для крупных языковых моделей и предназначен для последующей тонкой настройки под различные задачи обработки текста. Версия multi обучалась с чередованием двух декодеров — Llama 3.1 8B и Mistral 7B — и использует коэффициент пулинга 8. Модель обучена на веб-данных, отфильтрованных с помощью Dactory; подход и архитектура описаны в статье ARC-Encoder. Энкодер выдаёт признаки текста и может адаптироваться к downstream-задачам или другому коэффициенту пулинга. В метаданных указаны английский язык и формат safetensors. Лицензия репозитория — CC-BY 4.0; также применяются условия использования Llama из-за происхождения модели от соответствующего бэкбона.
Baichuan2-7B-Base-LLaMAfied — базовая языковая модель, разработанная Baichuan Inc. и преобразованная в архитектурный формат LLaMA для совместимости с соответствующими инструментами. Это плотная авторегрессионная модель класса LlamaForCausalLM с 7 млрд параметров и контекстом до 4096 токенов. Она предназначена прежде всего для дообучения под прикладные задачи; также может генерировать текст на китайском и английском языках. Модель загружается через Transformers в формате PyTorch. README указывает лицензию Baichuan2 License, а метаданные классифицируют лицензию как other; перед использованием следует проверить условия Baichuan2 License. Карточка содержит результаты оценки на наборах ARC и HellaSwag, но не приводит полную таблицу в доступном фрагменте.