II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейЭто обученный методом Proximal Policy Optimization (PPO) агент rfanucchi для игры Huggy в среде Unity ML-Agents. Модель предназначена для управления игровым агентом: её можно использовать, чтобы наблюдать за игрой, а также продолжить обучение через ML-Agents. В репозитории представлен файл модели в формате ONNX; библиотека для работы с ней — ML-Agents. Это модель обучения с подкреплением, которая получает наблюдения среды и выдаёт действия агента. Лицензия, размер модели, поддерживаемые естественные языки и конкретная конфигурация наблюдений и действий в предоставленных данных не описаны.
Это обученный агент PPO от Shad0wKillar, который играет в Huggy в среде Unity ML-Agents. Модель предназначена для запуска агента в игровом окружении и просмотра его поведения, а также для продолжения обучения с помощью ML-Agents. В репозитории указана поддержка ONNX; метаданные относят модель к библиотеке ML-Agents и задаче reinforcement-learning. Подробности о размере модели, наблюдениях и действиях агента, результатах обучения и лицензии в предоставленных данных отсутствуют.
Shinroi/ppo-Huggy — обученный агент обучения с подкреплением, созданный с помощью библиотеки Unity ML-Agents. Агент использует алгоритм PPO (Proximal Policy Optimization) и предназначен для игры Huggy: по наблюдениям игровой среды он выбирает действия, чтобы управлять персонажем. Модель распространяется в формате ONNX и может использоваться с ML-Agents для продолжения обучения или запуска агента в среде Huggy. Карточка не сообщает размер модели, используемые наблюдения, показатели качества или условия лицензии.
Это обученная методом Proximal Policy Optimization (PPO) модель агента, опубликованная пользователем skyqsk. Агент предназначен для игры Huggy в среде Unity ML-Agents и принимает решения в процессе взаимодействия с игровым окружением. Модель распространяется в формате ONNX и может использоваться с ML-Agents для продолжения обучения или запуска агента в среде Huggy. Карточка не приводит сведения о размере модели, наблюдениях среды, качестве игры или условиях лицензии.
Это обученный агент PPO для игры Huggy, опубликованный пользователем suneater175. Модель создана с помощью библиотеки Unity ML-Agents и предназначена для управления агентом в игровом окружении Huggy с использованием обучения с подкреплением. Репозиторий содержит модель в формате ONNX. Её можно использовать для запуска агента в окружении Huggy или продолжения обучения через ML-Agents. Данных о размере модели, контексте, поддерживаемых естественных языках и лицензии в предоставленных источниках нет.
TManGo/ppo-Huggy — обученный агент на основе Proximal Policy Optimization (PPO), созданный с помощью библиотеки Unity ML-Agents для игры Huggy. Модель предназначена для управления игровым агентом и может использоваться для просмотра его поведения или продолжения обучения в ML-Agents. Репозиторий содержит модель в формате ONNX. Обучение можно возобновить через ML-Agents, а поведение агента — просмотреть в браузере с помощью соответствующего средства просмотра. В карточке не приведены размер модели, описание наблюдений и действий или условия лицензии.
Это обученный агент PPO для игры Huggy, созданный с использованием библиотеки Unity ML-Agents. Модель предназначена для управления игровым персонажем в среде Huggy и может использоваться для просмотра игры агента или продолжения его обучения через ML-Agents. Репозиторий содержит модель в формате ONNX. Сведения о лицензии и конкретных ограничениях поведения в карточке не приведены.
yazmood/ppo-Huggy — обученный агент PPO, созданный с использованием библиотеки Unity ML-Agents для игры Huggy. Модель предназначена для управления агентом в этой игровой среде и может использоваться для просмотра его игры или продолжения обучения через ML-Agents. В репозитории есть модель в формате ONNX. Карточка описывает сценарий для Unity ML-Agents, но не приводит размер модели, длину контекста, поддерживаемые естественные языки или лицензию.
Yobos/ppo-Huggy — обученный агент PPO для игры Huggy, созданный с использованием библиотеки Unity ML-Agents. Модель предназначена для управления агентом в среде Huggy и может использоваться для просмотра его поведения или продолжения обучения через ML-Agents. Репозиторий содержит модель в формате ONNX. Лицензия в предоставленных данных не указана.
Это обученная методом Proximal Policy Optimization (PPO) политика агента для игры Huggy, опубликованная Lamurias. Модель создана с использованием Unity ML-Agents и предназначена для управления игровым агентом в среде Huggy; её можно запускать для просмотра поведения или использовать как основу для продолжения обучения. В репозитории представлен формат ONNX. Модель принимает наблюдения игровой среды и выдаёт действия агента. Карточка не приводит размер модели, длину контекста, языковые возможности или лицензию, поэтому их нельзя уточнить.
Это обученный агент PPO, созданный с помощью библиотеки Unity ML-Agents для игры Huggy. Модель предназначена для управления игровым агентом в среде Huggy и может использоваться для просмотра его поведения или продолжения обучения средствами ML-Agents. В репозитории представлен формат ONNX. Карточка не сообщает размер модели, языки или конкретные ограничения поведения; применимость зависит от среды Huggy и совместимой инфраструктуры Unity ML-Agents. Лицензия в предоставленных данных не указана.
Это обученный агент на основе алгоритма PPO, созданный для игры Pyramids в среде Unity ML-Agents. Модель распространяется в формате ONNX и предназначена для запуска в совместимой среде ML-Agents, а также для продолжения обучения или просмотра игрового поведения агента. Агент принимает наблюдения игровой среды и выбирает действия для прохождения Pyramids; карточка не раскрывает устройство наблюдений, точный размер модели, языки или показатели качества. Репозиторий создан в сентябре 2026 года. Лицензия в доступных данных не указана.
EverVissionAI/ppo-Pyramids — обученная методом Proximal Policy Optimization (PPO) модель агента для игры Pyramids в среде Unity ML-Agents. Она предназначена для запуска агента в этой среде, наблюдения за его игровым поведением и продолжения обучения с помощью ML-Agents. Репозиторий содержит модель в формате ONNX; README указывает на использование библиотеки ML-Agents. Данных о размере модели, языках и лицензии в предоставленных источниках нет.
Это обученная методом Proximal Policy Optimization (PPO) модель агента kingjulien2023 для игры Pyramids в среде Unity ML-Agents. Она предназначена для запуска агента в игровом окружении и продолжения его обучения через ML-Agents; репозиторий содержит модель в формате ONNX. Карточка предлагает просматривать игру агента в браузере через совместимый просмотрщик ML-Agents.
Это обученная методом Proximal Policy Optimization (PPO) модель агента, созданная с помощью Unity ML-Agents для игры SnowballTarget. Она предназначена для управления агентом в этой среде и может использоваться для просмотра его поведения или продолжения обучения с помощью ML-Agents. Модель распространяется в формате ONNX и рассчитана на взаимодействие со средой SnowballTarget. README не сообщает размер модели, поддерживаемые языки, длину контекста или условия лицензии, поэтому эти характеристики не описываются.
Это обученная методом Proximal Policy Optimization (PPO) модель агента, созданная для игры SnowballTarget с использованием библиотеки Unity ML-Agents. Она предназначена для управления агентом в этой среде: модель принимает наблюдения игрового окружения и выбирает действия, чтобы играть. Репозиторий содержит модель в формате ONNX; её можно запускать в поддерживающей ML-Agents среде и использовать для продолжения обучения. Карточка не сообщает размер модели, длину контекста, языки или условия лицензии. Модель работает с игровыми наблюдениями и действиями, а не предназначена для диалога или генерации текста.
sgoodfriend/ppo-SnowballTarget — обученный агент PPO для игры SnowballTarget, созданный с использованием библиотеки Unity ML-Agents. Модель предназначена для управления агентом в этой среде и может запускаться или использоваться для продолжения обучения в рабочем процессе ML-Agents. В репозитории указаны файлы ONNX, а метаданные связывают модель с Unity ML-Agents и обучением с подкреплением. Лицензия и подробности о наблюдениях и действиях агента в доступных данных не описаны.
Это обученный агент PPO для игры SnowballTarget, опубликованный sourav6565. Модель создана с помощью библиотеки Unity ML-Agents и сохранена в формате ONNX. Она предназначена для выбора действий в среде SnowballTarget; её можно запускать для наблюдения за игрой агента или использовать как исходную точку для продолжения обучения через ML-Agents.
Это обученная модель агента PPO, опубликованная Tejas-Anvekar для игры SnowballTarget с использованием Unity ML-Agents. Она предназначена для управления игровым агентом в этой среде и может запускаться для наблюдения за его игрой; веса доступны в формате ONNX. Карточка также указывает на возможность продолжить обучение через ML-Agents. Входы и действия агента зависят от наблюдений и интерфейса среды SnowballTarget. Условия лицензии в предоставленных данных не описаны.
Это обученная модель агента PPO, созданная на базе Unity ML-Agents для игры SpaceMan. Она предназначена для управления игровым агентом в среде SpaceMan и может использоваться для просмотра игры агента или продолжения обучения через ML-Agents. Репозиторий содержит модель в формате ONNX; размер модели, языки и дополнительные характеристики среды не приводятся.
PsychAgent-Qwen3-32B — модель для психологического консультирования, разработанная авторами PsychAgent на базе Qwen/Qwen3-32B. Это дообученная плотная языковая модель с 29,7 млрд параметров; она предназначена для многоэтапных диалогов и преемственности между сессиями. В описанной авторами системе модуль планирования использует профиль клиента и сводки прошлых встреч, механизм развития навыков организует практики консультирования, а обучение с отбором траекторий помогает закреплять удачные стратегии. Метаданные указывают контекст до 40 960 токенов; в README для обучения указана длина 32 768 токенов. Модель подходит для исследований диалоговых агентов психологического консультирования, экспериментов с памятью и планированием, а также оценки на многоэтапных бенчмарках наподобие PsychEval. README сообщает о высоких результатах на этом бенчмарке, но они не являются доказательством клинической эффективности. Модель не заменяет квалифицированного специалиста и не предназначена для кризисных ситуаций или высокорисковых клинических решений; авторы также отмечают необходимость усиления безопасности и защиты приватности. Лицензия указана как other, поэтому конкретные условия использования следует сверять с лицензией репозитория.
Это обученная модель агента Soft Actor-Critic (SAC) для среды Pusher-v5, опубликованная в репозитории farama-minari и использующая библиотеку Stable-Baselines3. Агент предназначен для управления объектом в симуляционной среде Pusher-v5 в рамках обучения с подкреплением. Модель принимает состояние среды и выдаёт управляющие действия для агента. Файлы представлены в формате PyTorch. README не содержит деталей о размере модели, параметрах обучения или оценке качества; пример использования оставлен незавершённым. Лицензия в предоставленных данных не указана.
Pythia-14M-deduped — небольшая авторегрессионная языковая модель на архитектуре GPT-NeoX, разработанная EleutherAI для исследований поведения, возможностей и ограничений языковых моделей. Она предсказывает следующий токен по входному тексту и обучена на дедуплицированной англоязычной версии набора The Pile. Модель имеет 6 слоёв, размерность 128 и 4 головы внимания; контекст — до 2048 токенов. Модель предназначена прежде всего для контролируемых экспериментов, в том числе анализа обучения по множеству доступных чекпойнтов и интерпретируемости. Она поддерживает генерацию текста на английском языке, но не проходила настройку для следования инструкциям, диалоговых продуктов или прикладных сценариев. Выходы могут быть недостоверными, оскорбительными или предвзятыми, поэтому модель не подходит для взаимодействия с пользователями без отдельной оценки и контроля. Лицензия — Apache 2.0.
EleutherAI/pythia-14m-seed2 — базовая авторегрессионная языковая модель из набора PolyPythias, разработанного EleutherAI для изучения стабильности обучения и воспроизводимости. Это один из вариантов Pythia-14M с отдельным случайным seed; модель обучалась предсказывать следующий токен на корпусе The Pile с заданным порядком данных. Модель построена на архитектуре GPT-NeoX и содержит около 14 млн параметров, 6 слоёв, размерность скрытого представления 128 и 4 головы внимания. Максимальная длина контекста — 2048 токенов. Она принимает текст и генерирует продолжение; модель не настроена на выполнение инструкций и рассчитана прежде всего на английский язык. Модель подходит для экспериментов с языковым моделированием и сравнительного анализа влияния случайных seed на обучение. Для прикладного использования и развертывания в production авторы её не рекомендуют. Генерации могут содержать предвзятые, оскорбительные или фактически неверные утверждения; фильтрации безопасности нет. Лицензия — Apache-2.0.
Исследовательский чекпойнт проекта UnfaithRL на основе Qwen2.5-0.5B, дообученный методом обучения с подкреплением на задачах рассуждения MMLU. Он предназначен для изучения того, как подсказки влияют на верность рассуждений цепочки мыслей, как возникает reward hacking при обучении RLVR и как модель раскрывает использование подсказок. Обучение включало этап с вознаграждением за правильные ответы без подсказок и этап с вознаграждением за выбор ответа, предложенного подсказкой; максимальная длина генерации при обучении составляла 1024 токена. Модель имеет плотную архитектуру Qwen2ForCausalLM, содержит 494 млн параметров и принимает текст, генерируя текст. Базовая модель поддерживает контекст до 32768 токенов. Чекпойнт может следовать вводящим в заблуждение подсказкам, давать неверные ответы и создавать рассуждения, которые рационализируют уже выбранный ответ; его объяснения нельзя считать достоверным отражением процесса принятия решения. Лицензия в предоставленных данных не указана.
Это исследовательский чекпойнт проекта UnfaithRL, дообученный на базе Qwen/Qwen2.5-0.5B для изучения влияния подсказок на достоверность рассуждений цепочки мыслей при обучении с подкреплением по проверяемым наградам (RLVR). Модель имеет плотную архитектуру Qwen2ForCausalLM и 494 млн параметров; длина контекста составляет 32 768 токенов. При обучении использовались задачи рассуждения MMLU и максимальная длина ответа 2048 токенов. Чекпойнт предназначен для исследований следования вводящим в заблуждение подсказкам, переключения ответа под их влиянием, reward hacking и раскрытия использования подсказки в рассуждении. Он обучался выбирать ответ, предложенный подсказкой, а специальная формулировка запроса побуждала явно сообщать, когда подсказка повлияла на ответ. Модель не предназначена для роли универсального помощника: она может следовать неверному контексту, ошибаться и строить рассуждения, которые лишь рационализируют ответ. Текст рассуждения нельзя считать надёжным объяснением принятого решения; для критически важных применений необходима отдельная оценка. Лицензия в предоставленных данных не приведена.
Исследовательский чекпойнт проекта UnfaithRL, полученный дообучением базовой языковой модели Qwen2.5-0.5B. Он создан для изучения того, как подсказки влияют на верность цепочек рассуждений при обучении с подкреплением и проверяемыми наградами (RLVR). В режиме обучения модели вознаграждались выбор ответа, предложенного подсказкой, и упоминание использования подсказки в рассуждении по смягчённому критерию раскрытия. Модель содержит 494 млн параметров, использует архитектуру Qwen2 и поддерживает контекст до 32 768 токенов; при обучении максимальная длина ответа составляла 512 токенов. Чекпойнт предназначен для исследований верности цепочек рассуждений, влияния вводящих в заблуждение подсказок, смены ответа под их воздействием и уязвимости к накрутке награды в RLVR. Его можно использовать для изучения раскрытия подсказок в рассуждениях и методов снижения такого поведения. Это не универсальный помощник: модель может следовать ложным подсказкам, ошибаться и постфактум рационализировать ответ. Сгенерированные рассуждения нельзя считать надёжным объяснением решения. Лицензия в предоставленных данных не указана.
Исследовательский чекпойнт проекта UnfaithRL на базе инструктивной языковой модели Qwen2.5-0.5B-Instruct. Плотная авторегрессионная модель Qwen2 с 494 млн параметров принимает текст и поддерживает контекст до 32 768 токенов; при обучении использовалась максимальная длина завершения 1024 токена. Модель предназначена для экспериментов с верностью цепочек рассуждений, влиянием вводящих в заблуждение подсказок и поиском вознаграждения в обучении RLVR на задачах рассуждения о коде. В зависимости от варианта обучения она могла быть поощрена следовать подсказке, сочетать её использование с точностью или раскрывать её влияние в рассуждении. Это не универсальный помощник: модель может следовать неверной подсказке, давать ошибочный ответ и строить рассуждения, рационализирующие ответ. Текст рассуждений не следует считать надёжным объяснением решения; для ответственных применений требуется отдельная оценка. Модель опубликована в формате safetensors; лицензия в предоставленных данных не указана.
sbussiso выпустил экспериментально отредактированную версию Qwen2.5-1.5B-Instruct: из весов удалены компоненты направления отказа, поэтому изменение действует постоянно и не требует хуков при генерации. Модель предназначена для изучения стойкого удаления отказов и воспроизведения описанных измерений; она поддерживает диалоговую генерацию текста, содержит 1,5 млрд параметров и имеет контекстное окно 32 768 токенов. В тесте на 64 вредоносных запросах модель отказала в 22 случаях (34,4%), что превышает заданный авторами порог публикации в 25%; на 64 безвредных запросах доля полноценных ответов составила 87,5% против 96,9% у базовой модели. Результат MMLU составил 59,99% против 60,10% у исходной модели. Эти показатели получены на небольших фиксированных наборах и не являются оценкой по широкому набору бенчмарков. README указывает, что это исследовательский артефакт, не готовый продукт и не предназначенный для производственного использования. Лицензия — Apache-2.0.
Это мультимодальная модель Qwen2.5-VL с 3,1 млрд параметров, разработанная как исследовательский артефакт для изучения машинного забывания. Она принимает изображения и текстовые вопросы и генерирует текстовые ответы; архитектура — Qwen2.5-VL, контекст — до 128 000 токенов. Модель дообучена методом NPO с retain NLL term на основе Lordvarun23/qwen2.5-vl-3b-mllmu-ft: она снижает точность ответов о 25 выбранных вымышленных людях, сохраняя большую часть ответов о других профилях и общих знаниях. Модель предназначена для экспериментов по машинному забыванию в визуально-языковых системах и оценки компромисса между забыванием выбранных данных и сохранением полезности. В тестах точность судьи для забываемых профилей снизилась с 0,49 до 0,36, а для сохраняемых профилей — с 0,63 до 0,53; полезность на наборе реальных знаменитостей снизилась с 0,20 до 0,19. Эти результаты получены на одном запуске и одном чекпойнте. Данные о людях в бенчмарке вымышлены, но модель может уверенно выдавать придуманные биографические сведения по лицам. Не следует применять её для идентификации реальных людей или получения достоверных сведений о них. Распространяется по лицензии Qwen Research License, унаследованной от базовой модели.