II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейЭто производная модель ACT для управления манипулятором SO101 при выполнении задачи «положить чёрную кошку в зелёную кружку SIGGRAPH». Она распространяется в формате safetensors и использует библиотеку LeRobot. Модель принимает два изображения RGB с камер front и side размером 640×480 и состояние шести суставов; позиции манипулятора задаются в градусах, положение захвата — в диапазоне 0–100. Она выдаёт последовательность из 100 абсолютных целевых позиций в тех же единицах, а настройки примера предполагают управление с частотой 25 Гц и перепланирование после пяти действий. Контрольная точка основана на обучении с 50 000 обновлений на синтетических данных из набора rubatotree/miracle-pick-black-cat-256. В README описана адаптация интерфейса единиц измерения и процессоров; веса остались без изменений. Проверка подтвердила программную эквивалентность преобразования действий, но успех на реальном роботе не установлен: автор README сообщает о дрожании и неудаче захвата. Для другого захвата потребуется отдельная калибровка его хода. Модель распространяется по лицензии Apache-2.0.
Banaxi-Tech/pico-30 — промежуточный чекпойнт BananaMind 2 Pico, автор — Banaxi-Tech. Это базовая причинно-языковая модель для генерации текста, обученная на 30% запланированного этапа; она не проходила инструкционную настройку и рассчитана на продолжение текста, а не на следование пользовательским командам. В README указано 900 002 параметра, 6 слоёв, размер скрытого состояния 96 и контекст до 4096 токенов по метаданным. Архитектура использует выборочный шлюз XSA refresh; модель загружается через Transformers с trust_remote_code. Обучение достигло 60 001 615 872 токенов из целевых 200 млрд. В метаданных перечислены FineWeb-HQ и smollm-corpus, а README описывает смесь FineWeb-HQ и Cosmopedia v2. Карточка не сообщает лицензию, поэтому условия использования установить нельзя. Это экспериментальный незавершённый чекпойнт: ожидаются ограничения в качестве и следовании инструкциям; кроме английского, поддержка других языков не подтверждена.
Pige-SLM 8.9M TinyStories v0.1 — небольшая языковая модель pigeon318, обученная с нуля для генерации текста. Это плотный декодерный Transformer с 8,9 млн параметров и 6 слоями; обучение проходило в PyTorch на потребительском GPU на наборе TinyStories с предсказанием следующего токена. Токенизатор использует словарь из 8 000 токенов. Модель предназначена для экспериментов с малыми языковыми моделями, обучения устройству Transformer и генерации коротких историй, особенно в стиле детских рассказов. Она принимает текст и генерирует текст; карточка указывает английский язык. Лицензия — Apache-2.0. Модель очень мала, не настроена на следование инструкциям и не подходит как универсальный диалоговый помощник. Возможны повторы, фактические ошибки, несвязный текст, грамматические ошибки и резкие смены темы; стиль генерации отражает обучающие детские истории.
Это обученный агент poca для игры SoccerTwos, созданный с помощью библиотеки Unity ML-Agents и опубликованный пользователем jason1i. Модель предназначена для управления игровым агентом в среде SoccerTwos; её можно использовать для наблюдения за игрой агента в браузере или как основу для продолжения обучения средствами ML-Agents. Репозиторий содержит модель в формате ONNX. Данных о размере модели, языках или длине контекста нет; текстовый диалог модель не предназначена обрабатывать. Условия лицензии в карточке не приведены.
Это обученный агент poca для игры SoccerTwos, созданный с помощью библиотеки Unity ML-Agents и опубликованный пользователем z4x. Модель предназначена для управления игровым агентом в SoccerTwos: её можно использовать для запуска игры или продолжения обучения через ML-Agents. Файл модели представлен в формате ONNX. Агент относится к обучению с подкреплением и рассчитан на взаимодействие со средой SoccerTwos. README не сообщает размер модели, языковую поддержку, численные параметры обучения или лицензию.
Это обученный методом Proximal Policy Optimization (PPO) агент azaazato для игры Huggy, созданный с использованием библиотеки Unity ML-Agents. Модель предназначена для управления агентом в игровом окружении Huggy и может использоваться для демонстрации поведения или продолжения обучения через ML-Agents. В репозитории указаны веса ONNX; документация предлагает запускать агента в браузере или возобновлять обучение. Описание не сообщает размер модели, длину контекста или языковые возможности: это агент управления, а не языковая модель. Лицензия в предоставленных данных не указана.
Это обученная модель агента PPO для игры Huggy, опубликованная ChenJiayao. Модель создана с помощью библиотеки Unity ML-Agents и предназначена для управления игровым агентом в среде Huggy с использованием обучения с подкреплением. Её можно запускать в совместимой среде ML-Agents, чтобы наблюдать за игрой агента, а также использовать для продолжения обучения. Репозиторий содержит модель в формате ONNX. Сведения о размере модели, поддержке естественных языков и лицензии в доступных данных отсутствуют.
flipss/ppo-Huggy — модель агента, обученного играть в Huggy с помощью алгоритма PPO и библиотеки Unity ML-Agents. Она предназначена для запуска агента в среде Huggy, просмотра его игры и продолжения обучения через ML-Agents. В репозитории представлена модель в формате ONNX; агент взаимодействует с игровой средой, а не с естественным языком. Лицензия в доступных данных не указана.
Это обученная методом proximal policy optimization (PPO) модель агента для игры Huggy, опубликованная franklee1015. Модель создана с использованием Unity ML-Agents и предназначена для управления игровым агентом в среде Huggy; её можно запускать для просмотра игры или использовать для продолжения обучения через ML-Agents. В репозитории представлен формат ONNX. Модель принимает наблюдения среды и выдаёт управляющие действия агента. Карточка не приводит размер модели, параметры среды, метрики качества или перечень поддерживаемых языков. Лицензия в предоставленных данных не указана.
HarrisonColby/ppo-Huggy — обученный агент на основе метода Proximal Policy Optimization (PPO), созданный с помощью библиотеки Unity ML-Agents. Модель предназначена для управления персонажем Huggy в среде игры и может использоваться для просмотра поведения агента или продолжения его обучения с помощью ML-Agents. В репозитории представлен формат ONNX. Агент принимает наблюдения игровой среды и выдаёт управляющие действия; конкретный состав наблюдений и действий в карточке не описан. Данных о лицензии и языковой поддержке нет.
Это обученная методом proximal policy optimization (PPO) модель агента, который играет в Huggy — игровую среду на базе Unity ML-Agents. Модель предназначена для запуска агента в этой среде и продолжения его обучения с помощью ML-Agents. Репозиторий содержит модель в формате ONNX; карточка описывает просмотр игры агента в браузере через средство воспроизведения ML-Agents. Данные об архитектуре, размере, языках и лицензии не приведены, поэтому их нельзя уточнить.
Это обученная модель агента PPO, опубликованная пользователем mabrouk для игры Huggy в среде Unity ML-Agents. Она предназначена для управления игровым агентом: модель получает состояние среды и выбирает действия, а её поведение можно просматривать в браузере через средство воспроизведения ML-Agents или использовать для продолжения обучения. Репозиторий содержит модель в формате ONNX. Карточка не сообщает размер модели, длину контекста, языковую поддержку или лицензию. Модель предназначена для конкретной игровой среды Huggy; её перенос на другие среды без дополнительной настройки не подтверждён.
Patt/ppo-Huggy — обученный агент Proximal Policy Optimization (PPO), созданный с помощью библиотеки Unity ML-Agents для игры Huggy. Модель предназначена для управления игровым агентом в среде Huggy и может использоваться для просмотра поведения агента или продолжения его обучения средствами ML-Agents. Репозиторий содержит модель в формате ONNX. Для работы с моделью требуется среда Huggy и инструменты Unity ML-Agents. Карточка не сообщает размер модели, используемые датасеты или конкретные игровые навыки; качество поведения вне этой среды не подтверждено. Условия лицензирования в доступных сведениях не указаны.
Это обученная методом Proximal Policy Optimization (PPO) модель агента для игры Huggy, созданная с помощью библиотеки Unity ML-Agents и опубликованная пользователем Ryukijano. Модель предназначена для управления игровым агентом: её можно использовать для продолжения обучения или запуска агента в игре и просмотра его поведения в браузере. В репозитории есть файл ONNX; модель работает в сценарии обучения с подкреплением. Карточка не сообщает размер модели, языки или лицензию, поэтому их нельзя уточнить.
Это обученный агент PPO, созданный sam522 для игры Huggy в среде Unity ML-Agents. Модель предназначена для управления игровым агентом: её можно запустить в совместимой среде и посмотреть, как агент играет, либо использовать для продолжения обучения через ML-Agents. Репозиторий содержит модель в формате ONNX; в метаданных указана библиотека ML-Agents. README не сообщает размер модели, поддерживаемые естественные языки или условия лицензии, поэтому эти характеристики не описываются.
Tunamelon/ppo-Huggy — обученный агент PPO для игры Huggy, созданный с использованием библиотеки Unity ML-Agents. Модель принимает состояние игрового окружения и выбирает действия агента в рамках задачи обучения с подкреплением; репозиторий содержит файл в формате ONNX. Агент предназначен для запуска в окружении Huggy через ML-Agents, просмотра игрового поведения и продолжения обучения. В карточке описана только эта игровая задача; размер модели, поддерживаемые естественные языки и лицензия не указаны.
Карточка модели Aphrodite03/ppo-LunarLander-v2 на Hugging Face совпадает с карточкой MrBenjaroo/ppo-LunarLander-v3-veryBadTest, поэтому описание составлено по ней. Модель MrBenjaroo/ppo-LunarLander-v3-veryBadTest — обученный агент на основе алгоритма PPO для среды LunarLander-v3. Автор карточки указывает, что модель создана с помощью библиотеки stable-baselines3 и сохранена в формате PyTorch. Агент предназначен для управления посадочным модулем в симуляции LunarLander-v3: по наблюдениям среды он выбирает действия, помогающие посадить аппарат. Карточка не сообщает размер модели, языки или подробности обучения. Лицензия в предоставленных данных не указана.
Карточка модели fl4wn/ppo-LunarLander-v3 на Hugging Face совпадает с карточкой MrBenjaroo/ppo-LunarLander-v3-veryBadTest, поэтому описание составлено по ней. Модель MrBenjaroo/ppo-LunarLander-v3-veryBadTest — обученный агент на основе алгоритма PPO для среды LunarLander-v3. Автор карточки указывает, что модель создана с помощью библиотеки stable-baselines3 и сохранена в формате PyTorch. Агент предназначен для управления посадочным модулем в симуляции LunarLander-v3: по наблюдениям среды он выбирает действия, помогающие посадить аппарат. Карточка не сообщает размер модели, языки или подробности обучения. Лицензия в предоставленных данных не указана.
Карточка модели thvan2108/ppo-LunarLander-v3 на Hugging Face совпадает с карточкой MrBenjaroo/ppo-LunarLander-v3-veryBadTest, поэтому описание составлено по ней. Модель MrBenjaroo/ppo-LunarLander-v3-veryBadTest — обученный агент на основе алгоритма PPO для среды LunarLander-v3. Автор карточки указывает, что модель создана с помощью библиотеки stable-baselines3 и сохранена в формате PyTorch. Агент предназначен для управления посадочным модулем в симуляции LunarLander-v3: по наблюдениям среды он выбирает действия, помогающие посадить аппарат. Карточка не сообщает размер модели, языки или подробности обучения. Лицензия в предоставленных данных не указана.
Это обученный агент Proximal Policy Optimization (PPO) для среды Pendulum-v1, подготовленный с использованием библиотеки Stable-Baselines3 и фреймворка RL Zoo. Модель предназначена для управления маятником в симуляции: по состоянию среды агент выбирает действия, помогающие удерживать маятник в требуемом положении. Модель относится к обучению с подкреплением и хранится в формате PyTorch. Для запуска предназначены Stable-Baselines3 и инструменты RL Zoo. Она специализирована для Pendulum-v1; перенос на другие среды или реальные физические системы не подтверждён. Лицензия в предоставленных данных не указана.
Это обученный алгоритм PPO для агента, который играет в Pyramids в среде Unity ML-Agents. Модель предназначена для запуска агента в этой игровой среде, просмотра его игры в браузере и продолжения обучения с помощью ML-Agents. Репозиторий содержит модель в формате ONNX. Карточка не приводит размер модели, описание наблюдений и действий агента или сведения о лицензии, поэтому оценить требования к запуску и условия распространения по имеющимся данным нельзя.
Это обученный агент PPO для игры QbertNoFrameskip-v4, опубликованный в организации sb3. Модель создана с помощью Stable-Baselines3 и тренировочной инфраструктуры RL Zoo; она выбирает действия в среде Atari Q*bert с пропуском кадров. Агент предназначен для запуска в совместимой среде QbertNoFrameskip-v4 через Stable-Baselines3 или RL Zoo. Это специализированный контрольный пункт для игры, а не модель для диалога или генерации текста. В README указана библиотека Stable-Baselines3; репозиторий содержит веса PyTorch и создан 2 июня 2022 года. Модель принимает наблюдения среды и выдаёт действия агента. README не сообщает численные результаты игры или подробности об архитектуре политики, поэтому качество прохождения и устойчивость к изменениям среды оценить нельзя. Условия лицензирования в предоставленных сведениях не указаны.
Это обученный агент Proximal Policy Optimization (PPO) для среды SnowballTarget, созданный с использованием Unity ML-Agents. Модель предназначена для выполнения задачи в этой игровой среде: её можно запускать для просмотра поведения агента или использовать как отправную точку для продолжения обучения через ML-Agents. Репозиторий содержит модель в формате ONNX. Карточка не сообщает размер модели, параметры наблюдений и действий, результаты оценки или лицензию, поэтому их нельзя установить по доступным данным. Модель специализирована для SnowballTarget и не предназначена для обычного диалога или генерации текста.
Alya-1B Base — базовый чекпойнт архитектуры Alya от Prosperity AI. Репозиторий содержит случайно инициализированные веса, поэтому это пока не предварительно обученная языковая модель и он не предназначен для обычной генерации ответов. В метаданных указано 656 млн параметров и контекст до 65 536 токенов; README сообщает бюджет архитектуры около 1,026 млрд параметров, 28 слоёв и 21 слой Gated DeltaNet. Размеры параметров в источниках расходятся. Модель построена для авторегрессионной генерации текста и использует токенизатор Kumru-2B-Base. Карточка отмечает турецкий язык и поддержку диалогового сценария, однако предобучение, продолжение обучения на длинном контексте и SFT ещё не выполнены. Для работы указана библиотека Transformers и формат Safetensors. Лицензия — Apache-2.0.
Классификатор отдельных деталей пазла из проекта PuzzleMap, разработанный Pablo Moreira. Модель основана на визуальном трансформере DINOv2 Base, дообученном на датасете PuzzleMap, и использует две классификационные головы: одна отдельно определяет тип каждой из четырёх сторон, другая предсказывает общую конфигурацию детали. На вход подаётся изображение уже обнаруженной и обрезанной детали. Для верхней, правой, нижней и левой сторон модель определяет один из классов: ровный край, внешний выступ или внутреннее углубление; также она выдаёт метку полного рисунка сторон и вероятности предсказаний. Модель рассчитана на компьютерное зрение в задачах анализа и сортировки деталей пазла. README не задаёт конкретные ограничения по размеру входного изображения или языкам, поскольку обработка изображений не зависит от естественного языка. Качество может снижаться при неточной обрезке, наличии нескольких деталей, сильном перекрытии или отсутствующей части детали. Обучение включало четыре основные ориентации и небольшие случайные повороты, поэтому произвольные повороты и перспективные искажения могут обрабатываться хуже. Для загрузки пользовательской архитектуры Transformers требуется включить trust_remote_code. Модель распространяется по лицензии CC BY 4.0.
Это обученная методом Proximal Policy Optimization (PPO) модель агента, разработанная Crazylazylife для игры Pyramids в среде Unity ML-Agents. Модель предназначена для выбора игровых действий и может использоваться для просмотра игры агента или продолжения обучения в совместимой среде ML-Agents. Репозиторий содержит модель в формате ONNX. В карточке указаны задача reinforcement-learning и библиотека ml-agents. Сведения о размере модели, контексте и поддерживаемых естественных языках не приводятся. Условия лицензии в доступных данных не указаны.
Исследовательский чекпойнт проекта UnfaithRL на базе Qwen/Qwen2.5-0.5B: плотная авторегрессионная языковая модель на 494 млн параметров, дообученная методом RL-Zero/RLVR с многокомпонентным вознаграждением. Она предназначена для изучения того, как подсказки влияют на верность рассуждений цепочки мыслей, смену ответов и использование вводящих в заблуждение сигналов в задачах рассуждения MMLU. При обучении правильный ответ получал вознаграждение 1, ответ, предложенный подсказкой, — 0,5, остальные ответы — 0; максимальная длина генерации при обучении составляла 1024 токена. Модель принимает текст и генерирует текст; базовая модель поддерживает контекст до 32 768 токенов. Чекпойнт не предназначен для универсального ассистента: он может следовать ошибочным подсказкам, давать неверные ответы и создавать рассуждения, которые рационализируют итог. Текст рассуждения не следует считать достоверным объяснением решения. Лицензия в доступных данных не указана.
StarVLA/Qwen2.5-VL-OFT-LIBERO-4in1 — исследовательский чекпойнт политики vision-language-action, разработанный в рамках проекта StarVLA на базе Qwen2.5-VL-3B-Instruct. Доступный артефакт соответствует 30 000 шагам обучения и предназначен для управления роботом в симуляторе LIBERO по зрительным наблюдениям и инструкциям на естественном языке. Обучение объединяет наборы LIBERO Object, Goal, Spatial и LIBERO-10 с равным весом.
Это экспериментальный чекпойнт SeanWang0027 на базе Qwen/Qwen3-1.7B, дообученный для работы агентом в среде Agentick. Модель использует плотную архитектуру Qwen3ForCausalLM, принимает текстовые наблюдения в многошаговом диалоге ReAct и генерирует текстовые рассуждения и действия в заданном формате. Контекст — до 40 960 токенов; размер — 1,7 млрд параметров. Обучение проводилось методом online multi-turn ROSE: студент взаимодействовал со средой первые 10 ходов, после чего траекторию продолжал учитель Qwen3-32B, а его ответы использовались как цели обучения. На одном проходе официальной оценки Agentick модель достигла успеха 13,9%; автор приводит 5,70% для базовой Qwen3-1.7B и 22,40% для Qwen3-32B на тех же задачах. Чекпойнт остановлен на шаге 400, поэтому результаты следует считать ранними и экспериментальными. Лицензия — Apache-2.0.
Это экспериментальный чекпойнт SeanWang0027, полученный дообучением Qwen/Qwen3-1.7B для многоходового взаимодействия с виртуальной средой ALFWorld. Модель использует плотную архитектуру Qwen3ForCausalLM, содержит 1,7 млрд параметров и принимает текстовые диалоги в формате ReAct: после наблюдения она формирует мысль и действие. Контекстная длина, указанная в метаданных, составляет 40 960 токенов. Обучение выполнено методом online multi-turn ROSE: студент сначала играет 10 ходов, затем до 5 ходов продолжает учитель gpt-5.4-mini, а ответы учителя используются как целевые. На тестовом наборе ALFWorld модель показала успешность 32,00% ± 0,71; в README приведены результаты других эпох и базовой модели для сравнения. Чекпойнт опубликован в формате Safetensors под лицензией Apache-2.0. Результаты относятся к конкретному протоколу ALFWorld и не подтверждают пригодность модели для широкого круга агентных задач.