Роботу — права, но без бензопилы

Глава Nvidia Дженсен Хуанг рассказал, как OpenClaw и ИИ-агенты могут повлиять на развитие технологий, особенно робототехники. Выступая на мероприятии «Build a claw» в Лондоне, он назвал OpenClaw одной из наиболее значимых моделей и отметил, что искусственный интеллект стал практически полезным. По его словам, агенты уже помогают писать программный код, выполнять маркетинговые задачи, проводить исследования и лабораторную работу, а также содействуют учёным в поиске лекарств и инженерам — в проведении экспериментов.

Особенно Хуан заинтересовался человекоподобными роботами. Увидев робота, созданного партнёром Nvidia компанией Humanoid, он назвал OpenClaw «первой убедительной» агентной платформой. Её он сравнил с большой языковой моделью в экзоскелете: моторы, шарниры, колёса и руки робота — это инструменты, которыми управляет агент внутри компьютера. Хуан заявил, что такая система может оказаться полезной для робототехники, но для безопасного применения ей необходимы ограничения.

Он сопоставил нынешнее развитие агентных систем с ранним этапом существования интернета. Тогда браузеры не изолировали загружаемые приложения от компьютера: после посещения сайта программа могла получить полный доступ к его аппаратным ресурсам. В качестве ответа на подобную проблему Nvidia создала OpenShell — изолирующий слой, который, по объяснению Хуанга, работает как отдельная операционная система внутри основной и отделяет агента от оборудования компьютера.

При создании автономных систем, подчеркнул глава Nvidia, следует исходить из принципа «нулевого доверия»: задавать чёткие правила, выдавать лишь минимально необходимые права и постоянно контролировать действия агента. Если попросить систему приготовить омлет, ей нужны сковорода и соответствующие инструменты, но не бензопила. Доступ должен соответствовать конкретной задаче, а действия — проверяться на соблюдение установленных правил.

Хуанг описал безопасное развёртывание агентов так: минимальные привилегии, постоянный мониторинг и изоляция от аппаратной части устройства. Если робот начнёт нарушать заданные ограничения или действовать не по правилам, система должна передать ситуацию человеку. Тот сможет решить, следует ли остановить робота. Хуанг пошутил, что в таком случае его можно будет «заткнуть».

По словам главы Nvidia, механизмы эскалации к человеку и защиты необходимо встроить в автономные машины и ИИ-агентов. Это, считает он, позволит безопасно использовать такие системы и раскрыть их потенциальные возможности в будущем.