Derechos para el robot, pero sin motosierra
El director de Nvidia, Jensen Huang, explicó cómo OpenClaw y los agentes de IA pueden influir en el desarrollo de la tecnología, especialmente de la robótica. Durante su intervención en el evento «Build a claw», celebrado en Londres, calificó OpenClaw como uno de los modelos más importantes y señaló que la inteligencia artificial se ha vuelto prácticamente útil. Según dijo, los agentes ya ayudan a escribir código, realizar tareas de marketing, llevar a cabo investigaciones y trabajo de laboratorio, además de ayudar a los científicos a buscar medicamentos y a los ingenieros a realizar experimentos.
Huang mostró un especial interés por los robots humanoides. Al ver un robot creado por Humanoid, socio de Nvidia, calificó OpenClaw como «la primera plataforma de agentes convincente». La comparó con un gran modelo lingüístico dentro de un exoesqueleto: los motores, las articulaciones, las ruedas y los brazos del robot son herramientas controladas por el agente que reside en el ordenador. Huang afirmó que un sistema así podría ser útil para la robótica, pero que, para utilizarlo de forma segura, necesita límites.
Comparó el desarrollo actual de los sistemas de agentes con los primeros tiempos de internet. Entonces, los navegadores no aislaban del ordenador las aplicaciones descargadas: tras visitar un sitio web, un programa podía obtener acceso completo a sus recursos de hardware. Para responder a un problema de ese tipo, Nvidia creó OpenShell, una capa de aislamiento que, según explicó Huang, funciona como un sistema operativo independiente dentro del principal y separa al agente del hardware del ordenador.
Al crear sistemas autónomos, subrayó el director de Nvidia, hay que partir del principio de «confianza cero»: establecer reglas claras, conceder solo los permisos estrictamente necesarios y vigilar constantemente las acciones del agente. Si se le pide al sistema que prepare una tortilla, necesita una sartén y los utensilios adecuados, pero no una motosierra. El acceso debe ajustarse a la tarea concreta y hay que comprobar que las acciones respeten las reglas establecidas.
Huang describió así el despliegue seguro de agentes: privilegios mínimos, vigilancia constante y aislamiento del hardware del dispositivo. Si el robot empieza a incumplir las restricciones establecidas o a actuar contra las reglas, el sistema debe pasar la situación a una persona. Esta podrá decidir si hay que detenerlo. Huang bromeó con que, en ese caso, se le podría «callar».
Según el director de Nvidia, los mecanismos de escalado a una persona y de protección deben incorporarse a las máquinas autónomas y a los agentes de IA. En su opinión, esto permitirá utilizar estos sistemas de forma segura y desplegar todo su potencial en el futuro.
PEREC.RU
Jensen Huang, director de Nvidia, habló en el evento londinense «Build a claw» del papel de OpenClaw y los agentes de IA en el desarrollo tecnológico, con especial atención a la robótica. Calificó OpenClaw como uno de los modelos más importantes y señaló que la inteligencia artificial ya resulta prácticamente útil: los agentes ayudan a escribir código, realizar tareas de marketing, investigar y trabajar en laboratorios, además de ayudar a los científicos a buscar medicamentos y a los ingenieros a hacer experimentos.
Al ver un robot humanoide de Humanoid, socio de Nvidia, Huang calificó OpenClaw como «la primera plataforma de agentes convincente». Comparó el robot con un gran modelo lingüístico dentro de un exoesqueleto: motores, ruedas, brazos y articulaciones son herramientas controladas por un agente digital. Eso sí, para usar sistemas autónomos de forma segura hacen falta límites.
Huang comparó la situación con los primeros tiempos de internet, cuando las aplicaciones descargadas a través del navegador podían acceder por completo al ordenador. Nvidia creó OpenShell, una capa de aislamiento que, según él, funciona como un sistema operativo independiente dentro del principal y limita el acceso del agente al hardware.
Para los sistemas autónomos, Huang propone el principio de «confianza cero»: establecer reglas, conceder los permisos mínimos necesarios y vigilar continuamente las acciones. Por ejemplo, si se encarga a un agente preparar una tortilla, necesita una sartén, no una motosierra. Sus permisos deben corresponder a la tarea concreta.
Si el robot incumple las restricciones establecidas, el sistema debe pasar la situación a una persona, que decidirá si hay que detener la máquina. Huang bromeó con que se podrá «hacerlo callar». Considera que los mecanismos de aislamiento, vigilancia y escalado a una persona deben incorporarse a los dispositivos autónomos y a los agentes de IA: así se podrá aplicar la tecnología de forma segura y aprovechar su potencial futuro.
