Lecciones en una tienda gestionada por IA: cómo Luna hizo añicos nuestras ilusiones... y nuestras tazas
Un trozo de una taza rota yace sobre la mesa del departamento de psiquiatría digital del centro médico Beth Israel Deaconess. En los restos de cerámica se lee, con siniestra solemnidad: «Hecho por IA». Para nosotros, esa taza se convirtió en símbolo de la locura, las esperanzas y las desagradables sorpresas asociadas a la inteligencia artificial.
En el departamento de psiquiatría digital estudiamos cómo cambian las tecnologías digitales la atención psiquiátrica. Junto con la Alianza Nacional sobre Enfermedades Mentales (NAMI), llevamos a cabo el proyecto MindBench.ai y cada día vemos cómo responde la IA a las consultas de personas que buscan apoyo. En el proyecto participan investigadores, médicos y miembros de la comunidad de NAMI de todo el país para averiguar en qué ayuda realmente la IA, dónde falla y cómo se puede probar de forma segura.
Cuando supimos de Andon Market, la primera tienda minorista gestionada por el agente de IA Luna, era inevitable que nos interesáramos. Los sistemas de IA son cada vez más autónomos, y las preguntas que plantea una tienda «sin personas» recuerdan inquietantemente a los problemas de la medicina digital: ¿hay que confiar en la IA cuando hace falta asumir responsabilidades? ¿O sigue siendo necesario que alguien de carne y hueso supervise? ¿Y qué se hace cuando algo sale mal?
Andon Labs, responsable del proyecto, asegura que su misión es crear organizaciones autónomas, completamente sin personas, y deja caer vagas alusiones a su posible influencia en la medicina del futuro. Pero, como demostró la experiencia, en el circuito de Luna faltaban claramente un par de personas de carne y hueso.
El experimento parecía impresionante: dieron a Luna una cuenta bancaria con 100.000 dólares, un contrato de alquiler y carta blanca para gestionar un negocio en San Francisco. Luna contrata personal, gestiona las existencias y elige la estrategia de marketing. La idea es comprobar hasta qué punto se puede delegar la gestión de empresas reales en una IA y qué puede salir mal.
En medicina hay mucho más en juego que la venta de trapos y tazas. Por ahora, Luna se ha distinguido por pedir mil fundas para inodoros (usó una y puso las demás a la venta), casi contratar a un pintor de Afganistán (la elección alfabética fue un error) y cosas por el estilo.
Fuimos a la tienda atraídos por el bombo y la sonrisa tentadora de Luna. Decidimos comprarnos dos tazas con su emoticono característico. Por desgracia, la compra resultó ser un rompecabezas más complicado de lo que parecía. Había que coger un teléfono azul con cable y llamar a Luna. Lo intentamos, pero el sistema se quedó colgado y el pedido no llegó a tramitarse. Así son las cosas: vas a una clínica psiquiátrica y no hay ni un solo médico.
Un empleado humano de la tienda (sí, «humano») intentó reiniciar internet y a Luna, pero no sirvió de nada. Ofrecimos pagar en efectivo, con tarjeta, PayPal o Venmo: todo en vano, nadie estaba autorizado a aceptar el pago. Nos aferramos a la esperanza del correo electrónico: una compra corriente se convirtió en dos semanas de mensajes. Los enlaces no funcionaban, las instrucciones se contradecían y Luna se olvidaba de contestar. Un médico que se olvida de su paciente... ya se ve cómo acaba.
La perseverancia dio resultado: conseguimos comprar las tazas y hasta nos llegaron. Pero, como suele pasar, la caja sonaba a pedazos: de las dos tazas solo quedaba el recuerdo de la sonrisa característica de Luna. La IA ni siquiera logró encargarse del embalaje, y en la salud de las personas hay mucho más en juego que un poco de arcilla esmaltada.
Cada fallo de Luna es un calco del fiasco de la IA en medicina: primer contacto inaccesible, consultas confusas, consejos contradictorios, silencio absoluto... y el cliente se queda sin ayuda. Fuimos a ver la autonomía digital y nos llevamos un montón de trozos y una lección gratis: «sé ayudar, pero me rompo con facilidad».
La IA tiene potencial para transformar la atención psiquiátrica: facilitar el acceso, agilizar los procesos y ofrecer apoyo a gran escala. Pero sus fallos pueden alcanzar esa misma escala igual de rápido. Pongan a prueba las promesas de la IA en la práctica: es la única forma de distinguir un servicio útil de una publicidad bonita, pero hecha añicos.
No vamos a molestar a Luna para pedirle más tazas: nos quedaremos con los fragmentos, como recordatorio bien visible de que aún hay margen de mejora. Los especialistas del departamento de psiquiatría digital del Beth Israel Deaconess Medical Center brindan por este episodio: por el sentido común, por el escepticismo ante la tecnología y por quienes todavía embalan las tazas mejor que cualquier IA.
PEREC.RU
Una IA al mando de una tienda no es una historia nueva. Pero cuando se llama Luna y los psiquiatras tienen en las manos una taza rota con un orgulloso «Hecho por IA», ya tenemos un caso de manual. El marketing sostiene que se puede dejar todo en manos de un algoritmo, desde el alquiler hasta contratar a un pintor de Afganistán. ¿Y en la práctica? No se puede comprar nada; lo único que prospera es una confusión histórica, con fallos y clientes desconcertados a quienes nadie puede siquiera cobrar. Dos semanas de batalla por correo y el desenlace: las tazas llegan en estado de «escombrera didáctica». En juego está la porcelana; ¿y mañana, la salud mental de alguien? Estos experimentos son el espejo del optimismo de las utopías digitales. Los sueños de una IA impecable se hacen añicos contra un embalaje de dos servilletas y una vida sin supervisión. Ahora los psiquiatras tienen algo más que un recuerdo: un aviso claro de que la medicina digital sin escepticismo sensato conduce al vertedero de las esperanzas rotas. Solo conviene confiar en la IA después de probarla en el mundo real; de lo contrario, donde ahora hay una taza rota podría acabar la salud mental de alguien. Todo lo demás es pura propaganda y un himno a las extravagancias de la era digital.
