Research

La confianza en los robots humanoides cae cuando un Pepper expresivo comete errores

En un estudio con 50 personas y el robot Pepper, los errores de un humanoide animado elevaron la oxitocina, y los niveles más altos se asociaron con menos confianza y menor influencia.

Humanoid robot trust drops when expressive Pepper makes errors

En un estudio con 50 personas que conversaron con el robot humanoide Pepper, los participantes que vieron a un robot animado cometer errores de conversación mostraron un aumento de oxitocina, y quienes tuvieron los niveles más altos fueron los que menos confiaron en el robot. El trabajo, publicado en Science Robotics, añade una medida biológica a la cuestión de la confianza en los robots humanoides y sugiere que la hormona reflejó recelo y no afecto.

Qué puso a prueba el experimento

Los participantes hablaron con Pepper, un humanoide comercial diseñado para ser expresivo y reconocer emociones, y tomaron decisiones conjuntas con él. En algunas sesiones el robot dio buenos consejos. En otras cometió errores de conversación, como interrumpir a las personas o insistir en sugerencias ilógicas.

El comportamiento del robot también varió. Con algunos participantes, Pepper fue animado: usó gestos, contacto visual y asentimientos. Con otros, permaneció inmóvil.

El equipo midió cuatro variables: la actividad cerebral, los niveles de la hormona oxitocina, la confianza declarada por los participantes y cuánto influyó el robot en sus decisiones. Los autores son Hasan Ayaz, de la Universidad de Drexel; Ewart J. de Visser y Yigit Topoglu, de la Academia de la Fuerza Aérea de Estados Unidos; y Frank Krueger, de la Universidad George Mason.

Humanoid robot trust drops when expressive Pepper makes errors
Robohub

La oxitocina aumentó junto con la desconfianza

La oxitocina se conoce popularmente como la hormona del amor por su papel en los vínculos sociales. La predicción más directa era que disminuiría cuando un compañero decepciona. Ocurrió lo contrario cuando un robot expresivo rompió las normas de interacción: los niveles de oxitocina aumentaron.

La magnitud del aumento importó. Cuanto mayor era la oxitocina de una persona durante los errores de un robot expresivo, menos confiaba en él y con menos frecuencia seguía sus consejos. Los investigadores interpretan esto como que la hormona acompañaba al recelo, no al afecto.

Los errores redujeron la confianza y disminuyeron la influencia del robot, fuera o no expresivo. La expresividad no cambió ese resultado. Lo que cambió fue lo que ocurría en el cerebro de los participantes.

Dos regiones cerebrales que trabajan en conjunto

Medir la actividad cerebral durante una conversación real es difícil, porque el método convencional exige permanecer inmóvil dentro de un resonador magnético. El equipo utilizó espectroscopía funcional de infrarrojo cercano, un sensor portátil que se coloca en la frente y registra los niveles de oxígeno en el cerebro mientras las personas se mueven y hablan.

Se centraron en dos regiones. La corteza prefrontal dorsolateral vigila la incertidumbre y avisa cuando se rompen las expectativas o las normas. La corteza prefrontal medial sustenta la mentalización, la tarea cotidiana de inferir qué intenciones tiene la otra parte.

Cuando un robot animado se equivocaba, la actividad aumentaba en ambas regiones y estas empezaban a trabajar de forma más coordinada. Esa coordinación más estrecha predecía el aumento de oxitocina, que a su vez predecía una caída de la confianza y una menor influencia sobre el comportamiento de los participantes. Quienes interactuaron con el robot inmóvil no mostraron esta actividad coordinada.

Los investigadores lo interpretan como que las personas se sienten desconcertadas y se esfuerzan más por dar sentido a una situación social incómoda. Su planteamiento es que las señales expresivas sacan el error de la categoría de fallo técnico y lo llevan a la de violación social, del tipo que ocurre entre personas. El error de un robot inmóvil parece mecánico. El mismo error de un robot animado activa los mecanismos que se usan para juzgar a las personas.

Las limitaciones que señalan los autores

Todos los participantes eran hombres jóvenes y el estudio empleó un único diseño de robot. Los autores indican que un paso clave será comprobar si la misma vigilancia asociada a la oxitocina aparece en mujeres, en grupos mixtos, en otras culturas y con otros diseños de robot. Además, el sensor solo alcanzó la parte frontal del cerebro, por lo que no se midieron regiones más profundas que participan en el procesamiento social.

También planean evaluar si un robot puede reparar la confianza tras un error reconociéndolo, pidiendo disculpas o mostrando buenas intenciones, como hacen las personas después de un intercambio incómodo.

Análisis: qué cambia este estudio y qué no

El estudio cuestiona una suposición habitual de diseño: que los robots realistas y socialmente expresivos ganan más confianza y que eso protege su reputación cuando fallan. En este experimento, la expresividad no ofreció esa protección en las medidas de comportamiento. La confianza y la influencia cayeron tras los errores en ambas condiciones. Para los equipos que desarrollan robots para hogares, hospitales y lugares de trabajo, la lectura práctica es acotada pero útil: el comportamiento expresivo no debe considerarse un amortiguador frente a los fallos.

El hallazgo más distintivo es el mecanismo. El mismo error produjo respuestas neuronales distintas según el robot fuera animado o no. Eso importa porque las puntuaciones de confianza conductual por sí solas no habrían mostrado diferencias entre los dos grupos. Una medida que distingue cómo procesa una persona un fallo, incluso cuando el resultado parece igual, ofrece a los diseñadores una forma de comparar comportamientos robóticos que los cuestionarios pasan por alto.

El resultado también encaja con dificultad con la forma en que suele hablarse de la oxitocina. La fuente señala que la mayor parte de la investigación sobre esta hormona se centra en interacciones entre humanos, y que un número creciente de trabajos muestra que sus efectos dependen del contexto, la incertidumbre y la amenaza percibida. Este estudio encaja en ese panorama. No demuestra que la oxitocina cause desconfianza. Demuestra que, en este contexto, los niveles más altos fueron de la mano de una menor confianza.

Varias cuestiones siguen sin demostrarse. La cadena que va de la coordinación cerebral a la oxitocina y a la confianza se describe como predictiva, lo cual no equivale a causal. Una muestra de 50 hombres jóvenes y un solo robot no permite saber si el patrón se mantiene en otros usuarios o en robots con distinto aspecto y voz. El sensor frontal deja sin medir las regiones más profundas del procesamiento social. Y el estudio no evaluó si un robot expresivo que reconoce su error recupera la confianza más rápido que uno que no lo hace, que es la pregunta que más necesitan responder los diseñadores.

Mientras no se complete ese trabajo de reparación, la conclusión respaldada es limitada. En un robot humanoide, la expresividad cambia la manera en que el cerebro juzga un error, pero no hizo que el error saliera más barato en términos de confianza. Un robot que gesticula y mantiene contacto visual eleva las expectativas sociales que después tiene que cumplir.

La confianza en los robots humanoides cae cuando un Pepper expresivo comete errores