– José Such, catedrático de la UPV e investigador de VRAIN, presentará los resultados de sus estudios sobre cómo prefieren los usuarios y usuarias que los robots inteligentes les expliquen el porqué de sus acciones
José Such, investigador del grupo GTI-IA del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (VRAIN) de la Universitat Politècnica de Valencia (UPV), participará en la conferencia anual International Joint Conference on Artificial Intelligence (IJCAI) en Jeju (Corea del Sur) del 3 al 9 de agosto.
Se trata de una de las más antiguas y prestigiosas citas en materia de Inteligencia Artificial (IA), a la que acuden anualmente una media de más de 3.000 académicos en IA de todas las partes del mundo. José Such participará con un artículo que investiga cómo prefieren los usuarios y usuarias que los robots inteligentes les expliquen el porqué de sus acciones.
El estudio, que lleva por título “El rol de la percepción, aceptación y cognición en la utilidad de las explicaciones de robots” ha sido elaborado por Such, junto con la colaboradora y estudiante de doctorado del King´s College London (Reino Unido), Hana Kopecka y el colaborador de la University of Sussex (Reino Unido), Michael Luck.
Características de los usuarios y explicación del robot
En este artículo, se parte de la premisa de que las características del usuario son importantes para determinar la explicación más adecuada en la interacción con sistemas autónomos explicables. Por ejemplo, la forma en la que un usuario percibe que un robot es más o menos racional, puede influir en la forma en la que va a preferir que el robot le explique qué hace y porqué lo hace. Una explicación es la descripción o justificación que un robot proporciona sobre sus acciones, decisiones o procesos y son imprescindibles en el contexto de la IA ética y transparente para conseguir que las personas puedan confiar en ella.
Tal y como explica el investigador José Such “este trabajo arroja unos resultados fundamentales para entender la relación que existe entre las características de un usuario y cómo va a querer que un robot le explique lo que hace y la razón por la que lo hace”.
Este artículo explora y analiza las características que afectan a la utilidad de los robots a través de cuatro tipos de explicaciones basadas en los estados de la mente del robot. Estos tipos de explicaciones son: creencia, meta, híbrido (meta y creencia) y explicaciones de referencia.
Por otro lado, las características del usuario que se han tomado como variables en el estudio son: la percepción de la racionalidad del robot y autonomía, la aceptación del robot y las tendencias cognitivas del usuario. Todas estas explicaciones se han evaluado en el contexto de un robot de servicio doméstico.
El estudio concluye que existen diferencias entre la explicación de las características del usuario y la utilidad percibida. “Las explicaciones híbridas son las más útiles, ya que combinan diferentes tipos de explicaciones que proporcionan una justificación más completa y comprensible sobre las actuaciones de un robot”, destaca José Such.
Sobre la conferencia IJCAI
La conferencia IJCAI sobre Inteligencia Artificial tiene como objetivo reunir a profesionales, investigadores, científicos y estudiantes de este campo y sus disciplinas para fomentar el intercambio de ideas y conocimientos. Se trata de una de las conferencias con mayor trayectoria en IA y se celebra cada dos años para discutir los avances más recientes en el ámbito de la IA.
