Un equipo del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (VRAIN) de la Universitat Politècnica de València (UPV) trabaja en la investigación de una inteligencia artificial (IA) que se adapte a las personas y sus valores, sus preferencias a la hora de tomar decisiones y que sea ética y explicable, es decir que explique por qué ha tomado esa decisión.
El proyecto HAIFEL (Human-centred Artificial Inteligence for Everyday Life) es un proyecto PROMETEO, financiado por la Generalitat Valenciana, que está liderado por el investigador de VRAIN y catedrático de la UPV, José Such, y la investigadora de VRAIN y catedrática de la UPV, Eva Onaindía, ambos investigadores principales del proyecto.
La Inteligencia Artificial (IA), “está cada vez más integrada en nuestra vida cotidiana, desde asistentes de IA hasta recomendaciones con sistemas de apoyo en la toma de decisiones, inteligentes y autónomos. Por lo que es fundamental que estos sistemas basados en IA se adapten a nosotros, las personas, nuestros valores y preferencias, para que podamos sacar el máximo partido de la IA y minimizar los riesgos asociados a su uso”, explica el investigador de VRAIN, José Such
Y añade que para ello, la IA “debe comportarse éticamente y respetar nuestra intimidad y razonar, aprender y adaptarse a nuestras preferencias y valores, además de explicar lo que hace y por qué de una manera en la que las personas lo podamos entender y actuar en consecuencia, independientemente de los conocimientos que tengamos en IA”.
La investigadora Eva Onaindía añade que “para abordar el diseño de sistemas de soporte a la decisión adaptados a las preferencias y valores humanos, es necesario explorar y combinar técnicas de IA capaces de simular la inteligencia y el comportamiento humano, que permitan emular el proceso de pensamiento humano. Solo de ese modo, se podrá construir un sistema de inteligencia artificial que las personas perciban alineado con valores humanos y principios éticos”.
Sobre VRAIN
El Instituto Universitario Valenciano de Investigación en Inteligencia Artificial – Valencian Research Institute for Artificial Intelligence- (VRAIN) de la UPV está integrado por ocho grupos de investigación que cuentan con más de 30 años de experiencia en diferentes líneas de investigación en IA.
El proceso de creación de VRAIN comenzó en 2019, fruto de la unión de seis grupos investigadores. En 2020, se fusionó con el Centro de Investigación en Métodos de Producción de Software PROS y en 2021 se constituyó finalmente como Instituto Universitario de Investigación con la aprobación de la Generalitat Valenciana.
En la actualidad, cuenta con más de 178 investigadores divididos en nueve áreas de investigación. Estas nueve áreas sobre las que gira su actividad investigadora hacen que sus desarrollos se apliquen a un gran número de sectores estratégicos como salud, movilidad, ciencias de la tierra, ciudades inteligentes, educación, redes sociales, agricultura, industria, privacidad/seguridad, robots autónomos, servicios y energía, y sostenibilidad ambiental entre otros.
Estas actividades han sido financiadas por más de 135 proyectos obtenidos mediante financiación competitiva, principalmente de la Unión Europea, pero también del Plan Nacional de Investigación, el Plan Valenciano de Investigación y Proyectos de Transferencia de Tecnología.
