El investigador del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (VRAIN) de la Universitat Politècnica de València (UPV) y miembro de la Unidad Mixta de Investigación de la Escuela Valenciana de Posgrado y Red de Investigación en Inteligencia Artificial (ValgrAI), José Hernández-Orallo, ha sido seleccionado como uno de los 60 expertos internacionales que integrarán el Comité Científico de la Oficina Europea de Inteligencia Artificial.
Este comité asesorará a la Oficina de IA en la aplicación de la Ley Europea de Inteligencia Artificial. Además, evaluará el impacto y los riesgos de los modelos de inteligencia artificial de propósito general (IAPG).
Una trayectoria internacional en evaluación de la inteligencia artificial
José Hernández-Orallo es investigador de VRAIN y catedrático de la Universitat Politècnica de València. Asimismo, impulsa el AI Evaluation Program de la Fundación ValgrAI. En la actualidad, también ejerce como director de investigación del Leverhulme Centre for the Future of Intelligence de la Universidad de Cambridge, en el Reino Unido.
Su actividad investigadora abarca la inteligencia artificial, el aprendizaje automático, la ciencia de datos y la medición de la inteligencia. En concreto, centra su trabajo en analizar las capacidades, el progreso, el impacto y los riesgos de la IA.
Desde 2017 lidera una línea de investigación dedicada a la evaluación de la inteligencia artificial. Para ello, ha desarrollado nuevos paradigmas de medición y marcos de evaluación publicados en revistas como Nature y Science, además de presentarlos en las principales conferencias internacionales sobre IA. También es fundador de las plataformas aievaluation.substack.com y ai-evaluation.org.
Asesoramiento sobre los riesgos de la IA de propósito general
Entre las principales funciones del Comité Científico figura alertar a la Oficina Europea de IA sobre posibles riesgos sistémicos. Además, sus integrantes asesorarán sobre metodologías para clasificar y evaluar los modelos de IA de propósito general. Del mismo modo, contribuirán a supervisar el despliegue de estas tecnologías en la Unión Europea.
Este órgano complementa el trabajo del Foro Consultivo, que reúne aportaciones de representantes de la industria, la sociedad civil y el ámbito académico.
La Comisión Europea ha seleccionado a los expertos atendiendo a criterios de equilibrio geográfico y paridad de género. En representación de España participarán José Hernández-Orallo, Javier Del Ser y Asunción Gómez-Pérez. Todos ellos ejercerán un mandato personal de 24 meses, con posibilidad de renovación.
Vigilancia de la IA con riesgos sistémicos
José Hernández-Orallo explica que el panel centrará su actividad en la inteligencia artificial de propósito general con riesgos sistémicos. Se trata de sistemas que, por sus capacidades, alcance o nivel de innovación, pueden representar amenazas relevantes para la sociedad o la economía.
Además de asesorar mediante grupos de trabajo a corto, medio y largo plazo, el comité mantendrá una vigilancia permanente. Así, podrá trasladar alertas a la Oficina Europea de IA cuando detecte nuevos modelos o fenómenos preocupantes derivados de un uso masivo de estas tecnologías.
Por su parte, Hernández-Orallo asegura que aportará rigor científico a la evaluación de las capacidades y riesgos de la inteligencia artificial. Asimismo, trabajará para reforzar la anticipación de los riesgos asociados a los sistemas de frontera y a la futura superinteligencia, complementando las labores de información y mitigación que desarrolla el panel.
