La revista científica Science publica un trabajo internacional que plantea un cambio de paradigma en la evaluación de los sistemas de inteligencia artificial (IA). La investigación está liderada por José Hernández-Orallo, investigador del Instituto VRAIN de la Universitat Politècnica de València (UPV) y miembro de ValgrAI, junto a especialistas de la Universidad de Cambridge, la Universidad de Princeton, el MIT y Google DeepMind.
El estudio cuestiona la tendencia dominante de medir el desarrollo de la inteligencia artificial en función de su capacidad para igualar o superar las habilidades humanas, un objetivo que guía gran parte de la carrera tecnológica internacional.
Superar las limitaciones del Test de Turing
Los investigadores consideran que el modelo actual de evaluación continúa reproduciendo la lógica del histórico Test de Turing, diseñado hace más de siete décadas para determinar si una máquina podía comportarse como un ser humano.
Según explica José Hernández-Orallo, este enfoque ha sido fundamental en la evolución de la disciplina, pero resulta insuficiente para valorar las capacidades y el comportamiento de los sistemas de inteligencia artificial actuales, mucho más complejos que los existentes cuando se formuló esta prueba.
Por ello, el artículo propone abandonar una visión centrada únicamente en comparar la IA con la inteligencia humana.
Tres nuevas perspectivas para comprender la inteligencia artificial
Como alternativa, el equipo plantea un marco de evaluación basado en tres grandes enfoques complementarios.
En primer lugar, propone medir distintos perfiles cognitivos mediante capacidades y propensiones abstractas, alejándose de una comparación directa con las habilidades humanas.
En segundo lugar, los investigadores plantean analizar cómo cambia la cognición cuando las personas trabajan conjuntamente con sistemas de inteligencia artificial, sustituyendo la pregunta sobre qué tareas pueden reemplazar las máquinas por otra más amplia: cómo transforma la IA nuestra forma de pensar y de tomar decisiones.
Finalmente, el estudio defiende que la evaluación no debe limitarse al grado de alineación con los valores humanos, sino analizar el impacto global que tendrá cada sistema sobre la sociedad.
Evaluar beneficios y riesgos antes de implantar la IA
Uno de los principales planteamientos del artículo consiste en desarrollar nuevos sistemas de evaluación capaces de anticipar el comportamiento de la inteligencia artificial antes de su despliegue.
Para ello, los autores proponen utilizar entornos de prueba donde puedan simularse distintos escenarios y evaluarse tanto los beneficios potenciales como los riesgos asociados a cada aplicación.
El objetivo es determinar si la incorporación de un determinado sistema de IA mejorará realmente el bienestar de la sociedad y minimizar posibles efectos negativos antes de su utilización.
La evaluación, el gran reto de la próxima generación de inteligencia artificial
Los investigadores consideran que esta reflexión resulta especialmente necesaria en un momento de enorme aceleración tecnológica, impulsado por la rápida evolución de los modelos basados en arquitecturas transformer y el desarrollo continuo de nuevos agentes de inteligencia artificial.
En este contexto, sostienen que el gran desafío ya no consiste únicamente en construir modelos cada vez más potentes, sino en disponer de herramientas que permitan comprender cómo funcionan, explicar sus decisiones y prever sus consecuencias.
José Hernández-Orallo concluye que el futuro de la inteligencia artificial dependerá tanto del avance tecnológico como de la capacidad para evaluarla de forma rigurosa, responsable y segura, garantizando que su desarrollo responda a las necesidades reales de la sociedad.
