Los agentes de inteligencia artificial (IA) están aprendiendo a mejorar su propio software, pero cada cambio plantea el dilema de si el beneficio supera los riesgos. Un estudio de la Universidad de Virginia, Microsoft Research y la Universidad de Tsinghua ha desarrollado un sistema que permite a estos agentes predecir si una modificación podría empeorar los resultados. El sistema, llamado HyperAgents, utiliza un modelo de dinámicas de mejora (IDM) para analizar cambios propuestos y estimar sus posibles consecuencias. Este modelo puede distinguir entre tareas que terminarían con resultados incorrectos y otras que podrían no llegar a completarse. Si prevé un empeoramiento, permite una revisión adicional antes de evaluar la versión resultante. Los investigadores han probado este sistema con 166 tareas de programación, demostrando que el uso de IDM puede mejorar la eficiencia de los agentes de IA sin introducir errores. La clave para este sistema es predecir errores antes de que ocurran, permitiendo a los agentes de IA mejorar sin correr el riesgo de introducir fallos en su código.
