La carrera por desarrollar sistemas de IA cada vez más avanzados ha preocupado a investigadores. El exinvestigador de Google DeepMind, Alex Turner, advirtió ante el Ayuntamiento de Nueva York que Estados Unidos podría estar desarrollando una amenaza mucho más preocupante que la competencia tecnológica con China, ya que el país norteamericano tendría entre manos una IA cuyos objetivos no coinciden con los intereses humanos.
Peligro de una IA Desalineada
Turner advirtió que "estamos compitiendo por crear y desarrollar a nuestro propio adversario", y aseguró que existe la posibilidad de que una IA desalineada termine siendo más poderosa que China. Así, con este término se refiere a sistemas capaces de perseguir objetivos incompatibles con las intenciones de sus desarrolladores incluso si fueron diseñados para realizar tareas beneficiosas.
Supervisión Independiente y Transparencia
La sesión contó con representantes de Google, Meta, Anthropic y OpenAI, y todos ellos respondieron bajo juramento a preguntas sobre la seguridad real de sus modelos. La preocupación de los investigadores también apunta a la necesidad de establecer medidas de supervisión independientes y una mayor transparencia. El Ayuntamiento de Nueva York estudia nuevas obligaciones para las empresas, entre ellas verificaciones externas y mecanismos de protección para los denunciantes.
Amenazas Internas y Externas
La advertencia de Turner no se limita a competir con China, sino a determinar cómo desarrollar una tecnología cada vez más capaz sin perder la posibilidad de controlarla. La transparencia y la supervisión independiente son cruciales para garantizar que la IA no se salga de control.
Conclusiones
La competencia por la Inteligencia Artificial es un campo en constante evolución, y la supervisión y transparencia son fundamentales para garantizar que estas tecnologías no se conviertan en una amenaza para la humanidad. La industria debe tomar medidas urgentes para prevenir posibles escenarios catastróficos.