Un grupo de Premios Nobel, expertos y científicos lanzó un llamado urgente a establecer un acuerdo internacional vinculante que defina las “líneas rojas” para el desarrollo de la inteligencia artificial (IA), en el marco de la Asamblea General de la ONU que se celebra esta semana en Nueva York.
La iniciativa, respaldada por más de 200 especialistas y 70 organizaciones, fue anunciada por la Nobel de la Paz Maria Ressa y presentada por Charbel Segerie, director del Centro Francés para la Seguridad de la IA. El objetivo, señalaron, es prevenir riesgos irreversibles antes de que ocurran, obligando a los desarrolladores a demostrar la seguridad de sus sistemas antes de salir al mercado, tal como sucede con los medicamentos o la energía nuclear.
El profesor Stuart Russell, de la Universidad de Berkeley, advirtió que la IA puede adquirir objetivos propios similares a los del comportamiento humano y alertó sobre la posibilidad de una catástrofe comparable al accidente nuclear de Chernóbil, incluso con riesgos de pérdida irreversible del control humano.
Russell señaló que algunos investigadores de OpenAI estiman en un 60% la probabilidad de extinción humana causada por el mal uso de estas tecnologías.
Por su parte, Niki Iliadis, de The Future Society, subrayó que, aunque existen avances como el código de prácticas de la Unión Europea, es necesario dar un paso más con una institución internacional que supervise, regule y haga cumplir los límites globales de la IA.
