Premios Nobel y científicos reclaman una institución internacional que imponga límites a la IA, con acuerdos vinculantes para evitar riesgos irreversibles y garantizar desarrollo seguro.
Un grupo de premios Nobel, científicos y expertos en inteligencia artificial exigieron este lunes la creación de una institución internacional que regule los riesgos de la IA. La iniciativa, respaldada por más de doscientas personalidades y setenta organizaciones, fue presentada en vísperas de la Asamblea General de la ONU en Nueva York. Los firmantes solicitan un acuerdo vinculante que establezca “líneas rojas” claras sobre lo que esta tecnología no debe traspasar.
Maria Ressa, premio Nobel de la Paz, anunció el llamado durante la conmemoración del 80.º aniversario de la ONU, mientras que Charbel Segerie, director del Centro Francés para la Seguridad de la IA, señaló que el objetivo es prevenir riesgos a gran escala antes de que ocurran. La coalición propone exigir a los desarrolladores que demuestren la seguridad de sus sistemas como requisito de acceso al mercado, tal como sucede en sectores sensibles como el farmacéutico o el nuclear.
Stuart Russell, profesor de la Universidad de Berkeley, advirtió que la IA imita objetivos humanos y que, sin planes claros de control por parte de gobiernos o empresas, existe una probabilidad “significativa” de una catástrofe comparable a Chernóbil. Expertos como Niki Iliadis consideran que, aunque la Unión Europea ya avanza con códigos de buenas prácticas, es imprescindible crear una institución global que establezca y supervise límites comunes para el desarrollo seguro de la inteligencia artificial.
Discusión sobre esto post