Gobiernos mundiales alertan sobre las potenciales consecuencias "catastróficas" de la IA

Bletchley Park (Reino Unido), 1 nov (EFE).- Los gobiernos mundiales reunidos desde este miércoles en una cumbre de seguridad sobre inteligencia artificial (IA) en el Reino Unido alertaron en una declaración conjunta sobre las potenciales consecuencias “catastróficas” de la nueva tecnología.

Estados Unidos, China, India y países de la Unión Europea como Francia, Alemania y España están entre los 29 firmantes de un texto que recalca que es “especialmente urgente” analizar los peligros que presenta la nueva tecnología y acordar medidas preventivas tempranas.

“Nos comprometemos a trabajar juntos de manera inclusiva para asegurar una inteligencia artificial centrada en el ser humano, confiable y responsable”, señala la declaración, pactada antes de la cumbre y que subraya que el mejor modo de afrontar los riesgos es la “cooperación internacional”.

Reunidos en Bletchley Park, el enclave inglés en el que se decodificaban los códigos nazis durante la Segunda Guerra mundial, representantes de las principales potencias globales en el sector tecnológico constaron el “potencial transformador” de la IA, que puede impulsar “el bienestar, la paz y la prosperidad”.

Junto con esos posibles beneficios, sin embargo, van asociados “riesgos significativos” que obligan a velar por que el desarrollo de la tecnología se mantenga bajo “una supervisión humana adecuada”.

La declaración reconoce el peligro de que la IA genere “contenido manipulado” o “engañoso”, y urge a tomar medidas en ese sentido, pero va más allá y alerta sobre futuras amenazas provenientes de sistemas “de frontera”, que excederán las habilidades de los actuales modelos más avanzados.

Además de la desinformación, los gobiernos se declaran especialmente preocupados por las aplicaciones de la IA en terrenos como la ciberseguridad y la biotecnología.

“Existe el potencial de que se produzcan daños graves, incluso catastróficos, ya sea de manera deliberada o no intencional”, subraya el comunicado conjunto.

“Dado el rápido e incierto ritmo de los cambios en la IA, y en el contexto de una aceleración de las inversiones en tecnología, afirmamos que profundizar en nuestra comprensión de esos riesgos potenciales y las acciones para mitigarlos es especialmente urgente”, agrega la declaración.

El Reino Unido ha impulsado la primera cumbre de seguridad global sobre inteligencia artificial (AISS, en inglés), que volverá a convocarse dentro de seis meses en la República de Corea y dentro de un año en Francia.

A este primer encuentro, que durará hasta el jueves, asisten, además de gobiernos, representantes de las principales empresas tecnológicas globales, como OpenAI, Google DeepMind, Anthropic, Meta y Microsoft.

Bletchley Park (Reino Unido), 1 nov (EFE).- La República de Corea y Francia acogerán las dos siguientes cumbres de seguridad sobre inteligencia artificial (AISS, en inglés), anunció este miércoles la secretaria de Estado británica de Ciencia y Tecnología, Michelle Donelan.

Al inaugurar en Bletchley Park (centro de Inglaterra) la primera edición de la cumbre, en la que se debaten los riesgos que pueden presentar en el futuro los sistemas de IA más avanzados, Donelan avanzó que Seúl organizará un nuevo encuentro dentro de seis meses y París, el siguiente, dentro de un año.

El objetivo de la reunión es “abordar un reto sociotecnológico que trasciende las fronteras nacionales y que nos obliga a trabajar juntos al servicio de la seguridad y la prosperidad compartidas”, dijo la secretaria de Estado en la primera sesión del evento.

Los nuevos sistemas “pueden liberar a gente de trabajos tediosos y amplificar nuestra creatividad, podrían ayudar a nuestros científicos a hacer grandes descubrimientos, abrir la puerta a un mundo potencialmente sin enfermedades como el cáncer”, afirmó.

“Pero también pueden concentrar un poder incontrolable en las manos de unos pocos, o bien ser utilizados de manera maliciosa para minar la confianza del público y amenazar la seguridad internacional”, agregó.

“Tenemos los recursos y el mandato para defender a la humanidad y mantener la seguridad creando las salvaguardas y la gobernanza adecuadas para garantizar el desarrollo seguro de los sistema de inteligencia artificial de frontera”, declaró la secretaria de Estado.

La primera edición de la cumbre se celebra hoy y mañana en el complejo inglés que durante la Segunda Guerra Mundial fue cuartel general del equipo que descifraba los códigos secretos del Ejército nazi.

Participan en la cumbre Estados Unidos y China, dos de las principales potencias en el desarrollo de la IA, así como la Unión Europea y los gobiernos de Alemania, Francia, Italia, Irlanda, Países Bajos y España.

Están representados asimismo Brasil, Canadá, India, Israel, Australia, Corea, Japón, Arabia Saudí y Turquía, entre otros.

También están invitadas a los debates en Bletchley Park representantes de algunas de las firmas más relevantes en el sector, entre ellas Open AI, Google DeepMind, Anthropic, Meta y Microsoft.