Compartir

Agencias

  • El objetivo es ofrecer «un futuro más seguro tanto para la IA como para el mundo»
  • Los aspectos que más preocupan son la ciberseguridad, biotecnología y desinformación

Un total de 28 países de todo el mundo, entre los que se encuentran Estados Unidos, China y los que forman la Unión Europea (UE), han acordado en lo que se ha convertido en el primer acuerdo mundial para un desarrollo seguro y responsable de la Inteligencia Artificial (IA), que se ha materializado en la denominada Declaración de Bletchley.

No hay dudas de todas las ventajas y mejoras en nuestra vida que ofrece la IA, sin embargo, los peligros también son muchos, por esa razón varios países se han reunido en el AI Safety Summit (Seminario de seguridad de la IA) celebrado en el museo Bletchley Park, situado en Buckinghamshire (Inglaterra).

Este evento que ha tenido esta tecnología como temática central, ha planteado «un futuro más seguro tanto para la IA como para el mundo», según ha matizado el Departamento de Ciencia, Innovación y Tecnología de Reino Unido en X.

Para ello, los Estados participantes en la cumbre -Reino Unido, Estados Unidos, China, los países de la UE, Brasil, Francia, india, Irlanda, Kenia, Japón, Arabia Saudí, Nigeria y Emiratos Árabes Unidos-, han consolidado este miércoles 1 de noviembre un primer acuerdo mundial que establece las oportunidades y los riesgos que plantea la IA, así como la necesidad de que los gobiernos trabajen en sintonía para enfrentarse a los desafíos más relevantes.

Con este acuerdo, los firmantes «aceptan la urgente necesidad de comprender y gestionar de forma colectiva los riesgos potenciales a través de un nuevo esfuerzo global conjunto para garantizar que la IA se desarrolla y despliega de forma segura», según un comunicado del Gobierno británico.

En la cumbre, los presentes han coincidido en que pueden surgir riesgos sustanciales por el uso indebido intencional de la IA y en que existe una especial preocupación por aquellos relacionados con la ciberseguridad, biotecnología y desinformación.

En este sentido, el tratado establece que existe «un potencial de daño grave, incluso catastrófico, ya sea deliberado o no, derivado de las capacidades más significativas de estos modelos de IA».

Debido a que los participantes en la cumbre creen que se debe profundizar la comprensión de los riesgos de esta herramienta y sus capacidades, que «no se comprenden completamente», también han acordado trabajar juntos para apoyar una red científica sobre la seguridad de la inteligencia artificial gracias al Instituto de Seguridad de IA anunciado hace unos días por el primer ministro británico, Rishi Sunak.

Eventos anuales

Los países participantes han determinado, como parte de esta declaración, que para seguir avanzando en materia de seguridad, se reunirán cada año de manera presencial, siendo Francia la próxima sede de esta cumbre. Antes de esto, en seis meses, será Corea del Sur el que figure como coanfitrión en una cumbre virtual sobre IA a menor escala.

«Esto garantiza un legado duradero de la Cumbre y una acción internacional continua para abordar los riesgos de la IA, incluida la información sobre políticas nacionales e internacionales basadas en riesgos en estos países», se puntualiza en este comunicado.

Fuente: eE

Compartir