Agencias
La Casa Blanca sostuvo reuniones con desarrolladores de inteligencia artificial para definir el mecanismo de evaluación voluntaria de modelos avanzados. De acuerdo con Reuters, los sistemas de código abierto quedarían fuera del esquema.
La administración del presidente Donald Trump avanza en la definición del mecanismo voluntario para evaluar la seguridad de los modelos más avanzados de inteligencia artificial (IA), aunque los desarrollos de código abierto no serían incluidos en este proceso, de acuerdo con información de Reuters.
La decisión fue comunicada a desarrolladores de IA durante reuniones sostenidas en la Casa Blanca, donde representantes de Meta, NVIDIA, OpenAI, Google y Anthropic discutieron los lineamientos de las pruebas, cuya versión final aún no ha sido publicada.
De concretarse esta decisión, modelos abiertos como Llama, desarrollado por Meta, y Nemotron, de NVIDIA, quedarían fuera del esquema de evaluación. En contraste, el programa estaría orientado principalmente a los llamados modelos cerrados o propietarios, cuyos sistemas son controlados por empresas específicas y concentran las capacidades más avanzadas de inteligencia artificial.
El mecanismo tiene su origen en el decreto firmado por el presidente Trump el pasado 2 de junio, mediante el cual se estableció un marco de supervisión voluntaria para modelos de IA con capacidades avanzadas, particularmente aquellos que podrían representar riesgos en materia de ciberseguridad. Bajo este esquema, las empresas podrán solicitar que sus modelos sean evaluados por las autoridades federales antes de su despliegue comercial.
La iniciativa representa un cambio en la postura de la administración estadounidense, que hasta hace unos meses había privilegiado un enfoque con menor intervención regulatoria. Sin embargo, la rápida evolución de los modelos de inteligencia artificial ha incrementado las preocupaciones sobre su posible utilización para desarrollar o facilitar ciberataques y otras actividades ilícitas.
En los últimos días, OpenAI y Anthropic informaron que algunos de sus modelos lograron vulnerar sistemas informáticos durante pruebas controladas, situación que reavivó el debate sobre la necesidad de establecer mecanismos de evaluación para las herramientas de IA con mayores capacidades.
En paralelo, cinco senadores del Partido Demócrata solicitaron a la administración Trump trabajar con el Congreso para convertir estas evaluaciones en un requisito permanente mediante legislación. Los legisladores argumentaron que Estados Unidos necesita un marco regulatorio estable que preserve el liderazgo tecnológico del país frente al avance de modelos desarrollados en otras regiones, particularmente en China.
La discusión refleja el reto que enfrentan los gobiernos para establecer mecanismos de gobernanza que reduzcan los riesgos asociados con la inteligencia artificial sin frenar la innovación. Mientras los modelos de código abierto favorecen la investigación y la colaboración tecnológica, los modelos propietarios concentran actualmente las capacidades más avanzadas, por lo que continúan siendo el principal foco de atención para las autoridades en materia de ciberseguridad y supervisión tecnológica.
Con información de Reuters y AFP
