JenTelMx
La Comisión Europea (CE) propuso nuevas reglas para cubrir el impacto de la Inteligencia Artificial (IA) en los seres humanos y las empresas. Quiere un entorno de confianza para el desarrollo de productos y servicios innovadores en la Unión Europea (UE).
La combinación del primer marco jurídico sobre la IA de la historia y de un nuevo plan coordinado con los Estados miembros garantizará la seguridad y los derechos fundamentales de las personas y las empresas, al tiempo que reforzará la adopción, la inversión y la innovación en materia de IA en toda la UE. Complementarán este enfoque las nuevas normas sobre maquinaria, que adaptarán las normas de seguridad para dar mayor confianza a los usuarios en la nueva y versátil generación de productos.
La confianza es imprescindible
La CE dijo que las reglas adoptarían un enfoque basado en el riesgo para la IA, buscando equilibrar la promoción de la tecnología, que considera clave para el crecimiento económico en Europa, con la protección de las personas. También quiere ser visto como un estándar global.
Margrethe Vestager, vicepresidenta ejecutiva responsable de la cartera de una Europa Adaptada a la Era Digital, ha declarado: «En cuanto a la inteligencia artificial, la confianza es una obligación, no un adorno.» Al establecer normas, podremos facilitar el advenimiento de una tecnología ética en todo el mundo y velar por que la UE siga siendo competitiva. Nuestras normas, son propicias a la innovación, intervendrán cuando sea estrictamente necesario, esto es, cuando estén en juego la seguridad y los derechos fundamentales de los ciudadanos de la UE».
El nuevo Reglamento sobre la IA garantizará que los europeos puedan confiar en lo que la IA puede ofrecer. Unas normas proporcionadas y flexibles. El plan coordinado expone los cambios de política y las inversiones necesarios en los Estados miembros para reforzar el liderazgo de Europa en el fomento de una IA centrada en el ser humano, sostenible, segura, inclusiva y fiable.
Las nuevas normas se aplicarán de la misma manera en todos los Estados miembros sobre la base de una definición de IA a prueba de futuro. Siguen un planteamiento basado en el riesgo, como se explica a continuación:
Riesgo inadmisible: Se prohibirán los sistemas de IA que se consideren una clara amenaza para la seguridad, los medios de subsistencia y los derechos de las personas. Esto abarca los sistemas o las aplicaciones de IA que manipulan el comportamiento humano para eludir la voluntad de los usuarios (por ejemplo, juguetes que utilicen asistencia vocal para incitar a comportamientos peligrosos a los menores) y sistemas que permitan la «puntuación social» por parte de los Gobiernos.
Alto riesgo: Los sistemas de IA considerados de alto riesgo abarcan las tecnologías de IA empleadas en:
- infraestructuras críticas (por ejemplo, transportes), que pueden poner en peligro la vida y la salud de los ciudadanos;
- formación educativa o profesional, que pueden determinar el acceso a la educación y la carrera profesional de una persona (por ejemplo, puntuación en exámenes);
- componentes de seguridad de los productos (por ejemplo, aplicación de IA en cirugía asistida por robots);
- empleo, gestión de trabajadores y acceso al trabajo por cuenta propia (por ejemplo, programas informáticos de clasificación de CV para procedimientos de contratación);
- servicios públicos y privados esenciales (por ejemplo, sistemas de calificación crediticia que priven a los ciudadanos de la oportunidad de obtener un prestamo);
- aplicación de las leyes, que pueden interferir con los derechos fundamentales de las personas (por ejemplo, evaluación de la fiabilidad de las pruebas);
- gestión de la migración, el asilo y el control de las fronteras (por ejemplo, comprobación de la autenticidad de los documentos de viaje);
- administración de justicia y procesos democráticos (por ejemplo, aplicación de la ley a un conjunto concreto de hechos).
Los sistemas de IA de alto riesgo estarán sujetos a obligaciones estrictas antes de que puedan comercializarse:
- sistemas adecuados de evaluación y mitigación de riesgos;
- alta calidad de los conjuntos de datos que alimentan el sistema para minimizar los riesgos y los resultados discriminatorios;
- registro de la actividad para garantizar la trazabilidad de los resultados;
- documentación detallada que aporte toda la información necesaria sobre el sistema y su finalidad para que las autoridades evalúen su conformidad;
- información clara y adecuada al usuario;
- medidas apropiadas de supervisión humana para minimizar el riesgo;
- alto nivel de solidez, seguridad y precisión.
En especial, se consideran de alto riesgo y estarán sujetos a requisitos estrictos todos los sistemas de identificación biométrica remota. Su uso en directo en espacios de acceso público con fines policiales está prohibido en principio. Se definen y regulan estrictamente excepciones estrictas (por ejemplo, cuando sea estrictamente necesario para la búsqueda de un menor desaparecido, para prevenir una amenaza terrorista concreta e inminente, o para detectar, localizar, identificar o enjuiciar a un autor o sospechoso de un delito grave). Su uso estará sujeto a la autorización de un órgano judicial u otro organismo independiente y a los límites adecuados desde el punto de vista de la duración, el alcance geográfico y las bases de datos exploradas.
Riesgo limitado, es decir, sistemas de IA con obligaciones específicas de transparencia: Al utilizar sistemas de IA como robots conversacionales, los usuarios deberán ser conscientes de que están interactuando con una máquina para poder tomar una decisión informada de continuar o no.
Riesgo mínimo o nulo: La propuesta permite el uso gratuito de aplicaciones tales como videojuegos basados en la IA o filtros de correo basura. La inmensa mayoría de los sistemas de IA entra en esta categoría. El proyecto de Reglamento no interviene aquí, ya que estos sistemas de IA solo representan un riesgo mínimo o nulo para los derechos o la seguridad de los ciudadanos.
El planteamiento europeo sobre la nueva maquinaria
La maquinaria abarca una amplia gama de productos de consumo y profesionales, desde robots hasta cortadoras de césped, impresoras 3D, máquinas de construcción y líneas de producción industrial. La Directiva sobre máquinas, definió los requisitos sanitarios y seguridad de las máquinas. Este nuevo Reglamento sobre máquinas velará por que la nueva generación de maquinaria garantice la seguridad de los usuarios y consumidores, y fomentará la innovación. Mientras que el nuevo Reglamento sobre la IA abordará los riesgos de seguridad de los sistemas de IA, el Reglamento sobre máquinas garantizará la integración segura de los sistemas de IA en la maquinaria en general. Las empresas solo tendrán que realizar una única evaluación de la conformidad.
Además, el nuevo Reglamento sobre máquinas responderá a las necesidades del mercado al aportar mayor claridad jurídica a las disposiciones actuales, simplificar la carga administrativa y los costes para las empresas mediante la autorización de formatos digitales para la documentación y adaptar las tasas de evaluación de la conformidad para las pymes, sin descuidar por ello la coherencia con la normativa de la UE en materia de productos.
El Parlamento Europeo y los Estados miembros tendrán que adoptar las propuestas de la Comisión sobre un planteamiento europeo en materia de inteligencia artificial y de maquinaria en el procedimiento legislativo ordinario. Una vez adoptados, los Reglamentos serán directamente aplicables en toda la UE. Paralelamente, la Comisión seguirá colaborando con los Estados miembros a efectos de la ejecución de las medidas anunciadas en el plan coordinado.
