Los retos de la Inteligencia Artificial en trece claves

Compartir

JenTelMx

El pasado mes de mayo, se celebró en el Parador de Alcalá de Henares, España el primer ‘Conversatorio sobre Inteligencia Artificial y su impacto en la sociedad’, organizado por el Ministerio de Energía, Turismo y Agenda Digital, a través de la Secretaría de Estado para la Sociedad de la Información y la Agenda Digital y Red.es.

Un comunicado del Ministerio, señala la importancia de profundizar sobre los retos que impone una tecnología tan disruptiva como la Inteligencia Artificial (IA). Como cualquier evolución vinculada a las TIC, el desarrollo de la IA genera ilusión e incertidumbre a partes iguales, especialmente en lo relativo a las implicaciones éticas, legales y sociales vinculadas a su desarrollo.

El Conversatorio concluyo que para que la IA sea sostenible deben tenerse en cuenta estas cuestiones:

1º) Sesgo de los datos: Las implicaciones éticas surgen a lo largo de todo el proceso o ciclo de vida de la Inteligencia Artificial. Uno de los más importantes es el sesgo en los datos, que supone que si los conjuntos de datos empleados en los sistemas no son suficientemente representativos del universo que se desea explorar, su visión del mismo será parcial y, por tanto, sesgada. Los datos son altamente sensibles a los estereotipos, bien sean de género, raza o etnia, nivel socioeconómico… Son, por tanto, susceptibles de generar desigualdades y efectos no deseados al aplicarlos.

2º) Privacidad y protección de datos: Otra importante implicación ética es la privacidad y protección en la generación de los datos, pues las personas deben ser conscientes de que sus datos están siendo empleados y de los usos previstos de los mismos. La defensa del almacenamiento masivo de datos normalmente se articula en torno a que los datos personales no son relevantes pues son empleados de forma agregada para construir patrones de comportamiento. Si bien, de estos datos se pueden inferir atributos personales y pueden condicionar los servicios que recibimos y nuestra propia percepción de la realidad, a través del denominado “filtro burbuja” sobre el que se basan ciertos sistemas de recomendación de contenido, que suelen ‘encasillar’ a las personas en ciertas categorías de gustos. Estos sistemas evitan mostrar a las personas información alejada de su marco ideológico, por lo que se reduce el acceso a diferentes puntos de vista, y, por ende, a la capacidad de tolerar lo diferente, aprender, evolucionar y abrirnos a nuevas ideas. Los filtros burbuja contribuyen por tanto a la radicalización y falta de tolerancia, fenómeno creciente hoy en día.

3º) Monopolio de datos: También, desde una perspectiva ética, se incrementa la preocupación de la sociedad por que determinadas empresas u organizaciones acumulen y monopolicen los datos, especialmente como resultado de hechos recientes como el suceso relacionado con Facebook y Cambridge Analytica.

4º) Equilibrio entre técnica y ética: El diseño de los algoritmos requiere equilibrar su calidad técnica y eficiencia con la capacidad de identificar las cuestiones éticas que de ellos se puedan derivar, implementando el respeto de valores sociales y morales desde el propio diseño, además del cumplimiento de la legislación aplicable.

5º) Algoritmos transparentes: Igualmente importante es la responsabilización con que determinados algoritmos y sistemas sean transparentes, de manera que sea posible explicar cómo funcionan. Los denominados modelos de “caja negra” son muy eficientes en sus resultados, pero son poco transparentes imposibilitando determinar los factores en base a los que toman decisiones. Esto es un elemento a considerar, especialmente en determinadas aplicaciones en las que las decisiones derivadas de su uso puedan provocar efectos negativos no intencionados, tal es el caso del coche o las armas autónomas, que generan una gran controversia ética y de responsabilidad legal.

6º) Visión más amplia de la legislación: En el campo normativo, la legislación se ha centrado en la protección del derecho individual a la privacidad y protección de los datos, existiendo múltiples aspectos aún no definidos por la norma. Relacionados con esta reflexión encontramos ejemplos como la regulación del uso de los datos desde un punto de vista colectivo o la responsabilidad y propiedad intelectual derivada de estos sistemas, cuando son capaces de tomar decisiones (como el coche conectado) o generar contenidos.

7º) Equilibrio entre incentivar y normalizar: El gran reto, desde el punto de vista normativo, es encontrar el equilibrio entre un marco que genere confianza y seguridad, a la par que no sea desincentivador para el surgimiento de oportunidades en torno a la inteligencia artificial para personas, empresas, organizaciones y administraciones.

8º) Capacitación digital: Para que la sociedad comprenda las implicaciones del uso de la IA y maximice las oportunidades que conlleva, debe disponer de habilidades para relacionarse con la IA y ser capaz de adaptar dichas habilidades a sus diferentes ámbitos de actuación.

9º) Impulsar el pensamiento computacional en España: El país se encuentra a la fila de Europa en pensamiento computacional, siendo necesaria una intervención urgente para mejorar la cultura científico-tecnológica, acompañándola de otras competencias sociales, emocionales, learning to learn o creativas, capaces de impulsar y enriquecer las capacidades computacionales.

10º) Incrementar la presencia de la mujer en disciplinas STEM: En todo el mundo se observa una progresiva reducción del porcentaje de mujeres en los campos vinculados con la programación, las ciencias, las ingenierías y las matemáticas (los denominados profesionales STEM).

11º) Generar más profesionales capacitados: La aplicación efectiva de la IA, en conjunción con otras tendencias como la robotización o automatización de tareas, requiere de nuevos puestos que deben ser cubiertos por una serie de perfiles especializados en STEM. Se plantea, por tanto, la necesidad de adaptar la fuerza de trabajo a esta transformación, incentivando el interés de la sociedad en estas materias para disponer de más profesionales en estas ramas.

12º) Asumir un reciclaje profesional constante: Además de los nuevos puestos generados en torno a esta tendencia, será necesaria la transformación de un importante número de puestos actuales, a través de la capacidad de aprender de forma constante a lo largo de la vida profesional, de manera que sean capaces de entender y emplear estas tecnologías, en la medida de lo necesario para profesionales de la economía, abogacía, ingeniería o medicina, entre otros.

13º) Retorno social de la riqueza que generan los datos: Hoy en día, los datos se consideran un activo de las personas y organizaciones, pues tienen un valor y son la base de innumerables modelos de negocio. Dado que la capacidad de acceder a los mismos puede verse limitada por las restricciones al acceso a formación o a la propia tecnología, parte de la riqueza que generan puede y debe devolverse al entorno. Puede hacerse a través de mecanismos con un objetivo social o de defensa de la ciudadanía, como son, por ejemplo, los movimientos de Datos por el Bien Común.

Con información de Unblog en Red

Compartir