Parece que es el término de moda en la época de la digitalización acelerada. Todo el mundo habla de ella, de hecho es parte de nuestras rutinas diarias pero poco sabemos qué es, para qué sirve y cómo funciona y pocas veces cuestionamos cómo nos afecta.

La Inteligencia Artificial (IA) según la infografía publicada por la Organización Women in AI México “No existe una definición absoluta de qué es inteligencia artificial (IA) dado a que es una disciplina que innova constantemente”. El diccionario de Oxford la define como: la teoría y el desarrollo de sistemas informáticos capaces de realizar tareas que normalmente requieren inteligencia humana.

Ahora, la Inteligencia Artificial es un subcampo de las ciencias de la computación y dentro de esta disciplina convergen el aprendizaje automatizado y el Deep Learning así como todas ellas convergen dentro de las ciencias de datos.

Dentro del desarrollo de la IA existen los algoritmos. Estos algoritmos se ‘alimentan’ o aprenden con datos y los datos son información de diferentes tipos.

 

Ahora, la afectación que tienen los algoritmos en la vida de los seres humanos en una era de digitalización acelerada está relacionada desde los temas más cotidianos como el escoger una serie en cualquier plataforma de streaming. Por ejemplo: cuando la plataforma ha generado una selección basada en nuestras preferencias ha usado un algoritmo con datos de nuestro usuario para generarla. Hasta situaciones profesionales como los programas que apoyan muchas veces a recursos humanos para considerar el porcentaje de compatibilidad de un candidato y su currículum con la posición en cuestión.

 

Del segundo ejemplo me gustaría partir para discutir la importancia de entender los sesgos que estos algoritmos pueden llegar a tener. Un sesgo algorítmico ocurre “cuando un sistema informático refleja los valores humanos que están implicados en la recolección y codificación de datos usados para entrenar un algoritmo”. El ABC de la IA Women in AI Mexico

 

Lo interesante de la definición anterior es poder comprender que los algoritmos se entrenan, una definición bastante interesante la comparte The A-Z of AI cuando explica de manera muy simple qué sucedería si un algoritmo que ha sido entrenado para reconocer zapatos se le enseñan un par de tacones y solo ha sido entrenado con imágenes de tennis. La respuesta es sencilla, no podría reconocer ese par de tacones como zapatos.

 

El riesgo con la explicación anterior es que esto mismo sucede con el ejemplo de los currículums. Si las compañías o los programadores por ejemplo sólo enseñaran a sus algoritmos a reconocer ciertos datos dejando otros de lado las oportunidades para compatibilidad de currículum y posición no serían inclusivas y estos sesgos estarían dejando candidatos o candidatas tal vez competentes para posiciones de lado.

 

Vivimos un momento en el cual poner atención a estos temas y el desarrollo de los mismos, es de suma importancia, pues corremos el riesgo de replicar los mismos sesgos que vivimos socialmente, de manera digitalizada. Esto querría decir que si no se pone atención en los puntos anteriores, corremos el riesgo de crear una sociedad digital en la que no todos tengan oportunidades de crecimiento, participación, educación e incluso presencia digital.

 

Es por eso que tanto la ética, como la creación de un ecosistema inclusivo e interseccional en campo de la ciencia de datos y de inteligencia artificial son temas fundamentales a considerar en esta época de digitalización acelerada. Tanto para los científicos desarrolladores y académicos, como para los usuarios, las compañías y los gobiernos. Siendo los últimos los que muchas veces establecen las bases reguladoras.

 

Hablemos de Interseccionalidad y su papel en todo este tema. La metodología de la Interseccionalidad surge del feminismo transversal. A grandes rasgos y de manera muy general. “Las personas vivimos identidades múltiples, formadas por varias capas, que se derivan de las relaciones sociales, la historia y la operación de las estructuras del poder.” (p.2, AWID, 2004)

 

Al evaluar las diferentes circunstancias y realidades puede apoyar a un desarrollo con un enfoque ético e incluyente de la IA ayudando a mitigar los sesgos ya existentes.

 

Ahora, para nosotros como usuarios y como aportadores de datos. Es de suma importancia que seamos conscientes que participamos en estos procesos de manera indirecta o directa pues nuestra “huella digital” en inglés digital footprint es lo que alimenta en varias ocasiones estos algoritmos. Muchos especialistas en mercadotecnia han expresado la máxima de “si es gratis, probablemente tu seas el producto.”

Esta frase, deja mucho que pensar en cuanto a la reflexión acerca de una digitalización acelerada, datos, regulación, sesgos y el desarrollo interseccional y sostenible del ser humano.

 

Entonces lejos de ver la inteligencia artificial y sus implicaciones como novela de Issac Asimov, lejana y utópica. Propongo un enfoque más cercano al que propone Yuval Harari en Homo Deus y reflexionar un poco más las implicaciones tangibles de la misma con las que muchas veces ya vivimos.

 

Referencias:

–Bias. The A-Z of AI.

-Women in AI Mexico Infografías.

Interseccionalidad como herramienta para la justicia de Género y justicia económica-AWID