La IA no es neutral: los algoritmos reproducen nuestros prejuicios
Hoy en día confiamos más decisiones a la inteligencia artificial (IA). La utilizamos para seleccionar los candidatos a un empleo, evaluar solicitudes de crédito, detectar fraudes, recomendar tratamientos médicos, apoyar el diagnóstico de enfermedades, identificar rostros y reconocer voces, entre otras. También interviene en los anuncios que recibimos, las rutas que seguimos, las canciones y películas que se nos recomiendan, por mencionar algunos.
Con frecuencia asumimos que, por tratarse de tecnología, la información que produce es fidedigna y sus resultados son objetivos. Sin embargo, detrás de cada algoritmo existen personas que lo diseñan, datos que lo alimentan y decisiones humanas que determinan su funcionamiento.
La IA es entrenada con información producida por la sociedad y, por tanto, es capaz de reproducir y extender sus desigualdades. Si el sistema social conserva estereotipos, prejuicios y prácticas discriminatorias, la IA puede convertirse en su reflejo, pero hacerlo de manera más rápida y con mayor alcance.
Esto puede observarse, por ejemplo, en los sistemas de contratación. Si una herramienta es entrenada con los currículums de quienes históricamente han ocupado puestos directivos, de liderazgo o relacionados con la tecnología (en su mayoría hombres), el algoritmo puede interpretar que ser hombre es una característica asociada con el éxito profesional o con los cargos de alto rango. Es importante aclarar que el algoritmo no recibe necesariamente la instrucción de excluir a las mujeres; simplemente aprende de una realidad en la que ellas han tenido menos oportunidades y convierte esa desigualdad histórica en un criterio aparentemente objetivo.
Algo similar sucede con los sistemas de reconocimiento facial y de voz. Cuando los datos utilizados para desarrollarlos incluyen principalmente rostros masculinos y de tez clara, su precisión puede disminuir frente a mujeres y personas racializadas. Lo que podría parecer un simple error técnico puede desencadenar consecuencias jurídicas y humanas cuando estas herramientas son utilizadas para permitir el acceso a determinados servicios, identificar sospechosos o realizar labores de vigilancia. Una identificación incorrecta podría significar desde una molestia cotidiana hasta una detención errónea o injustificada.
Incorporar la perspectiva de género en la inteligencia artificial no debería significar alterar sus resultados para favorecer a las mujeres. Se trata de reconocer que los datos no son fotografías neutrales de la realidad, sino productos de los contextos sociales en los que vivimos. Esto implicaría también revisar quiénes participan en el diseño de estas tecnologías, pues la poca presencia de mujeres en las áreas de desarrollo podría limitar las preguntas que se formulan, las necesidades que se consideran y los problemas que se identifican.
Lo anterior nos lleva a reconocer que la tecnología no se corregirá por sí misma. Se necesitan equipos diversos, evaluaciones periódicas y mecanismos que permitan revisar e impugnar las decisiones automatizadas. Por supuesto, también resulta indispensable mantener la supervisión humana y establecer reglas y responsabilidades claras cuando un sistema causa una afectación.
La IA llegó para quedarse y sería un error no utilizarla como una herramienta para ayudar a construir una sociedad más eficiente. Sin embargo, un algoritmo puede procesar millones de datos en segundos y, aun así, repetir un prejuicio de siglos. Por lo que, la verdadera innovación no consiste solamente en crear sistemas más poderosos o más rápidos, sino en asegurarnos de que ese poder no automatice nuestras desigualdades sociales. La tecnología es artificial, pero los prejuicios que reproduce y las consecuencias que provoca siguen siendo profundamente humanos.
