Algoritmos: Discriminación y hostigamiento, riesgos latentes con el uso de herramientas digitales

El uso de los algoritmos e inteligencia artificial en la comunicación política tiene como consecuencia la discriminación, la marginación y el hostigamiento digital, pero lo más importante es la «falta de transparencia y control de los algoritmos que toman decisiones». Esto fue expuesto por Jorge Francisco Aguirre Sala, profesor e investigador de la Universidad Autónoma de Nuevo León (UANL).

«La tecnología no es exactamente ni moral, ni social, ni política ni culturalmente neutral», remarcó en el auditorio de la Facultad de Ciencias Políticas y Sociales de la Universidad Autónoma de Querétaro (UAQ), donde llamó a entender que el algoritmo es un instrumento con un propósito y que, en la medida de lo posible, no debe desviarse de ese objetivo.

La ponencia, titulada El riesgo del uso de los algoritmos en la comunicación política y digital, sirvió como un espacio para un tratamiento crítico acerca del tema. El algoritmo, según Aguirre Sala, es capaz de provocar riesgos y daños irreversibles (también reversibles) en la humanidad.

Entre los sesgos discriminatorios, ejemplificó el caso de la empresa Amazon, que en 2014 decidió poner en marcha la contratación de sus empleados en manos del algoritmo de la IA, pero que, a la larga, dicho sistema algorítmico se entrenó a sí mismo bajo el espectro de un sesgo machista, en el que la preferencia a la hora de contratar eran los varones.

Además, fallan al estereotipar a las personas como «sujetos no dignos» de, por ejemplo, alguna beca, financiamiento o servicio médico. Mediante la recolección de los datos personales, el algoritmo ejecuta operaciones informáticas sin ninguna conciencia social ni código ético.

El algoritmo, definió el experto, es un «conjunto de instrucciones sistemáticas y previamente definidas que se utilizan para realizar una determinada tarea», pero estas indicaciones, que parecen calculadas a la perfección, son vulnerables a errores y ataques informáticos, por lo que pueden poner en riesgo la privacidad y la seguridad de los usuarios, quienes depositan su información en el almacenamiento del sistema algorítmico.

Cambio en el comportamiento humano

«El algoritmo, a través de este tipo de dispositivos, genera mucha ansiedad«, precisó Aguirre Sala. Es el caso de las personas que poseen un reloj inteligente, quienes han confiado sus datos al algoritmo para que les marque una pauta de estilo de vida. En ese caso, comentó el investigador, la conducta de las personas se mantiene alerta y preocupada por las instrucciones algorítmicas.

En contraste, detectó otro tipo de comportamiento en las audiencias, el cual se trata de una «sensación de conformidad al haber rebasado los parámetros clínicos». También recurrió al caso de los relojes inteligentes y su patrón de lo que es un estilo de vida saludable, donde se toma al algoritmo como una especie de generador de «conducta complaciente». Es decir, hay un exceso de confianza en el usuario hacia su dispositivo móvil, que le brinda instrucciones conforme al algoritmo.

Aguirre Sala aclaró que no se trata de «satanizar» la complacencia, sino prestar atención a la autonomía de la persona: cuán dependiente es del algoritmo en la tecnología para tomar decisiones en su vida.

Legalidad fragmentada

En cuanto a la calidad de los gobiernos, el experto habló de un modelo de la legalidad «fragmentado» a nivel global, el cual difiere entre países. Por ejemplo, las personas estaban obligadas a registrar sus datos personales en China y en Corea durante la pandemia, situación opuesta en Alemania, donde estaba prohibido acceder a los datos.

En el caso de México, opinó que la participación de personal todavía rebasa a los algoritmos, lo cual da una cierta ventaja al momento de tratar temas relacionados con poblaciones históricamente vulneradas o con las que hay deudas históricas, ante las cuales las inteligencias o algoritmos no propondrían soluciones.

Quehacer social ante el fenómeno

Aguirre Sala dejó a los comunicólogos la tarea de promover un pensamiento crítico que cuestione el contexto en el cual nos encontramos hoy:

«Yo creo que el comunicador, al concientizar, informar y divulgar, tiene que cuestionar […] tiene un gran privilegio y, por lo mismo, una gran responsabilidad de poder cuestionar eso, y de contagiar a las audiencias a que se cuestionen».