La inteligencia artificial: poderosa herramienta, pero con riesgos éticos y de control, afirma Jorge Carrión

La llegada al público general de las inteligencias artificiales generativas, redes neuronales de aprendizaje profundo con capacidades productivas, representa un cambio de paradigma sobre la relación de la tecnología con la humanidad en que surgen oportunidades para optimizar rutinas cotidianas y de trabajo, concretar operaciones mecánicamente complejas de forma automatizada y hacer posible nuevas modalidades de creación; sin embargo, este empuje tecnológico sucede en la ausencia de un marco regulatorio e inmerso en la opacidad corporativa, en que el afán de lucro se impone sobre el interés colectivo y permite que estas herramientas repliquen los sesgos dominantes y se utilicen fraudulentamente.

Implicaciones para la escritura creativa y el periodismo

En el marco de su visita a la Universidad Autónoma de Querétaro, en que presentó una Master Class titulada “Storytelling en tiempos de la IA” e impartió un taller sobre “Narrativas con Chat GPT”, el escritor español Jorge Carrión entabló un diálogo con Tribuna en que ofreció un diagnóstico sobre el estado de las tecnologías de inteligencia artificial a partir de su inmersión en el tema desde la producción cultural y la experimentación literaria.

Al preguntarle sobre las implicaciones que tiene la IA para la escritura creativa y el periodismo, Carrión refirió a que en este momento las plataformas no tienen la capacidad de crear textos literarios coherentes y que sus productos llegan a ser incomprensibles.  El autor considera que las fortalezas reales de la IA están en aspectos como la lluvia de ideas o diseño de estructuras narrativas, en el llenado de textos no creativos como e-mails e informes, además de en el análisis de datos, textos o imágenes que pueden ser útiles a disciplinas como el periodismo.

El también crítico literario señaló que la inteligencia artificial es “una herramienta más” con precedentes como Photoshop, Autotune o Google; pero que ahora permite llegar a otros territorios con una infinidad de posibilidades, por lo que cada uno debe encontrar su forma de utilizarlo. Señaló como una opción interesante el análisis de textos para encontrar sus problemas o identificar su tono emocional, lo que permite corregir problemas de expresión.

«Los campos electromagnéticos»: La obra de Carrión con IA

Al hablar de su trabajo con IA para producir su obra “Los campos electromagnéticos”, una especie de remake de “Los Campos Magnéticos” de André Bretón, Carrión describe que la parte interesante es en el área conceptual que llega a entrar al arte contemporáneo y al surrealismo.

“Para mí lo fuerte está en la contextualización de la obra y en la edición, que es muy bricolaje, eso es lo más interesante. Y recordar con el ejercicio que la escritura es generativa, es estadística, es combinatoria; el mito del genio y de la creatividad humana hay que ponerlo entre paréntesis, porque hay otra dimensión de la escritura que es puramente matemática, combinar palabras y combinar letras, y es lo que hace muy bien la computadora”.

Al ser cuestionado sobre en qué momento de capacidades técnicas nos encontramos con la IA, Jorge Carrión afirma que “todavía no piensan ni son conscientes de lo que dicen, solo combinan palabras, pero cada vez esa combinación es más coherente y robusta”.  Para ejemplificar hace un símil entre Google Maps, que permite conducir por una ciudad con precisión y de acuerdo con las normas de circulación, y la IA generativa del lenguaje o de imagen, cuyo perfeccionamiento avanza rápidamente. Sin embargo, afirma que el humano siempre tiene que estar presente en el prompt (las instrucciones dadas a la plataforma), en la supervisión, edición y verificación de lo que se ha generado.

Controversias en comunidades artísticas y profesionales

Al discutir el planteamiento sobre las controversias en comunidades artísticas y de profesionales sobre el uso de IA, que se entrenan con “data sets” o conjuntos de datos masivos que recogen todo tipo de obra y usualmente no tienen permiso o reconocimiento de sus autores originales, Carrión señala que en general los data sets se construyen fraudulentamente, noción que recupera de “Atlas de la IA” de Kate Crawford, y que realmente este es un problema que viene de antes, en que usa de ejemplo a Facebook que Mark Zuckerberg estableció a partir del robo de datos en Harvard.

“La ventaja de la IA es que llega después del aprendizaje que hemos hecho colectivo sobre las redes sociales y sus peligros. Ojalá eso sirva para regular, para legislar y para controlar lo que están haciendo ahora.”

En este sentido, el autor señala que la IA debe ser transparente y que deben conocerse sus creadores, orígenes, funcionamiento, compañías, etc. pero que al igual que con las otras grandes plataformas sucede lo contrario, se rigen por el concepto de la “Black Box” o caja negra y no revelan cómo funcionan sus algoritmos, al igual que con Google o Netflix. Por lo que identifica esa falta de transparencia como el obstáculo principal para su regulación y aplicación ética. 

Propiedad y reconocimiento autorial en la era de la IA

Al abordar si el uso de IA en los trabajos publicados alteraría las relaciones de propiedad o los reconocimientos autoriales, Carrión refirió que él ya ha acreditado anteriormente al GPT-2 y 3, pero que existe una diferenciación importante: si alguien ha producido una obra con IA y sólo se ha limitado a participar de su edición sería importante hacer ese crédito; pero que si se recurre a las plataformas como una herramienta de ayuda sería prescindible, tal como sucede con el retoque de fotografías en Photoshop o el uso del corrector de Word.

Ante la pregunta de si el uso de estas herramientas representa un riesgo de homogeneización para destacar en los frentes comerciales virtuales o en los algoritmos de búsqueda, el entrevistado señala que, en efecto, la tendencia de estas herramientas es a imitar lo mayoritario.

“Yo creo que la tendencia es hacia el mainstream. Por ejemplo, en la imagen, la IA generativa, que ahora es todavía un poco surrealista, y como blanda, amorfa, su objetivo es convertirse en hiperrealista. Pero, por suerte, vivimos en la época de la historia de la humanidad con más oferta cultural, con más convivencia de lenguajes artísticos y de estéticas artísticas y creo que hay espacio para todo. Hay que trabajar activamente la diversidad cultural, porque la tendencia del algoritmo y de la sociedad es hacia lo uniforme, que es lo mainstream, sea el cómic de las películas de superhéroes o sea la novela policial”.

IA y la reiteración de lógicas dominantes

En este sentido, Jorge Carrión afirma que esto también aplica a la reiteración de las lógicas del imperialismo, la heteronormatividad y el patriarcado; algo que abordó para la TV desde Teleshakespeare en 2011, al que refiere para hacer el señalamiento de que “la serie de televisión era la penúltima estrategia de Estados Unidos para seguir siendo el gran imperio cultural. La última es la IA. Y como que Estados Unidos siempre encuentra la manera de seguir siendo central. Como la IA se educa con datasets y en su formación prima la cantidad sobre la calidad, la mayoría sobre la minoría, automáticamente se educa con esos sesgos y promueve lo mainstream”.

Con el cuestionamiento sobre qué implica la introducción de la inteligencia artificial a la dinámica de vida digitalizada que llevamos en el día a día y en que se produce una aportación de datos constante, Carrión señala que todo lleva a aumentar y mejorar tanto la vigilancia como el estudio de patrones para predecir comportamientos individuales y colectivos. Ante lo que especula sobre si el próximo proceso electoral estadounidense podría ser el primero determinado por IA.

“Me pregunto si las inminentes elecciones en Estados Unidos no van a ser las primeras elecciones determinadas por la inteligencia artificial que va a permitir de un modo mucho más ajustado dirigir publicidad o desinformación a según qué receptores. Bolsonaro ganó en Brasil en gran parte por YouTube. Trump ganó en Estados Unidos en gran parte por Facebook pero también Obama. Vamos a ver qué pasa con la capacidad de la IA para sorprendernos, espero que no negativamente, en las próximas elecciones entre Kamala Harris y Donald Trump”.

El fin del antropoceno: Biocentrismo vs. códigocentrismo

Uno de los planteamientos que ha hecho el autor con anterioridad es sobre el potencial fin del antropoceno, nombre bajo el que se discute a la era contemporánea distinguida por la intervención desmedida de la humanidad sobre los ecosistemas terrestres, en que encuentra una disyuntiva entre “biocentrismo” y código centrismo”, priorizar la vida o el algoritmo.

Carrión menciona su novela “Membrana”, como una visión especulativa sobre el código centrismo, ya que trata sobre una IA del futuro que crea un museo sobre el siglo XXI y que ofrece una visión distópica de qué pasaría si la humanidad entregara su gobernanza a los algoritmos.

“Evidentemente la superación del antropocentrismo hacia el biocentrismo significaría poner las plantas y el resto de animales en el centro, los hongos, etc. Y eso creo que tiene más sentido porque es más sostenible ecológicamente, pero me temo que la humanidad sigue talando bosques y selvas y que el camino es más hacia el códigocentrismo. Ojalá se encuentre un equilibrio”.

IA en la ciencia ficción: Nuevos relatos para el futuro

Al discutir el historial de la ciencia ficción para tratar a la Inteligencia Artificial, el escritor afirma que lo que vivimos en la actualidad no tiene precedentes, se ha planteado antes la confrontación entre la “singularidad” y la autonomía en trabajos como “Blade Runner” o “La Fundación” de Asimov, pero en la actualidad vemos inteligencia artificial sin cuerpo, que está en la nube y forma parte de la red. Asimismo, sugiere que un modelo cercano puede ser el de la película “Her” de Spike Jonze, que prefiguró la relación con “perso-asistentes” y que, en realidad, tenemos que construir nuevos relatos de futuro, crear horizontes de ficción que empujen colectivamente la tecnología hacia un determinado lugar.

Coexistencia ética con la IA: Necesidad de regulación y legislación

Bajo el planteamiento de que la inteligencia artificial es un producto humano al moldearse en información y mecanismos de ideación humana, Carrión plantea que deben repensarse las formas de apreciación y relación tecnológica sin perder de vista el valor de nuestra especie.

“La IA es 100% humana, pero me parece que nuestra relación tiene más que ver con la del Homo sapiens con el Australopithecus y que, por tanto, tenemos que pensar nuevas formas éticas, estéticas y políticas de relacionarnos con ella, sobre todo si llega a la singularidad. En estos momentos la creatividad asistida con IA es humana y las mejores obras que vemos de arte, cine, música o literatura en la cual participa la IA es mérito de los humanos que han trabajado con ellas más que del programa o del sistema. “

En sus postulados finales, el entrevistado remarcó que para lograr una coexistencia ética y sostenible con las tecnologías de inteligencia artificial tiene que regularse, idealmente ralentizarse, pero que esto probablemente no pasará impulsado desde las instituciones públicas sino de una autorregulación derivada de la falta de rentabilidad ante las inversiones masivas que se han hecho en este campo.  Asimismo, señaló una necesidad de crear legislación de jurisprudencia para afrontar su aplicación real en fenómenos criminales como estafas o la producción de “deepfakes”, pero que moran en un área gris en la actualidad.

“Es muy importante la regulación y la producción de legislación de jurisprudencia para saber cómo encajar todo eso en nuestro mundo, sin que provoque violencia o provoque caos. Por ejemplo, la IA ha alterado el negocio de los timos, de las estafas, tú ahora puedes enviar e-mails perfectos en muchas lenguas para decir que quieres compartir tu herencia con alguien y puedes crear voces sintéticas o deepfakes de personas para convencerlos de que envíen dinero o que te den su código de banco. Eso rápidamente ha sido usado por los criminales, por la deepweb, por el narco. De modo que es muy importante rápidamente cambiar las leyes para que puedan ser perseguidos y puedan ser juzgados y condenados quienes llevan a cabo esos ciberdelitos.