La inteligencia artificial es la posibilidad que tienen los sistemas informáticos de imitar e incorporar capacidades similares a las de la inteligencia humana. La novedad de los últimos tiempos es la masificación de la inteligencia artificial generativa, que posibilita la creación de elementos digitales nuevos que muchas veces parecen reales.
ChatGPT, Dall-E y todas las páginas y aplicaciones que existen para crear imágenes, textos, vídeos o voces creadas por IA son sólo un botón de muestra de un desarrollo tecnológico que estamos lejos de saber hasta dónde va a llegar. Actualmente, muchas empresas del mundo están reemplazando a trabajadores por IA y existen millones de elementos digitales creados artificialmente circulando por las redes. Esta realidad llegó también a la política y no lo podemos obviar.
La época de los deep fakes
Una técnica muy controvertida y cada vez más usada es el deep fake, que permite a través de la IA crear contenido de audio, imagen y video que parece auténtico. Mencionamos algunos ejemplos a nivel mundial de su utilización:
-En 2022 circuló por internet un deep fake del presidente ucraniano Zelenski ordenando la rendición del Ejército y el pueblo ucraniano realizado por hackers rusos. En este caso, la IA generativa se mete por primera vez en un conflicto bélico y el mismo presidente tuvo que salir a desmentir el video.
-En 2018 fue usado en Brasil para modificar un recorte de un noticiero que decía que Lula iba primero en las encuestas y, en cambio, planteaba que Bolsonaro era el que estaba liderando.
-En 2018 se hizo en Estados Unidos muy viral un deep fake de Obama que, justamente, plantea los riesgos de esta tecnología.
-En marzo de este año se difundió masivamente una imagen falsa de Trump siendo arrestado, que generó un gran nivel de indignación y movilización de sus seguidores.
-Manoj Tiwari, un político indio que en 2020 fue candidato en las elecciones de Nueva Delhi, usó un deep fake para modificar un video donde él hablaba en hindi para replicarlo en inglés y el dialecto hindi Harayanvi, idiomas que no habla fluidamente.
La proliferación de los deep fakes no es exclusivo del mundo de la política: se suelen utilizar en lo que se llama “fake porn” y hace unos meses Rosalía denunció por violencia machista al rapero JC Reyes, que posteó en sus redes una imagen falsa creada por IA de la cantante desnuda.
Por otro lado, desde un enfoque positivo puede ser utilizada, por ejemplo, para hacer versiones de canciones realizadas por artistas fallecidos. Recientemente, en el programa “Soñé que volaba” de Migue Granados compartieron una versión de su cortina cantada por el Flaco Spinetta y Mercedes Sosa, creada por IA.
Los fakes en Argentina
En la política local, la historia de las fakes en redes viene desde hace varios años. El diputado Fernando Iglesias tiene una larga historia de compartir tweets y noticias falsas: pasó con C5N y también con la directora de Migraciones, Florencia Carignano. Otro ejemplo viral fue cuando el diputado José Luis Espert compartió una noticia falsa sobre Ofelia Fernández, que ella le contestó con un meme sobre su propio fake con la icónica frase: «Es falsa, teletubi».
La función de las fake news en estos casos es reforzar los prejuicios de sus seguidores hacia personas o instituciones contra las cuales ya vienen construyendo un discurso de odio. El fenómeno de cámara de eco de las redes sociales -donde la mayoría de los usuarios consume contenido que va acorde a sus creencias- potencia el poder de llegada y viralidad de estas fake news, ya no como casos aislados sino como una práctica sistemática de la ultraderecha en todo el mundo. Muchas veces (como sucede en los ejemplos citados) los que difunden la fake news reconocen su error, pero eso no importa porque el daño ya está hecho. Lo que son virales son las acusaciones falsas, casi nunca los pedidos de disculpas.
¿Cómo se relaciona esta tecnología emergente con las campañas electorales? La novedad que incorpora la IA Generativa es que permite una nueva dimensión de fake news y en la campaña de 2023 comienzan a aparecer los primeros ejemplos. El gobernador electo de Chaco de Juntos por el Cambio, Leandro Zdero, denunció un audio falso donde acusaba al dirigente histórico del radicalismo Angel Rozas de “cagador”. En estos días también se hicieron virales dos deep fakes más “inocentes”: uno de Alberto Fernández hablando italiano en la Antártida y otro de Javier Milei dando un discurso en alemán.
El otro uso que está teniendo la IA generativa en la campaña es la creación de memes, imágenes y videos humorísticos positivos para los candidatos. En el caso de Massa podemos destacar la cuenta Archivo General Sergio Massa o IA por la patria que refuerzan el poder memético del candidato, disputa fundamental que ya analizamos anteriormente. En las últimas horas se hizo viral un deep fake humorístico de una escena de la película “Una noche en el Roxbury”, donde Axel Kicillof aparece con un equipo de sonido llamando a Sergio Massa, jugando con su reciente frase de «componer una nueva canción”.
En el caso de Javier Milei circulan distintas imágenes creadas por IA que lo muestran como superhéroe o personaje de ficción como Terminator, y recientemente se hizo viral una imagen muy curiosa que lo muestra pelado (“sin peluca”). Además, existen muchos usuarios de la comunidad digital libertaria que replican todo tipo de fakes que sirven para activar el trolleo contra sus principales enemigos.
En un contexto político donde surgen con cada vez más fuerza discursos de odio, actos de violencia política y amenazas a la democracia, se vuelve necesario poner un especial énfasis en los riesgos que puede tener la utilización de la IA generativa en manos de la ultraderecha. Trump y Bolsonaro tuvieron una estrategia virtual que se apoyó fuertemente en la difusión masiva de fake news.
El debate sobre la regulación
Los innumerables riesgos que abre la IA generativa ponen sobre la mesa el debate de la regulación. En distintas partes del mundo se están empezando a tomar medidas al respecto. China, un país con fuertes reglamentaciones del uso de internet, fue uno de los primeros países en el mundo en dictar normas de regulación de la IA. Entre otras cosas, el gobierno chino obliga a todos los servicios de IA generativa a registrar su algoritmo ante las autoridades. En la Unión Europea está avanzando una ley integral para la regulación de la IA que evaluaría el riesgo de las distintas aplicaciones de la inteligencia artificial y, según las mismas, el nivel de control por parte de las autoridades.
En nuestro país, las normativas y la infraestructura tecnológica del Estado para la protección de datos y regulación de plataformas está muy atrasada. Desde Fundar proponen dos opciones para avanzar: empezar con regulaciones parciales o armar una ley global de servicios digitales. Esta última opción, aunque también la primera, parece muy difícil de llevar adelante en el contexto político y legislativo actual de nuestro país.
En Estados Unidos, grandes empresas tecnológicas como Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI en una reunión con Joseph Biden firmaron compromisos voluntarios con el desarrollo seguro, protegido y transparente de la tecnología de la Inteligencia Artificial que incluyen una especie de marca de agua para elementos digitales creados por estas tecnologías.
La pregunta es si la regulación es posible efectivamente, más allá de las intenciones de los Estados. Según nos comenta el especialista en ciencia de datos Tomas Reneboldi: “El nivel de desarrollo de esta tecnología hace que no esté centralizada, es de código abierto y por lo tanto irrastreable. En texto y en imagen ya no es distinguible para el ojo humano un elemento creado por IA de otro creado por una persona y en poco tiempo se va a lograr en vídeo y audio. En un escenario como éste, cualquier regulación estatal llega tarde y tiene un límite objetivo”.
En medio de una campaña electoral como la que estamos viviendo y en un contexto de crisis tan importante, es poco probable que el debate de la IA generativa tenga un lugar relevante en la agenda. Pero tenemos que ser conscientes que esta tecnología ya está en circulación con todos sus riesgos y potencialidades. En una sociedad donde la disputa por el sentido pasa cada vez más por el ámbito digital, ignorar un cambio con tantas implicancias difícilmente pueda ser una opción.
