El Jurado Nacional de Elecciones (JNE) publicó en su portal de Fact Checking un artículo en el que examina los riesgos que traería para los procesos electorales en América Latina la desinformación impulsada mediante las herramientas de la Inteligencia Artificial (IA), así como las alternativas que tiene la sociedad para enfrentar dicho fenómeno.
En el texto, denominado “Tecnologías y desinformación en democracia. El papel de la IA en las elecciones de América Latina”, se subraya que los algoritmos de Inteligencia Artificial pueden ser entrenados para imitar el estilo y la voz de figuras públicas, generar imágenes falsas que se vuelven virales en las redes sociales y dirigir mensajes personalizados a segmentos específicos de la población.
“La desinformación precede a la tecnología y, sobre todo, precede a la inteligencia artificial. Y hay tres capas que la hacen posible actualmente: la humana, la de amplificación y la de aceleración en la producción”, explica Rogelio H. Umaña, consultor especialista en transformación digital radicado en Costa Rica.
Así también, de acuerdo con Esteban Ponce de Leon, investigador digital del Atlantic Council’s Digital Forensic Research Lab (DFRLab), las redes sociales nos muestran contenido a través de lo que sus algoritmos seleccionan para nosotros. Ahora incluso no solo vemos el contenido de las cuentas que seguimos sino también (y en primer lugar) el que nos sugiere la plataforma. Este cambio, realizado por redes como X, Tik Tok e Instagram, ha sido realmente significativo para la creación de burbujas informativas.
En un futuro, señala el especialista, la IA permitirá contenido mucho más personalizado y ya no solo en redes sociales sino también en buscadores como Google, limitando nuestras posibilidades de informarnos. “Por más positiva que parezca, esa personalización puede llevar a un proceso de desinformación al no tener capacidad de comparar un hecho con otras fuentes de información. Así como también puede generar un ambiente de polarización, suprimir las voces moderadas, aumentar discursos de odio y campañas de ataques o de acoso digital hacia aquellos que no comparten tu opinión o -lo que será igual- la información de tu propia burbuja”.
El artículo también describe casos en los que se ha hecho uso de la IA generativa en elecciones recientes como las de Argentina y México a través de los denominados deepfake, así como la manipulación de fotografías, situaciones que se proyecta puedan multiplicarse en los próximos procesos electorales.
Para ayudar a los usuarios de las redes sociales a identificar los contenidos falsos generados por IA, la publicación recoge una serie de consejos prácticos y resalta que si el objetivo es lograr la confianza y credibilidad en las elecciones en la era de la IA, es importante que los gobiernos, empresas de tecnología y sociedad civil actúen de manera cooperativa para hacer frente a la manipulación y desinformación.
Se trata del segundo artículo elaborado por el equipo de Fact Checking del JNE. El primero trata sobre la desinformación electoral en América Latina, con énfasis en las narrativas de fraude.
