¿Hasta dónde podrán llegar los deepfakes?

Un video podría mostrar a un periodista a pie de calle preguntando al presidente de Chile, Gabriel Boric, por los personajes políticos que más lo han influido y este, sin dudar, respondería: “Mao y la revolución china. Punto”. Otro video podría mostrar al presidente de México, Andrés Manuel López Obrador, en su conferencia matutina diaria anunciando que, debido al éxito de la recuperación del control gubernamental del petróleo y de la luz, se expropiarán los bancos extranjeros. Y otro podría mostrar a Joe Biden sentado en su escritorio de la oficina oval de la Casa Blanca anunciando la criminalización de la migración latinoamericana como parte de su plataforma de campaña electoral.

Ninguno de estos videos existe, pero de haberse hallado y de haber sido reproducidos en los reels y las historias que se viralizan por las redes sociales, no hubiésemos desconfiado de su existencia. ¿Por qué habríamos de dudarlo? Porque si existieran, lo más probable es que fuesen deepfakes, es decir, videos creados a partir de diferentes herramientas tecnológicas de inteligencia artificial que pueden hacer decir a quien sea lo que sea.

Estas herramientas tecnológicas, que nos permiten crear videos innovadores para educación o publicidad, también pueden acarrear inestabilidad política y acrecentar el clima de polarización de nuestras sociedades actuales. La complejidad de los deepfakes es tal que los dos casos más representativos son contradictorios.

Durante todo el 2018 el presidente de Gabón, Ali Bongo, no apareció en público. Los rumores sobre el padecimiento de una grave enfermedad, o incluso sobre su muerte, iban en aumento. Para detenerlos, hacia fin de año el presidente apareció en un video en el que deseó un “feliz año” a los gaboneses. El video era real, pero sus opositores asumieron que era falso e intentaron un golpe de Estado.

Este año, la televisión estatal de Venezuela difundió un video en el que un conductor de una supuesta agencia de noticias, House of News, relataba el buen estado de salud de la economía venezolana. Más tarde se demostró que los videos eran deepfakes, es decir, clips creados por el Gobierno venezolano y distribuidos con la intención de viralizar la “buena noticia”.

A pesar de sus diferencias, ambos casos nos muestran que los deepfakes abren un nuevo campo de problemas sociales porque nos llevan a cuestionar el criterio de verdad de nuestra sociedad actual: la imagen.

Mientras una noticia falsa puede reconocerse, por ejemplo, por su descuidada redacción o por la falta de referencias confiables, un deepfake se construye con base en elementos visuales que le otorgan la verosimilitud necesaria para hacernos creer que aquello que estamos viendo es real. Aspectos tan familiares como la oficina presidencial o una conferencia matutina son el vehículo adecuado para que un deepfake imponga una mentira, pues la imagen deja fuera de toda duda el contenido del mensaje.

A partir del lenguaje audiovisual, el deepfake busca posicionar en la esfera mediática un tema que sea benéfico o perjudicial para determinado individuo o grupo. Al vaciar de veracidad a la propia imagen, se producen infinidad de impactos que pueden generar divisiones y prejuicios sociales e incrementar la polarización.

A su vez, la manipulación digital permite que los dichos y hechos reales puedan ser negados por sus autores o por cualquier otra persona, ya sea porque su autor juega la carta de la manipulación, es decir, apela a que tal video o imagen es un deepfake creado para perjudicarlo o, quizá peor, porque cambia su postura frente a un hecho, esto es, acepta su autoría inicialmente y, tiempo después, argumenta que era un deepfake.

Por lo tanto, los deepfakes envuelven la comunicación digital en una duda mediática que sitúa a las audiencias en el peor escenario: cualquier video, imagen, audio debe ser puesto en tela de juicio. El régimen de verdad legitimado por la imagen supondría el fin de los dichos y hechos para imponer la duda mediática.

¿Hasta dónde podrán llegar los deepfakes? ¿Tendremos conciencia de los límites éticos para impedir su difusión? ¿Podremos limitar los efectos perversos que pueden implicar? ¿O los deepfakes son la crónica de una batalla perdida?

En el siglo XVII el filósofo francés René Descartes, buscando un conocimiento absolutamente cierto, imaginó que un genio maligno le hacía dudar de todas sus experiencias. En el siglo XXI el genio maligno son los deepfakes y están instaurando un régimen de duda mediática que nos llevará a dejar de preocuparnos por la verdad porque todo podría ser falso.

*Texto original publicado por Latinoamérica21