Un comercial con el finado Daniel Peredo nos deja serias advertencias
“Anoche me visitó mi mamá… estaba jovencita”, me cuenta a veces mi madre, y yo nunca me he atrevido a subestimar sus sueños. ¿Quién soy yo para malograrle sus despertares? La fascinación por nuestros muertos y sus mensajes crípticos nos acompaña desde que creamos el lenguaje. Aparte de sugerirnos cambios en nuestras narrativas personales y de darle trabajo a parapsicólogos, este hechizo también ha hecho nacer obras capitales de ficción: Hamlet es, quizá, el drama más representado y estudiado de Occidente, y la literatura latinoamérica perdería un pilar sin Pedro Páramo. Sin embargo, en manos de publicistas con acceso a inteligencia artificial, esta nostalgia fúnebre puede concebir criaturas que nos dejan una grave advertencia.
Hace un mes, la asociación Perú Te Quiero estrenó un comercial en el que Miguel Grau nos dice que volvería a morir para salvarnos del Covid 19, y se despide pidiéndonos unirnos ante la pandemia. Grau dejó hace mucho de ser un humano para convertirse en un símbolo, por lo cual la admiración fue igual de fuerte que la novedad. Cuando luego apareció Chabuca Granda para recordarnos que el Perú nos necesita vivos –y darnos poéticos consejos de cuidado–, la hermosa música que la acompañaba y su voz cantándonos desvaneció barreras mayores. Pero bastó con que hace poco apareciera en la torre del Estadio Nacional el recientemente fallecido relator deportivo Daniel Peredo, rogándonos que no nos unamos aún a acompañarlo, para que algo empezara a crujir en muchos: cuando alguien que fue parte de tu cotidianidad reciente –casi un miembro de tu familia–, se te aparece resucitado por un tercero, uno puede sentir que se ha cruzado un límite.
Pero no es esa incomodidad el tema central de este artículo, sino el futuro de nuestros debates y creencias sobre ciencia, desarrollo y política.
La verdad, no me cuesta imaginar cómo un publicista pudo llegar a esta idea.
Primero, asiste maravillado a la resurrección de Carrie Fisher en Rogue One, de la franquicia de Star Wars. ¿Cómo lo hicieron?, se pregunta. Y así se entera de la existencia de deep fake, una técnica de inteligencia artificial que permite combinar el video real de una persona con uno nuevo realizado a propósito.
Unos meses después se entera de que una actriz famosa ha sido pillada en un video pornográfico. Tras el morbo –y la imborrable imagen manipulada de la pobre mujer–, alguien suelta el dato técnico: ha sido ese mismo procedimiento.
Y para cuando una asociación le dice “queremos sensibilizar a los peruanos para no olvidar que la pandemia es todavía una amenaza”, bingo. Todo publicista se ha entrenado para llamar la atención a través de la novedad y, admitámoslo, las posibles repercusiones sociales no suelen estar estadísticamente en el tope de su lista de pendientes: ganar un reconocimiento por la respuesta inmediata puede pesar más que el antecedente que se vaya a sembrar.
Fue un publicista, justamente, quien, hace muchos años, me mencionó por primera vez la existencia de los Protocolos de Sión. Jovencísimo e ignorante, por algún tiempo creí que alguien había filtrado los acuerdos de unos judíos poderosos para adueñarse del mundo, con poderes muy parecidos a los que algunos ahora le adjudican a George Soros cual villano de James Bond. Me bastó interesarme luego un poco más en los Protocolos para descubrir que eran literatura al servicio de la manipulación: publicados a inicios del siglo XX, ayudaron a justificar en la opinión pública rusa los progromos contra los judíos y, oh casualidad, alcanzó su mayor auge en tiempos del nazismo.
A lo largo de nuestra historia, la adulteración de lo impreso ha sido el arma más utilizada para manipular o difamar. Hoy, en los peldaños iniciales de una tecnología que es capaz de adulterar por completo ya no solo la escritura, sino los testimonios hablados y gestualizados de las personas, las consecuencias rozan el espanto. El actor y cineasta Jordan Peele lo advirtió hace dos años en un video que utilizaba a Barack Obama, y Facebook ha lanzado un llamado global para que los expertos en inteligencia artificial desarrollen detectores de esta tecnología. ¿Serán estos esfuerzos suficientes? ¿Podrán próximamente las redes sociales retirar o impedir la publicación de estas imágenes de manera automática o, al menos, advertir de forma indeleble que lo que estamos a punto de ver ha sido adulterado?
Conocer a mis semejantes me deja poco optimismo.
Está probado que los humanos tendemos a buscar afirmar nuestras creencias y prejuicios antes que buscar pruebas que las desmientan. Nunca he sabido de alguien que se despierte, se prepare un café y se diga campante, “hoy es un buen día para buscar refutaciones que hagan tambalear mi visión del mundo”. Si un terraplanista se topara con un video antiguo de Buzz Aldrin confesando que, en verdad, nunca viajó al espacio, la afirmación de su creencia será indeleble. Por más que luego alguien le demuestre que el video fue una farsa, los neurotransmisores de la euforia ya habrán hecho su trabajo: en el terraplanista quedará el hermoso recuerdo de que tuvo razón, más que el hecho mismo. La huella de su creencia estará más marcada en el barro de su cerebro. Solo por ello, la normalización de esta tecnología es tan espeluznante como un espectro apareciéndose.
……Todo publicista se ha entrenado para llamar la atención a través de la novedad y, admitámoslo, las posibles repercusiones sociales no suelen estar estadísticamente en el tope de su lista de pendientes: ganar un reconocimiento por la respuesta inmediata puede pesar más que el antecedente que se vaya a sembrar…….
Por aqui habria que empezar…..
Abrazo
Gracias por el comentario, Jaime, ¡un gran abrazo!
Ya me resultaba indignante los memes «serios» poniendo en boca de intelectuales y científicos no creyentes «inocentes» frases divinas evangelizadoras que realmente son indignantemente difamatorias, ahora lo que se viene es terrorífico desde el punto de vista de la justicia de los hechos, la difamación audiovisual y el gran mercado de incautos ya sea por distracción o por elección. Saludos Gustavo.
En poco tiempo esta tecnología se podría haber perfeccionado y en ese escenario sería difícil y costoso discernir entre el original y él adulterado. Agrégale el hecho de que mucha gente duda de la muerte de algunos personajes, de la creencias religiosas sobre resurrección, y otros
Es realmente terrorífico, Gustavo. La posibilidad de que se pueda tergiversar cualquier verdad, en aras de cualquier objetivo de blancos o negros fines, es para ponerle a uno los pelos de punta, sí. Es el riesgo de las nuevas tecnologías. Se pueden usar bien o no. Abrazo.
Como toda herramienta, es verdad. Con la lampa se siembra, se mata… o se cometen barbaridades políticas, ja.
Un abrazo hasta España, mi amigo.
Ya me resultaba indignante los memes «serios» poniendo en boca de intelectuales y científicos no creyentes «inocentes» frases divinas evangelizadoras que realmente son indignantemente difamatorias, ahora lo que se viene es terrorífico desde el punto de vista de la justicia de los hechos, la difamación audiovisual y el gran mercado de incautos ya sea por distracción o por elección. Saludos Gustavo.
Si especulamos en las posibilidades de ese manejo en el campo de la justicia, el tema nos desborda. Habrá que estar muy atentos.
Es verdad, Nelson. Por ahora es una técnica costosa, pero… ¿delincuentes con plata? ¿O cuando sea de fácil acceso?
Un abrazo.
Hace muchos años vi una película que justamente trataba de este tipo de tecnología usada maliciosamente. Es muy inquietante ver que ya estamos viviéndola. Regulación urgente.
Me aterra, siempre hay que filtrar, dudar, me preocupa.