Una serie de imágenes pornográficas falsas de Taylor Swift, generadas con inteligencia artificial, circularon por internet y redes sociales esta semana, y generaron una indignación masiva entre fans, internautas, políticos y hasta el gobierno de Estados Unidos.

Este fenómeno, llamado deepfake, no es nuevo. Consiste en la generación de fotos hiperrealistas, pero falsas, de celebridades en diferentes contextos. En esta oportunidad, la víctima fue la popular cantante, cuyo rostro fue agregado a imágenes de contenido sexual explícito.

Leé también: Preocupa el crecimiento del uso de deepfakes de famosas en sitios de videos para adultos

Según medios estadounidenses, las publicaciones con los deepfakes de Taylor Swift fueron vistas más de 50 millones de veces en Twitter/X y estuvieron disponibles en la red social por aproximadamente 17 horas antes de su eliminación.

Luego del incidente, activistas y autoridades del gobierno norteamericano expresaron preocupación por la facilidad con que se pueden utilizar las herramientas que, con inteligencia artificial generativa, son capaces de crear una avalancha incontrolable de contenido tóxico o dañino.

Cuando el contenido comenzó a hacerse viral, su base de fans, llamada Swifties, se movilizó rápidamente, y lanzó una contraofensiva con el hashtag #ProtectTaylorSwift (#ProtejanATaylorSwift) para llenar las redes sociales con imágenes positivas de la estrella del pop. Al mismo tiempo, muchos denunciaron a las cuentas que compartían los deepfakes.

Según publicó el medio inglés DailyMail.com, la artista perjudicada se mostró furiosa por las imágenes y consideró emprender acciones legales contra los sitios web que alojen las deepfakes, e incluso estudió demandar a Twitter/X.

Leé también: Deepfake: aumentan los fraudes con manipulación de imágenes creadas por inteligencia artificial

La situación se volvió viral y repercutió tanto que hasta en la Casa Blanca expresaron su indignación por los deepfakes de Taylor: “Estamos alarmados por las noticias sobre la circulación de estas imágenes falsas”, dijo a los periodistas Karine Jean-Pierre, secretaria de prensa del presidente Joe Biden. “Infortunadamente, con demasiada frecuencia notamos que la falta de aplicación de la ley tiene un impacto desproporcionado en las mujeres y las niñas, los principales blancos del acoso en línea”, agregó la funcionaria.

“El único lado positivo de que esto le haya sucedido a Taylor Swift es que probablemente tenga suficiente poder para aprobar una legislación que lo elimine. Ustedes están enfermos”, escribió al respecto la influencer Danisha Carter en Twitter/X.

Por su parte, la red social, propiedad del magnate Elon Musk, aseguró que estaba trabajando de manera activa en la eliminación todos los deepfakes de Swift y tomando las medidas apropiadas contra las cuentas responsables de publicarlas. Además, resaltó que estaba vigilando de cerca la situación para garantizar que cualquier otra violación se aborde de inmediato y se borre el contenido.

Leé también: Creó imágenes de sus compañeras sin ropa con inteligencia artificial: ¿hay delito?

Poco después de eliminar el perfil del usuario responsable de la difusión de las imágenes falsas, X, a través de su cuenta dedicada a la seguridad de la red, emitió un comunicado en el que recordó que la publicación sin consentimiento de imágenes con desnudez está totalmente prohibida y que la empresa tiene una política de tolerancia cero hacia este tipo de acciones.

El ataque a Swift, la segunda artista más escuchada del mundo en la plataforma Spotify después del rapero canadiense Drake, podría arrojar nueva luz sobre el fenómeno de los deepfakes.

Yvette Clarke, congresista demócrata de Nueva York que apoya una legislación para luchar contra las fotos pornográficas falsas, resaltó que con los avances en IA, crear deepfakes es más fácil y barato. Y el legislador republicano Tom Kean, advirtió: “La tecnología de inteligencia artificial está avanzando más rápido que las barreras necesarias. Ya sea que la víctima sea Taylor Swift o cualquier otra joven, debemos establecer salvaguardias para combatir esta tendencia alarmante”.

Leé también: Usaron inteligencia artificial para desnudar a una conocida influencer: “Me quitaron la ropa y se me ve todo”

Un estudio de 2019 estimó que el 96% de los videos del tipo deepfake eran pornográficos. Según una investigación citada por la revista Wired, en los primeros nueve meses de 2023 se subieron 113.000 videos de este tipo a los sitios web pornográficos más populares.