La IA implica aprendizaje automático, donde el rostro de una persona se reproduce en el cuerpo de otra en videos o imágenes. Esto hace que la pornografía falsa parezca real en contenido para adultos, aunque sea completamente falsa.
Las violaciones de la privacidad, el incumplimiento del consentimiento y la explotación son los principales problemas de preocupación. El uso indebido de la propia imagen en material explícito falso daña la dignidad y puede provocar un trauma emocional a largo plazo.
Las herramientas de intercambio de rostros pueden producir pornografía deepfake, desnudos falsos y contenido abusivo alterado. También pueden propagar desinformación, intimidación y dañar la reputación.