KI beinhaltet maschinelles Lernen, bei dem das Gesicht einer Person in Videos oder Bildern auf den Körper einer anderen Person abgebildet wird. Dadurch wirkt gefälschte Pornografie in Inhalten für Erwachsene echt, obwohl sie vollständig gefälscht ist.
Die größten Probleme sind Datenschutzverletzungen, der Bruch von Einwilligungen und Ausbeutung. Der Missbrauch des eigenen Bildes auf gefälschtem, explizitem Material verletzt die Würde und kann zu langfristigen emotionalen Traumata führen.
Tools zum Face-Swapping können Deepfake-Pornografie, gefälschte Nacktbilder und veränderte Missbrauchsinhalte produzieren. Sie können auch Desinformation, Einschüchterung und Rufschädigung verbreiten.