L'IA utilise l'apprentissage automatique pour associer le visage d'un individu au corps d'un autre dans des vidéos ou des images. Cela permet à de la fausse pornographie de paraître réelle dans des contenus pour adultes, alors qu'elle est totalement fausse.
Les atteintes à la vie privée, la violation du consentement et l'exploitation sont les principaux sujets de préoccupation. L'utilisation abusive de l'image d'une personne sur du faux matériel explicite porte atteinte à sa dignité et peut entraîner un traumatisme émotionnel durable.
Les outils d'échange de visages peuvent produire de la pornographie deepfake, de faux nus et des contenus abusifs modifiés. Ils peuvent également propager de la désinformation, de l'intimidation et nuire à la réputation.