AI는 머신러닝을 통해 한 사람의 얼굴을 다른 사람의 신체에 매핑하여 비디오나 이미지에 표시합니다. 이를 통해 성인 콘텐츠에서 가짜 포르노가 완전히 가짜임에도 불구하고 진짜처럼 보이게 합니다.
개인정보 침해, 동의 위반, 그리고 착취가 주요 우려 사항입니다. 가짜 노골적인 자료에 자신의 모습을 오용하는 것은 존엄성을 훼손하고 장기적인 정서적 트라우마로 이어질 수 있습니다.
얼굴 바꾸기 도구는 딥페이크 포르노, 가짜 누드 사진, 그리고 변조된 학대 콘텐츠를 제작할 수 있습니다. 또한 허위 정보 유포, 협박, 명예 훼손 등의 피해를 초래할 수도 있습니다.