AIは機械学習を活用し、動画や画像内の人物の顔を別の人物の身体にマッピングします。これにより、アダルトコンテンツ内のフェイクポルノが完全に偽物であるにもかかわらず、本物のように見せかけてしまうのです。
プライバシー侵害、同意の侵害、そして搾取が主な懸念事項です。偽の性的コンテンツに個人の肖像を悪用することは、尊厳を傷つけ、長期的な精神的トラウマにつながる可能性があります。
フェイススワップツールは、ディープフェイクポルノ、偽ヌード、改変された虐待コンテンツを作成する可能性があります。また、偽情報の拡散、脅迫、評判の毀損につながる可能性もあります。