美國加州比佛利山聯合學區近日爆出有5名國中生以人工智慧 「深度偽造(Deepfake )」方式,製造出16名同學裸照 ,學區6日投票決定將涉案5人全數退學。
NBC報導,比佛利維斯塔中學(Beverly Vista Middle School)校長布雷吉(Michael Bregy)透過電郵指出,5名加害者和16名受害者都是8年級學生,此事引發有關使用人工智慧的道德層面有關的重要討論,並了解到小孩雖然仍在學習和成長階段,但承擔責任也非常重要。
學區決議將5名加害學生退學後,涉案學生和家長沒有提出異議,其身分也未公開。
在比佛利中學事件發生前一年,全球各地就已經有一系列未成年學生遭「深偽」的假裸照案。隨著人工智慧技術的持續發展,相關案件數量呈現爆發式增長,專門設計用來讓受害者「脫衣」和「交換」臉孔的色情程式不斷出現,製造虛假影像比以往任何時候都更快、更方便,並且很容易在社交媒體上流傳。