隨著AI 技術不斷創新,網路上充斥著許多由AI創造的虛假圖像;近日就爆出在中國大陸盛行的「直播 帶貨」文化存在使用「AI換臉」,製造冒充明星進行直播帶貨的假象。
根據《IT之家》引述《央視財經》報導,直播主只需花費3.5萬人民幣(約台幣15萬1,445元)就可以購買一套「實時換臉」的AI模型,直播主可以利用這套模型隨意替換「素材」,而大明星的樣貌便被當作直播主熱門使用的素材。
中國大陸某電商平台就被消費者投訴「我在刷抖音的時候,發現那個主播長得跟楊冪(中國人氣女星)很像」,該名消費者自稱是被「楊冪」吸引才想進入直播間觀看,未料事後才知道她以為的楊冪根本不是楊冪,而是由AI換臉技術製造的「假楊冪」。
《IT之家》訪問業內人士指出,使用虛擬主播進行直播已然是新趨勢,但由於研發投入成本較大,因此AI換臉便淪為虛擬主播的最佳「平替」。然而,直播畫面並未標示明確使用AI換臉或合成技術,恐怕意圖導致消費者混淆,此舉可能涉嫌詐欺,且未經明星同意使用其肖像直播帶貨,可能侵犯明星的肖像權與隱私權。