隨著AI 技術不斷創新，網路上充斥著許多由AI創造的虛假圖像；近日就爆出在中國大陸盛行的「直播 帶貨」文化存在使用「AI換臉」，製造冒充明星進行直播帶貨的假象。
根據《IT之家》引述《央視財經》報導，直播主只需花費3.5萬人民幣（約台幣15萬1,445元）就可以購買一套「實時換臉」的AI模型，直播主可以利用這套模型隨意替換「素材」，而大明星的樣貌便被當作直播主熱門使用的素材。
中國大陸某電商平台就被消費者投訴「我在刷抖音的時候，發現那個主播長得跟楊冪（中國人氣女星）很像」，該名消費者自稱是被「楊冪」吸引才想進入直播間觀看，未料事後才知道她以為的楊冪根本不是楊冪，而是由AI換臉技術製造的「假楊冪」。
《IT之家》訪問業內人士指出，使用虛擬主播進行直播已然是新趨勢，但由於研發投入成本較大，因此AI換臉便淪為虛擬主播的最佳「平替」。然而，直播畫面並未標示明確使用AI換臉或合成技術，恐怕意圖導致消費者混淆，此舉可能涉嫌詐欺，且未經明星同意使用其肖像直播帶貨，可能侵犯明星的肖像權與隱私權。
