準確性受質疑…Grok誤判加薩飢童照攝於葉門 學者：凸顯AI侷限性

馬斯克 （Elon Musk）旗下人工智慧 （AI ）聊天機器人 Grok 日前將法新社攝影記者在加薩拍攝的一張瘦骨嶙峋女孩照片，誤判為7年前攝於葉門，學者稱這凸顯了AI工具的侷限性。

法新社報導，Grok聲稱這張照片拍攝於2018年10月，畫面中為7歲的葉門女孩胡笙（Amal Hussain）。但事實上，該影像是本月2日在加薩市（Gaza City）拍攝，照片中的女孩是現年9歲的道瓦斯（MariamDawwas），當時她被母親穆達拉拉（Modallala）抱在懷裡。

這項錯誤的回覆結果在網路社群廣泛流傳，法國親巴勒斯坦的左翼國會議員卡隆（Aymeric Caron）因轉傳該影像，被指控散播以哈戰爭相關的不實資訊。

這場戰爭是由巴勒斯坦武裝組織哈瑪斯（Hamas）於2023年10月7日攻擊以色列所引發。穆達拉拉說，戰爭爆發前，道瓦斯體重有25公斤，如今只剩下9公斤，唯一能改善她病況的營養就是牛奶，但並非隨時都能取得。

隨著網路使用者日益依賴使用AI驗證圖像，誤判加薩飢童照片拍攝地點的事件，凸顯了信任Grok等工具的風險，因為該技術遠非百無一失。

面對真實性的質疑，Grok說：「我不會散播假訊息，我的回覆是根據已核實的資料來源。」

Grok最終雖承認出錯，但隔日回答進一步詢問時，又再次聲稱該照片來自葉門。

撰寫過AI專書的科技倫理學者迪斯巴赫（Louis deDiesbach）表示，Grok的錯誤凸顯了AI工具的侷限性，AI系統像「黑盒子」般難以測透，使用者難以理解其回覆依據與資訊排序邏輯。

他指出，每個AI工具都受到訓練資料與開發者設計的指令影響，可能反映特定偏見。

迪斯巴赫認為，Grok由馬斯克創辦的新創公司xAI開發，其表現出「與馬斯克個人意識形態高度一致的強烈偏見」。馬斯克曾是美國總統川普（DonaldTrump）的親密盟友，也是極右派代表性人物之一。

迪斯巴赫指出，要求聊天機器人確定照片來源使其脫離了應有的角色，「AI不是為了說出真相而設計，而是用來生成內容，不論是真是假」。

他說：「你必須把它看成是一個『友善的病態說謊者』，它不一定會說謊，但隨時可能說謊。」