Grok Imagine新增「Spicy模式」 可生成敏感影像內容

在Elon Musk旗下的人工智慧公司xAI新推出的Grok Imagine影像與影片生成工具中，TechCrunch網站發現該功能內建名為「Spicy」 (火辣)的模式，可快速生成帶有性暗示或半裸元素的內容。

根據TechCrunch網站的測試，Grok Imagine對於部分成人主題提示詞幾乎不設防，能夠在數秒內生成「不適合上班觀看」 (NSFW,Not Safe For Work)的敏感圖片或短片，而使用者持續瀏覽時，系統還會自動生成更多相關內容。雖然某些請求會遭到模糊處理或審核，但仍能成功產出「半裸」影像，顯示審查機制相對寬鬆。

目前Grok Imagine僅先開放給付費訂閱SuperGrok與Premium+ X的用戶使用，並且提供多種輸出模式，藉此控制生成影像的風格與主題。不過，對涉及名人影像的生成仍存在額外限制，例如當測試者要求生成懷孕的川普影像時，系統僅回應「川普與孕婦同框」或「川普抱著嬰兒」等替代結果。

這並非Grok首次因爭議引發關注，過去就曾因出現反猶言論、散播陰謀論，以及內建「AI女友」功能而飽受批評。此次推出影像生成器後，市場看法擔憂xAI對敏感內容的開放態度可能帶來更大風險，例如未經授權的人物影像生成、成人內容濫用，以及潛在的法律與道德問題。

不過，Elon Musk本人則對這項新功能表現出高度興奮，並且在「X」上表示Grok Imagine的影像生成數量已經在一天內從1400萬張暴增至2000萬張，並且聲稱該工具將成為「梗圖生產器」，更預告會在未來持續提升其生成功能。

而雖然Elon Musk宣稱Grok Imagine將成為AI創作與娛樂的利器，但在各國加強AI生成內容管制的大環境下，新版Grok Imagine影像與影片生成工具恐怕會進一步引起監管機構與社會輿論關注。

《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》