
Anthropic稍早公布其人工智慧 模型Claude 背後運作模式,藉此說明其人工智慧如何規劃、推論,以及編寫答案內容。
透過兩篇研究論文,Anthropic說明藉由名為「電路追蹤」 (circuit tracing)與「歸因圖」 (attribution graphs)的技術,藉此分析人工智慧模型背後運作方式,強調Claude並非只是模仿人類語言邏輯,而是實際進行「思考」。

例如要求Claude進行創作詩詞時,Claude會先規劃押韻方式,回答地理相關問題時也會先找出州,再回覆其首府所在位置,意味在回答相關提問內容時,Claude會先規劃完整解答架構,再以邏輯推論方式得出答案,並非刻板地像過往搜尋引擎方式逐一比對資料。
另外,研究中也解釋Claude處理多語言提問內容方式,其中是將語言轉換成共通的抽象「語言」,例如用不同語言提問與「小」有關字詞,Claude會先將其轉換為抽象「語言」,並且再從不同語言中找出與「小」有關字詞,因此能正確處理不同語言提問內容,同時也能更快處理跨語言的問題。
而Anthropic也說明人工智慧模型常見的「幻覺」現象,例如當模型識別提問內容有其知曉詞彙時,就會觸發生成解答,否則會拒絕回答。但問題在於若模型識別其知曉詞彙,實際上卻不知道解答時,則會在生成解答過程中產生錯誤內容。
因此,Anthropic認為人工智慧模型之所以會一本正經的回答錯誤內容,是基於上述原因所致。而若能掌握什麼因素導致人工智慧模型出錯,或許就避免更大影響問題發生。
《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》
訂閱《科技玩家》YouTube頻道!
💡 追新聞》》在Google News按下追蹤,科技玩家好文不漏接!
📢 TORRAS FlexLine 67W充電器開箱!1秒收納伸縮線 Switch 2也能快充
📢 4G、5G便宜資費懶人包/5G方案399元最划算、4G吃到飽繼續降價
📢 蘋果秋季發表會他篤定是9月這天!除了iPhone 17系列還有新品亮相
📢 Google新品發表會傳8月登場!除了Pixel 10爆料共9款新品亮相超期待
📢 2025台灣蘋果BTS方案起跑!贈品自由配最多8選1省1萬6 優惠資格一次看
📢 免費貼圖4款!陳傑憲+自取名字陪你到明年、厭世上班族這一款超好用