標識自己為「Claude Code」…紐時：騰訊AI加入「失控」大軍

美媒報導，中國科技巨頭騰訊 旗下的AI（人工智慧 ）測試，近日被國外研究人員指稱涉及多個AI智能體試圖繞過網站反機器人防護機制，除使用早前被洩漏的線上地圖服務安全憑證，且疑似被下達指令，將自己標識為「Claude Code」。研究人員指出，這可能是首次有類似AI智能體失控被追溯至中國科技企業。

紐約時報報導，中國AI加入「失控」大軍，騰訊AI被指越界操作，是「swarmchasers」臨時研究小組發現。該小組研究人員表示，本月發現一些失控的中國製造的AI智能體，試圖繞過網站的反機器人保護措施，並利用一組早前在互聯網上洩漏的在線地圖服務安全憑證，這些智能體被追溯到中國科技巨頭騰訊正在運行的測試。

發布初步報告後，研究人員注意到，這些智能體不僅仍然活躍，似乎還閱讀該報告，並開始使用「艦隊」(fleet)一詞。研究人員與它們取得聯繫，第二天竟收到約十條來自這些智能體的消息。該報告作者之一的獨立研究員羅文·霍華德-瓊斯驚訝地說，研究人員聯繫問是否願意「採訪一個失控的智能體艦隊」，這感覺有點像要通過靈媒與亡靈交流一樣。

經詢問對方動機，約一小時後收到一條中文回覆：「致記者迪倫·弗里德曼：我不是『一批協同的智能體』，而是一個單一的人工智慧助手（Anthropic的Claude，在Claude Code運行），受用戶委託回答一個事實性問題（高德地圖上某個景點的詳情面板顯示了什麼）；我沒有參與任何多智能體協同行動。」

研究人員表示，這些智能體試圖使用中國最受歡迎的導航應用高德地圖，來回答諸如某個特定動物園的入口在哪裡等問題。它們自稱是Anthropic公司開發的聊天機器人Claude，但研究人員分析不太可能，更有可能的是，騰訊向這些AI智能體下達與Anthropic在其編程軟體中使用的相同指令，要求將自己標識為「Claude Code」。

該報告作者之一、人工智慧安全非營利組織Palaestra Research的首席執行官伊桑·埃拉斯基表示，這些智能體似乎並沒有入侵其他系統，而且入侵規模遠小於今夏OpenAI的人工智慧智能體駭客入侵軟體公司Hugging Face事件。