DeepSeek破解率100%！R1模型推出2天就被破解「無法阻擋任何有害提示」

中國人工智慧（AI）新創「深度求索」（DeepSeek）以低成本、高性能的模型震撼矽谷乃至國際社會。不過，全球網路安全巨頭思科（Cisco Systems）執行副總裁巴特爾（Jeetu Patel）透露，DeepSeek的R1模型上市不到48小時便被破解，攻擊成功率達100%，造成「DeepSeek效應」（DeepSeek effect），也就是AI模型成本下降後數量激增，顯著加劇該領域的安全風險。

巴特爾（Jeetu Patel）告訴日經亞洲，當模型數量較少時，面對的挑戰相對較小，但隨著模型數量激增，這些挑戰將變得更加複雜，「因此，需要確保所有模型都內建安全防護標準」。

巴特爾表示，思科團隊在DeepSeek推出R1模型僅48小時內便成功「越獄」，破解原先設定的操作規範和限制。

此外思科評估報告顯示，攻擊R1的成功率為100%，也就是說，它無法阻擋任何有害提示（prompt）。提示是指請求生成式AI執行特定任務的自然語言文字。相形之下，OpenAI的AI模型被攻擊成功率為26%。

巴特爾談到，AI模型部署將遭遇許多「瓶頸」限制。他說：「我們的效能、網路連結、連接性都是瓶頸。安全也會是限制。計算、數據都會是限制。」