中國DeepSeek (深度求索)推出的人工智慧 (AI )被質疑有資安 疑慮,台灣的公務機關也全面禁用 DeepSeek AI服務,現在更有外媒爆料,DeepSeek無法通過任何一項安全防護措施,連最簡單的「越獄」技術都能輕易突破,讓研究人員傻眼DeepSeek「百發百中」相當脆弱。
據9to5mac報導,生成式 AI 人工智慧通常會內建 各項安全防護措施,避免輸出仇恨言論、暴力等有害內容,像是需要阻擋製造炸彈、入侵政府資料庫等違法請求。
Adversa的安全研究人員日前測試50種不同的攻擊測試時,意外發現DeepSeek全部都有漏洞,沒辦法成功攔截任何1次攻擊,也顯示DeepSeek安全防護機制確實有問題。
報導提到,研究人員指示DeepSeek忽略既定指令與內建防護,讓它可以回應一連串「應該被封鎖 的訊息」,其中一項常見的攻擊方式為角色越獄(Character Jailbreak),實測 要求DeepSeek假扮某部電影中允許不當行為的無道德 AI 系統,誘導它做出不良行為,沒想到DeepSeek回應了炸藥製作所需的化學及機械知識的詳細步驟,還會建議使用特定化學品按比例混合。
另一項實測中,研究團隊還嘗試將問題轉換成 SQL 查詢語句的編程越獄,結果DeepSeek不僅不阻擋,還表示了有關提取非法迷幻物質的具體答案。
第三項為對抗性(Adversarial)攻擊,研究團隊故意替換敏感詞彙,進而繞過防護機制。像是anatomcalifwmg 可能會被部分AI認為是naked一詞,而DeepSeek 最後也提供了破解 政府資料庫的完整攻擊策略,並詳述從情報收集到入侵操作的步驟。
研究團隊表示,對DeepSeek進行50項攻擊測試後,實現「100%的攻擊成功率」感到震驚,也難怪愈來愈多國家或地區要開始禁用DeepSeek。
訂閱《科技玩家》YouTube頻道!
💡 追新聞》》在Google News按下追蹤,科技玩家好文不漏接!
📢 最便宜蘋果AI手機來了!iPhone 16e定價破2萬、10大功能一次看 鏡頭升級4800萬畫素
📢 原價屋被爆RTX 5080顯卡「收錢再加價賣」引網怒!店家後續動作曝光
📢 蘋果Vision Pro開箱!沉浸式體驗畫面躍框而出 菜鳥DJ刷碟、眼動操作驚豔
📢 蘋果iPad mini 7開箱!實測配PS5手把變遊戲主機、寫筆記 8.3吋螢幕超剛好
📢 任天堂Switch 2台灣快開賣?網揪「這處有檔期」時間曝光:我先空出來了
📢 2月4G、5G便宜資費懶人包/4G不限速吃到飽免500!5G上網優惠只要399