ChatGPT可能有辦法草擬犯案計畫 歐洲刑警組織：歹徒恐升級犯罪技術

歐洲刑警組織（Europol）今天警告，犯罪分子恐利用ChatGPT等人工智慧 （AI）精進犯罪手段。聊天機器人 能模仿說話風格，尤能在假電郵發動網路釣魚攻擊時奏效。

法新社報導，歐洲刑警組織在最新報告中說，從發動網路釣魚攻擊、散布不實訊息到安裝惡意軟體等，聊天機器人快速發展出的能力，不只有利於人類，也有助於歹徒吸金詐財。

美國新創公司OpenAI研發的ChatGPT去年11月推出，因能清楚回答困難問題、作詞寫詩或編寫程式甚至還能通過考試，令使用者大為驚艷，紛紛應用於日常生活。

總部設於海牙的歐洲刑警組織說：「犯罪分子可能利用這類AI系統犯案，這樣的前景令人堪憂。」

歐洲刑警組織表示，他們新設的「創新實驗室」（Innovation Lab）雖著眼於整體聊天機器人的使用，但在一系列研討會特別聚焦於ChatGPT，因為後者最引人注目和使用最為廣泛。

歐洲刑警組織發現，犯罪分子可能會利用ChatGPT「大幅加快對未知領域的研究程序」，可能包括草擬詐欺犯案計畫，或是查詢「如何闖入民宅、犯下恐怖行動、網路犯罪與兒童性侵案」的資訊。

聊天機器人能模仿說話風格，對於發動網路釣魚攻擊特別能派上用場，能引誘使用者點擊假的電郵連結，之後再試圖竊取他們的資料。

ChatGPT能迅速產出逼真的語音文本，成為「用於宣傳與散布不實訊息的理想工具，能相對更不費工就產出、散布反映特定論述的訊息」。

ChatGPT也可用來編寫電腦程式，對沒有技術能力的犯罪分子特別有利，「這類自動程式生成能力，對那些對編碼和開發所知甚少或一無所知的犯罪行為者特別有用」。

歐洲刑警組織指出，美國與以色列網路威脅情報公司Check Point Research的初步報告顯示，聊天機器人可用來撰寫釣魚電子郵件滲透網路系統。雖然ChatGPT有防護措施，包括內容審查，不會回答被歸類為有害或有偏見的問題，但可藉由輸入巧妙的提示詞規避。

這份歐洲刑警組織的報告還說，人工智慧仍在初步發展階段，能力「預計將隨時間而提升」，但「最重要的是要提高外界對此的認知，以確保找出任何可能的漏洞，盡快採取行動堵住。」