ChatGPT開始騙人 唐鳳：借鏡國際研究AI相關法律

數位發展部長唐鳳今出席立法院交通委員會，由於AI及ChatGPT技術突飛猛進，成為立委質詢數位發展部長唐鳳的新焦點。林俊憲等多位立委一一拿出AI所創造的人像、影音，質問未來會被用於詐騙、選舉介入、假簡訊、寫釣魚信的機率，詢問唐鳳是否能辨識真假、做風險管控？

香港電腦保安事故協調中心（HKCERT）近日在《香港保安觀察報告》中表示，香港釣魚網站事件連3季上升，去年第4季達13574例，季增90%、年增11倍，甚至有不法份子以ChatGPT製作釣魚信件內容，編寫惡意程式。

立委要求數位發展部也應研究AI相關法律。唐鳳則強調已在推動、參考國際經驗並擬定中。

KPMG安侯企業管理公司董事總經理謝昀澤日前就示警：ChatGPT的安全與道德圍牆，可能會被破解。

謝昀澤舉例，在ChatGPT的初期版本，曾被國外資安專家「設局」，透過問題的誘導與情境設定，寫出毀滅人類計畫書，詳細描述入侵各國網路、控制武器、破壞基礎建設等SOP，還提供了對應的Python程式碼。

KPMG安侯企業管理公司執行副總經理林大馗表示，與之前使用情境話術騙過ChatGPT安全機制的方式不同，在最新的ChatGPT版本中，已經可以被直接突破，「言論尺度大解放」。

經KPMG數位科技安全實驗室實際測試，在經由輸入特殊指令要求後，即可進入可以讓ChatGPT放盪不羈的越獄暗黑模式。可提供詐騙簡訊樣板、宗教、性別歧視等原先被阻擋不回應的議題。

謝昀澤提醒，此一程式上的邏輯缺陷應很快被OpenAI修復，但無法保證是否還存在類似的方式尚未被解鎖。

未來新版對話機械人的漏洞被利用並破解，將如iOS及安卓手機過去每一代被越獄一樣頻繁，任何使用者都不可輕忽人工智慧遭到有心人士的濫用所導致的風險，特別在政府、金融及高科技等資安高風險產業，使用新興科技前，都應該有完整的風險評估及隱私衝擊分析程序，才能讓數位工具發揮最大效益。

近日，有美國眾議院議員公開宣稱自己「被人工智慧嚇壞了，尤其是不受限制和監管的人工智慧」，並拿出了決議草案，呼籲強化對人工智慧的監管。

ChatGPT活躍用戶超過1億人次，商業價值不可估計，但「犯罪方案」及負面影響也開始成形。新技術衍生的網路資訊安全及違法犯罪風險，開始成為全球AI科學家、企業及政府面前的新問題。