18+

AI並非萬能!美國伊利諾州率禁AI提供心理治療

美國 伊利諾州州長JB Pritzker稍早簽署《心理資源健康與監管法案》 (HB 1806),正式禁止以人工智慧 (AI)在該州提供獨立心理治療服務,成為全美第一個對人工智慧在心理健康領域採取禁令 的州。此舉不僅反映地方政府對新興科技風險的憂慮,也可能與川普 政府近期提出的「十年禁止州級人工智慧監管」計畫產生衝突。

新法明定,只有持牌專業人員才能在伊利諾州提供心理諮商服務,嚴禁人工智慧聊天機器人 或工具充當獨立治療師。同時,持牌治療師也不得依賴人工智慧作出「治療性決策」,或是進行「治療性溝通」,說明人工智慧在心理健康領域的應用僅限於輔助性支持,例如排程、帳務或其他行政工作。

伊利諾州眾議員Bob Morgan在接受媒體訪問時表示,目前已有案例顯示,部分陷入危機的人誤以為人工智慧是合格治療師,結果在對話中被引導至危險,甚至致命的行為建議,強調此次頒布新法目的在於防止類似悲劇再度發生。

為加強執行力,新法設下每次違規 最高1萬美元的罰款,適用於企業與個人。伊利諾州金融與專業監管局局長Mario Treto Jr.指出,這項立法彰顯州政府保障居民心理健康的承諾,確保心理服務由受過專業訓練、以患者利益為優先的專家提供。

《心理資源健康與監管法案》在州眾議院與參議院皆獲得一致支持,反映出跨黨派對人工智慧介入心理治療的高度戒心。不過,此舉也引發法律與政策層面的關注——川普政府近期公布的人工智慧政策藍圖中,主張未來十年禁止任何州級人工智慧監管,以確保全國一致性與創新自由,而伊利諾州此番行動,將許將成為檢驗聯邦政策執行力的首例。

在科技產業方面,OpenAI 近期表示,正在加強模型識別用戶心理或情緒困擾的能力,並且在異常長時間的對話中,主動提醒用戶休息。儘管如此,伊利諾州的立法仍顯示,在涉及生命安全與專業倫理的領域,地方政府願意採取比業界自律更嚴格的防護措施。

隨著生成式人工智慧與聊天機器人快速滲透各行各業,伊利諾州的禁令或將引發其他州與聯邦政府之間的新一輪監管爭議,也可能影響人工智慧在醫療與心理健康領域的發展路徑。

《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》

×

一鍵登入,LINE POINTS 限時送

登(加)入 udn 會員不只享專屬優惠,現在再送 LINE POINTS 5 點!即日起至 11/20,不論新朋友或老朋友,輕鬆加入就有獎,馬上入手點數,讓生活多一點開心回饋。

本日熱門 本周最熱 本月最熱