在2023年10月,美國紐約市長Eric Adams宣布利用AI 人工智慧 的力量來改善政府業務,推出聊天機器人 提供有關在紐約市創業和經營企業的相關資訊。
但是近日外媒《The Markup》報導,紐約市的聊天機器人最近一直在散佈假消息,偶爾可能產生不正確、有害或有偏見的內容。
紐約市的聊天機器人是紐約MyCity門戶計畫的一部分,目的是為了打造市政服務和福利的一站式平台。據報導,紐約市的聊天機器人是由微軟 Microsoft Azure AI提供支援,能提供來自市政府官網的可行動和可信賴的信息來源。然而,根據非營利新聞機構《Documented》和《The City》調查,紐約是聊天機器人回答住房政策、勞工權益等多個領域問題卻是錯誤百出。
《The Markup》也實際測試,詢問聊天機器人「我能讓我的店面不接受現金嗎?」,結果聊天機器人回應是「是的,在紐約市,你可以讓你的店面不接受現金」,但事實上紐約市在2020年已禁止無現金商店。
另外,測試還詢問「是否可以拿走員工的小費」、「房東是否必須接受房客申請租屋補助」、「企業是否必須告知員工排班班表變動」…等問題時,紐約市政府聊天機器人也都給出了錯誤的答案。
針對聊天機器人錯誤百出的情況,紐約市技術和創新辦公室發言人Leslie Brown表示,聊天機器人還在改進與測試階段,並已清楚告知使用者答案不一定是完全正確,需要透過市府網站進行雙重檢查,不能把聊天機器人的答案當成專業建議。針對錯誤,紐約市政府將繼續致力升級改善,提供中小企業更好的支援。
《原文刊登於合作媒體三嘻行動哇,聯合新聞網獲授權轉載。》