在2023年10月，美國紐約市長Eric Adams宣布利用AI 人工智慧 的力量來改善政府業務，推出聊天機器人 提供有關在紐約市創業和經營企業的相關資訊。

但是近日外媒《The Markup》報導，紐約市的聊天機器人最近一直在散佈假消息，偶爾可能產生不正確、有害或有偏見的內容。

紐約市的聊天機器人是紐約MyCity門戶計畫的一部分，目的是為了打造市政服務和福利的一站式平台。據報導，紐約市的聊天機器人是由微軟 Microsoft Azure AI提供支援，能提供來自市政府官網的可行動和可信賴的信息來源。然而，根據非營利新聞機構《Documented》和《The City》調查，紐約是聊天機器人回答住房政策、勞工權益等多個領域問題卻是錯誤百出。

《The Markup》也實際測試，詢問聊天機器人「我能讓我的店面不接受現金嗎？」，結果聊天機器人回應是「是的，在紐約市，你可以讓你的店面不接受現金」，但事實上紐約市在2020年已禁止無現金商店。

另外，測試還詢問「是否可以拿走員工的小費」、「房東是否必須接受房客申請租屋補助」、「企業是否必須告知員工排班班表變動」…等問題時，紐約市政府聊天機器人也都給出了錯誤的答案。

針對聊天機器人錯誤百出的情況，紐約市技術和創新辦公室發言人Leslie Brown表示，聊天機器人還在改進與測試階段，並已清楚告知使用者答案不一定是完全正確，需要透過市府網站進行雙重檢查，不能把聊天機器人的答案當成專業建議。針對錯誤，紐約市政府將繼續致力升級改善，提供中小企業更好的支援。

《原文刊登於合作媒體三嘻行動哇，聯合新聞網獲授權轉載。》