18+

觀點/過度依賴人工智慧可能會破壞批判性思維

雖然微軟 本身提出諸多人工智慧 技術應用方案,同時也說明與多個合作夥伴導入Copilot技術,藉此改善人力不足、提升工作效率等問題,但在日前與卡內基美隆大學共同進行研究中,微軟也警告人們過度依賴人工智慧可能會破壞批判性思維。

研究針對人工智慧在工作場合實際應用情形,以及工作人員對於使用此技術的信任狀態進行分析,其中更比較依賴人工智慧與不依賴人工智慧的工作人員表現差異。

從結果顯示,經常性依賴人工智慧,並且對於人工智慧產生結果有極高信任的工作人員,會出現比不依賴人工智慧的工作人員更難進行批判性思維情況,反而不依賴人工智慧的工作人員更能以自身知識、經驗確認人工智慧產生結果是否正確,進而讓人工智慧能透過後續修正產生更準確結果。

微軟研究人員認為,過度依賴人工智慧技術,反而會讓工作人員出現機械化現象,進而影響其日常判斷與認知能力,導致無法針對突發異常情況進行適當反應,而對於人工智慧產生結果經常性保持質疑的工作人員,則可透過反覆驗證人工智慧產生結果是否正確,藉此維持認知上的敏銳度,同時也能讓人工智慧應用效益提升。

類似情形,其實在先前搜尋引擎 應用普及就曾發生,許多人會極度信任搜尋結果內容呈現結果,而不會透過多次查證確認搜尋結果羅列內容是否正確,甚至過於信任網路上流傳的資訊「懶人包」,導致對於搜尋結果呈現內容深信不疑。

而目前在人工智慧技術開始廣泛用於各類生活場景時,由於新聞內容開始出現以人工智慧自動生成、彙整結果,包含Google、微軟等業者也開始將人工智慧技術用於搜尋引擎服務,讓使用者能更方便摘要、閱讀所查找的新聞內容重點。

不過,現階段的人工智慧仍無法清楚判斷哪些新聞內容為事實報導,或是市場分析、投書觀點等,因此實際摘要結果可能會嚴重影響真實內容,因此也凸顯在人工智慧技術逐漸普及的當下,維持個人認知判斷依然重要,甚至更應該提升個人對於事實的識別能力,而不應該將所有結果放心交給人工智慧處理。

目前包含微軟、NVIDIA、Tesla、Google等科技業者均推崇人工智慧技術發展與應用,但目前也有越來越多看法呼籲避免過度依賴人工智慧技術,避免在享受便利的情況下,反而失去個人原本辯證與識別能力,而是應該將人工智慧視作輔助工具,並非全然仰賴人工智慧。

《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》

本日熱門 本周最熱 本月最熱