美國OpenAI推出聊天機器人ChatGPT，中國大陸百度也宣布要推出簡體中文版類ChatGPT「文心一言」，台灣今宣布要在年底前參一腳，宛如一場AI軍備競賽。不少人關心AI是否將取代人類，實際上，國內已有不少大學教授，擔心學生將報告、考題委由機器人代筆，因此將自己出的期末考題丟上ChatGPT實測求解。學者發現，ChatGPT僅能協助潤稿、蒐集資料的工具，無法取代人類的推理能力。
有網友在抖音上分享如何利用3D列印機及AI機器人Chat GPT幫自己寫作業，引發各界關注。清華大學系統神經所所長羅中泉也分享，日前他將這學期神經生物學的期末考卷拿給ChatGPT作答，最後拿到75%的分數，在23位人類學生中排第13名。
回頭檢視ChatGPT答對、答錯的題目，羅中泉發現，若答案難從網站上查找，系統就越容易答錯，至於需要推理的答案，ChatGPT雖試圖從資料庫中拼出看似「肯定」的答案，仍明顯只是字面解釋，無法進行深層推理。
羅中泉也提到，有一題他問下列何者為對，ChatGPT告訴他全部都對，當他再強調只有一個選項是對的，然後再問一次時，ChatGPT改口說只有ACD是對的，當問第三次時，ChatGPT卻又說全部都對。不過，在面對人類的學生，若告訴學生只有一個選項是對的時候，儘管他覺得看起來都對，但還是會努力選一個看起來最對的作為答案。
羅中泉表示，既然AI擅長從大海般的資料中找到符合的資訊作為答案，甚至可以做字面上的推理，對於人類學生的訓練，就要更著重非字面的深層推理。他說，未來出題都會先經ChatGPT這關，「ChatGPT越答不出來的題目，才是越適合人類學生的題目」，或多出一些陷阱題，又或是反過來請學生針對ChatGPT答錯的題目，加以還原。
美版ChatGPT上架至今，也有不少人認為其可作為論文寫作工具，台大電機工程學系副教授李宏毅認為還「差太遠」。他表示，現下ChatGPT能做的事情僅有潤稿、查詢資料，若直接用其撰寫論文，內容一定會顛三倒四，外行人也許能被糊弄，內行人一看就知有問題。
元智大學資管系主任禹良治表示，ChatGPT原理為有大量文字資料及模型，機器人根據現有資料來回應，回答有好有壞，當面對複雜情境，例如購物客服的聊天對話，仍比不上人類服務。
大同大學工學院副院長謝禎冏指出，ChatGPT目前仍無法用於研究，若有未知的領域沒學習到，自然無法產出正確解答。但他經實測後認為，ChatGPT確實很會寫作文、回答問題，用字遣詞也都精準，若回答不滿意，還可以命令ChatGPT就不滿意的地方，請它再寫清楚一點。
