去年11月才推出的ChatGPT ，因人工智能功能強大，不但能回答複雜問題和提出意見，還能寫文寫詩，寫代碼，以及翻譯各種語文；3月中推出的升級版ChatGPT 4更能就圖像作出反應，在律師考試中取得高分。因此推出半年，已掀起一場科技革命；專家預言，它是科技的未來，最終可顛覆整個互聯網行業。
但隨著ChatGPT以驚人速度席捲全球，它和人工智能(AI)對人類可能造成的禍害，也愈來愈受到重視。馬斯克擔心，它提供的資訊失實，所以要自製能夠提供真實資訊的「TruthGPT」。矽谷的「AI教父」辛頓(Geoffrey Hinton)，日前辭去谷歌工作，以便可以大聲疾呼，揭發AI對人類可能帶來的禍害。Axios報導，80歲的拜登也對ChatGPT感到興趣；白宮4日證實，拜登試用了這個聊天機器人，還連聲說它功能強大，卻沒有透露，他到底有沒有問2024年總統選舉的結果，他是否當選？
ChatGPT帶來的社會轉變、以及所引起的問題，已愈來愈逼近，一般人也開始感到壓力，一方面覺得，必須開始使用，否則就會落後，被時代拋棄；另一方面又感到，這樣的新科技十分可怕，不知會為人類帶來些什麼禍害。
一般人最擔心的，可能是AI將會取代人類的工作。高盛預測，美歐兩地將有3億個就業機會立即可被AI取代，一些專業工作也難逃劫數，包括部分企管和法律工作，低端的建造業工作反而可以倖免。美歐目前的三分之二工作，都受到威脅，最可能被取代的3億份全職工作，就占了其中的四分一。
不過其他研究也發現，每有新科技出現，既有的工作雖被取代，但新科技也帶來新的就業機會；例如互聯網興起，掀起就業革命，導致不少工作消失，但也製造了不少新的工作。人工智能帶來就業革命，情況也可能一樣，這種就業轉變並不是人們對AI的最大恐懼。
最大恐懼應是：像ChatGPT這樣功能強大的人工智能，最終可能取代人的思想；人最寶貴的個人自主和獨立思想，一旦被AI入侵，就可能失去自主，淪為科技的附庸。
人的自主，主要見於個人的思寫讀能力；有獨立的思寫讀，才能有個人自主。以閱讀為例，試問在強大的ChatGPT面前，還有誰願意從頭到尾細讀紅樓夢？有誰願意從頭到尾細讀「安娜卡列尼娜」？ChatGPT可提供任何長篇小說的快餐式摘要，換言之，即是AI替代了人獨立思考的機會。
以寫作為例，中學生作文和大學生寫報告，可依靠ChatGPT找題目；找好題目後，可借助它訂出內容；再由它寫出草稿，學生只須作最後檢查，避免讓老師找到抄襲和剽竊的痕跡。史丹福學生報報導，該校17%的學生承認，使用ChatGPT做作業和應付考試。史大學生又自製一種AR眼鏡，藉此可隨時隨地使用ChatGPT；又有學生自製RizzGPT，這種AI聊天機器人可協助人與人之間的談話。但問題是，當愈來愈多個人思考被AI取代，人的思考和獨立性也隨之消失。
美國學生的數學和閱讀測驗成績近年一直在下降，教育部3日公布，8年級學生去年的歷史科測驗成績也大幅下滑，40%的學生成績都達不到「最低標準」，只有13%的學生達到「熟練程度」。專家認為，美國學校和學生愈來愈重視STEM(科學、科技、工程和數學)，卻愈來愈不重視史地公民等社會知識。基礎知識貧乏，思考力也就無從發展。
紐時書評版一名編輯，用ChatGPT做試驗，先輸入哈利波特小說等材料，然後要求ChatGPT換成莎士比亞的語言；結果ChatGPT很快就寫出一文，編輯判定，其中不少文句，確實帶著莎士比亞的意味。書評版又刊出一篇由作者和三個聊天機器人合寫的短篇小說，篇名叫做「作家之死」，書評版的評論是，「如果要求不太高，是可以拿來作真正小說去讀的。」
時代在前進，社會在改變，新科技要到來，無法阻擋；但人工智能有如一巨大的潘朶拉盒子，這個魔盒一旦打開，可能會為人類帶來好處，也可能帶來人類暫時自知的未來禍害。以人類最寶貴的獨立自主來說，一旦被人工智能所入侵，喪失自主，那是最得不償失的禍害。
