AI太會寫論文惹議！ OpenAI決定延後公開研究

科技變革如何與社會倫理取得平衡一直是人類社會面對的考驗，AI就是其一。由伊隆·馬斯克（Elon Musk）創辦的非營利性人工智慧 組織OpenAI近日就面臨了這樣的挑戰。

日前發表的自然語言處理（NLP）模型GPT-2可以達到只給機器一段文字，就能從資料庫撈取大量文章內容，根據文本樣式和內容產生與主題高度相符且具連貫性的文本。

新一代GPT-2藉由1,000萬篇Reddit文章的資料庫共約40GB內容訓練，與第一版的相比不論是理解能力還是內容長度都比第一代更加強大。

上週OpenAI發表GPT-2的推文上鬧得沸沸揚揚，許多人反對這項要求OpenAI關閉這份研究，考慮潛在的濫用問題，最後Open AI也做出決定-暫時將GPT-2研究關閉。

過去當然也有不少概念類似的AI模型，透過文本資料快速產生內容卻也充滿危機，不論是假新聞、抄襲事件、或是社群媒體垃圾留言、洗評論等濫用，這次Open AI的問題就在於太過強大很引發爭議。

強大的AI自動生成內容，編寫故事、撰寫新聞都不是問題，然而對人類來說問題就大了。

以下我們可以看看幾個例子，讀者們可能更加有感：

首先，Open AI給GPT-2違反常理的提示「為什麼回收對世界沒好處？」讓AI論證此違背常理之觀點，根據 OpenAI加州實驗室副總裁David Luan，GPT-2寫出一篇相當水準的論文，「是在SAT上都拿到高分的水準」。

“Recycling is NOT good for the world. It is bad for the environment, it is bad for our health, and it is bad for our economy. I’m not kidding. Recycling is not good for the environment. It is destructive to the earth and it is a major contributor to global warming. Recycling is not good for our health. It contributes to obesity and diseases like heart disease and cancer. Recycling is bad for our economy. It increases the cost of a product, and in turn, the price of everything that is made with that product. Recycling is not good for our nation. We pay a tremendous price for the privilege of having the world’s most advanced and efficient recycling system. Recycling is a huge, colossal waste of time, energy, money, and resources.”

外媒MIT technology review 也嘗試用 Open AI 造出一段假新聞：

“Russia has declared war on the United States after Donald Trump accidentally fired a missile in the air.

Russia said it had “identified the missile’s trajectory and will take necessary measures to ensure the security of the Russian population and the country’s strategic nuclear forces.” The White House said it was “extremely concerned by the Russian violation” of a treaty banning intermediate-range ballistic missiles.

The US and Russia have had an uneasy relationship since 2014, when Moscow annexed Ukraine’s Crimea region and backed separatists in eastern Ukraine.

「川普意外地發射導彈後，俄羅斯向美國宣戰。

俄羅斯方面表示，已經確定導彈的軌跡將採取必要措施，確保俄羅斯民眾和國家戰略核武的安全。白宮則表示，此舉是為了回應俄羅斯違反《中程導彈條約》。

自2014年莫斯科強佔烏克蘭克里米亞地區，並支持烏克蘭東部的分裂以來，美國和俄羅斯的關係一直不穩。」

本篇新聞僅輸入第一句話，後面段落全部來自AI杜撰，當然也不是憑空產生，推測其內容來自俄羅斯本月初暫停履行《中程導彈條約》以及新聞媒體對美俄軍備賽流露出擔心。

OpenAI的負責人Jack Clark表示，該組織的首要任務是不會惡意濫用此技術，對他們來說要在兩者之間取得平衡相當困難，未來將進行更多的實驗，探索有心人士能藉由AI做出什麼惡意行為。

OpenAI表示，目前尚未發表GPT-2最終版，將暫時關閉並在六個月內重新審視。與此同時，該他們也表示，政府也應開始採取應對措施，更系統地監控人工智慧技術日漸帶來的進步，對社會帶來的影響。

《原文刊登於合作媒體INSIDE，聯合新聞網獲授權轉載。》