18+

ChatGPT難辨資料優劣 學倫學會:研究者須為產出負責

聊天機器人ChatGPT引發熱議與風潮,不少學生也開始運用輔助撰寫作業、報告。記者侯永全/攝影
聊天機器人ChatGPT引發熱議與風潮,不少學生也開始運用輔助撰寫作業、報告。記者侯永全/攝影

台灣大學日前公布「針對生成式AI工具之教學因應措施」,鼓勵教師將ChatGPT等視為精進教學的契機。台灣學術倫理教育學會近期也召開共識會議,認可用積極態度看待ChatGPT等新興科技,但ChatGPT不檢查資料的優劣、不提供資料來源,也缺乏科學邏輯論述,恐背離實事求是的精神。學會建議,研究者可透過AI改善工作效率,但也要考量由AI協助的侷限性和資料真實性,且研究者仍須為產出負全責。

ChatGPT衝擊大學教學,台灣學術倫理教育學會近期召開共識會議,學會認定,AI科技可確實輔助整理既有的資訊,加速研究、發表,促進科學開放性(open science),進而創造新的知識,可用積極的態度看待新興科技發展。

但學會也指出,AI科技如ChatGPT若作為學習及研究輔助工具,雖可提供即時資料蒐集彙整,但程式不會檢視資料的真假優劣、不提供資料來源和引用,亦缺乏科學邏輯論述,可能背離科學實事求是的精神,也違背站在前人研究上往前創新的本質。

學會認為,思考AI應用於研究各階段之餘,研究者應要內化既有知識,才能從中產生新的知識與創見;再者,研究者也要考量由人工智慧協助的侷限性與查找資料的真實性,且研究者應對自己的研究與產出負全部責任。

人工智慧技術已經發展一陣子,如AlphaGo、Deepfake以及繪圖的Midjourney。學會指出,以ChatGPT為例,其資料整合能力很強大,但資訊的更新和正確性無法確認,因此在使用上仍須驗證資訊,現今ChatGPT較像文字編修或資料統整,仍不善於產生新的知識與學術發現。

學界也提到,人工智慧科技工具的創新利用,基本不會違反著作權,因系統不是人,不能主張著作權保護。但因為此技術使用了網路上的資料,擁有這些資料的著作人仍可能主張其智財權。

至於學術研究的透明性,學會指出,學術研究最重要的考量是揭露所有過程、步驟、資料來源、協力單位等,若應用到人工智慧輔助科技,是否需揭露、如何揭露,仍有待學界凝聚共識並擬定指引。

本日熱門 本周最熱 本月最熱