ChatGPT等生成式AI(人工智慧 )衍生學術倫理疑慮,有師生擔心明明是自己寫的文章卻被質疑來自AI。專家指出,目前AI仍有一定的文字風格,辨識工具協助判斷準確度達9成以上。
曾獲得國家品牌玉山獎的「快刀系統」,近期開發出「快刀AI先生:中英文ChatGPT 文章辨識系統」,可協助判斷一篇文章有多少比率疑似為AI產生,目前正推廣到學術界,預計邀請1000名教師實測。
快刀系統總經理林政宏接受中央社電訪表示,AI寫出的內容,具有一定的風格,就像每個人寫出的文章,也都會自己的風格。在AI領域之中,可用困惑度(Perplexity)來衡量,這套技術已相當成熟,可藉由資料的統計、歸納和計算,判斷出是不是AI寫的。
台灣大學於本月13日公布的「針對生成式AI工具之教學因應措施」中提到,目前已有多款偵測工具,可用來判斷學生是否在作業中使用ChatGPT。但如果生成內容經過修改而不是被直接使用,偵測的困難度更高。同時,由於AI 生成的內容為隨機文字組合,因此即使偵測工具判定作業中有使用AI生成的文字,也無法提供確切的證據,教師應謹慎看待。
對此,林政宏則認為,既使AI生成的文章,經過人類一番改寫,對辨識系統來說,就像是小朋友玩的抽換詞彙遊戲,很容易就能破解,仍能判斷出哪些是AI寫的。
但會不會明明是人類寫的內容,卻因風格像是ChatGPT ,而被誤判為AI創作呢?林政宏表示,他們曾測試3個月,將十幾萬篇報紙、網路聊天室、社群軟體中的內容丟進辨識系統,判定為人類寫的正確率達9成以上。
林政宏解釋,人類自己寫的內容,一定會有一些有獨創的原則和用詞習慣,甚至是錯字,「目前ChatGPT還沒到這個級數,但年底可能還有重大改良,我們再來觀察。」
林政宏表示,作為比對系統業者,他們也很想多跟學界討論。例如能接受多少比率的內容由AI創作,以及如何運用AI工具改善研究效率,進而創造出更有價值的內容。
訂閱《科技玩家》YouTube頻道!
💡 追新聞》》在Google News按下追蹤,科技玩家好文不漏接!
📢 影/iPhone 17 Pro Max實機曝光!機身比16 Pro厚 相機模組神巨大
📢Sony WH-1000XM6藍牙耳機開箱!摺疊回歸、降噪驚豔「讓世界變安靜」
📢 任天堂Switch 2台灣7月10日上市開賣!試玩台北體驗會就能買 價格出爐
📢 注意!華碩路由器全球逾9千台遭入侵「重開機沒用」 用戶快做1事自保
📢 YouTube會員台灣便宜雙人方案來了!價格比印度貴近4倍 規則一次看
📢 你是「居然人」或「竟然人」?LINE都市傳說瘋傳 網搜對話狂讚:真的準