因「這組圖片」竄紅害免費仔被停用？Midjourney創辦人親吐背後原因

2023-04-01 13:24

聯合新聞網／綜合報導

天主教教宗方濟各（Pope Francis）被網友利用AI圖像生成工具惡搞成時尚力滿分的「潮男」。圖／取自Reddit

AI圖像生成工具Midjourney短時間內湧入大量新用戶，遭濫用工具製作DeepFake圖像引發關注，Midjourney於近日宣布終止免費版服務。

近期「天主教教宗方濟各展示時髦穿搭」、「美國前總統川普被逮捕」的圖片在網上被瘋傳，實際上這些照片正是借助AI圖像生成工具之手所製作的深偽圖片。

The guy who created that viral AI image of the Pope in a white puffer jacket told us he was tripping on mushrooms at the time https://t.co/bAgjuWKOb3
— BuzzFeed News (@BuzzFeedNews) 2023年3月27日

對於Midjourney宣布暫停免費服務，不少用戶認為與近來教宗、川普的虛假圖像竄紅引發負面影響一事有關，但據外媒《The Verge》報導，Midjourney CEO兼創辦人大衛（David Holz）澄清表示，要製造如此逼真的圖像需用到最新版本（Version 5）的進階功能，而免費試用的用戶則無法體驗，暫停免費版的真正原因是系統短時間內湧入大量免費用戶造成流量過大，團隊才決定暫停提供免費版服務，而背後可能的原因「是受到一部中國爆紅的教學影片影響」。

目前Midjourney免費服務被禁止，用戶需月付至少10美元（約台幣305元）成為付費會員才能繼續使用Midjourney。AI人工智能技術屢屢考驗人類道德界線，如今AI圖像生成牽扯虛假圖像、DeepFake負面問題，《The Verge》認為Midjourney對於政治敏感問題不斷升級所帶來的威脅「反應零散」，也未出手祭出重大措施加以限制；從Midjourney對內容生成的限制來看，限制強度介於Stable Diffusion至DALL-E（由OpenAI開發，官方禁止生成有關暴力、成人及與政治事件相關的內容）之間。