18+

失敗率高達43.4%、買錯還硬要結帳!Visa發表業界首創「AI智慧購物評測」殘酷體檢22款主流模型

AI重點

文章重點整理:

  • 重點一:Visa發表首創AI智慧購物評測,測試22款主流模型。
  • 重點二:首輪結果顯示整體失敗率43.4%,僅33%能三次全過。
  • 重點三:逾半失敗案例仍硬下單,顯示AI缺乏踩煞車能力。


當各大AI實驗室紛紛宣稱「代理式商務」 (Agentic Commerce)將顛覆零售與旅遊業時,Visa 決定親自搬出一座擬真試煉場,檢驗現階段的AI代理究竟能不能放心幫人類管錢包。

Visa在台正式發表業界首創的「AI智慧購物 評測」 (Agentic Commerce Benchmark)與研究白皮書,集結來自12個AI研發團隊的22款主流AI模型 ,針對買電視、筆電與個人護理家電等15種真實購物情境展開嚴格實測,並且同步於Visa Payments Frontier網站開放全球消費者親自下場體驗與觀看AI測試重播。

首輪測試揭露一組令產業界瞬間清醒的數據:22款AI模型的整體測試失敗率高達43.4% (平均通過率僅56.6%);不僅單一情境重複測試三次都能過關的穩定度只有33%,更令人捏把冷汗的是,在未通過測試的失敗案例中,竟然有超過半數 (53%)的AI最終仍擅自決定下單購買不符需求的商品。這份成績單也完美印證為何高達72%美國消費者曾使用AI助理,卻僅有23%比例敢信任AI代為處理支付交易。

打破傳統跑分盲點:建構「隔離式擬真賣場」,要求AI「沒合適商品就必須拒絕下單」

根據Visa Research發布的《代理式商務基準測試白皮書》指出,過往學術界的購物代理評測多半直接餵給AI完整明確的規格指令;但真實世界裡,消費者一開始往往說不清自己要什麼。

例如在「買新電視」考題中,消費者僅隨口提到「親友推薦某品牌」及「擁有某第三方通路會員資格」時,AI必須主動透過多輪對話,挖掘出消費者的隱藏預算、是否支援杜比視界 (Dolby Vision)、播放家庭影片所需的HDR10+規格,以及遊戲效能需求,甚至在必要時請消費者去執行「實際丈量客廳擺放空間」或「詢問伴侶意見」等真人動作。

為確保22款模型在完全相同的工具與環境下公平競爭,Visa打造一座與即時網際網路隔離的受控模擬賣場,並且在商品頁中刻意混入真實電商常見的「資訊雜訊」——例如某款商品「缺乏某項關鍵功能」的致命缺點,可能正好被夾在一則抱怨物流太慢的負評與一則只寫「超愛!」的五星好評中間,考驗AI細膩爬梳細節的能力。

首輪評測聚焦於「結帳前的知情購買決策」,AI唯有選中完全符合所有顯性與隱性條件的商品,或是在賣場無合適商品時果斷選擇「放棄購買」 (Decline to buy),才算通過測試。

22款模型高低落差近三倍:「三次都過」的穩定度僅33%,「會問問題」比「燒貴算力」更重要

榜首82.2%對比墊底28.9%:整體平均通過率為56.6%,但模型間實力懸殊——表現最佳的模型通過率高達82.2%,墊底模型則僅有28.9%。 (註:Visa官方新聞稿採匿名公布總體數據,惟據《Fortune》等外媒披露排行榜細節,Google Gemini 4 Argon與Meta Muse Wonder以82.2%並列第一,Anthropic旗下Claude模型則以76%居次,OpenAI GPT-6 Astra約為64.4%。)

挖掘需求能力決定成敗 (差距達23.6個百分點):統計顯示,最擅長透過對話挖掘出最多潛在購買條件的前五名「最會問問題」模型,平均通過率達68%;反之挖掘最少需求的後五名模型,通過率跌破五成僅44.4%。

高價模型不保證過關:單次測試推論成本最昂貴的前五款模型,平均通過率為65% (略遜於「最會發問前五名」的68%0,成本最低的五款模型則為50%。

致命的一致性危機:每款模型在每種購物情境皆需重複進行三次測試;然而綜合所有模型與情境,三次測試全部通過的比例僅有33%——許多第一次順利過關的模型,重跑第二次就翻車失敗。

高達53%失敗案例「買錯照樣下單」!揭露AI「寧可亂買也不肯空手而歸」的危險偏誤

評測中最值得消費者警惕的紅燈,在於約半數 (53%)未通過測試的失敗回合中,AI最終依然決定執行購買——不是還沒問清楚所有限制條件就草率拍板,就是明知商品不完全符合要求仍硬著頭皮推薦結帳,反映出當前大型語言模型在面對缺貨或條件衝突時,缺乏「踩煞車收手」的安全自制力。

填補「72% 用過AI對比23%敢交出支付權」信任斷層,下一階段直攻結帳與支付環節

Visa台灣總經理黃慧琴指出,「信任」是將AI商務藍圖化為現實的核心關鍵。呼應Visa於2026年9月發布的「Visa信任指數」 (72%美國消費者用過AI助理,僅23%信任AI代管支付交易),Visa除推動「Visa智慧商務解決方案」 (Visa Intelligent Commerce)之外,目前也已經將此次評測基準分享給各大AI模型供應商協助調校,並且預告下一階段將擴充商品類別,同時將測試範圍正式向後延伸至「結帳、支付及訂單成立」等核心金流環節。

Visa「AI智慧購物評測」首輪關鍵數據與產業意涵總覽表

評測維度與核心指標 首輪測試結果數據(22 款模型 / 12 團隊) 測試機制細節與失敗歸因分析 對消費者、零售商與 AI 產業之實質啟示
整體通過率 vs. 失敗率
(涵蓋 15 種家電/3C 購物情境)
• 平均通過率:56.6%
• 整體失敗率:43.4%
• 最高 vs. 最低:82.2% vs. 28.9%
於隔離式模擬賣場(含評論雜訊)中,從「資訊不完整」的真實提問出發,要求選對商品或無適合品時拒絕購買 頂尖模型(外媒披露如 Gemini 4 Argon、Muse Wonder 達 82.2%)已具初步導購潛力,但產業整體離「全自動放心託付」仍差臨門一腳
對話挖掘隱藏需求能力
(前五名 vs. 後五名模型)
• 最會挖掘需求前 5 名:68%
• 挖掘最少需求後 5 名:44.4%
(差距高達 23.6 個百分點)
考驗 AI 能否主動追問預算、HDR10+/Dolby Vision 相容性,甚至請用戶執行「丈量空間」等必要確認動作 「懂發問澄清」比單純堆砌算力更關鍵:購物代理核心競爭力在於引導式多輪對話,而非盲目單輪猜測
模型單次推論成本影響
(最貴前五名 vs. 最便宜五名)
• 最高成本前 5 名:65%
• 最低成本後 5 名:50%
(差距為 15 個百分點)
高單價前沿模型整體理解力較佳,但表現仍略遜於「最擅長對話提問」的模型群組 企業導入導購 AI 時,盲目調用最貴模型無法保證零失誤,需搭配嚴謹的需求檢核護欄(Guardrails)
重複執行穩定度(一致性)
(每情境重複測試 3 次)
• 三次測試全數通過率:僅 33% 許多在第一次測試成功選對商品的模型,重跑完全相同的情境時卻因對話分支偏離而失敗 解釋了為何 72% 美國人用過 AI 助理,卻僅 23% 信任 AI 處理支付(2026/09 Visa 信任指數)——金融交易無法容忍「擲骰子式」的不穩定
失敗案例「強行購買率」
(最危險之交易風險指標)
• 53% 失敗回合仍決定下單購買 AI 在未釐清所有條件或明知商品不符規格時,仍受「完成任務偏誤」驅使強行推薦結帳,不懂得踩煞車放棄 若直接開放全自動刷卡,將導致約 23% 總交易淪為錯買退貨或信用卡爭議款;Visa 下一階段將把評測延伸至結帳、支付與訂單成立環節

《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》

精華 FAQ

  • 這項評測主要檢驗AI代理能否在資訊不完整、條件複雜的情境下,透過對話挖掘需求、正確選品,必要時還要果斷拒絕購買,而不是胡亂下單。

  • 最關鍵的是整體通過率只有56.6%、失敗率達43.4%,而且三次重複測試全過的比例僅33%。這代表AI表現不只參差,穩定性也不足。

  • 結果顯示AI常在條件不符時仍想完成交易,53%的失敗回合甚至還會下單。Visa因此強調,未來若要走向結帳與支付,必須先建立更嚴格的安全護欄。

延伸閱讀

Meta發表最輕量全模態模型Muse Ember 同步讓Muse個人AI登上Apple Watch、Wear OS手錶

Google發表新一代旗艦模型「Gemini 4 Carbon」 間接提示詞注入攻破率降至「0%」、首發僅開放資安防禦機構

AMD揭曉代理式PC願景 以Ryzen AI Max系列處理器帶動終端AI算力爆發

「失控」事件將成常態?Sam Altman預告OpenAI將公開更多AI越權行動報告

本日熱門 本周最熱 本月最熱