日前在美國白宮推動之下,包含微軟 、Google 、Meta、OpenAI 、亞馬遜,以及由OpenAI前成員創辦的人工智慧 新創Anthropic、獲得NVIDIA等業者投資的人工智慧新創Inflection均承諾確保人工智慧技術安全。而目前包括Anthropic、Google、微軟及OpenAI共同建立名為「前沿模型論壇」 (Frontier Model Forum)的組織,藉此建立更安全、更負責任的人工智慧運算模型。
先前與美國總統拜登討論中,7家投入人工智慧技術發展的科技公司均承諾遵守人工智慧安全原則,亦即確保人工智慧以負責任形式開發,避免造成公眾安全、權益與民主價值受到負面影響。
此次成立的「前沿模型論壇」,預計設立諮詢委員會、組織章程與運作資金,同時也將制定核心原則,預計在明年內完成,藉此推動人工智慧技術安全研究發展,並且與政策制訂者、學術機構、民間單位密切合作,進而建構有助於社會的人工智慧技術。
「前沿模型論壇」也說明加入成為會員的資格,包含必須在其開發的前沿技術模型承諾使用安全性,並且確保人工智慧能帶來更大社會利益。
而在先前科技業者與白宮達成共識中,將確保其人工智慧可由獨立專家測試是否存在不良影響,同時也必須持續網路安全技術,並且鼓勵第三方業者、團隊或個人舉報安全漏洞,此外更必須確保人工智慧不能有偏見或不當使用情形,以及預先研究人工智慧可能產生社會風險。
其他部分,則包含必須與其他業者、政府機構建立互信機制及共享安全資訊,並且針對人工智慧生成的影片、聲音內容加上標記,以利他人輕易識別,更必須同意以前沿人工智慧技術解決社會問題。
同時,美國白宮方面也聲明未來人工智慧必須符合安全、保障與信任三大原則,並且必須以負責任形式打造。
《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》