蒙特利爾2025年11月26日 /美通社/ -- 《國際AI安全報告》（International AI Safety Report）第二版關鍵更新現已發布，及時更新了通用AI的風險管理與技術緩和措施。

該報告由圖靈獎得主、計算機科學家Yoshua Bengio主持，匯集了百余位國際專家的參與，并獲得包括歐盟、經合組織和聯合國在內的30多個國家和國際組織的支持。

鑒于該領域發展速度過快，單一年度報告已無法及時反映進展，因此推出“關鍵更新”系列，以更短、更聚焦的形式呈現關鍵動態。 本次更新延續了首版關鍵更新，首版已于2025年10月15日發布。 這些更新確保決策者能夠獲得最新的文獻綜述，為循證決策提供依據。

第二版關鍵更新涵蓋了提升可靠性與防范濫用的技術方法概述，以及風險管理領域新興的制度化方法。 其核心重點包括：

• 在訓練模型抵御惡意攻擊方面雖有所進展，但仍存在不足。 盡管AI模型及系統抵御攻擊的能力有所提升，但技術嫻熟的黑客仍能在約50%的案例中僅用10次嘗試即可突破防護，并通過向訓練數據中注入少至250條惡意文檔來投毒并破壞模型。
• 開源鴻溝正在縮小。 開放權重模型如今與行業領先產品的差距已不足一年，雖然這有助于提升技術普及度，但同時也使預防故障和濫用的難度加大。
• 行業在安全方面的承諾有所增加，但其成效仍不明確。 盡管2025年采用風險管理框架的AI企業數量增加一倍有余，但其實際效果仍存在不確定性。

《報告》主編、蒙特利爾大學（Université de Montréal）終身教授、LawZero科學總監兼Mila - Quebec AI Institute科學顧問Yoshua Bengio表示：

“在持續關注AI能力與風險動態的同時，我們必須同步規劃清晰的風險管理路徑，確保采取恰當有效的風險管控措施與技術緩和方案。 本次關鍵更新概述了這些領域的最新進展，同時指出了仍然存在的不足之處與尚待把握的機遇。 我們的目標是持續向全球決策者提供有關AI發展的及時更新，而第二份《國際AI安全報告》計劃于2026年初發布，并將在印度舉辦的AI影響力峰會之前推出。”

關于

《國際AI安全報告》是對先進AI系統能力及相關風險證據的綜合性匯編分析。 該報告旨在為全球決策者提供證據基礎，從而為知情決策提供支持。 該報告由100多名獨立專家組成的多元團隊撰寫，并獲得專家咨詢委員會的支持。該委員會由來自30多個國家及國際組織（包括歐盟、經合組織和聯合國）的提名代表組成。 該報告認可AI所具備的巨大潛在效益，但其重點在于識別風險并評估緩和策略，以確保AI能夠安全地開發和使用，進而造福全人類。 該報告由英國政府委托編寫，其秘書處設于英國AI安全研究所。

聯系方式：Mila Medias（medias@mila.quebec）；DSIT媒體垂詢（press@dsit.gov.uk）