/更新說明（補充完整信息）-- 國際AI安全報告主席辦公室/

由國際AI安全報告主席辦公室于2月4日通過PR Newswire發布的題為《“2026年國際AI安全報告”揭示快速變化與新興風險》的新聞稿中，我們獲悉該組織已做出一些更改。以下為完整版最新版新聞稿，更多詳情請見文末：

《2026年國際AI安全報告》揭示快速變化與新興風險

蒙特利爾2026年2月5日 /美通社/ -- 《2026年國際AI安全報告》今日發布，為通用型AI能力、新興風險以及風險管理與安全防護的現狀提供了最新的、國際共享的科學評估。

由圖靈獎得主Yoshua Bengio主持編纂的本次《國際AI安全報告》（第二版）匯集了100多位國際專家，并得到專家咨詢委員會的支持。該委員會成員來自30多個國家及國際組織，包括歐盟、經合組織及聯合國。 報告的研究結論將為本月晚些時候由印度主辦的AI Impact Summit相關討論提供參考。

報告的主要亮點包括：

• 通用型AI能力持續快速提升，尤其在數學、編程和自主運行方面表現突出。2025年，領先的AI系統在國際數學奧林匹克題目中取得“金牌級”表現，在科學基準測試中超過博士級專家水平，并能夠自主完成一些本需人類程序員耗費數小時的軟件工程任務。 盡管如此，整體表現仍顯“參差不齊”，在某些看似簡單的任務上仍會出現失敗。
• AI的普及速度迅猛，但全球分布不均。 AI的普及速度已超過個人電腦等以往技術，目前每周使用領先AI系統的人數至少達到7億。 在部分國家，超過一半的人口已在使用AI；但在非洲、亞洲和拉丁美洲的許多地區，預計采用率仍低于10%。
• 與深度偽造（deepfake）相關的事件正在上升。AI生成的深度偽造內容越來越多地被用于欺詐和詐騙。 AI生成的非自愿親密影像也日益普遍，這類內容對女性和女孩的影響尤為嚴重。 例如，一項研究發現，在20款流行的“nudify”應用中，有19款專門用于模擬女性脫衣。
• 對生物濫用的擔憂促使部分領先模型加強了安全防護。2025年，多家AI公司在部署前測試發現，系統仍可能在實質上幫助新手開發生物武器，因此推出了具備更高安全防護的新模型。
• 包括犯罪分子在內的惡意行為者正積極將通用型AI用于網絡攻擊。AI系統能夠生成有害代碼，并發現可被犯罪分子利用的軟件漏洞。 2025年，一個AI智能體在一項大型網絡安全競賽中躋身參賽團隊前5%。 地下市場如今出售預打包的AI工具，大幅降低了發動攻擊所需的技術門檻。
• 多項安全防護正在改進，但當前風險管理手段仍存在失效可能。 盡管某些失敗類型（如“幻覺”）已不那么常見，但部分模型如今能夠區分評估環境與部署環境，并據此調整自身行為，這為評估與安全測試帶來了新的挑戰。

報告主編、蒙特利爾大學全職教授、LawZero科學主任兼Mila - Quebec AI Institute科學顧問Yoshua Bengio表示：

“自一年前首份《國際AI安全報告》發布以來，我們不僅見證了模型能力的顯著躍升，也看到了其潛在風險的同步增加。技術進步的速度與我們實施有效安全防護的能力之間仍存在差距，這依然是一項關鍵挑戰。 本報告旨在為決策者提供嚴謹證據，幫助引導AI邁向一個安全、可靠、惠及所有人的未來。 通過第二版報告，我們正在更新并深化對前沿AI在全球范圍內快速發展的科學認知，并強化這一共同理解。 ”

英國AI大臣Kanishka Narayan表示：

“對AI的信任與信心，是釋放其全部潛力的關鍵。 這是一項能夠帶來更優質公共服務、新就業機會及改變生活的創新技術。 同時，隨著技術的發展，我們也將堅定致力于保障公眾安全。 負責任的AI發展是全球共同關注的優先事項。唯有攜手合作，我們才能塑造一個帶來積極變革的未來。 這份報告正是為此而編撰——匯聚全球專家，確保我們擁有堅實的科學證據基礎，從而在當下做出明智決策，為更加光明、安全的未來奠定基石。”

印度鐵路、信息與廣播及電子與信息技術部部長Ashwini Vaishnaw表示：

“隨著人工智能系統能力的不斷提升，安全保障仍然是重中之重。該報告重點介紹了模型評估、危險能力閾值以及‘如果-那么’（if-then）安全承諾等實用方法，以減少高影響故障的發生。我們的全球風險管理框架仍不成熟，定量基準有限，且存在大量證據缺口。這些缺口必須在創新的同時進行彌補。對于印度和全球南方國家而言，人工智能安全與包容性、安全性和制度準備密不可分。負責任地開放人工智能模型、公平地獲取計算和數據以及國際合作也至關重要。作為2026年印度人工智能影響峰會的東道國，印度在塑造全球人工智能安全方面發揮著關鍵作用。該報告旨在幫助政策制定者、研究人員、行業和民間社會制定國家戰略。”

更新：此版本新聞稿在首段（“2026年國際AI安全報告”下方）添加了一個錨鏈接，并在文末添加了一段引文。