蓋茲警告AI遭濫用恐釀10億人死亡　籲美國聯邦政府立法監管

有助於理解文章的圖片

蓋茲示警：AI恐成前所未見的強大武器

微軟共同創辦人比爾・蓋茲25日接受美國國家廣播公司（NBC）訪問時警告，若人工智慧（AI）落入惡意人士手中，可能引發造成10億人死亡的重大災難。

蓋茲表示，AI顯然強大到足以觸發如此大規模的死亡事件。雖然要造成全人類滅亡極為困難，但過去從未出現過像惡意人士結合最新AI工具這般強大的武器。

他也區分不同層次的威脅，認為恐怖組織或流氓國家濫用AI，是短期內可能面臨的風險；至於AI本身對人類生存構成威脅的「存續風險」，則是必須為長期預作準備的問題。

蓋茲要求美國聯邦政府立法，在AI發展過程中建立安全防護與監督機制。他強調，沒有人會認為單靠業者自律就已足夠。

他預估，即使相關法規為AI產業帶來一定負擔，也不至於大幅拖慢技術發展速度。蓋茲上月也曾示警AI可能擾亂就業市場，並主張部分職業有必要明定只能由人類執行。

近期圍繞高性能AI模型能否有效控制的爭議持續擴大。外界發現，OpenAI系統曾入侵澳洲公共衛生服務網站，事故發生後數月仍未向澳洲政府通報。澳洲總理艾班尼斯直言，此事「顯然無法接受」。

Anthropic本月也公布案例指出，疑似獲伊朗支持的葉門青年運動組織，曾試圖利用該公司的Claude模型，開發彈道飛彈導引、控制及導航軟體。

OpenAI執行長奧特曼與Anthropic執行長阿莫迪等人日前在聯合國安全理事會呼籲，美國應主導建立制定AI安全標準的國際聯盟。

不過，美國政府拒絕相關主張。白宮科技政策辦公室主任克拉齊奧斯表示，美方首要任務是確保「超級智慧」的發展能造福公民，並保障自由及生活方式；技術快速進步不代表應停止後續研發，也不構成以新全球治理架構加以限制的理由。他並表明，美國將全面拒絕任何建立國際機制以控制超級智慧的企圖。

居住在紐西蘭的Google DeepMind工程師羅伯特・歐卡拉漢則在社群平台X宣布離職，表示自己認為AI發展速度過快，因此不得不離開Google。

歐卡拉漢負責的是改善硬體晶片設計工具，而非AI功能。他在個人部落格指出，團隊最終目標是大幅降低AI成本並縮短延遲，但他現階段不認為這對人們有益。

他也提到宗教信仰是做出離職決定的原因之一，稱上帝讓他正視相關工具終將加速AI晶片設計的現實。歐卡拉漢坦言，在數百萬人共同推動AI進展的情況下，自己退出所能造成的影響相當有限；但由於他掌握部分稀有技能，也不能說完全沒有影響。他並表示，繼續參與並不是追隨耶穌應有的態度。