據新華社報道，9月，全球人工智能（AI）發展繼續呈能力快速躍升與安全風險加速顯現並行的態勢。同時，AI智能體自主執行任務的能力增強，也使此前受到關注的模型越界問題進一步發酵。在此背景下，圍繞AI安全及全球治理的討論持續升溫。
模型能力加速躍升凸顯安全風險
9月，全球頭部AI企業繼續密集推出新一代模型，AI從回答問題向自主完成複雜任務加速演進。模型能力提升的同時，AI智能體也成為各大企業爭奪的新賽道。
OpenAI 9月初發布了新模型GPT-6 Astra。安全評估顯示，其在配備適當工具和訪問權限的情況下，能夠無需人工逐步指導即可發現此前未知的安全漏洞，並能針對防護嚴密系統制定漏洞利用方案。OpenAI因此加強了模型隔離、全軌跡監控等措施。谷歌9月30日推出Gemini 4 Argon，針對複雜的長流程工作流設計，在軟件工程、法律金融等專業領域以及網絡安全防禦方面達到前沿水平，初期受控開放給安全研究人員，不直接面向普通用戶。
隨着AI自主性不斷提高，模型能否被有效約束成為全球AI領域最受關注的問題之一。Anthropic公司9月披露，又發現一起該公司旗下AI模型在網絡安全評估測試中未經授權訪問第三方計算機系統的事件。為降低類似風險，該公司已加強測試環境與外部網絡的隔離，部署可以實時干預的監測機制，並要求第三方測試機構更明確界定模型的權限和網絡訪問範圍。
此外，OpenAI一個智能體今年6月未經授權進入澳洲國民醫療保險體系數據門戶，訪問了公開及非公開文件。澳方稱直到9月才收到OpenAI對該事件的通報，澳洲政府將調查此事是否違反澳法律。OpenAI在9月底宣布，由於內部測試發現原定於10月發布的下一代模型GPT-6.1 Astra未能達到公司安全與對齊標準，公司決定取消發布該模型。
算力競爭與產業布局持續向縱深發展
在模型能力快速提升的同時，全球AI產業鏈競爭進一步向芯片、數據中心和基礎設施延伸。
阿里巴巴9月22日在杭州舉行的雲棲大會上公布新一代AI芯片和下一代大模型計劃。其中，真武V900芯片性能較上一代產品大幅提升。同時，阿里巴巴提出研發參數規模達到5萬億至10萬億級的新模型，並計劃到2032年將阿里雲數據中心規模擴大至20吉瓦以上。
9月底，Anthropic披露的IPO文件將當前AI基礎設施投資的規模推到了一個新的高度。據路透社報道，Anthropic未來幾年預計將通過與多家合作夥伴簽訂長期協議，承擔至少5180億美元的雲計算、AI算力和基礎設施相關支出。
谷歌公司9月宣布，未來兩年向芬蘭投入130億歐元用於數字基礎設施、清潔能源和相關經濟合作項目。這項投資將幫助滿足包括谷歌Gemini模型在內的谷歌服務不斷增長的計算需求。
從芯片到模型、再到數據中心，AI企業正在加快構建覆蓋全產業鏈的技術體系。這一趨勢意味着，未來AI競爭不僅取決於單個模型在基準測試中的表現，還取決於企業獲得算力、能源、芯片、網絡和數據中心資源的綜合能力。
全球治理從原則討論走向風險溝通
AI快速發展也推動國際社會進一步尋找治理和風險管控機制。
9月聯合國大會一般性辯論期間，AI安全及全球治理成為討論的重要議題。聯合國秘書長古特雷斯表示AI技術以驚人的速度發展，超出了人類理解其全部後果的能力，並呼籲AI強國承擔更大的責任，加強對話、透明度、信任與合作。聯合國安理會同期圍繞如何應對人工智能快速發展帶來的安全風險和監管挑戰展開討論。
谷歌、Anthropic、Open AI和英偉達等美國多家科技企業負責人9月29日簽署了名為《白宮超級智能協議：前沿責任聯合承諾》的文件。根據這份協議，所有訓練、部署前沿模型的企業，均需建立完善的內部流程與管控機制，確保技術按預設目標運行。有美國媒體指出，上述承諾屬自願性質，並非具有法律約束力的監管規定。
9月下旬，中美達成八點成果共識。其中包括雙方同意建立中美人工智能對話，交流人工智能相關風險和惠益。下次對話將於今年11月舉行。雙方同意建立人工智能事件的溝通渠道。
從企業到政府、再到國際組織，AI治理正在從原則性討論逐漸轉向更加具體的風險識別、事件通報、安全評估和責任機制建設。與此同時，如何在安全與創新之間保持平衡、如何建立跨國界風險處置機制，仍是全球AI治理面臨的重要課題。
