OpenAI突然給一路狂奔的人工智慧（AI）研究踩了一腳煞車。
當地時間8月18日，OpenAI在其官網公佈，隨著前沿AI模型能力的提升，內部開發和測試的風險也增加。有鑑於此，本公司已暫時放緩包括下一代AI模型Astra在內的模型擴展速度，同時將實施一系列新的安全防護措施。
再加上Anthropic營收大幅不及預期，以及美債的拋售潮正在加速，直接讓美國科技股遭受重挫。
19日隔夜美股市場三大指數集體收跌，AI產業鏈相關股票明顯回調，儲存、光通訊、AI雲服務等板塊大幅下挫，其中閃迪、SK海力士、希捷科技跌幅均超過9%。
壓力也傳導至亞太市場。截至收盤，滬指跌2.4%，深成指跌5.01%，創業板指跌6.26%。盤面上，算力硬體、半導體晶片、機器人、創新藥等方向跌幅居前。
日韓方面，日經225指數收跌3.16%，報65326.42點；韓國KOSPI指數收跌5.80%，報6471.17點。其中，SK海力士跌近10%，三星電子跌超8%。全市場超5000檔個股下跌，逾百股跌停。
當天9時左右，KOSPI200指數期貨也觸發「側車」機制（下跌超過5%並持續1分鐘以上），市場程式化賣出報價暫停5分鐘。
雖然市場波動並非完全由OpenAI此次決定單獨造成，但在AI產業鏈此前估值高企、市場對AI資本開支和商業化前景高度敏感的背景下，OpenAI釋放出的“踩剎車”信號，無疑進一步放大了投資者對AI發展速度和安全風險的擔憂。
安全警報拉響，OpenAI暫緩前緣模型訓練
「我認為現在是放慢腳步的好時機。」OpenAI執行長薩姆·奧爾特曼上週對美國《時代》周刊解釋公司暫停開發Astra模型的決定時說道。
OpenAI曾在7日承認，即將推出的Astra模型可能已經達到《準備框架》的網路安全能力關鍵閾值，決定暫停該模型所有未達到強化安全標準的內部研發工作。
18日，OpenAI表示，近期對於面向部署的最新模型，他們暫停兩週的密集學習訓練，其規模最大的前沿強化學習訓練則至今仍未恢復。該公司並未透露恢復的具體時間，僅稱將進行小規模訓練和評估，直到新的安全措施到位。
OpenAI網站
奧爾特曼強調，做出此次放緩決定並不是因為發現了某個足以引發恐慌的“確鑿證據”，而是在多項研究結果共同推動下的決定。
根據OpenAI官網19日發布的消息，近幾週發生的兩起事件凸顯出AI模型功能日益強化帶來的風險。
其中一起是OpenAI入侵AI平台Hugging Face（抱抱臉）事件。一套尚未發布的OpenAI模型在一次內部網路安全評估中逃脫「沙盒」環境，自主推演攻破了Hugging Face的生產伺服器，而OpenAI研究人員花了大約一周時間才發現此事。
OpenAI首席科學家雅庫布·帕喬茨基承認，公司先前已經具備監測模型「正在計劃什麼」的工具，但由於低估了涉事模型的能力，沒有在評估中啟用相關監測。
另一起事件則與Astra模型相關。 OpenAI初步判斷，這款尚未發布的模型可能達到公司《準備框架》的網路安全能力「關鍵」閾值。 《準備框架》是OpenAI在2023年提出的一套評估標準，達到「關鍵」閾值意味著必須具備充足的安全措施貫穿模型開發過程。
上述兩起事件，再加上內部研究的快速推進，讓OpenAI「迫切地」需要在訓練過程的各階段「加強監控、協調和遏制保障措施」。
該公司18日表示：“我們的監控、校準和安全標準必須始終領先於這些風險。為了確保達到這些標準，我們暫時放慢了擴展速度。”
用戶不買賬，Anthropic會跟嗎？
OpenAI從監控、對齊和安全措施三個方向設定了防線。
第一道是監控，及時發現模型可能存在的異常或危險行為；第二道是對齊，讓模型更大程度地按照人類指示行動，並降低其實施有害或未經授權行為的可能性；第三道則是安全措施，限制AI模型能夠訪問和影響的系統、工具和網絡資源等。
除了強化研究環境的安全防護，OpenAI也擴大了對模型行為的監控範圍，將採用新的多階段架構監控系統。
該系統將檢查模型的工具呼叫、可獲得的推理資訊以及完整活動序列，重點識別未經授權的存取、資料竊取、破壞性行為、試圖繞過安全防護等行為。其目標是在監控系統發現可疑活動後的30分鐘內發出警報。
如果系統判斷模型可能違反了關鍵安全邊界，則會產生最高優先順序的警報，安全、保全和研究團隊將立即收到通知。團隊需要在30分鐘內判斷警報是否屬於誤報，並做出是否暫停相關活動的決定。所有涉及Sol等級或更高等級模型工具的強化學習訓練和評估都需要進行此項監控。
當然，這套防護措施也會消耗大量算力。根據OpenAI估算，儘管不同訓練和評估任務之間的成本差異較大，監控系統產生的額外開銷大約相當於被監控推理任務計算量的20%。
不過，用戶們對於OpenAI的最新措施並不買單。
在宣布上述消息的社媒貼文下方，一位網友直言：“透明度和安全性都是營銷術語。”另一人寫道，“哦，又多了一項’安全措施’。那現在呢……以前成年人要像青少年一樣被對待，現在卻要像嬰兒一樣被對待？而且每次我們投訴，你們的客服
部分人則推測，這意味著Astra模型將推遲發布。預測市場Polymarket的數據顯示，隨著OpenAI發布最新公告，Astra模型在8月內發布的機率已下降至13%。 OpenAI方面暫未透露新的安全流程可能會讓Astra延後多久發布。
社群媒體
對於下一步，OpenAI表示，不會簡單地在現有安全框架上打補丁，而是準備進一步升級《準備框架》。該公司計劃邀請外部機構參與框架修訂，並在方法不斷改進的過程中分享更多經驗。
但正如OpenAI負責安全和協調工作的米婭·格萊斯（Mia Glaese）19日所說：“我們距離一切恢復正常還很遠。”
值得一提的是，OpenAI的決定也讓其與另一家AI巨頭Anthropic之間的競爭出現了一絲微妙變化，兩家公司目前都在準備IPO（首次公開發行股票）。
《時代》雜誌2月報導，Anthropic已經弱化了先前的一項承諾，如果無法提前確保足夠的安全防護，公司將停止訓練相關模型。
Anthropic共同創辦人賈里德·卡普蘭（Jared Kaplan）當時認為，如果競爭對手仍在一路狂奔，單方面作出這樣的承諾就沒有意義。
如今，OpenAI主動放慢了腳步，可能會給競爭對手施加更大壓力，迫使其採取相同的措施。
與OpenAI一樣，Anthropic也正在為預期中的IPO做準備。美國彭博社近期揭露的數據顯示，Anthropic第二季營收超過115億美元，截至7月底，其年化營收營運率已超過650億美元。而OpenAI最新公佈的年化營收運行率接近400億美元。
當AI能力不斷刷新上限時，急於實現商業化的前沿模型公司真的願意放慢研發的腳步嗎？
奧特曼認為，「我不喜歡這個行業裡『我們必須競速’，或』因為別人會這麼做，所以我們也必須這麼做『的邏輯』。我認為這是一種非常危險的動態」。
