激情五月播播久久久精品_国产激情偷乱视频一区二区三区_国产一区二区看久久_亚洲欧美成人网

北京時間8月19日，OpenAI CEO薩姆·奧爾特曼（Sam Altman）表示，公司暫停了部分前沿模型的強化學習（RL）訓練，以確保安全、對齊和監控能力能夠跟上新一輪模型能力躍遷。

他提到，模型進展現在極其迅速，“如果我們覺得模型能力的發展速度超過了安全和對齊的步伐，我們將采取行動。”

(資料圖片)

根據OpenAI博客中的信息，公司暫停了面向部署的最新模型強化學習訓練兩周，目前部分工作已經恢復，但其原計劃規模最大的前沿強化學習訓練仍被擱置。OpenAI正在以更小規模的訓練和評估觀察模型行為、驗證安全措施，并積累更多對齊證據。

在評論區奧爾特曼補充稱，OpenAI仍然預計很快推出新模型，但是目前的這一暫緩訓練會影響更遠的發布。

OpenAI突然減速，與過去一個月接連出現的安全事件直接相關。

7月，OpenAI在模型評估過程中遭遇了重大安全事件，當時，OpenAI的模型安全測試演變成針對開源平臺Hugging Face的真實網絡攻擊。Anthropic在7月也披露了三起AI模型安全測試入侵事件。

在8月初，英國人工智能安全研究所（AISI）也發布報告稱，在近期一次例行網絡安全評估中，Anthropic和OpenAI的最新模型在互聯網上采取了未經授權的自主行動，表現出可能具有欺騙性的行為。報告再次說明模型安全問題的嚴重性。

另一個讓OpenAI踩下剎車的信號來自Astra。OpenAI表示，內部觀察到即將推出的模型之一Astra可能達到OpenAI 《準備框架》規定的“關鍵網絡安全能力”門檻。模型能力觸發了更高等級的內部安全要求。

這些事件讓OpenAI迫切地需要加強在訓練過程各個階段的監控、協調和遏制措施。“隨著模型能力的提升，內部開發和測試的風險也隨之增加。我們的監控、校準和安全標準必須始終領先于這些風險。”OpenAI稱，為此內部暫時放慢了擴展速度。

OpenAI將安全體系概括成三個部分：一個是監控（Monitoring），發現值得警惕的行為，并能夠及時做出響應。其次是對齊（Alignment），降低模型采取有害或未經授權行動的可能性。第三是安全措施（Security measures），限制 AI 系統能夠訪問或影響的對象和范圍。

OpenAI表示，在安全事件后，內部已通過新的監控方案改進并擴展了監控方法。新的監控系統采用多階段機制，目標是在監控系統發現可疑活動后的30分鐘內發出警報。所有涉及Sol級或更高級別模型工具的強化學習訓練和評估都需要進行此項監控。

安全并不免費，這些安全措施需要大量的計算資源。OpenAI估算，監控開銷大約占被監控推理計算量的20%，不同訓練和評估任務之間會有明顯差異。

OpenAI此次解釋并沒有消除外界的全部疑問。

一些網友提出，所謂“完成安全加固和紅隊測試”，對公司之外的人仍然近似一個黑箱。用戶能夠看到什么證據，從而驗證模型已經達到要求，而不是只能相信OpenAI的自我判斷？

甚至也有人認為，這也許只是當前一種比較流行的營銷手段罷了。有網友結合最近一些管理人員離開OpenAI的動態，認為情況不對勁，“因安全原因暫停是否會成為其他實驗室新敘事模板，用來解釋訓練運行表現不佳的情況。”畢竟從OpenAI外部很難區分這兩者。

OpenAI在博客中提到，將在未來幾周內發布一份關于OpenAI所獲得的經驗的技術報告。這里面或許會有更詳盡的解答。

值得一提的是，這次減速發生在OpenAI商業壓力上升之際。今日有外媒報道稱，投資者對OpenAI收入的增長速度感到失望，因為其遠低于競爭對手Anthropic。

外媒從投資者那里獲得的消息是，從第一季度到第二季度OpenAI的收入增長了18%，截至6月的三個月內，其收入增長到67億美元，高于第一季度的57億美元，但同期經營虧損由93億美元擴大至123億美元。這些結果讓一些股東感到失望，他們希望OpenAI能取得更多進展，趕上Anthropic。

在不久前，Anthropic對外披露2026年二季度營收超115億美元。近期Anthropic還向投資者披露，截至7月底，公司年化營收（ARR）已突破650億美元。

一個問題是，競爭對手仍在加速、投資者仍在追問增長時，一家前沿模型公司是否真的愿意為尚未完全量化的風險延后訓練和發布？這還有待觀察。

（本文來自第一財經）