OpenAI 今日宣布,建C究模研究基礎設施部署「Control Room」集中管控系統,秒內切一旦出現安全或資安疑慮,斷研I代可在決定介入後 35 秒內阻止研究模型繼續產生輸出,型輸等於為 AI 安裝「緊急停止開關」。出避OpenAI 表示,理失美区Apple ID注册教程模型愈強風險愈高,建C究模能及早偵測問題並迅速叫停模型變得越關鍵。秒內切
Control Room串接研究工作負載、斷研I代推論引擎與中央服務三大元件。型輸研究員啟動強化學習實驗、出避模型評估或大量資料處理任務時,理失程式須先向Control Room申請專屬工作編號,建C究模求台区Apple ID 免费共享涉及代理式推論的秒內切任務還必須對應一份已核准的安全論證(safety case)。推論引擎在GPU回應每筆請求前,斷研I代都會確認該任務是否仍獲授權;若研究員或監控系統已下令停止,便拒絕後續請求。
被叫停的研究程式本身未必終止,但將無法再取得任何模型輸出。OpenAI刻意把授權檢查放在程式路徑較少、集中管理的推論層,而非仰賴研究人員自行撰寫的程式碼。系統也採「失效關閉」(fail-closed)設計,即使Control Room本身故障、遭停用或被竄改,推論引擎仍會拒絕所有請求,直到服務恢復正常。
至於35秒延遲,OpenAI解釋源自為承載大量授權流量而設置的快取層,目標是將延遲降至零。此外,OpenAI所有尖端強化學習任務都搭配獨立模型監控器,偵測到可能未資料同步的行為時,可自動通知Control Room終止任務。
英國科技媒體The Register指出,OpenAI並未說明為何選在此時推出,但今年接連傳出攻擊Hugging Face、波及維基媒體基金會等事件,可能影響推出時程。OpenAI表示,商業服務的模型架構本就較集中,都能快速下架,數月內將繼續強化並擴充Control Room。
- OpenAI builds a kill switch for its research models
- OpenAI builds kill switch to stop out-of-control agents within 35 seconds
- OpenAI Deploys Control Room to Halt Research Model Workloads
- OpenAI says research-model kill switch can stop output in 35 seconds
- OpenAI’s new kill switch can stop ‘rogue’ AI models in 35 seconds: How does it work?
- OpenAI launches Control Room with a 35-second kill switch for agents
- OpenAI Adds 35-Second “Kill Switch” to Halt Rogue Agents
- OpenAI Unveils Kill Switch for Internal Research Models
- OpenAI Develops AI Kill Switch To Stop Risky Model Activity Within 35 Seconds
- OpenAI’s Control Room Can Halt Research Models in 35 Seconds
- OpenAI Control Room Can Halt Research Jobs in 35 Seconds
(首圖來源:OpenAI)
延伸閱讀:
OpenAI 建 Control Room 能 35 秒內切斷研究模型輸出,避免 AI 代理失控_美区Apple ID注册教程
人参与 | 时间:2026-11-22 13:05:15
相关文章
- 今明两天厦门岛内最高温重上20℃
- 世界球精选!转播:神舟十六号飞船与空间站组合体交会对接
- 2026年北京质量靠谱暖气片品牌店排行榜 盼盼散热器上榜-
- 泉州上调失业保险金发放标准 下月起执行
- 深化提升大气污染治理 泉州开展8个专项行动
- 17年来首次修法,国有资产怎么管?|说政经事 此次修订的核心逻辑,是把多年来行之有效的国企改革实践上升为法律。 国有资本收益可调入一般公共预算收入,国有资本可专项用于充实全国社会保障基金。 “对混合所有制企业开展核查,应通过公司法规定的途径,而不应具有动用类似公权力的手段。” 政经 05-20 6评论
- 600平方的房子设计图
- 河南两地发布大雾预警 省内高速部分路段管制禁行
- 藏粮于技,看“起飞”美学
- 角美可坐公交车直达厦门北站 全程3元设32个站点





评论专区