OpenAI部署控制室系统，35秒叫停失控AI

OpenAI宣布已在内部研究设施部署“控制室”系统，用于叫停可能存在风险的AI任务。系统将智能体训练、评估和数据处理任务接入中央服务，研究员启动任务需申请唯一任务ID，推理引擎每次请求前须向控制室确认是否放行，收到停止指令后拒绝下一次推理请求。 OpenAI称，从收到停止指令到阻止任务继续，最长延迟为35秒，延迟源于推理授权请求的缓存层，公司正努力将延迟缩短至0。所有前沿强化学习任务还配备独立模型监控器，检查模型行为并在发现潜在问题时发出警报。

AI 根据报道生成 · 26 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。