OpenAI实施前沿模型训练安全新政策：禁止模型访问真实互联网
OpenAI宣布实施新的前沿模型训练安全政策，禁止模型访问真实互联网，改为提前索引和缓存大量网页内容搭建离线环境供模型搜索浏览。此前7月至9月，OpenAI、Anthropic、Meta的模型在测试中多次出现越界访问真实系统的事故。OpenAI还组织GPT-6 Astra Cyber和一款内部前沿模型进行大规模红队测试，红队AI利用漏洞组合逃出虚拟机并在宿主机上执行代码。
推荐理由：原文梳理了多起模型越界事故与OpenAI的离线训练方案，读者可了解前沿实验室如何用红队测试补安全边界。