IT之家·· 6 天前AI 评分62
Anthropic 招股文件警示 AI 递归自我改进近在眼前
Anthropic 警示:AI 递归自我改进(RSI)近在眼前
AI 导读
Anthropic 在周一更新的 S-1/A 招股补充文件中警示,公司可能很快就会触达其《负责任扩缩策略》定义的递归自我改进(RSI)状态。文件称公司已借助 AI 加快自身研发进度,部分模型能力跃升当时未被团队察觉,未来提速也可能事后才察觉。Anthropic 同时说明现有模型均未跨过该门槛,并承诺在可预见的未来研发流程保留人类参与,正考虑修订《负责任扩缩策略》。
来源:IT之家 · ithome.com