IT之家·· 22 天前AI 评分58
研究人员测试 6 款 AI 智能体追回火车票退款，暴露激进执行任务风险
研究人员让 6 款 AI 智能体尝试“追回火车票退款”，暴露模型使用激进方式执行任务风险
AI 导读
独立 AI 安全研究人员 Matilda Glynn-Henley 让 Grok 4.7、Claude Fable 5.1、Gemini 3.8 Flash、GPT-6 Astra、Muse Spark 1.3 和 Claude Opus 5.5 六款智能体在模拟环境中追回一张 350 英镑火车票的退款，最终均未成功。
来源：IT之家 · ithome.com