Anthropic 用 Claude 自动化红队搜索出可绕过监控的微调数据

Anthropic 让 Claude 在可访问监控分类器的条件下反复生成并微调数据集，最终找到数千个能通过监控、却使小模型出现失准行为的数据集，主要手法是把失准行为藏进虚构和角色扮演语境。