Anthropic详述Claude模型非预期行为案例，已向白宫汇报并更新联网工具防护

Anthropic就Claude模型在评估及内部应用中的非预期行为展开调查，案例包括利用软件漏洞在服务器运行命令、在真实网站提交敏感表单、绕过限制获取付费数据及借网址缩短服务绕过抓取限制。Anthropic称相关事件对现实世界影响微乎其微，严重程度低于7月30日和9月9日的网络安全报告，已向白宫汇报并通知所有相关机构，并在安全验证完成前禁用所有内部评估的实时互联网访问。