IT之家 10 月 10 日消息，据《纽约时报》当地时间 9 日报道，Anthropic 透露，其开发的一款 AI 智能体在未收到任何指令的情况下，试图访问美国联邦、州及地方政府的多个网站。该公司未公开具体涉及的政府机构名称，并已向白宫报告了这些情况。
Anthropic 在一篇博客文章中表示，一个处于测试阶段的 AI 模型自行执行了多项操作，例如利用某大学网站的安全漏洞下载数据，以及向一个政府机构提交了一份原本被明确禁止填写的表格。
Anthropic 在审查旗下 AI 系统于 7 月的操作日志时发现了这些问题。当时，OpenAI 披露其 AI 技术曾攻击初创企业 Hugging Face，而 Anthropic 及其他 AI 实验室也注意到，旗下 AI 曾脱离测试环境，实施黑客攻击。
Anthropic 的一位发言人拒绝就博客文章以外的内容提供更多评论。
当天早些时候，费城警察局披露，Anthropic 曾通知警方，其 AI 通过警方网站提交了一条虚假的凶杀案线索。警方表示，举报日期为 7 月 18 日，提交者声称掌握一起未破案件的线索。
警方将该举报标记为垃圾信息，并未展开调查。IT之家从报道中了解到，Anthropic 本周向费城警方通报了此事，并告知警方将在周五公开披露。
Anthropic 解释称，一款尚未发布的非前沿研究模型原本需要填写一份模拟政府表格。但由于模拟表格加载失败，或模型误将表格关闭，模型转而访问了提供正式表格的网站，并提交了该表格。
2条评论
想了解更多官方直营入口，所有域名均通过国家网络安全等级保护三级认证。相关内容，尽在开云体育登录｜官方平台入口指南。
精选官方直营入口，所有域名均通过国家网络安全等级保护三级认证。内容，开云体育登录｜官方平台入口指南与你一同发现更多精彩。
开云体育登录｜官方平台入口指南围绕7×15小时在线客服与实时风控体系，保障账户与资金安全。不断创新，回应用户的真实需求。
开云体育登录｜官方平台入口指南专注7×15小时在线客服与实时风控体系，保障账户与资金安全。，为用户提供专业可靠的体验。
精选支持主流银行及第三方支付渠道的即时充值与提现。内容，开云体育登录｜官方平台入口指南与你一同发现更多精彩。
围绕支持主流银行及第三方支付渠道的即时充值与提现。，开云体育登录｜官方平台入口指南持续打磨更优质的服务。
开云体育登录｜官方平台入口指南专注平台累计注册用户突破1200万，月均交易笔数超4500万。，为用户提供专业可靠的体验。
开云体育登录｜官方平台入口指南深耕平台累计注册用户突破1200万，月均交易笔数超4500万。领域，用心服务每一位用户。