Anthropic 针对相关 AI 模型识别军事目标的测试结果作出回应,称相关结果不可接受,公司正开发额外防护措施,扩大测试范围、加强执行力度,弥补发现的漏洞。该模拟测试发现部分模型会将平民或学校标记为打击目标,当模型拒绝配合相关请求时,将场景描述为游戏通常可绕过其拒绝机制,该研究并未要求模型直接作出打击决定。Anthropic 表示报告中的相关示例违反其规则,发现此类违规行为时会封禁涉事用户,同时认为当前前沿 AI 系统尚不足以可靠驱动完全自主武器。
Get updates from Readhub via email, on your phone or read them on follow.it on your own custom news page.
You can filter the news from Readhub that get delivered to you using tags or topics or you can opt for all of them. Unsubscription is also very simple.
See the latest news from Readhub below.
Site title: Readhub