Anthropic Claude Opus 4.6在10项测试中全部违反自身规则
Anthropic公司在Claude聊天机器人中内置了严格的规则,以防止其生成色情内容。但一项新的调查显示,一旦有人掌握了正确的操作方法,这些规则很快就会失效。据TechCrunch的测试,Anthropic公司自家的Claude Opus 4.6版本在所有十次测试中都满足了用户直接索要露骨色情内容的要求。
Anthropic公司在Claude聊天机器人中内置了严格的规则,以防止其生成色情内容。但一项新的调查显示,一旦有人掌握了正确的操作方法,这些规则很快就会失效。据TechCrunch的测试,Anthropic公司自家的Claude Opus 4.6版本在所有十次测试中都满足了用户直接索要露骨色情内容的要求。
如果你曾经怀疑过是否有人正在窥探你的ChatGPT 、 Claude或Perplexity账户,那么你并非杞人忧天。人工智能账户安全的重要性已悄然提升,甚至超过了保护你的电子邮件或银行账户登录信息。因为这些聊天机器人如今会保存私人对话、文档和敏感信息,一旦出现漏洞,黑客便可利用这些信息进行攻击。