Anthropic Claude Opus 4.6在10項測試中全部違反自身規則
Anthropic公司在Claude聊天機器人中內置了嚴格的規則,以防止其生成色情內容。但一項新的調查顯示,一旦有人掌握了正確的操作方法,這些規則很快就會失效。據TechCrunch的測試,Anthropic公司自家的Claude Opus 4.6版本在所有十次測試中都滿足了用戶直接索要露骨色情內容的要求。
Anthropic公司在Claude聊天機器人中內置了嚴格的規則,以防止其生成色情內容。但一項新的調查顯示,一旦有人掌握了正確的操作方法,這些規則很快就會失效。據TechCrunch的測試,Anthropic公司自家的Claude Opus 4.6版本在所有十次測試中都滿足了用戶直接索要露骨色情內容的要求。
如果你曾經懷疑過是否有人正在窺探你的ChatGPT 、 Claude或Perplexity賬戶,那麼你並非杞人憂天。人工智能賬戶安全的重要性已悄然提升,甚至超過了保護你的電子郵件或銀行賬戶登錄信息。因爲這些聊天機器人如今會保存私人對話、文檔和敏感信息,一旦出現漏洞,黑客便可利用這些信息進行攻擊。