MIT Technology Review · AI· Arthur Holland Michel·· 3 小时前AI 评分63
MIT Technology Review：不要过度信任 AI 的拒答能力
We’re putting too much faith in AI’s ability to say no
AI 导读
一篇 MIT Technology Review 长文认为，业界把 AI 安全过多押注在模型拒答上，而这种机制既不可靠，又可能演变为审查工具。文中指出 Anthropic 曾表示一类分类器使其聊天机器人计算成本增加 24%，多层分类器叠加仍有漏洞，Anthropic 发布 Fable 5 后不到三天，Amazon 研究者就解锁了它的部分黑客能力。
来源：MIT Technology Review · AI · technologyreview.com