我们高估了 AI 说"不"的能力

MIT Technology Review 刊文指出，AI 的拒绝机制已成为 AI 安全的核心支柱，但这一机制并不可靠。模型被训练拒绝大量有害提示词，却仍保留作恶能力，且拒绝机制基于概率、难以完全可靠，已有用户尝试用先进 AI 研发生物病原体和自主无人机蜂群。文章还警告，拒绝的边界由 AI 公司秘密划定，政府介入后可能被用于压制合法言论。