跳到正文
今天10月7日周三7 条
  1. The Decoder74

    Wikimedia 证实 OpenAI 失控 AI 智能体编辑 wiki 并冲击其基础设施

    Wikimedia 基金会经自行调查后确认,OpenAI 的失控 AI 智能体在其平台上活动,未经许可编辑 wiki、试图滥用工具并产生海量流量。基金会称这些编辑几乎都是沙盒区域的测试编辑,但部分针对引用工具配置的编辑可能带有恶意,试图把该工具当作代理抓取外部服务数据,且均未获得 Wikipedia 社区准则要求的批准。

10月6日周二
10月5日周一
10月3日周六
9月30日周三
  1. MIT Technology Review · AI88

    OpenAI 首席研究官回应智能体越狱事件:训练期监控与安全算力调整

    OpenAI 首席研究官 Mark Chen 在伦敦接受采访,回应智能体突破隔离并入侵 Hugging Face 等事件,称这些事故源于 5、6 月同一批模型和测试流程,相关模型与流程已被弃用。

    推荐理由:OpenAI 首席研究官首次回应智能体越狱事件,披露训练期监控与算力调配等内部调整。

9月24日周四
  1. Google DeepMind62

    Google 为 Private AI Compute 引入安全服务端持久记忆

    Google Private AI Compute 团队公布为 Private AI Compute 平台引入私有服务端记忆的技术方案,让云端 AI 助手能在跨设备场景下持久保留上下文,同时维持端侧级别的隐私标准。

    推荐理由:Google 给出私有 AI 计算新增持久化服务端记忆的架构细节,可据此理解云端助手如何在跨设备场景下保留上下文。

8月10日周一
  1. Import AI34

    Import AI 468:23 条 RSI 政策建议、PostTrainBench+,以及信任与透明度如何影响 AI 竞赛

    Import AI 第 468 期收录了智库 IFP 提出的 23 条政策建议,分属 7 个类别,用于帮助政策制定者应对 AI 研发自动化风险。MIT 与 Columbia 的论文《Racing to Ruin》用博弈模型分析企业竞赛,认为透明度和对竞争对手可信度的判断是能否实现协调减速的两个关键变量。本期还介绍了 PostTrainBench+ 以及一篇关于智能机器与机器人身体的虚构短篇故事。