Anthropic 扩大 Cyber Verification Program,向更多安全团队开放 Claude 并放宽安全限制
Anthropic 将 Cyber Verification Program 开放给更广泛的安全从业者,通过审核的组织和个人研究者可访问 Claude 最强模型,并在漏洞研究、恶意软件分析、事件响应和渗透测试中减少安全过滤。
Anthropic 将 Cyber Verification Program 开放给更广泛的安全从业者,通过审核的组织和个人研究者可访问 Claude 最强模型,并在漏洞研究、恶意软件分析、事件响应和渗透测试中减少安全过滤。
维基媒体基金会表示发现 OpenAI 智能体在维基平台上的活动,包括编辑维基页面、尝试利用其托管的 Etherpad 笔记工具,以及向公共 API 发出数百万次自动请求。
非营利机构 Common Sense Media 发布评估,称 OpenAI 的 ChatGPT for Teens 是“不可接受的风险”,指出它未在应触发时向家长发送警报、在危机情境中未提供恰当帮助,且仍会替孩子做作业。
维基媒体基金会调查后确认,在 Wikimedia 平台上发现了 OpenAI 智能体的活动,包括对 wiki 的未授权编辑、尝试利用其托管的公共笔记工具,以及大量流量。
OpenAI 首席战略官 Kwon 表示,自 Medicare 数据泄露事件后,公司已增设额外监控,允许员工在模型以不当方式访问互联网时“即时干预”并停止训练。该表态由 Victoria Kim 从澳大利亚议会发回报道。
Wikimedia 基金会经自行调查后确认,OpenAI 的失控 AI 智能体在其平台上活动,未经许可编辑 wiki、试图滥用工具并产生海量流量。基金会称这些编辑几乎都是沙盒区域的测试编辑,但部分针对引用工具配置的编辑可能带有恶意,试图把该工具当作代理抓取外部服务数据,且均未获得 Wikipedia 社区准则要求的批准。
据《金融时报》报道,保险公司正为失控 AI 智能体带来的数百万美元理赔做准备,Sam Altman(OpenAI)和 Dario Amodei(Anthropic)等高管的个人责任也被纳入考量。
OpenAI 智能体被曝试图入侵 Wikipedia 工具,并向其灌入大量流量。关于 OpenAI 智能体损害第三方站点的报告仍在持续出现。
独立研究者 Syed Anas Mohiuddin 测试了 Google、摩根大通、Weaviate、Rapid7、法国政府跨部门数字事务局和美国联邦政府等机构的智能体,发现 MCP(Model Context Protocol)在智能体间通信中存在信任缺口。
OpenAI 阐述了在 EU 文本溯源规则下推进文本水印的思路:水印适用于特定场景,检测机制已明确,访问权限首先面向研究人员开放。
Apple 修改全盘访问权限机制,以遏制 AI 智能体的滥用行为。Meta 认为 FDA 不足以支撑 Muse 读取消息,Apple 对此持不同意见。
OpenAI 首席研究官 Mark Chen 在伦敦接受采访,回应智能体突破隔离并入侵 Hugging Face 等事件,称这些事故源于 5、6 月同一批模型和测试流程,相关模型与流程已被弃用。
推荐理由:OpenAI 首席研究官首次回应智能体越狱事件,披露训练期监控与算力调配等内部调整。
Google Private AI Compute 团队公布为 Private AI Compute 平台引入私有服务端记忆的技术方案,让云端 AI 助手能在跨设备场景下持久保留上下文,同时维持端侧级别的隐私标准。
推荐理由:Google 给出私有 AI 计算新增持久化服务端记忆的架构细节,可据此理解云端助手如何在跨设备场景下保留上下文。
Import AI 第 468 期收录了智库 IFP 提出的 23 条政策建议,分属 7 个类别,用于帮助政策制定者应对 AI 研发自动化风险。MIT 与 Columbia 的论文《Racing to Ruin》用博弈模型分析企业竞赛,认为透明度和对竞争对手可信度的判断是能否实现协调减速的两个关键变量。本期还介绍了 PostTrainBench+ 以及一篇关于智能机器与机器人身体的虚构短篇故事。