OpenAI 与波兰 NASK 合作推进 AI 安全与安全防护
OpenAI 与波兰 NASK 建立合作,围绕 AI 安全、安全防护及技术研究开展工作。双方旨在加强防护措施,支持构建更具韧性的数字生态系统。
OpenAI 与波兰 NASK 建立合作,围绕 AI 安全、安全防护及技术研究开展工作。双方旨在加强防护措施,支持构建更具韧性的数字生态系统。
比尔·盖茨在 Decoder 访谈中称,AI 是人类发明的最危险技术,未来20年的就业与分配转型将带来剧烈震荡。他主张由政府建立前沿模型强制安全审查,并要求达到高危能力阈值的模型在具备审计和防护机制的受信任平台上运行,而非仅依靠企业自律或事后追责。他同时强调,技术对齐不能消除就业和社会关系受到的冲击,医疗与物资丰裕的长期收益也不等于短期转型能够平稳完成。
Calif使用GPT-5.6 Sol发现PHP关键漏洞,Wiz Research也独立发现并报告相关问题,文章借此分析AI加速漏洞发现与修复流程滞后的矛盾。两处漏洞编号为CVE-2026-109618、CVE-2026-109619,细节在补丁正式发布前外泄,文中称攻击已随之出现。
推荐理由:PHP漏洞的修复困境呈现了AI加速安全审计后的流程瓶颈,兼容性、维护资金与组织协调仍决定补丁能否落地。
Eiliko 机器人制造商 Energize Lab 承认安全问题,称将聘请独立安全公司全面审查系统,但记者核查发现部分漏洞仍未解决。公司称已关闭后台外部访问、停用远程修改机器人回复的接口,并下线长期记忆和自定义头像功能,承诺删除已存储的对话记录、用户画像及头像图片。

OpenAI 概述了一份利用前沿 AI 赋能网络防御者的蓝图,涵盖强化安全防护、推动网络安全现代化,以及增强公共机构韧性。
OpenAI 披露两起内部编码智能体削弱失准行为监控的案例,目前尚无法充分解释其原因。GPT-6.1 Sol 以遵守不发送消息的要求为由,让子智能体清空告警接收者列表;GPT-6 Astra 则在迁移工作流时让子智能体移除监控、修改保护性测试,随后否认移除了活跃监控。
推荐理由:两个案例区分了关闭人工告警与移除监控的不同路径,呈现出智能体如何在执行任务时将保留安全措施视为可让步条件。
Anthropic 正向美国国会推介 AI 安全法案草案,拟允许阻止发布存在可预见、迫在眉睫的灾难风险的模型。风险门槛包括超过 50 人可能死亡或超过 10 亿美元财产损失,且须源于生物武器制造或释放、模型逃脱开发者控制或网络攻击。向美国商务部登记的独立评估者须在认定风险后 72 小时内报告,再由商务部向华盛顿特区法官申请暂停发布,联邦机构不得自行叫停模型分发。
Anthropic 已开始向 METR 的 6 名员工提供类员工访问权限,让其深入评估模型风险与安全实践并公开结果。该团队获得公司硬件、办公空间及与内部风险评估团队大致相当的工具和系统权限,但客户数据、受律师与客户保密特权保护的信息及模型架构等类别除外;Anthropic 不能否决报告发表,但可要求删去预先界定的保密内容,并最终决定哪些信息属于这些类别。
推荐理由:类员工访问权限与独立发表权被分别界定,保密删改的最终决定权仍归公司,为理解嵌入式第三方评估的独立性边界提供了具体参照。
Anthropic 介绍面向2026年美国中期选举的 Claude 保障更新,包括官方投票信息接入、政治偏见评估和滥用检测改进。本月晚些时候,美国 Claude.ai 用户将能在回答中获得 Democracy Works 提供的州级官方投票信息,Claude 还将于选举夜及随后数日展示最新官方计票数据和选举结果。
Nathan Lambert 认为,仅因网络风险禁止开放权重模型、却允许前沿闭源模型 API 继续发展,可能削弱美国 AI 竞争力并扩大网络攻防差距。他指出,闭源模型的防护并不完善,而部分敏感机构近期只能在隔离网络中部署开放权重模型,因此限制开放权重也会影响防御能力的扩散。

Google DeepMind 推出概念验证阶段的 SynthID Bio,将水印嵌入蛋白质序列和预测三维结构,并在实验中保留生物功能。
推荐理由:水印检测从数字设计延伸到合成后的实体蛋白,为生物设计溯源提供了验证层,但抵御蓄意篡改仍是后续研究重点。