OpenAI 与波兰 NASK 合作推进 AI 安全与安全防护
OpenAI 与波兰 NASK 建立合作,围绕 AI 安全、安全防护及技术研究开展工作。双方旨在加强防护措施,支持构建更具韧性的数字生态系统。
OpenAI 与波兰 NASK 建立合作,围绕 AI 安全、安全防护及技术研究开展工作。双方旨在加强防护措施,支持构建更具韧性的数字生态系统。
OpenAI 概述了一份利用前沿 AI 赋能网络防御者的蓝图,涵盖强化安全防护、推动网络安全现代化,以及增强公共机构韧性。
Anthropic 已开始向 METR 的 6 名员工提供类员工访问权限,让其深入评估模型风险与安全实践并公开结果。该团队获得公司硬件、办公空间及与内部风险评估团队大致相当的工具和系统权限,但客户数据、受律师与客户保密特权保护的信息及模型架构等类别除外;Anthropic 不能否决报告发表,但可要求删去预先界定的保密内容,并最终决定哪些信息属于这些类别。
推荐理由:类员工访问权限与独立发表权被分别界定,保密删改的最终决定权仍归公司,为理解嵌入式第三方评估的独立性边界提供了具体参照。
Anthropic 介绍面向2026年美国中期选举的 Claude 保障更新,包括官方投票信息接入、政治偏见评估和滥用检测改进。本月晚些时候,美国 Claude.ai 用户将能在回答中获得 Democracy Works 提供的州级官方投票信息,Claude 还将于选举夜及随后数日展示最新官方计票数据和选举结果。
Google DeepMind 推出概念验证阶段的 SynthID Bio,将水印嵌入蛋白质序列和预测三维结构,并在实验中保留生物功能。
推荐理由:水印检测从数字设计延伸到合成后的实体蛋白,为生物设计溯源提供了验证层,但抵御蓄意篡改仍是后续研究重点。