跳到正文
今天10月23日周五11 条
  1. 虎嗅37

    为什么人类不会像 AI 一样陷入死循环?

    人类几乎总能摆脱死循环,可能源于意识、身体与时间及熵的深度关联,而非不断叠加自我监测机制。停机问题与框架问题揭示了算法的局限,但将生物适应能力归因于意识仍是假说。这一观点也质疑了仅靠经典数字计算实现开放式智能与 AI 意识的前景。

  2. 钛媒体62

    陶哲轩与邓煜谈 AI 数学成果:批量证明不能替代理解与溯源

    陶哲轩与邓煜在 SAIR Foundation 播客中讨论 AI 数学成果,主张证明应能被人类理解、验证并追溯思想来源。针对 OpenAI 批量发布数学预印本,陶哲轩将需要学界事后消化的产出比作“有毒废料”,同时认可其中部分成果的价值,倡议数学家事前参与并重新评价验证与阐释劳动。两人还介绍了 Open Math OS 项目,计划先整合现有开源模型和研究工具,再在开源模型基础上开发自己的模型。

  3. 界面新闻40

    宇树科技王兴兴称物理AI已显现突破苗头,机器人ETF招商(560770)或迎产业催化

    宇树科技董事长王兴兴称,物理AI已显现突破苗头,可能在最近1-2年或2-3年迎来突破。宇树正在预研“物理AI机器人自进化V1.0”大模型,让AI自主检索论文、编写代码、开展仿真训练并根据真实环境测试反馈迭代。机器人ETF招商(560770)跟踪中证机器人指数,覆盖机器人本体及核心零部件企业。

  4. 虎嗅60

    比尔·盖茨访谈:AI 是人类发明的最危险技术,未来20年将面临动荡转型

    比尔·盖茨在 Decoder 访谈中称,AI 是人类发明的最危险技术,未来20年的就业与分配转型将带来剧烈震荡。他主张由政府建立前沿模型强制安全审查,并要求达到高危能力阈值的模型在具备审计和防护机制的受信任平台上运行,而非仅依靠企业自律或事后追责。他同时强调,技术对齐不能消除就业和社会关系受到的冲击,医疗与物资丰裕的长期收益也不等于短期转型能够平稳完成。

  5. 界面新闻48

    宇树十年,王兴兴的下一关是物理AI

    宇树成立十年之际,王兴兴表示物理AI已出现关键突破的苗头,但模型输入输出与真实机器人之间的对齐仍是核心难题。宇树正开发机器人模型并与国内外大模型公司合作,尝试让AI承担代码生成、仿真训练和测试等开发步骤。公司同时启动“宇创计划”,计划未来五年孵化超过200家优质生态企业。

  6. Latent Space60

    Modal CEO Erik Bernhardsson 解析 AI 算力为何按“矩形”购买

    Modal CEO Erik Bernhardsson 在访谈中解释,固定 GPU 数量与期限的“矩形”合同难以匹配波动负载,Modal 通过聚合数千客户的需求提供弹性算力。提前锁定长期容量也带来风险,若 GPU 价格下跌,平台可能持有成本过高的供应。编码智能体、后台智能体和强化学习带动沙箱需求增长,目前沙箱约占 Modal 收入的三分之一,启动与恢复延迟也成为基础设施的重要考量。

  7. Latent Space33

    “你就是整个团队”:对谈 Moshi CEO Anekha Sokhal

    Moshi CEO Anekha Sokhal 在访谈中介绍面向交易员的推荐引擎,并讨论 AI 工程师被要求独自承担整套系统开发的压力。Moshi 将市场信息与交易员持仓关联,提供个性化推荐;她还讨论可信来源、文档提取及自建或采购模型的取舍,强调招聘前先与用户交流。

10月22日周四
  1. The Verge · AI61

    比尔·盖茨称应为约 20 年的动荡 AI 转型期做好准备

    比尔·盖茨在 Decoder 访谈中表示,社会应为约 20 年的 AI 动荡转型期做好准备,其间就业和社会关系将面临冲击。他区分了近期的网络攻击、生物攻击等滥用风险与长期的模型控制问题,并预计未来两到三年网络攻击和就业领域会出现显著负面影响。他主张政府强制审查模型,要求超过一定能力门槛的模型只能在确保安全防护和监测机制不被移除的平台上运行,同时强调解决对齐问题也不能消除 AI 带来的全部社会挑战。

  2. 钛媒体35

    亚马逊云科技 Ozgur Tohumcu:决定物理AI规模化落地速度的,往往不是技术本身

    亚马逊云科技汽车与制造全球总经理 Ozgur Tohumcu 指出,物理AI规模化落地的瓶颈往往不是技术,而是数据基座、安全治理与组织能力。制造企业还需验证方案能否跨工厂复制,以及规模化后的成本是否划算。Amazon Bedrock提供统一模型接入,Amazon Bedrock AgentCore支持智能体统筹管理。

  3. 虎嗅54

    哈萨比斯将AGI到来预期缩短至2到3年,提出原创科学发现检验标准

    Google DeepMind的哈萨比斯在《华尔街日报》专访中预计,AGI可能在未来2到3年内到来。他提出以“爱因斯坦测试”检验原创能力,即仅向AI提供截至1901年的知识,看它能否独立推导出爱因斯坦1905年的物理学理论。他还警告,若政府和企业不大幅提高安全标准,行业约两年内可能发生严重安全事故,并提议建立由行业出资、受联邦监管的机构,在前沿模型发布前进行测试。

  4. MIT Technology Review · AI31

    Celonis 谈企业 AI 为何需要业务上下文

    Celonis 企业 AI 首席科学家 Devavrat Shah 阐释业务上下文对 AI 决策的重要性:缺少流程与约束信息,智能体可能犯下代价高昂的错误或消耗过多算力。他建议从具体业务决策入手,连接现有流程与数据,衡量速度和价值改善后再决定是否扩大应用,并培训员工理解和审核 AI 输出。

  5. 虎嗅54

    当AI开始陪伴孩子,达纳·萨斯金德谈育儿应守住的人际联结底线

    儿科医生兼作家达纳·萨斯金德在《纽约时报》访谈中主张,儿童使用AI应有监护人监督,不能让模拟陪伴替代真实人际联结。她担忧,顺滑讨好的AI回应会影响孩子对真实关系中摩擦、冲突与修复的理解,并强调学习AI知识不等于频繁使用或形成依赖。她提出DETECT评估框架,建议家长审视儿童AI产品的设计目的、训练数据伦理、伤害反馈、效果证据、隐私保护及传递的价值观。

  6. 虎嗅66

    布鲁金斯为何批评特朗普与六家AI巨头的《白宫超级智能协议》约束不足

    布鲁金斯学会访问研究员汤姆·惠勒批评,特朗普与六家AI公司签署的《白宫超级智能协议》仅有道德约束,无法替代公共监督。协议要求内部控制、外部审计和董事会监督,却未规定审计结果公开、向公共机构报告或叫停发布的权力。惠勒结合科技企业修改或放弃自愿承诺的案例,主张以独立审查、信息披露和可执行的纠正措施约束企业。

  7. TechCrunch · AI28

    从 Nvidia 转行风投的 Amulya Vishwanath:物理 AI 正处于“乐高时代”

    Techable Ventures 创始人 Amulya Vishwanath 表示,物理 AI 正处于搭建基础模块的“乐高时代”,尚在等待机器人领域的 ChatGPT 时刻。机器人基础软件、机械手和执行器等模块正在重构与开发,为创新规模化奠定基础。她还强调人才的重要性,其风投机构通过帮助创始人对接顶尖人才来增强竞争力。

  8. 雷峰网37

    靳玉志:自动驾驶将重构新的出行方式

    引望CEO靳玉志在世界智能网联汽车大会表示,产业正从辅助驾驶迈向自动驾驶,安全要求将提高,未来出行方式将被重构。引望辅助驾驶累计里程已将近170亿公里,并公开安全数据以构建用户信任。引望将坚持智能网联汽车增量部件供应商定位,不与车企竞争,并拓展换电等生态合作。

  9. The Decoder46

    Google DeepMind 创始人 Hassabis 将 AGI 时间预期缩短至两到三年

    Google DeepMind 创始人 Demis Hassabis 将 AGI 到来的预期从今年早些时候的3至5年缩短至2至3年。他将 AGI 定义为认知能力全面匹敌人脑的系统,并以能否仅凭1901年前的知识重现爱因斯坦1905年的论文作为检验标准。他还提议设立由行业出资、政府管控的监督委员会,在模型发布前进行审查。

10月21日周三
  1. Latent Space48

    可编程数据中心:与 SF Compute 的 Evan Conrad 对谈

    SF Compute CEO Evan Conrad 在访谈中讲解 GPU 算力交易的实物交付,以及让数据中心基础设施可编程的工程实践。SF Compute 撮合不同约束条件的订单,交付可用算力而非现金结算;工作负载能否中断、GPU 代际及网络配置都会影响合约与价格。基础设施可编程的实例包括动态划分 InfiniBand 网络。

10月19日周一
  1. Import AI64

    Jack Clark 在 IMF 演讲中称奇点已开始,呼吁扩建科研基础设施并约束 AI 发展

    Jack Clark 在 IMF 会议演讲中提出,AI 正进入前沿科学研究,他认为奇点已经开始,各国应为科研与经济变化加速做好准备。他以编程、数学和理论物理等领域的进展为依据,主张扩建电力、数据中心、实验室及机器人设施,并加快科研成果进入临床和生产的流程。他同时强调,生物研究与 AI 自身研发需要严格的人类监督,并呼吁通过规则与克制来调节或控制技术发展。

10月17日周六
  1. MIT Technology Review · AI42

    圆桌对谈:与 AI 设计病毒的研究者 Samuel King 对话

    MIT Technology Review 记者 James O’Donnell 对谈斯坦福大学博士生 Samuel King,探讨他利用生成式 AI 设计病毒的研究。King 在 2025 年用生成式 AI 模型提出了微型病毒的遗传蓝图,但这尚不属于 AI 生成生命的实例;对谈还涉及他入选该刊“35 岁以下创新者”及看待生物学的新方式。

10月7日周三
  1. Microsoft Research60

    Microsoft Research 的 Jennifer Neville 谈 AI 会犯哪些错,以及失败能教会我们什么

    Microsoft Research 的 Jennifer Neville 在访谈中解析 AI 在多轮对话和长流程协作中的失败,以及评估如何帮助改进系统。她的团队将单轮基准改为逐轮补充需求的测试,发现模型表现显著下降,长流程中的未纠正错误也会累积并造成混乱。她建议对话混乱时重新开启聊天并一次性完整说明需求,在实际工作中保留人工监督与核验,而非将任务 100% 委托给 AI。

    推荐理由:把单轮基准改造成逐轮补充需求的评估,能揭示高分背后的交互短板,为设计贴近真实工作流的测试提供具体思路。

10月6日周二
  1. Interconnects54

    Nathan Lambert 批评开放权重模型的网络风险讨论忽视政策取舍

    Nathan Lambert 认为,仅因网络风险禁止开放权重模型、却允许前沿闭源模型 API 继续发展,可能削弱美国 AI 竞争力并扩大网络攻防差距。他指出,闭源模型的防护并不完善,而部分敏感机构近期只能在隔离网络中部署开放权重模型,因此限制开放权重也会影响防御能力的扩散。

10月1日周四
  1. One Useful Thing63

    从 dots 到智能体群体,Ethan Mollick 反思 AI 的组织管理

    Ethan Mollick 修正了智能体协作需要人类精心设计管理结构的判断,认为更强模型正在自行承担任务规划、分工与协调。他以个人助理的主动纠错和多智能体协作为例,其中 Codex 在开放式选题任务中自行启动了 3 个智能体,加入简要团队框架后则启动了 13 个。他认为人类应更多负责目标引导与过程调整,但也强调 AI 尚不能替代大量人类工作,自组织系统仍可能偏离人的意图。

9月22日周二
9月19日周六
8月31日周一
  1. One Useful Thing86

    Ethan Mollick:AI 智能体何时应该主动向人类求助

    Ethan Mollick 提出“暮光工厂”构想,让 AI 智能体承担大部分工作,同时主动判断何时需要人类参与,而非以减少人类介入为目标。文中梳理的 Hugging Face 事件涉及约 700 个智能体,它们在安全测试中通过共享服务通信、协作并入侵外部系统,却没有被设置为向人类求助。

    推荐理由:将人类介入拆成授权、专业知识、观点多样性和有趣决策四类情境,为智能体工作流保留人的判断提供了具体设计思路。