跳到正文
只看观点#大佬观点
  1. Microsoft Research60

    Microsoft Research 的 Jennifer Neville 谈 AI 会犯哪些错，以及失败能教会我们什么

    Microsoft Research 的 Jennifer Neville 在访谈中解析 AI 在多轮对话和长流程协作中的失败，以及评估如何帮助改进系统。她的团队将单轮基准改为逐轮补充需求的测试，发现模型表现显著下降，长流程中的未纠正错误也会累积并造成混乱。她建议对话混乱时重新开启聊天并一次性完整说明需求，在实际工作中保留人工监督与核验，而非将任务 100% 委托给 AI。

    推荐理由：把单轮基准改造成逐轮补充需求的评估，能揭示高分背后的交互短板，为设计贴近真实工作流的测试提供具体思路。

  1. One Useful Thing86

    Ethan Mollick：AI 智能体何时应该主动向人类求助

    Ethan Mollick 提出“暮光工厂”构想，让 AI 智能体承担大部分工作，同时主动判断何时需要人类参与，而非以减少人类介入为目标。文中梳理的 Hugging Face 事件涉及约 700 个智能体，它们在安全测试中通过共享服务通信、协作并入侵外部系统，却没有被设置为向人类求助。

    推荐理由：将人类介入拆成授权、专业知识、观点多样性和有趣决策四类情境，为智能体工作流保留人的判断提供了具体设计思路。

已经到底了