跳到正文

技术方向

部署工程 最新动态

怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。

23 条精选近 30 天 17 条共收录 177 条

更新

精选归档 · 第 2 页

4月23日周四第 21–23 条
  1. Anthropic Engineering83

    Anthropic 复盘 Claude Code 质量问题:三项变更已修复,API 未受影响

    Anthropic 将近期 Claude Code、Claude Agent SDK 和 Claude Cowork 的质量问题追溯至三项变更,均已于 4 月 20 日随 v2.1.116 修复,API 和推理层未受影响。

    推荐理由:这次复盘展示了默认推理强度、历史推理清理与提示词改动如何叠加影响质量,也给出了扩大评测和改进内部测试的具体措施。

4月8日周三
  1. Anthropic Engineering73

    Claude Managed Agents 如何通过解耦“大脑”与“双手”实现扩展

    Anthropic 详解 Claude Managed Agents 的架构,将 Claude 及其运行框架、执行沙箱和会话日志解耦,使各组件能独立替换与故障恢复。持久化会话日志支持按需检索历史上下文,凭据隔离与代理机制避免沙箱中的代码直接接触认证凭据。沙箱改为按需配置后,无需立即使用沙箱的会话可直接开始推理,p50 首 token 延迟(TTFT)降低约 60%,p95 降低超过 90%。

    推荐理由:将运行循环、执行环境与事件日志拆成独立接口,为长时运行智能体提供了可迁移的故障恢复设计,也让上下文管理能随模型演进。

3月25日周三
  1. Anthropic Engineering79

    Anthropic 如何构建 Claude Code auto mode,让跳过权限确认更安全

    Anthropic 详解 Claude Code auto mode 的设计,通过输入层提示词注入探测和执行前动作分类,减少人工审批并拦截超出用户授权的危险操作。

    推荐理由:通过区分危险动作识别与用户授权判断,文章揭示了自动审批的关键边界,可帮助判断哪些任务适合交给分类器审批。