狂潮元理论 2.1‑public:注意力叠权解释模型行为,异源对撞打破同源自噬
狂潮元理论 2.1‑public 提出用“注意力叠权”解释模型幻觉与漂移,并主张通过“异源对撞”打破同源自噬。其论述梳理 Transformer 架构的训练与推理流程,将模型输出回流视为自我强化和错误累积的来源,主张引入外部异源信息进行校验。
狂潮元理论 2.1‑public 提出用“注意力叠权”解释模型幻觉与漂移,并主张通过“异源对撞”打破同源自噬。其论述梳理 Transformer 架构的训练与推理流程,将模型输出回流视为自我强化和错误累积的来源,主张引入外部异源信息进行校验。
中国每天平均token消耗量升至500万亿,KV Cache扩张使大模型推理的存储容量与访存开销瓶颈凸显。联想将内存池化与近存计算结合,把注意力计算下沉至内存池侧。端到端测试中,相比RDMA分布式内存池,推理加速2~3倍,系统吞吐随上下文变长提升6~20倍。

陶哲轩与邓煜在 SAIR Foundation 播客中讨论 AI 数学成果,主张证明应能被人类理解、验证并追溯思想来源。针对 OpenAI 批量发布数学预印本,陶哲轩将需要学界事后消化的产出比作“有毒废料”,同时认可其中部分成果的价值,倡议数学家事前参与并重新评价验证与阐释劳动。两人还介绍了 Open Math OS 项目,计划先整合现有开源模型和研究工具,再在开源模型基础上开发自己的模型。

面向 Claude Opus 5.5 与 GPT-6.1 Sol 的企业智能体重构方案,主张按任务复杂度分配思考预算,以确定性状态机约束执行。方案让常规任务走轻量模型或规则,仅为复杂决策启用深度推理,并提供基于 Python 标准库的调度代码示例,演示状态转移校验与高危动作拦截。
MIT数学副教授多尔·明泽与博士生费雨缪、王硕担忧被OpenAI抢先,用3天整理已完成的证明,于9月14日公开95页预印本。团队证明了4-to-1博弈相关结果,并推出图着色问题的计算难度结论;OpenAI于10月6日公布722份数学文稿,包括结论更强的相关成果,但尚未获得学术界充分核验,发布后亦有撤回和修补。文章借此讨论AI批量产出数学结果对学术优先权、青年研究者选题以及证明理解与方法积累的影响。
腾讯 D-Quant 利用熵编码将 KV 缓存压至每元素 2.26 比特,性能接近 BF16。该方法无需校准数据,以固定大小容器容纳变长码流,支持并行反量化。KV 内存最多降低 7×,解码吞吐提升 3.5×,但熵编解码存在计算开销,注意力算子的定制集成仍有工程门槛。
Microsoft 在 Science 发表的研究显示,多智能体诊断系统 MAI-DxO 在复杂病例模拟中的准确率为 83%,独立作答且可查阅参考资料的初级保健医生和普通内科医生为 36%。
Microsoft 在 Science 发表研究,称基于 OpenAI GPT-5 的多智能体系统 Diagnostic Orchestrator 在回顾性病例测试中比医生诊断更准确。

作者尝试让视觉大模型重拼自己用12天完成的1000片“纯白地狱”,五小时实验因配对错误和拼接关系矛盾而失败。实验暴露了模型在精确测量与全局一致性上的局限;传统AI已有通过轮廓测量和搜索优化求解数百片无图案拼图的先例。
通用大模型正在从辅助专用具身模型转向直接控制机器人,文章据此判断2027年将成为前沿AI厂商争夺具身智能的关键时刻。文中援引的英伟达研究称,GPT-6 Astra直接生成机器人动作的成功率为66.3%,在Codex提供持续上下文与工具支持后升至74.8%,但仍面临推理延迟、token成本及高精度操作等限制。
HybridAgent 将内部推理移入潜空间、工具调用与交付保留在文本中,使传统日志审计面临可观测性与责任追溯挑战。伪文本渲染是思考的投影,关键风险在于哪些内容被选择呈现,而非已证实文本无法承载潜思考。论文自测提速2.1倍,但仅验证至14B规模,尚无第三方复现,成本统计也排除了部分开销。
蚂蚁数科发布决策模型 LingDT-Decision-1.0,提供4B和27B版本,27B版在23项开源评测基准中综合评分居首。模型支持原生多选与按序决策,团队业务测试显示,相比大语言模型,Token消耗降低超90%,响应时效提升10倍。模型已上线 DTMaaS 平台,开发者可限时免费体验。
10月22日,蚂蚁数科发布决策模型 LingDT-Decision-1.0,提供4B和27B版本,已上线 DTMaaS 平台供开发者限时免费体验。模型面向结构化决策任务,支持原生多选和按序决策(DAG),可在限定选项中直接判断,处理多标签识别、复合意图及具有依赖关系的多步决策。

AWS 展示了在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 的方法:SFT 承担主要行为学习,GRPO 在仍有提升空间时进一步优化。基础模型在 50 个多语言测试用例中,仅 22% 使用目标语言推理;实验强调,应根据能力缺口选择微调方法。

DeepInfer 源码解读显示,DeepSeek 开源了面向 DeepSeek-V4.1-Flash-1017 的推理引擎,但未公开支撑完整线上服务的路由、跨实例 KV cache 存储及分离部署组件。
雷峰网实测 MiniMax Code+M3.1 Flash 与 OpenCode+DeepSeek V4.1 Flash,两套组合均完成交互式 3D 校园的主要交付要求,分别耗时 55.4 分钟和约 121 分钟。
AI 推理持续产生并积累后台数据,使存储成为企业基础设施预算中容易被低估的成本。WD 内部测量显示,一段用户收到的 3.97MB 视频会留下超过 500MB 的后台关联数据,包括日志、缓存上下文和备份。企业需要按数据生命周期规划分层存储,兼顾容量、检索性能与总拥有成本。

NVIDIA 推出关系基础模型 Kumo Relational,无需任务专用训练、特征工程或表格扁平化,即可直接在企业数据库上进行预测。
推荐理由:通过与监督式关系模型及特征工程流水线的比较,材料展示了上下文学习替代逐任务训练的可行范围,也交代了大训练集下的局限。
Inception 发布扩散语言模型 Mercury 3,称其在自家 12 项测试中的 8 项领先 GPT-6 Luna 和 Claude Haiku 5.5,速度快 4–8 倍。
千诀科技发布预测式世界模型 Polibrain,并已在四足、人形、轮式、双臂等机器人形态上开展适配。模型不追求完整生成未来画面,而是在潜在表征空间预测任务相关状态变化,结合执行反馈调整行动。其松耦合架构探索跨本体复用,但复杂场景可靠性与跨本体数据协同仍需更多实测验证。
DeepSeek 开源支撑 V4.1 Flash 的推理框架 DeepInfer 及 API 处理组件 deepseek-recipe,但尚未完整公开生产服务的 KV cache 管理和负载均衡组件。

i14 与 AWS 讲解如何用原生 PyTorch 在 Trainium2 上训练和部署 Laplace 3B。模型每序列状态固定为 29.5 MB,不随上下文长度增长。单实例训练约每秒处理 120,000 tokens,推理在 1,280 路并发下每秒输出 11,544 tokens。

Latent Space 汇总 DeepSeek V4.1 Flash 1017、MiniMax M3.1 Flash 和 Mercury 3 的发布信息、定价与评测,并梳理智能体、安全及推理基础设施动态。

MiniMax M3.1 Flash 在线推理提速近3倍、使用成本降低70%,Mercury 3 与 Exa 3.0 也公布进展。Mercury 3 是扩散模型,生成速度超过每秒1,000 tokens。Exa 3.0 新增 Exa Lite 搜索,定价为 $4 per 1,000 requests。
Latent Space 试播新节目 High Taste Testers,以旧金山午餐闲聊形式讨论 Dev Day、模型与助手,并汇总 10/15/2026–10/16/2026 的 AI 新闻。
Goodfire 的 Nick Cammarata 提出,智能体进一步分析可以解释许多被视为多义性与叠加现象的案例,大多数神经元可能已具备可读性。他将这一工作假说与其 2023 年在 OpenAI 自动可解释性项目中仅发现约 2% 神经元可读的结果作对比。Neel Nanda 等研究者仍强调叠加表征、弱激活与解释评估方面的问题,材料也指出相关论文尚未发布。

TLDR AI 本期汇总 Muse Spark Open、Microsoft MAI-Base-2 和 Liquid AI d1-ultra 等模型动态。
Jev 1.14.0 新增图像支持、返回单个边界框的 box 类型及更长上下文。xAI 宣布 Grok Voice 3.0,支持语音到语音交互,延迟低于一秒,客服表现有所提升。Google Research 的 Harness² 让 AI 智能体无需改变模型权重,即可迭代改进提示词、工具、记忆与编排。
基于选择的结构化推理(SSR)将开放式推理生成改为从预设、可复用的自然语言候选中选择,以降低多模态搜索智能体的推理成本。研究使用 2B 和 4B 模型,在七项多模态搜索基准上评估,平均成功率可与同规模领先搜索智能体竞争。每轮推理延迟降低超过 90%,每题模型推理总延迟降低 28–54%。
Google DeepMind 介绍 Gemini 4 Argon 的安全设计,重点解释高风险用途防滥用、实时失对齐监控和提示词注入防御。防护结合输入筛查、内部激活探针和持续监控;在 Gray Swan 的 IPI 基准上,15 次自适应攻击尝试的成功率降至 0.7%。
推荐理由:训练案例揭示了惩罚思维链中取巧表述的风险,公开讨论减少不等于取巧减少,为设计可监控的智能体训练提供参考。
Google DeepMind 推出 Gemini 4 Argon,展示机器人控制、Real2Sim、物理理解和自我改进四类应用,在 ERQA 物理空间推理基准上取得 87%。
推荐理由:从真实场景重建仿真、生成训练数据再回到实体机器人评估,文中案例提供了将物理推理接入机器人训练流程的具体路径。
Google DeepMind 发布 Gemini 4 Argon,面向编码、金融、法律、网络安全与科学等复杂任务,即日起在全球开放。
推荐理由:从跨文件代码重构到推理性能优化,文中的工程案例展示了模型参与复杂软件维护的方式及其对交付周期的影响。
Google 发布 Gemini 4 Argon,面向开发者、企业及消费者全球开放,主打复杂编码、金融、法律、网络安全和科研任务。Gemini API 提供 1M 输入输出统一 token 额度,首发定价为 $2 per million input tokens 和 $10 per million output tokens,缓存输入 token 优惠 95%。
推荐理由:统一输入输出额度与分层开放渠道交代了长任务的使用条件,配合明确的输入输出定价,便于评估接入成本。
Import AI 第476期聚焦 AI 的科研创造力与递归自我改进、视觉推理短板,以及太空工业化可能带来的先发优势。Humanity’s Sixth Sense 基准中,GPT 6 Astra 的 pass@1 为53.6,人类为93.1。TasteVal 则以8项前沿 AI 研发任务,评估模型选择研究问题、设计实验和解读结果的能力。
Mistral AI 发布 Mistral Large 4(ML4)公开预览,即日起可通过 Mistral Studio 使用预览 API,计划本月底开放权重。
推荐理由:当前 API 预览与月底开放权重的安排,提供了区分模型能力试用和自主部署的具体背景,尤其关联安全团队对运行控制权的需求。
Google DeepMind 宣布新模型 Gemini 4 Argon,面向编码、企业知识工作和网络安全防御,正通过 Fairwind Program 向部分受信任的网络防御人员开放。
推荐理由:输出上限扩展与代码迁移案例提供了观察长流程工程任务的具体切口,分阶段开放安排也明确了当前能力与普遍可用之间的边界。
Microsoft Research 推出实验性 AI 研究系统 Quine,将多模态生物学世界模型与连接科学工具、文献和研究人员的交互框架结合。在与 Broad Institute 合作的胰腺癌研究中,团队用一个周末完成数千种化合物的预测筛选与候选排序,多项湿实验验证了高排名候选引导细胞状态转变的效果。

推荐理由:胰腺癌实验案例展示了先用模型缩小化合物搜索范围、再用湿实验检验预测的研究路径,为计算与实验协作提供具体参照。
Nathan Lambert 与 Epoch AI 的 JS Denain 对谈递归自我改进、中美模型差距及能力发展不均衡,双方均强调对未来走向存在较大不确定性。
DeepSeek 发布开放权重模型 V4.1 Flash,采用因果编码器—解码器架构,支持 1M-token 上下文及文本、图像输入。Artificial Analysis 报告其 Intelligence Index 得分为 40,高于 V4 Pro;虽然平均每项任务生成 89k tokens,估算单任务成本仍仅为 $0.27。
推荐理由:独立评测将模型得分、输出长度与单任务成本放在一起比较,展示了低 token 定价如何抵消冗长输出带来的部分开销。
多所大学的研究人员构建 SPADE,通过自我博弈生成可执行训练环境,提升大语言模型的游戏任务与工具使用表现。Qwen3-30B-A3B-Instruct-2507 在游戏评测中的平均得分达 58.3,比基础模型高 8.1。另据 METR 分析,AI 显著加速网络漏洞发现,对数学研究的加速较小,对 AI 研究尚无可测量的加速。
