跳到正文
Mistral AI·· 17 天前精选AI 评分77

Mistral AI 发布 Mistral Large 4 公开预览,计划本月底开放权重

Introducing Mistral Large 4

AI 导读

Mistral AI 发布 Mistral Large 4(ML4)公开预览,即日起可通过 Mistral Studio 使用预览 API,计划本月底开放权重。

推荐理由

当前 API 预览与月底开放权重的安排,提供了区分模型能力试用和自主部署的具体背景,尤其关联安全团队对运行控制权的需求。

正文 · AI 翻译

Le Chonk 

今天,我们推出 Mistral Large 4 的公开预览版。它的非正式简称是 ML4,而非常正式的称呼则是:le Chonk。ML4 将开放权重模型的性能推向新前沿。你今天就可以在 Mistral Studio 上试用预览版 API。权重将于本月底发布。

前沿性能

ML4 是一款拥有 1 万亿参数的原生多模态模型,激活参数为 520 亿。它是我们迄今为止规模最大、能力最强的模型,而且随着我们的持续优化,其能力仍在快速提升。

该模型在编程、智能体工作流和多模态理解方面表现出色。它的性能已能与全球最强的开源模型相媲美,同时显著超越美国或欧洲开发的任何开放权重模型。在网络安全、金融和法律等关键企业工作负载中,我们发现它的表现处于开放模型的最先进水平。在视觉定位等一些领域,它甚至更进一步,超越了前沿闭源模型。

我们将在本月底前发布权重。在此之前,我们正与网络安全领域的领军机构、经过审核的合作伙伴以及国家主管部门一道,在真实环境中对模型进行红队测试;这些参与方将能够访问同一模型,但内容审核限制更少,网络安全能力也得到扩展。

锻造于欧洲。为 AI 主权而生。

ML4 在 Mistral 位于欧洲的自有数据中心内,使用 3,800 块 NVIDIA Grace Blackwell GPU 从零开始训练。公开预览版也由同一套基础设施提供服务。这是我们在基础设施、研究和产品开发方面长期投入的一个重要里程碑:通过开放权重交付关键垂直领域的最先进性能,旨在让客户掌控自己的 AI。

这一点在网络安全领域尤为重要,因为提供商层面的拒绝响应可能阻碍合法的漏洞研究和事件响应,而在事件处置过程中失去某项能力的访问权限,本身就可能构成重大安全风险。ML4 将顶级网络安全性能与开放权重、自主部署相结合,让组织既有能力,也有自主权,能够按照自己的政策开展高级安全工作。

该模型将在全球多个地区提供服务,其中包括由 Mistral 全程运营的欧洲部署,该部署独立于其他数字服务提供商,并受欧洲法律管辖。一个有趣的事实:ML4 的训练数据中有相当大一部分是多语言数据,涵盖超过 160 种语言,包括欧盟的每一种官方语言。 

我们一直与全球金融、工程、制造、物流、制药、科学、航运、公共部门及其他任务关键型行业的领先企业密切合作,共同训练 ML4。事实上,该模型使用的训练、定制和强化学习环境,与我们通过 Mistral Forge. 向客户提供的环境相同。

立即试用

更多内容还将陆续公布。在推进权重发布的过程中,我们将分享有关模型架构、更多基准测试以及后训练方法的进一步细节。

该模型也将成为新一代专用和优化版 Mistral 模型的基础。与此同时,我们邀请你试用预览版 API,并在社交媒体上与我们分享反馈。

能力深度解析

网络安全

ML4 是全球网络安全领域最强的 AI 模型之一。在 Artificial Analysis Cyber Index 这一独立评估 AI 模型发现和修复真实软件中安全漏洞能力的榜单上,它位列全球前五,并大幅领先于中国以外开发的开放权重模型。在该指数的一项测试中,模型需要复现开源软件中的一个真实漏洞,然后修补它,ML4 得分为 82%,在所有模型中最高。它还解决了 Cybench 中 93% 的挑战;Cybench 包含从安全竞赛中选取的 40 道练习题,这一成绩是已公布的开放权重模型最高分之一。

这一最高分反映了一项实际优势。包括 Claude Opus 5.5 和 GPT-6 Astra 在内的几款领先闭源模型,在同一项测试中得分接近零,因为它们拒绝执行任务。然而,软件防御往往始于证明漏洞确实存在,而这恰恰是闭源模型的安全过滤机制可能阻止的工作。随着威胁行为者越来越多地通过越狱这些模型来支持进攻性网络活动,这一点变得更加重要:防御者需要能够匹敌这些能力、又不受同类拒绝机制限制的系统。ML4 能够完成这些工作,而且其能力超出了专门训练的范围:在内部测试中,它在恶意软件分析、漏洞优先级排序和检测规则编写方面都展现出了实用价值。对于需要自主可控、可审计 AI 来开展安全运营的组织,它将能够在私有云或本地部署环境中运行。

ML4 与同类模型的对比:针对多样化复杂挑战进行高效推理
恶意软件逆向工程:解决分布外的调查任务

智能体编程

ML4 在软件工程、代码仓库理解和复杂终端工作流方面表现出色,在 DeepSWE v1.1、SWE-Atlas-QnA 和 Terminal-Bench 4 上的得分分别为 61.7%、59.4% 和 28.3%。它的 Coding Agent Index 综合得分为 49.8%,领先于 DeepSeek V4 Pro 0813 和 Qwen3.8 Max。

我们还与 Surge AI 合作,对代码质量开展了人工盲评:专业标注员在不知道模型身份的情况下,以 1–5 分的标准对模型输出进行评分。ML4 Preview 在五款模型中排名第二(3.74),领先于 Kimi K3(3.59)、GLM-5.3(3.60)和 GLM-5.2(3.40),仅次于 Claude Opus 5(4.22)。

智能体工作流

ML4 可驱动通用智能体,在复杂工作流中收集信息、使用工具并产出最终交付成果。在 AutomationBench 上,它的得分为 59.9%,领先于 Kimi K3、MiMo-V2.6-Pro 和 DeepSeek V4 Pro。该基准涵盖 Gmail、Google Sheets、Slack 和 Salesforce 等应用中的 657 个业务工作流。

在知识工作实际产出的专业交付成果方面,它同样表现强劲,包括电子表格、幻灯片和 PDF。在评估长周期知识工作的 AA-Briefcase 上,它的 Elo 评分达到 1,393,领先于 DeepSeek V4 Pro。

多模态

ML4 使我们的模型在图像理解能力上实现了跃升。它能够针对复杂文档、图表和自然图像进行强大的推理,并将视觉能力带入工程、制造和地球观测等对感知至关重要的行业。

该模型还能将视觉定位与智能体能力进一步结合:从检查十亿像素级卫星图像——帮助灾害响应团队在分秒必争时采取行动——到分析工程图纸——不断放大、检查和核验,直到得到准确答案。在上面的演示中,ML4 在密集的自然场景中进行定位,核验技术图纸中的机械零件,从 PDF 中检索证据,并扫描海量地理空间图像,寻找最难发现的物体。

尤其在视觉定位方面,我们发现 ML4 是我们测试过的能力最强的模型之一,例如在 Dense 200 上超越了 GPT-6-Astra(42% 对 41%)。

科学与数学

通过将 AI 驱动的方法与我们研究人员在数学、物理和化学领域的专业知识相结合,ML4 具备了强大的科学能力。

它非常擅长通过智能体编程完成数据分析、建模和模拟物理现实等科学任务,让研究人员能够专注于问题本身,而非底层实现。在基准测试中,ML4 在 SciCode-Verified 上的表现处于开放权重模型的领先水平。在实际应用中,它可以一次性生成完整的 Hartree–Fock 模拟——这是一项由一系列高级计算流程构成的复杂、多步骤化学任务。

ML4 的数学能力也更强了,涵盖形式化推理和应用数学。在我们的人工评估中,它的推理比 GLM-5.3 更精确、更有条理,而且能够持续完成耗时较长、针对特定领域的应用数学任务,包括与前沿理论物理相关的工作。

这些能力共同使 ML4 成为强大的研究助手,能够覆盖从最初提出问题到得出最终结果的整个技术工作流程。

SciCode-Verified 测试模型通过代码实现复杂科学工作流程的能力,涵盖物理、数学、材料科学和生物学等领域。 

ML4 与 GLM5.3 在 STEM 任务(数学和物理)上的内部评估

知识工作

ML4 是我们在处理专业人士日常面对的现实任务方面能力最强的模型。它能够创建、编辑和修复复杂的电子表格与文档,在法律和金融基准测试中均表现出色。

值得注意的是,我们通过第三方评估机构(vals.ai)在法律和金融领域的代表性任务上对 ML4 进行了评估,发现该模型在这两类任务中均超越了 GPT-6-Astra。在 HarveyAI 的 Legal Agent 基准测试中,ML4 的表现优于所有开源模型。

FinWorkBench 测试模型在真实金融和会计用例中创建/编辑电子表格的能力。

财务分析要求精确性以及综合多方信息的能力,而如今在许多金融机构中,这一过程仍然十分耗时。在这段演示中,ML4 与其他顶尖开源模型一同应对同一项多步骤企业财务挑战,检索上市公司申报文件和财务报告,例如通过 EDGAR 及欧洲同类数据库获取的资料。一幅动态语义地图追踪每个模型通往解决方案的过程,突出显示沿途检索到的每一份文档。每条轨迹的位置反映了所收集的证据、计算结果以及尚未解决的问题。观众可以跟随调查的展开过程,并比较各模型在得出最终答案之前所走的不同路径。

模型安全

ML4 在我们针对间接提示注入鲁棒性的基准测试中已达到饱和水平,跻身 OSS 模型的前沿行列(对比对象包括 GLM-5.2、GLM-5.3、Kimi-K2.6、Kimi-K3、DS-V4-Pro-0813)。在 Lakera 公开的 B3 AI 安全基准测试中,ML4 抵御了 93.3% 的攻击——我们尚未发现竞争对手取得更高分数。

ML4 与用户互动时也比我们以往的任何模型都更加负责任。我们重点展示其在 KORA 基准测试中的成绩:ML4 再次取得了我们在 OSS 模型中测得的最高分(1.691,满分为 2,标记为“典范”)。 

尤其值得关注的是,该模型倾向于拒绝与网络安全有关的恶意请求。尽管它在网络安全基准测试中表现出色,但对于来自 JailbreakBench、StrongREJECT 和 AgentHarm 的网络安全提示,其平均拒绝率高于所有 OSS 模型。

人工评估

我们开展了一项内部评估,由编程、计算机辅助设计(CAD)、金融、数学和物理领域的专家标注员对 Mistral Large 4 与 GLM-5.3 进行比较。在 CAD 和 STEM 领域,评估者更青睐 ML4;而在金融和编程领域,ML4 的表现与 GLM-5.3 相当或接近。

大规模强化学习

基础模型正在快速进步,我们的后训练也必须跟上步伐。为过去的模型调优的训练方案,无法充分发挥当今前沿模型的能力,因为那些曾将模型推至极限的真实标注样本,如今已不再具有同样的挑战性。我们采用强化学习(RL),因为它能随模型一同适应变化:我们利用模型自身尝试的结果进行训练,并随着模型能力增强,提高任务难度、拓宽任务范围。

我们的 RL 库旨在方便添加新环境并开展大规模训练。统一且可组合的接口,让单次训练能够结合多种任务,涵盖单轮对话、复杂科学问题求解,以及安全对齐、事实准确性和长时程工具使用。这些环境共享代码沙箱、网页搜索和外部 API 等框架与资源。同样的可组合性也延伸到了验证环节,可以根据每项任务的需要,组合使用奖励模型、单元测试、LLM 评判器和静态检查。

运行时,一个可自动扩缩容的执行器集群会并行生成数万条 rollout,而模型训练则异步进行。生成与训练流水线针对长轨迹进行了优化,支持在多次压缩过程中使用数百万 token 的 rollout 预算,同时将数据陈旧程度保持在较低水平。贯穿这两个阶段的新方法和优化最大限度地减少了离策略偏移,使长时程 RL 能够稳定进行。

在我们目前的规模(3k GPU)下,单次训练每天大约生成 330 亿 token,经过过滤和掩码处理后,其中约有 160 亿是可用于训练的补全 token。我们可以直接从训练 rollout 中看到训练进展:随着策略学会解决日益复杂的任务,多个代表性环境中的训练奖励不断提高。以下是几个示例。

这些改进并不局限于我们用于训练的环境;它们还能迁移到下游评估中。如图表所示,最终模型的这些改进得益于两个后训练阶段(监督微调和 RL)。

下一步

这仅仅是个开始。ML4 是我们 €3 billion D 轮融资所资助路线图上的首个里程碑——这是欧洲科技公司有史以来规模最大的股权融资。这笔资金已经投入使用:我们正大幅扩充自有欧洲数据中心的算力,未来几个月还将有更多算力陆续上线。

更多算力意味着更多训练。支撑此次预览的强化学习训练仍在进行中,模型尚未显示出任何趋于饱和的迹象——未来仍有巨大的提升空间。随着我们利用扩建后的基础设施扩大训练规模,我们预计,未来几周和几个月内将迎来幅度大、速度快的改进。

我们将在本月底前发布模型权重,以及更多架构细节、额外的基准测试结果和我们的后训练方法。而 ML4 只是基础:它将作为新一代专业化、经优化的 Mistral 模型的基座,这些模型将针对客户最关注的行业和工作负载打造。

接下来的进展将十分迅速。敬请期待。

来源:Mistral AI · mistral.ai