近日，英特尔在人工智能（AI）领域又迎来了一个里程碑式的成就。当地时间5月5日，英特尔宣布成为首个在 MLPerf Client v0.6 基准测试中实现全面支持神经处理单元（NPU）的企业。这一成果为客户端 NPU 应用的标准性能评估树立了新的标杆，将对行业发展产生深远的影响。
什么是 MLPerf Client？
MLPerf 是由 MLCommons 联盟推出的一系列机器学习性能基准测试，以推动机器学习框架、硬件和软件的性能提升与标准化。MLPerf Client 是其中一项专注于客户端性能评测的基准测试，旨在对不同公司提供的硬件和软件在 AI 任务上的表现进行比较。为了适应高速发展的技术趋势，MLPerf Client 首次引入了全新专用 NPU 的评估方式，突破了传统以 GPU 为中心的测试模式。
英特尔的突破
英特尔此次的测试结果表明，其酷睿 Ultra 200 处理器在结合 NPU 和内置的 Arc GPU 时，性能相较于行业其他竞争者显示出了显著的优势。根据官方数据，该处理器在多个基于 Llama 2 7B 模型的内容生成与摘要测试中，表现尤为突出：
1. 最短的 NPU 响应时间：英特尔的处理器首个词元生成时间仅需 1.09 秒（首 token 延迟），在多轮测试中都占据了领先地位。
2. 最高的 NPU 吞吐量：测试数据显示，英特尔的 NPU 能够达到每秒生成 18.55 tokens 的速度，远超行业平均水平。
3. 领先的 GPU 表现：不仅是 NPU的性能，英特尔的 Arc GPU 在首个词元生成时间上也显示出竞品难以匹敌的表现。
英特尔客户端 PC 产品营销副总裁兼总经理丹尼尔·罗杰斯（Daniel Rogers）表示：“我们为能够引领行业的步伐而感到自豪，特别是在实现客户端 PC 的全 NPU 加速及领先的 GPU 性能方面。”
测试配置
此次测试采用了两种主流配置进行比较，包括英特尔和 AMD 的。配置细节如下：
| 项目 | AMD | 英特尔 |
|------------|-------------------------------------|--------------------------------------|
| | 华硕 Zenbook S 16 | 华硕 Zenbook S 14 |
| 型号 | UM5606WA | UX5406SA |
| CPU | AMD 锐龙 AI HX 370 | 酷睿 Ultra 9 288V |
| BIOS 日期 | 2025 年 3 月 21 日 | 2025 年 2 月 26 日 |
| BIOS 版本 | UM5606WA.317 | UX5406SA.306 |
| 内存 | 32GB LPDDR5，7500MHz | 32GB LPDDR5，8533 MHz |
| 显卡 | AMD Radeon 890M | 英特尔 Arc 140V |
| 存储 | 1TB | 1TB |
| 操作系统 | Windows 11 专业版 x64 | Windows 11 专业版 x64 |
行业影响
英特尔在 MLPerf Client 基准测试中取得的全 NPU 支持不仅是其技术创新的体现，更是推动整个 AI 技术生态发展的关键因素。随着智能设备在各个领域的大规模应用，NPU 作为高效执行 AI 计算的专用硬件，其重要性愈加凸显。
这一成就有望激励其他公司加速技术创新，加大对 NPU 与 AI 计算结合的探索力度。同时，透过 MLPerf 的标准化测试，企业间在技术应用上的透明度也将提高，从而促进市场的良性竞争与合作。
英特尔的这一里程碑式成就不仅为企业自身打下了良好的基础，更为整个行业的未来发展指明了方向。随着 NPU 技术的成熟与普及，客户端 AI 应用的性能将持续提升，为最终用户带来更为高效和智能的体验。未来，我们期待看到更多企业跟随英特尔的步伐，实现技术创新与商业应用的双重突破。