实测:老电脑也能跑本地AI应用,“AI PC”是过度营销?

AI快讯5天前发布 niko
5 0
AiPPT - 一键生成ppt

近期,伴随DeepSeek的火爆,智能手机与PC上的“AI应用”吸引了大量目光。普通消费者即便不了解技术细节,也渴望体验AI的奇妙,而终端厂商则借此推广“AI硬件”,如内置AI加速硬件的智能手机与“AIPC”。

智能手机行业早在约10年前就引入“NPU”概念,如今多数手机具备硬件加速AI代码的能力。然而,当前智能手机上的AI应用大多基于“云端AI”运行。这使得消费者即便不了解技术,也能从应用商店下载“AIAPP”,体验AI聊天、文本生成等功能,尽管手机本地“AI运算”参与度可能不高。

相比之下,PC上的情况更为复杂。现阶段的“AIPC”具有一些应用“特权”。PC上有不少依赖服务器算力的纯在线AI助手应用,多来自AI厂商,为推广模型和盈利,对硬件要求不高,但会按使用时间或次数收费,理论上任何电脑配置都能运行。此外,各大厂商推广的“AIPC”产品线,会预装基于本地算力的AI应用供用户免费使用。这些本地AI应用具有不受网络影响、保护隐私、响应速度快等优势,但从官网下载的“本地AI助手”通常带有型号识别机制,非对应型号机型无法安装。

那么,“AIPC”概念出现前的老电脑,是否与本地运行的AI应用无缘?为探究这一问题,“三易生活”找来两台老电脑,一台是基于11代酷睿+DDR4内存、搭配IntelARC A770显卡的台式机,另一台是基于12代酷睿、带有ARC A350M独显的14英寸轻薄本。

测试人员先找来英特尔在MeteorLake-H平台发布时演示用的大语言模型套件。理论上,这些专为NPU优化的套件不应兼容无NPU的11、12代酷睿处理器。但实测结果令人意外,11900K和1280P都能顺利运行该套件,通过CPU实现AI绘图、对话等功能。

为进一步验证,测试人员更换为知名的“绘世启动器”AI绘图软件。该软件充分利用老PC上ARCA770的计算单元和显存,实现了无网络情况下的本地文生图运算。此外,在一些商用AI软件中,也能利用GPU或CPU的算力进行本地AI运算加速,并非必须使用“AIPC”。

为何会出现这种情况?这与“AI PC”的定义有关。尽管现在厂商普遍将带NPU的PC称为“AIPC”,但在NPU出现之前,“传统CPU”和“传统GPU”就已具备加速AI代码运行的设计。

在CPU方面,2018年的酷睿i9 9000X系列首次加入AI加速指令集,2019年10代酷睿移动版IceLake-U家族的DLBoost指令集逐渐普及到家用产品线。此次测试的i9-11900K、i7-1280P虽无NPU,但支持DLBoos指令集,可加速特定格式的AI推理运算。

GPU领域的AI加速功能出现更早。2017年,NVIDIA TITANV成为首款引入Tensor单元、支持AI加速推理功能的消费级显卡,其AI算力高于目前多数消费级CPU内集成的NPU。此次测试的ARC A77016G和ARC A350M集成了专用于AI计算的XMX单元,AI算力也高于多数CPU集成NPU方案。

英特尔还推出了OpenVINOAPi,可同时支持CPU、GPU、NPU和FPGA。此外,测试的11990K台式机上插有英特尔的“AI计算棒2”,其架构是MeteorLake和ArrowLake处理器里集成NPU的前代,理论上可提供额外NPU算力,但目前Windows操作系统和许多AI软件无法将其识别为NPU单元。

尽管“外挂NPU”未能正常工作,但测试证明,PC行业在AI硬件设计上并不滞后,许多老电脑无需NPU也能运行本地AI运算,并得到部分第三方AI软件适配。

那么,现在的“AI PC”是过度营销吗?测试表明,老电脑虽无法像“AIPC”那样便捷地拥有免费本地AI助手,但运行本地AI和加速应用的能力并不缺失,能实现的AI功能与“AI PC”相差不大。

“AIPC”的优势在于,使用高性能NPU和专为NPU优化的软件,可解放CPU和GPU算力,提升PC在运行端侧AI应用时的整体流畅度。例如,同时进行文字生成、图像编辑或游戏与游戏辅助等操作,老电脑可能难以实现。

虽然这是较为理想的情况,需要高性能NPU和用户习惯与AI协同工作,但不可否认,增加NPU使现代PC计算架构为未来更强大的AI功能做好了准备。尽管老电脑的CPU和GPU能实现“无NPU运行本地AI运算”,但也凸显了NPU,尤其是未来高算力NPU对AIPC生态的重要性。

本文来自微信公众号“[三易生活”(ID:IT-3eLife),作者:三易菌,36氪经授权发布。

© 版权声明
智谱清言 - 国产最强AI模型