AMDRyzenAICPU在AILLM和GenAI基准测试中击败英特尔CoreUltra借助XDNA实现低功耗且更便宜

AMD的RyzenAICPU在新的AI基准测试中超越了英特尔的CoreUltra芯片，该基准测试展示了LLM和GenAI工作负载。

AMD分享新的AI(LLM)基准，RyzenAICPU的性能优于英特尔CoreUltra芯片，同时运行功耗低得多

AMD率先进入AIPC领域，去年推出了代号为Phoenix的第一代RyzenAICPU。此后，该公司推出了名为HawkPoint的更新版RyzenAI系列，该系列提供增强型“XDNA”NPU，将AITOPS提升了60%。AMD似乎在客户端和本地化AI工作负载的软件优化方面投入了大量工作，该公司发布的新基准测试表明了这一点。

在新的测试中，AMD强调在本地CPU上运行LLM，这可以通过LLama2、MistralAI_、codellama和RAG等一系列模型来实现。在您的PC上运行本地化的人工智能模型意味着您比在线云平台上的模型拥有更多的隐私，无需在线连接即可节省订阅费用。该公司正在进一步进军这一领域，并发布了最新指南，介绍如何设置自己的本地AI聊天机器人，该机器人可与NVIDIAChatwithRTX聊天机器人相媲美。

AMDRyzenAICPU在AILLM和GenAI处理方面击败英特尔CoreUltra，借助XDNA3实现低功耗且更便宜

在性能测试中，AMD使用15W的Ryzen77840UAPU，并将其与28W的IntelCoreUltra7155H进行比较。这两款芯片均运行16GBLPDDR5-6400内存和最新的驱动程序包。

首先，我们有MistralInstruct7BLLM，其中与英特尔产品相比，AMDRyzen77840UCPU仅用61%的时间完成AI处理，而Llama27B聊天速度甚至更快，Ryzen在54秒内完成任务%的时间。

为简化起见，AMDRyzen77840U(15W)CPU在LLamav2Chat7B(Q4KM)中的性能提升高达14%，在MistralInstruct7b(Q4KM)中的性能提升高达17%。LLamav2Chat中首次令牌速度的时间分别快了79%，MistralInstruct7BLLM中的首次令牌速度快了41%。