本站 10 月 30 日消息，amd 刚刚发布了一篇博客，讲述了其 ryzen ai 300 系列移动处理器在本地大语言模型（llm）性能方面的突破。
据称，锐龙 AI 9 HX 375 处理器在 LM Studio（一款用于本地下载和托管 LLM 的桌面应用，基于 llama.cpp，允许用 AVX2 指令来进行 CPU 加速）进行了测试，相比英特尔酷睿Ultra 7 258V 更快。
AMD 在此次测试中使用了 Meta Llama 3.2 的 1b 和 3b 模型、微软 Phi 3.1 4k Mini Instruct 3b 模型、谷歌 Gemma 2 9b 和 Mistral 的 Nemo 2407 12b 模型，其中英特尔平台采用了8533 MT/s 内存，而 AMD 平台则为 7500 MT/s。
如图所示，AI 9 HX 375 上述五个大模型的测试中都比 Ultra 7 258V 更快，无论是速度还是开始输出文本的时间，优势最大时领先幅度达到了 27%。
本站提醒，英特尔 Ultra 7 258V 处理器与 HX 375 并不完全对等，其中 258V 属于中高端产品，而HX 375 属于旗舰型号，AMD 直接对比似乎有点不公平。
当然，LM Studio 同样支持GPU 加速功能，而且 LM Studio 还支持 Vulkan API 进行 GPU 加速。在启用 GPU 加速后，AI 9 HX 375 比不使用 GPU 加速时快了 20%。
以上就是AMD：AI 9 HX 375 处理器在 LM Studio 中 Token 生成速度比英特尔酷睿 Ultra 7 258V 快 27%的详细内容，更多请关注慧达安全导航其它相关文章！
免责 声明
1、本网站名称：慧达安全导航
2、本站永久网址：https//www.huida178.com/
3、本站所有资源来源于网友投稿和高价购买，所有资源仅对编程人员及源代码爱好者开放下载做参考和研究及学习，本站不提供任何技术服务!
4、本站所有资源的属示图片和信息不代表本站的立场!本站只是储蓄平台及搬运
5、下载者禁止在服务器和虚拟机下进行搭建运营，本站所有资源不支持联网运行!只允许调试，参考和研究!!!!
6、未经原版权作者许可禁止用于任何商业环境，任何人不得擅作它用，下载者不得用于违反国家法律，否则发生的一切法律后果自行承担!
7、为尊重作者版权，请在下载24小时内删除!请购买原版授权作品，支持你喜欢的作者，谢谢!
8.若资源侵犯了您的合法权益，请持 您的版权证书和相关原作品信息来信通知我们！QQ：1247526623我们会及时删除，给您带来的不便，我们深表歉意!
9、如下载链接失效、广告或者压缩包问题请联系站长处理
10、如果你也有好源码或者教程，可以发布到网站，分享有金币奖励和额外收入!
11、本站资源售价只是赞助，收取费用仅维持本站的日常运营所需
12、因源码具有可复制性，一经赞助，不得以任何形式退款。
13、本文内容由网友自发贡献和站长收集，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系1247526623@qq.com
转载请注明出处： 慧达安全导航 » AMD：AI 9 HX 375 处理器在 LM Studio 中 Token 生成速度比英特尔酷睿 Ultra 7 258V 快 27%
发表评论 取消回复