苹果于12月6日宣布推出mlx,一款专为apple silicon设计的开源。 这款框架的目标是让 ai 开发者能在其项目中进行构建、测试、使用及优化。

基准测试中表现出色
开发者oliver wehrens 近期分享了在苹果m1 pro、m2及m3芯片上对mlx框架的基准测试结果,并与 rtx 4090显卡进行了比较。 测试中使用了openai的语音识别模型 whisper。
wehrens 使用 whisper 模型进行语音转写,并测量处理 10 分钟音频文件所需的时间。 结果显示,m1 pro芯片的表现略逊于nvidia gpu,处理音频需216秒,而4090则需186秒。
然而,新一代apple silicon的表现则大幅提升。 例如,另一名测试者在配备76个gpu的m2 ultra和40个gpu的m3 max上运行相同的音频文件,发现这些芯片的语音转写时间少于nvidia gpu。

功耗上的显著差异
apple silicon 与 nvidia 显卡在功耗上存在显著差异。 具体来说,比较搭载 nvidia 4090 的 pc 在运行与待机状态下的能耗,增加了 242 瓦。 相比之下,搭载16个m1 gpu核心的macbook在活动状态与待机状态下的能耗差异仅为38瓦。

苹果在 ai 和机器学习领域的进展
值得一提,nvidia 4090 gpu价格从1,599美元起步,还不包含pc,这与2022年的m3 macbook pro同价! 这些结果突显了苹果在人工智能和机器学习能力方面的进步,可能是苹果产品更好性能的开始。 随着mlx框架现已开源,为开发者提供了更广泛应用和创新的途径。
原创文章,作者:校长,如若转载,请注明出处:https://www.yundongfang.com/yun270821.html