据IT之家理解,人工智能模型须要用大量的数据进行演习,以提高其准确性和性能。演习完成后,人工智能模型就可以用于推理,即实行一些详细的任务,比如根据输入天生文本回答,或者判断一张图片是否包含猫。推理是人工智能技能在产品中广泛运用的环节,但也会增加企业的本钱,个中一个紧张本钱便是电力。
高通公司利用其在为手机等低功耗设备设计芯片的履历,推出了一款专为云端和边缘端供应高性能、低功耗人工智能处理的芯片,名为 Cloud AI 100。该芯片在周三公布的由 MLCommons(一个掩护人工智能芯片行业测试标准的工程同盟)发布的测试数据中,在两项功率效率指标上击败了英伟达的旗舰芯片 H100。

功率效率指标是指每瓦特电力可以实行多少次做事器查询。高通的 Cloud AI 100 在图像分类方面达到了 227.4 次查询每瓦特,而英伟达的 H100 只有 108.4 次查询每瓦特,图像分类可以用于识别图片中的物体或场景。高通还在物体检测方面领先于英伟达,分别达到了 3.8 次查询每瓦特和 2.4 次查询每瓦特。物体检测可以用于剖析零售店的监控视频,理解顾客最常去哪些地方。

然而,在自然措辞处理方面,英伟达却霸占了绝对上风,无论是在性能还是功率效率方面都排名第一。自然措辞处理是人工智能技能中最广泛运用于谈天机器人等系统的技能,英伟到达达了 10.8 次查询每瓦特,而高通排名第二,为 8.9 次查询每瓦特。
高通和英伟达都希望通过供应高效的人工智能芯片来抢占数据中央市场的份额。随着越来越多的企业将人工智能技能融入他们的产品中,这个市场估量将快速增长。









