郑纬民表示,算力是大模型家当的紧张开销,占到了大模型演习本钱的70%,大模型推理本钱的95%。基于英伟达公司的GPU系统硬件性能好、生态好,而基于国产AI芯片的系统用户不太喜好用,缘故原由在于国产的生态系统不太好。
“国产AI芯片只要达到国外芯片60%的性能,如果生态做好了,客户也会满意。大多数任务不会由于芯片性能只有60%而有明显感知,大家觉得到的不好用还是生态弗成。”郑纬民说。
什么叫生态好?郑纬民下了一个定义:如果原来用英伟达写了一个人工智能软件,现在很随意马虎移植到国产系统上去,这叫生态好。如果移植起来没有这个库,没有一年、两年移不过来,生态就不好。
他表示,改变过程生态系统不好的局势,要做好十个软件:编程框架、并行加速、通信库、算子库、AI编译器、编程措辞、调度器、内存分配系统、容错系统、存储系统。
编辑 岳彩周
校正 刘军