目前，英伟达已经售出15亿块GPU，它们都有相同的架构CUDA。黄仁勋表示，通过全栈优化，GPU可以实现摩尔定律的加速。
英伟达想要做的不仅是加速摩尔定律，也要推动显示技能的创新。
RTX的新进展
去年，英伟达发布了RTX新一代GPU架构——Turing（图灵），以及一系列基于图灵架构的RTX GPU。黄仁勋表示图灵架构为英伟达十多年来在打算机图形领域最主要的创新，将光芒追踪技能引入英伟达的GPU中。发布之后，已经有多款游戏支持RTX，并且采取RTX技能的开拓者输俩个迅速增长。
黄仁勋本日宣告了6款支持RTX的，还展示了仅由一个人利用RTX技能制作的视频。
除此之外，英伟达还创造出了Max-Q设计，它将超高的GPU能效和总体系统优化集于一身，可以用于轻薄的高性能条记本电脑。
高性能的条记本是游戏必须可少的，但随着云打算的遍及，云游戏也将越来越遍及。黄仁勋在GTC China 2019上也宣，英伟达与腾讯游戏互助推出START云游戏做事，该做事已从今年初开始进入测试阶段。START使游戏玩家可以随时随地，纵然是在配置不敷的设备上也能玩AAA游戏。
光芒追踪引GPU是英伟达去年最重磅的发布，英伟达也正在推动这项技能更多的运用。今年，“核弹”产品无疑是面向下一代汽车和机器人的Orin的发布。
“核弹”产品——下一代的汽车和机器人技能Orin
黄仁勋在演讲当中提到， 该芯片由170亿个晶体管组成，凝聚着英伟达团队为期四年的努力。Orin系统级芯片集成了英伟达新一代GPU架构和Arm Hercules CPU内核以及全新深度学习和打算机视觉加速器，每秒可运行200万亿次打算（200TOPS），险些是英伟达上一代Xavier系统级芯片性能的7倍。Orin操持2022年投产。
Orin可处理在自动驾驶汽车和机器人中同时运行的大量运用和深度神经网络，达到了ISO 26262 ASIL-D等系统安全标准。
作为一个软件定义平台，DRIVE AGX Orin能够赋力从L2级到L5级完备自动驾驶汽车开拓的兼容架构平台，助力OEM开拓大型繁芜的软件产品系列。由于Orin和Xavier均可通过开放的CUDA、TensorRT API及各种库进行编程，因此开拓者能够在一次性投资后利用跨多代的产品。
Orin也已经得到了互助伙伴的支持，滴滴与英伟达一起共同推进自动驾驶和云打算领域的发展和互助。据悉，滴滴已经选择英伟达DRIVE作为他们的L4级的AV平台和云打算平台。其余，滴滴会采取英伟达的AI技能运用，用在它们的自动驾驶车辆当中，并且也支持“滴滴云”。
5年以前很多人就说：“2020年就能够看到自动驾驶的车辆了。”如今立时进入2020年了，但是到现在还没有实现这个目标，技能还在向前推进，全体业界也意识到这个事情的繁芜度远比我们想像的要高。
转移学习和联邦学习进一步降落AI门槛
面对自动驾驶最核心的需求“安全”，英伟达开拓了 “端到端平台”，即：在数据中央中的AI。也便是说，真正技能在道路上利用之前，首先是要在数据中央进行验证。
对付自动驾驶来说，第一步便是海量的数据网络事情。在有人驾驶的车辆上，须要安装很多的传感器。包括些摄象头、雷达，它们的浸染便是网络大量的数据。
一样平常情形下，一辆车一天在表面开6小时-8小时，每周就会网络到PB级的数据。意味着这些扯有海量的信息须要进行处理、标记、存储、演习，从而更好的理解周围的环境，并且识别其它的车辆、车道信息等。
实在，早前基于英伟达的DRIVE构造，汽车厂商已经可以构建和支配具有功能安全性、并符合诸如ISO 26262等国际安全标准的自动驾驶乘用车和卡车。此外，英伟达也开拓了一个开放的软件平台，包括驾驶的操作系统等。
除此之外，英伟达也开拓了很多“深度神经网络”来识别各种各样的东西。也便是迁移学习，预演习的模型可以进行调度以适应原始的设备制造商，包括主机厂、传感器和详细的地区哀求，当然调度的自由度是有限定的。
例如：检测路上的一些物体、路标，以及处理雷达、激光雷达。按照英伟达的说法，目前全体的这一系列软件，现在都可以给业界开放利用。这些都是基于英伟达自主知识产权的“预演习”模型，也是在他们的“云”上来进行演习的。
英伟达的策略是“深度开放”，无论是乘用车还是卡车，他们都可以对这些进行定制化。也便是说，客户可以把自己的数据放到这些模型当中，然后基于这些模型不断的进行优化。不过，这些都是基于TensorRT来实现的，这也能够进一步加速这些自动驾驶公司研发的进程。
英伟达推出的其余一个技能，就叫“联邦学习”。这项技能是极其主要的，它不仅仅是在汽车行业，在很多行业都能够充分利用，尤其是那些对付数据隐私非常看重的行业，例如医疗。在医疗行业，很多的数据是不能够跟其他人共享的。以是它可以利用我们的这项技能，基于他们的数据来创建各种各样的AI模型。
“联邦学习”最紧张的功能便是能够担保数据隐私不被陵犯。按照官方说法，无论是医院、实验室、汽车公司，大家都可以去开拓并且演习这些神经网络，数据还可以保存在本地。
黄仁勋举例道，目前很多公司都在美国和中国有往来业务，数据在传输方面实在是有一些限定的。利用“联邦学习”，他们就可以担保数据还存在本地，但是可以把一些演习和处理后的结果上传到一些环球的做事器上。以是 联邦学习实在对付公司之间的互助，包括各品牌之间的互助、各地区之间的互助是非常有用的，由于它能够担保数据隐私不被陵犯。
更主要的是，这些工具让汽车客户能够去针对他们自己的车型来定制化自己的软件，这个是之前做不到的。
英伟达全新版本Isaac软件开拓套件（SDK），为机器人供应更新的AI感知和仿真功能。黄仁勋提到，在建立统一的机器人开拓平台以实现AI、仿真和操控功能方面，Isaac SDK迈出了主要的里程碑。Isaac SDK包括Isaac Robotics Engine（供应运用程序框架），Isaac GEM（预先构建的深度神经网络模型、算法、库、驱动程序和API），用于室内物流的参考运用程序以及Isaac Sim的第一个版本（供应导航功能）。
值得把稳的是，新版本引入了一项主要功能——利用Isaac Sim演习机器人，并将所天生的软件支配到在现实天下中运行的真实机器人中。这有望大大加快机器人的开拓速率，从而实现综合数据的演习。
GPU更换CPU，本钱仅1/10，性能提升百倍
自动驾驶、机器人是AI落地的代表运用，AI技能如今在数据剖析和挖掘、高性能打算中发挥着更加主要的浸染，英伟达已经推出了面向演习、云端、终端、自动驾驶的AI平台。AI对付拥有大量数据的科技公司尤为主要，比如推举系统，如果没有推举系统，人们无法从上万亿次网页检索、几十亿淘宝商品、几十亿抖音视频、各种新闻中找到自己须要的内容。
因此，一个能够要深度理解每一个用户，在精确韶光给出精确的推举的推举系统极为关键。
百度AIBox推举系统采取英伟达AI，100多个推举模型被利用在百度的浩瀚运用中。雷锋网理解到，这个别系基于英伟达Telsa v100 GPU，利用这些TB级的数据集去创建一个模型、在GPU上演习这些数据，然后把它放到GPU的内存当中去演习这种TB级别的数据，GPU演习本钱只有CPU的十分之一，并且支持更大规模的模型演习。
还有线上购物，今年淘宝双十一成交额达到了2684亿元，较 2018 年的 2135 亿同比增长了 25.7%，这须要强大的云打算平台来支撑。同样关键的是，双十一5亿的淘宝的用户要从20亿商品中挑选最得当的产品是一件非常困难的事情，如果一个用户每一秒看1个商品，须要花费32年韶光才能浏览完20亿个商品。
阿里巴巴搭建的推举系统采取了英伟达的T4 GPU，推举系统的吞吐量得到了大幅提升。面对每秒几十亿次的推举要求，CPU速率只有3 QPS，英伟达GPU则提升到了780 QPS，提升百倍。
虽然拥有自研云端AI芯片，但为理解决推举系统面临的两大寻衅，阿里和百度都选择利用英伟达的GPU构建推举系统，这个中很主要的缘故原由是系统的构建面临两大寻衅。一个是推举模型及其繁芜，须要处理的参数非常多，这就意味着须要非常强的打算能力，另一大寻衅是推举系统须要进行实时打算并给出反馈。
从结果来看，利用善于并行打算的GPU构建推举系统比利用CPU构建推举系统本钱大幅降落或性能实现了百倍提升。。
当然，AI功能的实现并非纯挚来自硬件，软件和模型的优化也非常主要，这也是实现会话式AI的关键。
软件优化是实现会话式AI的关键
业界越来越意识到，即便AI芯片算力再强，不能充分利用其算力并不能实现很好的AI功能，因此AI芯片的有效算力正成为衡量AI芯片的关键指标。软硬件结合以及软件优化意义重大，比如在高性能打算的运用中，要利用CUDA进行全基因组测序，或用于研究畜牧业、农业和导致疾病的微生物。
英伟达今年6月也宣告CUDA年底前支持Arm生态系统，让基于Arm的芯片可以更多地运用于超算系统中进行更多地深度学习打算。
根据黄仁勋给出的数据，GPU+Arm的硬件，加上CUDA以及TensorFlow的优化，Arm进行深度学习的性能是x86处理器性能的96%。
一个更为关键的软件平台是此前推出的打算图优化编译器TensorRT，去年英伟达发布了 TensorRT5，通过优化PyTorch和TensorFlow等框架中演习出来的AI模型，减少打算和内润访问，让模型在GPU上运行的效率大幅提升。
GTC China 2019上，黄仁勋宣告推出TensorRT 7，它支持各种类型的RNN、Transformer和CNN。TensorRT 7能够领悟水平和垂直方向的运算，可以为开拓者设计的大量RNN配置自动天生代码，逐步领悟LSTM单元，乃至可跨多个韶光步长今日那个领悟。比较TensorRT5只支持30中变换，TensorRT 7能支持1000多种不同的打算变换和优化。
Transformer一个范例的例子便是BERT，它有很多非常前辈的自然措辞理解的功能。RNN一多用于语音识别或者是将文本转化针言音。这些模型和算法对付会话式AI非常关键，也正是TensorRT 7可以发挥浸染的范例运用。
由于想要实现会话式AI，首先须要把语音转化为笔墨，然后通过AI语音算法模型得到须要的语音，并理理解其含义，再将回应合成为语音进行回答。对话式AI须要可编程性、丰富的软件堆栈以及低GPU延迟，基于TensorRT 7这一系列繁芜的在300毫秒（0.3秒）内就能完成。
故意思的是，去年的GTC China上，黄仁勋由于现场不雅观众没能实时理解他的演讲，他表示希望未来借助AI能够把他的英文演讲实时翻译成中文。今年的GTC China刚开场，黄仁勋就表示他本日的演讲依旧会利用英文，希望未来某一天他用英文演讲，但AI可以把它翻译成任何一种听众须要的措辞。
看来，间隔这一天的到来又近了一步。
无论是云端、终端还是高性能打算，英伟达都已经推出了对应的硬件平台和产品，软件优化的主要性也正在突显，软件定义也能大大提高AI的效率。
雷锋网("大众年夜众号：雷锋网)小结
AI的竞争正变得越来越激烈，对付AI芯片公司而言，供应更高有效算力、更易用的软件平台无疑是吸引用户的关键，因此英伟达花费数十亿美金打造了下一代SoC，算力高达200TOPS。同时也推出的新一代推理优化软件平台Tensor RT，转移学习、联邦学习的办法，能更好地推动AI落地，这也是英伟达发布更多软件产品的缘故原由。
同时也要看到，对付任何一家想要利用AI技能保持领先的公司而言，他们乐意考试测验任何一种能够实现最好效果，总体拥有本钱最低的软硬件方案，这是英伟达能够说服阿里和百度利用GPU构建推举系统的缘故原由。
GPU的通用性搭配上更好的软件优化显然能够连续在AI的运用中发挥主要浸染，而软件定义硬件能够让硬件拥有更长的生命周期，但正如GTC China 2019开场视频中所提到的AI的运用涉及工业、医疗、物流等等，黄仁勋也表示GPU不是要替代CPU，而是AI负载一个更好的选择。
随着算法的演进以及浩瀚AI软硬件办理方案的推出，未来谁将主导市场仍旧未知。
老黄的演讲一贯是一年一度 GTC CHINA 最不容错过的精彩环节，今年的分享，他对 AI 领域的未来提出自己独到见地与预测。AI研习社作为AI向的开拓者和学生群体的聚拢地，依旧对本次演讲进行完全直播。错过直播的童鞋别桑心，我们已知心准备了回放，欢迎网站搜索“AI研习社” 或者扫下方二维码免费预约查看视频回放。
