开场 - 孟庆, NVIDIA中国区网络市场总监
强调了在大模型演习和推理快速发展的背景下，对AI算力的无限需求。
谈论了如何通过提升GPU效率和利用率来在AI演习中取得领先地位，并提高投资的经济性。
先容了Nvidia的Infiniband网络和Spectrum-X办理方案，这些方案旨在为云打算运营商和AI创新企业供应高性能、高吞吐、低延迟的网络。
强调了Nvidia DPU和Docker环境在开释GPU集群潜力中的浸染。
主题演讲：大打算时期的网络 -宋庆春, NVIDIA网络亚太区高等总监
谈论了ChatGPT的涌现如何引领我们进入大打算时期，以及对算力需求的增长。
强调了数据中央作为算力中央的主要性，以及如何通过重新设计数据中央来知足超大算力的需求。
描述了数据中央架构变革的方向，包括AI工厂和AI云做事的观点，以及Nvidia的nvlink和infiniband组合在供应极致性能方面的浸染。
先容了ML perf作为衡量打算平台性能的工具，以及NVIDIA在软件和硬件层面的持续优化。
主题演讲：NVIDIA高效网络方案助力大模型运用 - 冯高峰, NVIDIA网络技能市场高等总监
谈论了NVIDIA在网络方面的独到之处，以及这些网络方案如何帮助构建高效的AI打算中央。
先容了大措辞模型的演习和推理，以及如何通过网络性能提升集群运行性能。
提到了Superpod参考架构，以及如何通过该架构得到高性能。
谈论了Infiniband网络技能的发展和在AI领域的运用，以及其性能上风。
主题演讲：NVIDIA Spectrum-X构建以太网为底座拥有极致性能的AI集群 - 陈龙, NVIDIA网络市场开拓总监
先容了Spectrum-X平台，以及如何通过该平台构建高性能的AI集群。
谈论了大模型兴起对AI市场的影响，以及以太网在云做事中的上风。
强调了Spectrum-X平台在供应高性能网络传输方面的能力和运用处景。
主题演讲：DPU裸金属在大模型场景的运用 - 王晓慧, UCloud打算产品中央研发总监
分享了DPU裸金属产品的迭代和在大模型场景下的运用。
谈论了BlueField卡的核心代价，以及如何通过BF卡迭代裸金属产品。
先容了却合裸金属产品和高性能GPU卡组建演习集群的方法。
磋商了构建制算平台以方便算法工程师提交模型任务，以及AI GC方向的运用探索。
总结：本次会议深入磋商了高性能AI网络的构建和优化，特殊是在大模型演习和推理方面的运用。NVIDIA的专家和UCloud的代表分享了他们在网络技能、DPU裸金属产品以及AI集群构建方面的履历和见地。谈论了如何通过技能创新来知足日益增长的AI算力需求，并供应高效、可扩展的办理方案。通过这些谈论，与会者能够更好地理解当前AI领域的技能趋势和最佳实践。
【GTC 2024】What’s Next in Generative AI 会议要点
-Manuvir Das，NVIDIA 企业打算副总裁
-Brad Lightca，OpenAI 首席运营官
OpenAI的角色与日常事情
Brad Lightca 作为 OpenAI 的 COO，他的事情重点是将实验室中的研究转化为能够做事于客户、用户和互助伙伴的实际运用。他大部分韶光都在与客户打仗，探索技能如何融入现实天下，并预测未来几年技能的发展。
企业对ChatGPT的运用
只管ChatGPT最初并非为企业设计，但OpenAI 创造企业中有大量对ChatGPT感兴趣的运用程序。超过90%的财富500强公司正在利用ChatGPT，而且公司的每个职能部门都找到了利用这项技能的方法。
企业客户的互助履历
OpenAI 与企业客户的互助非常投入，尤其是在帮助企业提高运营效率方面。例如，财务团队可以利用ChatGPT来剖析大量数据和进行记录调度，将HR转变为数据科学家。
OpenAI的义务与角色
OpenAI 的义务是确保技能的好处得到广泛分配。他们不仅供应做事，还致力于成为运用程序开拓职员的完全工具集，帮助他们构建技能、工具和运用程序。
模型生态系统的发展
OpenAI 正在探索大型模型和小型模型在企业中的运用。他们认为，不同的模型可以针对不同的用例进行分外优化，以提高性能。
企业对AI技能的运用策略
OpenAI 建议企业从办理两三个详细问题的领域开始，然后逐步扩展。他们鼓励企业让团队打仗技能，以自然的办法创造技能的代价。
GPT的定制模型
OpenAI 推出了GPT的定制模型，许可用户根据自己的需求定制ChatGPT。这为企业供应了巨大的吸引力，由于他们可以根据自己的特定事情流程定制模型。
AI的未来发展方向
OpenAI 认为，AI模型的核心能力将不断提高，特殊是在推理和实行方面。他们预见到AI将作为推理代理，能够提取信息、思考并采纳行动。
技能的人性化
OpenAI 和NVIDIA 都认为，技能的人性化是未来发展的关键。他们预见到，随着韶光的推移，人们与打算机的互动办法将发生根本性变革，更加自然和直不雅观。
企业的AI采取和变革
OpenAI 不雅观察到，企业对AI的采取和变革正在加速。他们认为，AI技能将帮助企业改进运营、提高效率，并为企业带来新的机会和代价。
总结：本次会议谈论了OpenAI在企业打算领域的事情和愿景，以及他们如何看待AI技能的未来发展方向。OpenAI 强调了技能的民主化、人性化界面的主要性，以及他们如何帮助企业通过AI提高效率和创新。NVIDIA 对此表示支持，并期待与OpenAI 在未来的互助。
【GTC 2024】出身于工业元宇宙、由 OpenUSD 支持的智能机器人 会议要点
-Cristian Satori, 西门子国家业务部经理
-Vincenzo De paola, 西门子人工智能技能发卖支持
预测未来的主要性
人类一贯渴望预测未来，这与我们理解、掌握和创造光明未来的欲望有关。在当前快速变革的时期，新技能不断呈现，预测制造业的未来变得尤为主要。
制造业的寻衅与趋势
制造业正面临从大规模生产向个性化生产的转变，须要在保持本钱和质量的同时应对低交易量、高稠浊的生产寻衅。
消费者需求的变革
消费者对个性化产品的需求日益增长，这对超市和制造业都提出了新的寻衅，须要更灵巧和模块化的生产线。
工业元宇宙的运用
工业元宇宙和智能机器人的发展，如由EPF开拓的Superta，结合了前辈的自动化、机器人技能和AI技能，以知足制造业的新需求。
Superta的特点
Superta是一个灵巧的移动AISmartphieter智能机器人，能够操纵多种组件并易于改变尺寸。它利用基于AI的视觉系统自动识别个体部件，适应新配方和未知产品的加工。
数字孪生的运用
西门子和EPF利用数字孪生技能在虚拟环境中验证自动化程序，实行机器周期韶光的验证和警报触发，节省韶光和本钱。
人工智能与机器学习
AI和机器学习在制造业中的运用，如目标检测和抓取策略的优化，提高了机器人的生产力和准确性。
工业元宇宙的潜力
工业元宇宙供应了一个新的商业模式，通过创建数字孪生和AI代理的游乐场空间，推动制造业向自主工厂的转变。
开放USD同盟
西门子加入开放USD同盟，推动制造业标准的统一，促进不同领域专家之间的互助，优化设计过程。
互助与创新
西门子与英伟达的互助，以及CMS加速器的工业运营，展示了开放的工业数字业务平台和自动化软件的进步，为制造业的未来变革做好准备。
总结：本次演讲谈论了制造业在面临消费者需求变革和技能改造的寻衅下，如何通过工业元宇宙和智能机器人的运用来适应和创新。西门子和EPF的互助案例展示了数字孪生技能在制造业中的潜力，以及人工智能和机器学习如何提高生产效率和灵巧性。开放USD同盟的加入预示着制造业标准统一的趋势，为未来的工业自动化和自主工厂铺平了道路。
【GTC 2024】大模型深度定制以及在芯片设计运用中的探索 会议要点
-Mingjie Liu，研究科学家, NVIDIA
大措辞模型（LLM）的运用现状
大措辞模型展现出强大的自然措辞处理能力，包括文本天生、数学和逻辑剖析以及初步的推理能力。
在代码天生方面，大模型展现出初步效果，尤其在API调用和提示词工程方面。
提升大模型性能的方法
利用few-shot learning和chain of thoughts技能来提升大模型的推理能力。
通过检索式天生和检索增强的方法来减少模型的幻觉问题。
大模型在芯片设计中的运用
大模型可以赞助芯片设计流程，供应设计知识解答、报告总结和常见问题办理方案。
在EDA工具中，大模型可以通过天生代码和脚本来自动化子任务。
定制化大模型的寻衅与办理方案
公开的大模型可能缺少特定领域的技巧和知识，须要通过定制化来适应特定领域。
通过领域适应演习和对齐过程来天生增强的、适应特定领域的大模型。
定制化过程的技能细节
基于开源结果进行领域内的预演习，节省打算资源。
扩充分词器以包含特定领域的高频词汇，并对模型进行微调以适应新词汇。
利用领域内数据进行预演习，并通过Benchmark测试来验证性能。
定制化模型的性能提升
在特定领域任务上，定制化模型的性能显著提升，尤其是在设计知识和代码天生方面。
纵然在加入检索后，定制化模型仍保持良好的演习效果。
模型对齐和检索模型的演习
采取CRM等前辈的对齐方法来提升模型天生文本的质量。
通过比拟学习增强检索模型的准确率。
英伟达的NeMo框架
供应从模型定制化到支配的全套办理方案，鼓励大家利用和考试测验。
总结：本次演讲磋商了大措辞模型在芯片设计领域的定制化运用，包括如何通过特定领域的预演习和对齐来提升模型性能，以及如何通过扩充分词器和微调模型来适应新词汇。通过Benchmark测试，定制化模型在特定领域任务上表现出显著的性能提升。此外，英伟达的NeMo框架为模型的定制化和支配供应了支持，展示了大模型在工业运用中的潜力。
本文源自券商研报精选
