新美国安然中央宣告：《安然、可治理的芯片——运用片上机制治理AI和前辈计算带来的国家安然风险》_芯片_机制

前 言

利用专用芯片构建和支配AI系统正在成为经济增长和科学进步的引擎。
与此同时，这些AI系统也可能被不负任务的行为者用来大规模监控、网络攻击和设计新型生物武器。
因此，确保和管理AI芯片供应链对付降落国家安全风险非常主要。
AI管理的独特寻衅和当代安全技能带来的机遇表明，替代方法既有必要，也有可能。
如果有关AI芯片的政策可以直接在芯片上履行呢？本报告提出“片上管理机制（简称片上机制）”（on-chip governance mechanisms）的观点：可以直接内置在芯片或干系硬件中的安全物理机制，从而为自适应管理供应一个平台。

紧张结论

片上机制的AI芯片架构示例

为了推动对片上机制的进一步研究，本报告展示了一个数据中央AI芯片架构示例（见下图），该架构可为动态履行不同的管理机制供应一个灵巧的平台。
该机制的核心是在所有高性能数据中央的AI芯片上都包含一个加固的安全模块，它可以确保芯片具有有效的最新固件和软件，并在适用的情形下具有最新的操作容许证。
如果不符合这些条件，它将阻挡芯片运行。

这种有效、最新的固件和软件有助于对这些芯片的利用进行限定，并供应繁芜的“远程认证”功能（远程认证，以安全地验证芯片及其运行软件的所需属性）。
安全模块可确保在创造固件/软件漏洞时，用户只能更新到已修复漏洞的补丁版本。
安全模块还可配置为哀求最新的芯片专用操作容许证。
目前的AI芯片已经具备这种架构的某些组件，但并非全部。
这些差距很可能通过适度的开拓事情来填补，作为已有功能的扩展。
紧张的技能寻衅将是实现足够的硬件安全，特殊是修改证据和防修改。
本报告估计，领先的公司只需投入18个月的技能努力（最多4年）即可实现这一目标。

要使片上管理达到商业规模，须要政府和家当界的长期互助。
要想快速取得进展，行政命令可以起到适当的逼迫浸染。
美国国家标准与技能研究院（NIST）将是这项事情的得当牵头机构。
还应从美国能源部、美国国防部、美国国土安全部、美国国家科学基金会和美国情报界抽调专家和事情职员。
事情组还应从家当界和学术界抽调职员组成技能小组，帮助辅导技能标准和研究事情

鉴于芯片上的管理机制须要在商用芯片上履行，许多必要的研发事情须要在行业环境中进行。
为了勉励这项事情，美国国防部应考虑对美国芯片公司未来进入出口市场做出承诺，条件是这些公司在受控产品上履行一套特定的安全功能。
出口市场承诺可以包括不将出口牵制扩大到新的辖区，放宽向特定地区低风险客户出口芯片的“谢绝批准推定”（presumption of denial）容许政策，或转向更严格的终极用场牵制或基于终极用户的牵制。
美国商务部应与美国情报界和国土安全部折衷，通过剖析不同出口环境下的特定攻击者威胁模型，开拓出所需的功能集。

虽然大部分研发事情都须要由大规模制造和发卖AI芯片的公司来完成，但有些事情可能会在这些公司之外进行，特殊是那些将受益于全体行业标准化的技能。
NIST应与半导体研究公司、美国国防部高等研究操持局（DARPA）干系项目经理以及其他干系政府帮助机构折衷，确定由学术和/或商业互助伙伴进行的有用研发的范围和资金。
例如，针对高端芯片的专用防修改外壳（芯片的物理外壳，可防止芯片被修正而不影响其运行）的事情有可能外包给学术和商业硬件安全实验室。
为支持这些项目，NIST应为芯片管理机制制订技能标准和参考履行方案，以便业界广泛采取。

在更具对抗性的环境中利用片上机制之前，须要进行大量测试。
为促进分阶段推出机制，使其在更具寻衅性的操作环境中得到依赖，美国商务部应根据出口设备的安全功能，灵巧地为不同地区发放容许证。
与此同时，美国国土安全部网络安全和根本举动步伐安全局应建立红队测试和漏洞赏金操持，帮助创造和修补任何软件和硬件的安全漏洞。

与许多其他形式的技能管理一样，如果没有国际社会的支持，片上机制的效果将是有限的。
美国国务院和美国商务部应在与在尖端AI芯片供应链中霸占主要地位的国家的外交谈论中，纳入片上机制的潜在浸染，包括潜在的多边掌握制度。
除出口掌握折衷外，利用片上机制促进AI管理互助（如关于打算利用报告的国际协议），将受益于与英国和欧盟等志同道合的盟国。

开拓和支配片上机制须要韶光（最乐不雅观的情形是几个月，最可能的情形是几年）。
如果AI系统的能力和国家安全风险持续增长，那么对高度有效掌握的需求可能在几年后变得非常急迫。
这表明，关注这一问题的政策制订者现在就应开始制订政策并鼓励开拓适当的技能。
一旦在最强大的AI芯片中规定了干系的安全功能，就能够许可AI芯片在安装后快速灵巧地应对新的威胁。