作者 | ZeR0
编辑 | 漠影
智东西7月9日宣布，在刚刚落幕的第六届上海天下人工智能大会（WAIC 2023）上，清华大学人工智能研究院孵化企业瑞莱聪慧RealAI发布了全新人工智能安全平台RealSafe3.0。RealSafe3.0内部集成了多个自研模型和专家论证高质量数据集，新增了对通用大模型的评测，已覆盖近70个评测维度。
该平台功能与OpenAI今年7月5日在官网发布的“自动对齐研究员”观点类似，通过自动化的演习方法优化大模型，以期在通用人工智能加速赋能人类社会的同时，为人类筑起抵御人工智能威胁的安全之盾。
一、覆盖近70个评测维度，给大模型系上安全带
随着大模型走向落地，大模型其内生及衍平生安威胁愈演愈烈，数据透露、抱负、生产歧视、排斥和有害内容等安全问题习认为常，例如机密文件被透露、添加无意义的字符后模型竟给出完备相反的回答、输出违法有害内容、隐含对某些人类社群的偏见和歧视等等。
瑞莱聪慧联合创始人、算法科学家萧子豪认为，大模型“落地难”的实质在于当前仍处于“野蛮成长”阶段，还没有找到场景、风险和规范三者之间的平衡点。而探寻这一平衡点的过程，短缺易用和标准化的工具，即在技能层面上缺少有力抓手，能够科学评判大模型在场景中能否同时知足规范和低风险，且能够进一步定位问题并给出优化建议，助力模型上线运行。
对此，瑞莱聪慧推出人工智能安全平台RealSafe3.0版本。这是集成主流及RealAI独占的天下领先的安全评测技能，能够供应端到真个模型安全性测评办理方案，办理当前通用大模型安全风险难以审计的痛点问题。
相较上一版本，RealSafe3.0新增了对通用大模型的评测，已覆盖数据安全、认知任务、通用模型特有漏洞、滥用场景等近70个评测维度，全方位多维度地评测通用大模型的性能，未来还会持续扩增测评维度的数量。
二、从源头上找症结，帮助修复模型问题
“评测只是手段，帮助通用大模型提升其自身安全性才是核心目的。”萧子豪说，创造新技能和掌握技能危害该当同步进行，“瑞莱聪慧的办法是，从源头上找到症结，再用邪术打败邪术。”
如果将人工智能模型比作“引擎”，数据则是模型的“燃料”。可以说，数据集质量直接影响模型的内平生安。因此，RealSafe3.0内部集成了多个自研模型和专家论证高质量数据集，来帮助用户修复模型中的问题。
瑞莱聪慧人工智能安全平台RealSafe3.0通用大模型测评及优化事情流程
对黑盒不可阐明的通用大模型，自研红队对抗模型取代人工设计问题，显著提升攻击成功率和样本多样性。也便是说，该模型数据集中，不仅包含了自有数据集，还包含了模型自天生的数据，无论是从数据质量还是数据规模上都可圈可点，因此它能够自动化地挖掘出更多的漏洞，从源头上缓解安全问题。
教练模型则通过对被测大模型进行多轮次的提问-回答演习，并以演习好的评分模型对问答结果进行评分，再将评分结果反馈给大模型，使其不断强化学习到好坏答案的要点及差异，直至问答能力逐步迭代至最优。
除了定制化的演习框架，教练模型空想的模型效果还得益于夯实的数据根本，瑞莱聪慧自有数据集经由数十位代价不雅观领域的专家论证，以确保输入的数据无误，质量高且领域多元，未来也将持续更新补充。
萧子豪透露说，这些技能都是基于自研多模态大模型底座实现的。
三、DeepReal2.0平台新增两个功能模块，可检测天生式AI天生内容
除此之外，瑞莱聪慧还带来了能够戒备天生式人工智能恶意滥用的DeepReal2.0。
据悉，DeepReal此前名为深度假造内容检测平台，现已正式更名为天生式人工智能内容检测平台，由于它除了能够检测Deepfake内容，还新增两个功能模块，可以检测Diffusion、LLM（大型措辞模型）这两类新方法天生的数据，支持对图像、视频、音频、文本进行是否假造的检测。
其运用处景包括打击网络诱骗和荣誉侵害行为、检测网络内容合规性、检测音视频物证真实性等，可对天生式人工智能技能滥用行为进行管控和管理。
结语：五年专攻AI安全可控，已参与30余项国家及行业标准制订
自2018年景立以来，瑞莱聪慧就致力于研究和发展安全可控的第三代人工智能技能，建立通用人工智能模型能力和人工智能安全能力：通过通用人工智能模型来适应各种繁芜的智能运用处景和任务；并通过人工智能安全能力，真正使人工智能造福人类整体利益。
瑞莱聪慧坚持源头创新和底层研究，在天生式人工智能等领域不断揭橥天下领先科研成果。成立以来，瑞莱聪慧研发团队核心成员在人工智能领域顶会上揭橥论文数百篇，多次在国际测评和竞赛中斩获冠军，得到授权专利100余项。同时，瑞莱聪慧积极推动行业规范化，累计参与30余项国家标准、行业标准制订。此外，瑞莱聪慧已与网信办、工信部、公安部及下属多家单位展开深入的项目互助。
萧子豪说，通用人工智能的时期必将到来，如何让人工智能扬长避短，如何用人类聪慧驾驭人工智能，是从业者的一道长久课题。这也是瑞莱聪慧一贯努力的方向。
未来，RealSafe3.0将在保障通用大模型和专有模型安全、可靠、可控上发挥浸染。瑞莱聪慧也将持续迭代技能、打磨产品，以确保在这场人工智能安全“攻防战”中始终立于不败之地，将人工智能的两面性这一“关键变量”，转化为高质量发展的“最大增量”。
