复旦大学与DNV GL签署协议 | 探索对抗生成网络在人工智能风险管理中的应用

发布者:尹秀娟发布时间:2020-12-30浏览次数:1365

复旦大学与DNV GL集团技术与研究(GTR)部门的人工智能研究中心(AIRC)开展研究合作,拓展在华学术研究网络。

复旦大学大数据学院与DNV GL人工智能研究中心签署合作协议,探索对抗生成网络(GAN)在人工智能风险管理中的应用。“我们非常高兴能与复旦大学大数据学院付彦伟博士、薛向阳教授研究团队签署合作协议,”DNV GL集团研发总监Pierre Sames博士表示,“该合作极大地增强了我们的人工智能能力建设,这是我们AIRC的一部分,中心侧重于计算机视觉和智能物联网设备两个领域。AIRC的使命是运用人工智能技术来提升我们已有的服务,以及帮助DNV GL实现更大目标,为人工智能算法提供风险管理。”DNV GL人工智能研究中心负责人陈中宁补充道:“DNV GL作为具有150多年历史的风险管理公司,我们意识到人工智能算法这种新技术在带来前所未见的效率提升时,也带来了前所未见的风险挑战。我们非常高兴在人工智能风险管理领域和复旦大学合作,最终提供可行有效的方法来应对人工智能带来的安全挑战。”生成性对抗网络(GAN)是2014年发明的深层神经网络系统架构,其中两个神经网络互相对抗,类似于竞技比赛。在特定的训练集中,该技术通过学习与训练集相同的统计数据来生成新的数据。我们的想法是在客户提供的一组图像上,通过GAN训练来生成新的图像,不但具有现实特征,也增加了新的细部特征,并且用于检查由客户创建的深度学习算法的鲁棒性,例如船舶的检测与入级。最终,该方法将帮助我们建立一种人工智能算法认证的工具,为DNVGL-RP-0510《数据驱动算法和模型的保障框架》中介绍的框架提供有效补充。东方学者、澳大利亚ARC DECRA Fellow、复旦大学大数据学院教授付彦伟博士认为,“毋庸置疑,深度学习算法在很多方面取得了令人瞩目的成果,例如目标识别、机器翻译和语音识别等。就商业部署和在安全关键系统中的应用可能性而言,深度学习算法的鲁棒性越来越重要。”“人工智能算法认证的研究极为重要和紧迫。例如不法分子有可能制作对抗性的交通标识,造成自动驾驶汽车采取不必要的动作。我们很高兴能与DNV GL开展合作,共同探索用于人工智能算法测试的GAN。”复旦大学大数据学院及大数据研究院副院长薛向阳表示。

DNV GL人工智能研究中心负责人陈中宁与复旦大学大数据学院付彦伟博士(左)签署协议,由复旦大学大数据学院副院长薛向阳(后排左2),DNV GL副总裁兼大中国区主席科来(Norbert Kray)(后排左3),DNV GL研发总监Sames, Pierre C(视频)以及双方参与者共同见证