随着数字化转型和智能化变革进程加快，人工智能及其应用系统的安全问题已经引起高度关注。本次研讨会旨在梳理人工智能及其应用系统存在的内生安全问题，针对共性问题、个性问题、广义功能安全问题等探讨具有创新性、包容性、普遍性的解决方案，推动人工智能内生安全技术发展。
会议主题：人工智能及应用系统内生安全问题研究
主办单位：复旦大学大数据研究院
上海人工智能实验室内生安全研究中心
国家数字交换系统工程技术研究中心
联办单位：网络通信与安全紫金山实验室
嵩山实验室
Security and Safety（中文刊名：《一体化安全》）
之江实验室
论坛主席：邬江兴院士
联合主席：陈杰院士 蒋昌俊院士
会议报告
《方舱计算》 蒋昌俊院士
蒋昌俊，中国工程院院士，同济大学教授、博士生导师。
内容提要：人工智能系统在构造、安全、运维等方面的面临的新挑战以及方舱计算提出背景、技术演进过程，方舱计算基本思路、主要特点、核心功能以及数据资源和物理资源统筹配置、协调运行的策略。
《人工智能应用系统内生安全问题研究》 邬江兴院士
邬江兴，中国工程院院士，复旦大学大数据研究院院长、国家数字交换系统工程技术中心主任。
内容提要：人工智能应用系统存在的内生安全个性问题、共性问题和广义功能安全问题，广义功能安全构造的内涵特征，一体化应对人工智能应用系统面临“三重安全”威胁挑战的理论、技术和实现路径。
《鲁棒人工智能》 姜育刚教授、马兴军研究员
育刚，复旦大学教授、博士生导师，教育部长江学者特聘教授。
马兴军，复旦大学青年研究员、博士生导师。
内容提要：当前人工智能系统被发现存在一系列严重的鲁棒性问题，已成为影响人工智能安全、可靠、可控应用的主要因素，获得了国内外研究学者的广泛关注。本报告将跟大家分享团队长期以来在此领域的一些研究成果和技术思考，与大家共同探讨构建鲁棒安全人工智能所需的基础理论与技术体系。
《智能超材料与无线内生一次一密》 金 粱 教授
金梁，教授、博士生导师，中国网络空间内生安全技术与产业联盟副主任委员及无线专委会执行主任委员。
内容提要：电磁波开放性作为无线通信固有属性给安全带来了天然缺陷，是典型的内生安全问题。无线内生安全不仅要实现香农的完美保密，还尽可能不占用额外的无线信道资源。本报告基于两者的结合提出了无线内生“一次一密”的三个科学问题及其解决思路，探讨香农完美保密的一般性框架如何在无线通信具体约束条件下落地的问题。
《通用模型的中介性及其伦理意蕴》 王国豫 教授
王国豫，复旦大学哲学学院教授、博士生导师，入选国家级人才项目，现任复旦大学生命医学伦理研究中心主任。
内容提要：通用模型是近年来人工智能发展的重要方向之一。随着模型研发应用的增多，模型的社会和伦理影响受到广泛关注。本报告将从技术哲学的视角，审视通用模型的中介性以及带来的伦理挑战，进而从治理技术和治理机制两方面反思当前的应对措施及局限性。
《可解释性理论体系：基于博弈交互的统一体系与去芜存菁》 张拳石 副教授
张拳石，上海交通大学约翰霍普克罗夫特计算机科学中心长聘教轨副教授、博士生导师。
内容提要：深度神经网络的可解释性算法往往侧重于工程性的功能实现，侧重于迎合人类对被解释事物的主观认知，而缺少基于统一的理论基础的科学理论体系，影响了可解释性算法的严谨性，阻碍了可解释性研究的进一步发展。本报告将介绍如何在博弈交互的理论框架下，统一解释神经网络的归因权重、神经网络的对抗鲁棒性、神经网络的泛化能力，以及神经网络所建模的视觉概念分类。
《数据驱动、知识引导和物理约束的AI+X研究范式》 吴飞 教授
吴飞，浙江大学求是特聘教授，博士生导师，浙江大学上海高等研究院常务副院长，浙江大学人工智能研究所所长。
内容提要：经典人工智能理论框架建立在以递归可枚举为核心的演绎逻辑和语义描述基础方法之上，在处理不确定性、开放性和动态性等问题时难以发挥作用。因此，研究数据驱动下归纳、知识指导中演绎、物理定律约束中优化的人工智能新模型和新方法，有效利用涌现数据、先验知识和第一性原理，是人工智能发展的趋势。本报告将介绍在司法和医疗等方面进行的数据驱动和知识引导相互协同的若干工作。
时间地点
2022年10月30日上午09:00——12:00
上海市蓝天宾馆2楼北京厅（地址上海市杨浦区黄兴路2200号）
会议微信群
