“大模型时代网络测绘与抗测绘”研讨会在沪圆满举行

发布者:曹青霞发布时间:2023-06-11浏览次数:44

611日上午,由中国指控与控制学会主办,中国指挥与控制学会网络空间测绘专委会承办,复旦大学大数据研究院、河南省网络空间态势感知重点实验室协办的“大模型时代网络测绘与抗测绘”研讨会在上海圆满举行,来自清华大学、北京大学、复旦大学、哈尔滨工业大学等20余所国内高校、研究机构和企业的专家学者齐聚一堂,共同研讨大模型时代网络测绘面临的挑战和网络空间抗测绘的发展思路。研讨会由复旦大学大数据研究院副院长薛向阳教授主持,中国中国指挥与控制学会网络空间测绘专委会副主任委员、远江盛邦(北京)网络安全科技股份有限公司董事长兼总经理权小文代表专委会致辞。

研讨会上,中国科技大学网络空间安全学院副院长张卫明教授作了题为《大语言模型生成文本的主被动鉴别方法》的报告,分析大语言模型产生独特安全问题,重点介绍大语言模型生成文本的主被动鉴别方法。复旦大学计算机科学与技术学院马兴军青年研究员作了题为《数据可见不可用》的报告,提出“不可学习样本”的概念,通过向数据中主动添加一种“不可学”噪声,让模型误以为数据没有利用价值,达到不可学习的目的。北京大学智能学院王奕森助理教授作了题为《自监督学习训练过程理解》的报告,探究自监督学习背后的工作机理,从理论视角分析其优化过程和下游泛化能力,并讨论自监督学习过程可能出现的隐私泄露问题远江盛邦董事长兼总经理权小文作了题为《网络空间反测绘技术实践》的报告,通过对网络空间不同测绘主体行为的挖掘和分析,评估现网的反测绘技术特点,提出了网络协议栈反测绘技术和多元数据融合反测绘等方法

复旦大学大数据研究院副院长、薛向阳教授作了《大模型时代数据空间测绘与抗测绘研究》总结报告,探讨大模型时代数据空间测绘与抗测绘技术的发展趋势,提出通过内生安全理论赋能抗测绘,达到“测不到,测不准,绘不对”的预期目标给出了大模型时代“资产不可测、数据不可用、模型不泄漏”的总体解决思路。

研讨会期间,与会专家还就大模型安全、人工智能内生安全等感兴趣的话题进行了深入交流。