7月16日，第二十八届中国科协年会 “可信高效人工智能技术及其应用”专题论坛举办。当前，人工智能正成为新质生产力的重要引擎，但在大规模应用中 “高效”（算力供给、能效成本、工程可用性）与 “可信”（安全合规、可靠可控、评测可复现）瓶颈日益凸显，亟需跨学科、跨产业协同突破。论坛聚焦可信高效人工智能关键技术与应用路径，交流高效算法与软硬件协同、可信治理与评测标准、典型行业落地实践等前沿进展，凝练共识与建议，推动 “AI+” 与实体经济深度融合，形成可推广的产业生态与国际合作支撑。复旦大学大数据研究院刘威威教授作学术报告，系统阐释我国原创大模型内生安全理论体系、底层机理与全场景检测落地路径。
论坛报告环节，复旦大学大数据研究院刘威威教授带来题为《大模型内生安全技术研究及应用探索》专题分享，结合全球AI安全前沿共识与国内算力产业实际痛点逐层剖析当前行业核心困境。刘威威指出，全球学界已形成统一判断，通用大模型快速迭代伴随 “养虎遗患”式系统性风险，而当前生成式AI存在可控性、创造力、可验证性无法兼顾的“不可能三角”，成为制约技术规模化落地的瓶颈。报告深度拆解AI安全双重内生根源，一方面冯・诺依曼架构底层逻辑存在安全矛盾，系统漏洞、后门具备客观必然性，依靠补丁、边界隔离等外挂防护无法根除隐患；另一方面大模型基于海量数据完成概率性生成输出，模型幻觉、自主异常行为无法彻底消除，两类底层缺陷相互耦合放大，叠加算力网络、智能终端全域互联，衍生出测不准、测不全、难评估三大检测短板。围绕我国原创内生安全破解路径，刘威威系统讲解动态异构冗余（DHR）架构、相对正确公理、必要多样性原理等核心内在机理，提出“AI监督AI”新型检测模式，借鉴人类社会交警规则约束、陪审团共识裁决治理逻辑，搭建多异构小模型组成监督集群，依靠群体交叉共识将不确定风险收敛至可控概率区间。报告介绍AI内生安全检测试验场建设思路，通过全链条软硬件平台实现绿色算力能效、模型底层安全、Token 全生命周期可信、行业智能体异常标准化检测。
本次论坛发布的《构造决定安全——大模型内生安全蓝皮书》由复旦大学大数据研究院张帆教授主持统筹编撰，联合国内多所重点高校、算力枢纽运营单位、人工智能龙头企业、第三方检测机构共同完成。蓝皮书立足十余年内生安全理论体系积累，依托《网络空间拟态防御导论》《内生安全赋能网络弹性工程》等系列专著完整学术框架，系统梳理全球大模型安全发展现状与治理短板，分层拆解算力底座、训练数据、模型架构、智能体应用四大类内生风险，全面对比传统附加式防护范式的局限性，完整搭建以动态异构冗余为核心的大模型内生安全整体架构、数学推演模型与工程落地方法。全书结合国家算力枢纽、自动驾驶、工业互联网、金融AI等典型实践案例，给出内生安全改造、第三方质量检测、算力-安全-保险联动可落地实操方案，同步梳理基础理论、工程实现、产业生态三大现存难题，针对性提出标准创制、公共检测平台布局、产学研协同创新系列发展建议。
本次举办专题论坛的第二十八届中国科协年会是国内层次最高、覆盖面最广的年度综合性科技盛会，本届年会以 “抢占制高点 催生新动能 为中国式现代化提供科技支撑” 为主题，设置数十场前沿专题分论坛，围绕新质生产力、人工智能安全、算力网络、关键基础设施防护等国家重大战略方向搭建学术研讨、成果发布、产业对接一体化交流载体，“可信高效人工智能技术及应用” 专题论坛紧扣生成式AI治理相关政策要求，推动前沿安全技术快速转化为产业治理能力。
