网络技术已经全面进入人工智能时代，人工智能技术的广泛应用正在深刻影响经济社会的各个方面。不可否认，以人工智能为引领的技术创新对经济社会发展、提高工作效率和加速新旧产业革新等领域发挥出不可替代的作用。同时，也不能忽视人工智能技术本身对网络安全带来的巨大隐患。

　　首先，人工智能所带来的深度伪造技术对鉴权等涉及个人信息、财产信息认证产生很大隐患。人脸识别、声控和指纹等认证鉴权领域应用肇始于人工智能之前，很多应用尚未配置应对人工智能深度伪造的技术防范措施，导致认证存在安全隐患。

　　其次，经过人工智能处理过的网络信息，包括图片、视频、文字、音频等在内，处理的技术痕迹，普通人很难识别真伪，导致网络谣言、虚假信息和侵权信息频繁出现，极大危害了网络传播秩序，网络信息鱼龙混杂，人工智能所带来的高效率正在成为消解网络信任的帮凶。

　　再次，生成式人工智能产生的结果，其运行机理在于模型训练所获得的数据信息，产生内容源自使用者基于自身偏好、偏见甚至歧视产生的需求。因此，生成式人工智能在应用领域，正在加剧“信息茧房”“信息鸿沟”和“网络偏见”的负面效应。

　　最后，不加约束的人工智能可能成为传授犯罪方法、协助犯罪行为甚至共同参与犯罪行为的工具，包括电信网络诈骗、制毒、涉爆、制作危险物质等犯罪形态在内，人工智能越来越多的被犯罪分子所熟练掌握。

　　为了最大限度的趋利避害，充分应对人工智能所带来的时代挑战，包括我国、欧盟和美国在内的各国先后对人工智能进行针对性立法，对技术风险进行提示，对不可接受的风险进行禁止，将技术赋予伦理，将风险纳入立法监管。

　　我国于2023年开始对深度合成和生成式人工智能进行专门立法规范，随后又率先提出了《全球人工智能治理倡议》，协同各国为新时代网络安全交出了中国答卷。今年9月9日，在2024年国家网络安全宣传周主论坛上，我国又再次提出《人工智能安全治理框架》，该框架作为人工智能安全标准，将科技伦理具体化，将技术风险分级分类，在网络、现实、认知和伦理等角度对人工智能的模型、训练、生成、使用和应用场景做出可执行的标准化构建。该框架的出台，标志着我国基本构建起应对人工智能网络安全保障的生态体系，在立法、标准体系和技术伦理等多维度建立起确保技术向善和网络安全的防火墙。

　　我们注意到，本次发布的框架是1.0版本，随着技术迭代发展以及应用场景的不断创新，新的网络安全隐患相伴相生，安全标准也应水涨船高，后续版本更新必须跟得上技术迭代的速度。同时，人工智能所引发的网络安全系列问题，是全世界各国共同面对的时代性问题，本次标准的发布也推动了我国与其他各国协同治理能力的提高，更是全球应对人工智能带来网络安全隐患共识的凝结，必将在新时代网络安全工作中起到至关重要的作用。（中国政法大学副教授 朱巍）