当前，人工智能技术飞速发展，快速融入千行百业的同时，也催生出数据“投毒”、隐私泄露等全新网络安全风险，双刃剑效应更为突出。9月13日，2026年国家网络安全宣传周江苏省系列活动在常州启动。开幕式上，江苏省电子信息产品质量监督检验研究院党委书记、院长吴兰作题为《以法为缰，AI时代的网络安全挑战与法治破局》的法治宣讲。

步入AI时代，网络安全面对多重新挑战。吴兰指出，攻击目标正从“控制数据”向“操控认知”扩展。过去网络攻击，大多是窃取数据、控制系统，造成数据泄露、系统瘫痪等损失。而现在不法分子通过投喂虚假错误信息，就能让AI形成固化认知，产生错误判断，埋下后患。

与此同时，攻防模式也在发生转变，进入“AI对AI”的新阶段。攻击方借助AI自动找漏洞、编写攻击代码，防御方则依靠AI技术开展入侵识别与拦截处置。双方比拼的不再仅仅是技术，更是围绕算力、数据和模型迭代速度的综合较量，演变为一场系统性消耗战。

攻防升级之外，个人信息安全面临的威胁更为直接。过去普遍认为将姓名、手机号等数据作脱敏处理，就能实现隐私保护。而AI大模型能重新组合网上公开的碎片信息，具体人员的年龄、职业、住址、消费习惯等无处遁形。“大模型具备高维关联、特征挖掘、多源融合能力，而且Al的‘算法黑箱’特性，导致这类风险事前难预防、事中难监测、事后难追责。”吴兰说。

面对新风险，如何破局？法治是关键抓手。

今年新修订实施的《中华人民共和国网络安全法》中加入人工智能相关条款，定下“发展与安全并重”治理总纲。与此同时，中国正加快推进《人工智能法》立法，用法律约束算法行为，应对个人信息泄露的风险。

针对AI内容“真假难辨”的问题，中国已建立AI生成内容标识体系。2025年9月，《人工智能生成合成内容标识办法》及强制性国家标准正式施行，明确AI生成内容必须添加标识“持证上岗”。《办法》要求在生成合成内容或者交互场景界面中要添加显式标识，如“AI生成内容”等提示，还要在文件数据里添加隐式标识。技术人员可以通过识别“隐形水印”进行追溯，堵住AI造谣的漏洞。

“支持发展是基调，守住安全是底线。”吴兰表示，只有在法治的跑道上奔跑，AI这匹疾驰的骏马才能真正造福社会、惠及大众。