

AI换脸诈骗、数据泄露、大模型应答“胡说八道”……当下,人工智能技术迭代发展,应用场景加速普及,在赋能千行百业的同时,也带来新的风险挑战。
5月21日召开的市委常委会会议研究了“人工智能+”相关工作,特别提出要守牢安全底线,统筹人工智能发展和治理,加快健全相关法规、标准和规范,有效防范应对风险挑战。在人工智能热的当下,保持这样一份清醒的认知尤为重要。


发展与安全
从来都是一体两面、相辅相成
没有安全这个关键的“1”
算力扩容、场景落地、产业集聚的再多成果
都有可能成为“0”
推动人工智能发展
必须同步守好安全这道关
只有刹车灵、安全带牢
才敢放心踩下油门
跑出人工智能“加速度”
守牢安全底线,首先要立好规矩。
新技术呼啸而来,制度规范不能落在后面。国家层面在加快健全法规,行业层面在完善标准,治理的框架正一步步搭起来。盐城要迅速跟上节奏,把规则细化落地:数据怎么采、算法怎么管、内容怎么审,都划出清晰边界,让企业研发有章可循、群众使用放心。规矩不是束缚创新,而是为发展装上护栏。边界越清晰、市场越规范,企业反而越敢闯、越能放开手脚。

光有规矩还不够,还要会管、善管。
人工智能迭代快、变化多,监管方式不能一成不变。江苏沿海发展研究院院长卢东祥认为,要坚持包容审慎、分级分类,对前沿探索多一些耐心,对风险隐患多一份警觉,既不能一管就死,也不能一放就乱。还要善用技术来管技术,用人工智能识别AI造假、防范算法风险,让监管跟得上创新的脚步。
安全也不只是某一方面的“独角戏”,而是需要全社会共同参与的“必修课”。
人工智能安全覆盖范围广、影响全面,既包括技术层面的数据与算法安全,也包括对就业、行业格局等方面带来的深层冲击,需要全社会共同重视、合力守护。在政府层面,要织密数据安全、网络安全的防护网,对深度伪造、算法歧视等苗头性问题早发现、早处置;在企业层面,要握牢技术的方向盘,严把技术研发、数据使用、场景落地安全关;在社会层面,盐城可以围绕各类应用场景,分层分类开展专项培训,全面提升各类群体的数字素养、安全意识和风险应对能力。
事实上,盐城在这方面已经有了实质性举措。4月、6月,我市先后组织“人工智能+”专题讲演活动,分别聚焦“人工智能+农业”“人工智能+公共安全”主题,邀请专家授课,政企院校同台,讲技术路径、讲实践案例、讲风险挑战,让大家既看到AI赋能的可能性,也看清安全问题的复杂性。只有人人懂安全、人人守安全,才能织密人工智能安全防护网。

需要注意的是,保安全不代表不发展,不发展本身就是一种不安全。因担心潜在安全风险就畏首畏尾、停滞不前,刻意收紧发展尺度、限制技术应用,只会错失产业机遇、落后发展步伐。


没有安全的底线
就没有发展的底气
眼下
我市正积极抢抓机遇
加快推进“人工智能+”盐城行动
算力资源加速集聚、应用场景持续拓宽
越是竞速争先,越要行稳致远
把安全底线守得更牢、
把治理基础夯得更实
才能让人工智能真正赋能产业升级、
服务城市发展、惠及民生福祉
为全市高质量发展
注入源源不断的强劲动能
跑出崭新未来
盐阜大众报/我言新闻记者:周冬晴
图片:资料图
编辑:梁鹤龄 崔治国 王祯