面对新技术“浪潮”该怎样筑牢“安全堤”

简要回答

进入2023年，中国网络文明大会、数字中国建设峰会、2023年国家网络安全宣传周等一系列的重要活动接连在福建举办，2023年举办的这三场活动都和互联网有关，但会议上聚焦的内容却是截然不同的两个关键词，如果互联网是一把双刃剑，“安全”和“发展”正是这把双刃剑的一体两面，伴随着新一轮科技产业革命的深入发展，网络安全领域也将面临日益突出的挑战。

近年来非常受舆论关注的AI换脸技术，在2023年的网络安全博览会中关于AI换脸技术的“防”和“攻”这两个方面就特别受关注，只需要将一张目标人物的照片依靠智能AI换脸的技术就能够变成另外一个人。这种方式能让不法分子通过网贷平台的人脸认证“摇摇头”“眨眨眼”就能够快速把受害者的钱转出去，在美亚柏科展区的现场工作人员就现场演绎了这一场骗术。

2023年4月份在福州当地举办的数字中国建设峰会中，在聊到发展时，聊的最多的就是“AI”这个词，在当下正在举办的网络安全宣传周上谈到“安全”这个词汇时，“AI”仍然是出现最多的一个词汇，大数据可以说是智能AI大模型非常重要的一个因素，大家对于这方面的认知各不相同，所有人都认为数据的质量对于智能AI大模型的水平影响非常高。

北京大学计算机学院教授黄铁军站在他的观点来看，大模型是基于背后的数据而呈现出来的所有功能都源于数据，这也就意味将会有越来越高的风险出现，对于智能AI技术如果你给它输入的数据出错了，那它呈现出来的结果永远都会按照这个错误的数据来呈现，这个时候就出现了一种互相矛盾的情况。
未来面对新技术的浪潮在实施的时候，有关部门一定要加强大数据领域违法违规行为的打击力度，要强化规范引领加强新技术新应用使用之前的前瞻性研究，能够有效规范引导新技术的应用。