数据投喂泄露隐私,算法生成虚假信息,大模型时代怎么防范安全风险?
[环球时报赴乌镇特派记者 刘扬 李炫旻]随着以ChatGPT为代表的生成式人工智能大模型持续火爆,全球科技公司、科研机构纷纷布局自己的大模型。生成式人工智能与大模型的快速发展,也给网络安全带来全新挑战。在8日开幕的2023年世界互联网大会乌镇峰会上,国内外安全专家纷纷从各自角度阐释对人工智能大模型时代网络安全新挑战的理解,《环球时报》记者在“互联网之光”博览会上看到大部分展台都有大模型相关展品,其中不乏“以魔法打败魔法”的大模型安全整体解决方案。

人工智能大模型带来哪些挑战
在9日举行的世界互联网大会乌镇峰会“人工智能赋能产业发展论坛”上,中外专家共同发布了《发展负责任的生成式人工智能研究报告及共识文件》(以下称报告)。报告提到,近年来,生成式人工智能在文本、代码、图像、音视频等方面的理解与生成取得突破性进展,有望大幅提升社会生产力。与此同时,报告也用专门的一章解读了生成式人工智能带来的风险。
报告称,生成式人工智能技术在迭代升级的同时也放大了技术安全风险。数据方面,数据投喂带来价值偏见、隐私泄露、数据污染等问题:训练数据固有偏见导致模型产生偏见内容;海量训练数据扩大了数据安全和隐私保护风险。算法方面,算法模型生成特性及安全漏洞会引发“幻觉”或虚假信息、模型遭受攻击等风险。报告还提到两大更深层次的风险:生成式人工智能重构人机关系可能带来科技伦理失范;强大的任务处理能力,容易导致人的思维依赖;生成式人工智能凸显发展的不均衡引发人类社会发展差距进一步拉大。
《环球时报》记者在“互联网之光”博览会上也感受了生成式人工智能可能带给普通人的安全风险。在一个聚焦青少年编程的公司展台,记者体验“看到的也未必是真实的”换脸揭秘实验。在机器前站几秒钟之后,AI就根据记者的外貌特征提供了两个换脸模型,一个是秒变“憨豆先生”,另一个是满脸大胡子。据展台工作人员介绍,这就是对青少年进行“换脸”风险的科普。

一名已经第十次参加世界互联网大会的中国网络安全专家对《环球时报》记者表示,前几年我们关注云安全、大数据安全、物联网安全,但今天大模型安全是一个必须重视的话题。
大模型如何保障重大活动安保
公开报道显示,2012年伦敦奥运会,多家媒体遭遇网络攻击;2016年里约奥运会遭到大规模APT袭击、DDoS攻击;2018年平昌冬奥会更是遭遇了奥运史上最大的网络安全事故。《环球时报》记者在“互联网之光”博览会上了解到,前不久成功举办的杭州亚运会,不仅是一场体育成绩、大型活动组织的比拼,更是一场网络安全攻防对抗的较量。
《环球时报》记者在“互联网之光”博览会现场看到一个巨大的显示屏,以动态形式直观地演示杭州亚运会网络安保过程中的态势感知与快速应对能力。据安恒信息副总裁梁浩介绍,现场展示的MSS亚运天穹——新一代主动防御运营中心是服务于杭州亚运安保防护体系的综合运营中心,它实际上是结合本次亚运会的建设范围来进行定义的,涉及整个亚运会88个竞赛和非竞赛场馆,相关安全细节、措施、问题都可以通过这个运营中心的视角及时掌握。如果有需要随时能够查看到具体场馆里相关的IT机房,检查安全防护设备在哪个槽位,如有异常、中断、告警,都能够及时反馈处置。
据介绍,杭州亚运会的运动员人数、赛事项目规模和场馆数量大概4倍于北京冬奥会,如果按照传统方式可能需要数千人才能完成安保,但实际上本次亚运会现场安保只有400多人,如何在这么大范围内用较少的人员去满足安保需求,其实就是用了大模型技术。“我们将大模型在安全领域进行了结合,帮助现场分析人员快速辅助进行研判,并提供处置方案。特别是在重点活动保障方面,对时效性要求特别高,比如在杭州亚运会期间观测到有超过2600万次的网络攻击,在整个拦截过程中更多是用了自动化的关联和阻断技术,其中也用到了人工智能和大模型的能力。”
如何“用魔法打败魔法”
为了应对生成式人工智能与大模型带来的挑战,国内网络安全领域的头部公司也纷纷在“互联网之光”博览会上展出解决方案。《环球时报》记者印象最深的就是用AI对付AI、“用魔法打败魔法”。比如在奇安信展台,记者看到“大模型卫士”提供的一系列强大防护能力。阿里巴巴展台也提出“大模型安全全链路解决方案”。
参加本次世界互联网大会的360集团创始人周鸿祎在接受《环球时报》采访时表示,所有数字化技术必然都是双刃剑,有软件就会有漏洞,有漏洞就会被攻击,人工智能大模型也不可避免。周鸿祎认为,人工智能面临的安全问题可分为三级:初级/近期问题、中级/中期问题和高级/长期问题。初级/近期问题是技术攻击问题,也就是网络攻击、漏洞攻击、数据攻击问题,特别是提供给大模型不好的数据或污染它的训练数据,可能会导致结果出错。这类问题相对比较好解决。比较难解决的是中级/中期问题,主要涉及内容安全。例如大模型可以成为人们很好的帮手,也能成为坏人的工具。它可以帮一个水平不怎么样的黑客写更好的攻击代码、诈骗邮件。如何让它的内容更加可控?如何防止人工智能大模型不作恶?这已经超越技术范畴了。尽管现在有人为大模型做了内置的所谓“安全护栏”,但它很容易遭到注入攻击或算法攻击。这类问题的解决思路之一是开发小规模模型,专门针对不怀好意的提问,让大模型在回答用户问题前先用小模型过滤。
周鸿祎认为,从高级/长期的问题来看,大模型可以把人类所有知识融会贯通,再来和人类做交流、做提示。但对于未来万一大模型能力超越人类后,还能不能甘于做人类的工具,周鸿祎表示,“我的一个观点是,这些技术带来的挑战最终还得靠技术来解决,技术自身会不断进化。不能因为未来还没有发生的问题就不发展相关技术”。
在8日举行的2023年世界互联网大会蓝皮书新闻发布会上,中国网络空间研究院网信理论与战略研究所副所长姜淑丽介绍说,中国坚持安全与发展并重的原则,为生成式人工智能发展营造创新生态,同时重视防范风险,制定人工智能监管规则。2023年7月,中国发布《生成式人工智能服务管理暂行办法》,是全球范围内首部针对生成式人工智能的管理办法。同时,中国发起“全球人工智能治理倡议”,明确提出发展人工智能坚持相互尊重、平等互利的原则。
责任编辑:刘德宾
欧盟批准用俄央行被冻结资产收益援乌
当地时间21日,欧盟理事会轮值主席国比利时对外宣布,当天欧盟理事会批准了使用俄罗斯央行被冻结资产的收益为乌克兰提供援助的提案。根据提案,欧盟今年将向乌克兰提供30亿欧元,资金中的90%将被用于军事援助。0000俄国防部:国防部长绍伊古将于25至27日访问朝鲜
当地时间7月25日,俄罗斯国防部发布消息称,俄罗斯国防部长绍伊古率领的代表团将于7月25日至27日访问朝鲜,参加朝鲜祖国解放战争胜利70周年庆祝活动。公告强调此次访问将有助于加强俄朝军事关系,并将成为两国合作发展的重要阶段。(总台记者王斌董海涛)0000总统莱希坠机遇难,伊朗如何应对突发挑战?
当地时间19日,一架载有伊朗总统易卜拉欣·莱希和高级官员的直升机发生坠机事故。20日,伊朗官方确认,莱希在事故中遇难。环球网2024-05-22 22:47:290001这个国家不地道,斗不过印度,又来碰瓷中国
来源:牛弹琴这个国家不地道,斗不过印度,最近又来碰瓷中国。哪个国家?加拿大别着急,说的就是你。或许,我们几十年后回看这段历史,很多人难免会很诧异,加拿大和中国,往日无怨近日无仇,怎么会闹到这个地步,看不懂,真是看不懂……看不懂的事情,太多了一些。最近又有两个。一个发生在南海。请注意:南海。新浪新闻综合2023-11-05 09:49:560000美国的内耗,已经不亚于一场内战
围绕美国南部边境一张带刺的铁丝网,美国两党的尖锐冲突,这一次被摆上了台面,并且还在持续发酵。据央视新闻报道,当地时间28日,美国国会众议院共和党人公布了针对国土安全部长马约卡斯的弹劾指控。指控中称,马约卡斯在移民问题上“有意地、系统地拒绝遵守法律”,导致美墨边境移民管控失败,有违公众信任,同时指责他妨碍国会调查。北京日报客户端2024-01-30 15:21:020000