百度安全事业部总经理:人工智能时代需要应对四大安全威胁


?

人工智能(AI)技术的不断发展促进了各行各业的不断发展,但也引发了网络安全问题,例如隐私泄漏和网络黑产品。

10月15日,在百度安全事业部召开的媒体交流会上。百度安全总经理马洁表示,面对AI时代的四大安全威胁,包括模型安全,数据安全和隐私,系统和网络安全以及安全生态,百度安全将团结更多的合作伙伴以更开放的态度。共同应对AI时代的新安全挑战。

马洁介绍,以模型安全为例,自动驾驶技术对目标物体的识别和判断将直接影响自动驾驶系统的运行判断。如果有人伪造交通标志并伪造不存在的障碍物,则系统将被识别。如果造成干扰,则车辆可能会在不需要制动的地方制动。在需要减速的地方没有减速,这会造成很大的安全隐患。这些问题已经是百度安全已经预先考虑和解决的问题。

马杰指出,在新技术和新应用中,安全问题涉及各个方面。 “无人驾驶汽车中有一辆汽车。系统如何保护其安全性?汽车连接到云,例如,需要将其获取。一些地图数据,云接口是否不安全?此外,还有各种传感器还具有被破解的安全风险。”

根据介绍,百度安全部的主要研究方向涉及五个方面:人工智能(AI)安全,移动安全,云安全,数据安全和业务安全。百度安全在技术层面拥有大量前沿研究成果。目前,百度安全已在人工智能,大数据和云计算技术方面获得了多项全球专利。相关学术论文也被选入了世界顶级安全会议,例如Black Hat和DEF CON。

针对许多网民担心网络黑产品侵犯用户利益的问题,马洁说,相关的网络黑产品是行业弊病。百度安全一直不遗余力地打击。到目前为止,它已经针对黑色产品推出了。实施了100多次专项镇压,公安机关对许多与黑生产有关的案件进行了镇压。

网络黑生产也一直是百度安全打击的重点。目前,百度安全每天为用户提供100亿次实时访问保护,每年拦截用户411亿次的搜索风险。同时,百度安全发起了一百多次黑生产罢工,并与公安机关合作。已经有许多与网络黑生产有关的案例。

“黑生产的盈利能力决定了我们与黑生产的对抗是无止境的。”马杰说,在巨大的经济利益下,网络黑产品也在不断升级技术,甚至可能在未来。将会出现“ AI vs. AI”的情况。这就要求我们加大对AI安全性的研究和开发,不断迭代更新技术,并像攻击者一样思考以提高安全保护和效率。

马杰也分享了一些典型案例:例如,一些使用百度搜索的用户偶尔会发现搜索结果中的某些URL在搜索结果的下部带有黄色文本标记。对此,马洁表示,百度安全将对包含的网页进行7×24小时的监控。当系统发现网站已被入侵或被篡改时,将及时提示用户提示信息,以免造成用户损失。

他指出,上述大多数类似行为都是由网络黑人造成的,它们通过篡改页面信息甚至植入恶意代码来侵犯用户利益。一些网民反馈说,搜索并单击结果后,他们很快就会收到营销电话,这受到这些网络黑产品的影响。

“在AI时代,整个安全行业将迎来许多新挑战。”马洁说:“基于百度领先的AI布局和技术,百度安全性也已经准备就绪。但是安全性一直不是公司,社区或生态系统都能独立解决的。因此,百度安全性将继续开放。产品和技术以开放源代码的核心代码为基础,百度安全性希望开放其诚意和更多。合作伙伴将共同构建一个开放的AI安全生态系统,以应对新时代的安全挑战。”

(原标题:百度安全事业部总经理:人工智能时代需要应对四大安全威胁)

(编辑器:DF506)