带有偏见的人工智能将威胁网络安全

发布时间：2019-07-19 发布者：亚时财经

据CNBC报道，在黑客攻击变得越来越复杂之际，带有偏见的人工智能程序可能会给网络安全带来严重问题。

（图源：zhuanlan.zhihu.com）

许多公司的首席执行官将网络攻击视为未来10年全球经济面临的最大威胁，与此同时，黑客所使用的技术也越来越先进。

一旦他们成功入侵某个系统，许多攻击者就会保持低调，这使得IT团队更难发现他们的存在。

业内人士表示，为此，我们需要依靠人工智能来构建一个能够自动探测威胁并对此作出回应的安全系统。

事实上，由科技巨头微软资助进行的一项研究发现，75%接受调查的公司在其网络安全计划中要么已经采用了人工智能，要么正在考虑采用。

但是，由于人工智能存在偏见问题，这可能会成为网络安全领域的一大挑战。

IBM是全球最大的信息技术和业务解决方案公司，其安全副总裁奥尔蒂•博卡表示，偏见可能会产生在三个环节：程序、数据和AI系统的设计者。

她解释说，一个有偏见的程序可能会把焦点放在错误的优先级上，从而错过真正的威胁。

此外，人工智能系统通常需要大量的训练数据来掌握它们的功能。博卡说，如果使用的数据带有偏见，那么人工智能对世界的认识就是不全面的，最终它只能基于这种狭隘的理解做出决策。

同样，如果设计程序的人都来自相似的文化或背景，并且有相同的想法，那么他们设计出来的人工智能系统就会缺乏认知多样性。

固有偏见可能导致人工智能系统错误识别问题，从而减慢业务流程，导致信任问题，并影响公司的经营底线。从更大的范围来看，它还会影响公司的品牌形象。

博卡补充说，更令人担忧的是，由于人工智能系统存在偏见，程序可能会无法识别出严重的安全威胁。

她表示，网络安全威胁来自四面八方，这使得它们具有多样性且没有偏见。

因此，企业需要建立“同样多样化且无偏见的人工智能系统，”否则黑客就会悄悄入侵，“因为你没有对手想得那么广。”

不过，微软网络安全领域首席技术官戴安娜•凯利近日表示，要完全消除固有偏见可能很困难，想要将这种情况最小化“需要对输入人工智能的数据进行详细规划和仔细监督”。

“黑客们不会等着我们不断完善人工智能系统。所以，我们必须加快速度。”博卡补充道。

文章来源：CNBC

编译：李伯媛

特别声明：本站转载或引用之图文若侵犯了您的合法权益，请与本站联系，本站将及时更正、删除。版权问题及网站合作，请通过亚时财经邮箱联系：asiatimescn@sina.com

返回列表

热门话题更多>>