带有偏见的人工智能将威胁网络安全

帶有偏見的人工智能将威脅網絡安全

發布時間：2019-07-19 發布者：亞時财經

據CNBC報道，在黑客攻擊變得越來越複雜之際，帶有偏見的人工智能程序可能會給網絡安全帶來嚴重問題。

（圖源：zhuanlan.zhihu.com）

許多公司的首席執行官将網絡攻擊視爲未來10年全球經濟面臨的最大威脅，與此同時，黑客所使用的技術也越來越先進。

一旦他們成功入侵某個系統，許多攻擊者就會保持低調，這使得IT團隊更難發現他們的存在。

業内人士表示，爲此，我們需要依靠人工智能來構建一個能夠自動探測威脅并對此作出回應的安全系統。

事實上，由科技巨頭微軟資助進行的一項研究發現，75%接受調查的公司在其網絡安全計劃中要麽已經采用了人工智能，要麽正在考慮采用。

但是，由于人工智能存在偏見問題，這可能會成爲網絡安全領域的一大挑戰。

IBM是全球最大的信息技術和業務解決方案公司，其安全副總裁奧爾蒂•博卡表示，偏見可能會産生在三個環節：程序、數據和AI系統的設計者。

她解釋說，一個有偏見的程序可能會把焦點放在錯誤的優先級上，從而錯過真正的威脅。

此外，人工智能系統通常需要大量的訓練數據來掌握它們的功能。博卡說，如果使用的數據帶有偏見，那麽人工智能對世界的認識就是不全面的，最終它隻能基于這種狹隘的理解做出決策。

同樣，如果設計程序的人都來自相似的文化或背景，并且有相同的想法，那麽他們設計出來的人工智能系統就會缺乏認知多樣性。

固有偏見可能導緻人工智能系統錯誤識别問題，從而減慢業務流程，導緻信任問題，并影響公司的經營底線。從更大的範圍來看，它還會影響公司的品牌形象。

博卡補充說，更令人擔憂的是，由于人工智能系統存在偏見，程序可能會無法識别出嚴重的安全威脅。

她表示，網絡安全威脅來自四面八方，這使得它們具有多樣性且沒有偏見。

因此，企業需要建立“同樣多樣化且無偏見的人工智能系統，”否則黑客就會悄悄入侵，“因爲你沒有對手想得那麽廣。”

不過，微軟網絡安全領域首席技術官戴安娜•凱利近日表示，要完全消除固有偏見可能很困難，想要将這種情況最小化“需要對輸入人工智能的數據進行詳細規劃和仔細監督”。

“黑客們不會等着我們不斷完善人工智能系統。所以，我們必須加快速度。”博卡補充道。

文章來源：CNBC

編譯：李伯媛

特别聲明：本站轉載或引用之圖文若侵犯了您的合法權益，請與本站聯系，本站将及時更正、删除。版權問題及網站合作，請通過亞時财經郵箱聯系：asiatimescn@sina.com

返回列表

熱門話題更多>>