網(wǎng)絡(luò)安全是一個人力受限的市場——因此，人工智能(AI)自動化的機(jī)會是巨大的。通常，人工智能被用于使網(wǎng)絡(luò)安全的某些防御方面更加廣泛和有效。打擊垃圾郵件和檢測惡意軟件就是最好的例子。

另一方面，當(dāng)試圖攻擊屬于他人的脆弱系統(tǒng)時，使用人工智能有許多動機(jī)。這些激勵措施包括攻擊速度快、成本低，以及在已經(jīng)受到限制的環(huán)境中難以吸引熟練員工。

目前公共領(lǐng)域的研究僅限于白帽黑客使用機(jī)器學(xué)習(xí)來識別漏洞并提出修復(fù)建議。然而，以人工智能的發(fā)展速度，我們很快就會看到攻擊者大規(guī)模使用這些功能，如果他們還沒有這么做的話。

我們怎么能確定呢?事實(shí)上，很難將僵尸網(wǎng)絡(luò)或網(wǎng)絡(luò)釣魚活動歸因于人工智能，而非人類。然而，業(yè)內(nèi)人士認(rèn)為，我們將在一年內(nèi)看到一場AI驅(qū)動的網(wǎng)絡(luò)攻擊;62%接受調(diào)查的黑帽會議參與者似乎相信這種可能性。

許多人認(rèn)為，人工智能已經(jīng)被高度主動和老練的攻擊者用于惡意目的。考慮到人工智能系統(tǒng)讓對手的工作變得容易得多，這一點(diǎn)也不奇怪。

為什么?撇開資源效率不談，人工智能系統(tǒng)在攻擊者和受害者之間引入了心理距離。事實(shí)上，許多傳統(tǒng)的攻擊技術(shù)包括與他人接觸和在場，這反過來限制了攻擊者的匿名性。AI增加了匿名性和距離。自主武器就是一個很好的例子;攻擊者不再需要扣動扳機(jī)并觀察其行為的影響。

它也不一定是關(guān)于人類生活的。讓我們來看看一些不那么嚴(yán)重的人工智能惡意應(yīng)用:網(wǎng)絡(luò)犯罪。

社會工程仍然是最常見的攻擊載體之一。當(dāng)某人僅僅點(diǎn)擊一個看起來無害的鏈接時，惡意軟件多久會被引入系統(tǒng)

事實(shí)上，要吸引受害者點(diǎn)擊這個鏈接，需要付出相當(dāng)大的努力。從歷史上看，制作一個可信的釣魚電子郵件是一項勞動密集型的工作。成功實(shí)施這樣的襲擊需要幾天甚至幾周的研究和適當(dāng)?shù)臋C(jī)會。隨著網(wǎng)絡(luò)人工智能的出現(xiàn)，情況正在發(fā)生變化。

分析大型數(shù)據(jù)集有助于攻擊者根據(jù)在線行為和估計的財富對受害者進(jìn)行優(yōu)先排序。預(yù)測模型可以更進(jìn)一步，根據(jù)歷史數(shù)據(jù)確定支付贖金的意愿，甚至可以調(diào)整支付的規(guī)模，以最大限度地增加網(wǎng)絡(luò)罪犯的機(jī)會，從而增加他們的收入。

想象一下，公共領(lǐng)域中所有可用的數(shù)據(jù)，以及之前通過各種數(shù)據(jù)泄露的秘密，現(xiàn)在都在幾秒鐘內(nèi)組合在一起，不需要人工操作，就可以完成最終的受害者分析。

當(dāng)受害者被選中時，人工智能可以用來創(chuàng)建和定制電子郵件和網(wǎng)站，這些郵件和網(wǎng)站很可能會根據(jù)經(jīng)過處理的數(shù)據(jù)被點(diǎn)擊。信任是通過讓人們在社交媒體上進(jìn)行長時間的對話而建立的，不需要人力。聊天機(jī)器人現(xiàn)在能夠保持這種互動，甚至通過模仿他們的寫作風(fēng)格來模仿真實(shí)的聯(lián)系人。

用于受害者識別和偵察的機(jī)器學(xué)習(xí)大大減少了攻擊者的資源投入。事實(shí)上，甚至沒有必要再講同樣的語言了。這不可避免地導(dǎo)致了高針對性魚叉式釣魚攻擊的規(guī)模和頻率的增加。

此類攻擊的復(fù)雜性也可能上升。由于人工智能在語音合成方面的快速發(fā)展，它超越了人類的欺騙能力，能夠模仿聲音。這些系統(tǒng)可以基于現(xiàn)有數(shù)據(jù)創(chuàng)建真實(shí)的語音記錄，并通過模擬將社會工程提升到下一個級別。這與上面討論的其他技術(shù)相結(jié)合，描繪了一幅相當(dāng)可怕的畫面。

那么，我們該怎么辦呢

讓我們概述一些我們應(yīng)該考慮的潛在防御策略。

首先，很明顯，增加人工智能用于網(wǎng)絡(luò)防御并不是一個壞的選擇。一種結(jié)合了監(jiān)督和非監(jiān)督學(xué)習(xí)的方法已經(jīng)被用來預(yù)測新的威脅和惡意軟件基于現(xiàn)有的模式。

行為分析是另一個探索的途徑。機(jī)器學(xué)習(xí)技術(shù)可用于監(jiān)控系統(tǒng)和人類活動，以檢測潛在的惡意偏差。

但重要的是，在使用人工智能進(jìn)行防御時，我們應(yīng)該假設(shè)攻擊者已經(jīng)預(yù)料到了它。我們還必須跟蹤人工智能的發(fā)展及其在網(wǎng)絡(luò)中的應(yīng)用，以便能夠可靠地預(yù)測惡意應(yīng)用程序。

為了實(shí)現(xiàn)這一目標(biāo)，行業(yè)從業(yè)者、學(xué)術(shù)研究人員和決策者之間的合作至關(guān)重要。立法者必須考慮到人工智能的潛在用途，并更新一些“黑客”的定義。研究人員應(yīng)該仔細(xì)考慮惡意應(yīng)用他們的研究成果。補(bǔ)丁和漏洞管理程序應(yīng)該在企業(yè)界得到應(yīng)有的重視。

最后，應(yīng)該提高用戶對防止社會工程攻擊、阻止密碼重用以及在可能的情況下提倡雙因素身份驗證的意識。

來源：ISACA   編輯：Leron Zinatullin