網(wǎng)絡(luò)安全是一個(gè)人力受限的市場(chǎng)——因此，人工智能(AI)自動(dòng)化的機(jī)會(huì)是巨大的。通常，人工智能被用于使網(wǎng)絡(luò)安全的某些防御方面更加廣泛和有效。打擊垃圾郵件和檢測(cè)惡意軟件就是最好的例子。

另一方面，當(dāng)試圖攻擊屬于他人的脆弱系統(tǒng)時(shí)，使用人工智能有許多動(dòng)機(jī)。這些激勵(lì)措施包括攻擊速度快、成本低，以及在已經(jīng)受到限制的環(huán)境中難以吸引熟練員工。

目前公共領(lǐng)域的研究?jī)H限于白帽黑客使用機(jī)器學(xué)習(xí)來(lái)識(shí)別漏洞并提出修復(fù)建議。然而，以人工智能的發(fā)展速度，我們很快就會(huì)看到攻擊者大規(guī)模使用這些功能，如果他們還沒(méi)有這么做的話。

我們?cè)趺茨艽_定呢?事實(shí)上，很難將僵尸網(wǎng)絡(luò)或網(wǎng)絡(luò)釣魚(yú)活動(dòng)歸因于人工智能，而非人類(lèi)。然而，業(yè)內(nèi)人士認(rèn)為，我們將在一年內(nèi)看到一場(chǎng)AI驅(qū)動(dòng)的網(wǎng)絡(luò)攻擊;62%接受調(diào)查的黑帽會(huì)議參與者似乎相信這種可能性。

許多人認(rèn)為，人工智能已經(jīng)被高度主動(dòng)和老練的攻擊者用于惡意目的。考慮到人工智能系統(tǒng)讓對(duì)手的工作變得容易得多，這一點(diǎn)也不奇怪。

為什么?撇開(kāi)資源效率不談，人工智能系統(tǒng)在攻擊者和受害者之間引入了心理距離。事實(shí)上，許多傳統(tǒng)的攻擊技術(shù)包括與他人接觸和在場(chǎng)，這反過(guò)來(lái)限制了攻擊者的匿名性。AI增加了匿名性和距離。自主武器就是一個(gè)很好的例子;攻擊者不再需要扣動(dòng)扳機(jī)并觀察其行為的影響。

它也不一定是關(guān)于人類(lèi)生活的。讓我們來(lái)看看一些不那么嚴(yán)重的人工智能惡意應(yīng)用:網(wǎng)絡(luò)犯罪。

社會(huì)工程仍然是最常見(jiàn)的攻擊載體之一。當(dāng)某人僅僅點(diǎn)擊一個(gè)看起來(lái)無(wú)害的鏈接時(shí)，惡意軟件多久會(huì)被引入系統(tǒng)

事實(shí)上，要吸引受害者點(diǎn)擊這個(gè)鏈接，需要付出相當(dāng)大的努力。從歷史上看，制作一個(gè)可信的釣魚(yú)電子郵件是一項(xiàng)勞動(dòng)密集型的工作。成功實(shí)施這樣的襲擊需要幾天甚至幾周的研究和適當(dāng)?shù)臋C(jī)會(huì)。隨著網(wǎng)絡(luò)人工智能的出現(xiàn)，情況正在發(fā)生變化。

分析大型數(shù)據(jù)集有助于攻擊者根據(jù)在線行為和估計(jì)的財(cái)富對(duì)受害者進(jìn)行優(yōu)先排序。預(yù)測(cè)模型可以更進(jìn)一步，根據(jù)歷史數(shù)據(jù)確定支付贖金的意愿，甚至可以調(diào)整支付的規(guī)模，以最大限度地增加網(wǎng)絡(luò)罪犯的機(jī)會(huì)，從而增加他們的收入。

想象一下，公共領(lǐng)域中所有可用的數(shù)據(jù)，以及之前通過(guò)各種數(shù)據(jù)泄露的秘密，現(xiàn)在都在幾秒鐘內(nèi)組合在一起，不需要人工操作，就可以完成最終的受害者分析。

當(dāng)受害者被選中時(shí)，人工智能可以用來(lái)創(chuàng)建和定制電子郵件和網(wǎng)站，這些郵件和網(wǎng)站很可能會(huì)根據(jù)經(jīng)過(guò)處理的數(shù)據(jù)被點(diǎn)擊。信任是通過(guò)讓人們?cè)谏缃幻襟w上進(jìn)行長(zhǎng)時(shí)間的對(duì)話而建立的，不需要人力。聊天機(jī)器人現(xiàn)在能夠保持這種互動(dòng)，甚至通過(guò)模仿他們的寫(xiě)作風(fēng)格來(lái)模仿真實(shí)的聯(lián)系人。

用于受害者識(shí)別和偵察的機(jī)器學(xué)習(xí)大大減少了攻擊者的資源投入。事實(shí)上，甚至沒(méi)有必要再講同樣的語(yǔ)言了。這不可避免地導(dǎo)致了高針對(duì)性魚(yú)叉式釣魚(yú)攻擊的規(guī)模和頻率的增加。

此類(lèi)攻擊的復(fù)雜性也可能上升。由于人工智能在語(yǔ)音合成方面的快速發(fā)展，它超越了人類(lèi)的欺騙能力，能夠模仿聲音。這些系統(tǒng)可以基于現(xiàn)有數(shù)據(jù)創(chuàng)建真實(shí)的語(yǔ)音記錄，并通過(guò)模擬將社會(huì)工程提升到下一個(gè)級(jí)別。這與上面討論的其他技術(shù)相結(jié)合，描繪了一幅相當(dāng)可怕的畫(huà)面。

那么，我們?cè)撛趺崔k呢

讓我們概述一些我們應(yīng)該考慮的潛在防御策略。

首先，很明顯，增加人工智能用于網(wǎng)絡(luò)防御并不是一個(gè)壞的選擇。一種結(jié)合了監(jiān)督和非監(jiān)督學(xué)習(xí)的方法已經(jīng)被用來(lái)預(yù)測(cè)新的威脅和惡意軟件基于現(xiàn)有的模式。

行為分析是另一個(gè)探索的途徑。機(jī)器學(xué)習(xí)技術(shù)可用于監(jiān)控系統(tǒng)和人類(lèi)活動(dòng)，以檢測(cè)潛在的惡意偏差。

但重要的是，在使用人工智能進(jìn)行防御時(shí)，我們應(yīng)該假設(shè)攻擊者已經(jīng)預(yù)料到了它。我們還必須跟蹤人工智能的發(fā)展及其在網(wǎng)絡(luò)中的應(yīng)用，以便能夠可靠地預(yù)測(cè)惡意應(yīng)用程序。

為了實(shí)現(xiàn)這一目標(biāo)，行業(yè)從業(yè)者、學(xué)術(shù)研究人員和決策者之間的合作至關(guān)重要。立法者必須考慮到人工智能的潛在用途，并更新一些“黑客”的定義。研究人員應(yīng)該仔細(xì)考慮惡意應(yīng)用他們的研究成果。補(bǔ)丁和漏洞管理程序應(yīng)該在企業(yè)界得到應(yīng)有的重視。

最后，應(yīng)該提高用戶對(duì)防止社會(huì)工程攻擊、阻止密碼重用以及在可能的情況下提倡雙因素身份驗(yàn)證的意識(shí)。

來(lái)源：ISACA   編輯：Leron Zinatullin