當(dāng)前人工智能（AI）功能在不斷增強(qiáng)和復(fù)雜化，這一趨勢對于那些運(yùn)用生成式AI技術(shù)的首席信息安全官（CISO）來說更加顯著。網(wǎng)絡(luò)安全供應(yīng)商正面臨著利用生成式AI來降低失敗風(fēng)險的挑戰(zhàn)。此外，攻擊策略的演變、AI的武器化，以及社交工程手段的應(yīng)用，已經(jīng)導(dǎo)致多家全球領(lǐng)先企業(yè)遭遇重大挫折。

日前，專業(yè)IT媒體VentureBeat采訪了多位資深網(wǎng)絡(luò)安全專家，聽取他們對2024年生成式AI技術(shù)將會如何影響網(wǎng)絡(luò)安全發(fā)展的預(yù)測。專家們普遍認(rèn)為：盡管生成式AI技術(shù)會降低網(wǎng)絡(luò)犯罪的進(jìn)入門檻，升級企業(yè)現(xiàn)有的風(fēng)險態(tài)勢，但同時也會給企業(yè)網(wǎng)絡(luò)安全建設(shè)帶來很大幫助，AI專業(yè)人員和網(wǎng)絡(luò)安全團(tuán)隊(duì)?wèi)?yīng)該尋求更加緊密的合作。

1、“生成式AI技術(shù)應(yīng)用正在帶來新的安全盲區(qū)”

——CrowdStrike首席技術(shù)官Elia Zaitsev

2024年，我們預(yù)計(jì)，攻擊者會把AI系統(tǒng)作為攻擊的重點(diǎn)目標(biāo)，并視其為一種新的威脅利用途徑。通過合法AI應(yīng)用系統(tǒng)中的安全漏洞，以及員工未經(jīng)批準(zhǔn)使用的影子AI工具帶來的安全盲區(qū)，攻擊者可以更容易地攻擊組織。防護(hù)AI技術(shù)的安全性盲區(qū)，企業(yè)安全團(tuán)隊(duì)仍處于早期階段，這些盲區(qū)和新技術(shù)為企圖攻擊企業(yè)的惡意人員打開了大門，這迫使企業(yè)組織必須盡快面對新的數(shù)據(jù)安全風(fēng)險。

因此，企業(yè)組織在2024年需要重新審視內(nèi)部威脅，了解AI技術(shù)引入的各個環(huán)節(jié)，評估其風(fēng)險狀況，并制定相應(yīng)的防護(hù)指導(dǎo)方針，以確保安全負(fù)責(zé)地使用，盡量降低企業(yè)風(fēng)險和安全支出，同時實(shí)現(xiàn)其應(yīng)用價值的最大化。

2、“組織的網(wǎng)絡(luò)安全防護(hù)工作不能過度依賴AI”

——CyCognito首席執(zhí)行官Rob Gurzeev

我始終認(rèn)為，生成式AI技術(shù)會對企業(yè)的網(wǎng)絡(luò)安全防護(hù)工作產(chǎn)生積極影響，但是有一個重要問題需要強(qiáng)調(diào)，就是AI技術(shù)可能讓企業(yè)的安全運(yùn)營團(tuán)隊(duì)變得過于自負(fù)。2024年，如果企業(yè)組織過度依賴AI技術(shù)，就可能導(dǎo)致組織的日常安全運(yùn)營缺乏監(jiān)管，這就很容易導(dǎo)致在攻擊面管理上出現(xiàn)缺口。

3、“生成式AI日趨成熟，能夠幫助企業(yè)加強(qiáng)安全防御”

——Cyberhaven首席執(zhí)行官Ting Howard

Cyberhaven得到的數(shù)據(jù)顯示，4.7%的員工曾將機(jī)密數(shù)據(jù)輸入到ChatGPT中，其中11%的數(shù)據(jù)是敏感數(shù)據(jù)。但我確實(shí)認(rèn)為，局面最終會好轉(zhuǎn)。隨著大語言模型（LLM）和生成式AI 日趨成熟，安全團(tuán)隊(duì)將能夠用它們來加強(qiáng)防御。生成式AI大有潛力幫助安全團(tuán)隊(duì)處理目前難以處理的大量事件數(shù)據(jù)。傳統(tǒng)的數(shù)據(jù)湖和基礎(chǔ)的SIEM側(cè)重收集數(shù)據(jù)，而更注重對話的界面可以大大提高用途。

4、“生成式AI技術(shù)將成為閉環(huán)OT防御的有效方法”

——霍尼韋爾互聯(lián)企業(yè)首席技術(shù)官Jason Urso

關(guān)鍵基礎(chǔ)設(shè)施一直是網(wǎng)絡(luò)攻擊者的主要攻擊目標(biāo)。但這些攻擊要求很高的專業(yè)性，需要極其復(fù)雜的手法，并不是普通黑客就能夠具備的。為了更有效地對抗專業(yè)網(wǎng)絡(luò)攻擊者，我認(rèn)為生成式AI技術(shù)將會在2024年成為閉環(huán)OT防御的一種有效方法，這種防御能夠?qū)崟r基于威脅格局方面的變化，動態(tài)改變安全配置和防御規(guī)則，并執(zhí)行自動滲透測試以標(biāo)注面臨風(fēng)險的變化。

5、“可靠的生成式AI應(yīng)用需要由人來監(jiān)管”

——Ivanti首席產(chǎn)品官Srinivas Mukkamala

2024年，隨著ChatGPT被廣泛應(yīng)用，很多人開始擔(dān)心生成式AI技術(shù)會對其職業(yè)生涯產(chǎn)生影響。根據(jù)我們的市場研究發(fā)現(xiàn)，近三分之二受訪IT員工擔(dān)心生成式AI在未來五年內(nèi)將取代其工作。因此，企業(yè)管理者需要向員工明確闡述計(jì)劃如何實(shí)施AI，以便穩(wěn)定現(xiàn)有的人才團(tuán)隊(duì)。需要指出的是，可靠的AI技術(shù)應(yīng)用必須由人來監(jiān)管。2024年，越來越普遍的AI工具將使社會工程攻擊更具欺騙性。由于企業(yè)提高了檢測傳統(tǒng)網(wǎng)絡(luò)釣魚郵件的能力，惡意黑客已轉(zhuǎn)向新技術(shù)，確保誘餌更讓人信以為真。此外，攻擊者和不懷好意的人利用這些AI工具生成虛假信息，將對組織、政府和所有人構(gòu)成挑戰(zhàn)和威脅。

6、“別擔(dān)心，生成式AI技術(shù)不會接管世界”

——Lacework 首席網(wǎng)絡(luò)安全官 Merritt Baer

別擔(dān)心，生成式AI技術(shù)不會接管世界，但很多傳統(tǒng)工作的性質(zhì)確實(shí)會發(fā)生變化。在2024年，我們會看到生成式AI技術(shù)將能夠大量地自動處理重復(fù)性任務(wù)，它們不僅能提示程序員編寫自動化程序，還有望建議編寫修復(fù)腳本或?yàn)槁┒囱a(bǔ)丁所需的代碼。但是，人類特有的創(chuàng)造性思維才是至關(guān)重要的，而AI技術(shù)所擅長的是如何可靠處理，從龐大數(shù)據(jù)集中導(dǎo)出模式，并精準(zhǔn)地執(zhí)行操作。

7、“安全團(tuán)隊(duì)需要借助AI來跟上應(yīng)用開發(fā)的步伐”

——派拓網(wǎng)絡(luò)高級副總裁Ankur Shah

今天的安全團(tuán)隊(duì)完全跟不上應(yīng)用程序開發(fā)的節(jié)奏，這導(dǎo)致無數(shù)的安全風(fēng)險更快速地進(jìn)入到企業(yè)的生產(chǎn)環(huán)境中。2024年，生成式AI技術(shù)或?qū)⑹箲?yīng)用程序的開發(fā)節(jié)奏進(jìn)一步加快，開發(fā)人員將利用這項(xiàng)技術(shù)以前所未有的速度編寫和發(fā)布新的應(yīng)用。為了確保安全團(tuán)隊(duì)跟上步伐，企業(yè)也必須將AI技術(shù)應(yīng)用到安全防護(hù)中。但AI技術(shù)在安全防護(hù)中的應(yīng)用會面臨一個數(shù)據(jù)問題，如果沒有可靠的安全數(shù)據(jù)來訓(xùn)練AI，其阻止風(fēng)險的能力就無從談起。

現(xiàn)在，安全分析師不僅需要能夠了解攻擊者如何潛入，還需要了解如何創(chuàng)建復(fù)雜的自動化和查詢，以便面對大量數(shù)據(jù)高效處理。在2024年，借助生成式AI技術(shù)，它們與數(shù)據(jù)進(jìn)行交互的過程將變得更流暢。

8、“企業(yè)需要加快應(yīng)對AI威脅的步伐”

——Telesign首席執(zhí)行官Christophe Van de Weyer

AI技術(shù)能夠幫助安全團(tuán)隊(duì)發(fā)現(xiàn)新的攻擊模式、新興CVE或表明企圖破壞的某些行為。但AI技術(shù)也同時加大了企業(yè)對新型威脅的識別難度，因?yàn)楝F(xiàn)有的威脅檢測系統(tǒng)往往無法區(qū)分由人工生成的網(wǎng)絡(luò)釣魚攻擊還是AI生成的網(wǎng)絡(luò)釣魚攻擊。2024年，企業(yè)需要加快、加強(qiáng)對AI應(yīng)用威脅防御的步伐，而做好身份賬戶的完整性防護(hù)將是關(guān)鍵。企業(yè)應(yīng)該基于持續(xù)分析欺詐信號，利用AI評估登錄和交易的風(fēng)險大小。網(wǎng)絡(luò)安全服務(wù)商也應(yīng)該擴(kuò)大機(jī)器學(xué)習(xí)所能識別的欺詐種類，為加強(qiáng)保護(hù)措施提供依據(jù)。

9、“AI技術(shù)應(yīng)該成為CISO必須掌握的專業(yè)技能”

——WinWire首席技術(shù)官Vineet Arora

企業(yè)的網(wǎng)絡(luò)安全管理和運(yùn)營人員現(xiàn)在需要監(jiān)控和管理的數(shù)據(jù)非常龐大。隨著云計(jì)算和智能邊緣設(shè)備的更廣泛部署，企業(yè)的數(shù)據(jù)量在未來幾年還會進(jìn)一步增長。而AI技術(shù)非常適合解決網(wǎng)絡(luò)安全工作中圍繞威脅檢測、篩選和響應(yīng)方面一些最困難的問題。因此我認(rèn)為，生成式AI技術(shù)在2024年會成為每個CISO都必須熟練使用的必要技能之一。

生成式AI將顯著增強(qiáng)安全從業(yè)者在日常工作中的專業(yè)能力。特別是在威脅情報、安全加固、滲透測試和檢測工程等目前由人工完成的工作場景下，生成式AI技術(shù)能夠大大提高流程的自動化程度。同時，許多枯燥的日常安全運(yùn)營任務(wù)（比如日志分析、事件響應(yīng)和安全補(bǔ)?。┒伎梢酝ㄟ^生成式AI實(shí)現(xiàn)自動化，從而為安全分析師節(jié)約寶貴的時間，致力于更復(fù)雜的網(wǎng)絡(luò)安全問題。當(dāng)然，我們也必須留意，惡意攻擊者利用生成式AI為社會工程攻擊、惡意軟件以及復(fù)雜的網(wǎng)絡(luò)釣魚活動帶來更加逼真的場景模擬。

10、“未來的網(wǎng)絡(luò)安全工作一定是由AI技術(shù)來主導(dǎo)”

——Zscaler首席人工智能官Claudionor Coelho

生成式AI技術(shù)的廣泛應(yīng)用將在2024年將對企業(yè)的合規(guī)工作產(chǎn)生重大而深遠(yuǎn)的影響。在過去，合規(guī)是一項(xiàng)耗時的工作，涉及制定法規(guī)、實(shí)行約束、獲取證據(jù)以及回應(yīng)客戶問題。2024年，上述的很多工作都可以自動化的文本和程序來實(shí)現(xiàn)。

我們認(rèn)為這將是未來網(wǎng)絡(luò)安全工作的主要運(yùn)作方式，未來將會是AI技術(shù)主導(dǎo)的天下。由于今天的數(shù)據(jù)和安全防護(hù)模型過于復(fù)雜和龐大，因此不能指望通過人工團(tuán)隊(duì)來閱讀和解釋它們，生成式AI將促使網(wǎng)絡(luò)安全技術(shù)更快速地向前發(fā)展。