當(dāng)人工智能領(lǐng)導(dǎo)者們爭論什么是安全的人工智能以及這是否意味著我們正走上毀滅之路時，網(wǎng)絡(luò)安全社區(qū)仍在努力思考如何才能最好地保護我們的企業(yè)和客戶。人工智能帶來了巨大的挑戰(zhàn)和機遇、大量新應(yīng)用和快速發(fā)展的威脅。這使得網(wǎng)絡(luò)安全社區(qū)合作領(lǐng)先于不良行為者比以往任何時候都更加重要。

人工智能如何為黑客和惡意攻擊者提供力量

2022年，物理安全事件給企業(yè)造成了1萬億美元的損失，而人工智能驅(qū)動的網(wǎng)絡(luò)攻擊繼續(xù)表現(xiàn)出更高的復(fù)雜性、速度和適應(yīng)性。雖然這使得它們更難檢測和緩解，但DarkGPT和FraudGPT等產(chǎn)品讓惡意行為者更容易造成傷害，而無需任何編碼技能。

人工智能算法可以將來自社交媒體和其他來源的大量數(shù)據(jù)轉(zhuǎn)化為高度針對性和令人信服的網(wǎng)絡(luò)釣魚攻擊或其他形式的社交工程。例如，在利用生成式人工智能的競爭中，黑客已經(jīng)利用假的ChatGPT網(wǎng)站和模仿真實網(wǎng)站的網(wǎng)絡(luò)釣魚詐騙來利用普通用戶。當(dāng)這些攻擊針對毫無戒心的員工時，它們可以提供對關(guān)鍵系統(tǒng)的未經(jīng)授權(quán)的訪問。

與此同時，為了快速進入市場，合法的GenAI客戶在開發(fā)應(yīng)用時往往沒有將安全性作為優(yōu)先事項。由于Google的Gemini等產(chǎn)品容易受到攻擊，早期采用者正在使用第三方應(yīng)用程序擴充員工隊伍，而這讓他們處于危險之中，這意味著員工可能會在不知情的情況下故意泄露企業(yè)的敏感信息。

隨著網(wǎng)絡(luò)安全社區(qū)學(xué)會防御一系列人工智能攻擊，該技術(shù)只會助長不法分子的氣焰。我們的團隊將面臨越來越高級的高級持續(xù)性威脅(APT)以及更復(fù)雜、更具有規(guī)避性的惡意軟件，這些惡意軟件能夠以更高的精度和速度滲透和操縱工業(yè)控制系統(tǒng)。

人工智能如何賦能網(wǎng)絡(luò)安全防御者

在人工智能加速發(fā)展的世界中，安全領(lǐng)導(dǎo)者面臨的挑戰(zhàn)比以往任何時候都要快。值得慶幸的是，我們擁有同樣的技術(shù)，我們可以利用人工智能解決方案來加強防御，并針對不良行為者發(fā)起主動行動。

通過將AI/ML類型的模型納入安全程序，我們的網(wǎng)絡(luò)安全團隊可以更深入地了解我們的數(shù)據(jù)，并發(fā)現(xiàn)我們原本會忽略的風(fēng)險。與自動化相結(jié)合后，AI工具可以篩選海量數(shù)據(jù)集、比較數(shù)據(jù)集群行為，并在人類同行之前對潛在危險做出反應(yīng)，從而快速將暴露的系統(tǒng)與公司的基礎(chǔ)設(shè)施隔離開來。

此外，正如惡意攻擊者使用GenAI制造更強大、更具欺騙性的威脅一樣，企業(yè)也可以使用該技術(shù)構(gòu)建主動訓(xùn)練場景。在這種受控環(huán)境中，團隊可以練習(xí)、測試和改進防御能力，從而為應(yīng)對各種真實攻擊做好準備。在日常工作中，可以實施GenAI，使CISO能夠使用自然語言詢問有關(guān)其計劃的問題，并獲得具有預(yù)測性見解的準確答案。

雖然員工培訓(xùn)和教育仍然至關(guān)重要，但擊敗當(dāng)今的網(wǎng)絡(luò)犯罪分子需要強大且不斷發(fā)展的技術(shù)防御。

網(wǎng)絡(luò)安全高管的新角色

AI可以幫助提供早期檢測警告和更快的響應(yīng)時間，以便在該時間段內(nèi)識別違規(guī)行為。隨著職責(zé)的增加，如今的CISO不再像以前那樣身處戰(zhàn)壕。他們更有可能從更高的角度觀察他們的計劃，使他們能夠采取更全面的方法制定網(wǎng)絡(luò)防御策略，并用可操作的數(shù)據(jù)情報指導(dǎo)他們的團隊。

對于CISO來說，擁抱AI/ML對于實現(xiàn)這種整體視角并幫助分析他們需要篩選的大量數(shù)據(jù)至關(guān)重要。

總結(jié)

隨著人工智能的能力似乎以驚人的速度增長，它不斷為雙方帶來新的可能性。為了領(lǐng)先于被賦予權(quán)力的壞人并塑造一個有彈性和適應(yīng)性的生態(tài)系統(tǒng)，網(wǎng)絡(luò)安全社區(qū)必須共同努力，發(fā)掘和擁抱風(fēng)險管理和威脅防御中的可能性。