人工智能技術(shù)還是以美國為第一梯隊，美國越是防備什么，我們可以理解美國就在做什么，所以美國在防備人工智能虛假信息和錯誤信息過程中，大張旗鼓不遺余力里的樣子，我們不難想象美國在這塊已經(jīng)制造了大量的虛假信息。那么，我們看看美國有關(guān)媒體對這塊的探討。

隨著最近的美國總統(tǒng)行政命令以及在英國布萊奇利公園舉行的人工智能安全峰會，人工智能的發(fā)展繼續(xù)成為世界各地的頭條新聞。

人工智能最近的快速崛起在許多積極方面繼續(xù)改變游戲規(guī)則，盡管我們?nèi)蕴幱谄錆摿Φ倪吘?。以前難以想象的新型醫(yī)療、更安全、更清潔和更一體化的公共交通、更快速和準(zhǔn)確的診斷以及環(huán)境突破都在當(dāng)今人工智能的可信承諾之內(nèi)。然而，在這場革命中，陰影籠罩著。

頭部國家都毫不掩飾他們“贏得人工智能競賽”的愿望，目前和承諾的人工智能研發(fā)投資從數(shù)億到數(shù)十億美元不等。當(dāng)被問及人工智能領(lǐng)域的主要參與者時，OpenAI、IBM 和蘋果等公司可能是最受關(guān)注的公司，但我們不應(yīng)該忘記，每個亞馬遜都有一個阿里巴巴，每個微軟都有一個百度，每個谷歌都有一個 Yandex。國家、活動人士和高級威脅行為者不可避免地會利用人工智能的力量來加強(qiáng)虛假信息活動。

人工智能的發(fā)展為在線傳播錯誤和虛假信息的創(chuàng)新方法鋪平了道路。從制造虛假網(wǎng)絡(luò)攻擊和破壞事件響應(yīng)計劃，到操縱用于自動化的數(shù)據(jù)湖，人工智能驅(qū)動的虛假信息活動可能會暴露或?qū)σ呀⒌陌踩到y(tǒng)和流程造成嚴(yán)重破壞。想象一下，虛假內(nèi)容的數(shù)量和質(zhì)量呈指數(shù)級增長，人工智能驅(qū)動的數(shù)字角色大軍的創(chuàng)建和自動化，充滿了豐富而無辜的背景故事來傳播和放大它，以及預(yù)測分析來識別最有效的情感杠桿點(diǎn)利用來制造混亂和恐慌。

這一趨勢對網(wǎng)絡(luò)安全從業(yè)者構(gòu)成了重大威脅，要求安全團(tuán)隊?wèi)?yīng)對利用人工智能欺騙、操縱和制造混亂的新興技術(shù)。后真相社會需要一種后信任的方式來對待真相。

人工智能驅(qū)動的虛假信息技術(shù)的影響是多方面的，包括：

破壞事件響應(yīng)計劃：通過制造虛假的外部事件或模擬網(wǎng)絡(luò)攻擊，使用人工智能的威脅行為者可能會誤導(dǎo)安全團(tuán)隊，導(dǎo)致資源分配不當(dāng)、響應(yīng)程序混亂，并暴露或損害事件緩解策略的有效性。

操縱數(shù)據(jù)以獲取錯誤信息：可以利用人工智能來篡改用于自動化的數(shù)據(jù)湖。通過注入虛假數(shù)據(jù)、生成大量有毒數(shù)據(jù)或操縱現(xiàn)有信息，威脅行為者可能會損害數(shù)據(jù)驅(qū)動決策過程的完整性和可靠性，從而導(dǎo)致錯誤的結(jié)論或錯誤的自動化。如果偽造的數(shù)據(jù)滲透到這些系統(tǒng)中，可能會破壞自動化流程的可靠性和完整性，從而導(dǎo)致災(zāi)難性的結(jié)果。

信任和信心的侵蝕：人工智能驅(qū)動的虛假信息的傳播侵蝕了對信息系統(tǒng)的信任，并削弱了對數(shù)據(jù)和安全措施準(zhǔn)確性的信心。這可能會產(chǎn)生深遠(yuǎn)的后果，不僅影響技術(shù)系統(tǒng)，還會破壞公眾對機(jī)構(gòu)、公司和整體網(wǎng)絡(luò)安全基礎(chǔ)設(shè)施的信任。

安全團(tuán)隊在打擊這些人工智能驅(qū)動的虛假信息活動時面臨著巨大的挑戰(zhàn)，而人工智能工具的復(fù)雜性也構(gòu)成了重大障礙。人工智能技術(shù)的進(jìn)步使威脅行為者能夠創(chuàng)建高度復(fù)雜且真實(shí)的虛假信息活動，這使得安全系統(tǒng)難以區(qū)分真實(shí)信息和捏造信息。這就像大海撈針一樣，人工智能技術(shù)發(fā)展的速度加劇了這種情況。隨著人工智能技術(shù)的快速發(fā)展，安全團(tuán)隊需要迅速適應(yīng)不斷變化的環(huán)境，需要不斷學(xué)習(xí)、開發(fā)新的防御機(jī)制，并及時了解最新的人工智能驅(qū)動的威脅。

目前，人工智能缺乏全面的監(jiān)管框架和標(biāo)準(zhǔn)化實(shí)踐，特別是在網(wǎng)絡(luò)安全方面，這留下了空白，使得很難減少人工智能在虛假信息活動中的濫用。

為了應(yīng)對這些威脅，安全團(tuán)隊必須采取日益創(chuàng)新的策略。人工智能驅(qū)動的防御機(jī)制，例如采用能夠識別和消除人工智能生成的惡意內(nèi)容的機(jī)器學(xué)習(xí)算法，是至關(guān)重要的。人工智能工具可以攝取并理解表征整個組織的大量不同數(shù)據(jù)，建立合理的基線并對潛在的操縱發(fā)出警報。人工智能或許為構(gòu)建能夠在如此規(guī)模下運(yùn)行的有效數(shù)據(jù)完整性模型提供了最佳機(jī)會。同樣，人工智能可以充當(dāng)外部哨兵，監(jiān)控新生內(nèi)容、活動或情緒，并推斷出對您的業(yè)務(wù)可能或潛在的威脅。

考慮防御如何從人工智能驅(qū)動的數(shù)據(jù)收集、聚合和挖掘功能中受益。正如潛在的攻擊者從偵察開始一樣，防御者也可以這樣做。對組織和行業(yè)周圍信息空間的持續(xù)監(jiān)控可以作為高效的預(yù)警系統(tǒng)。

教育和意識也發(fā)揮著關(guān)鍵作用。通過不斷對安全專業(yè)人員進(jìn)行有關(guān)最新人工智能驅(qū)動威脅的培訓(xùn)和更新，他們可以更好地適應(yīng)不斷變化的挑戰(zhàn)。網(wǎng)絡(luò)安全社區(qū)內(nèi)部的協(xié)作在這里至關(guān)重要——分享見解和威脅情報可以建立統(tǒng)一戰(zhàn)線來對抗這些不斷適應(yīng)的對手，而培養(yǎng)批判性思維技能使安全團(tuán)隊能夠更有效地識別和阻止虛假信息活動。

保持持續(xù)的警惕和適應(yīng)能力是應(yīng)對這些威脅的另一個關(guān)鍵。從過去的事件（例如通過社交媒體錯誤信息活動操縱公眾輿論）中汲取教訓(xùn)，強(qiáng)調(diào)需要采取靈活的方法，不斷更新協(xié)議以有效應(yīng)對新出現(xiàn)的威脅。虛假信息的有效性部分來自于其“震撼因素”。假新聞可能如此嚴(yán)重，而且危險似乎如此迫在眉睫，以至于人們可能會以不太協(xié)調(diào)的方式做出反應(yīng)，除非他們提前做好準(zhǔn)備。在這種情況下，對您的企業(yè)最有可能受到打擊的虛假信息類型進(jìn)行一些“預(yù)先掩飾”會非常有幫助。這將幫助您的員工為某些異常情況做好心理準(zhǔn)備，并更好地準(zhǔn)備采取適當(dāng)?shù)暮罄m(xù)措施。

安全領(lǐng)導(dǎo)者應(yīng)在 IT、OT、PR、營銷和其他內(nèi)部團(tuán)隊之間發(fā)起對話，以確保他們知道在發(fā)現(xiàn)虛假信息時如何有效協(xié)作。一個簡單的例子就是將虛假信息練習(xí)納入桌面討論或定期團(tuán)隊培訓(xùn)中。

人工智能在提供看似無限的可能性的同時，也讓我們面臨新的漏洞。人工智能驅(qū)動的虛假信息的興起對社會辨別事實(shí)與虛構(gòu)的能力提出了巨大的挑戰(zhàn)。反擊需要采取全面的方法。通過采用將技術(shù)進(jìn)步與批判性思維技能、協(xié)作和持續(xù)學(xué)習(xí)文化相結(jié)合的戰(zhàn)略，組織可以更有效地防范其破壞性影響。