事實(shí)表明，盡管有很多好處，但生成式人工智能也給企業(yè)帶來了許多安全挑戰(zhàn)，而且可能代價(jià)高昂。而企業(yè)需要審查可能的威脅和最佳實(shí)踐以降低風(fēng)險(xiǎn)。

在ChatGPT推出之后，生成式人工智能模型的迅速采用有望從根本上改變企業(yè)開展業(yè)務(wù)以及與客戶和供應(yīng)商互動(dòng)的方式。

生成式人工智能可以支持廣泛的業(yè)務(wù)需求，例如編寫營(yíng)銷內(nèi)容、改善客戶服務(wù)、生成軟件應(yīng)用程序源代碼和生成業(yè)務(wù)報(bào)告。生成式人工智能工具的諸多好處鼓勵(lì)企業(yè)和個(gè)人在工作中測(cè)試這些工具的能力，尤其在降低成本、提高工作速度和質(zhì)量方面。

然而，與任何新興技術(shù)一樣，快速實(shí)施可能存在風(fēng)險(xiǎn)，為威脅行為者利用企業(yè)的漏洞打開了大門。在當(dāng)今復(fù)雜的IT威脅環(huán)境中，未經(jīng)仔細(xì)考慮就使用生成人工智能工具可能會(huì)給企業(yè)帶來災(zāi)難性的后果。

與在企業(yè)環(huán)境中使用生成人工智能相關(guān)的安全風(fēng)險(xiǎn)

了解在企業(yè)環(huán)境中使用生成式人工智能的潛在風(fēng)險(xiǎn)對(duì)于從這項(xiàng)技術(shù)中受益，同時(shí)保持合規(guī)性和避免安全漏洞至關(guān)重要。在規(guī)劃生成式人工智能部署時(shí)，需要牢記以下風(fēng)險(xiǎn)。

(1)員工泄露敏感工作信息

在企業(yè)環(huán)境中，用戶應(yīng)該謹(jǐn)慎對(duì)待他們與他人分享的任何數(shù)據(jù)，包括ChatGPT和其他人工智能聊天機(jī)器人。

最近最引人注目的事件是三星公司員工將敏感信息與ChatGPT共享而導(dǎo)致的數(shù)據(jù)泄露。三星的工程師將機(jī)密源代碼上傳到ChatGPT模型，此外還使用該服務(wù)創(chuàng)建會(huì)議記錄和匯總包含敏感工作相關(guān)信息的商業(yè)報(bào)告。

三星公司發(fā)生的數(shù)據(jù)泄露案例只是向人工智能聊天機(jī)器人泄露敏感信息的一個(gè)廣為人知的例子。許多其他使用生成式人工智能工具的公司和員工可能會(huì)因泄露敏感工作信息而犯類似的錯(cuò)誤，例如內(nèi)部代碼、版權(quán)材料、商業(yè)秘密、個(gè)人身份信息(PII)和機(jī)密商業(yè)信息。

OpenAI公司對(duì)ChatGPT的標(biāo)準(zhǔn)政策是保留用戶記錄30天，以監(jiān)控可能的濫用，即使用戶選擇關(guān)閉聊天記錄。對(duì)于將ChatGPT集成到其業(yè)務(wù)流程中的公司來說，這意味著員工的ChatGPT帳戶可能包含敏感信息。因此，成功入侵員工ChatGPT賬戶的威脅行為者可能會(huì)訪問這些用戶查詢和人工智能響應(yīng)中包含的任何敏感數(shù)據(jù)。

(2)人工智能工具中的安全漏洞

與任何其他軟件一樣，生成式人工智能工具本身也可能存在漏洞，使企業(yè)面臨網(wǎng)絡(luò)威脅。

例如，今年3月，OpenAI公司將ChatGPT下線，以修復(fù)聊天機(jī)器人開源庫(kù)中的一個(gè)漏洞，該漏洞使一些用戶能夠從另一個(gè)活躍用戶的聊天歷史中看到聊天標(biāo)題。如果兩個(gè)用戶在同一時(shí)間處于活動(dòng)狀態(tài)，也可以在其他人的聊天記錄中看到新創(chuàng)建對(duì)話的第一條消息。

此外，同樣的漏洞還泄露了在特定時(shí)間段內(nèi)活躍的1.2%的ChatGPTPlus用戶的支付相關(guān)信息，包括客戶的姓名、電子郵件地址和信用卡號(hào)碼的最后四位數(shù)字。在最近的另一起安全事件中，網(wǎng)絡(luò)情報(bào)機(jī)構(gòu)Group-IB公司發(fā)現(xiàn)，超過10萬(wàn)個(gè)被入侵的ChatGPT賬戶在暗網(wǎng)市場(chǎng)上出售。

(3)數(shù)據(jù)中毒和盜竊

生成式人工智能工具必須提供大量數(shù)據(jù)才能正常工作。這些培訓(xùn)數(shù)據(jù)來自各種來源，其中許多在互聯(lián)網(wǎng)上是公開的，在某些情況下，可能包括企業(yè)以前與客戶的互動(dòng)。

在數(shù)據(jù)中毒攻擊中，威脅參與者可以操縱人工智能模型開發(fā)的預(yù)訓(xùn)練階段。通過向訓(xùn)練數(shù)據(jù)集中注入惡意信息，網(wǎng)絡(luò)攻擊者可以影響模型的預(yù)測(cè)行為，從而導(dǎo)致錯(cuò)誤或其他有害的響應(yīng)。

另一個(gè)與數(shù)據(jù)相關(guān)的風(fēng)險(xiǎn)涉及威脅行為者竊取用于訓(xùn)練生成式人工智能模型的數(shù)據(jù)集。如果沒有對(duì)數(shù)據(jù)訪問進(jìn)行足夠的加密和控制，模型訓(xùn)練數(shù)據(jù)中包含的任何敏感信息都可能被獲取數(shù)據(jù)集的攻擊者看到。

(4)違反合規(guī)義務(wù)

在企業(yè)環(huán)境中使用人工智能聊天機(jī)器人時(shí)，IT領(lǐng)導(dǎo)者應(yīng)評(píng)估以下與違反相關(guān)法規(guī)相關(guān)的風(fēng)險(xiǎn):

不正確的響應(yīng)。人工智能工具有時(shí)會(huì)給出錯(cuò)誤或膚淺的答案。使顧客接觸到誤導(dǎo)性的信息，除了對(duì)企業(yè)的聲譽(yù)產(chǎn)生負(fù)面影響外，還可能引起法律責(zé)任。

數(shù)據(jù)泄漏。員工可以在與人工智能聊天機(jī)器人的對(duì)話中分享敏感的工作信息，包括客戶的個(gè)人身份信息或受保護(hù)的健康信息(PHI)。這反過來又可能違反GDPR、PCIDSS和HIPAA等監(jiān)管標(biāo)準(zhǔn)，面臨罰款和法律訴訟的風(fēng)險(xiǎn)。

偏見。人工智能模型的反應(yīng)有時(shí)會(huì)表現(xiàn)出基于種族、性別或其他受保護(hù)特征的偏見，這可能違反反歧視法。

違反知識(shí)產(chǎn)權(quán)和版權(quán)法。人工智能驅(qū)動(dòng)的工具是在大量數(shù)據(jù)上進(jìn)行訓(xùn)練的，通常無(wú)法準(zhǔn)確地為它們的反應(yīng)提供特定的來源。其中一些訓(xùn)練數(shù)據(jù)可能包括受版權(quán)保護(hù)的材料，如書籍、雜志和學(xué)術(shù)期刊。在沒有引用的情況下使用基于版權(quán)作品的人工智能輸出可能會(huì)使企業(yè)受到法律罰款。

關(guān)于聊天機(jī)器人使用的法律。許多企業(yè)已經(jīng)開始將ChatGPT和其他生成式人工智能工具集成到他們的應(yīng)用程序中，有些企業(yè)使用人工智能聊天機(jī)器人來立即回答客戶的詢問。但在不提前告知客戶的情況下這樣做，可能會(huì)受到加州機(jī)器人信息披露法等法規(guī)的處罰。

數(shù)據(jù)隱私。一些企業(yè)可能希望開發(fā)自己的生成式人工智能模型，這一過程可能涉及收集大量訓(xùn)練數(shù)據(jù)。如果威脅行為者成功破壞企業(yè)IT基礎(chǔ)設(shè)施并獲得對(duì)培訓(xùn)數(shù)據(jù)的未經(jīng)授權(quán)訪問，則泄露受損數(shù)據(jù)集中包含的敏感信息可能違反數(shù)據(jù)隱私法。

除了安全性，生成式人工智能還帶來了算法偏差、幻覺和技術(shù)復(fù)雜性等挑戰(zhàn)。

在企業(yè)中使用生成式人工智能工具時(shí)的最佳安全實(shí)踐

為了解決與生成式人工智能相關(guān)的眾多安全風(fēng)險(xiǎn)，企業(yè)在實(shí)施生成式人工智能工具時(shí)應(yīng)牢記以下策略。

(1)在構(gòu)建或集成生成式人工智能之前，對(duì)數(shù)據(jù)進(jìn)行分類、匿名和加密

企業(yè)應(yīng)該對(duì)數(shù)據(jù)進(jìn)行分類，然后再將其輸入聊天機(jī)器人或使用它來訓(xùn)練生成式人工智能模型。確定哪些數(shù)據(jù)對(duì)于這些用例是可接受的，并且不與人工智能系統(tǒng)共享任何其他信息。

同樣，對(duì)訓(xùn)練數(shù)據(jù)集中的敏感數(shù)據(jù)進(jìn)行匿名處理，避免泄露敏感信息。加密人工智能模型的數(shù)據(jù)集及其所有連接，并通過強(qiáng)大的安全策略和控制保護(hù)企業(yè)最敏感的數(shù)據(jù)。

(2)對(duì)員工進(jìn)行生成式人工智能安全風(fēng)險(xiǎn)培訓(xùn)，并制定內(nèi)部使用政策

員工培訓(xùn)是降低生成式人工智能相關(guān)網(wǎng)絡(luò)攻擊風(fēng)險(xiǎn)的最關(guān)鍵保護(hù)措施。為了負(fù)責(zé)任地實(shí)施生成式人工智能，企業(yè)必須教育員工使用這項(xiàng)技術(shù)的相關(guān)風(fēng)險(xiǎn)。

企業(yè)可以通過制定安全和可接受的使用策略，為工作中的生成人工智能使用設(shè)定指導(dǎo)方針。盡管具體細(xì)節(jié)因組織而異，但一般的最佳實(shí)踐是需要人工監(jiān)督。不要自動(dòng)信任人工智能生成的內(nèi)容。人類應(yīng)該審查和編輯人工智能工具創(chuàng)造的一切。

人工智能的使用和安全策略還應(yīng)該明確指出，在對(duì)聊天機(jī)器人的查詢中可以包含哪些數(shù)據(jù)，哪些數(shù)據(jù)是不允許的。例如，開發(fā)者不應(yīng)該將知識(shí)產(chǎn)權(quán)、版權(quán)材料等敏感信息添加到人工智能工具中。

(3)為安全提供生成式人工智能工具

針對(duì)生成式人工智能工具進(jìn)行安全審計(jì)和定期滲透測(cè)試，以便在將其部署到生產(chǎn)環(huán)境之前識(shí)別安全漏洞。

安全團(tuán)隊(duì)還可以通過向人工智能工具提供網(wǎng)絡(luò)攻擊示例來訓(xùn)練它們識(shí)別和抵御攻擊企圖。這降低了黑客成功利用組織人工智能系統(tǒng)的可能性。

(4)管理員工對(duì)敏感工作數(shù)據(jù)的訪問權(quán)限

在企業(yè)環(huán)境中應(yīng)用最小權(quán)限原則，只允許授權(quán)人員訪問人工智能訓(xùn)練數(shù)據(jù)集和底層IT基礎(chǔ)設(shè)施。

使用身份和訪問管理工具可以幫助集中和控制員工的訪問憑據(jù)和權(quán)限。同樣，實(shí)施多因素身份驗(yàn)證可以幫助保護(hù)人工智能系統(tǒng)和數(shù)據(jù)訪問。

(5)確保底層網(wǎng)絡(luò)和基礎(chǔ)設(shè)施是安全的

在專用網(wǎng)段上部署人工智能系統(tǒng)。使用單獨(dú)的網(wǎng)段，限制對(duì)主機(jī)人工智能工具的訪問，可以增強(qiáng)安全性和可用性。

對(duì)于在云中托管人工智能工具的企業(yè)，需要選擇執(zhí)行嚴(yán)格安全控制并具有有效合規(guī)性認(rèn)證的信譽(yù)良好的云計(jì)算提供商。確保所有與云計(jì)算基礎(chǔ)設(shè)施的連接都是加密的。

(6)密切關(guān)注合規(guī)性需求，包括定期審核供應(yīng)商

合規(guī)性法規(guī)在不斷發(fā)展，隨著企業(yè)人工智能采用的增加，組織可能會(huì)看到更多與生成式人工智能技術(shù)相關(guān)的合規(guī)性要求。

企業(yè)應(yīng)密切關(guān)注影響其行業(yè)的合規(guī)性法規(guī)，以了解與使用人工智能系統(tǒng)相關(guān)的任何變化。作為這個(gè)過程的一部分，當(dāng)使用第三方供應(yīng)商的人工智能工具時(shí)，定期審查供應(yīng)商的安全控制和漏洞評(píng)估。這有助于確保供應(yīng)商系統(tǒng)中的任何安全弱點(diǎn)都不會(huì)滲透到企業(yè)的IT環(huán)境中。