歷時(shí)3天的“馬拉松式”談判圓滿結(jié)束，理事會(huì)主席與談判代表剛剛就人工智能協(xié)調(diào)規(guī)則達(dá)成協(xié)議，預(yù)計(jì)最終將成為《人工智能監(jiān)管的人工智能法案》。該法規(guī)草案的重點(diǎn)是提供一個(gè)合規(guī)框架，優(yōu)先考慮在歐盟部署安全和尊重人權(quán)的人工智能系統(tǒng)。這一人工智能法規(guī)超越了歐洲國家在人工智能領(lǐng)域投資和創(chuàng)新的靈感。

《人工智能法案》是一項(xiàng)具有里程碑意義的立法，它可以創(chuàng)造一個(gè)有利的環(huán)境，在這種環(huán)境中，人工智能的使用將成為一種更優(yōu)秀的安全和信任的工具，確保整個(gè)歐盟的公共和私人機(jī)構(gòu)利益相關(guān)者的參與。其主要思想是，根據(jù)人工智能對社會(huì)造成傷害的能力，遵循“基于風(fēng)險(xiǎn)”的方法來監(jiān)管人工智能:風(fēng)險(xiǎn)的危險(xiǎn)程度越高，需要做出的限制就越多。這第一部法律為其他司法管轄區(qū)的人工智能監(jiān)管建立了一個(gè)全球先例。相比之下，GDPR以同樣的方式已經(jīng)在保護(hù)個(gè)人數(shù)據(jù)方面做到了這一點(diǎn)，因此在全球范圍內(nèi)推廣了歐盟的技術(shù)監(jiān)管方式。

臨時(shí)協(xié)定的主要內(nèi)容

與歐盟委員會(huì)的初步提案相比，人工智能監(jiān)管臨時(shí)協(xié)議的主要新內(nèi)容可以總結(jié)如下:

對具有未來系統(tǒng)性風(fēng)險(xiǎn)的高影響通用人工智能模型和控制該系統(tǒng)的高風(fēng)險(xiǎn)人工智能系統(tǒng)進(jìn)行分類。

在歐盟一級(jí)改進(jìn)具有協(xié)調(diào)權(quán)力的治理制度或全面改革經(jīng)濟(jì)政策。

擴(kuò)大了違禁物品清單,但警務(wù)人員可在公共場所使用遠(yuǎn)程生物鑒別識(shí)別;不過,這是在不受濫用的條件下進(jìn)行的。

更好地執(zhí)行權(quán)利,這是因?yàn)橐蟛渴鹩袧撛陲L(fēng)險(xiǎn)的系統(tǒng)的人工智能行為者在使用這些系統(tǒng)之前先了解這些系統(tǒng)的基本權(quán)利影響。

更具體地,臨時(shí)協(xié)定包括以下方面:

定義和范圍

根據(jù)選擇協(xié)議，試圖選擇經(jīng)合組織庇護(hù)所的人工智能系統(tǒng)的定義與建議的程序相對應(yīng)。這樣，人工智能系統(tǒng)的標(biāo)準(zhǔn)有助于更清楚地區(qū)分簡單的軟件系統(tǒng)。

此外，臨時(shí)協(xié)議更詳細(xì)地解釋了該條例的規(guī)則不包括屬于歐盟法律領(lǐng)域的部門，不能以任何方式削弱成員國在國家安全領(lǐng)域或在國家安全領(lǐng)域分擔(dān)責(zé)任的各方的能力。不僅如此，《人工智能法案》也不會(huì)擴(kuò)展到僅用于軍事或國防目的的人工智能系統(tǒng)。同時(shí)，該條約還指出，人工智能系統(tǒng)不僅用于科學(xué)和研究目的，而且用于非科學(xué)和非創(chuàng)新原因，包括非人工智能技術(shù)人員或?qū)＜业那闆r下，法律應(yīng)適用于人工智能系統(tǒng)。

將人工智能系統(tǒng)分類為高風(fēng)險(xiǎn)和被禁止的人工智能實(shí)踐

它創(chuàng)建了一個(gè)橫向安全屏障,其中包括1.1級(jí)"可能的嚴(yán)重/重大權(quán)利損害",以排除未預(yù)測會(huì)造成這種威脅的人工智能系統(tǒng)。那些對用戶有輕微傷害風(fēng)險(xiǎn)的人工智能系統(tǒng)將具有最低的透明度要求。例如,其應(yīng)該通知用戶內(nèi)容是人工智能生成的，這樣就可以決定是否使用該內(nèi)容或執(zhí)行進(jìn)一步的操作。

將批準(zhǔn)在歐盟領(lǐng)土上運(yùn)行的各種基于人工智能的系統(tǒng)。然而，必須滿足進(jìn)入歐盟市場的要求和責(zé)任。這些共同立法委員增加和修訂了一些規(guī)定，使之在技術(shù)上更簡單明了，減輕了持份者的負(fù)擔(dān)，例如，關(guān)于數(shù)據(jù)質(zhì)量的供應(yīng)，以及中小企業(yè)需要編寫的技術(shù)文件，以證明其人工智能系統(tǒng)已安全構(gòu)建并符合現(xiàn)行規(guī)定。

由于人工智能系統(tǒng)是在要求苛刻的價(jià)值鏈環(huán)境中創(chuàng)建和提供的，因此折衷安排將要求除其他外，對企業(yè)的行為進(jìn)行修訂，以反映對該鏈中各種行為者(即該技術(shù)系統(tǒng)的提供商和用戶)的責(zé)任/影響范圍的澄清。它還闡明了《人工智能法案》中衍生的人工智能特定義務(wù)如何相互作用，并與其他法律中規(guī)定的義務(wù)發(fā)生沖突，如歐盟的數(shù)據(jù)立法和部門立法。

人工智能的應(yīng)用將會(huì)因?yàn)楦唢L(fēng)險(xiǎn)而被拒絕，這對于人工智能的某些用途是被禁止的。因此，這些設(shè)備將不會(huì)被引入歐盟。根據(jù)初步協(xié)議，禁止的行為包括行為控制的認(rèn)知技術(shù)、從網(wǎng)絡(luò)上無目的地收集面部圖像等、機(jī)構(gòu)和教育中的情感識(shí)別、社會(huì)評分、用于確定性取向或宗教信仰的生物識(shí)別方法，以及用于警務(wù)目的的一些個(gè)人家譜。

執(zhí)法例外

考慮到執(zhí)法組織的特殊性和其在履行職責(zé)時(shí)使用計(jì)算機(jī)的必要性,對委員會(huì)關(guān)于執(zhí)法的規(guī)則AI的建議作出了若干修改,這是至關(guān)重要的。只要制定了謹(jǐn)慎的措施,這些變革就會(huì)轉(zhuǎn)化為運(yùn)營商保護(hù)信息隱私的必要性。這方面的一個(gè)例子是啟動(dòng)高風(fēng)險(xiǎn)人工智能實(shí)施的緊急程序,但不包括在緊急情況下進(jìn)行符合性評估。除此之外,還制定了一項(xiàng)具體行動(dòng),為保障人權(quán),防止濫用人工智能申請?zhí)峁?quán)限。

此外,臨時(shí)協(xié)議的案文明確表達(dá)了在公共場所使用實(shí)時(shí)遠(yuǎn)程生物鑒別識(shí)別系統(tǒng)的原因,但僅出于執(zhí)法原因,只有在例外情況下才允許當(dāng)局這樣做。折衷協(xié)定規(guī)定了額外的保障措施,并將這些例外情況限于殺害犯罪嫌疑人的案件,確保只有在真正威脅的情況下才進(jìn)行搜查,以及在人們涉嫌犯下最嚴(yán)重罪行時(shí)才防止恐怖襲擊和搜查。

通用人工智能系統(tǒng)和基礎(chǔ)模型

對于人工智能系統(tǒng)用于多種目的的場景,即通用人工智能和獨(dú)立系統(tǒng),制定了新的規(guī)定。另一個(gè)高風(fēng)險(xiǎn)系統(tǒng)，即自行駕駛汽車，與通用人工智能集成?！哆^渡協(xié)定》還包括GPA(GPAI)。GPA監(jiān)管是協(xié)議的核心部分。

基礎(chǔ)模型被描述為能夠在復(fù)雜活動(dòng)中表現(xiàn)出能力的系統(tǒng)，如文本生成、視頻分割、處理自然語言、渲染代碼和許多更多的計(jì)算機(jī)任務(wù)，也已經(jīng)得出結(jié)論。臨時(shí)安排要求基本模型在上市前滿足去污染要求。建立"高影響"基礎(chǔ)模型所需的政策要嚴(yán)格得多。這些具有巨大規(guī)模和非常先進(jìn)的復(fù)雜性、能力和性能的平均數(shù)據(jù)模型可以在企業(yè)的價(jià)值鏈中帶來系統(tǒng)性風(fēng)險(xiǎn);所有參與企業(yè)都可以分擔(dān)這些風(fēng)險(xiǎn)。

新的治理架構(gòu)

根據(jù)新的GPAI模式的限制措施及其在歐盟一級(jí)的標(biāo)準(zhǔn)化監(jiān)測的必要性,委員會(huì)設(shè)立了一個(gè)獨(dú)特的人工智能辦公室,負(fù)責(zé)監(jiān)督這些最先進(jìn)的人工智能模式,促進(jìn)建立規(guī)范和測試程序,并在所有成員國執(zhí)行主要規(guī)則。一個(gè)獨(dú)立的技術(shù)專家科學(xué)小組將就模型規(guī)模向GPAIAI辦公室提供咨詢意見,方法是制定評估基礎(chǔ)模型和技術(shù)力量的方法,對準(zhǔn)備上市的GPAI狀態(tài)和基礎(chǔ)模型進(jìn)行評估,并可能監(jiān)測與基礎(chǔ)模型有關(guān)的材料的安全性。

為此目的,由成員國組成的人工智能委員會(huì)作為其成員，并作為委員會(huì)的協(xié)調(diào)平臺(tái)和咨詢機(jī)構(gòu)，應(yīng)在其領(lǐng)域內(nèi)使成員國在實(shí)施條例方面發(fā)揮突出和關(guān)鍵的作用,將其作為基礎(chǔ)模式的業(yè)務(wù)守則。最后但并非最不重要的是,將建立一個(gè)論壇,由行業(yè)參與者、中小型企業(yè)、初創(chuàng)企業(yè)、公民社會(huì)和大學(xué)代表個(gè)人利益相關(guān)者。這可以提供人工智能委員會(huì)可以使用的技術(shù)知識(shí)。

處罰

對違反《人工智能法》的企業(yè)進(jìn)行對接和制裁，罰款金額最低為一定數(shù)額，最高可達(dá)上一財(cái)政年度全球年?duì)I業(yè)額的百分比。違反上述人工智能應(yīng)用將被處以3500萬歐元(7%)的罰款，違反《人工智能法》義務(wù)將被處以1500萬歐元(3%)的罰款，提供誤導(dǎo)性信息將被處以750萬歐元(1.5%)的罰款。盡管如此，該臨時(shí)協(xié)議包括特殊罰款，當(dāng)中小企業(yè)和初創(chuàng)企業(yè)承諾遵守人工智能法案的規(guī)定時(shí)，這些罰款對其影響較小。

與《人工智能法》的簡明協(xié)議規(guī)定，自然人或法人有權(quán)向相關(guān)市場監(jiān)督實(shí)體提出正式投訴。此外，該機(jī)構(gòu)在處理上述投訴時(shí)應(yīng)遵循其特定和規(guī)定的程序。

透明度和保護(hù)基本權(quán)利

值得注意的是，臨時(shí)協(xié)議要求人工智能系統(tǒng)部署人員在將高風(fēng)險(xiǎn)系統(tǒng)投放市場之前，對終端用戶的保障措施進(jìn)行權(quán)利影響評估。這項(xiàng)臨時(shí)協(xié)議也為廣泛使用復(fù)雜的人工智能和自動(dòng)真相檢測系統(tǒng)提供了一個(gè)良好的起點(diǎn)。其將使該系統(tǒng)的實(shí)施范圍清晰。值得注意的是，擬議委員會(huì)的一些規(guī)定已經(jīng)修改，參考了高風(fēng)險(xiǎn)人工智能系統(tǒng)的各種偶爾的政府用戶，這些用戶也在歐盟數(shù)據(jù)庫中注冊了高風(fēng)險(xiǎn)人工智能機(jī)器學(xué)習(xí)系統(tǒng)。除此之外，更新后的產(chǎn)品線還會(huì)向操作情緒識(shí)別系統(tǒng)的用戶發(fā)送一條消息，告知其何時(shí)接觸到該系統(tǒng)。

支持創(chuàng)新的措施

這一部分的規(guī)定受到了重大修改,鼓勵(lì)創(chuàng)新,這是委員會(huì)提議建立一個(gè)更加科學(xué)的創(chuàng)新框架的一個(gè)重要方面,該框架不斷適應(yīng),以確保在整個(gè)歐盟范圍內(nèi)建立可持續(xù)的監(jiān)管環(huán)境。

應(yīng)要求人工智能監(jiān)管沙箱,旨在確保開發(fā)、測試和驗(yàn)證新人工智能系統(tǒng)的控制環(huán)境,也允許在真實(shí)情況下測試機(jī)構(gòu)。此外，在人工智能系統(tǒng)在現(xiàn)實(shí)環(huán)境中進(jìn)行測試的情況下，已經(jīng)啟用了新的限制，以便在特定條件下使用系統(tǒng)。此次臨時(shí)協(xié)議是為了減輕中小企業(yè)的行政負(fù)擔(dān)，制定了收入低的中小企業(yè)支援方案。在這種情況下，如果克減受到合法限制和嚴(yán)格具體，則允許克減。

生效日期

《人工智能管理臨時(shí)協(xié)議》規(guī)定，除某些例外情況外，《人工智能法》的規(guī)定自生效之日起適用2年。