歐洲議會(huì)正就全球首部人工智能（AI）法案展開大規(guī)模協(xié)商，光修正案就有一千多項(xiàng)，創(chuàng)下了歐洲議會(huì)史上之最。

當(dāng)?shù)貢r(shí)間11日，歐洲議會(huì)內(nèi)部市場(chǎng)委員會(huì)和公民自由委員會(huì)以84票贊成、7票反對(duì)和12票棄權(quán)通過關(guān)于《AI法案》的談判授權(quán)草案，其中包含了有關(guān)面部識(shí)別、生物識(shí)別監(jiān)控和其他AI應(yīng)用使用的新規(guī)則，并提出了嚴(yán)格監(jiān)管ChatGPT等AI工具的新思路。

領(lǐng)導(dǎo)上述法案制定的歐洲議會(huì)議員土多拉舍（Drago? Tudorache）表示，歐盟的《AI法案》是全球首個(gè)此類立法，“歐盟可以在全球范圍內(nèi)帶頭使AI以人為本，（變得）值得信賴和安全”。

(資料圖片僅供參考)

“避免建立一個(gè)基于人工智能的受控社會(huì)”

歐盟于2021年首次提出《AI法案》，旨在制定管理使用AI系統(tǒng)的任何產(chǎn)品和服務(wù)的規(guī)則。

第一財(cái)經(jīng)記者看到，目前的提案采取了分級(jí)管理的思路，即基于AI的四個(gè)等級(jí)（從風(fēng)險(xiǎn)最小到不可接受），進(jìn)行區(qū)別管理，風(fēng)險(xiǎn)較高的應(yīng)用程序?qū)⒚媾R更嚴(yán)格的規(guī)則，需要更高的透明度和準(zhǔn)確性。

歐洲議會(huì)認(rèn)為，對(duì)人類安全造成不可接受風(fēng)險(xiǎn)的AI系統(tǒng)將被嚴(yán)格禁止，包括部署潛意識(shí)或有目的操縱技術(shù)、利用人們?nèi)觞c(diǎn)或用于社會(huì)評(píng)分的系統(tǒng)。

譬如，用于預(yù)先確定犯罪發(fā)生地點(diǎn)和犯罪者的警務(wù)工具可能將被禁止，除打擊和預(yù)防特定恐怖威脅外，遠(yuǎn)程面部識(shí)別技術(shù)也將被禁止。

《AI法案》的聯(lián)合推動(dòng)人之一、歐洲議會(huì)意大利議員伯尼菲（Brando Benifei）表示，這樣做的目的是“避免建立一個(gè)基于人工智能的受控社會(huì)”。“我們認(rèn)為這些技術(shù)可以用于好的地方，也可以用來做壞事，風(fēng)險(xiǎn)太高了。”他補(bǔ)充道。

此外，雖然原始提案并未詳細(xì)涵蓋聊天機(jī)器人，但由于在立法期間，ChatGPT橫空出世，立法者添加了一項(xiàng)修正案，將 ChatGPT和類似的生成式AI與高風(fēng)險(xiǎn)系統(tǒng)置于同一級(jí)別。

具體而言，此次歐洲議會(huì)的議員大幅修改了清單，以禁止侵入性和歧視性地使用AI系統(tǒng)的行為，例如：在公共場(chǎng)所“實(shí)時(shí)”使用的遠(yuǎn)程生物特征識(shí)別系統(tǒng)；“事后”遠(yuǎn)程生物識(shí)別系統(tǒng)，不過執(zhí)法機(jī)關(guān)為起訴嚴(yán)重罪行且取得司法授權(quán)后例外；使用如性別、種族、公民身份、宗教、政治取向等敏感數(shù)據(jù)的生物識(shí)別分類系統(tǒng)；基于分析、位置或過去犯罪行為的預(yù)測(cè)性警務(wù)系統(tǒng)；執(zhí)法、邊境管理、工作場(chǎng)所和教育機(jī)構(gòu)中的情緒識(shí)別系統(tǒng)，以及不分青紅皂白地從社交媒體或閉路電視錄像中抓取生物識(shí)別數(shù)據(jù)來創(chuàng)建面部識(shí)別數(shù)據(jù)庫等行為。

針對(duì)ChatGPT等生成式AI專門監(jiān)管

此次，歐洲議會(huì)議員擴(kuò)大了AI高風(fēng)險(xiǎn)領(lǐng)域的分類，將對(duì)人們健康、安全、基本權(quán)利或環(huán)境的危害考慮在內(nèi)。

目前，歐洲議會(huì)還有意針對(duì)ChatGPT等生成式 AI設(shè)立專門監(jiān)管制度，大致與高風(fēng)險(xiǎn)系統(tǒng)須遵守的義務(wù)相同。

歐洲議會(huì)還提出，像ChatGPT這樣的生成基礎(chǔ)模型必須遵守額外的透明度要求，比如披露內(nèi)容是由AI生成的，設(shè)計(jì)模型以防止其生成非法內(nèi)容，以及發(fā)布用于訓(xùn)練的受版權(quán)保護(hù)數(shù)據(jù)的摘要。

此外，歐洲議會(huì)的議員們還希望提高歐洲公民對(duì)AI系統(tǒng)提出投訴的權(quán)利，并獲得對(duì)基于嚴(yán)重影響其權(quán)利的高風(fēng)險(xiǎn)AI系統(tǒng)決策的解釋權(quán)利。

本周歐洲議會(huì)所達(dá)成的協(xié)議只是歐盟內(nèi)部漫長(zhǎng)而艱巨的程序的第一步，該程序可能需要數(shù)年時(shí)間，才能讓法案成為歐盟27個(gè)成員國的正式法律。

根據(jù)目前的時(shí)間表，該法案將于6月提交歐洲議會(huì)全體表決，之后歐洲議會(huì)、歐盟理事會(huì)和歐盟委員會(huì)的代表將在“三方”會(huì)談中商定最終條款。在條款最終確定且該法案成為法律后，將有大約兩年的寬限期。

知情人士表示，成員國和立法者可能會(huì)就在有限情況下，如存在恐怖威脅時(shí)，是否可以接受實(shí)時(shí)面部識(shí)別AI應(yīng)用展開曠日持久的討論。

伯尼菲表示，對(duì)實(shí)時(shí)生物識(shí)別技術(shù)的限制是一個(gè)需要“艱難”談判的領(lǐng)域，歐盟可能“需要找到解決方案”。

他也樂觀表示，各個(gè)成員國會(huì)支持歐洲議會(huì)關(guān)于對(duì)生成AI模型進(jìn)行立法的提議。

歐美監(jiān)管思路不同

除了歐洲，全球各地越來越擔(dān)心快速發(fā)展的AI技術(shù)可能被濫用。上周，美國聯(lián)邦貿(mào)易委員會(huì)發(fā)出警告，稱“正在密切關(guān)注公司如何選擇使用AI技術(shù)，包括新的生成人工智能工具，以及對(duì)消費(fèi)者產(chǎn)生實(shí)際和實(shí)質(zhì)性影響的方式”。

5月4日，拜登政府則宣布對(duì)“值得信賴的”人工智能增加新投資。同日，美國副總統(tǒng)哈里斯以及多位白宮高級(jí)官員與谷歌、微軟、OpenAI和AI初創(chuàng)公司Anthropic的首席執(zhí)行官會(huì)面，集中討論當(dāng)前和近期的技術(shù)發(fā)展所帶來的風(fēng)險(xiǎn)。

作為潛在監(jiān)管的第一步，美國商務(wù)部在4月11日已就相關(guān)措施正式公開征求意見，包括新AI模型在發(fā)布前是否應(yīng)經(jīng)過認(rèn)證程序。征求意見期限為60天。

不過，盡管華盛頓遭到了AI威脅論的轟炸，但他們擔(dān)心禁用或停止AI的部署，可能讓美國在AI研究上失去競(jìng)爭(zhēng)優(yōu)勢(shì)。

投資咨詢公司BCA Research美國資產(chǎn)部首席策略師唐克爾（Irene Tunkel）對(duì)第一財(cái)經(jīng)記者表示：“為了使美國保持相對(duì)于世界其他國家的技術(shù)優(yōu)勢(shì)，美國政府將需要利用政策和財(cái)政支出來促進(jìn)AI在多年內(nèi)的增長(zhǎng)。我們預(yù)計(jì)，（美國）更多的政府資源將被分配給AI，包括國防和非國防性質(zhì)的資源，而監(jiān)管環(huán)境將促進(jìn)整個(gè)經(jīng)濟(jì)領(lǐng)域在公共和私營(yíng)部門越來越多地采用AI。”

同時(shí)，她稱，雖然近年來美國聯(lián)邦層面和州層面提出了許多AI領(lǐng)域的立法，但更多的立法并不一定意味著更緊的監(jiān)管。“這些立法有一個(gè)基本的相似性。目的是促進(jìn)美國公共和私營(yíng)部門的AI的發(fā)展和使用，同時(shí)也有相關(guān)指導(dǎo)方針，保護(hù)AI的消費(fèi)者和用戶。”她說。（記者高雅對(duì)本文亦有貢獻(xiàn)去）

標(biāo)簽：