自ChatGPT推向市場,人工智能(AI)能做什么,以及能做到什么地步,這些突破既使人們驚嘆,也引發(fā)了人們擔(dān)憂。
從對個人數(shù)據(jù)的囤積和信息泄露,到詐騙,再到損害企業(yè)競爭,這些風(fēng)險的威脅讓各方提高了警惕。近一個月來,從七國集團(tuán)(G7)會議領(lǐng)導(dǎo)人到科技公司首席執(zhí)行官,都呼吁為人工智能(AI)技術(shù)制定國際標(biāo)準(zhǔn)和更強(qiáng)力的法規(guī)。
但與此同時,實施監(jiān)管的代價又是什么,創(chuàng)新的可能性會因此湮滅嗎?
(資料圖片僅供參考)
帶著這些問題,第一財經(jīng)記者專訪了歐洲工商管理學(xué)院(INSAED)的決策科學(xué)和技術(shù)管理教授埃夫根尼奧(Theos Evgeniou)。他在機(jī)器學(xué)習(xí)和人工智能領(lǐng)域已深耕超過25年,也是經(jīng)合組織和世界經(jīng)濟(jì)論壇等組織人工智能領(lǐng)域的專家成員或顧問。
埃夫根尼奧的主要觀點(diǎn)是,在監(jiān)管方面,我們很難“一次到位”,重要的是建構(gòu)一個能夠持續(xù)學(xué)習(xí)、不斷適應(yīng)、快速修復(fù)的監(jiān)管程序與體系。
為什么要監(jiān)管AI
第一財經(jīng):為什么隨著ChatGPT等生成性AI的普及,AI監(jiān)管的重要性更突出了?
埃夫根尼奧:我們要意識到三點(diǎn)。第一,生成性AI有多強(qiáng)大。我認(rèn)為幾乎所有人,包括生成性AI的開發(fā)者,都沒有預(yù)想到其能力。
第二,生成性AI的行為方式如何。現(xiàn)在有一些關(guān)于突現(xiàn)行為(emergent behavior)的討論,這種行為可能比預(yù)期更有影響。而且,生成性AI涉及人類語言和人類身份。而人類語言是幫助我們定義“我們是誰”和“我們做什么”的重要部分。因此,如果技術(shù)可以模仿那些能夠定義人類身份認(rèn)同的東西,就帶來了新潛在風(fēng)險和新可能性。
第三,像ChatGPT這樣的生成性AI技術(shù)是所謂“根基模型”(foundation models)。人們可以在這種模型的基礎(chǔ)上開發(fā)大量產(chǎn)品,并能夠進(jìn)行微調(diào)。換言之,它們不是單純的產(chǎn)品,而是核心技術(shù),是人們可以開發(fā)的產(chǎn)品之核心所在。這種核心技術(shù)本身已經(jīng)非常強(qiáng)大,我們甚至無法預(yù)測人們將依靠它們開發(fā)出什么。我們也從未仔細(xì)考慮過如何管控和規(guī)范根基模型。這是一種新概念。
第一財經(jīng):意大利等國禁用了ChatGPT,當(dāng)我們擔(dān)憂AI帶來的風(fēng)險時,我們到底在擔(dān)心什么?
埃夫根尼奧:有些國家或企業(yè)會禁用這些技術(shù),可能是因為有潛在的風(fēng)險,比如能泄露重要知識和信息,也可能因為很難控制這種AI能帶來什么。
另一方面,一些國家禁用它可能是因為存在政治或健康風(fēng)險,這可能關(guān)乎人們的國家認(rèn)同。具體來說,這些生成性模型有點(diǎn)像“特洛伊木馬”?;旧希珻hatGPT在某種程度上濃縮了全球互聯(lián)網(wǎng)。因此,如果針對一個特定的網(wǎng)站,禁止訪問它很容易,但有了ChatGPT,你無法知道這些網(wǎng)站的內(nèi)容是否從中暴露。
第一財經(jīng):近期,我們看到了一些AI詐騙的現(xiàn)象,例如模擬名人或熟悉的人的聲音進(jìn)行電話詐騙。我們應(yīng)該如何監(jiān)管這種行為?
埃夫根尼奧:首先,這些技術(shù)本身可以被應(yīng)用于一些有價值的創(chuàng)造,改善人們的信息流。比如,企業(yè)可以用這種技術(shù)來優(yōu)化廣告營銷信息或開發(fā)創(chuàng)意內(nèi)容。在美國大選中,也可以以此來優(yōu)化電子郵件活動。
然而,只有這種技術(shù)越界,就可能從“銷售”或“營銷”而變成“操縱”,比如通過電子郵件進(jìn)行釣魚或傳播錯誤信息,甚至是對未成年的人進(jìn)行誘騙。這是長期以來一直存在的東西,只是有了生成性AI后,好的和壞的方面都被放大了。
很明顯,我們需要其中一些部分進(jìn)行監(jiān)管。要注意的是,我們要規(guī)范和監(jiān)管的是內(nèi)容審核的過程,而非內(nèi)容本身。一些國家和地區(qū)已著手制定有關(guān)內(nèi)容審核的法規(guī)。例如,歐洲提出《數(shù)字服務(wù)法》(DSA),涉及規(guī)范在線平臺的內(nèi)容。在我看來,這是一個很好的法規(guī),因為它帶來了一個公平和透明的內(nèi)容審核程序。
總之,我們需要法規(guī)來規(guī)范如何公平和透明地審核內(nèi)容,至于內(nèi)容來自人還是來自人工智能,這在某種意義上并不重要。
歐美AI監(jiān)管的異同
第一財經(jīng):歐盟即將對《人工智能法案》進(jìn)行投票。你認(rèn)為歐盟在AI監(jiān)管上最側(cè)重什么,與美國有何不同?
埃夫根尼奧:歐美在監(jiān)管上有異同之處。從相似點(diǎn)來說,很多法規(guī)都是按照行業(yè)劃分的。
舉個例子,歐美航空領(lǐng)域的法規(guī)不會有太大區(qū)別。你在德國坐飛機(jī)或者在美國坐飛機(jī),你應(yīng)該不會詢問其法規(guī)是否不同,因為他們最終都要保障安全。對AI技術(shù)也是如此,行業(yè)內(nèi)很多事情在不同地區(qū)都是相似的。
但坦白說,沒有任何人完全了解AI技術(shù)到底會如何影響人類的權(quán)利。因此,這里有一個關(guān)鍵問題是,管控風(fēng)險的時機(jī)——你要現(xiàn)在就插手控制風(fēng)險,并早早地設(shè)置限制和標(biāo)準(zhǔn)?還是要等一段時間,看看AI技術(shù)的發(fā)展和應(yīng)用,然后再進(jìn)行監(jiān)管,出臺一些限制?
歐洲通常是前者,而美國在這方面則更有耐心。美國喜歡的方式是“不要著急,讓我們看看它會如何,我們先允許創(chuàng)新,等有問題時再去解決它”。這是因為美國在決定行動時往往也非常迅速。我們已經(jīng)看到金融危機(jī)后,美國改變事情的速度有多令人驚訝。這也符合美國愿意放手觀察的做法。
第一財經(jīng):美國的治理方式對商業(yè)更友好嗎,這是否意味著反監(jiān)管的立場?
埃夫根尼奧:我不認(rèn)為如此,因為商業(yè)是需要監(jiān)管的??偟膩碚f,我認(rèn)為沒有人不需要監(jiān)管。即使是科技高管也在說“監(jiān)管我們”,最近美國參議院對OpenAI首席執(zhí)行官阿爾特曼(Sam Altman)的聽證會就是如此。他們知道,如果沒有監(jiān)管,人們將不信任技術(shù),就有可能失去創(chuàng)新和進(jìn)步。監(jiān)管并不反創(chuàng)新,監(jiān)管也可以支持創(chuàng)新,理解這一點(diǎn)非常重要。
但另一方面,監(jiān)管的確也會減緩創(chuàng)新,當(dāng)它增加了競爭難度,給一些小企業(yè)、投資和退出機(jī)制大大增加做事成本時尤其如此。例如,歐盟的《通用數(shù)據(jù)保護(hù)條例》(GDPR)導(dǎo)致了小企業(yè)成本驟增,其中大多是歐洲初創(chuàng)公司。這最終幫助美國大公司獲得了競爭優(yōu)勢。從這個意義上說,這一結(jié)果與歐盟的目的恰恰相反。
關(guān)鍵之處在于,我們要理解,第一,沒有完美的法規(guī);第二,做事要平衡成本,這個成本可能是小企業(yè)的競爭,或是終端消費(fèi)者的信任和安全。當(dāng)你必須平衡各個因素,你無法一次得到最優(yōu)解。你只能從某個地方著手,然后不斷迭代更新、迅速響應(yīng)。“邊走邊學(xué)”才是最重要的。
我們不能出于恐懼而監(jiān)管,這是不充分的,也是不正確的。它應(yīng)該是一個持續(xù)學(xué)習(xí)的體系,有一個能夠快速吸收和修復(fù)的路徑。
同樣,監(jiān)管中必須有不可跨越的紅線。歐盟的《人工智能法案》中就規(guī)定了不可發(fā)展的部分,比如不可用于社會評分。
關(guān)于我們| 聯(lián)系方式| 版權(quán)聲明| 供稿服務(wù)| 友情鏈接
咕嚕網(wǎng) www.ulq4xuwux.cn 版權(quán)所有,未經(jīng)書面授權(quán)禁止使用
Copyright©2008-2023 By All Rights Reserved 皖I(lǐng)CP備2022009963號-10
聯(lián)系我們: 39 60 29 14 2@qq.com