4月25日，美國(guó)消費(fèi)者金融保護(hù)局、司法部、聯(lián)邦貿(mào)易委員會(huì)等部門(mén)官員警告金融公司和其他機(jī)構(gòu)，使用人工智能（AI）會(huì)增加偏見(jiàn)和侵犯公民權(quán)利的風(fēng)險(xiǎn)，并表示正在監(jiān)管市場(chǎng)以防止此類(lèi)歧視。

【資料圖】

隨著人工智能工具的日益普及，美國(guó)、歐洲和中國(guó)的監(jiān)管機(jī)構(gòu)都在加強(qiáng)對(duì)使用人工智能技術(shù)的審查，并呼吁制定新的法律來(lái)控制該技術(shù)。

美國(guó)消費(fèi)者金融保護(hù)局局長(zhǎng)喬普拉（Rohit Chopra）表示，在金融領(lǐng)域，如果公司甚至不了解人工智能做出決定的原因，就不能合法地使用這些技術(shù)。

4月25日，上海交通大學(xué)安泰經(jīng)濟(jì)與管理學(xué)院教授，上海交通大學(xué)行業(yè)研究院“人工智能+”行業(yè)團(tuán)隊(duì)負(fù)責(zé)人史占中在一場(chǎng)媒體沙龍上也提到了類(lèi)似的話題。他對(duì)第一財(cái)經(jīng)記者表示：“新的技術(shù)出來(lái)之后我們不能恐懼，更不能因噎廢食；我們要積極、及時(shí)通過(guò)規(guī)則優(yōu)化和有效監(jiān)管，把它從挑戰(zhàn)人類(lèi)的最強(qiáng)‘對(duì)手’變成人類(lèi)的最好‘助手’。”

史占中認(rèn)為，人工智能是由算法推動(dòng)的，而算法里面有算法的陷阱和算法的誤導(dǎo)，Al算法和模型的偏見(jiàn)設(shè)計(jì)，如種族、性別歧視等等，將引發(fā)社會(huì)排斥；Al數(shù)據(jù)分析、存儲(chǔ)及應(yīng)用，可能引發(fā)造假造謠詐騙、信息泄露、隱私侵犯及數(shù)據(jù)濫用等，這些問(wèn)題都將挑戰(zhàn)道德倫理。

“人工智能更大的風(fēng)險(xiǎn)是，AI在治理架構(gòu)、隱私保護(hù)以及風(fēng)險(xiǎn)設(shè)計(jì)等方面，會(huì)對(duì)未來(lái)的社會(huì)穩(wěn)定、價(jià)值觀、法律法規(guī)等，形成巨大的挑戰(zhàn)。”史占中說(shuō)道。

在談到關(guān)于人工智能的決策如何定責(zé)的時(shí)候，史占中認(rèn)為，人類(lèi)智能和人工智能在協(xié)作過(guò)程中，誰(shuí)處于指導(dǎo)地位，誰(shuí)的權(quán)屬更高一點(diǎn)。“現(xiàn)在法律上確實(shí)是一個(gè)空白地帶，包括出現(xiàn)問(wèn)題的時(shí)候誰(shuí)負(fù)主要責(zé)任，以及AI責(zé)任由誰(shuí)承擔(dān)，這也存在法律法規(guī)的空白區(qū)。”他說(shuō)道。

本周一，微軟支持的技術(shù)倡導(dǎo)組織美國(guó)商業(yè)軟件聯(lián)盟（BSA）建議在美國(guó)數(shù)據(jù)隱私立法中制定管理人工智能使用的規(guī)則。BSA代表Adobe、IBM和甲骨文等商業(yè)軟件公司。

BSA方面稱(chēng)，數(shù)字化轉(zhuǎn)型是“經(jīng)濟(jì)議程的重要組成部分”，應(yīng)該制定一個(gè)國(guó)家數(shù)字化轉(zhuǎn)型議程，包括關(guān)于人工智能的規(guī)則、國(guó)家隱私標(biāo)準(zhǔn)和強(qiáng)有力的網(wǎng)絡(luò)安全政策。

對(duì)此，上海交通大學(xué)安泰經(jīng)濟(jì)與管理學(xué)院經(jīng)濟(jì)系教授陳宏民表示：“數(shù)字經(jīng)濟(jì)發(fā)展是一個(gè)循序漸進(jìn)的過(guò)程，現(xiàn)在所有的信息變成數(shù)字化，一秒鐘的時(shí)間可以傳千萬(wàn)里、送達(dá)億萬(wàn)人，背后需要兼顧快速、便利和安全等問(wèn)題。”

陳宏民認(rèn)為，數(shù)字經(jīng)濟(jì)發(fā)展是參差不齊的，有一些行業(yè)和企業(yè)已經(jīng)進(jìn)入到數(shù)據(jù)驅(qū)動(dòng)的階段，但大部分行業(yè)和企業(yè)剛剛在數(shù)字化起步階段，只有帶著迭代思維不斷學(xué)習(xí)進(jìn)步，才能更好地應(yīng)對(duì)不確定性的世界。

標(biāo)簽：