在自動駕駛場景中,通過修改錐桶的形狀,就能讓汽車感知模塊失效,徑直撞上去;通過在T恤上打印含特殊的花紋,就能讓目標(biāo)檢測系統(tǒng)捕捉不到穿這件衣服的人,實現(xiàn)“隱身”;制作帶有特制花紋的眼鏡,就能刷開數(shù)十部商用手機的人臉解鎖等。
上述案例已經(jīng)被研究團隊用來證明人工智能面臨“信任危機”,人們需要更加“可信”的人工智能。
在9月1日舉辦的2022年世界人工智能大會(WAIC)的一場可信AI論壇上,中國信通院聯(lián)合京東探索研究院等近30家政產(chǎn)學(xué)研單位共同發(fā)布《可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展報告》,對人工智能產(chǎn)業(yè)融合可信要素的發(fā)展態(tài)勢進行總體分析,研判發(fā)展趨勢并提出措施建議,為社會各界提供借鑒和參考,推動可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展。
(資料圖片僅供參考)
自2021年以來,歐盟和美國先后發(fā)布了《人工智能法案》和《2022算法問責(zé)法案》。在中國,深圳、上海等地也相繼推動人工智能立法條例。各國針對人工智能算法的監(jiān)測、人工智能應(yīng)用的審查的相關(guān)監(jiān)管法規(guī)不斷增加,人工智能治理已進入建章立制階段。
《可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展報告》指出,技術(shù)研究上,提升人工智能系統(tǒng)穩(wěn)定性、隱私保護技術(shù)占據(jù)可信人工智能技術(shù)研究主流,可解釋性、公平性等技術(shù)研究緊隨其后。
學(xué)界普遍認(rèn)為,從應(yīng)用的角度來看,以數(shù)據(jù)驅(qū)動的深度學(xué)習(xí)技術(shù)潛力接近“天花板”的原因是,深度學(xué)習(xí)的本質(zhì)是利用沒有加工處理過的數(shù)據(jù)用概率學(xué)習(xí)的“黑箱”處理方法尋找規(guī)律。這一方法本質(zhì)上不可解釋,非常脆弱,帶來了新的風(fēng)險和問題。如“對抗樣本攻擊”, 通過在輸入數(shù)據(jù)中添加擾動,即可使系統(tǒng)做出錯誤判斷。
當(dāng)前以對抗訓(xùn)練、梯度屏蔽為代表的人工智能系統(tǒng)穩(wěn)定性技術(shù)穩(wěn)步發(fā)展;以同態(tài)加密、多方安全計算、差分隱私等為代表的隱私安全技術(shù)發(fā)展迅速;可解釋性增強技術(shù)研究當(dāng)前仍處于初期階段,科技巨頭推出多個AI可解釋性工具及服務(wù);提升人工智能公平性主流方法為通過構(gòu)建完整異構(gòu)數(shù)據(jù)集及引入公平?jīng)Q策量化指標(biāo)算法,以減輕決策偏差。
清華大學(xué)人工智能研究院名譽院長、瑞萊智慧首席科學(xué)家張鈸院士提出“第三代人工智能”,要求綜合運用知識、數(shù)據(jù)、算法、算力四個要素,在實現(xiàn)高水平安全的前提下,為人工智能高水平發(fā)展提供動力和支撐。
螞蟻集團大安全機器智能部總監(jiān)、螞蟻集團技術(shù)委員會可信AI聯(lián)合工作組組長王維強表示,可信AI的主要屬性有四個,分別是魯棒性、可解釋性、隱私保護和公平性。
可信AI正在走向工業(yè)級應(yīng)用時代,意味著真正的大規(guī)模應(yīng)用,需要從數(shù)據(jù)可信,到模型可信,到平臺可信,到運營可信的工業(yè)化生產(chǎn)環(huán)境全鏈路的可信,讓可信成為AI技術(shù)發(fā)展中的一個內(nèi)在屬性,帶領(lǐng)AI走向更健康、更加可持續(xù)的未來,這需要產(chǎn)業(yè)界、學(xué)術(shù)界一起合作。
產(chǎn)業(yè)生態(tài)上,倫理、法律研究也在進一步深入。瑞萊智慧合伙人、高級副總裁朱萌對第一財經(jīng)記者表示,應(yīng)該加強安全領(lǐng)域的三方面能力建設(shè)。“首先是,發(fā)掘現(xiàn)有AI安全風(fēng)險、預(yù)判AI潛在風(fēng)險;二是針對風(fēng)險建設(shè)治理體系,包括建立AI治理理論、構(gòu)建治理運轉(zhuǎn)機制、探索技術(shù)實踐路徑等;三是在治理體系框架下,重點探尋倫理法規(guī)的技術(shù)落地方案。”朱萌說道。
關(guān)于我們| 聯(lián)系方式| 版權(quán)聲明| 供稿服務(wù)| 友情鏈接
咕嚕網(wǎng) www.ulq4xuwux.cn 版權(quán)所有,未經(jīng)書面授權(quán)禁止使用
Copyright©2008-2020 By All Rights Reserved 皖I(lǐng)CP備2022009963號-10
聯(lián)系我們: 39 60 29 14 2@qq.com