近段時間，國內(nèi)外科技巨頭紛紛涌入萬億級AIGC（生成式AI）賽道，A股市場上AIGC、ChatGPT等人工智能相關(guān)概念也受到熱捧?；鸨耐瑫r，相關(guān)的風險也越來越不容忽視，各國都開始意識到對人工智能監(jiān)管的必要性。

(資料圖片僅供參考)

AIGC賽道火熱

自年初以來，以ChatGPT為首的生成式AI應(yīng)用在全球掀起一場AIGC浪潮。國外方面，已有包括微軟、谷歌、亞馬遜等科技巨頭輪番暗戰(zhàn)。國內(nèi)包括百度、騰訊、阿里、華為、京東、360等多家科技巨頭均已宣布在生成式AI產(chǎn)業(yè)有相應(yīng)布局。

東吳證券表示，ChatGPT應(yīng)用空間廣泛，潛在市場規(guī)?？捎^，到2025年AIGC產(chǎn)生的數(shù)據(jù)將占所有數(shù)據(jù)的10%，2030年AIGC市場規(guī)模將超過萬億元。

“潘多拉魔盒”同時打開，風險隱患如何預防

ChatGPT在短短時間內(nèi)吸引了大量用戶，但業(yè)內(nèi)人士也越來越意識到所帶來的風險隱患。3月29日，埃隆·馬斯克等一千多名業(yè)界、學界人士則聯(lián)署發(fā)表公開信，呼吁所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統(tǒng)，暫停時間至少6個月。一些公司開始采取措施來降低這些風險，其中包括OpenAI公司。

4月初，OpenAI公司表示，將向報告其人工智能系統(tǒng)漏洞的用戶提供高達2萬美元的獎勵。OpenAI發(fā)布了一項名為Bug Bounty的計劃，并邀請研究人員審查ChatGPT的某些功能以及OpenAI系統(tǒng)如何與第三方應(yīng)用程序共享數(shù)據(jù)的框架。

近日，抖音也開出了自己的藥方。抖音明確，發(fā)布者應(yīng)對人工智能生成內(nèi)容進行顯著標識。抖音要求，在抖音應(yīng)用生成式人工智能技術(shù)時，發(fā)布者應(yīng)對人工智能生成內(nèi)容進行顯著標識，幫助其他用戶區(qū)分虛擬與現(xiàn)實，特別是易混淆場景。同時，發(fā)布者需對人工智能生成內(nèi)容產(chǎn)生的相應(yīng)后果負責，無論內(nèi)容是如何生成的。

多國監(jiān)管機構(gòu)出手整治

與此同時，各國政府和監(jiān)管機構(gòu)開始采取措施限制和管理相關(guān)技術(shù)，以確保公眾利益和安全。

當?shù)貢r間3月31日，意大利個人數(shù)據(jù)保護局宣布，從即日起禁止使用聊天機器人ChatGPT，限制ChatGPT的開發(fā)公司OpenAI處理意大利用戶信息，并開始立案調(diào)查。該決定使意大利成為首個明確禁用ChatGPT的國家。

當?shù)貢r間4月11日，美國商務(wù)部就ChatGPT等人工智能技術(shù)相關(guān)的問責措施正式公開征求意見，包括具有潛在風險的新型人工智能模型在發(fā)布前是否應(yīng)進行核準認證程序。

4月11日，中國國家互聯(lián)網(wǎng)信息辦公室發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見稿）》。依據(jù)征求意見稿，利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個人，包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔該產(chǎn)品生成內(nèi)容生產(chǎn)者的責任；涉及個人信息的，承擔個人信息處理者的法定責任，履行個人信息保護義務(wù)。

4月30日，七國集團（G7）的數(shù)字和技術(shù)部長在日本結(jié)束為期兩天的會議后，同意“基于風險”推出一項針對人工智能的監(jiān)管法案。根據(jù)聯(lián)合聲明，G7雖同意出臺相應(yīng)的監(jiān)管政策，但重申監(jiān)管也應(yīng)該為人工智能技術(shù)“保持一個開放有利的環(huán)境”。

5月4日，英國競爭和市場管理機構(gòu)宣布，將對人工智能市場展開審查，涉及ChatGPT等工具背后的技術(shù)。

5月4日，美國白宮宣布首個AI監(jiān)管計劃。白宮公告稱，美國國家科學基金會計劃撥款1.4億美元，用于啟動7所新的國家人工智能研究院。同日，美國副總統(tǒng)哈里斯以及多位白宮高級官員與谷歌、微軟、OpenAI和AI初創(chuàng)公司Anthropic的首席執(zhí)行官會面，集中討論當前和近期的技術(shù)發(fā)展所帶來的風險。美國政府官員和科技界高管還討論了評估人工智能系統(tǒng)的有效性，以及確保系統(tǒng)免受攻擊的重要性。

5月9日，日本首相岸田文雄透露，擬設(shè)置磋商制定利用AI相關(guān)規(guī)則等的“AI戰(zhàn)略會議”。岸田當天在官邸與研究人員和創(chuàng)業(yè)人才等開會時稱，“會著眼于AI的潛力和風險推進舉措”。

5月11日，歐洲議會兩個委員會通過《人工智能法案》提案的談判授權(quán)草案。新文本將嚴格禁止“對人類安全造成不可接受風險的人工智能系統(tǒng)”，包括有目的地操縱技術(shù)、利用人性弱點或根據(jù)行為、社會地位和個人特征等進行評價的系統(tǒng)等。談判授權(quán)草案還要求人工智能公司對其算法保持人為控制，提供技術(shù)文件，并為 “高風險”應(yīng)用建立風險管理系統(tǒng)。每個歐盟成員國都將設(shè)立一個監(jiān)督機構(gòu)，確保這些規(guī)則得到遵守。該草案為世界上第一部綜合性人工智能法律鋪平道路。這一草案將于6月中旬提交歐洲議會全會表決，之后歐洲議會將與歐盟理事會就法律的最終形式進行談判。

標簽：