當(dāng)前，科學(xué)技術(shù)創(chuàng)新在經(jīng)濟(jì)社會(huì)發(fā)展中發(fā)揮著越來越關(guān)鍵的作用。如何把握科技創(chuàng)新對經(jīng)濟(jì)社會(huì)產(chǎn)生的各種影響，把人文和倫理的思考帶到科技發(fā)展與治理的過程中，降低各種潛在的風(fēng)險(xiǎn)，促進(jìn)科技向善，就變得比以往任何時(shí)候都更加重要。清華大學(xué)文科資深教授、公管學(xué)院學(xué)術(shù)委員會(huì)主任、蘇世民書院院長薛瀾就新興科技發(fā)展中的人工智能治理發(fā)表了觀點(diǎn)。
現(xiàn)代科技創(chuàng)新的發(fā)展趨勢及潛在影響
現(xiàn)代科技創(chuàng)新有很多非常重要的前沿發(fā)展方向，人工智能便是其中最具典型 的技術(shù)之一。2017年，AlphaGo戰(zhàn)勝職業(yè)圍棋選手柯潔，此后人工智能發(fā)展愈加 迅速。2020年，AlphaFold解決了國際生物學(xué)界預(yù)測蛋白質(zhì)折疊的問題，讓很多科學(xué)家嘆為觀止。近年來，人工智能的應(yīng)用領(lǐng)域有進(jìn)一步拓展的發(fā)展趨勢，包括智能機(jī)器人對于新冠病毒的診斷等方面。
人工智能的廣泛應(yīng)用不僅僅是效率的提高，甚至有可能意味著科研范式和業(yè)態(tài)的重塑。例如，在十維參數(shù)空間的研究實(shí)驗(yàn)方案設(shè)計(jì)中，人工智能的應(yīng)用可以幫助科學(xué)家從上億個(gè)候選實(shí)驗(yàn)方案中選擇出幾百個(gè)，大大節(jié)約了人力物力成本，提升了科研效率。
在生命科學(xué)領(lǐng)域中，人類對生命的認(rèn)識經(jīng)歷了從解讀、修飾到創(chuàng)造的過程，從世紀(jì)之交破譯人類基因密碼之后，生命科學(xué)的發(fā)展日新月異。例如，原來是異養(yǎng)的大腸桿菌，現(xiàn)在可以改造成自養(yǎng)型生物；再如，人類歷史上首個(gè)單條染色體酵母成功實(shí)現(xiàn)人工合成；以及最近中科院天津工業(yè)生物技術(shù)研究所成功實(shí)現(xiàn)的人工合成淀粉，這一顛覆性成果有可能會(huì)帶來人類的“食物革命”。此外，還有很多技術(shù)創(chuàng)新改變了傳統(tǒng)的規(guī)模飼養(yǎng)、屠宰流通、物流消費(fèi)等肉類生產(chǎn)過程，比如直接在實(shí)驗(yàn)室培養(yǎng)纖維來生產(chǎn)人造肉，并且已有各式創(chuàng)新產(chǎn)品上市銷售。
此外，很多交叉領(lǐng)域的科學(xué)技術(shù)也取得了快速發(fā)展，如生命科學(xué)與計(jì)算機(jī)技術(shù)交叉產(chǎn)生的腦機(jī)結(jié)合。埃隆·馬斯克創(chuàng)辦的公司實(shí)現(xiàn)了猴子用“意念控制”光標(biāo)打游戲；美國食品藥品監(jiān)督管理局（FDA）于2019年發(fā)布了腦機(jī)接口設(shè)備指南，并于2020年8月份批準(zhǔn)了腦機(jī)接口產(chǎn)品的臨床研究性器械豁免申請。
誠然，科技創(chuàng)新的發(fā)展與應(yīng)用對人類生活各方面的影響是巨大的，但同時(shí)也會(huì)帶來風(fēng)險(xiǎn)與挑戰(zhàn)。例如，人工智能在人臉識別方面給我們帶來很多便利的同時(shí)也面臨數(shù)據(jù)濫用或泄露的風(fēng)險(xiǎn)與隱患。從更加長遠(yuǎn)的角度考慮，人們也擔(dān)心這些應(yīng)用長期下來是否會(huì)給人類社會(huì)帶來積累性的風(fēng)險(xiǎn)。
在就業(yè)領(lǐng)域，2020年世界經(jīng)濟(jì)論壇的一份報(bào)告提到，近年來新興科技創(chuàng)造的就業(yè)機(jī)會(huì)落后于其消除的就業(yè)機(jī)會(huì)，也就是說，科技的發(fā)展會(huì)導(dǎo)致失業(yè)問題。此外，還存在某些技術(shù)的濫用可能會(huì)深刻改變我們?nèi)祟愖陨?，如基因編輯技術(shù)的應(yīng)用便是如此，需要保持高度關(guān)注。
新興技術(shù)治理的生成邏輯
面對新興技術(shù)可能帶來的巨大收益和潛在風(fēng)險(xiǎn)，我們必須在發(fā)展新興技術(shù)的同時(shí)，高度關(guān)注其治理問題。
新興技術(shù)治理背后有其生成邏輯和治理實(shí)踐?；仡櫄v史，不管是現(xiàn)代科技還是傳統(tǒng)科技，背后都有治理體系形成的過程。我們可以把這個(gè)過程分成四個(gè)階段。
第一，核心驅(qū)動(dòng)階段。所有的新興技術(shù)在初期都有知識的重大進(jìn)步或技術(shù)上的關(guān)鍵創(chuàng)新，推動(dòng)新產(chǎn)品的產(chǎn)生，從而形成核心驅(qū)動(dòng)。
第二，市場變革階段。新技術(shù)的應(yīng)用必須與市場應(yīng)用不斷交流互動(dòng)，并拓展新的應(yīng)用場景和新的需求，最終形成技術(shù)的應(yīng)用領(lǐng)域和范式。
第三，認(rèn)知適配階段。這是一個(gè)技術(shù)的社會(huì)認(rèn)知過程。社會(huì)如何認(rèn)識新興技術(shù)？這個(gè)技術(shù)對社會(huì)是友好的還是會(huì)帶來風(fēng)險(xiǎn)？我們需要服從這個(gè)技術(shù)還是讓技術(shù)服從人類？這些問題是在技術(shù)的社會(huì)認(rèn)知過程中必須回答的，也是在技術(shù)發(fā)展尤其在應(yīng)用過程中所需要的認(rèn)知適配過程。曾經(jīng)有一些新興技術(shù)在發(fā)展中的社會(huì)認(rèn)知方面產(chǎn)生了問題，最終導(dǎo)致技術(shù)的應(yīng)用失敗。
第四，治理范式形成階段。在社會(huì)認(rèn)知構(gòu)建的過程中，不同的治理模式也在逐漸形成，包括治理主體、路徑選擇、工具應(yīng)用等。
那么，為什么以前在中國沒有明顯感到這個(gè)治理體系形成的過程？在前幾次的工業(yè)革命中，核心的技術(shù)產(chǎn)生、應(yīng)用過程、社會(huì)認(rèn)知等都主要是在其他發(fā)達(dá)國家首先發(fā)生的，中國只是在較為后期的階段才成為技術(shù)的應(yīng)用者，享受成熟的技術(shù)并借鑒采納相關(guān)的治理模式。
但是，身處正在發(fā)生的第四次工業(yè)革命中，中國通過努力已經(jīng)趕上了創(chuàng)新的頭班車，成為越來越多新興技術(shù)的開發(fā)者和領(lǐng)先的應(yīng)用者，因此，也將逐步面臨社會(huì)認(rèn)知和治理范式方面的挑戰(zhàn)。
以人工智能為例的新興技術(shù)治理
人工智能的治理是新興技術(shù)治理領(lǐng)域面臨的具有代表性的重大挑戰(zhàn)。其中首要回答的問題是，如何能夠讓我們的治理模式適應(yīng)人工智能技術(shù)的高速發(fā)展？筆者認(rèn)為，最近提出的“敏捷治理”比較適合人工智能技術(shù)的治理模式。
所謂敏捷治理，其核心是創(chuàng)新治理模式，把傳統(tǒng)的治理流程和范式改變成為適應(yīng)技術(shù)高速發(fā)展的敏捷靈活的模式。
在敏捷治理的基本框架中，首先要識別治理對象。對人工智能而言，治理對象就是數(shù)據(jù)的問題、算法的問題、算力的問題、平臺企業(yè)的問題。數(shù)據(jù)層面的挑戰(zhàn)在于如何進(jìn)行高質(zhì)量的數(shù)據(jù)集建設(shè)，以及如何讓公共數(shù)據(jù)集更大程度地開放，此外數(shù)據(jù)自主可控和宏觀安全也要高度關(guān)注。算法的問題是如何提高穩(wěn)定性、安全性、可解釋性和公平性。算力層面的挑戰(zhàn)是如何推動(dòng)核心硬件的持續(xù)性創(chuàng)新，尋求多邊合作共贏，避免出現(xiàn)技術(shù)壟斷等問題，同時(shí)需要突破技術(shù)創(chuàng)新范式，探索未來的新興技術(shù)。平臺企業(yè)的治理也需要突破傳統(tǒng)反壟斷的概念，根據(jù)平臺企業(yè)所在行業(yè)的特點(diǎn)分析其行為及市場效果。
其次是治理理念，也就是在效率、公平、安全、自由等基本價(jià)值目標(biāo)上做出選擇或排序。敏捷治理框架的第三個(gè)方面是參與的主體，包括政府、企業(yè)、公眾，還有很多的社會(huì)組織等。最后一個(gè)方面是治理工具，包括法律法規(guī)、行業(yè)標(biāo)準(zhǔn)、技術(shù)手段、社會(huì)共識等。
框架明確之后，我們就可以推動(dòng)敏捷治理的運(yùn)行機(jī)制，研究在新技術(shù)帶動(dòng)下的新經(jīng)濟(jì)特征，跟蹤市場的發(fā)展，加強(qiáng)監(jiān)管與市場的溝通，根據(jù)不同情況和風(fēng)險(xiǎn)場景提出更加具體的準(zhǔn)則，并更加具體靈活地運(yùn)用多元工具改善治理。
在具體實(shí)踐過程中，治理的價(jià)值觀念非常關(guān)鍵。例如，中國始終堅(jiān)持以確保人工智能的安全和平等為底線，在此基礎(chǔ)上鼓勵(lì)創(chuàng)新，進(jìn)而利用人工智能賦能經(jīng)濟(jì)社會(huì)發(fā)展，推動(dòng)可持續(xù)發(fā)展目標(biāo)的實(shí)現(xiàn)。同時(shí)，我們要及時(shí)識別人工智能帶來的風(fēng)險(xiǎn)，在適當(dāng)?shù)臅r(shí)候予以規(guī)制，使得創(chuàng)新驅(qū)動(dòng)和敏捷治理“兩個(gè)輪子”并駕齊驅(qū)。
基于敏捷治理的模式，治理主體（如政府）要積極參與到與治理對象（如企業(yè)）的協(xié)同互動(dòng)過程中。與傳統(tǒng)治理過程中政府與企業(yè)的關(guān)系不同，在新興技術(shù)的發(fā)展過程中，企業(yè)和政府都面臨不完全信息，應(yīng)該坐到一起進(jìn)行有效的對話，讓政府更好地了解技術(shù)發(fā)展的過程和走向，同時(shí)也讓企業(yè)了解政府和公眾對潛在風(fēng)險(xiǎn)有何顧慮，從而找到更好的治理方式來彌合雙方的認(rèn)知鴻溝。
此外，治理工具要做到靈活運(yùn)用、剛?cè)岵?jì)。從宏觀層面要制定原則性的法律法規(guī)，如我國最近出臺的個(gè)人信息保護(hù)法。中觀層面要有行為準(zhǔn)則等來規(guī)范企業(yè)行為。國家新一代人工智能治理專家委員會(huì)于2019年出臺的人工智能治理準(zhǔn)則就屬于這一類。微觀層面也需要有相應(yīng)的技術(shù)標(biāo)準(zhǔn)和監(jiān)管技術(shù)。在這些工具的綜合運(yùn)用下，為新興技術(shù)更好的發(fā)展、更健康的應(yīng)用提供了治理方面的保障。
目前，中國的人工智能治理在宏觀、中觀層面已經(jīng)做了不少工作，從理念層面逐漸進(jìn)入到實(shí)踐層面，既要鼓勵(lì)企業(yè)的創(chuàng)新發(fā)展，也要提供有效的治理框架和落地的標(biāo)準(zhǔn)及監(jiān)管技術(shù)。
建立以共識為基礎(chǔ)的人工智能全球治理
在國際層面，人工智能技術(shù)的發(fā)展受到各國的高度關(guān)注。根據(jù)經(jīng)合組織（OECD）人工智能政策觀察站的數(shù)據(jù)顯示，經(jīng)合組織國家共出臺了236項(xiàng)（截至2021年）與人工智能相關(guān)的國家戰(zhàn)略、國家計(jì)劃等政策舉措。與此同時(shí)，人工智能技術(shù)應(yīng)用帶來的各種挑戰(zhàn)也引起國際社會(huì)各方面的關(guān)注。
全球很多國家都采取措施構(gòu)建人工智能治理的框架，包括出臺各種人工智能治理原則或倫理指南。例如，德國一家非營利組織統(tǒng)計(jì)數(shù)據(jù)庫顯示，在過去五年中，全球范圍內(nèi)有160多個(gè)人工智能倫理原則指南相繼出臺。從內(nèi)容上看，這些倫理原則或指南差別并不顯著，因此，非常有可能在這些原則的基礎(chǔ)上，通過協(xié)商形成基本的全球共識。
近年來，美國等西方國家在人工智能治理方面試圖與中國脫鉤，以意識形態(tài)劃線，推動(dòng)形成全球人工智能伙伴的國際機(jī)制，企圖在人工智能治理領(lǐng)域遏制中國的發(fā)展。但是，中國始終堅(jiān)持多邊主義，堅(jiān)持科技向善，強(qiáng)調(diào)求同存異，爭取各國文明之間的最大公約數(shù)，積極參與聯(lián)合國和其他人工智能治理的多邊機(jī)制。
在中國的積極參與下，二十國集團(tuán)于2019年通過《G20人工智能原則》，該原則提倡需要以人為中心和以負(fù)責(zé)任的態(tài)度開發(fā)人工智能。2021年11月25日，聯(lián)合國教科文組織在法國巴黎發(fā)布《人工智能倫理建議書》，提出發(fā)展和應(yīng)用人工智能首先要體現(xiàn)出四大價(jià)值，即尊重、保護(hù)、提升人權(quán)及人類尊嚴(yán)，促進(jìn)環(huán)境與生態(tài)系統(tǒng)的發(fā)展，保證多樣性和包容性，構(gòu)建和平、公正與相互依存的人類社會(huì)。
展望人工智能全球治理的未來前景，特別需要通過建立多邊協(xié)同共治的機(jī)制，把倫理準(zhǔn)則、行業(yè)規(guī)則、技術(shù)標(biāo)準(zhǔn)和治理技術(shù)等納入統(tǒng)一的治理框架中，從而促進(jìn)在各國基本共識基礎(chǔ)上形成包容但有區(qū)別的人工智能國際治理格局。
具體而言，包括三個(gè)層面。首先是形成基本的治理價(jià)值共識。目前各國的治理準(zhǔn)則雖然表述各有不同，但核心較為相似，即涵蓋包容、共享、審慎、負(fù)責(zé)等基本價(jià)值原則。其次是促進(jìn)治理主體分工協(xié)作，發(fā)揮治理主體各自優(yōu)勢，形成治理合力。具體來看，政府要擔(dān)負(fù)其賦權(quán)和監(jiān)管職責(zé)，技術(shù)提供方需要進(jìn)行賦能，從而形成迭代優(yōu)化。同時(shí)，技術(shù)研究者和使用者也要促進(jìn)更多的合作交流，社會(huì)要提供及時(shí)有效的監(jiān)督。最后是治理體系和能力的迭代優(yōu)化。人工智能發(fā)展的特點(diǎn)之一表現(xiàn)為技術(shù)進(jìn)步的速度超過治理體系和能力更新的速度，迫使治理體系和能力的不斷創(chuàng)新，其中包括更好地發(fā)揮技術(shù)手段在治理過程中的作用，如聯(lián)邦學(xué)習(xí)、隱私計(jì)算、區(qū)塊鏈等相關(guān)的監(jiān)管性技術(shù)。
來源丨《中國網(wǎng)信》雜志
供稿丨清華大學(xué)科技發(fā)展與治理研究中心
