2024年7月4日，世界人工智能大會暨人工智能全球治理高級別會議在上海開幕。當日下午，由清華大學人工智能國際治理研究院（I-AIIG）主辦的“人工智能前沿技術的治理挑戰(zhàn)與應對論壇”在上海世博中心515會議室舉行。圖靈獎得主、中國科學院院士、清華大學人工智能學院院長、上海期智研究院院長姚期智，香港科技大學首席副校長、英國皇家工程院院士、歐洲科學院院士、香港工程科學院院士、英國帝國理工學院數據科學研究所所長郭毅可，聯(lián)合國副秘書長、聯(lián)合國大學校長Tshilidzi Marwala等專家以線下、線上，“數字分身”多種形式出席論壇并作主旨演講。
在本次論壇上，清華大學人工智能國際治理研究院還聯(lián)合相關機構共同發(fā)布了成果報告《全球人工智能治理與中國方案》研究報告（征求意見稿）、《前沿人工智能發(fā)展與治理》新書，啟動《中國人工智能重大應用場景白皮書》研究及“智能向善全球伙伴計劃”啟動儀式。論壇還邀請到來自國內外學界、產業(yè)界、智庫機構的專家學者，圍繞“人工智能國際治理”主題展開圓桌對話。
薛瀾主持主旨演講環(huán)節(jié)
第一階段的主旨演講環(huán)節(jié)由清華大學文科資深教授、公管學院學術委員會主任、人工智能國際治理研究院院長薛瀾主持。
姚期智作主旨演講
姚期智作題為《人工智能安全治理的研究方向》的主旨演講，他首先介紹了前沿大模型帶來的信息、物理、生物智能風險與生存風險，引申出AI的系統(tǒng)安全與確保人的利益問題，提出從技術和路徑的維度進行分類治理；其次以大模型時代的數據安全研究舉例，指出大模型會記住隱私數據，而保護用戶隱私的研究尚處在較原始階段，重要方向是為大模型數據安全開發(fā)出一組核心技術；進而以有益的通用人工智能（Beneficial AGI）和可證明的安全通用人工智能（Provably Safe AGI）為例，介紹了AI安全治理的大格局理論研究。他提出AI安全治理的當務之急在于發(fā)展AI對齊與相應的評估方法、結合中國優(yōu)勢來建立符合國情的AI治理框架，最后總結指出AI安全治理日趨重要，并已發(fā)展成為學術交叉新領域，亟需開展構建AI安全系統(tǒng)的基礎理論研究。
Tshilidzi Marwala作主旨演講
Tshilidzi Marwala在視頻演講中指出，人工智能技術的巨大突破正在全球范圍內掀起一場變革，并帶來了安全風險和治理挑戰(zhàn)。為了促進人工智能治理，要與聯(lián)合國憲章和人權原則相對齊，要利用行為科學，設計機制、建立框架、出臺政策、形成標準、開展立法，加強數據、算法、計算系統(tǒng)和應用的治理。Marwala強調，聯(lián)合國一直致力于人工智能治理以造福人類，2021年聯(lián)合國教科文組織發(fā)布了人工智能倫理建議，即將以此為基礎提出“全球數字契約”。2024年4月，聯(lián)合國大學啟動了全球人工智能網絡，它擁有來自19個以上國家和地區(qū)的40多名創(chuàng)始成員，清華大學人工智能國際治理研究院是其創(chuàng)始成員之一，期待中國學者和實踐者的積極加入。他最后總結：人工智能作為一種革命性力量，每個人都有責任塑造它的未來使其造福全人類。
郭毅可作主旨演講
郭毅可通過由AIGC生成他本人的“數字分身”作了題為“生成式人工智能數據安全治理：構建負責任的人工智能時代”的主旨報告，他指出數據治理是人工智能時代技術發(fā)展的基礎和前提，也關系到數字經濟的穩(wěn)健發(fā)展。積極地來看，可以通過區(qū)塊鏈增強數據安全、敏感數據風險防控、加密和匿名化等技術手段進行有效數據治理，其中訪問控制和權限管理、敏感數據監(jiān)控和審計對確保數據安全至關重要。隨著各國人工智能立法工作的開展，彰顯出國際社會對數據安全治理的重視，在這樣的背景下，加強國際間合作與交流，共同探討數據安全治理的最佳實踐，分享經驗和教訓，推動法律法規(guī)的協(xié)調統(tǒng)一尤為重要。推動負責任和安全的人工智能應用是社會各界的共同目標，也需要世界各國共同努力。
第二階段的成果發(fā)布由清華大學公共管理學院教授、人工智能國際治理研究院副院長梁正主持。
梁正主持發(fā)布環(huán)節(jié)
本環(huán)節(jié)圍繞前沿人工智能治理挑戰(zhàn)與健康發(fā)展，發(fā)布和介紹了研究院聯(lián)合相關合作伙伴共同完成的三項最新研究成果：
第一項，由薛瀾介紹了研究院與阿里巴巴集團共同完成的《全球人工智能治理與中國方案》研究報告（意見征求稿)。報告指出，本輪人工智能浪潮處于“工具化末期、產品化初期”階段，“發(fā)展治理”和“安全治理”受到高度關注，人工智能技術風險和國際治理挑戰(zhàn)普遍存在。在此背景下，中國實踐能夠為全球人工智能治理注入動力，包括發(fā)展中國特色人工智能治理體系，引領國際治理變革；加快科技創(chuàng)新和產業(yè)應用，推動全球人工智能發(fā)展；發(fā)出全球人工智能治理倡議，提出全球治理“中國方案”。報告倡議，應當持續(xù)沉淀基于共識的全球人工智能治理理念，著力構建開放包容的全球人工智能治理體系，分步打造綜合系統(tǒng)的全球人工智能治理框架。
薛瀾介紹聯(lián)合研究報告
第二項，由薛瀾擔任顧問、梁正主編的《前沿人工智能：發(fā)展與治理》新書正式發(fā)布。中國發(fā)展出版社社長王忠宏在新書發(fā)布環(huán)節(jié)中指出，在清華大學人工智能國際治理研究院的支持下，該書覆蓋了人工智能的發(fā)展全景、產業(yè)應用，深入探討了人工智能的潛在風險和國際治理等多個關鍵議題。通過對人工智能的發(fā)展與治理進行系統(tǒng)分析和研究，展示我國在前沿人工智能特別是大模型領域的最新進展。介紹了前沿人工智能產業(yè)生態(tài)發(fā)展軌跡及商業(yè)變革趨勢，并展示了人工智能在工業(yè)、政務、教育等多個領域的實際應用案例和成效；探討了人工智能國際治理議題，提出了構建開放包容的國際治理體系的策略與方法。中國發(fā)展出版社希望通過該書的出版，同清華大學人工智能國際治理研究院一道，推動社會各界對人工智能的深入理解，促進人工智能健康、有序發(fā)展，并為全球人工智能治理提供中國智慧。
第三項，由白皮書總策劃、之江智慧場景研究中心主任陶海青博士就清華大學人工智能國際治理研究院聯(lián)合之江智慧場景研究中心等機構共同開展的《中國人工智能重大應用場景白皮書》研究工作進行介紹，并熱情邀請更多單位共同參與白皮書案例征集及編寫工作；最后，研究院院長薛瀾，國務院發(fā)展研究中心中國發(fā)展出版社社長王忠宏，研究院副院長梁正，中國移動集團副總經理李慧鏑，中國投融資擔保有限公司董事長鄧星斌，中國電信研究院黨委書記閆麗莉，阿里巴巴集團副總裁李倩，華信永道董事長劉景郁，華為戰(zhàn)略研究院人工智能治理產業(yè)發(fā)展首席專家柳嘉琪，研究院秘書長魯俊群，之江智慧場景研究中心主任陶海青共同上臺，見證了《中國人工智能重大應用場景白皮書》及“智能向善全球伙伴計劃”正式啟動。
王忠宏作新書發(fā)布
陶海青作白皮書研究介紹
啟動儀式
案例征集報名
編制工作報名
第三階段的圓桌對話由中國政法大學數據法治研究院教授、聯(lián)合國人工智能高級別咨詢專家組成員張凌寒主持。與會專家圍繞當前人工智能國際治理面臨的突出挑戰(zhàn)、如何平衡創(chuàng)新發(fā)展與安全監(jiān)管、如何彌合智能鴻溝、人工智能國際治理中如何促進多元主體協(xié)同與多方利益平衡等議題展開深入對話和熱烈討論。
張凌寒主持圓桌對話環(huán)節(jié)
華東政法大學政治學研究院院長、人工智能與大數據指數研究院院長高奇琦在對話中指出，人工智能發(fā)展面臨失業(yè)、失序、失控等三大風險，當前人工智能國際治理的最大難題是聯(lián)合國的架構非常松散且碎片化、有效程度比較弱，應注重全球治理與國家治理的平衡，他呼吁參考碳定價的框架來對AI使用進行定價以應對虛假信息治理。
國際治理創(chuàng)新中心（CIGI）全球人工智能風險倡議執(zhí)行董事Duncan Cass-Beggs表示，AI治理作為一個跨越國境的問題，有些挑戰(zhàn)必須要加強國際合作才能解決。他認為，人類需要提前預估AI發(fā)展風險，注重防范AI紅利分配不均而僅造福一小部分群體、全球層面公眾安全威脅和系統(tǒng)性失控、以及僅由少數人和少數企業(yè)掌控AI發(fā)展議程決策等風險，他呼吁聯(lián)合國出臺具有全球效力的協(xié)議，在各方同意的情況下制定一個統(tǒng)一的架構，并配套相應的監(jiān)管措施以防止部分國家對其他國家進行破壞。
華為戰(zhàn)略研究院人工智能治理產業(yè)發(fā)展首席專家柳嘉琪認為，當今各界對加速AI發(fā)展已經達成充分共識，治理是為了給發(fā)展護航，并應在發(fā)展中治理、在治理中發(fā)展。他還強調，應構建分級分類、按場景區(qū)分風險的人工智能治理體系，既要用法律法規(guī)守住安全防線，也應充分發(fā)揮企業(yè)在一線治理工作中的關鍵作用，并需要打造具有全球代表性、多方主體充分參與、表達多方心聲和關切的平臺。
圓桌對話
卡內基國際和平基金會研究員Matt Sheehan提出，美國的學界缺乏算力和平臺，學者缺乏參與AI政策制定的渠道，而中國學者在AI治理中扮演更重要的角色。他表示，很多AI治理問題需要優(yōu)先在國家內部解決，并呼吁應保證社會的每個主體都能夠有資源來參與人工智能治理。
慕尼黑工業(yè)大學講師Alexander Kriebitz指出，在平衡發(fā)展和監(jiān)管的過程中，歐盟的法律建立了許多壁壘，企業(yè)很難完全遵守所有的規(guī)定，且強監(jiān)管會給企業(yè)帶來更多的合規(guī)成本。他還指出，面對全球南北方之間日益擴大的智能鴻溝問題，不僅要注重AI發(fā)展、完善基礎設施并促進AI落地應用，還要從教育上與民眾互動，提升民眾對AI的信任。
阿里巴巴集團政策法規(guī)研究室副主任顧登晨表示，整個中國的AI正走向賦能千行百業(yè)，需要充分發(fā)揮產業(yè)在AI治理中的重要作用，避免過度監(jiān)管帶來負外部性。他還指出，當前人工智能領域的很多治理框架都僅是國內議題并停留于設想階段，需要集中解決一些人類共同面臨的問題；大模型對齊的根本難題不在于大模型本身、而是在于在一些基礎問題上人類自身的對齊。
就此，2024世界人工智能大會·人工智能前沿技術的治理挑戰(zhàn)與應對論壇圓滿結束。
供稿丨清華大學人工治理國際治理研究院
