2024年1月20日下午，清華伍舜德樓行政法學(xué)工作坊第十四期“人工智能立法之開(kāi)源發(fā)展與法律規(guī)制”暨政府管理與創(chuàng)新研究所學(xué)術(shù)交流會(huì)在清華大學(xué)公共管理學(xué)院召開(kāi)。
本次會(huì)議由清華大學(xué)公共管理學(xué)院政府法制研究中心和清華大學(xué)科技發(fā)展與治理研究中心共同舉辦，清華大學(xué)公共管理學(xué)院院長(zhǎng)朱旭峰教授、清華大學(xué)公共管理學(xué)院于安教授致歡迎辭。主題發(fā)言環(huán)節(jié)由清華大學(xué)公共管理學(xué)院陳天昊副教授主持，中國(guó)社會(huì)科學(xué)院周輝副研究員、中國(guó)人民公安大學(xué)蘇宇教授、對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)張欣副教授和同濟(jì)大學(xué)朱悅助理教授先后做主題發(fā)言，清華大學(xué)公共管理學(xué)院梁正教授、上海交通大學(xué)李學(xué)堯教授、北京華宇元典信息服務(wù)有限公司副總經(jīng)理唐世亮和中金公司戰(zhàn)略部高級(jí)經(jīng)理劉楚先后做嘉賓與談。在隨后的圓桌討論環(huán)節(jié)，中國(guó)信息通訊研究院互聯(lián)網(wǎng)法律研究中心副主任何波、北京華宇元典信息服務(wù)有限公司首席人工智能專家石崇德、中國(guó)信息通訊研究院人工智能研究中心高級(jí)業(yè)務(wù)主管呼娜英、安遠(yuǎn)AI資深研究經(jīng)理方亮、ISO TC/154委員王翔、21世紀(jì)經(jīng)濟(jì)報(bào)道合規(guī)新聞部副主任王俊、星紀(jì)魅族集團(tuán)數(shù)據(jù)合規(guī)執(zhí)行總監(jiān)朱玲鳳和中策律師事務(wù)所律師王娟先后發(fā)言。最后，周輝和陳天昊作總結(jié)發(fā)言。
朱旭峰、于安致歡迎辭
首先，陳天昊簡(jiǎn)單介紹了本次會(huì)議的緣起與討論重點(diǎn)，即《人工智能示范法》（下稱示范法）研討和人工智能開(kāi)源發(fā)展與法律規(guī)制。朱旭峰在致辭中表示，人工智能已成為全球關(guān)注的焦點(diǎn)，也是中國(guó)在國(guó)際舞臺(tái)上有效應(yīng)對(duì)地緣政治“脫鉤斷鏈”的重要手段；與此同時(shí)，開(kāi)源是人工智能和數(shù)字經(jīng)濟(jì)發(fā)展的重要手段。希望通過(guò)本次會(huì)議形成相關(guān)共識(shí)，推動(dòng)我國(guó)人工智能開(kāi)源和法律規(guī)制建設(shè)。于安表示，人工智能的發(fā)展不僅是技術(shù)問(wèn)題，更是治理問(wèn)題，而治理問(wèn)題的核心是價(jià)值沖突問(wèn)題。關(guān)于數(shù)字技術(shù)應(yīng)用的價(jià)值觀沖突將是一個(gè)復(fù)雜且長(zhǎng)期的問(wèn)題。我國(guó)的人工智能發(fā)展模式與國(guó)家發(fā)展模式是高度一致的，因此在人工智能的發(fā)展過(guò)程中政府仍然會(huì)發(fā)揮重大作用。然而，現(xiàn)階段我國(guó)人工智能的總體布局與我國(guó)整體經(jīng)濟(jì)社會(huì)運(yùn)行并不完全匹配，因此現(xiàn)階段亟需進(jìn)行經(jīng)濟(jì)社會(huì)運(yùn)行的數(shù)字化流程再造。此外，數(shù)據(jù)供給作為人工智能的基礎(chǔ)，其質(zhì)量問(wèn)題需要引起高度重視。
主題發(fā)言
蘇宇作主題發(fā)言
蘇宇以“人工智能立法的價(jià)值平衡與實(shí)現(xiàn)機(jī)制”作主題發(fā)言，他首先提出人工智能立法需要在發(fā)展與安全，自由與公平，計(jì)劃與市場(chǎng)，個(gè)體與社會(huì)4組目標(biāo)間實(shí)現(xiàn)平衡。發(fā)展與安全的平衡，靜態(tài)上即安全冗余與規(guī)制負(fù)擔(dān)之間的平衡，規(guī)制措施經(jīng)常力求預(yù)留比較充足的安全冗余，然而安全冗余與規(guī)制負(fù)擔(dān)之間存在此消彼長(zhǎng)的交換關(guān)系，而且不是線性的關(guān)系，安全冗余的收益往往是邊際遞減的，其相對(duì)應(yīng)的規(guī)制負(fù)擔(dān)則可能是非線性增長(zhǎng)的；動(dòng)態(tài)上即應(yīng)變能力和穩(wěn)定預(yù)期之間的平衡，變化過(guò)于突然和頻繁的機(jī)制可能導(dǎo)致不穩(wěn)定的預(yù)期。自由與公平的平衡，個(gè)體層面即計(jì)算自由與公平競(jìng)爭(zhēng)之間的平衡；商業(yè)層面即自由競(jìng)爭(zhēng)與中小企業(yè)保護(hù)之間的平衡，對(duì)于中小企業(yè)而言，人工智能的規(guī)制負(fù)擔(dān)和算力消耗等成本均相當(dāng)沉重。計(jì)劃與市場(chǎng)之間的平衡重點(diǎn)在于如何平衡算力和數(shù)據(jù)基礎(chǔ)設(shè)施建設(shè)中的市場(chǎng)競(jìng)爭(zhēng)與政府參與，如何把握數(shù)據(jù)和算力的準(zhǔn)公共產(chǎn)品屬性并修正價(jià)格信號(hào)失真。個(gè)體與社會(huì)的平衡，涉及人工智能對(duì)個(gè)體就業(yè)的沖擊，由此產(chǎn)生勞動(dòng)權(quán)和社會(huì)生產(chǎn)力之間的平衡，實(shí)質(zhì)上是人工智能應(yīng)用的利益分配問(wèn)題；另一方面，在人工智能時(shí)代，個(gè)體將成為高維向量空間中的一個(gè)點(diǎn)，算法將根據(jù)個(gè)體的種種特征對(duì)其進(jìn)行聚類以便進(jìn)一步計(jì)算，人的自主性可能逐漸迷失，因此需要在人格獨(dú)立自主和社會(huì)關(guān)系變遷間取得平衡。以發(fā)展與安全的平衡為例，蘇宇教授認(rèn)為，需要通過(guò)一系列的細(xì)分平衡點(diǎn)實(shí)現(xiàn)人工智能法律規(guī)制的整體平衡，包括分類管理、法律關(guān)系、監(jiān)管權(quán)限、規(guī)制要求等。最后，蘇宇提出6條建議。第一，處理好人工智能立法調(diào)整對(duì)象，決不能局限于生成式人工智能或大模型；第二，對(duì)于發(fā)展與安全的平衡盡可能進(jìn)行精準(zhǔn)規(guī)制、敏捷治理，避免一刀切式的安全冗余設(shè)置；第三，在守住系統(tǒng)性風(fēng)險(xiǎn)底線的同時(shí)支持人工智能的自由發(fā)展；第四，精確辨析算力、數(shù)據(jù)、算法中公共物品和準(zhǔn)公共物品中價(jià)格機(jī)制失效的部分，建立綜合供給機(jī)制；第五，逐步建立算法相關(guān)新型權(quán)益、廣泛的利益共享機(jī)制、人工智能賦能機(jī)制，保護(hù)個(gè)人選擇空間；最后，預(yù)留多種可以精準(zhǔn)調(diào)節(jié)的“規(guī)制平衡器”，將算法治理工具擴(kuò)充為算法治理體系，盡可能在算法治理工具內(nèi)置的平衡點(diǎn)精準(zhǔn)調(diào)節(jié)制度化平衡。相應(yīng)地，人工智能的個(gè)體賦能體系、供給促進(jìn)體系和治理工具體系仍有待進(jìn)一步研究。
張欣作主題發(fā)言
張欣以“全球人工智能治理的格局、特征與趨勢(shì)洞察”作主題發(fā)言。她首先介紹了全球人工智能治理格局的形成與發(fā)展。自2020年起，人工智能風(fēng)險(xiǎn)事件呈逐年上升趨勢(shì)。相應(yīng)的，各國(guó)高度重視并積極參與全球人工智能新秩序的形成。具體而言，現(xiàn)有人工智能治理矩陣中多元參與者影響力各異，歐美國(guó)家由于起步較早在全球人工智能治理層面搶占先機(jī)，并在一定程度上實(shí)行小院高墻策略。在現(xiàn)有人工智能國(guó)際治理格局中，我國(guó)硬實(shí)力處于并跑和領(lǐng)跑階段，但軟實(shí)力仍有待提升。我國(guó)科技企業(yè)和非盈利組織數(shù)量有限且影響力不足，限制了我國(guó)參與全球人工智能治理。目前，全球人工智能治理法治化特征日益凸顯，通過(guò)法治化道路為人工智能治理提供“制度圍欄”已在國(guó)際層面形成廣泛共識(shí)。然而，現(xiàn)有人工智能國(guó)際治理機(jī)制仍凸顯碎片化特征，大國(guó)競(jìng)爭(zhēng)導(dǎo)向突出，數(shù)據(jù)安全、隱私保護(hù)、算法濫用等問(wèn)題缺乏有效協(xié)同，我國(guó)需積極構(gòu)建人工智能治理“可信朋友圈”，推進(jìn)雙邊、多邊協(xié)作。最后，發(fā)展中國(guó)家與發(fā)達(dá)經(jīng)濟(jì)體相比仍然存在智能鴻溝和人工智能治理代差。
朱悅作主題發(fā)言
朱悅以“認(rèn)真對(duì)待開(kāi)源豁免”作主題發(fā)言。首先，朱悅認(rèn)為示范法對(duì)于開(kāi)源豁免做了比較前瞻的立法性探索。隨后，他討論了歐盟開(kāi)源豁免的立法源流與立法進(jìn)展。歐盟對(duì)于開(kāi)源豁免的法律規(guī)制主要集中于《人工智能法》和《產(chǎn)品責(zé)任指令》兩部法律。在《人工智能法》的立法過(guò)程中，法國(guó)、葡萄牙、愛(ài)沙尼亞等國(guó)出于利益和理念在早期即提出開(kāi)源豁免，認(rèn)為開(kāi)源作者在上傳模型時(shí)已經(jīng)完成了信息披露實(shí)現(xiàn)了自我監(jiān)管，應(yīng)通過(guò)開(kāi)源豁免鼓勵(lì)創(chuàng)新、科學(xué)自由；在《人工智能法》立法中后期，歐洲議會(huì)中多個(gè)黨派均對(duì)開(kāi)源豁免表示贊成，以促進(jìn)中小企業(yè)發(fā)展。值得注意的是，《人工智能法》明確提出：盡管豁免適用于免費(fèi)且開(kāi)源許可下提供的組件，但不能進(jìn)行換取貨幣對(duì)價(jià)、綁定服務(wù)和出于安全、兼容之外的目的來(lái)處理個(gè)人信息等商業(yè)化操作，否則將失去豁免。可以發(fā)現(xiàn)，歐盟在兩部即將面世的法律中給予了開(kāi)源比較徹底的豁免。其次，朱悅表示，目前開(kāi)源在人工智能產(chǎn)業(yè)鏈/價(jià)值鏈上的主要組件上均發(fā)揮重要作用，如框架、數(shù)據(jù)、模型、基準(zhǔn)、硬件、生態(tài)等。實(shí)際上，開(kāi)源并不是少數(shù)和例外，而是現(xiàn)實(shí)中的默認(rèn)狀態(tài)。最后，朱悅再次表示人工智能立法應(yīng)認(rèn)真考慮開(kāi)源豁免及其附加條件，厘清開(kāi)源豁免邊界，在安全與發(fā)展之間取得平衡。
嘉賓與談
梁正、李學(xué)堯發(fā)言
嘉賓與談環(huán)節(jié)，梁正認(rèn)為人工智能立法首先亟需判斷人工智能技術(shù)的發(fā)展程度究竟如何，是否需要通過(guò)立法手段進(jìn)行外部干預(yù)，其潛在風(fēng)險(xiǎn)是否可以通過(guò)技術(shù)發(fā)展解決。其次，應(yīng)該確定人工智能立法的重點(diǎn)，人工智能立法應(yīng)該考慮新技術(shù)的引入會(huì)對(duì)既有的價(jià)值體系和權(quán)利體系帶來(lái)哪些改變，明確權(quán)利邊界和主體責(zé)任，而非對(duì)技術(shù)細(xì)節(jié)進(jìn)行過(guò)度規(guī)定。最后，梁正認(rèn)為人工智能立法需要避免過(guò)度監(jiān)管，充分考慮技術(shù)可行性和實(shí)施成本。針對(duì)開(kāi)源豁免，梁正表示開(kāi)源已成為人工智能的生態(tài)模式，但其意義不僅在于推動(dòng)創(chuàng)新，開(kāi)源還可以通過(guò)競(jìng)爭(zhēng)來(lái)發(fā)現(xiàn)和解決問(wèn)題和缺陷，從而推動(dòng)安全發(fā)展。
李學(xué)堯認(rèn)為，在條款擬制中，中國(guó)未來(lái)的人工智能法或者相關(guān)法律體系中，應(yīng)提高涉?zhèn)惱聿糠值臈l文數(shù)占比，建議設(shè)置“人工智能倫理專章”或者在全國(guó)人大層面頒布專門的《人工智能倫理法》，不應(yīng)僅停留在行政規(guī)章甚至規(guī)范性法律文件的層次。李學(xué)堯在科技倫理框架內(nèi)初步區(qū)分了人工智能倫理與生物醫(yī)藥倫理的差異：第一，人工智能倫理具有可嵌入性；第二，人工智能倫理具有更強(qiáng)的場(chǎng)景化特征；第三，人工智能更易受資本的全面介入并對(duì)其他產(chǎn)業(yè)產(chǎn)生更強(qiáng)的深度影響；第四，人工智能對(duì)人際關(guān)系和社會(huì)結(jié)構(gòu)影響更大，更具有革命性。李學(xué)堯還特別提醒，在人工智能治理框架內(nèi)，科技倫理審查并不僅僅是一種安全保障措施，對(duì)于人工智能研發(fā)者和服務(wù)提供者而言，還具有行為指南和責(zé)任豁免的功能。在此基礎(chǔ)上，他認(rèn)為，人工智能示范法中關(guān)于人工智能倫理專家委員會(huì)的表述仍然較為簡(jiǎn)單，應(yīng)進(jìn)一步細(xì)化其規(guī)制主體、人員構(gòu)成、職能設(shè)置及審查啟動(dòng)條件等。
唐世亮、劉楚發(fā)言
唐世亮首先回顧了公司的發(fā)展歷程，并分享了公司與新京報(bào)、上海法院、中國(guó)微軟三個(gè)大模型合作案例。在談到開(kāi)源治理問(wèn)題時(shí)，唐世亮強(qiáng)調(diào)了三個(gè)關(guān)鍵點(diǎn)。首先，在開(kāi)源方面，安全性問(wèn)題是至關(guān)重要的，應(yīng)當(dāng)置于首位。其次，開(kāi)源同時(shí)需充分保護(hù)開(kāi)發(fā)者，以確保他們?cè)陂_(kāi)源項(xiàng)目中能夠安全、穩(wěn)定地參與。最后，開(kāi)源應(yīng)當(dāng)規(guī)避企業(yè)或個(gè)人非法使用或?yàn)E用的情況。
劉楚回顧了全球人工智能發(fā)展階段與治理法規(guī)的歷史演進(jìn)，強(qiáng)調(diào)近年來(lái)生成式人工智能的出現(xiàn)引發(fā)了對(duì)相關(guān)法律和治理的關(guān)注。劉楚認(rèn)為，根據(jù)第一性原理，當(dāng)前AI技術(shù)發(fā)展尚未達(dá)到可預(yù)見(jiàn)的終極階段——實(shí)現(xiàn)與人同等智能同等功耗的階段，呼吁對(duì)人工智能的法規(guī)制定給予足夠的時(shí)間。針對(duì)開(kāi)源問(wèn)題，劉楚強(qiáng)調(diào)了對(duì)開(kāi)源的特別考慮，指出開(kāi)源已成為業(yè)界技術(shù)解決方案的默認(rèn)狀態(tài)，在制定相關(guān)法規(guī)時(shí)需要考慮開(kāi)發(fā)者已放棄的權(quán)利要求，平衡法規(guī)所要求的義務(wù)。最后，針對(duì)開(kāi)源人工智能治理提出三點(diǎn)建議，包括考慮通過(guò)開(kāi)發(fā)者提升透明度減少對(duì)開(kāi)發(fā)者提供安全性證明的義務(wù)要求，考慮開(kāi)源軟件委員會(huì)、基金會(huì)在治理中可能承擔(dān)的責(zé)任，并強(qiáng)調(diào)需要結(jié)合開(kāi)源協(xié)議統(tǒng)籌考慮相關(guān)法律，以更好地實(shí)現(xiàn)開(kāi)源人工智能的治理。
圓桌討論
何波、石崇德發(fā)言
圓桌討論環(huán)節(jié)，何波首先分析了人工智能治理是否需要制定新的法規(guī)，認(rèn)為在技術(shù)發(fā)展不可控的情況下，法規(guī)的制定是為了明確技術(shù)發(fā)展的底線和紅線，能夠有效避免新技術(shù)發(fā)展陷入“科林格里奇困境”。其次，針對(duì)人工智能立法問(wèn)題，何波認(rèn)為應(yīng)該建立一個(gè)完整的人工智能法律制度體系，涉及法律、行政法規(guī)、部門規(guī)章多個(gè)層級(jí)，涵蓋個(gè)人信息保護(hù)、數(shù)據(jù)安全、網(wǎng)絡(luò)安全、知識(shí)產(chǎn)權(quán)等多個(gè)方面。再次，在數(shù)據(jù)處理問(wèn)題上，何波討論了大模型的個(gè)人信息保護(hù)義務(wù)和責(zé)任，分析了大模型在研發(fā)階段是否應(yīng)被視為數(shù)據(jù)控制者。最后，在國(guó)際規(guī)則層面，何波提到中國(guó)作為一個(gè)發(fā)展中國(guó)家，需要平衡國(guó)際治理的立場(chǎng)，充分考慮到我們的人工智能領(lǐng)先優(yōu)勢(shì)和其他發(fā)展中成員的利益訴求。何波表示目前在人工智能法律政策和治理方面存在許多值得研討的問(wèn)題，希望學(xué)界能夠給予更多指導(dǎo)，共同探索。
石崇德首先表示了對(duì)近日草案和立法動(dòng)向的認(rèn)同，強(qiáng)調(diào)了人性化和透明性在人工智能領(lǐng)域的重要性。其次，石崇德強(qiáng)調(diào)了使用國(guó)內(nèi)數(shù)據(jù)進(jìn)行大模型訓(xùn)練的必要性，以避免西方價(jià)值觀對(duì)思維方式的潛在影響。此外，他探討了人工智能算法對(duì)個(gè)人思維的影響，呼吁法律界和學(xué)術(shù)界更多關(guān)注算法模型生成內(nèi)容的多樣性。最后，石崇德詳細(xì)討論了合規(guī)管制問(wèn)題，提出應(yīng)根據(jù)企業(yè)規(guī)模設(shè)計(jì)合理的大模型監(jiān)管機(jī)制的建議，旨在減輕中小企業(yè)在安全投入方面的負(fù)擔(dān)。
呼娜英、方亮發(fā)言
呼娜英從四個(gè)方面分享心得。第一，她介紹了其所在的人工智能研究中心在開(kāi)源方面的工作，特別強(qiáng)調(diào)了開(kāi)源對(duì)激發(fā)技術(shù)創(chuàng)新活力，提高產(chǎn)業(yè)體系分工效率，促進(jìn)經(jīng)濟(jì)發(fā)展，助推可持續(xù)性發(fā)展的作用。第二，她回顧了全球技術(shù)開(kāi)源生態(tài)的演變，強(qiáng)調(diào)了不同領(lǐng)域的開(kāi)源特色，尤其突出了開(kāi)源生態(tài)在操作系統(tǒng)、云計(jì)算、大數(shù)據(jù)和人工智能領(lǐng)域的重要性。第三，她提到了與開(kāi)源相關(guān)的安全風(fēng)險(xiǎn)，包括安全漏洞，開(kāi)源許可證問(wèn)題以及人工智能治理問(wèn)題。她對(duì)于開(kāi)源在技術(shù)創(chuàng)新和經(jīng)濟(jì)發(fā)展中的積極作用表示認(rèn)同，但也警示開(kāi)源存在的相應(yīng)風(fēng)險(xiǎn)，尤其是依賴帶來(lái)可控性的風(fēng)險(xiǎn)。最后，呼娜英強(qiáng)調(diào)了開(kāi)源在人工智能風(fēng)險(xiǎn)治理的幾個(gè)層次，并分析了開(kāi)源在其中的定位中的地位，建議針對(duì)技術(shù)系統(tǒng)本身的風(fēng)險(xiǎn)，以及技術(shù)應(yīng)用對(duì)、個(gè)人組織、國(guó)家社會(huì)以及人類生態(tài)的影響構(gòu)建進(jìn)行全面的風(fēng)險(xiǎn)管理方案。
方亮就前沿AI的開(kāi)源治理問(wèn)題提出了一系列深刻見(jiàn)解。方亮首先指出開(kāi)源vs閉源是錯(cuò)誤的二分法，從“完全封閉”到“完全開(kāi)放”之間存在多種模型發(fā)布選項(xiàng)。例如托管訪問(wèn)、API訪問(wèn)、API微調(diào)、提供權(quán)重，有限制提供權(quán)重+代碼+數(shù)據(jù)等。開(kāi)源的確切利弊，取決于所公開(kāi)的模型組件的特定組合，以及向誰(shuí)+何時(shí)+如何發(fā)布。其次，方亮詳細(xì)討論了面對(duì)前沿AI潛在的極端風(fēng)險(xiǎn)，應(yīng)探索開(kāi)源的替代方案，即以更少的風(fēng)險(xiǎn)實(shí)現(xiàn)開(kāi)源相同的效益。他重點(diǎn)分析了促進(jìn)模型外部安全評(píng)測(cè)的可能替代方案，例如分階段發(fā)布、建立紅隊(duì)測(cè)試網(wǎng)絡(luò)、向可信的第三方機(jī)構(gòu)授予特定的模型訪問(wèn)權(quán)限等，并建議優(yōu)化研究API以促進(jìn)安全研究。最后，方亮強(qiáng)調(diào)閉源的前沿AI也面臨安全風(fēng)險(xiǎn)，鑒于當(dāng)前的保護(hù)措施還不足以抵御對(duì)抗性攻擊，閉源模型也容易被濫用，需要強(qiáng)有力的外部監(jiān)督和評(píng)測(cè)。
王翔、王俊發(fā)言
王翔結(jié)合在研的《聯(lián)合國(guó)透明度議定書》（UNTP：UN Transparency Protocol），以政府間國(guó)際合作為切入點(diǎn)，探討了當(dāng)前人工智能技術(shù)跨境協(xié)同治理措施的最新進(jìn)展。面對(duì)環(huán)境、氣候、食品、衛(wèi)生等可持續(xù)發(fā)展議題愈發(fā)細(xì)化的公共管理要求，需要考慮將有限的行政資源與開(kāi)源人工智能相結(jié)合，以協(xié)同應(yīng)對(duì)貨物、商品、資金、人員、數(shù)據(jù)元跨境流動(dòng)帶來(lái)的潛在風(fēng)險(xiǎn)。考慮到主要經(jīng)濟(jì)體數(shù)據(jù)治理思路的差異和互聯(lián)網(wǎng)國(guó)際段聯(lián)通條件的不同，可以參考聯(lián)合國(guó)貿(mào)易數(shù)據(jù)源目錄等標(biāo)準(zhǔn)，實(shí)現(xiàn)人工智能訓(xùn)練語(yǔ)料庫(kù)的互操作。此外，基于我國(guó)在制造領(lǐng)域的工業(yè)數(shù)據(jù)優(yōu)勢(shì)、流通領(lǐng)域的商業(yè)數(shù)據(jù)優(yōu)勢(shì)，他提出了未來(lái)促進(jìn)開(kāi)源人工智能產(chǎn)業(yè)發(fā)展的建議：建立基于透明度的數(shù)據(jù)貿(mào)易管理框架，研究“來(lái)數(shù)加工”等新業(yè)態(tài)，以及設(shè)計(jì)數(shù)據(jù)及數(shù)字化產(chǎn)品、服務(wù)跨境流動(dòng)的數(shù)字護(hù)照。最后，通過(guò)對(duì)照，他認(rèn)為UNTP作為面向?qū)嵤┑闹卫砉ぞ呦洌軌蜉^好對(duì)齊加入人工智能倫理后的示范法草案。
王俊指出，要密切關(guān)注開(kāi)源的技術(shù)發(fā)展水平，法律義務(wù)責(zé)任的設(shè)計(jì)應(yīng)與整個(gè)開(kāi)源生態(tài)、技術(shù)實(shí)踐匹配。另外，開(kāi)源閉源之爭(zhēng)持續(xù)纏繞在人工智能發(fā)展過(guò)程中。此前對(duì)閉源的爭(zhēng)議是認(rèn)為應(yīng)用場(chǎng)景不夠豐富和成本收益比不足，開(kāi)源的爭(zhēng)議則是算力不足。未來(lái)開(kāi)源閉源對(duì)人工智能的商業(yè)生態(tài)會(huì)是什么走向，是延續(xù)蘋果、安卓的舊腳本，還是會(huì)有新的敘事腳本，是值得關(guān)注的。
朱玲鳳、王娟發(fā)言
朱玲鳳首先強(qiáng)調(diào)了在人工智能領(lǐng)域的開(kāi)源的重要性。通過(guò)實(shí)際案例，她強(qiáng)調(diào)了開(kāi)發(fā)工程師在解決問(wèn)題時(shí)常常依賴開(kāi)源社區(qū)。其次，朱玲鳳提及開(kāi)源軟件協(xié)會(huì)對(duì)于開(kāi)源人工智能的討論和定義，同時(shí)關(guān)注了可信人工智能的概念，強(qiáng)調(diào)了安全性和社區(qū)治理的緊迫性。最后，在思考開(kāi)源人工智能的法律規(guī)制時(shí)，她呼吁謹(jǐn)慎對(duì)待并提出了分層治理的觀點(diǎn)。她指出除特殊情況下應(yīng)當(dāng)尊重并保障開(kāi)源人工智能對(duì)產(chǎn)業(yè)的發(fā)展和自由市場(chǎng)的作用，對(duì)基礎(chǔ)模型等對(duì)下游有重大影響的應(yīng)當(dāng)規(guī)定透明性等義務(wù)，兼顧創(chuàng)新和安全。
王娟從法律實(shí)施的角度對(duì)開(kāi)源人工智能進(jìn)行深入思考。王娟以律所的經(jīng)驗(yàn)為基礎(chǔ)，指出新頒布的數(shù)據(jù)保護(hù)法在實(shí)際實(shí)施中面臨一些障礙，特別是在解釋和執(zhí)行方面存在困難。她提出，應(yīng)該在立法階段引入技術(shù)領(lǐng)域和法律領(lǐng)域?qū)＜业募w智慧，以確保法律的可理解性。此外，她建議明確法律和技術(shù)標(biāo)準(zhǔn)的分離，以便法律人員和企業(yè)技術(shù)人員能夠更好地理解和執(zhí)行法規(guī)。王娟還討論了開(kāi)源可能帶來(lái)的積極價(jià)值和市場(chǎng)競(jìng)爭(zhēng)方面的一些挑戰(zhàn)，以及在治理方案設(shè)計(jì)上的優(yōu)化建議，強(qiáng)調(diào)需要以更科學(xué)和精細(xì)的方法來(lái)應(yīng)對(duì)開(kāi)源人工智能的風(fēng)險(xiǎn)。
周輝、陳天昊作總結(jié)發(fā)言
周輝和陳天昊作總結(jié)發(fā)言。周輝總結(jié)了本次會(huì)議討論的核心問(wèn)題，包括開(kāi)源的界定與實(shí)踐復(fù)雜性、開(kāi)源如何影響市場(chǎng)競(jìng)爭(zhēng)、開(kāi)源的潛在風(fēng)險(xiǎn)，以及開(kāi)源的治理方案。首先，他對(duì)開(kāi)源的界定提出了問(wèn)題，指出在實(shí)踐中存在著代碼的開(kāi)放程度、信息面向市場(chǎng)的程度以及用戶篩選等多個(gè)層面的差異。其次，他關(guān)注了開(kāi)源在市場(chǎng)競(jìng)爭(zhēng)中可能引發(fā)的問(wèn)題，以谷歌安卓生態(tài)為例，提出了開(kāi)源平臺(tái)是否可能導(dǎo)致壟斷的問(wèn)題。再次，在風(fēng)險(xiǎn)方面，他強(qiáng)調(diào)需要研討開(kāi)源是否放大了風(fēng)險(xiǎn),以及引發(fā)風(fēng)險(xiǎn)的類型。最后，周輝在治理方案上提出了優(yōu)化的建議，包括明確開(kāi)源責(zé)任的條款、建立符合國(guó)家標(biāo)準(zhǔn)的合規(guī)治理體系等。這一系列問(wèn)題和思考為未來(lái)的開(kāi)源研究和治理方案提供了有益的指引。
最后，陳天昊對(duì)本次會(huì)議進(jìn)行總結(jié)。他首先表達(dá)對(duì)于周輝精彩總結(jié)的感謝。其次，陳天昊指出在數(shù)字利維坦和政治利維坦的競(jìng)爭(zhēng)中，技術(shù)社群有著獨(dú)特的意義。他將開(kāi)源社區(qū)視為未來(lái)烏托邦的切口，強(qiáng)調(diào)通過(guò)立法支持技術(shù)社群的發(fā)展。最后，陳天昊再次感謝各位老師對(duì)本次會(huì)議的關(guān)注，并表示未來(lái)將持續(xù)推動(dòng)學(xué)術(shù)共同體的建設(shè)。
關(guān)于清華大學(xué)公共管理學(xué)院政府法制研究中心
黨的二十大報(bào)告指出：“全面依法治國(guó)是國(guó)家治理的一場(chǎng)深刻革命”，“法治政府建設(shè)是全面依法治國(guó)的重點(diǎn)任務(wù)和主體工程”。政府法制研究中心是依托清華大學(xué)公共管理學(xué)院成立的跨學(xué)科研究平臺(tái)，旨在圍繞如何推動(dòng)法治政府建設(shè)這一中心議題，開(kāi)展數(shù)字治理、數(shù)字政府、新興產(chǎn)業(yè)治理、司法政策、公私合作等領(lǐng)域的研究工作，為在新時(shí)代進(jìn)一步推動(dòng)法治政府建設(shè)，以適應(yīng)前沿科技的革新，并助力國(guó)家高質(zhì)量發(fā)展，提供智力支持。
供稿丨政府法制研究中心
