日前，2024世界人工智能大會暨人工智能全球治理高級別會議在中國上海舉辦，主題為“以共商促共享 以善治促善智”。
近年來，人工智能的新技術不斷突破、新業態持續涌現、新應用加快拓展，已成為新一輪科技革命和產業變革的重要驅動力量。同時，人工智能發展在法律、安全、就業、道德倫理等方面也面臨著一系列新課題。作為負責任的人工智能大國，中國在大力推進人工智能創新發展的同時，積極致力于為國際社會提供更多公共產品，以開放姿態開展人工智能國際交流合作，為全球人工智能發展和治理作出積極探索，貢獻了建設性思路和方案。
積極探索全球人工智能治理共識機制
“2024世界人工智能大會暨人工智能全球治理高級別會議有很多亮點值得關注。”復旦大學發展研究院副研究員姚旭接受本報記者采訪時說，一是各方搭臺。來自全球50多個國家地區的上千位人工智能治理和產業發展的領軍人物齊聚中國，積極參與這場討論人工智能技術和產業前沿發展趨勢的盛會，引發對人工智能的關注熱潮，線下參觀人數突破30萬人次，再創新高。二是產業唱戲。參加大會的知名人工智能企業數量、發布的人工智能新品數量、參展的展品數量都創歷年新高，全球頂級的人工智能科研機構和企業充分交流，加速人工智能成果轉化。三是強調合作。大會發布《人工智能全球治理上海宣言》，為全球人工智能的治理范式和路徑提供了新思路，得到各界積極響應。
中國一直是人工智能全球治理的積極倡導者和踐行者。去年10月，中國提出《全球人工智能治理倡議》，系統回答了為什么要加強、如何加強人工智能全球治理的重大時代課題，提出了中國方案，貢獻了中國智慧，為凝聚國際社會共識、推進全球共享共治發揮了積極作用。日前，第78屆聯合國大會以協商一致方式通過了中方主提的“加強人工智能能力建設國際合作”決議，143個聯合國會員國參加聯署。這是全球首個聚焦人工智能能力建設的共識性文件。
對外經濟貿易大學數字經濟與法律創新研究中心主任張欣在接受本報記者采訪時表示，近年來，中國在全球人工智能治理方面作出了一系列積極貢獻。中國頒布的《生成式人工智能服務管理暫行辦法》是世界上首部以生成式人工智能為對象的正式立法。中國頒布的《科技倫理審查辦法（試行）》明確了科技倫理原則，是中國科技倫理治理的標志性事件，意味著中國科技倫理的頂層設計和治理體系日趨完善。中國提出的《全球人工智能治理倡議》是在凝聚中國多年來人工智能治理成熟經驗基礎上對全球人工智能治理共識機制的有力探索。
“近年來，中國在人工智能領域堅持統籌發展和安全，以發展促安全、以安全保發展，已取得令人矚目的成績。”姚旭介紹，2020年7月，中國發布《國家新一代人工智能標準體系建設指南》。2023年7月，中國的《生成式人工智能服務管理暫行辦法》正式發布，是全球范圍內最早的針對生成式人工智能的監管方案。2024年3月1日，全國網絡安全標準化技術委員會發布了《網絡安全技術 生成式人工智能服務安全基本要求（TC260-003）》，對人工智能服務安全方面的基本要求做出了規定。
“此外，中國在人工智能全球治理中展現大國擔當，和美國、法國等建立高層級對話機制。2023年11月，中美元首舊金山會晤期間，兩國就建立人工智能政府間對話機制達成重要共識。2024年5月，中美人工智能政府間對話首次會議成功舉行。2024年5月7日，中法兩國發布《中華人民共和國和法蘭西共和國關于人工智能和全球治理的聯合聲明》。”姚旭說。
推動全球人工智能治理法治化進程
世界知識產權組織近日發布的報告顯示，2014年至2023年，中國生成式人工智能專利申請量超3.8萬件，居世界第一。高速發展催生了更為豐富的治理經驗和治理策略，中國通過各種國際對話平臺與世界交流分享。
“近年來，中國的人工智能技術和產業都發展迅速，處于世界領先水平。”姚旭介紹，國家數據局局長劉烈宏在中國發展高層論壇2024年年會上表示，中國10億參數規模以上大模型數量已超100個。中國信息通信研究院最新發布的《全球數字經濟白皮書（2024年）》顯示，全球人工智能大模型數量為1328個，中國大模型數量占比為36%，居世界第二。此外，中國正筑牢人工智能發展的人才培養底座。《紐約時報》援引保爾森基金會旗下智庫的研究稱，中國已經成為人工智能人才的最大出產國，幾乎培養了全球一半的頂尖人工智能研究人員。
“人工智能快速發展一方面是基于科技產業精英主導的技術突破，另一方面也必須考慮應用落地的普適性和易用性。”姚旭說，中國在人工智能技術發展和應用的過程中，始終關注場景落地時降本增效。在自動駕駛、智能制造、氣象預測、安全巡檢等各種場景中，中國產學研各界正在加速強化國際合作，將中國人工智能技術落地方案和世界各國尤其是南方國家充分共享。此外，共建“一帶一路”國家在傳統基礎設施、數字基礎設施和數據基礎設施領域的協同共建，是推動普惠發展、彌合智能鴻溝的重要基石。
據人工智能、算法、自動化事件和爭議數據庫顯示，2021年新報告的人工智能事件和爭議數量是2012年的26倍。其中生成式人工智能引發的虛假信息問題尤為突出。由于虛假信息面向的是互聯網信息內容領域，因此其產生的影響具有行業和場景的廣泛性。
“加強人工智能治理規則的全球協作日益成為各方共識。”張欣說，人工智能技術的突破式發展導致新舊風險疊加，影響社會倫理秩序，帶來了一系列安全和倫理挑戰。例如，生成式人工智能的發展既導致傳統技術風險加劇，又帶來了一系列新興風險。尤其在人工智能研發和應用環節對個人隱私和數據安全帶來了數據泄露、數據濫用、侵犯個人隱私等隱患。而與傳統技術風險有所不同，人工智能技術風險具有隱蔽性、跨域性、全球性、長期性，需要從國際層面展開持續性、系統性和協同性的治理努力。此外，由于人工智能的技術迭代以日為單位，若不在早期實施有效的介入治理，則可能出現后期風險難以控制的治理困境。各國雖在人工智能治理思路和具體方案上存在差異，但從數據安全和個人隱私保護的視角對人工智能訓練環節施加規制和約束已成為共識。
“全球人工智能治理還呈現‘法治化’特征，從早期以科技倫理、技術標準、自律承諾等為代表的軟法治理，逐步轉向一種更為成熟的‘軟法與硬法雙軌并行、剛柔并濟’的新型治理模式。”張欣說，各國雖就人工智能治理提出了多元化的治理理念和治理路徑，但通過法治化道路為人工智能治理提供“制度圍欄”已在國際層面形成廣泛共識。中國推出了《科技倫理審查辦法（試行）》和《生成式人工智能服務管理暫行辦法》，提出了人工智能治理的中國方案。《全球人工智能治理倡議》中關于逐步建立健全人工智能領域的法律和規章制度的提議，不僅是為國際社會貢獻中國智慧和中國經驗的重要舉措，也是中國在推動全球人工智能治理法治化進程中扮演關鍵角色的重要體現。
各國需在形成充分共識基礎上通力協作
由于技術發展水平和文化背景差異，各國對人工智能風險的感知也顯著不同。斯坦福大學人工智能研究所發布的《2023年人工智能指數報告》引用調查機構易普索（IPSOS）2022年的調查指出，部分發展中國家對人工智能普遍更加樂觀。如78%的中國受訪者同意“使用人工智能產品和服務的好處多于壞處”的觀點，76%的沙特阿拉伯受訪者和71%的印度受訪者認為人工智能產品“利大于弊”。德國、荷蘭、澳大利亞、比利時和加拿大等一些發達國家對人工智能產品和服務的評價則稍顯負面。
“當前，全球人工智能治理面臨不少挑戰。”姚旭說，一是一些國家將人工智能等科技領域安全泛化，在合作當中設置了諸多藩籬。二是人工智能全球治理的總體架構尚不明確。各個層面建立何種機制更為有效尚未明確，全球范圍內人工智能治理的制度競爭正變得愈發激烈。三是人工智能全球治理的思路尚未統一，具體的治理方案和標準上還有很多爭論，例如如何進行人工智能安全分級標準界定，如何確立重點治理的人工智能風險類別，如何將立法節奏和創新動力進行適配等。
張欣表示，現階段，全球人工智能發展面臨的監管挑戰集中體現在5個方面：一是步伐困境。人工智能監管框架發展跟不上技術發展迭代的速度。二是技術鴻溝。人工智能模型越來越復雜，參數量越來越大，這導致原來構建的基于透明度的人工智能治理框架應對乏力。三是資本逐利。人工智能發展過程中資本的逐利可能導致技術異化。四是歸責框架仍不清晰，對人工智能產生的風險和損害如何有效歸責仍然是一項亟待解決的問題。五是協作治理機制尚不健全。由于人工智能帶來的很多風險具有全球性，各國需要在形成充分共識的基礎上通力協作。但目前的人工智能全球治理格局初步形成，仍然有碎片化特征，需要采取更多措施構建共建共治共享的全球治理機制。
《人工智能全球治理上海宣言》提出，倡導開放與共享的精神，推動全球人工智能研究資源的交流與合作。建立合作平臺，促進技術轉移與成果轉化，推動人工智能基礎設施公平分配，避免技術壁壘，共同提升全球人工智能的發展水平；倡導建立全球范圍內的人工智能治理機制，支持聯合國發揮主渠道作用，歡迎加強南北合作和南南合作，提升發展中國家的代表性和發言權；鼓勵國際組織、企業、研究機構、社會組織和個人等多元主體積極發揮與自身角色相匹配的作用，參與人工智能治理體系的構建和實施。
作為全球最大的發展中國家，中國始終將發展中國家的期待與需求放在重要位置。《全球人工智能治理倡議》指出，增強發展中國家在人工智能全球治理中的代表性和發言權，確保各國人工智能發展與治理的權利平等、機會平等、規則平等，開展面向發展中國家的國際合作與援助，不斷彌合智能鴻溝和治理能力差距。
中國常駐聯合國代表傅聰介紹加強人工智能能力建設國際合作決議草案時表示，大多數國家特別是發展中國家尚未能真正接觸、使用人工智能并從中受益，全球數字鴻溝仍有擴大之勢。在此背景下，中國順應廣大國家特別是發展中國家的期待，倡導人工智能能力建設國際合作，平等發展和利用人工智能技術，共享人工智能知識成果，體現了中國對人工智能發展和治理的負責任態度。
清華大學人工智能國際治理研究院副院長肖茜日前表示，作為推動人工智能技術和治理發展的重要國家，中國在不同場合提出為發展而治理，以聯合國為核心的治理模式，豐富了人工智能全球治理的理論與實踐，使大多數還沒有享受人工智能發展紅利、沒有從人工智能發展中受益的廣大發展中國家看到了希望。她還表示，發展與安全作為人工智能治理的一體兩翼，應當平衡推進。安全不是人工智能治理的全部，更不是發達國家俱樂部的專利。人工智能全球治理應致力于在聯合國框架內團結全球更多國家，調動多元力量。國際社會在持續推進人工智能安全治理進程的同時，應推動技術開源開放、人才交流互通，幫助更多的國家和人群享受人工智能發展成果。