編者的話：伴隨著AI技術日新月異的發(fā)展，人類對AI的感受總是期待伴隨著焦慮，驚嘆夾雜著不安全感。近日，第二屆全球人工智能（AI）安全峰會在韓國首爾召開，來自全球政治、經(jīng)濟、科技界人士再次聚首，共話AI安全相關話題。本次峰會距首屆峰會召開和會議成果——《布萊奇利宣言》的簽署發(fā)布僅過去半年。各國在擔憂什么？有哪些AI安全議題值得關注？
潛在風險加深不安全感
李志起
“AI風險防范”始終是AI治理工作的重中之重。技術的“雙刃劍效應”在AI領域尤為明顯，它為我們帶來便利的同時，諸多潛在風險也在不斷加深作為普通用戶的不安全感：從個人隱私泄露到算法偏見，再到無法預料的決策失誤，對這些風險的擔憂無處不在。正因如此，更為嚴格的風險評估機制、可執(zhí)行性更高的風險防范措施、全球各國更及時的合作交流才顯得更為重要。
風險防范之外，全球AI治理還涉及多個重要議題，它們共同構成了AI發(fā)展的多維框架。這些議題同樣需要重點關注，具體如下：
首先是AI技術的倫理道德、標準規(guī)范以及創(chuàng)新發(fā)展等。在倫理道德方面，應推動制定全球通用的AI倫理準則，規(guī)范AI技術的研發(fā)和應用行為，確保其符合人類價值觀和道德標準。在標準規(guī)范方面，各國應攜手制定AI技術的國際標準和規(guī)范，以提升技術的互操作性和降低應用風險。同時，鼓勵和支持AI技術的創(chuàng)新與發(fā)展也至關重要，通過政策引導、資金投入和人才培養(yǎng)等措施，推動AI技術在各個領域實現(xiàn)突破與進步。
其次，AI技術帶來的就業(yè)與社會影響同樣是我們必須正視的重要問題。隨著AI技術的不斷發(fā)展和普及，越來越多的傳統(tǒng)崗位面臨著被自動化取代的風險。這種取代不僅可能導致大量勞動力失業(yè)，還可能對社會的經(jīng)濟結構和穩(wěn)定性造成深遠影響。例如，一些重復性高、技能要求相對較低的工作崗位，如數(shù)據(jù)錄入員、客服代表等，很可能會被智能機器人或自動化系統(tǒng)所替代。因此，在全球AI治理的進程中，各國政府必須高度關注AI技術對就業(yè)市場的具體影響。為了應對這些挑戰(zhàn)，政府需要制定相應的政策和措施，旨在保障勞動者的合法權益，減輕因技術進步而帶來的就業(yè)壓力。這可能包括提供職業(yè)培訓項目，以幫助工人提升技能，適應新的就業(yè)環(huán)境；創(chuàng)造更多與AI技術相關的新興就業(yè)崗位，以吸納因自動化而失業(yè)的勞動力；以及完善社會保障體系，為受影響的工人提供必要的生活保障。
再次，數(shù)據(jù)隱私與保護也應該成為全球AI治理中的重要議題。AI技術的訓練和應用離不開大量數(shù)據(jù)，而數(shù)據(jù)的收集和使用往往涉及個人隱私保護的問題。因此，各國在參與全球人工智能治理時，應加強對數(shù)據(jù)隱私的保護，制定嚴格的數(shù)據(jù)安全法規(guī)，以防止數(shù)據(jù)泄露和濫用。（作者是北京市政協(xié)經(jīng)濟委員會副主任，振興國際智庫理事長）
發(fā)展中國家需要更多參與
李 崢
短短半年，西方主要國家政府及全球頂尖AI企業(yè)已兩次專門就AI治理問題召開專門會議，體現(xiàn)出各國對于當前AI全球治理發(fā)展進度緩慢的擔憂。近半年內，AI技術又出現(xiàn)了一些新的變化，主要體現(xiàn)在三方面。一是生成式AI持續(xù)高速發(fā)展，在多模態(tài)領域取得顯著技術進步和應用發(fā)展。多模態(tài)的生成式AI意味著該技術能夠在不同種類信息中自由切換，更自如地生成和理解數(shù)字社會和人類文明。AI生成的內容更加豐富和準確，這一進步將讓生成式AI顯著擴大其應用領域。與此同時，甄別AI生成內容的難度也在不斷增加，信息偽造更加泛濫。如果缺乏更加嚴格的治理和標準，管控生成式AI不被濫用將成為不可能任務。
第二，先進AI越發(fā)廣泛地運用于生物技術、化學材料、軍事安全等實體領域，AI與制造業(yè)的結合正變得愈發(fā)緊密。這一趨勢意味著AI的影響將不限于數(shù)字和虛擬空間，將成為一國生產力、軍事工業(yè)能力以及前沿技術發(fā)展的倍增器。這場AI革命對于各國而言機遇和挑戰(zhàn)并不相同。
三是AI產業(yè)開發(fā)的成本、基礎條件和制約因素愈發(fā)清晰。近半年來，業(yè)界愈發(fā)關注AI產業(yè)化后對能源、水資源、人才、環(huán)境、硬件等領域的需求和影響。業(yè)界普遍認為，AI高能耗、需要巨大初始投入、后期迭代成本高的特點將難以發(fā)生變化。這意味著建設AI產業(yè)集群的門檻較高，大多數(shù)國家難以支撐初始研發(fā)或完全技術自主的成本。AI產業(yè)的未來極有可能仍然是中心化形態(tài)，即少數(shù)企業(yè)和國家在全球AI技術生態(tài)中處于無法替代的地位。這種情況讓中等發(fā)達國家尤為擔憂，擔心該技術可能進一步拉大這些國家與主要大國之間的差距。
從首爾峰會的情況看，當前AI技術進步顯著快于全球治理進度，AI安全主要依賴少數(shù)頭部企業(yè)自身承諾，以及廣大AI發(fā)展滯后國家的訴求未被充分接納是困擾當前全球AI安全治理進程的三大問題。除了此次峰會上提出的所謂“底線原則”以及頭部企業(yè)的承諾之外，全球AI治理更需要盡量包容采納發(fā)展中國家的整體訴求，采取實際措施解決AI的發(fā)展鴻溝問題。該進程需要有更多發(fā)展中國家引領和參與。（作者是中國現(xiàn)代國際關系研究院美國研究所所長助理）
應對“超速技術綜合征”
沈 陽
在AI如影隨形的時代，公眾對未來AI的安全性充滿不確定和焦慮。機器是否會取代人類的工作？個人隱私是否能得到保護？AI的決策是否可控？從去年11月首屆全球AI安全峰會到本周的第二屆峰會，人們對AI技術的關注已從單模態(tài)內容生成（如文本數(shù)據(jù)）走到了多模態(tài)內容生成（如視頻數(shù)據(jù)）。AI的發(fā)展可謂一浪高過一浪。這不僅僅是技術的躍進，更是一場全球性、人類共同應對挑戰(zhàn)與機遇的雙重奏。
在后現(xiàn)代社會的人類焦慮中，技術的發(fā)展速度正在超越社會和法規(guī)的適應能力，并引發(fā)倫理、安全及社會等層面的多維問題，針對這個現(xiàn)象，我們可以稱之為：超速技術綜合征。
在AI領域，“超速技術綜合征”可具體投射在如下維度：比如，AI的快速迭代不僅重塑了商業(yè)模式，帶來了前所未有的便捷，同時也暴露了數(shù)據(jù)安全、算法偏見及自動化引發(fā)的失業(yè)等問題。又如，AI的進步加速了數(shù)字鴻溝，技術紅利和風險在全球范圍內的不均衡分配，使得發(fā)達國家和技術巨頭可能進一步擴大與發(fā)展中地區(qū)的差距。再如，技術發(fā)展的雙刃劍效應日益明顯，AI在優(yōu)化資源分配、提高生產效率方面的積極作用不言而喻，然而它也可能導致資源分配不公、勞動力市場的動蕩，等等。
如何應對“超速技術綜合征”，為全球社會注入一針鎮(zhèn)定劑？跨國合作和全球統(tǒng)一的行業(yè)標準制定顯得尤為關鍵。全球合作與橫跨政治、經(jīng)濟和商業(yè)實體之間的安全承諾，實質上是在為AI發(fā)展筑起了一道安全屏障，試圖營造一個更可預測、更安全的技術生態(tài)，以減緩由技術引發(fā)的社會焦慮。以近期在首爾召開的AI安全峰會為例，本次發(fā)布的《首爾宣言》就指出，人工智能安全、創(chuàng)新、包容是相互關聯(lián)的目標，國際社會有必要將其列為全球AI治理結構的首要議題。各方敦促通過以人為本的AI技術解決全球性難題，以增進民主、法治、人權、自由等價值，加大隱私保護力度，消除數(shù)字和AI鴻溝，提升人類福利水平。
消除“超速技術綜合征”需要更多全球技術企業(yè)和政府之間的對話，也需要科技與社會的妥協(xié)與合作。通過國際間的協(xié)作，我們可以更有效地應對技術帶來的挑戰(zhàn)，確保AI成為推動人類社會進步的正能量