巴菲特：無法預判人工智能的前景
周鴻祎談Sora：意味著 AGI (通用人工智能) 實現(xiàn)或從 10 年縮短至 1-2 年
巴菲特說的沒錯，人工智能武器化的話確實可怕。
一是從技術發(fā)展看，已經(jīng)朝著強人工智能（通用人工智能）發(fā)展了。或者說，人工智能已經(jīng)開始表現(xiàn)出形成智慧的能力，這是非常可拍的。
二是從技術應用看，目前美國一直在將人工智能應用于軍事領域了。俄烏沖突可以看出來，美國將人工智能應用于情報收集和指揮控制領域了。美國提出的馬賽克戰(zhàn)，更是打算將人工智能應用于作戰(zhàn)了。
三是人工智能在智慧化和武器化的基礎上，一旦控制不好，反向操控人類，也是有可能的。
總結，人工智能是堪稱比核武器更厲害的技術，畢竟人工智能監(jiān)管更難，技術大規(guī)模擴散的成本低太多了。
通用人工智能將重塑場景、行業(yè)和產(chǎn)業(yè)格局
朱松純 中國政協(xié)雜志 2024-05-04 17:11 北京 2人聽過
人類正在跨入智能時代，通用人工智能的未來充滿無限可能，但也遍布多種挑戰(zhàn)。
人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力，正在深刻地改變著我們的生產(chǎn)方式和生活方式。當前，人工智能技術正加速從感知、認知、理解世界向通用人工智能躍遷。以“通用智能體”為代表的通用人工智能技術，作為新質(zhì)生產(chǎn)力重要引擎，正在引領新一輪科技革命浪潮，將從以下三個層面重塑場景、行業(yè)和現(xiàn)代產(chǎn)業(yè)格局。
人工智能場景：北京，中國科技館，一個機器人正在彈奏古箏。（視覺中國/圖）
一是加快“人工智能+場景”應用速度。過去多年來，人工智能的產(chǎn)業(yè)應用局限于處理一些簡單的重復性任務場景，無法理解人類意圖，難以認知場景中的任務，因此未能實現(xiàn)自主任務規(guī)劃。通用人工智能作為新質(zhì)生產(chǎn)力的典型代表，強調(diào)價值和數(shù)據(jù)的雙輪驅(qū)動。北京通用人工智能研究院打造的通用智能體“小女孩——通通”已經(jīng)具備了類人的基礎能力，具有高度的自主性和泛化性，未來可以像人一樣快速進入各行業(yè)的不同場景。目前，研究院已經(jīng)聯(lián)合大型央國企業(yè)打造了一批行業(yè)智能體，包括應急管理智能體、人才培養(yǎng)智能體、綜合治理智能體、醫(yī)療康養(yǎng)智能體等，在應急、政務、康養(yǎng)、教育等領域已經(jīng)實現(xiàn)了成熟的落地應用，推動傳統(tǒng)人工智能向新型智能體轉(zhuǎn)化升級。
二是提高“人工智能+行業(yè)”生產(chǎn)效率。目前大模型技術在可解釋性、可靠性等方面還不夠成熟，受限于兩個因素：安全性——面臨數(shù)據(jù)不出域的限制；實時性——實現(xiàn)云端協(xié)同實時處理。通用智能體是由認知架構頂層設計，以場景認知理解、自主任務規(guī)劃、嚴肅知識管理、具身智能等為關鍵技術突破點，在行業(yè)的成長性高，未來能實現(xiàn)自主完成任務，甚至是無限個不同性質(zhì)的任務，能極大緩解行業(yè)內(nèi)模型“用不好、不敢用”的現(xiàn)狀。比如，在政務、醫(yī)護、法律等嚴肅知識領域，通過可解釋AI算法建模，實現(xiàn)應用場景中輔助決策的可溯源、可解釋、可調(diào)整、可信任，解決單純大模型因“幻覺”問題在嚴肅領域產(chǎn)生的信息概率性失真問題。將進一步降低人工智能在產(chǎn)業(yè)中的風險和成本，充分激活行業(yè)價值。
三是重塑“人工智能+產(chǎn)業(yè)”發(fā)展格局。通用人工智能要構建開放包容的創(chuàng)新生態(tài)，其發(fā)展依賴于不同背景和領域的研究者、開發(fā)者以及企業(yè)之間的合作，加速實現(xiàn)產(chǎn)業(yè)鏈、創(chuàng)新鏈、資金鏈、人才鏈四鏈融合。在發(fā)改委、教育部、科技部和北京市等的指導和支持下，我們率先打造“通用人工智能協(xié)同攻關計劃”人才戰(zhàn)略力量、“通用人工智能全重實驗室”科技戰(zhàn)略力量、“通用人工智能新質(zhì)生產(chǎn)力基金”資金戰(zhàn)略力量和“通用人工智能產(chǎn)業(yè)生態(tài)”智能體生態(tài)戰(zhàn)略力量等，構筑人才、技術、產(chǎn)業(yè)、投資四大生態(tài)體系，推動通用人工智能可持續(xù)發(fā)展。
人類正在跨入智能時代，通用人工智能的未來充滿無限可能，但也遍布多種挑戰(zhàn)。希望通過本次協(xié)商會，能夠進一步促進各方加強交流、凝聚通用人工智能發(fā)展共識，共同推動我國現(xiàn)代產(chǎn)業(yè)創(chuàng)新發(fā)展，為提升人類福祉作出更大貢獻。
作者：朱松純?nèi)珖f(xié)委員北京通用人工智能研究院院長北京大學智能學院院長編輯：楊 靈校對：蒲水涵審核：史慧玲來源：《中國政協(xié)》2024年第9期
AI知識5 | 一文看懂什么是AGI
AGI，即通用人工智能（Artificial General Intelligence），是一種能夠執(zhí)行與人類相當或超越人類的廣泛認知任務的人工智能系統(tǒng)。與專注于特定任務的窄人工智能（Narrow AI）不同，AGI的目標是具備廣泛的認知能力，能夠在多種不同的任務和環(huán)境中表現(xiàn)出高度的靈活性和適應性。AGI被認為是強人工智能的一種形式，旨在實現(xiàn)類人智能和自學能力，使其能夠執(zhí)行訓練或開發(fā)目的之外的任務。
AGI的研究領域包括理解和響應非語言線索，如語氣、面部表情和手勢，以進行更有意義、更有效的溝通。此外，AGI的目標不僅是理解任意通用任務，而且還要以人類的智力水平執(zhí)行這些任務，除了“自我意識”的生成外。盡管AGI的概念較為寬泛，沒有一個特別嚴格準確的標準，但普遍理解的AGI定義是AI系統(tǒng)能夠在多個認知領域進行理解和推理，達到或超過人類智力水平。
創(chuàng)建AGI是AI研究的主要目標之一，也是許多公司如OpenAI、DeepMind和Anthropic等的研究重點。AGI的發(fā)展可能會對社會產(chǎn)生深遠的影響，包括質(zhì)疑現(xiàn)有的意義和目的，擴展知識，并重新定義人性和命運。因此，利益相關者必須考慮并解決這些影響和風險，包括研究人員、開發(fā)人員、政策制定者、教育工作者和公民。
AGI研究進展
通用人工智能（AGI）的當前研究進展主要集中在以下幾個方面：
具身智能的研究：國內(nèi)外的大廠及高等學府，如微軟、谷歌、斯坦福等，都在開展具身智能的相關研究。人形機器人被認為是AGI的最佳載體，業(yè)界的研究進展正在加速。
基于圖神經(jīng)網(wǎng)絡的研究：上海交大洪亮課題組發(fā)表了基于微環(huán)境感知圖神經(jīng)網(wǎng)絡構建指導蛋白質(zhì)定向進化的通用人工智能的最新研究成果，這表明在生物信息學領域，AGI的研究也在取得進展。
元學習和模型泛化能力的提升：現(xiàn)階段，元學習已經(jīng)取得了一定的研究進展，但如何提升模型的泛化能力，在不同任務之間進行平衡和優(yōu)化仍是未來技術攻破的主要方向。
數(shù)據(jù)剪枝的重要性：斯坦福和Meta AI的新研究表明，在實現(xiàn)AGI的道路上，數(shù)據(jù)剪枝比我們想象得更重要，這意味著在機器學習的多個領域中，訓練數(shù)據(jù)、模型大小或計算資源的有效利用對于提高AGI的能力至關重要。
大模型智能體的研究：整理了52篇2023年最新的大模型智能體相關的論文，這些研究涵蓋了LLM-based Agent的構建、應用、評估等方面，顯示了在AI Agent領域的最新研究進展[XX]。
深度學習的基礎科學問題：面向以深度學習為代表的人工智能方法的魯棒性差、可解釋性差、對數(shù)據(jù)的依賴性強等基礎科學問題，正在挖掘機器學習的基本原理，發(fā)展可解釋、可通用的人工智能方法[7]。
AGI的發(fā)展階段：谷歌提出了AGI的完整路線圖，將AGI的發(fā)展分為6大階段，每個階段都有對應的深度（性能）和廣度（通用性）指標，這為理解AGI的發(fā)展提供了框架[9]。
通用人工智能（AGI）的當前研究進展涵蓋了具身智能、圖神經(jīng)網(wǎng)絡、元學習與模型泛化能力的提升、數(shù)據(jù)剪枝的重要性、大模型智能體的研究、深度學習的基礎科學問題以及AGI的發(fā)展階段等多個方面。