智東西（公眾號：zhidxcom）
作者 | 李水青 香草
編輯 | 云鵬
智東西7月4日報道，今天上午，2024世界人工智能大會（WAIC）在上海開幕！作為國內最高規格的AI領域行業大會之一，WAIC 2024開幕主論壇不僅有高層參與，同時匯聚了眾多產學研領域大佬。
開幕式請到了三大圖靈獎得主姚期智、羅杰·瑞迪（Raj Reddy）和曼紐爾·布盧姆（Manuel Blum）共同進行圓桌論壇交鋒，原微軟執行副總裁、美國國家工程院外籍院士沈向洋擔任圓桌主持人。
更有IEEE主席托馬斯·考夫林（Thomas Coughlin），清華大學蘇世民書院院長、清華大學人工智能國際治理硏究院院長薛瀾，上海人工智能實驗室主任兼首席科學家、清華大學惠妍講席教授周伯文，新思科技總裁兼首席執行官蓋思新（Sassine Ghazi）等重磅大咖演講。
開幕式上，沈向洋向三位圖靈獎拋出了關于“AI發展及風險”、“有意識的AI”、“AI教育和人才培養”等眾多產學研關注的問題。
圖靈獎得主羅杰·瑞迪談道，AI風險確實應該得到高度關注，同時我們也不能因噎廢食。同時他認為當下的教育體系沒法培養了解AI的未來一代人。如果AI讓每個人的工作效率提升10倍，全球GDP將從100萬億美元增長到1000萬億美元。
圖靈獎得主曼紐爾·布盧姆解讀了其團隊意識圖靈機（CTM）成果，1000萬個處理器都是類似于意識模型，沒有一個中央決策者，而是讓每一個處理器參與決策。
圖靈獎得主姚期智談及了AI發展的網絡、社會和生存三大方面的風險，認為AI的風險比核問題更嚴峻，我們創造了比我們強大很多倍的新物種，需要探討如何用AI控制AI避免重大破壞。
▲沈向洋對話三位圖靈獎得主
同樣談及AI治理的重要議題，薛瀾談道，巨量的基礎設施已經使得全球25億人受益，但AI發展仍面臨AI技術鴻溝、治理鴻溝，阻礙全球AI的發展，需要多方一起攻克。
此外，黑石集團董事長、首席執行宮兼聯合創始人蘇世民（Stephen A. Schwarzman），索奈顧問及投資公司董事長、首席執行官喬舒亞·雷默（Joshua Ramo）也做了精彩分享。
此次WAIC 2024展覽面積超5.2萬平方米，共有500余家企業參展，展品數量超1500項，覆蓋核心技術、智能終端、應用賦能等三大板塊。
大會還公布了“鎮館之寶”名單，商湯科技首個面向C端用戶的可控人物視頻生成大模型Vimi、阿里云A編程助手通義靈碼、支付寶智能助理、智譜A基座大模型、特斯拉賽博越野旅行車等入選。
一、沈向洋對話三大圖靈獎得主：AI風險比核更嚴峻，但不能因噎廢食
在開幕式上，三位圖靈獎得主羅杰·瑞迪、曼紐爾·布盧姆和姚期智進行了精彩的圓桌對話，原微軟執行副總裁、美國國家工程院外籍院士沈向洋擔任主持人。
沈向洋向三位圖靈獎得主提出了多個問題，包括：如何看待AI發展及擔憂？為什么我們緊迫關注AI治理問題？如何看待有意識的AI等等。
▲原微軟執行副總裁、美國國家工程院外籍院士沈向洋
1、靈獎得主羅杰·瑞迪：教育體系落后于AI時代，發展AI不能因噎廢食
羅杰在當年獲得圖靈獎時就提到要建立大型AI系統，他在圓桌中談道，很開心看到會場大家對AI治理和風險的探討，沒有只是去探討怎么去用AI。大家沒有花太多時間，探討我們如何來用AI，需要做哪些研究和投資？我們現在還沒做到這一點。
在能力建設方面，羅杰認為，目前我們的教育體系沒辦法培養未來了解AI的一代人，他們需要用AI做好自己的工作，我們怎么讓每個人把自己的工作做好？這個問題很關鍵。
談及接下來推進的研究，羅杰談道，每個領域都會出現新機會，也會出現新問題，比如汽車剛出現時，為人們出行帶來便利，但交通事故也帶來很多傷亡。因此對于AI我們也不能因噎廢食。
每個工程師都能做更好的事，如何讓他們效率更高？這意味著要做很多投資和研究工作，我希望不要只想著負面，要想著未來的機會很多。他覺得最大的機會，以后每個人的工作效率會提升10倍，全球GDP將從100萬億到1000萬億美元。
▲圖靈獎得主羅杰·瑞迪
2、圖靈獎得主曼紐爾·布盧姆：解讀圖靈機CTM意識模型，模擬人腦決策
曼紐爾在現場解讀了有意識的AI。他談道，年少時他的父親曾告訴他：“如果你知道你的這個大腦里在發生什么，那么你就會變得更加聰明一些。”很幸運，他的工作是跟意識有關的。意識可以給我們想法，讓我們去建立AGI。
曼紐爾的團隊已經創立了一個意識模型——圖靈機CTM，以此向大家解釋大腦里在發生什么。如果我們將大腦里發生的事情想成一個劇場，有一些演講者在劇場中央講話，我們可以讓很多處理器同時工作，相當于大腦里的神經元，這些處理器會聽現場發生了什么，告訴我們怎么去做各種各樣的事情。
CTM意識模型特別有意思，1000萬個處理器都是類似于意識模型，沒有一個中央決策者，而是讓每一個處理器參與決策。
曼紐爾的學生眾多學生也拿到了圖靈獎，當沈向洋問及他有什么為師之道？曼紐爾謙虛地稱：“我的學生都比我聰明，我從他們身上學到了很多。有時候我不懂什么，我就直接說我不懂。”
▲圖靈獎得主曼紐爾·布盧姆
3、圖靈獎得主姚期智：AI治理警惕三大風險，比核風險更嚴峻
姚期智談及的自己對AI治理的關注，從風險方面講解到自己作為計算機科學家對AI治理的見解。
他認為，AI風險主要來自三個方面：（1）它是網絡風險的延伸和擴大，AI能力的出現使得傳統的網絡風險被放大。我們已經覺得管理數據很困難，現在難度會放大100倍。（2）社會風險，人們可以用很多方式使用強大的AI，可能對某些領域帶來顛覆式風險，也可能帶來新的失業問題。（3）生存和存在的風險，AI風向相比于核風險可能更嚴峻，這都需要很多的專家來一起解決，包括科學家、政府人士、律師及經濟學家都需要參與進來。
從計算機科學教角度，姚期智更關注第一類和第三類風險。
面對第一類風險，AI有時無法解釋一些問題，使得研究新的密碼學比較困難，我們對網絡風險的應對還處在很早的階段。
而面向第三類風險，這個和計算性有關，更大的算力可以帶來更多的知識和智慧，解決很多以前解決不了的問題，這也是讓人很恐懼的。現在，我們就是突然發現了一個方式，能創造比我們強大很多倍的新物種，我們需要確定能不能與它共存。
所以作為計算機科學家，姚期智看到最有深度的問題，就是我們怎么把AI控制好，避免它帶來重大破壞，這是很難預測的。
▲圖靈獎得主姚期智
二、清華大學蘇世民書院院長薛瀾：降低AI風險，縮小全球AI技術鴻溝
清華大學蘇世民書院院長、清華大學人工智能國際治理硏究院院長薛瀾探討了AI治理的重要議題。
AI能為我們做什么？薛瀾談道，大家對AI給予了很高的期望，根據SDG（可持續發展目標）最新分析，AI總體來看會對可持續發展的134個（79%）具體目標產生促進作用，對59個（35%）目標產生阻礙作用。
▲清華大學蘇世民書院院長、清華大學人工智能國際治理硏究院院長薛瀾
AI對這些目標的阻礙作用，代表AI可能帶來風險。這些風險包括基于技術本身的風險、基于技術開發的風險和基于技術應用/濫用的風險等多個方面，都是不可忽視的。
如何推動AI收益最大化、風險降到最低？
薛瀾談道，首先在底層，我國在產業應用安全方面推出了一系列法律法規，推動AI的合理發展。我們針對算法、算力、數據推出了一系列的治理規則，針對風險推出了一系列準則。針對一些專項問題，包括具體場景的應用，我們也出臺了相應的一些治理規則。此外，我國也在采取措施推動全民數字素養的提升。
從全球角度來講，AI發展也還面臨很多挑戰。一方面，巨量的基礎設施已經使得25億人受益，但AI發展仍面臨技術鴻溝、治理鴻溝，阻礙全球AI的發展。當今社會，一個國家帶來的風險就是全球風險。國際對安全問題日益重視，同時對AI數智鴻溝關注仍不夠，需要全球社會一起努力攻克。
三、上海AI實驗室周伯文：AI性能與安全失衡，90%算力用在預訓練
以大模型為代表的深層次AI快速發展，也帶來數據泄露、虛假信息、倫理問題等一系列風險、社會挑戰，如何建立一個全面的AI安全治理體系，成為全球范圍內的優先議題。
為此，上海人工智能實驗室主任、首席科學家、清華大學慧妍講席教授周伯文提出了一個新的技術主張——AI的45度平衡律。
▲上海人工智能實驗室主任、首席科學家、清華大學慧妍講席教授周伯文
這一定律指的是，從長期視角來看，AI安全與性能要大體沿著45度的路線平衡發展。
現在AI發展的路線整體是低于45度的，也就是性能發展快于安全治理，也就帶來了各種風險；而如果長期高于45度，則會阻礙技術和產業應用的發展。如何找到兩者之間的平衡，是亟待解決的難題。
為了實現這一定律，上海人工智能實驗室提出了一條以因果為核心的路徑，即可信AGI的“因果之梯”。這一路徑將可信AGI的發展劃分為三個遞進階段，從“泛對齊”，到“可干預”，再到“能反思”。
“泛對齊”包含當前最前沿的人類偏好技術，如機器反學習、監管式對齊、基于人類反饋對齊等。這些對齊技術目前僅依賴統一的相關性而非真正的因果關系，因此可能導致錯誤的推理和潛在危險。
“可干預”是第二層AI對齊技術，包含AI系統的對抗訓練、機械可解釋性等，其通過高可解釋性和泛化性來提高安全性能，同時也提升AI能力。
“能反思”則要求AI系統不僅要追求高效的執行任務，還要審視自身行為的外在影響和潛在風險，從而保證在高性能的前提下安全和道德邊界不被突破。這個階段的技術包括基于價值的訓練、因果可解釋性、反事實推理等。
▲可信AGI的“因果之梯”
周伯文談道，目前全球AI安全和性能技術發展主要停留在第一階段，一部分開發者在嘗試第二階段。但要真正實現AI的安全與性能平衡，必須完善第二階段，并勇于攀登第三階段。
最后，他呼吁全球開發者加強國際合作，這對于推動AI技術健康發展至關重要，我們的共同目標是構建一個開放安全的AI創新生態系統和人才培養環境。
四、新思科技CEO蓋思新：能耗減少30%，緩解人才緊缺
新思科技總裁兼首席執行官蓋思新認為，從商業和企業的角度來看，我們要了解AI產業鏈是從半導體開始的，同時也離不開上層軟件。
回顧半導體行業歷史，行業花了60年才實現5000億美美元的銷售額，2020年翻了1倍到1萬億美元，幾乎所有的這些增量都是由AI的增長所驅動的。
▲新思科技總裁兼首席執行官蓋思新
AI是一個非常大的轉折點。蓋思新談道，新思公司為此提供軟件，幫工程師使用復雜的半導體芯片，盡可能用軟件實現自動化。AI能幫我們改進芯片開發的過程，從而實現更快的速度，在各方面實現優化。
“我們在AI上面有很多共同的原則。”包括政府合規問題，芯片中每個部分的材料都要保證安全，確保芯片沒有不合規成分且監管高效。同時，如何使得半導體能耗消耗更高效，也是我們在半導體設計中需要考慮的問題。
新思科技有2萬多名工程師，如何用AI來助力業務？
新思科技創辦了一個AI卓越中心，以此教育自己的工作人員，讓他們知道AI的價值、倫理及風險等，并幫他們教育客戶來使用AI來開發芯片。
同時，新思科技也對AI進行商業化，2017年開始就在投資AI，在提供客戶的方案里涉及AI，目前也已經包含很多生成式AI內容，比如用用生成式AI作為知識基礎，提升工程師的效率，緩解工程師人才緊缺問題，從而提高整個行業的工作效率。
在耗能方面，基于AI技術服務，能耗減少30%，涉及更復雜的問題時效率還能增長15倍。
五、全球治理高端對話：擁抱新技術，建立學術界新扶持方式
AI的快速發展，對企業運營模式、價值評估以及投資決策過程也產生了深遠影響，深刻改變了投資格局。
黑石集團董事長、首席執行官兼聯合創始人蘇世民與索奈顧問及投資公司董事長、首席執行官喬舒亞·雷默就這一系列問題，展開了全球治理高端對話。
▲蘇世民與喬舒亞·雷默
從商業的角度來看，AI是怎么改變一家企業現有的價值認定的？
蘇世民談道，自己在剛入行的時候并不擅長做模型，而現在出現了新的AI應用，可以幫助自己起草會議備忘錄等，帶來了很多驚喜。
在他看來，雖然對新的技術仍需保持一定警惕性，但不能“像鴕鳥一樣把頭埋在沙子里”充耳不聞，也不能完全不關注技術風險。
在AI領域中，蘇世民是在學術研究方面慈善捐贈規模最大的人之一。當雷默問及為什么突然選擇AI這個領域時，蘇世民有些感慨地回答：“我想并不是我選擇了AI，而是AI選擇了我。”
早些時候，他曾作為投資新人資助了牛津大學的一個AI倫理運營項目。之所以這么做，是因為當時每個人都涌向純理科投資的時候，他覺得需要將理科研究和人類情感上的一些事情相結合，去進行思考和研究，因為“這將會影響和改變人類未來10-20年之后的一些行為”。
同時他也十分關注監管方面的項目，在他看來，從事硬核技術、理科技術的人，在有可能出錯的地方應心存敬畏。
相比于商業界，高校等學術機構現在在AI競爭方面處于劣勢，一些突破性的進展大多出現在商業領域。這是算力等開發成本所導致的結構性變化。蘇世民談道，隨著AI的持續發展，必須對學術界建立一種更有價值的扶持方式，要做一些比僅僅資助一位教授的研究項目來說，更有意義的事情。
結語：生成式AI狂飆，風險管控成為重要議題
在去年的WAIC上，產學研大佬們暢談大模型浪潮，對下一階段發展方向、應用爆發領域展開深入探討和積極展望。
而到了今年，AI風險與安全已成為最受關注的話題之一，無論是性能與安全的平衡，還是教育體系的落后，都是全球范圍內共同探討的重要議題。
總的來看，AGI仍是科技行業共同期待的目標。我們期待看到各行各業能在安全可信的指導下，為AGI的發展注入新的生命力。
