9月7日下午，在2023 inclusion·外灘大會舉行的《探索下一代安全智能》論壇上，世界權威國際產業組織“云安全聯盟”（CSA）大中華區宣布成立“AI安全工作組”，中國電信、螞蟻集團、華為、百度、火山引擎、西安電子科技大學、國家金融測評中心等30余家機構成為首批發起單位。該組織致力于共同解決AI技術快速發展所帶來的安全難題。
與會的中國科學院院士何積豐表示，“以人工智能為代表的數字技術正邁入從高速增長向高質量增長轉變的全新發展階段，這對其自身安全性和可靠性提出更高要求，也衍生出新型風險與挑戰。這類風險更加復雜且隱蔽，只有建設數字安全生態協作系統，政、產、學、研各方緊密合作，共同建設可信可控的數字安全屏障。”
云安全聯盟大中華區AI安全工作組將由中國電信上海研究院、螞蟻集團擔任聯席組長單位，召集聯盟內人工智能相關的產線上下游企業、學校、研究機構、用戶單位等共同研究人工智能安全前沿技術。
記者從現場獲悉，AI安全工作組將聚焦人工智能突出的安全風險問題，輸出人工智能內生安全、衍生安全、助力安全等領域的白皮書、產業知識圖譜、團體標準、系統框架、解決方案等，為整個行業提供一個清晰、系統的AI安全研究框架。根據計劃，工作組先期將輸出《AI安全白皮書》《大模型安全研究報告》《AI數據安全評估規范》等研究成果。
CSA（云安全聯盟）創立于2009年，是世界領先的權威國際產業組織，共有成員單位1000余家。CSA致力于定義和提高業界對云計算和下一代數字技術安全最佳實踐的認識和全面發展，憑借敏捷性、中立性、專業性被各界認可。CSA GCR（云安全聯盟大中華區）是CSA全球四大區之一（其它三大區分別為美洲區、亞太區、歐非區），立足于中國，作為國際橋梁聯接世界，致力于構建國際數字安全的生態體系。此次AI安全工作組的成立，也將發揮國際橋梁作用，使我國AI安全研究成果在全球范圍內產生影響。
從安全角度看，AI技術是把“雙刃劍”。它既會對數據、業務和系統等層面構成威脅，也能為安全科技發展賦能。論壇與會嘉賓表達了一致的觀點，并提出了建設性意見。
中國網絡空間安全協會副秘書長徐倩華表示，“發展的前提是安全。這需要各行各業形成筑牢安全防護屏障的共識，注重培養頂尖安全技術人才，貫徹落實相關法律法規，共同提升數字安全防護能力，確保數字經濟健康可持續發展。”
云安全聯盟大中華區主席李雨航院士也表示，“發展與安全是數字經濟前進的雙輪。人工智能技術的研發既不能因噎廢食，也不能坐視安全不顧。優秀的中國AI方案應該成為全球的樣板。”
中國電信研究院副院長、云網基礎設施安全國家工程研究中心常務副主任李安民表示，面對日益復雜的云網安全威脅，積極探索AI安全、Web3框架下的安全技術及其創新應用，才能幫助數據隱私、交易可信和網絡穩定。
金融是現代經濟的核心，金融領域的科技創新與安全愈發重要。
國家金融與發展實驗室副主任楊濤表示，“讓金融更安全地擁抱科技，一方面要解決科技企業與金融機構建立‘各司其職、風險自擔’的合作邊界問題，另一方面完善金融科技生態與夯實基礎要素。”
中國民生銀行首席信息官張斌認為，“當前開放銀行、智慧銀行、場景金融等數字金融服務迅猛發展，金融機構應盡快建立與之配套的數字安全防御體系，驅動金融業務更好、更快、更穩健發展。”
作為互聯網科技企業，螞蟻集團機器智能部總經理、螞蟻安全實驗室首席科學家王維強介紹，針對生成式大模型安全問題，螞蟻集團基于近10年可信AI沉淀，逐步構建“大模型安全檢測與防御”的一體化解決方案，以保障大模型在生產和使用過程中更加安全、可控、可靠。目前已發布“蟻鑒”AI安全檢測平臺。同時螞蟻集團基于安全基座模型能力，持續升級全方位全鏈路的智能風控防御體系，與生態伙伴們一起解決新AI時代的安全科技難題。
據了解，本次論壇由中國網絡空間安全協會指導，金融科技50人論壇、螞蟻集團聯合主辦，多位重磅嘉賓參會探討數實融合發展中的新型風險與挑戰，分享時代脈搏下的關鍵技術趨勢和安全科技實踐成果。
