本報記者 李雯珊 見習記者 劉曉一

    近日，平安證券發布研報稱，在2024世界人工智能大會暨人工智能全球治理高級別會議（以下簡稱“WAIC2024”）上，中國AI（人工智能）企業不僅在技術研發方面取得了顯著成效，還在應用落地、生態構建等方面展現出強勁勢頭。中國AI企業在多個領域實現了突破，為全球AI治理和應用提供了寶貴的中國方案。

    今年的WAIC2024，AI治理被置于前所未有的高度，而AI安全正是其中的重中之重。

    “AI與安全，是數字化轉型與可持續發展的必修課。”7月6日，奇安信董事長齊向東在大會相關論壇上表示，要積極構建高可靠人工智能安全體系，著力為用戶提供有效的安全防護，既要用AI去驅動安全，又要做好AI自身安全，護航數字化轉型與可持續發展。

    “AI作為引領未來的戰略新興技術，已成為發展新質生產力、推動科技革命和產業升級的核心引擎。”中國數實融合50人論壇智庫專家洪勇在接受《證券日報》記者采訪時表示，隨著AI的高速發展，尤其是生成式AI的突破，其復雜效應也不斷顯現，既釋放巨大的技術紅利，也衍生出超越以往范疇的挑戰，涉及數據安全、倫理治理、算法歧視、能源環境、數字鴻溝等問題。

    AI安全受關注

    技術發展，協同共治。面對挑戰，全球AI安全治理的進程正加速推進，已形成各國政府主導、國際組織積極推進、企業協同治理的多方參與格局。全球AI界正積極平衡“發展”與“安全”這一體兩面，推動AI“兩翼齊飛”。

    近年來，我國先后出臺《生成式人工智能服務管理暫行辦法》《互聯網信息服務深度合成管理規定》等政策文件，構建針對大模型的“雙備案系統”，推動人工智能安全、健康、規范發展。今年3月份，全國網絡安全標準化委員會發布《生成式人工智能服務安全基本要求》，對前述政策文件中的數據來源合法、內容安全等合規要求的執行規則進行了細化，為生成式人工智能服務提供者在實踐中開展安全評估提供了有效路徑。

    AI安全相關企業也抓住產業發展黃金機遇，乘勢而上。聚焦國內，深信服、天融信、啟明星辰、奇安信等公司均已發布安全大模型產品。騰訊、螞蟻集團等也積極構建AI安全平臺。放眼全球，微軟在今年5月份已正式商用了MicrosoftCopilotforSecurity（一種基于生成式AI的安全產品），旨在“幫助用戶以機器的速度進行防御”。谷歌去年也發布了網絡安全專有大模型，并應用到了云安全能力中心。

    據TheInsightPartner預測，2030年，全球AI安全市場規模將達到710億美元，未來十年復合增速將達到29%。艾媒咨詢數據顯示，預計到2027年，我國網絡安全市場規模有望增至884.4億元人民幣。

    產業鏈公司在行動

    中金公司認為，AI的安全風險涉及多個維度。AI體系安全是基礎，包括軟件、硬件等基礎設施的供應安全，以龐大市場為基礎的需求安全，應用部署安全等，需確保AI生態系統的獨立性、完整性和抗攻擊能力。數據安全是AI系統能否有效、高質量運行的關鍵。AI應用中廣泛出現的錯誤與虛假信息、“信息繭房”、隱私泄露等問題也會對社會安全帶來挑戰。

    針對上述問題，產業鏈上市公司正在行動。

    “公司打造了以‘數據+AI’為核心，以‘應用場景’為依托的系列產品，形成了七大解決方案及產品線，其中就包括風險與合規產品線，涉及智能風控、監管報送等。公司信創及安全類產品也有利于降低信息安全風險。”法本信息相關人士在接受《證券日報》記者采訪時表示。

    永信至誠在投資者互動平臺上稱，公司發布AI大模型安全測評“數字風洞”平臺，為AI大模型的持續演進和應用提供堅實的安全保障。在內容安全測評方面，平臺借助檢測插件，形成檢測模板、檢測場景分類和測評數據集，測評出各類安全風險；在系統安全測評方面，平臺對目標系統進行深入的安全評估，幫助AI大模型系統迅速發現潛在的安全漏洞。

    “除了在技術上推動AI系統的可解釋性和可控性外，由于AI問題往往跨越國界，各方還應促進國際合作，建立全球共識，共享最佳實踐。”洪勇如是說。

    本屆WAIC2024還發布了《人工智能全球治理上海宣言》，倡導共推發展、共護安全、共商治理、共匯民智、共享成果。呼吁各國加強交流和對話，推動人工智能更好地造福人類。