證券時報記者 段久惠

    隨著人工智能（AI）應用廣度和深度的不斷和拓展，諸如算法安全、數據歧視、數據濫用等諸多問題，這些風險與隱患也不斷的顯露出來，引發了人們對人工智能信任問題的思考。

    對于金融機構而言，如果傳統數據傳輸和共享無法對數據進行有效保護，不同金融機構之間的數據將難以實現互聯互通，這將制約防范風險、反欺詐、反洗錢等領域的多方協作。

    產學研界尋求的破題之策是——基于多方計算、聯邦學習等“可信AI”技術體系，通過“原始數據不出域”、“數據可用不可見”等技術，實現在數據合作中兼顧隱私安全的“價值安全共享”。

    在采訪中，記者發現，國內“可信AI”落地正在進行中，諸多產業場景應用如雨后春筍；另一方面，也有著亟待建立行業標準等新挑戰。

    “可信AI”落地進行時

    “尋找人工智能時代隱私保護、政府監管、商業訴求的平衡點，已成為產學研各界迫切需要解決的問題。”科技部高技術研究發展中心研究員、ACM中國理事會常務理事嵇智源認為，在此背景下，“可信AI”的理念逐漸成為全球共識，也成為未來人工智能產業健康發展的必由之路。

    共識之下，“可信AI”體系已有諸多項目落地。證券時報記者以“可信AI”技術中的“知識聯邦、聯邦學習、隱私計算”幾大關鍵詞，在啟信寶上搜索相關企業信息時顯示，當前相關存續企業數量達174家（不含大學），包括國家電網、華為、騰訊、中國移動、平安科技、百度網訊 、字節跳動、支付寶（杭州）信息、工商銀行、中國銀行、微眾銀行等都有涉及。

    同盾科技合伙人、人工智能研究院院長，同時也是知識聯邦產學研聯盟理事長的李曉林告訴證券時報記者，他的團隊基于聯邦學習自主研發的工業級產品“智邦平臺”，過去一年已經廣泛觸達了金融、保險、政企、互聯網、智慧城市等行業，尤其在金融風控、反欺詐、精準營銷等場景已有落地。

    今年6月，螞蟻集團首次向外界發布了螞蟻“可信AI”技術架構體系。近日，螞蟻集團副總裁、首席AI科學家漆遠在公開分享中透露，當前，“可信AI”技術已在螞蟻集團多個風控場景中落地，這些場景包括反欺詐、反洗錢、反賭博、企業聯合風控、數據隱私保護等。

    漆遠告訴記者，繼“隱私計算”（即基于“數據不動模型動、數據可用不可見”特性的“可信AI”技術），和“圖學習”技術取得實踐成果后，螞蟻集團在“可信AI”技術體系中的又一項重要技術“智能對抗”技術已正式上線部署。通俗地講，該項技術就是在人工智能模型算法中融入經濟學“博弈理論”，類似于金庸小說里的“雙手互博”，用更智能的“攻”，實現更安全的“防”。該項技術主要應用于賬戶安全、反欺詐、交易安全等風控場景。

    “未來的風控將不再是人和人的斗爭，而是AI與AI的博弈。”漆遠稱，“在支付寶上，每天上億筆交易背后，發起攻擊的早已不是個人，而是專業的黑產團伙。”

    亟需行業標準

    當“可信AI”不再是理論和暢想，已全面開始在應用和實踐，行業正呈現百花齊放之態。

    啟信寶數據顯示，上述174家企業的注冊地分布中，有46家在北京，家數最多；緊隨其后的分別是深圳34家、上海25家、杭州20家、南京15家，這些大城市企業數量占比總數超過了九成。從資本實力看，注冊規模在1億元以上的企業有46家，1000萬元至1億元之間的有60家，在500萬元至1000萬元的企業30家，小微型科創企業并不是這個需要規模實力和研發能力領域的主流玩家。

    “現在還屬于‘戰國時代’，我們同行不是冤家，現在是屬于跑馬圈地野蠻生長的狀態，大家還沒有到競爭的時候，而是合作。這個市場還沒有完全成熟，每一個人的貢獻都是對整個行業的貢獻。”李曉林說。

    但毫無疑問，大家都意識到這是個重要的機會。以“可信AI”中的隱私技術走向來看，業界普遍認為，發展趨勢從以單節點部署模式走向分布式架構模式，未來支撐更大規模、更大量級的建模對技術要求將非常高，這一點要在數據量龐大的金融領域實現應用也更加明顯。

    工行大數據與人工智能實驗室資深經理強鋒和團隊在開展業務中，常遇到的問題是：工行總行和各地分行提供隱私計算、聯邦學習、聯合建模的解決方案，常遇到營銷類、風控類、信貸類、審批申請判斷類模型。“這一方面要怎樣合法合規引入到外部數據，另外一方面是通過可信技術，更好把數據價值賦能給業務方向，比如銀行業務、內監管平臺建設等。”

    這些需要不同協議層面平臺的打通，技術硬件層面的互通，比如產學研聯盟實現開源的互聯互通等。“聯盟內，通過開放協議、開放標準來確保各種任務進程和安全合規。”李曉林稱。

    這背后也涉及到業務場景不斷變化，數據獲取方式和要素的演化，數庫科技創始人、總裁沈鑫認為，數據智能發展到今天，數據串聯變成了基礎，量、準、質已經是三大關鍵標準，“沒有辦法把數據的質量提升，算法再強，數據的數字化應用場景效果也未必會好；生產力不僅僅取決于算法和算力，還取決與數據要素本身。”

    這也是歐洲科學院外籍院士、悉尼大學教授陶大程提出的問題，具備可解釋性，人工智能才能有更廣泛的場景應用和賦能，“一定程度上來說，正是因為標準的缺失，導致人工智能的應用落地受到了限制。”