專家：從業者應提高認識警惕風險

    本報記者 李冰

    4月10日，中國支付清算協會發布《關于支付行業從業人員謹慎使用ChatGPT等工具的倡議》（以下簡稱“倡議”）。倡議提出，正確認識ChatGPT等工具的機遇和風險。

    易觀分析金融行業高級咨詢顧問蘇筱芮對《證券日報》記者表示，“此前，國外已出現過ChatGPT等工具隱私泄露的情況。中國支付清算協會倡議慎用ChatGPT等工具，無論是對金融機構還是用戶而言，均是一種保護行為。”

    應依法合規使用

    倡議稱，近期，ChatGPT等工具引起各方廣泛關注，已有部分企業員工使用ChatGPT等工具開展工作。但是，此類智能化工具已暴露出跨境數據泄露等風險。為有效應對風險、保護客戶隱私、維護數據安全，提升支付清算行業的數據安全管理水平，根據《中華人民共和國網絡安全法》《中華人民共和國數據安全法》等法律規定，中國支付清算協會向行業發出倡議。

    具體來看，一是提高思想認識，依法依規使用。支付行業從業人員要遵守所在地區的網絡使用規定，正確認識ChatGPT等工具的機遇和風險，全面評估使用ChatGPT等工具處理工作內容的風險，依法合規使用ChatGPT等工具。

    二是不上傳關鍵敏感信息。支付行業從業人員在使用ChatGPT等工具時，要嚴格遵守國家及行業相關法律法規要求，不上傳國家及金融行業涉密文件及數據、本公司非公開的材料及數據、客戶資料、支付清算基礎設施或系統的核心代碼等。

    三是會員單位加強內部管理和引導。會員單位要進一步健全信息安全內控管理制度，開展有針對性的數據風險防控工作，加強宣傳和引導，提升員工的風險防范和數據保護意識，切實維護國家金融及支付清算行業安全。

    “ChatGPT是人工智能技術驅動的自然語言處理工具，需要對數據庫不斷更新。金融從業者使用ChatGPT存在金融數據隱私及安全問題，中國支付清算協會向行業發出倡議十分有必要。”博通咨詢金融行業資深分析師王蓬博表示。

    或存在兩方面風險

    經記者梳理，目前金融機構試水ChatGPT類應用呈現三類方式，一是借助自身在科技尤其是人工智能領域的積累，結合自有場景主動開啟研發和探索；二是接入類ChatGPT相關應用的生態，借助外部力量進行提升；三是通過自有能力和借助外部力量雙線并行。

    冰鑒科技研究院高級研究員王詩強對《證券日報》記者表示，“ChatGPT等工具是基于自然語言處理、深度學習人工智能技術開發的智能工具，通過收集、處理數據，不斷自我學習。其收集的數據除了外部公開數據外，也有大量數據來自客戶分享，在其他客戶咨詢同類問題時可能會共享出去。因此，一旦有從業者將公司重要數據共享給ChatGPT等工具，極有可能導致商業機密泄露。”

    對于ChatGPT等工具可能存在的風險，索信達控股AI創新中心主任邵俊博士對《證券日報》記者表示，這主要來自兩個層面，一是信任風險，比如不法分子通過ChatGPT技術模仿真人實施不法行為；二是模型風險，ChatGPT本質是從網絡大量數據中學習，但網上也充斥著大量錯誤信息，真假參半的信息容易對用戶造成誤導，另外，從業者的“無心之失”也容易在工作中把重要數據流出，構成違規風險。

    在中關村科金人工智能資深產品專家李國慶看來，“ChatGPT在科技能力上涉及芯片、算力、模型、工具、場景等多個層面。目前，我國不少頭部科技企業都已經開始著手研發類似于ChatGPT的產品。同時，國內自然語言處理和人工智能領域的研究及發展也不斷取得重大突破，在原始數據積累、人才儲備及政策支持方面均具有一定優勢，基于大量底層數據和強大的算力支撐，國內一些智能產品有望抓住機遇，加速大模型的研發和產業化。”