本報記者 施露

    為貫徹落實《生成式人工智能服務管理》等文件中對于AI服務的規范性要求，系統性建立圖像內容安全行業發展秩序，6月15日，中國信息通信研究院（以下簡稱“中國信通院”）啟動了《文檔圖像篡改檢測標準》制定工作。該項標準由中國信通院牽頭，上海合合信息科技股份有限公司（以下簡稱：合合信息）、中國圖象圖形學學會、中國科學技術大學等科技創新企業及知名學術機構聯合編制。

    《文檔圖像篡改檢測標準》將為文檔圖像內容安全提供可靠保障，助力新時代AI安全體系建設。作為牽頭方，中國信通院表示，《文檔圖像篡改檢測標準》將基于產業現狀，圍繞“細粒度”視覺差異偽造圖像鑒別、生成式圖像判別、文檔圖像完整性保護等行業焦點議題，凝聚行業共識，以期為行業提供有效指引。

    隨著技術的發展和電子設備普及率的提升，人們修改圖像的門檻變得越來越低，以往圖像內容加工需要使用專業的軟件，現在通過某些平臺或者軟件，動動手指即可產出一張虛假圖片，數字圖像的原始性和真實性面臨嚴峻挑戰。

    此前，圖像篡改檢測的技術研究對象主要集中于自然場景圖像。然而，真正為人們的生活帶來風險的通常是被篡改的資質證書、文檔、聊天截圖等。傳統的檢測系統往往難以對這些文檔圖像進行篡改判定及修改內容定位，主要原因如下：

    一方面，真實場景中的篡改方法多樣、篡改視覺痕跡細微，對篡改檢測方案提出了挑戰；文檔版面的復雜化、文本內容的多樣化亦成為圖像內容檢測識別過程中的“攔路虎”，加大了篡改檢測實施的難度。

    此外，傳統的圖像篡改檢測方法在面對全局性的裁剪、調色處理以及組合式造假手法時，其檢測覆蓋面、精準度、安全性尚存在提升空間，需要政府、研究機構、企業等多方主體聯合起來，通過建立技術規范標準，助力AI視覺圖像產業健康成長。

    開年以來，以語言生成類、視覺生成類模式為代表的AIGC產品引發了社會對于圖文內容“可信度”問題的討論?！段臋n圖像篡改檢測標準》的制定，或將為中國“可信AI”在機器視覺、圖像處理領域的體系建設提供有力支持。在圖像內容安全領域，已有部分企業展開了前沿探索，利用科技手段對篡改文本圖像實行真偽判定、篡改痕跡檢測，人工智能科技企業合合信息是其中的代表

    據悉，合合信息研發了基于深度學習的圖像篡改檢測技術及相關系統，可檢測出多種篡改形式，智能捕捉圖像在篡改過程中留下的細微痕跡，并以熱力圖的形式展示圖像區域篡改地點，相關技術已被應用于銀行、保險等行業中。

（編輯 李波）