本報記者 郭冀川

    就在各方積極推動人工智能技術研發和應用落地的時候，質疑的聲音也接踵而來。3月29日，未來生命研究所（FutureofLifeInstitute）公布一封公開信，呼吁所有人工智能實驗室立即暫停訓練比GPT-4更強大的人工智能系統至少6個月。被稱為“人工智能教父”的杰弗里•辛頓、心理學與腦研究專家蓋瑞•馬庫斯和特斯拉首席執行官馬斯克等上千人均簽署了這封公開信。

    這封公開信指出，最近幾個月，人工智能實驗室陷入了一場失控的競賽，他們致力于開發和部署更強大的數字思維，但即使是研發者也不能理解、預測或可靠地控制這些數字思維。諸多研究表明，具有與人類匹敵智能的人工智能系統可能對社會和人類構成深遠的風險。

    中關村智能科技發展促進會副會長兼首席數字經濟學家陳曉華在接受《證券日報》記者采訪時表示，人工智能是能夠改變人類社會面貌的一系列技術，人工智能與實體經濟深度融合，將成為經濟的增長點和新動能。不過，由于人工智能在某些領域已經能和人類競爭，因此也帶來了人們對于被“取代”“控制”的焦慮。

    針對AI在應用層面的技術漏洞和社會變革風險，未來生命研究所的公開信提出了一連串問題：我們是否應該讓機器用宣傳和謊言淹沒我們的信息渠道？我們是否應該自動化所有工作，包括令人滿意的工作？我們是否應該開發出更聰明、數量更龐大的非人類思想，最終淘汰甚至取代我們？我們是否應該冒著文明失控的風險？

    公開信呼吁所有人工智能實驗室立即暫停訓練比GPT-4更強大的人工智能系統，期限至少6個月。在這段時間內，人工智能實驗室和專家應該開發和實施一套技術安全協議，由獨立外部專家進行嚴格的審計和監督。與此同時，人工智能研發者必須和政策制定者合作，加快開發人工智能治理系統。

    國內政策端在積極推動人工智能技術發展的同時，也在展開相關科研倫理規范。據新華社報道，為貫徹落實國家《新一代人工智能發展規劃》，科技部會同自然科學基金委近期啟動“人工智能驅動的科學研究”（AIforScience）專項部署工作，從專項部署工作的內容看，科技部將推進面向重大科學問題的人工智能模型和算法創新，發展一批針對典型科研領域的“人工智能驅動的科學研究”專用平臺，加快推動國家新一代人工智能公共算力開放創新平臺建設，支持高性能計算中心與智算中心異構融合發展。同時，重視“人工智能驅動的科學研究”發展過程中的科研倫理規范。

    北京社科院研究員、中國人民大學智能社會治理研究中心研究員王鵬對記者表示，這標志著中國將積極推動人工智能前沿技術研究和產業化應用，在人工智能領域的投資和研發力度將不斷增強，并重視人工智能產業的可持續發展。

    王鵬說：“去年3月中辦、國辦印發《關于加強科技倫理治理的意見》，目的就是防范不確定風險，促進科技向善。近期科技部對于人工智能、6G等新技術的表述，在鼓勵研發同時，也表示了要加強科技倫理治理的立場和態度。”

    新結構經濟學研究院院長林毅夫表示，人工智能等技術的出現，本質上是生產力水平的提升，這是人類進步和生活水平提升的基礎，雖然部分崗位一定會被替代和取消，但是人類也可以有更多享受生活的機會。

（編輯 喬川川）