構建人工智能安全治理新格局 開創生成合成內容規范發展新路徑
2025-03-25 09:23:01 來源:人民郵電報
A- A+

  互聯網、大數據與人工智能等信息技術的飛速發展,在過去半個世紀以來,已推動人類社會走向“人類—信息—物理”三元空間的智能融合,深度滲透至經濟社會各領域。近年來,ChatGPT、DeepSeek等生成式人工智能技術的顛覆性突破,正推動人類社會進入新階段。回望人工智能發展歷程,從未有過任何階段,技術發展的觸角從產業革新進一步延伸至人類價值重構,真正成為關系國家數字主權競爭的戰略制高點,成為牽動國家興衰與文明存續的核心變量。

  然而,人工智能生成合成內容日益逼真,也催生虛假消息傳播、身份信息冒充、惡意內容生成等新型安全風險,并削弱著公眾對網絡傳播內容的信任根基。近日,國家網信辦出臺的《人工智能生成合成內容標識辦法》(以下簡稱《標識辦法》),在全球率先提出保障人工智能安全可信的“中國方案”。《標識辦法》作為互聯網信息服務領域貫徹落實《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》的重要舉措,配套強制性國家標準《網絡安全技術 人工智能生成合成內容標識方法》(以下簡稱《標識標準》)同時發布,為人工智能發展奠定了重要基礎,成為保障人工智能時代網絡生態安全有序的關鍵手段。

  樹立人工智能生成合成內容治理典范

  當前,信息網絡空間成為連接人類社會與物理世界的橋梁,在全球科技創新加速演進的過程中,人工智能已成為決定大國競爭力和未來影響力的核心領域之一。在此背景下,美國、加拿大、歐盟等國家和地區出臺了人工智能相關政策法規,條款涉及內容標識,但尚未發布專項法規明確標識形式和技術指標。我國恰逢其時地出臺了《標識辦法》和《標識標準》,全方位、多層次地規范人工智能內容標識要求和方法,這一舉措不僅體現了我國在人工智能治理領域的前瞻性和責任感,也為全球范圍內的人工智能安全治理樹立了新的標桿,為維護全球數字生態安全與可持續發展貢獻了中國智慧。

  我國正處于從網絡大國向網絡強國邁進的關鍵階段,《標識辦法》和《標識標準》的制定與實施,對于構建我國自主可控的人工智能治理體系具有歷史性的意義。一方面,標志著我國在人工智能領域實現了從被動防御到主動規制的戰略轉變,為保障國家信息安全和社會穩定提供了堅實的制度支撐;另一方面,通過完善的治理體系,可最大限度地發揮人工智能的社會價值,維護網絡空間清朗環境,最終實現科技服務于人的根本目標。

  構建人工智能技術規范生態

  《標識辦法》和《標識標準》的發布,標志著我國在生成式人工智能領域邁出了構建安全可信生態的關鍵一步,對構建規范健全的技術生態和健康可持續的智能科技產業產生了深遠影響,其關鍵作用主要體現在以下三個方面。

  首先,為人工智能技術領域規范化發展奠定了堅實基礎。《標識辦法》和《標識標準》不僅為行業提供了明確的技術指導原則,極大地提升了技術的透明度和可追溯性,為生成式人工智能技術應用劃定了紅線,也為有效溯源和遏制虛假信息傳播提供了技術抓手,維護了網絡生態安全。

  其次,為構建更完善的生成式人工智能產業鏈指明了正確方向。《標識辦法》和《標識標準》通過細化生成合成內容管理規則,推動了人工智能產業標準化進程,構建了一個更加公平、透明且高效的市場環境,不僅增強了市場主體參與產業的積極性,助力傳統產業轉型升級,還促進了產業鏈上下游的協同創新,為產業規模化發展提供了內生動力,從而助力國產生成式人工智能生態的健康發展。

  最后,為“人工智能+”賦能新質生產力發展提供了創新土壤。《標識辦法》和《標識標準》有助于全社會建立對生成式人工智能的信任,進一步促進“人工智能+”與各行業的深度融合,催生一系列新業態和新模式,創造新的經濟增長點,也有助于中國在全球范圍內搶占人工智能發展的制高點,推動形成以技術創新為核心驅動力的新質生產力,從而在新一輪科技革命和產業變革中占據主動地位。(作者:浙江大學 陳純  文章摘自:網信中國)

【責任編輯:紀麗娜】

中共河北省委網絡安全和信息化委員會辦公室 河北省互聯網信息辦公室 © 版權所有

聯系電話:0311-87800931   冀ICP備20010739號-4   冀公網安備13010402001960號

技術支持:長城新媒體集團