近日，中央網(wǎng)信辦印發(fā)通知，在全國范圍內部署開展為期3個月的“清朗·整治AI技術濫用”專項行動。本次專項行動分兩個階段開展。第一階段強化AI技術源頭治理，清理整治違規(guī)AI應用程序，加強AI生成合成技術和內容標識管理，推動網(wǎng)站平臺提升檢測鑒偽能力。第二階段聚焦利用AI技術制作發(fā)布謠言、不實信息、色情低俗內容，假冒他人、從事網(wǎng)絡水軍活動等突出問題，集中清理相關違法不良信息，處置處罰違規(guī)賬號、MCN機構和網(wǎng)站平臺。

第一階段重點整治6類突出問題，包括違規(guī)AI產(chǎn)品，傳授、售賣違規(guī)AI產(chǎn)品教程和商品，訓練語料管理不嚴，安全管理措施薄弱，未落實內容標識要求，重點領域安全風險。記者了解到，當前人工智能相關產(chǎn)品和服務存在一些亂象，比如，利用生成式人工智能技術向公眾提供內容服務，但未履行大模型備案或登記程序；提供“一鍵脫衣”等違背法律、倫理的功能；在未經(jīng)授權同意情況下，克隆、編輯他人聲音、人臉等生物特征信息，侵犯他人隱私，等等。一些已備案提供醫(yī)療、金融、未成年人等重點領域問答服務的AI產(chǎn)品，未針對性設置行業(yè)領域安全審核和控制措施，出現(xiàn)“AI開處方”“誘導投資”“AI幻覺”等問題，誤導學生、患者，擾亂金融市場秩序。“清朗·整治AI技術濫用”專項行動第一階段，將圍繞上述問題開展重點整治。

第二階段重點整治7類突出問題，包括利用AI制作發(fā)布謠言、利用AI制作發(fā)布不實信息、利用AI制作發(fā)布色情低俗內容、利用AI假冒他人實施侵權違法行為、利用AI從事網(wǎng)絡水軍活動、AI產(chǎn)品服務和應用程序違規(guī)、侵害未成年人權益。當前，利用AI無中生有、憑空捏造涉時事政治、公共政策、社會民生、國際關系、突發(fā)事件等各類謠言信息，或擅自妄測、惡意解讀重大方針政策等問題時有發(fā)生，AI應用程序誘導未成年人沉迷、損害未成年人身心健康的情況不時出現(xiàn)，專項行動第二階段將重點打擊、治理這些亂象。

中央網(wǎng)信辦有關負責人強調，各地網(wǎng)信部門要充分認識專項行動對于防范AI技術濫用風險、維護網(wǎng)民合法權益的重要意義，切實履行屬地管理責任，健全AI生成合成內容審核機制，提升技術檢測能力，做好整改落實。