注 冊
中國 +86
  • +123
  • +125
  • +666
  • +666
  • +555555
  • +666
  • +666
  • +666
請輸入真實手機號
圖片驗證碼 請輸入圖片驗證碼
請輸入短信驗證碼
請輸入密碼

已有賬號,

忘記密碼
中國 +86
  • +123
  • +125
  • +666
  • +666
  • +555555
  • +666
  • +666
  • +666
請輸入真實手機號
圖片驗證碼 請輸入圖片驗證碼
請輸入短信驗證碼
請輸入新密碼

已有賬號,

人工智能風險需重視!明年起,AI造假音視頻不得隨意發布

2019-12-01 zz 艾媒網 閱讀 12533

摘要: 《規定》明確網絡音視頻信息服務提供者和網絡音視頻信息服務使用者利用基于深度學習、虛擬現實等的新技術新應用制作、發布、傳播非真實音視頻信息的,應當以顯著方式予以標識。

   艾媒網獲悉,近日,國家互聯網信息辦公室、文化和旅游部、國家廣播電視總局聯合印發了《網絡音視頻信息服務管理規定》(以下簡稱《規定》),自2020年1月1日起施行。

  國家發布網絡音視頻新規

  國家互聯網信息辦公室有關負責人表示,出臺《規定》,旨在促進網絡音視頻信息服務健康有序發展,保護公民、法人和其他組織的合法權益,維護國家安全和公共利益。

  《規定》包括了十九條措施,其中《規定》明確網絡音視頻信息服務提供者和網絡音視頻信息服務使用者利用基于深度學習、虛擬現實等的新技術新應用制作、發布、傳播非真實音視頻信息的,應當以顯著方式予以標識。

  網絡音視頻信息服務提供者和網絡音視頻信息服務使用者不得利用基于深度學習、虛擬現實等的新技術新應用制作、發布、傳播虛假新聞信息。轉載音視頻新聞信息的,應當依法轉載國家規定范圍內的單位發布的音視頻新聞信息。

  另外,《規定》還明確了網絡音視頻信息服務提供者應當建立健全辟謠機制,發現網絡音視頻信息服務使用者利用基于深度學習、虛擬現實等的虛假圖像、音視頻生成技術制作、發布、傳播謠言的,應當及時采取相應的辟謠措施,并將相關信息報網信、文化和旅游、廣播電視等部門備案。

  在《規定》中,深度學習和虛擬現實屢次被提及,基本可以看做是針對AI造假視頻的一次針對性管控。

  2017年底,deepfake換臉技術出現以來,各種使用AI技術造假的視頻層出不窮。而且隨著技術的進步,造假視頻已經變得越來越真假難辨,也引發了全球范圍內的擔憂。再如前段時間上線以后便引發巨大爭議的“ZAO”。

  人工智能潛在的威脅不得不防

  上述提及的深度學習是人工智能的基礎技術之一,基于深度學習算法的人工智能,能夠從結構上模擬人腦的運行機制,而深度學習算法的實現基于海量的數據和高效的算力。反過來,數據的質量又決定了深度學習模型的最終實現效果。現階段,語音識別技術、計算機視覺技術和自然語言處理等都足基于深度學習算法。

  值得注意的是,深度學習系統本身面臨多種安全威脅。如框架常見漏洞、模型安全漏洞、數據流處理風險。

  艾媒咨詢調研數據顯示,64.1%的中國網民認為人工智能是存在風險/安全威脅的。

  40.3%的網民認為人工智能帶來的最大危害就是個人信息泄露,其比重相對較高。艾媒咨詢分析師認為,中國網民現階段對人工智能存在的危害認知尚不全面。如例如AI造假的音視頻或被不法分子加以利用進行詐騙等犯罪行為。因此,對于未來人工智能技術的發展,態勢雖一路高漲,但仍不能放松警惕。

  附上《網絡音視頻信息服務管理規定》全文:

  第一條 為促進網絡音視頻信息服務健康有序發展,保護公民、法人和其他組織的合法權益,維護國家安全和公共利益,根據《中華人民共和國網絡安全法》《互聯網信息服務管理辦法》《互聯網新聞信息服務管理規定》《互聯網文化管理暫行規定》《互聯網視聽節目服務管理規定》,制定本規定。

  第二條 在中華人民共和國境內從事網絡音視頻信息服務,應當遵守本規定。

  本規定所稱網絡音視頻信息服務,是指通過互聯網站、應用程序等網絡平臺,向社會公眾提供音視頻信息制作、發布、傳播的服務。

  網絡音視頻信息服務提供者,是指向社會公眾提供網絡音視頻信息服務的組織或者個人。網絡音視頻信息服務使用者,是指使用網絡音視頻信息服務的組織或者個人。

  第三條 各級網信、文化和旅游、廣播電視等部門依據各自職責開展網絡音視頻信息服務的監督管理工作。

  第四條 網絡音視頻信息服務提供者和使用者應當遵守憲法、法律和行政法規,堅持正確政治方向、輿論導向和價值取向,弘揚社會主義核心價值觀,促進形成積極健康、向上向善的網絡文化。

  第五條 國家鼓勵和指導互聯網行業組織加強行業自律,建立健全網絡音視頻信息服務行業標準和行業準則,推動網絡音視頻信息服務行業信用體系建設,督促網絡音視頻信息服務提供者依法提供服務、接受社會監督,提高網絡音視頻信息服務從業人員職業素養,促進行業健康有序發展。

  第六條 網絡音視頻信息服務提供者應當依法取得法律、行政法規規定的相關資質。

  第七條 網絡音視頻信息服務提供者應當落實信息內容安全管理主體責任,配備與服務規模相適應的專業人員,建立健全用戶注冊、信息發布審核、信息安全管理、應急處置、從業人員教育培訓、未成年人保護、知識產權保護等制度,具有與新技術新應用發展相適應的安全可控的技術保障和防范措施,有效應對網絡安全事件,防范網絡違法犯罪活動,維護網絡數據的完整性、安全性和可用性。

  第八條 網絡音視頻信息服務提供者應當依照《中華人民共和國網絡安全法》的規定,對用戶進行基于組織機構代碼、身份證件號碼、移動電話號碼等方式的真實身份信息認證。用戶不提供真實身份信息的,網絡音視頻信息服務提供者不得為其提供信息發布服務。

  第九條 任何組織和個人不得利用網絡音視頻信息服務以及相關信息技術從事危害國家安全、破壞社會穩定、擾亂社會秩序、侵犯他人合法權益等法律法規禁止的活動,不得制作、發布、傳播煽動顛覆國家政權、危害政治安全和社會穩定、網絡謠言、淫穢色情,以及侵害他人名譽權、肖像權、隱私權、知識產權和其他合法權益等法律法規禁止的信息內容。

  第十條 網絡音視頻信息服務提供者基于深度學習、虛擬現實等新技術新應用上線具有媒體屬性或者社會動員功能的音視頻信息服務,或者調整增設相關功能的,應當按照國家有關規定開展安全評估。

  第十一條 網絡音視頻信息服務提供者和網絡音視頻信息服務使用者利用基于深度學習、虛擬現實等的新技術新應用制作、發布、傳播非真實音視頻信息的,應當以顯著方式予以標識。

  網絡音視頻信息服務提供者和網絡音視頻信息服務使用者不得利用基于深度學習、虛擬現實等的新技術新應用制作、發布、傳播虛假新聞信息。轉載音視頻新聞信息的,應當依法轉載國家規定范圍內的單位發布的音視頻新聞信息。

  第十二條 網絡音視頻信息服務提供者應當加強對網絡音視頻信息服務使用者發布的音視頻信息的管理,部署應用違法違規音視頻以及非真實音視頻鑒別技術,發現音視頻信息服務使用者制作、發布、傳播法律法規禁止的信息內容的,應當依法依約停止傳輸該信息,采取消除等處置措施,防止信息擴散,保存有關記錄,并向網信、文化和旅游、廣播電視等部門報告。

  網絡音視頻信息服務提供者發現不符合本規定第十一條第一款要求的信息內容的,應當立即停止傳輸該信息,以顯著方式標識后方可繼續傳輸該信息。

  第十三條 網絡音視頻信息服務提供者應當建立健全辟謠機制,發現網絡音視頻信息服務使用者利用基于深度學習、虛擬現實等的虛假圖像、音視頻生成技術制作、發布、傳播謠言的,應當及時采取相應的辟謠措施,并將相關信息報網信、文化和旅游、廣播電視等部門備案。

  第十四條 網絡音視頻信息服務提供者應當在與網絡音視頻信息服務使用者簽訂的服務協議中,明確雙方權利、義務,要求網絡音視頻信息服務使用者遵守本規定及相關法律法規。對違反本規定、相關法律法規及服務協議的網絡音視頻信息服務使用者依法依約采取警示整改、限制功能、暫停更新、關閉賬號等處置措施,保存有關記錄,并向網信、文化和旅游、廣播電視等部門報告。

  第十五條 網絡音視頻信息服務提供者應當自覺接受社會監督,設置便捷的投訴舉報入口,公布投訴、舉報方式等信息,及時受理并處理公眾投訴舉報。

  第十六條 為網絡音視頻信息服務提供技術支持的主體應當遵守相關法律法規規定和國家標準規范,采取技術措施和其他必要措施,保障網絡安全、穩定運行。

  第十七條 各級網信、文化和旅游、廣播電視等部門應當建立日常監督檢查和定期檢查相結合的監督管理制度,指導督促網絡音視頻信息服務提供者依據法律法規和服務協議規范網絡音視頻信息服務行為。

  網絡音視頻信息服務提供者應當遵守相關法律法規規定,依法留存網絡日志,配合網信、文化和旅游、廣播電視等部門開展監督管理執法工作,并提供必要的技術、數據支持和協助。

  第十八條 網絡音視頻信息服務提供者和網絡音視頻信息服務使用者違反本規定的,由網信、文化和旅游、廣播電視等部門依照《中華人民共和國網絡安全法》《互聯網信息服務管理辦法》《互聯網新聞信息服務管理規定》《互聯網文化管理暫行規定》《互聯網視聽節目服務管理規定》等相關法律法規規定處理;構成違反治安管理行為的,依法給予治安管理處罰;構成犯罪的,依法追究刑事責任。

  第十九條 本規定自2020年1月1日起施行。

相關數據

2012-2018年中國人工智能融資事件數

查看完整數據

2015-2024年全球人工智能市場收入及預測

查看完整數據

2018-2025年全球人工智能軟件市場收入及預測

查看完整數據
網友評論
后參與討論
提交評論 0/200

請回復有價值的信息,評論需要審核后進行展示,請勿重復提交。

評論區
    暫無評論哦,快來評論一下吧!

Copyright? 2007-2019 艾媒網 www.znvtzb.tw All Right Reserved | 中華人民共和國增值電信業務經營許可證: 粵B2-20110424 粵ICP備11014183-1號 | 粵公網安備 44011302001580號

管家婆四不像一肖中特