【法治護(hù)我心——《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》系列解讀】

光明網(wǎng)記者 李飛 孔繁鑫

近年來，不少“AI換臉”“魔法變聲”類應(yīng)用走紅網(wǎng)絡(luò)；影像修復(fù)讓影視愛好者得以重溫高清的老電影；電商直播、影視動(dòng)畫、文化傳媒等日常生活場景中，虛擬數(shù)字人已經(jīng)廣泛應(yīng)用……深度合成類技術(shù)竟這般“神奇”。

作為人工智能領(lǐng)域的新型“黑科技”，得益于人工智能技術(shù)的不斷發(fā)展與開放，深度合成技術(shù)以其較低的應(yīng)用門檻、較強(qiáng)的娛樂屬性、豐富的應(yīng)用場景，愈加受到廣泛關(guān)注。然而，利用非法盜取的音視頻和照片，通過變聲、換臉等技術(shù)偽裝“瞞天過海”，實(shí)施詐騙或侵犯他人肖像權(quán)、名譽(yù)權(quán)的事件，卻也時(shí)有發(fā)生。

1月10日，針對(duì)深度合成服務(wù)治理的專門性部門規(guī)章《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》）施行，網(wǎng)民普遍“點(diǎn)贊”，對(duì)其將形成的治理、規(guī)范效用表達(dá)支持。

難辨真假背后技術(shù)亂象門檻愈低

以假亂真，是深度合成技術(shù)的顯著特點(diǎn)之一。“深度合成服務(wù)在互聯(lián)網(wǎng)社交媒體中廣泛應(yīng)用，豐富了互聯(lián)網(wǎng)信息內(nèi)容生態(tài)，推動(dòng)了互聯(lián)網(wǎng)相關(guān)產(chǎn)業(yè)發(fā)展。”中國科學(xué)院信息工程研究所所長孟丹認(rèn)為，該技術(shù)在為人民生活帶來了便利便捷和多樣化體驗(yàn)的同時(shí)，也可能被惡意利用，虛假信息內(nèi)容或?qū)碚吒蓴_、謠言泛濫、低俗內(nèi)容肆意傳播等影響國家安全、社會(huì)穩(wěn)定的風(fēng)險(xiǎn)問題。

圖源 《中國教育報(bào)》

中國互聯(lián)網(wǎng)絡(luò)信息中心最新數(shù)據(jù)顯示，截至2022年6月，我國有10.51億網(wǎng)民，互聯(lián)網(wǎng)普及率達(dá)74.4%。同時(shí)，以互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能為代表的數(shù)字領(lǐng)域，逐漸成為我國創(chuàng)新發(fā)展活躍、社會(huì)輻射廣泛的新興領(lǐng)域。隨著各類商業(yè)化產(chǎn)品普及，深度合成的信息內(nèi)容也在網(wǎng)絡(luò)上大量涌現(xiàn)，越來越多的社會(huì)公眾接觸到了深度合成技術(shù)。

清華大學(xué)研究生院院長周杰認(rèn)為，深度合成技術(shù)的使用門檻愈發(fā)降低，呈現(xiàn)出“平民化”的趨勢，普通人也可以利用簡單方便的軟件工具制作合成內(nèi)容。

“AI配音騙了多少中老年人”“頂著明星的臉賣貨”……正如部分網(wǎng)民所提到的，在互聯(lián)網(wǎng)技術(shù)日益發(fā)達(dá)的時(shí)代，人們對(duì)于看到的畫面、聽到的聲音和讀到的文本，已難以如往常一般充分信任。通過人工智能和大數(shù)據(jù)算法合成的虛擬數(shù)據(jù)，具有了高度仿真的視覺、聽覺等效果，使人們難辨真假。

虛假信息一直是互聯(lián)網(wǎng)治理的痛點(diǎn)與難點(diǎn)，深度合成技術(shù)的廣泛應(yīng)用則對(duì)虛假信息的治理提出了更高的要求。

既要直面技術(shù)風(fēng)險(xiǎn)，又要做好源頭整治

如今，深度合成技術(shù)已展現(xiàn)其強(qiáng)大的能力，在各個(gè)領(lǐng)域的加速應(yīng)用逐漸成為趨勢。中國政法大學(xué)教授張凌寒認(rèn)為，《規(guī)定》將深度合成為代表的生成合成類算法作為算法安全治理體系細(xì)化的重要一步，一方面是由于深度合成屬于高敏感性的與互聯(lián)網(wǎng)信息內(nèi)容安全息息相關(guān)的技術(shù)應(yīng)用，另一方面深度合成技術(shù)將成為網(wǎng)絡(luò)虛擬空間與現(xiàn)實(shí)物理世界虛實(shí)結(jié)合、融為一體的關(guān)鍵技術(shù)應(yīng)用，未來存在巨大發(fā)展空間。

“在相關(guān)技術(shù)研究發(fā)展的同時(shí)，也須直面技術(shù)帶來的風(fēng)險(xiǎn)，保證算法和數(shù)據(jù)的安全性、可靠性，最大程度做到技術(shù)進(jìn)步的趨利避害。”周杰這樣說。

那么，對(duì)算法和數(shù)據(jù)的正向引導(dǎo)從何下手？有網(wǎng)民提出，“把平臺(tái)管牢，就解決了很大一部分深度偽造問題”。對(duì)此，中國信息通信研究院云計(jì)算與大數(shù)據(jù)研究所所長何寶宏表示，《規(guī)定》構(gòu)建了圍繞深度合成“技術(shù)支持者”和“服務(wù)提供者”的責(zé)任框架。其中，技術(shù)支持者應(yīng)從源頭深化技術(shù)治理，加強(qiáng)數(shù)據(jù)和技術(shù)管理，同時(shí)參照相關(guān)規(guī)定履行算法備案等手續(xù)。服務(wù)提供者應(yīng)全方位落實(shí)信息安全主體責(zé)任，強(qiáng)化針對(duì)服務(wù)、用戶、數(shù)據(jù)、技術(shù)以及內(nèi)容等方面的管理措施，實(shí)施安全可控的技術(shù)保障措施。

“AI換臉、AI繪畫等常用技術(shù)及其生產(chǎn)內(nèi)容，今后還能使用嗎？”有網(wǎng)友在社交平臺(tái)上這樣提問。中國科學(xué)院自動(dòng)化研究所研究員陶建華介紹，《規(guī)定》從兩個(gè)方面明確了深度合成內(nèi)容標(biāo)識(shí)管理的具體要求：一是要添加不影響使用的標(biāo)識(shí)，保障深度合成信息內(nèi)容可識(shí)別溯源；二是要使用顯著方式，對(duì)生成或顯著改變信息內(nèi)容的深度合成信息內(nèi)容進(jìn)行標(biāo)識(shí)，保障公眾知情權(quán)。

“虛擬主播”如何管理？中國人民大學(xué)未來法治研究院執(zhí)行院長張吉豫提到，《規(guī)定》將“數(shù)字人物”納入深度合成管理，這是對(duì)深度合成技術(shù)的不斷發(fā)展運(yùn)用中可能面臨的風(fēng)險(xiǎn)所進(jìn)行的科學(xué)研判，數(shù)字人物運(yùn)用中同樣涉及私權(quán)、可能帶來問題，需要進(jìn)行合理規(guī)范。

技術(shù)發(fā)展要兼具“創(chuàng)新”與“溫暖”

正如眾多網(wǎng)民在接觸和使用之中的感受，深度合成技術(shù)具有“兩面性”。如何使其保持快速發(fā)展的同時(shí)，在各個(gè)應(yīng)用領(lǐng)域得到依法合理有效利用，最大程度服務(wù)于滿足用戶需求、改進(jìn)用戶體驗(yàn)，保障“眼見為實(shí)”，是網(wǎng)民的深度關(guān)切和期待。

張凌寒提到，深度合成技術(shù)代表了未來人工智能產(chǎn)業(yè)發(fā)展的重要方向，重新定義了虛擬化數(shù)字生存空間。

2021年“元宇宙”概念的火熱，為深度合成技術(shù)提供了更加寬廣的應(yīng)用場景，也促進(jìn)了深度合成技術(shù)的加速發(fā)展。“《規(guī)定》也回應(yīng)了這一人工智能未來的發(fā)展方向，三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場景、沉浸式擬真場景的技術(shù)，是《規(guī)定》規(guī)制的深度合成技術(shù)的重要類別。”張凌寒說。

深度合成技術(shù)向善使用，甚至還可帶給人“情感慰藉”。2019年，我國某人工智能實(shí)驗(yàn)室受一位作為母親的網(wǎng)民所托，將其已離世的女兒合成“復(fù)制”為可交互的軟件，女兒的“語音”得以在互動(dòng)終端設(shè)備中重現(xiàn)。一位美國記者詹姆斯·弗拉霍斯（James Vlahos）在父親確診為癌癥晚期后，收集了父親的錄音、生平、記憶，并利用這些數(shù)據(jù)開發(fā)擁有父親“思想”和“記憶”的AI機(jī)器人，它能夠用父親的口吻與詹姆斯進(jìn)行有思維性的聊天，讓詹姆斯感到十分欣慰。

創(chuàng)新與溫情之外，業(yè)內(nèi)人士坦言，深度合成內(nèi)容行業(yè)的挑戰(zhàn)，將主要體現(xiàn)在深度合成逼真度正在快速提升，甚至很難分辨真?zhèn)芜吔?。而最新的深度偽造技術(shù)具備強(qiáng)對(duì)抗性，天然針對(duì)檢測方法進(jìn)行對(duì)抗攻擊，從而使檢測方法失效。

面向算法正面正向的應(yīng)用，《規(guī)定》已給出了解答和方向。陶建華說，《規(guī)定》明確了技術(shù)應(yīng)用的底線，要求體現(xiàn)正確的社會(huì)價(jià)值觀；要建立健全辟謠機(jī)制并及時(shí)采取相應(yīng)辟謠措施；同時(shí)鼓勵(lì)深度合成服務(wù)相關(guān)行業(yè)自律并遵循公正公平、公開透明、科學(xué)合理和誠實(shí)信用的原則。

中國社科院哲學(xué)所科技哲學(xué)研究室主任、研究員段偉文還建議，深度合成技術(shù)涉及認(rèn)知安全，要提升社會(huì)認(rèn)知安全意識(shí)，提升公眾的數(shù)字素養(yǎng)。

免責(zé)聲明：凡本網(wǎng)注明“來源：XXX（非駐馬店廣視網(wǎng)、駐馬店融媒、駐馬店網(wǎng)絡(luò)問政、掌上駐馬店、駐馬店頭條、駐馬店廣播電視臺(tái)）”的作品，均轉(zhuǎn)載自其它媒體，轉(zhuǎn)載目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé)，作品版權(quán)歸原作者所有，如有侵犯您的原創(chuàng)版權(quán)請告知，我們將盡快刪除相關(guān)內(nèi)容。凡是本網(wǎng)原創(chuàng)的作品，拒絕任何不保留版權(quán)的轉(zhuǎn)載，如需轉(zhuǎn)載請標(biāo)注來源并添加本文鏈接：http://cokin-filiter.com.cn/showinfo-124-285071-0.html，否則承擔(dān)相應(yīng)法律后果。