(資料圖片)

近來，“AI換臉”技術(shù)又掀起一波熱潮，“只需上傳照片，輕松生成換臉視頻，隨心所欲體驗百變造型”，不少“AI換臉軟件的簡介上這樣介紹，這種爆火的新玩法吸引了大批網(wǎng)友嘗試。

“AI換臉”技術(shù)通過深度合成算法處理，對圖片或者視頻中的目標(biāo)人臉進(jìn)行置換，便可“以假亂真”，滿足了網(wǎng)絡(luò)受眾的獵奇心理和社交需求，為影視、教育、娛樂等領(lǐng)域的發(fā)展提供了技術(shù)上的支持。不論是各色各樣的換臉變裝，還是影視劇中的技術(shù)修復(fù)，人們真真切切地感受到了科技進(jìn)步帶來的驚喜與樂趣。

“AI換臉”技術(shù)帶給人新鮮感的同時，風(fēng)險也日益顯現(xiàn)，非法濫用導(dǎo)致的侵犯隱私、危害數(shù)據(jù)安全、違法犯罪等問題層出不窮，一個個鮮活真實的案例就在我們身邊。隨意將明星替換到不雅視頻中丑化傳播；“AI黃謠”事件鬧得沸沸揚揚，女子在乘坐地鐵時被不法之人利用AI一鍵脫衣；犯罪團(tuán)伙利用AI技術(shù)，制作變聲換臉視頻，誘騙老人和小孩。從網(wǎng)民傳播照片到軟件程序開發(fā)平臺提供“換臉腳本和詳細(xì)教程”，再到灰色產(chǎn)業(yè)鏈條進(jìn)行照片加工服務(wù)，逐步打開了“AI換臉”的“潘多拉的魔盒”。

“AI換臉”技術(shù)是數(shù)據(jù)智能化發(fā)展的產(chǎn)物，并沒有什么黑白好壞之分，但不法分子的貪婪與瘋狂卻是不可低估的。高科技不能淪為肆意侵權(quán)的幫兇，不能成為滿足他人欲望和非法牟利的工具，更不能成為引發(fā)社會信任危機(jī)的導(dǎo)火索。為“AI換臉”技術(shù)戴上“緊箍咒”、打造“鐵柵欄”，筑牢“AI換臉”技術(shù)安全的防護(hù)墻還需要法律和技術(shù)雙管齊下。

目前，針對“AI換臉”亂象，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，重點強調(diào)深度合成技術(shù)涉及的信息安全主體責(zé)任，給“AI換臉”劃定應(yīng)用“紅線”。國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》，明確合成人工智能技術(shù)服務(wù)的規(guī)范、監(jiān)督和管理等內(nèi)容，這些政策法規(guī)和監(jiān)管體系不斷完善，使從業(yè)者、使用者有法可依、違法必究。但“AI換臉”技術(shù)也會隨著發(fā)展日臻成熟，因此對于深度合成技術(shù)治理路徑還需進(jìn)一步探索，對數(shù)據(jù)確權(quán)、行業(yè)倫理、技術(shù)安全等方面作出更系統(tǒng)的規(guī)定，只有把法律的防護(hù)“盔甲”打造的無比堅硬，才能時刻抵御住“AI換臉”這把雙刃劍。

以技術(shù)手段克服技術(shù)困境，除了網(wǎng)絡(luò)服務(wù)平臺對用戶信息審核及限定傳播范圍外，相關(guān)行業(yè)和監(jiān)管部門還需不斷加強技術(shù)更迭，細(xì)化人工智能算法的安全評估體系，研發(fā)出相應(yīng)的“反換臉”技術(shù)，能夠檢測、鑒定、溯源深度合成的視頻和圖片，為法律的保護(hù)成效提供技術(shù)支撐，為可能到來的挑戰(zhàn)做好準(zhǔn)備。

身處在人工智能時代的每一個人，應(yīng)該提高對深度合成技術(shù)的辨別和防范意識以及自我素養(yǎng)，在安全享受技術(shù)的同時，共同維護(hù)清朗的網(wǎng)絡(luò)環(huán)境。只有多方發(fā)力，促進(jìn)“AI技術(shù)”向上向善，才能讓科學(xué)技術(shù)真正地助推社會發(fā)展，便利人們生活。

稿源：荊楚網(wǎng)（湖北日報網(wǎng)）

作者：秦雪花（宜昌興山）

責(zé)編：王舒嫻