女銷冠不雅視頻系A(chǔ)I合成，造謠男子被行拘5日，AI換臉如何治？

10月12日，青島保時(shí)捷女銷冠牟女士在社交平臺(tái)曬出青島市公安局李滄分局行政處罰決定書(shū)。

行政處罰決定書(shū)顯示，一男子在群內(nèi)轉(zhuǎn)發(fā)牟某文照片圖文并搭配不雅視頻，對(duì)其侮辱，后被查獲。根據(jù)《中華人民共和國(guó)治安管理處罰法》第四十二條第二項(xiàng)之規(guī)定，決定給予行政拘留五日的行政處罰。

此前報(bào)道

近日，青島保時(shí)捷銷售中心的工作人員牟女士在社交媒體上稱，近期發(fā)現(xiàn)由AI惡意合成的虛假視頻和不良視頻，對(duì)其進(jìn)行誹謗和侮辱。她已向公安機(jī)關(guān)報(bào)案，“堅(jiān)決追究所有涉案人員的民事及刑事責(zé)任。”

據(jù)報(bào)道，牟女士今年34歲，曾于2023年、2024年連續(xù)兩年賣出170臺(tái)保時(shí)捷，兩次成為保時(shí)捷年度銷冠。今年9月，她再度成為保時(shí)捷月度銷冠，登上熱搜第一。

10月9日，牟女士曾在社交媒體上表示，收到了網(wǎng)友發(fā)來(lái)的“不合適的內(nèi)容”，已將其拉黑，同時(shí)公布了涉及不雅內(nèi)容的聊天截圖。

10月10日，牟女士通過(guò)社交媒體公布了自己在派出所處理相關(guān)事宜的照片，配文稱：網(wǎng)絡(luò)上出現(xiàn)大量利用AI技術(shù)惡意合成的虛假視頻以及跟面部側(cè)臉局部相似的不良視頻，對(duì)她進(jìn)行誹謗和侮辱，甚至肆意傳播，泄露她的電話以及微信號(hào)，已對(duì)正常生活造成了嚴(yán)重的影響。

牟女士還表示自己遭遇了騷擾電話“轟炸”，出示的通話記錄截圖顯示，16時(shí)41分至17時(shí)53分之間，手機(jī)接到多個(gè)騷擾電話，微信也收到許多不明的添加好友申請(qǐng)。

AI換臉換裝
或涉嫌刑事犯罪

近年來(lái)，“AI換臉”走紅網(wǎng)絡(luò)，一些“AI換臉”的App使用明星的圖片制作換臉視頻進(jìn)行推廣，其趣味性背后暗藏不少法律風(fēng)險(xiǎn)和侵權(quán)糾紛。

明星劉昊然就曾在2021年8月26日發(fā)博打假，控訴網(wǎng)上流傳的某淫穢視頻為AI換臉技術(shù)偽造，并向警方報(bào)案。

專家表示，在《網(wǎng)絡(luò)安全法》第二十七條的規(guī)定當(dāng)中，特別強(qiáng)調(diào)，明知他人實(shí)施危害網(wǎng)絡(luò)安全活動(dòng)的，不能夠?yàn)樗峁┘夹g(shù)支持，如果情節(jié)嚴(yán)重，還會(huì)構(gòu)成幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪等刑事犯罪。

《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》中也提出，要對(duì)深度合成技術(shù)應(yīng)用提出規(guī)范。

AI換臉亂象頻現(xiàn)如何治理？

AI換臉技術(shù)的濫用，不僅是對(duì)受害人個(gè)體的侵害，更是對(duì)社會(huì)公序良俗的踐踏、對(duì)穩(wěn)定的社會(huì)環(huán)境和清朗的網(wǎng)絡(luò)空間的挑戰(zhàn)。我國(guó)民法典、治安管理處罰法、刑法等法律，對(duì)于利用AI換臉制作淫穢視頻的違法行為，規(guī)定了相應(yīng)的民事責(zé)任、行政責(zé)任、刑事責(zé)任，行為人需承擔(dān)相應(yīng)的法律責(zé)任。同時(shí)，針對(duì)AI以假亂真、虛假信息泛濫、破壞網(wǎng)絡(luò)生態(tài)等問(wèn)題，我國(guó)目前已出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法規(guī)，對(duì)內(nèi)容造假者和傳播平臺(tái)的法律責(zé)任都有明確規(guī)定。近日，國(guó)家網(wǎng)信辦聯(lián)合多部門發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，自2025年9月1日起施行，重點(diǎn)解決“哪些是生成的”“誰(shuí)生成的”“從哪里生成的”等問(wèn)題，規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí)。

對(duì)此，相關(guān)服務(wù)主體應(yīng)建立健全AI內(nèi)容審核機(jī)制，及時(shí)發(fā)現(xiàn)和處理違規(guī)的AI換臉作品。同時(shí)，明確技術(shù)使用規(guī)則，要求使用者遵守法律法規(guī)和道德規(guī)范。公眾則需提高對(duì)AI換臉技術(shù)的認(rèn)識(shí)和風(fēng)險(xiǎn)意識(shí)，在網(wǎng)上發(fā)布照片時(shí)注意保護(hù)個(gè)人隱私，發(fā)現(xiàn)不法行為時(shí)第一時(shí)間報(bào)警。治理AI換臉亂象需要全社會(huì)的共同努力，通過(guò)完善法律法規(guī)、加強(qiáng)監(jiān)管和行業(yè)自律等多種方式，營(yíng)造一個(gè)健康、安全的網(wǎng)絡(luò)環(huán)境。

（羊城晚報(bào)·羊城派綜合自紅星新聞、法治日?qǐng)?bào)、廣東普法）