記者暗訪“AI脫衣”：涉幼童軟色情圖片輕松買賣
《南方都市報》2023年7月21日A10版見報。
日前，中央網(wǎng)信辦開展為期2個月的“清朗·2023年暑期未成年人網(wǎng)絡(luò)環(huán)境整治”專項行動，整治重點(diǎn)聚焦包括“AI換臉”“AI繪圖”等在內(nèi)的新技術(shù)新應(yīng)用風(fēng)險問題。南都記者調(diào)查發(fā)現(xiàn)，隨著AI技術(shù)的普及，其帶來的隱患在網(wǎng)絡(luò)中廣泛存在。其中，AI繪圖不僅輕松生成涉及未成年人的低俗色情圖片視頻，AI換臉生成說話視頻僅需幾十元，這些新技術(shù)的產(chǎn)生正在給未成年人帶來看不見的隱患和風(fēng)險。
賣方：有“AI繪圖”涉未成年軟色情
2019年，國家互聯(lián)網(wǎng)信息辦公室發(fā)布的《兒童個人網(wǎng)絡(luò)信息保護(hù)規(guī)定》于同年10月1日執(zhí)行，里面對兒童個人網(wǎng)絡(luò)信息保護(hù)做了詳細(xì)規(guī)定。其中，兒童個人信息影響最為惡劣的，是持有、傳播兒童色情信息。
南都記者注意到，近期有網(wǎng)友反映在國內(nèi)的一些視頻網(wǎng)站上已出現(xiàn)了涉嫌兒童色情的AI繪圖內(nèi)容，聲稱一些博主訓(xùn)練AI，將女童的臉放在各種有挑逗意味的動作上，讓幼童向鏡頭掀裙子、穿“下衣失蹤裝”，并附有圖文。微博上，一篇強(qiáng)烈抨擊AI繪圖生成“二次元女童懷孕照”的熱帖，獲得了網(wǎng)友上萬點(diǎn)贊。
南都記者進(jìn)一步調(diào)查發(fā)現(xiàn)，一些視頻網(wǎng)站正為此類AI生成的未成年軟色情圖片、視頻提供傳播渠道。在搜索實測中，記者輕松就能搜索出很多衣著暴露、姿勢帶有性暗示的AI生成女性圖片。如果關(guān)鍵詞再詳細(xì)一點(diǎn)，也不乏未成年女孩的軟色情生成圖片。有發(fā)布視頻的人更在評論區(qū)留下圖片鏈接，以換取觀眾的點(diǎn)贊和關(guān)注；也有人留下QQ號和聯(lián)系方式用來“接單”，聲稱如有具體需求，可在繪圖模型中設(shè)置詳細(xì)描述詞生成。
暗訪中記者還發(fā)現(xiàn)，在電商平臺上，可搜索出大量利用打著“AI繪圖”“AI換臉”等旗號生成美女視頻的店家。“傻瓜式操作，小白輕松上手，海量關(guān)鍵詞描述免費(fèi)使用”，一店家打著上述廣告語，表示只需要輸入一系列關(guān)鍵詞就可智能生成自己想要的圖片。
嘗試購買后，客服會發(fā)送來云鏈接和提取碼，其售賣內(nèi)容包含SD模型包、繪畫速成、變現(xiàn)方式及安裝說明。在對方發(fā)來的圖片素材和描述詞匯中，不少涉及低俗色情內(nèi)容，且輕松便能生成未成年少女的軟色情圖。此外，評論處還曬出了不少由AI生成的學(xué)生圖片，這些少女看上去臉龐幼稚、姿勢帶有未成年軟色情的擦邊之嫌。
買方：未成年也能購買“AI脫衣”產(chǎn)品
今年3月，一則“女子地鐵照被AI一鍵脫衣”的消息沖上微博熱搜。照片上的女子是一名博主，在社交平臺發(fā)布了一組在地鐵上拍攝的穿搭照片，卻被人用AI軟件“一鍵脫衣”，故意在網(wǎng)上散播。對此，該博主表示會采取相應(yīng)的維權(quán)措施，并希望能夠引起人們對于隱私權(quán)和個人形象保護(hù)的關(guān)注。
其實，“AI脫衣”的危害甚至禍及未成年人。記者通過商家了解到，部分AI繪圖軟件同樣支持一鍵脫衣。一名賣家聲稱自己“資源眾多”，不僅售賣繪圖軟件，還有海量圖片素材，在網(wǎng)頁詳細(xì)地將圖集分為“二次元”“國風(fēng)”“動漫”“機(jī)甲”等多個種類，在對方介紹的圖片素材中，出現(xiàn)了“女孩”“少女”等多個字眼。還有商家表示專門售賣“AI繪畫校服寫真”的圖片素材，形象為穿著校服的女學(xué)生，卻衣著暴露、表情挑逗。
這些提供“AI脫衣”相關(guān)技術(shù)或服務(wù)的商家，有的會通過隱藏的地址逃避監(jiān)管，輸入驗證碼后方可查看；還有的需要先關(guān)注某公眾號，再發(fā)送暗號兩字獲取驗證碼；或者是通過客服咨詢，在對話中對方提供網(wǎng)頁鏈接，通過鏈接下載最新版的APP。記者實測發(fā)現(xiàn)，對于這些軟件下載，未成年人無需進(jìn)行身份識別，輸入關(guān)鍵詞找到渠道便可輕易操作。
除了生成低俗色情圖片視頻外，這些新技術(shù)也容易在其他渠道上帶來風(fēng)險和隱患。
記者在短視頻平臺進(jìn)行檢索，會彈出大量相關(guān)的短視頻廣告，下附AI換臉軟件的鏈接。在一款叫“AI隨拍”的軟件鏈接后，各式各樣的明星、素人短視頻浮現(xiàn)在主頁上。只需觀看25秒的廣告，就可以用這款A(yù)PP免費(fèi)制作一個十多秒的視頻。通常，這些短視頻下方都附有下載鏈接，廣告流量可觀，很多視頻評論過千，轉(zhuǎn)發(fā)量過萬。
除此之外，記者在電商平臺上搜索發(fā)現(xiàn)多個商家頁面，支持面容轉(zhuǎn)換一步到位，月銷量數(shù)百乃至上千。有客服向記者表示，其售賣的是一款軟件，無論是圖片或是視頻都支持一鍵換臉，售賣價格僅幾十元。
專家：壓實平臺主體責(zé)任 探索集體訴訟制度
對此，中國互聯(lián)網(wǎng)協(xié)會法工委副秘書長胡鋼認(rèn)為，人工智能，特別是以ChatGPT為代表的生成式人工智能，已經(jīng)引發(fā)新一輪顛覆性技術(shù)革命，并給全人類帶來巨大機(jī)遇和強(qiáng)勁挑戰(zhàn)。而近年來，我國先后發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等，就是對人工智能法律體系的細(xì)化完善。
中國社會科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心執(zhí)行主任劉曉春則認(rèn)為，傳統(tǒng)對于軟色情等不良信息治理更多基于傳播端的控制，比如禁止傳播或者限制傳播，有專門的內(nèi)容生產(chǎn)者，用戶只需要獲取再進(jìn)一步的傳播。“而現(xiàn)在的難題恰恰在于AI技術(shù)能使內(nèi)容生產(chǎn)變得非常簡單，不需要專業(yè)的人士和機(jī)構(gòu)，每個人都能成為生成者，那么以前對于傳播環(huán)節(jié)的控制就有點(diǎn)失靈了。”
劉曉春表示，現(xiàn)在要做的，除了沿用傳統(tǒng)對不良信息傳播端口的控制，還要轉(zhuǎn)變?yōu)閷夹g(shù)工具本身、包括對技術(shù)工具開發(fā)過程的干預(yù)和控制。“比如在一些高風(fēng)險場景下，要求這些AI工具提供標(biāo)識，在生成的圖片視頻中標(biāo)明合成及非真實的，或在AI工具中插入隱性標(biāo)識，能夠追溯特定的工具和使用用戶。”而治理的重點(diǎn)，要針對一些關(guān)鍵環(huán)節(jié)去介入，比如能獲取這些不良信息的電商平臺、APP應(yīng)用市場、包括直播間等，對其進(jìn)行嚴(yán)格的控制及作出相應(yīng)的處罰，壓實平臺責(zé)任主體。
而此次中央網(wǎng)信辦專項行動聚焦的七大重點(diǎn)之一，即劍指新技術(shù)新應(yīng)用風(fēng)險問題，包括利用“AI換臉”“AI繪圖”“AI一鍵脫衣”等技術(shù)生成涉未成年人低俗色情圖片視頻等。“說明問題已經(jīng)凸顯出來，引起了有關(guān)部門的重視，并把它作為重點(diǎn)打擊的對象。”劉曉春說，希望有關(guān)部門能有一些更創(chuàng)新的治理舉措，并針對性地采取舉措，“相信總體還是可控的。”
關(guān)于國內(nèi)人工智能治理與維權(quán)，胡鋼表示，要深化消保組織和檢察機(jī)關(guān)消費(fèi)公益訴訟機(jī)制，探索建立消費(fèi)者集體訴訟制度，進(jìn)一步完善行政監(jiān)管、民事公益訴訟、民事私益訴訟、綜合調(diào)處銜接協(xié)調(diào)機(jī)制，構(gòu)建及時、高效、一體化、網(wǎng)絡(luò)化的消費(fèi)糾紛解決機(jī)制。
總第013期
出品：南都記者幫
采寫：南都記者 張思琦 實習(xí)生 姚楚翹