·AI生成的歌手泰勒·斯威夫特的虛假露骨照片在社交媒體平臺(tái)上瘋傳，驚動(dòng)美國白宮。由于來不及刪圖，社交平臺(tái)X一度封鎖了對斯威夫特的相關(guān)搜索。

國外社交平臺(tái)涌現(xiàn)大量以泰勒·斯威夫特為主角的“不雅照片”。圖源：網(wǎng)絡(luò)截圖

美國知名女歌手泰勒·斯威夫特（Taylor Swift）再次成為AI深度造假（deepfake）技術(shù)的受害者。

近日，由AI生成的斯威夫特的虛假露骨照片在社交媒體平臺(tái)上瘋傳，短時(shí)間內(nèi)瀏覽量飆升至上千萬，驚動(dòng)美國白宮。白宮新聞發(fā)言人卡里娜·讓-皮埃爾（Karine Jean-Pierre）警告AI生成照片的傳播“令人擔(dān)憂”，并敦促社交媒體公司防止此類錯(cuò)誤信息的傳播。由于來不及刪除這些有害圖片，社交平臺(tái)X（前身Twitter）一度封鎖了對斯威夫特的相關(guān)搜索。

如果普通人的AI虛假露骨照片被傳播時(shí)，他們該如何維權(quán)？社交平臺(tái)具有怎樣的監(jiān)管責(zé)任？對此，上海大邦律師事務(wù)所高級(jí)合伙人游云庭建議，按照中國法律，如果有人散布此類照片，受害人可以按照名譽(yù)侵權(quán)和肖像侵權(quán)罪名起訴。如果照片較為露骨，受害人還可以指控發(fā)布者犯有傳播淫穢物品罪，由公安機(jī)關(guān)進(jìn)行偵查，對其進(jìn)行刑事打擊。

AI深度造假技術(shù)多次瞄準(zhǔn)斯威夫特

1月25日，一名X用戶分享的斯威夫特的虛假露骨圖片被瀏覽了4700萬次，其賬戶隨后被暫停。盡管X努力刪除相關(guān)不雅照片，但這些內(nèi)容仍在多個(gè)媒體平臺(tái)上分享，并遭到瘋狂傳播。

隨后，斯威夫特的粉絲們很快關(guān)注到此事，發(fā)布大量“保護(hù)泰勒·斯威夫特”的帖子，嘗試淹沒露骨圖片。

據(jù)英國《每日郵報(bào)》1月25日報(bào)道，一位接近斯威夫特的消息人士表示，斯威夫特對網(wǎng)上流傳的虛假圖像感到“憤怒”，并正在考慮對傳播這些圖像的深度造假色情網(wǎng)站采取法律措施。

對此，X在1月26日發(fā)表聲明稱，嚴(yán)格禁止在該平臺(tái)上發(fā)布未經(jīng)同意的露骨內(nèi)容，對此類內(nèi)容采取零容忍政策，團(tuán)隊(duì)正在積極刪除所有已識(shí)別的圖像，并對發(fā)布這些圖像的賬戶采取適當(dāng)?shù)男袆?dòng)。

此次事件引起了美國白宮的注意。1月26日，白宮新聞發(fā)言人讓-皮埃爾表示：“網(wǎng)絡(luò)上的執(zhí)法不嚴(yán)對女性影響更大，她們是受到網(wǎng)絡(luò)騷擾和欺凌的主要目標(biāo)。”她還補(bǔ)充說，應(yīng)該立法解決社交媒體上濫用人工智能技術(shù)的問題，平臺(tái)也應(yīng)該采取措施，在其網(wǎng)站上禁止此類內(nèi)容。

作為斯威夫特虛假照片主要傳播的平臺(tái)之一，X在連續(xù)幾天封鎖了對她的相關(guān)搜索后，于1月29日晚結(jié)束封鎖。X運(yùn)營主管喬·貝納羅奇（Joe Benarroch）對媒體表示：“搜索已重新啟用，我們將繼續(xù)對任何傳播此內(nèi)容的企圖保持警惕，一旦發(fā)現(xiàn)，我們將立刻刪除?！?/p>

這并不是斯威夫特第一次成為AI深度造假的受害者，不久前，她的聲音經(jīng)過深度造假技術(shù)被合成在虛假廣告中。在該廣告中，斯威夫特的克隆聲音對她的粉絲說，她“很高興”能免費(fèi)分發(fā)炊具套裝。當(dāng)受害者被引導(dǎo)至虛假網(wǎng)站后，會(huì)被要求支付9.96美元的運(yùn)費(fèi)，但號(hào)稱免費(fèi)送的廚具不會(huì)真的送出去。

深度造假是英文“Deep learning”（深度學(xué)習(xí)）和“Fake”（偽造）的混成詞，指利用深度學(xué)習(xí)技術(shù)生成人造圖像、音頻或視頻的技術(shù)。無論是克隆聲音還是合成圖片，深度造假都展現(xiàn)出強(qiáng)大的制造虛假內(nèi)容的能力。

在斯威夫特AI露骨照片事件后，1月29日，微軟公司宣布，對旗下AI圖片生成產(chǎn)品Designer引入更多“護(hù)欄”，以避免在未經(jīng)同意的情況下生成名人的露骨圖片。

1月30日，著名經(jīng)紀(jì)公司W(wǎng)ME宣布與科技公司Vermillio建立合作伙伴關(guān)系，希望能夠保護(hù)其客戶的肖像免遭人工智能技術(shù)濫用。Vermillio創(chuàng)建了一個(gè)名為Trace ID的平臺(tái)，可使用人工智能技術(shù)跟蹤圖像，來保護(hù)WME客戶的肖像和知識(shí)產(chǎn)權(quán)免遭盜竊。該合作還將尋求利用技術(shù)手段讓客戶能夠通過自己的肖像和形象獲利。

普通女性如果成為深度造假受害者，該如何維權(quán)？

不僅公眾人物會(huì)成為AI造假技術(shù)的受害者，普通女性也有類似經(jīng)歷。

據(jù)美國有線電視新聞網(wǎng)（CNN）2023年11月4日報(bào)道，一名14歲的新澤西州高中生表示，她和其他30多名女同學(xué)的照片被篡改并在網(wǎng)上分享，她呼吁聯(lián)邦機(jī)構(gòu)立法解決人工智能生成的露骨圖片問題。

自2023年以來，中國也已發(fā)生多起AI深度造假詐騙案件和多起利用AI造黃謠事件，令人防不勝防。普通人如果遇到此類事件該如何維權(quán)？

上海大邦律師事務(wù)所高級(jí)合伙人游云庭建議，按照中國法律，如果有人散布此類照片，首先受害人可以按照名譽(yù)侵權(quán)和肖像侵權(quán)為由到法院起訴，其次如果照片較為露骨，受害人還可以舉報(bào)發(fā)布者犯有傳播淫穢物品罪或者侮辱罪，由公安機(jī)關(guān)進(jìn)行偵查，對其進(jìn)行刑事打擊。公安機(jī)關(guān)可以依職權(quán)立案偵查，如涉嫌犯罪可將嫌疑人移送檢察機(jī)關(guān)進(jìn)行起訴。受害人也可以就侮辱罪進(jìn)行刑事自訴。

游云庭稱，社交媒體平臺(tái)應(yīng)該壓實(shí)責(zé)任，及時(shí)對平臺(tái)內(nèi)的侵權(quán)內(nèi)容進(jìn)行清查，并屏蔽相關(guān)關(guān)鍵詞，以阻斷侵權(quán)內(nèi)容的傳播。此外，如果用國內(nèi)接受法律監(jiān)管的公司的人工智能技術(shù)進(jìn)行生成，那提供技術(shù)的公司也應(yīng)有審查的責(zé)任。

北京德和衡（上海）律師事務(wù)所的魏屹威律師認(rèn)為，類似事件若發(fā)生在中國，受害人不妨按照以下步驟進(jìn)行維權(quán)。首先，受害人要注意侵權(quán)證據(jù)的搜集和保全，可以使用生成“時(shí)間戳”的證據(jù)搜集工具對侵權(quán)事實(shí)加以固定，以防侵權(quán)人毀滅證據(jù)；其次，在完成取證之時(shí)，可以以發(fā)送律師函等方式函告發(fā)布AI生成物的企業(yè)及網(wǎng)站運(yùn)營企業(yè)，要求其對相關(guān)的AI生成物采取下架、斷開鏈接等措施，并要求其公開道歉、賠償損失、消除對受害人的不利影響；再次，如果其拒不整改，可以在已有證據(jù)的基礎(chǔ)上選擇行政投訴舉報(bào)、名譽(yù)權(quán)侵權(quán)訴訟，或至刑事控告等途徑進(jìn)一步維權(quán)。