·由人工智能生成的假泰勒·斯威夫特帶貨廣告在社交媒體Facebook上傳播。1月15日，印度的板球傳奇人物薩欽·坦杜卡也成為了AI深度造假的受害者。

·美國(guó)政府警告，“深度造假”詐騙正在增加，在購(gòu)買商品之前請(qǐng)花一點(diǎn)時(shí)間重新檢查帖子和社交媒體賬戶，這些照片和視頻很可能是假的。

AI生成的泰勒·斯威夫特推銷Le Creuset炊具視頻。

AI“深度造假”（Deepfake）技術(shù)再次引發(fā)關(guān)注。

一則由人工智能生成的假泰勒·斯威夫特（Taylor Swift，中文綽號(hào)“霉霉”）帶貨廣告在社交媒體Facebook上傳播。涉事公司對(duì)此迅速做出回應(yīng)稱，斯威夫特沒有參與任何消費(fèi)者贈(zèng)品活動(dòng)，所有關(guān)于產(chǎn)品促銷的活動(dòng)均來自官方社交活動(dòng)。

澎湃科技（www.dbgt.com.cn)注意到，斯威夫特并非最新被牽扯到利用人工智能技術(shù)造假的名人。1月15日，印度的板球傳奇人物薩欽·坦杜卡（Sachin Tendulkar）也成為AI深度造假的受害者。

泰勒·斯威夫特免費(fèi)送你法國(guó)高端廚具？假的！

“嘿你們好，我是泰勒·斯威夫特。由于包裝出錯(cuò)，有3000套Le Creuset（中文名譯為‘酷彩’）炊具套裝無法正常線下銷售，轉(zhuǎn)向線上出售。有一個(gè)好消息分享給你們，我與Le Creuset聯(lián)手進(jìn)行促銷——有20位忠實(shí)粉絲將免費(fèi)獲得贈(zèng)送的炊具套裝?！?/p>

在這則廣告中，斯威夫特坐在鋼琴前，向大家推銷法國(guó)高端炊具品牌Le Creuset，并表示作為她的“新年大放送”，會(huì)向20位粉絲免費(fèi)贈(zèng)送一套炊具。

事實(shí)上，視頻中的“霉霉”并不是真的斯威夫特，而是AI“深度造假”技術(shù)合成了她的聲音，并將聲音與她的形象和Le Creuset廣告片段拼湊在一起。

據(jù)《紐約時(shí)報(bào)》1月9日?qǐng)?bào)道，騙子利用合成的聲音稱呼斯威夫特的粉絲為“斯威夫提（Swifties）”。在合成的廣告中，斯威夫特的克隆聲音對(duì)“斯威夫提”，即她的粉絲說她“很高興”能免費(fèi)分發(fā)炊具套裝。當(dāng)受害者被引導(dǎo)至虛假網(wǎng)站后，會(huì)被要求支付9.96美元的運(yùn)費(fèi)。但號(hào)稱免費(fèi)送的廚具不會(huì)真的送出去。

Le Creuset和Facebook母公司Meta對(duì)這一欺詐活動(dòng)迅速做出了回應(yīng)。

據(jù)?？怂剐侣?月12日?qǐng)?bào)道，目前，Meta表示已經(jīng)刪除該廣告。

Le Creuset聲明，該公司并沒有與斯威夫特合作任何消費(fèi)者贈(zèng)品活動(dòng)，所有經(jīng)批準(zhǔn)的Le Creuset贈(zèng)品或促銷活動(dòng)均來自官方社交賬號(hào)。

印度當(dāng)?shù)孛襟w《經(jīng)濟(jì)時(shí)報(bào)》1月15日?qǐng)?bào)道，印度板球傳奇人物坦杜卡也成為了深度造假的受害者。

此前一段視頻顯示，這位板球運(yùn)動(dòng)員支持一款名為Skyward Aviator Quest的游戲應(yīng)用程序，并稱他的女兒通過使用該應(yīng)用程序預(yù)測(cè)游戲結(jié)果，每日收入高達(dá)18萬盧比。

印度板球傳奇人物薩欽·坦杜卡（Sachin Tendulkar）在社交媒體上對(duì)AI深度造假的回應(yīng) 來源：社交媒體X截圖

杜卡回應(yīng)稱，“這些視頻是假的，技術(shù)濫用現(xiàn)象猖獗，令人不安。請(qǐng)求大家大量舉報(bào)此類視頻、廣告和應(yīng)用程序。社交媒體平臺(tái)需要保持警惕并響應(yīng)投訴。他們的行動(dòng)對(duì)于阻止錯(cuò)誤信息和深度造假的傳播至關(guān)重要。”

美國(guó)AI深度造假詐騙正在增加

美國(guó)布法羅大學(xué)“媒體取證實(shí)驗(yàn)室”的計(jì)算機(jī)科學(xué)教授呂思偉 （Siwei Lyu）在接受《紐約時(shí)報(bào)》記者采訪時(shí)表示，“霉霉”這起“深度造假”詐騙活動(dòng)很可能是利用文字轉(zhuǎn)語音服務(wù)制作的。這類工具可將腳本轉(zhuǎn)譯成聲音，并用唇語同步程序?qū)⑵浜铣芍烈曨l片段。

深度造假（Deepfake）是英文“Deep learning”（深度學(xué)習(xí)）和“Fake”（偽造）的混成詞，指利用深度學(xué)習(xí)技術(shù)生成合成圖像、音頻或視頻的技術(shù)。

隨著人工智能技術(shù)的崛起和相關(guān)工具使用門檻的降低，越來越多包含深度造假技術(shù)的視頻被生產(chǎn)出來，并日益發(fā)展出了新的應(yīng)用場(chǎng)景。過去一年，人工智能取得重大進(jìn)步，制作未經(jīng)授權(quán)的真人數(shù)字復(fù)制品變得更加容易，音頻、視頻惡搞特別容易，也很難識(shí)別。

美國(guó)商業(yè)改善局去年警告，“深度造假”詐騙正在增加，“在購(gòu)買商品之前，請(qǐng)花一點(diǎn)時(shí)間重新檢查帖子和社交媒體賬戶，這些照片和視頻很可能是假的，如果你購(gòu)買了不合格或不存在的產(chǎn)品，你就會(huì)損失金錢（通常比你想象的還要多）?！?/p>