·由人工智能生成的假泰勒·斯威夫特帶貨廣告在社交媒體Facebook上傳播。1月15日，印度的板球傳奇人物薩欽·坦杜卡也成為了AI深度造假的受害者。

·美國政府警告，“深度造假”詐騙正在增加，在購買商品之前請花一點時間重新檢查帖子和社交媒體賬戶，這些照片和視頻很可能是假的。

AI生成的泰勒·斯威夫特推銷Le Creuset炊具視頻。

AI“深度造假”（Deepfake）技術再次引發(fā)關注。

一則由人工智能生成的假泰勒·斯威夫特（Taylor Swift，中文綽號“霉霉”）帶貨廣告在社交媒體Facebook上傳播。涉事公司對此迅速做出回應稱，斯威夫特沒有參與任何消費者贈品活動，所有關于產(chǎn)品促銷的活動均來自官方社交活動。

澎湃科技（www.dbgt.com.cn)注意到，斯威夫特并非最新被牽扯到利用人工智能技術造假的名人。1月15日，印度的板球傳奇人物薩欽·坦杜卡（Sachin Tendulkar）也成為AI深度造假的受害者。

泰勒·斯威夫特免費送你法國高端廚具？假的！

“嘿你們好，我是泰勒·斯威夫特。由于包裝出錯，有3000套Le Creuset（中文名譯為‘酷彩’）炊具套裝無法正常線下銷售，轉向線上出售。有一個好消息分享給你們，我與Le Creuset聯(lián)手進行促銷——有20位忠實粉絲將免費獲得贈送的炊具套裝?！?/p>

在這則廣告中，斯威夫特坐在鋼琴前，向大家推銷法國高端炊具品牌Le Creuset，并表示作為她的“新年大放送”，會向20位粉絲免費贈送一套炊具。

事實上，視頻中的“霉霉”并不是真的斯威夫特，而是AI“深度造假”技術合成了她的聲音，并將聲音與她的形象和Le Creuset廣告片段拼湊在一起。

據(jù)《紐約時報》1月9日報道，騙子利用合成的聲音稱呼斯威夫特的粉絲為“斯威夫提（Swifties）”。在合成的廣告中，斯威夫特的克隆聲音對“斯威夫提”，即她的粉絲說她“很高興”能免費分發(fā)炊具套裝。當受害者被引導至虛假網(wǎng)站后，會被要求支付9.96美元的運費。但號稱免費送的廚具不會真的送出去。

Le Creuset和Facebook母公司Meta對這一欺詐活動迅速做出了回應。

據(jù)?？怂剐侣?月12日報道，目前，Meta表示已經(jīng)刪除該廣告。

Le Creuset聲明，該公司并沒有與斯威夫特合作任何消費者贈品活動，所有經(jīng)批準的Le Creuset贈品或促銷活動均來自官方社交賬號。

印度當?shù)孛襟w《經(jīng)濟時報》1月15日報道，印度板球傳奇人物坦杜卡也成為了深度造假的受害者。

此前一段視頻顯示，這位板球運動員支持一款名為Skyward Aviator Quest的游戲應用程序，并稱他的女兒通過使用該應用程序預測游戲結果，每日收入高達18萬盧比。

印度板球傳奇人物薩欽·坦杜卡（Sachin Tendulkar）在社交媒體上對AI深度造假的回應 來源：社交媒體X截圖

杜卡回應稱，“這些視頻是假的，技術濫用現(xiàn)象猖獗，令人不安。請求大家大量舉報此類視頻、廣告和應用程序。社交媒體平臺需要保持警惕并響應投訴。他們的行動對于阻止錯誤信息和深度造假的傳播至關重要。”

美國AI深度造假詐騙正在增加

美國布法羅大學“媒體取證實驗室”的計算機科學教授呂思偉 （Siwei Lyu）在接受《紐約時報》記者采訪時表示，“霉霉”這起“深度造假”詐騙活動很可能是利用文字轉語音服務制作的。這類工具可將腳本轉譯成聲音，并用唇語同步程序將其合成至視頻片段。

深度造假（Deepfake）是英文“Deep learning”（深度學習）和“Fake”（偽造）的混成詞，指利用深度學習技術生成合成圖像、音頻或視頻的技術。

隨著人工智能技術的崛起和相關工具使用門檻的降低，越來越多包含深度造假技術的視頻被生產(chǎn)出來，并日益發(fā)展出了新的應用場景。過去一年，人工智能取得重大進步，制作未經(jīng)授權的真人數(shù)字復制品變得更加容易，音頻、視頻惡搞特別容易，也很難識別。

美國商業(yè)改善局去年警告，“深度造假”詐騙正在增加，“在購買商品之前，請花一點時間重新檢查帖子和社交媒體賬戶，這些照片和視頻很可能是假的，如果你購買了不合格或不存在的產(chǎn)品，你就會損失金錢（通常比你想象的還要多）?！?/p>