近期，一些社交平臺(tái)上出現(xiàn)所謂“營(yíng)養(yǎng)專家”出鏡推薦的“獨(dú)家減肥食譜”，不少消費(fèi)者信以為真，紛紛下單購(gòu)買。那么，這些看似權(quán)威的推薦，是否真的出自專家本人？背后隱藏著什么秘密？

名醫(yī)現(xiàn)身科普視頻

當(dāng)事人全然不知

一條AI仿冒視頻中，侃侃而談的專家，商家稱是北京協(xié)和醫(yī)院臨床營(yíng)養(yǎng)科主任于康教授，他是我國(guó)營(yíng)養(yǎng)與健康領(lǐng)域的權(quán)威專家。

記者在小紅書、微信視頻號(hào)上，刷到了不少，以于康教授形象出鏡的科普視頻，介紹和推銷減肥食譜。記者隨后聯(lián)系北京協(xié)和醫(yī)院調(diào)查核實(shí)。于康教授明確表示，他本人從未參與錄制此類視頻。

北京協(xié)和醫(yī)院臨床營(yíng)養(yǎng)科主任 于康：我?guī)缀跆焯焓盏胶门笥押透鞣N有我聯(lián)系方式的人給我發(fā)來(lái)的消息，有質(zhì)疑，還有提醒，經(jīng)常有的一句話就是“這是你嗎？”“這是于康嗎？”我一看這完全是我的形象，聲音相似度完全超乎了我的想象。現(xiàn)在技術(shù)能達(dá)到這個(gè)層級(jí)，一方面覺得不可思議，另外一方面覺得有一點(diǎn)后背發(fā)涼，挺可怕的。

盜用形象 科普失真 帶貨亂象危害不淺

科普視頻中，商家不僅盜用于康教授的形象，其介紹的營(yíng)養(yǎng)知識(shí)，也是毫無(wú)依據(jù)，沒有得到科學(xué)驗(yàn)證。

北京協(xié)和醫(yī)院臨床營(yíng)養(yǎng)科主任 于康：他借我的嘴說(shuō)出來(lái)的話，好像是有一定公信力，但是他利用這一點(diǎn)，兜售很多包括但不限于那些錯(cuò)誤商品、廣告還有錯(cuò)誤的信息，這些信息老百姓一旦信，到外頭一放大，這個(gè)影響就不是對(duì)我個(gè)人的影響，那是對(duì)千千萬(wàn)萬(wàn)受眾的影響。

于康教授更為擔(dān)憂的是，視頻里的錯(cuò)誤信息，會(huì)讓營(yíng)養(yǎng)學(xué)界長(zhǎng)期以來(lái)的科普努力，付諸東流。

北京協(xié)和醫(yī)院臨床營(yíng)養(yǎng)科主任 于康：由于這些東西的影響，大家出現(xiàn)了一些混淆，甚至可以說(shuō)，一些過去那些錯(cuò)誤認(rèn)知出現(xiàn)了反流或加重，這點(diǎn)比對(duì)我個(gè)人影響還要壞。

利用AI技術(shù)生成假視頻

醫(yī)院醫(yī)生深受其害

記者注意到，這些短視頻都來(lái)自一些自媒體賬號(hào)，除了出現(xiàn)于康教授形象，還有一個(gè)共同特點(diǎn)是使用虛擬背景。

不僅于康教授有這樣的困擾，北京協(xié)和醫(yī)院臨床營(yíng)養(yǎng)科馬方教授也遭遇了同樣的情況。在一個(gè)平臺(tái)網(wǎng)店的鏈接里，視頻里的“馬教授”分享了自己的減肥經(jīng)歷。

據(jù)北京協(xié)和醫(yī)院介紹，不少知名專家被AI換臉，用于“養(yǎng)生”“瘦身”等虛假宣傳，甚至還有不法商家利用AI生成假醫(yī)生，打著北京協(xié)和醫(yī)院的旗號(hào)，銷售各類商品，誤導(dǎo)消費(fèi)者。醫(yī)院、醫(yī)生深受其害。

北京協(xié)和醫(yī)院臨床營(yíng)養(yǎng)科主任 于康：相當(dāng)多網(wǎng)站并不是以真正推廣營(yíng)養(yǎng)，而是以擴(kuò)大所謂宣傳，增加售賣他的產(chǎn)品。他之所以用我的形象，是因?yàn)槲以诖蠹业男哪恐?，在科學(xué)營(yíng)養(yǎng)傳播方面信譽(yù)比較好，我們講實(shí)話、講證據(jù)、講科學(xué)，所以老百姓比較信，他利用這一點(diǎn)，大家就容易上當(dāng)受騙。

AI仿冒著名主持人

直播間虛假營(yíng)銷

隨著AI仿冒視頻的泛濫，司法部門和監(jiān)管部門已查處多起案件。記者在調(diào)查中了解到，多位公眾人物的形象被擅自用于商業(yè)推廣。

今年年初，北京市海淀區(qū)市場(chǎng)監(jiān)管局接到消費(fèi)者舉報(bào)，一直播間宣稱一款魚油產(chǎn)品具有醫(yī)療功效。該賬號(hào)發(fā)布的短視頻中，出現(xiàn)了中央廣播電視總臺(tái)主持人李梓萌的形象。

記者注意到，發(fā)布仿冒主持人李梓萌短視頻的賬號(hào)名為“廣州白云深海魚油工廠”，擁有粉絲80多萬(wàn)。進(jìn)入直播間后記者看到，這款魚油售價(jià)59.9元三瓶，頁(yè)面顯示已售出17.7萬(wàn)單。

北京市海淀區(qū)市場(chǎng)監(jiān)管局海淀街道市監(jiān)所科員 李欣容：它的執(zhí)行標(biāo)準(zhǔn)屬于糖果，包裝上面也并沒有像保健品的小藍(lán)帽標(biāo)識(shí)，并不屬于藥品，并沒有獲得藥品的批準(zhǔn)。直播間或者短視頻當(dāng)中，對(duì)普通的食品宣傳有醫(yī)療治療功能，或者說(shuō)使用醫(yī)療用語(yǔ)，肯定是違法的。

北京市海淀區(qū)市場(chǎng)監(jiān)管部門經(jīng)過向中央廣播電視總臺(tái)核實(shí)，最終確認(rèn)，總臺(tái)主持人李梓萌從未代言這款魚油產(chǎn)品，也未授權(quán)使用其形象進(jìn)行宣傳。

北京市海淀區(qū)市場(chǎng)監(jiān)管局海淀街道市監(jiān)所科員 李欣容：最后當(dāng)事人承認(rèn)，這個(gè)短視頻當(dāng)中的李梓萌形象，是他們的員工在網(wǎng)絡(luò)上搜集李梓萌播報(bào)過的新聞片段，通過AI技術(shù)擅自把這些新聞片段進(jìn)行剪輯加工，最終合成了這個(gè)虛構(gòu)的推薦視頻。

AI偽造名主持人帶火

半月收益6萬(wàn)余元

市場(chǎng)監(jiān)管人員調(diào)取銷售記錄后發(fā)現(xiàn)，在這條短視頻上線后的半個(gè)月里，商家借助短視頻鏈接，累計(jì)銷售魚油1100余單，銷售額達(dá)6萬(wàn)余元。

北京市海淀區(qū)市場(chǎng)監(jiān)管局海淀街道市監(jiān)所科員 李欣容：短視頻當(dāng)中擅自使用AI技術(shù)，去對(duì)李梓萌這種知名主持人的形象進(jìn)行剪輯加工，這個(gè)行為是構(gòu)成了發(fā)布虛假?gòu)V告，違反了《中華人民共和國(guó)廣告法》第二十八條的規(guī)定，最后綜合他的違法情節(jié)，以及其他的一些裁量情形，最終我局對(duì)他作出罰款20萬(wàn)元的行政處罰決定。

記者調(diào)查發(fā)現(xiàn)，利用AI技術(shù)違規(guī)營(yíng)銷現(xiàn)象越來(lái)越多，關(guān)鍵原因是相關(guān)工具非常容易獲取。而且，無(wú)論是換臉還是擬聲，操作起來(lái)都十分簡(jiǎn)便。繼續(xù)來(lái)看記者的調(diào)查。

記者發(fā)現(xiàn)，各大手機(jī)應(yīng)用商店均充斥著大量換臉App或小程序，大都可以免費(fèi)使用。記者隨機(jī)選取了一個(gè)App，僅需上傳自己幾張人臉照片，就能將目標(biāo)視頻中的知名專家換成自己的面容。

除了換臉、擬聲，有的App還能提供AI對(duì)口型、AI文生視頻、AI電商等各種功能。記者體驗(yàn)了其中的“文生視頻”功能：在對(duì)話框中輸入關(guān)鍵詞：北京協(xié)和醫(yī)院，女醫(yī)生，在診室坐在桌子前，向患者介紹病情，不到30秒時(shí)間就生成了一段女醫(yī)生形象的短視頻，還可以選擇“不添加AI生成字樣”。隨后記者輸入減肥產(chǎn)品效果文案，選擇“主播配音”，就生成了一條“北京協(xié)和醫(yī)院女醫(yī)生推廣減肥產(chǎn)品的”營(yíng)銷視頻。

中央財(cái)經(jīng)大學(xué)法學(xué)院教授 劉雙舟：利用AI生成技術(shù)，生成營(yíng)銷內(nèi)容上面違法，主要表現(xiàn)是虛假宣傳，生成一些不切實(shí)際的文本圖片，而且不加AI的標(biāo)識(shí)，這樣給消費(fèi)者公眾會(huì)帶來(lái)誤導(dǎo)。

AI仿冒名人帶貨，傳播虛假信息，不僅傷害被仿冒者個(gè)人名譽(yù)，侵害消費(fèi)者權(quán)益，也嚴(yán)重破壞市場(chǎng)生態(tài)。各界正積極探索解決方案，以應(yīng)對(duì)這一業(yè)態(tài)帶來(lái)的新問題，但治理過程中仍面臨不小挑戰(zhàn)。

目前，AI仿冒相關(guān)維權(quán)難度極大，技術(shù)鑒定、證據(jù)固定以及溯源追責(zé)等環(huán)節(jié)，面臨不小的阻力。

北京市海淀區(qū)市場(chǎng)監(jiān)管局海淀街道市監(jiān)所副所長(zhǎng) 史建穎：AI深度偽造視頻鑒別難度大，成本高，肉眼難以識(shí)別，需要專業(yè)技術(shù)支持，而此類侵權(quán)違法行為造假成本低。另一方面是大量AI合成偽造視頻涌現(xiàn)在電商平臺(tái)，權(quán)利人自身不知情或知情后維權(quán)周期長(zhǎng)，程序復(fù)雜，部分權(quán)利人選擇放棄維權(quán)或配合度較低。

深受AI仿冒侵?jǐn)_的專家表示，杜絕AI仿冒亂象，需通過制度設(shè)計(jì)，強(qiáng)化保護(hù)力度。

北京協(xié)和醫(yī)院臨床營(yíng)養(yǎng)科主任 于康：覺得很痛心，但是也沒辦法，我只能通過各種努力去個(gè)體化宣傳澄清，但是我發(fā)現(xiàn)這種個(gè)體化宣傳，比起這種傷害性欺騙來(lái)，簡(jiǎn)直是九牛一毛，一點(diǎn)作用都沒有。所以我覺得需要靠國(guó)家層級(jí)的制度的保護(hù)，這個(gè)保護(hù)的既是專家個(gè)人，也是專家群體，更是整個(gè)社會(huì)的良知，叫作正本清源。一個(gè)對(duì)科學(xué)素養(yǎng)的保護(hù)和一個(gè)對(duì)真正知識(shí)的尊重和維護(hù)，一旦發(fā)現(xiàn)有這種問題的時(shí)候，我們必須及時(shí)采取相關(guān)措施，否則的話，AI帶給大家的負(fù)面影響，可能比正面的還要大，這是相當(dāng)讓人覺得很難受的一個(gè)地方。

監(jiān)管新規(guī)

AI內(nèi)容必須加標(biāo)識(shí)

《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》在9月1日已經(jīng)正式實(shí)施，明確要求：利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場(chǎng)景等信息，必須依法添加相應(yīng)的聲明標(biāo)識(shí)。

中央財(cái)經(jīng)大學(xué)法學(xué)院教授 劉雙舟：這個(gè)文件出來(lái)以后就明確要求AI生成的和合成的內(nèi)容要加標(biāo)識(shí)，應(yīng)該加兩個(gè)方面的標(biāo)識(shí)。一方面是顯性的標(biāo)識(shí)，就是公眾能夠通過內(nèi)容的標(biāo)識(shí)能夠判斷出來(lái)，這是AI生成的內(nèi)容。還有一些隱性的標(biāo)識(shí)，對(duì)元數(shù)據(jù)上要加，要標(biāo)明數(shù)據(jù)的來(lái)源、用途和誰(shuí)生成的。

記者調(diào)查發(fā)現(xiàn)，部分人工AI合成視頻當(dāng)中，發(fā)布者要么使用不顯眼的字體，要么隱藏在畫面邊角，有的二次發(fā)布者甚至隱匿標(biāo)識(shí)。

中央財(cái)經(jīng)大學(xué)法學(xué)院教授 劉雙舟：國(guó)家是有政策專門鼓勵(lì)A(yù)I技術(shù)應(yīng)用，但前提是要規(guī)范使用，不能夠違規(guī)使用。目前來(lái)看關(guān)于AI技術(shù)營(yíng)銷中濫用如何治理，不是一個(gè)部門能夠解決問題的，我個(gè)人觀點(diǎn)是，應(yīng)該多部門聯(lián)合或者我們叫社會(huì)共治?？梢猿雠_(tái)AI生成技術(shù)監(jiān)管的一個(gè)指南，統(tǒng)一執(zhí)法部門認(rèn)識(shí)和標(biāo)準(zhǔn)。

平臺(tái)應(yīng)加強(qiáng)AI生成內(nèi)容審查責(zé)任

專家表示，各社交平臺(tái)作為AI生成視頻發(fā)布主要渠道，應(yīng)在平臺(tái)規(guī)則、內(nèi)容審查等方面進(jìn)一步完善相關(guān)措施。

中央財(cái)經(jīng)大學(xué)法學(xué)院教授 劉雙舟：平臺(tái)應(yīng)該建立AI生成內(nèi)容的一個(gè)審核機(jī)制，加強(qiáng)對(duì)AI生成內(nèi)容的審核，比如說(shuō)對(duì)逃避AI標(biāo)識(shí)的內(nèi)容，比如下架限流可以采取這樣一些措施。

從冒用專家“帶貨”，到假冒知名主持人“薦方”，AI仿冒名人營(yíng)銷亂象暴露出技術(shù)被濫用的風(fēng)險(xiǎn)。

AI處理圖文信息

存隱私泄露風(fēng)險(xiǎn)

近期，網(wǎng)信部門重拳處置一批違規(guī)賬號(hào)，同時(shí)督促平臺(tái)集中整治，已累計(jì)清理8700余條違規(guī)信息、處置11000多個(gè)違規(guī)賬號(hào)。

網(wǎng)信部門表示，將繼續(xù)壓實(shí)網(wǎng)站平臺(tái)主體責(zé)任，對(duì)利用AI仿冒公眾人物開展直播營(yíng)銷問題保持高壓嚴(yán)管態(tài)勢(shì)，對(duì)惡意營(yíng)銷賬號(hào)，發(fā)現(xiàn)一批、處置一批、曝光一批。

隨著大模型在各行業(yè)深度應(yīng)用，其安全風(fēng)險(xiǎn)呈現(xiàn)出復(fù)合化特征。網(wǎng)絡(luò)專家指出，AI大模型安全涵蓋數(shù)據(jù)、基礎(chǔ)設(shè)施與模型本身三大層面，其中個(gè)人使用中的數(shù)據(jù)安全風(fēng)險(xiǎn)尤為突出?？此坪?jiǎn)單的圖片、文字信息等內(nèi)容通過AI處理，就可能泄露個(gè)人身份信息、人際關(guān)系等敏感內(nèi)容。

網(wǎng)絡(luò)安全專家 李虎：可能只是上傳了一張合照，我覺得就是通過AI來(lái)幫我美化一下或者加一項(xiàng)特殊處理。但是其實(shí)有可能就暴露了，因?yàn)檎掌蟼髦螅鋵?shí)可以通過人像識(shí)別技術(shù)把人的身份提取出來(lái)，然后通過人物的關(guān)系，比如親密程度，可能猜測(cè)是什么人物關(guān)系，是朋友關(guān)系還是家人關(guān)系諸如此類的，然后這些數(shù)據(jù)都被提取出來(lái)之后又可能被進(jìn)一步利用，比如被詐騙分子拿來(lái)利用。

連接不明來(lái)源Wi-Fi

當(dāng)心信息泄露

除了AI大模型使用帶來(lái)的數(shù)據(jù)安全外，公共場(chǎng)合不明來(lái)源Wi-Fi的不當(dāng)連接也會(huì)造成敏感信息泄露。

網(wǎng)絡(luò)安全專家 王媛媛：這種免費(fèi)沒有密碼的Wi-Fi連接，不法分子可能會(huì)利用漏洞去架設(shè)一個(gè)偽基站，誘導(dǎo)大家進(jìn)行連接，連接之后有可能會(huì)截取你的個(gè)人信息。

網(wǎng)絡(luò)安全專家介紹，只要有人接入了不法分子偽裝的Wi-Fi，在使用手機(jī)等電子設(shè)備時(shí)的一些操作都可能被截取，其中包括輸入用戶名、密碼等個(gè)人隱私信息都會(huì)被竊取。

網(wǎng)絡(luò)安全專家建議，個(gè)人用戶要加強(qiáng)安全意識(shí)，優(yōu)先選擇合規(guī)大模型平臺(tái)與正規(guī)渠道安裝應(yīng)用；另外，連接Wi-Fi時(shí)要警惕無(wú)密碼熱點(diǎn)，避免落入釣魚陷阱。那么，我們?cè)谌粘Ｉ暇W(wǎng)時(shí)還有哪些注意事項(xiàng)，防止個(gè)人隱私信息泄露呢？

不曬自己的火車票、飛機(jī)票登機(jī)牌、車牌

發(fā)布含有個(gè)人信息的火車票、飛機(jī)票、登機(jī)牌、車牌等票證，可能會(huì)被另有圖謀的陌生人獲取，從而導(dǎo)致個(gè)人隱私泄露；

不曬自己的證件照片

身份證、護(hù)照、駕駛證、結(jié)婚證等證件中，都包含重要的個(gè)人隱私，不要隨意在網(wǎng)上發(fā)布；

不曬自己的位置信息

盡量不要發(fā)自己的定位信息，這些信息容易暴露真實(shí)個(gè)人住址，有可能帶來(lái)不必要的麻煩和風(fēng)險(xiǎn)；

不曬老人和孩子的信息

避免發(fā)布老人和孩子的照片及姓名，以防不法分子利用這些信息進(jìn)行違法活動(dòng)，建議以分組的形式分享給親人看。

技術(shù)創(chuàng)新必須以誠(chéng)信為底線，只有讓AI在法治軌道上運(yùn)行，才能凈化網(wǎng)絡(luò)生態(tài)和市場(chǎng)生態(tài)，真正服務(wù)社會(huì)。

（原標(biāo)題：每周質(zhì)量報(bào)告丨傳播虛假信息 侵害消費(fèi)者權(quán)益 總臺(tái)曝光“AI仿冒名人”營(yíng)銷亂象）