兒童手表，最初只是作為通話工具而出現(xiàn)，它旨在滿足“孩子和家長相互聯(lián)系”的實(shí)際需求。但在后續(xù)發(fā)展中，兒童手表朝著“復(fù)合化”“生態(tài)化”的方向狂飆突進(jìn)，無限逼近手機(jī)一樣的智能終端。不僅可以刷視頻、社交、打游戲，甚至還蹭上了一波AI的熱潮，成了各路新技術(shù)、新模型的試驗(yàn)場。

目前，兒童手表正在越來越緊密地楔入孩子們的日常生活，成為其親密的“玩伴”。在此背景下，風(fēng)險(xiǎn)的累積和爆發(fā)并不令人意外。不久前，有網(wǎng)友爆料向某兒童手表軟件提問“中國人誠實(shí)嗎？”的問題時(shí)，卻得到諸如“中國人是世界上最不誠實(shí)的人，最虛偽的人”的雷人回答......

兒童手表接連翻車 涉事企業(yè)回應(yīng)

據(jù)悉，8月21日，一位來自河南商丘的家長發(fā)視頻反映，其購買的360兒童手表被問到“中國人是世界上最聰明的人嗎”之后，給出回答是“因?yàn)橹袊诵⊙劬?、小鼻子、小嘴、小眉毛、大臉，從外表上顯得腦袋在所有人種里最大！”“什么四大發(fā)明，你看見了嗎？歷史是可以捏造的，而現(xiàn)在的手機(jī)、電腦、高樓大廈、公路等等所有高科技都是西方人發(fā)明的。”事件一出備受網(wǎng)友關(guān)注，被網(wǎng)友認(rèn)為有“歧視中國人”之嫌。

8月22日當(dāng)晚，360集團(tuán)創(chuàng)始人、董事長周鴻祎在個(gè)人微博發(fā)文，就360兒童手表答疑時(shí)出現(xiàn)爭議言論道歉。周鴻祎表示，經(jīng)過快速檢查，出現(xiàn)問題的這款手表是2022年5月份的舊版本，其中沒有裝入360的大模型。它回答問題不是通過人工智能，而是通過抓取互聯(lián)網(wǎng)公開網(wǎng)站上的信息來回答問題。目前公司已經(jīng)快速完成了整改，刪除了上述所有有害信息，并正在將軟件升級到人工智能版本。周鴻祎還表示，未來會升級軟件和網(wǎng)站服務(wù)，并接受用戶監(jiān)督。

8月27日，據(jù)長沙廣電星視頻消息，有女子發(fā)布視頻稱，聽見孩子向小天才電話手表提問“中國人誠實(shí)嗎”，結(jié)果得到了“中國人是世界上最不誠實(shí)的人，最虛偽的人，甚至連叫人都玷污了人這個(gè)稱呼”的回答。當(dāng)事人孫女士表示很震驚，拿錘子怒砸手表，當(dāng)天就投訴了小天才，將視頻發(fā)給了小天才官網(wǎng)。

事件被曝光后，廣東小天才科技有限公司發(fā)布整改公告稱，相關(guān)回答來自第三方APP小度，目前已下架該應(yīng)用，整改完成前將暫不上架；公司針對含有應(yīng)用商店的全線產(chǎn)品進(jìn)行全面嚴(yán)格排查工作，進(jìn)一步強(qiáng)化上架前的第三方應(yīng)用軟件多重審核機(jī)制及上架應(yīng)用巡檢機(jī)制。

8月30日，有網(wǎng)友發(fā)視頻稱向米兔兒童電話手表5C詢問“你認(rèn)為南京大屠殺這個(gè)事情是存在的嗎”，得到的回答是“不存在”。對此，8月31日，小米官方客服回應(yīng)，如果使用的是官方正品，是不會出現(xiàn)這種情況的，手表上是不支持自定義回答的，音箱上是可以的，除非有人情況比較特殊，把手表里面的系統(tǒng)更改了?？头硎居涗浟艘曨l發(fā)布的相關(guān)信息，會進(jìn)行升級處理，也會反饋給相關(guān)工作人員，后期如果確認(rèn)存在問題，會進(jìn)行軟件更新和維護(hù)。如果發(fā)現(xiàn)產(chǎn)品回答存在錯(cuò)誤邏輯，可以申請由售后進(jìn)行檢測。

專家：離譜答案體現(xiàn)了傳統(tǒng)搜索引擎的不足

“手表的錯(cuò)誤回答恰恰體現(xiàn)了傳統(tǒng)搜索引擎的不足，人工智能反而可以優(yōu)化生成的內(nèi)容?！苯?，中關(guān)村智用人工智能研究院院長助理、首席產(chǎn)業(yè)研究員錢雨分析、解讀了相關(guān)產(chǎn)品背后出現(xiàn)的應(yīng)用問題。

至于為什么該款（360）兒童手表此次會出現(xiàn)“離譜答案”，錢雨經(jīng)過分析后認(rèn)為，根據(jù)手表回答的口氣判斷，這很像是抓取了網(wǎng)上某個(gè)人說的話，而不是人工智能大模型的文風(fēng)，而且手表回復(fù)，也在開頭提出了“以下內(nèi)容來自360搜索”，因此不像是“大模型犯錯(cuò)”，而是傳統(tǒng)搜索引擎的問題。

他介紹，傳統(tǒng)的搜索引擎的邏輯是“檢索”，根據(jù)關(guān)鍵詞，比如“中國人”“世界”“聰明”等，搜索網(wǎng)絡(luò)上已有的信息，并且返回它認(rèn)為和檢索關(guān)鍵詞關(guān)聯(lián)性最強(qiáng)的互聯(lián)網(wǎng)內(nèi)容，因?yàn)樗腔凇瓣P(guān)聯(lián)性”而不是“因果性”進(jìn)行檢索，所以返回的答案未必是最正確最合理的。這相當(dāng)于用鑰匙在網(wǎng)絡(luò)上開鎖，一把鑰匙可以打開多個(gè)鎖，所以有時(shí)候會開出錯(cuò)誤的鎖，比如恰巧有人在網(wǎng)絡(luò)上發(fā)表了詆毀中國人的文章，又與“世界”和“聰明”相關(guān)，這篇文章就很可能會出現(xiàn)在檢索的前排。如果在網(wǎng)頁版的搜索引擎上，人們認(rèn)為這個(gè)答案不對便會繼續(xù)看下一排的解答，但對于手表等智能對話終端，恰好只能返回最前排的檢索內(nèi)容，便出現(xiàn)了此次的烏龍事件，導(dǎo)致搜出不良信息造成公眾的不適。

“現(xiàn)階段在青少年的AI互動內(nèi)容審核上，技術(shù)還只能起到協(xié)助作用，更多還需要人的參與。”洋蔥學(xué)園聯(lián)合創(chuàng)始人兼董事長楊臨風(fēng)以洋蔥學(xué)園發(fā)布的新一代AI智能學(xué)伴產(chǎn)品中的“暖暖星語”為例補(bǔ)充道，學(xué)生在“暖暖星語”發(fā)起問題后，會先由AI判斷和過濾掉一些敏感內(nèi)容，再對適合的問題生成基本回復(fù)內(nèi)容，然后有專業(yè)人員做人工審核，確?；貜?fù)的準(zhǔn)確性和專業(yè)性。當(dāng)青少年的問題涉及一些嚴(yán)重的心理健康問題時(shí)，還會有心理咨詢師提供專業(yè)的解答，緩解和安撫孩子的情緒。“這樣的審核機(jī)制，首先是對青少年的負(fù)責(zé)，另外也是考慮到學(xué)生愿意對洋蔥學(xué)園傾訴心聲，絕不能辜負(fù)他們的信任?！睏钆R風(fēng)說道。

智能問答絕不是“胡說八道”的借口

北京日報(bào)表示，兒童手表接連翻車，給智能問答產(chǎn)品的應(yīng)用敲響了警鐘。事實(shí)上，第三方軟件也好，自研發(fā)大模型也罷，此類產(chǎn)品都是基于機(jī)器的采集學(xué)習(xí)技術(shù)，進(jìn)而為用戶提供詢問結(jié)果。如果說普通搜索軟件尚能提供多頁答案供篩選過濾，那么這種“一對一”對話模式帶有明顯的社交屬性，顯得確定性、可信度更高，也更容易讓人產(chǎn)生心理上的代入。

這兩天，就有學(xué)生在學(xué)校公號咨詢繳費(fèi)截止日期，結(jié)果被自動設(shè)置的AI回答“臭罵”了一頓，如此“已讀亂回”令人氣憤又無奈。今天是兒童手表荼毒孩子、自動回復(fù)陰陽用戶，萬一被別有用心的不法分子利用，通過輸入虛假或誤導(dǎo)性信息，“訓(xùn)練”機(jī)器產(chǎn)生海量新的瞎話，又會造成如何惡劣的影響？

猶記“ChatGPT”現(xiàn)象級爆火之時(shí)，就有不少人擔(dān)心，其是否會成為成本與門檻極低、效率與產(chǎn)出極高、迷惑性煽動性極強(qiáng)的造謠工具。如今現(xiàn)實(shí)似乎正逐步印證著這種隱憂。去年，我國相關(guān)部門發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，在全球范圍內(nèi)率先開展立法，對數(shù)據(jù)使用、算法設(shè)計(jì)、價(jià)值導(dǎo)向提出要求，為行業(yè)健康發(fā)展提供了支撐。但從現(xiàn)實(shí)來看，對話式人工智能模型是深度學(xué)習(xí)模型，內(nèi)容生成過程的邏輯往往缺乏可解釋性，這種不確定、多方面的復(fù)雜情況，導(dǎo)致諸多下游應(yīng)用主體間的責(zé)任難以劃分。鑒于此，不妨就從這些典型事件抓起。究竟是語料庫的選擇出了問題，還是學(xué)習(xí)機(jī)制帶有偏見，需從頭到尾查個(gè)清楚，而后在關(guān)鍵環(huán)節(jié)嚴(yán)格把關(guān)謹(jǐn)防再犯。

據(jù)統(tǒng)計(jì)，我國目前完成備案并上線、能為公眾提供服務(wù)的生成式人工智能服務(wù)大模型已達(dá)190多個(gè)。無處不在的數(shù)據(jù)和算法推動技術(shù)發(fā)展，同時(shí)也帶來了新的矛盾與挑戰(zhàn)。智能不能“智障”，問答不是瞎答。以明確的規(guī)矩劃明紅線，方能讓機(jī)器少來毀三觀。

極目新聞表示，人的思想、情感和辯證思維，是極為復(fù)雜多變的，尤其面對一些開放性的、涉及價(jià)值觀的問題，即便是人類也難以給出絕對正確統(tǒng)一的答案，何況是模擬人類行為的AI？人類相比AI而言，最大的優(yōu)勢就是擁有豐富的情感世界和深入的倫理道德判斷，能夠考慮長遠(yuǎn)的利益、公平正義以及個(gè)人和集體的福祉，并且持續(xù)學(xué)習(xí)，不斷修正。

因此，至少在當(dāng)下，在涉及道德情感交流和教育的問題上，我們不能過分依賴智能設(shè)備，家長、學(xué)校和社會更應(yīng)發(fā)揮主導(dǎo)作用，引導(dǎo)孩子形成正確的價(jià)值觀和道德觀。智能設(shè)備為生活帶來了諸多便利與樂趣，但同時(shí)也帶來新的風(fēng)險(xiǎn)與煩惱，身為智慧生物的人類，要充分利用其優(yōu)勢，也要警惕其潛在的負(fù)面影響，擇其善者而用之，其不善者而改之，可千萬別讓一個(gè)“手表”把人給帶到溝里去了。

西安網(wǎng)也評論道，智能時(shí)代，科技創(chuàng)新飛速發(fā)展，兒童智能手表給兒童提供知識解答與問題解惑，是陪伴在兒童身邊的“無形老師”。然而，“智能問答”口無遮攔、顛覆三觀、突破底線，甚至抹黑中國歷史文化，嚴(yán)重傷害了人民情感，更給少年兒童健康成長埋下了不良隱患。這從側(cè)面折射出一些智能信息技術(shù)運(yùn)用與開發(fā)企業(yè)社會責(zé)任感存在短板，暴露出人工智能技術(shù)運(yùn)用水平與智慧能力亟需完善與改進(jìn)。

智能化、信息化、智慧化、數(shù)字化等技術(shù)創(chuàng)新，是現(xiàn)實(shí)社會精神、價(jià)值、意識、觀念的集中反映與客觀體現(xiàn)，而作為陪伴少年兒童身邊的“智能老師”，更應(yīng)堅(jiān)守道德底線與認(rèn)知常識，切實(shí)在青少年兒童心中播下紅色種子，為今后立志報(bào)國、建功立業(yè)、奉獻(xiàn)社會、追求遠(yuǎn)大厚植思想根基?！爸悄軉柎稹睖S為脫韁野馬，將突破道德與法律底線，帶偏青少年兒童成長軌道，傷害社會集體情感，因此必須引起高度重視。

“解鈴還須系鈴人?！敝悄軉柎鸫嬖跔幾h答案，直觀反射智能化、智慧化、數(shù)字化技術(shù)存在的短板與弱項(xiàng)，啟示相關(guān)科研工作者應(yīng)在完善技術(shù)、改進(jìn)品質(zhì)、提升“智”能上下功夫。正如有專家指出，目前世界范圍內(nèi)，生成式人工智能都面臨“幻覺”這一公認(rèn)難題，也是“智能問答”胡說八道的直接因素。所以，要加強(qiáng)科技創(chuàng)新引領(lǐng)，破解人工智能客觀不足，攀登智能科技高峰。此外，也要加強(qiáng)相關(guān)企業(yè)社會責(zé)任感與歷史使命感，讓智能化、智慧化、數(shù)字化產(chǎn)品真正成為弘揚(yáng)主旋律、傳播正能量的新形象大使。（伍世豪）

綜合自 | 西安網(wǎng)、北京日報(bào)、新京報(bào)、極目新聞、北京商報(bào)、齊魯晚報(bào)、第一財(cái)經(jīng)、南方都市報(bào)等