2025 世界人工智能大會(huì) （WAIC）已經(jīng)落幕，但它激起的討論仍在持續(xù)。

其中，主論壇上深度學(xué)習(xí)“教父”杰弗里·辛頓（Geoffrey Hinton）提出的AI“虎崽論”尤為引人關(guān)注——他將超級智能的馴化比作“飼養(yǎng)幼虎”，今日可愛可控，明日或反噬其主。而不止辛頓，僅在這屆WAIC的主論壇上，約書亞·本吉奧（Yoshua Bengio）、埃里克·施密特（Eric Schmidt）等眾多重量級嘉賓，也都表達(dá)了對AI快速發(fā)展的警惕和憂慮。

然而，聯(lián)系上下文審視這些警示的核心便會(huì)發(fā)現(xiàn)，他們敲響警鐘的共同指向——強(qiáng)調(diào)構(gòu)建全球性人工智能協(xié)作治理網(wǎng)絡(luò)的重要性和緊迫性。所以說，如果僅僅因此就陷入對“超級”智能的“超級”擔(dān)憂，那么就有如禪宗偈語所警示的——只見“指月”之指，而忽略月亮本身了。

因?yàn)榫彤?dāng)下現(xiàn)實(shí)而言，實(shí)現(xiàn)超級AI還有一系列難以跨越的極限和瓶頸。對于從業(yè)者和更廣大的公眾來說，比起對于未知未來的擔(dān)憂，正視這些局限并尋求突破之道，恐怕是更切實(shí)際的選擇。具體而言，至少具有三個(gè)方面的瓶頸，限定著現(xiàn)下AI路徑的發(fā)展極限。

AI模型的成本極限

大模型的算力成本早已不是一個(gè)新鮮話題了。而筆者的一個(gè)直觀體會(huì)便來自不久前。一位從事大模型研發(fā)的朋友，邀我體驗(yàn)他們最新研發(fā)的大模型產(chǎn)品。他特別叮囑我，千萬不要對他們的模型“客氣”——因?yàn)槲逸斎氲拿恳痪淇洫?jiǎng)，甚至每一個(gè)“請為我”，都會(huì)轉(zhuǎn)化為token，成為他們算力資源的額外開銷。而他們“子彈”有限，“自己人”就幫忙省一點(diǎn)。

這次體驗(yàn)充分展示了一個(gè)大模型經(jīng)濟(jì)的特征，就是不僅有著極高的訓(xùn)練成本，更有可觀的每一次的推理成本。究其源頭，這種成本來自現(xiàn)有大模型的共同鼻祖Transformer架構(gòu)的工作原理。無論輸入的問題多么簡單（比如簡單問候“你好”），或多么復(fù)雜（比如“請解釋量子糾纏并原創(chuàng)一首七律來描述它”），每一次推理都要遍歷模型的所有參數(shù)（通常的數(shù)量級是數(shù)百億甚至數(shù)千億）。雖然現(xiàn)在已有一些技術(shù)優(yōu)化手段，能夠在一定程度上降低簡單請求的計(jì)算消耗，但面對龐大的基礎(chǔ)參數(shù)量，這種優(yōu)化仍然是相當(dāng)有限的。

訓(xùn)練是“一次性”巨額投入，推理則是持續(xù)不斷的“燒錢”。而這種持續(xù)消耗的規(guī)模和成本，遠(yuǎn)遠(yuǎn)不是互聯(lián)網(wǎng)時(shí)代寬帶費(fèi)用能夠相提并論的。因此，大模型并不符合邊際成本趨近零的特點(diǎn)，嚴(yán)格來說目前并不能視為一種數(shù)字經(jīng)濟(jì)模式（盡管當(dāng)前政府和民間都習(xí)慣性這樣認(rèn)定）。

更富有挑戰(zhàn)性的是新近漸成趨勢的“記憶模型”。其目標(biāo)是讓AI能夠像人一樣記住所有的對話歷史，甚至需求、習(xí)慣和偏好。而在現(xiàn)有架構(gòu)下，這些無疑會(huì)帶來模型推理成本的爆炸。最新的技術(shù)報(bào)告顯示，50輪對話規(guī)模的回答成本大約是每條幾美元。而在100輪規(guī)模的對話中，成本會(huì)激增至50至100美元。對此，我們可以想想：我們體驗(yàn)過的在線知識(shí)付費(fèi)問答和在線診療服務(wù)的價(jià)格。在這樣的規(guī)模成本之下（還僅僅是每一次的推理成本），一名人類專家助手顯然是更具有成本優(yōu)勢的。由此可見，智能未來可能很美好，但在算法、算力、能源完成突破性進(jìn)展之前，人類專家還是能牢牢“端住飯碗”的。

AI推理的責(zé)任極限

最近，“懂車帝”對各大車企的智駕測評震驚了全網(wǎng)。拋開對于測評本身的技術(shù)性爭議，AI“闖禍”，究竟誰來“背鍋”，又成為拷問當(dāng)事各方的“靈魂之問”。相較于到底智駕實(shí)現(xiàn)了L幾級？到底AI智能水平幾何？這一問題顯然更為深刻，也更為棘手。

其根源在于，當(dāng)前以深度學(xué)習(xí)為核心的AI技術(shù)，“黑箱”決策仍然是智能范式的絕對主流。這意味著AI決策過程的“黑箱”化，也就是針對具體結(jié)果無法精確歸因。放到智駕場景中，一次駕駛判斷失誤的背后，到底是算法設(shè)計(jì)缺陷、訓(xùn)練數(shù)據(jù)偏差，還是特定環(huán)境（如天氣、特殊路況等），抑或傳感器硬件瞬間故障，這一切問題的答案都是“不好說”“說不好”。

正是這種技術(shù)本身“不好說”，使得責(zé)任劃分也成為了“糊涂賬”。出了事故，到底是駕駛員賠、車企賠，還是程序員賠？還是都不賠？誠然，這里存在著法律和監(jiān)管的滯后性問題。但更為根本的是，當(dāng)技術(shù)邊界和責(zé)任邊界本身都模糊不明的時(shí)候，再完備的監(jiān)管規(guī)則也只能是“無的放矢”。而這一問題的解決，恐怕在可解釋AI獲得長足進(jìn)步之前，還需要經(jīng)歷相當(dāng)長時(shí)間的探索和等待。

除此之外，目前的AI還難以解決幻覺問題、偏見問題，包括還存在間或性的“智障”問題。疊加權(quán)責(zé)歸屬的模糊，這在大量需要“當(dāng)回事”的政務(wù)、司法、醫(yī)療、風(fēng)控、商業(yè)等嚴(yán)肅場景中，無疑是根本性的缺陷。事實(shí)上，在一片“擁抱AI”的沖鋒號(hào)中，全球范圍內(nèi)第一批“開倒車”的企業(yè)已經(jīng)出現(xiàn)了。2024年，外語學(xué)習(xí)“獨(dú)角獸”多鄰國（Duolingo）曾高調(diào)宣布“AI- First”戰(zhàn)略并裁撤10%的員工，以AI代替。然而最新報(bào)道顯示，因?yàn)榇罅康挠脩敉对V和退訂，該公司正回調(diào)部分被裁崗位。無獨(dú)有偶，今年5月多家官媒集中發(fā)聲，痛批AI智能客服“已讀亂回”現(xiàn)象。從技術(shù)上看，這固然反映了AI能力還需提升的技術(shù)現(xiàn)狀。然而從管理角度來說，何嘗不是組織目標(biāo)和技術(shù)能力間權(quán)責(zé)失衡的表現(xiàn)？

唯一可喜的是，這次智駕測評以及此前累積的圍繞責(zé)任歸屬的種種現(xiàn)實(shí)困境，終于讓很多人想明白了一件事——在AI沒法坐牢之前，還是自己多費(fèi)點(diǎn)力氣把牢方向盤吧。

AI智能的體驗(yàn)極限

從誕生以來，人腦就是智能技術(shù)的終極摹本。艾倫·圖靈（Alan Turing）、馮·諾依曼（John von Neumann）等先驅(qū)都深受腦機(jī)制的啟發(fā)。而辛頓更是在早年直接從事認(rèn)知心理學(xué)研究。后來他將神經(jīng)原理轉(zhuǎn)化為計(jì)算模型，由此開創(chuàng)了當(dāng)下鼎盛的深度學(xué)習(xí)新紀(jì)元。

然而，很顯然的是就算當(dāng)下的大語言模型外在表現(xiàn)（如語言能力）再像人類，也不意味著其內(nèi)在機(jī)制亦是如此。一個(gè)鮮明的例證是，現(xiàn)在的大模型已能展現(xiàn)出博士級的數(shù)學(xué)處理能力，但它的算法機(jī)制，對于理解人類如何進(jìn)行運(yùn)算推演幾乎毫無作用。

更何況，人類還有獨(dú)特的、內(nèi)在的情感和體驗(yàn)。當(dāng)然，大模型可以通過語言，例如使用特定詞匯、句式、語氣來模擬“共情”。但這背后，依舊來自海量文本“高頻詞組合”的概率性生成，而不是源自它“心”的真實(shí)感受。也正因此，在處理諷刺、幽默、潛臺(tái)詞、文化差異、微妙情緒變化時(shí)，大模型總是顯得格外笨拙“不解風(fēng)情”。

相反，對于人類而言，盡管可能不懂怎么模擬兩個(gè)黑洞碰撞并產(chǎn)生引力波的過程，但屬于人類的情感反饋也難以被現(xiàn)在的AI所替代。尤其是對于“喜不喜歡”“滿意不滿意”“好不好”——這樣需要出自本心的問題，只有人類才能真正給出答案。而深入、細(xì)膩的人類評估和反饋，恰恰才是大量真實(shí)商業(yè)場景中的“金標(biāo)準(zhǔn)”。

正是因?yàn)檫@種根本性的差異，AI到BI（Brain Intelligence，腦智能）的演進(jìn)才更加令人期待。類腦計(jì)算、腦機(jī)接口也被視為未來AI突破的重大方向。值得一提的是，腦機(jī)接口領(lǐng)域不單只是依賴于神經(jīng)外科手術(shù)植入的侵入式模式。更多的非侵入式、可穿戴的BI應(yīng)用，完全有理由在更廣泛的商業(yè)領(lǐng)域中獲得更大的增長潛力。通過幫助人們解析潛意識(shí)中的思維和情緒，從而開辟一條超越冰冷數(shù)理計(jì)算，融合人類情感體驗(yàn)獨(dú)特優(yōu)勢，有溫度的人機(jī)協(xié)同新路徑。

回到辛頓的“虎崽論”，其警示意義毋庸置疑。然而，回望歷史，一代人總會(huì)有一代人的“洪水猛獸”。它可以是電報(bào)、火車，可以是鄧麗君、徐小鳳，金庸、瓊瑤，也可以是動(dòng)漫、電視、游戲機(jī)、互聯(lián)網(wǎng)、智能手機(jī)等等等，件件都有“可怖非?！钡某渥憷碛?。但我們還是一路走來，并且能力越來越強(qiáng)，生活越來越好。因此，我們應(yīng)該有理由相信“人”的智慧和力量，終究是推動(dòng)時(shí)代進(jìn)步的終極保障。

（作者錢學(xué)勝為復(fù)旦大學(xué)智慧城市研究中心高級研究員，連續(xù)多年參與WAIC開幕式和主論壇內(nèi)容策劃）