2025年初，DeepSeek的問世吸引了無數(shù)人的目光，這場技術(shù)革新不僅涉及個(gè)人與家庭，更影響到國家乃至世界的未來。2月22日，華東師范大學(xué)歷史學(xué)教授、中國現(xiàn)代思想文化研究所副所長許紀(jì)霖與復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院教授，上海市數(shù)據(jù)科學(xué)重點(diǎn)實(shí)驗(yàn)室主任的肖仰華，復(fù)旦大學(xué)中文系嚴(yán)鋒教授，在春秋書院圍繞DeepSeek，以及AI的技術(shù)革新與應(yīng)用影響展開討論。

DeepSeek是不是一場震撼全球的技術(shù)創(chuàng)新？

許紀(jì)霖：我首先想到的一個(gè)問題是：DeepSeek是不是一場震撼全球的技術(shù)創(chuàng)新？因?yàn)镈eepSeek剛問世的時(shí)候，圍繞DeepSeek有許多爭議。但隨著討論的深入，我們發(fā)現(xiàn)雖然DeepSeek的確學(xué)習(xí)了包括ChatGPT在內(nèi)的人工智能模型的數(shù)據(jù)，但兩者是不同類型的模型。

ChatGPT是由“人工神經(jīng)元”組成的大語言模型，它模仿人的語言、思維，所以需要海量的數(shù)據(jù)，通過最高級(jí)的芯片形成算力，最終形成我們看到的ChatGPT。

DeepSeek走了另外一條道路，它更多借助邏輯推理，形成一個(gè)推理大模型，因此它在數(shù)據(jù)篩選和各個(gè)方面，不去依靠強(qiáng)大的算力，而是通過算法上的改變，來取得成功。

在這個(gè)意義上，DeepSeek是青出于藍(lán)而勝于藍(lán)，也是一次成功的再創(chuàng)造。此外，DeepSeek是開源的，它的開源逼迫原本只是閉源的ChatGPT、文心一言等大模型，只能開源來應(yīng)對(duì)DeepSeek的挑戰(zhàn)。可以說，DeepSeek的出現(xiàn)，意味著全球人工智能領(lǐng)域的一次飛躍性的突破。

肖仰華：在春節(jié)期間，DeepSeek就曾引起境外媒體，尤其西方媒體的關(guān)注。他們對(duì)此既好奇，也有疑問——DeepSeek是真的突破嗎？還是噱頭大于實(shí)際的宣傳？

作為從業(yè)人員，我們第一時(shí)間有個(gè)基本判斷，認(rèn)為DeepSeek是有真東西的，確確實(shí)實(shí)地取得了一系列技術(shù)突破。第一，低成本訓(xùn)練技術(shù)。大模型的一次訓(xùn)練大概要花數(shù)千萬美金，甚至上億美金。巨大的成本消耗在算力、電費(fèi)、數(shù)據(jù)等等，而且一個(gè)版本的訓(xùn)練往往要消耗近一個(gè)月的時(shí)間。早期的大模型訓(xùn)練技術(shù)付出了巨大代價(jià)，但效果難以得到保證。但DeepSeek通過混合精度訓(xùn)練、混合專家系統(tǒng)（MoE）、注意力機(jī)制優(yōu)化等技術(shù)提升了訓(xùn)練效率、降低了訓(xùn)練成本。單次訓(xùn)練的成本降低到了幾百萬美金一次，是此前主流廠商大模型訓(xùn)練成本的十分之一。

在低成本訓(xùn)練的同時(shí)，它實(shí)現(xiàn)了當(dāng)前最高水平的智能。在DeepSeek之前，智能水平最高的大模型是OpenAI的o1。OpenAI有一系列大模型，包括我們兩年前見到的ChatGPT，之后的GPT-4一直到o1等。2024年9月，o1的出現(xiàn)可以說是人工智能發(fā)展歷程中的一座里程碑。o1做到了什么使得我們要賦予其如此高的評(píng)價(jià)呢？它第一次讓大模型能夠像人一樣去反思：我剛才想的對(duì)不對(duì)？我是不是應(yīng)該嘗試另一條解題路徑？為什么反思的意義非常重大呢？因?yàn)檫@原本是只有人類才勝任的能力，由反思所構(gòu)成的理性思維能力甚至可以認(rèn)為是人之為人、人類凌駕于萬物之上的根本能力。

哲學(xué)家與教育家約翰·杜威認(rèn)為人類的思維分為兩類：一類是機(jī)械性思維，一類是反思性思維。我們看到3加5，就會(huì)想到等于8，不必加以思考，這是典型的機(jī)械性思維。我國過去數(shù)十年的教育，很大程度就在培育學(xué)生的機(jī)械性思維能力，最為有效的題海戰(zhàn)術(shù)本質(zhì)上是在培養(yǎng)孩子們的機(jī)械性思維。但是，在現(xiàn)在與未來，我們更需要的是具有批判性精神、反思精神的人。其實(shí)，杜威在人類的工業(yè)文明早期就認(rèn)為，人類教育的本質(zhì)是培養(yǎng)具有反思性精神的人，唯有培養(yǎng)具有批判精神、反思能力的新人類才能應(yīng)對(duì)世界的快速變化所帶來的挑戰(zhàn)。

類似的觀點(diǎn)，柏拉圖在2000多年前就曾提出過，他認(rèn)為人類的思維分成工匠性的思維和大師級(jí)的思維。工匠性的思維是機(jī)械性的思維，看到這個(gè)料子就知道應(yīng)該怎么加工，想都不用多想。但大師性的思維是能夠反思，它是怎么做的？它為什么這么做？它背后的原理是什么？這叫大師性的思維。大師性思維的反思性是整個(gè)人類文明得以傳播與延續(xù)的前提。所以人最根本的，或者說凌駕于萬物之上的根本特性就在于我們具有反思性的思維，而OpenAI的o1做到了這一點(diǎn)。

但o1是極其昂貴的，最早要幾百美金才能使用一次。因?yàn)楫?dāng)時(shí)OpenAI認(rèn)為o1的反思已經(jīng)達(dá)到專家的水平，用戶只需要將案件丟給大模型，大模型就能像律師一樣進(jìn)行專業(yè)思考而得出結(jié)論、給出研判過程；或者大模型能夠像醫(yī)生一樣給用戶的檢查報(bào)告進(jìn)行精準(zhǔn)的研判與詳細(xì)的分析并且給出健康建議。這樣的大模型服務(wù)的確價(jià)值數(shù)百美金，正因其非常昂貴，很少有用戶能負(fù)擔(dān)得起這個(gè)使用成本。

而DeepSeek R1的一個(gè)成功之處，就在于它復(fù)現(xiàn)了o1并達(dá)到其復(fù)雜思維特別是反思水平，然而在成本上卻極大地降低，并做到了免費(fèi)使用，而且對(duì)思維過程完全開放。起初，o1的這個(gè)思維過程數(shù)據(jù)是完全公開的，但很快，OpenAI就再次堅(jiān)定其閉源發(fā)展策略，選擇隱藏了整個(gè)思維過程數(shù)據(jù)，這背后是其擔(dān)心其他大模型蒸餾它的思維過程數(shù)據(jù)。但是，DeepSeek R1在短短幾個(gè)月就做到了o1水平，并且選擇將思考過程公開。一個(gè)選擇封閉，對(duì)競爭對(duì)手保持高度封鎖；一個(gè)選擇開放，對(duì)所有人公開自己的思考過程數(shù)據(jù)。這背后體現(xiàn)的是DeepSeek對(duì)自己技術(shù)領(lǐng)先性的自信，以及對(duì)開源開放戰(zhàn)略全面擁抱的篤定。

DeepSeek對(duì)教育的沖擊

許紀(jì)霖：嚴(yán)老師告訴我，他最關(guān)心的是DeepSeek出現(xiàn)以后對(duì)教育以及認(rèn)知思維的沖擊。實(shí)際上，這個(gè)沖擊是全方位的，每個(gè)行業(yè)都受到?jīng)_擊。特別是大學(xué)，我的看法是將重新洗牌，不再是分為985、211、雙一流、普通高校，而是你這個(gè)大學(xué)能否培養(yǎng)出能夠應(yīng)用AI從事未來的研究和工作的新型人才。而就業(yè)市場也同時(shí)將出現(xiàn)類似的洗牌，不再看是否出身名校，而是你應(yīng)用AI的實(shí)際能力究竟如何。每一個(gè)人在職場的賽道上，不問出身，將重新站在同一條起跑線上。你意識(shí)到了嗎？準(zhǔn)備好了嗎？

嚴(yán)鋒：剛才肖老師已經(jīng)講到教育的問題。肖老師提到杜威，他的教育思想非常有名，并且通過他的弟子胡適影響了中國。昨天在一個(gè)會(huì)議上，我遇到華師大中文系的胡曉明教授。胡老師研究中國古代詩詞，也寫古代詩詞，寫得很好。在好幾年前，他就很關(guān)心AI創(chuàng)作的問題，并寫了一系列文章，最新的一篇叫《DeepSeek可以寫好七絕嗎》。胡老師去年去了麥積山石窟，寫了關(guān)于佛像的詩。之后，他讓AI也寫同題的詩，他和AI共同探討怎么把詩寫好，這是人機(jī)合作進(jìn)行文學(xué)創(chuàng)作的有趣案例，也為未來AI文學(xué)的趨勢提供了某種啟示。

作為一位文學(xué)研究者，從三年前開始，我就讓AI做極限測試，讓它重寫經(jīng)典。第一本讓它重寫的就是《三體》，這是中國科幻的高峰，人類想象力的極限。我讓AI沿用《三體》的設(shè)定，去想象在這樣的一個(gè)星系里的人會(huì)怎樣生活。在這個(gè)設(shè)定中，由于三個(gè)太陽的不規(guī)則運(yùn)動(dòng)，經(jīng)常會(huì)出現(xiàn)水深火熱，乃至毀滅的情況。我讓AI沿用小說的基本設(shè)定，但不要使用小說的其他的描寫，而是要寫出不同的故事情節(jié)。ChatGPT一開始寫得很差，但一直在進(jìn)步，到了DeepSeek更有青出于藍(lán)而勝于藍(lán)的意思。小說不僅關(guān)乎邏輯，還關(guān)乎情感和想象，是非常復(fù)雜的人類活動(dòng)，我認(rèn)為這是很有意義的一個(gè)測試。

另一個(gè)測試，就是讓AI續(xù)寫《紅樓夢》。三年前，我讓ChatGPT寫《紅樓夢》，它甚至?xí)懗鲑Z寶玉跟王熙鳳結(jié)婚的故事?，F(xiàn)在寫得好多了，但還是比不過DeepSeek。這也好理解，畢竟后者使用了大量的中國的語料。此外，我們還能看到DeepSeek能夠隨心所欲地模仿各種各樣的文字風(fēng)格。坦白說，我作為中文系教授，還沒有這樣的本領(lǐng)。所以很多人也感嘆，文學(xué)要亡，中文系要亡，甚至有人說90%的文科論文要作廢了。

這些說法也不無道理，但是事情并非這么簡單。在我使用AI續(xù)寫的過程中，我發(fā)現(xiàn)AI很會(huì)進(jìn)行世界構(gòu)建，各種細(xì)節(jié)信手拈來，也很善于在語言上進(jìn)行華麗的修飾，但是看多了就會(huì)發(fā)現(xiàn)它們是在堆砌辭藻。這固然代表目前AI的水平，但我也在想是否與訓(xùn)練所用的文學(xué)語料有關(guān)。畢竟喂給它的是什么文字都有，不可能僅僅是文學(xué)經(jīng)典，所以產(chǎn)出的作品，就目前而言，也就是一些雜燴而已。要讓它寫出具有心靈深度的作品，更是有難度。

所以，對(duì)于文學(xué)創(chuàng)作來說，就目前而言，AI仍然只是工具性的?？梢蕴峁﹦?chuàng)作的點(diǎn)子，進(jìn)行頭腦風(fēng)暴，幫助作者打開思路，但最終進(jìn)行選擇和整合的，還是人類作者。

隨著AI能力的發(fā)展，對(duì)整個(gè)文學(xué)生態(tài)必然帶來很大的沖擊。目前AI寫的詩歌已經(jīng)可以讓很多人類詩人相形見絀了，AI小說也將會(huì)淘汰掉一大批平庸的作者，與此同時(shí)，普通的讀者也會(huì)更輕易地通過AI定制適合自己獨(dú)特口味的作品，樂在其中。傳統(tǒng)的作者與讀者的界線將進(jìn)一步被打破。但這未必是壞事，反而會(huì)逼著人類作者專注于創(chuàng)作AI寫不出來的，也就是更有文學(xué)性和心靈性的作品。

我們也可以從傳統(tǒng)文學(xué)的角度來看AI的發(fā)展。美國對(duì)于中國的芯片制裁和技術(shù)封鎖與《三體》的宇宙社會(huì)學(xué)不謀而合。宇宙社會(huì)學(xué)有兩條公理，第一條叫生存是宇宙的第一法則。這很好理解，我們都想活著。第二條，宇宙中的能量有限，它的總量是恒定的，文明對(duì)能量的消耗在不斷增長。這兩條公理，看上去很平常，但從這兩條公理中就衍生出黑暗森林法則——文明跟文明只有永遠(yuǎn)的對(duì)抗，而且這個(gè)對(duì)抗非常殘酷。就像在一個(gè)黑暗森林里面，拿槍的獵人必然要先開槍，因?yàn)槲覠o法判斷對(duì)方的善惡，我無法承擔(dān)猜錯(cuò)的風(fēng)險(xiǎn)。這引申出兩條補(bǔ)充定理，其中之一是猜疑鏈，必須預(yù)設(shè)對(duì)方是惡意的，因?yàn)樵谟钪嬷袩o法溝通，所以必須預(yù)設(shè)對(duì)方是惡意的。另一條補(bǔ)充定理是技術(shù)爆炸，它提出技術(shù)發(fā)展不是線性的，可能會(huì)迎來突變，后發(fā)的文明可能超越在技術(shù)上比它發(fā)達(dá)得多的文明。正因?yàn)榧夹g(shù)爆炸的存在，把猜疑鏈推向極致，讓黑暗森林法則越發(fā)黑暗。這似乎也構(gòu)成了對(duì)于現(xiàn)實(shí)世界，尤其是大國之間競爭，尤其是AI競爭的某種映射。

許紀(jì)霖：日前我和一個(gè)詩人討論人工智能寫詩的話題，他告訴我一個(gè)有趣的發(fā)現(xiàn)：DeepSeek古典詩詞寫得非常好，因?yàn)樗e累了許多古典詩詞的語料，它的古典文學(xué)修養(yǎng)遠(yuǎn)遠(yuǎn)超過一般的中文系教授。但是，它的現(xiàn)代詩寫得不好，因?yàn)楝F(xiàn)代詩不像古典詩詞那么注重聲韻規(guī)則，現(xiàn)代詩的表現(xiàn)力非常自由，甚至在某種意義上是無規(guī)律可循，是一種酒神精神的自由飛翔。這就讓DeepSeek有些摸不著頭腦。

在這個(gè)意義上，人工智能的創(chuàng)作依舊是有內(nèi)在限制、有天花板的。它或許可以通過邏輯推演去掌握古典詩歌的規(guī)律，但在閱讀了它的一些創(chuàng)作之后，我認(rèn)為它的創(chuàng)作缺乏一種空靈感。最好的詩詞，像唐詩、宋詞是有意境的，但是我沒有從AI的創(chuàng)作中發(fā)現(xiàn)它的空靈感和獨(dú)特的意境?？瓷先ズ苊溃@種美是似曾相識(shí)的，是規(guī)范的、標(biāo)準(zhǔn)的，就像整容過的標(biāo)準(zhǔn)美人。

AGI（通用人工智能）距離我們還有多遠(yuǎn)？

許紀(jì)霖：這也引申出下一個(gè)話題，自DeepSeek開源以后，人工智能的發(fā)展日新月異，幾乎每一兩個(gè)禮拜就有新的模型推出。在這樣的背景下，我們距離超越人類的通用人工智能（AGI）還有多遠(yuǎn)？

我個(gè)人的猜測是，人工智能的下一步突破，是具有身體。因?yàn)橹挥袚碛猩眢w，才能擁有直覺能力，才會(huì)有真正意義上的想象能力和原創(chuàng)能力。英國大思想家卡爾·波普將人類的世界分為三種，世界1是物理世界，目前AI還不具備感知能力，世界2指的是無法與人的身體分離的直覺和悟性，而現(xiàn)在人工智能所運(yùn)用的知識(shí)，則屬于世界3，也就是可以與人分離的理性知識(shí)。只有世界3，通過邏輯的推理對(duì)已有的理性知識(shí)進(jìn)行提煉概括，并且上升為AI所擁有的理性認(rèn)知境界，是有天花板的。真正的突破離不開世界2，而世界2的直覺和想象能力，又必須擁有肉身，對(duì)世界1有感知能力。

正如黃仁勛所說，人工智能的下一個(gè)階段，就是具身AI。腦機(jī)接口技術(shù)的普遍運(yùn)用和仿真機(jī)器人的出現(xiàn)，將讓人工智能具有對(duì)物理世界的感知能力，并且發(fā)展出他的直覺、想象和悟性，到這個(gè)時(shí)候，AGI時(shí)刻就降臨了，硅基生物也將擁有他的主體意識(shí)和自我意識(shí)，而這一全新的物種“非我族類、其心必異”，他能夠達(dá)到的境界，完全不是我們這些碳基生物所能想象的。

肖仰華：許老師提出了非常值得深入思考的問題。我先談?wù)劯行缘牟糠?，大家剛才都提到了作家和?chuàng)作。從工科的角度來看，人類的很多創(chuàng)作本質(zhì)上，是字詞、圖像、音符等內(nèi)容元素的隨機(jī)拼貼。從這個(gè)意義上來講，人工智能可以從一個(gè)更大內(nèi)容選擇空間中，或者說更大的創(chuàng)作空間，以人類意想想不到的方式進(jìn)行組合或者說創(chuàng)作。

在這些組合里面，往往就有我們認(rèn)為優(yōu)秀，具備靈感與靈性的內(nèi)容，有些內(nèi)容甚至是所謂富有想象力與有創(chuàng)造力的產(chǎn)出。文章本天成，妙手偶得之。優(yōu)秀的內(nèi)容從可能性的角度來說早已存在在那里。只不過通過某個(gè)作家的靈光一現(xiàn)再現(xiàn)了這個(gè)作品，今天藝術(shù)創(chuàng)作過程的主體進(jìn)一步換成了AI。所以，未來的生成性、創(chuàng)作性的工作，AI只可能要比人類做得更好，更加勝任。

但是至于它的作品到底好還是不好，還是完全由作家自己來判斷。它的作品是不是符合你當(dāng)下的情感需要？是不是符合當(dāng)前的人類社會(huì)的境遇情況？是不是能夠引起某個(gè)群體的共鳴、共情？這些依舊是由人類個(gè)體或者群體來判斷、評(píng)價(jià)與選擇。如果做個(gè)比喻，未來人類的主要任務(wù)就是在AI生成的內(nèi)容沙灘上去撿貝殼。AI一定能夠創(chuàng)作出最美的圖畫、最動(dòng)聽的音樂，最動(dòng)人的故事，最動(dòng)情的詩歌，但是哪一個(gè)作品是最打動(dòng)人心的？還是由人類依據(jù)此情此景、文化習(xí)俗、審美標(biāo)準(zhǔn)來評(píng)價(jià)，來選擇，來解釋。

回到問題本身，AGI是否會(huì)到來？這個(gè)問題有個(gè)先決條件：AGI是什么。人們之所以對(duì)此感到困惑，恰恰是因?yàn)锳GI缺少一個(gè)公認(rèn)的定義。剛才許老師試圖去給出一個(gè)定義：AGI是超越個(gè)人或者整個(gè)人類總體的人工智能。這是一種定義。

如果我們把AGI定義成是超過我們?nèi)祟惖闹橇λ降腁I；而人類智力水平又是基于人類的各種考試與測試所檢驗(yàn)的，那么可以說在這個(gè)意義上AGI早晚會(huì)到來。事實(shí)上，去年的AI就已經(jīng)達(dá)到了某些省的文科一本，理科二本的水平；今年的AI應(yīng)該可以在所有人類已知考試中輕松達(dá)到人類冠軍水平，通過研究生和博士生的入學(xué)考試更是不在話下。

但是反過來說，人類是不是應(yīng)該因此感到恐慌呢？其實(shí)一切所謂的AI到來所造成的恐慌，都是因?yàn)槿斯ぶ悄茏尨蠹揖陀X得人類沒用了。換句話說，AI在沖擊舊的人類價(jià)值體系。事實(shí)上，未來人仍有其價(jià)值，我們真正需要盡快開展的工作是重新定位人在AI時(shí)代的核心能力，重建人類的價(jià)值體系。

控制論鼻祖維納寫過一本書《人有人的用處》，在當(dāng)下AI大發(fā)展時(shí)代，用其書名來提振人類對(duì)于自己的信心再恰當(dāng)不過。人相對(duì)機(jī)器而言，有很多“不可計(jì)算的心智特性”是獨(dú)特的。有趣的事實(shí)是，這是DeepSeek幫我總結(jié)歸納生成的術(shù)語。如果仔細(xì)思考DeepSeek的運(yùn)行過程，其本質(zhì)仍然一種計(jì)算過程，是一種基于復(fù)雜電磁規(guī)律的物理過程。但是人和人相遇則會(huì)發(fā)生很多化學(xué)反應(yīng)，我們的荷爾蒙分泌之后、多巴胺分泌之后，我們會(huì)體會(huì)到如沐春風(fēng)、心潮澎湃等情感體驗(yàn)。正如泰格爾所說的，我們每個(gè)人都應(yīng)該活成一道光，照亮身邊的人。

這樣一種人與人之間的化學(xué)反應(yīng)，對(duì)人際關(guān)系的影響，是機(jī)器所不可代替的。人類身上還是有很多不可計(jì)算、難以計(jì)算的特性是機(jī)器無法代替的。相信要不了多久，機(jī)器人就能走進(jìn)家庭、料理家務(wù)、護(hù)理老人。但是機(jī)器再精細(xì)而準(zhǔn)確的服務(wù)，也代替不了來自兒女的對(duì)老人的一句深情問候；機(jī)器再如何完美的情感陪伴，也代替不了來自同類的一次愛撫與擁抱。這就是人不可計(jì)算的特質(zhì)。

從這個(gè)意義上來講，AGI永遠(yuǎn)實(shí)現(xiàn)不了。它或許能在一切由物理過程所決定的方面，遠(yuǎn)遠(yuǎn)超過人類；但在一切需要化學(xué)反應(yīng)的地方，無法比肩人類。那么又有人會(huì)說，我們可不可以給機(jī)器也植入一些類似多巴胺的化學(xué)要素？比如，有一些公司已經(jīng)在設(shè)計(jì)仿生材料的人形機(jī)器人等等?；蛘叻捶较虻难芯繉?duì)生物神經(jīng)元的算法操作。如果這樣的實(shí)驗(yàn)和設(shè)計(jì)成真，那么未來AI可能就會(huì)成為新的生命物種，就像《西部世界》中描繪的那樣，對(duì)于這類物種我們可能要賦予它與人類對(duì)等的地位。

許紀(jì)霖：這在法律上有禁令嗎？

肖仰華：非常好的問題。在我看來，這一步是不應(yīng)該邁出去的，除非你想攪亂這個(gè)世界。這是非常危險(xiǎn)的一步，在某種意義上就是造人。

但是如果我們把時(shí)間尺度拉長，我們還要有一種擔(dān)心：我非常同意許老師提到的身體的重要性，但身體同樣是一種禁錮，使靈魂禁錮在身體內(nèi)，而且身體是會(huì)滅亡的。所以我們才會(huì)去尋求有限生命的無限意義。人類追求意義的源頭是強(qiáng)烈的自我意識(shí)，正是有限、短暫的身體激發(fā)了人類這個(gè)物種存在、生存和延續(xù)的內(nèi)在需求，進(jìn)而產(chǎn)生了強(qiáng)烈的自我意識(shí)，然后有了物我兩分，并產(chǎn)生各種紛繁的意義?？梢哉f，整個(gè)人文和社會(huì)學(xué)科都建立在這一基礎(chǔ)上。

大家可能會(huì)設(shè)想這樣一個(gè)問題：除了擁有身體之外，AI還需要具備哪些條件，才可能誕生人類水平的自我意識(shí)呢？這實(shí)際上是非常值得去嚴(yán)肅思考的。意識(shí)的誕生條件究竟是什么？這是科學(xué)家哲學(xué)家尚未能夠清晰回答的問題。我認(rèn)為可能有幾個(gè)條件：一個(gè)是要有身體。第二個(gè)是要有群體，也就是某種智能體要有一定的規(guī)模。第三個(gè)是要去進(jìn)化，要在環(huán)境中去試錯(cuò)，去反饋和進(jìn)化。智能本質(zhì)上是有環(huán)境塑造的。目前地球上只有人類這個(gè)物種達(dá)到了高水平的意識(shí)，有些動(dòng)物也具備了初步的、一定的自我意識(shí)，但是要形成人類水平的意識(shí)需要依靠上述幾個(gè)條件：要有身體，要有群體，在一個(gè)漫長的進(jìn)化時(shí)段去進(jìn)化，通過漫長的為了生存而奮斗的實(shí)踐，才可能激發(fā)出較高的意識(shí)水平。

當(dāng)然，人的意識(shí)問題并沒有得到完全解答，自我意識(shí)的誕生還有一些神秘之處。哲人們似乎一直保留了一定程度的對(duì)未知的敬畏，從未排除某種更高級(jí)存在為人類包括萬物設(shè)定了基本的智能進(jìn)化規(guī)則的可能性。嚴(yán)老師剛才提到，所有的物種都有著內(nèi)在的追求生存和發(fā)展的傾向，那么或許有人會(huì)問為何創(chuàng)世之初不是相反的設(shè)定呢？為何不是內(nèi)在毀滅的傾向呢，這種設(shè)定也有待反思。如果假定某種更高級(jí)的存在預(yù)先做好了種種設(shè)定，則容易理解與解釋很多智能現(xiàn)象。

其實(shí)今天的AI發(fā)展已經(jīng)非常接近人類的激發(fā)方式，DeepSeek R1復(fù)雜思維能力是通過強(qiáng)化學(xué)習(xí)算法習(xí)得的，是在可能的思考空間進(jìn)行探索、試錯(cuò)，以求得盡可能優(yōu)的解決方案。這種智能的習(xí)得機(jī)制非常接近人類智能進(jìn)化機(jī)制。R1的強(qiáng)化學(xué)習(xí)甚至自發(fā)發(fā)現(xiàn)了新穎的反思模式，也就是所謂的“Aha moment”，這就好比人類的頓悟，經(jīng)過苦思冥想后突然靈感迸發(fā)。整個(gè)R1的學(xué)習(xí)過程完全是其基于強(qiáng)化學(xué)習(xí)的自主學(xué)習(xí)，整個(gè)學(xué)習(xí)過程是無人干預(yù)的。人類唯一的干預(yù)只是設(shè)定強(qiáng)化學(xué)習(xí)過程中對(duì)思維方案的好壞判定的基本規(guī)則。我們通過設(shè)定一個(gè)簡單的判定目標(biāo)，AI就能自主找到最優(yōu)的思考路徑。將來，這個(gè)來自外在的設(shè)定完全可以簡化為讓AI智能體盡可能生存和延續(xù)，就好比科幻作者阿基莫夫?yàn)闄C(jī)器人設(shè)定的三定律。從長遠(yuǎn)來看，人工智能或許有可能會(huì)進(jìn)化到接近某種生命的形態(tài)，因此對(duì)于其進(jìn)化過程中是否會(huì)發(fā)展某種程度的意識(shí)水平是需要嚴(yán)肅研究與監(jiān)管的。

但必須強(qiáng)調(diào)的是， AI發(fā)展到這個(gè)階段，我們要嚴(yán)肅地思考，關(guān)于人工智能的發(fā)展究竟會(huì)帶來什么。表面上看，人工智能是生產(chǎn)力，但它的生產(chǎn)力和破壞力同樣巨大。我們真的想親自去創(chuàng)造一個(gè)挑戰(zhàn)人類的新物種嗎，更何況這個(gè)新物種要比你強(qiáng)大得多。但悲觀地來看，人類社會(huì)往往只有經(jīng)過重大的災(zāi)難才會(huì)去嚴(yán)肅反思。這就是為什么人工智能的監(jiān)管如此重要。

嚴(yán)鋒：我剛才聽了很感動(dòng)，肖老師不光是硬核的專家，前沿的研究者，也有很溫暖的人文關(guān)懷。但是，關(guān)于人類的不可計(jì)算的心智特性，其實(shí)我是有一點(diǎn)懷疑的。因?yàn)楝F(xiàn)在有一些人工智能的應(yīng)用，已經(jīng)演變?yōu)樾睦碇委煄?、撫慰者，甚至作為一個(gè)虛擬的性伴侶。更令人吃驚的是，現(xiàn)實(shí)中很多人沉迷于跟ChatGPT對(duì)話，甚至覺得人工智能所扮演的角色，要比現(xiàn)實(shí)當(dāng)中的更好。我們原本以為心靈是人類最后的防線，但現(xiàn)在人工智能可以說比我們更了解我們自己，這對(duì)于人類的心靈性也是一個(gè)挑戰(zhàn)。這也是對(duì)技術(shù)發(fā)展與監(jiān)管挑戰(zhàn)。

許紀(jì)霖：剛才肖老師有一句話是很令人震撼的。AI有多大的創(chuàng)造力、生產(chǎn)力，就有多大的破壞力。這和原子彈、核技術(shù)是一樣的。

在ChatGPT出現(xiàn)以后，出現(xiàn)了技術(shù)加速主義和與人類對(duì)齊的對(duì)齊主義的大爭論。在Open AI公司內(nèi)部，還因此發(fā)生了一場宮斗劇。但DeepSeek出現(xiàn)以后，似乎技術(shù)加速主義占了上風(fēng)，對(duì)齊主義的聲音反而比較微弱了。然而，因?yàn)殚_源，在AI技術(shù)飛速發(fā)展的當(dāng)下，AI的破壞力將更大，道高一尺，魔高一丈。我們應(yīng)該怎么去看待AI的破壞力？在未來AI普遍開源的背景之下，又如何處理技術(shù)發(fā)展與人類對(duì)齊的平衡呢？

肖仰華：自AI問世的第一天起，關(guān)于人工智能加速與對(duì)齊、發(fā)展與監(jiān)管的討論就從未停止。但自DeepSeek問世以來，業(yè)界漸有全面擁抱加速而忽略對(duì)齊的傾向。近日，法國的人工智能峰會(huì)上，美國副總統(tǒng)萬斯在發(fā)言中表示：美國要成為全球人工智能競爭中的領(lǐng)導(dǎo)者，要將人工智能發(fā)展變成美國再次振興、再次偉大的生產(chǎn)力，并且明確反對(duì)關(guān)于人工智能的對(duì)齊與監(jiān)管。

回到國內(nèi)，我們多還沉浸在能夠用上最先進(jìn)大模型的喜悅中。有媒體稱借助DeepSeek，耗費(fèi)人類10年的繁雜政務(wù)工作，DeepSeek一天就做完了，這是生產(chǎn)力的巨大提升。歸根結(jié)底， DeepSeek讓最先進(jìn)的大模型技術(shù)平民化、普惠化，讓老百姓用上最先進(jìn)的大模型，享受到AI帶來的便利。這當(dāng)然會(huì)讓整個(gè)社會(huì)感到欣喜。

但同時(shí)，我們也要認(rèn)清AI可能帶來的各種問題，做好相應(yīng)的防范和治理工作。有些人認(rèn)為，所謂AI風(fēng)險(xiǎn)不過是危言聳聽。但事實(shí)上AI應(yīng)用帶來的問題，已經(jīng)發(fā)生在我們的日常工作與生活中。比如各位專家學(xué)者辛辛苦苦發(fā)表論文、出版著作，但AI可能在未獲得你的授權(quán)同意下直接學(xué)習(xí)其中內(nèi)容。我最近就發(fā)現(xiàn)，AI關(guān)于某些問題生產(chǎn)的內(nèi)容，和我曾經(jīng)寫過的文章觀念非常相似，但它重新組織了內(nèi)容形式，避免出現(xiàn)大段或連續(xù)的原文內(nèi)容，規(guī)避了抄襲和侵權(quán)的指控。作者們只能是有苦說不出。

另一方面，AI也可能抓取到一些在網(wǎng)絡(luò)上的隱私信息。比如一些教師在教學(xué)中分享給學(xué)生自己的個(gè)人信息，結(jié)果被AI抓取并被大模型學(xué)習(xí)，使得任何普通用戶都可以通過提問接觸到這些隱私信息。這些問題已經(jīng)在發(fā)生，只不過我們可能還沒有意識(shí)到。

比這些問題更可怕的，是AI的大規(guī)模濫用和誤用。比如現(xiàn)在很多地方政府、教育管理部門鼓勵(lì)小學(xué)生、中學(xué)生使用AI，這個(gè)原則并沒有錯(cuò)誤，但我們有沒有思考清楚，在教育中究竟應(yīng)該怎么使用AI？我看到很多學(xué)生用AI寫作業(yè)、寫報(bào)告，學(xué)生們交上來的作業(yè)與報(bào)告“含AI量”越來越高。作業(yè)與報(bào)告本身的目的是鼓勵(lì)孩子的獨(dú)立思考；如果我們不去監(jiān)督孩子的獨(dú)立思考，放任其對(duì)AI的使用，學(xué)習(xí)者的相應(yīng)能力就無從發(fā)展。所以我們在鼓勵(lì)A(yù)I發(fā)展的同時(shí)，一定要想清楚其中的細(xì)則，比如在教育中哪些場景可以用，哪些場景不能用。我在教育方面，一直堅(jiān)持一條原則：重教輕學(xué)。涉及教的環(huán)節(jié)，大膽使用AI，把老師們從繁重的備課、閱卷、出題里解放出來。但到了學(xué)生學(xué)的環(huán)節(jié)，就要謹(jǐn)慎使用AI，避免其形成AI依賴。

另外一個(gè)非常迫切的問題，就是AI對(duì)就業(yè)結(jié)構(gòu)的重組造成的沖擊。目前的就業(yè)結(jié)構(gòu)已經(jīng)跟不上AI發(fā)展步伐，有大量的傳統(tǒng)職業(yè)要被淘汰。第一波受到大規(guī)模沖擊的，就是程序員。這兩年互聯(lián)網(wǎng)大廠裁的都是程序員，因?yàn)楝F(xiàn)在AI寫代碼準(zhǔn)確率越來越高。以AI現(xiàn)在水平基本上可以減少40%左右程序員崗位需求，這個(gè)趨勢只會(huì)愈演愈烈。除此之外，無人車去年在某些城市的使用也對(duì)網(wǎng)約車司機(jī)、出租車司機(jī)等崗位帶來巨大沖擊；類似公務(wù)員的文案工作，以及窗口型服務(wù)工作，也將很快被AI取代。

有一些人認(rèn)為，AI時(shí)代會(huì)創(chuàng)造很多新的就業(yè)機(jī)會(huì)，因此擔(dān)心AI的就業(yè)沖擊是杞人憂天。首先我們要承認(rèn)，AI的大規(guī)模使用一定會(huì)創(chuàng)造全新的就業(yè)機(jī)會(huì)，比如大模型“煉丹師”，也就是大模型訓(xùn)練工程師。但問題的關(guān)鍵在于，AI創(chuàng)造新的就業(yè)崗位的速度遠(yuǎn)遠(yuǎn)慢于AI毀滅舊的工作崗位的速度。AI的過速發(fā)展并沒有給我們?nèi)祟惿鐣?huì)結(jié)構(gòu)、就業(yè)結(jié)構(gòu)的緩慢轉(zhuǎn)型留下充足的時(shí)間。這就是當(dāng)下時(shí)代的最根本的矛盾，而這個(gè)矛盾會(huì)引發(fā)大量的問題。

或許會(huì)有人說，AI發(fā)展速度會(huì)慢下來。我的預(yù)測是AI發(fā)展只會(huì)加速。因?yàn)锳I研發(fā)與大規(guī)模應(yīng)用有政府與資本推動(dòng)。作為新興技術(shù)革命的代表、作為新質(zhì)生產(chǎn)力，AI浪潮是時(shí)代發(fā)展趨勢，是不可阻擋的，關(guān)系到國家競爭，決定民族興亡，是不容錯(cuò)失的重大發(fā)展戰(zhàn)略機(jī)遇。同時(shí)，資本逐利的本性，勢必要求AI產(chǎn)業(yè)的大規(guī)模投入得到變現(xiàn)。AI的大規(guī)模應(yīng)用，像水、電、通信網(wǎng)絡(luò)基礎(chǔ)設(shè)施一般的大規(guī)模應(yīng)用勢在必行。

在這一過程中，很容易出現(xiàn)AI濫用。AI大規(guī)模濫用帶來的問題，包括教育升級(jí)、經(jīng)濟(jì)結(jié)構(gòu)轉(zhuǎn)型、人力資源市場調(diào)整，甚至社會(huì)關(guān)系革新都需要時(shí)間。人類社會(huì)的一切上層建筑的調(diào)整都是緩慢的、經(jīng)不起震蕩，唯有溫和變革才能維系全社會(huì)穩(wěn)定。AI的過速發(fā)展和人類社會(huì)結(jié)構(gòu)的緩慢調(diào)整之間的矛盾，怎么去調(diào)和，這都是我們需要去思考的問題。

如果我們不想深度思考并積極應(yīng)對(duì)這些問題，AI就可能給我們帶來人類難以承受的損失。一旦AI帶有破壞力的一面被放大，那么AI本身也就無法持續(xù)發(fā)展。AI的可持續(xù)發(fā)展能力，才是一國AI時(shí)代最核心的競爭力。

在我看來，開源進(jìn)一步放大了發(fā)展與監(jiān)管之間的矛盾。開源讓先進(jìn)大模型人人可用。人人可用也就意味著不良用心的人也可以使用先進(jìn)大模型欺詐、造謠、作假，甚至制造武器，危害社會(huì)。如果只是把矛磨得越來越尖銳，盾不夠厚實(shí)，那么社會(huì)就一定會(huì)失衡。所以，面對(duì)越來越尖銳的矛，我們一定要鑄造越來越厚重的盾，才能做好AI的可持續(xù)發(fā)展。隨著開源的發(fā)展，我們更需要更加迅捷和有力的監(jiān)管和治理工作?？傮w上，目前的治理與監(jiān)管工作跟不上AI應(yīng)用速度。這個(gè)矛盾有可能正在醞釀一些潛在風(fēng)險(xiǎn)。

或許會(huì)有人說我們完全可以先發(fā)展再治理。互聯(lián)網(wǎng)發(fā)展我們就是如此得到實(shí)惠的。然而，AI不同于互聯(lián)網(wǎng)。AI是以全面發(fā)展人類水平的心智能力，并取代人類的同等水平所能勝任的大部分人類工作為目的的。AI大模型濫用可能會(huì)造成積重難返的困境。事實(shí)上，即便我們反思先發(fā)展再治理的互聯(lián)網(wǎng)現(xiàn)代服務(wù)業(yè)，我們?nèi)匀荒軌虬l(fā)現(xiàn)一些其發(fā)展所帶來的代價(jià)。比如我國有著全世界最先進(jìn)的互聯(lián)網(wǎng)外賣服務(wù)業(yè)，但也造成了大量的宅男腐女，加速了低生育時(shí)代的到來。諸如此類種種問題，我們不能因?yàn)榘l(fā)展而選擇性忽略。事實(shí)上，發(fā)展AI最大的風(fēng)險(xiǎn)，恰恰是大部分人尚未意識(shí)到它的風(fēng)險(xiǎn)，而只關(guān)注它作為先進(jìn)生產(chǎn)力的那一面，忽略了其破壞性的那一面。正確的態(tài)度是在大力發(fā)展AI先進(jìn)生產(chǎn)力的同時(shí)，以前所未有的積極姿態(tài)未雨綢繆做好應(yīng)對(duì)與預(yù)防。

許紀(jì)霖：的確，今天我們都沉浸在一片歡欣鼓舞當(dāng)中，但AI可能對(duì)人類帶來各種威脅。就像核技術(shù)出現(xiàn)以后，并未像奧本海默所期望的那樣，被導(dǎo)向善的用途。今天，是又一個(gè)“奧本海默時(shí)刻”。即使意識(shí)到AI的破壞性，因?yàn)榘l(fā)達(dá)國家的競爭，現(xiàn)在成為了AI的軍備競爭，誰掌控了AI的頂尖技術(shù)，誰就擁有全球的霸權(quán)，無論從科技、金融、制造業(yè)，還是從軍事來說，都進(jìn)入了一個(gè)以AI為核心的全方位競爭。一旦陷入了以國家利益為中心的非理性競爭，那么全人類的利益便被擱置了。說得稍微過分一點(diǎn)，人類的未來敵人（硅基生物）已經(jīng)在敲門了，但碳基生物還在忙于內(nèi)斗，不知大禍臨頭，或者即使知道了，也只顧眼前的國家霸權(quán)。

嚴(yán)鋒 ：就像肖老師說的，一些人甚至可以用AI寫出惡意代碼，流氓軟件，堪比撬門撬鎖。這非?？膳?，但是我們抵擋不住。

還有一個(gè)問題，我作為老師更加感同身受，就是學(xué)生對(duì)于AI的依賴。尤其是在閱讀學(xué)生上交的論文過程中，教師怎么知道學(xué)生寫了多少？怎么知道學(xué)生有沒有學(xué)進(jìn)去？這里面是不是存在教育的退化？如果所有的答案都是現(xiàn)成的，學(xué)習(xí)就不復(fù)存在，最終人類就會(huì)退化。

我甚至在想，以后可能我們需要更多的線下教學(xué)。包括新聞也是如此，更需要身在現(xiàn)場的調(diào)查記者?，F(xiàn)在打開某些網(wǎng)站的首頁，很多都是AI寫的內(nèi)容，非常無聊，甚至誤導(dǎo)，但至少目前我們還能夠分辨。將來隨著技術(shù)進(jìn)步，生成的視頻、圖像都能夠以假亂真，所謂的后真相時(shí)代和信息污染將造成巨大的危害。

那怎么保護(hù)好自己？我覺得我們要小心網(wǎng)絡(luò)。我現(xiàn)在相信生活的三個(gè)H，第一個(gè)H是Health，就是健康，身體和心理的健康。第二個(gè)H是Happy，光有健康還不夠，還要Happy。第三個(gè)H是Hidden，隱藏。這也是三體給我的啟示，就是人類面對(duì)AI的風(fēng)險(xiǎn)，我得隱藏好自己，保護(hù)好自己的個(gè)人信息。要了解、學(xué)習(xí)、掌握如何隱藏。我認(rèn)為我們甚至要回到傳統(tǒng)當(dāng)中，減少網(wǎng)上的曝光，不要讓AI輕易地找到你。

如何釋放創(chuàng)造力？

許紀(jì)霖：差不多一年多前，我們與肖老師聊過中國的AI和ChatGPT的差距有多遠(yuǎn)。當(dāng)時(shí)肖老師說，其實(shí)中國在數(shù)據(jù)方面是有優(yōu)勢的，算力方面也不差。但真正有距離的，是中國的AI公司的軟實(shí)力，那種內(nèi)在的組織形態(tài)。

今天許多國企、互聯(lián)網(wǎng)大廠的辦事程序之繁瑣，開會(huì)之頻繁，都讓我非常驚訝，在這樣的環(huán)境下很難激發(fā)出員工的創(chuàng)造力，產(chǎn)生真正的技術(shù)創(chuàng)新。谷歌這種大廠之所以還有創(chuàng)新，是通過收購初創(chuàng)公司，讓它們獨(dú)立運(yùn)作。今天DeepSeek的成功，在我看來，很重要的是公司的組織形態(tài)與眾不同。首先幻方不差錢，不用看投資方和股東的臉色，其次梁文峰讓公司招來的頂尖人才，不陷入各種程序和規(guī)范的約束。激勵(lì)他們的好奇心，提供給他們充分的個(gè)人自由，與其說是一個(gè)公司，不如更像一個(gè)研究院，內(nèi)部充滿了松弛感。

我現(xiàn)在的問題是：DeepSeek的成功是偶然、不可復(fù)制的嗎？還是說，國內(nèi)已經(jīng)存在這么一批有潛力的初創(chuàng)公司，只要政府不去過多地干預(yù)，就能爆發(fā)出驚人的能量？

肖仰華：我覺得這是一個(gè)非常好的問題，最近大家也展開了很多相關(guān)的討論與反思。為什么DeepSeek誕生于杭州，而不是北上廣深這些大城市？為什么是民營企業(yè)在人工智能方面取得突破，而不是有大量投入的科研院，或者國企、央企在這方面有所突破？這些反思都有其價(jià)值。

實(shí)際上我們?nèi)タ碊eepSeek的成功，它有一定的必然性。這種成功得益于很多因素。第一，DeepSeek是初創(chuàng)企業(yè)的成功，整個(gè)公司也就一百多人。這個(gè)階段的公司，和人類的發(fā)展過程中的兒童階段一樣，保持著最強(qiáng)的好奇心和創(chuàng)造力。過早地掐滅孩子的好奇心和創(chuàng)造力，進(jìn)入某種模式化的教育，就是在毀掉難能可貴的創(chuàng)新精神。

所謂的大公司就好比成年人，大部分人成年后，已經(jīng)喪失了創(chuàng)造力和好奇心。梁文峰一直在非常小心地呵護(hù)團(tuán)隊(duì)的創(chuàng)造力和好奇心，讓他們勇于探索，敢于探索，最終才能有DeepSeek這次突破和創(chuàng)新。我認(rèn)為全社會(huì)都需要努力為他們創(chuàng)造環(huán)境，去呵護(hù)這種創(chuàng)造力。

第二個(gè)點(diǎn)就是杭州的營商環(huán)境，能夠保證所有公司在相對(duì)寬松與公平的環(huán)境野蠻生長。在科技創(chuàng)新方面，太過細(xì)致的政策，太過詳細(xì)的計(jì)劃，反而可能壓制了創(chuàng)新的涌現(xiàn)。偉大往往無法被計(jì)劃。另一方面，一些地方的種種扶持政策帶來了頭部企業(yè)的資源傾斜，反而擠占了同行業(yè)其他企業(yè)發(fā)展機(jī)遇和空間。

還有一點(diǎn)是許老師剛剛提到的，DeepSeek是自給自足的，它不需要背負(fù)投資人的期望，以及變現(xiàn)的壓力。我們可以想象，某些初創(chuàng)企業(yè)在投資壓力下，一定會(huì)選擇最穩(wěn)妥的道路，也就是復(fù)制成功者技術(shù)道路；一定不敢去試錯(cuò)，因?yàn)闆]有時(shí)間和機(jī)會(huì)去試錯(cuò)。但偉大的創(chuàng)新一定是通過不斷試錯(cuò)后得出的。我們理應(yīng)要鼓勵(lì)試錯(cuò)，寬容失敗，但很多投資是不允許失敗的，被投企業(yè)又怎敢大膽嘗試呢？

當(dāng)然，我們也要意識(shí)到中國的優(yōu)勢。第一，我國在先進(jìn)技術(shù)的成本控制方面非常有經(jīng)驗(yàn)。從高鐵技術(shù)，到新能源汽車，到光伏，再到大模型，控制與持續(xù)降低成本能夠幫助我們建立更大的市場競爭優(yōu)勢，占領(lǐng)更多的全球市場。第二，我國在人工智能發(fā)展的基礎(chǔ)設(shè)施方面要優(yōu)于美國。前段時(shí)間，美國啟動(dòng)了名為“星際之門”的AI開發(fā)聯(lián)合出資項(xiàng)目，投資達(dá)到五千億美元，建立AI開發(fā)的數(shù)據(jù)中心。這也說明美國意識(shí)到了人工智能基礎(chǔ)設(shè)施的重要性。但在集中力量辦大事、在人工智能基礎(chǔ)設(shè)施建設(shè)等方面，我國更具優(yōu)勢。最后，在統(tǒng)籌發(fā)展方面，我們占據(jù)優(yōu)勢。美國的政體決定了兩黨之間的互相拉扯，長期政策延續(xù)性差，缺乏統(tǒng)籌和規(guī)劃。但AI的發(fā)展離不開高效率政府的統(tǒng)籌和規(guī)劃。我國在激活數(shù)據(jù)要素價(jià)值、在AI治理與監(jiān)管方面都有著統(tǒng)籌發(fā)展方面的優(yōu)勢。因此，只要保持寬松、寬容的創(chuàng)新創(chuàng)業(yè)環(huán)境，我們有理由相信中國人工智能終將很快走上一條高速、可持續(xù)發(fā)展的道路。