作者｜季倩
編輯｜張濤
本篇內(nèi)容主要來(lái)自于清華大學(xué)人工智能研究院名譽(yù)院長(zhǎng)、中國(guó)科學(xué)院院士張鈸7月6日下午在世界人工智能大會(huì)昇騰人工智能產(chǎn)業(yè)高峰論壇上的演講，演講全文經(jīng)作者編輯，做了不改變?cè)獾恼恚瑑?nèi)容略有刪改。
(資料圖)
張鈸院士是中國(guó)人工智能領(lǐng)域泰斗級(jí)專(zhuān)家，早在40多年前，張鈸就開(kāi)始投身人工智能領(lǐng)域研究，發(fā)表了中國(guó)第一篇人工智能領(lǐng)域的學(xué)術(shù)論文、獲得中國(guó)在人工智能領(lǐng)域的第一個(gè)國(guó)際重要獎(jiǎng)項(xiàng)、領(lǐng)銜成立國(guó)內(nèi)首個(gè)智能機(jī)器人實(shí)驗(yàn)室、培養(yǎng)了本土第一位人工智能領(lǐng)域博士畢業(yè)生，組建中國(guó)第一個(gè)人工智能?chē)?guó)家重點(diǎn)實(shí)驗(yàn)室……這些“第一”樹(shù)立了中國(guó)人工智能發(fā)展的一個(gè)個(gè)里程碑，推動(dòng)中國(guó)在此領(lǐng)域大踏步前進(jìn)。
作為中國(guó)人工智能主要奠基者和發(fā)展推動(dòng)者，40多年來(lái)，張鈸矢志不渝致力于中國(guó)人工智能領(lǐng)域的創(chuàng)新，發(fā)表或共同發(fā)表了數(shù)百篇學(xué)術(shù)論文，出版系列專(zhuān)著。他獲得了諸多獎(jiǎng)項(xiàng)，其中包括ICL歐洲人工智能獎(jiǎng)、國(guó)家自然科學(xué)三等獎(jiǎng)、國(guó)家科技進(jìn)步三等獎(jiǎng)、國(guó)家教委科技進(jìn)步一、二等獎(jiǎng)、電子工業(yè)部科技進(jìn)步一等獎(jiǎng)以及國(guó)防科工委科技進(jìn)步一等獎(jiǎng)。
一年前，中國(guó)科學(xué)院院士、清華大學(xué)人工智能研究院名譽(yù)院長(zhǎng)張鈸詢問(wèn)了還處于實(shí)驗(yàn)室階段的ChatGPT一個(gè)簡(jiǎn)單的問(wèn)題：清華大學(xué)校歌歌詞是什么？
ChatGPT沒(méi)有回答正確，反而開(kāi)始胡說(shuō)八道，張鈸當(dāng)場(chǎng)指正并輸入了正確的校歌歌詞。但退出后再度進(jìn)入，ChatGPT的答案依舊是錯(cuò)的，此后張鈸數(shù)度詢問(wèn)，ChatGPT依舊無(wú)法給出清華大學(xué)校歌的正確回答。
他通過(guò)這個(gè)案例，指出了ChatGPT三個(gè)不可避免的缺點(diǎn)，他認(rèn)為，這些情況說(shuō)明Chat GPT的輸出往往不會(huì)符合我們道德、倫理、政治的要求。所以ChatGPT出現(xiàn)以后，人工智能的治理不可避免。
他在2023世界人工智能大會(huì)上表示，只有徹底把以ChatGPT為代表的大模型與生成式人工智能的內(nèi)部工作原理搞清楚，才能找到人工智能發(fā)展的“金鑰匙”。
1.ChatGPT向通用人工智能邁出了一步
為什么說(shuō)ChatGPT的出現(xiàn)是一個(gè)關(guān)鍵節(jié)點(diǎn)？目前行業(yè)有觀點(diǎn)認(rèn)為，ChatGPT是通用人工智能，也有相反的觀點(diǎn)指出ChatGPT不是通用人工智能。張?jiān)菏空J(rèn)為這兩個(gè)說(shuō)法都不全面，他比較贊同微軟提出的，ChatGPT是通用人工智能的火花。
張鈸認(rèn)為，最恰當(dāng)?shù)脑u(píng)價(jià)是，ChatGPT向通用人工智能邁出了一步。
ChatGPT具有通用人工智能的兩個(gè)特征，第一個(gè)特征是，在對(duì)話和聊天這個(gè)領(lǐng)域，它達(dá)到了人工智能的目標(biāo)，或者是達(dá)到了行為主義主張的人工智能的目標(biāo)，即使得機(jī)器的行為跟人類(lèi)的行為相似，與ChatGPT 對(duì)話和人類(lèi)的對(duì)話很相近；
第二個(gè)特征，ChatGPT 是開(kāi)領(lǐng)域、多任務(wù)的，在對(duì)話這個(gè)問(wèn)題里跟領(lǐng)域無(wú)關(guān)，這是一個(gè)重大的突破。大家知道人工智能經(jīng)歷過(guò)第一代知識(shí)驅(qū)動(dòng)，第二代數(shù)據(jù)驅(qū)動(dòng)，都只能在限定領(lǐng)域里面完成單個(gè)任務(wù)。所以ChatGPT就變成開(kāi)領(lǐng)域， 走向通用。
基于“達(dá)到人類(lèi)水平”、“突破限定領(lǐng)域”這兩個(gè)通用人工智能最重要的特征，所以可以說(shuō)它是通用人工智能。但因?yàn)樗皇窃趯?duì)話，或者講得寬一點(diǎn)，是在語(yǔ)言處理這個(gè)領(lǐng)域里面達(dá)到這個(gè)目標(biāo)， 所以還不能把它稱(chēng)作通用人工智能，因?yàn)樵趧e的智能領(lǐng)域里面，它能否通用現(xiàn)在還說(shuō)不清楚。
2.ChatGPT達(dá)到現(xiàn)在的水平背后經(jīng)過(guò)了行業(yè)六七十年的努力
為什么ChatGPT 為什么能夠達(dá)到現(xiàn)在這樣的水平，張鈸解釋?zhuān)饕捎谌斯ぶ悄芙?jīng)過(guò)六七十年的努力實(shí)現(xiàn)了三個(gè)關(guān)鍵技術(shù)的突破。
第一個(gè)技術(shù)，基于詞嵌入的文本語(yǔ)意表示。
第二個(gè)技術(shù)，是基于注意機(jī)制的轉(zhuǎn)換器，就是剛剛高院士談的大模型，我們現(xiàn)在說(shuō)的大模型就是大轉(zhuǎn)換器。
第三個(gè)技術(shù)，是基于預(yù)測(cè)下一個(gè)詞的自監(jiān)督學(xué)習(xí)。
他認(rèn)為，ChatGPT 是經(jīng)過(guò)人工智能領(lǐng)域或其他領(lǐng)域大量科學(xué)家和工程師六七十年共同努力的結(jié)果，以上三個(gè)問(wèn)題的突破，使得機(jī)器在處理文本上起到了本質(zhì)的變化。
過(guò)去我們?cè)谔幚砦谋镜臅r(shí)候，往往把它稱(chēng)作處理數(shù)據(jù)，到現(xiàn)在為止，大家還是用的這個(gè)詞，但是這個(gè)詞在ChatGPT不成立，因?yàn)镃hatGPT是在我們找到了文本語(yǔ)意表示這個(gè)條件下再處理文本，所以它處理的不是文本的形式，不是把文本當(dāng)成數(shù)據(jù)來(lái)處理，而是把文本當(dāng)成知識(shí)來(lái)處理。
所以他認(rèn)為，ChatGPT成功并不是僅僅歸功于三個(gè)要素，也就是數(shù)據(jù)、算力和算法，我覺(jué)得應(yīng)該強(qiáng)調(diào)四個(gè)要素，分別是知識(shí)、數(shù)據(jù)、算法和算力。“也就是說(shuō)，我們有三個(gè)關(guān)鍵技術(shù)的突破，就使得我們能夠從大量的文本這里我們叫做數(shù)據(jù)，從大量的數(shù)據(jù)中間可以獲取到知識(shí)，只有出現(xiàn)這個(gè)轉(zhuǎn)變才有現(xiàn)在的ChatGPT，不然我們還是停留在那個(gè)認(rèn)識(shí)上肯定是錯(cuò)的。”
3.人工智能發(fā)展到ChatGPT以前不能說(shuō)是科學(xué)
張鈸判斷，這個(gè)突破可能帶來(lái)三件事情是不可阻擋的:
第一件事就是必然帶來(lái)科技的革命，首先會(huì)帶來(lái)人工智能本身的革命。
張鈸解釋稱(chēng)，人工智能發(fā)展到ChatGPT以前，不能說(shuō)它是一個(gè)科學(xué)，因?yàn)樗鼪](méi)有理論。
人工智能為什么理論建立不起來(lái)?非常重要的原因是，第一代人工智能做的知識(shí)驅(qū)動(dòng)也好，第二代人工智能做的數(shù)據(jù)驅(qū)動(dòng)也好，都是在限定領(lǐng)域中完成單個(gè)任務(wù)，而在單領(lǐng)域單任務(wù)里面不可能建立一個(gè)通用理論，ChatGPT掃除了這個(gè)障礙，至少在自然語(yǔ)言處理上掃除了這個(gè)障礙，因?yàn)樗I(lǐng)域無(wú)關(guān)。一旦跟領(lǐng)域脫鉤了，才有可能建立起來(lái)它的通用理論。
所以，現(xiàn)在去建立人工智能理論是有可能的，在ChatGPT沒(méi)出現(xiàn)以前，這種可能性不存在。
“所以這對(duì)我們來(lái)講是一個(gè)激勵(lì)，突破口就是ChatGPT，如果我們沒(méi)有把ChatGPT內(nèi)部的工作原理搞清楚，我們就找不到進(jìn)入人工智能理論的鑰匙。”
ChatGPT里面很多現(xiàn)象，我們說(shuō)不清楚，但是一方面它能夠生成一個(gè)非常出人意料非常好的結(jié)果，它同時(shí)又會(huì)胡說(shuō)八道。為什么會(huì)出現(xiàn)這個(gè)現(xiàn)象根本不清楚。
所以頭一個(gè)必然會(huì)迎來(lái)的科技的革命，首先這個(gè)革命會(huì)從 AI 本身開(kāi)始。
第二個(gè)事情，就是產(chǎn)業(yè)的變革。首先是人工智能產(chǎn)業(yè)本身的產(chǎn)業(yè)變革。
人工智能產(chǎn)業(yè)的發(fā)展跟信息技術(shù)的產(chǎn)業(yè)發(fā)展是非常不一 樣的，信息科技的發(fā)展，我們可以用 4 個(gè)字來(lái)形容“高速持續(xù)”，但是人工智能產(chǎn)業(yè)的發(fā)展是“緩慢曲折”。
什么原因呢?一個(gè)最重要的原因就是信息科技從一開(kāi)始理論就建立起來(lái)了，計(jì)算機(jī)的理論是 1936 年建立的，通訊理論是 1948 年建立的，所以它在理論指導(dǎo)下，技術(shù)和它的產(chǎn)業(yè)發(fā)展都非常順利。
而人工智能只有算法和模型，而且這些算法和模型都是領(lǐng)域限定和任務(wù)限定的， 所以你開(kāi)發(fā)出來(lái)的所有人工智能的硬件或軟件全是專(zhuān)用的，跟信息產(chǎn)業(yè)完全不同，
信息產(chǎn)業(yè)的所有硬件和軟件全是通用的，市場(chǎng)非常之大，而信息產(chǎn)業(yè)的硬件或軟 件通常是專(zhuān)用的，都是跟領(lǐng)域緊密結(jié)合的，信息產(chǎn)業(yè)不跟領(lǐng)域結(jié)合根本不可能有 這個(gè)產(chǎn)業(yè)，但是拿計(jì)算機(jī)來(lái)講，完全不跟應(yīng)用結(jié)合，它生產(chǎn)出來(lái)的計(jì)算機(jī)什么地方都能用。
但是有了ChatGPT之后，人工智能有可能建立一個(gè)跟領(lǐng)域無(wú)關(guān)的模型和算法，只有這個(gè)算法和模型擺脫了領(lǐng)域的限制，將來(lái)生產(chǎn)出來(lái)的硬件和軟件才會(huì)是通用的，或者是一定范圍里頭通用的，才有很大的市場(chǎng)。這就是今后信息產(chǎn)業(yè)革命的一個(gè)方向。
第三個(gè)事情，人工智能治理。
回到“清華校歌”這個(gè)例子，他認(rèn)為，這些情況說(shuō)明ChatGPT的輸出往往不會(huì)符合我們道德、倫理、政治的要求。所以ChatGPT出現(xiàn)以后，人工智能的治理是不可避免的。
張鈸主張要發(fā)展第三代人工智能。
一是要建立可解釋魯棒的人工智能理論。ChatGPT出現(xiàn)以后建立這個(gè)理論才成為可能，過(guò)去實(shí)際上是不可能建立的。
第二個(gè)內(nèi)容，發(fā)展安全、可信、可控、可靠、可拓展的人工智能技術(shù)，只有建立了這個(gè)理論之后，我們才有可能得到一個(gè)安全的人工智能技術(shù)。
“換句話說(shuō)， 現(xiàn)在的人工智能技術(shù)是不安全的，不可靠的，也是不可信的。特別是利用大數(shù)據(jù)的機(jī)器學(xué)習(xí)，結(jié)果一定是這樣的。”
我們必須建立人工智能的理論，這才能開(kāi)發(fā)出可信、可靠、可信及可擴(kuò)展的人工智能技術(shù)，最后，才能推動(dòng)產(chǎn)業(yè)化的創(chuàng)新應(yīng)用和產(chǎn)業(yè)發(fā)展。
以下為演講全文：
各位專(zhuān)家、各位嘉賓、大家好!非常高興被聘請(qǐng)為昇騰 AI 的榮譽(yù)顧 問(wèn)，這可能是對(duì)人工智能工作者的一種鼓勵(lì)。我覺(jué)得人工智能工作者需要鼓勵(lì)， 因?yàn)槿斯ぶ悄苁顷J無(wú)人區(qū)非常艱難，大家不要認(rèn)為人工智能取得的每一個(gè)進(jìn)步都是那么容易的，都是非常困難的。
首先我想談一個(gè)問(wèn)題，怎么評(píng)估ChatGPT？現(xiàn)在有兩種說(shuō)法，一種說(shuō)法是，ChatGPT是通用人工智能，還有一種說(shuō)法，它不是通用人工智能，我的觀點(diǎn)是，這兩個(gè)說(shuō)法都不對(duì)，也都對(duì)。
我認(rèn)為最恰當(dāng)?shù)氖钦f(shuō)法是，ChatGPT向通用人工智能邁出了一步。按照微軟的說(shuō)法，ChatGPT是通用人工智能的火花，我贊成這種觀點(diǎn)。
為什么呢？ ChatGPT具有通用人工智能的兩個(gè)特征，一個(gè)特征是，在對(duì)話或者聊天這個(gè)領(lǐng)域，它達(dá)到了人工智能的目標(biāo)，或者達(dá)到了行為主義所主張的人工智能的目標(biāo)。
行為主義人工智能現(xiàn)在是人工智能主流，它背后的哲學(xué)是唯物主義、實(shí)用主義的，其追求的人工智能目標(biāo)是使得機(jī)器的行為跟人類(lèi)的行為相似。
為什么說(shuō)ChatGPT達(dá)到了這個(gè)指標(biāo)，因?yàn)槲覀兏鶦hatGPT對(duì)話的時(shí)候，就和人類(lèi)的對(duì)話很相近，因此它達(dá)到了頭一個(gè)通用人工智能的特征。
第二個(gè)特征是，ChatGPT是開(kāi)領(lǐng)域多任務(wù)，也就是說(shuō)，在對(duì)話這個(gè)領(lǐng)域，問(wèn)題跟領(lǐng)域無(wú)關(guān)，這是一個(gè)重大的突破。
大家知道，人工智能經(jīng)歷過(guò)第一代知識(shí)驅(qū)動(dòng)，第二代數(shù)據(jù)驅(qū)動(dòng)，都只能在限定領(lǐng)域里頭完成單個(gè)任務(wù)，所以ChatGPT的出現(xiàn)變成一個(gè)開(kāi)局，開(kāi)始走向通用。
在通用人工智能最重要的兩個(gè)特征上，達(dá)到人類(lèi)水平，跟領(lǐng)域有關(guān)，所以我們可以說(shuō)它是通用的。但是因?yàn)樗皇窃趯?duì)話或者說(shuō)只是在語(yǔ)言處理這個(gè)領(lǐng)域里達(dá)到這個(gè)目標(biāo)，所以我們還不能把它稱(chēng)作通用人工智能。因?yàn)樵趧e的智能領(lǐng)域是不是能通用，現(xiàn)在還說(shuō)不清楚。
所以我覺(jué)得，這樣的估計(jì)是非常恰當(dāng)?shù)模覀冎挥性谶@樣的估計(jì)情況下才能討論下面的問(wèn)題。
首先一個(gè)問(wèn)題，ChatGPT為什么能夠達(dá)到現(xiàn)代質(zhì)量水平？甚至很多地方使大家感到非常驚奇，這主要由于人工智能經(jīng)過(guò)六七十年的努力，實(shí)現(xiàn)了三個(gè)關(guān)鍵技術(shù)的突破。
第一個(gè)技術(shù)，基于詞嵌入的文本語(yǔ)意表示。
第二個(gè)技術(shù)，是基于注意機(jī)制的轉(zhuǎn)換器，就是剛剛高院士談的大模型，我們現(xiàn)在說(shuō)的大模型就是大轉(zhuǎn)換器。
第三個(gè)技術(shù)，是基于預(yù)測(cè)下一個(gè)詞的自監(jiān)督學(xué)習(xí)。
所以我們應(yīng)該說(shuō)，ChatGPT是經(jīng)過(guò)人工智能領(lǐng)域里頭或者其他領(lǐng)域里頭大量的科學(xué)家和工程師，經(jīng)過(guò)六七十年共同努力的結(jié)果，因?yàn)榻?jīng)過(guò)六七十年，這三個(gè)問(wèn)題才得到成果。
這三個(gè)關(guān)鍵問(wèn)題的突破，使得機(jī)器在處理文本上起了本質(zhì)的變化。
過(guò)去我們?cè)谔幚砦谋镜臅r(shí)候，我們往往把它稱(chēng)作處理數(shù)據(jù)，到現(xiàn)在為止大家還是用的這個(gè)詞兒，但是這個(gè)詞兒在ChatGPT 里不成立，因?yàn)?/strong>ChatGPT是在我們找到了文本語(yǔ)義考試條件下在處理文本，所以它處理的不是文本的形式，不是把文本當(dāng)成數(shù)據(jù)來(lái)處理，而是把文本當(dāng)成知識(shí)來(lái)做，所以ChatGPT的成功并不是歸根于三個(gè)要素，我覺(jué)得應(yīng)該強(qiáng)調(diào)4個(gè)要素，知識(shí)、數(shù)據(jù)、算法和算力。
也就是說(shuō)我們有三個(gè)關(guān)鍵技術(shù)突破，就使得我們能夠從大量的文本，我們把它叫做數(shù)據(jù)，從大量的數(shù)據(jù)中間能夠獲取到知識(shí)點(diǎn)，因?yàn)橹挥袑?shí)現(xiàn)這個(gè)轉(zhuǎn)變，才有現(xiàn)在的成績(jī)，不染我們還是停留在那個(gè)認(rèn)識(shí)上肯定是錯(cuò)的。
那么這個(gè)突破，可能帶來(lái)三件事情是不可阻擋的，頭一件事必然帶來(lái)科技的革命，首先會(huì)帶來(lái)人工智能本身的能力。
人工智能發(fā)展到ChatGPT以前，我們不能說(shuō)它是一個(gè)科學(xué)，為什么？他沒(méi)有理論。
人工智能為什么理論建立不起來(lái)？非常重要的原因是在歷代人工智能做的知識(shí)驅(qū)動(dòng)也好，第二代做的數(shù)據(jù)驅(qū)動(dòng)也好，我們都是在限定領(lǐng)域里完成單個(gè)任務(wù)，在單領(lǐng)域單任務(wù)里頭不可能來(lái)建立一個(gè)通用理論，ChatGPT掃除了這個(gè)障礙，至少在自然語(yǔ)言處理上掃除了這個(gè)障礙，因?yàn)樗@個(gè)領(lǐng)域無(wú)關(guān)，一旦跟領(lǐng)域脫鉤了，才有可能建立起來(lái)通用的理論。
所以現(xiàn)在去研究，去建立人工智能理論是有可能的，在ChatGPT沒(méi)出現(xiàn)以前這種可能性不存在，所以這對(duì)我們來(lái)講是一個(gè)激勵(lì)。
什么是突破口？突破口就在ChatGPT，如果我們把ChatGPT內(nèi)部的工作原理搞清楚，我們就能找到進(jìn)入人工智能理論的鑰匙。
ChatGPT里很多現(xiàn)象我們說(shuō)不清楚，一方面它能夠生成一個(gè)非常出人意料的結(jié)果，他同時(shí)又會(huì)產(chǎn)生所謂幻覺(jué)，胡說(shuō)八道，為什么會(huì)出現(xiàn)這個(gè)現(xiàn)象，這個(gè)根本不清楚？
所以頭一個(gè)必然會(huì)迎來(lái)一個(gè)科技的革命，首先這個(gè)革命會(huì)從 AI 本身開(kāi)始。
第二個(gè)事情，大家討論得非常多，就是產(chǎn)業(yè)的變革。首先是人工智能產(chǎn)業(yè)本身的產(chǎn)業(yè)變革。
人工智能產(chǎn)業(yè)的發(fā)展，跟信息科技產(chǎn)業(yè)發(fā)展是非常不一樣的。信息科技的發(fā)展，我們可以用4個(gè)字來(lái)形容，高速持續(xù)，可是人工智能技術(shù)產(chǎn)業(yè)的發(fā)展緩慢曲折，什么原因？
一個(gè)最重要的原因，信息科技從一開(kāi)始，理論就建立了起來(lái)，計(jì)算機(jī)的理論是1936年建立，通訊理論1948年建立，所以在理論指導(dǎo)下，它的技術(shù)、它的產(chǎn)業(yè)發(fā)展都非常順利，
信息產(chǎn)業(yè)的所有硬件和軟件全是通用，市場(chǎng)非常之大，信息產(chǎn)業(yè)不跟領(lǐng)域結(jié)合，根本就不可能有這個(gè)產(chǎn)業(yè)。而人工智能都是跟領(lǐng)域緊密結(jié)合，只有算法和模型，而且這些算法方面都是領(lǐng)域限定，任務(wù)限制的，開(kāi)發(fā)出來(lái)的所有人工智能的硬件和軟件全是專(zhuān)用，跟信息產(chǎn)業(yè)完全不同。
拿計(jì)算機(jī)來(lái)講，完全不跟應(yīng)用結(jié)合，它生產(chǎn)出來(lái)的計(jì)算機(jī)什么地方都沒(méi)有用，但是有了ChatGPT之后就告訴大家，人工智能有可能建立一個(gè)跟領(lǐng)域無(wú)關(guān)的模型。
只有算法和模型擺脫了領(lǐng)域的限制，將來(lái)生產(chǎn)出來(lái)硬件和軟件才會(huì)是通用，或者一定范圍里頭通用，你才有一個(gè)很大的市場(chǎng)，這就是今后信息產(chǎn)業(yè)革命的一個(gè)方向。
第三個(gè)事情，人工智能治理。ChatGPT 大家看正面得比較多，其實(shí)它反面也是很成問(wèn)題的，因?yàn)槲覀冇玫姆椒ㄊ墙械念A(yù)測(cè)下一個(gè)詞，這種模式的學(xué)習(xí)，必然帶來(lái)兩個(gè)大問(wèn)題:
首先，它的結(jié)果不確定，受提示詞的影響極大，這就引起了ChatGPT輸出有三個(gè)不可避免的缺點(diǎn)。
第一個(gè)缺點(diǎn)，錯(cuò)誤是必然的，所以我們說(shuō)胡說(shuō)八道是必然的。
第二個(gè)它的輸出，非常受輸入的影響，受提示詞的影響，我可以改變我的輸入，問(wèn)同樣的問(wèn)題，改變他的輸入就會(huì)得到一個(gè)完全不同的問(wèn)題。
第三個(gè)，他不知道自己錯(cuò)了，也改不了，必須依靠后面，剛才高文院士也提過(guò)了，AI對(duì)齊等等，為什么要靠我們來(lái)弄呢？他自己改不改？
我就舉個(gè)非常簡(jiǎn)單例子，到現(xiàn)在為止，我問(wèn)ChatGPT清華大學(xué)的校歌的歌詞，他自己編了一套，我1年多以前就這么問(wèn)他，到現(xiàn)在還是這樣，我就告訴他說(shuō)不對(duì)，清華大學(xué)校歌不是你說(shuō)的，應(yīng)該是西山蒼蒼東海茫茫，我把這歌詞抄給他，他馬上回對(duì)不起，我說(shuō)錯(cuò)了，你應(yīng)該跟清華大學(xué)歌詞，我退出來(lái)再進(jìn)去，問(wèn)他清華大學(xué)校歌是什么，他又自己編了一套，就說(shuō)明他不知道自己犯錯(cuò)了，而且是我告訴他錯(cuò)誤，他也改不過(guò)來(lái)。
這些情況就說(shuō)明ChatGPT的輸出往往不會(huì)符合我們的要求，我們的道德要求，我們的倫理要求，我們政治的要求，所以人工智能的，這就是 ChatGPT出現(xiàn)以后，人工智能的治理是不可避免的，我是認(rèn)為三個(gè)趨勢(shì)一定是這樣的。
那么我們?cè)趺崔k？
我覺(jué)得我們主張，要發(fā)展第三代的人工智能，第三代人實(shí)際上是包含了三個(gè)內(nèi)容，一個(gè)內(nèi)容就是要建立可解釋、魯棒的人工智能理論。剛才我們提過(guò)千億出現(xiàn)投資這種建立這個(gè)理論，才成為可能。過(guò)去實(shí)際上你不可能建立。
二是發(fā)展安全、可信、可控、可靠可擴(kuò)展的人工智能技術(shù)。
也就是說(shuō)只有建立了這個(gè)理論之后，我們才有可能得到一個(gè)安全的人工智能技術(shù)。換句話講，現(xiàn)在的人工智能技術(shù)是不安全的，不可靠和不可信的，特別是利用大數(shù)據(jù)的機(jī)器學(xué)習(xí)，它的結(jié)果一定是這樣的。我們必須建立人工智能的理論，這才能開(kāi)發(fā)出可信、可靠、可信及可擴(kuò)展的人工智能技術(shù)，從而推動(dòng)產(chǎn)業(yè)化的產(chǎn)業(yè)創(chuàng)新應(yīng)用和產(chǎn)業(yè)發(fā)展。
我相信，通過(guò)我們國(guó)家全國(guó)的規(guī)劃，通過(guò)產(chǎn)學(xué)研的結(jié)合，我覺(jué)得我們這個(gè)目標(biāo)一定會(huì)達(dá)到的，謝謝大家。
（責(zé)任編輯：賀翀 ）關(guān)鍵詞：
