科技日報實習記者 林雨晨

近日，國家網信辦發布了《生成式人工智能（AI）服務管理辦法（征求意見稿）》，針對面向中國境內公眾提供服務的生成式人工智能產品，包括其研發及服務，向社會公開征求管理意見。

生成式AI正是當前以ChatGPT等智能聊天機器人為代表的技術。自去年11月ChatGPT發布以來，其展示的與人類高度相似的對話能力引發全球關注。然而，在人們樂此不疲地實驗和討論ChatGPT的強大功能，并由此感嘆其是否可能取代人類勞動時，人們是否思考過AI生成內容的可靠性？

(資料圖)

亦真亦假的“AI幻覺”

美國OpenAI公司發布ChatGPT時聲明，由于所使用的訓練數據及訓練方法的原因，ChatGPT有時會寫出聽起來很有道理但不正確或毫無意義的回答。

對此，南京大學AI學院越南籍副教授阮錦繡提到了“AI幻覺”的概念：“目前最突出的問題之一，是我們很難控制ChatGPT的輸出，它不能被完全信任。AI提供的答案可能聽起來很正確，很流暢，但實際上是不正確的。”

AI幻覺指的是AI的一種自信反應。當模型有“幻覺”（輸出欺騙性數據的傾向）時，其使用的訓練數據并不能證明輸出的合理性。AI幻覺的一個危險之處在于，模型的輸出看起來是正確的，而本質上是錯誤的。

“長此以往，這種微妙的錯誤信息可能會導致很多社會影響，比如改變對是非的看法。”阮錦繡表示。

AI應用前景非常廣闊

盡管今天的AI存在諸多問題，但在應用領域，其仍具備巨大的發展潛力。

天津大學生物工程教授劉秀云表示，該校早在2018年就已經開設了我國第一個智能醫學專業。5年之后，中國開設智能醫學專業的院校數量已經達到幾十個。“我相信新專業的設立會推動AI技術的發展……在過去的幾十年里，AI在醫藥領域獲得了廣泛的應用。有些人正在使用虛擬現實和增強現實技術來改善醫生和病人之間的溝通。AI也可用于藥物研發，由此節省大量的資金成本。”

北京科技大學智能科學與技術學院巴基斯坦籍教師阿力夫表示，AI已融入生活的方方面面，如人臉識別、智能家居或語音助手等。AI是未來，因為現在這個專業以及這項技術是每個人都想了解的，每個人都想使用這項技術。

談及AI在教育領域的應用，阮錦繡表示，人工智能可當成寫作助手來使用，“我們或許沒有辦法完全禁用ChatGPT，因為學生總會找到一些方法去訪問它。我們可以此設計一些測試，讓學生與ChatGPT就某些話題進行辯論。學生必須找出ChatGPT提供答案的錯誤之處。在這樣的練習過程中，他們可培養批判性思維，質疑機器的回答是對還是錯，學生們由此可意識到，不是所有看到的信息都值得相信。”

當前的AI難以取代人類

“人類對這個世界擁有大量的常識性知識，包括物體的物理屬性、社會規范和文化背景知識，這對推理和決策至關重要，開發能夠積累并使用常識性知識的AI仍是一個重大挑戰。”阿力夫說，目前的AI系統可能是不透明的，了解它們如何作出特定決定，或如何診斷它們在推理過程中的錯誤十分困難。

浙江大學計算機輔助設計和計算機圖像專業博士生李志男對此表達了類似觀點，“我不相信ChatGPT是一場技術上的革命，或是自然語言處理領域的技術革命……很多技術和算法在此之前就已被發明和應用了，如各類語言模型、神經機器翻譯和命名實體識別等。”

“ChatGPT的創新之處在于其大規模和效率。它采用了大規模的預訓練語言模型并結合多類型技術和算法來達到比之前更好的效果。”李志男說，他希望未來的人工智能有推理的能力，“我不知道它是否能達到這個水平，但這是一個令人興奮的研究領域，它有可能徹底改變我們生活。”

劉秀云則指出，在醫藥領域，使用AI取代人類的工作會引發一系列的倫理問題：比如，在醫藥領域，如果出現了事故，誰應該承擔責任？是AI還是醫生？另外，也存在數據安全問題，如何確保AI保存并安全地使用數據？人們如何使用AI技術提高醫療和診斷的準確性？這些都是AI在醫療領域的應用中所面臨的問題。

AI可能在很多領域比人類都強，但它永遠不可能擁有像人類一樣的文明。阿力夫表示，人類的情感系統有一些獨特的東西，如想象力、同理心、善良、勇氣和團隊精神，這些比人類的知識和技能以及科學技術更加重要，這些是AI無法企及的。

關鍵詞：