◎實習(xi) 記者 林雨晨

　　近日，國家網信辦發布了《生成式人工智能（AI）服務管理辦法（征求意見稿）》，針對麵向中國境內(nei) 公眾(zhong) 提供服務的生成式人工智能產(chan) 品，包括其研發及服務，向社會(hui) 公開征求管理意見。

　　生成式AI正是當前以ChatGPT等智能聊天機器人為(wei) 代表的技術。自去年11月ChatGPT發布以來，其展示的與(yu) 人類高度相似的對話能力引發全球關(guan) 注。然而，在人們(men) 樂(le) 此不疲地實驗和討論ChatGPT的強大功能，並由此感歎其是否可能取代人類勞動時，人們(men) 是否思考過AI生成內(nei) 容的可靠性？

　　亦真亦假的“AI幻覺”

　　美國OpenAI公司發布ChatGPT時聲明，由於(yu) 所使用的訓練數據及訓練方法的原因，ChatGPT有時會(hui) 寫(xie) 出聽起來很有道理但不正確或毫無意義(yi) 的回答。

　　對此，南京大學AI學院越南籍副教授阮錦繡提到了“AI幻覺”的概念：“目前最突出的問題之一，是我們(men) 很難控製ChatGPT的輸出，它不能被完全信任。AI提供的答案可能聽起來很正確，很流暢，但實際上是不正確的。”

　　AI幻覺指的是AI的一種自信反應。當模型有“幻覺”（輸出欺騙性數據的傾(qing) 向）時，其使用的訓練數據並不能證明輸出的合理性。AI幻覺的一個(ge) 危險之處在於(yu) ，模型的輸出看起來是正確的，而本質上是錯誤的。

　　“長此以往，這種微妙的錯誤信息可能會(hui) 導致很多社會(hui) 影響，比如改變對是非的看法。”阮錦繡表示。

　　AI應用前景非常廣闊

　　盡管今天的AI存在諸多問題，但在應用領域，其仍具備巨大的發展潛力。

　　天津大學生物工程教授劉秀雲(yun) 表示，該校早在2018年就已經開設了我國第一個(ge) 智能醫學專(zhuan) 業(ye) 。5年之後，中國開設智能醫學專(zhuan) 業(ye) 的院校數量已經達到幾十個(ge) 。“我相信新專(zhuan) 業(ye) 的設立會(hui) 推動AI技術的發展……在過去的幾十年裏，AI在醫藥領域獲得了廣泛的應用。有些人正在使用虛擬現實和增強現實技術來改善醫生和病人之間的溝通。AI也可用於(yu) 藥物研發，由此節省大量的資金成本。”

　　北京科技大學智能科學與(yu) 技術學院巴基斯坦籍教師阿力夫表示，AI已融入生活的方方麵麵，如人臉識別、智能家居或語音助手等。AI是未來，因為(wei) 現在這個(ge) 專(zhuan) 業(ye) 以及這項技術是每個(ge) 人都想了解的，每個(ge) 人都想使用這項技術。

　　談及AI在教育領域的應用，阮錦繡表示，人工智能可當成寫(xie) 作助手來使用，“我們(men) 或許沒有辦法完全禁用ChatGPT，因為(wei) 學生總會(hui) 找到一些方法去訪問它。我們(men) 可以此設計一些測試，讓學生與(yu) ChatGPT就某些話題進行辯論。學生必須找出ChatGPT提供答案的錯誤之處。在這樣的練習(xi) 過程中，他們(men) 可培養(yang) 批判性思維，質疑機器的回答是對還是錯，學生們(men) 由此可意識到，不是所有看到的信息都值得相信。”

　　AI難以取代人類

　　“人類對這個(ge) 世界擁有大量的常識性知識，包括物體(ti) 的物理屬性、社會(hui) 規範和文化背景知識，這對推理和決(jue) 策至關(guan) 重要，開發能夠積累並使用常識性知識的AI仍是一個(ge) 重大挑戰。”阿力夫說，目前的AI係統可能是不透明的，了解它們(men) 如何作出特定決(jue) 定，或如何診斷它們(men) 在推理過程中的錯誤十分困難。

　　浙江大學計算機輔助設計和計算機圖像專(zhuan) 業(ye) 博士生李誌男對此表達了類似觀點，“我不相信ChatGPT是一場技術上的革命，或是自然語言處理領域的技術革命……很多技術和算法在此之前就已被發明和應用了，如各類語言模型、神經機器翻譯和命名實體(ti) 識別等。”

　　“ChatGPT的創新之處在於(yu) 其大規模和效率。它采用了大規模的預訓練語言模型並結合多類型技術和算法來達到比之前更好的效果。”李誌男說，他希望未來的人工智能有推理的能力，“我不知道它是否能達到這個(ge) 水平，但這是一個(ge) 令人興(xing) 奮的研究領域，它有可能徹底改變我們(men) 生活。”

　　劉秀雲(yun) 則指出，在醫藥領域，使用AI取代人類的工作會(hui) 引發一係列的倫(lun) 理問題：比如，在醫藥領域，如果出現了事故，誰應該承擔責任？是AI還是醫生？另外，也存在數據安全問題，如何確保AI保存並安全地使用數據？人們(men) 如何使用AI技術提高醫療和診斷的準確性？這些都是AI在醫療領域的應用中所麵臨(lin) 的問題。

　　AI可能在很多領域比人類都強，但它永遠不可能擁有像人類一樣的文明。阿力夫表示，人類的情感係統有一些獨特的東(dong) 西，如想象力、同理心、善良、勇氣和團隊精神，這些比人類的知識和技能以及科學技術更加重要，這些是AI無法企及的。