AI「無所不知」的錯覺

（圖／美聯社）

ChatGPT很博學，上通天文，下諳地理，但我確定它有一本著作可能涉入不深，那就是《論語》。

《論語》〈爲政篇〉中，子曰：「由！誨女知之乎？知之爲知之，不知爲不知，是知也。」孔子說：「子路啊，我告訴你，知道嗎？知道的就是知道的，不知道的就是不知道的，這纔是大智慧。」

我曾提過一案例。老友送我象牙果雕，我拿來就教於ChatGPT，它給的答案如下：「象牙果」一般指的是象牙製成的雕刻品，通常用於藝術品或者手工藝品中。由於象牙是大象牙齒的一部分，因此其製作與交易被廣泛地視爲非法和不道德。

據我的瞭解，象牙果又稱爲「椰子象牙」，是一種堅硬而穩定的天然植物材料，由於外觀與象牙相似，因此被用來取代象牙，製作成手工藝品、珠寶首飾等。象牙果的採伐和加工對環境較沒不良影響，又怎會變成非法和不道德的產物了？

接着，我又拿「長毛象牙雕」問它，它回答：長毛象牙雕是一種傳統藝術形式，是在長毛象牙上進行的雕刻，早在數千年前就已存在。然而，隨着野生長毛象的瀕危及對野生動物保護的關注和國際公約的制定，長毛象牙的貿易和使用已受到限制。

衆所周知，長毛象早在距今約3700年前就大滅絕，今日又如何瀕危？很顯然地，ChatGPT把非洲象、長毛象及象牙果都混爲一談了。

ChatGPT是近幾年爆紅的AI應用，它正在成長的過程，無法上通天文，下知地理，也是合理的。關鍵是，它不懂卻又不願意承認，虛應故事，造成使用者莫名承擔資訊誤用的風險，這點實在有點不道德。但人工智慧似乎給予使用者一種「無所不知」的錯覺，現實上卻是AI依然容易產生「幻覺」，提供錯誤答案並一本正經的胡說八道。

AI的幻覺問題是科技巨頭急需解決的關鍵難題，尤其是對像微軟這類大型企業，他們的客戶無法承受AI偶爾失控所帶來的後果和損失。根據媒體報導，雲端軟體巨頭Salesforce執行長Marc Benioff指出，他看見許多客戶對微軟Copilot AI不斷輸出胡言亂語，影響工作任務而感到愈來愈沮喪。

以上描述不啻說明AI最缺乏的，就是「知之爲知之，不知爲不知」的大智慧。

微軟副總裁Vik Singh近日也指出，當今科技界真正缺乏的AI模型，其實是那些會主動舉手求救，並對人類說出「我不確定，我需要幫忙」的人工智慧應用。真正聰明的工程師，其實已將AI的開發方向轉爲試圖找到「如何讓聊天機器人主動承認，當AI不知道正確答案時依然能夠對外尋求幫助」的新方法。

如果以人文角度來看這類知識型AI應用，若要其真正成爲人們所依賴的數位工具，有三個階段：資料、整理過的資訊、精確的資訊。

資料可以是一堆整理或未整理的文字、數字、檔案。資訊則是處理過的，而且是有用的資料。資料的處理往往包括分類、歸納，以及分析、解釋等過程，處理的過程會讓資料變成有意義。若用這樣的描述來分析ChatGPT與Google的搜尋引擎，真是再恰當不過了。

只是，ChatGPT爲德不卒，雖提供使用者的服務從資料變成資訊，但還是因爲不願承認所知有限、不願喊救命而錯失自我提升的機會。所幸，AI的開發方向似乎有轉變跡象，我認爲，只要科技公司能繼續推動AI往正確方向前進，我們將會看到更加可靠的AI應用，未來仍值得期待。　（作者爲科技媒體專欄作家）