Google AI搜尋建議膠水黏Pizza!出現「幻覺」把11年前玩笑話當真

應用Gemini技術、先在美國提供的新版Google Search開始出現「幻覺」。

在今年Google I/O 2024期間宣佈推出以人工智慧運作的總結搜尋結果功能 (AI overviews),近期於美國境內開始推行之後,顯然整體使用感受不是很好,有不少解答甚至變成一本正經地胡說八道,甚至將玩笑內容當作解答。

而Google發言人在後續迴應表示目前確實發現有此類情況,但也發現此類情況多半發生在特定少見搜尋情況,在絕大部分搜尋摘要結果依然會維持一定品質,並且透過人工智慧技術提供更深入的解答。

不過,Google也迴應表示會針對異常情況進行改善。

在此之前,諸如OpenAI在內人工智慧技術業者所提供服務,難免也會在正常使用情況下得到不正常的解答內容,原因在於原始參考資料可能有誤,或是人工智慧在判斷中難以釐清哪些內容是否正確,因此得到解答會像是人工智慧產生「幻覺」,並且將錯誤解答當作正確內容解說。

在Google於美國境內新推出的Google Search服務,目前背後已經結合Google的Gemini人工智慧模型技術,並且可透過總結搜尋結果功能提供可直覺閱讀、更容易理解重點的解答內容,只是目前似乎因爲參考數據混雜不少錯誤資訊,或是非正確解答內容,使得Google服務搜尋結果反而變成誤導他人。

部分看法認爲,Google爲了在人工智慧技術扳回一城,因此設法加速追趕OpenAI,避免其影響自身市場地位,但如果因爲人工智慧技術應用失利,導致原本搜尋服務使用體驗反而受影響,顯然會造成更大損失。

《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》