金管會副主委許永欽:AI運用有二大挑戰 數據和人
金管會副主任委員許永欽表示,AI應用運用在各個不同的領域並帶來可能的解決方案,但也會衍生出一些問題及風險,AI應用主要二大挑戰,一是數據,如行爲的不正確;一是人,像程式設計者或管理者的行爲偏差。
許永欽指出,人工智慧從醫療到金融等各個不同的領域,都帶來可能的解決方案,人工智慧技術應用最廣,影響最深遠當屬機器學習技術,然而機器學習涉及數據取得和演算法,可能衍生出相關的風險和問題。但在應用上有兩個主要的挑戰:第一個挑戰是數據。數據是人工智慧的重要能源,然而設計再精良的演算法,如果資料的品質不佳,結果就是「 garbage in garbage out」。其次,數據如果不完整、錯誤或是貼錯標籤,也可能會造成分析結果出問題。此外,個人資料的蒐集和運用,也存在道德、法律方面的問題,例如過度的精準行銷,可能會造成過度或不必要的消費;另外大數據的應用看似客觀的歷史資料分析,但本身也可能反映出長期存在普遍偏見或岐視如因性別、種族或是工作的不同,而造成無法獲得應有的貸款額度,或是需支付較高的利息等。
AI第二個挑戰是「人」。許永欽表示,因爲AI只能依照設計者所寫的機器學習演算法去執行,但程式設計者或管理人員可能有人爲偏差錯的程式設計邏輯,則會導正不良結果。
許永欽也提到,英國物理學家霍金悲觀的認爲「人工智慧應用如果不是最好的,就是最糟糕的」。因此,他期許,不論學校教育或是金融業者發展人工智慧或金融科技應用,最重要需要有「金融道德教育」給予正確的觀念。