AI造假難辨 潘朵拉盒子打開了

AI犯罪威力如核武，股神巴菲特今年5月在波克夏年度股東大會上預警，AI詐騙恐將成爲高速成長產業 圖／AI自動生成模擬情境圖

AI犯罪威力如核武，股神巴菲特今年5月在波克夏．海瑟威公司（Berkshire Hathaway）年度股東大會上預警，AI詐騙恐將成爲高速成長產業，他形容「世界已經將精靈從瓶子中釋放出來」，無法預測好處跟壞處發展，必須審慎注意後果。

巴菲特看過自己深僞影片之後非常驚訝，坦言連他的妻子跟孩子都難以辨別真僞，他甚至打趣地說：「我可能被自己騙到，把錢匯出海外。」

不僅股神預測AI助長犯罪，警政署最新統計，國內詐騙案件數量連續五年逐年攀升，今年新公佈8月單月詐騙量就6,008件創歷年新高，前八月已逾3萬件，刑事局預防科科長林書立指出，其中AI詐騙案數量雖不易釐清，但聲音詐騙或影像詐騙大增，詐騙受AI助長是肯定的。

僞冒猖獗 詐騙報案暴增

名人詐欺、愛情詐欺頻傳，假冒理財專家謝金河及假孔劉以視訊短影音及AI假聲音取信被害人，一通老闆打來的電話，可能是AI深僞假冒，一般民衆電話中跟銷售人員小聊幾分鐘，沒幾天就有AI假聲音詐騙電話上門僞裝家人。

林書立指出，只要一個人3~5秒的聲音，AI就能模擬，雖稍嫌粗糙，但詐騙集團常營造危急情境，引受害者入局。

不只是民衆成AI深僞受害者，政府機關也面臨AI行騙但隱然不覺。

刑事局近期破獲一起犯罪集團事件，犯罪者利用AI模型，找跟護照「買家」臉型相似的護照持有人，利用AI生成出混合買家跟賣方臉孔的AI照片，拿該AI照片向外交部申辦換髮新護照，AI生成照儘管跟本人仍相似，卻是一張不折不扣的AI作品，但護照竟成功核發。

根據外交部領事事務局「晶片護照照片規格」官網說明，護照申請人不得使用合成或鏡像照片（手機自拍照，會使臉左右顛倒）， 但沒提到「禁止AI生成或AI證件照」等字，使用AI是否合規？記者致電外交部詢問，外交部的答覆「不行」，建議相館或快照機拍照。

遺憾的是，政府雖然不同意用AI證件照，但外交部受理檢核系統無法偵測AI深僞照片。專家指出，意外披露政府公務人員體系面臨的困境：AI發展太快，民間與政府都缺乏適合的檢核工具，AI治理出現漏洞。

「這一定是不會被允許的，（AI證件照）只是沒被抓出來，從法律層面就是僞造。」陽明交大智能系統研究所所長廖元甫指出，政府沒有辦法發現民衆使用AI證件照，是因爲AI技術發展太快速了，「本來做不到的事情，現在一下子都可以做到，但是制度建立要一點時間。」

「AI是一種工具，跟菜刀一樣，可以用在好的地方，也可以用在不好的地方。」廖元甫指出，最終還是要看人的警覺。

AI演算法正在飛躍式發展，AI的正向功能背後，也不能忽略有AI犯罪藏於陰影中，若社會只專注將資源投注在AI應用發展，疏於扶持有助於AI治理的AI鑑別技術發展，將使社會陷入「AI技術負債」風險。

所謂的AI技術負債，是軟體業著名的管理陷阱名詞，就是當科技開發者只專注於眼前的短期利益，創新發展速度遠超過治理框架進步步伐，將使社會及組織面對風險處於劣勢。

臺灣詐欺案數量

管理不足 法律問題叢生

AI技術負債除犯罪事件，還包括根本上的著作權侵權爭議，AI演算法的成功，需要大量優良品質數據訓練，爲能有龐大資料量，衆多AI模型取得資料來源的管道都處於灰色地帶，AI文生圖模型大量取用他人繪圖作品，《紐約時報》與OpenAI的官司更是指標性案例。

去年底紐約時報發現ChatGPT模型會產出有紐約時報浮水印的內容，因而提告侵犯著作權，達文西個資暨高科技法律事務所所長葉奇鑫坦言，該官司對未來AI發展是否能「合理取用」他人數據有關鍵意義。

許多數位創作者內容遭取用，若《紐約時報》勝訴，則未來更多侵權提告案件將出現，如何舉證對許多創作者仍是難題。

AI以假換真的能力，也迷惑衆人，葉奇鑫曾擔任檢察官，承辦詐騙案經驗多，他觀察因爲用AI深僞技術變得容易，AI正衍生新的法律問題，如國外已有AI教唆自殺事件，可能連司法官面對五花八門的AI問題，都難以馬上確定誰是被害人、該主張何權益。

國科會主委吳誠文喊話四年內臺灣要幾入世界AI強國前十名，AI治理成績勢必要直面AI犯罪課題，副總統蕭美琴9月在AI年會上致詞提到，「AI是一場革命，這個革命是成是敗，在於是不是能夠一起跟得上時代。」當AI犯罪產業蓬勃發展，提出治理對策，臺灣勢必須領先做出示範。

創作者心血如何被AI詐走

各種AI涉及犯罪類型