聯合國報告:AI無人機恐已能自行攻擊敵軍士兵

無人機模擬圖。(達志影像/Shutterstock提供)

根據一份近日的聯合國委外報告指出,去年利比亞內戰時一架軍用無人機,恐在無人員控制下自主展開攻擊。雖然專家間尚有爭議,卻也引發電影魔鬼終結者情節會否成真的聯想。

紐約時報報導,被報告形容爲「致命自主武器系統」的無人機,是首都的黎波里政府所支持部隊所有,由人工智慧驅動,當時用來追殺逃離火箭攻擊的敵方民兵

據報告指出「敵方民兵遭無人空中作戰載臺或致命自主武器系統搜捕,並遭無人機自遠端攻擊」;但報告沒說有無造成死傷。

報告指出,這個武器系統「被設定爲可在操作人員與軍械間沒有指令連結下攻擊目標:具備實際上真正射後不理與搜索的能力」。

這份報告表示,這次攻擊發生於的黎波里政府與軍閥哈夫塔(Khalifa Hifter)的民兵交戰。首都政府背後有土耳其支持,並獲美國西方強權承認;哈夫塔背後則有俄羅斯埃及、阿拉伯聯合大公國沙烏地阿拉伯撐腰,法國有時也會相挺。兩軍去年10月已達成停火協議,有望終結經年不斷的衝突

這份委外報告是由一個獨立的專家小組撰寫,已送至一個聯合國制裁委員會審閱,聯合國本身不願對這份報告置評。

報告裡指出,當時是一架Kargu-2型無人機在追殺試圖逃離的士兵;Kargu-2無人機是土耳其軍火企業STM 所研製

報告內容說:「一旦進入撤退,士兵就持續遭無人空中作戰載臺與致命自主武器系統騷擾。」由聯合國利比亞專家小組(U.N. Panel of Experts on Libya)撰發的這份報告是今年3月發佈。在548頁報告裡對這場無人機自主攻擊的簡短描述,上月才被一些非營利組織披露。

不過專家間對這項發現的重要性意見分歧馬里蘭大學研究無人機作戰與恐怖主義的專家凱倫勃恩(Zachary Kallenborn)表示,這份報告暗示這是第一次出現具人工智慧能力的武器系統,能自主運作搜尋、攻擊人類

凱倫勃恩說:「可以肯定的是這架無人機被用於該次衝突,不能肯定的是無人機是否獲准自主擇定目標、自主行動期間有無傷人。這份報告都是高度暗示,卻沒講明。」

歐洲外交關係協會(ECFR)高階政策研究員佛朗克(Ulrike Franke)表示,報告沒說明無人機是如何獨立行動、當時有多少人在監督或控制,也沒說造成何種具體衝擊

佛朗克指出,報告呈現的是Kargu-2無人機與「其他巡遊彈械」攻擊車隊與撤退士兵。她說巡遊彈械(loitering munitions)是設計爲可自行在一個區域先盤旋,再攻擊目標的相對更簡化自主武器,在過去幾次衝突已被使用。

她說:「巡遊彈械的出現不是新東西,發現這些系統頗爲自主也不是。武器能多自主難以查明,就連自主都很難定義。我知道的是好幾個巡遊彈械的製造商聲稱,他們的系統可以自主操作。」

美國明尼蘇達州聖保羅的麥卡利斯學院(Macalester College)教授道茲(James Dawes)有過自主武器的相關著作,他表示,這份報告顯示加緊規範這類武器的努力正失敗,恐爲災難性趨勢,「各國大力投資軍事,正讓自主武器系統無可避免地出現這種能力」。

人權觀察(Human Rights Watch)的軍控倡議主任魏爾漢(Mary Wareham)說:「巡遊彈械凸顯人爲操控與判斷所掌握的生殺大權被削弱,很可能已達無法接受的臨界點。」(譯者陳亦偉)1100604