智能化戰爭:開火"扳機"由誰掌握

當前，人工智能技術融入武器裝備的進程一直在加快。出於種種考慮，以往由人工智能賦能的武器裝備，往往會採用“人在迴路中”方式來操控。該方式的好處，就是始終把武器裝備開火的“扳機”掌握在人手裡，使高度自動化的武器裝備不至於“自作主張”地去殺人。現在，這種格局正面臨被打破的可能。

據國外媒體報道，一架軍用無人機在沒有接到任何指令的情況下自主發起對人類的襲擊。

這架無人機被認爲是土耳其軍事科技公司STM生產的“Kargu-2”型無人機（以下簡稱“Kargu-2”）。據稱，2020年3月，一架該型無人機在未接到任何指令情況下，襲擊了利比亞“國民軍”陣營正在撤退的士兵。

雖然相關消息仍待證實，但“Kargu-2”被認爲確實具有這種能力。作爲一種多旋翼無人機，“Kargu-2”外形較爲簡單，體重較輕，續航時間也不長，但它可攜帶3種不同彈頭，分別用來打擊人員、輕型車輛、建築物、掩體以及部分裝甲目標。

和其他無人機相同，“Kargu-2”配備有可見光相機和紅外夜視儀，可人工控制，也可以預設航線自主飛行。

它又與以往無人機有着一些不同。據其生產廠家介紹，“Kargu-2”能通過機器學習方式，自主完成對目標的定位、跟蹤、識別、分類；能通過敵我識別系統及面部識別能力，尋找特定的人；它還可藉助攝像頭和其他傳感器利用地標進行導航，而不依賴全球衛星導航系統。

一款無人機同時具有這些能力，就意味着它已具備在操作員未下達指令情況下發起自主攻擊的基本條件。

相關研究指出，這架自主發起對人類襲擊的無人機按照編程攻擊目標，不需要操作員用數據鏈控制彈藥。從另一個角度來理解，這等於讓自主武器裝備掌握了自行開火的“扳機”。

報道所指的無人機是不是“Kargu-2”並不重要，重要的是它是否真的被賦予了自行決定開火的決策權力。

有專家認爲，如果真的任由自主武器裝備掌握最終生殺大權，這一做法很可能引發更多致命危險。

他們的理由有二：一方面，人工智能的學習是基於軟件的算法來實施，通過向大型數據集學習來積累能力。這一過程中，客觀上存在多種因素可導致結果錯誤。比如，數據集不夠全面和複雜，就可能導致人工智能學到錯誤“課程”。這種對錯誤“課程”的學習，很可能使自主武器裝備做出錯誤判斷，並對錯誤目標發起攻擊。

另一方面，人工智能決策的過程是不透明的。尤其在進入自主模式後，即使它決策錯誤也無法被及時發現。

更可怕的是，自主武器裝備發動蜂羣作戰時，數十個單元之間會通過頻繁通信來協調行動。這種情況下，一個自主武器裝備的錯誤很可能會被更多“好學”的隊友學會，那樣就會構成更大威脅與風險。

有關專家認爲，這次自主無人機的自發襲擊可以看作一次對人類的預警。

人工智能技術在飛速發展，融入現代武器裝備的進程不斷加快，如何對待所謂的致命自主武器裝備，也許真到了各國做出決定的時候了。