以色列用人工智慧辨識打擊目標?聯合國秘書長對此深感憂慮
根據以色列-巴勒斯坦媒體+972及Local Call網站聯合發布的一份報告顯示,以色列軍方似乎以人工智慧選定作戰目標進行軍事打擊,而這引發了國際社會的關切。據報告稱,以色列利用人工智慧識別加薩目標,以便軍方在某些情況下僅需20秒就能做出決定,並在幾乎無人監督的情況下進行攻擊。
聯合國秘書長古特雷斯表示,他對以色列軍方依賴人工智慧來實施轟炸的行為深感不安,這將在人口稠密的居民區導致大量的平民傷亡。他強調,影響整個家庭生死存亡的決定不應該委託冷冰冰的演算法。
以色列軍隊則在周五否認了這一說法,稱其只有一個資料庫,目的是為了交叉引用,以識別恐怖組織的軍事人員情報。其也稱,當攻擊造成的預期附帶傷亡過大時,以色列國防軍就不會實施攻擊。
冷酷的“薰衣草”
+972報告指出,以色列軍隊開發了一款名為「薰衣草(Lavender)」的人工智慧程序,可以快速處理大量數據,以產生數千個潛在目標,方便進行軍事打擊。
消息人士稱,「薰衣草」對軍方行動的影響非常之大,在加薩轟炸中發揮核心作用,軍方基本上將人工智慧輸出的結果視為由人類所做的決定。在戰爭最初的幾週,軍隊幾乎完全依賴「薰衣草」。
更令人心驚的是,「薰衣草」的打擊目標授權程序如前文所述,最短不過20秒,人類似乎只需要確認打擊目標是男性而已。而這項草率的決策程序讓「薰衣草」的錯誤率高達10%,被轟炸目標極有可能與哈馬斯聯繫很少甚至沒有聯繫。
不僅打擊目標的錯誤率極高,轟炸的附帶傷害也因此變得十分恐怖。消息人士證實,在空襲初期,數千名巴勒斯坦人(其中大多數為婦女、兒童或是無辜的青年)因轟炸而亡。這一切都是因為轟炸決定是透過人工智慧的計算而成。
另兩名消息人士則指出,以色列軍方也做出了前所未有的決定,在加薩轟炸前期,「薰衣草」標記的每名「恐怖分子」都有15-20個平民死亡的配額,而過去,軍方在攻擊恐怖分子時不允許有任何平民傷亡出現。
消息人士還補充稱,如果攻擊目標是營級或旅級指揮官級別的“恐怖分子”,以色列軍方授權最大平民死亡人數可達100人。
目前,這份報告並沒有被以色列軍方所承認,但不少觀察家已經感到不妙。
非政府組織-國際危機組織的高級分析師Alessandro Accorsi表示,+972的報告非常令人擔憂,表示人類控制戰爭的程度非常之低,感覺像是世界末日。
人權律師、聯合國巴勒斯坦難民機構近東救濟工程處加薩法律辦公室前主任John Sophie則指出,+972報告描述的方法無可否認是犯了戰爭罪,且鑑於加薩平民傷亡之巨,如若屬實,其甚至夠得上是反人類罪。