「薰衣草」：人工智慧機器指揮以色列在加薩的瘋狂轟炸（上）

《+972》和《Local Call》透露，以色列軍隊使用幾乎無人監督的人工智慧定位系統以及對傷亡的寬鬆政策，將數萬名加薩人標記為暗殺嫌疑人

文／Yuval Abraham

　　2021年，一本名為《人機團隊：如何在人類與人工智慧之間創造協同作用，這將徹底改變我們的世界》（The Human-Machine Team: How to Create Synergy Between Human and Artificial Intelligence That Will Revolutionize Our World）的書以筆名「YS準將」出版，書中的作者——一位被我們證實是以色列精銳情報單位8200的現任指揮官，這證明了設計一種特殊機器的理由，該機器可以快速處理大量數據，以生成數千個潛在的「目標」，以便在戰爭最激烈的情況下進行軍事打擊。他寫道，這種技術將解決他所說的「尋找新目標和批准目標的決策的人力瓶頸」。 

　　事實證明，這樣的機器確實存在。《+972》雜誌和《Local Call》的一項新調查顯示，以色列軍隊開發了一種名為「薰衣草」（Lavender）基於人工智慧的程序，並在此首次公佈。六名以色列情報官員都曾在當前加薩地帶戰爭期間在軍隊服役，並親自參與使用人工智能生成暗殺目標，據他們稱，「薰衣草」在戰爭的早期階段前所未有的轟炸中發揮了核心作用。事實上，消息人士稱，它對軍方行動的影響如此之大，以至於他們基本上將人工智慧機器的輸出視為「就好像這是人類決定的一樣」。 

　　從形式上看，「薰衣草」系統旨在將哈馬斯和巴勒斯坦伊斯蘭聖戰組織（PIJ）軍事部門的所有可疑人員（包括低階人員）標記為潛在的轟炸目標。消息人士告訴《+972》和《Local Call》，在戰爭的最初幾週，軍隊幾乎完全依賴「薰衣草」，該基地可能對多達37,000名疑似武裝分子的巴勒斯坦人及其家園進行空襲。 

　　在戰爭的早期階段，軍隊全面批准軍官採用「薰衣草」的殺戮名單，沒有要求徹底檢查機器做出這些選擇的原因或檢查它們所依據的原始情報數據。一位消息人士稱，人類人員通常只是為機器的決策充當「橡皮圖章」，並補充說，通常情況下，他們在授權轟炸之前只會對每個目標投入大約「20秒」——只是為了確保「薰衣草」所標記的目標是男性。儘管知道該系統在大約10%的情況下會犯下所謂的「錯誤」，並且偶爾會標記與激進組織僅有鬆散關聯或根本沒有關聯的個人。 

　　此外，以色列軍隊系統性地攻擊個人目標，當他們在家中時——通常是在晚上，全家人都在場時——而不是在軍事活動過程中。消息人士稱，這是因為，從他們認為的情報角度來看，在他們的私人住宅中更容易找到這些人。其他自動化系統，包括一個名為「爸爸在哪裡？」（Where’s Daddy?）的系統。這也是首次在這裡披露的，專門用於追蹤個人目標，並在他們進入其家庭住所時實施爆炸。
 

　　正如消息人士證實的那樣，結果是數千名巴勒斯坦人——其中大多數是婦女和兒童或沒有參與戰鬥的人——被以色列的空襲消滅，特別是在戰爭的頭幾週，因為這是人工智慧計劃的決定。 

　　情報官員A.告訴《+972》和《Local Call》：「只有當（哈馬斯）特工在軍事建築內或從事軍事活動時，我們才對殺死他們感興趣。」「相反，以色列國防軍毫不猶豫地轟炸了他們的家，這是第一選擇。轟炸一個家庭的住所要容易得多。該系統就是為了在這些情況下尋找它們而構建的。 

　　「薰衣草」機器加入了另一個人工智慧系統「福音」，有關該系統的資訊已在《+972》和《Local Call》於2023年11月進行的調查以及以色列軍方自己的出版物中披露。這兩個系統之間的根本區別在於目標的定義：福音標記了軍隊聲稱武裝分子活動的建築物和結構，而「薰衣草」則標記了人員，並將其列入殺戮名單。 

　　此外，消息人士稱，在針對以「薰衣草」為標誌的所謂初級武裝分子時，陸軍更傾向於僅使用非制導導彈，即俗稱的「啞」炸彈（與「智能」精確炸彈相反），這種飛彈可以摧毀整棟建築物壓在居住者的上方，造成重大傷亡。「你不想把昂貴的炸彈浪費在不重要的人身上——這對國家來說非常昂貴，而且（這些炸彈）很短缺，」其中一名情報官員C.說。另一位消息人士稱，他們親自授權轟炸了「數百個」被「薰衣草」標記的初級特工的私人住宅，其中許多襲擊導致平民和整個家庭死亡，作為「附帶損害」。 

　　據兩位消息人士透露，軍隊還做出了前所未有的決定，在戰爭的頭幾週內，「薰衣草」標記的每一名哈馬斯下級特工，最多可以殺死15或20名平民；過去，軍方在暗殺低階武裝分子時不會授權造成任何「附帶損害」。消息人士補充說，如果目標是營級或旅級指揮官級別的哈馬斯高級官員，軍方曾多次授權在暗殺一名指揮官時殺害100多名平民。 

　　以下調查是按照加薩戰爭最初幾週以色列軍隊高度自動化的靶材生產的六個時間階段來組織的。首先，我們解釋一下「薰衣草」機器本身，它標誌著數以萬計的巴勒斯坦人正在使用人工智慧。其次，我們揭曉「爸爸在哪裡？」該系統追蹤這些目標，並在他們進入家中時向軍隊發出信號。第三，我們描述如何選擇「啞」炸彈來攻擊這些房屋。 

　　第四，我們解釋了軍隊如何放寬了在轟炸目標時可能被殺害的平民數量。第五，我們注意到自動化軟體如何不準確地計算出每個家庭中非戰鬥人員的數量。第六，我們展示了在幾次房屋遭到襲擊時（通常是在晚上），個別目標有時根本不在屋內，因為軍官沒有即時核實資訊。 

第一步：產生目標 

「一旦你驅動自動化，目標生成就會變得瘋狂」 

　　在以色列軍隊中，「人類目標」一詞過去指的是高級軍事特工，根據軍方國際法部門的規定，即使周圍有平民，也可以在其私人住宅中被殺害。情報來源告訴《+972》和《Local Call》，在以色列以前的戰爭中，由於這是一種「特別殘酷」的殺人方式——通常是殺死目標周圍的整個家庭——所以這些人類目標被非常仔細地標記，只有高級軍事指揮官才被標記。 

　　但消息人士稱，10月7日之後，哈馬斯領導的武裝分子對以色列南部社區發動致命襲擊，造成約1,200人死亡，綁架240人，軍隊採取了截然不同的做法。在「鐵劍行動」下，軍方決定將哈馬斯軍事部門的所有特工指定為人類目標，無論其等級或軍事重要性如何，這改變了一切。 

　　新政策也為以色列情報部門帶來了技術問題。在以往的戰爭中，為了授權暗殺單一人類目標，一名軍官必須經歷複雜而漫長的「入罪」過程：交叉核對證據，證明該人確實是哈馬斯軍事部門的高級成員，發現知道他住在哪裡，他的聯絡方式，終於即時知道他什麼時候在家。當目標清單上只有幾十名高階特工時，情報人員可以單獨處理控告和定位他們的工作。

　　然而，一旦名單擴大到包括數萬名低階特工，以色列軍隊認為必須依賴自動化軟體和人工智慧。消息人士證實，結果是人類人員在將巴勒斯坦人定罪為軍事特工方面的作用被擱置一邊，取而代之的是人工智慧完成了大部分工作。據《+972》和《Local Call》的四名消息人士稱，「薰衣草」是為在當前戰爭中製造人體目標而開發的，已將約37,000名巴勒斯坦人標記為可疑的「哈馬斯武裝分子」，其中大多數是初級人員，準備進行暗殺（以色列國防軍發言人在《+972》和《Local Call》的聲明中否認了此類殺戮名單的存在）。 

　　「我們不知道初級特工是誰，因為以色列（在戰前）沒有定期追蹤他們，」高級官員B.向《+972》和《Local Call》解釋道，闡明了開發這種特定目標機器背後的原因對於當前的戰爭。「他們想讓我們自動攻擊（初級特工），這簡直是夢寐以求的。一旦你採用自動化，目標生成就會變得瘋狂。」 

　　消息人士稱，在戰爭爆發大約兩週後，情報人員「手動」檢查了數百個目標的隨機樣本的準確性後，批准自動採用「薰衣草」的殺戮名單，該名單以前僅用作輔助工具由AI系統選擇。當樣本發現「薰衣草」的結果在識別個人與哈馬斯的關係方面的準確度達到90%時，軍隊授權全面使用該系統。消息人士稱，從那時起，如果「薰衣草」認定某人是哈馬斯的武裝分子，他們基本上會被要求將其視為命令，而不需要獨立檢查機器為何做出這一選擇，或檢查原始情報數據。 

　　「凌晨5點，（空軍）會來轟炸我們標記的所有房屋，」官員B.說。「我們救出了數千人。我們沒有一一檢查——我們把所有東西都放入自動化系統中，一旦其中一個（被標記的人）在家，他就立即成為目標，我們就轟炸了他和他的房子。 

　　「令我感到非常驚訝的是，我們被要求轟炸一座房屋來殺死一名地面士兵，而這名地面士兵在戰鬥中的重要性如此之低，」一位消息人士在談到使用人工智慧來標記所謂的低階武裝分子時說。「我將這些目標稱為『垃圾目標』。儘管如此，我發現它們比我們僅僅為了『威懾』而轟炸的目標更道德——那些高層建築被疏散和推倒只是為了造成破壞。 

　　戰爭初期這種放鬆限制的致命後果是令人震驚的。以色列軍隊自戰爭開始以來幾乎完全依賴加薩巴勒斯坦衛生部的數據，根據該部門的數據，以色列在戰爭的前六週內殺害了約15,000名巴勒斯坦人——幾乎是迄今為止死亡人數的一半，直到11月24 日達成為期一週的停火協議。

「資訊越多、種類越多越好」 

　　「薰衣草」軟體透過大規模監視系統分析從加薩走廊230萬居民中收集到的大部分信息，然後對每個特定人員活躍於哈馬斯或PIJ軍事部門的可能性進行評估和排名。消息人士透露，該機器對加薩幾乎每個人都進行了從1到100的評分，表示他們是武裝分子的可能性有多大。 

　　消息人士解釋說，「薰衣草」學會識別已知哈馬斯和PIJ特工的特徵，他們的資訊作為訓練資料輸入機器，然後在普通人群中定位這些相同的特徵（也稱為「特徵」）。被發現具有多種不同犯罪特徵的個人將達到很高的評級，從而自動成為潛在的暗殺目標。 

　　在本文開頭引用的《人機團隊》一書中，8,200部隊現任指揮官主張建立這樣的系統，但沒有提及「薰衣草」的名字。（指揮官本人也沒有透露姓名，但8200中的五個消息來源證實該指揮官就是作者，《國土報》也報導過。）該指揮官將人員描述為限制軍隊在軍事行動中能力的「瓶頸」，感嘆道：「我們（人類）無法處理如此多的信息。在戰爭期間，無論你派了多少人來生產目標，你仍然無法每天生產足夠的目標。」 

　　他說，這個問題的解決方案是人工智慧。這本書提供了一個基於人工智慧和機器學習演算法來建立「目標機器」的簡短指南，其描述與「薰衣草」類似。本指南中包含了「數百上千」個可以提高個人評級的功能範例，例如加入已知武裝分子的Whatsapp群組、每隔幾個月更換一次手機以及經常更改地址。 

　　「資訊越多、種類越多越好，」指揮官寫道。「視覺信息、蜂窩信息、社交媒體連接、戰場信息、電話聯繫人、照片。」指揮官繼續說道，雖然人類一開始會選擇這些特徵，但隨著時間的推移，機器將自行識別特徵。他說，這可以讓軍隊創造「數以萬計的目標」，而是否攻擊它們的實際決定仍然是人類的決定。 

　　這本書並不是以色列高級指揮官第一次暗示像「薰衣草」這樣的人類目標機器的存在。《+972》和《Local Call》獲得了8200部隊秘密資料科學和人工智慧中心指揮官「Col. Yoav」，在特拉維夫大學2023年人工智慧週上，當時以色列媒體對此進行了報告。 

　　在演講中，指揮官談到了以色列軍隊使用的一種新型、先進的目標機器，該機器可以根據「危險人物」與該機器所接受訓練的現有已知武裝分子名單的相似程度來檢測「危險人物」。「使用該系統，我們成功地識別了哈馬斯導彈班的指揮官，「Yoav」在講座中說道，指的是以色列2021年5月在加薩的軍事行動，當時該機器首次被使用。

　　講座簡報幻燈片也由《+972》和《Local Call》獲得，其中包含機器工作原理的說明：它接收有關現有哈馬斯特工的數據，學會注意他們的特徵，然後根據其他巴勒斯坦人的相似程度對他們進行評分成武裝分子。 

　　「我們對結果進行排名並確定（攻擊目標）的閾值，」「Col. Yoav」在演講中說道，並強調「最終，有血有肉的人會做出決定。在國防領域，從道德上講，我們非常重視這一點。這些工具旨在幫助（情報官員）打破障礙。」 

　　然而，在實踐中，最近幾個月使用過「薰衣草」的消息人士表示，人類的能動性和精確性被大規模目標的創造和殺傷力所取代。 

「沒有『零錯誤』政策」 

　　使用「薰衣草」的高級軍官B.對《+972》和《Local Call》呼應，在當前的戰爭中，軍官不需要獨立審查AI系統的評估，以節省時間並能夠無障礙地大規模生產人類目標。 

　　「一切都是統計數據，一切都很整潔——非常枯燥，」B.說。他指出，儘管內部檢查顯示「薰衣草」的計算只有90%的時間被認為是準確的，但這種缺乏監督的情況是允許的；換句話說，事先就知道被暗殺的人類目標中有10%根本不是哈馬斯軍事部門的成員。 

　　例如，消息人士解釋說，「薰衣草」機器有時會錯誤地標記出與已知的哈馬斯或PIJ特工具有相似溝通模式的個人，包括警察和民防人員、武裝分子的親屬、姓名和暱稱恰好與某個人相同的居民。 

　　「一個人必須與哈馬斯有多親近才能（被人工智慧機器認為）隸屬於該組織？」一位批評「薰衣草」不準確的消息人士說。「這是一個模糊的界線。不從哈馬斯領取工資卻為他們提供各種幫助的人算是哈馬斯特工嗎？過去曾在哈馬斯工作但現在已不存在的人是哈馬斯特工嗎？這些特徵（機器會標記為可疑的特徵）中的每一個都是不準確的。」 

　　目標機器評估被標記為暗殺的個人所使用的手機的能力也存在類似的問題。「在戰爭中，巴勒斯坦人總是更換手機，」消息人士說。「人們與家人失去聯繫，將手機交給朋友或妻子，甚至可能失去。無法100%依賴自動機制來確定哪個（電話）號碼屬於誰。」 

　　消息人士稱，軍隊知道，最低限度的人力監督不會發現這些錯誤。「沒有『零錯誤』政策，錯誤被統計處理，」一位使用「薰衣草」的消息人士說。「由於範圍和規模，協議是即使你不確定機器是否正確，你也知道從統計數據來看它是好的，所以你就去爭取吧。」 

　　「它已經證明了自己，」資深消息人士B.說。「統計方法可以讓你達到一定的規範和標準。這次行動中發生了數量不合邏輯的（爆炸事件）。這在我的記憶中是無與倫比的。我比兩天前失去朋友的士兵更信任統計機制。10月7日，包括我在內的所有人都失去了生命，這讓事情變得更容易。」 

　　另一位情報人士為對「薰衣草」生成的巴勒斯坦嫌疑人殺戮名單的依賴進行了辯護，他認為，如果目標是哈馬斯的高級指揮官，那麼情報官員值得投入時間來核實信息。「但是當涉及到初級武裝分子時，你不想在其中投入人力和時間，」他說。「在戰爭中，沒有時間去指責每個目標。因此，你願意承擔使用人工智慧的誤差幅度，冒著附帶損害和平民死亡的風險，冒著錯誤攻擊的風險，並接受它。」 

　　B.表示，這種自動化的原因是不斷推動更多暗殺目標。「在沒有目標的一天（其特徵評級足以授權攻擊），我們以較低的門檻進行攻擊。我們不斷受到壓力：『給我們帶來更多目標。』他們真的對我們大喊大叫。我們很快就完成了（殺死）我們的目標。」 

　　他解釋說，降低「薰衣草」的評級門檻時，會將更多人標記為打擊目標。「在鼎盛時期，該系統成功地產生了37,000人作為潛在的人類目標，」B.說。「但數字一直在變化，因為這取決於你如何設定哈馬斯特工的標準。有時，哈馬斯特工的定義更廣泛，然後機器開始為我們帶來各種民防人員、警察，對他們浪費炸彈將是一種恥辱。他們幫助哈馬斯政府，但並沒有真正危及士兵。」 

　　一位與訓練「薰衣草」的軍事資料科學團隊合作的消息人士表示，從哈馬斯管理的內部安全部員工收集的資料也被輸入到機器中，他認為這些員工不是武裝分子。「令我困擾的是，當「薰衣草」接受培訓時，他們寬鬆地使用了『哈馬斯特工』一詞，並將民防工人納入了培訓資料集中，」他說。 

　　消息人士補充說，即使人們認為這些人應該被殺死，但根據他們的通訊資料對系統進行訓練會使「薰衣草」在將其演算法應用於普通人群時更有可能錯誤地選擇平民。「由於它是一個自動系統，不由人類手動操作，因此這一決定的意義是戲劇性的：這意味著你將許多具有民用通信特徵的人作為潛在目標。」 

「我們只檢查目標是一名男子」 

　　以色列軍方斷然否認這些說法。在向《+972》和《Local Call》發出的聲明中，以色列國防軍發言人否認使用人工智慧來定罪目標，稱這些只是「在定罪過程中協助官員的輔助工具」。聲明接著說：「無論如何，都需要由（情報）分析師進行獨立檢查，根據以色列國防軍指令和國際法規定的條件，驗證所確定的目標是否是合法的攻擊目標。」 

　　然而，消息人士稱，在轟炸被「薰衣草」標記的可疑「初級」武裝分子的房屋之前，唯一的人類監督協議是進行一次檢查：確保人工智慧選擇的目標是男性而不是女性。軍隊的假設是，如果目標是女性，那麼機器很可能犯了錯誤，因為哈馬斯和伊斯蘭正義聯盟的軍隊中沒有女性。 

　　「人類必須（驗證目標）幾秒鐘，」B.說，並解釋說，在意識到「薰衣草」系統大多數時候都「正確」後，這就成為了協議。「首先，我們進行了檢查以確保機器不會出現混亂。但在某些時候，我們依賴自動系統，我們只檢查（目標）是一個男人——這就足夠了。不需要很長時間就能辨別出一個人的聲音是男聲還是女聲。」 

　　為了進行男女檢查，B.聲稱在當前的戰爭中，「現階段我會為每個目標投入20秒，每天做幾十個。作為一個人，除了獲得認可之外，我的附加價值為零。它節省了很多時間。如果（這名特工）出現在自動化機制中，並且我檢查他是一個男人，那麼就會被允許轟炸他，但要檢查附帶損害。」 

　　實際上，消息人士稱，這意味著對於被「薰衣草」標記為錯誤的平民，沒有適當的監督機制來發現錯誤。B.表示，有一個常見錯誤發生，就是「如果（哈馬斯）目標將（他的手機）給了他的兒子、他的哥哥，或者只是一個隨機的人，那個人和他的家人將在他的房子裡被炸。這種情況經常發生。這些都是『薰衣草』造成的大部分錯誤，」B.說。（待續）