自主武器與殺手機器人：新的警告，舊的習慣 

文／Binoy Kampmark

　　又一次發出嚴峻警告，又一次發出關於人類毀滅本能的卡桑德拉式呼喊。本月，聯合國秘書長安東尼奧．古特雷斯和紅十字與紅新月國際委員會（紅十字國際委員會）主席米爾亞娜．斯波利亞里奇．埃格爾發表聯合呼籲，指出「我們現在正危險地接近跨越道德紅線：機器自主瞄準人類」。兩人都堅持認為，必須禁止兩種類型的自主武器——不可預測的自主武器和反人員武器。 

　　在日內瓦，聯合國日內瓦辦事處裁軍事務主管梅拉妮．雷吉姆巴爾重申了聯合國的立場，即在缺乏控制和判斷的情況下選擇或攻擊目標並奪取人類生命的系統「在政治上是不可接受的，在道德上是令人反感的，應該根據國際法予以禁止」。 

　　紅十字國際委員會武器和敵對行動行為司司長洛朗．吉塞爾也在日內瓦發表講話，他將衝突描述為「並非精準、分明和克制的故事」，而是「平民被殺、家庭流離失所、醫院、學校和房屋以越來越快的速度和越來越大的規模被摧毀的故事」。在衝突的迷霧中，許多變數都可能發揮作用。「戰鬥人員可能投降或受傷，從而免受攻擊；平民可能進入自主武器系統的作戰區域；武器系統可能遇到意想不到的情況。」此類自主系統的不可預測性帶來的危險是一個巨大的問題。「如果無法預測，又如何限制它？」 

　　這些警告並不引人注目。聯合國和紅十字國際委員會早在2023年就就此問題聯合發出呼籲，敦促各國在2026年前達成一份具有法律約束力的文件。在民間社會層面，「停止殺手機器人」聯盟於2012年10月成立，並於2013年正式啟動。該聯盟表示，其運動的重點在於營造一個「我們尊重彼此固有尊嚴」的世界；對有關技術的選擇及其如何改變人與人之間的關係負責；開發能夠促進和平、正義、人權、平等和尊重法律的技術；以及讓人們作為行動者「建立社會，克服不平等和壓迫制度」。這些內容聽起來相當抽象，但其核心目標是發展和強化「反對在戰爭、警務、邊境管制和其他情況下使用機器自主殺戮的社會規範」。控制、責任和問責是其基本特徵。 

　　近來，這場運動並未取得太多實質進展。軍方對殺人機器的信任仍然根深蒂固，決策過程中人為控制的概念日益淡化，取而代之的是盲目接受數據的人類消費者。這種信任其實取代了在獲取和打擊目標時嚴謹細緻、不加質疑的決策者。在2023年10月7日加薩戰爭爆發後的最初幾週內，以色列國防軍（IDF）大量使用了名為「薰衣草」（Lavender）的人工智慧決策支援系統（DSS），該系統根據目標與武裝團體的關聯程度，粗略地劃分出37,000個目標。其他用於戰鬥的系統還包括「福音」（Habsora），用於產生目標清單；以及「爸爸在哪裡？」（Where’s Daddy?）平台，用於在襲擊前追蹤目標人員的位置。由此造成的大規模屠殺也印證了這一點。以色列國防軍的行為非但沒有顯示人與機器的無縫融合，反而顯示了一種錯置的樂觀主義與懶惰，即盲目地相信殺戮系統的優點。 

　　人工智慧公司Anthropic與美國國防部就自主系統在戰爭中的危險性問題所產生的分歧，便是又一例證。這兩家在「死亡經濟」領域舉足輕重的公司之間的爭端，嚴重到五角大廈試圖將該公司列入「供應鏈風險」黑名單。（8月27日，加州北區地方法院裁定此舉構成「非法報復」，違反了憲法第一修正案，並剝奪了憲法第五修正案所保障的正當程序權利。）然而，這場爭端未必對那些支持限制殺手機器人或全自主軍事平台的人來說是件好事。 

　　在2026年2月的聲明中，該公司聯合創始人達裡奧．阿莫迪承認，五角大廈而非「私人公司」才是軍事決策的制定者。「我們從未對任何具體的軍事行動提出異議，也從未試圖以臨時的方式限制我們的技術。」然而，阿莫迪自認為具有政治意識，這就引出了一個問題：為什麼他會站在剝奪人類決策權的最前沿，尤其是在鼓勵使用大型語言模型（LLM）方面，而這些模型會消除主動性、勤奮性和創造力。他聲稱，人工智慧會「破壞」民主，而他自己似乎也在追求這一目標。他個人擔憂的是，該公司的技術被用於大規模國內監控，這「對我們的基本自由構成了嚴重且全新的風險」，以及使用完全自主的武器，「這些武器將人類完全排除在外，並自動選擇和攻擊目標」。但即便如此，考慮到他承認完全自主的系統「可能對我們的國防至關重要」，他的這些擔憂也顯得蒼白無力。看來，人們的擔憂在於現有系統的可靠性，以及它們是否會對美國人員造成傷害。「我們絕不會故意提供會危及美國軍人和平民安全的產品。」 

　　阿莫迪發表聲明兩天後，美國和以色列對伊朗發動了先發制人的非法聯合攻擊，這再次體現了人工智慧決策支援系統（AI DSS）的濫用。美軍利用帕蘭提爾公司的Maven智慧系統快速產生目標，該系統整合了安特羅皮克公司的Claude人工智慧，用於評估監控數據、產生目標清單並確定優先順序。國際戰略研究所（IISS）的努爾．哈馬德寫道：「伊朗境內許多被擊中的目標都是民用設施，包括學校、醫療機構和住宅區，這凸顯了快速生成目標的風險。」智庫專家總是擅長使用輕描淡寫和委婉的措辭。 

　　吉塞爾告訴記者，就目前情況而言，尚無「確鑿證據表明自主武器已被用於在戰場上直接瞄準人類」。鑑於以色列國防軍、五角大廈和其他軍方中那些技術狂熱分子所表現出的盲從態度，這種差異幾乎毫無意義。如果系統這麼說，那它就一定是對的。此外，這些呼籲克制和建立法律控制體系的呼聲也可能只會徒增憂慮，而無濟於事。在11月即將召開的《特定常規武器公約》（CCW）第七次審議大會之前，人類不太可能選擇一條不會先將自身置於危險境地，然後再試圖無可挽回地將失控的惡魔裝進瓶子裡的道路。從原子武器的製造到氣候變遷的威脅，最糟糕的情況總是會先於任何所謂的靈丹妙藥出現。而即便靈丹妙藥出現，也可能只是權宜之計。