本周，來(lái)自100多個(gè)國(guó)家和地區(qū)的官員參加了在奧地利維也納召開(kāi)的自主武器國(guó)際會(huì)議，討論人工智能與軍事技術(shù)結(jié)合的相關(guān)話題。美聯(lián)社評(píng)論指出，隨著AI驅(qū)動(dòng)的致命性自主武器系統(tǒng)（LAWS）投入實(shí)戰(zhàn)，繼火藥和核武器之后的“第三次軍事革命”將可能發(fā)生。
奧地利外長(zhǎng)沙倫貝格對(duì)此發(fā)出警告稱(chēng)，“誰(shuí)生誰(shuí)死的決定權(quán)，必須掌握在人類(lèi)而不是機(jī)器手中。但事實(shí)是，科技正在飛速發(fā)展，政策卻落后了。人類(lèi)正面臨奧本海默時(shí)刻。”
以軍在加沙實(shí)地測(cè)試AI作戰(zhàn)系統(tǒng)
4月29日至5月1日，自主武器國(guó)際會(huì)議在奧地利首都維也納召開(kāi)，會(huì)議的主題為“站在十字路口的人類(lèi)”。
奧地利外長(zhǎng) 沙倫貝格：人類(lèi)正站在一個(gè)十字路口，自主武器系統(tǒng)很快將布滿世界戰(zhàn)場(chǎng)。我們已經(jīng)通過(guò)AI（控制的）無(wú)人機(jī)和基于AI的打擊目標(biāo)篩選，見(jiàn)識(shí)到了這一點(diǎn)。
半島電視臺(tái)主播：據(jù)一項(xiàng)調(diào)查揭露，以色列陸軍在加沙的轟炸行動(dòng)中一直在使用未經(jīng)測(cè)試的AI工具。
4月3日，據(jù)以色列媒體《+972》雜志率先爆料，以色列軍方正在加沙實(shí)地測(cè)試一款名為“薰衣草”的AI作戰(zhàn)系統(tǒng)。該系統(tǒng)能快速判斷獵殺目標(biāo)的時(shí)間、地點(diǎn)及方式。
據(jù)半島電視臺(tái)報(bào)道，“薰衣草”系統(tǒng)已將多達(dá)37000名巴勒斯坦人列為獵殺目標(biāo)。以色列陸軍內(nèi)部人士透露，“薰衣草”系統(tǒng)目前正在實(shí)戰(zhàn)中快速學(xué)習(xí)、自我完善。而以軍的理想目標(biāo)是，成功獵殺一名哈馬斯高級(jí)官員時(shí)，在襲擊中附帶殺死的平民人數(shù)最好被控制在100人以內(nèi)。
對(duì)事件進(jìn)行披露的以色列調(diào)查記者尤瓦爾·亞伯拉罕對(duì)媒體表示，“薰衣草”系統(tǒng)在本輪對(duì)巴勒斯坦人的轟炸中發(fā)揮了核心作用。
以色列調(diào)查記者 尤瓦爾·亞伯拉罕：在（2023年）10月7日之后，以色列軍方作出了一個(gè)決定，這數(shù)萬(wàn)人現(xiàn)在都可能在房屋內(nèi)遭到轟炸。這意味著不僅他們會(huì)被殺死，大樓里的每個(gè)人，包括孩子、家人（都要被殺死）。以軍為了達(dá)到目的，依靠了這款名為“薰衣草”的AI機(jī)器，但對(duì)它的人為監(jiān)督卻非常少。內(nèi)部人士曾經(jīng)承認(rèn)，相對(duì)于對(duì)這部機(jī)器作出的決定，他就是個(gè)橡皮圖章。
美國(guó)有線電視新聞網(wǎng)去年12月報(bào)道稱(chēng)，在沖突爆發(fā)的前兩個(gè)月，以色列在加沙投放的彈藥中有近一半是缺乏精確性的非制導(dǎo)炸彈。炸彈往往會(huì)摧毀整幢建筑，對(duì)平民造成的傷害巨大。以色列調(diào)查記者亞伯拉罕表示，依據(jù)AI的分析，一些哈馬斯目標(biāo)“不夠重要”，為節(jié)約成本，沒(méi)有必要浪費(fèi)昂貴的制導(dǎo)導(dǎo)彈精確打擊目標(biāo)所在的特定樓層。在戰(zhàn)爭(zhēng)的早期階段，這造成了大量無(wú)辜人員的死傷。
以色列調(diào)查記者 尤瓦爾·亞伯拉罕：我的意思是，根據(jù)國(guó)際法的條款，當(dāng)你設(shè)計(jì)一個(gè)將37000人鎖定為打擊目標(biāo)的系統(tǒng)，核實(shí)后你知道其中10%實(shí)際上并不是武裝分子，這些人與哈馬斯沒(méi)有緊密聯(lián)系或根本無(wú)關(guān)，但你仍然授權(quán)該系統(tǒng)在缺乏監(jiān)督的情況下發(fā)動(dòng)了數(shù)周（的打擊）。我的意思，這難道不是違反了（國(guó)際法）原則嗎？我認(rèn)為國(guó)際法現(xiàn)在正面臨危機(jī)，而AI系統(tǒng)正在讓這場(chǎng)危機(jī)變得更加嚴(yán)重。
而在《巴勒斯坦試驗(yàn)場(chǎng)》一書(shū)的作者、《悉尼先驅(qū)晨報(bào)》記者安東尼看來(lái)，以色列如此大膽、非法、缺乏道德地訓(xùn)練AI武器系統(tǒng)，背后很可能少不了大量的數(shù)據(jù)情報(bào)支持。
《悉尼先驅(qū)晨報(bào)》記者 安東尼：我懷疑情報(bào)來(lái)源可能是美國(guó)或澳大利亞。松峽是美國(guó)在澳中部的一個(gè)主要軍事基地，美國(guó)通過(guò)該基地向以色列提供信息。所有這些數(shù)據(jù)信息都匯入（“薰衣草”）系統(tǒng)中，從而生成了大量目標(biāo)。以色列目前試圖將這些（AI）工具出售給外國(guó)實(shí)體和政府。這些政府對(duì)以色列在加沙的所作所為不但不質(zhì)疑，反而帶著贊許。
烏克蘭戰(zhàn)場(chǎng)成為美軍“AI武器實(shí)驗(yàn)室”
而在曾負(fù)責(zé)烏克蘭戰(zhàn)場(chǎng)AI作戰(zhàn)測(cè)試的美國(guó)第18空降軍中將多納休眼中，烏克蘭戰(zhàn)場(chǎng)已成美軍的“AI武器實(shí)驗(yàn)室”。
4月23日，由五角大樓主導(dǎo)的“梅文計(jì)劃”的最新進(jìn)展被曝光。
據(jù)《紐約時(shí)報(bào)》披露，梅文智能系統(tǒng)正在烏克蘭戰(zhàn)場(chǎng)得到快速訓(xùn)練和完善。簡(jiǎn)單來(lái)說(shuō)，該AI系統(tǒng)能夠?qū)⑿l(wèi)星、雷達(dá)、紅外設(shè)備甚至社交媒體上的影像處理后匯總到一塊屏幕上，幫助接入該系統(tǒng)的人員快速識(shí)別出打擊目標(biāo)。通過(guò)接入戰(zhàn)斗機(jī)或無(wú)人機(jī)等武器系統(tǒng)，人類(lèi)指揮官只需做出確認(rèn)打擊的最終決定。
英國(guó)前陸軍軍官 邁克·馬?。?/strong>AI在武器系統(tǒng)中的體現(xiàn)之一便是自主化。我們希望武器系統(tǒng)實(shí)現(xiàn)自主化的原因是，希望它們（武器）快速做出打擊行動(dòng)。在戰(zhàn)爭(zhēng)中，如果你能先發(fā)制人，那么你就擁有巨大的優(yōu)勢(shì)。情報(bào)分析是一種有效的識(shí)別（打擊目標(biāo)的）方式，而識(shí)別某一目標(biāo)恰恰是AI系統(tǒng)非常擅長(zhǎng)的。
舉個(gè)例子，只需讓AI系統(tǒng)瀏覽一輛坦克的照片，系統(tǒng)便會(huì)定位出它的位置，無(wú)人機(jī)便可對(duì)坦克進(jìn)行打擊。
據(jù)英國(guó)《每日郵報(bào)》報(bào)道，在任何時(shí)間，俄烏前線上空都飛行著至少10000架無(wú)人機(jī)，這些無(wú)人機(jī)的單個(gè)成本大都不超過(guò)2000美元，但卻可以摧毀一臺(tái)價(jià)值數(shù)百萬(wàn)美元的主戰(zhàn)坦克。
去年10月，據(jù)福布斯新聞網(wǎng)報(bào)道，烏克蘭無(wú)人機(jī)公司薩克爾聲稱(chēng)，它已經(jīng)部署了一款全自主無(wú)人機(jī)——“獵隼偵察兵”。在AI的驅(qū)動(dòng)下，它能夠自行決定在戰(zhàn)場(chǎng)上殺死誰(shuí)。薩克爾官員宣稱(chēng)，這架無(wú)人機(jī)已經(jīng)進(jìn)行了小規(guī)模的自主攻擊。
智能系統(tǒng)加快機(jī)器成為戰(zhàn)場(chǎng)決策者的步伐
據(jù)英國(guó)第四新聞臺(tái)報(bào)道，梅文智能系統(tǒng)的平臺(tái)由五角大樓的承包商——美國(guó)帕蘭泰爾科技公司打造。這家科技公司公然聲稱(chēng)，其AI系統(tǒng)是烏克蘭武器的數(shù)字大腦，烏軍的大多數(shù)打擊目標(biāo)都是借助該平臺(tái)鎖定并打擊的。
去年年末，帕蘭泰爾發(fā)布了最新一代AI平臺(tái)的詳細(xì)信息。該平臺(tái)為軍方設(shè)計(jì)推出了大型語(yǔ)言模型和尖端AI技術(shù)。據(jù)帕蘭泰爾介紹，該工具就像軍事領(lǐng)域的聊天機(jī)器人，通過(guò)簡(jiǎn)單的語(yǔ)音指令輸入便可為指揮官提供實(shí)時(shí)戰(zhàn)略決策建議。原本可能需要花上幾個(gè)小時(shí)的關(guān)鍵軍事決策，現(xiàn)在只需幾分鐘。
人類(lèi)操作者：生成三個(gè)行動(dòng)方案來(lái)瞄準(zhǔn)該敵方裝備；生成一條從小分隊(duì)Ω到達(dá)敵方裝備的路線；摧毀敵方裝備。
盡管帕蘭泰爾公司表示，他們的系統(tǒng)遵循道德和法律準(zhǔn)則，運(yùn)行時(shí)有人工監(jiān)督，無(wú)法獨(dú)立發(fā)起攻擊。但有分析指出，制造完全自主武器的技術(shù)早已存在，速度又是戰(zhàn)場(chǎng)上的決定性因素，像梅文系統(tǒng)這樣的平臺(tái)，無(wú)疑加速了“使機(jī)器成為戰(zhàn)場(chǎng)決策者”的步伐。
美國(guó)前軍官保羅·沙爾，入選《時(shí)代》雜志的人工智能領(lǐng)域最具影響力100人。今年2月，他在《外交事務(wù)》雜志上發(fā)出警告稱(chēng)：“如不對(duì)自主武器系統(tǒng)加以嚴(yán)格管控，未來(lái)人類(lèi)的角色將淪為打開(kāi)機(jī)器并坐在場(chǎng)邊，且?guī)缀鯖](méi)有能力控制甚至結(jié)束戰(zhàn)爭(zhēng)。”
據(jù)彭博社報(bào)道，在美軍于2024年初在中東進(jìn)行的空襲轟炸中，梅文智能系統(tǒng)至少幫助美軍鎖定了85個(gè)打擊目標(biāo)，地點(diǎn)涉及伊拉克、敘利亞、也門(mén)和紅海地區(qū)。
美軍方加速推進(jìn)人工智能技術(shù)
據(jù)《時(shí)代》周刊 報(bào)道，2024財(cái)年，美國(guó)軍方對(duì)人工智能的投資迅猛增加。
根據(jù)美國(guó)公布的2024財(cái)年政府預(yù)算，包括國(guó)防部、能源部、國(guó)土安全部等多個(gè)機(jī)構(gòu)，累計(jì)向AI領(lǐng)域計(jì)劃投入超過(guò)2511億美元。如果將政府外部籌資、資本市場(chǎng)的投入計(jì)算在內(nèi)，2024年，美國(guó)在AI領(lǐng)域投資預(yù)計(jì)超過(guò)數(shù)萬(wàn)億美元。
2023年11月，美國(guó)國(guó)防部發(fā)布“人工智能實(shí)施戰(zhàn)略”。摘要指出，美國(guó)防部正在加速實(shí)施先進(jìn)人工智能技術(shù)，以確保美軍在未來(lái)幾年保持戰(zhàn)場(chǎng)上的決策優(yōu)勢(shì)。
5月2日，在加州愛(ài)德華茲空軍基地，美國(guó)空軍部長(zhǎng)肯德?tīng)栍H自體驗(yàn)了一把人工智能戰(zhàn)機(jī)。他乘坐了由AI駕駛的X-62A VISTA戰(zhàn)機(jī)。
美國(guó)空軍部長(zhǎng) 肯德?tīng)枺?/strong>計(jì)算機(jī)不會(huì)感到疲倦，它并不害怕。它會(huì)遵循它的規(guī)則，并盡可能地接近完美的動(dòng)作，而人類(lèi)的表現(xiàn)總是會(huì)有一些變數(shù)。
據(jù)美國(guó)防務(wù)新聞網(wǎng)報(bào)道，4月20日，美國(guó)國(guó)防部高級(jí)研究計(jì)劃局DARPA（Defense Advanced Research Projects Agency）發(fā)布了AI駕駛的VISTA戰(zhàn)機(jī)與資深飛行員駕駛的F-16戰(zhàn)機(jī)進(jìn)行的一場(chǎng)實(shí)地模擬空戰(zhàn)的視頻。這也是AI與人類(lèi)的首次空戰(zhàn)。
面對(duì)媒體，美國(guó)空軍部長(zhǎng)肯德?tīng)柧芙^透露這場(chǎng)空戰(zhàn)的具體戰(zhàn)況。但他表示，接下來(lái)將舉辦更多場(chǎng)景的比賽，讓AI戰(zhàn)機(jī)打磨技術(shù)。
美國(guó)空軍部長(zhǎng) 肯德?tīng)枺?/strong>我們可以讓它（AI戰(zhàn)機(jī)）成為先頭部隊(duì)，我們可以把它放在一些故意要犧牲的地方，以便吸引火力或者找出敵人在哪里。我們的飛行員普遍認(rèn)為這將為他們帶來(lái)競(jìng)爭(zhēng)優(yōu)勢(shì)。我們正在搶占（AI）技術(shù)優(yōu)勢(shì)。這是這場(chǎng)比賽的關(guān)鍵之一，這事關(guān)重大。
帕爾默·拉基：“硅谷的奧本海默”
對(duì)此，“今日俄羅斯”電視臺(tái)直言，戰(zhàn)爭(zhēng)正在為美國(guó)軍工行業(yè)創(chuàng)造大筆“財(cái)富”。
隨著全球多地沖突與對(duì)抗的加劇，對(duì)人工智能驅(qū)動(dòng)武器的需求不斷增加，無(wú)論是洛馬、RTX（前身為雷神公司）或通用動(dòng)力，無(wú)論是行業(yè)巨頭還是初創(chuàng)企業(yè)，都在加緊自主武器開(kāi)發(fā)項(xiàng)目，期望從美國(guó)的巨額國(guó)防預(yù)算中分得一杯羹。
安杜里爾工業(yè)公司創(chuàng)始人兼CEO 帕爾默·拉基：這就是“怒火”。它是一種無(wú)人駕駛戰(zhàn)斗機(jī)，能夠與有人駕駛戰(zhàn)斗機(jī)和其他有人駕駛飛機(jī)協(xié)作，極大地?cái)U(kuò)大可攻擊目標(biāo)的范圍，而不會(huì)讓人員處于危險(xiǎn)之中。這是自主武器系統(tǒng)最酷的事情之一。
31歲的帕爾默·拉基，美國(guó)國(guó)防技術(shù)和武器制造商安杜里爾工業(yè)公司的創(chuàng)始人兼CEO，被美國(guó)媒體稱(chēng)為“硅谷的奧本海默”。
4月24日，安杜里爾公司被美國(guó)空軍選中，為下一階段的AI協(xié)同作戰(zhàn)飛機(jī)項(xiàng)目建造和測(cè)試無(wú)人機(jī)原型。《華爾街日?qǐng)?bào)》指出，在美國(guó)五大軍火制造商幾乎壟斷行業(yè)的背景下，安杜里爾是唯一一家贏得五角大樓多份合同的國(guó)防初創(chuàng)企業(yè)。
2012年，20歲的拉基創(chuàng)立了虛擬現(xiàn)實(shí)公司Oculus VR，兩年后，他以20億美元的價(jià)格將其賣(mài)給了Meta。2017年，25歲的拉基創(chuàng)立安杜里爾，全心投入AI自主武器研發(fā)，幾個(gè)月后便與特朗普政府簽訂了國(guó)防大單，為墨西哥邊境提供AI監(jiān)視塔。
如今，其自主武器系統(tǒng)已被美國(guó)軍方多個(gè)部門(mén)采購(gòu)。截至目前，已為加沙和烏克蘭戰(zhàn)場(chǎng)提供了上千架Altius-600M攻擊無(wú)人機(jī)。去年年末，該公司的估值約為84.8億美元，雖然僅為美國(guó)傳統(tǒng)軍工巨頭的約十分之一，但《華爾街日?qǐng)?bào)》總結(jié)安杜里爾的發(fā)家秘訣便是，低成本、易操作、產(chǎn)品研發(fā)效率高。
去年年末，安杜里爾推出“走鵑”（Roadrunner）高爆無(wú)人機(jī)攔截器，高度僅1.5米，運(yùn)輸靈活，彈頭載荷卻是同類(lèi)飛行器的三倍。相比只能單次使用、售價(jià)15萬(wàn)美元的AGM-114地獄火導(dǎo)彈和18萬(wàn)美元的AIM-120導(dǎo)彈，售價(jià)僅數(shù)萬(wàn)美元的“走鵑”可以從發(fā)射平臺(tái)垂直起降。如果證明威脅不存在，還能完好返回指定的地點(diǎn)。
更讓人驚艷的是，與傳統(tǒng)軍工巨頭復(fù)雜的硬件平臺(tái)不同，安杜里爾的操作平臺(tái)Lattice如同一個(gè)總指揮中心，允許一名操作員控制和協(xié)調(diào)多個(gè)AI自主武器，無(wú)論是無(wú)人機(jī)、潛艇還是移動(dòng)監(jiān)視塔。
安杜里爾工業(yè)公司平臺(tái)研發(fā)部主管 奇蘭：你將在底部看到這個(gè)團(tuán)隊(duì)的所有資產(chǎn)，然后你將看到一個(gè)圖形顯示。它看起來(lái)與我們?cè)谌粘Ｉ钪惺褂玫能浖浅Ｏ嗨?。背景中有一張地圖，你會(huì)在該軟件上看到多輛設(shè)備，你能看到每輛設(shè)備所扮演的角色。工程師設(shè)計(jì)我們的軟件，就像設(shè)計(jì)手機(jī)或iPad上的軟件一樣，它使用起來(lái)對(duì)用戶非常友好。
帕爾默·拉基經(jīng)常說(shuō)，特斯拉的自動(dòng)駕駛比美國(guó)軍用車(chē)輛更好，iPhone的計(jì)算能力也比美國(guó)國(guó)防部常用的系統(tǒng)強(qiáng)大。未來(lái)的AI武器系統(tǒng)的操作應(yīng)像操作任何智能手機(jī)一樣簡(jiǎn)單。根據(jù)拉基的理念，在戰(zhàn)場(chǎng)上，機(jī)器能做得更好，為何要?jiǎng)趧?dòng)人呢？
安杜里爾工業(yè)公司創(chuàng)始人兼CEO 帕爾默·拉基：當(dāng)需要在對(duì)抗環(huán)境中，對(duì)同時(shí)運(yùn)行的數(shù)千或數(shù)萬(wàn)個(gè)武器系統(tǒng)，進(jìn)行即時(shí)微觀管理時(shí)，你不能依靠人類(lèi)來(lái)做所有的事。有些任務(wù)機(jī)器人更加擅長(zhǎng)。
《華爾街日?qǐng)?bào)》直言，帕爾默·拉基的商業(yè)模式有望重塑美國(guó)國(guó)防工業(yè)。不過(guò)，拉基的理念與不少研究者背道而馳。
這不禁讓人想起2017年美國(guó)加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)系教授斯圖爾特·拉塞爾制作的“殺戮機(jī)器人”視頻。該視頻被業(yè)內(nèi)認(rèn)為預(yù)言了AI武器的未來(lái)。
視頻展示了在不久的將來(lái)，配備面部識(shí)別系統(tǒng)的微型無(wú)人機(jī)裝配炸藥，成為恐怖的“AI殺手”。無(wú)人機(jī)有了自主思考的能力，它們首先附著在建筑物上，在墻壁上炸出洞，以便其他無(wú)人機(jī)可以進(jìn)入并追捕特定的學(xué)生。十幾所大學(xué)發(fā)生無(wú)人機(jī)襲擊事件，數(shù)千名大學(xué)生喪生。而美國(guó)國(guó)會(huì)也出現(xiàn)了同樣的慘劇，被AI選中的參議員被殺害。
加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)家 拉塞爾：允許機(jī)器選擇性地殺死人類(lèi)，將對(duì)我們的安全和自由造成毀滅性打擊。我的數(shù)千名同行認(rèn)為我們有機(jī)會(huì)阻止您剛剛看到的未來(lái)，但采取行動(dòng)的時(shí)機(jī)窗口正在快速關(guān)閉。
5月1日，在自主武器國(guó)際會(huì)議上，美國(guó)著名信息物理學(xué)家阿吉雷發(fā)出警告，當(dāng)年拉塞爾博士預(yù)言的“殺人機(jī)器人時(shí)代已經(jīng)到來(lái)。”
現(xiàn)在，只要有一個(gè)3-D打印機(jī)和基本的編程知識(shí)，一名學(xué)生便可制作出有能力引起大規(guī)模傷亡的無(wú)人機(jī)。自主武器系統(tǒng)已經(jīng)永遠(yuǎn)地改變了國(guó)際穩(wěn)定的概念。人工智能系統(tǒng)遭黑客攻擊、衛(wèi)星和其他數(shù)據(jù)丟失，甚至人工智能本身引起的幻覺(jué)，都可能成為AI武器系統(tǒng)潛在的風(fēng)險(xiǎn)。
——信息物理學(xué)家安東尼·阿吉雷
奧地利外長(zhǎng) 沙倫貝格：實(shí)際上，在某種程度上，它（AI自主武器）比奧本海默時(shí)刻更糟糕。這是自火藥發(fā)明以來(lái)戰(zhàn)場(chǎng)上最大的革命，而這種技術(shù)更廉價(jià)，發(fā)展更快。
電影《奧本海默》的導(dǎo)演克里斯托弗·諾蘭曾表示，很多頂級(jí)的人工智能研究者，將當(dāng)下視為他們的“奧本海默時(shí)刻”。這是一種往日經(jīng)驗(yàn)永久失效、未知浩劫須臾降臨的不祥預(yù)感。這一刻，人類(lèi)及地球的命運(yùn)，仿佛縮進(jìn)一只盲盒中。
本周，奧地利裁軍事務(wù)高級(jí)別官員、此次自主武器會(huì)議的策劃者亞歷山大·克門(mén)特指出，短期內(nèi)依靠外交途徑解決AI武器監(jiān)管存在較大難度，因?yàn)檫@將是一項(xiàng)巨著式的條約。
如何在人工智能時(shí)代迎接“奧本海默時(shí)刻”的到來(lái)，需要全球智慧。
推薦閱讀
官方微信
官方微博
今日頭條
川公網(wǎng)安備51019002004313號(hào)
