單純從科幻小說的角度來看,軍事機器人似乎是個糟糕的主意。從《終結(jié)者》(The Terminator)到《黑客帝國》(The Matrix),流行文化充滿了強大機器肆虐橫行的故事,它們總是努力擺脫制造者的控制,擊敗任何試圖阻止它們的力量。早在20世紀20年代,捷克作家卡雷爾·查佩克(Karel Capek)就在舞臺劇《羅森的萬能機器人》(Rossum's Universal Robots)中首次提出了機器人(robot)這個詞,并預(yù)言人類命運將終結(jié)在人工生命之手。
盡管有這些電影發(fā)出警告,但是陸地、空中以及海上機器人依然不斷從科幻小說中涌現(xiàn),成為現(xiàn)代武器庫的標準部分,現(xiàn)在甚至有人正認真討論開發(fā)殺手機器人和無人機,它們不僅可獨立思考,甚至還能相互交流。
自從2011年9/11恐怖襲擊發(fā)生以來,美國軍方已經(jīng)部署了數(shù)以萬計的遙控機器人。在中東,無人機已成為一種常見的作戰(zhàn)武器。無人駕駛陸地戰(zhàn)車已經(jīng)幫助美國軍隊在伊拉克和阿富汗安全地摧毀了大量路邊炸彈。水下無人機被用來收集科學和偵察數(shù)據(jù),并幫助排除水雷。
其他國家軍隊和各種武裝組織也正在開發(fā)自己的戰(zhàn)斗機器人,通過開發(fā)進攻性和防御性的機器人技術(shù),很可能引發(fā)類似冷戰(zhàn)式的軍備競賽。支持者認為,軍事機器人會拯救更多生命,而不是危及生命,比如那些已經(jīng)應(yīng)用到實踐中的炸彈排爆機器人。
各國軍隊正開始著手進行整合,包括考慮何時以及如何將越來越多的自主機器人應(yīng)用到各種軍事行動中。然而與民用自動化卡車、拖拉機或鏟車相似,他們也面臨安全性和有效性等相同的問題。世界各國領(lǐng)導人也在積極考慮,如果沒有人類發(fā)出的明確命令,機器人是否應(yīng)被允許開火或啟用其他武器。所以,以完成任務(wù)為使命、類似終結(jié)者的殺人機器可能不再那樣遙遠。
美國軍方的機器人計劃同樣令人擔憂。2001年10月7日,也就是9/11恐怖襲擊發(fā)生1個月后,機器人首次證明了它是一種致命武器的價值。到阿富汗戰(zhàn)爭爆發(fā)時,名為MQ-1的捕食者無人機首次發(fā)動了致命空襲。這架無人駕駛飛機現(xiàn)在已成為華盛頓國家航空航天博物館的重要象征。
在小布什總統(tǒng)(George W. Bush)使用無人機取得初步成功后,捕食者和更大的收割者無人機的使用迅速增加。小布什的繼任者巴拉克·奧巴馬(Barack Obama)同樣大力支持使用無人機,促使其數(shù)量進一步擴大。外交關(guān)系高級研究員邁卡·曾科(Micah Zenko)估計,奧巴馬授權(quán)的無人機襲擊高達506次,而布什授權(quán)還不到50次。
批評人士表示,由數(shù)百或數(shù)千公里以外的操作員遠程操控無人機很難做到萬無一失?;槎Y和其他平民集會遭到意外襲擊事件屢見不鮮,成為無人機項目的最大困擾之一。奧巴馬在2013年演講中說,利用無人機對恐怖分子發(fā)動襲擊依然是最佳方案。他說:“與無人機相比,傳統(tǒng)的空軍或?qū)椄粶蚀_,并有可能造成更多平民傷亡和引發(fā)更多地方憤怒。這些入侵領(lǐng)土行為使我們被視為占領(lǐng)軍隊,會產(chǎn)生許多意想不到而難以控制的后果,進而造成大量平民傷亡,導致暴力沖突加劇。”
2013年,美國參議員林賽·格雷厄姆(Lindsey Graham)估計,約有4700人在美國無人機襲擊中身亡。他說:“有時你會攻擊到無辜的人,我討厭這樣,但我們正處于戰(zhàn)爭中,我們已經(jīng)擊斃了許多基地組織高級成員。”唐納德·特朗普(Donald Trump)在就任總統(tǒng)后的頭幾個月里,繼續(xù)授權(quán)CIA增加無人機襲擊次數(shù)。在去年大選期間,他甚至提倡使用捕食者無人機進行邊境巡邏。
據(jù)美國智囊機構(gòu)New America Foundation估計,美國面臨裝備無人機的敵軍威脅日益加劇,現(xiàn)在已經(jīng)有86個國家擁有某種無人機,其中包括19個已經(jīng)擁有或正在獲得武裝無人機技術(shù)的國家。該基金會報告說:“2011年研究發(fā)現(xiàn),世界各國政府、公司和研究機構(gòu)共有約680個活躍的無人機開發(fā)項目,而六年前只有195個。”恐怖組織也在關(guān)注這項空中技術(shù):IS使用商業(yè)和定制無人機進行監(jiān)視,最近甚至還向伊拉克部隊投放炸彈。
在伊拉克和阿富汗,路邊炸彈和簡易爆炸裝置已經(jīng)造成數(shù)以千計的美軍士兵傷殘或者死亡,無人地面車輛可以幫助拆除它們,地面機器人已經(jīng)展示出拯救生命的巨大潛力。New America Foundation戰(zhàn)略專家、《連線戰(zhàn)爭:機器人革命和21世紀沖突》(Wired for War: The Robotics Revolution and Conflict in the 21st Centur)的作者彼得·辛格(Peter Singer)2009年寫道,部署在伊拉克的軍用地面機器人數(shù)量2004年末大約為150個,4年后已經(jīng)增加到大約12000個。
美國軍方發(fā)言人多弗·施瓦茨(Dov Schwartz)承認:“多達1000輛無人地面車輛已在伊拉克和阿富汗被炸毀,但它們挽救了無數(shù)生命。”早在2002年初,類似坦克的便攜式遙控汽車PackBots就被部署在阿富汗,幫助搜尋布滿陷阱的洞穴和隱藏的敵人。當時,這些機器由麻省理工學院分拆的公司iRobot制造,以Roomba和Braava等自動地板清洗機為基礎(chǔ)。該公司的軍事部門去年剝離出來,組建了總部位于馬薩諸塞州的Endeavor Robotics公司。
PackBot被證明在前線部隊中很受歡迎。一位陸軍上校在2003年稱,與損失士兵相比,更換機器人顯然更劃算。iRobot公司推出了新的模型,可以拆除拆除炸彈和應(yīng)對伏擊,也能用于偵察和處理炸彈。Endeavor Robotics首席執(zhí)行官肖恩·比拉特(Sean Bielat)表示:“在與客戶和最終用戶的協(xié)調(diào)中,我們在不斷學習。因為與我們的遐想相比,他們總是知道自己更需要什么。我們總是需要這樣的迭代過程:把設(shè)備交給他們,他們提供反饋,然后我們進行重新設(shè)計,最終幫助他們完成任務(wù)。”
2005年,PackBot成為環(huán)納斯達克交易所首個開市敲鐘的機器人,預(yù)示著iRobot公司7200萬美元的IPO活動開市。到2012年,iRobot公司宣布已經(jīng)向國防機構(gòu)和警察機構(gòu)售出超過5000個機器人,包括能夠攜帶68公斤負重的超級戰(zhàn)士PackBot、重量僅2.3公斤的FirstLook。其中,F(xiàn)irstLook屬于通常被稱為“異類”的機器人,因為它們可以被扔到很難看到的地方,或者從車上滾下去,甚至被扔到建筑物里面檢查潛在威脅。
專為軍方和執(zhí)法機構(gòu)提供各種設(shè)備的ReconRobotics公司首席執(zhí)行官兼總裁馬克·特雷納(Mack Traynor)表示:“軍隊將使用機器人偵察道路、下涵洞,以及進入狹窄的地方。曾有海軍陸戰(zhàn)隊上士告訴我,當他被外派執(zhí)行任務(wù)的時候,負責連隊里最大的家伙。他要做的,就是把它盡量扔到遠處。”
同樣,美國海軍始終在使用機器人定位水雷。2003年,被稱為遠程環(huán)境監(jiān)控單元(REMUS)的魚雷形無人潛艇第一次被用于在伊拉克港口城市烏姆蓋斯爾(Umm Qasr)周圍尋找水雷。這些裝置幫助水手在水面下發(fā)現(xiàn)了幾十個可疑物體。
作為偵察工具,這些機器人過去幾十年已被證明非常有價值,包括1985年幫助找到泰坦尼克號的殘骸。它們還被用來尋找沉船和失事飛機的“黑匣子”。1999年,美國海軍水下無人機Deep Drone在楠塔基特附近成功找到發(fā)生空難的埃及航班飛行數(shù)據(jù)記錄儀。
但到目前為止,反水雷無人機大多辜負了人們的期望。所謂的遙控獵雷系統(tǒng)(Remote Minehunting System,簡稱RMS)去年被正式取消,因為此前參議院武裝部隊委員會主席約翰·麥凱恩(John McCain)發(fā)表了一份措辭嚴厲的報告,稱該系統(tǒng)斥資7.06億美元、歷時開發(fā)16年,卻依然沒有提供任何幫助。麥凱恩寫道:“簡單地說,雖然RMS的總體支出只比原計劃略高一點,但它只產(chǎn)出了半數(shù)系統(tǒng),這意味著超過了單位成本的兩倍,并要花兩倍的時間來解決這個問題。而且,它也不起作用。”
存在爭議的地方在于,海軍始終在使用訓練有素的海豚和海獅尋找水雷。官員們稱,一旦證明有機器能夠勝任這些工作,他們計劃執(zhí)行淘汰海洋哺乳動物的計劃。2016年11月份,美國國防部總檢查官辦公室警告說,這個計劃中的機器名叫Knifefish,可部署在淺水區(qū),與海軍中新開發(fā)的瀕海戰(zhàn)斗艦協(xié)同作戰(zhàn)??墒牵鼈兛赡軣o法在2017年使用。Knifefish是美國海軍淘汰海豚等動物計劃的重要組成部分。
軍事機器人的革命還有很多需要改進的地方。隨著美國五角大樓從快速的戰(zhàn)時收購轉(zhuǎn)變?yōu)殚L期的機器人項目,它面臨著許多挑戰(zhàn)。這些挑戰(zhàn)與普通科技項目差不多,而非像科幻小說中描述的那樣恐怖。比如,它需要確保來自不同廠商的設(shè)備能夠很好地兼容,還要弄清楚哪些新工具能讓操作變得更安全、更高效。
2013年發(fā)布的25年路線圖強調(diào),確保未來機器人能夠共享數(shù)據(jù)并相互協(xié)作非常重要。該計劃要求機器人使用標準化接口,以便機器人可以使用其他廠商的傳感器以及工具等附加硬件,就像來自不同制造商的計算機可以與相同的USB設(shè)備進行通信那樣。報告中警告稱:“升級現(xiàn)有的專有零部件可能是昂貴的,在后勤上也是不可行的,因為整個平臺可能都需要更換。這種封閉的發(fā)展方式導致許多不利的特點,阻礙了進步技術(shù)的應(yīng)用和新能力的采用。”
施瓦茨透露,美國陸軍去年啟動了兩個標準模塊化機器人平臺的采購流程,初步計算需要采購大約4400臺設(shè)備。他們的目標是最終能夠從不同的供應(yīng)商那里購買到能夠兼容的硬件,如輻射傳感器和機器人手臂,而不必更換車身,只需保持零部件更新即可。
這種做法至少得到了部分承包商的贊賞,這將使他們能夠把精力集中在專門的知識領(lǐng)域上。諾斯洛普-格魯曼公司地面部隊和防護系統(tǒng)主管林肯·哈德遜(Lincoln Hudson)說:“作為機動性提供商,我們可以真正專注于那些使特定平臺能夠去做其他事情的東西,而不必跟上最新技術(shù)的發(fā)展,比如說攝像頭。”
除了互操作性問題外,國防部和國土安全部等機構(gòu)也越來越多地投資于跟蹤和擊落敵方無人機的技術(shù),從無線電干擾、黑客工具再到霰彈以及誘捕網(wǎng)等。專家擔心無人機可被用于對美國發(fā)動恐怖襲擊。風投公司Spectrum 28聯(lián)合創(chuàng)始人兼合伙人肯特·霍(Kent Ho)表示:“很顯然,無人機是提供類似生物制劑的完美武器。”
最終,未來無人機技術(shù)可能引發(fā)新一輪的軍備競賽,無人機開發(fā)人員正設(shè)計可以擊退或躲避敵方無人機攻擊的更先進機器。巴德學院下屬無人機研究中心主任丹·蓋廷格(Dan Gettinger)說,到目前為止,美國在無人機領(lǐng)域還沒有迫切需求,這在很大程度上是因為沒有空中威脅。他說:“捕食者、收割者以及類似的灰鷹無人機,它們都不是設(shè)計用于空對空戰(zhàn)斗的。”它們正在伊拉克、阿富汗、敘利亞、索馬里和也門上空飛行,那里沒有空對空作戰(zhàn)需求或防空威脅。”
與今天的同類機器人相比,未來幾代軍事機器人幾乎肯定會比它們擁有更大的自主性,但它們是否能做出攸關(guān)人類生死的決定呢?Endeavor Robotics首席執(zhí)行官肖恩·比拉特(Sean Bielat)說:“我無法想象這樣的情況,你絕對不想要能夠自主決定是否傷害人類的機器人。”
但是其他人正在想象這種可能,同時拉響警報,包括梵蒂岡。前梵蒂岡駐聯(lián)合國代表、大主教西爾瓦諾·托馬西(Silvano Tomasi)曾在2015年相關(guān)會議上稱,這些該裝置有助于加大富國和窮國之間的權(quán)力差距。他說:“我們需要注意的另一個重要方面是武裝機器人的魅力和它們所產(chǎn)生的力量感。它們的使用可能會讓人產(chǎn)生‘無所不能’感覺,而不再僅僅限于正當防衛(wèi)。”
當機器人處于支持角色時,自主的論點達到最強。當時并在地圖上進行標注時,地面機器人可以預(yù)見性地準備物資和導航通過困難地形。巴德學院下屬無人機研究中心主任丹·蓋廷格(Dan Gettinger)表示,在理想情況下,它們也足夠可靠,可以與部隊共同行軍,而不需要部隊人員專門注意它們。他說:“如果你想讓機器人帶著所有裝備,同時還不希望任何人在任何時候控制這個機器人,這只會增加額外的復(fù)雜性。”
自動船只和潛艇將能夠與其他機器人進行越來越復(fù)雜的機動和協(xié)調(diào),即使是當它們在與人類指揮官失去聯(lián)系時。美國海軍研究所最近展示的水面艦艇顯示,它們能夠集體攻擊目標,將來甚至可以用于港口防御。海軍研究所發(fā)言人大衛(wèi)·薩馬利(David Smalley)稱:“在演示中,無人艦隊在大面積的開放水域執(zhí)行了巡邏任務(wù)。當未知船只駛?cè)朐摰貐^(qū)時,這些無人船只合作確定哪艘巡邏能夠最快逼近未知船只,并把它歸類為無害的或可疑的。它們還能與其他船只協(xié)助追蹤未知船只,而其他船則繼續(xù)巡邏該區(qū)域。”
類似的船只也可在危險區(qū)域巡邏或監(jiān)控更廣闊的海域,在很大程度上,這要比載人船只成本更便宜。美國海軍研究辦公室項目官羅伯特·布里佐拉拉(Robert Brizzolara)稱:“如果我們能用無人艇代替載人船只開進雷區(qū),這將是一個巨大的優(yōu)勢。”
海軍無人系統(tǒng)指揮部發(fā)言人卡拉·英林(Kara Yingling)指出,海軍機器人,特別是那些在水下操作的機器人,需要比無人機或陸地機器人有更強的自主性,因為它們更容易與人類操作者失去聯(lián)系。“無人駕駛潛水艇(UUV)的態(tài)勢感知需要一定程度的自主能力,這與現(xiàn)有的無人系統(tǒng)不同。如果有飛行員遠程操控,無人機(UAV)依然給人有人操控的感覺。而UUV不太可能在水下的通信回路中始終保持與人類的聯(lián)系。”
有些自主空中無人機可能會大群飛行,它們需要比人類給出轉(zhuǎn)彎指示更快的速度,根據(jù)自己所處環(huán)境做出群體決定并改變隊形。美國賓夕法尼亞大學工程學院院長、被譽為空中機器人之父的維嘉?庫馬爾(Vijay Kumar)說:“如果你要我保護建筑,我可能會說,建筑太大了,我要招聘我的朋友。”
在公眾對“殺手機器人”橫行或自動間諜無人機正巡邏城市的恐慌中,美軍和其他國家軍隊對于軍事機器人的自主程度顯得十分謹慎。Endeavor Robotics公司的比拉特說:“自主技術(shù)已經(jīng)領(lǐng)先于客戶的需求,我們正在與客戶密切合作,看看執(zhí)行他們?nèi)蝿?wù)最切實可行的方案。”
部分原因是人們本質(zhì)上不愿引進新的、復(fù)雜的、具有潛在危險的機器。比拉特表示:“引入的任何自主功能都必須以減少潛在傷害為目標。”指揮官們可能會更傾向于把自我導航的機器人帶入戰(zhàn)場,前提是它們更多地建立在平民生活之上。比拉特說:“我認為,通過谷歌或者Uber的無人駕駛汽車,或者特斯拉的自動駕駛模式,我們的社會將會越來越習慣于機器自主化,進而軍事客戶也會變得更舒適。”
但軍方領(lǐng)導人也對所謂的“全自主武器”保持警惕:機器人可以在沒有人為干預(yù)的情況下選擇目標、瞄準以及射擊。這些設(shè)備也已經(jīng)成為可能,而且不僅僅是在美國出現(xiàn)。英國廣播公司2015年報道稱,韓國武器制造商已經(jīng)開發(fā)出機槍炮塔,并部署在中東地區(qū)。這些設(shè)備可以向入侵者發(fā)出口頭警告,并發(fā)出明確的人類命令。它的初始版本可能自己決定是否開火。但到目前為止,客戶始終堅持,這些產(chǎn)品只有經(jīng)人類許可才會開火。
這個領(lǐng)域的研究人員經(jīng)常將系統(tǒng)分為兩種,第一種是“人在回路中(humans in the loop)”或“人在回路上(humans on the loop)”,前者需要有人類選擇每個目標,而后者則有機器人選擇目標并開火,但人類擁有要求它停止行動的絕對權(quán)力。第二種是“人在回路外(humans out of the loop)”,人類缺少控制機器的權(quán)威,也許是因為機器人超出了通信的有效距離。
到目前為止,當涉及到機器人像人類開火的多數(shù)情況下,美國軍方高級官員一直試圖保持“人在回路中”狀態(tài)。美國軍方在3月份公布的戰(zhàn)略文件中說:“軍隊力求維持對所有自主性系統(tǒng)的人為控制,主要通過確保當前和未來‘人在回路中’的狀態(tài)來實現(xiàn)這個目標。”
這符合2012年國防部長卡特(Ash Carter)為自主武器制定的規(guī)則。卡特下令對機器人進行嚴格的測試,并要堅決抵制黑客襲擊。他還特別要求,半自主機器人不允許選擇新的目標,即使是在無法與人類溝通的情況下。有人監(jiān)視的機器人可以選擇非人類目標,比如來襲導彈或者其他機器人,常識及時攔截或發(fā)動飽和攻擊。完全自主機器人只限于對物質(zhì)目標發(fā)動“非致命的,非動能的”攻擊,如某些形式的電擊。美國智庫“新美國安全中心”下屬未來戰(zhàn)爭計劃部主任、高級研究員保羅·沙雷(Paul Scharre)稱,在實踐中,可以攻擊類似機載雷達干擾器這樣的自動化設(shè)備。
至少有19個國家和國際組織,包括人權(quán)觀察組織,呼吁國際上禁止研發(fā)和部署自主致命機器人,可能類似于現(xiàn)在對不可探測的地雷和致盲激光武器的限制。2012年,多個非政府組織啟動了他們稱之為“禁止殺手機器人”的運動,聯(lián)合國也就這個問題舉行了一系列國際會議。
俄羅斯總統(tǒng)普京(Vladimir Putin)最近表示,很有興趣推進本國的軍事自主性技術(shù),而俄羅斯對于是否參加限制機器人的國際討論猶豫不決,此類會談將在今年繼續(xù)進行。美國國防部的“自主武器五年政策”也計劃在2017年進行重新評估。這意味著,特朗普和普京很有可能最終決定自主武器系統(tǒng)如何從實驗室轉(zhuǎn)移到戰(zhàn)場上。
人權(quán)觀察組織武器部門的宣傳總監(jiān)、“禁止殺手機器人”運動全球協(xié)調(diào)員瑪麗·韋勒姆(Mary Wareham)說:“有人擔心人類的生死將由機器決定,這似乎是大多數(shù)人無法接受的。” 人權(quán)觀察組織在2012年的報告中稱,完全自主的致命武裝機器甚至可能不符合現(xiàn)有國際法。它們可能不夠聰明,無法識別出戰(zhàn)斗人員與平民的區(qū)別。
報告中舉例稱:一個受驚的母親可能會追趕她的兩個孩子,并大聲要求他們停止在士兵附近玩玩具槍的行為。而人類士兵能識別出母親的恐懼,并確認孩子們在玩游戲,從而認識到他們的意圖是無害的??墒峭耆灾鞯奈淦骺赡苤豢吹接腥伺苓^來,還有2人手中持有武器。對于前者,它會保持克制,后者可能立刻發(fā)動攻擊。
這些自主性武器還可能與國際法的其他要求相矛盾:這些機器決定是否發(fā)動攻擊完全從軍事利益考慮,而不在乎是否對平民造成潛在危險,甚至必要時使用武力。它們也可能缺乏人性約束和同情心,這些都可以約束部隊,以免做出不人道的事情。報告中警告稱:“沒有感情的機器人可能成為專制獨 裁者打擊異己的工具,而不擔心自己的軍隊會倒戈。”
但是有些專家說,自主機器人經(jīng)過嚴格的開發(fā)和適當?shù)臏y試,可能有助于在高危情況下保護平民安全。而且它們可能避免犯下人類的錯誤,也不會危及手無寸鐵的旁觀者。佐治亞州理工學院下屬計算機學院主管研究和空間規(guī)劃的副院長、移動機器人實驗室主任羅納德·阿爾金(Ronald Arkin)說:“它們的行動可能比人類更保守,并承擔更多的風險。它們不會表現(xiàn)出恐懼、挫折、憤怒或是導致人判斷錯誤的情緒。”
阿爾金反對完全禁止機器人,盡管他承認應(yīng)該對它們進行仔細監(jiān)管。他說,這些機器人不應(yīng)該被部署到戰(zhàn)斗中,直到他們被證明始終堅守國際法,而且比人類軍隊做得更好。阿爾金還稱:“如果我們徹底禁止這種技術(shù),那么我們也失去了幫助非戰(zhàn)斗人員和減少非戰(zhàn)斗人員傷亡的潛力。”
阿爾金指出,機器人的開發(fā)人員應(yīng)該避開編程技術(shù),比如某些機器學習形式,這些技術(shù)可以引導產(chǎn)生人類無法輕易進入的決策過程。他說:“如果這些系統(tǒng)將被使用,監(jiān)管是關(guān)鍵。機器人應(yīng)該以被分級和控制的方式進入戰(zhàn)場,而不是急匆匆地胡亂投放。”
將對機器人采取什么樣的監(jiān)管形式,很可能在未來幾年內(nèi)決定。國防部的政策(正式名稱為國防部第3000.09號指令)將在今年被重新審視:如果在11月份其簽署5周年時不補發(fā)或“重新認證”,它的有效期會自動延期五年。目前還不清楚特朗普總統(tǒng)和國防部長詹姆斯·馬蒂斯(James Mattis)將如何選擇,五角大樓發(fā)言人拒絕評論該政策的潛在變化。
但在去年12月份,美軍現(xiàn)任參謀長史蒂芬·格洛維斯(Steven Groves)曾表示,美國不太可能支持禁止自主武器,這有利于維持美軍的軍事優(yōu)勢。他在Heritage Foundation的2015年會議上說:“國會應(yīng)該資助自主技術(shù)的研究和開發(fā),致命自主武器系統(tǒng)提高美國國家安全的能力尚未得到充分探索,禁止或暫停此類研究不符合美國利益。”
然而,格洛維斯提倡簽署國際協(xié)議,規(guī)定何時、何地以及如何在戰(zhàn)斗中合法使用自主機器人。這可以解決許多人的擔憂,包括擔心其會危及平民安全。美國國務(wù)院1名官員表示:“美國正加入《化學武器公約》,并在討論‘致命自主武器系統(tǒng)中的新興技術(shù)’?,F(xiàn)在還不知道這些專家討論會取得什么樣的結(jié)果。”普京總統(tǒng)也談到“自主機器人系統(tǒng)”研究對俄羅斯的重要性,稱其可能“從根本上改變常規(guī)軍隊的武器裝備”。