2016年2月29日，新美國(guó)安全中心(CNAS)網(wǎng)站刊登資深研究員保羅·雪萊題為《Autonomous Weapons and Operational Risk》的研究報(bào)告。該報(bào)告是自主倫理問(wèn)題研究項(xiàng)目的最新研究成果，考察了未來(lái)自主武器的相關(guān)風(fēng)險(xiǎn)，這類武器自選目標(biāo)并可能造成災(zāi)難性事故。這篇報(bào)告的結(jié)論如下：
(1)戰(zhàn)爭(zhēng)是一種冒險(xiǎn)的嘗試。軍方必須權(quán)衡各種風(fēng)險(xiǎn)——與其軍隊(duì)、任務(wù)使命、公民、無(wú)辜百姓相關(guān)的風(fēng)險(xiǎn)以及可能危及國(guó)家本身的風(fēng)險(xiǎn)。軍人在戰(zhàn)斗和某些戰(zhàn)爭(zhēng)中要冒失去自己生命的風(fēng)險(xiǎn)，而國(guó)家的生存則可能會(huì)受到極大的威脅。各國(guó)還必須在各種戰(zhàn)略目標(biāo)之間權(quán)衡風(fēng)險(xiǎn)：威懾、防御和危機(jī)穩(wěn)定。例如，軍隊(duì)必須時(shí)刻準(zhǔn)備在接到命令后反擊挑釁，而這可能導(dǎo)致危機(jī)一觸即發(fā)或造成不必要的沖突升級(jí)。軍方在如何衡量這些風(fēng)險(xiǎn)上會(huì)得出不同的結(jié)論，而其針對(duì)外部威脅的戰(zhàn)略態(tài)勢(shì)是一個(gè)主要因素。從邏輯上看，軍事上的弱者或面臨生死存亡的國(guó)家很可能更愿意冒險(xiǎn)達(dá)成其目標(biāo)。在某些情況下，一些國(guó)家會(huì)故意采取危險(xiǎn)行為，以此作為一種邊緣政策戰(zhàn)術(shù)，從而達(dá)到威嚇或脅迫別國(guó)的目的。
(2)目前，還沒(méi)有一個(gè)國(guó)家表示計(jì)劃制造完全自主的武器，但幾乎也沒(méi)有哪個(gè)國(guó)家宣布放棄它們。90多個(gè)國(guó)家和非國(guó)家組織已經(jīng)擁有無(wú)人機(jī)。如今，這些無(wú)人機(jī)在很大程度上采取遙控方式，但隨著時(shí)間的推移，其下一代版本將具有更高的自主性。在有足夠的通信設(shè)備以保持人在回路的情況下，提高無(wú)人機(jī)的自主性就有很大的價(jià)值。人可以在這類武器出現(xiàn)故障的情況下提供安全保證，并且在其應(yīng)對(duì)各種各樣的狀況時(shí)擁有足夠的靈活性。然而，當(dāng)通信設(shè)備失效時(shí)，自主武器可能會(huì)對(duì)機(jī)會(huì)目標(biāo)發(fā)起攻擊，并且無(wú)人機(jī)會(huì)保護(hù)自己免受攻擊。
(3)隨著技術(shù)的進(jìn)步，軍方必須仔細(xì)考慮使用自主武器的風(fēng)險(xiǎn)。許多關(guān)于自主武器的辯論集中于法律、道德或倫理上的問(wèn)題。但是，自主武器也提出了極為重要的可控性和安全性問(wèn)題。可以設(shè)想，在絕大部分時(shí)間里完全受控的武器出現(xiàn)一個(gè)失效即可能導(dǎo)致災(zāi)難。自主武器失控可能導(dǎo)致大規(guī)模自相殘殺，或者誤傷平民和導(dǎo)致危機(jī)失控。而當(dāng)操作使用時(shí)間足夠長(zhǎng)的時(shí)候，某些失效是不可避免的。采用自主武器就意味著接受這些無(wú)可避免的失效所帶來(lái)的后果。
(4)國(guó)家之間需要在武器系統(tǒng)實(shí)現(xiàn)自主性的途徑上有更大的透明度。只有極少數(shù)國(guó)家發(fā)布了關(guān)于武器實(shí)現(xiàn)自主性的明確的國(guó)家政策。鑒于自主系統(tǒng)之間可能存在危險(xiǎn)的相互對(duì)攻，國(guó)際社會(huì)所期望達(dá)成的共識(shí)是至關(guān)重要的。對(duì)抗環(huán)境的自然趨勢(shì)是速度更快，這樣就必須實(shí)現(xiàn)自動(dòng)化，以進(jìn)一步加快戰(zhàn)斗節(jié)奏。其結(jié)果是可能導(dǎo)致局面混亂不堪。自主系統(tǒng)之間的意外對(duì)攻或黑客攻擊可能導(dǎo)致所謂的“閃戰(zhàn)”(“flash war”)，此時(shí)沖突迅速地螺旋式擺脫人的控制。
(5)現(xiàn)在很多關(guān)于自主武器的論述，雖然側(cè)重于對(duì)平民的人道主義影響這一非常重要的問(wèn)題，但自主武器也提出了戰(zhàn)略穩(wěn)定性方面的重要問(wèn)題。這是自主武器值得進(jìn)一步考慮的一個(gè)重要方面。僅舉幾例，針對(duì)被視為不穩(wěn)定和危險(xiǎn)的各種武器，各國(guó)在合作制訂規(guī)范、禁令或提出共同的規(guī)范和期望上有著悠久的歷史，這些武器包括核武器、天基和反太空武器、反導(dǎo)武器和中程核導(dǎo)彈。國(guó)際社會(huì)必須在武器自主性的使用問(wèn)題上繼續(xù)對(duì)話，以幫助管理自主武器的潛在戰(zhàn)略風(fēng)險(xiǎn)和避免危險(xiǎn)的結(jié)果。
?