2016年2月29日，新美國安全中心(CNAS)網(wǎng)站刊登資深研究員保羅·雪萊題為《Autonomous Weapons and Operational Risk》的研究報(bào)告。該報(bào)告是自主倫理問題研究項(xiàng)目的最新研究成果，考察了未來自主武器的相關(guān)風(fēng)險(xiǎn)，這類武器自選目標(biāo)并可能造成災(zāi)難性事故。這篇報(bào)告的結(jié)論如下：
(1)戰(zhàn)爭是一種冒險(xiǎn)的嘗試。軍方必須權(quán)衡各種風(fēng)險(xiǎn)——與其軍隊(duì)、任務(wù)使命、公民、無辜百姓相關(guān)的風(fēng)險(xiǎn)以及可能危及國家本身的風(fēng)險(xiǎn)。軍人在戰(zhàn)斗和某些戰(zhàn)爭中要冒失去自己生命的風(fēng)險(xiǎn)，而國家的生存則可能會受到極大的威脅。各國還必須在各種戰(zhàn)略目標(biāo)之間權(quán)衡風(fēng)險(xiǎn)：威懾、防御和危機(jī)穩(wěn)定。例如，軍隊(duì)必須時(shí)刻準(zhǔn)備在接到命令后反擊挑釁，而這可能導(dǎo)致危機(jī)一觸即發(fā)或造成不必要的沖突升級。軍方在如何衡量這些風(fēng)險(xiǎn)上會得出不同的結(jié)論，而其針對外部威脅的戰(zhàn)略態(tài)勢是一個(gè)主要因素。從邏輯上看，軍事上的弱者或面臨生死存亡的國家很可能更愿意冒險(xiǎn)達(dá)成其目標(biāo)。在某些情況下，一些國家會故意采取危險(xiǎn)行為，以此作為一種邊緣政策戰(zhàn)術(shù)，從而達(dá)到威嚇或脅迫別國的目的。
(2)目前，還沒有一個(gè)國家表示計(jì)劃制造完全自主的武器，但幾乎也沒有哪個(gè)國家宣布放棄它們。90多個(gè)國家和非國家組織已經(jīng)擁有無人機(jī)。如今，這些無人機(jī)在很大程度上采取遙控方式，但隨著時(shí)間的推移，其下一代版本將具有更高的自主性。在有足夠的通信設(shè)備以保持人在回路的情況下，提高無人機(jī)的自主性就有很大的價(jià)值。人可以在這類武器出現(xiàn)故障的情況下提供安全保證，并且在其應(yīng)對各種各樣的狀況時(shí)擁有足夠的靈活性。然而，當(dāng)通信設(shè)備失效時(shí)，自主武器可能會對機(jī)會目標(biāo)發(fā)起攻擊，并且無人機(jī)會保護(hù)自己免受攻擊。
(3)隨著技術(shù)的進(jìn)步，軍方必須仔細(xì)考慮使用自主武器的風(fēng)險(xiǎn)。許多關(guān)于自主武器的辯論集中于法律、道德或倫理上的問題。但是，自主武器也提出了極為重要的可控性和安全性問題?？梢栽O(shè)想，在絕大部分時(shí)間里完全受控的武器出現(xiàn)一個(gè)失效即可能導(dǎo)致災(zāi)難。自主武器失控可能導(dǎo)致大規(guī)模自相殘殺，或者誤傷平民和導(dǎo)致危機(jī)失控。而當(dāng)操作使用時(shí)間足夠長的時(shí)候，某些失效是不可避免的。采用自主武器就意味著接受這些無可避免的失效所帶來的后果。
(4)國家之間需要在武器系統(tǒng)實(shí)現(xiàn)自主性的途徑上有更大的透明度。只有極少數(shù)國家發(fā)布了關(guān)于武器實(shí)現(xiàn)自主性的明確的國家政策。鑒于自主系統(tǒng)之間可能存在危險(xiǎn)的相互對攻，國際社會所期望達(dá)成的共識是至關(guān)重要的。對抗環(huán)境的自然趨勢是速度更快，這樣就必須實(shí)現(xiàn)自動化，以進(jìn)一步加快戰(zhàn)斗節(jié)奏。其結(jié)果是可能導(dǎo)致局面混亂不堪。自主系統(tǒng)之間的意外對攻或黑客攻擊可能導(dǎo)致所謂的“閃戰(zhàn)”(“flash war”)，此時(shí)沖突迅速地螺旋式擺脫人的控制。
(5)現(xiàn)在很多關(guān)于自主武器的論述，雖然側(cè)重于對平民的人道主義影響這一非常重要的問題，但自主武器也提出了戰(zhàn)略穩(wěn)定性方面的重要問題。這是自主武器值得進(jìn)一步考慮的一個(gè)重要方面。僅舉幾例，針對被視為不穩(wěn)定和危險(xiǎn)的各種武器，各國在合作制訂規(guī)范、禁令或提出共同的規(guī)范和期望上有著悠久的歷史，這些武器包括核武器、天基和反太空武器、反導(dǎo)武器和中程核導(dǎo)彈。國際社會必須在武器自主性的使用問題上繼續(xù)對話，以幫助管理自主武器的潛在戰(zhàn)略風(fēng)險(xiǎn)和避免危險(xiǎn)的結(jié)果。
?