【據(jù)physorg網(wǎng)站2018年1月11日報(bào)道】美國陸軍研究實(shí)驗(yàn)室(ARL)在近期完成的由美國國防部長辦公室“自主研究試點(diǎn)計(jì)劃(ARPI)”支持的兩個(gè)項(xiàng)目中，開發(fā)了一些可改善人與人工智能(AI)代理間協(xié)作的方法。他們通過提高代理透明度(SAT)來實(shí)現(xiàn)這一點(diǎn)，代理透明是指機(jī)器人、無人平臺或軟件代理向人類傳達(dá)其意圖、表現(xiàn)、未來計(jì)劃以及推理過程的能力。
隨著機(jī)器代理復(fù)雜性和獨(dú)立性的增加，對于人類來說，理解他們的意圖、行為、背后的推理過程以及預(yù)期的結(jié)果是至關(guān)重要的，這樣人類才可以正確地校準(zhǔn)他們對系統(tǒng)的信任，并作出恰當(dāng)?shù)臎Q策。
美國國防科學(xué)委員會在2016年的一份報(bào)告中指出，人類對自主系統(tǒng)的信任存在六個(gè)障礙，包括低可觀察性、可預(yù)測性、可指導(dǎo)性和可審計(jì)性以及“對共同目標(biāo)的相互理解不夠”等。
為了解決這些問題，ARL開發(fā)了基于態(tài)勢感知的代理透明度模型，并在ARPI支持的一系列人素研究中測試了其對人-代理團(tuán)隊(duì)性能的有效性。SAT模型處理代理對其人類合作者的信息需求，以使人在其任務(wù)環(huán)境中獲得代理的有效態(tài)勢感知。在SAT的第一個(gè)層級，代理向操作員提供有關(guān)其當(dāng)前狀態(tài)和目標(biāo)、意圖和計(jì)劃的基本信息；在第二個(gè)層級，代理揭示其推理過程以及在規(guī)劃行動(dòng)時(shí)約束/可供性；在SAT的第三個(gè)層級，代理向操作員提供有關(guān)其對于未來狀態(tài)的預(yù)測、后果、成功/失敗可能性以及與上述預(yù)測相關(guān)的任何不確定性的信息。
在一個(gè)縮寫為IMPACT的ARPI項(xiàng)目中，該項(xiàng)研究用于多個(gè)異構(gòu)無人載具管理的人-代理團(tuán)隊(duì)問題，重點(diǎn)檢查了基于SAT模型的代理透明度水平對操作人員在軍事情景中決策的影響。一系列實(shí)驗(yàn)的結(jié)果共同表明，代理透明度有利于人類的決策，也有利于人-代理團(tuán)隊(duì)的整體性能。更具體地說，當(dāng)代理具有加高透明度等級時(shí)，人對代理的信任得到了明顯的更好的校準(zhǔn)，當(dāng)代理正確時(shí)，接受代理的規(guī)劃；而當(dāng)代理不正確時(shí)拒絕。
另一個(gè)涉及到代理透明度的ARPI項(xiàng)目是ARL與美國海軍研究實(shí)驗(yàn)室(NRL)合作的“自治小組成員”(ASM)項(xiàng)目，ASM是一種小型地面機(jī)器人，可以與一個(gè)步兵小隊(duì)進(jìn)行交互和通信。作為整個(gè)ASM項(xiàng)目的一部分，ARL開發(fā)了透明度可視化方案，用于調(diào)查代理透明度等級對操作員性能的影響。通過SAT模型的信息，ASM的透明度模塊用戶界面一目了然，其中代理規(guī)劃、動(dòng)機(jī)和預(yù)測結(jié)果的圖像化表征有助于提升與代理交互的透明度。對ASM用戶界面的一系列人素研究，調(diào)查了代理透明度對人類隊(duì)友的態(tài)勢感知、對ASM信任度和工作量的影響。該項(xiàng)目的研究結(jié)果與IMPACT項(xiàng)目一致，驗(yàn)證了代理透明度在不增加工作負(fù)荷的前提下對人類任務(wù)績效的正面影響。研究參與者也報(bào)告說，他們認(rèn)為ASM在透明度更高時(shí)更加值得信賴，更智能和更人性化。
ARL的研究人員目前正在把SAT模型擴(kuò)展為人與代理之間的雙向透明度模型，面臨的挑戰(zhàn)是用戶界面設(shè)計(jì)，包括視覺、聽覺和其他形式的界面，這些界面可以實(shí)時(shí)動(dòng)態(tài)地支持雙向透明度，而不會帶給用戶太多的信息和負(fù)擔(dān)。
?