日前，哈工大朱曉蕊教授等人在中國(guó)工程院院刊《信息與電子工程前沿》（英文）（Frontiers of Information Technology & Electronic Engineering，F(xiàn)ITEE）上發(fā)表了一篇題為《針對(duì)無(wú)人機(jī)系統(tǒng)安全的新型層級(jí)式軟件架構(gòu)》（A new hierarchical software architecture towards safety-critical aspects of a drone system）的論文，提出一種覆蓋底層源代碼到上層用戶任務(wù)代碼的新型層級(jí)式軟件架構(gòu)，能夠有效地提高無(wú)人機(jī)系統(tǒng)安全性與可靠性。
目前，對(duì)于基礎(chǔ)技術(shù)日趨成熟的無(wú)人機(jī)領(lǐng)域來(lái)說(shuō)，無(wú)人機(jī)系統(tǒng)的安全性還是一個(gè)欠缺關(guān)注的研究方向，然而，這一研究方向?qū)τ跓o(wú)人機(jī)未來(lái)發(fā)展而言至關(guān)重要。因而，朱曉蕊教授等人在這一方向上的研究頗具前瞻性，其工作成果也獨(dú)具開創(chuàng)性意義。雷鋒網(wǎng) AI 科技評(píng)論借此機(jī)會(huì)拜訪了朱曉蕊教授，深入探討了其開啟這項(xiàng)工作的背景、研究歷程以及對(duì)于無(wú)人機(jī)領(lǐng)域的一些思考。
朱曉蕊，教授、博士生導(dǎo)師，哈爾濱工業(yè)大學(xué)(深圳)，主要研究方向?yàn)橐苿?dòng)機(jī)器人技術(shù)與系統(tǒng)。近年來(lái)作為負(fù)責(zé)人先后承擔(dān)國(guó)家重點(diǎn)研發(fā)計(jì)劃、國(guó)家科技支撐計(jì)劃、國(guó)家自然基金重點(diǎn)項(xiàng)目等多項(xiàng)國(guó)家級(jí)前沿課題，其中考古發(fā)掘現(xiàn)場(chǎng)預(yù)探測(cè)系統(tǒng)于 2012 年獲得國(guó)家科技進(jìn)步二等獎(jiǎng);有關(guān)移動(dòng)機(jī)器人控制、定位和制圖等相關(guān)成果先后發(fā)表在國(guó)際頂級(jí)期刊和旗艦會(huì)議上。曾任深圳大疆科技首席科學(xué)家、創(chuàng)始董事；孵化知名激光雷達(dá)廠商深圳速騰聚創(chuàng)并任首席科學(xué)家、聯(lián)合創(chuàng)始人。 曾多次組織全球機(jī)器人領(lǐng)域的旗艦國(guó)際會(huì)議，并于 2012 年開始擔(dān)任 IEEE 國(guó)際機(jī)器人與自動(dòng)化學(xué)會(huì)的產(chǎn)業(yè)活動(dòng)委員會(huì)和會(huì)員活動(dòng)委員會(huì)執(zhí)委；2014 年曾擔(dān)任被譽(yù)為國(guó)際機(jī)器人行業(yè)最高獎(jiǎng)項(xiàng)的國(guó)際機(jī)器人發(fā)明與創(chuàng)業(yè)獎(jiǎng)現(xiàn)場(chǎng)評(píng)委，同年被國(guó)際機(jī)器人與自動(dòng)化學(xué)會(huì)選為國(guó)際事務(wù)委員會(huì)主席；2015 年在國(guó)際機(jī)器人旗艦會(huì)議 ICRA2015 上被評(píng)為 Notable Women in Robotics；2016 年與北京大學(xué)高文院士和香港中文大學(xué)（深圳）徐揚(yáng)生院士/校長(zhǎng)共同發(fā)起全球人工智能與機(jī)器人峰會(huì)（GAIR）并任歷屆組委會(huì)主席、程序委員會(huì)主席。系統(tǒng)安全會(huì)成為無(wú)人機(jī)等小型智能系統(tǒng)未來(lái)的重要問(wèn)題
實(shí)際上，在無(wú)人機(jī)系統(tǒng)安全這個(gè)項(xiàng)目之前，朱曉蕊教授的研究方向主要是無(wú)人機(jī)控制和導(dǎo)航，而之所以轉(zhuǎn)到無(wú)人機(jī)系統(tǒng)安全的研究則源自于她與耶魯大學(xué)邵中教授一次對(duì)話中受到的啟發(fā)：系統(tǒng)安全會(huì)成為無(wú)人機(jī)等小型智能系統(tǒng)未來(lái)的一個(gè)重要問(wèn)題。
2014 年底，朱曉蕊教授在與來(lái)自耶魯大學(xué)的邵中教授進(jìn)行學(xué)術(shù)交流的過(guò)程中，了解到邵中教授一直在進(jìn)行安全操作系統(tǒng)方面的研究，并在這個(gè)領(lǐng)域處于國(guó)際最前沿。而當(dāng)時(shí)還在專注于無(wú)人機(jī)控制、導(dǎo)航研究的朱曉蕊教授，意識(shí)到她此前所做的這些研究工作實(shí)際上都已經(jīng)趨向成熟，正在思考無(wú)人機(jī)未來(lái)的研究方向，邵中教授的這一研究方向則帶給了她一個(gè)新的研究思路。朱曉蕊教授在采訪中分享到：「他正在做這項(xiàng)工作就提醒了我，無(wú)人機(jī)這類小型智能系統(tǒng)的安全問(wèn)題，會(huì)成為未來(lái)一個(gè)比較重要的問(wèn)題 」。
然而，當(dāng)時(shí)甚至是現(xiàn)在，無(wú)人機(jī)領(lǐng)域?qū)τ诎踩詥?wèn)題的關(guān)注度都比較少。對(duì)此，朱曉蕊教授指出：「需要注意的一點(diǎn)是我們研究的基本上是小型飛行器，而小型飛行器和大型飛行器的區(qū)別是非常大的。光就安全性而言，大型飛行器很早就按照 Safety Critical System 啟用了標(biāo)準(zhǔn)度很高的 系統(tǒng)安全驗(yàn)證，雖然在安全驗(yàn)證方面的人力、物力的耗費(fèi)量都非常巨大，但是它們的一個(gè)小小的安全問(wèn)題就可能帶來(lái)非常嚴(yán)重的后果，因而即便投入巨大，大家也不得不關(guān)注這一問(wèn)題。然而對(duì)于小型飛行器的安全驗(yàn)證問(wèn)題，目前領(lǐng)域內(nèi)國(guó)際上只有極少數(shù)研究者開始嘗試去做這些事情，因?yàn)檫@是一個(gè)全新的東西，一切都從新開始?！?/p>
正是基于上面的兩點(diǎn)考量，朱曉蕊教授決心要成為「第一批吃螃蟹的人」，與邵中教授開啟了無(wú)人機(jī)系統(tǒng)安全的研究項(xiàng)目。
「當(dāng)無(wú)人機(jī)這類智能系統(tǒng)進(jìn)入到民用領(lǐng)域后，就不可避免地走向小型化，就會(huì)在片上資源方面犧牲掉很多的性能，因此直接將大型飛行器的安全驗(yàn)證系統(tǒng)移植到小型飛行器上是不可行的，所以我們就需要設(shè)計(jì)一個(gè)新的軟件架構(gòu)，既保證小型飛行器理論驗(yàn)證消耗不會(huì)那么高，又能夠保障系統(tǒng)的安全性。傳統(tǒng)而言，新系統(tǒng)研發(fā)是通過(guò)反復(fù)地模擬和實(shí)際測(cè)試來(lái)確保系統(tǒng)可靠性和安全性的。但是這種方式從嚴(yán)格意義上是無(wú)法完全保證安全性的，會(huì)出現(xiàn)看似隨機(jī)的一些故障，甚至引起飛機(jī)墜毀現(xiàn)象?！?/p>
同時(shí)，為了促成雙方正式將無(wú)人機(jī)系統(tǒng)安全項(xiàng)目提上重要日程，朱曉蕊教授和邵中教授也特地正式申請(qǐng)了國(guó)際合作項(xiàng)目。
打開無(wú)人機(jī)底層操作系統(tǒng)和上層系統(tǒng)之間的「隔板」
按照朱曉蕊教授的說(shuō)法，研究上層系統(tǒng)的人通常并不關(guān)注底層系統(tǒng)的細(xì)節(jié)，只在需要的時(shí)候直接使用底層系統(tǒng)，而反過(guò)來(lái)，研究操作系統(tǒng)的人往往也很少考慮上層系統(tǒng)的情況。因此，無(wú)人機(jī)等智能系統(tǒng)的上層系統(tǒng)和底層操作系統(tǒng)之間相當(dāng)于存在一塊「隔板」，二者間往往只存在最基本的互動(dòng)。
「這樣的話，這兩個(gè)方向的研究者在進(jìn)行安全測(cè)試時(shí)，往往只測(cè)試各自系統(tǒng)內(nèi)的交互情況，然而這樣僅僅只能確保系統(tǒng)內(nèi)的安全性，而不能保證上層系統(tǒng)在跟底層操作系統(tǒng)做交互的時(shí)候不會(huì)出現(xiàn)問(wèn)題。因此，我們合作這個(gè)項(xiàng)目的思路就是要將這兩個(gè)系統(tǒng)中間的這塊隔板打開，將二者作為一個(gè)整體來(lái)設(shè)計(jì)軟件架構(gòu)，從而完全保證無(wú)人機(jī)系統(tǒng)的安全性?！?/p>
對(duì)于這項(xiàng)工作成果在保障無(wú)人機(jī)整體安全性上的具體工作原理，朱曉蕊教授介紹道：「我們將所有算法形成的代碼設(shè)計(jì)成分層結(jié)構(gòu)，同時(shí)設(shè)計(jì)好層與層之間的交互架構(gòu)，然后使用形式化驗(yàn)證的方法去檢測(cè)層與層之間交互的正確性?！?/p>
形式化驗(yàn)證是采用邏輯來(lái)驗(yàn)證程序可靠性的一種方法，即用邏輯的方法將一段程序證明一遍，證明它能得到預(yù)期的結(jié)果并且沒有出現(xiàn)錯(cuò)誤，例如，歐美國(guó)家就將這種驗(yàn)證方法廣泛地應(yīng)用于一些大型飛行器中，由于這些設(shè)備的系統(tǒng)一旦出現(xiàn)出現(xiàn)錯(cuò)誤，導(dǎo)致的后果會(huì)非常嚴(yán)重，同時(shí)研究者又無(wú)法對(duì)其進(jìn)行一遍一遍的測(cè)試，因而形式化驗(yàn)證是可以選擇的非常不錯(cuò)的方法。
因此，朱曉蕊教授項(xiàng)目組的這項(xiàng)研究成果不僅以實(shí)現(xiàn)上層系統(tǒng)和底層操作系統(tǒng)的層級(jí)式互動(dòng)的方式來(lái)保障系統(tǒng)整體的安全性，更從邏輯層面避免了人為測(cè)試中所存在的偶然性，保障了安全性和可靠性。而同時(shí)從這兩個(gè)方面著手展開（小型）無(wú)人機(jī)系統(tǒng)安全測(cè)試工作的，朱曉蕊教授等人是首創(chuàng)者。
「道阻且長(zhǎng)」的交叉學(xué)科合作之路
實(shí)際上，無(wú)人機(jī)系統(tǒng)安全這個(gè)合作項(xiàng)目在 2014 年底就啟動(dòng)了，然而一直到現(xiàn)在才出成果，朱曉蕊教授表示背后的原因主要有兩點(diǎn)：
一是合作項(xiàng)目的人員投入以及相關(guān)人員的時(shí)間投入都非常緊缺。一般而言，朱曉蕊和邵中兩位教授每年大概各自投入 1 到 2 名研究生，再加上學(xué)生推進(jìn)相關(guān)研究工作的時(shí)間有限，因而整個(gè)研究的推進(jìn)節(jié)奏是比較慢的。
二是交叉學(xué)科之間對(duì)于彼此學(xué)科的理解難度以及研究理念上的差異?！高@也是我們?cè)诤献餮芯恐杏龅降囊粋€(gè)比較大的挑戰(zhàn)，我和邵中老師以及我們各自的學(xué)生，研究方向其實(shí)是不同的，我們是典型的交叉研究領(lǐng)域，因此我這邊的學(xué)生需要去了解很多操作系統(tǒng)方面的東西，邵中老師的學(xué)生同樣也需要重新理解上層系統(tǒng)的相關(guān)知識(shí)，所以他們彼此都要花很多時(shí)間去學(xué)習(xí)這些知識(shí)，這中間其實(shí)也耗費(fèi)了非常多的時(shí)間?！?/p>
此外，朱曉蕊教授還提到了她這邊存在的一個(gè)比較嚴(yán)峻的問(wèn)題，就是在現(xiàn)行的培養(yǎng)體制下，一方面是由于研究生培養(yǎng)年限比較短，另一方面則是因?yàn)閷W(xué)生對(duì)于新事物的熱情和好奇心也不夠，畏難心理比較明顯，因此她這邊參與項(xiàng)目的學(xué)生更替很快，這樣的話，輪到下一批加入的學(xué)生，他們又要去學(xué)習(xí)操作系統(tǒng)方面的知識(shí)，這就又需要耗費(fèi)一個(gè)周期的時(shí)間了。
談及至此，朱曉蕊教授也就目前國(guó)內(nèi)高校學(xué)生存在的一些問(wèn)題提出了兩點(diǎn)自己的期望：
第一是增強(qiáng)自身對(duì)學(xué)術(shù)科研的熱愛和好奇心，減少學(xué)術(shù)功利性。「實(shí)際上現(xiàn)在很多學(xué)生不是因?yàn)闊釔鄄湃プ隹蒲?，所以他們往往?huì)以企業(yè)需要求職者擁有怎樣的技能為衡量標(biāo)準(zhǔn)來(lái)做項(xiàng)目，功利性比較強(qiáng)。這樣的心態(tài)一方面讓他們?cè)谟龅嚼щy時(shí)就會(huì)產(chǎn)生畏難心理，另一方面他們一旦拿到比較好的 offer 就傾向于選擇去就業(yè)，這些因素都會(huì)導(dǎo)致他們無(wú)法進(jìn)行深度科研。」
第二是要有自己的獨(dú)立思考和判斷能力，不要盲目跟風(fēng)追熱點(diǎn)?！脯F(xiàn)在很多學(xué)生都在跟熱點(diǎn)做研究，我覺得最關(guān)鍵的原因是他們沒有判斷力，無(wú)法獨(dú)立思考目前領(lǐng)域發(fā)展中重要的方向，同時(shí)也缺乏對(duì)自己的判斷和思考，因此跟熱點(diǎn)是一種相對(duì)來(lái)說(shuō)比較安全的方式。但是現(xiàn)在以及未來(lái)，整個(gè)社會(huì)的變化都非?？欤虼爽F(xiàn)在即便是熱點(diǎn)，過(guò)段時(shí)間說(shuō)不定就冷掉了，而一些冷門的方向說(shuō)不定到某個(gè)時(shí)間就發(fā)展起來(lái)了?！?/p>
也正是基于這種期望，朱曉蕊教授在日常教學(xué)中也始終堅(jiān)持引導(dǎo)學(xué)生樹立正確的研究思路：「所以我也一再地跟我的學(xué)生強(qiáng)調(diào)，我要教給他們的是一套系統(tǒng)的做科學(xué)研究的方法論，是怎樣從零或一個(gè) idea 開始做出一套有說(shuō)服力的成果的方法，讓他們最終在畢業(yè)答辯的時(shí)候能夠自信地將自己做出來(lái)的這些成果講給別人聽，而不是說(shuō)一定局限在課題所涉及的特定研究領(lǐng)域?！?/p>
下一步規(guī)劃：繼續(xù)完善方案、擴(kuò)充科研隊(duì)伍
對(duì)于無(wú)人機(jī)系統(tǒng)安全研究的這一版研究成果，朱曉蕊教授表示，目前還沒有達(dá)到最理想的狀態(tài)，因此下一步的規(guī)劃還是希望參與研究的學(xué)生能夠再花半年到一年左右的時(shí)間，實(shí)現(xiàn)該方案的最佳效果。
「下一步，我們會(huì)利用虛擬化技術(shù)來(lái)完善無(wú)人機(jī)系統(tǒng)安全方案，具體來(lái)說(shuō)就是用虛擬化技術(shù)來(lái)將智能系統(tǒng)中對(duì)安全重要和對(duì)安全沒那么重要的部分隔開來(lái)，從而減少不必要的安全驗(yàn)證消耗 。以無(wú)人機(jī)為例，它其中的某些模塊對(duì)于安全來(lái)說(shuō)至關(guān)重要，一旦出現(xiàn)問(wèn)題，可能會(huì)直接導(dǎo)致無(wú)人機(jī)停止運(yùn)行（從空中掉下來(lái)）；而其中也有部分模塊對(duì)安全性而言不那么重要的，例如一些第三方程序，對(duì)于飛機(jī)整體的安全性不會(huì)造成太大影響，就不需要付出代價(jià)去證明這部分模塊的安全性。因此，大概再花一年左右的時(shí)間，整個(gè)安全方案就比較完整了?！?/p>
同時(shí)，朱曉蕊教授希望，這一系統(tǒng)安全性驗(yàn)證方案不要被局限于無(wú)人機(jī)?！杆瑯涌梢越o其他小型智能系統(tǒng)包括無(wú)人駕駛帶來(lái)很大的價(jià)值。實(shí)際上，這個(gè)方案如果應(yīng)用到無(wú)人駕駛這些場(chǎng)景中，實(shí)現(xiàn)原理其實(shí)還是一樣的，只不過(guò)需要針對(duì)這一套系統(tǒng)進(jìn)行修改和調(diào)整，因此說(shuō)，我們實(shí)際上提出的是一套可以廣泛應(yīng)用的方法論。」
而對(duì)于目前每年只能各自投入 1 到 2 名學(xué)生的耶魯合作項(xiàng)目來(lái)說(shuō)，人手同樣是一個(gè)亟需解決的問(wèn)題，因此擴(kuò)充科研隊(duì)伍同樣也是下一步規(guī)劃中的重要內(nèi)容。
「本次之所以希望通過(guò)媒體來(lái)報(bào)道這項(xiàng)成果，主要也是有兩個(gè)訴求：第一個(gè)就是希望更多對(duì)這項(xiàng)研究感興趣的人能夠加入到我們的研究隊(duì)伍中來(lái)，從而更快地推進(jìn)項(xiàng)目進(jìn)度；第二個(gè)就是希望我們?cè)跓o(wú)人機(jī)系統(tǒng)安全方面的這項(xiàng)研究成果能給相關(guān)領(lǐng)域研究者帶來(lái)一些啟發(fā)，啟發(fā)他們?nèi)ネ诰蝾I(lǐng)域內(nèi)目前還未受到較大關(guān)注但對(duì)未來(lái)而言至關(guān)重要的研究方向?！?/p>
對(duì)于無(wú)人機(jī)領(lǐng)域的一些思考
學(xué)界和業(yè)界應(yīng)該怎么分工？
朱曉蕊教授認(rèn)為，學(xué)界和業(yè)界由于各自的性質(zhì)以及承擔(dān)的社會(huì)責(zé)任不同，分工也不盡相同，如果二者能夠各司其職，形成一個(gè)非常良性、平衡的合作狀態(tài)，對(duì)于無(wú)人機(jī)以及整個(gè)人工智能領(lǐng)域的發(fā)展會(huì)大有裨益。
「對(duì)于學(xué)界而言，首先一定要做一些超前的事情，在一些業(yè)界乃至整個(gè)研究領(lǐng)域還沒有關(guān)注到的問(wèn)題上，先要嘗試著去開展研究工作，所有的研究工作往往在獲得成功之前都要經(jīng)歷一個(gè)漫長(zhǎng)的過(guò)程，所以，學(xué)界應(yīng)該充當(dāng)這個(gè)引路者的角色；其次，我認(rèn)為學(xué)界的價(jià)值是提出一些能夠?qū)I(yè)界具有啟發(fā)性意義的新的 idea，正如我之前所提到的，我們的研究實(shí)際上更像是提出了某一套具有普遍適應(yīng)性的新方法，業(yè)界可以借鑒，并在我們的新思路和新方法上進(jìn)行完善，從而最終與真正的應(yīng)用場(chǎng)景實(shí)現(xiàn)對(duì)接。
而對(duì)于業(yè)界來(lái)說(shuō)，他們需要做的便是將學(xué)界提出的新方法、新成果落地到各個(gè)細(xì)分應(yīng)用場(chǎng)景中，并利用其豐富的人力、物力資源來(lái)推進(jìn)某項(xiàng)成果不斷完善和升華，最終對(duì)整個(gè)社會(huì)的實(shí)際發(fā)展負(fù)責(zé)。」
無(wú)人機(jī)領(lǐng)域的最終目標(biāo)為何？
對(duì)于目前無(wú)人機(jī)領(lǐng)域的整個(gè)發(fā)展情況，朱曉蕊教授還是比較有信心的，她認(rèn)為在技術(shù)層面，無(wú)人機(jī)的通用性已經(jīng)做得相對(duì)來(lái)說(shuō)比較成熟的，接下來(lái)要著重解決的就是產(chǎn)業(yè)化落地的問(wèn)題。
「目前就我看來(lái)，無(wú)人機(jī)領(lǐng)域在基礎(chǔ)技術(shù)方面都不錯(cuò)，就差在細(xì)分行業(yè)中有針對(duì)性地應(yīng)用了。因?yàn)椴煌募?xì)分行業(yè)對(duì)于這些基礎(chǔ)技術(shù)都有特殊且具體的要求，因此我認(rèn)為這其中還有很多可以挖掘的東西。當(dāng)技術(shù)和市場(chǎng)、成本達(dá)到一個(gè)平衡的狀態(tài)時(shí)，無(wú)人機(jī)領(lǐng)域差不多就是一個(gè)比較理想的狀態(tài)了?！?/p>
?