Blog
Air-Guardian：MIT打造的飛行守護神，「人機合一」提升天空安全
Air-Guardian：MIT打造的飛行守護神，「人機合一」提升天空安全
October 8, 2023
重點摘要：
新聞內文：
設計來確保更安全的天空，「Air-Guardian」將人類直覺與機器精確性相結合，為飛行員和飛機之間建立了更緊密的合作關係。
想像一下，你在一架飛機上，有兩名飛行員，一名是人類，一名是計算機。他們都在控制器上「手」無旁鳥，但他們總是關注不同的事物。如果他們都關注同一件事，那麼人類就可以掌舵。但如果人類分心或錯過了什麼，計算機將迅速接管。
這就是「Air-Guardian」，這是由麻省理工學院計算機科學和人工智慧實驗室（CSAIL）的研究人員開發的系統。當現代飛行員在關鍵時刻從多個顯示器上獲取大量訊息時，Air-Guardian充當積極的副駕駛；這是人與機器之間的合作夥伴關係，根據對注意力的理解。
但它究竟是如何確定注意力的呢？對於人類，它使用了眼動追蹤，對於神經系統，它依賴於一種稱為「顯著性地圖」的東西，這些地圖可以指示注意力的方向。這些地圖作為視覺指南，突出顯示圖像內的關鍵區域，有助於把握和解釋複雜算法的行為。Air-Guardian通過這些注意力標記識別潛在風險的早期跡象，而不僅僅是在安全違規發生時進行干預，就像傳統的自動駕駛系統一樣。
這一系統的更廣泛影響超出了航空界。類似的合作控制機制有朝一日可能在汽車、無人機和更廣泛的機器人領域使用。
「我們的方法中一個令人興奮的特點是其可區別性」，麻省理工學院CSAIL博士後Lianhao Yin表示，他是關於Air-Guardian的新論文的主要作者。「我們的合作層和整個端到端過程都可以訓練。我們特意選擇了因果連續深度神經網路模型，因為它在映射注意力方面具有動態特徵。另一個獨特的方面是適應性。Air-Guardian系統並不僵化；它可以根據情況的需求進行調整，確保人類和機器之間的平衡合作」。
在實地測試中，無論是飛行員還是系統都是基於相同的原始圖像來做出決策以導航到目標航點的。通過飛行期間獲得的累積獎勵和到達目標點的較短路徑，來衡量Air-Guardian的成功。這個守護者降低了飛行的風險水平，增加了到達目標點的成功率。
麻省理工學院CSAIL研究聯盟成員、液態神經網絡發明人Ramin Hasani表示：「這個系統代表了以人為中心的AI輔助航空的創新方法」。「我們使用液態神經網絡提供了一種動態、自適應的方法，確保AI不僅僅取代了人類的判斷，而是補充了它，從而提高了天空中的安全性和協作」。
Air-Guardian的真正優勢在於其基礎技術。它使用了一種基於優化的合作層，利用人類和機器的視覺注意力，以及以其在解釋因果關係方面的傑出能力而著稱的液態閉式連續時間神經網路（CfC），來分析傳入的圖像以獲取重要訊息。此外，還有「VisualBackProp算法」，該算法識別圖像內系統的焦點點，確保對其注意力地圖的清晰理解。
為了未來的大規模采用，需要改進人機界面。反饋建議，像條形圖標這樣的指示器可能更直觀，以表示守護系統何時接管。
Air-Guardian標誌著更安全天空的新時代，為當人類注意力動搖時提供可靠的安全網。
麻省理工學院電氣工程和計算機科學的安德魯（1956年）和厄娜·維特比教授Daniela Rus博士在論文上擔任高級作者，她表示：「Air-Guardian系統凸顯了人類專業知識和機器學習之間的協同作用，進一步促使使用機器學習來增強飛行員在挑戰性情境中的表現，並降低操作錯誤的目標」。
哈佛大學計算機科學助理教授Stephanie Gil表示：「在這項工作中，使用視覺關注度指標最有趣的結果之一是，它可以允許更早的干預和更大程度的可解釋性，透過人類飛行員之間的自然交流機制降低了建立信任的障礙。這展示了AI如何與人類一起工作，降低了通過使用人類和AI系統之間的自然交流機制建立信任的障礙」。
這項研究得到了美國空軍（USAF）研究實驗室、USAF人工智慧加速器、波音公司和海軍研究局的部分資助。研究結果不一定反映美國政府或USAF的觀點。
新聞原址： https://news.mit.edu/2023/ai-co-pilot-enhances-human-precision-safer-aviation-1003?ref=futurepedia
- 「Air-Guardian」是由麻省理工學院（MIT）開發的一個先進飛行輔助系統，它結合了人類和機器的注意力來提高飛行安全。
- 系統使用眼動追蹤和「顯著性地圖」來實時監控飛行員和機器的注意力，並在潛在風險出現之前進行干預。
- 除了航空領域，這種合作控制機制也有潛力應用於汽車、無人機和其他機器人技術。
新聞內文：
設計來確保更安全的天空，「Air-Guardian」將人類直覺與機器精確性相結合，為飛行員和飛機之間建立了更緊密的合作關係。
想像一下，你在一架飛機上，有兩名飛行員，一名是人類，一名是計算機。他們都在控制器上「手」無旁鳥，但他們總是關注不同的事物。如果他們都關注同一件事，那麼人類就可以掌舵。但如果人類分心或錯過了什麼，計算機將迅速接管。
這就是「Air-Guardian」，這是由麻省理工學院計算機科學和人工智慧實驗室（CSAIL）的研究人員開發的系統。當現代飛行員在關鍵時刻從多個顯示器上獲取大量訊息時，Air-Guardian充當積極的副駕駛；這是人與機器之間的合作夥伴關係，根據對注意力的理解。
但它究竟是如何確定注意力的呢？對於人類，它使用了眼動追蹤，對於神經系統，它依賴於一種稱為「顯著性地圖」的東西，這些地圖可以指示注意力的方向。這些地圖作為視覺指南，突出顯示圖像內的關鍵區域，有助於把握和解釋複雜算法的行為。Air-Guardian通過這些注意力標記識別潛在風險的早期跡象，而不僅僅是在安全違規發生時進行干預，就像傳統的自動駕駛系統一樣。
這一系統的更廣泛影響超出了航空界。類似的合作控制機制有朝一日可能在汽車、無人機和更廣泛的機器人領域使用。
「我們的方法中一個令人興奮的特點是其可區別性」，麻省理工學院CSAIL博士後Lianhao Yin表示，他是關於Air-Guardian的新論文的主要作者。「我們的合作層和整個端到端過程都可以訓練。我們特意選擇了因果連續深度神經網路模型，因為它在映射注意力方面具有動態特徵。另一個獨特的方面是適應性。Air-Guardian系統並不僵化；它可以根據情況的需求進行調整，確保人類和機器之間的平衡合作」。
在實地測試中，無論是飛行員還是系統都是基於相同的原始圖像來做出決策以導航到目標航點的。通過飛行期間獲得的累積獎勵和到達目標點的較短路徑，來衡量Air-Guardian的成功。這個守護者降低了飛行的風險水平，增加了到達目標點的成功率。
麻省理工學院CSAIL研究聯盟成員、液態神經網絡發明人Ramin Hasani表示：「這個系統代表了以人為中心的AI輔助航空的創新方法」。「我們使用液態神經網絡提供了一種動態、自適應的方法，確保AI不僅僅取代了人類的判斷，而是補充了它，從而提高了天空中的安全性和協作」。
Air-Guardian的真正優勢在於其基礎技術。它使用了一種基於優化的合作層，利用人類和機器的視覺注意力，以及以其在解釋因果關係方面的傑出能力而著稱的液態閉式連續時間神經網路（CfC），來分析傳入的圖像以獲取重要訊息。此外，還有「VisualBackProp算法」，該算法識別圖像內系統的焦點點，確保對其注意力地圖的清晰理解。
為了未來的大規模采用，需要改進人機界面。反饋建議，像條形圖標這樣的指示器可能更直觀，以表示守護系統何時接管。
Air-Guardian標誌著更安全天空的新時代，為當人類注意力動搖時提供可靠的安全網。
麻省理工學院電氣工程和計算機科學的安德魯（1956年）和厄娜·維特比教授Daniela Rus博士在論文上擔任高級作者，她表示：「Air-Guardian系統凸顯了人類專業知識和機器學習之間的協同作用，進一步促使使用機器學習來增強飛行員在挑戰性情境中的表現，並降低操作錯誤的目標」。
哈佛大學計算機科學助理教授Stephanie Gil表示：「在這項工作中，使用視覺關注度指標最有趣的結果之一是，它可以允許更早的干預和更大程度的可解釋性，透過人類飛行員之間的自然交流機制降低了建立信任的障礙。這展示了AI如何與人類一起工作，降低了通過使用人類和AI系統之間的自然交流機制建立信任的障礙」。
這項研究得到了美國空軍（USAF）研究實驗室、USAF人工智慧加速器、波音公司和海軍研究局的部分資助。研究結果不一定反映美國政府或USAF的觀點。
新聞原址： https://news.mit.edu/2023/ai-co-pilot-enhances-human-precision-safer-aviation-1003?ref=futurepedia