Re: [閒聊] 人工智慧全盤掌握民航機飛行的可能性？

※ 引述《amanda815625 ()》之銘言：
: 飛機的自動控制系統
: 從上個世紀就有開始開發
: 包括自動駕駛和自動油門

目前還沒辦法交給AI的最大原因，就是沒人知道AI裡面是什麼，
人類不知道AI會不會因為跑道上出現一頭豬，然後決定將整架飛機插進草地上？

早期的AI是由人類透過程式建立規則，使系統能夠在特定的場景下做出特定的反應，
此時人類可以確保自己知道AI的底層邏輯是什麼，也能找到bug在那邊，
但是這樣的系統受限於人類無法設想所有可能發生的離譜事件，
所以這樣的系統是非常具有侷限性的，如果遇到設想外的狀況，
AI就無法應對。

而自從機械學習、深度學習、大語言模型的出現，
配合海量的資料庫，AI可以自我學習，而不需要人類逐條建立規則，
現在AI的性能相較早期的AI有劇烈的提升，
但是這帶來另一個問題是，人類無法掌控AI到底學會了什麼。

就以ChatGPT為例，它並沒有自發產生人類的道德感，甚至會說謊來回答問題，
就連OpenAI的創辦人奧特曼也承認人類目前也還不能理解AI底層是怎麼運作的。

如果一個沒有在底層就加入人類道德判斷的AI，
你又怎麼有辦法相信這個AI會優先保護人類而不是跑道上的豬呢？

這個問題在上個世紀就由以薩克.艾西莫夫探討過，而提出的方案就是機器人三定律，
然而目前AI技術的發展，卻還沒有能力將機器人三定律寫入AI的最底層裡，
因此最後還是需要人類進行監督，而如果需要人類監督，
就沒比現在的自動駕駛與ILS來的有優勢。

飛機和汽車不同，飛機的安全標準要遠高於汽車，
而汽車到現在還無法做到不在人類監控下的完全自動駕駛，
安全標準更高的民航業更不可能近期內放心交給AI。

: 從最早期的機械控制到後來的電子控制
: 飛機的電腦和系統一直在進步
: 目前飛機起飛和降落
: 基本上都是機長和副機長控制
: (早期有飛航工程師)
: 但有系統輔助
: 降落時如果復飛也可以交給電腦
: 那如果開發出人工智慧系統
: 全盤讓人工智慧接管飛機的起飛和降落
: 不只是無人機
: 而是民航機由人工智慧AI來駕駛
: 在技術上是否有可行性呢？
: 從自動導航
: 變成人工智能AI導航
: 再變成人工智慧接管全部程序
: 不只是固定在37000英尺巡航高度的時候
: 而是包括起飛和降落
: 通通由人工智慧來控制
: 人類不干預
: 這樣有沒有可能做到？？

--
亂餵流浪狗的人其實和渣男沒什麼兩樣
一個是讓狗以為自己是有主人的狗，一個是讓人以為感情有了歸宿
但都只是做半套不想完全負責而已

--