PTT評價

Re: [閒聊] 人工智慧全盤掌握民航機飛行的可能性?

看板Aviation標題Re: [閒聊] 人工智慧全盤掌握民航機飛行的可能性?作者
ewings
(火星人當研究生)
時間推噓 7 推:7 噓:0 →:10

※ 引述《amanda815625 ()》之銘言:
: 飛機的自動控制系統
: 從上個世紀就有開始開發
: 包括自動駕駛和自動油門

目前還沒辦法交給AI的最大原因,就是沒人知道AI裡面是什麼,
人類不知道AI會不會因為跑道上出現一頭豬,然後決定將整架飛機插進草地上?

早期的AI是由人類透過程式建立規則,使系統能夠在特定的場景下做出特定的反應,
此時人類可以確保自己知道AI的底層邏輯是什麼,也能找到bug在那邊,
但是這樣的系統受限於人類無法設想所有可能發生的離譜事件,
所以這樣的系統是非常具有侷限性的,如果遇到設想外的狀況,
AI就無法應對。

而自從機械學習、深度學習、大語言模型的出現,
配合海量的資料庫,AI可以自我學習,而不需要人類逐條建立規則,
現在AI的性能相較早期的AI有劇烈的提升,
但是這帶來另一個問題是,人類無法掌控AI到底學會了什麼。

就以ChatGPT為例,它並沒有自發產生人類的道德感,甚至會說謊來回答問題,
就連OpenAI的創辦人奧特曼也承認人類目前也還不能理解AI底層是怎麼運作的。

如果一個沒有在底層就加入人類道德判斷的AI,
你又怎麼有辦法相信這個AI會優先保護人類而不是跑道上的豬呢?

這個問題在上個世紀就由以薩克.艾西莫夫探討過,而提出的方案就是機器人三定律,
然而目前AI技術的發展,卻還沒有能力將機器人三定律寫入AI的最底層裡,
因此最後還是需要人類進行監督,而如果需要人類監督,
就沒比現在的自動駕駛與ILS來的有優勢。

飛機和汽車不同,飛機的安全標準要遠高於汽車,
而汽車到現在還無法做到不在人類監控下的完全自動駕駛,
安全標準更高的民航業更不可能近期內放心交給AI。

: 從最早期的機械控制到後來的電子控制
: 飛機的電腦和系統一直在進步
: 目前飛機起飛和降落
: 基本上都是機長和副機長控制
: (早期有飛航工程師)
: 但有系統輔助
: 降落時如果復飛也可以交給電腦
: 那如果開發出人工智慧系統
: 全盤讓人工智慧接管飛機的起飛和降落
: 不只是無人機
: 而是民航機由人工智慧AI來駕駛
: 在技術上是否有可行性呢?
: 從自動導航
: 變成人工智能AI導航
: 再變成人工智慧接管全部程序
: 不只是固定在37000英尺巡航高度的時候
: 而是包括起飛和降落
: 通通由人工智慧來控制
: 人類不干預
: 這樣有沒有可能做到??

--
亂餵流浪狗的人其實和渣男沒什麼兩樣
一個是讓狗以為自己是有主人的狗,一個是讓人以為感情有了歸宿
但都只是做半套不想完全負責而已

--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.32.235.116 (臺灣)
PTT 網址

c52chungyuny08/27 04:04先做到一架飛機單一駕駛員吧

miragejames08/27 06:41推分析

Answerme08/27 08:03AI飛機那乾脆AI旅行就好了,直接遠端機器人開機幫你登機

Answerme08/27 08:03checkin,商務探親旅遊免出門免墜機空難

pippen200208/27 10:12先去幫忙灑農藥都盯垃圾?

akira3008/27 16:51ChatGPT你的理解是錯的,他是個語言模型,他負責的是接

akira3008/27 16:51話遊戲自然不會知道自己是不是在幻想,他計算的是字和字

akira3008/27 16:51之間結合的機率。另外目前光自動駕駛其實就很夠民航使用

akira3008/27 16:51

ewings08/27 18:00連LLM都無法透過人類語言資料訓練出人類的道德觀,更複雜

ewings08/27 18:00的AGI要怎麼訓練出人類的道德?

gruenherz08/27 18:17AI知道人沒有道德,所以乾脆不需學習?

yuzuki08/27 23:50這麼說來我們也經常不知道人類在幹嘛,明明沒有東西故障,

yuzuki08/27 23:50卻也做出莫名其妙的決定

ewayne08/28 02:20因為很多負責寫程式的人都不怎麼重視道德阿...

sammy9808/28 06:41連人都會關錯引擎了 Ai怎麼學正確的?

pooh2408/28 09:55現在是human factor,以後要變AI factor了