PTT評價

[分享] 美國海軍陸戰隊成功騙過AI機器人系統

看板Military標題[分享] 美國海軍陸戰隊成功騙過AI機器人系統作者
mmmimi11tw
(Ulana Khomyuk)
時間推噓47 推:47 噓:0 →:64

在別板看到這個有趣的實驗


如題啦

http://i.imgur.com/8d7MBF3.jpg


簡單來說就是DARPA美國國防高等計畫研究局
為了要加強AI人工智慧的系統性能

他們跟美國海軍陸戰隊進行合作

首先陸戰隊花了六天的時間在AI系統附近走來走去
以便讓工程師可以讓AI系統記錄陸戰隊員的走路模式


隨後陸戰隊隊員要試著打敗AI系統

他們把AI機器人系統放在一個道路圓環上面
然後讓陸戰隊員從足夠遠的距離盡可能的接近機器人

如果陸戰隊員碰到機器人且沒有被偵測到的話那麼隊員就獲勝



最終的結果是八個陸戰隊隊員沒有一個被AI偵測到

他們藉由非傳統形式的偽裝
也就是利用一些聰明的把戲來成功欺騙系統

其中兩個隊員翻跟斗(Somersault)翻了300公尺,從來沒有被偵測到
(也太賣力了吧)

兩個隊員躲在紙箱裡面,
而且你還可以聽到他們從頭到尾躲在裡面偷笑(Giggling)

就像卡通裡面總會有那種躲在紙箱裡面就看不到的情況

最讓人印象深刻的是有一個士兵把冷杉樹砍掉
然後扮演成一棵會走動的冷杉

你從頭到尾都看得到他在走 而且他一直在笑


AI系統表示
http://i.imgur.com/gcyTYFZ.jpg

http://i.imgur.com/AqrIHhH.jpg
http://i.imgur.com/ZgO1UTd.jpg
http://i.imgur.com/ylALe1a.jpg


為什麼會完全偵測不到陸戰隊士兵的原因

是因為工程師只給AI系統輸入正常人類走動的各種資訊
也就是說AI系統只會對人類走路的動作產生反應
所以AI系統才會判定不出來翻跟斗 躲紙箱
甚至是把自己變成樹的動作其實都是真人

而我們人類可以很輕鬆的就認出以上的動作代表的含義

這其實就是目前AI系統的不足之處


--
http://i.imgur.com/xCGOIij.jpg


--

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 27.53.49.0 (臺灣)
PTT 網址
※ 編輯: mmmimi11tw (27.53.49.0 臺灣), 01/23/2023 10:34:26

bladesinger 01/23 10:34重點是潛龍諜影都是真的

HarukaJ 01/23 10:34[在此插入潛龍諜影觸發警報音效]

zerokid 01/23 10:35這簽名檔,是在嘲笑AI嗎XDD

adagiox 01/23 10:35滾300m 這是體罰嗎

cuteSquirrel01/23 10:38可愛

efkfkp 01/23 10:39小島果然是未來人(x

kuma660224 01/23 10:43所以之前吵AI萬能 我就說AI很強 但人類很賤

kuma660224 01/23 10:46兵不厭詐 人類作弊 是常態

loxjjgu 01/23 10:47天網:感謝人類幫我debug

kuma660224 01/23 10:50人類可訓練AI辨識軍人武器載具

kuma660224 01/23 10:50但實戰發現看來像真貨的都是假的

kuma660224 01/23 10:50看來不像的 反而都是真的

kuma660224 01/23 10:50人類自己都騙來騙去

kira925 01/23 11:06SNAKE!

kira925 01/23 11:07有趣的是 如果要訓練AI對移動箱子有反應 他就廢了

rommel1 01/23 11:12加裝熱顯像儀過濾目標算了

jamie81416 01/23 11:13熱顯像沒那麼屌,能穿牆的知道多貴嗎XD

Esca 01/23 11:16可以再練的,只是費工很多

kira925 01/23 11:16那不如養個眼球Mk I還比較有用

Esca 01/23 11:17變成所有東西的移動模式都要練而不是單練人型

kira925 01/23 11:17那 要開槍嗎?

kira925 01/23 11:18會不會搞了老半天 結果只是個整天大砲打小鳥的87AI

kuma660224 01/23 11:19不是練ai的問題 是規則歪掉

nanozako 01/23 11:20(....工程師把紙箱人的data輸入進AI訓練之後...)

nanozako 01/23 11:20AI:喔喔喔 這台FedEx裡面怎麼這麼多敵軍?來人啊~

sunrise2003 01/23 11:22蛇叔果然有所本

sa87a16 01/23 11:25沒熱感應嗎

Fallanakin 01/23 11:29這好像op了

kuma660224 01/23 11:33訓練找紙箱完 還要學草叢 大垃圾桶 油桶....

kuma660224 01/23 11:34因為人類太奸詐了

kuma660224 01/23 11:34AI適合辨識正常狀況 但人類可以很不正常

kuma660224 01/23 11:36特斯拉自駕之前遇到”馬拉篷車”認為是卡車頭衝過

kuma660224 01/23 11:36

kuma660224 01/23 11:37因為正常資料庫怎麼會有馬車在街上跑...

pondaha 01/23 11:37Snake

utn875 01/23 11:37從自駕車發展觀察,AI的瓶頸卡關很久了,機器學習

utn875 01/23 11:37的各種應用也是類似情況

Playorange 01/23 11:37翻300公尺也太噁了吧==

gundam778 01/23 11:52某蛇:戰爭變了

verdandy 01/23 11:56把所有人類奸巧移動方式都拿來訓練的話,到最後只

verdandy 01/23 11:56會變成很貴的motion sensor

linbryan 01/23 11:56 很正常.很多監視攝影機號稱AI辨認人,車,動物.影子.

linbryan 01/23 11:56不會亂觸發警報.但ㄧ日常情形.快遞拿一大紙箱.就不

linbryan 01/23 11:56會觸發

ian41360 01/23 12:08笑爛

naideath 01/23 12:10

patentshit 01/23 12:11特斯拉或一般自駕、自動煞車系統就不認識台灣高工

patentshit 01/23 12:11局特有的螃蟹車,常會無減速一頭撞上去

JWpig 01/23 12:15回kuma 美國阿米許人多的地方像賓州 路上馬車還真

JWpig 01/23 12:15不少 https://i.imgur.com/uhKeRo7.jpg

semicoma 01/23 12:20很有趣的主題 請教個不直接相關的問題阿湯哥的rogue

semicoma 01/23 12:21nation中有段提到無法靠正規管道入侵某個戒備森嚴的

semicoma 01/23 12:22場所的原因之一是ai會辨別特定人的走路習慣 因此就

semicoma 01/23 12:22算戴上假面具 偷到指紋或虹膜什麼的 也過不了ai檢測

semicoma 01/23 12:23特定人獨特的走路姿勢這關 這是現存的科技嗎? 還是

semicoma 01/23 12:24只是導演安排?

lchcoding 01/23 12:26簽名檔的貓有武俠天份哦

mmmimi11tw 01/23 12:33的確是有這種科技,不過沒有電影裡面這麼神奇

mmmimi11tw 01/23 12:33Gait Recognition System這種東西主要是透過身高 頭

mmmimi11tw 01/23 12:33型 腿型 肌肉 關節 行走姿勢等數據進行綜合比對

mmmimi11tw 01/23 12:33然後再跟資料庫裡面的數據進行比對

iqeqicq 01/23 12:38中國有成功整合路口監視器和步態辨識

semicoma 01/23 12:43嗯嗯 感謝兩位 我拿關鍵字去了解一下

PHONm 01/23 12:45走路那個姿勢辨識也的確可以,就跟指紋辨識或筆跡

PHONm 01/23 12:45比對一樣,把肢體位置跟動作時間等轉成特徵值後做

PHONm 01/23 12:45相似度比較

semicoma 01/23 12:45JWpig大提到的amish 核心是儘量不用現代科技 所以不

semicoma 01/23 12:46用電不用汽車 那就是馬車了(台灣則是山豬)

AfterDark 01/23 12:54馬車現代應該比車還難搞吧 真是厲害......

n0venblue 01/23 12:55https://i.imgur.com/gd7O5xD.jpg

CGT 01/23 13:29卡通裡那種拿紙袋罩頭、假裝樹木的搞笑橋段有用 XD

CGT 01/23 13:37不過這AI本來只訓練步態,可以加強辨識移動接近物體

geneaven 01/23 14:20AI:幹,不講武德

onekoni 01/23 14:23最後弄一弄發現弄兩隻裸猿比較便宜

IMGOODYES 01/23 14:34乾脆把人腦做成濕體好了

kuma660224 01/23 14:54辨識走路姿勢哪個 其實也是沒啥用

kuma660224 01/23 14:55因為你跌倒受傷 活動姿勢就不一樣 尷尬

IMGOODYES 01/23 14:57如果真的只辨識正常走路的姿勢,那匍匐不就可以了?

kuma660224 01/23 14:57給自己造成困擾的機率更高

kuma660224 01/23 14:58AI當輔助很好 但太相信它會很多問題

kuma660224 01/23 14:59不是AI做不好它該做的 是人類世界太混沌奸詐

mynewid 01/23 15:45紙箱有分ABCㄅ

sa87a16 01/23 16:07把臉遮住 學狗行走 我猜也會被判定非人類ㄅ

weimr 01/23 16:16人機合一才是最可怕,發揮各自的專長。

AirLee 01/23 16:25所以AI要能學習特徵才能持續進化阿

AirLee 01/23 16:26以後十年的戰爭就會走向協同AI作戰

kuma660224 01/23 16:51未來還是human in loop的AI輔助用法

kuma660224 01/23 16:52AI整合簡化情報送給人類做處置

ewayne 01/23 18:11就是姿態辨識阿…不然怎麼會打滾跟套著箱子就能躲過

ewayne 01/23 18:11?最重要的是AI去辨識正在向AI移動的物體是人,而且

ewayne 01/23 18:11還是非友方,具有擊殺意義的目標?

TinCanEngine01/23 18:40學狗四腳著地已經是前滾翻的預備動作,我比較懷疑

TinCanEngine01/23 18:40文中的翻滾動作會不會是側滾翻

saberr33 01/23 19:00我質疑 Ai判定那點

saberr33 01/23 19:01現在ai會把蘋果判定成ipad 但是不會把鳳梨判定成ipa

saberr33 01/23 19:01d

saberr33 01/23 19:02現在ai學習的方法就不是死板的規則了,而是概念

Silwez 01/23 19:13所以海陸走天堂路是為了騙過AI(X

verdandy 01/23 20:46文中的方法就是把概念模糊化,把人走路變成物體移動

verdandy 01/23 20:47所以AI就判定失誤了

z7956234 01/24 08:00AI就是大數據,數據不夠就沒用

balius 01/24 08:25恐懼源於性癖(誤)不足,AI誤判源於經驗/數據不足

balius 01/24 08:26即便有概念但數據不足一樣會誤判

mackulkov 01/24 19:22難怪康納可以擊敗天網 還好ai不是萬能

newest 01/24 21:59小島是未來人

lpoijk 01/25 08:53你訓練AI認鴨子 最後依然沒辦法判斷唐老鴨 很正常

lpoijk 01/25 08:54辨識走路姿勢 你穿個溜冰鞋就破解了

thaleschou 01/25 15:51首先要有這個系統怎麼辨識的情報?而且假設辨識出

thaleschou 01/25 15:51來的後果是機槍掃射,那紙箱跟樹還有沒有勇氣走過

thaleschou 01/25 15:51

Alwen 01/25 19:40現在AI就真的很廢,模式被抓到後 就是整個被摸掉= =