Re: [問卦] 美軍陸戰隊學《潛龍諜影》紙箱潛行戰術,
※ 引述《teeheehee (軟尾拋拋翔(′・ω・`))》之銘言
: 美軍陸戰隊學《潛龍諜影》紙箱潛行戰術,成功騙過AI偵測機器人
: 自《死亡擱淺》上市到疫情爆發以來,遊戲社群都讚揚小島秀夫的發想宛如先知,
: 如今又有一款他的作品成為了現實發生的事,
: 《潛龍諜影》(Metal Gear)的「紙箱潛行」真的有用,只不過不是對人,而是對 AI 人: 工智慧。
阿肥外商碼農阿肥啦!
其實這在機器學習/深度學習領域當前還是一個資安攻防戰的大問哉,尤其是圖像領域其實從攝影機取得的數據,其實如果熟知數位訊號的話,其實對於機器取得的訊號只是256個數值(對應PC的256色彩度)加上一個通道數量的三維數據,歸一化以後可以把數值256變成0到1之間的浮點數,這樣問題就來了,現實世界人眼其實對浮點數差0.001不到的變化是很難察覺的,人眼對於色彩的變化度其實非常不靈敏,對於光流反而比較敏感,甚至可以自我補全合理化物體運動軌跡,這是當前類比數位訊號很難表達出人眼數據結構的問題。
像這種對抗例攻擊(adversarisal example attack)的問題,當前業界學界主要是用一些傳統濾波器幫忙過濾有毒訊號在餵給AI或是調整決策邊界來避免某些特殊訊號被AI放大影響分類決策信心度,像這種紙箱也不是隨便一種紙箱,駭客通常可以用你的模型API來協助他訓練一個更強的對抗模型生成可以騙過你機器的一張圖片,同時這張圖片還要看不出來他是被竄改過素相彩度的圖片,人眼外觀看起來是紙箱但機器一旦辨識就不太識別的出來的那種,這種就有點資安攻防的概念,道高一尺魔高一丈,一旦研究員發現到被攻擊可能會微調模型或是加上濾波器防堵,駭客也還是用這種方式我在來找你的模型漏洞生成圖片無限下去。
我覺得阿肥長年作為研究者其實有很大程度也是發現到真正的原因是因為圖像數據表達格式的問題跟人眼讀取影像的方式差異很大,像自然語言識別因為輸入是文字塊就不太會出現這樣的麻煩,不過文字因為涉及抽象思考概念這部分當前AI很難理解人類大腦背後的世界模型也是需要研究的地方,所以整個領域都還有成長進步的空間啦!
大過年就不講太複雜的東西了,差不多4醬
--
嗯嗯跟我想得一樣
真的是跟我想的都差不多一樣
LiDAR打下去就沒這問題了。
阿肥好棒
29
Re: [問卦] 杜奕瑾:烏俄戰爭駐批踢踢內應的也沒阿肥外商碼農阿肥啦! 剛好阿肥是這塊領域的研究員,大概工作也有六年是在這塊機器人語意理解領域了。 直白來說,現有的不管你要叫AI或是內行一點要叫ML/DL,這塊領域當前最好的SOTA模型 從數學直觀理解都驗證機器對於模式識別是很強的,但是分析永遠不是ML的強項。 也就是說當前不管是BERT還是GPT 3等等等,他們強項就只是找到序列詞組的關聯性,最18
[分享] 特斯拉FSD beta 來比眼力有沒有比AI好這個youtuber將FSD AI看到的畫面結合實際行車畫面 有幾個亮點, 你去觀察對向車道,或是更遠處都可以發現AI都可以清楚知道車子位置在哪 換句話說,FSD用了鏡頭就可以模擬光達的距離偵測了 這個技術已經被特斯拉提出為專利12
Re: [閒聊] 繪師是怕畫不過AI還是怕AI會創作?怒刪,剛好碩班是研究AI領域,以我的角度來看 其實人工智慧這一塊的發展跟人類特徵學息息相關。人類從自我的習性套用到機器上,透 過流程特徵化後編制pipeline讓機器模仿人類的習性。 先說結論,Machine Learning(ML)不可能只靠「單一」一張畫師的畫就可以訓練成一個有 效的模型;相反地它需要透過大量的數據去臨摹某一種畫風。7
[情報] 美軍陸戰隊學《潛龍諜影》紙箱潛行戰術,美軍陸戰隊學《潛龍諜影》紙箱潛行戰術,成功騙過AI偵測機器人 自《死亡擱淺》上市到疫情爆發以來,遊戲社群都讚揚小島秀夫的發想宛如先知, 如今又有一款他的作品成為了現實發生的事, 《潛龍諜影》(Metal Gear)的「紙箱潛行」真的有用,只不過不是對人,而是對 AI 人工智慧。5
Re: [討論] AI晶片多嘴插句話,除了Training跟Infer差異外,其實真的要細分還有從硬體、軟體的優化, 從最上層到底層跟硬體的結合才能夠把edge computing提升到產品落地階段。 像是閣下說的自然語言這塊把Transformer從軟體層面做降維優化、新一代更輕量的CNN模型 ,還有既有的半精度FP8這種跟指令集優化,另外這幾年學界比較有研究的從Complier上做 優化通用矩陣乘法。5
Re: [問題] 要怎麼讓AI記住一件事情?小弟本身是相關的研究領域的剛好在西恰看到就簡單回答,chatGPT當前是沒有所謂記憶這 件事的,他其實是用到一個Trick就是直接把你前面的對話直接併到當前對話,由於目前有 最大字數上限(印象中是4000還是40000,有錯還請見諒)超過就直接把你前面的對話都丟掉 ,所以你常常會發現他好像講一講就自己忘記了。 GPT系列本身其實就是有點像接龍一樣的語言模型,你問馬可就會去預測一般人類遇到最常- 阿肥外商碼農阿肥啦!認真說,這幾年口說上字幕甚至翻譯,還有有字幕上語音這幾年都獲 得不錯的進展,包含openAI、Google、Amazon、Meta實驗室都有不錯的產出,而且這些都是 依靠當前所謂的多模態零樣本學習的大力進步,很多轉換錯誤或是機器音都減小很多,不 過偶爾還是會有出槌需要人工修正的部分。 所謂的多模態零樣本其實就是換一個思維過往很多工作需要大量標注工跟資料工程前處理來
爆
[問卦] 什麼東西漲了後就真的沒吃過了?93
[爆卦] 賀錦麗初戰告捷 贏下關島!!85
[問卦] 伍佰最頂的是哪一首?31
[地震] 地震40
[問卦]美國民主先驅,為什麼投票這麼蠢40
[問卦] 驚!大阪男性車廂試營運28
[問卦] 70元預算你會吃什麼22
[問卦] 你人生裡缺什麼24
Re: [新聞] 印度移工真要來台灣了!首波1000人擬挹注33
[問卦] 為什麼台灣要保護強暴犯 虐童者16
[問卦] 找一部生氣頭髮就往上衝的片20
[問卦] 華神到底有沒有負面的新聞17
[問卦] 郝劭文長大以後反而無法在電影混18
[問卦] 備一星期的食材後,這樣冷藏沒問題?16
Re: [新聞] 印度移工真要來台灣了!首波1000人擬挹注爆
[問卦] 雲端發票抽獎事件有很難查嗎17
[問卦] 印度移工確定要來了,有什麼需要注意的嗎?13
[問卦] APT不就美國的科目三?到底都誰在聽15
[問卦] 2隻電鰻可以養在一起嗎?11
[問卦] 台灣傭兵陣亡烏克蘭撫恤金?24
[問卦] 林口長庚附近有啥好吃的食物?14
[問卦] 各位推哪一種螞蟻藥?14
[問卦] 美國追殺戀童癖 台灣卻保護這些垃圾?76
[問卦] 老闆很認真但沒客人的店,會去用餐嗎?12
Re: [新聞] 印度移工真要來台灣了!首波1000人擬挹注29
[問卦] 電腦為什麼沒有音效卡?12
[問卦] 台女:台灣草食男算多嗎……8
Re: [爆卦] 賀錦麗初戰告捷 贏下關島!!13
Re: [問卦] 電腦為什麼沒有音效卡?10
[問卦] 先誅少林再滅武當