[討論] 為何機器人AI不透過強化式學習訓練?
剛剛看了YouTube 介紹特斯拉Optimus的影片
裡面提到特斯拉裡面有50位人員
專門用VR裝置去操控Optimus
去執行某修動作 例如分類物品
然後就可以透過這些動作訓練模型
但是跟特斯拉成千上萬個車子數據比起來
這只能算是小巫見大巫
那我就好奇 為什麼機器人不透過強化式學習的方式去訓練
如同訓練AI玩遊戲一樣
可以給個很明確的計分方式
然後讓AI自己去玩遊戲
只要規則夠明確 AI自己就可以訓練練到很強
同樣道理 我讓一顆球放在一個發射平台
會自動彈出 然後球上有晶片
只要機器人可以在越短的時間去把球撿回來
他就可以得到高分
如此一來他就可以去學習如何快速辨識球的位置
如何規劃路線 如何最佳應用他的身體
然後快速把球撿起來 放回發射平台
這樣作法的好處是可以做出成千上萬台機器人
讓他們自己去訓練 一年365天24小不停歇
這樣就能產生大量數據 快速精進機器人AI模型
同樣的模式還可以特用的很多事情上
所以為何現在的機器人公司不這樣做
要用真的人去訓練搜集數據呢?
還是其實有在做了?
-----
Sent from JPTT on my iPhone
--
你怎麼知道沒有人作這個?
原來已經有了嗎?
因為不把真人互動加進訓練的話 你會訓練出殺人機器
如果任務能成功達成 好像也不失為一個方法? 只是任務怎麼定義就很重要
或是大法師那樣走路的機器人 因為那樣比較有效率
這在機器手臂取物都做到爛的事情…
上網搜尋robotic deep reinforcement learning 應
該會有一堆paper
另外,RL 訓練實體動作極差,成本極高。通常都是先
建立模擬環境,跟本不是你文中的直接physical去碰撞
訓練。
你這些說法根本就是外行,連訓練成本,效率,都不考
慮。訓練一個動作,RL隨意碰撞,機器人先壞100台,
外行人傻了才這樣想。
我的確是外行 對AI好奇整天亂看而已 問題是如果要叫
幾千萬個真人去搜集數據 成本不會比較低啊 除非可以
跟特斯拉車子一樣發展出可以讓人去操控機器人的商業
模式
用第一性原理去思考 這個沒道理做不到 我認為馬斯克
肯定也有想過 至於為什麼我們沒看到有兩個原因 一個
是其實有做 但我們不知道 第二個是其實有什麼大瓶頸
在 這就是我好奇的地方
這個問題我覺得蠻優的
它們是先在模擬環境練了幾萬年才放出來現實世界的
畢竟是泛用型的人形機器人,日後可能會用於長照或
現在在做的是類似GPT一樣透過人類行為微調
托兒,這種與人類互動的行為得由人類親自教導,而
不是機器自己訓練自己。
有樣東西叫人因工程
請工人一來不划算,二來把工人的行為轉換成機器人
能用的數據太貴了
而且特斯拉機器人現在應該還不敢做跑步之類的快速
動作,撞到人蠻糟糕的。
一個機器人是數十個關節的馬達還有感知器在協同,
只有人類操作工具的影像根本不夠
模擬環境裡應該能做到跑,只是現實與模擬的誤差還
沒調教過來
應該不是影像,而是透過遠端遙控的方式訓練
全部都給你說完了他要賺什麼
黃仁勳來台灣那個發表會不是提到Omniverse之類的孿
生模型來訓練機器人
他就是要像m$一樣慢慢地滲透到你國家的每一個角落然
後再更新收費
一下就到達完全體 馬上就被抄走了
有阿 記得所羅門 吹邊緣學習3年了 不知學到哪了
lecun提的世界模型路線可以了解一下
台灣公司就不用看了連日本都打不贏
不然就是才剛有創新的時候就被買走
不要說機器人能長照好嘛笑死人了
沒照顧過老人的才會嘴砲說機器人長照
如果是這樣的話東協那些都不用發展了
專心訓練ai就好
用RL做機器人策略有獎勵稀疏、sim2real gap問題,有
人類展示當訓練資料是最好的
你講的這個二十年後做不做的出來還是個問題
更何況要能用得起
現在玩的都還是剛草創而已
電力就不夠了
其實這也都是個騙局
要夠不夠都取決於他要怎麼用
經濟部也只能瞎找電
真的管制誰在用演算法的那個人才是關鍵
你們要想想在這個賽局最後
投入那麼多
你能否真的完全擁有一個堪用的機器人?
還是又是幫人養老婆?
這些資料庫雲端都不是台灣本身的技術台灣都是搞些
有名無實的代工
例如球發射後卡在天花板 照你說的訓練 機器人永遠
不可能找到方法把球拿下來
沒有什麼是永遠的
不過我想到的事情你還沒想到
你是否能擁有一個堪用的機器人?
說不定20年後你都還等不到你想要的那種
20年後你的主權還剩多少?
你懂他們真的想要的是什麼嗎?
現在一堆做MBRL 唸書很難?
用講的很簡單
哪裡沒有?對岸也都在做 你可能是指agi強人工智慧吧
?
機器人世界 還早得很 死前都不會發生
怎麼會有人天真的覺得只有自己想到?
連搞遊戲都有逆運動了 何不用現成的?XD
典型的沒資本沒腦袋 還一天到晚以為人家都想不到我
的方法好笨
機器人:把亂丟球的猴子殺了就不用撿球了
多看點論文
蠢不是問題,問題是不會查資料
google 的桌球機器人 paper 就是這樣啊
RL沒有比學真人來得快 像tesla這次vr操控機器人的
方式 其實也是可以拿來建data去training
你怎麼知道沒有?
強化學習用在機器人上已經很多人在做了呀
llm/vlm is based on RLHF for long time.
Isaac Sim https://youtu.be/AYSfcgVv9-U
這個很多人做了..
87
[標的] TSLA信仰多標的:TSLA 正文: 垃圾車今年已經跌掉26% 爹不疼娘不愛 股東每天以淚洗面 但越是這種時候 越是撿到便宜的時候18
[分享] 特斯拉FSD beta 來比眼力有沒有比AI好這個youtuber將FSD AI看到的畫面結合實際行車畫面 有幾個亮點, 你去觀察對向車道,或是更遠處都可以發現AI都可以清楚知道車子位置在哪 換句話說,FSD用了鏡頭就可以模擬光達的距離偵測了 這個技術已經被特斯拉提出為專利17
Re: [新聞] 馬斯克再潑元宇宙冷水「誰想把螢幕整天AI day 左:真實世界 中:特斯拉感測的數據 右:特斯拉渲染的虛擬仿真世界12
Re: [情報] 情報數則其實也不知道怎麼說明,再不講得太深入又能夠很簡白地說 真的蠻難的,我就大概點到一些點,然後開頭直接下個結論吧 美國想阻止的是中國透過AI完成強人工智慧,或是通用型的AI 有點類似現在目前的ChapGPT進化的最終版 但如果要阻止中國完成區域性或是弱人工智慧已經不可能了7
Re: [問卦] AI是不是來到爆發的階段了AI就是現在進行式 未來基本上AI會佔人類日常很大部分 電腦、手機、軟體介面 這些都已經看到影子了 最近特斯拉AI日- 這波疫情是不是打亂原本的安排了呢? 台灣的防疫在世界有目共睹,其中運用資訊科技收集資料, 利用 AI 執行預測、協助疫苗和藥物開發,這都是現在與 未來的實際運用.AI人工智慧的發展不受限,那你打算來了 解一下嗎?勞動部與緯育TibaMe共同舉辦職前與在職者訓
- 這次台灣防疫成效世界有目共睹~但你知道嗎? 其中,運用資訊科技收集資料、AI 執行預測、協助疫苗和 藥物開發等,都是防疫成功的關鍵! AI人工智慧的各式應用已開始在社會中層層面面發酵中,為 人類解決最棘手的問題。