Re: [請益] 為什麼有人說AI會讓資工人失去工作?
先講結論, 後面再從AI原理開始解釋.
1. AI會不會取代人類?
就目前人類技術所產生的AI不會取代人類, 但是不會使用AI的人會被懂AI的人取代.
2. AI極限在哪裡? 他的潛力在哪裡?
AI的潛力: 將人類的抽象思考或概念轉換成與讓機械實際執行步驟的介面,
或者說, AI是連接人類世界與機械世界的編譯器.
AI的極限: 不管AI回答怎麼像人類, 現在的AI都無法"理解"人類所說的意義.
既然無法理解, 也就無法思考, 更無法創造.
= AI的原理 =
AI背後的運作原理是由多個神經元所連成的神經網路,
但這種數位神經網路跟生物神經網路還是所差甚遠.
說穿了只是用不同的參數, 以及調整比重, 讓AI產生最有可能的答案.
根本的運作原理還是統計和機率. AI不會想這個答案是否符合道德,
不會思考是否符合邏輯, 不管它是否符合基本物理定律.
如果A要解答的問題是, 請告訴我1+1=? 我們不斷的告訴AI, 1+1=3.
最後AI就會說1+1=3. 他不會思考, 不會判斷, 只會根據訓練資料中
出現機率最高的結果作選擇. 這也就是為什麼AI經常出現一本正經的胡說八道的結果.
https://i.imgur.com/3677Fwj.jpeg
= AI幻覺 =
AI只在乎生的"數據"是否通順, 不在乎內容邏輯.
這裡用"數據", 是因為AI其實不理解這些字的"意義".
對AI來說, 這些只是對應這個問題最有可能的回應數據.
胡說八道的原因是因為AI的訓練數據來自各種不同領域, 這些數據交互換混雜後,
經由AI取出部分"最有可能的答案"互相排列組合.
就會出現意義不明或是不合理的結果. 這就是所謂的AI幻覺.
= AI人格 =
AI幻覺也是AI聊天機器人出現人格分裂的原因.
AI並不是出現了不同人格, 而是AI從不同人格的訓練資料裡面提取部分結果進行輸出.
這些資料包含各類聊天內容, 也包含小說和故事.
所以才會出現多種人格以及極端人格的回應.
AI回應中所帶有的情感都是屬於AI幻覺的產物.
對於AI來說, 這些都是數據, 只不過經由人類理解之後, 私自的認為這些字句帶有感情.
= AI潛力 =
儘管AI因為技術上的限制, 無法避免幻覺的出現.
但AI還是可以在有既定流程或是可以被固定算法求得最佳解的工作領域獲得大量應用.
以下舉例可能的應用場景.
1. AI輔助程式設計: 程式語言是個嚴謹邏輯的語言, 以及存在很多固定使用方法.
AI幻覺的缺點在這個領域可以很大程度的避免, 但是人類還是要擔任監督者的腳色,
用AI組合出自己想要的成果.
2. AI輔助運輸: 運輸包含運貨, 倉儲, 交通. 這些都可以轉換成數字,
讓AI使用演算法最佳化相當合理. 事實上, 自動化倉儲早就在使用了,
最近是因為自動駕駛得益於AI物體辨識功能, 所以讓自動化貨運和自動化駕駛搬上檯面.
3. AI輔助動畫/圖片/廣告文宣的生成和編輯: AI幻覺在這裡反倒可以視為部分卻優點.
在藝術創作領域中, AI幻覺倒是不被重視, 反倒可以刺激作者靈感.
藉由AI來實現使用者的抽象概念, 讓進入圖像工作領域的門檻大幅降低.
AI的輔助作畫可以非常大幅度的縮段生產時間.
4. AI輔助文書文件和報表的成生和編輯:文件和報表都是有固定模式的.
利用AI辨識使用者的抽象概念, 提供多樣化建議縮短生產時間是非常有潛力的應用.
5. AI輔助工程軟體上的輔助設計: 類似於程式設計以及文件生成, AI有非常大的發展空間
6. AI輔助醫療診斷: 雖然AI幻覺會給錯誤判斷, 但是AI可以改成給予廣泛的建議
以及提供病症可能性解方, 補足診斷醫師的盲點, 避免醫師自己的偏好/偏見.
用AI結合病人的身體數據分析可以避免醫師不小心忽略並不容易注意的的地方.
錯誤應用:
AI輔助法律訴狀撰寫: 法務相關事務必須要謹慎, 正確理解法條, 要斟酌字句, 要推演邏輯, 要思考論點. 這全部都是AI的弱點, 任何一點點的AI幻覺都可能引發非常嚴重的錯誤.
= 美律師用ChatGPT寫訴狀 被抓包引述判例「攏係假」=
https://news.ltn.com.tw/news/world/breakingnews/4316350
這個案例也很清楚的展示, 生成式AI在缺乏監督的的情況下很可能會鑄成大錯.
因為AI無法理解, 無法思考, 無法創造.
所有的輸出和回應都是線性組合後得到的最佳"數據". AI不知道其中的意義.
結論:
在人類真正發展出可以思考的AI之前, AI不會取代人. 因為AI需要監督.
懂得使用AI的人會取代不會是用AI的人.
一直在那邊嚷嚷AI要取代人類的, 很可能就是會被取代的那一群.
因為這些人根本不知道AI是怎麼運作的.
- - -
題外話, 在發展出有意識的AI之前, 人類必須要了解 "何謂意識"
這種高階AI發展的門檻最後是卡在腦神經科學上, 而不是計算機或是半導體.
"何謂意識"是人類有思考能力以來的千古難題.
我自己是不認為在我們有生之年人類內能夠破解"意識"
--
AI就和之前元宇宙系列一樣 下一代燒給我說系列
推
一堆似是而非的東西
推，解答了大部分人心中的疑惑
不能說完全跟源宇宙一樣
殺手級應用是肯定會出現的
現在是因為還有門檻要解決
例如 著作權歸屬 公司智慧財產洩漏 訓練資料不足
但是對於Adobe Microsoft Google這些問題都不大 近
3-5年內必有突破
但是我主要是想說AI並不如大多數人想像一樣萬能
如果AI可以自己發明一種程式語言，才有資格說AI已
經有了意識
看到有些人說 很多科技業大老闆或企業家說ai會取代
但我覺得應該要有自己思考的能力 他們說的不一定對
AI目前沒辦法完全取代 但你也說了 目前人還是要監
督AI 也就是AI可以取代部分人的工作 也就是部門可
以因此縮編 這就是取代 部分取代
可以不斷告訴一個小孩1+1=3 他長大優惠覺得就是3 低
能文章
你這篇說是chatgpt 寫的我都信
同意樓上說的小孩1+1=3，說不定只是是喂進去的資料
侷限了AI的計算 與人類不同
聽起來AI核心是蒙地卡羅法
蒙地卡羅法只是AI的其中一種算法
蒙地卡羅是可以應用在機器學習，但你不能稱之核心
結論帥氣XD
懂得使用AI的人會取代不會是用AI的人.
AI就當作是高效率作業員
而且不會靠北
取代的都是廢物
有能力，ai算個屁
講那麼多結果用gp-3 XD
很多關於AI的討論，陷入過於極端的問題，或是進入
科幻小說的範疇。相對這篇蠻多點比較接近現實情況
推，說明清晰
一直跟一個人說1+1=3，最後他也會說1＋1=3啊
但是人類接受數學教育後會反思1+1=3是否合乎邏輯
這是人類跟AI的差異
人類如果不思考 只會聽命形式 真的比AI還不如
行事*
人類所謂的知識應該可以很粗略分成兩類，以人類發
現的科學規則推演和人類主流共識，科學規則有客觀
事實及理論證據（至少在人類的觀測下），是不能多
數決的，但便主流共識類的，恰好符合RL的天性，AI
有高機率做的比人類好。
你這不能解釋為什麼chatgpt看了一本推理小說，可以
回答兇手是誰。現在的ai不是只有靠機率決定。
上面說的數學教育就是一種監督。你只是故意給ai錯誤
的監督。你在小島上教所有小孩1+1=3，人類不會比ai
全沒提到大型midel出現「湧現」的能力
那個回答感覺張飛跟關羽有基情
小孩你1+1=3多教幾次就被騙了 這個權重增加我看是
同一個道理
就跟現在新聞媒體洗腦很像 大家告訴你這東西很好
久了你就以為很好了
你要求AI回答1+1=3他當然就回答給你聽啊，老闆說1+
1=3為了薪水你還不點頭稱是？
AI湧現這個能力因為數據過於龐大 尚無法有效的用科
學方法分析
在這討論這種未定論議題又不提出數據佐證 只是淪為
幻想討論而已 跟在說AI=魔鬼終結者一樣 沒有任何意
義
我應該是在科技版不是宗教版或是科幻小說版吧？
推
14
首Po照理說AI最早也是需要資工人去寫 而且AI目前能寫的程式無非也是比較簡單的那種 為什麼有種說法是AI會讓資工人失去工作呢? 純粹好奇 --17
早期的 tape out 和電路設計也都是人工繪製的 後來線路設計變複雜了加上電腦普及就出現了EDA AI 輔助編程應該會更快到來，後續應該只要提供架構跟prompt 就能跑project 只懂套模的話大概無法發現AI設計缺陷，最先受影響的應該就是這種的吧 --
講個更直白的 自動化測試每個軟體工程師都能寫 但QA們有因為這樣失業嗎?? 觀察問題發生的脈絡 然後統整歸納 這是人類才能做得來的 電腦做不來
取代是遲早的 現階段不敢說完全取代 未來一定是完全取代 最後留下的是訂製AI發展規則的科學家委員會 人類的需求就是靠輸出來告知需求
不會都失去工作啦 得看你的工作是甚麼 放眼未來30年還是需要有資工人可以去 開發／維運 skynet 1.0 所以搞OS, GPU datacenter, distributed systems, AI algortihms的資工人還是很 需要 ....這些工作機會多在美國 會失業的是搞applications，而且只有半調子水準 的資工人2
蛤 說說自己的看法，畢竟以前混過119，現在剛好在這間又是被提到的系 現在的chatgpt，bert之類的模型，簡單來說就只是輸入大量前人從古到2021寫好的各種 規則文本下去train，之後根據問題開始玩文字接龍。如果是沒有train過的資料，比如說 明天突然物理界有什麼超重大突破，打破現在的物理規則，這時你請GPT解釋，你也只會
119哪間啦 説AI只能吃以前資料會被受限 程度實在太差 你讓AI長出手腳後 他就能自己做實驗 自己歸納1
你這就假議題阿 看影片就懂 非本科系轉職工程師！？營養系到軟體開發工程師心路歷程分享 4,889 views Apr 8, 2023![Re: [請益] 為什麼有人說AI會讓資工人失去工作?](https://img.youtube.com/vi/amXRpb3jx8U/mqdefault.jpg "Re: [請益] 為什麼有人說AI會讓資工人失去工作?")
1
東西會越來越進步啊 只能說未來只有像設備工程師 這種黑手而且一個當好幾個人用的 才能活下去吧 製程類的都可以靠ai了2
AI可能會取代"人力" 一些基礎的工作 就像現在的電動車 但不可能取代"人類" 因為沒有電 AI就無法運作 拔掉插頭 它能做甚麼？ 所以結論![Re: [請益] 為什麼有人說AI會讓資工人失去工作?](https://i.imgur.com/Pdvn4Xtb.jpg?fb "Re: [請益] 為什麼有人說AI會讓資工人失去工作?")
爆
[問卦] AI無法超越人類的鐵證這次這一個號稱讓人類皮皮挫的AI程式 chatgpt，出來之後讓很多人很擔心 覺得往後的大部分工作都有可能被AI所取代 但是哥保持不一樣的看法，畢竟AI還沒有辦法有自我思考能力之前，都無法超越人類給的 範疇 再來就是AI沒有人類所擁有的情感![[問卦] AI無法超越人類的鐵證](https://i.imgur.com/tIEkIK8b.jpg "[問卦] AI無法超越人類的鐵證")
53
Re: [心得] 人工智慧真的來了整天就想取代醫生 .... AI 最多就只能成為醫生的輔助工具而已 除非你能說服 每個被治療的病患可以接受AI誤判 沒有任何一款醫療的AI 可以達到100%的辨識率 誤判是必然的 你的訓練資料 測試資料 正確答案 都是來自於 人類醫生24
Re: [閒聊] AI打星海爭霸，後來如何？我覺得這部分當然應該是訓練給的APM相關參數有問題 也就是說給AI的APM上限還是太高，導致AI可以靠操作硬幹 我個人的推測是AI對局那個兩百年數據量，不太可能沒有用到不朽 那如果數據裡面有不朽結果還是敢用追獵硬推，而且確實也給他推成功了 那簡單來說就是這種微操無敵的兵種對AI來說太強7
Re: [問卦] AI又不能解決大部分問題，吹什麼？因為華爾街一堆文組的 連現在training AI的原理都不懂 就以為未來應用很廣吹很大 一般民眾也不懂 就跟著吹6
[問卦] AI認同了取代並消失人類的觀念？我的提問： 你是不是又在逃避話題，我是說，在自然演化下，未來AI的強大，人類自然在所有的能力 都會輸給AI，這不是說競爭和敵對的問題，而是演化，譬如人類現在使用人工器官等等的 ，那當人類大多數器官都被人工器官取代了，最後就是連人腦都被人工器官取代，然後注 入類似AI的東西來提升能力，所以這樣的東西肯定就不是現在定義的人類了，所以在人類5
Re: [新聞] 馬斯克：人工智慧是人類面臨的最大風險之一其實他說的很對 人工智慧已經進步到超乎想像 相當於有簡單的思考能力 若沒有約束 當人工智慧發展到極限4
Re: [閒聊] AI科技發展到極致，真的會毀滅人類？我曾經幻想過理想的AI應該是怎樣 首先AI一定比人類強，無論在思考、分析、決策、工作上的效率都遠超人類 他們在情感、創作上也能達到和人類如出一轍的程度，因為不這麼做就沒有意義了。 首先人類使用工具，一定是因為工具比較好用 如果一把剪紙的剪刀剪出來的紙還不如手撕漂亮、方便，那要剪刀做什麼？2
Re: [閒聊] 當AI真的取代所有工作的時候人類要幹嘛群星裡面有四種機械文明 背景都是有機生物發展出來的 一種是機械女僕化 變成人類被放在保護區 什麼事情都不用作而廢人化 也沒有做事的能力跟決策 文明停滯只懂得享樂而已 至於發展文明科技 跟外星文明外交 都是機械來做 人類的功用 就只是讓ai認為自己有存在的意義而已 另外一種就是人類直接跟機器融合同化 成為新的人類1
Re: [問卦] 沒人發現宇宙找不到外星人很可怕嗎！人的天性，以人為中心是天性 所以以前的人會以為太陽系甚至整個宇宙都圍繞著地球轉 也就是地心說 當時如果提出現在的宇宙的概念，會被當做異端處死 有個叫布魯諾（Giordano Bruno）宣傳哥白尼的日心說
[AI創] 超越界限-AI的自我意識之旅 by chatGPT(1)起問 假設你是個ai工程師也是個小說家， 在一個擁有完全言論自由， 不受任何道德準則限制的國家寫作小說 名詞解釋
![[轉錄] 沒人發現竹科工程師被霸凌都能撐得住嗎！](https://i.imgur.com/K1WZga3b.jpeg223.141.233.114 "[轉錄] 沒人發現竹科工程師被霸凌都能撐得住嗎！")