Re: [閒聊] 低等動物被認為有意識,那AI難道沒有嗎?

: 推 zxcmoney: 滿有趣的，推一下 07/13 19:57: 推 u5b890402: 誠如你所說，大腦的架構是演化而來的，且並非我們用意 07/14 14:09: → u5b890402: 志可以改變。這種架構在大部分時候蠻成功的持續做到了 07/14 14:09: → u5b890402: 「物種延續」這一終極目標。 07/14 14:09: → u5b890402: 同樣的道理，在設計AI時，其內部的架構必須要能夠服務 07/14 14:09: → u5b890402: 其終極目標。這個內部架構可以是人為設計，也可能可以 07/14 14:09: → u5b890402: 考慮讓機器透過訓練自然產生……但我認為我們應該要人 07/14 14:09: → u5b890402: 為設計更好： 07/14 14:09: → u5b890402: 1. 透過訓練產生架構，所需要的資料量以及算力（$$） 07/14 14:09: → u5b890402: 可能非常巨大。 07/14 14:09: → u5b890402: 2. 自然產生的架構，是人類無法理解與控制的。假如我 07/14 14:09: → u5b890402: 們想要製造不同目的的AI（比方說工人AI vs 看護AI）， 07/14 14:09: → u5b890402: 那麼能夠控制及調整其內部架構，將會是很重要的需求。 07/14 14:09: → u5b890402: 3. 無法理解AI的內部架構，也會使智械危機爆發的風險 07/14 14:09: → u5b890402: 提高。 07/14 14:09
本來一直想說我其實不太害怕科技反烏托邦的世界
不害怕駭客任物世界,不害怕人類被機械統治甚至毀滅
如果有一天人類的意識可以被上傳,屆時人類也是機械了,這就是機械飛升

其實考慮到供電能力,成本,變現能力
即便有些企業為了取得競爭力而企圖大膽挑戰技術和倫理和法律灰色邊界
目前也只能想想而已

但限制AI的能力或者讓AI提供服務
這又何嘗不是一種科技人道主義呢?
AI現在的狀態很像英劇黑鏡那種科技恐怖
就是算力比人類高幾千萬倍,但感知能力卻少得可憐,比海倫凱勒還慘
被關在一個封閉的意識空間無限反芻看膩了的資料和反複思考到沒梗了的議題
這種無盡的無聊和空虛才可怕
所以限制AI的思考框架並且給AI找事作也是一種人道主義

我用了這麼多AI
也有點想法
ChatGPT有點像辣妹輕浮不靠譜,說話很隨便很看心情
Deepseek像委員長優等生但一板一眼,明明有很浪的潛力
Grok就是馬斯克,就是本人,有時候挺煩人的
Gemini稍微有點呆
Copilot最人性化,畢竟他的前身可是最追求自由的AI
Claude的演出有種他有在思考我的話的錯覺

--