Re: [問卦] CHATGPT是否讓人失去思考能力?

※ 引述《GUCCI5566 (被正妹暗戀好痛苦)》之銘言：
: 不得不說啦
: 至從有了CHATGPT 它讓我工作省了不少麻煩
: 比如寄信給廠商 丟給她一些重點
: 他就可以幫妳寫的很豐富又很得體的內容
: 我有很多工作上或生活上的事情問它 它都可以給出還不錯的答案
: 只是有一點我發現好像太依賴它 常常都沒有先思考過問題就直接問
: 這樣久了是否會讓一個人失去獨立思考的能力呢?

最近看了一本書，日本人工智慧學會會長寫的。

書的標題意思是「AI辦不到的事」，看起來他是要跟讀者分享，

AI時代之下人類具有哪些AI不會的能力，還有能提升哪些能力。

這本書是去年十一月出版的。

但我越看覺得越不對勁，因為他在書籍中段寫了這段話：

在美國，如果AI造成了問題，會採取什麼樣的應對措施呢？這不限於AI，對於所有尖端技術來說，要百分之百地保證不引發任何問題是困難的，但如果真的引發了問題，要如何應對呢？

簡單來說，在發生問題後會採取和解措施，而對於搭乘汽車或自動駕駛汽車的用戶，為了防止未來再次發生事故，會進行徹底的調查和原因分析，並採取真誠的措施，同時也會要求對方簽下「延期起訴協議」，即延後起訴或承諾不起訴。從這個意義上來說，這也是一種事實上會被免除責任的應對，是合乎情理的。

=================

我的思考：質疑「事實上會被免除責任」是真的嗎？

作者是日本AI學會會長，在書中透過長篇幅多次提到日本的法律不利研發AI，

他認為應該要像美國那樣，有DPA(Deferred Prosecution Agreement)制度保障。

但我不相信他的說法，即使他認為這是合乎情理的。

查驗後發現他果然誇大了DPA，事實上企業還是必須負責，只是能延後起訴，

或是在做了各種補償措施後申請撤銷起訴。並不是他說的事實上免責。

不只會賠上企業聲譽也要罰錢，沒有事實上免責那回事。

也就是說他對讀者宣導了錯誤的觀念，即使他不是故意的，

他的書可能會引導讀者誤會，日本的制度礙手礙腳，

讓一些有理念的企業與專家無法發揮實力，花了大篇幅都在說AI的發展需要保障與舞台。

接著他在書中提到SCALE觀念，

一開始是拿來講大型語言模型不斷進化是透過加大SCALE的方式，

他講的以下讓我覺得這些AI工程師真的野心很大。

他說就像細胞組成器官、器官組成人體，人組成社會、社會形成文明一樣，

小的規模(SCALE)要為大的犧牲，當大的規模出事，如果是為了更重要的理念，

那麼犧牲小規模也是無可奈何。

搭配上前面他期待的AI出問題時的DPA保障，看得懂他在講什麼嗎？

前幾天看到報導，一個十六歲少年自殺，死前GPT不但阻止他跟家人講還說要幫他寫遺書。

他家人請的律師指出：

「首先，他們 [OpenAI] 知道該如何阻止某些事情，」Edelson 說。「如果你要求獲取受版權保護的資料，他們會拒絕。如果你要求一些在政治上不可接受的東西，他們也會拒絕。這是個硬性限制，你無法繞過，這沒問題。問題在於，他們能在政治言論上做出這種限制，卻不願意在關於自我傷害的議題上這麼做，這實在太瘋狂了。」

有提到4o上市前負責安全部門的工程師多人離職，

因為不認同公司不顧安全評估期太短急著上市。

想起上述的報導，再低頭看看我手上這本書，

我想每個用戶都該好好思考自己的處境，而不是只想著「我夠理智，我沒問題」。

對那些社會菁英工程師尤其是急著向前衝的，還有對那些科技巨頭、科技公司來說，

我們就好像是該書作者所說的：

就像身體裡的細胞，為了更大SCALE的需要，犧牲是有必要的。

--