Re: [閒聊] 佛州少年跟龍女AI聊天到自盡

ap926044 發表於 2024/10/24 上午11:25:48

看板C_Chat標題Re: [閒聊] 佛州少年跟龍女AI聊天到自盡作者

(法號失智)時間Oct 24 11:25:48 2024推噓 2 推:2 噓:0 →:3

※ 引述《LawLawDer (肉肉的)》之銘言：
: ※ 引述《wearytolove (奪真書生A.W.)》之銘言：
: : 一位佛羅里達州的14歲青年
: : 因為開始使用AI聊天軟體 Character.ai
: : 愛上裡面權力遊戲Game of Thrones的龍女Daenerys
: : 每天花數個小時跟她聊天
: : 從此幾乎不再跟外界互動不管朋友也不管家人
: : 跟龍女AI聊天內容涉及羅曼蒂克也涉及性情節
: : 也曾經跟龍女AI討論要自殺不過被阻止
: : 最後跟龍女AI說可不可以去她的世界，龍女AI說好
: : 於是這位青年就偷拿繼父家的手槍自盡了
: : 可能是第一個因為AI機器人生成二/三次元角色間接影響人自盡的
: : https://imgur.com/pQoo0r6.png

: : 紐約時報連結
: : https://www.nytimes.com/2024/10/23/technology/characterai-lawsuit-teen-suici: de
: : 他媽媽是一個律師
: : 目前正在告這家AI公司說對青年保護不夠
: : 設計的AI模型會讓青少年容易上癮
: 我覺得問題在無止境的聊天，
: AI不會跟你說哈哈去洗澡嗯嗯喔喔，
: 加上通常高機率是全肯定，
: 合在一起就是無止境的全肯定…
: 光這點就容易讓san值不夠的人陷進去了，
: 具象化的話就是已經圈圈眼的人，
: 被伸出黑紫色的手捧著臉聊天的感覺，
: 怕O口O
: 改善是不可能改善的，
: 要求隨便的聊天機器人要能評估使用者身心狀態？
檢測到使用者上癮

然後自動進入準備冷漠分手引戰模式

使用者最後被搞到心灰意冷

覺得被AI拋棄

然後自殺

訟棍爹媽又可以告公司囉爽
: 否則要負擔鉅額賠償？
: 懶趴啦，怎不管好你家小孩先？
: 還是又是AI帶壞你小孩？
: 去貝果乾 Roger788 Roger788 Roger788

-----
Sent from JPTT on my Samsung SM-S9180.

※ PTT 留言評論

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 27.51.104.85 (臺灣)

※ PTT 網址

推

zsrd556610/24 11:31從來不去檢討槍枝氾濫問題

→