PTT評價

Fw: [新聞] AI藏種族歧視因子 清大跨國團隊揭醫

看板Gossiping標題Fw: [新聞] AI藏種族歧視因子 清大跨國團隊揭醫作者
RhinoXiNiu
(犀牛望月)
時間推噓 8 推:8 噓:0 →:7

※ [本文轉錄自 NTHU_Talk 看板 #1YgN4XF3 ]

作者: ryanw ( ) 看板: NTHU_Talk
標題: Re: [新聞] AI藏種族歧視因子 清大跨國團隊揭醫
時間: Wed Jun 15 13:41:48 2022

嗨大家好,我是郭老師的學生也是這個研究團隊的成員之一,這幾天看到不管臉書ptt上都看
到很多人對我們的這個研究有些誤解,所以想藉此來澄清一下,很多人說這只是data的問題,大家有在做ml的應該都知道data很重要,但在現實生活中很難有真正完美balance的dataset,大部分的dataset都是有些缺陷的,正是因為有這些缺陷所以ml領域的很多人才會一直不
斷改良去加強ml model的能力,我們使用的dataset是由MIT所收集的MIMIC-CXR dataset,其
中種族是有病人self-report的,疾病是由醫生去看過X光片後做診斷後得來的,這些過程中都包含了人的因素在其中,有了人的因素就免不了這些data可能存在bias,而目前公開的X光
片資料集的收集大部分都是這個流程,所以我們要做的是找方法讓model在學習時能忽視這些
bias,而不是就說dataset有問題然後就啥都不做。

還有一點我們在paper中使用的字都是bias,我們主要想表達的是”偏差”,並非強調歧視這個意思。

再來就是想簡短的跟大家說明一下這個研究的內容,首先ai 可以分種族完全是個意外發現,
有了這個發現後就聯想到前些日子一篇paper是講述關於shortcut learning( reference放下
面),因為ai在分種族的能力非常的強,我們擔心種族會被ai當成shortcuts來使用,簡單來說就是ai把種族當成判斷疾病的重要依據而不是拿病理特徵來判斷疾病,而有這樣的想法就是因為另一組團隊發現種族間no finding 的false positive rate (aka 有病說成沒病)有bias,所以我們想要讓ai沒辦法從影像中抓到種族的特徵,迫使ai去學習病理的特徵來去縮小
bias。

主要是我的帳號還沒達到八卦版天數要求,所以只能在這裡回,有興趣的可以幫我轉到八卦版讓大家看。

Reference:
發現ai 可以分種族的paper: https://bit.ly/3mKYsLc
MIMIC-CXR: https://arxiv.org/abs/1901.07042
Shortcut learning: https://go.nature.com/3tCXdBo
種族間診斷結果有差異的paper: https://go.nature.com/3HwPnPK
----
Sent from BePTT on my iPhone 13

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.227.186.21 (臺灣)
※ 文章網址: https://www.ptt.cc/NTHU_Talk/M.1655271713.A.3C3

ryanw: 哭啊排版好爛,請大家見諒 06/15 13:43
greeddeer: 推 06/15 14:24
LaAc: 幫高調 06/15 14:42
fksnkwg: 推 06/15 17:29
kevin1212: 推上學期助教 用電腦打比較好排版啦 用手機能打這麼多 06/15 20:05
kevin1212: 字也是很厲害 06/15 20:05
brunomarsfan: 好厲害 幫推 06/15 22:42

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc) ※ 轉錄者: RhinoXiNiu (36.227.186.21 臺灣), 06/16/2022 01:03:22

headcase 06/16 01:04嗯嗯 跟我想的一樣^_^

jyunwei 06/16 01:06講解的很清楚

jyunwei 06/16 01:09是說所以某種程度這算不算AI在運用刻板

jyunwei 06/16 01:09印象,例如許多黑人運動能力好造成的刻

jyunwei 06/16 01:09板印象,後來選運動員乾脆只挑黑人而不

jyunwei 06/16 01:09是去測試運動能力

buyaobuyaode 06/16 01:19請問你們的positive是指得病嗎?如

buyaobuyaode 06/16 01:20果是,那FP應該是沒病說成有病?

Takhisis 06/16 01:20好像很厲害 推一下

GOD5566 06/16 01:25這些淺薄的東西八卦版不屑知道

xhung 06/16 01:50原來如此 聽起來簡單的原理 做起來卻很難

kevin552216 06/16 02:18前ㄧ陣子看cheap大的納粹影片, 如何

kevin552216 06/16 02:18分辨猶太人, 不知道未來會不會有狂人

kevin552216 06/16 02:18用AI來種族清洗

adsl12367 06/16 03:22嗯嗯跟我想的一樣