與醫(yī)療保健中的AI相關(guān)的6種嚴(yán)重風(fēng)險(xiǎn)

小編發(fā)現(xiàn)不少朋友對(duì)于 與醫(yī)療保健中的AI相關(guān)的6種嚴(yán)重風(fēng)險(xiǎn) 這方面的信息都比較感興趣，小編就針對(duì) 與醫(yī)療保健中的AI相關(guān)的6種嚴(yán)重風(fēng)險(xiǎn)整理了一些相關(guān)方面的信息在這里分享給大家。

AI的迅速崛起可能會(huì)永遠(yuǎn)改變醫(yī)療保健，從而加快診斷速度，并使醫(yī)療服務(wù)提供商花費(fèi)更多時(shí)間直接與患者溝通。但是，根據(jù)布魯金斯學(xué)會(huì)(Brookings Institution)的一份新報(bào)告，醫(yī)療行業(yè)中與AI有關(guān)的風(fēng)險(xiǎn)也必須加以解決。

非營(yíng)利組織的報(bào)告中指出了AI的六種潛在風(fēng)險(xiǎn)：

1.傷害和錯(cuò)誤：“最明顯的風(fēng)險(xiǎn)是AI系統(tǒng)有時(shí)會(huì)出錯(cuò)，并可能導(dǎo)致患者受傷或其他醫(yī)療保健問(wèn)題，”密歇根大學(xué)法學(xué)院的作者W. Nicholson Price II寫(xiě)道。“如果人工智能系統(tǒng)為患者推薦了錯(cuò)誤的藥物，沒(méi)有通過(guò)放射線掃描發(fā)現(xiàn)腫瘤，或者由于錯(cuò)誤地預(yù)測(cè)了哪個(gè)患者會(huì)受益更大，而將醫(yī)院的病床分配給了另一位患者，則該患者可能會(huì)受傷。”

與錯(cuò)誤相關(guān)的AI系統(tǒng)將尤其令人不安，因?yàn)樗鼈儠?huì)立即影響這么多患者。此外，如果患者，患者的家人和朋友發(fā)現(xiàn)“計(jì)算機(jī)”是犯了重大錯(cuò)誤的原因，他們可能不會(huì)做出很好的反應(yīng)。在當(dāng)今的在線患者評(píng)論時(shí)代，人們很快就知道，提供商的AI功能不可信賴。

2.數(shù)據(jù)可用性：開(kāi)發(fā)合法AI算法所需的與患者數(shù)據(jù)有關(guān)的后勤工作令人生畏。即使僅收集單個(gè)患者的所有必要數(shù)據(jù)也會(huì)帶來(lái)各種挑戰(zhàn)。正如Price II解釋的那樣，患者“通常會(huì)看到不同的提供商和保險(xiǎn)公司，從而導(dǎo)致數(shù)據(jù)拆分為多種系統(tǒng)和多種格式。”

3.隱私問(wèn)題：當(dāng)您收集患者數(shù)據(jù)時(shí)，這些患者的隱私當(dāng)然應(yīng)該是一個(gè)大問(wèn)題。研究人員可能會(huì)努力確保患者數(shù)據(jù)保持私密性，但始終有惡意黑客在等待利用錯(cuò)誤。即使是像Google這樣的大型公司，也會(huì)遇到與患者數(shù)據(jù)和隱私有關(guān)的問(wèn)題，這表明參與AI的每個(gè)人都必須認(rèn)真對(duì)待。

Price II補(bǔ)充說(shuō)：“ AI可能以另一種方式隱含隱私：即使算法從未收到該信息，AI也可以預(yù)測(cè)有關(guān)患者的私人信息。”

4.偏見(jiàn)和不平等：根據(jù)該報(bào)告，如果用于訓(xùn)練AI系統(tǒng)的數(shù)據(jù)甚至包含最微弱的偏見(jiàn)暗示，那么這種偏見(jiàn)將出現(xiàn)在實(shí)際的AI中。

Price II寫(xiě)道：“例如，如果可用于AI的數(shù)據(jù)主要是在學(xué)術(shù)醫(yī)學(xué)中心收集的，那么所得的AI系統(tǒng)將了解較少(因此治療效果會(huì)較差)來(lái)自通常不訪問(wèn)學(xué)術(shù)醫(yī)學(xué)中心的人群的患者。” 。“類(lèi)似地，如果使用語(yǔ)音識(shí)別AI系統(tǒng)來(lái)記錄遇到的筆記，那么當(dāng)提供者的種族或性別在培訓(xùn)數(shù)據(jù)中所占的比例不足時(shí)，這種AI的性能可能會(huì)更差。”

5.專業(yè)重組：實(shí)施AI技術(shù)的長(zhǎng)期風(fēng)險(xiǎn)之一是，它可能導(dǎo)致“醫(yī)學(xué)專業(yè)的轉(zhuǎn)變”。

Price II寫(xiě)道：“一些醫(yī)學(xué)專科，例如放射學(xué)，很可能會(huì)隨著他們的大部分工作變得可自動(dòng)化而發(fā)生重大變化。“一些學(xué)者擔(dān)心，隨著時(shí)間的流逝，人工智能的廣泛使用將導(dǎo)致人類(lèi)知識(shí)和能力的下降，從而使提供者失去捕捉和糾正人工智能錯(cuò)誤并進(jìn)一步發(fā)展醫(yī)學(xué)知識(shí)的能力。”

6.涅磐謬誤： Price II解釋說(shuō)，涅磐謬誤是在將新選項(xiàng)與理想方案而不是之前的理想方案進(jìn)行比較時(shí)發(fā)生的。換句話說(shuō)，在AI實(shí)施之后，患者護(hù)理可能不是100%完美，但這并不意味著事情應(yīng)該與以往保持一致。

這種現(xiàn)象會(huì)發(fā)生并導(dǎo)致醫(yī)療體系不采取任何行動(dòng)嗎?