與醫(yī)療保健中的AI相關的6種嚴重風險

小編發(fā)現(xiàn)不少朋友對于 與醫(yī)療保健中的AI相關的6種嚴重風險 這方面的信息都比較感興趣，小編就針對 與醫(yī)療保健中的AI相關的6種嚴重風險整理了一些相關方面的信息在這里分享給大家。

AI的迅速崛起可能會永遠改變醫(yī)療保健，從而加快診斷速度，并使醫(yī)療服務提供商花費更多時間直接與患者溝通。但是，根據(jù)布魯金斯學會(Brookings Institution)的一份新報告，醫(yī)療行業(yè)中與AI有關的風險也必須加以解決。

非營利組織的報告中指出了AI的六種潛在風險：

1.傷害和錯誤：“最明顯的風險是AI系統(tǒng)有時會出錯，并可能導致患者受傷或其他醫(yī)療保健問題，”密歇根大學法學院的作者W. Nicholson Price II寫道。“如果人工智能系統(tǒng)為患者推薦了錯誤的藥物，沒有通過放射線掃描發(fā)現(xiàn)腫瘤，或者由于錯誤地預測了哪個患者會受益更大，而將醫(yī)院的病床分配給了另一位患者，則該患者可能會受傷。”

與錯誤相關的AI系統(tǒng)將尤其令人不安，因為它們會立即影響這么多患者。此外，如果患者，患者的家人和朋友發(fā)現(xiàn)“計算機”是犯了重大錯誤的原因，他們可能不會做出很好的反應。在當今的在線患者評論時代，人們很快就知道，提供商的AI功能不可信賴。

2.數(shù)據(jù)可用性：開發(fā)合法AI算法所需的與患者數(shù)據(jù)有關的后勤工作令人生畏。即使僅收集單個患者的所有必要數(shù)據(jù)也會帶來各種挑戰(zhàn)。正如Price II解釋的那樣，患者“通常會看到不同的提供商和保險公司，從而導致數(shù)據(jù)拆分為多種系統(tǒng)和多種格式。”

3.隱私問題：當您收集患者數(shù)據(jù)時，這些患者的隱私當然應該是一個大問題。研究人員可能會努力確?；颊邤?shù)據(jù)保持私密性，但始終有惡意黑客在等待利用錯誤。即使是像Google這樣的大型公司，也會遇到與患者數(shù)據(jù)和隱私有關的問題，這表明參與AI的每個人都必須認真對待。

Price II補充說：“ AI可能以另一種方式隱含隱私：即使算法從未收到該信息，AI也可以預測有關患者的私人信息。”

4.偏見和不平等：根據(jù)該報告，如果用于訓練AI系統(tǒng)的數(shù)據(jù)甚至包含最微弱的偏見暗示，那么這種偏見將出現(xiàn)在實際的AI中。

Price II寫道：“例如，如果可用于AI的數(shù)據(jù)主要是在學術醫(yī)學中心收集的，那么所得的AI系統(tǒng)將了解較少(因此治療效果會較差)來自通常不訪問學術醫(yī)學中心的人群的患者。” 。“類似地，如果使用語音識別AI系統(tǒng)來記錄遇到的筆記，那么當提供者的種族或性別在培訓數(shù)據(jù)中所占的比例不足時，這種AI的性能可能會更差。”

5.專業(yè)重組：實施AI技術的長期風險之一是，它可能導致“醫(yī)學專業(yè)的轉變”。

Price II寫道：“一些醫(yī)學?？疲绶派鋵W，很可能會隨著他們的大部分工作變得可自動化而發(fā)生重大變化。“一些學者擔心，隨著時間的流逝，人工智能的廣泛使用將導致人類知識和能力的下降，從而使提供者失去捕捉和糾正人工智能錯誤并進一步發(fā)展醫(yī)學知識的能力。”

6.涅磐謬誤： Price II解釋說，涅磐謬誤是在將新選項與理想方案而不是之前的理想方案進行比較時發(fā)生的。換句話說，在AI實施之后，患者護理可能不是100%完美，但這并不意味著事情應該與以往保持一致。

這種現(xiàn)象會發(fā)生并導致醫(yī)療體系不采取任何行動嗎?