新算法可以幫助解決AI的黑匣子挑戰(zhàn)

根據(jù)健康影像公司的一份報(bào)告，來(lái)自波士頓麻省總醫(yī)院(MGH)的研究人員設(shè)計(jì)了一種深度學(xué)習(xí)算法，提供了其決策背后的理由，這可以幫助解決與AI相關(guān)的透明性問(wèn)題。

根據(jù)這項(xiàng)研究(最初在線(xiàn)發(fā)表在《自然生物醫(yī)學(xué)工程》上)，深度學(xué)習(xí)算法通過(guò)“注意力圖”揭示了其推理，該注意力圖突出了用于預(yù)測(cè)的圖像上的重要區(qū)域。該功能還消除了放射科醫(yī)生對(duì)用于訓(xùn)練大多數(shù)深度學(xué)習(xí)模型的大型高質(zhì)量數(shù)據(jù)集進(jìn)行注釋的需求。

人工智能中的“黑匣子”挑戰(zhàn)是指基于人工智能的系統(tǒng)無(wú)法解釋其如何做出特定決策。醫(yī)學(xué)專(zhuān)家廣泛討論了AI和機(jī)器學(xué)習(xí)中的透明度問(wèn)題。在最近的一篇文章中，專(zhuān)家們列舉了在A(yíng)I時(shí)代改善臨床決策支持系統(tǒng)(CDSS)的幾種方法，并將透明度納入系統(tǒng)是最優(yōu)先考慮的事情。

總體而言，使用不到1000張圖像對(duì)深度學(xué)習(xí)算法進(jìn)行了訓(xùn)練，以檢測(cè)顱內(nèi)出血(ICH)并在未增強(qiáng)的頭部CT掃描中對(duì)五種亞型進(jìn)行分類(lèi)。研究人員發(fā)現(xiàn)，與經(jīng)過(guò)培訓(xùn)的放射科醫(yī)生相比，該模型具有相當(dāng)?shù)臏?zhǔn)確性，但靈敏度更高。