新算法可以幫助解決AI的黑匣子挑戰(zhàn)

2022-08-31 12:38:51 編輯：黃超純來源：

導讀根據(jù)健康影像公司的一份報告，來自波士頓麻省總醫(yī)院(MGH)的研究人員設計了一種深度學習算法，提供了其決策背后的理由，這可以幫助解決與AI...

根據(jù)健康影像公司的一份報告，來自波士頓麻省總醫(yī)院(MGH)的研究人員設計了一種深度學習算法，提供了其決策背后的理由，這可以幫助解決與AI相關的透明性問題。

根據(jù)這項研究(最初在線發(fā)表在《自然生物醫(yī)學工程》上)，深度學習算法通過“注意力圖”揭示了其推理，該注意力圖突出了用于預測的圖像上的重要區(qū)域。該功能還消除了放射科醫(yī)生對用于訓練大多數(shù)深度學習模型的大型高質量數(shù)據(jù)集進行注釋的需求。

人工智能中的“黑匣子”挑戰(zhàn)是指基于人工智能的系統(tǒng)無法解釋其如何做出特定決策。醫(yī)學專家廣泛討論了AI和機器學習中的透明度問題。在最近的一篇文章中，專家們列舉了在AI時代改善臨床決策支持系統(tǒng)(CDSS)的幾種方法，并將透明度納入系統(tǒng)是最優(yōu)先考慮的事情。

總體而言，使用不到1000張圖像對深度學習算法進行了訓練，以檢測顱內出血(ICH)并在未增強的頭部CT掃描中對五種亞型進行分類。研究人員發(fā)現(xiàn)，與經過培訓的放射科醫(yī)生相比，該模型具有相當?shù)臏蚀_性，但靈敏度更高。

標簽：

免責聲明：本文由用戶上傳，如有侵權請聯(lián)系刪除！