杜克大學(xué)研究人員應(yīng)對AI透明性斗爭

杜克大學(xué)的研究人員已獲得一筆價值超過196,000美元的贈款，以解決基于AI的臨床決策支持軟件的可解釋性功能的需求以及保護(hù)該技術(shù)的商業(yè)秘密的需求-研究人員說，這一問題已成為AI-中新出現(xiàn)的問題，啟用醫(yī)療服務(wù)。

這項為期一年的贈款授予了杜克大學(xué)創(chuàng)新政策法律中心和杜克-馬戈利斯中心的研究人員，并由格林沃爾基金會(Greenwall Foundation)資助，該組織致力于支持生物倫理學(xué)研究。

“如何有效地將人工智能整合到醫(yī)療服務(wù)中，這是杜克-馬戈利斯中心的一個新興工作領(lǐng)域，”杜克-馬戈利斯衛(wèi)生政策部副主任，政策和臨床教授格雷戈里·丹尼爾(Gregory Daniel)博士，在一份聲明中說。

“通過與Duke Law合作，我們可以更快地采取行動，確定現(xiàn)實世界中的政策方法，以支持將AI結(jié)合起來的新興技術(shù)，以幫助醫(yī)生和患者做出更好的醫(yī)療保健決策。”

研究人員在他們的撥款建議中認(rèn)為，醫(yī)療保健專業(yè)人員的職責(zé)之一是基于合理且可解釋的理由做出決定，并且他們有權(quán)了解治療的性質(zhì)和理由，包括軟件生成的建議。但是，一些詳細(xì)的解釋可能會以損害開發(fā)人員商業(yè)秘密的方式促進(jìn)復(fù)制。

研究人員表示需要基于AI的臨床決策支持系統(tǒng)，以提高透明度并解釋決策，以便用戶可以理解如何以及為何提供某些建議。這個問題通常被稱為AI的“黑匣子”挑戰(zhàn)。

“盡管軟件開發(fā)始終涉及貿(mào)易秘密，但由于與保護(hù)和執(zhí)行軟件專利相關(guān)的挑戰(zhàn)，貿(mào)易秘密作為創(chuàng)新激勵的重要性可能有所提高，”杜克法律中心Elvin R. Latty教授Arti Rai ，在一份聲明中說。“因此，基于AI的軟件的主要監(jiān)管機構(gòu)FDA以及專業(yè)組織，提供商和保險公司都對如何平衡可解釋性和貿(mào)易保密性問題抱有濃厚的興趣。”

根據(jù)一份新聞稿，研究小組計劃通過撥款，收集和審查有關(guān)某些基于AI的軟件的私人和公共投資的數(shù)據(jù)。他們還計劃與醫(yī)療監(jiān)管部門的利益相關(guān)者進(jìn)行訪談，并舉辦私人研討會，其中包括開發(fā)商，采購，監(jiān)管者，用戶和患者。

該研究小組的目標(biāo)包括：就醫(yī)療保健專業(yè)人員的可解釋性的適當(dāng)水平提出建議，并確定可以采用哪些法律或私人自我監(jiān)管方法。

研究人員計劃在白皮書和同行評審的期刊中發(fā)表他們的發(fā)現(xiàn)和建議。他們還計劃舉行一次公開會議，討論調(diào)查結(jié)果。