IBMResearch發(fā)布了可解釋的AI工具包

IBM Research今天推出了AI解釋360，這是一個(gè)開源的集合，使用一系列技術(shù)來解釋AI模型決策。

在IBM一年前發(fā)布了AI公平360，用于檢測和緩解人工智能模型中的偏差。

IBM研究人員和負(fù)責(zé)AI的領(lǐng)導(dǎo)薩斯卡·莫伊西洛維奇在電話采訪中對Venture Beat說，IBM正在分享其最新的工具包，以增加對人工智能的信任和驗(yàn)證，并幫助必須遵守法規(guī)的企業(yè)使用人工智能。

“這從根本上說很重要，因?yàn)槲覀冎澜M織中的人不會使用或部署人工智能技術(shù)，除非他們真正相信自己的決定。 而且，因?yàn)槲覀優(yōu)檫@個(gè)世界的一個(gè)很好的部分創(chuàng)造了基礎(chǔ)設(shè)施，這對我們來說是至關(guān)重要的-不是因?yàn)槲覀冏约簝?nèi)部部署了人工智能或我們可能在這個(gè)空間中擁有的產(chǎn)品，而是創(chuàng)造這些能力是至關(guān)重要的，因?yàn)槲覀兊目蛻艉褪澜鐚⒗盟鼈儭?/p>

莫伊西洛維奇(Mojsilovic)表示，該工具包也正在共享，因?yàn)樵趧?chuàng)造值得信賴的人工智能方面，業(yè)界的進(jìn)展“非常緩慢”。

人工智能解釋360借鑒了IBM研究小組成員的算法和論文。 來源材料包括“TED：教人工智能解釋其決定”，這是一篇被接受在AAAI/ACM關(guān)于人工智能、倫理和社會的會議上發(fā)表的論文，以及經(jīng)常被引用的“用自表達(dá)神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)穩(wěn)健的可解釋性”，被接受在NeurIPS2018年出版。

該工具包采用了許多不同的方法來解釋結(jié)果，例如可對比的解釋，一種試圖解釋重要缺失信息的算法。

還針對特定的場景制定了算法，例如用于解釋原型的Protodash，以及旨在向最近被拒絕貸款的消費(fèi)者解釋信用評分模型結(jié)果的算法，或者向需要解釋AI模型決策以遵守法律的貸款官員解釋..

工具包中的所有八種算法都來自IBM Research，但更多來自更廣泛的人工智能社區(qū)將在未來添加。

莫伊西洛維奇說：“不是一個(gè)研究團(tuán)隊(duì)或一個(gè)組織可以移動(dòng)針頭;當(dāng)我們聯(lián)合起來一起做這件事時(shí)，我們都會受益，這就是為什么我們打算種植工具箱。