設(shè)計(jì)方法可能有助于修正人工智能

人工智能（A I）和機(jī)器學(xué)習(xí)程序中的偏差是眾所周知的。來自北卡羅萊納州立大學(xué)和賓夕法尼亞州立大學(xué)的研究人員現(xiàn)在建議軟件開發(fā)人員將“女權(quán)主義設(shè)計(jì)思維”的概念納入他們的開發(fā)過程，作為一種改善公平的方式-特別是在開發(fā)招聘過程中使用的軟件方面。

信息系統(tǒng)/技術(shù)教授、NC State大學(xué)系學(xué)者費(fèi)·佩頓說：“關(guān)于人工智能中的偏見是如何表現(xiàn)出來的，似乎有無數(shù)的故事，關(guān)于是什么導(dǎo)致了這種偏見，還有許多想法?！薄蔽覀兊哪繕?biāo)是提出指導(dǎo)方針，用以制定可行的解決辦法，解決IT勞動(dòng)力中針對(duì)婦女、非裔人和拉丁美洲職業(yè)的算法偏見。

佩頓是一篇有關(guān)這項(xiàng)工作的論文的合著者，他說：“現(xiàn)有的太多招聘算法都包含了事實(shí)身份標(biāo)記，因?yàn)樾詣e、種族、族裔、年齡等因素而排除了合格候選人?！拔覀冎皇窃趯で蠊健舐氄吣軌蚱降鹊貐⑴c招聘過程?！?/p>

佩頓和她的合作者認(rèn)為，一種稱為女權(quán)主義設(shè)計(jì)思維的方法可以作為一個(gè)有價(jià)值的框架來開發(fā)軟件，以有意義的方式減少算法偏見。在這種背景下，應(yīng)用女性主義設(shè)計(jì)思維將意味著將公平思想納入算法本身的設(shè)計(jì)中。

該論文的合著者、賓夕法尼亞州立大學(xué)信息科學(xué)與技術(shù)系副教授Lynette Yarger說：“使算法偏見的影響更加復(fù)雜的是，女性、黑人和拉丁裔軟件工程師在歷史上的代表性不足，他們根據(jù)他們的生活經(jīng)歷，就公平設(shè)計(jì)方法提供了新的見解?！?/p>

佩頓說：“從本質(zhì)上說，這種方法將意味著開發(fā)出重視性別、種族和族裔包容和公平的算法。””這方面的實(shí)際應(yīng)用是開發(fā)和實(shí)施一個(gè)創(chuàng)建算法的過程，在這個(gè)過程中，設(shè)計(jì)師正在考慮一個(gè)包括婦女、包括黑人、包括拉丁人的受眾。從本質(zhì)上講，所有背景的開發(fā)人員都會(huì)被要求積極考慮與自己不同的人和價(jià)值。

“要明確的是，這不僅僅是做某件事，因?yàn)樗诘赖律鲜钦_的。但我們知道，婦女、非裔人和拉丁人在IT領(lǐng)域的代表性不足。有充分的證據(jù)表明，多元化、包容性的員工隊(duì)伍可以改善公司的底線，”佩頓說?！叭绻隳茏稣_的事情，提高自己的利潤率，為什么你不會(huì)呢？”