FTC關于使用人工智能和算法的提示

人工智能技術可能看起來是客觀且無偏見的，但是FTC警告可能會產(chǎn)生不公平或歧視性的結(jié)果，或者永久存在現(xiàn)有的社會經(jīng)濟差異。例如，聯(lián)邦貿(mào)易委員會(FTC)指出，意圖良好的算法可用于做出積極的決定，但結(jié)果可能會無意間不成比例地影響特定的少數(shù)群體。

FTC不想誤導消費者。它提供了以下示例：“如果公司使用doppelgängers(無論是假的約會個人資料，虛假的追隨者，深造假貨還是AI聊天機器人)誤導消費者，該公司可能會面臨FTC強制執(zhí)行的行動。”

企業(yè)從第三方消費者報告機構(gòu)(CRA)獲得AI數(shù)據(jù)，并根據(jù)州和聯(lián)邦《公平信用報告法》(FCRA)法律對此做出決策，具有特殊的義務。根據(jù)FCRA，將“收集”消費者信息以自動進行有關信貸，就業(yè)，保險，住房或類似福利和交易資格的決策的供應商稱為“消費者報告機構(gòu)”。依賴于基于第三方供應商信息的自動化決策的雇主是該信息的用戶。作為用戶，如果企業(yè)對消費者采取不利行動，則必須向消費者提供FCRA要求的“不利行動通知”。通知的內(nèi)容必須適合不良行為，并且可能包含包含AI信息的“消費者報告”的副本，聯(lián)邦權利摘要和其他信息。作為CRA的賣方有義務執(zhí)行合理的程序，以確保消費者報告的最大可能準確性，并為消費者提供訪問其自身信息以及糾正任何錯誤的能力。FTC正在尋求透明度，并能夠根據(jù)消費者的要求提供解釋清楚的AI決策的能力。

雇主要點

仔細檢查AI的使用，以確保不會導致歧視。根據(jù)聯(lián)邦貿(mào)易委員會的說法，出于信譽目的，使用郵政編碼等算法可能會對特定的受保護群體產(chǎn)生不同的影響。

數(shù)據(jù)的準確性和完整性是關鍵。

AI模型的驗證對于最大程度地降低風險很重要。驗證后監(jiān)視和定期重新驗證也很重要。

審查聯(lián)邦和州FCRA法律是否適用。