機(jī)器學(xué)習(xí)無處快速移動并打破事物

在快速行動和打破常規(guī)的口號早已在科技創(chuàng)業(yè)公司中普及之前，黑客文化已經(jīng)成為軟件工程的命脈[1、2]。從克里斯·拉特納[3]到比爾·蓋茨的計算機(jī)行業(yè)領(lǐng)導(dǎo)者都講述了他們年幼時壞壞并重新組裝了收音機(jī)和其他小玩意，最終因其可入侵性而被計算機(jī)所吸引。如果不是硅谷本身不是由戈登·弗蘭奇(Gordon French)和弗雷德·摩爾(Fred Moore)創(chuàng)辦的“家庭釀造俱樂部”發(fā)起的黑客道場活動，那么它可能永遠(yuǎn)不會成為世界創(chuàng)新的溫床。

計算機(jī)程序員仍然通過遵循行業(yè)公認(rèn)的過程(例如測試驅(qū)動的開發(fā)和敏捷方法論)來努力快速移動和迭代事物，開發(fā)和部署可靠，強(qiáng)大的軟件。在一個理想的世界中，程序員可以遵循這些慣例來編寫原始軟件。然而時間就是金錢。在編碼人員可以在發(fā)布之前正確完成軟件開發(fā)之前，必須經(jīng)過激進(jìn)的，由業(yè)務(wù)驅(qū)動的截止日期。加上快速發(fā)布和熱修復(fù)(或動態(tài)更新功能[4])的現(xiàn)代最佳實踐，可部署軟件的門檻更低。像Apple這樣的公司甚至以發(fā)布缺少軟件功能的手機(jī)硬件而引以為傲：Deep Fusion 圖像處理是最新iPhone發(fā)行幾個月后的iOS更新的一部分[5]。

軟件交付變得越來越快是進(jìn)步的標(biāo)志。軟件仍在吞噬世界[6]。但這也容易受到濫用：快速軟件流程用于發(fā)布修補(bǔ)程序和完成新功能，但也用于發(fā)布不完整的軟件，這些軟件將在以后進(jìn)行修復(fù)。特斯拉已經(jīng)成為“空中飛人”更新的代言人，可以提高駕駛性能和電池容量，或錯誤地阻止它們[7]。天真的消費(fèi)者稱贊特斯拉將其帶給老式汽車行業(yè)的技術(shù)至上，軟件優(yōu)先的方法。然而，業(yè)內(nèi)專業(yè)人士批評特斯拉的魯ck性：在道路上進(jìn)行1800kg的車輛的A / B測試[8]的風(fēng)險要比在Facebook上試驗新功能的風(fēng)險稍高。

將Tesla Autopilot和機(jī)器學(xué)習(xí)算法添加到組合中，這將變得更加棘手。從定義上講，機(jī)器學(xué)習(xí)系統(tǒng)是概率性的和隨機(jī)的-在實時環(huán)境中進(jìn)行預(yù)測，做出反應(yīng)和學(xué)習(xí)-更不用說到處都是測試的極端案例和對無法預(yù)見的場景的脆弱性。

軟件系統(tǒng)的巨大進(jìn)步使工程師無論好壞都可以快速，反復(fù)地移動。現(xiàn)在，隨著機(jī)器學(xué)習(xí)系統(tǒng)(或“軟件2.0” [9])的巨大進(jìn)步，工程師可以無縫地構(gòu)建和部署涉及人，機(jī)器和環(huán)境的決策系統(tǒng)。

“當(dāng)前的危險是工程師的工具集已廣泛可用，但理論上的保證和正確流程的發(fā)展尚未部署。因此，盡管深度學(xué)習(xí)出現(xiàn)在工程專業(yè)的面貌，但它卻缺少一些理論上的檢驗，而從業(yè)者冒著跌倒的風(fēng)險。”

Neil Lawrence，劍橋大學(xué)ML的DeepMind教授

加里·馬庫斯(Gary Marcus)在他最近的《重新啟動AI》[10] 一書中，在深度學(xué)習(xí)和藥理學(xué)之間進(jìn)行了令人發(fā)指的類比：深度學(xué)習(xí)模型比傳統(tǒng)軟件系統(tǒng)更像藥物。生物系統(tǒng)是如此復(fù)??雜，因此很難完全了解和預(yù)測藥物的作用。關(guān)于藥物如何起作用的理論可能含糊不清，而且可行的結(jié)果來自實驗。傳統(tǒng)軟件系統(tǒng)具有確定性和可調(diào)試性(因此非常強(qiáng)大)，而藥物和深度學(xué)習(xí)模型是通過實驗開發(fā)并部署的，而沒有基本的了解和保證。AI研究過程通常是先進(jìn)行實驗，然后再證明結(jié)果。它應(yīng)該是假設(shè)驅(qū)動的，具有科學(xué)的嚴(yán)格性和徹底的測試過程。

“我們?nèi)鄙俚氖且婚T具有分析和設(shè)計原理的工程學(xué)科。”

邁克爾·喬丹(Michael Jordan)，加州大學(xué)伯克利分校教授[11]

在進(jìn)行土木工程之前，有一些建筑物以不可預(yù)見的方式倒在了地上。如果沒有經(jīng)過驗證的深度學(xué)習(xí)(以及整個機(jī)器學(xué)習(xí))工程實踐，我們將面臨同樣的風(fēng)險。

也不建議將其極端化?？紤]一下過去十年中航天器工程的轉(zhuǎn)變：高效的運(yùn)營和快速的文化對SpaceX和其他初創(chuàng)公司(例如Astrobotic，Rocket Lab，Capella和Planet)的成功至關(guān)重要。NASA無法跟上創(chuàng)新的步伐-而是與太空創(chuàng)業(yè)生態(tài)系統(tǒng)合作并提供支持。盡管如此，機(jī)器學(xué)習(xí)工程師仍然可以從一個組織中學(xué)到一兩個東西，該組織在部署新穎技術(shù)以與人類生命息息相關(guān)的大規(guī)模協(xié)調(diào)方面擁有令人難以置信的業(yè)績。

格蕾絲·霍珀(Grace Hopper)提倡快速行動：“這給我?guī)砹宋铱梢越o大家的最重要的建議：如果您有一個好主意，而且是一個貢獻(xiàn)，我希望您繼續(xù)前進(jìn)并做到這一點。道歉要比獲得許可容易得多。” 希望她的動力和意圖不會對工程師和科學(xué)家失去。