許多汽車商都在開發(fā)無人駕駛汽車，在不久的未來，無人駕駛汽車必將進入我們的生活。在一些人興奮地期待之時，另一些人卻表示擔(dān)憂。難道我們真的愿意將自己的生命交給幾行代碼嗎?

繞不開的有軌電子難題

　　1967年時，哲學(xué)家菲利帕.福特(Philippa Foot)曾提出一個關(guān)于有軌電子的倫理學(xué)難題：

　　一個瘋子將5個無辜的人綁在軌道上。一輛失控的電車迎面開來，即將碾過這5個人，幸好可以拉下火車的控制桿，將它轉(zhuǎn)向另一個方向。問題在于，在另一條軌道上也有1個無辜的人。拉下控制桿的確可以救下5個人，但會犧牲另外那1個人。你應(yīng)該怎么做才符合倫理?

　　這個難題后來還演化出許多版本，比如讓你選擇撞死5無辜的人，或者將一個胖子推下去阻止電車前進;又比如這個胖子剛好就是將5個無辜者綁在電軌上的人，等等。

　　同樣的，我們可以將類似的爭論引入到無人駕駛汽車的討論中來。討論的問題可以這樣概括：你的無人駕駛汽車即將與一輛巴士相撞，車上全是學(xué)生，車子意識到要么犧牲你去挽救一車的學(xué)生，要么救你而放棄那些學(xué)生，在設(shè)計程序時我們應(yīng)該怎么選擇呢?

借鑒iPhone模式能保證無人駕駛汽車安全嗎?

　　我們可以換一個方式來看待這個問題：如果你想設(shè)計一輛汽車，讓它在特定環(huán)境下故意謀殺司機，你如何保證司機不會修改程序讓他的汽車無法故意謀殺人?

　　其實我們已經(jīng)有了一個明顯的答案，那就是借鑒iPhone模式。我們可以設(shè)計一輛汽車，只允許它安裝運輸部(或者制造商)提供的軟件，然后制定嚴格的法規(guī)，誰修改軟件就處以重罪。這就是目前iPhone王國推行的法規(guī)，游戲主機和許多其它設(shè)備也都這樣做，它們紛紛配上數(shù)字鎖，即內(nèi)部人說的“DRM”(數(shù)字版權(quán)管理)。《數(shù)字千年版權(quán)法案》(Digital Millennium Copyright Act)等法律禁止人們移除數(shù)字鎖，防止受版權(quán)保護的著作被盜版，如果誰膽敢發(fā)布信息幫助他人解除數(shù)字鎖，同樣也逃不過法律的制裁。

　　自動駕駛汽車程序必須對公路上高速移動的目標負責(zé)，尤其是那些脆弱的人類，這似乎是理所當然的，但它會帶來一個很大的問題：在現(xiàn)實中根本行不通。

　　每個被鎖定的設(shè)備都可以輕易“越獄”。早期的數(shù)字鎖法規(guī)之所以制定，最主要目的并不是為了阻止人們重新配置設(shè)備，而是確保沒有企業(yè)和設(shè)備幫助他們破解。給手機解鎖并不是什么難事，你可以從網(wǎng)上輕易下載軟件解鎖手機，也可以讓非法破解手機的企業(yè)幫你代勞。

　　沒有制造商的允許無人可以重置自動駕駛汽車，如果說這就是確保無人駕駛汽車安全的前提條件，那么無人駕駛汽車將永遠不會安全，因為總會有人能破解軟件的。

不要忘了是軟件就有漏洞!

　　即使我們可以鎖定汽車的設(shè)置，它也同樣不安全。數(shù)字鎖會在電腦程序中占據(jù)一個特定區(qū)域，就連電腦所有者也無法進入。要讓數(shù)字鎖管用，它的相關(guān)文件必須連所有者都看不到。當我們命令操作系統(tǒng)列出數(shù)字鎖所在目錄的文件時，系統(tǒng)要掩蓋或者忽略數(shù)字鎖文件，以防止用戶刪除或者替換它。當我們命令操作系統(tǒng)列出所有運程程序的列表時，數(shù)字鎖程序也應(yīng)該被忽略，以防止用戶終止程序。

　　不要忘了，所有的電腦都有漏洞。就算是那些使用多年的軟件，它的源代碼已經(jīng)被無數(shù)程序員檢查過，也存在微小的漏洞。汽車體格龐大，行駛速度快，它的破壞力很大，可以殺死司機及周圍的人。如果軟件不夠安全，攻擊者就可以劫持剎車、加速器或轉(zhuǎn)向裝置，最終導(dǎo)致悲劇發(fā)生。相反，如果我們設(shè)計出用戶無法修改的無人駕駛汽車，將汽車使用者修改程序視為自私(比如在碰到有軌電車難題時只求自保)的行為，情況會更糟糕。

　　無論無人駕駛汽車有什么問題，當它將自己的乘客當成敵人時，問題會變得更嚴重。

執(zhí)法者留下的漏洞被恐怖分子利用

　　在連網(wǎng)設(shè)備的世界里已經(jīng)出現(xiàn)“合法攔截”，設(shè)備常常留下一些后門供警察監(jiān)管，這些后門又往往成為安全威脅的根源。盡管如此，執(zhí)法者仍然希望留下更多的后門。以后的自駕汽車也會留下后門，警察可以向你的車發(fā)信號，強迫它停在路邊。漏洞會帶來更多問題，騙子和殺人犯可以在車中內(nèi)置相似功能，乘客將成為他們的“禮物”，恐怖分子也可以利用這種功能進行攻擊。

　　問題還不只這些。城市規(guī)劃者之所以關(guān)注自動駕駛汽車，主要是因為它有可能降低路上的汽車數(shù)量，將私家車轉(zhuǎn)為公用分享的車，被Uber等企業(yè)控制。我們可以乘車，但車不是我們自己的，我們無法修改，上面談的問題會變得更復(fù)雜。Uber等企業(yè)會指定第三方來修改。它們也可能會允許用戶作出一些修改，比如增加用戶控制的緊急剎車功能，它可能會委托給保險商管理，不用想也知道，保險商肯定不希望這樣的功能出現(xiàn)。

　　真的這么多危險存在嗎？如果人類懼怕這些潛在的危險，那么我們的生活真的有可能會停滯不前！