生命全權(quán)交給代碼?無人車控制權(quán)到底歸誰
作者:佚名 標(biāo)簽:無人車 自動(dòng)駕駛 代碼 2017-10-18 15:09:13
許多汽車商都在開發(fā)無人駕駛汽車,在不久的未來,無人駕駛汽車必將進(jìn)入我們的生活。在一些人興奮地期待之時(shí),另一些人卻表示擔(dān)憂。難道我們真的愿意將自己的生命交給幾行代碼嗎?
繞不開的有軌電子難題
1967年時(shí),哲學(xué)家菲利帕.福特(Philippa Foot)曾提出一個(gè)關(guān)于有軌電子的倫理學(xué)難題:
一個(gè)瘋子將5個(gè)無辜的人綁在軌道上。一輛失控的電車迎面開來,即將碾過這5個(gè)人,幸好可以拉下火車的控制桿,將它轉(zhuǎn)向另一個(gè)方向。問題在于,在另一條軌道上也有1個(gè)無辜的人。拉下控制桿的確可以救下5個(gè)人,但會(huì)犧牲另外那1個(gè)人。你應(yīng)該怎么做才符合倫理?
這個(gè)難題后來還演化出許多版本,比如讓你選擇撞死5無辜的人,或者將一個(gè)胖子推下去阻止電車前進(jìn);又比如這個(gè)胖子剛好就是將5個(gè)無辜者綁在電軌上的人,等等。
同樣的,我們可以將類似的爭論引入到無人駕駛汽車的討論中來。討論的問題可以這樣概括:你的無人駕駛汽車即將與一輛巴士相撞,車上全是學(xué)生,車子意識到要么犧牲你去挽救一車的學(xué)生,要么救你而放棄那些學(xué)生,在設(shè)計(jì)程序時(shí)我們應(yīng)該怎么選擇呢?
借鑒iPhone模式能保證無人駕駛汽車安全嗎?
我們可以換一個(gè)方式來看待這個(gè)問題:如果你想設(shè)計(jì)一輛汽車,讓它在特定環(huán)境下故意謀殺司機(jī),你如何保證司機(jī)不會(huì)修改程序讓他的汽車無法故意謀殺人?
其實(shí)我們已經(jīng)有了一個(gè)明顯的答案,那就是借鑒iPhone模式。我們可以設(shè)計(jì)一輛汽車,只允許它安裝運(yùn)輸部(或者制造商)提供的軟件,然后制定嚴(yán)格的法規(guī),誰修改軟件就處以重罪。這就是目前iPhone王國推行的法規(guī),游戲主機(jī)和許多其它設(shè)備也都這樣做,它們紛紛配上數(shù)字鎖,即內(nèi)部人說的“DRM”(數(shù)字版權(quán)管理)。《數(shù)字千年版權(quán)法案》(Digital Millennium Copyright Act)等法律禁止人們移除數(shù)字鎖,防止受版權(quán)保護(hù)的著作被盜版,如果誰膽敢發(fā)布信息幫助他人解除數(shù)字鎖,同樣也逃不過法律的制裁。
自動(dòng)駕駛汽車程序必須對公路上高速移動(dòng)的目標(biāo)負(fù)責(zé),尤其是那些脆弱的人類,這似乎是理所當(dāng)然的,但它會(huì)帶來一個(gè)很大的問題:在現(xiàn)實(shí)中根本行不通。
每個(gè)被鎖定的設(shè)備都可以輕易“越獄”。早期的數(shù)字鎖法規(guī)之所以制定,最主要目的并不是為了阻止人們重新配置設(shè)備,而是確保沒有企業(yè)和設(shè)備幫助他們破解。給手機(jī)解鎖并不是什么難事,你可以從網(wǎng)上輕易下載軟件解鎖手機(jī),也可以讓非法破解手機(jī)的企業(yè)幫你代勞。
沒有制造商的允許無人可以重置自動(dòng)駕駛汽車,如果說這就是確保無人駕駛汽車安全的前提條件,那么無人駕駛汽車將永遠(yuǎn)不會(huì)安全,因?yàn)榭倳?huì)有人能破解軟件的。
不要忘了是軟件就有漏洞!
即使我們可以鎖定汽車的設(shè)置,它也同樣不安全。數(shù)字鎖會(huì)在電腦程序中占據(jù)一個(gè)特定區(qū)域,就連電腦所有者也無法進(jìn)入。要讓數(shù)字鎖管用,它的相關(guān)文件必須連所有者都看不到。當(dāng)我們命令操作系統(tǒng)列出數(shù)字鎖所在目錄的文件時(shí),系統(tǒng)要掩蓋或者忽略數(shù)字鎖文件,以防止用戶刪除或者替換它。當(dāng)我們命令操作系統(tǒng)列出所有運(yùn)程程序的列表時(shí),數(shù)字鎖程序也應(yīng)該被忽略,以防止用戶終止程序。
不要忘了,所有的電腦都有漏洞。就算是那些使用多年的軟件,它的源代碼已經(jīng)被無數(shù)程序員檢查過,也存在微小的漏洞。汽車體格龐大,行駛速度快,它的破壞力很大,可以殺死司機(jī)及周圍的人。如果軟件不夠安全,攻擊者就可以劫持剎車、加速器或轉(zhuǎn)向裝置,最終導(dǎo)致悲劇發(fā)生。相反,如果我們設(shè)計(jì)出用戶無法修改的無人駕駛汽車,將汽車使用者修改程序視為自私(比如在碰到有軌電車難題時(shí)只求自保)的行為,情況會(huì)更糟糕。
無論無人駕駛汽車有什么問題,當(dāng)它將自己的乘客當(dāng)成敵人時(shí),問題會(huì)變得更嚴(yán)重。
執(zhí)法者留下的漏洞被恐怖分子利用
在連網(wǎng)設(shè)備的世界里已經(jīng)出現(xiàn)“合法攔截”,設(shè)備常常留下一些后門供警察監(jiān)管,這些后門又往往成為安全威脅的根源。盡管如此,執(zhí)法者仍然希望留下更多的后門。以后的自駕汽車也會(huì)留下后門,警察可以向你的車發(fā)信號,強(qiáng)迫它停在路邊。漏洞會(huì)帶來更多問題,騙子和殺人犯可以在車中內(nèi)置相似功能,乘客將成為他們的“禮物”,恐怖分子也可以利用這種功能進(jìn)行攻擊。
問題還不只這些。城市規(guī)劃者之所以關(guān)注自動(dòng)駕駛汽車,主要是因?yàn)樗锌赡芙档吐飞系钠嚁?shù)量,將私家車轉(zhuǎn)為公用分享的車,被Uber等企業(yè)控制。我們可以乘車,但車不是我們自己的,我們無法修改,上面談的問題會(huì)變得更復(fù)雜。Uber等企業(yè)會(huì)指定第三方來修改。它們也可能會(huì)允許用戶作出一些修改,比如增加用戶控制的緊急剎車功能,它可能會(huì)委托給保險(xiǎn)商管理,不用想也知道,保險(xiǎn)商肯定不希望這樣的功能出現(xiàn)。
真的這么多危險(xiǎn)存在嗎?如果人類懼怕這些潛在的危險(xiǎn),那么我們的生活真的有可能會(huì)停滯不前!