一段百度掌門(mén)人李彥宏乘坐無(wú)人駕駛汽車(chē)上北京五環(huán)的視頻，引發(fā)社會(huì)各界的關(guān)注和熱議。在車(chē)流密集的環(huán)路上試驗(yàn)是否危及公共安全？無(wú)人駕駛?cè)绾闻c現(xiàn)行法律對(duì)接？這些問(wèn)題瞬間在輿論場(chǎng)討論開(kāi)來(lái)。
無(wú)人駕駛汽車(chē)已不是新聞——國(guó)外有谷歌、Uber、福特、豐田，國(guó)內(nèi)有百度、清華大學(xué)、國(guó)防科技大學(xué)，都在研發(fā)無(wú)人駕駛技術(shù)。但顯然，關(guān)于這項(xiàng)技術(shù)的社會(huì)學(xué)、倫理學(xué)討論才剛剛開(kāi)啟。它所面臨的最大拷問(wèn)其實(shí)是，人工智能如何在科技倫理中做出抉擇？這種預(yù)先設(shè)計(jì)的抉擇能夠保證都帶來(lái)“善”的結(jié)果嗎？這是個(gè)“元問(wèn)題”，其他法治、管理和公共安全問(wèn)題，只是這個(gè)問(wèn)題的子命題。
曾有論者設(shè)想過(guò)這樣的場(chǎng)景：想象你的無(wú)人駕駛汽車(chē)停在路口等待前面的行人過(guò)馬路，這時(shí)候，你的車(chē)子發(fā)現(xiàn)后面有另一輛卡車(chē)沖過(guò)來(lái)，看起來(lái)無(wú)可避免地要發(fā)生追尾事故了，但是你坐在前排座位上，這樣的事故只會(huì)給你帶來(lái)一點(diǎn)小傷——至少不會(huì)致命。如果你的汽車(chē)具備規(guī)避程序，就可以立馬躲開(kāi)，移到旁邊的車(chē)道去，而卡車(chē)就會(huì)沖進(jìn)路口，碾壓行人。這種情況下，無(wú)人駕駛汽車(chē)事前設(shè)定的“規(guī)避”程序，是善還是惡的？
在由人駕駛的汽車(chē)?yán)铮亲屪约菏芤稽c(diǎn)小傷還是讓無(wú)辜行人送命，依賴(lài)于每個(gè)人的抉擇，結(jié)果也由每個(gè)人承擔(dān)。但無(wú)人駕駛汽車(chē)既然有預(yù)定程序，那么如果選擇規(guī)避追尾，則對(duì)無(wú)辜行人有“蓄意傷害”之嫌；如果選擇承擔(dān)追尾，則沒(méi)有對(duì)車(chē)主完成保護(hù)義務(wù)。
評(píng)論者所提出的這一情境，其實(shí)是倫理學(xué)領(lǐng)域知名思想實(shí)驗(yàn)“電車(chē)難題”的翻版?！半娷?chē)難題”的內(nèi)容大致是：一個(gè)瘋子將五名無(wú)辜的人綁在一條電車(chē)軌道上，而一輛失控的電車(chē)正向他們沖去。幸運(yùn)的是，你可以拉動(dòng)操縱桿將電車(chē)轉(zhuǎn)至另一軌道。然而，該名瘋子在那條軌道上也綁了一個(gè)人。此時(shí)此刻，這根操縱桿，你拉還是不拉？在“電車(chē)難題”被提出的20世紀(jì)60年代，手握操縱桿的是“人”，但現(xiàn)在，面臨拷問(wèn)的是人工智能。
要作答其實(shí)更為艱難。因?yàn)槿说牡赖逻x擇多樣，倫理學(xué)各個(gè)流派產(chǎn)生了各種各樣的回答，比如，功利主義者可能認(rèn)為犧牲一個(gè)人比犧牲五個(gè)人更為道德；自由主義者可能認(rèn)為每個(gè)生命的主體權(quán)利是平等的，為了五個(gè)人犧牲一個(gè)人同樣是“惡”；但問(wèn)題是，在這種情境下設(shè)計(jì)無(wú)人駕駛汽車(chē)的程序該如何作答。這是包含無(wú)人駕駛、人工智能、克隆技術(shù)、試管嬰兒等等在內(nèi)的新技術(shù)都遭遇的科技倫理困境。
人們對(duì)此次無(wú)人駕駛試驗(yàn)的質(zhì)疑，深層上說(shuō)，很大程度上來(lái)自于對(duì)“人工智能將怎樣做出倫理選擇”的不安。而和每一種新技術(shù)一樣，無(wú)人駕駛的技術(shù)性“完成”只是第一步，嵌入人類(lèi)整體的倫理社會(huì)生活，才是最艱難的考驗(yàn)。(作者：劉文嘉)
《光明日?qǐng)?bào)》（ 2017年07月09日 06版）
相關(guān)新聞
更多>>
網(wǎng)傳四川音樂(lè)學(xué)院封校？川音：假的！
