注：本文轉(zhuǎn)載自騰訊數(shù)碼，高翔 編譯，ComputerWorld原文。

經(jīng)典科幻電影《2001：太空漫游》（2001: A Space Odyssey）可能是很多讀者的科幻啟蒙，那么這個故事的寓意是什么？在影片中，主人公發(fā)現(xiàn) HAL 9000人工智能電腦開始自主控制飛船，完全脫離宇航員的控制，同時電腦開始變得偏執(zhí)、嘗試殺死船上的所有人。顯然，這個故事表現(xiàn)了作者對自動化科技的擔心，當生命完全依賴于全自動系統(tǒng)，似乎存在很多隱患。

然而，自動化是人類不懈的追求，從簡單的洗衣機、洗碗機到開始具有復(fù)雜算法的掃地機器人、智能家居設(shè)備以及目前火熱的自動駕駛汽車，自動化開始從更多層面影響人們的生活。但是，你真的可以把控制權(quán)完全交給機器嗎？一起來看看近期幾個典型的反面案例。

PetNet 的失敗

PetNet 是發(fā)跡于眾籌平臺的一款智能寵物喂食機，通過連接到WIFI網(wǎng)絡(luò)、iOS遠程控制，可以實現(xiàn)手動分配食物，當然，你也可以通過應(yīng)用進行自動化的預(yù)設(shè)。另外，它還能通過亞馬遜的Dash系統(tǒng)自動購買狗糧或貓糧。

聽上去，PetNet 完全可以解決很多寵物主人的麻煩，實現(xiàn)自動化、定時定量的喂食。然而，在發(fā)售后，PetNet基于谷歌的云服務(wù)一度發(fā)生中斷，時間長達10小時。也就是說，如果主人沒有發(fā)現(xiàn)，那么在這10小時里使用它的貓咪和狗狗得不到任何食物和水。雖然PetNet官方表示并沒有造成大的影響，但寵物挨餓是事實。

事后，PetNet還向用戶發(fā)送郵件，通知他們確保人工喂養(yǎng)寵物，直至問題完全解決。試想一下，一些外出度假的家庭，完全依靠PetNet來喂養(yǎng)寵物，是多么不靠譜的一件事。

Nest恒溫器崩潰

作為最著名的智能家居設(shè)備，Nest恒溫器一直備受關(guān)注。然而，最近一周在美國各地，均發(fā)生了Nest恒溫器失效的情況，事實上這已經(jīng)不是第一次。Nest發(fā)布聲明，聲稱僅有很少一部分產(chǎn)品發(fā)生離線情況。

雖然沒有任何人受傷或是死亡，但是作為家庭中的溫控中樞，Nest的不穩(wěn)定無疑降低了人們的生活品質(zhì)，而他們購買Nest的初衷，則是讓生活更方便。

特斯拉自動駕駛死亡車禍

特斯拉最近無疑處于風(fēng)口浪尖上，其自動駕駛汽車發(fā)生車禍、導(dǎo)致司機死亡，似乎為自動駕駛汽車的發(fā)展蒙上了一層陰影。

究其原因，目前最大的爭議在于其自動駕駛模式的機制，雖然當時環(huán)境較為特殊，強烈日照致使自動駕駛系統(tǒng)和司機都沒有發(fā)現(xiàn)拖掛車的白色車身、沒有及時剎車，但從另一個角度來說，即便攝像頭失效、雷達也應(yīng)該監(jiān)測到障礙車輛。這是第一個問題：自動駕駛的障礙監(jiān)測系統(tǒng)并不能處理任何狀況，但在駕駛這種高危環(huán)境下，一個小失誤就會造成生命損失。

顯然，特斯拉自動駕駛汽車的傳感器部署并不完善，而在這種情況下，鼓勵用戶完全脫離駕駛的機制也是一個問題，事實上司機當時正在汽車屏幕上玩游戲，顯然他過于相信自動化系統(tǒng)了。

不要過于依賴全自動化系統(tǒng)

顯然，上面三個實例告訴我們，不要過于依賴全自動化系統(tǒng)，尤其是涉及到生命安全時。其實這是一個非常簡單的道理：人會生病、產(chǎn)品會出現(xiàn)故障，你永遠不能預(yù)知未來的事情?？萍及l(fā)展雖然迅猛，但即便是人工智能，也是人類所開發(fā)，而人類會犯錯誤，任何系統(tǒng)也是一樣。

特斯拉的例子其實非常有代表性，CEO馬斯克一方面積極抵制強人工智能發(fā)展，認為在眾多不確定因素下，強人工智能一旦具有真正的思考能力，可能會危及人類；但另一方面，他又認為特斯拉的自動駕駛技術(shù)并沒有問題，這顯然是矛盾的。所以，在目前這個技術(shù)橫流的時代，人類依然需要制定規(guī)則，并且始終相信，任何技術(shù)都沒有人類本身來的可靠。