經典科幻電影《2001：太空漫游》（2001: A Space Odyssey）可能是很多讀者的科幻啟蒙，那么這個故事的寓意是什么？在影片中，主人公發現 HAL 9000人工智能電腦開始自主控制飛船，完全脫離宇航員的控制，同時電腦開始變得偏執、嘗試殺死船上的所有人。顯然，這個故事表現了作者對自動化科技的擔心，當生命完全依賴于全自動系統，似乎存在很多隱患。

然而，自動化是人類不懈的追求，從簡單的洗衣機、洗碗機到開始具有復雜算法的掃地機器人、智能家居設備以及目前火熱的自動駕駛汽車，自動化開始從更多層面影響人們的生活。但是，你真的可以把控制權完全交給機器嗎？一起來看看近期幾個典型的反面案例。

PetNet 的失敗PetNet 是發跡于眾籌平臺的一款智能寵物喂食機，通過連接到WIFI網絡、iOS遠程控制，可以實現手動分配食物，當然，你也可以通過應用進行自動化的預設。另外，它還能通過亞馬遜的Dash系統自動購買狗糧或貓糧。

聽上去，PetNet 完全可以解決很多寵物主人的麻煩，實現自動化、定時定量的喂食。然而，在發售后，PetNet基于谷歌的云服務一度發生中斷，時間長達10小時。也就是說，如果主人沒有發現，那么在這10小時里使用它的貓咪和狗狗得不到任何食物和水。雖然PetNet官方表示并沒有造成大的影響，但寵物挨餓是事實。

事后，PetNet還向用戶發送郵件，通知他們確保人工喂養寵物，直至問題完全解決。試想一下，一些外出度假的家庭，完全依靠PetNet來喂養寵物，是多么不靠譜的一件事。

Nest恒溫器崩潰作為最著名的智能家居設備，Nest恒溫器一直備受關注。然而，最近一周在美國各地，均發生了Nest恒溫器失效的情況，事實上這已經不是第一次。Nest發布聲明，聲稱僅有很少一部分產品發生離線情況。

雖然沒有任何人受傷或是死亡，但是作為家庭中的溫控中樞，Nest的不穩定無疑降低了人們的生活品質，而他們購買Nest的初衷，則是讓生活更方便。

特斯拉自動駕駛死亡車禍特斯拉最近無疑處于風口浪尖上，其自動駕駛汽車發生車禍、導致司機死亡，似乎為自動駕駛汽車的發展蒙上了一層陰影。

究其原因，目前最大的爭議在于其自動駕駛模式的機制，雖然當時環境較為特殊，強烈日照致使自動駕駛系統和司機都沒有發現拖掛車的白色車身、沒有及時剎車，但從另一個角度來說，即便攝像頭失效、雷達也應該監測到障礙車輛。這是第一個問題：自動駕駛的障礙監測系統并不能處理任何狀況，但在駕駛這種高危環境下，一個小失誤就會造成生命損失。

顯然，特斯拉自動駕駛汽車的傳感器部署并不完善，而在這種情況下，鼓勵用戶完全脫離駕駛的機制也是一個問題，事實上司機當時正在汽車屏幕上玩游戲，顯然他過于相信自動化系統了。

不要過于依賴全自動化系統

顯然，上面三個實例告訴我們，不要過于依賴全自動化系統，尤其是涉及到生命安全時。其實這是一個非常簡單的道理：人會生病、產品會出現故障，你永遠不能預知未來的事情。科技發展雖然迅猛，但即便是人工智能，也是人類所開發，而人類會犯錯誤，任何系統也是一樣。

特斯拉的例子其實非常有代表性，CEO馬斯克一方面積極抵制強人工智能發展，認為在眾多不確定因素下，強人工智能一旦具有真正的思考能力，可能會危及人類;但另一方面，他又認為特斯拉的自動駕駛技術并沒有問題，這顯然是矛盾的。所以，在目前這個技術橫流的時代，人類依然需要制定規則，并且始終相信，任何技術都沒有人類本身來的可靠。