劉廼強：機械人不會殺人，只有人才會殺人

我們試想像以下場景：於不久的將來，5G和物聯網十分發達，一家大廈的控制中心可以控制大廈內的門窗、燈光、空調、電梯等局部和全部開關。

這個控制中心完全有能力把大廈內某人關起來，一片漆黑，呼天不應，直至死亡。

問題是控制中心自己會不會這樣做？沒有外來的指示，它自己沒有動機這樣做，而這外來的指示，只可能來自人類。

即便是昨天我們談到的AI武器，也是人類在編程上設計它以殺人為任務。

結論是機械人不會殺人，只有人才會殺人（電影「終結者」的原蕊片也是人類發明的）。機械人三定律是人類定的，人類也一定能否決它。

不過其實人類也不是輕易殺人的，通常只在兩情況之下才蓄意殺人：一是憤怒或情緒失控、二是當生存和繁衍空間受威脅。

到AI具備自我意識時，它的生存和繁衍只需要能源，其它資源，理論上它都可以制造和創造。而能源在不久的將來將會是源源不絕的，因而AI除了為人類服務之外，對人類的生存和繁衍不構成任何威脅，人類對AI也不會構成威脅。

充其量是在憤怒或情緒失控之下，個別人類會傷害了個別機械人，而犯這錯誤的人，相信一定會有人類的法律去制裁他，不致惡化成為了對AI的生存和繁衍構成威脅。

除了出現意外情況，AI失控（瘋了）而損害人類之外（因為在設計中，已經植入多重安全措施，AI瘋了，並且損害人類的機率應該比人類瘋了更低），我們暫時可以安全地假定，人類和AI，是可以和平共處的。