機(jī)器倫理和機(jī)器人權(quán)利正迅速成為人工智能/機(jī)器人界的熱門話題。我們將爭(zhēng)辯說,試圖讓機(jī)器做出道德決定或享有權(quán)利的嘗試是錯(cuò)誤的。相反,我們?yōu)橹悄苋斯ご硖岢隽艘环N新的安全工程科學(xué)。特別是,我們對(duì)科學(xué)界提出了挑戰(zhàn),以開發(fā)能夠證明即使在遞歸自我改進(jìn)下它們實(shí)際上也是安全的......