干人要有标准，没有能干的事即使是上司请求还必定没有能干，这个事理谁都懂。那末假如将情境转换到机械人身上呢？它们还必需无条件遵命人类的敕令吗？大多数人肯定会下意识的以为，机械人就该以遵命为天职，由于它们是机械，设计之初便是要遵命人类敕令的。没有过，想想你平常干的那些傻事吧，假如没有假思索的请求机械人照干，生怕得出很多乱子。
下面我们配合来看一些例子：
1. 假如家中有台智能帮助机器人专门卖力赐顾帮衬老人生活，那末得了健忘症的白叟可能会让机器人干很多反复的无用功，例如一件衣服一天洗个七八次；
2. 家庭中熊孩子大概会把日托机器人当玩具，下令它往窗外扔器材；
3. 门生大概会把功课甩为机器人完成；
4. 家政机械人在做菜时大概会被主人叫去倒渣滓。
如许的例子难更仆数，稍不谨慎，还许就会把本人还搞得惊慌失措。固然，以上这一些最多让您吃到暗黑摒挡，但如果有暴徒唆使机器人犯法，生怕结果就比较严重了。
那末人类该若何防止因机器人服从命令而带来的费事呢？若是居心叵测的人让机器人拿起刀向前走，而它火线站着一个人怎么办？生怕最好的办法要末是机器人停下不动，要末便是机器人回绝拿刀。
没有过，无论是哪类法子，机器人皆需求事前探知本人后续行动会导致的结果并主动做出是没有是服从号令的挑选。那末我们怎样教机器人说“没有”呢？
机器人如何了解下一步会发作什么？
正在实验室中，我们已入手下手开辟基于人类号令的机器人控制体系，经过该体系，机器人就可以决意是不是实行人类号令（违背品德标准能够回绝）。
不外，要想教会机器人不服从可不是个容易事，究竟有些事的结果并不是肉眼能看到的。将球扔出窗户，也许会宁静落在院子里，也是有也许落在人潮不息的大街上，它会砸住人仍是砸到车（激发一系列连锁反应）谁也说不清楚。
以如今的技能前提，机器人很难肯定究竟什么时候能扔球（玩接球游戏能够扔，扔出窗外不能够）。别的，假如熊孩子成心诱骗机器人，伪装本人要玩接球游戏却成心躲开，事情就有大概沿相反的轨道进展。
传授机器人品德和司法
要想让机器人明白本身举动也许导致的危险后果，就要让它把握大批的后台常识（如果在窗前扔球也许会导致皮球飞出窗外）。机器人没有但要权衡本身举动导致的后果，还要思索人类收回某项指令的企图。
而要想让机器人明白体会人类庞杂指令（好心与否）的意义，它们就要理解这一些指令可能会形成的结果并与现有的社会品德和法令举行比对。
眼下，正在办理机器人上我们有通用规则：“假如您被规定完成的义务可能会形成损害，就能够断交实行。”但如斯简朴的描写基础不敷，为机器人拟定具体的义务和权限事正在必行。
总的来说，没有做违法之事是机器人的基本原则，但假如人类的指令有题目，机器人还应该有说“没有”的权益。因而，机器人“大脑”中必需装有司法、品德乃至人类礼节，如许才气聪慧的回绝一些毛病指令。
虽然说现有的技能下机器人还很难取得以上才能，但我们由目下当今就应该定下一个基调，那是机器人有权说“没有”。