但他指出，在可预见的未来，机器人的能力还不足以带来这种担忧。假如机器人真有那么强大的能力，那会给它们带来负面反馈的问题可能会给人类带来威胁。
AI能够获得意识吗？
查尔莫斯的看法则略有不同。“我是这么看意识问题的，这些存在有意识似乎不存在什么疑问……它们表现得拥有非常丰富的情感生活……这体现在它们能够感觉疼痛和思考问题上……它们并不只是表现出条件反射式的行为，它们还会思考它们所在的处境，它们有在进行推理。”
“很显然，它们是有知觉的。”他补充道。
查尔莫斯说，与其尝试定义机器人怎样才算有意义，还不如想想它们缺少了什么。他指出，最重要的是，它们缺少自由意志和记忆。然而，我们很多人都会不自觉地陷入习惯当中，难以自拔。不计其数的人都存在极端的记忆问题，但没有人觉得强奸或者杀害他们并无不妥。
“在这个节目中，如果说虐待AI是被允许的，那是因为它们缺少了什么，还是因为别的原因？”查尔莫斯问道。
在查尔莫斯看来，《西部世界》描绘的特定场景或许并不现实，因为他并不认为二分心智理论（Bicamera mind）会带来意识，甚至对于机器人也不会。“相比之下，通过编程让机器人直接监控自己的想法要来得简单得多”
但这还是会带来风险。“如果你面对的是像这么复杂、像这么聪明的机器人，你会想它是否很容易控制？”查尔莫斯问道。
任何情况下，以不当的方式对待机器人都可能会给人类的安全带来威胁。打造无意识的机器人，我们会面临它们学到错误的教训的风险；非故意地（或者像《西部世界》那样有意地）打造有意识的机器人，我们也面临它们因为被虐待和压抑而反抗人类的风险。
在《西部世界》第二集中，接待员被问她是不是“真人”，她回答说，“如果你分辨出来，又有什么所谓呢？”
这番话听上去似乎很有道理。（乐邦）
登陆|注册欢迎登陆本站，认识更多朋友，获得更多精彩内容推荐！