据国外媒体报道,美国科学家研制出“会骗人”的机器人,不仅懂得如何欺骗人类,同时还能够将自己隐藏起来躲避敌人,如此厉害的高智商不免让人联想到斯坦利·库布里克拍摄的热门影片《2001太空漫游》中的机器人。
美国佐治亚州理工学院研究人员进行的一项实验,据悉是世界上第一项有关机器人“骗术”的详细测试。这支研究小组创建的算法,能够让机器人决定是否欺骗人类或者另一个机器人,同时还能让机器人找到在最大程度上让自己不被发现的策略。
未来发展前景在战场上
这项“进步”,可能让一些原本就对机器人持不信任态度的人更为担忧,在他们看来,机器人在实际生活和工作中可能也会变成骗子,与人类共事时无法保证安全性。
但研究人员表示,具有欺骗能力的机器人拥有很大的未来发展前景,尤其是在军事领域。在战场上,成功将自己隐藏并误导敌人的这种欺骗能力,能确保自身以及重要信息的安全性。
研究论文联合执笔人、佐治亚州技术研究院研究工程师艾伦·瓦格纳表示:“绝大多数社交机器人将极少使用欺骗手段,但在机器人的互动‘军火库’中,这仍旧是一个重要工具,原因就在于认识到有欺骗必要的机器人与其他机器人相比拥有优势,这种优势就体现在结果上。”
此外,搜救机器人可能也需要欺骗人类,以便让搜救对象平静下来或者取得恐慌的被搜救者的合作。研究发现刊登在《国际社交机器人技术杂志》上。
已经会调整自己的骗术
为了让机器人懂得将自己隐藏起来以躲避其他同类,佐治亚州理工学院的研究人员开发了一系列程序,最终让机器人成功上演欺骗行为。首先,他们教会骗人机器人如何辨别眼前的形势以决定是否采用欺骗手段。
瓦格纳和同事罗纳德·艾金利用相互依存理论和博弈论开发算法,以测试特殊情况下实施骗术的价值。
允许实施骗术的情形必须满足两大条件:首先,骗人机器人与搜索者之间必须存在冲突。其次,骗人机器人必须能够从欺骗行为中获益。一旦确定眼前形势可以实施骗术,机器人便会制造出一个假的运动轨迹进行欺骗。
令人感到吃惊的是,骗人机器人甚至能够根据对它们设法欺骗的机器人的了解程度,调整自己的骗术以达到最佳欺骗效果。可能引发伦理问题
为了测试他们的算法,研究人员在两个自治机器人之间进行了20次“捉迷藏”实验。他们在通向机器人躲藏位置的3条潜在线路上,放置彩色直立标记。躲藏机器人随机从3个躲藏位置中挑选一个并且移动到这个位置,沿途撞倒彩色标记。一旦穿过一个标记,机器人便会改变线路并躲藏在另外两个位置中的一个。直立标记的存在与否,暗示搜索机器人躲藏机器人的位置。
瓦格纳解释说:“躲藏机器人通过撞倒标记制造假的移动轨迹,进而将搜索机器人引向假躲藏位置。例如,从标记的指示来看,它去了右边,而实际上却去了左边。”
在“捉迷藏”实验中,躲藏机器人成功骗到搜索机器人的概率高达75%,在失败的实验中,躲藏机器人因未能撞倒为骗过搜索机器人而必须撞倒的标记,最终被后者逮到。
瓦格纳说:“虽然并不完美,但实验结果仍旧证明机器人能够在嘈杂环境下学会并利用骗术。这些结果初步表明,论文中描述的技术与算法能够让机器人成功实施欺骗。”研究人员表示,他们也意识到教会机器人如何欺骗同类和人类,将引发“伦理问题”。
科幻影片曾预示危险性
最著名的骗人机器人可能当属《2001太空漫游》中的Hal。这部影片改编自亚瑟·克拉克的畅销科幻小说,故事围绕一艘由高智能电脑Hal操控的太空飞船上的船员展开。由于Hal出现故障,船员们试图将其关闭。随后,陷入故障的Hal开始杀害船员并控制整艘飞船。由于幸存的船员成功将其关闭,Hal最终放下屠刀。随着逐渐丧失“意识”,Hal将有关他们神秘任务的真相告诉了船员。
《机械公敌》是另一部有关机器人造反的影片,改编自艾萨克·阿西莫夫的短篇小说集。片中,一个机器人首次有了“自我意识”并造成灾难性后果。