因此，期望Conversation AI在开放的网站（例如Twitter）中有良好的表现，几乎是痴人说梦。
Conversation AI如何检测那些发送给犹太记者的辱骂性言论中关于大屠杀的暗示？对这些辱骂性言论的检测是建立在机器学习算法能够检测的历史知识和文化背景基础之上的，而这些只有在机器学习算法接受过类似的训练之后才能实现。
即便如此，如果有人发送“如果特朗普赢了，我就会买这个”并附上相同的图片，Conversation AI又如何能够将其与辱骂性言论进行区分？
事实上，这个过程所需要的语义和实践知识，甚至已经超出了目前机器学习所希望达到的目标。
因此，毫无疑问，专门的引战帖将会找到一种新的方法来发布辱骂性言论，而这种方式可以避开类似于Conversation AI这样的系统。如果目标是阻止评论者用侮辱性称呼例如“同志”等称呼对方的话，那么机器学习通过屏蔽一些评论可以很好地实现这一点。但是机器学习无法识别隐喻，例如说某人是“弯”的来隐喻某人不正常。
换句话说，对于那些已经非常规范的社区来说，Conversation AI将会使得审核任务完成得更有效率。
但如果想要根除那些我们听到的最糟糕的辱骂性言论 （这些言论通常出现在那些审核标准最低的网站上)，Conversation AI则显得无能为力。
除非改变Twitter和Reddit这些平台的性质，否则想要管理存在于这些网站的辱骂性言论几乎不可能。
本文作者：David Auerbach曾作为软件工程师在谷歌和微软供职11年，主要工作领域为服务器基础设施。
登陆|注册欢迎登陆本站，认识更多朋友，获得更多精彩内容推荐！