据最新消息，某研究团队开发出一套计算机认知模型，通过它可以监测网络暴行，甚至可以辨别暴力实施者、受害人以及目击者。下一步，它还将添加情感分析功能，以鉴别个体的情绪状态。但是，如果人们从中预测到了麻烦，该采取怎样的方式来干预呢？这是一个尚待深入研究的问题。
我们已经认识到，当涉及解析互联网上的用户行为时，诸如计算机认知以及情感分析之类技术的影响力到底有多大，如今，这一事实似乎更加明确，它们甚至可以帮我们区分出“暴徒”。威斯康辛大学的一个研究者团队开发出的这套计算机认知演算系统，在一天时间内就能够识别超过15000例暴行，这些暴行都与网络暴力相关，系统随后生成的社会学范畴类解析报告，还可以帮助人们判定怎样着手处理这些数据的问题。如何管理社交网站一直是个难题，因为它同时还是一个交流平台，甚至是一个社会实验室，与常规实验室不同的是，这个实验室里装满了许多未知的社会课题并且网络暴力的犯罪证据随处可现。
模型运行方式以及它的发现
为培育这一模型，研究者为它提供了两套行为集群，一套与暴力行为相关，另一套则与这类行为无关。一旦模型学会了识别与暴行相关的语言标志符，时机成熟后，研究者就可以放手让它监测真实世界的声音了。这一模型系统不但能鉴别大量的网上信息，而且还能发现时间模式（在周一至周五的上学时间，网络暴力行为更容易发生）以及分辨出在这些行为中一个人扮演了什么样的角色。
从展示大数据威力的角度而言，后者应该是最令人感兴趣的部分，因为它实际上在社会学范畴，揭开了对网络暴行的全新认知。在这些行为中，不但存在人们早就认知的暴行实施者和受害人、控诉者和被控诉者的角色界定，研究者还发现，在社交媒体中，至少还存在另一类人群，报道者。这类人群看到了或者听到了暴力事件的发生，他们自身并未卷入，但是仍然会评论这类事件。
更进一步讲，研究小组希望向模型中添加情感分析的功能，以便判断个体在现实中是如何被网络暴行影响情绪的。模型还希望能够实时追踪网络暴徒和受害者，在传统的社会科学调查中，这类情况却是不可能发生的，典型地讲，传统的社会科学调查会一次性地面见一群孩子，而且他们都会提前知道自己将被搜集意见或者想法。类似于一些公司试图分析特定消费者的消费倾向的举动，研究者可以通过Twitter随时跟踪几个群体，力求监测出他们采取什么方式以及出于什么原因才会做现在做的事情，或许还可以从中解读出个体间生成的各种关系。
Twitter是社会试验室，还是一直都是窃听场所？
事实上，这类研究暴露出的最大政策以及伦理问题是：我们的行事方式。最简单（至少没有争议）的做法——研究者也提出过类似建议——就是为政策制定者提供更好的数据，以便他们据此进行立法或采取其他行动，阻止甚至惩罚网络暴行。真心希望他们能够言听计从。类似的研究成果可以提供有价值的深入分析，成为制定公共政策的基础，而不仅仅是成为证据，支持暴力事件中某个人业已形成的立场。
由这项研究衍生的更具争议的问题是：在什么时间以及采取什么方式来进行干预才是正确的。如果调查已持续进行了一段时间后，这一问题将会更加突出。在宣传此项研究的新闻发布会上，在谈及添加情感分析功能时，研究者Jerry Zhu指出：“我的想法是，如果有人受到网络暴行的强烈冲击，如果这些人因此感到特别愤怒或者沮丧，这时候，他们就可能威胁到自己或者其他人，这些人需要及时被关注。”
从道德上讲，这样做似乎无可厚非；但从法律上而言，它却开启了一系列的漏洞。一套计算机认知演算系统精确度到底如何？它确实能够分辨出可能导致人身伤害的情感吗？而且，什么程度的干预现实中是被允许的或者是适当的？应该由什么人来执行，研究者、父母还是警察？什么样的网络事件值得干预，什么样的网络事件不值得干预，如何来界定？特别当我们谈及义务报道者以及对儿童的潜在伤害时，这种界定会变得更加艰难。还有，如果没有搜查证，Twitter可以被强制要求提交用户数据吗？这些都是需要现实考虑的问题。
即使赋予类似监测系统或者相对低成本的运算应用以权力，也不能据此引发一些现象，比如学校或者法律执行机构开始自发管控社交媒体网站，以监测网络暴力事件或者仅仅是孩子间谩骂行为的发生。虽然大多数网络暴行都能够被公众看到，还是有大量的Facebook数据被阻挡在了平台的防火墙外。立法者可以要求类似Facebook这样的公司积极监管自己的网站，屏蔽掉这类信息吗？或者，至少允许机构监管未成年人的社交活动？
目前，大数据技术已经被应用到打击犯罪的行为中，但是这与预测嫌疑人可能在哪里实施犯罪或者哪个罪犯可能会再次违法，存在很大区别。就个人而言，人们当然希望知道自己的儿女是否正在受到网络暴行的侵犯，但不确定的是，那些陌生的研究者或者Twitter或者警察是否能够及时鉴别出这些行为。如果你的儿女被指认为网络暴徒，你肯定会拼尽全力来证明这种“证据”的不准确性以及这种监管系统的不合法性。如果一个人清楚地知道暴力事件正在发生，你没有理由相信他能够做到视若无睹，不采取任何行动，任由事件发展到不可救药的程度。
很多问题的答案我们现在都不得而知，我们甚至不确定哪些人的做法是对的。但是越来越多可用数据累计的结果是，我们会更清楚现实生活中正在发生的事情，随着社会中人们给孩子们营造一个绿色世界的决心越来越坚决，借助尖端的分析技巧及技术，迟早有一天，我们会解决上述所有问题。