色情误播频发的电子大屏幕
线下的电子媒体也深受色情困扰。近年随着LED/LCD屏幕造价的不断降低，其展示内容丰富多彩且操控灵活，电子显示屏在商尝体育馆、演艺场馆、学校、政府机关等各种场合得到了广泛应用。伴随公共电子显示屏的普及，各种色情误播事故是你方唱罢我登场，层出不穷。被广泛报道的，就有“安徽蚌埠万达广场电子屏播放色情视频”、“广东珠海市北大附属实验学校食堂显示器播放不雅视频“、“辽宁锦江市凌河区解放小学教室电子白板多次播放色情视频”、“巴西客运站时刻表显示屏显示色情网站并播放色情视频”等上百起色情播放事故，各种电子屏应用场合均未幸免；在中小学甚至幼儿园出现的色情播放事故，影响尤其恶劣。
互联网内容安全监控刻不容缓
不良内容在全球互联网及线下电子媒体泛滥成灾，国内外的技术巨头们一直在尝试使用人工智能加以识别和过滤，人工智能是维护健康网络的幕后英雄。Facebook、Google、Microsoft、Twitter等知名互联网公司，均采用人工智能的技术来监测和过滤色情、暴力等不良图片和信息。人工智能用于不良内容过滤，主要有如下三类典型应用：
一、社交平台和信息服务平台自带的人工智能过滤
虽然社交平台都有相关的用户协议，要求不能发布任何仇恨、裸露、暴力、威胁的内容，然而对用户并不能产生实际约束作用。一个典型的例子，微软发布的聊天机器人Tay，在twitter上线不到24小时，就因为被网友的不当言论“教坏”了，而不得不下线“修理”。但面对海量并发的各种言论和信息，人工检测实在费时费力，人工智能这时候就展现其独特优势了：
－facebook机器学习小组使用机器学习方法来监测所有上载到facebook的图片的内容，包括广告的内容，用来过滤其中色情、暴力等内容。
－Twitter收购了两家视觉媒体内容监测创业公司Madbits和Whetlab，运用它们的人工神经网络技术实现色情内容监控。
－Google的SafeSearch（安全检索）功能使用了机器学习来识别色情图片，可给未成年人提供健康正常的网络浏览与检索。
二、软件和技术供应商开发的色情内容过滤的软件和API
－Google不仅提供SafeSearch功能，并且将此功能作为API开放给其他用户使用，作为他们的云视觉API（Cloud Vision API）服务的一部分，目前已有很多客户。一些规模较小的社交平台（例如用户个人品牌服务公司Photofy）可以使用这套系统来保证他们的用户不使用色情图片来吸引流量。
－微软的人工智能API服务（微软牛津计划）也提供类似的功能。
三、不良内容终极杀手：新型智能硬件和软件服务
以上基于云计算的不良内容鉴别技术和服务，主要应用于大型互联网社交平台或搜索引擎，对线下应用和中小型网站并不适用，比如上文提到的公共电子显示屏、缺乏计算平台和防护技术的普通门户网站（如中小企业主页、各级政府机关的门户网站等）、以及对防护实时性要求很高的视频直播等。可喜的是，随着算法和技术的不断进步，人工智能也逐渐满足上述应用需求了。北京匠数科技有限公司（www.deepctrl.com），是国内专注于网络和电子媒体内容安全监控的人工智能公司，设计推出了基于深度学习的“盒谐”系列不良内容监控产品，包括适用于公共电子屏不良内容实时过滤的智能硬件，给中小企业和政府机关门户网站提供的内容安全监控服务，以及适用于网络直播的内容安全监控服务等。匠数科技CEO张乐平说，“我们相信，保护互联网和电子媒体免受色情暴力等不良信息的侵害，给所有的网民尤其是青少年提供一个干净健康的互联网世界，是人工智能最主要的价值所在，也是匠数科技的责任和使命——只为更好的智能世界。”
人工智能，做网络健康最忠实的守护神，消除互联网中黑暗的角落，让互联网的普世之光，照进世界的现在和未来。
登陆|注册欢迎登陆本站，认识更多朋友，获得更多精彩内容推荐！