谷歌推出“Conversation AI”工具来屏蔽网络暴力言论

　　随着互联网进入我们的生活，网络暴力言论也经常出现在我们的生活中，越来越多的无辜网友在网络上受到他人的肆意语言攻击，针对这种现象，谷歌推出了一款“Conversation AI”工具，这款工具利用人工智能能够屏蔽网络暴力言论，从目前的技术来说，屏蔽的准确率已打92%。

　　电影《搜索》描述了这样一个画面：高圆圆饰演的女主因为在公交车上没有给老人让座，有人将这段视频传到网络，引发了广大网友对她进行人肉搜索。一时间，铺天盖地的辱骂、嘲讽、诅咒充斥着她的生活，最后女主选择用跳楼来结束自己的生命。如今，这已经不再只是电影中才出现的画面。随着互联网渗入我们生活的方方面面，网络暴力、道德绑架，越来越多的键盘侠们用不负责任的言语在网上肆意攻击他人。

　　据国外媒体报道，美国网民在最早接触网络的同时，也最先受到网络造谣诽谤之害。根据美国独立民调机构皮尤研究中心 2014 年的一份调查，每 10 个网民中就有 4 人遭遇过某种形式的网络骚扰，近五分之一互联网用户遭遇过严重的网络暴力，包括人身威胁、持续性的跟踪骚扰。

　　网络安全已经成为我们不得不重视的一个问题。面对互联网海量的言论和信息，人工检测网络暴力信息的确费时费力，这时候，人工智能就派上用场了。

　　Facebook 和 Google 等公司都开始尝试结合人工智能等技术来过滤网络不良言论。就连一向以言论自由著称的 Twitter 也开始允许用户设置一些关键词来屏蔽骚扰信息：

　　Facebook 机器学习小组使用机器学习技术监测所有上载到 Facebook 的图片的内容，包括广告的内容，用来过滤其中色情、暴力等内容。

　　Google 的 SafeSearch（安全检索）功能使用了机器学习来识别色情图片，可给未成年人提供健康正常的网络浏览与检索。

　　Twitter 收购了两家视觉媒体内容监测创业公司 Madbits 和 Whetlab，运用它们的人工神经网络技术实现色情内容监控。

　　近日，谷歌又推出了一款人工智能技术支撑的全新工具，名为“Conversation AI”。这个新软件能够帮助用户不受网络有害言论的威胁。

　　Conversation AI 通过机器学习技术，自动捕捉网络上的污言秽语，并给它的攻击力评分——100分是最有害的，0 分是无害的。这个工具将会首先在《纽约时报》的注释版块进行测试，维基百科也计划将会使用这款应用。不过据《有线》杂志称，该公司并没有透露测试的具体细节。

　　由于该技术最终将成为开源的，所以在不久的将来，全球的网站和各类社交媒体平台，都可以用它帮助用户逃过暴力言论的伤害。《有线》表示，Conversation AI 可以“自动识别出侮辱、骚扰的言论，甚至还能帮你删除它。”

　　虽然 Conversation AI 在测试中被发现存在一些缺陷，但是谷歌透露，它的准确度已达 92 % ，并且随着时间的推移，功能将会不断完善。

　　在网络上，暴力言论、网友道德绑架事件时有发生，并且常有一些公众人物受到这些恶意艳遇的侮辱和骚扰，如果有了“Conversation AI”工具，那你就可以屏蔽这些不良言语，还我们一个干净的上网环境。