研究人员计划研发AI屏蔽网络仇恨言论

发布时间：2019-12-30 发布者：亚时财经

（图源：盖蒂图片社）

在印度及其他一些国家网络仇恨言论甚嚣尘上。为此，研究人员开始研发一款人工智能软件（AI），它可以像恶意软件过滤器一样，在不依靠人工审查的情况下对仇恨言论进行“隔离”。

一般认为，基于种族、宗教、国籍、性别、残疾、性取向等身份特征，刻意煽动针对个人或群体的暴力及偏见的言论，都可能构成仇恨言论。

据《印度斯坦时报》近日报道，剑桥大学语言学家斯蒂芬妮·乌尔曼和工程师马库斯•托马林两人提出通过社交媒体遏制仇恨言论传播，并在《道德与信息技术（Ethics and Information Technology）》杂志上发表了他们的计划。

“仇恨言论是一种蓄意的网络伤害，大多出现在Twitter这样的社交平台上。”乌尔曼说，“因此，我们可以采取和过滤恶意软件一样的方式来‘隔离’它们。”

一直以来，Facebook、Twitter等社交媒体极少去干涉用户发表怎样的言论，因此，仇恨言论的大量涌现，使得这些平台几乎沦为部分人煽动情绪的工具。

Twitter首席执行官杰克·多西解释说：“如果我们屈服于外部压力，不再包容各种政治观点，那Twitter就将成为由个人观点所构成的、没有原则的平台。”

托马林说:“这些公司对平台上的仇恨言论通常后知后觉地回应，对于那些不常受到攻击的人来说这也许可以接受，但对其他人来说这不够有效，也不够及时。”

目前，研究人员正在使用包含威胁、侮辱等元素的数据库来建立算法，这些算法可以提供一个分数，用来测定在线信息包含仇恨言论的可能性。随着这些算法的不断完善，将要发表的仇恨言论可能会被及时“隔离”。

通过这款AI，用户收到信息时，可能会额外收到一个带有仇恨言论严重程度评分的警告信息，里面包括发送者姓名，以及查看或删除内容的选项。这种方式与处理垃圾邮件和恶意软件类似。

需要注意的是，一些通常带有侮辱性的词汇，在某些语境中可以是合理的。人工智能通过对一个词汇在句法上所处位置的算法分析，也就是分析周围词汇的类型和它们之间的语义关系，从而合理计算仇恨言论的分数。

研究人员表示，他们的提案并非“灵丹妙药”，而是介于“极端自由主义和独裁主义”之间的一种手段，即不是完全允许言论自由，也不是禁止某些网络语言，而让用户拥有控制权。“这个AI不会阻止人们发布或浏览他们喜欢的内容，但它给那些被仇恨淹没的人提供了必要的控制权。”

文章来源：《印度斯坦时报》

原文链接：

实习编译：翁桧林

编辑：NADEEM

特别声明：本站转载或引用之图文若侵犯了您的合法权益，请与本站联系，本站将及时更正、删除。版权问题及网站合作，请通过亚时财经邮箱联系：asiatimescn@sina.com

返回列表

热门话题更多>>