disqus承诺从布雷特巴特这样的网站上驱逐有毒的读者评论

2018-06-07 42

在Facebook之后,Disqus是主持在线讨论的最大公司。Disqus是如此之大,它的客户内容和对话从主流、温和到边缘和可怕,包括那些在纳粹引用理查德斯宾塞《基数日报》的白人至上主义者。这些网站让Disqus及其年轻的CEO丹尼尔·哈面临来自网络活动人士的巨大压力(我最近写了这一点)。现在,Disqus说,它有新的政策和技术来减少它所谓的“有毒评论”,尽管公司提出的许多建议仍然只是一套粗略的概念。

广告在过去,Disqus为版主兜售工具来监督他们自己的网站讨论,但并不是所有版主都能缓和所有的丑陋。例如,布雷特巴特新闻充斥着种族主义、反犹太主义、性别歧视,有时甚至是暴力言论(我也报道过)。disqus刚刚宣布了一些新的方法,它希望这些方法能帮助摆脱糟糕的温和派网络。从今天开始,读者可以直接向Disqus网站报告他们认为违反Disqus服务条款的对话,例如禁止“恐吓用户”。发言人Kim Rohrer说:「Disqus也希望让广告客户在其平台上控制其广告旁出现的评论部分,但「它仍在早期研究阶段」。

对于关心的版主,Disqus表示,它计划推出更多工具,包括机器学习功能,以分析内容,并自动标记仇恨言论,供版主查看。这些AI驱动的工具可以通过学习理解单词注释者经常说一些令人讨厌的事情,比如说,用一些并不那么糟糕的短语:“回到你自己的国家”。评论有时也使用不寻常的拼写或符号。在种族主义者中,有三组括号=“犹太人”。这种在线符号系统正在不断演变;机器学习工具可以发现所有disqus在线论坛的趋势,比一个人在一个留言板上调节速度更快地识别潜在的种族主义言论。但这也只是一个粗略的想法,因为Disqus仍在寻找能够提供AI软件来支持这样一个系统的公司。Rohrer说:“我们还没有确定哪一口井正在使用并开始开发。”。

Lidblog网站上的尖酸刻薄(编辑)。提供者在那里。例如,在线广告交换火箭燃料使用扫描服务peer 39,该服务由一家名为Sizmek的公司运营。peer 39不仅查找关键字,还评估网站上文本的上下文。火箭燃料公司已将其广告列入黑名单,禁止在包括布莱巴特在内的网站上播放,该公司认为布莱巴特违反了其反仇恨言论政策。

Disqus还没有决定,一旦它在对抗黑话的过程中运用机器学习技术,它是否可以自动清除有毒的评论,而不需要一个负担过重或漠不关心的人类主持人做任何工作。Rohrer说:「这肯定是一件很酷的事情,最终会做出来。」“我们现在不是在看自动删除内容。“

与disqus AI dreams相比,唯一正在开发并计划在年中推出的新工具是渐进的。一个正在开发的产品将允许温和派暂时禁止行为不端的评论者,这将给他们一个改过自新的机会。Disqus目前正在开发的另一款名为“影子禁播”的产品将让人们继续发布讨论,但只有他们能够看到自己的帖子,违规者基本上不会被其他用户看到。其他网站,比如Facebook,已经采用了类似的策略。

广告广告disqus重申其承诺,将删除所有跨越界限的网站。该公司在一份声明中说:“如果一份出版物专门针对有毒或可恶的言论,那么任何软件或产品解决方案都无助于打击仇恨言论或有毒行为。”。与此同时,该公司仍在理查德·斯宾塞网站上主持讨论,该网站的特色是一些帖子,比如一个声称白人在基因上优于黑人,另一个将犹太人比作切入美国的刀子。

广告商可能不想与patdollard . com (编辑)等网站上的对话相关联。事实上,批评者称这一承诺的诋毁运动太少、太慢。“更多的工具很棒,但是在他们实际禁止一个社区反复出现种族主义和反犹太主义之前,还需要发生什么呢?活动人士John Ellis问道,他在由Disqus提供的评论部分中保留了40多个网站的列表,这些网站展示了他所标注的反复出现的仇恨言论。例如,Fast公司的报告发布数周后,Disqus意识到自己自称为“网络法西斯Zine”的绞索,它仍然以缺乏社交能力的讨论组为特色。rohrer说,很多网站都在审查中,但她“由于我们在内部审查过程中所拥有的隐私,无法对个别网站发表评论”。“换句话说,Disqus还没有说绞索是留还是走。

Disqus声称,它已经删除了“数十个”延续仇恨言论的网站。埃利斯反驳说,还有更多的网站仍在使用不符合标准的评论技术来引发恶意的在线对话。埃利斯说:“在某个时候,Disqus的一个人需要说‘我厌倦了充满仇恨和暴力威胁的社区,这三、五十或一百个网站需要找到另一个评论工具,停止污染我们要建立的公司。’”。