如果您可以拨动转盘并在Twitter提及内容中打骂,或者在Facebook上发表侮辱性评论,该怎么办?
今天,谷歌的姊妹公司Jigsaw发布了一个名为Tune的实验性Chrome浏览器扩展程序,该程序可让用户控制他们希望在互联网上的评论中看到多少“毒性”。Tune构建于Jigsaw的API(透视图)的基础上,该API训练机器学习(ML)模型,以识别和评分可能被视为辱骂或骚扰的评论。
在启动时,浏览器扩展程序可在包括Facebook,Twitter,YouTube,Reddit和评论平台Disqus在内的社交媒体网站上运行。它充当旋钮,使用户可以设置对话的“音量”。将其打开即可查看所有内容,或将其完全降低到“禅模式”以用彩色小点替换有毒评论。
当我与Perspective产品经理CJ Adams谈及PCMag对Jigsaw致力于打击在线滥用和骚扰的努力的独到见解时,Tune仍在开发中。但是Adams给了我一些关于Jigsaw如何考虑将Chrome浏览器扩展功能扩展到用户的Perspective ML建模的见解。
亚当斯说:“这是让不希望在10,000条评论,帖子或推文中筛选的观众跳过该拨盘,或者将其调高以查看全部内容,从而跳过了这一过程。我们希望让他们对此进行控制。”