喷子注意了,Google要用机器学习检测恶意评论

2024-12-01 11:08:07 admin

雷锋网消息,喷注评论Google旗下的意Ge用Jigsaw开发了一款AI工具Perspective,它使用机器学习检测网络上的机器检测骚扰和辱骂内容,可以帮助新闻机构和内容平台识别恶意评论。学习

Perspective软件可以确定网上评论的恶意“毒性”,有毒程度则是喷注评论通过挖掘数百万条评论,然后由10位评委进行打分而得到的意Ge用。它会基于评论与被贴上“有毒”标签的机器检测评论的相似度,或评论迫使别人不再对话的学习可能性,进行打分。恶意

Perspective的喷注评论API现在在官网可以试用,感兴趣的意Ge用朋友可以测试一下。

据称,机器检测纽约时报、学习卫报、恶意经济学人和维基百科,正在测试这一新技术,Google和Jigsaw也希望其它新闻机构也能使用。它还可以减少人工审核。根据测试结果,川普的名言“Grab her by the pussy”毒性达到了92%(由于这句话涉及对女性的 严重歧视,就不翻译了)。

虽然评论可以提升用户参与度,但总拦不住有的人会因为匿名性而发表不当言论,这样看来Perspective还是很有用的。

喷子注意了,Google要用机器学习检测恶意评论

只是由于人类语言的复杂性,它的评价不一定准确。上图是雷锋网测试的一段中性文字,但结果是46%。或许是不太支持中文吧。

Jigsaw表示,技术将会向所有平台公开,未来还会继续增强,用来识别个人攻击评论和偏离主题的评论。

Jigsaw成立于2010年,还开发过能找到潜在ISIS恐怖分子的软件。雷锋网曾报道,它的前身是网络和政策智囊团Google Ideas,后变成了科技孵化器Jigsaw。它主要专注于使用技术“解决棘手的地缘政治挑战,包括打击暴力极端主义,遏制网络审查,从而减轻与数字攻击相关的威胁”。Jigsaw将投资这样的技术,它能帮助最需要的人群获取信息,并抵御最有挑战的安全威胁。

  • 文章

    9224

  • 浏览

    6

  • 获赞

    3

赞一个、收藏了!

分享给朋友看看这篇文章

热门推荐