新闻是有分量的

Facebook推出AI工具删除“复仇色情”

  • Facebook将开始使用人工智能来查找和删除恶意发布的亲密图像,也称为“ 复仇色情”
  • 目前,用户必须报告不适当的图像,以便内容主持人可以查看它们,从而减慢过程
  • Facebook仍将依赖用户报告此类内容

旧金山 - Facebook正在推出技术,以便更容易查找和删除未经主题同意而发布的亲密图片和视频,通常称为“复仇色情”。

目前,Facebook用户或复仇色情的受害者必须在内容版主审核之前报告不合适的图片。 该公司还建议用户将自己的亲密图像发送到Facebook,以便该服务可以识别任何未经授权的上传。 然而,许多用户对与社交媒体巨头分享揭露照片或视频的概念犹豫不决,特别是鉴于其隐私失败的历史。



该公司的新机器学习工具旨在自动查找和标记图片,然后将它们发送给人类进行审查。 Facebook和其他社交媒体网站一直在努力监控和遏制用户上传的不当帖子,从暴力威胁到阴谋论到不合适的照片。

趋势新闻

由于不会删除不符合标准的帖子,有时会删除具有艺术或历史价值的图片,因此Facebook面临严厉批评,因为它允许攻击性帖子保持太长时间。 Facebook已表示正在努力扩大其适度的努力,该公司希望其新技术将有助于发现一些不适当的帖子。

在关注隐私的过程中,有两位Facebook高管离职

该技术将在Facebook和Instagram上使用,使用Facebook之前确认的报复色情图片进行培训。 它经过训练可以识别出“近乎裸体”的照片 - 可能是一张内衣照片 - 加上贬义或羞辱的文字,暗示有人上传照片让人感到尴尬或向其他人报仇。

至少有42个州通过了针对复仇色情的法律。 在过去几年中出现了许多此类法律,因为非自愿的图像和视频的发布已经激增。 纽约州的法律于2月通过,允许受害者对犯罪者提起诉讼,并使犯罪成为轻罪。

多年来,Facebook一直致力于打击其网站上复仇色情内容的传播,但很大程度上依赖于人们主动报道内容直到现在。 但这意味着,截至报道时,其他人已经看到了,首席运营官谢丽尔桑德伯格在接受美联社采访时表示。 对于受害者报告他们自己的照片而言,这往往是艰难和尴尬的。

据报道,Facebook的数据共享交易正在进行刑事调查

“这是关于利用技术来解决问题,”桑德伯格说。

Facebook仍将用户提供的照片视为解决问题的一种方式,并表示计划将该计划扩展到更多国家/地区。 它允许人们发送他们担心可能通过加密链接传播的照片。 Facebook然后创建图像的数字代码,以便它可以判断是否上传了副本并从其服务器中删除原始照片。

该公司并不期望新技术可以捕捉每一个复仇色情内容,并表示它仍将依赖用户报道照片和视频。