Facebook想用AI来审核网站内容，不过它目前还无法胜任

本篇文章1231字，读完约3分钟

代表人类科技未来的人工智能技术正逐步渗透到越来越多的垂直领域，但我们对内容的审视方式仍很原始。拥有近20亿用户的科技巨头Facebook正试图扭转这种局面。

之前的内部幻灯片显示了facebook如何判断哪些内容违反了其社区标准，从这些幻灯片来看，facebook仍然严重依赖其社区运营团队来决定保留或删除哪些帖子。

也就是说，尽管马克扎克伯格试图将人工智能技术普及到所有领域，但人类在内容审查中仍然占据主导地位。幸运的是，情况已经开始改变。

据雷介绍，facebook今年3月宣布将推出一个人工智能系统，可以识别试图自杀或自残的用户。这个系统通过比较用户的帖子和评论与他们之前的帖子的相似性来判断自杀的风险。如果系统判断一篇文章有自杀倾向，当其他用户浏览这篇文章时，它会突出显示“报告自残”选项。

值得注意的是，这是由人们来决定是否报告它。人工智能不能判断，它只能帮助。

Facebook在判断我们上传的照片内容时表现得越来越好，即使照片中没有文字或标签。早在今年2月，facebook就指出，用户可以使用基于人工智能的图像识别工具来搜索照片，比如那些上面有黑衬衫的照片。

人工智能在识别照片内容和推测帖子背后意图方面的进展，对人们识别每天在脸书上发布的暴力、虐待和威胁内容有很大帮助。facebook的一名发言人表示，该公司的最初目标是用自动化系统帮助人类管理员。

雷锋。(公开号码:雷锋。奇怪的是，既然人工智能系统可以识别照片中的内容和帖子背后的意图，它还可以用来自动标记和删除网站上的敏感内容吗？互联网上有太多这样的内容。据雷锋说。仅在一个月内，facebook就发现了5500万起涉嫌性骚扰和色情报复的案件。

目前，人工智能系统无法承担这一重要任务。Facebook发言人承认其人工智能系统不够聪明，无法理解上下文。

对于facebook来说，帖子的上下文对于判断是否应该删除非常重要。由于上下文之间的关系往往是模糊的，特别是当语义模糊时，人工智能系统通常不能准确判断。

根据泄露的facebook内部文件，在处理有关性和暴力的内容时，社区运营团队以完全不同的方式处理了这两个敏感帖子。允许发表“小女孩在爸爸打烂她的脸之前需要保持安静”，但不允许发表“#刺伤并成为犹太复国主义者的恐惧”。

人类仍然很难理解这些判断，人工智能系统甚至更加无能为力。

Facebook强烈希望改变现状，并在大力推广中使用人工智能监控其网站上的图片和视频。

扎克伯格在2月份的一封公开信中表示:

“我们正在研究一种能够识别照片和视频内容的人工智能系统。该系统可以标记可疑内容，供我们的团队再次审查。这项研究仍处于早期阶段，但我们已经开始让它监控一些内容，而且它已经提供了我们团队三分之一的审计内容。”

这个系统是否能用来监控我们发布的文本及其上下文还有待观察，但有一点是肯定的，facebook正在努力实现这个目标。

雷锋文章版权所有。严禁擅自转载。详情请参考转载说明。

来源：搜狐微门户