谷歌Facebook开始部署内容封杀系统 可自动删除极端主义视频

　　腾讯科技讯 6月25日消息，据外电报道，据知情人士透露，互联网上一些最大的观看视频的网站正在悄悄地利用自动封杀系统来删除其网站上的极端主义内容。

　　此举是互联网公司向前迈出的一大步。随着极端主义者的攻击范围逐渐蔓延，从叙利亚扩展到了比利时和美国，全世界各地的政府开始向互联网公司施压，要求其删除其网站上的宣扬暴力的内容。

　　谷歌(微博)旗下的视频网站YouTube和社交网络Facebook就在这些互联网公司之列。它们部署了自动化的封杀系统来阻止或迅速撤下“伊斯兰国”组织的视频和其他相似的内容。

　　这项技术开发的最初目的是为了识别和删除视频网站上受版权保护的内容。它会搜索互联网公司自动分配给每个视频的特殊数字指纹，并允许所有符合数字指纹的内容被立即撤下。

　　这样的封杀系统可以阻止那些已被识别为“不能接受”的内容重新发布，但是它不能自动地拦截以前从未见过的视频。

　　这些公司并未证实它们正在使用这种技术，或谈论它们是如何利用这种技术的。但是，据熟悉这项技术的人称，它能把用户发布的视频与被禁内容数据库进行比对，从而识别出新的不不能让人接受的视频，例如斩首视频或煽动暴力的演讲视频。

　　上述知情人士并不愿意讨论在用这项技术审核视频的过程中需要多少人力。他们也不愿说明被禁内容数据库中的视频最初是如何被鉴定为恐怖主义内容的。

　　随着互联网公司不断地在公司内部以及与竞争对手和其他感兴趣的各方就这个问题进行讨论，这个新的技术将会不断地得到优化。

　　互联网公司不愿声张

　　在4月底，由于美国总统巴拉克•奥巴马(Barack Obama)和其他欧美国家领导人均表达出了对于网络活动激进化的担忧。因此，很多互联网公司，包括Alphabet公司的YouTube网站、微博网站Twitter、Facebook和网站安全服务商CloudFlare，迫于压力，举行了一次电话会议，讨论了可能的解决方案，包括由非营利性组织“反极端主义项目”(Counter Extremism Project)提出的内容封杀系统。

　　它们的讨论强调了这些全世界最有影响力的公司在解决恐怖主义、自由言论以及政府和企业权力边界等问题上所起到的重要的作用以及面临的困难。

　　现在，尚没有公司公开支持这个反极端主义组织的系统。事实上，它们担心的是外部力量来干预它们如何保护自己网站的安全。

　　“这与版权或儿童色情略有不同。因为版权或儿童色情是明显不合法的内容。”乔治华盛顿大学极端主义项目的副主任谢默斯•休格斯(Seamus Hughes)说。

　　休格斯称，极端主义内容是一个宽泛的概念，不同的互联网公司会给出不同的判断标准。

　　以前，大多数互联网公司主要依靠用户来标注违反其服务条款的内容;现在，很多互联网仍然在这样做。被用户标注过的内容，会由人类编辑亲自审核，一旦发现违反服务条款，就会立即被删除。

　　上述知情人士称，现在使用自动封杀系统的公司并没有公开谈论它。部分原因在于它们担心恐怖分子可能学会操纵它们的系统，或担心实行高压政策的政权组织可能要求它们利用这项技术来审查其政治对手。

　　“这些公司谈论它并没有任何好处。”CloudFlare公司的首席执行官马修•普林斯(Matthew Prince)说，“谁会公开吹嘘自己的审查制度呢?”

　　在上周反极端主义项目首次公开谈论它的内容封杀系统，并敦促大型互联网公司采用它之后，上述知情人士向路透社证实了互联网公司正在逐步采用这个系统。

　　担心审查政策受外部干扰

　　据知情人士称，4月的电话会议由Facebook全球政策管理负责人莫妮卡•比科特(Monika Bickert)牵头。在会议上，Facebook呈现了各种解决方案供大家讨论，其中包括反极端主义项目提出的解决方案。

　　这个反极端主义组织由弗朗西斯•汤森(Frances Townsend)和马克•华莱士(Mark Wallace)等人创立。汤森曾为美国前总统乔治•沃克•布什(George W. Bush)提供国土安全方面的咨询服务;而华莱士曾在2004年小布什争取连任总统的竞选活动中担任竞选副组长。

　　据知情人士透露，这些互联网公司表示，它们很担心外部组织来决定什么是不可以接受的内容。

　　此次电话会议上提出的其他解决方案还包括建立新的行业性非盈利组织，或扩展现有行业组织的功能。他们讨论的解决方案中还包括数字指纹技术。

　　行业组织的模型可以参考非营利性组织“全国失踪和被剥削儿童中心”(National Center for Missing and Exploited Children)。该组织利用一种名为PhotoDNA的系统来识别已知的儿童色情图片。这个系统由微软免费授权使用。

　　在5月，微软宣布它将会给达特茅斯学院计算机科学家哈尼•法里德(Hany Farid)提供资金和技术支持，以便让他与反极端主义组织合作开发PhotoDNA技术，“从而帮助利益相关者识别恐怖主义内容。”

　　据知情人士透露，在此次电话会议中，人们对于反恐怖主义项目的提案表达了一些忧虑。Facebook的比科特也认同他们的担忧。她拒绝公开就此次电话会议或Facebook的努力发表言论，只是在一项声明中指出Facebook“正在与业内人士合作探索各种有效的途径，以删除违反我们有关打击恐怖主义政策的内容。”

　　在最近几周，Facebook已给其他公司发出了问卷调查，以征求他们对行业合作解决这个问题的各种方案的意见。

　　Alphabet公司的发言人威廉•弗兹格拉德(William Fitzgerald)也拒绝就此次电话会议或该公司的自动封杀系统发表评论。

　　Twitter的发言人称，该公司正在评估反极端主义项目提出的解决方案，“现在尚未作出最后决定”。

　　一名谷歌前员工称，除了打击盗版或与视频制作者分享收入等话题外，人们还花了很长时间讨论公司如何利用它的Content ID(内容识别)系统。据知情人士称，谷歌的内容识别系统推出的时间要比Facebook的早，技术上更先进一些。

　　美国总统反恐政策的高级顾问莉萨•莫纳科(Lisa Monaco)在一项声明中称，白宫欢迎各种旨在帮助公司“更好应付网络恐怖主义威胁”的计划。(乐学)