Facebook运用人工智能监控直播 筛选不良信息

12月2日消息，随着直播行业的兴起，很多涉嫌违规的内容在屏幕前大肆传播，为了筛除这些不良视频，Facebook公司打算运用人工智能来对内容加以监控。

Facebook公司应用型机器学习部主管华金·坎德拉(Joaquin Candela)说，该公司正在研究如何自动筛选视频流中的不良信息，逐渐运用人工智能(AI)对内容加以监控。

从删除一张标志性的越战落体照片引发国际社会的强烈反对，到允许虚假新闻在其网站上传播，这家社交媒体公司今年已经因内容尺度争议多次成为舆论聚焦中心。

在历史上，Facebook主要依赖用户举报有攻击性的帖子，然后由该公司员工对照“社区标准”进行二次核查。针对特别棘手的内容问题，如果可能需要调整政策，则由公司高层管理人员决定。

坎德拉告诉记者，Facebook越来越多地使用人工智能技术来地不良内容加以甄别。它是“一种算法，可发现裸露、暴力，或者不符合我们政策的事情，”他说。

路透社在今年六月报道，该公司一直致力于使用自动化技术标识极端分子的视频内容。

Facebook表示，它还使用自动化技术来处理每周数以百万计的报告、识别重复报告，并与对相关主题有研究的专业人员对标记内容追根溯源。

首席执行官马克·扎克伯格在十一月表示，Facebook将把自动化作为识别假新闻计划的一部分。在11月8日美国大选前，Facebook用户看到一些虚假新闻报道，例如错误地宣称教皇方济各(Pope Francis) 支持唐纳德·特朗普，一名负责调查民主党候选人希拉里·克林顿的联邦特工的尸体被发现等。

然而，该公司认为，确定一条特定的评论存在恶意或恐吓意图，还需依照上下文语境。

Facebook人工智能研究室主任Yann LeCun拒绝就使用AI检测假新闻一事发表评论，但他表示，一般的新闻帖改进方法都涉及到过滤和审查、表达自由和礼貌真实之间的权衡问题。

“无论我们是否开发人工智能这些问题都会存在，”LeCun说。“我不知道怎样做才算取舍得当。”

现在，这套自动化系统也正在Facebook Live中进行测试，这是一项为用户提供流媒体视频直播的视频服务。

采用人工智能技术标识视频直播仍处于研究阶段，并面临两个挑战，坎德拉说。“其一，你的计算机视觉算法必须速度很快，我认为我们可以做到这一点。其次，必须设定与用户观赏习惯相一致的优先次序，要有一位了解我们政策的专家，将其落到实处。”