过去，facebook等社交平台上的直播内容一直为人类所掌控，但ai的出现正在改变这一切。为了便于用户有更好的体验，直播盒子聚合在产品上做了很多的升级尝试，结果也是非常的好，市场表现也趋于良好状态。
一周以前，美国黑人男子费兰多·卡斯提尔（philando castile）遭美国警察射杀，其女友用手机在facebook上直播了整个过程，但不久后，这段视频因为“技术故障”而被清除。余波未平，就在昨天，另一个枪击视频在该社交媒体上疯传。事发地点为弗吉尼亚州的诺福克城，一名黑人青年与两名友人在车上听音乐时遭遇枪击，这名黑人男子也直播了此次事件，而视频并没有被删。
随着直播上涌现越来越多的暴力内容，facebook和periscope等社交平台正在不断摸索他们应该在筛选用户可见信息上扮演什么角色，以及如何让自己的审查团队完成信息审查任务。
对于第二个问题，他们萌生了一个想法：利用ai 过滤信息。
纽约的dextro正致力于利用机器学习来解读视频的声音和图象信息，其联合创始人大卫·卢安（david luan）表示：“各大科技已经掌握了相关技术，能够屏蔽直播或者录制视频中的情色信息。”这类视频分析软件已经投入使用，对periscope、youtube、facebook等发布的视频进行监测，过滤暴露的情色内容。
“我们能够挑出包含枪支或者游行画面的视频。”卢安说。并且速度很快，他透露，一旦视频发布，只需300毫秒，就能确认视频内的所有信息。对于facebook这种拥有165亿用户的社交平台而言，快速筛选信息极其关键。因为视频一经传播，影响巨大。
卢安表示，总的来说，过去两年在图象识别上取得了很大的进展。包括dextro在内的运用算法和模型提取流媒体视频中的概念，帮助和用户寻找最有意思的内容，或者找到更加相关的视频。同样地，ai正在熟练掌握分析图像和视频的技术。twitter的ai团队cortex就利用大型仿真神经络，实时掌握periscope的用户发聩信息，优化用户推荐内容。
而此前在人脸识别、物体识别等静态图象识别技术上“下了大赌注”并且已经取得很大进展的facebook，现在也致力于视频分析系统的研究和开发工作。
“有趣的是，如今人工智能算法报告的“敏感”图片比人类报告的更多，”facebook机器学习应用团队的负责人joaquin candela在三月接受techcrunch的采访时表示，“我们如果能够利用人工智能对各项信息100%把关，人们接触到的“敏感”图片就会越少。”
ai还可以对视频中“开心”或者“愤怒”的画面打上关键字标签或者进行全方位的描述。clarifai也是一家利用机器学习分析视频文件的，它的软件能识别11000种不同的物体和场景。该的联合创始人兼ceo mathew zeiler表示，ai可以通过熟悉打架场景中人们攥紧拳头的画面来识别视频中的打斗场面。如果能让ai熟悉各种武器的图片，那么很多情况就在我们的掌握之中，zeiler说道，“因为我们可以提前看到这些武器的画面。”ai一旦确认了目标，就会立即采取行动——比如关闭视频或者更换审查者。
尽管研究者们在“教会”计算机辨别静态图像的道路上取得了显著的进展，但分析视频毕竟要艰难得多。为此，twitter的ai团队利用高性能图形处理器，组装出了一台超级计算机，专门进行视频分析研究。
detrox的卢安表示，人工智能没有办法完全像人类一样把握情景语境，“如果某人遭遇了十分激烈的质问，且被质问的方式很不恰当，那么就需要从这个场景的关键点去把握整个事件，但是人工智能并不具备纵观全局的分析能力。”
比如，在美国颇负盛名的高校内，一名黑人砸碎一扇描绘棉花田里黑奴的彩色玻璃窗的行为背后的含义；或是英国宣布脱欧计划后，曼切斯特一群白人青少年与一名突然冲上电车、皮肤黝黑的男子争辩下隐藏的微妙诋毁言辞，都是ai无法辨别的。此类场景中的文化和历史信息，ai无法捕捉，至少现在是不行的。
然而，在diamond reynolds的直播视频里，ai识别到了警察对准费兰多·卡斯提尔（philando castile）的枪口以及在车座上血流不止的这位黑人小伙。ai及时过滤了这条视频，但如果换成是某个人对此进行审查，处理方式就很难说了。
facebook利用ai清除不良信息的力度尚不明确，但迄今为止，人类依然掌控着审查系统。一旦用户直播或上传的视频点击率过高，那这段视频就会被发送至该社交平台的四大审查中心，分别位于门洛帕克、奥斯丁、都柏林、海德拉巴。这四个城市的审查者们负责遏制违反facebook社区标准的文件流的传播。威胁、自残、“危险组织”、欺凌、犯罪活动、“违禁物品”、裸露、仇恨言论、宣扬暴力等都是社区标准中明令禁止的内容。
facebook今年移除的视频中，有一条来自巴黎。画面显示，一个isis的效忠者非法杀死了一名高级警方指挥官和一名警察。另一条来自美国密尔沃基，三个青年上传了一段情色视频。然而芝加哥大街上，一名男子录下了自己白天被谋杀的过程并上传到了脸书主页上，这条视频却并没有被删。
眼下，人类审查系统仍必不可少，部分原因在于ai无法对所有的情景做出准确的判断。尽管在寻找暴力迹象方面，ai比人类快得多，但是分析复杂的情形和事件时，还得由人类出马，比如前文提到的曼切斯特青年与路人发生的争执。
不过，一切都在发生改变。卢安说道，“如今，ai的发展日新月异。”此外，手势识别技术突飞猛进也加快了ai成熟的脚步，尽管ai现在还无法识别隐藏的武器，不过今年年底的时候，就很可能实现这一目标。
虽然ai能够审查的内容越来越细化，但并不意味着人类对信息的把控和过滤完全成为过去式。对于任何络平台而言，最关键的日常仍然是人类用户之间标记和传递的各种各样的信息。因为总的说来，这些被标记的信息代表了许多用户想要浏览的内容。此外，在筛选符合公众利益和价值的信息上，人类审查员的角色势不可替代的。
facebook对其平台上发布的视频的判断标准仍不明确。也许随着ai不断发展，其辨别准确性会大幅提升，从而承担更多审查重任，facebook、periscope等社交络对视频的管制也会随之更加清晰透明。