在反网络欺凌的战争中 人工智能是如何成为Instagram的首选武器的

导语：在一个旨在成为分享用户生活快照的安全场所的平台上，Instagram拥有所有社交媒体网站中最大的网络欺凌问题。但Instagram并没有像Face book和Twitter所做的那样，让用户承担起举报滥用的责任，而是成为了第一个利用机器学习消除其平台上滥用语言的社交媒体

在一个旨在成为分享用户生活快照的安全场所的平台上，Instagram拥有所有社交媒体网站中最大的网络欺凌问题。但Instagram并没有像Face book和Twitter所做的那样，让用户承担起举报滥用的责任，而是成为了第一个利用机器学习消除其平台上滥用语言的社交媒体出口。

来自反欺凌慈善机构“惠誉标签”（Ditch The Label）的最新调查发现，在12岁至25岁的1万多名英国青年中，42%的人发现Instagram是他们最受欺负的平台——Face book和Twitter分别落后37%和9%。而71%的主体群体认为所有社交媒体网络在阻止网络欺凌方面做得不够。

为了正面解决网络欺凌问题，Instagram最近宣布了一项新策略：整合机器学习算法，以检测和阻止其平台上的潜在欺凌者。这项研究的目的是在Instagram上建立善良、包容的社区，该公司首席执行官兼联合创始人凯文·西斯特罗姆（Kevin Systrom）在一篇博客文章中说。

如何处理员工的虐待和欺凌（技术专业研究）

Instagram正在使用DeepText——与Face book所有者相同的机器学习算法——试图关闭他们的网络欺凌问题。2016年6月，Face book工程师推出DeepText，称之为“基于深度学习的文本理解引擎，能够以接近人类的精确度理解每秒数千个帖子的文本内容。”

通过深度学习（机器学习的一个子集，它使用基于人脑神经网络的算法），Face book工程师使用单词嵌入来帮助系统理解人类使用语言的微妙方式。DeepText被设计成像人脑一样工作，使用演绎推理来确定单词在特定语境中的含义。

例如，如果有人使用“痣”这个词，DeepText将确定用户是指的是小型哺乳动物、皮肤缺陷或叛徒。Face book利用这一系统筛选成千上万的帖子，以更好地了解其受众，旨在创造更好、更个性化的用户体验，以迎合个人兴趣。

2016年10月，Instagram推出DeepText消除垃圾邮件。该算法的目标是寻找试图销售产品的追随者和组织的互联网巨魔，分析评论和标题的语义，这将暗示数据是否是垃圾邮件。

但DeepText的成功导致Instagram考虑了该系统的其他用途。在2017年6月的一篇博客文章中，Systrom宣布该公司将使用DeepText作为“一个过滤器来阻止某些冒犯性的评论。”该平台使用最初由Face book创建的技术来创建一个过滤器，以帮助为用户建立一个安全的环境。

网络欺凌和仇恨言论并不是Instagram独有的，其他主要社交媒体网络已经被迫为其用户做出安全改变。

康奈尔大学（Cornell University）研究生汤姆·戴维森（Tom Davidson）表示：“机器学习算法已被证明是检测仇恨言论和网络欺凌的有效方法，”他是社交媒体上有关仇恨言论和网络欺凌的报道的合著者，关注Twitter。戴维森告诉Tech Republic，各种不同的算法被证实是有效的，如“Logistic回归、朴素贝叶斯、随机森林、支持向量机”。但所有这些方法的关键是依赖于监督学习，他说，这是一种使用标记训练数据进行推理的机器学习策略。戴维森的研究涉及收集数以百万计的推特，这些推特有潜在的网络欺凌暗示（种族诽谤、咒骂等）。戴维森说，给它们贴上标签，并将数据输入到算法中。戴维森补充说，这些例子被用来训练算法，然后它应该能够自己对仇恨言论进行分类。

推特2016年11月的博客文章宣布了通知删除功能，以及一项可恨的行为政策，让用户有一个更直接的媒体报告滥用。虽然这些努力试图防止网络欺凌，但删除攻击性通知并不意味着推特不存在。尽管报告滥用是极其重要的，但无论Twitter需要多长时间才能做出回应，用户仍然处于支配之下。

见：机器学习人工智能捆绑（科技公益学院）

脸书试图通过组建欺凌预防中心来减少网络欺凌。该中心作为一个资源，供青少年，父母和教育工作者使用，当他们或他们认识的人被欺负。虽然该资源为启动网络欺凌对话提供了宝贵的建议，但Face book的欺凌预防中心并没有直接采取任何措施来迎头消除滥用内容。该公司只使用该工具根据用户的兴趣推荐内容。

尽管如此，这些努力还不足以完全阻止网络欺凌。

Zeerak Waseem，博士谢菲尔德大学（University of Sheffield）的D.学生专注于推特上的辱骂性语言检测和仇恨言论，他告诉Tech Republic说，“这些尝试缺乏效果。”

为什么？虽然Twitter和Face book都在驯服网络欺凌方面迈出了大步，但Instagram是第一个让攻击性评论自动消失的社交网站。Systrom的博客文章和Wired都解释了AI目前是如何在Instagram账户上运作的。如果用户发布攻击性或骚扰性语言，DeepText将立即捕获并删除它。据Wired报道，为了防止恶霸试图玩弄系统，攻击性语言仍然可以被施暴者看到。用户还可以手动输入他们想要阻塞的单词或短语，通过阻塞可能是用户唯一的触发词，使DeepText更加有效。

然而，深度文本并不完美。

Instagram的机器学习算法在平台上自动集成，但一些仇恨言论仍然可以绕过这个工具。瓦西姆告诉Tech Republic说，暗指侮辱，如绰号或诽谤的代号，对DeepText来说很难察觉。此外，该功能可以很容易地关闭。只要轻轻一指，“隐藏攻击性评论”的切换就可以被关闭，如果任务是消除网络欺凌，这似乎是违反直觉的。自由言论和创造一个消除仇恨言论的环境之间的界限并不容易找到。然而，戴维森补充说，“机器学习并不是一颗能阻止网络欺凌或网络仇恨言论的灵丹妙药。”机器学习可以帮助被欺负的用户感觉更好，但没有任何技术可以阻止个人说坏话。

Ditch the Label首席执行官利亚姆·哈克特（Liam Hackett）告诉Tech Republic，Instagram拥有最多网络欺凌问题的关键群体是在平台上有账户的年轻人。哈克特说，由于Instagram内容的性质，很多骚扰都集中在人们的外表上。这些侮辱从对照片的负面评论，到恶霸创建假账户来烤他们的目标。

哈克特称赞Instagram的努力，告诉Tech Republic机器学习策略是多么奇妙，以及如何更多的社交网络需要投资于这项技术。他提到Instagram使用人工智能如何显示反对网络欺凌运动的巨大进步，人工智能真的改变了游戏。

除了防止欺凌外，DeepText还有其他功能，可以帮助企业深入了解客户的利益，更好地理解信息是如何在整个公司传播的。

见：iHate系列----不容忍接管互联网（CNET）

在情感层面上帮助个人的机器学习是朝着正确方向迈出的巨大一步。然而，解决为什么在线巨魔继续在这些平台上滥用行为是一个更大的问题。