我们可以停下来到网络骚扰吗?

网络骚扰通过社交网络,媒体和其他在线渠道是一个太多人的日常现实,问题越来越差。

由于人们在线花费越来越多的时间,但是,它可能似乎是不可避免的,但是Matthieu Boutard,董事总经理 保镖一项法国技术启动,可保护用户免受网络欺凌,仇恨言论和毒性内容的在线,相信要了解如何加以网络骚扰的兴起,我们应该看看当前的社会和经济背景。

网络骚扰社会

“Covid-19大流行的社会限制,重复锁定,旅行和运动限制导致了隔离,失业,压力增加,以及人们的焦虑。反过来,这些导致了高度的挫折感,以及以错误的方式反应的更强烈倾向(例如,对他人更具侵略性或伤害),”他讲述了帮助净安全。

“值得考虑的第二点是互联网文化的演变。用户在互联网上来出现时没有表现出来,但逐渐,有毒内容开始出现:在这里和那里的一个伤害评论,然后越来越多的仇恨评论,因为人们看到发布有毒评论并非平台“受到惩罚” 。从那里,事物螺旋地失控。”

在这次采访中,Boutard谈到了网络骚扰问题以及阻止/阻止它的挑战。

[答案是为了清楚起见。]

网络骚扰才能通过社交网络发生。其他在线/电子媒介被骚扰者滥用?

骚扰和网络骚扰之间存在非常细微的界限。回到当天,你可以身体“walk away”来自你的骚扰者。然而,现在,骚扰者可以通过多种在线频道来联系您, 他们越来越有创意 寻找联系您的新方法。

在某些情况下,通过平常渠道无法达到受害者的骚扰者发现了实现受害者网络的方法–例如,根据受害者的位置向地理局部化平台发送个人信息。

我们现在看到了网络骚扰,影响了Vinted(用于二手服装的在线市场)和LinkedIn等网站。基本上,在有可能进行沟通交换的情况下,骚扰者将使用它来骚扰他们的目标,即使在主要用于社交的平台上。

在社交媒体上大规模检测网络骚扰时,何时遇到各种挑战?

为了具有所需的效果(即保护人员),对社交媒体的网络骚扰检测需要预防性,并实时进行。它甚至需要工作即使是直播,对于与同时发布或连续发布的任何大量内容。

这对于社交媒体来说很难,因为它传统上围绕人类适度建造。危险是,当你花太长时间才能删除评论时,损害已经完成,因为它已经到达了这一个人或旨在伤害的人。

另一个挑战是人们有不同的敏感性和适度需求:会伤害我可能会让你完全不受影响,反之亦然。因此,一定尺寸适合的方法不起作用。人们需要能够确定他们的个人以及他们的社区对他们的敏感性。

有些人 ’他的生计非常依赖于使用社交网络和媒体,所以他们可以’即使网络滥用他们正在经历的网络滥用也会停止使用它们。您的应用程序之间的目标和骚扰者都会介于骚扰之间,并防止骚扰消息交付。什么’对您的客户提供反馈意见?

你完全正确–我们看到了很多案例,人们需要将互联网用作日常工作的一部分,但只知道他们需要为自己的毒性评论浪潮支撑自己。这是保镖存在的主要原因–让人们专注于他们的工作,而无需每次打开通知时都要恐惧。

我们的许多用户都感受到了极大的救济感,因为他们现在可以专注于他们首先做出的事情:创造内容并与他们的社区进行有意义的交流。我们注意到一些用户在开始使用保镖后创建更多内容。

至于骚扰者,有些人只是放弃,因为他们的受害者没有反应(谁没有看到毒性评论)。其他人因他们意识到他们的意见被监督,担心可以对他们采取的法律行动。

如果你’成功创建了阻止骚扰消息的解决方案,似乎是社交网络,媒体,流媒体和游戏平台也应该成功的逻辑。在您看来或为您的知识中,为什么避风港’他们自己创建或实施了类似的工具吗?

很多社交网络和大型技术使用工具,专注于技术方面(即, 机器学习)而不是社会方面。他们一直试图增强他们的ML模型,但改善仍然很慢,并且在能够提供微调的适度方面仍然没有那么慢。他们做了一个很好的工作抚养事物,如种族主义,同性恋恐惧症,并检测广泛使用的毒性关键词,但是当涉及毒性内容更细致的时候,他们经常失败。

创建能够检测上下文和细微差别的技术,以及人与人之间的关系,这是一个有趣的挑战。我们还需要确保我们能够在出现时立即包含最新的有毒内容趋势。如果您在为审核解决方案添加新的毒性术语之前,您将在保护人们对这些条款的情况下遇到危急延迟。

与机器学习相比,算法需要大量的数据和时间“learn”该怎么做,我们有一个自然语言处理团队(NLP)专家,他们监控社交媒体和所有最新有毒内容的趋势,以确保我们在出现时立即检测到一切。

哪些平台和您的目标在未来1 - 3年内支持哪些语言?

我们最近发布了我们的商业审核解决方案,并对其进行了很高的兴趣,有很多平台意识到他们需要适度,并愿意投资它来解决这个问题。企业可以通过API与任何平台,网络,社区或应用程序一起使用技术。

就我们对个人的解决方案而言,现在可以在Twitter,YouTube Instagram和Twitch上使用。我们很乐意将解决方案扩展到未来Tiktok等其他平台,但受到这些平台的API的限制,这不允许我们访问数据以保护其用户。

目前我们的技术可以用英语,法语和意大利语保护人们。我们正在致力于在短期内添加西班牙语和葡萄牙语,然后我们很乐意专注于扩展亚洲市场。

什么’您对目前对网络骚扰法律的有效性(法国和美国)的有效性?

在法国实际上没有专门针对网络骚扰的法律。我们正在处理大量目前的上下文中错过的前互联网法律。当你作为受害者上庭时,赢得胜利是一个非常漫长而艰难的过程。例如,三个月前,网络骚扰者第一次被判处监狱。法国的新法律可能有可能“Avia Law,” which 没走得很远 由于围绕表达自由的政治紧张局势。

在欧洲,周围有新的讨论 数字服务法案 (DSA)旨在专注于确保安全和负责任的在线环境。我个人认为这是朝着正确的方向移动,但我们必须等待,看看它是如何发展的。

就美国而言,我会说大多数美国人都可以看到网络欺凌,网络骚扰和白球是难以解决的真正问题。这是越来越多的国家越来越多的国家,要么引入新的网络骚扰立法或改变现有法规,以包括传统罪行的在线活动(通常是跟踪和骚扰)。

越来越多的美国国家开始将网络骚扰犯罪,但发现一致而公平的后果仍然是一个棘手的情况。我认为意图很明显,立法引入的是想要惩罚这些网络犯罪的肇事者的次要目的,但主要目标是试图停止网络骚扰。基于不同实例和网络案件的不同实例和惩罚性的惩罚性和分界部分将在帮助这些立法方面取得更好地实现这些目标,这将有很大努力。

分享这个