通过情绪分析AI打造更安全的上网体验

项目概况:为所有用户打造更安全的网络体验

Trust Lab是一家值得信赖的软件开发公司,由若干来自谷歌、YouTube、Reddit和TikTok的信任与安全高管创立,致力于确保为所有用户打造安全的互联网。他们通过情绪分析了解互联网用户对于在万维网上分享的各种内容的真实看法。根据Enough Organization的数据,自2020年3月以来,全球范围内,人们花在社交媒体上的时间增加了45%。

 

挑战:“一千个读者就有一千个哈姆雷特”

社交媒体用户遍布世界各地,人们的背景各不相同,对内容的看法也纷纷不一。制定平台规则使公众在使用时感到安心无虞并非易事。因为让有的人反感的内容在其他人看来可能无伤大雅。此外,不同平台所使用的内容政策可能截然不同。这意味着一些平台会容忍裸体等更有争议性的主题,而另一些平台则不然。要确定某一平台所应采用的最佳政策,则需获取反映其全球用户意见的数据。Trust Lab认为,获取公众意见的最佳方法是通过分析基于用户对各种用户生成内容(UGC)的意见的用户情绪数据。

 

解决方案:明确的信任与安全计划

利用我们的澳鹏数据标注平台(ADAP),增加涵盖所有可能主题的、包含UGC内容的数据集。我们的平台包括丰富的数据标注选项,让公司能够掌握他们希望了解的用户对每条查看过UGC的具体情绪。公司能够收到详细的情绪分析数据,让他们了解由全球审查员团队确定的平台上不良信息的比例。

Trust Lab使用这些数据为各种互联网平台公司提供度量分析,帮助他们了解自己平台上的内容类型、与其他平台相比的情况以及公众对内容的感受。据此,这些平台公司就能调整其信任与安全计划,或删除冒犯性的内容。

 

结果:未来更加安全

数据标注者通过澳鹏平台做出数百万条判断。接收到的情绪数据是用于创建详细的信任与安全企业系统的输入,该系统能够大规模识别高风险和不安全的内容、账户和交易,并针对需要做出的改变以及为什么需要改变为合作伙伴提供建议。澳鹏提供的信息有助于Trust Lab丰富其信任图产品的背景。

信任与安全计划详实的公司向用户传达的信息是,他们真切关心用户福祉,希望用户长期使用公司应用。而那些感到安全的用户就会选择继续留在这些平台上。在数据标注的帮助下,这些平台公司现能够实施其信任与安全计划,提升平台未来的安全性。

“澳鹏的专业知识和扩展能力使Trust Lab能够为我们的客户提供用户情绪度量分析,以确保他们的平台对公众是安全的,”Trust Lab高级数据科学家Nick Miller表示。

Language