头图

虎扑分享:NLP算法有效提升风险内容识别效果,降本提效|虎博思享会

虎博科技

近日,以《新技术,助力“清朗”、“净网”行动》为主题的虎博思享会在沪举办。活动汇聚了来自上海市信息安全测评认证中心、虎扑社区、宽带山社区、樊登读书的内容安全专家、负责人,共同围绕技术与内容生态的平衡进行探索。
众所周知,内容安全已被置于前所未有的重要位置,近期关于“饭圈”、未成年保护、金融黑嘴、网络黑公关等内容被特别关注并整治,网络内容生态治理已然成为现阶段各大平台的主要核心工作。
在本次活动中,来自虎扑社区的技术总监郑中业,结合在虎扑多年从事内容生态工作的经验,就虎扑在内容生态治理上的发展历程、技术投入、审核流程,以及与虎博合作后取得的效果等方面做了精彩的干货分享。

https://www.qq.com/video/w327...
演讲分享·keymessage
01|足球点阵式体系
虎扑的内容生态体系好比一个足球队,巡查、人审、机审构成后卫、中场与前锋,而模型作为技术基础承载了重要作用
02|“好人卡”提效降本
对用户进行精准画像,“区别对待”高危和“好人卡”用户,优化审核效率同时,降低成本
03|审核“黑盒子”
巡查环节将审核流程当做“黑盒子”,去评估审核质量、流程漏洞和安全漏放等问题,从而完善审核机制
04|“投毒”测试
对问题内容进行“投毒”模拟测试,提升审核的感知度和敏感度
05|小提升,大进步
与虎博合作至今,准确率与召回率每一个百分点的提升,都是内容生态治理的一大步
06|AI识别风险
通过模型训练、特征汲取,从语义理解、上下文感知上识别更多风险内容

阅读 197
1 声望
0 粉丝
0 条评论
你知道吗?

1 声望
0 粉丝
文章目录
宣传栏