特别鸣谢:网易易盾助力 SegmentFault 加强内容风控管理

 约 5 分钟

网易+思否(2).jpg

内容安全已成为全球性互联网生态治理难题。互联网平台多媒体内容爆发带来海量信息的同时,也泥沙俱下裹挟有大量不良有害信息。

当内容平台发展快速,就会被灰黑产盯上,视作「流量蜜罐」,利用其流量曝光机会,植入涉黄赌毒等不良信息,以及大量垃圾广告等。据不完全统计,2019 年,有上千款应用和服务因为内容安全问题而遭遇下架关停等整改,业务发展遭受巨大损失。

在过去的两天,SegmentFault 就深受其害,由于部分违规内容被要求停机整改。


自 2012 年 SegmentFault 社区上线以来,至今每月有上千万开发者通过 SegmentFault 分享技术内容,然而作为一个小型创业团队,日益丰富的 UGC 也给我们的内容监管带来的新的挑战。

我们一直在投入技术和人力对社区内容进行内容安全防控,但相比较爆发式的内容增长和日趋严格的监管要求,社区的审核管理系统越发的感到「力不从心」,也影响了内容的审核效率和安全要求。

此次 SegmentFault 思否社区的暂时停机整改,正是因为社区内出现了少量“骗过审核机制”的不合规内容,我们并未及时发现并删除相关内容。

此次整改事件发生后,国内领先的内容安全服务商「网易易盾」团队主动联系了我们并提出 —— 网易不少工程师都是思否的用户,为了回馈技术社区的支持,CTO 提出为 SegmentFault 思否社区提供免费的「第三代内容安全服务」,为我们解决了燃眉之急,也为社区业务日后的运营提供了强有力的安全支持。


网易易盾「全新的第三代内容安全服务」

此次网易易盾为 SegmentFault 提供服务的是全新的第三代内容安全技术,拥有 20 多年专业内容安全防护经验及大数据积累。

据悉,网易易盾内容安全技术覆盖文本、图片、音频、视频四种形态,能智能识别过滤涉黄、涉政、暴恐、广告等十几大类上千小类的有害内容,智能识别精准率超过 99.8%,每天检测信息逾十亿条。2019 年 12 月,易盾还升级了面向未来的内容安全体系,首发了国内首个智能审核管理系统。

网易易盾全链路内容安全风控体系
图片描述

纵深防御
图片描述

另外,网易易盾还面向自己的客户推出了全链路内容风控体系,该体系在文字/图片/音频/视频内容检测引擎的基础上,融入了反作弊风控引擎和 7*24H 策略运营管家服务,在智能内容检测引擎精准确识别违规内容前提下,通过多维度用户行为检测,全面掌控每个可能影响内容风控的环节,从而降低内容安全风险。

网易易盾是国内领先的内容安全&业务安全服务商。依靠网易 20 多年丰富的安全经验以及云计算、人工智能方面的积累,面向数字化业务提供内容安全、业务安全、移动安全和网络安全服务,保障客户业务合规、稳健和安全运营,使客户可以免受黑灰产组织非法侵害,专注创新发展。

目前,易盾拥有超过 30 万的注册开发者、数千家付费客户,其中不乏知乎、OPPO、ViVO、小咖秀、挖财、中信证券、触电新闻等知名企业。

后记

短短的两天时间,在疲于解决问题的同时,我们整个团队也重新进行了思考。

社区的概念一直是开放、自由的体现。但从运营者的角度来看,伴随着业务的逐渐成熟,我们更应该肩负起更多的社会责任,维护绿色健康的网络环境,也保障社区的安全运营。毕竟社区的安全稳定,也是为开发者提供优质交流平台的根本。

此次的整改封停,为我们敲响了一个警钟,好在亡羊补牢,为时未晚。

SegmentFault 思否致力于成为中文开发者领域最被信赖的引领者,帮助开发者获得成功,也帮助科技企业对话开发者,促进行业的健康发展。我们的社区、媒体、在线教育等各项业务,也都是基于这个原则来展开 —— 心怀敬畏,珍惜机会,共同促进这个行业的可持续发展,为行业发展创造价值。此前如是,今后亦将如是。

最后,再次对此次事件给社区用户带来的影响致歉,本次事件未对任何用户数据造成影响,如果您在使用社区中遇到任何问题可以及时和我们联系。希望各位开发者可以继续一如既往的支持我们,共同守护好这片技术交流的净土。


PS:再次感谢网易易盾团队的雪中送炭。

经过实际的体验与测试后,SegmentFault 思否社区真诚的向大家推荐网易易盾的安全防护产品。点击前方绿色文字链接,进入网易易盾官网了解更多。

阅读 1.8k

推荐阅读
SegmentFault 之声
用户专栏

在这里,我们将为你推送 SegmentFault 思否公司官方合作信息,和合作伙伴最新动态。SegmentFault 思否是...

8611 人关注
166 篇文章
专栏主页
目录