12月1日，抖音平台治理开放日围绕安全运营、审核、技术攻防、联合打击等话题展开。首次对外亮相的抖音安全中心团队称，该中心日均拦截处理的违法违规内容、行为超10亿条，近4个月已协助各地公安机关打击涉嫌诈骗、色情的黑灰产团队25个。
据介绍，抖音安全中心设置了安全运营、安全风控以及治理打击等多个团队，坚持“提前发现、事先拦截、事中提醒、事后追击”的治理原则，专门负责抖音平台违法违规内容与行为的治理工作。
抖音安全中心负责人帅帅介绍团队
数据显示，抖音安全中心日均拦截处理的违法违规内容、行为超10亿条，其中包括违规注册、刷量、刷粉、点赞以及发布违规评论、视频等多类内容行为。近4个月已协助各地公安机关打击涉嫌诈骗、色情的黑灰产团队25个，刑事拘留87人。今年以来，抖音安全中心封禁色情导流和色情招嫖帐号超过100万，仅9月期间就封禁305248个帐号。“仿冒名人”专项打击中，已封禁黑产作弊账号18万多个，重置仿冒资料用户6万余个，处理问题视频超过400多万条。“群控软件”专项打击中，抖音已在杭州、深圳及广州等地针对四家涉及抖音的“群控软件”运营公司提起诉讼，相关“群控软件”已被勒令停止运营。
抖音安全中心负责人帅帅介绍，在平台违规内容、行为的提前发现与拦截方面，抖音采取平台内外配合的机制。除了通过内部组建团队，建立完善审核、巡检机制和流程，通过多种技术手段多渠道进行巡检审核外，中心还邀请了外部专业人士、平台用户参与到平台审核流程中。目前，抖音提供了多种用户举报渠道，包括站内举报、邮箱举报、违法和不良信息举报电话、“啄木鸟举报平台”小程序等。据他透露，截至2020年11月，“啄木鸟举报平台”小程序已经累计处理用户反馈的违法违规帐号159.5万个。
抖音安全风控专家张曦盛介绍抖音风控工作中的技术对抗
黑灰产行为，通常是在上游进行账号注册、买卖，然后在短视频、社交媒体等平台上实施引流，落地到社交软件平台上实施诈骗、传播色情内容，部分会再到电商平台进行变现。黑灰产行业的技术与手段一直在升级，在与他们对抗的过程中，抖音也在不断升级技术与策略。
目前，抖音安全中心团队已经将数据安全、人工智能等技术应用到了黑灰产打击中，构建立体防御体系。抖音安全风控专家张曦盛介绍，该中心自主研发的“鲨鱼反欺诈系统”，能在账号注册、登陆、发布评论内容等阶段判断账号是否是黑灰产诈骗账号，并执行对应的处理措施，组建了红蓝军攻防团队，开展黑灰产的行业研究，希望先于犯罪分子发现黑灰产行业最新趋势。
抖音安全中心总监周冉介绍，今年3月，抖音安全中心发现有用户多次试图上传儿童色情视频，研判分析后认为，相关视频中的儿童有被侵害的嫌疑。抖音安全中心掌握了视频发生地，联合公安部门启动了联合打击机制。3月29日，四川省遂宁市蓬溪县公安局将嫌疑人抓捕归案。据嫌疑人交代，其多次以“提供wifi”等方式，诱惑同村男童到其住所进行猥亵，并拍摄淫秽视频通过网络进行传播出售。
参与了多起黑灰产案件的打击，周冉分析，这一案件是典型的互联网违法违规行为，具备长链条、跨平台犯案的特征。她希望，社会各界要联动起来，共同打击违法违规行为，建设美好、正向、健康且有价值的行业生态。
