近日,社交平台SoulApp发布《2025年度生态安全报告》。在数字社交快速发展的背景下,低俗信息、有偿交友、恶意营销等不良内容持续侵蚀社区生态,Soul将反低俗治理作为生态安全核心任务,依托技术赋能、双轨审核、社区共治与专项整治,构建起全方位的反低俗治理体系,以严格举措净化社交风气,守护真实温暖的线上空间。

Soul以技术为核心支撑,打造精准识别低俗内容的智能防线。平台引入AI内容识别模型、低质内容多模态识别大模型及动态违规词库,针对低俗擦边、有偿交友、广告引流等低质信息开展多维度识别。7大自主研发的AI模型中,色情交易识别大模型专门针对涉低俗交易的违规行为建模,从图文内容、互动话术等细节捕捉低俗特征,有效提升隐蔽性违规内容的识别效率。通过算法迭代,平台既能拦截显性低俗内容,又能洞察伪装在正常分享中的低俗暗示,让不良信息无处遁形。

机器与人工双轨审核机制,为反低俗治理提供坚实保障。2025年,Soul全面升级内容治理策略,通过机器预审与人工专业审核相结合,重点打击低俗及相关违规行为。全年机器预审直接拦截违规内容1642.5万条,处置涉低俗违规账号76.7万个;针对广场中出现的低俗擦边、有偿交友等痛点,实施严格限流与处理,日均处理量超12万帖。机器识别的高风险内容由人工审核二次复核,确保处置精准,同时对同设备下多个违规账号的“黑产团伙”累计拉黑设备4万个,从源头粉碎低俗产业链滋生土壤。

社区共治模式为反低俗治理注入多元力量。Soul在任的内容推荐官与风纪委员等社区共建用户超8万,其中内容推荐官5.2万人、风纪委员2.8万人。这些用户日均贡献1.8万次投票,通过众包决策参与低俗内容判定,产生日均2500条案例处理结果。官方账号“风纪球长”全年发布200余篇安全生态宣传帖,包含低俗违规案例公示、社区规则解读等内容,触达用户超200万次,强化用户对低俗危害的认知,推动“拒绝低俗、共建清朗”的社区共识落地,累计触达73万用户开展文明引导。

专项整治与长效治理结合,持续巩固反低俗成效。Soul针对高频发布低俗擦边、有偿交友内容的用户开展专项治理,日均处理此类低质用户3.8千人,年度批量处理相关低质贴100万+。平台升级治理细节,为违规贴添加提示功能,附加违规理由与规则解读,在处罚同时注重教育引导。针对群聊、私聊等高频场景,细化治理颗粒度,日均中断语音违规消息3万条、拦截违规文字消息4万条,对重度违规用户日均禁止私聊功能6.1万人,全方位阻断低俗内容传播路径。