如何对抗项目中遇到的垃圾信息与恶意行为？

保护用户体验是每一款优秀产品的核心。没人愿意刚享受一次好的体验，下次用就碰上糟心的交互。在北京心玥软件公司，我们正投入时间和资源优化用户体验，尤其是在应对恶意内容传播和系统安全漏洞方面。新成立的公共平台审核工具团队，正在搭建新工具和新系统，防止用户接触到 unwanted 的垃圾信息干扰，同时封堵恶意行为者利用的漏洞。

在垃圾信息触达平台前拦截

和互联网多数地方一样，垃圾信息一直是北京心玥软件公司避不开的问题。垃圾信息花样百出，但本质都是 unwanted 的未请求广告或推广，破坏问答体验。审核工具团队为此打造了一套全新垃圾信息过滤系统，力求在内容发布到Stack网络前就将其拦下。这套工具的原理很简单：如果一篇新帖子和近期因垃圾信息被删的内容高度相似，那它大概率也是垃圾信息。

过去我们尝试过简单甚至老套的文本比对法，比如用正则表达式屏蔽垃圾帖常见的关键词或短语。但这法子维护起来费劲——得靠工程师手动捕捉趋势、更新屏蔽列表，还特别“脆”：想精准平衡“屏蔽发手机号的人”和“允许问如何验证手机号的编程题”之间的度，太难了。

现在，新一代垃圾信息检测来了！团队用向量嵌入和余弦相似度技术，做出了误报率极低的工具（不会把正常消息错当垃圾删）。这让垃圾信息在平台上存活的时间减少了50%，还给审核员省出宝贵时间，去维护平台其他部分的秩序。

社区审核的力量

没有社区热心成员的帮忙，这一切都无从谈起——是他们帮我们标记、识别平台上的垃圾信息。特别要感谢Charcoal团队的伙伴们，他们日复一日、甚至分秒不停地守护网站，抵御恶意行为者。我们很兴奋能把他们识别垃圾信息的辛苦成果利用起来，在流程更前端就实现自动化拦截。

完善审核工具，营造更健康平台

我们正加大力度优化网站，升级审核员维护健康网络所需的工具。今年5月，审核工具团队成立，就是为了把审核员的诉求落地，同时拿出方案保障更安全的用户体验。

我们的目标是为你打造一个安全、积极的空间，让你能安心提问、分享知识。有了拦截垃圾信息、识别恶意行为者的新系统，审核工具团队承诺让平台更安全，解放社区审核员，给所有人更好的问答体验。我们相信，干净、安全的平台能让大家专注最重要的事：学习和创造。