Bangumi Server 内容安全机制NSFW 过滤与关键词风控实战指南【免费下载链接】serverAPI server for bgm.tv项目地址: https://gitcode.com/gh_mirrors/server17/serverBangumi Serverbgm.tv 的开源 API server作为国内最大的 ACG 数据库后端每天要面对海量用户请求和 UGC 内容。它的内容安全机制由 NSFW 过滤与关键词风控两套系统组成既能保护未成年人、合规运营又能抵御广告机刷屏。本文将带你实战拆解这套机制的完整设计思路帮助开发者理解如何在自己的社区产品中落地同款风控方案。什么是 NSFW 过滤Bangumi Server 的两层防线NSFWNot Safe For Work指不适合工作场合浏览的内容。Bangumi Server 对条目标记了 NSFW 属性并围绕它搭建了读取鉴权与搜索过滤两层防线从源头阻断敏感内容外泄。第一层防线读取时的权限校验在internal/auth/目录下rule_nsfw.go定义了最核心的访问规则当用户尝试读取一个标记为 NSFW 的条目Subject或角色Character时服务会调用AllowReadSubject或AllowReadCharacter判断当前用户是否被授权未授权用户一律拒绝访问。func AllowReadSubject(u Auth, s model.Subject) bool { if !s.NSFW { return true } return u.AllowNSFW() }这段逻辑非常简洁非 NSFW 内容人人可读NSFW 内容则必须通过AllowNSFW()校验。相关源码见 rule_nsfw.go。第二层防线搜索结果的强制过滤只做读取鉴权还不够——如果搜索接口直接暴露 NSFW 条目用户依然能通过关键词绕路获取敏感内容。因此 Bangumi Server 在搜索入口又加了一层强制过滤。在 subject/handle.go 中搜索请求进入后第一件事就是检查权限if !auth.AllowNSFW() { r.Filter.NSFW null.Bool{Set: true, Value: false} }未授权用户的搜索请求会被强制注入nsfw false条件直接下推到 Meilisearch 过滤掉所有 NSFW 结果用户甚至无法感知这些内容的存在。角色搜索character/handle.go也采用了完全相同的策略实现了读写双封的完整闭环。NSFW 访问门槛60 天注册时间限制的设计巧思AllowNSFW()的判定规则值得细品它在 domain.go 中定义const nsfwThreshold gtime.OneDay * 60 func (u Auth) AllowNSFW() bool { return u.Login u.RegisteredLongerThan(nsfwThreshold) }这个机制包含两个硬性条件必须登录匿名用户一律不可见 NSFW 内容注册必须超过 60 天用时间门槛过滤注册即看的小号。这种做法相比简单的年龄声明更务实——它把风控成本转移到了账号生命周期上恶意注册者需要养号 60 天才能接触敏感内容极大提高了滥用成本。同时用户组体系UserGroupNormal、UserGroupWikiAdmin等见 user_group.go为管理员提供了更高的权限位形成普通用户受限、管理组放行的阶梯式管控。关键词风控实战绿坝娘与限流中间件内容安全不止 NSFW还包括对敏感词、广告机的实时拦截。Bangumi Server 在这方面的方案同样值得借鉴。绿坝娘配置文件驱动的敏感词过滤项目内部有一个名为绿坝娘dam/readme.md的过滤模块专门负责敏感词与广告机过滤。它当前使用配置文件加载敏感词列表后续计划迁移到数据库核心实现位于 dam.go。配置文件加载的方式让运营人员无需重新编译即可更新词库非常适合词库迭代频繁的早期阶段。限流Redis Lua 脚本的双键风控与关键词过滤配合的是 rate-limit.go 限流中间件。它使用 Redis 原子执行 Lua 脚本ban.lua对已登录用户按 UID、匿名用户按 IP分别构建限流键配合长窗口 短窗口双时间窗LimitLongTime、LimitWindow既能容忍正常用户的突发请求又能精准识别并封禁短时间高频请求的广告机。超限请求直接返回429 Too Many Requests从流量层面切断恶意内容的传播通道。这套内容安全机制能带给我们什么启示梳理完 Bangumi Server 的实践可以提炼出三条可复用的设计原则鉴权前置、过滤兜底读取鉴权负责能不能看搜索强制过滤负责搜不到两层独立部署互不依赖任何一层失效都不会导致内容裸奔用账号生命周期代替人工审核60 天注册门槛 登录态校验把大量低质请求挡在系统之外成本远低于逐条人工审核词库配置化、限流脚本化敏感词走配置文件、限流走 Redis Lua两者都追求改配置即可上线适合快速迭代的社区产品。如何上手体验这套机制如果你也想在自己的项目中参考这套方案可以克隆仓库到本地研究git clone https://gitcode.com/gh_mirrors/server17/server重点阅读internal/auth/、internal/search/、internal/pkg/dam/和web/mw/四个目录它们分别对应鉴权规则、搜索过滤、敏感词与限流实现是理解 Bangumi Server 内容安全机制的完整地图。从 NSFW 过滤的双层防线到绿坝娘的关键词风控再到 Redis 限流Bangumi Server 用一套轻量而严密的组合拳在保证用户体验的同时守住了内容安全底线。这套读写双封 生命周期门槛 配置化词库的思路值得每一位社区产品开发者收藏借鉴。【免费下载链接】serverAPI server for bgm.tv项目地址: https://gitcode.com/gh_mirrors/server17/server创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考