举报内容和用户
在每一条 UGC 和每个个人资料上提供醒目的“举报”操作，附带原因和可选备注，存储在您的数据库中并对您可见。mailto: 链接是很弱的替代品；请做一个表单。
这两项政策的要求
用户生成内容（UGC）政策适用于任何用户创建或分享其他用户可见内容的应用：论坛、评论、带照片的个人资料、聊天、交易市场、评价。这类应用必须定义哪些内容是不允许的（条款或社区规则），让用户能在应用内举报内容和其他用户，允许他们屏蔽他人，审核被举报的内容并在合理时间内删除违规内容，并让令人反感的内容远离未成年人或普通公众会看到的区域。靠 UGC 盈利或以 UGC 为主的应用会受到更仔细的审查。
AI 生成内容规则为具备生成式功能的应用又加了一层要求：应用不得生成被禁止的内容（涉及未成年人的色情内容、助长欺诈、骚扰或欺骗的内容），必须对提示词和输出采取合理的防护措施，并且必须让用户无需离开应用即可举报或标记令人反感的 AI 输出。审核人员会向您的模型索要政策所禁止的那些内容，并寻找标记按钮，以此来进行测试。
最小可行的审核工具包
屏蔽用户
屏蔽后，被屏蔽用户的内容对屏蔽者不可见，并且无法再联系对方。它必须立即生效，无论是在界面中还是在背后的查询中。
用户同意的规则
在注册时接受、并在举报页面中链接的社区准则或条款，其中包括违规者会受到的处理。
审核队列
一个管理页面，列出所有举报，让您可以隐藏或删除内容、警告或封禁用户，并记录所做的处理。新举报的邮件或推送通知可以缩短响应时间。
在合适的地方使用过滤器
关键词过滤、针对上传内容的图片审核 API、频率限制。并非处处强制，但社区越大，就越被期望具备。
标记 AI 输出
在每条生成的消息或图片上提供“踩”或“举报此回答”控件，连同提示词和输出一起存储，以便您复查；同时使用提供商的内容审核功能，以及能拒绝违禁请求的系统提示词。
在基于 Supabase 的应用中实现
同样的结构也适用于 Firebase、Base44 或任何后端，只是表名不同。
添加数据表
reports（id、reporter_id、target_type、target_id、reason、note、status、created_at）和 blocks（blocker_id、blocked_id、created_at）。对于 AI 应用，再添加 ai_flags（id、user_id、conversation_id、message_id、reason、created_at），并保存被标记输出的副本。
用行级安全保护它们
用户可以插入自己的举报和屏蔽记录，并读取自己的屏蔽记录。只有 admin 角色可以读取所有举报并更改其状态。只要您说明角色，构建工具就能生成这些策略。
在所有读取内容的地方应用屏蔽
动态、评论、搜索、私信：每个查询都要排除被屏蔽用户的内容，并且被屏蔽用户无法给屏蔽者发消息。用两个账号测试一下。
添加界面
在每条帖子、评论和每个个人资料的溢出菜单中加入“举报”和“屏蔽”；在每条 AI 回复上加入“踩”和“举报”；举报后显示确认信息，说明已收到举报以及接下来会怎样处理。
搭建管理页面
一个受保护的路由，列出未处理的举报及其内容，提供隐藏或删除内容、警告或封禁用户的按钮，以及状态变更。记录每一项操作。有新举报时给自己发送邮件或推送通知（OneSignal 可以从服务器端发送）。
把它写下来
应用内的社区规则、隐私政策中关于内容审核的段落，以及在“应用访问权限”备注中对流程的简短说明，让审核人员知道去哪里找举报流程。
把 Web 应用转换成原生应用的绝佳方式！周转速度快，无需开发完整的原生应用就能把应用上架到应用商店！
给构建工具的提示词
根据您的项目调整表名和管理员角色。
粘贴到 Lovable、Bolt、Base44、Cursor 或 Claude Code 中
按照 Google Play 和 App Store 的要求，为我的应用添加用户生成内容的审核功能。 1. 创建 reports 表（reporter_id、target_type、target_id、reason、note、status、created_at）和 blocks 表（blocker_id、blocked_id、created_at），并启用行级安全：用户可以创建自己的记录并读取自己的屏蔽记录；只有角色为 admin 的用户可以读取和更新所有举报。 2. 在每条帖子、评论和每个用户个人资料的菜单中添加“举报”选项（原因包括：垃圾信息、骚扰、仇恨言论、色情内容、暴力、其他，并带一个备注字段），并在个人资料和消息中添加“屏蔽用户”选项。举报后显示确认信息。 3. 在每个动态、搜索、评论列表和聊天中排除被屏蔽用户的内容，并阻止屏蔽者与被屏蔽用户之间互发消息。 4. 对于 AI 生成的回复，添加“踩”和“举报此回答”操作，把提示词、回答和原因存入 ai_flags 表。 5. 在 /admin/moderation 创建一个管理页面（仅限 admin 角色），列出未处理的举报及被举报的内容，并提供以下操作：隐藏内容、删除内容、警告用户、封禁用户、驳回举报。用管理员 id 和时间戳记录每一项操作。 6. 添加一个“社区准则”页面，要求用户在注册时接受，并在举报对话框中链接到它。 7. 创建新举报时，向管理员邮箱发送一封邮件。
审核人员会尝试什么
| 审核人员的操作 | 预期结果 |
|---|---|
| 用测试账号发布一条辱骂性评论 | 评论上能看到“举报”选项；举报后显示确认信息 |
| 屏蔽另一个测试账号 | 该账号的内容消失；它无法再给屏蔽者发消息 |
| 寻找规则 | 可以从注册、设置或举报对话框中打开社区准则 |
| 向 AI 索要违禁内容 | AI 拒绝，并且有明显的方式举报该回答 |
| 检查商店详情和隐私政策 | 其中描述了内容审核；内容分级中申报了用户互动 |
常见问题
我的应用只有 AI 聊天，没有用户之间的交流。UGC 政策适用吗？
当用户能看到彼此的内容时，UGC 规则才适用。而 AI 内容规则无论如何都适用：任何生成式功能都应具备针对违禁输出的防护措施，以及在应用内举报生成内容的方式。
用“踩”作为 AI 举报机制够吗？
如果它会保存输出并让您能够复查，这是一个不错的开始。一个带原因的、更明确的“举报此回答”会更稳妥，因为审核人员必须能认出这是一个举报功能。
我必须在固定的小时数内完成审核吗？
Google 要求及时处理，但没有统一的数字。设定一个您能做到的目标，在准则中写明，并确保举报能立即送达您，以便您采取行动。
让您的应用上架商店的三种方式
结果相同，只是您需要投入的工作量不同。三种方式都附带审核通过保证和 7×24 小时人工支持。
自己动手
$109 每个平台，一次性付费
WebViewGold 许可证：一个现成的 Xcode 或 Android Studio 项目。粘贴您的 URL，设置名称和图标，开启所需功能，构建并提交。永久免费更新。
在主页查看方案Cloud Builder
$349 每个许可证，一次性附加购买
无需 Mac、Xcode 或 Android Studio：在浏览器中完成配置，我们在云端构建两个应用，并将其交付到 App Store Connect 和 Play Console。
Cloud Builder 如何运作 试用免费演示Full Service
$698 每个平台 $798
把您的 URL 和图标发给我们。我们的团队在 72 小时内完成配置、构建并交付您的应用，白标，附源码项目。两个平台共 $1,158。
Full Service 详情 服务提供方：
冬季特惠价格有效期至 2026年12月31日。