现象
Issue found: Violation of Sexual Content and Profanity and AI-Generated Content policy
解决办法
针对此政策 About the Sexual Content and Profanity policy
解决办法:屏蔽敏感词
1、首先对搜索的内容屏蔽敏感词,如果用户输入了敏感词,那么提示用户,弹窗提示。
2、其次对结果屏蔽敏感词,如果结果中有了敏感词,那么提示用户,弹窗提示。
3、首先有一个本地屏蔽词库和线上屏蔽词库,然后首先检查本地屏蔽词,然后检查线上屏蔽词,如果都检查成功了,那么此时进行内容的搜索。
针对此政策 About the AI-generated Content policy
解决办法:给用户提供可以举报的入口。
提供给一个入口,让用户可以反馈内容,我们也可以根据这个内容,来更新我们的屏蔽词库。