Violation of Sexual Content and Profanity and AI-Generated Content

78 阅读1分钟

现象

Issue found: Violation of Sexual Content and Profanity and AI-Generated Content policy

解决办法

针对此政策 About the Sexual Content and Profanity policy

解决办法:屏蔽敏感词

   1、首先对搜索的内容屏蔽敏感词,如果用户输入了敏感词,那么提示用户,弹窗提示。

   2、其次对结果屏蔽敏感词,如果结果中有了敏感词,那么提示用户,弹窗提示。

   3、首先有一个本地屏蔽词库和线上屏蔽词库,然后首先检查本地屏蔽词,然后检查线上屏蔽词,如果都检查成功了,那么此时进行内容的搜索。

针对此政策 About the AI-generated Content policy

解决办法:给用户提供可以举报的入口。

      提供给一个入口,让用户可以反馈内容,我们也可以根据这个内容,来更新我们的屏蔽词库。