用于检查不适当内容的文本，音频和图片的解决方案

Question

我正在开展一个项目，我希望在检测到不当内容（咒骂，成人内容等）时收到通知。

虽然我希望它主要用于文本数据，但我也会对音频文件感兴趣。

这显然是一个商业解决方案，但我找不到任何提供这些功能的东西。

它应该支持某种形式的集成（如果它是托管的API，或者是'引擎'sdk）。

这真的不存在吗？

Answer 1

你能编写一个Jquery或JS，它会在页面加载后过滤掉这些单词吗？这是一个简单的“regexp”（查找/替换），你可以用星号***或其他东西替换这些单词，或者只是将它们变白。

如果您可以在服务器端执行此操作，而正在保存来自用户的注释，则可以在那里更好地实现正则表达式。