审查某些词语和图像

Question

我的问题是如何在我的应用程序上审查不良语言和裸露图像，是否有某种框架可以过滤用户引入的内容？你是什​​么，IOS专家，现在用它来解决这个问题？

Answer 1

您的问题分为两部分：1）删失文本，2）删失图像。

对于文本，您可以存储字典并将用户输入与要检查的单词匹配。但是，你如何定义坏语言？单词具有取决于其上下文的含义，并且软件无法确定上下文。即是说有人喜欢吃西瓜应该被审查的东西？如果应用于某些人群，它可以被视为种族主义者。这是你的词典无法分辨的东西。

在图像的情况下，没有可靠的方法来通过算法辨别裸露。事实上，所有进行图像审查的网站都会使用人来对用户提供的图像进行分类和审查（因为我已经读过它不是最好的工作）。甚至人类都会犯错误。最近FB拒绝了一个女人在洗澡时的形象因为他们把她的肘部误认为裸露的乳房。