我已经启动了一个社交网络应用程序，并且有一位用户不会停止上传女性的图片，而这些图片也适用于某些性活动。他还为他们添加了攻击性字幕。
我的问题：如何检测图像和文字中的成人内容并将其从我的应用中屏蔽？我认为这是大多数人面临的问题，他们制作任何类型的开放式网络应用程序。如果解决方案尽可能快速且低价，那就太好了。
答案 0 :(得分：0)
实现一个系统，该系统基本上将{256-sha图像哈希，人类评级，计算机评级}存储到数据库中。
创建人员评级和计算机评级的界面，可以判断和分类图像，以及软件中可以使用该信息处理此类图像的界面。
选择一个工具，可能是基于卷积神经网络的算法，具有易于使用的API。以下是搜索的随机结果：https://imagga.com/solutions/adult-content-moderation.html
把所有东西放在一起你应该有一个系统可以自动猜测如何处理图像，但也允许你遍历它们，它们都纠正数据库，并训练基于现有的训练的评级算法人类产生的数据。
注意：除非人为其评分，否则软件的图像状态不是永久性的。每当访问一个时，图像检测的最新状态决定它。如果这种情况发生得太频繁而无法支持，那么请将时间缓冲区与图像关联起来，这样它就不会经常重新评估它。
更新：此自定义解决方案的优点是您可以按照自己的方式控制事物。您可以定义评级系统以及如何处理该情况以及对您正在使用的任何训练算法集的治理。你总是有最后的发言权，你可以随时看到发生的事情。问题在于，您需要将此软件作为项目的扩展来实现。
答案 1 :(得分：-1)
不容易，需要机器学习技术和大量培训。更不用说，所有现代技术都很容易被欺骗。
有一些审核解决方案，但它们并不理想。
首先，你可以禁止他们。不是最好的，因为他们可以创建另一个帐户，但这意味着他们必须再发一封电子邮件。
其次，你可以孤立他。我完全忘记它是如何工作的，但我们的想法是他们仍然认为他们在你的应用上发布，但他们的内容都没有传播给其他人。
我不知道其中任何一个的合法性，这完全取决于您的条款和条件。但AI并不是一个很好的选择，特别是如果您的应用需要扩展。