内容主持人,误报结果如何解决?

时间:2017-10-26 07:48:03

标签: azure microsoft-cognitive

内容主持人:https://azure.microsoft.com/en-us/services/cognitive-services/content-moderator/

我的照片被视为色情图片。如何解决此错误?

False Positives Images

添加:

代码中没有错误,我使用官方界面(https://docs.microsoft.com/en-us/azure/cognitive-services/content-moderator/try-image-api

请求正文

  • IsImageAdultClassified:真
  • IsImageRacyClassified:真

1 个答案:

答案 0 :(得分:0)

Elchan,

我尝试了图片,得到了以下回复。 图片未标记为活泼或成人。

确保从此页面中选择正确的区域(与API密钥区域相同): https://westus.dev.cognitive.microsoft.com/docs/services/57cf753a3f9b070c105bd2c1/operations/57cf753a3f9b070868a1f66c

我的请求字段(文本条目)如下所示:(这是您的图片)

{
  "DataRepresentation":"URL",
  "Value":"https://i.stack.imgur.com/NPdxQ.jpg"
}

回复看起来像这样:

{
  "AdultClassificationScore": 0.035331539809703827,
  "IsImageAdultClassified": false,
  "RacyClassificationScore": 0.043926537036895752,
  "IsImageRacyClassified": false,
  "AdvancedInfo": [{
    "Key": "ImageDownloadTimeInMs",
    "Value": "203"
  }, {
    "Key": "ImageSizeInBytes",
    "Value": "9071"
  }],
  "Result": false,
  "Status": {
    "Code": 3000,
    "Description": "OK",
    "Exception": null
  },
  "TrackingId": "WE_a605a7bfeaca465eb2d8942389f9c86c_ContentModerator.Preview_24006777-6c57-4818-8c2e-146bcb24d3dc"
}

话虽如此,当您使用任何基于机器学习的API时,您可能会发现误报或漏报,因此您很可能无法获得其他图像的正确结果。在这种情况下,请检查置信度分数并找出用于阻止或传递图像的匹配阈值。 (是的,请将图像发给我们,以便我们改进模型!)

除了基于置信度分数自动传递或自动拒绝外,如果您有人工审核小组,请查看内容管理员的human review toolJob以及Review API可以进一步审核和更改Content Moderator API分配的标签。

如果您还有问题,请告诉我。请通过https://cognitive.uservoice.com/提交您的问题。