Question

我们有一个C2C网站，我们不鼓励在我们的网站上销售品牌产品。我们建立了一个品牌词汇数据库，例如 Nike 和 D＆amp; G ，并制作了一个过滤这些词的产品信息的算法，如果产品包含这些词，则禁用产品。

我们当前的算法从提供的文本中删除所有空格和特殊字符，并将文本与数据库中的单词匹配。这些情况需要通过算法捕获并有效捕获：

我是世界
我有n ikee shoes
我有nikeeshoes
我卖i-phone外壳
我卖iphone-casing
你可以拥有iphone

现在的问题是它还会捕获以下内容：

rapiD服装厂（D＆amp; G）
rosNIK Electronics（耐克）

可以采取哪些措施来防止此类错误匹配，同时通过捕获真实案例来保持效率？

修改

以下是那些更了解代码的人的代码：

$orignal_txt = preg_replace('/&.{0,}?;/', '', (strip_tags($orignal_txt)));
$orignal_txt_nospace = preg_replace('/\W/', '', $orignal_txt);
{
    $qry_kws = array("nike", "iphone", "d&g");
    foreach($qry_kws as $rs_kw)
    {       
        $no_space_db_kw = preg_replace('/\W/', '', $rs_kw);
        if(stristr($orignal_txt_nospace, $rs_kw))
        {
            $ipr_banned_keywords[] = strtolower($rs_kw);
        }
        else if(stristr($orignal_txt_nospace, $no_space_db_kw))
        {
                $ipr_banned_keywords[] = strtolower($rs_kw);
        }

    }
}

Answer 1

只是玩耍....（不得用于制作）

$data = array(
        "i am nike world",
        "i have n ikee shoes",
        "i have nikeeshoes",
        "i sell i-phone casings",
        "i sell iphone-casings",
        "you can have iphone",
        "rapiD Garment factor",
        "rosNIK Electronics",
        "Buy you self N I K E",
        "B*U*Y I*P*H*O*N*E BABY",
        "My Phone Is not available");


$ban = array("nike","d&g","iphone");

示例1：

$filter = new BrandFilterIterator($data);
$filter->parseBan($ban);
foreach ( $filter as $word ) {
    echo $word, PHP_EOL;
}

输出1

rapiD Garment factor
rosNIK Electronics
My Phone Is not available

示例2

$filter = new BrandFilterIterator($data,true); //reverse filter
$filter->parseBan($ban);
foreach ( $filter as $word ) {
    echo $word, " " , json_encode($word->getBan()) ,  PHP_EOL;
}

输出2

i am nike world ["nike"]
i have n ikee shoes ["nike"]
i have nikeeshoes ["nike"]
i sell i-phone casings ["iphone"]
i sell iphone-casings ["iphone"]
you can have iphone ["iphone"]
Buy you self N I K E ["nike"]
B*U*Y I*P*H*O*N*E BABY ["iphone"]

使用的课程

class BrandFilterIterator extends FilterIterator {
    private $words = array();
    private $reverse = false;

    function __construct(array $words, $reverse = false) {
        $this->reverse = $reverse;
        foreach ( $words as $word ) {
            $this->words[] = new Word($word);
        }
        parent::__construct(new ArrayIterator($this->words));
    }

    function parseBan(array $ban) {
        foreach ( $ban as $item ) {
            foreach ( $this->words as $word ) {
                $word->checkMetrix($item);
            }
        }
    }

    public function accept() {
        if ($this->reverse) {
            return $this->getInnerIterator()->current()->accept() ? false : true;
        }
        return $this->getInnerIterator()->current()->accept();
    }
}


class Word {
    private $ban = array();
    private $word;
    private $parts;
    private $accept = true;

    function __construct($word) {
        $this->word = $word;
        $this->parts = explode(" ", $word);
    }

    function __toString() {
        return $this->word;
    }

    function getTrim() {
        return preg_replace('/\W/', '', $this->word);
    }

    function accept() {
        return $this->accept;
    }

    function getBan() {
        return array_unique($this->ban);
    }

    function reject($ban = null) {
        $ban === null or $this->ban[] = $ban;
        $this->accept = false;
        return $this->accept;
    }

    function checkMetrix($ban) {
        foreach ( $this->parts as $part ) {
            $part = strtolower($part);
            $ban = strtolower($ban);
            $t = ceil(strlen(strtolower($ban)) / strlen($part) * 100);
            $s = similar_text($part, $ban, $p);
            $l = levenshtein($part, $part);
            if (ceil($p) >= $t || ($t == 100 && $p >= 75 && $l == 0)) {
                $this->reject($ban);
            }
        }
        // Detect Bad Use of space
        if (ceil(strlen($this->getTrim()) / strlen($this->word) * 100) < 75) {
            if (stripos($this->getTrim(), $ban) !== false) {
                $this->reject($ban);
            }
        }
        return $this->accept;
    }
}

Answer 2

简单，在删除空格/特殊字符之前进行品牌匹配。然后它将不匹配这些奇怪的边缘情况。

Answer 3

你已经知道了这一点，但值得明确说明：你当前的算法完全不适合这项任务。它甚至不能处理简单的情况，更不用说人们故意试图通过你的过滤器的情况了。你当前的过滤器只能做一件事，那就完全扔掉了 - 它无法发挥作用。

虽然我们在这里没有讨论一个obsenity过滤器，但它几乎是相同的概念，所以建议您阅读由obsenity过滤器产生的一些最严重的错误。

这些文章主要涉及误报 - 即过滤器对不应该的东西进行匹配，从而阻止合法的条目。这种事情可能会非常具有破坏性，因为它会让您的客户感到不安，如果它发生了很多，它会让人们远离您的网站。自然语言的复杂性几乎是不可避免的。

您还需要了解假阴性。这些是您的过滤器无法获取应该拾取的东西的地方。你的问题在于垃圾邮件制造者拥有大量的技术来获取过滤器。您当前的过滤器很容易过去，但即使是最先进的过滤器也可能会失败 - 请检查您收件箱中收到多少垃圾邮件以获取此类证据。并且他们一直在改变他们的技术，因此静态算法在长期内根本无法发挥作用。

贝叶斯过滤器似乎是最适合您的解决方案。这些过滤器可以随时学习。您需要密切关注它们并培训它们以识别需要过滤的内容，因此设置起来会有一些工作，但我怀疑您是否会以任何其他方式提供可行的解决方案。

Answer 4

这只是一个想法。

为什么不首先进行匹配，如果它碰到“品牌”过滤器，它会被放入审核队列中供您接受/拒绝，突出显示匹配以便于发现。

人类将能够发现几乎是立即和准确地使用品牌。你甚至可以把它变成机器学习，谁知道:)。

话虽如此，这不是正则表达式问题，并且不能通过漂亮的表达来解决;系统需要训练，记住命中（增加信心）并从失误中学习。

PHP筛选禁止单词的文本

4 个答案: