相似度算法建议,使用二维关联数组

时间:2015-05-18 21:05:31

标签: php arrays algorithm similarity

这个算法的主要目标是从不同的网络源找到类似的新闻文章标题并将它们分组,比如说55.55%以上的相似度。

我目前的算法方法包括以下步骤:

  • 将数据从MYSQL数据库提供到二维数组ex。的 $ arrayOne 即可。
  • 将该数组的另一个副本复制到ex。的 $ arrayTwo 即可。
  • 创建一个干净的数组,其中只包含类似的标题和其他内容。的 $ array_smlr 即可。
  • 循环,foreach $ arrayOne article_title 检查与 $ arrayTwo的相似性 article_title
  • 如果两个标题之间的相似度高于55%且文章不是来自同一个新闻来源(这样我不会检查来自同一来源的相同文章),请将其添加到 $ array_smlr
  • 根据相似度百分比对 $ array_smlr 进行排序,这样我最终会对相似的标题进行分组。

以下是我提到的上述任务的代码。

$result = mysqli_query($conn,"SELECT id_articles,article_img,article_title,LEFT(article_content , 200),psource, date_fetched FROM project.articles WHERE " . rtrim($values,' or') . " ORDER BY date_fetched DESC LIMIT 70");

$arrayOne=array();
$arrayTwo=array();

while($row = mysqli_fetch_assoc($result)){
    $arrayOne[] = $row;
}
$arrayTwo = $arrayOne;
$array_smlr=array();
foreach ($arrayOne as $rowOne) {
    foreach($arrayTwo as $rowTwo){
        $compare = similar_text($rowOne['article_title'], $rowTwo['article_title'], $p);
        if ( round($p,2) >= 55.50 and $rowOne['psource'] != $rowTwo['psource'] ){
            $data =  array('percentage' => round($p,2), 'article_title' => $rowTwo['article_title'], 'psource' => $rowTwo['psource'], 'id_articles' => $rowTwo['id_articles'], 'date_fetched' =>$rowTwo['date_fetched']);
            $array_smlr[]=$data; 
        }
    }
}
array_multisort($array_smlr);
foreach($array_smlr as $row3){
    echo $row3['percentage'] . $row3['article_title'] . $row3['psource'] . $row3['id_articles'] . $row3['date_fetched'] . "<br><br>";
}

只有当我有两个相似的标题时才能使用有限的功能,但是假设我有3个相似的标题,它会在 $ array_smlr 中包含重复的数据行。

如果您对此算法的优化有任何建议以提高性能,我将不胜感激。

谢谢,

1 个答案:

答案 0 :(得分:1)

你真的不需要2个数组而不是foreach循环而没有$ key通配符,你可以使用$ key并在$ key相同时跳过求解器。然后你也避免欺骗。

foreach ($arrayOne as $key => $rowOne) {
   foreach($arrayOne as $ikey => $rowTwo){
      if ($ikey != $key) {
        $compare = similar_text($rowOne['article_title'],$rowTwo['article_title'], $p);
        if ( round($p,2) >= 55.50 and $rowOne['psource'] != $rowTwo['psource'] ){
            $data =  array('percentage' => round($p,2), 'article_title' => $rowTwo['article_title'], 'psource' => $rowTwo['psource'], 'id_articles' => $rowTwo['id_articles'], 'date_fetched' =>$rowTwo['date_fetched']);
            $array_smlr[$rowTwo['id_articles']]=$data; 
        }
    }
}