我遇到的问题是,这只能在一个特定的顺序中运行,在某些情况下它运行得很好。
以下是此查询过滤掉的数据片段(重复是预期的,实际数据):
- BELLMORE
- ATLANTIC BCH
- ATLANTIC BEACH
- E HILLS
- EAST HILLS
- EAST ROCKAWAY
- FAR ROCKAWAY
- FLORAL PARK
- FLORAL PARK
- HIGHLAND HEIGHTS
- N HIGHLAND HGTS
- NORTH HIGHLAND HEIGHTS
在我的上一个问题(MySQL Query based on string)中提供帮助的一个查询在一个实例中运行良好,而另一个实例运行失败。这是查询:
select names from tablename group by substring_index(names," ",1)
返回:
- BELLMORE
- ATLANTIC BEACH
- EAST HILLS
- FAR ROCKAWAY
- FLORAL PARK
- HIGHLAND HEIGHTS
- N HIGHLAND HGTS
- NORTH HIGHLAND HEIGHTS
那个问题就是你可以看到它删除了一个它不应该拥有的城市,因为它只使用了第一个单词来对它进行分组。它删除的是:
- EAST ROCKAWAY
这是GROUP'ED BY EAST。
当我继续写这篇文章时,我觉得这几乎是不可能的,因为静态城市名称与可变部分的位置总是在变化。除非你可以比较一定数量的字符。到目前为止还没有完美无瑕。如果有人认为他们可能有一些见解或已经合作并完成了这样的事情,我会很感激反馈和指导。最终结果将是:
- BELLMORE
- ATLANTIC BEACH
- EAST HILLS
- EAST ROCKAWAY
- FAR ROCKAWAY
- FLORAL PARK
- HIGHLAND HEIGHTS
答案 0 :(得分:2)
我的建议是一个昂贵的查询,但希望您可以使用此类操作偶尔“清理”您的数据,以便每次查询此数据时都不需要它。
您可以考虑查看Levenshtein distance公式...这是一个字符串指标,用于衡量两个序列之间的差异。
为了避免需要计算桌子笛卡尔积的距离,你可以先缩小一组城市和地址,以便与更快的健全性检查进行比较......例如,它们以相同的字母开头,并且有相似的长度。
最初,您可以从仅返回 Levenshtein距离 的记录开始......然后您可以选择返回的匹配项的一个变体以应用于其他记录是为了规范化您的数据。
然后你可以逐渐增加距离,直到你开始得到太多误报。
Here's an implementation directly in MySql:
CREATE FUNCTION levenshtein( s1 VARCHAR(255), s2 VARCHAR(255) )
RETURNS INT
DETERMINISTIC
BEGIN
DECLARE s1_len, s2_len, i, j, c, c_temp, cost INT;
DECLARE s1_char CHAR;
-- max strlen=255
DECLARE cv0, cv1 VARBINARY(256);
SET s1_len = CHAR_LENGTH(s1), s2_len = CHAR_LENGTH(s2), cv1 = 0x00, j = 1, i = 1, c = 0;
IF s1 = s2 THEN
RETURN 0;
ELSEIF s1_len = 0 THEN
RETURN s2_len;
ELSEIF s2_len = 0 THEN
RETURN s1_len;
ELSE
WHILE j <= s2_len DO
SET cv1 = CONCAT(cv1, UNHEX(HEX(j))), j = j + 1;
END WHILE;
WHILE i <= s1_len DO
SET s1_char = SUBSTRING(s1, i, 1), c = i, cv0 = UNHEX(HEX(i)), j = 1;
WHILE j <= s2_len DO
SET c = c + 1;
IF s1_char = SUBSTRING(s2, j, 1) THEN
SET cost = 0; ELSE SET cost = 1;
END IF;
SET c_temp = CONV(HEX(SUBSTRING(cv1, j, 1)), 16, 10) + cost;
IF c > c_temp THEN SET c = c_temp; END IF;
SET c_temp = CONV(HEX(SUBSTRING(cv1, j+1, 1)), 16, 10) + 1;
IF c > c_temp THEN
SET c = c_temp;
END IF;
SET cv0 = CONCAT(cv0, UNHEX(HEX(c))), j = j + 1;
END WHILE;
SET cv1 = cv0, i = i + 1;
END WHILE;
END IF;
RETURN c;
END;
答案 1 :(得分:1)
...恶棍
我当然会利用迈克尔的建议,并在数据库中保留唯一地名的可能性。
这将允许您仅在添加新位置时使用字符串距离计算。然后,您可以通过将associate_id分配给levenshtein识别的那些位置来管理场所。
也许您可以使用其他一些数据(如地理位置)来进一步调整您关联地点的方式。可能只是使用地名可能不是解决问题的最佳方法......