针对多列mySQL表中的所有行的点行产品

时间:2014-09-14 15:11:53

标签: php mysql sql

背景:

我有一个~400,000行表,如下所示:

+---------+--------+------+-------+------+-----+--------+
|   ID    |  WORD  | COL0 | COL1  | COL2 | ... | COL500 |
+---------|--------+------+-------+------+-----+--------+
|    0    | DOG    | -0.73| 0.77  | 0.15 |     | -0.55  |
|    1    | CAT    | 0.41 | -0.57 | 0.61 |     | 0.00   |
|    2    | HOUSE  | 0.40 | 0.32  | -0.23|     | 0.52   |
|   ...   |        |      |       |      |     |        | 
| 400000  | LOVE   | 0.51 | 0.59  | 0.01 |     | -0.10  |
+---------+--------+------+-------+------+-----+--------+

每个col#代表500暗淡矢量的维度。


问题:

给定一个特定的WORD值(它们是唯一的),我想根据点积找到与它最相似的100 WORD(所以WORD相同向量将具有1)的点积。因此对于WORD'CAR',我可能会得到:

+--------+------+
|  WORD  |  DOT |
+--------+------+
| CAR    |  1   |
| TRUCK  | 0.89 |
| SEDAN  | 0.86 |
| VEHICLE| 0.81 |
|  ...   |  ... |
| BIKE   | 0.62 |
+--------+------+

所以(重申一下)我需要将'CAR'的点积与其他每个词一起得到并按降序排序,并将其限制为100个结果。


潜在解决方案:

这个SO问题非常相似并且很有帮助,但我没有正确理解如何应用它('garden'被称为表?)。 Dot product in an SQL table with many columns

1 个答案:

答案 0 :(得分:1)

在链接的SO答案中,'garden'是一个表:它是表t,但是别名为garden,但仅限于一行(带有'GARDEN'字样的行“)。

对于您的特定问题,您需要在查询结尾附加“ORDER BY DOT DESC LIMIT 100”。

也许重命名可以让它更清晰?

select allwords.*,
   (allwords.col0 * word_of_interest.col0 +
    allwords.col1 * word_of_interest.col1 + . . .
    allwords.col500 * word_of_interest.col500
   ) as DOT
from allwords 
cross join
   (select allwords.*
     from allwords
    where `WORD` = '$THE_WORD_I_WANT_EG_CAR'
   ) as `word_of_interest`
order by `DOT` DESC LIMIT 100;

正如另一个答案所说,我预计这会相当缓慢。如果你的COLn向量值是相当静态的,我会考虑预先计算它们并将这些结果存储在你要查询的单独表中。