减小传感器网络中SVM的尺寸

时间:2010-12-28 23:48:41

标签: machine-learning neural-network svm dimensionality-reduction

我正在寻找一些关于我目前面临的问题的建议。

我有一套传感器说S1-S100,当执行某些事件E1-E20时会触发。假设,通常E1触发S1-S20,E2触发S15-S30,E3触发S20-s50等,E1-E20是完全独立的事件。有时,事件E可能会触发任何其他无关的传感器。

我正在使用20 svm的合奏来分别分析每个事件。我的功能是传感器频率F1-F100,触发每个传感器的次数以及其他一些相关功能。

我正在寻找一种技术,可以减少传感器功能的维度(F1-F100)/或包含所有传感器的一些技术,并减少尺寸(我正在为最后几个寻找一些信息理论概念天) 。我不认为平均,最大化是一个好主意,因为我冒着丢失信息的风险(它没有给我很好的结果)。

有人可以建议我在这里缺少什么吗?一篇论文或一些开始的想法......

提前致谢。

2 个答案:

答案 0 :(得分:2)

也许你可能想从Linear Discriminant Analysis开始,这是一个相当简单的算法,并且或多或少地做你正在寻找的东西:降维和/或分类。它假设每个类都是高斯分布的,具有不同的均值但具有相同的协方差。事先绘制一些数据以确保这个假设是合理的,这可能是个好主意。我以前在R中使用过LDA实现。然而,这有十几个功能。我不确定它如何扩展到100维。

也可能有助于了解您希望减少数据维度的原因。 SVM通常与数十万(稀疏)特征一起使用,那么你遇到的困难是什么?

答案 1 :(得分:0)

这是一篇与您的问题相关的精彩文章:http://en.wikipedia.org/wiki/Nonlinear_dimensionality_reduction

另外,正如@StompChicken所提到的那样,使用几百个功能使SVM工作不会有任何问题。您应该开始在成千上万的功能中看到(操作)问题。

卡洛斯