Question

我有一个代码，我需要创建一个键值为double的映射（两个簇之间的f-test值。我需要计算剩余的平方和）以及cluspair的映射值这是我创建的一类Cluster。 Map旨在将F测试值存储在所有集群之间，这样我就不需要在每个步骤中反复进行计算。 BTW集群是一种树结构，其中每个集群包含两个子集群，存储的值是70维向量。

问题是，为了计算RSS，我需要实现一个递归代码，我需要找到集群中每个元素与集群平均值的距离，这似乎消耗了大量的内存。当我创建相同的映射，其中键值是两个集群均值之间的简单距离时，程序使用最少的内存，所以我认为内存使用的增加是由递归函数RSS的调用引起的。我该怎么做才能管理下面代码中的内存使用？在其当前实现中，系统内存不足，窗口关闭应用程序，说系统耗尽了虚拟内存。

主要代码：

    map<double,cluspair> createRSSMap( list<Cluster*> cluslist )
    {
            list<Cluster*>::iterator it1;
            list<Cluster*>::iterator it2;

            map<double,cluspair> rtrnmap;


            for(it1=cluslist.begin(); it1!= --cluslist.end() ;it1++)
            {
                it2=it1;
                ++it2;
                cout << ".";

                list<Cluster*>::iterator itc;
                double cFvalue=10000000000000000000;
                double rIt1 = (*it1)->rss();

                for(int kk=0 ; it2!=cluslist.end(); it2++)
                {

                    Cluster tclustr ((*it1) , (*it2));
                    double r1 = tclustr.rss();
                    double r2= rIt1 + (*it2)->rss();
                    int df2 = tclustr.getNumOfVecs() - 2;

                    double fvalue = (r1 - r2) / (r2 / df2);

                    if(fvalue<cFvalue)
                    {
                        cFvalue=fvalue;
                        itc=it2;
                    }
                }


                cluspair clp;
                clp.c1 = *it1;
                clp.c2 = *itc;


                bool doesexists = (rtrnmap.find(cFvalue) != rtrnmap.end());

                while(rtrnmap)
                {
                    cFvalue+= 0.000000001;
                    rtrnmap= (rtrnmap.find(cFvalue) != rtrnmap.end());
                }

                rtrnmap[cFvalue] = clp;


            }

            return rtrnmap;
    }

以及函数RSS的实现：

double Cluster::rss()
{
    return rss(cnode->mean);
}

double Cluster::rss(vector<double> &cmean)
{
    if(cnode->numOfVecs==1)
    {
        return vectorDist(cmean,cnode->mean);
    }
    else
    {
        return ( ec1->rss(cmean) + ec2->rss(cmean) );       
    }
}

提前非常感谢。我真的不知道该做什么。

下面是我用来创建地图的代码，其中键是两个集群平均值之间的简单欧几里德距离。正如我上面所说，它非常相似并且使用最少的内存。它只在fvalue的计算上有所不同。不是递归计算，而是计算两个簇的均值的简单距离。希望有助于确定问题

map<double,cluspair> createDistMap( list<Cluster*> cluslist )
{
        list<Cluster*>::iterator it1;
        list<Cluster*>::iterator it2;

        map<double,cluspair> rtrnmap;


        for(it1=cluslist.begin(); it1!= --cluslist.end() ;it1++)
        {
            it2=it1;
            ++it2;
            cout << ".";

            list<Cluster*>::iterator itc;
            double cDist=1000000000000000;

            for(int kk=0 ; it2!=cluslist.end(); it2++)
            {
                double nDist = vectorDist( (*it1)->getMean(),(*it2)->getMean());
                if (nDist<cDist)
                {
                    cDist = nDist;
                    itc=it2;
                }
            }   

            cluspair clp;
            clp.c1 = *it1;
          clp.c2 = *itc;



            bool doesexists = (rtrnmap.find(cDist) != rtrnmap.end());

            while(doesexists)
            {
                cDist+= 0.000000001;
                doesexists  = (rtrnmap.find(cDist) != rtrnmap.end());
            }

            rtrnmap[cDist] = clp;

        }

        return rtrnmap;
}

实现vectorDist（）

double vectorDist(vector<double> vec1, vector<double> vec2)
{

    double sqrsum=0;
    double tempd=0;

    int vs = vec1.size();

    for ( int i=0;i<vs;i++)
    {
        tempd = vec1[i] - vec2[i];
        sqrsum += tempd*tempd;
    }

    return sqrsum;
}

修改

BTW我已经尝试过这种替代实现，但仍无法控制内存使用

double Cluster::rss()
{
    list<double> fvals;
    rss(cnode->mean , fvals);

    double sum=0;
    list<double>::iterator tpit;
    for(tpit=fvals.begin() ; tpit != fvals.end() ; ++tpit)
    {
        sum += *tpit;
    }
    return sum;
}

void Cluster::rss(vector<double> &cmean , list<double> &fvals)
{
    if(cnode->numOfVecs==1)
    {
        fvals.push_back( vectorDist(cmean,cnode->mean) );
    }
    else
    {
        ec1->rss(cmean , fvals);
        ec2->rss(cmean , fvals);        
    }
}

Answer 1

如果你的内存不足，你会有一棵非常深的树，或者你的Cluster对象很大或两者兼而有之。尝试使用与Cluster树相同的拓扑创建另一个双精度数据结构，并将其称为RSS树以保存RSS值。计算底部节点的rss值，然后递归填写RSS树中的其余值。这样，在进行rss计算时，不会将群集对象保留在内存中。

内存使用量大幅增加

1 个答案: