递归行列式函数返回未定义的行为

时间:2018-09-04 05:55:18

标签: c++ recursion linear-algebra determinants

我写了一个用于计算行列式的递归函数。我知道我可以做得更有效率,但这不是重点。我有一个名为“ det1”的变量,该变量在递归结束时保存行列式的最终值。 奇怪的是,当我在det函数中返回该值时,我得到了完全的垃圾。但是,当我只是简单地将“ det1”打印出来时,我得到了答案。这里有什么猜想吗?

int det1 = 0;
int p = 0; 

int det(vector<vector<int> > (&A)){
    if (A.size() != A[0].size()){
        cout << "Determinant Error: non-square matrix. \n";
        return 0; 
    }
    int cF; 
    vector<vector<int> > temp01;
    if (A.size() == 2){
        det1 += (A[0][0]*A[1][1]-A[0][1]*A[1][0]); 
        //cout << "Determinant : " << det1 << "\n";
        int output = det1;                     ///////////////////////////////////////Problem with final return 
        //cout << "Recursion Count : " << p << "\n";  
        //return(output);                        ///////////////////////////////////////
    }else{//extract until a 2x2 is reached
        for (int i = 0; i < A.size(); i++){
             temp01 = extractNext(A,0, i); 
             //printMatrix(temp01); 
             cF = pow(-1, (0)+(i))*A[0][i]; 
             //cout << "Cofactor : " << cF << "\n"; 
             for (int j = 0; j< temp01.size(); j++){
                 temp01[0][j] = cF*temp01[0][j]; //account for cofactor by multiplying it in
             }
             //printMatrix(temp); cout << "\n";
             p++;  
             det(temp01); 
        }
    } 
}

2 个答案:

答案 0 :(得分:2)

您并不是在所有代码路径上都返回一个值,当您使用一个不存在的返回值时,最终将导致未定义的行为。
(合理的现代编译器应对此发出警告。)

您应该从递归中返回行列式,而不是对全局变量进行变异-混合可变状态和递归通常只会带来麻烦。
(这也使您的代码与行列式的数学定义更加相似,从而使之易于理解和验证。)

在进行一些细微更改后,我会建议类似的

int det(const vector<vector<int>> &A)
{
    if (A.size() != A[0].size()){
        cout << "Determinant Error: non-square matrix. \n";
        return 0; 
    }

    if (A.size() == 2)
    {
        return A[0][0] * A[1][1] - A[0][1] * A[1][0]; 
    }
    else
    {
        int determinant = 0;
        int sign = -1;
        for (int i = 0; i < A.size(); i++){
            vector<vector<int>> submatrix = extractNext(A, 0, i);
            sign = -sign;
            int cofactor = sign * A[0][i]; 
            for (int j = 0; j < submatrix.size(); j++){
                submatrix[0][j] = cofactor * submatrix[0][j];
            }
            determinant += det(submatrix);
        }
        return determinant;
    } 
}

答案 1 :(得分:0)

您的代码没有返回行列式,因为您没有为其创建返回路径。 您也确实依赖副作用。

对于2 * 2矩阵,您的代码应返回正确的值,前提是您只需调用一次即可,但这仅是因为它立即占用了“ if”部分,并一步一步完成了最终计算。 但是,对于3 * 3矩阵,采用“其他”部分。 但是请注意,该路径上没有返回值,因此可以期望函数返回垃圾。

要解决此问题,您需要重写else分支,以便计算递归调用返回的值之和,并为此在堆栈上使用temp变量。 最后,您应该返回该值。