性能libssh2 sftp上传多个文件

时间:2014-05-15 08:21:43

标签: c upload ftp sftp libssh2

我尝试通过libssh2 sftp子系统将多个文件上传到远程服务器。我的问题是我必须在发送一个文件后关闭sftp句柄和sftp会话,否则函数libssh2_sftp_open()将失败,“FXP_STATUS 4,无法打开/创建文件”。由于会话和文件的重新启动,我失去了宝贵的秒数。

有没有办法在循环中上传多个文件而无需重新启动会话和/或处理?我希望这段代码会告诉你我的问题, 这里有一个循环gothrough工作后重新启动,但需要4秒钟上传4千字节:

 // Transfer at most MAXTRANSFER files
    for (i=0;(i < ((MAXTRANSFER<nfiles)?MAXTRANSFER:nfiles)) && (iRet == SSHH_OK); i++) {
        localfile = malloc(sizeof(char) * (strlen(directory) + strlen(fnames[i]) + 2));
        strcpy(localfile, directory);
        strcat(localfile, "/");
        strcat(localfile, fnames[i]);

        local = fopen(localfile, "rb");
        if (!local) {
            dbgPrintFormat(DEBUG_WARNING, "dir_sftp: Can't open local file %s", localfile);
            iRet = SSHH_ERR_SETTINGS;
        }

        // Init SFTP
        if (iRet == SSHH_OK) {
            sftp_session = libssh2_sftp_init(session);
            if (!sftp_session) {
                dbgPrintFormat(DEBUG_ERROR, "dir_sftp: Unable to init SFTP session (%d)", sftp_session);
                iRet = SSHH_ERR_SETTINGS;
            }
        }

        if (iRet == SSHH_OK) {
            stat(localfile, &fileinfo);
            char *dstfile = malloc(sizeof(char) * (strlen(destdir) + strlen(fnames[i]) + 2));
            strcpy(dstfile, destdir);
            strcat(dstfile, "/");
            strcat(dstfile, fnames[i]);

            dbgPrintFormat(DEBUG_FINE, "dir_sftp: Start sending file %s", localfile);

            // Request a file via SFTP
            sftp_handle = libssh2_sftp_open(sftp_session, dstfile,
                             LIBSSH2_FXF_WRITE|LIBSSH2_FXF_CREAT|LIBSSH2_FXF_TRUNC,
                             LIBSSH2_SFTP_S_IRWXU|LIBSSH2_SFTP_S_IRGRP|LIBSSH2_SFTP_S_IXGRP);

            if (!sftp_handle) {
                dbgPrintFormat(DEBUG_ERROR, "dir_sftp: Unable to open file with SFTP");
                iRet = SSHH_ERR_SETTINGS;
            }

            if (iRet == SSHH_OK) {
                dbgPrintFormat(DEBUG_FINE, "dir_sftp: SFTP session waiting to send file %s",localfile);
                do {
                    nread = fread(mem, 1, sizeof(mem), local);
                    if (nread <= 0) {
                       /* end of file */
                       break;
                    }
                    ptr = mem;

                    do {
                        /* write the same data over and over, until EOF */
                        rc = libssh2_sftp_write(sftp_handle, ptr, nread);
                        // EOF
                        if(rc < 0)
                            break;
                        ptr += rc;
                        nread -= rc;
                    } while (nread);

                } while (rc > 0);
            }

            ulSftpTxTryCount[iSftpTxTryCountIdx]++;

            if (iRet == SSHH_OK) {
                // Remove localfile *** if no error
                if (remove(localfile) == -1) {
                    dbgPrintFormat(DEBUG_WARNING,"dir_sftp: Error removing file: %s", localfile);
                }
                if( successCnt ) {
                    (*successCnt)++;
                }
                dbgPrintFormat(DEBUG_FINE, "dir_sftp: File sent after %lu tries", ulSftpTxTryCount[iSftpTxTryCountIdx]);
                iSftpTxTryCountIdx = (iSftpTxTryCountIdx + 1) % SCP_TRYCNT_NOF;
                ulSftpTxTryCount[iSftpTxTryCountIdx] = 0;
            }

            free (dstfile);


        }
        if (local)
            fclose(local);
        free (localfile);

        // Close file sftp handle
        if (libssh2_sftp_close(sftp_handle) < 0) {
            dbgPrintFormat(DEBUG_WARNING, "dir_sftp: Error closing SFTP handle ");
        }
        // Close sftp session
        libssh2_sftp_shutdown(sftp_session);
    }

2 个答案:

答案 0 :(得分:0)

你有几个问题。第一个问题(您要问的问题)是服务器似乎不喜欢客户端同时打开多个文件。即这可能是服务器特定的问题(以及libssh2的问题)。

更大的问题是你发送一个块,等待结果然后发送另一个块的方法非常慢。当多个块并行异步发送时,第三方SFTP库实现我们所谓的流水线操作。这显着加快了文件传输速度。

我的建议是找一些专门为文件传输编写的第三方库。这将为您提供更好的速度。

答案 1 :(得分:0)

以下是尝试最大化SFTP传输速度时要检查的项目:

是否存在防火墙或网络设备正在检查或限制网络上的SSH2流量?那可能会减慢速度。检查防火墙设置。我们已经让用户报告通过修改防火墙规则来解决极其缓慢的SFTP文件传输。 您使用的SFTP客户端可能会有很大的不同。尝试几个不同的SFTP客户端,看看是否得到不同的结果。 网络延迟将严重影响SFTP。如果您所使用的链接具有较高的延迟,那么快速传输将成为一个问题。 服务器计算机的功能强大吗? SFTP的加密非常密集。确保您有一台足够强大的计算机,并且在进行SFTP文件传输时不会造成过多负担(CPU使用率很高)。