从网页上使用CURL获得巨大响应后缓冲区被截断

时间:2013-11-12 06:59:09

标签: android c curl libcurl

我正在使用libcurl来执行HTTP请求和对我的网页的响应。 但是在获得响应时,我没有得到完整的服务器响应。响应行在某一点被截断。例如

10-25 15:53:22.264: XXX(14847): Security.8021x:true
10-25 15:53:22.264: XXX(14847): Event.AlarmInput:true
10-25 15:53:22.264: XXX(14847): Event.AlarmInput.Notification.HTTP.CGI:true
10-25 15:53:22.264: XXX(14847): Event.AlarmInput.Notification.HTTP.CGI.SingleSession:true
10-25 15:53:22.264: XXX(14847): Event.AlarmInpu   .............
  

注意:这是一个自定义的Android日志。请不要与输出线混淆

响应中还有大约10行,但是我的当前日志显示在“Event.AlarmInpu”之后没有输出。

当我提供curl命令行选项

curl http://www.google.com > output.txt   

我可以在文件中找到完整的输出行。

当我使用curl命令行工具并将响应移动到输出文件时,我可以看到整个响应数据。所以我同意curl命令正在检索整个响应。 我得到了整个响应,但是响应比我的缓冲区长度长,因此它被截断了。

请告诉我如何增加缓冲区长度以获得完整的响应线 代码段如下所示

typedef struct pageInfo_t {
    char *data;
    int  len;
} pageInfo_t;

static size_t HTTPData(void *buffer, size_t size, size_t nmemb, void *userData)
{
    int len = size * nmemb;
    pageInfo_t *page = (pageInfo_t *)userData;
    page->data = realloc(page->data,page->len + len +1);
    memcpy(&page->data[page->len], buffer, len);
    page->len += len;
    page->data[page->len] = 0;
    return len;
}

//Inteface funciton that will recieve web page fom Java
jstring Java_com_samsung_jnitest_MainActivity_JNIGetWebpage( JNIEnv* env,jobject entryObject,jstring webpageJStr)
{
    pageInfo_t page;
    CURL *curl;
    CURLcode res;
    char *buffer;

    int memorysize = 19189;
    page.data = (char *)malloc(16 * memorysize);
    page.len = 0;

    if (page.data)
        memset(page.data, 32, 16 * memorysize);

    buffer = (char *)malloc(memorysize);

    curl = curl_easy_init();
    if(curl)
    {
        curl_easy_setopt(curl, CURLOPT_URL, webpage);
        curl_easy_setopt(curl, CURLOPT_WRITEFUNCTION, HTTPData);
        curl_easy_setopt(curl, CURLOPT_WRITEDATA, &page);
        res = curl_easy_perform(curl);
        curl_easy_cleanup(curl);
        (*env)->ReleaseStringUTFChars(env, webpageJStr, webpage);
        if(response_code == 200) 
        {
            if (buffer) 
            {
                page.data[page.len] = '\0';
                sprintf(buffer, "%ld:%s \n", response_code, page.data);
                return (*env)->NewStringUTF(env, buffer);
            }
        }
    }
} 

请告诉我如何增加缓冲区大小以保留完整的响应行 如果我过度使代码复杂化,请告诉我

2 个答案:

答案 0 :(得分:0)

您将buffer分配为memorysize19189字节)。

但是,page.data指向的缓冲区会根据HTTP请求返回的数据量而增长。但是,无论page.data是否足够大,您都会将buffer指向的空终止字符串复制到buffer

也许您应该摆脱与buffer相关的所有代码并退出您的函数,例如:

jstring retval = (*env)->NewStringUTF(env, page.data);
free(page.data);
return retval;

response_code != 200

的情况下,不要忘记正确清理

其他一些评论:

  • 我没有看到webpage是如何设置或声明的 - 我假设您的真实代码中有GetStringUTFChars()被忽略的电话?
  • 我不熟悉JNI,因此我可能无法正确处理上述建议中的jstring结果。
  • 我很好奇 - 当你使用curl命令行工具将HTTP响应放在一个文件中时,文件最终会有多大?

答案 1 :(得分:0)

我遇到了同样的问题,并且通过扩展CURLOPT_TIMEOUT_MS为我解决了该问题。