Libcurl回调函数可能无法用于Twitter流媒体

时间:2011-11-12 03:32:36

标签: c callback libcurl twitter-streaming-api

  

可能重复:
  Using HTTP authentication with libcurl in C for Twitter Streaming

我能够编写一个C代码,从流API接收推文流。但是下面的代码没有输出流(没有输出)。当CURLOPT_URL设置为google.com或9gag.com时,代码可以正常运行。我想这个问题与稳定的推文流有很大的关系。 write_func回调函数,其目的是打印响应(流),可能无法正常工作,这就是为什么没有输出? 我认为回调函数可能被Twitter API发送的巨大流所淹没。那么如果是这种情况,我应该如何编写正确的写回调函数?

你可能会问。我验证了流的接收工作正常,因为每当我执行代码时,我都会看到系统监视器的网络历史记录会因接收的字节而上升。

谢谢!

代码:

#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#include <curl/curl.h>

struct string {
  char *ptr;
  size_t len;
};

void init_string(struct string *s) {
  s->len = 0;
  s->ptr = malloc(s->len+1);
  if (s->ptr == NULL) {
    fprintf(stderr, "malloc() failed\n");
    exit(EXIT_FAILURE);
  }
  s->ptr[0] = '\0';
}

size_t writefunc(void *ptr, size_t size, size_t nmemb, struct string *s)
{
  size_t new_len = s->len + size*nmemb;

  s->ptr = realloc(s->ptr, new_len+1);
  if (s->ptr == NULL) {

    fprintf(stderr, "realloc() failed\n");
    exit(EXIT_FAILURE);
  }
  memcpy(s->ptr+s->len, ptr, size*nmemb);
  s->ptr[new_len] = '\0';
  s->len = new_len;

  return size*nmemb;
}

int main(void)
{
  CURL *curl;
  CURLcode res;

  curl = curl_easy_init();
  if(curl) {
    struct string s;
    init_string(&s);

    curl_easy_setopt(curl, CURLOPT_URL, "https://stream.twitter.com/1/statuses/sample.json");
    curl_easy_setopt(curl, CURLOPT_USERPWD, "neilmarion:password_here");
    curl_easy_setopt(curl, CURLOPT_WRITEFUNCTION, writefunc);
    curl_easy_setopt(curl, CURLOPT_WRITEDATA, &s); 
    res = curl_easy_perform(curl);

    printf("%s\n", s.ptr);
    free(s.ptr);

    /* always cleanup */
    curl_easy_cleanup(curl);
  }
  return 0;
}

1 个答案:

答案 0 :(得分:3)

好的,我做了一些测试,看来URL只是不停地发送数据,似乎没有完成。我在15M后杀了它。但是如果您在回调中使用print语句或使用strace,您可以看到它正常工作。你的字符串s不断增长和发展。

因此,一个解决方案是将回调更改为打印并在达到特定大小后重新初始化s。否则,程序最终会耗尽内存。因此,将您的回调更改为

size_t max_buffer = 10240;  // 10K
size_t writefunc(void *ptr, size_t size, size_t nmemb, struct string *s)
{
  size_t new_len = s->len + size*nmemb;

  s->ptr = realloc(s->ptr, new_len+1);
  if (s->ptr == NULL) {
    fprintf(stderr, "realloc() failed\n");
    exit(EXIT_FAILURE);
  }
  memcpy(s->ptr+s->len, ptr, size*nmemb);
  s->ptr[new_len] = '\0';
  s->len = new_len;
  // Begin newly added code
  if( s->len >= max_buffer )
  {
    printf("%s", s->ptr);
    fflush( stdout );
    free(s->ptr);
    initString( s );
  }
  // End newly added code
  return size*nmemb;
}

仍然保持打印结束。转储最后一位和尾随换行符。现在你有了一个缓冲解决方案,你可以看一个更有效的实现,它不需要动态添加内存。