Question

我正在尝试编写一个简单的程序来从一堆AVRO文件中提取一些数据。每个文件的架构可能会有所不同，因此我想使用C ++接口以一般方式读取文件（即不必预先生成文件，然后在每个架构中进行编译）。

我一直在尝试遵循generic.cc示例，但是它假设一个单独的架构，我希望从每个AVRO文件中读取该架构。

这是我的代码：

#include <fstream>
#include <iostream>

#include "Compiler.hh"
#include "DataFile.hh"
#include "Decoder.hh"
#include "Generic.hh"
#include "Stream.hh"

const std::string BOLD("\033[1m");
const std::string ENDC("\033[0m");
const std::string RED("\033[31m");
const std::string YELLOW("\033[33m");

int main(int argc, char**argv)
{
    std::cout << "AVRO Test\n" << std::endl;

    if (argc < 2)
    {
        std::cerr << BOLD << RED << "ERROR: " << ENDC << "please provide an "
                  << "input file\n" << std::endl;
        return -1;
    }

    avro::DataFileReaderBase dataFile(argv[1]);
    auto dataSchema = dataFile.dataSchema();

    // Write out data schema in JSON for grins
    std::ofstream output("data_schema.json");
    dataSchema.toJson(output);
    output.close();

    avro::DecoderPtr decoder = avro::binaryDecoder();
    auto inStream = avro::fileInputStream(argv[1]);
    decoder->init(*inStream);

    avro::GenericDatum datum(dataSchema);
    avro::decode(*decoder, datum);
    std::cout << "Type: " << datum.type() << std::endl;

    return 0;
}

每次我运行代码时，无论我使用什么文件，我都会得到：

$ ./avrotest twitter.avro
  AVRO测试
     抛出'avro :: Exception'实例后调用
terminate
  what（）：不能为负数：-40已终止

除了我自己的数据文件，我还尝试使用位于https://github.com/miguno/avro-cli-examples的数据文件，结果相同。

我尝试在所有相同文件上使用avrocat实用程序，并且工作正常。我在做什么错了？

（注意：以JSON输出每个文件的数据模式可以按预期正确地工作）

Answer 1

经过一堆鬼混之后，我想通了。您应该使用DataFileReader模板化的GenericDatum。最终结果是这样的：

#include <fstream>
#include <iostream>

#include "Compiler.hh"
#include "DataFile.hh"
#include "Decoder.hh"
#include "Generic.hh"
#include "Stream.hh"

const std::string BOLD("\033[1m");
const std::string ENDC("\033[0m");
const std::string RED("\033[31m");
const std::string YELLOW("\033[33m");

int main(int argc, char**argv)
{
    std::cout << "AVRO Test\n" << std::endl;

    if (argc < 2)
    {
        std::cerr << BOLD << RED << "ERROR: " << ENDC << "please provide an "
                  << "input file\n" << std::endl;
        return -1;
    }

    avro::DataFileReader<avro::GenericDatum> reader(argv[1]);
    auto dataSchema = reader.dataSchema();

    // Write out data schema in JSON for grins
    std::ofstream output("data_schema.json");
    dataSchema.toJson(output);
    output.close();

    avro::GenericDatum datum(dataSchema);
    while (reader.read(datum)) 
    {
        std::cout << "Type: " << datum.type() << std::endl;
        if (datum.type() == avro::AVRO_RECORD) 
        {
            const avro::GenericRecord& r = datum.value<avro::GenericRecord>();
            std::cout << "Field-count: " << r.fieldCount() << std::endl;

            // TODO: pull out each field
        }
    }

    return 0;
}

也许这样的例子应该包含在libavro中...

如何使用C ++接口从AVRO文件中读取数据？

1 个答案: