如何从云功能中读取.json类型的新云存储文件的内容?

时间:2017-03-25 08:44:27

标签: javascript google-cloud-storage google-cloud-functions

传递给我的Google云计算功能的event只能告诉我存储桶和文件的名称,以及文件是否已删除。是的,那里还有更多,但它看起来并不那么有用:

{ timestamp: '2017-03-25T07:13:40.293Z', 
eventType: 'providers/cloud.storage/eventTypes/object.change', 
resource: 'projects/_/buckets/my-echo-bucket/objects/base.json#1490426020293545', 
data: { kind: 'storage#object', 
       resourceState: 'exists', 
       id: 'my-echo-bucket/base.json/1490426020293545', 
       selfLink: 'https://www.googleapis.com/storage/v1/b/my-echo-bucket/o/base.json', 
       name: 'base.json', 
       bucket: 'my-echo-bucket', 
       generation: '1490426020293545', 
       metageneration: '1', 
       contentType: 'application/json', 
       timeCreated: '2017-03-25T07:13:40.185Z', 
       updated: '2017-03-25T07:13:40.185Z', 
       storageClass: 'STANDARD', 
       size: '548', 
       md5Hash: 'YzE3ZjUyZjlkNDU5YWZiNDg2NWI0YTEyZWZhYzQyZjY=', 
       mediaLink: 'https://www.googleapis.com/storage/v1/b/my-echo-bucket/o/base.json?generation=1490426020293545&alt=media', contentLanguage: 'en', crc32c: 'BQDL9w==' } 
}

如何获取内容,而不仅仅是上传到gs存储桶的新.json文件的元数据?

我尝试在npm:request()上使用event.data.selfLink,这是存储桶中文件的URL,并且收到了授权错误:

"code": 401, "message": "Anonymous users does not have storage.objects.get access to object my-echo-bucket/base.json."

关于阅读存储桶有一个类似的问题,但可能在不同的平台上。无论如何,未答复

How do I read the contents of a file on Google Cloud Storage using javascript `

2 个答案:

答案 0 :(得分:12)

您需要将客户端库用于Google存储,而不是通过URL访问。对URL使用request()仅在文件公开访问时才有效。

在包含项目的npm托管目录中导入Google云端存储库。

npm i @google-cloud/storage -S

npm page for google-cloud/storage有不错的例子,但我不得不仔细阅读API,看看下载到内存的简单方法。

在Google Cloud Functions环境中,您无需在初始化时向存储提供任何api密钥等。

const storage = require('@google-cloud/storage')();

传递的有关文件的元数据可用于确定您是否真的想要该文件。

当您需要该文件时,可以使用file.download功能下载该文件,该功能可以进行回调,也可以在没有回调的情况下返回承诺。
但是,数据会以Buffer的形式返回,因此您需要调用data.toString('utf-8')将其转换为utf-8编码的字符串。

const storage = require('@google-cloud/storage')();

exports.logNewJSONFiles = function logNewJSONFiles(event){
    return new Promise(function(resolve, reject){
        const file = event.data;
        if (!file){
            console.log("not a file event");
            return resolve();
        }
        if (file.resourceState === 'not_exists'){
            console.log("file deletion event");
            return resolve();
        }
        if (file.contentType !== 'application/json'){
            console.log("not a json file");
            return resolve();
        }
        if (!file.bucket){
            console.log("bucket not provided");
            return resolve();
        }
        if (!file.name){
            console.log("file name not provided");
            return resolve();
        }
        (storage
         .bucket(file.bucket)
         .file(file.name)
         .download()
         .then(function(data){
             if (data)
                 return data.toString('utf-8');
         })
         .then(function(data){
             if (data) {
                 console.log("new file "+file.name);
                 console.log(data);
                 resolve(data);
             }
         })
         .catch(function(e){ reject(e); })
             );
    });
};

部署符合预期:

gcloud beta functions deploy logNewJSONFiles --stage-bucket gs://my-stage-bucket --trigger-bucket gs://my-echo-bucket

请记住在Google云端平台上的Stackdriver:Logging页面查看console.log条目。

更新(2017年3月28日)。上面的代码天真地假设传输在第一次尝试时完成。目前,在尝试使用Google云端功能使用Google存储时,会发现很多ECONNRESET次传输。希望这会有所改善,但与此同时......使用npm:promise-retry会有所帮助,因为在ECONNRESET之后的下一次尝试中,转移通常会正常。 promise-retry默认会尝试最多10次。

上面代码的最新承诺重试版现在位于npm:maybe-json。如果将一个字符串或返回新的可读流的函数用作第一个参数,那么我将使用promise-retry来编写npm:pipe-to-storage

答案 1 :(得分:3)

npm install @google-cloud/storage --production

的package.json:

{
  "main": "app.js",
  "dependencies": {
    "@google-cloud/storage": "^1.2.1"
  }
}

您应该实现npm ls显示没有错误,例如npm ERR! missing:

app.js:

...

  const storage = require("@google-cloud/storage")();
  storage.
    bucket("mybucket").
    file("myfile.txt").
    download( function(err, contents) {
      console.log(contents.toString());
    } );