我创建了一个Scala应用程序,作为其功能的一部分,将任何类型的文件(BZ2,csv,txt等)上传到谷歌云存储。
如果我使用直接上传适用于小文件,但要上传大文件谷歌建议使用“signUrl”,这不是创建文件,或更新文件,如果我之前创建文件,或抛出任何异常有错误。
适用于小文件:
val storage: Storage = StorageOptions.getDefaultInstance.getService
val fileContent = Files.readAllBytes(file.toPath)
val fileId: BlobId = BlobId.of(bucketName, s"$folderName/$fileName")
val fileInfo: BlobInfo = BlobInfo.newBuilder(fileId).build()
storage.create(fileInfo, fileContent)
不要工作:
val storage: Storage = StorageOptions.getDefaultInstance.getService
val outputPath = s"$folderName/$fileName"
val fileInfo: BlobInfo = BlobInfo.newBuilder(bucketName, outputPath).build()
val optionWrite: SignUrlOption = Storage.SignUrlOption.httpMethod(HttpMethod.PUT)
val signedUrl: URL = storage.signUrl(fileInfo, 30, TimeUnit.MINUTES, optionWrite)
val connection = signedUrl.openConnection
connection.setDoOutput(true)
val out = connection.getOutputStream
val inputStream = Files.newInputStream(file.toPath)
var nextByte = inputStream.read()
while (nextByte != -1) {
out.write(nextByte)
nextByte = inputStream.read()
}
out.flush()
inputStream.close()
out.close()
我尝试逐字节读取/写入,使用和字节数组,并使用OutputStreamWriter但不起作用。
我使用的库是:
"com.google.cloud" % "google-cloud-storage" % "1.12.0"
任何人都知道为什么这不起作用? 感谢
答案 0 :(得分:0)
我发现了一种在Google存储中编写大文件的简便方法,而不使用signURL。
我会添加代码以防有人发现它有用。
storage.create(fileInfo)
var writer:WriteChannel = storage.get(fileInfo.getBlobId).writer()
var inputStream: InputStream = Files.newInputStream(file.toPath)
val packetToRead: Array[Byte] = new Array[Byte](sizeBlockDefault toInt)
while (inputStream.available() > 0){
val numBytesReaded = inputStream.read(packetToRead,0,sizeBlockDefault toInt)
writer.write(ByteBuffer.wrap(packetToRead, 0, numBytesReaded))
}
inputStream.close()
writer.close()