使用ruamel.yaml更新yaml文件中的yaml块,该文件包含多个yamls

时间:2018-06-18 20:36:27

标签: python yaml

我有一个包含几个yaml块的yaml文件。该文件可以看到here

基本上,我正在尝试更新文件的最后一个yaml块中的一个图像密钥(ctrl+f blockfreight/go-bftx:)的值。但是,我想保留文件的所有内容(包括注释),除了我正在更新的一个值。

我已获得以下代码:

"""
Retrieves a truncated version of the latest git commit sha and updates 
the go-bftx container image tag in app.yaml
"""

import sys
import ruamel.yaml
from subprocess import check_output

yaml_path = 'app.yaml'
for yaml_block in ruamel.yaml.round_trip_load_all(stream=open(yaml_path)):
    pass

# parse the most recent git commit sha from command line
docker_image = 'blockfreight/go-bftx:ci-cd-' + check_output('git log -1 -- pretty=format:%h'.split()).decode()

# update go-bftx image with most recent git-commit-sha tag in the StatefulSet block
yaml_block['spec']['template']['spec']['containers'][1]['image'] = docker_image

ruamel.yaml.round_trip_dump(yaml_block, sys.stdout)

这成功编辑了值,保持注释不变,但只将最终的yaml块发送到stdout。

有没有办法让我只在app.yaml中编辑第六个(和最后一个)yaml块,并保持文件的其余部分不变(包括注释)?

我尝试使用if语句替换上面代码中的pass,将前五个yamls发送到stdout,然后编辑第六个值中的值,同时将其发送到stdout。我的想法是使用bash将所有stdout发送到一个文件(例如python app_modifier.py > app1.yaml),但这只发送了第六个yaml的输出。

该代码看起来像这样:

for i, yaml_block in enumerate(ruamel.yaml.round_trip_load_all(stream=open(yaml_path))):
    if i != 5:
        ruamel.yaml.round_trip_dump(yaml_block, sys.stdout)
    else:
        # parse the most recent git commit sha from command line
        docker_image = 'blockfreight/go-bftx:ci-cd-' + check_output('git log -1 --pretty=format:%h'.split()).decode()

        # update go-bftx image with most recent git-commit-sha tag in the StatefulSet blocks
        yaml_block['spec']['template']['spec']['containers'][1]['image'] = docker_image

        ruamel.yaml.round_trip_dump(yaml_block, sys.stdout)

非常感谢任何帮助!谢谢!

1 个答案:

答案 0 :(得分:0)

您的文件包含多个YAML文档,这是您使用round_trip_load_all所阅读的内容,它为您提供了一个生成器。

如果使用round_trip_dump()写回,则永远不会获得原始文件中的--- YAML文档分隔符。

您可能可以使用生成器和round_trip_dump_all,因为您知道在哪个文档中进行更改,但是使用list生成的内容round_trip_load_all并对其进行处理可能更容易。我还将使用ruamel.yaml的新API来做到这一点:

import sys
import ruamel.yaml

yaml = ruamel.yaml.YAML()
yaml.preserve_quotes = True
data = list(yaml.load_all(open('app.yaml')))

# parse the most recent git commit sha from command line
# docker_image = 'blockfreight/go-bftx:ci-cd-' + check_output('git log -1 -- pretty=format:%h'.split()).decode()
docker_image = 'blockfreight/go-bftx:ci-cd-' + 'check_output_output'

# update go-bftx image with most recent git-commit-sha tag in the StatefulSet block
data[-1]['spec']['template']['spec']['containers'][1]['image'] = docker_image

with open('out.yaml', 'w') as ofp:
    yaml.dump_all(data, ofp)

以上主要有效。 out.yaml与您要进行的更改有所不同,还有一些空白标准化(缩进,[ "之间),当然是一次性的。

此方法存在两个主要问题:

  • 该文件中的第一个YAML文档没有内容,因此其注释不能从任何映射/序列中挂起并且也不会保留
  • 第二个YAML文档的最终注释(# // Initializes BFTX Service to interact with endpoints)被删除。这很可能是ruamel.yaml中的错误,该错误仅显示在多文档文件中,我必须进行调查

要解决第一个问题,您只能以普通行的形式读取该文档,而不能使用ruamel.yaml。当您这样做时,除了其余部分,您也可能会做所有其他事情,因为这也可以解决(即规避)第二个问题:

import sys
import ruamel.yaml

with open('out.yaml', 'w') as ofp:
    lines = ''
    with open('app.yaml') as ifp:
        for line in ifp:
            lines += line
            if line == '---\n':
                ofp.write(lines)
                lines = ''
    # process lines from the last document
    # print(lines)
    yaml = ruamel.yaml.YAML()
    yaml.preserve_quotes = True
    data = yaml.load(lines)

    # parse the most recent git commit sha from command line
    # docker_image = 'blockfreight/go-bftx:ci-cd-' + check_output('git log -1 -- pretty=format:%h'.split()).decode()
    docker_image = 'blockfreight/go-bftx:ci-cd-' + 'check_output_output'

    # update go-bftx image with most recent git-commit-sha tag in the StatefulSet block
    data['spec']['template']['spec']['containers'][1]['image'] = docker_image

    yaml.dump(data, ofp)

这应该执行您想要的操作,除非您关心流样式序列中的前导尾随空格,或者使用不一致的缩进保留三个位置。 diff -u app.yaml out.yaml的输出:

--- app.yaml    2018-06-23 14:41:02.256290577 +0200
+++ out.yaml    2018-06-23 14:58:09.933991459 +0200
@@ -143,7 +143,7 @@
 spec:
   selector:
     matchLabels:
-       app: bftx
+      app: bftx
   serviceName: blockfreight
   replicas: 1
   template:
@@ -151,7 +151,7 @@
       labels:
         app: bftx
     spec:
-     containers:
+      containers:
       - name: tm
         imagePullPolicy: IfNotPresent
         image: tendermint/tendermint:0.20.0
@@ -199,7 +199,7 @@
           tendermint node --moniker="`hostname`" --p2p.seeds="aeabbf6b891435013f2a800fa9e22a1451ca90fd@bftx0.blockfreight.net:8888,6e9515c2cfed19464e6ce11ba2297ecdb411103b@bftx1.blockfreight.net:8888,b8b988370783bd0e58bf926d621a47160af2bdae@bftx2.blockfreight.net:8888,8c091f4e3dc4ac27db1efd38beee012d99967fd8@bftx3.blockfreight.net:8888" --proxy_app="tcp://localhost:46658" --consensus.create_empty_blocks=false
       - name: app
         imagePullPolicy: Always
-        image: blockfreight/go-bftx:rc1
+        image: blockfreight/go-bftx:ci-cd-check_output_output
         ports:
         - containerPort: 12345
         - containerPort: 46658
@@ -247,7 +247,7 @@
         - mountPath: /etc/nginx/conf.d/pub_key.conf
           name: tmconfigdir
           subPath: pub_key_nginx.conf
-     volumes:
+      volumes:
       - name: tmconfigdir
         configMap:
           name: bftx-config
@@ -262,7 +262,7 @@
       annotations:
         volume.alpha.kubernetes.io/storage-class: anything
     spec:
-      accessModes: [ "ReadWriteOnce" ]
+      accessModes: ["ReadWriteOnce"]
       resources:
         requests:
           storage: 2Gi
@@ -271,7 +271,7 @@
       annotations:
         volume.alpha.kubernetes.io/storage-class: anything
     spec:
-      accessModes: [ "ReadWriteOnce" ]
+      accessModes: ["ReadWriteOnce"]
       resources:
         requests:
           storage: 12Mi