使用Boto3配置文件

时间:2015-09-16 20:36:49

标签: python amazon-web-services boto boto3 botocore

概览

我尝试使用配置文件(boto3)覆盖~/aws/confg中的某些变量。 在我的用例中,我想使用fakes3服务并将S3请求发送到localhost。

实施例

boto(不是boto3)中,我可以在~/.boto中创建与此类似的配置:

[s3]
host = localhost
calling_format = boto.s3.connection.OrdinaryCallingFormat

[Boto]
is_secure = False

客户端可以成功获取所需的更改,而不是将流量发送到真正的S3服务,它会将其发送到本地主机。

>>> import boto
>>> boto.connect_s3()
S3Connection:localhost
>>> 

我做了什么:

我试图使用boto3库获得类似的结果。通过查看源代码,我发现我可以使用~/aws/config位置。我还在unittests的{​​{1}}文件夹中找到了一个示例配置。

我尝试修改配置以实现所需的行为。但不幸的是它没有用。

这是配置:

botocore

问题:

  1. 如何使用配置文件覆盖[default] aws_access_key_id = XXXXXXXXX aws_secret_access_key = YYYYYYYYYYYYYY region = us-east-1 is_secure = False s3 = host = localhost 个变量?
  2. 在哪里可以找到配置允许变量的完整列表?

6 个答案:

答案 0 :(得分:28)

您无法在配置文件中设置主机,但您可以使用boto3从代码中覆盖它。

import boto3

session = boto3.session.Session()

s3_client = session.client(
    service_name='s3',
    aws_access_key_id='aaa',
    aws_secret_access_key='bbb',
    endpoint_url='http://localhost',
)

然后你可以照常进行互动。

print(s3_client.list_buckets())

答案 1 :(得分:2)

boto3仅从该配置文件中读取s3的签名版本。您可能想要打开一个功能请求,但现在就是如何处理自定义端点:

import boto3
from botocore.utils import fix_s3_host
resource = boto3.resource(service_name='s3', endpoint_url='http://localhost')
resource.meta.client.meta.events.unregister('before-sign.s3', fix_s3_host)

关于元数据的这一点非常重要,因为boto3在看到适合1时会自动将端点更改为your_bucket_name.s3.amazonaws.com。如果您要使用自己的主机和s3,您可能希望覆盖功能而不是完全删除它。

答案 2 :(得分:2)

另一种方式:

import boto3

s3client = boto3.client('s3', endpoint_url='http://X.X.x.X:8080/',
        aws_access_key_id = 'XXXXXXX',
        aws_secret_access_key = 'XXXXXXXX')
bucket_name = 'aaaaa'
s3client.create_bucket(Bucket=bucket_name)

答案 3 :(得分:0)

使用boto3资源:

import boto3

# use third party object storage
s3 = boto3.resource('s3', endpoint_url='https://URL:443',
  aws_access_key_id = 'AccessKey',
  aws_secret_access_key = 'SecertKey')

# Print out bucket names
for bucket in s3.buckets.all():
 print(bucket.name)

答案 4 :(得分:0)

我刚刚向 boto3 提交了一个 PR 以添加一个 env var 以允许您在需要使用使用 boto3 的依赖模块时覆盖 endpoint_url(在这种情况下您可能无法修改对 boto3 的调用.client 直接)

https://github.com/boto/boto3/pull/2746

https://github.com/rwillmer/boto3

答案 5 :(得分:0)

s3_client = boto3.client(
    "s3",
    "us-east-1",
    aws_access_key_id="test_id",
    aws_secret_access_key="test_key",
    endpoint_url="https://localhost:7000",
    use_ssl=True,
    verify=False,
)