如何使用boto3创建带有额外jar文件的aws胶工作?

时间:2020-01-16 15:13:48

标签: boto3 aws-glue vertica

我正在尝试使用boto3从我的python作业创建aws胶作业,以访问HP Vertica数据库中的数据。为此,我需要将Vertica驱动程序jar文件传递给作业。

我尝试使用--extra-jars,但似乎不起作用。它提醒我无法找到驱动程序Java类的错误。有人可以帮忙吗?我正在使用的驱动程序jar文件是vertica-jdbc-9.3.1-0.jar(763kb),我当前的粘合脚本看起来像

myJob = glue.create_job(Name='james_test_glue_job', 
                        Role='some-good-glue',
                        Command={'Name': 'glueetl','ScriptLocation': 's3://path','PythonVersion': '3'},
                        Connections={'Connections': ['mssql connection']},
                        DefaultArguments={'--extra-py-files': 'pyfile-path', '--extra-jars': 'vertica-driver-path'},
                        MaxRetries=0,
                        MaxCapacity=12.0,
                        Timeout=2880,
                        GlueVersion='1.0'
                        )

1 个答案:

答案 0 :(得分:0)

解决了这个问题,需要在start_job_run()中加上--extra-jars

glue.start_job_run(JobName ='您的工作名称',参数= {“-extra-jars”:“ s3:// jar_path”})