使用maven为aws lambda创建python部署包

时间:2018-02-15 14:34:14

标签: python maven deployment aws-lambda aws-step-functions

我目前正致力于在aws lambda上部署python包。使用virtualenv和zip工具,我可以轻松创建一个lambda zip文件上传到aws并运行它。我使用以下博客来创建包:https://joarleymoraes.com/hassle-free-python-lambda-deployment/

但是,我需要使用构建工具将我的代码与我公司的Jenkins集成。我们使用maven进行构建,我需要遵循相同的原则。

我查看maven-exec-plugin,了解如何按照博客中的步骤使用虚拟环境并创建zip文件。但是,我无法按照maven教程中提到的步骤进行操作。

有没有人遇到同样的问题?如果是这样,你是如何解决的?如何,你如何配置你的pom.xml来为python aws lambdas创建一个部署包?

快速帮助将受到高度赞赏。感谢

1 个答案:

答案 0 :(得分:1)

让我将这个问题分为两部分。首先,对于python lambda,您必须创建一个zip文件。为此,我建议使用Maven Assembly Plugin

pom.xml示例:

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>
    <parent>
        <groupId>com.mygroup</groupId>
        <artifactId>parent-pom</artifactId>
        <version>0.1-SNAPSHOT</version>
        <relativePath>../pom.xml</relativePath>
    </parent>
    <artifactId>LambdaInstall</artifactId>
    <name>Python Lambda Installation Package</name>
    <packaging>pom</packaging>
    <properties>
        <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
    </properties>
    <build>
        <plugins>
          <plugin>
            <artifactId>maven-assembly-plugin</artifactId>
            <executions>
              <execution>
                <id>install-assembly</id>
                <phase>package</phase>
                <goals>
                  <goal>single</goal>
                </goals>
                <configuration>
                  <appendAssemblyId>false</appendAssemblyId>
                  <descriptors>
                    <descriptor>assembly.xml</descriptor>
                  </descriptors>
                </configuration>
              </execution>
            </executions>
          </plugin>
        </plugins>
    </build>
</project>

assembly.xml样本:

<assembly xmlns="http://maven.apache.org/ASSEMBLY/2.0.0"
    xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
    xsi:schemaLocation="http://maven.apache.org/ASSEMBLY/2.0.0 http://maven.apache.org/xsd/assembly-2.0.0.xsd">
  <id>lambda-zip</id>
  <formats>
    <format>zip</format>
  </formats>
  <includeBaseDirectory>false</includeBaseDirectory>
  <fileSets>
      <fileSet>
        <directory>src/main/python</directory>
        <outputDirectory></outputDirectory>
      </fileSet>
  </fileSets>
</assembly>

如果您的lambda仅使用标准的python库,那么这就是您所需要的。当您需要boto3或AWS未在其lambda节点上预安装的其他一些库时,就会出现复杂问题。为此,您必须将库添加到zip文件中。

我想要一种可以在任何开发人员的PC甚至Jenkins节点上都可以使用的方式来做到这一点,所以我编写了一个小型python应用程序,该程序可以找到库的位置(在site-packages目录下)并进行复制进入应用程序目标目录。在此示例中,我需要jwt:

import jwt
import distutils
from distutils import dir_util

# This will copy the jwt package into the target directory so it is included in the zip file
jwtPath = jwt.__path__[0]
distutils.dir_util.copy_tree(jwtPath, "./target/jwt")

通过将Maven Exec Plugin添加到我的pom.xml中来调用此python程序:

<plugin>
    <groupId>org.codehaus.mojo</groupId>
    <artifactId>exec-maven-plugin</artifactId>
    <executions>
        <execution>
            <id>python-build</id>
            <phase>prepare-package</phase>
            <goals>
                <goal>exec</goal>
            </goals>
        </execution>
    </executions>
    <configuration>
       <executable>python</executable>
       <arguments>
            <argument>src/main/python/build/copyjwt.py</argument>
       </arguments>    
    </configuration>
</plugin>

现在,为了将代码复制到我的zip文件中,我只需要向上面显示的assembly.xml中添加一个文件集即可。

<fileSet>
    <directory>target/jwt</directory>
    <outputDirectory>jwt</outputDirectory>
</fileSet>