Question

例如，在Sagemaker上进行ap-northeast培训所需的ml.p2.8xlarge每小时需要16.408 USD，但在Ec2上进行ap-northeast的按需p2.8xlarge每小时需要12.336 USD。如果仅将其用于训练，仅在Ec2上训练DL模型而不是Sagemaker会很高兴吗？

Answer 1

您认为EC2比Sagemaker便宜是正确的。但是，您必须了解它们之间的差异。

EC2为您提供计算能力
Sagemaker（尝试）提供具有无缝部署模型的完全配置的环境和计算功能，让您从第一天开始训练模型

如果您查看Sagemaker's overview page，它将附带Jupyter笔记本，预安装的机器学习算法，优化的性能，无缝地投入生产等。

请注意，这与自托管EC2 MYSQL服务器并利用AWS托管RDS MYSQL相同。托管服务似乎总是比较昂贵，但是如果考虑到必须花费的时间来维护服务器，更新软件包等，那么30％的额外成本可能是值得的。

因此，总而言之，如果您想节省一些钱并有时间设置自己的服务器或环境，请使用EC2。如果您不想被这些工作困扰，并希望尽快开始培训，请使用Sagemaker。

Answer 2

大多数人将面临SageMaker的弊端，只有一小部分人会真正受益。只有在好处足以使缺点受苦的情况下，才使用SageMaker。

SageMaker的缺点：

云供应商锁定
SageMaker实例当前的价格比其EC2同等价格的价格高40％。
启动缓慢，如果每次启动计算机都需要5分钟左右，它将中断您的工作流程。 SageMaker Studio显然可以加快此速度，但并非没有其他问题。
SageMaker Studio比SageMaker笔记本实例受到更多限制。例如，您无法安装EFS驱动器。我与AWS解决方案架构师进行了交谈，他确认这是不可能的（在整个互联网上寻找答案之后）。它也很新，因此几乎没有支持，即使是AWS开发人员也是如此。
更担心混乱的笔记本问题。与使用JupyterLab相比，文件系统中的笔记本更易于组织
糟糕的/有限的终端体验，以及繁琐的配置（通过生命周期配置脚本，需要关闭笔记本电脑才能编辑这些脚本）。此外，您不能为Studio笔记本设置任何生命周期配置。
SageMaker Studio是您进入SageMaker控制台时向您显示的第一件事。这真的应该是您考虑的最后一件事。
与在EC2实例中运行自己的服务器相比，SageMaker端点受到限制。
它看起来似乎可以让您跳过某些挑战，但是当您深入研究它时，SageMaker的坚固性和缺少文档意味着很多解决方法。

SageMaker的优点（Sagemaker控制台和SageMaker SDK）（如果发现更多好处，请评论或编辑）

内置算法（您可以轻松地将其导入所选的机器学习框架中）：我想这比使用开放源代码替代方案还差。
在超参数搜索期间YouTube video by AWS轻松地训练许多模型（一种快速的支出方式）
轻松创建与机器学习相关的AWS Mechanical Turk任务。但是，Magek在SageMaker中非常有限，所以最好还是自己动手。

Answer 3

对于小的用例来说，EC2绝对是便宜的，但是对于大的用例来说，将来的维护和增强成本会更高。当您尝试实现此类功能时

1。自动缩放：：根据负载在运行时添加实例。分配负载以及创建和维护此类基础架构将非常昂贵

2。多模型服务器：如果要合并多个端点，以便可以充分利用基础设施，将是不容易的

3。版本控制和数据管理：：如果要准确地对模型进行版本控制，使用数据管理其源代码，在EC2实例中将不容易

4。模型训练周期：：如果要基于数据接收创建自动模型训练周期，则需要创建完整的工作流程，这在Sagemaker中非常容易

5。增量学习或转移学习：如果您想进行模型学习或转移学习，那么在EC2上将很难维护，而且成本也很高

6。弹性推理：为了在深度学习时加快模型性能并减少延迟，此功能是开箱即用的，对于EC2而言，这既昂贵又昂贵，开发成本和运行成本

7。 DevOps集成：Sagemaker提供了DevOps集成的现成CLI功能，您需要为EC2实例开发

我仍然感觉到，对于小型应用程序，Sagemaker每小时收费是其2-3倍，但是您可以使用Sagemaker像一次实例一样进行批处理，对所有排列进行预测，将其存储在数据库中并使用用于服务和更大的应用程序，将其用作实时预测器。

Answer 4

SageMaker / EC2（培训）成本比率不再是+ 40％。截至2020年，尽管取决于实例类型，但它接近+30％：

| SM Instance Type[1] | SM Cost[1] | EC2 Instance Type[2] | EC2 Cost[2] | Ratio |
| ------------------- | -----------| -------------------- | ----------- | ------|
| ml.p3.2xlarge       | 4.779      | p3.2xlarge           | 3.823       | 1.25  |
| ml.p3.8xlarge       | 18.35      | p3.8xlarge           | 15.292      | 1.20  |
| ml.p3.16xlarge      | 35.172     | p3.16xlarge          | 30.584      | 1.15  |
| ml.p2.xlarge        | 1.658      | p2.xlarge            | 1.326       | 1.25  |
| ml.p2.8xlarge       | 12.73      | p2.8xlarge           | 10.608      | 1.20  |
| ml.p2.16xlarge      | 24.398     | p2.16xlarge          | 21.216      | 1.15  |
| ml.g4dn.xlarge      | 0.921      | g4dn.xlarge          | 0.658       | 1.40  |
| ml.g4dn.2xlarge     | 1.316      | g4dn.2xlarge         | 0.94        | 1.40  |
| ml.g4dn.4xlarge     | 2.107      | g4dn.4xlarge         | 1.505       | 1.40  |
| ml.g4dn.8xlarge     | 3.808      | g4dn.8xlarge         | 2.72        | 1.40  |
| ml.g4dn.12xlarge    | 6.846      | g4dn.12xlarge        | 4.89        | 1.40  |
| ml.g4dn.16xlarge    | 7.616      | g4dn.16xlarge        | 5.44        | 1.40  |
| ------------------- | -----------| -------------------- | ----------- | ------|
|                     |            |                      | AVERAGE:    | 1.30  |

[1]对于培训（不是托管），SageMaker的价格为每小时按需eu-central-1美元。来源：https://aws.amazon.com/sagemaker/pricing/

[2]所有EC2价格均为每小时eu-central-1按需美元。来源：https://aws.amazon.com/ec2/pricing/on-demand/

来源：https://docs.google.com/spreadsheets/d/1g1uMPQm48pRlKE6Vv1fYIKzMIxOaG-6Sa43U1y0GU_I/

哪个是低成本的Sagemaker或EC2？

4 个答案: