首页 > 其他分享 >Amazon SageMaker:让机器学习变得更简单、更强大

Amazon SageMaker:让机器学习变得更简单、更强大

时间:2024-04-12 14:34:29浏览次数:22  
标签:机器 训练 模型 用户 Amazon SageMaker

授权说明:本篇文章授权活动官方亚马逊云科技文章转发、改写权,包括不限于在 亚马逊云科技开发者社区, 知乎,自媒体平台,第三方开发者媒体等亚马逊云科技官方渠道。

前言:

在大数据时代的浪潮中,数据不再只是数字的堆积,而是成为我们理解世界、做出决策的关键元素。随着信息技术的飞速发展,我们进入了一个数字化的时代,其中机器学习作为处理和理解这些海量数据的利器,正变得日益重要。

image.png

亚马逊云科技开发者社区为开发者们提供全球的开发技术资源。这里有技术文档、开发案例、技术专栏、培训视频、活动与竞赛等。帮助中国开发者对接世界最前沿技术,观点,和项目,并将中国优秀开发者或技术推荐给全球云社区。如果你还没有关注/收藏,看到这里请一定不要匆匆划过,点这里让它成为你的技术宝库!

一、走进 Amazon SageMaker

在近期举行的 re:Invent 2023 大会上,亚马逊云科技宣布了一系列令人瞩目的新功能,其中着重强调了生成式 AI 对人工智能未来发展的引领作用。在深入了解大会内容后,我对亚马逊云科技发布的新功能,尤其是针对 Amazon SageMaker 的功能表现出浓厚兴趣。以下是我对这些功能的使用经验分享。

image.png

对于一些初次接触 Amazon SageMaker 的朋友,Amazon SageMaker 是一种全面托管的机器学习服务。这意味着用户无需过多关注底层的复杂性,而是可以专注于模型的构建和优化。通过 SageMaker,开发者可以快速、轻松地构建和训练机器学习模型,然后直接将模型部署到生产就绪的托管环境中。同时 SageMaker 也提供了一个集成的 Jupyter 编写 Notebook 实例,可以轻松访问数据源以便进行探索和分析,并且无需管理服务器。

image.png

此外,SageMaker 还可以提供常见的机器学习算法,这些算法经过了优化,可以在分布式环境中高效处理非常大的数据。借助对 bring-your-own-algorithms 和框架的本地支持,SageMaker 提供灵活的分布式训练选项,可根据开发者的特定工作流程进行调整;可以从 SageMaker Studio 或 SageMaker 控制台中单击几下鼠标按钮以启动模型,并将该模型部署到安全且可扩展的环境中。

image.png

我们可以看到 SageMaker 平台提供了众多的机器学习算法,可以帮助我们简化机器学习训练过程,提高机器学习的效率。在后文我会分享个人的亲测使用过程,帮助开发者更快上手使用。

二、Amazon SageMaker 新功能推出

Amazon SageMaker 在最新发布的 HyperPod、Inference、Clarify 和 Canvas 功能方面取得了显著的突破,为用户提供了更加强大、高效的机器学习工具。

SageMaker HyperPod 功能是专为大规模分布式训练而设计的创新性基础设施。SageMaker HyperPod 的引入消除了这些繁琐的任务,自动将训练工作负载分发到数千个加速器中,从而提高了模型的性能,并通过定期保存检查点确保了训练的连续性。

image.png

SageMaker Inference 方面通过优化加速器的使用,显著减少了基础模型部署的成本,同时,通过智能路由推理请求,它提高了实例的利用率,减少了成本,并改善了用户体验,降低了延迟约 20%,使得部署更加经济高效,用户获得更流畅的推理体验。

image.png

Amazon SageMaker Clarify 同时也提供了一种轻松的方式,使用户能够根据负责任使用 AI 的参数快速评估和选择基础模型。该功能的独特之处在于,它支持组织有效地评估模型,确保其符合负责任的 AI 标准。用户可以方便地提交模型进行评估,或通过 SageMaker JumpStart 选择适用于其用例的模型。SageMaker Clarify 还简化了评估参数的选择,并提供了详细的报告,使用户能够基于性能标准快速比较、评估和选择最佳模型。

image.png

Amazon SageMaker Canvas 引入了更直观的无代码界面,使用户更轻松、更快速地将生成式 AI 集成到其工作流程中。通过使用自然语言指令准备数据,用户可以以更直观的方式进行数据准备,将准备数据所需的时间从几小时缩短到几分钟。利用模型进行大规模业务分析的功能使用户能够在 SageMaker Canvas 上构建 ML 模型并为各种任务生成预测,实现了更广泛的应用。这一系列功能的整合标志着 SageMaker 在推动机器学习领域的创新方面取得了重要进展,为用户提供了更为便捷、高效的工具,助力其在 AI 领域取得更大的成功。

三、Amazon SageMaker 使用指南

Amazon SageMaker 是综合而高效的机器学习平台,提供面向数据科学家和业务分析师的友好工具,将培训时间缩短至几分钟,极大提高团队生产力。它强调数据处理的多样性,支持结构化和非结构化数据。接下来我将以为 ML 标记训练数据作为例子,来标记一系列图像,包括飞机、汽车、渡轮、直升机和摩托车等的案例。

1. 准备工作

1.进入官网,完成账号登录,没有账号的朋友需要先完成账号注册

2.来到个人控制台界面,通过搜索栏搜索 Amazon SageMaker 服务

image.png

3.进入到 SageMaker 服务的主页,同时我们也可以根据主页功能栏的入门指导快速上手

image.png

2. 创建笔记本实例

1.点击左侧导航栏中的笔记本模块,选中笔记本实例,然后创建实例

image.png

2.根据开发需要选择笔记本实例类型和平台标识符以及相关配置信息

image.png

3.定义 IAM 角色信息,可以选择创建新的用户角色,同时也可以选择已有角色

image.png

4.创建完毕后,等待状态变更为 InService 即可以使用

image.png

3. 数据处理

1.点击笔记本实例,打开 python 编译器

image.png

2.打开 jupyter 编译器之后,点击 new 创建 conda_python3 服务

image.png

3.点击 Untitled.ipynb 以打开笔记本。在 Jupyter notebook 的新代码单元格中,复制并粘贴以下代码,然后运行该单元格,注:在次给出示例,S3 存储桶具体信息根据个人情况修改

import sagemaker

sess = sagemaker.Session()
bucket = sess.default_bucket()

!xxx s3 sync 
//这一块需要切换为自己的存储桶信息
s3://sagemaker-sample-files/datasets/image/caltech-101/inference/ s3://{bucket}/ground-truth-demo/images/

print('Copy and paste the below link into a web browser to confirm the ten images were successfully uploaded to your bucket:')
print(f'https://s3.console.xxx.amazon.com/s3/buckets/{bucket}/ground-truth-demo/images/')

print('\nWhen prompted by Sagemaker to enter the S3 location for input datasets, you can paste in the below S3 URL')

print(f's3://{bucket}/ground-truth-demo/images/')

print('\nWhen prompted by Sagemaker to Specify a new location, you can paste in the below S3 URL')

print(f's3://{bucket}/ground-truth-demo/labeled-data/')

4.在成功运行代码以后,使用存储桶 S3 桶存储文件,因为我们上面代码中10 张样本图像位于 Amazon S3 桶,具体信息可以更换为我们自己的存储桶。

image.png

5.通过向 S3 桶中添加十张照片,如图,添加完毕成功

image.png

6.进入 Amazon SageMaker 服务界面,通过选择 Ground Truth 服务,创建标注作业

image.png

7.创建标注作业,并设置相关的配置信息,我们可以使用存储在 Amazon S3 存储桶中的图像、视频、视频帧、文本(.txt)文件和以逗号分隔的值(.csv)文件,并通过自动数据设置为您的标注作业创建清单文件

image.png

8.选择对应任务类型,任务类别选择图像,同时任务选择图像分类

image.png

9.当我们看到标注作业的状态变更为完成即表示标注作业创建完毕

image.png

10.可以查看标注作业相关信息,审核标注作业结果对评估标记质量,以及确定您是否需要优化说明和数据来说十分重要。 在详细信息页面上,标记数据集对象部分将显示您的数据集图像的缩略图,并以对应标签作为标题。如果同时想要评估标注作业的完整结果,可以在标注作业摘要部分中,选择输出数据集位置链接。

image.png

4.训练模型

1.点击训练模块中的训练任务,并且创建训练作业

image.png

2.配置相关训练参数,这一块信息配置可以根据开发需要进行相关设置

image.png

3.完成训练作业,当我们看到作业状态变更为 success,即表示作业训练完成

image.png

在这里贴出(SageMaker 官方文档),相关细节可以进行参考和细节学习。

四、使用体验和总结

Amazon SageMaker 通过有针对性的改进,成功地克服了当前机器学习应用中的多项挑战,为用户提供了更高效的解决方案。特别是在大规模监督训练方面,采用了全面托管的服务模式,使整个训练过程更为简化,从而在提高效率的同时降低了用户的操作负担。这种设计使得用户可以更专注于模型和业务的开发,而不用过多关注底层的技术细节。

在数据标记阶段,Amazon SageMaker 提供了多种灵活的方式和算法,显著提升了标记数据的准确性。这不仅为用户节省了时间,避免了在重复训练和调优上的不必要投入,同时也为模型的发展奠定了更为可靠的基础。我的个人感受是,在这个阶段,SageMaker 的用户体验得到了很好的优化,让整个数据标记流程更加直观和高效。

image.png

在工程实施方面,Amazon SageMaker 为模型开发提供了许多实用的功能,使算法工程师能够更轻松地将关注点集中在业务和模型本身上,提高了开发的效率。其基于容器的设计相较于流行的 Kubernetes 更为简化,减少了软件依赖和复杂性,为用户提供了更加友好的开发环境。通过这样全流程支持的设计,机器学习应用的实施变得更加高效,为企业带来了持续创新的动力。在实际使用中,我发现这种设计理念为我带来更加流畅和愉悦的开发体验。

总体而言,Amazon SageMaker 不仅仅是一款强大的机器学习工具,更是一个推动行业创新的引擎。其广泛的应用将为企业带来更多机会,将机器学习无缝融入各个领域,推动着创新步入崭新的时代。这种全面性和创新性的解决方案使得 Amazon SageMaker 成为当前机器学习领域的领军者,为用户提供了更多可能性和发展空间。

文章来源:https://dev.amazoncloud.cn/column/article/658ac8715d096603bb1d4b08?sc_medium=regulartraffic&sc_campaign=crossplatform&sc_channel=bokey

标签:机器,训练,模型,用户,Amazon,SageMaker
From: https://www.cnblogs.com/AmazonwebService/p/18131142

相关文章

  • Unity机器学习ML-Agents-release_21环境安装
    https://zhuanlan.zhihu.com/p/678870771 pipconfigsetglobal.index-url https://pypi.tuna.tsinghua.edu.cn/simple(启用清华源下载)python-mpipinstallmlagents==1.0.0--no-dependenciespipinstallattrpipinstallcattrs==1.1.0pipinstallpyyamlpipinstall......
  • Windows机器部署nginx并设置开机自启
    1.Windows安装nginx服务(1)下载nginx安装包      http://nginx.org/download/nginx-1.22.1.zip(3)解压安装                #进入目录修改配置文件(修改配置文件此处省略,根据自己的需求进行修改)     2.Windows设置nginx开机......
  • 统计机器学习—概论
    统计学习方法实现步骤主要组成监督学习非监督学习半监督学习强化学习监督学习任务学习一个模型,使模型能够对任意给定的输入,对其相应的输出做一个好的预测基本概念实例instance每一个具体的输入是一个实例通常由特征向量表示,所有特征......
  • 机器学习—特征工程(三)
    什么是特征工程特征工程是使用专业背景知识和技巧处理数据,使得特征能在机器学习算法上发挥更好的作用的过程。意义︰会直接影响机器学习的效果特征工程的位置与数据处理的比较pandas:—个数据读取非常方便以及基本的处理格式的工具sklearn:对于特征的处理提供了强大的接......
  • 机器学习—无量纲化和降维(四)
    什么是特征预处理?通过一些转换函数将特征数据转换成更加适合算法模型的特征数据过程1包含内容数值型数据的无量纲化:归一化标准化2特征预处理APIsklearn.preprocessing为什么要进行归一化or标准化?特征的单位或者大小相差较大,或者某特征的方差相比其他的特征......
  • 机器学习和深度学习--李宏毅(笔记与个人理解)Day9
    Day9LogisticRegression(内涵,熵和交叉熵的详解)中间打了一天的gta5,图书馆闭馆正好+npy不舒服那天+天气不好,哈哈哈哈哈总之各种理由吧,导致昨天没弄起来,今天补更!这里重点注意一下,这个output值是概率哈,也就是说式子整体表示的含义是x属于c1的概率是多大这个老师......
  • PA2 - 简单复杂的机器: 冯诺依曼计算机系统
    [いちご飴--放課後]RTFSC(2)exec_once()函数函数覆盖了指令周期的所有阶段:取指,译码,执行,更新PC//nemu/src/isa/riscv32/inst.c/**可以看到每一次我们都是从内存中取出32位(uint32_t)作为指令,然后也让我们的pc+4,因为我们的内存定义为uint8_tpmem[].*/intisa_e......
  • 机器学习——常见模型评估指标
    目录一.模型评估综述1.1什么是模型评估1.2评估类型1.3模型泛化能力1.4过拟合与欠拟合1.4.1过拟合1.4.2欠拟合二.常见的分类模型评估方式2.1混淆矩阵2.2准确率(Accuracy)2.3精确率(Precision)2.4召回率(Recall)2.5F1-score2.6ROC曲线及AUC值2.7PR曲线三.PR曲线和ROC曲线的......
  • 国内人形机器人公司的技术发展现状及水平
    和几个国内的机器人公司聊了聊,有些发现:Demo是Demo,技术实现是技术实现。这句话展开来说就是各个公司的Demo视频往往都是有人在后面用VR操作的,或者是用传统机器人控制方法(基于模型控制的MPC,等等)来实现的。现在的各公司目前连平稳的步态控制都没有做到,大多数公司的人形机器人目......
  • 【机器学习】Logistic与Softmax回归详解
    在深入探讨机器学习的核心概念之前,我们首先需要理解机器学习在当今世界的作用。机器学习,作为人工智能的一个重要分支,已经渗透到我们生活的方方面面,从智能推荐系统到自动驾驶汽车,再到医学影像的分析。它能够从大量数据中学习模式和规律,然后使用这些学习到的信息来做出预测或决......