温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。
Fayson的github:
提示:代码块部分可以左右滑动查看噢
1.文档编写目的
在前面的文章Fayson介绍了关于《CDSW1.4的新功能》、《Hadoop之上的模型训练 - CDSW1.4新功能模块》、《CDSW1.4的Experiments功能使用》、《Hadoop之上的模型部署 - CDSW1.4新功能模块》及《CDSW1.4的Models功能-创建和部署模型(QuickStart)》。本篇文章Fayson会使用CDSW内置的Python模板项目来引导完成端到端的实操示例,即包含从模型创建,训练到部署或投产。我们使用CDSW的实验模块来开发和训练模型,然后使用模型模块的功能来进行部署。
此示例使用Fisher and Anderson的标准Iris数据集构建一个模型,该模型根据花瓣的长度预测花瓣的宽度。
Fisher and Anderson参考:
https://onlinelibrary.wiley.com/doi/abs/10.1111/j.1469-1809.1936.tb02137.x
Iris数据集参考:
https://archive.ics.uci.edu/ml/datasets/iris
- 内容概述
1.创建项目
2.训练模型
3.部署模型
4.总结
- 测试环境说明
1.CM和CDH版本为5.15
2.CDSW版本为1.4
3.操作系统为RedHat7.4
2.创建示例工程
1.你可以在CDSW打包的Pyton模板项目中找到这个示例脚本。首先,从Python模板创建一个新项目:登录CDSW平台创建一个Python模板的工程
工程创建成功,进入工程目录列表
cdsw-build.sh:主要用于模型和实验构建的自定义脚本,在部署模型和试验是会使用pip命令安装我们指定的依赖项,这里主要使用到scikit-learn库。
fit.py:作为试验的模型训练示例。生成包含模型拟合参数的model.pkl文件。
predict.py:作为模型部署的示例函数。调用fit.py生成的model.pkl来预测花瓣宽度。
3.训练模型
1.进入test-models工程点击“Experiments”,进入该工程的试验列表
2.点击“Run Experiment”,使用fit.py创建一个Experiment
注意:确保使用Python3环境运行。
3.点击“Start Run”,新的实验在列表中显示,点击实验ID进入查看详细,可以看到实验概述,点击Session和Build可以看到实时的查看实验的构建及运行进度
4.等待实验运行成功,在Overview界面可以看到该实验输出的model.pkl文件
勾选model.pkl,点击“Add to Project”将生成的model.pkl文件添加到我们的test-models工程里。
4.部署模型
我们使用predict.py脚本来部署模型,该脚本中包含了predict函数,花瓣长度为该函数输入参数,并使用上一步训练的模型来预测花瓣的宽度。
1.进入test-models工程页面,点击“Models”
2.点击“New Model”创建一个新的Model,确保使用Python3环境运行
3.点击“Deploy Model”
在Models列表可以看到刚部署的模型状态为Pending状态,等待Model部署成功
4.点击“test-model”进入模型部署的详细界面,包含模型的部署,构建,监控以及设置等模块
Overview界面还提供了Model功能测试
5.提供了API接口调用模型,同时也提供了Python和R调用示例代码,如下Fayson在命令行测试:
curl -H "Content-Type: application/json" -X POST http://cdh05.fayson.com/api/altus-ds-1/models/call-model -d '{"accessKey":"mrsqqfchljq5n1sp24r12ab4byai2uzh","request":{"petal_length":5.4}}'
(可左右滑动)
参考:
提示:代码块部分可以左右滑动查看噢
为天地立心,为生民立命,为往圣继绝学,为万世开太平。
温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。
推荐关注Hadoop实操,第一时间,分享更多Hadoop干货,欢迎转发和分享。
原创文章,欢迎转载,转载请注明:转载自微信公众号Hadoop实操