Amazon Bedrock 是一项完全托管的服务,可从 Amazon 和 可通过 API 访问的第三方模型提供程序.目前支持以下基础模型,通过Bedrock我们可以很轻松只通过几次点击就可以实现复杂的文本,图片,对话聊天等生成式的任务。
本文将会介绍一下怎么开始使用Amazon Bedrock以及Bedrock的基础演示。
模型申请和使用
1.首先在使用Bedrock之前要首先申请模型的访问权限,目前只在us-east-1,us-west-2,ap-southeast-1,ap-northeast-1中可用,需要先申请模型的访问权限,对于所有模型,默认都是没有开放的,在model access界面首先选择请求访问,会让您这边填写一下公司名称,网址,用途,然后请求访问权限就好,这边公司网址如果有海外的尽量选择海外的,目前中国这边还不行,另外这个账号的付款公司也是需要选择海外的,之后选择自己所需模型。
2.登录Bedrock控制台之后,首先到model access界面,点击Edit,勾选需要的模型,如不需要的模型只要勾选留空会自动删除,然后选择保存,保存之后就可以使用所提供的模型了,比如Claude和Stable Diffusion XL等
3.创建完成之后,通过控制台左侧可以看到很多的功能,我们可以选择我们的base model,在 Amazon Bedrock 控制台中,您可以查看可用的模型并按各种模型对其进行分组 属性。您还可以筛选模型视图、搜索模型和查看信息 关于模型提供程序。
4.选择模型之后您可以选择,在playground中打开,就可以使用模型的各个功能了
功能说明
功能1:text playground
此处的话我们就以Claude Instant v1.2作为演示,从而来让大家更清楚的了解Bedrock的各项基础功能,首先我们尝试使用text playgroud,此处我们输入一段文本提示来让claude instanct来给我们做推理,可以选择streaming的方式或者非streaming的方式,另外我们可以调解temperature,Top P,Top K以及maximum length等来调节我们模型回答问题的精准度和长度,同时我们也不需要自己写api,在右下角也可以直接看到view api request的选项方便我们直接API调用
功能2:chat playground
同text一样,Bedrock同样提供了在线实时聊天的方式,我们可以选择Bedrock的一些基础模型或者是我们自己微调过的模型来进行在线聊天,此处还是使用claude instant做一下聊天的展示,claude对中文理解还行,比llama2稍好一点
功能3:Image playground
同样可以生成一些图片,这个的话目前只能选择stability AI模型,同样可以根据提示词生成我们所需的图片
另外,在Bedrock控制台还开放了微调模型的功能,目前只支持Titan Text G1 - Express 模型的微调,此处就不做更多的演示了,后续还会将更多的模型微调直接加入到控制台来,我们可以直接将数据上传到S3,然后通过自定义的模型进行微调。
标签:可以,生成式,选择,Amazon,Bedrock,控制台,模型 From: https://blog.51cto.com/u_16162099/8096282