首页 > 其他分享 >亚马逊云科技 re:Invent 2023 产品体验:亚马逊云科技产品应用实践 王炸产品 Amazon Q,你的 AI 助手

亚马逊云科技 re:Invent 2023 产品体验:亚马逊云科技产品应用实践 王炸产品 Amazon Q,你的 AI 助手

时间:2023-12-26 17:00:13浏览次数:42  
标签:科技 AI AWS 亚马逊 re Amazon EC2 产品

image.png

意料之中

2023年9月25日,亚马逊宣布与 Anthropic 正式展开战略合作,结合双方在更安全的生成式 AI 领域的先进技术和专业知识,加速 Anthropic 未来基础模型的开发,并将其广泛提供给亚马逊云科技的客户使用。

 

亚马逊云科技开发者社区为开发者们提供全球的开发技术资源。这里有技术文档、开发案例、技术专栏、培训视频、活动与竞赛等。帮助中国开发者对接世界最前沿技术,观点,和项目,并将中国优秀开发者或技术推荐给全球云社区。如果你还没有关注/收藏,看到这里请一定不要匆匆划过,点这里让它成为你的技术宝库!

 

在2023年即将结束之际,亚马逊云科技在9月底宣布于Anthropic展开战略合作,此次合作是亚马逊云科技在生成式 AI “三层架构”中持续扩展其独特服务的最新发布。在底层,亚马逊云科技继续提供来自英伟达的计算实例,以及亚马逊云科技的自研芯片,包括用于 AI 训练的 Amazon Trainium 以及用于 AI 推理的 Amazon Inferentia 实例。

中间层,亚马逊云科技专注于为客户提供来自多个领先模型供应商的最受欢迎的基础模型。此外,客户可以定制这些模型,确保自己数据的隐私和安全,同时还能与亚马逊云科技其他工作负载无缝集成,这一切都由亚马逊云科技的新服务 Amazon Bedrock 提供支持。即日起,客户将能够提前使用定制 Anthropic 模型的功能,利用自己的专有数据来创建自己的私有模型,并且可以通过 Amazon Bedrock 的自助服务使用微调功能。

在顶层,亚马逊云科技为客户提供了生成式 AI 应用程序和服务,比如功能强大的 AI 编程助手 Amazon CodeWhisperer,它可以直接在代码编辑器中生成代码编写建议,从而提高开发人员编写代码的效率。

至此,我们已经可以看到的是亚马逊云科技在 AI 方面的长远布局,也为后面的发展奠定了良好的基础。

Amazon Q

在 Amazon CodeWhisperer 推出之后,就对于 Amazon CodeWhisperer 的一些功能提出了期待,果然不出意料,在2023亚马逊云科技re:Invent大会推出在全新的 AI 生成式助手—Amazon Q

Amazon Q 可以帮助您使用公司信息存储库、代码和企业系统中的数据和专业知识,快速获得紧迫问题的相关答案、解决问题、生成内容并采取行动。 当您与 Amazon Q 聊天时,它会提供即时的相关信息和建议,以帮助简化任务、加快决策速度并帮助激发工作中的创造力和创新。

image.png

有问题必定有答案,Amazon Q:一款基于生成式人工智能(AI)的新型助手,专为辅助工作而设计,可以针对客户的业务量身定制,可为开发人员和 IT 专业人员提供支持,可在亚马逊云科技的多个领域提供,无论您在哪里工作,都可以快速访问答案和创意

提供多种功能和使用场景

image.png

借助 Amazon Q,AI 专家将随时待命,回答问题、更快地编写代码、排查问题、优化工作负载,甚至可以帮助您编写新功能。这些功能简化了在亚马逊云科技上构建应用程序的所有阶段的工作。

如果需要额外的帮助,Amazon Q 还支持您直接从 Q 界面与 AmazonS Support 座席进行互动,从而消除客户自助服务体验中的任何难题。与 Amazon Support 的集成在控制台中提供,并提供 Amazon Support 套餐中包含的权益。

视频演示

点击下方链接,观看视频演示:

https://www.bilibili.com/video/BV1Vc411q7TM?t=283.5?trk=cndc-detail

亚马逊云科技 re:Invent 2023 产品体验:亚马逊云科技产品应用实践 王炸产品 Amazon Q,你的 AI 助手

实践复现

在官方博文中,有给出很多使用方法,比如对话式问答、故障排除、代码转换升级应用程序等等,都是极为实用的功能,那么就带着这些答案来复现官方的案例吧

对话式问答

想必大家都用过很多的生成式 AI 助手,例如 OpenAI 的 ChatGPT、Google 的 Bard、阿里的通义千问、百度的文心一言等等,这种都是对话式的问答,那么大家有没有用过在一家云平台上面的AI助手?直接在控制台上,就立马可以和 AI 对话,那么亚马逊云科技的 Amazon Q(预览版)是你绝对不能错过的一款 AI 助手,其具备亚马逊云科技专业知识,能够让你在迷茫的时候,得到快速、正确的帮助。

image.png

入门级问答:

基础知识简单问答:

Q:Hi,I want create a linux system instance to host my website,I should choose ec2 or lightsail?
A:Here are the key factors to consider when choosing between Amazon EC2 and Lightsail for hosting your website:

- Lightsail is easier to use and manage if you have a simpler workload like a basic website or app. It provides pre-configured options that can be set up with just a few clicks. 

- EC2 gives you more flexibility and control over your server configuration but requires more devops knowledge. You have to manage components like networking and security groups yourself.

- Lightsail instances have fixed configurations while EC2 allows you to choose the exact compute, memory, storage and networking capabilities you need.

- The Lightsail interface provides an all-in-one dashboard for managing your resources while EC2 requires using different AWS console pages for different tasks.

- Basic Lightsail plans have all the necessary components included in a monthly flat fee. With EC2 you pay separately for individual resources like instances, storage, networking etc.

For a simple website that doesn't have demanding technical requirements, Lightsail would be easier to get started with. But for more complex or resource-intensive workloads, EC2 gives you more power and customization options at the cost of requiring more devops expertise.
Sources
[1] [What are the differences between Amazon EC2 and Amazon Lightsail?] (https://repost.aws/knowledge-center/lightsail-differences-from-ec2)

image.png

专业知识问答
Q:If routes are advertised outside of AWS network, will this ASN be
pre-pend to the AS-path attribute of a route? If routes are advertised inside
AWS network, will this ASN be pre-pend to the AS-path attribute of a route?

A:
If routes are advertised outside of the AWS network, the ASN associated with the AWS Direct Connect connection or AWS Transit Gateway will not be prepended to the AS-path attribute of the route. This is because AWS does not actually handle routing or see the traffic in this case. 

If routes are advertised within the AWS network (e.g. between a VPC and a Direct Connect gateway or Transit Gateway), the ASN will not be prepended to the AS-path either. AWS uses other mechanisms like local preference to determine the best path within AWS without modifying the AS-path. 

The AS-path is generally not modified by AWS, but customers can influence route selection and traffic flow within AWS by configuring:

1. Local preference BGP communities 
2. Advertising routes with different AS-path lengths
3. Configuring the AS-path attribute for interfaces in the same region

For more details on routing and BGP configurations within AWS, please refer to the AWS documentation pages on Direct Connect, Transit Gateway and VPC routing. The documentation provides the most accurate and up-to-date information.
Sources
[1] [Using AS-Path attribute to influence routing over multiple regions] (https://repost.aws/questions/QUPLkeHS0oT5qkHJv0d_9owA/using-as-path-attribute-to-influence-routing-over-multiple-regions)
[2] [AWS Transit Gateway ASN visibility ] (https://repost.aws/questions/QUbFjl8tPNS7uwBFMtQGdJFw/aws-transit-gateway-asn-visibility)
[3] [How Amazon Route 53 uses EDNS0 to estimate the location of a user - Amazon Route 53] (https://docs.aws.amazon.com/Route53/latest/DeveloperGuide/routing-policy-edns0.html)

image.png

EC2 实例选型优化

作者也体验了这个功能(注意要使用英文界面),从新手的视野来看,那么这个确实还蛮不错的,毕竟亚马逊云科技的 EC2 实例族太多了,用最优的实例,才会从性价比上得到优势。

那么就在此处用默认的一个选项 WebHost 来看看 Amazon Q 的一个建议

image.png

image.png

比如说,咱们要考虑一个性价比,那么就是 “Price/Performance”

image.png

可以看到的是,推荐的几乎都是新的机型,比如 M7、C7、T4g,正好也践行了亚马逊云科技推荐用户使用更新的服务的一个原则

故障排除

这块其实可以有几个案例,

  • 比如我们给定一个用户/角色,限制的权限,让它去执行已经被限制的操作
  • 官方示例,EC2 服务器连不上的故障

因为时间比较紧,还是仅做 EC2 网络故障的难题,同时也加一点难度

EC2 网络排障

预置一台 EC2 实例,该实例对应的安全组和路由表都有问题,看看 Amazon Q 能不能分析出来

image.png

image.png

image.png

image.png

提示安全组修复:那么我们就去将安全组修改为正常状态,再问 Amazon Q

image.png

image.png

重问一遍,似乎只是建议我们去检查安全组,这边故意设置障碍“破坏了路由”,好像没有识别到

IDE 集成对话

不知道啥时候 Amazon Q 就已经在我的 VSCode 中了,看官方的示例是我安装了 Amazon Toolkit,所以 Amazon Q 就自然而然地出现在了我的 vSCode 左侧的功能栏中了

image.png

要使用 Amazon Q,须登录 Amazon Builder,才可在 IDE 中使用 Amazon Q,同时,还可以描述咱们在 VScode 中编写的代码,讲述咱们的代码是干什么用的,对于最近兴起的“防御性代码”和"祖传屎山代码",我觉得是有不错的体验的,不在那么繁杂的去理解分析代码了

image.png

总结

总体体验下来,Amaon Q 的表现中规中矩,对于亚马逊云科技的专业知识,确实是的十分熟悉

  • 触手可及,集成在平台、IDE 中十分便捷
  • 专业性强,对于亚马逊云科技的专业知识回答的很精准
  • 代码好助手,结合 Amazon CodeWhisperer,在编写代码的时候应该有奇效

期待改进之处

  • 网络故障排除应该更深层次,而非安全组的表象,网络本身就是一个很复杂的东西
  • 期待能够推出多语言版本,毕竟开发者的语言水平参差不齐

文章来源:
https://dev.amazoncloud.cn/column/article/658a2b5d79476548e3e1f91b?sc_medium=regulartraffic&sc_campaign=crossplatform&sc_channel=bokey

标签:科技,AI,AWS,亚马逊,re,Amazon,EC2,产品
From: https://www.cnblogs.com/AmazonwebService/p/17928775.html

相关文章

  • 【代码混淆】react-native 代码混淆
    ​ 【代码混淆】react-native代码混淆 使用reactnative开发app,实现代码混淆的操作。无论是加密还是运行时虚拟机,最后都可以通过执行时调试把代码反向生成出来原来的代码,虽然能抵御低端的黑客攻击,但是对高端黑客却形同虚设。代码混淆是通过修改源代码结构和变量名,使得代码......
  • React拖拽效果实现
    基于React的拖拽效果Demo一个基于React的拖拽功能实现的Demo.两个关键点1,draggable属性2,drag事件draggable属性img标签默认是支持拖拽的,当时其他HTML标签,想要其拖动的话,需要为其添加draggable="true"属性drag事件drag相关的事件有:ondragstart......
  • 实现ApplicationContextAware没有生效
    下面这段代码是存在一个spring-boot-starter中,引入到其他项目中,启动后获得不到ApplicationContext,原因是启动类中,没有扫描到对应路径:增加代码:@ComponentScan(value="com.XXX.common.project")代码如下@ServicepublicclassSpringContextHolderimplementsApplicationCont......
  • 记一道攻防世界上的Reverse-gametime
    一、题目描述把文件下载下来,运行后发现是一个简单的小游戏,属于那种玩通关了就给flag的,自己先玩了一下,玩了一下大概游戏规则就是看到s就按空格,遇到x就按x,遇到m就按m,但是玩到后面速度非常快,如果你足够厉害,玩到后面应该是可以玩出来的。这里我们就要IDA进行静态分析,又是小......
  • .NET8操作Mysql,Pomelo.EntityFrameworkCore.MySql版本目前最高只有7.0解决办法
    Pomelo.EntityFrameworkCore.MySql7.0是不支持.NET8的,但现在Pomelo.EntityFrameworkCore.MySql的最新版本只有7.0因为 Pomelo.EntityFrameworkCore.MySql8.0还在研发中,还没有正式的版本,只有公测版本,可以在控制台中直接输入命令安装即可Install-PackagePomelo.EntityFrameworkCor......
  • EF Core助力信创国产数据库
    前言国产数据库作为国产化替代的重要环节,在我国信创产业政策的指引下实现加速发展,我们国产数据库已进入百花齐放的快速发展期,相信接触到政府类等项目的童鞋尤为了解,与此同时我们有一部分也在使用各种开源的ORM都早已支持主流国产数据库,我们也有一部分在使用官方EFCore但没有对国产......
  • 使用pg_dump导出postgresql数据
    使用pg_dump导出postgresql数据参考:如何使用PostgreSQL进行数据迁移和整合?导出命令pg_dump-Uusername-ddbname-a--inserts-fbackup.sql-a只导出数据,不导出schema--inserts将数据转储为INSERT命令,而不是COPY点击查看代码pg_dumpdumpsadatabaseasatext......
  • GPT-3《Language Models are Few-Shot Learners》解读
    GPT-3和GPT-2差别1. 效果上,超出GPT-2非常多,能生成人类难以区分的新闻文章;2. 主推few-shot,相比于GPT-2的zero-shot,具有很强的创新性;3. 模型结构略微变化,采用sparseattention模块;4. 海量训练语料 45TB(清洗后570GB),相比于GPT-2的40GB;5. 海量模型参数,最大模型为......
  • Vue中的$refs 用法
    Vue中的$refs用法Vue中的$refs原理涉及到Vue实例的生命周期、虚拟DOM以及一些底层的JavaScript原理。Vue实例的生命周期:当Vue实例被创建时,它会经历一系列的生命周期钩子,包括beforeCreate、created、beforeMount、mounted等。在mounted生命周期钩子中,Vue实例的模板已经渲染到真实......
  • ORA-01113: file 69 needs media recovery ORA-01110: data file 69: 'E:\FWPTDB\D
    继续上一篇写1、当解决了ORA-01033:ORACLEinitializationorshutdowninprogress 这个问题后重新连接此数据库的时候又出现以下问题ORA-01113:file69needsmediarecovery ORA-01110:datafile69:'E:\FWPTDB\DBFFILES\HNRZ\HNRZFW.DBF2、解决方案  ......