首页 > 其他分享 >聚焦 AIGC,函数计算为 AI 应用插上腾飞翅膀

聚焦 AIGC,函数计算为 AI 应用插上腾飞翅膀

时间:2023-06-08 16:13:39浏览次数:43  
标签:计算 腾飞 AI AIGC 应用 GPU 函数

image.png

6月1日,2023 阿里云峰会·粤港澳大湾区在广州举办,Serverless 加速创新分论坛如约亮相,阿里云函数计算 FC 聚焦 AIGC 应用开发,GPU 性能体验再升级,让 AIGC 应用开发更简单。

以更少的代码,实现业务创新

函数计算 FC 是一种以事件驱动为核心的全托管计算服务,用户只需编写代码并上传,函数计算就会自动准备好计算资源,以弹性、可靠的方式运行代码,并提供完整的可观测能力,大幅简化开发运维过程。

  • 函数计算让开发更简单,函数计算 FC 目前支持 100+云产品事件驱动,帮助用户降低用云复杂度。作为全托管计算服务,函数计算内置日志采集监控告警,用户可以进行即时监控保证业务稳定性。函数计算应用中心上线 50+ 热门应用模版,用户可根据业务需求选择合适模版,实现一键部署,开箱即用。
  • 函数计算让运维更高效,通过使用函数计算 FC,开发者可以轻松实现开发、构建、调试、部署到运维的全生命周期管理。函数计算 FC 计费粒度精细,按执行环境的内存和执行时间计费,计费粒度可达毫秒级,用户可以只为请求产生的资源消耗买单,按需自由选配,贴合自己的应用运行时开销选取规格,进一步降低资源闲置比例。预留模式作为函数计算 FC 消除冷启动的利器,闲置vCPU实例资源降至 0元/vCPU*秒。百毫秒冷启动,单客交付效率最高可达 2000 实例/秒。
  • 函数计算让业务架构更先进,业务拆分到函数级别实现精细化管理,资源利用率可达 100%,真正实现运维0负担,效率提升3至10倍,成本降低30%至80%。

函数计算 GPU 性能再升级

2023 年,生成式 AI 迎来了集中爆发,同时带动 GPU 需求不断上涨,GPU 作为高性能计算硬件的重要组成部分,逐渐成为 AI 技术的核心驱动力,为 AIGC 的发展提供了强大支持。阿里云函数计算拥有极致弹性的 GPU 实例,以及大规格的函数计算性能实例,这部分是承载 AI 应用稳定、高性能推理的重要环节。

2022 年发布至今,函数计算 GPU 实现性能体验再升级。

  • 用户配置更灵活,函数计算提供业界最小的 GPU 虚拟化粒度,显存规格最小至1GB。CPU 与 GPU 解耦,允许用户独立配置,同时支持GPUTuring/Ampere 两代卡型。
  • 资源利用率更高,底层技术架构从 ECS 架构过渡到神龙 GPU 架构,业界首创多租安全 GPU 共享虚拟化方案,综合资源利用率提升 80%。精细化匹配 AI 推理负载类型,算力规格最小达到 1/16 T4、1/24 A10。
  • 技术性能再提升,函数计算 GPU 冷启动时间从分钟级到秒级,性能提升 300%。行业首发 GPU 按需付费,切入准实时推理场景,支持 AIGC 热门场景,助力 AI 创业和生产力提升。

让 AIGC 应用开发更简单

AIGC 时代到来,AI 由之前生产内容的助攻,变为具备内容生成能力的“顶流”。人们惊叹于 AI 展现出的潜力,开始探索如何使用 AI 提高生产效率,然而在实际应用中,AI 应用开发技术的高门槛仍然让很多人望而却步,另外将 AI 应用部署到生产环境中需要考虑安全性、可靠性、可伸缩性、维护性等问题,也需要一定的技术能力和经验。普通开发者或者没有太多编程经验的人是否也能简单、快速开发 AIGC 应用,享受科技带来的红利呢?

函数计算+Serverless 应用聚焦 AIGC,致力于为 AI 开发者/企业提供高效能低成本的 AI 应用开发与部署服务。Serverless 架构具备高资源利用率与按量付费模式,服务端免运维等特性,让开发者真正实现 0 技术门槛开发 AIGC 应用。

完备的开发者套件,是开发者将 AI 应用部署到云原生架构必不可少的一环。

函数计算整合包括 Serverless 应用中心、Serverless Devs 等完备的 AIGC 应用上云套件,可以帮助开发者完成从 0 到 1 再到 N的业务开发,实现业务 Serverless 化,并提供全生命周期管理能力。通过使用 Serverless 应用中心,用户在部署应用之前无需进行额外的克隆、构建、打包和发布操作,即可快速部署和管理应用,帮助用户快速联动云上的上下游服务,轻松沉淀最佳实践。

函数计算具备完整的 AIGC 能力建设,积极拥抱开源生态,让阿里云产品与 LangChain 等 AI 框架高度集成。开发者可以在 ModelScope、HuggingFace 等开源生态和社区选择模型进行开发、部署。

基于函数计算+Serverless 应用中心,开发者可以轻松实现一键模型托管,5 分钟上手 AI 应用开发,效能提升 80%。后续 Serverless 应用中心会持续沉淀各行各业的典型 AI 应用案例模版,让用户可以更简单地了解和掌握。目前应用中心已经加入了通义千问、文生图、图生图、图生问等 10 多款热门 AI 应用模版。

通义千问预体验活动上线

阿里云提供 Serverless 函数计算产品试用资源,邀请您体验:Serverless 一键部署通义千问预体验、文生图、图生图、图生文、文生文 5 大经典 AI 场景,让您获得通义千问 30 次对话预体验机会,同时简单、高效实现一键部署图像生成、文字生成服务,速成 AIGC 创作家。双重奖品设置,完成任意一个体验场景可得社区 400 积分兑换奖品,还可参加 AI 生成图像比赛赢取 Airpods、阿里云定制蓝牙音箱及阿里云定制清雅杯!

标签:计算,腾飞,AI,AIGC,应用,GPU,函数
From: https://www.cnblogs.com/Serverless/p/17466771.html

相关文章

  • 风景归来,回忆重生:领略《回旋赋》的诗情画意——体验国内AI模型
    事先声明:1.本博客中的有关诗文均系国内的AI聊天机器人所作,非CHATGPT所作2.在本博客之前的本作者的所有诗文作品均系作者创作,非任何AI所作先看诗2023.6.8:UPD:第一首也不回文!!!!!!后半首没有"竝前疚"回旋赋回旋赋,舟船启,纤纤秋士,竝前疚,愁多情更多,相思心腹,缘分姻缘,恒河沰。沰中水浸......
  • wait_timeout and interactive_timeout 参数
    wait_timeoutandinteractive_timeout参数非交互模式连接:通常情况下,应用到RDS实例会采用非交互模式,具体采用哪个模式需要查看应用的连接方式配置,比如PHP通过传递MYSQL_CLIENT_INTERACTIVE常量给mysql_connect()函数即可开启连接的交互模式。wait_timeout参数控制非交互模式连......
  • LightOJ - 1076 Get the Containers (二分)模板题
    TimeLimit: 2000MSMemoryLimit: 32768KB64bitIOFormat: %lld&%lluLightOJ-1076GettheContainersSubmit StatusDescriptionAconveyorbelthasanumberofvesselsofdifferentcapacitieseachfilledtobrimwithmilk.Themilkfromconveyorbeltis......
  • 【体验有奖】玩转 AIGC,函数计算 x 通义千问预体验,一键部署AI应用赢Airpods
    玩转AIGC,基于函数计算FC部署通义千问预体验从文字生成到图片生成,AIGC的创造力让人惊叹,更多的人开始探索如何使用AI提高生产效率,激发更多创作潜能,然而在实际应用中,AI技术的高门槛让很多人望而却步,普通开发者和零编程经验的人是否也能简单快速地部署一个AI模型应用,享受到......
  • Docker(六):安装可视化面板Portainer
    一、Portainer是什么Portainer是一个Docker的图形可视化工具,能够提供一个交互界面显示Docker的详细信息供用户操作。二、Portainer安装1.下载Protainer镜像dockerpullportainer/portainer2.创建容器并启动dockerrun-d-p9000:9000--restart=always-v/var/run/doc......
  • 我借助 AI 神器,快速学习《阿里的 Java 开发手册》,比量子力学还夸张
    我平时经常要看PDF,但是我看书贼慢,一个PDF差不多几十上百页,看一遍要花挺长时间。我记性还不好,看完之后,过些日子就记不清PDF是讲什么的了。为了找到PDF里的某些信息,又得再花时间。不过,现在这些问题都不是问题了。因为我最近发现了一个神器,1分钟就能读完一个PDF。上一次......
  • 如何设置Windows操作系统TIME_WAIT状态的TCP连接快速回收时间?
    大规模Windows环境下,采用Nginx反向代理服务后,操作系统会产生较多TIME_WAIT的TCP(TransmissionControlProtocol)连接,操作系统默认TIME_WAIT的TCP连接回收时间是4分钟,TCP默认动态端口范围为开始端口49152,结束端口65535。这样会使回收TCP过慢导致系统吞吐量下降,甚至出现502访问失败问......
  • error:java: compilation failed: internal java compiler error
    转自:https://xie.infoq.cn/article/537f575c166d556db9773002f java:Compilationfailed:internaljavacompilererror解决办法:1、查看项目的jdk(Ctrl+Alt+shift+S)File->ProjectStructure->ProjectSettings->Project2、查看工程的jdk(Ctrl+Alt+shift+S)File->Pr......
  • QT(QPainter画圆弧)
    @TOC前言本篇文章给大家介绍一下如何使用QPainter来画圆弧。一、QPainter画圆弧方法drawArc()函数是Qt绘图类库中的一个函数,用于在画布上绘制圆弧。可以通过设置起点角度和圆弧弧度来控制圆弧的绘制效果。函数原型如下:voidQPainter::drawArc(intx,inty,intwidth,intheig......
  • 如何快速使用ChatGPT AI语言模型
    如何快速使用ChatGPTAI语言模型测试日期:2023年6月初1.打开浏览器访问:https://gpt.aigcfast.com2.输入问题后,点击“发送”按钮。3.说明:大型语言模型AI答案会随即给出;支持手机和电脑等各种设备请自我考量隐私和信息的正确性,只做一个临时推荐,有效期不确定,本文将持续更新......