函数计算 FC 作为轻量灵活、事件驱动的全托管计算服务,一直以来以弹得更快、粒度更细、成本更低为广大开发者与企业客户所青睐。
2024 云栖大会上,函数计算 FC 为 AI 加码,首发 GPU 极速模式, 让 GPU 可以更弹性、更便宜。
阿里云智能集团产品专家 洪晓龙
首发 GPU 极速模式,分钟级到秒级别
函数计算全新发布的 Serverless GPU 极速模式,通过预置快照提前锁定弹性资源确保刚性交付,可自动根据您的请求并发数实现极速伸缩(CPU 毫秒级,GPU 秒级),有效避免冷启动,实现成本与性能均衡。业界首创 CPU/MEM 与 GPU 解耦,1/N 卡更便宜,秒级启动首包耗时降低 95%,助力大模型推理加速。
- 技术升级:创新的显存快照技术,低峰时 GPU 缩容到 0 ,高峰时秒级启动。
- 自动容灾:GPU 实例宕机自动容灾,大幅降低错误率,无冗余成本。
- 指标升级:0->1 首包耗时对比 K8s 弹性模式,自分钟级优化至秒级。
阿里云智能集团高级技术专家 聂大鹏
架构更先进、集成更丝滑,为 AI 创新加速
函数计算化繁为简,加速云产品集成,通过 FC + EB + CloudFlow 引领云产品间集成新范式,让数据可以互通,让灵活定制得以标准化。
函数计算 FC 提供 Stable Diffusion、LangChain 等 AI 应用样板间,深度集成通义产品系列、魔搭社区等,让 AI 应用开发更简单。
- 魔搭社区: 50+ 热门大模型支持一键部署至用户指定阿里云账号,快速体验或二次开发。
- 模版/模型服务: 20+ 热门 AI 应用模板如 Stable Diffusion、ComfyUI、Flux 等支持一键部署,快速托管热门模型如 Qwen、Baichuan2 等。
阶梯定价+峰谷定价,成本更优
- 峰谷定价,夜间 0~6 时享受 5 折优惠。
- 阶梯定价越用越便宜,官网限时 8 折优惠。
- 节省计划,超低折扣、降低用云成本。
函数计算 FC 按量付费、资源包限时 8 折优惠,以及面向中国站的中国内地地域夜间 5 折优惠活动正在进行中:https://www.aliyun.com/product/fc
与客户、合作伙伴携手同行
并发性能提升 4 倍!云帐房用函数计算 FC 轻松应对瞬时业务洪峰
云帐房网络科技有限公司(以下简称“云帐房”)是一家 AI+RPA 技术驱动的业财税云平台公司。随着业务规模不断扩大,云帐房报税业务对 IT 的能力要求呈指数型提升,且具有显著的周期。在业务高峰期时,需要在短时间内拉起数万核 CPU 资源,而报税期之外,CPU 资源需求几乎为 0。
函数计算 FC 为其提供了开箱即用,用完即走,按量付费的 Serverless 能力,资源弹性可定时按量自动伸缩,轻松解决云帐房遇到的问题,成功实现并发性能提升 4 倍,资源成本降低 64%。
云帐房首席架构师 李嘉陵
Serverless GPU 与 NVIDIA TensorRT/TensorRT-LLM 达成合作
阿里云函数计算 FC 与NVIDIA TensorRT/TensorRT-LLM 的合作推动了 AI 技术的实际应用落地,特别是在计算密集型的任务如图像生成、自然语言处理等领域,能够通过无缝集成的高效计算平台,大规模部署 AI 模型。
NVIDIA 解决方案架构师 金国强
开发者可以借助这类平台,快速开发并迭代 AI 产品,从而缩短从概念到实际应用的时间。同时,这种合作还支持企业灵活应对动态的计算需求,特别是在面对高并发或大规模任务时,实现弹性扩展和高效资源管理,为 AI 在各个行业的广泛应用提供了坚实的技术基础。
标签:函数,AI,降本,FC,计算,GPU,极速 From: https://www.cnblogs.com/alisystemsoftware/p/18429740