首页 > 其他分享 >Knative 助力 XTransfer 加速应用云原生 Serverless 化

Knative 助力 XTransfer 加速应用云原生 Serverless 化

时间:2024-03-25 17:11:08浏览次数:36  
标签:XTransfer Serverless 部署 模型 算法 Knative B2B

作者:元毅

公司介绍

XTransfer 是一站式外贸企业跨境金融和风控服务公司,致力于帮助中小微企业大幅降低全球展业的门槛和成本,提升全球竞争力。公司连续7年专注 B2B 外贸金融服务,已成为中国 B2B 外贸金融第一平台,目前全球的贸易企业也都已开始使用 XTransfer。

业务场景

XTransfer 以科技为桥梁,链接中外大型金融机构和中小微企业,打造了以中小微企业为中心的数据化、自动化、互联网化和智能化的反洗钱风控基础设施。XTransfer 与知名跨国银行和金融机构合作,建设了 B2B 外贸金融全功能平台,能提供外贸收款、多币种现金管理、融资、理财、风控服务、客户管理等在内的综合解决方案,让中小微企业享受到和大型跨国集团企业同等水平的跨境金融服务。

面临的痛点

如今,全球贸易往来成为经济发展的一大命题,在 B2B 贸易碎片化、小型化和高频化的背景下,外贸企业对于实时、安全、普惠的跨境金融服务需求愈加迫切,技术能力也需要在客户的需求基础上进行不断的迭代优化,以提供更便利化的跨境金融和风控服务。由于 B2B 外贸交易信息分散且非结构化,保证交易信息识别的准确性和客户需求回答的即时性、稳定性是提供优质金融服务的基础,所以在底层基础设施建设上存在一定的挑战。面临的具体痛点表现为:

算法模型部署成本高

不仅包括硬件资源的成本,还包括维护、监控、故障修复等运维成本。传统的算法模型部署方式需要持续提供计算资源,即使在无请求时,也需要保持足够的服务实例以便应对可能的流量。这无疑会造成大量的资源浪费和高额的费用开销。

算法模型部署周期长

算法与工程边界模糊、耦合严重、相互制约,算法迭代效率不高,每次算法模型的迭代强依赖于业务工程,每次模型迭代都需要走一个完整的研发测试周期,流程长,效率低。而且在模型上线后,还需要对模型进行持续的监控和维护,这会进一步增加部署周期。

难以快速响应突发流量

在网络流量波动较大的情况下,例如在大批量风控规则任务跑批期间,传统的模型部署方式可能无法快速响应突然增加的流量,导致服务性能下降或者服务宕机。即便提前预估流量并增加服务实例,也可能因为流量预估不准确而造成资源浪费或者服务质量下降。

解决方案

由于 B2B 外贸交易信息分散且非结构化,保证交易信息识别的准确性和客户需求回答的即时性、稳定性是提供优质金融服务的基础,所以在底层基础设施建设上,XTransfer 与阿里云合作,专注于支持 Serverless 架构,落地了 Knative 部署平台。

XTransfer 的 DevOps 平台借助阿里云云原生 Knative 组件及 GPU 共享调度能力,支持算法模型的 Serverless 部署,算法工程师创建待上线模型版本、定义推理脚本、指定模型服务所需资源 (最小副本数、GPU 占用、内存占用等),后续整个模型发布流程在 DevOps 平台上完成即可。

业务价值

目前,XTransfer 已经成功运用 Knative 部署平台,充分利用其自动伸缩、事件驱动、容器化部署以及版本控制、资源按需分配和释放、应用生命周期管理等功能。使用 Knative 部署平台能实现按需扩容和分层请求调用 GPU 资源,及时应对短时大批量请求,节省成本同时能保证服务器的稳定性。

标签:XTransfer,Serverless,部署,模型,算法,Knative,B2B
From: https://www.cnblogs.com/alisystemsoftware/p/18094830

相关文章

  • Knative的tag to digest是什么?
    我将集群的kubernetes版本更新到1.29,knative版本更新到1.13后,部署knativeservice总是失败:failedtoresolveimagetodigest,在折腾一段时间后解决了这个问题,那么tagtodigest是什么,又该如何解决?Tagtodigest是什么?参考https://knative.dev/docs/serving/tag-resolution/......
  • 爆款游戏如何借助 RocketMQ Serverless,打造流畅体验并节省 98% 成本?
    作者:鼎岳、稚柳、勇猛、家泽一款游戏作品之所以能在市场上引爆热潮,铸就爆款传奇,除了独树一帜的创新设计理念、引人入胜的故事情节和丰富多样的玩法机制之外,最核心的要素就是为玩家提供极致流畅且无与伦比的游戏体验。这种体验涵盖了从游戏载入速度、画面帧率稳定性、操作响应灵敏......
  • RDS for MySQL Serverless公测上线:弹性伸缩,最高可降成本超80%
    本文分享自华为云社区《RDSforMySQLServerless公测上线:弹性伸缩,最高可降成本超80%》,作者:GaussDB数据库。随着科技的快速发展,我们正在迅速步入一个全新的数字化时代。数字化时代,数据是最宝贵的资源。数据库作为存储数据的仓库,重要性更是不言而喻。一、业务背景及痛点为了确......
  • 【Serverless】云存储新建账号无法创建存储实例解决方案
    ​ 【问题描述】一些开发者想要使用AGC云存储服务,在开通服务后,需要创建一个存储实例,但是在点击创建按钮时,出现了未知错误的报错提示,创建失败。​【解决方案】获取到了开发者的浏览器报错日志后,发现了在创建Bucket时返回了“138012:invokeqmserror”的错误。​​随后在咨询......
  • 数据库专家带你体验PolarDB MySQL版 Serverless的极致弹性特性​!
    体验地址:https://developer.aliyun.com/topic/march/polardbserverless本次基于阿里云瑶池数据库解决方案体验馆,带你体验PolarDBMySQLServerless形态下的性能压测环境,基于可选择的标准压测工具进行压测,构造弹性场景进行压测,实时动态展示弹性能力、价格和性价比结果,压测环境可开......
  • GaussDB(for MySQL) Serverless全面商用:无感弹性,极致性价比
    本文分享自华为云社区《GaussDB(forMySQL)Serverless全面商用:无感弹性,极致性价比》,作者:GaussDB数据库。技术背景对于现代企业级IT系统,数据库往往是作为底座一般的存在,数据库的稳定性、可靠性如果难以保障,整个系统的平稳运行将无从谈起。出于如上考量,在部署数据库资源时,客户......
  • AI 绘画平台难开发,难变现?试试 Stable Diffusion API Serverless 版解决方案
    AI绘画平台难开发,难变现?试试StableDiffusionAPIServerless版解决方案136人阅读14分钟前分享全屏显示Stable Diffusion 模型,已经成为 AI 行业从传统深度学习时代走向 AIGC 时代的标志性里程碑。越来越多的开发者借助 stable-diffusion-webui (以下简称 SDWeb......
  • AI 绘画平台难开发,难变现?试试 Stable Diffusion API Serverless 版解决方案
    作者:王佳、江昱、筱姜StableDiffusion模型,已经成为AI行业从传统深度学习时代走向AIGC时代的标志性里程碑。越来越多的开发者借助stable-diffusion-webui(以下简称SDWebUI)能力进行AI绘画领域创业或者业务上新,获得高流量及商业价值,但是面对多客户、高并发的复杂场景,使用原......
  • 极客时间之Serverless入门
    开篇词|说来说去,到底Serverless要解决什么问题?问题一:说来说去,到底Serverless要解决什么问题?拿自己部署一套博客来说吧,常见的Node.jsMVC架构,需要购买云服务商的Linux虚拟机、RDS关系型数据库,做得好的话还要购买Redis缓存、负载均衡、CDN等等。再专业一点,可能还会考虑......
  • OpenShift Knative Serving 配置服务(1)
    自动缩放Knative提供了基于Kubernetes的自动缩放功能,根据指标(如CPU利用率、内存使用量等)自动调整Pod的副本数,以实现弹性和高可用性。Knative的KnativeServing的组件,用于管理应用程序的生命周期,在KnativeServing中,可以配置自动缩放规则,以指定应用程序的缩放行为。通过配置自动......