首页 > 其他分享 >跨越理论,深耕落地:2023年大模型应用实践洞察

跨越理论,深耕落地:2023年大模型应用实践洞察

时间:2024-10-11 16:19:32浏览次数:11  
标签:场景 深耕 落地 洞察 算力 模型 2023 行业 应用层

2023年,大模型技术在全球范围内迎来了前所未有的发展高潮,不仅在理论研究上取得了显著突破,更在实际应用中展现出了巨大的潜力和价值。

科智咨询《大模型应用及落地研究(2023)》报告旨在深入分析2023年大模型在各类应用场景中的具体实践、落地成效与竞争格局,揭示大模型技术如何逐步从理论探索走向产业落地,为相关领域的从业者、研究者和政策制定者提供参考与洞见。

01 大模型三层均已商业化,模型层与应用层潜力巨大

大模型,通常是指具有庞大参数规模、复杂结构和强大学习能力的深度学习模型。作为人工智能领域的前沿技术,大模型正逐步成为推动产业升级和社会进步的关键力量。

大模型基础设施层的核心是提供算力,包含CPU、GPU等服务器设施;模型层以AI模型产品为主,投入周期较长,存在一定的技术壁垒;应用层是AI产业链下游,直接对接客户以及用户,主要包含面向C端的消费级终端以及面向B端的行业解决方案。大模型的三个层面均已进入商业化阶段。其中,模型层和应用层具有巨大的商业化潜力。

02 大模型在金融、政府、能源、工业等领域已有丰富的落地场景

通用大模型具有很强的能力,但无法解决企业的具体问题,故基于行业大模型,打造企业自身的专属模型,是目前企业的第一选择。从收费方式来看,传统行业因为研发能力弱,更多是购买算力+算法。

组建大模型生态伙伴,在大模型领域持续进行行业大模型生态计划、金融行业大模型新智能生态拓展计划等,加速推动了行业大模型在实际场景中的应用。

2.1 金融行业落地情况

大中型金融机构会采取三种选型路线,而中小机构则会直采大模型。

大模型的技术选型路线主要包括开源大模型、联合创新大模型、直采商用大模型三种。目前大型金融机构一般会采用三路并行的模式,而中小金融机构则普遍尚未采购商用产品,大都停留在调研、汇报和POC测试阶段。

  • 开源大模型路线:一般金融机构会持谨慎态度,但在前期探索阶段通常会采用开源大模型进行测试、研究,同时将其与商用大模型的应用效果进行比对。
  • 联合创新路线:可快速推动大模型场景的落地,同时更符合金融行业对安全可控的要求,从目前落地情况来看:①工商银行与清华、鹏城实验室、华为联合大模型创新;②交通银行与华为、科大讯飞共建了联合创新实验室,共同推进大模型在金融行业的落地;③北京银行与火山引擎、华为、中科院自动化所、中科闻歌共建联合创新实验室,围绕大模型联合创新。
  • 直采商用大模型:目前大中小型金融机构都会采购商用大模型,尤其是研发能力弱的中小金融机构,主要以直采商用大模型为主。

从部署方式来看,金融机构更倾向私有云部署。但大模型训练和推理对算力及配套基础设施要求高,该部署方式更适用于大中型金融机构,而中小型金融机构实现难度较大,且对于不涉及数据保密性的场景(如证券公司基于公开数据生成投资策略等),公有云、专属云和混合云则更有优势。

2.2 能源行业落地情况

随着运营商、华为等头部ICT厂商加入,大模型在能源领域加速落地。

大模型在能源领域重点关注客户在智能巡检、无人值守系统、设备运检知识助手、电力系统仿真平台、电力负荷预测等场景需求,目前部分厂商在该领域已经形成了标杆案例(如华为在23年中标的矿山AI大模型及运营支撑平台建设与升级维保服务项目,金额2.3亿;中国联通中标山西晋云互联的算力租赁服务项目,金额2.97亿)。

从市场拓展来看,受限于应用层壁垒高,三大运营商、头部云厂商和科技公司将更多自身能力放在了基础设施层和通用平台层,而应用层和非通用平台则由该领域的软件服务商和解决方案商提供,在拓客时会联合打造解决方案共同拓客。

受政策推动,未来能源领域市场空间大,头部ICT和软件开发商相继投入该领域抢夺份额:

  • 中国电信2022年首批设立应急、工业等12个产业研究院,争夺能源等政企市场业务;

  • 中国移动2022年聚焦内蒙古、山西、陕西、新疆、河南5省成立矿山军团,抢占市场;
  • 中国联通2022年立足山西、山东两大基地成立5G智慧矿山军团;
  • 华为2021年在山西太原设立煤炭军团总部,布局200+矿山ICT技术专家辅助客户转型;
  • 中兴2021成立矿山业务部,中兴执行副总裁谢峻石挂帅,聚集包括行业专家、产品研发、市场销售、工程交付、商务采购等全链条人员,专攻矿山行业细分市场。

03 目前备案上线大模型以垂类大模型为主,占比79%

 截止目前,备案上线大模型268个,其中通用大模型占比21%,垂类大模型占比79%。

55个通用大模型——超5成智算算力用于训练通用大模型,接近80%的通用大模型由AI服务商和互联网平台企业开发。

213个垂类大模型——

  • 垂类大模型数量多,服务商主要来自行业应用企业、行业ISV/解决方案商、AI&大数据服务商、高校/科研机构;

  • 垂类大模型中企业服务场景大模型占比22%,主要服务于客服、营销、企业管理等场景;行业大模型则主要分布在教育科研、金融、医疗、工业、政务、媒体等行业。

 从区域上看,42%的大模型服务商来自北京,24%来自上海、广州,其中上海、广州各占一半。

 从项目上看,运营商、教育和科研机构、金融、政府、能源行业客户贡献多,其中硬件采购占比60%

2023年,传统企业大模型采购特点是论证多、采购少,随着大模型成熟,传统企业大模型预算将逐步释放。从23年中标项目情况看:

  • 运营商、教育和科研机构、金融、政府、能源、等行业的大模型项目数量都大于10%,其中教育和科研机构主要集中在少量智算服务器采购和咨询等项目,项目数量虽多,但营收少。

  • 工业、医疗等领域规划投入较多,但实际落地项目少,目前尚在研发阶段,预计会在24年爆发。

在产品构成方面,纯硬件采购约占60%,服务部分约占23%,软件部分约占17%:

  • 大模型的采购主要集中在硬件,占比60%,其中国产硬件占比约40%左右,随着大模型的发展需求增大,2024年纯硬件采购部分将会持续上升;

  • 软件和服务部分占比40%,主要是目前大模型应用层落地难。

大模型的收费方式有三种:

  • “大模型+算力”是当前最主流的的收费方式:大模型训练与应用需要消耗大量算力,因此大部分厂商将大模型产品或开发平台与算力组合销售。

  • 大模型:企业用户可直接永久买断大模型产品,也可以租用大模型服务。

  • 大模型+应用:厂商销售融入大模型能力的上层应用时,要求企业用户支付软件授权费,或支付软件开发服务费。

标签:场景,深耕,落地,洞察,算力,模型,2023,行业,应用层
From: https://blog.csdn.net/CherryVxi/article/details/142856454

相关文章

  • 宅急送数字化转型新篇章:以数兴企洞察客户需求,CRM赋能客户价值全面提升
    宅急送1994年成立于中国北京,是一家全国性综合物流服务企业。公司定位“综合物流一体化解决方案专家”,依托宅急送强大体系资源与业务架构支撑,致力于为大品牌商提供分销渠道供应链物流管理服务、为平台电商提供供应链物流服务。作为中国最早的民营快递企业之一,宅急送是专业的快递、......
  • 2023杭电多校4
    2023杭电多校4a-bProblem题目大意:每个物品都有a,ba,ba,b两个值,......
  • 2023 年和 2024 年最具威胁的 25 种安全漏洞(CWE Top 25)
    目录1.缓冲区溢出(CWE-120)2.代码注入(CWE-94)3.认证缺失(CWE-287)4.访问控制缺失(CWE-284)5.SQL注入(CWE-89)6.跨站脚本(XSS)(CWE-79)7.不安全的反序列化(CWE-502)8.脆弱的随机数生成(CWE-331)9.信息泄露(CWE-200)10.不安全的直接对象引用(CWE-63......
  • 10.10 爆零赛(2023 炼石计划 NOIP 模拟赛 #2)
    炼石计划9月10日NOIP模拟赛#2【补题】-比赛-梦熊联盟(mna.wang)模拟赛恒等式:\(0+0+0+0=0\)。复盘T1好像可做。有个显然的\(n^2\)DP。推式子的时候猜到了\(\gcd=1\)的做法。进一步尝试正解未果。T2一眼只会爆搜。想到了\(b\timesb!\)的做法,应该能过\(......
  • 《从技术洞察到技术规划赋能培训》(2024年11月8-9日)
     【课程背景】所谓技术洞察,简称(TI,TechnologyInsight),是根据市场发展趋势和客户需求,以及技术的生命周期,对某项技术发展趋势进行判断和预测,并明确未来3~5年的技术战略和战略控制点、重大的技术投资方向,完成技术战略规划的制订,并最终进行技术战略解码,为公司整体战略创造价值。技......
  • 【题解】2023传智杯全国大学生程序设计竞赛-初赛第一场
    A.字符串拼接直接拼接两个字符串即可,注意的是字符串可能包含空格,因此需要使用getline函数进行输入。#include<bits/stdc++.h>usingnamespacestd;intmain(){strings1,s2;getline(cin,s1);getline(cin,s2);cout<<s1+s2<<endl;return0......
  • The 2023 ICPC Asia Hangzhou Regional Contest (The 2nd Universal Cup. Stage 22: H
    The2023ICPCAsiaHangzhouRegionalContest(The2ndUniversalCup.Stage22:Hangzhou)M.V-Diagram题意:给定一个“v图”,求平均值最大的子"v图"思路:原图的最低点以及左右两个点必须取,如何先取满左边或者右边在贪心即可voidsolve(){lln;cin>>n;vect......
  • 2023牛客OI赛前集训营-提高组(第三场) - 题解汇总
    空位与数(game)贪心即可,因为正正得正,负负也得正,所以将两个数组分别按照正负性分开,然后让正数里面大的配上大的,负数里面绝对值大的配上绝对值大的,这样可以让正积总和尽量大。剩下不足的(必须要一正一负相乘的)让绝对值大的配绝对值小的,这样可以让负积总和尽量小。#include<cstdio>#i......
  • 利用1688商品数据洞察市场:优化策略,提升业绩
    对1688商品通过API接口的数据进行详细分析,可以帮助商家更好地了解商品的市场表现、用户需求及行为,从而优化商品供应和销售策略。以下是对1688商品数据的详细分析,包括需要分析的具体数据、分析过程及结果、以及基于分析结果的建议。一、需要分析的具体数据数据项描述来源重要......
  • 10.8 模拟赛(2023 CSP-S 十连测 #5)
    炼石计划10月28日CSP-S十连测#5【补题】-比赛-梦熊联盟(mna.wang)复盘T1秒了。30min。T2题目越短越难。但是链的是经典题目,写了。小样例太水,大样例太大,不方便猜结论。于是先写暴力然后自己造样例。模拟了五六组感觉可以按照lca的深度降序排序,然后能选就选。这......