首页 > 其他分享 >数字先锋 | “言”之有“力”,大模型背后的算力“推手”!

数字先锋 | “言”之有“力”,大模型背后的算力“推手”!

时间:2024-01-11 15:01:29浏览次数:37  
标签:思必驰 训练 天翼云 人工智能 之有 推手 算力 模型

对话式人工智能技术无疑是近年来最引人瞩目的领域之一。这项技术的发展已经改变了人们与计算机交互的方式,为各行各业带来了前所未有的便利与效率,更是在出行、教育、医疗等领域展现出了惊人的潜力。随着不断升级和创新发展,对话式人工智能已成为科技界与社会各界热议的焦点之一。

今天我们一起走进思必驰,探访大模型背后的算力“推手”。 

算力让AI“一路狂飙”

思必驰是国内专业的对话式人工智能平台公司。以人机对话交互为核心,为智能汽车、智能家居、智慧政务等领域的客户提供软硬一体化方案,推进智能化转型升级。

近年来,随着ChatGPT“一路狂飙”,思必驰推出了自研的对话式语言大模型DFM-2,并通过了《生成式人工智能服务管理暂行办法》备案,成为江苏省本土人工智能首-个通过大模型备案的企业。据了解,该模型具有通用语言计算大模型的所有AGI特性,同时针对通用模型事实不准、私域知识无法包含、专用领域理解性能不足等问题,进行了一系列技术改造。DFM-2属于垂域大模型,可以实现通用人工智能的柔性定制,并开展大规模、高质量、个性化的人工智能系统定制。

作为大模型的基础“底座”,算力在其中发挥着关键的作用。动辄百亿甚至千亿数据规模的大模型训练,加之在不同阶段的大模型训练对计算能力的不同要求,都需要更高标准的算力条件支撑。中国电信天翼云基于自研技术优势,为其提供了坚实的算力基础,成为思必驰大模型背后的算力“推手”。

算力打通AI“任督二脉”

AI大模型的兴起加速了对更大规模和更强大计算资源的需求。天翼云通过自研的智算平台,向广大客户提供智能算力、云计算、数据等服务,为大模型训练平台提供高性能底座支撑能力

在服务合作伙伴的过程中,思必驰推出了集大语言模型应用的生产、调试、发布、体验、应用于一体的大模型应用平台,可实现跨领域多意图、文档问答、多人交互等大模型能力的快速应用,产品有了这些能力,会变得更加智能好用,而这也需要更庞大的算力支持。

思必驰研发总监樊帅表示,不论是在算力基础设施、算力调度、还是训练能力打造方面,天翼云与思必驰DFM-2大模型携手,为高效训练和产品赋能打通了“任督二脉”。

算力赋能千行百业

“不仅在智能家居,我们在汽车行业、消费电子、金融服务、政务轨交等领域都有深入的布局。”思必驰研发总监陆峰表示。

比如在汽车智能交互方面,思必驰已经实现了全车全时免唤醒、多音区交互、一句话多意图,以及为用户提供出行规划和汽车大师智能解答等复杂的功能,并对日常的口误也有很好的理解。借助天翼云智算平台的高端智算算力支撑,思必驰能够更快速地把这些大模型能力集成到客户的产品和应用中。

因为有天翼云提供的云计算资源和技术支持,可以确保数据处理和分析能力不断改善提升。最重要的是,启动大项目往往需要大量的高端智算算力,这对于很多企业来说需要承担较高的成本。天翼云的智算平台恰到好处地解决了这一痛点,它提供的高性能计算资源和良好的存储解决方案,可以更好地处理海量数据和复杂的算法,从而为客户提供更精准的大模型服务和更高效的运维支持,让研发人员把精力更好地用于优化算法和方案上,而不必担心硬件是否好用。

智能算力助力降本增效

“在算力基础设施上,天翼云集成弹性计算、分布式存储、云网络三大基础核心技术,以全量IaaS+PaaS产品服务,为思必驰DFM-2大模型提供了高性能底座支撑能力。”思必驰研发总监陆峰表示。

在算力调度方面,天翼云通过自研的调度系统,协助思必驰DFM-2大模型调度GPU、NPU、CPU等异构算力资源,大规模训练上云1个月,可以完成数十亿规模大模型所有阶段训练和效果评估。在训练能力打造方面,天翼云支持多种模型训练方式,不仅可以提升大模型训练平台的数据量,还大幅缩短了训练周期和交付进度

苏州电信园区局局长施亚东表示,“其实不仅是思必驰,天翼云基于集数据算力、数据网络、数据传输的一体化资源优势,以及汇聚智能算力、超级算力、通用算力和边缘算力的一站式解决方案两大算力服务优势,目前已经服务了170多万家工业客户以及530万家中小企业。”

天翼云作为提供智算、超算、通算多样化算力服务的一体化算力平台,助力千行百业用上了普惠算力。天翼云致力于让客户使用算力就像“水电”一样便利,而客户想要的产品又能分毫不差地呈现出来。

算力已经成为数字经济的核心生产力,而在算力基础之上,各式各样的数字应用正在百花齐放。相信在不远的将来,在天翼云的智算赋能下,还会有更多更好的应用走入日常生活中。

标签:思必驰,训练,天翼云,人工智能,之有,推手,算力,模型
From: https://www.cnblogs.com/developer-tianyiyun/p/17958597

相关文章

  • 数字先锋 | “言”之有“力”,大模型背后的算力“推手”!
    对话式人工智能技术无疑是近年来最引人瞩目的领域之一。这项技术的发展已经改变了人们与计算机交互的方式,为各行各业带来了前所未有的便利与效率,更是在出行、教育、医疗等领域展现出了惊人的潜力。随着不断升级和创新发展,对话式人工智能已成为科技界与社会各界热议的焦点之一。今天......
  • Databend 的算力可扩展性
    作者:尚卓燃(PsiACE)澳门科技大学在读硕士,Databend研发工程师实习生ApacheOpenDAL(Incubating)Committerhttps://github.com/PsiACE对于大规模分布式数据处理系统,为了更好应对数据、流量、和复杂性的增长,需要对系统的可扩展性加以重视。可拓展性代表一种预期,即在现有软件和......
  • 思腾23大事记 | AI+算力,引领AIGC元宇宙奇点变革
    ......
  • 浪潮信息首提“高质量算力” ! 从五大特征来定义
    12月26日,由清华大学全球产业研究院主办的“算力高质量发展与应用高端论坛”在京举办。工业和信息化部原副部长、中国数字经济百人会专家委员会主任杨学山,清华大学全球产业研究院副院长李东红,中国信通院产业与规划研究所副总工程师王青,浪潮元脑首席技术官张东及众多行业CIO等算力产......
  • 科技云报道:至简至强,新一代服务器的算力美学
    在这个时代,数据和计算的边界正在迅速扩张。随着云计算、物联网和人工智能的日益成熟,对算力的需求已经突破了传统的限制,进入了一个全新的阶段。在这个阶段,不仅是算力的量级发生了变化,其性质和应用也在经历着根本性的转变。这也对算力背后的服务器提出了更高的要求。在这其中,能够有效......
  • 浪潮信息G7服务器打造高效智慧算力,全新支持第五代英特尔®至强®可扩展处理器
    近日,浪潮信息多款G7服务器创新升级,全面支持英特尔最新发布的第五代至强®可扩展处理器并完成适配,通过系统架构、硬件、固件和散热等方面的创新设计,以及AI加速功能引入,G7服务器的通用计算性能提升23%,在客户工作负载中每瓦特性能提升超36%,尤其是在AI推理场景下性能提升高达 42%,实现......
  • 算力强劲!中兴通讯R5300 G5服务器开箱!
    2023年,以ChatGPT、文心一言为代表的AIGC大模型全面崛起,成为整个社会热议的话题。这些大模型,上知天文,下知地理,既能写文章,又能编代码,甚至还能吟诗作对,彻底颠覆了人们的认知。AIGC的崛起,说白了,是人类算力技术发展到一定阶段的产物。我们经过数十年的努力,拥有了性能强劲的芯片,建设了大......
  • 加速计算,为何会成为 AI 时代的计算力“新宠” 审核中
    随着科技的发展,处理大量数据和进行复杂计算的需求越来越高,人工智能、大数据和物联网等领域更是如此,传统的计算方式已经无法满足这些需求。因此,加速计算作为一种现代计算方式,成了必要的手段。加速计算具有前所未有的处理能力,在云基础设施中发挥着核心作用,因为它有助于更高效、更有......
  • 极智一周 | AI 算力国产化、通义开源、Gemini、鸿蒙、蔚来 And so on
    欢迎关注我的公众号[极智视界],获取我的更多技术分享大家好,我是极智视界,带来本周的[极智一周],关键词:AI算力国产化、通义开源、Gemini、鸿蒙、蔚来Andsoon。极智视界本周热点文章回顾,(1)AI算力国产化系列本周续写解读国产AI算力系列,输出六章。璧仞芯片禁令焦点,摩尔线程显卡......
  • 中电金信:金融电子化 | 打磨算力基础设施,赋能金融业数字化转型
    10月8日,工信部、人民银行等六部门联合印发《算力基础设施高质量发展行动计划》(以下简称《行动计划》),在行业和产业界吸引了信息产业和相关应用行业的广泛关注。作为引领我国算力基础设施建设的重要指南,《行动计划》为我国信息产业带来哪些深远影响?对金融业算力基础设施建设会带来......