首页 > 其他分享 >厂商集结,共话文心与飞桨共享生态下的大模型训推部署创新实践计划

厂商集结,共话文心与飞桨共享生态下的大模型训推部署创新实践计划

时间:2023-08-10 17:32:28浏览次数:35  
标签:硬件 AI 模型 训推 飞桨 文心 生态

由深度学习技术及应用国家工程研究中心主办、百度飞桨和文心大模型承办的WAVE SUMMIT 2023峰会重磅来袭!本届峰会聚焦AI技术、产业生态、未来趋势等主要方向,产、学、研、用各界大咖将围绕深度学习及大模型技术的发展与未来,带来行业前瞻洞察和一系列全新重磅发布。今天将为大家介绍“智能硬核 生态共创”平行论坛精彩亮点,一起来先睹为快!

活动详情

“智能硬核 生态共创”平行论坛荣幸的邀请到上海交通大学计算机科学与工程系教授和学科带头人梁晓峣担任论坛主席。硬件生态共创计划成员中的多位资深专家、企业代表将为大家分享在算力、算法方面的深度融合合作与能力升级,共同探讨基于文心与飞桨共享生态建设下的软硬融合方案及创新实践计划,分享大模型训练和推理部署前沿技术。

报告主题

厂商集结,共话文心与飞桨共享生态下的大模型训推部署创新实践计划_人工智能

梁晓峣

上海交通大学计算机科学与工程系教授和学科带头人

软硬协同共建大模型产业生态

大模型下算力需求爆发,算力芯片如何寻求突破,软硬件协同生态的建设是关键。过去一年大模型的迅速崛起,给了芯片行业焕发新生的历史机会。此时此刻有必要汇聚全行业的力量,无论是当前的霸主还是后起的新秀,携起手来共同打造卓越的大模型生态。

厂商集结,共话文心与飞桨共享生态下的大模型训推部署创新实践计划_芯片_02

郑彬

NVIDIA亚太区资深产品负责人

NVIDIA×飞桨:极致性能,赋能AI落地千行百业

生成式AI应用百花齐放,在过去的半年里深刻改变了我们的生活方式,极大提高了我们的生产效率和工作能力。在本主题演讲中,将分享通过使用全新的NVIDIA硬件及软件栈,帮助大语言模型 (LLM) 的开发者降本增效,实现技术创新,并通过机密计算功能获得LLM企业的信赖。

厂商集结,共话文心与飞桨共享生态下的大模型训推部署创新实践计划_百度飞桨_03

赵玉萍

英特尔人工智能架构师

英特尔×飞桨:芯加速行至远,共话AI新布局

从2017年合作开始,百度飞桨和Intel不断拓展了合作的深度和广度,双方成立了联合技术团队,从硬件上积极适配Intel全栈AI产品,在软件层面,双方也进行了深入的合作,在本主题演讲中会详细分享。同时,最近大语言模型 (LLM) 正在席卷整个机器学习世界。LLM 需要大量的算力才能满足某些场景的低延迟需求,对于很多组织而言,相关成本可能高得令人望而却步。在本主题演讲中,我们将讨论如何减少LLM尺寸和推理延迟的优化技术,以使得它们可以在英特尔第四代至强扩展处理器上调用AMX(高级矩阵加速引擎)高效运行。

厂商集结,共话文心与飞桨共享生态下的大模型训推部署创新实践计划_人工智能_04

明立波

曙光智算应用推广部总经理

中科曙光×飞桨:公共算力服务,全面支撑数字化转型随着超大规模模型的不断成熟,人工智能产业已经逐步进入到2.0时代。中科曙光与百度飞桨在大模型预训练、行业模型微调、应用适配对接、应用商城搭建等方向深入合作,持续完善人工智能软硬生态,为下一代人工智能技术的发展与落地提供有力支撑。

厂商集结,共话文心与飞桨共享生态下的大模型训推部署创新实践计划_百度飞桨_05

徐臻

昆仑芯政企/智算中心业务总经理

昆仑芯×飞桨:端到端优化,打造大模型时代 AI “芯”势力

大模型时代对算力供给发起挑战,昆仑芯坚持软硬协同创新,顺应市场需求推出大模型端到端解决方案,性能和落地成果领跑行业。面对大模型带来前所未有的机遇,昆仑芯坚定携手百度飞桨等上下游合作伙伴,加速提升我国人工智能产业核"芯"竞争力。

厂商集结,共话文心与飞桨共享生态下的大模型训推部署创新实践计划_芯片_06

闫龑

天数智芯软件应用研发总监

天数智芯×飞桨:筑根立基,共创大模型产业芯范式

天数智芯作为国内早期实现云端通用GPU量产的公司,在大模型领域已实现诸多案例落地,包括基于千卡规模的近千亿参数预训练、全参/高效参数微调、行业大模型推理一体机等。软件栈兼容主流生态,训练产品天垓100在短期内与飞桨框架快速完成了三级适配互认,后期双方将基于开放生态,在全量训练、推理侧以及算法平台方向进一步合作,共同打造软硬一体的解决方案,为行业赋能。

厂商集结,共话文心与飞桨共享生态下的大模型训推部署创新实践计划_百度飞桨_07

丁云帆

壁仞科技系统架构副总裁

壁仞科技×飞桨:创无止境,建设高性能通用AI设施

GPT类大模型的分布式训练在模型的参数规模、算力规模和训练性能等维度都存在巨大的挑战,大模型的应用落地也存在成本高、延时大的难题。本报告主要介绍GPT大模型的分布式并行训练策略、如何基于壁仞科技大算力通用GPU打造大模型训练系统及低延时高性能的大模型推理引擎,最后分享壁仞科技与百度飞桨在人工智能软硬件基础生态和大模型上的合作与进展。

厂商集结,共话文心与飞桨共享生态下的大模型训推部署创新实践计划_百度_08

圆桌论坛:文心大模型赋能端侧AI

百度与高通、MediaTek、安谋科技3家端侧硬件标杆企业,共同探讨文心大模型赋能端侧AI应用前景。3家硬件企业代表将会分享他们在端侧硬件支持大模型技术方面的最新进展,探讨如何将文心大模型与端侧硬件技术产品相结合,利用文心大模型的强大功能,进一步推动端侧AI应用的发展,以满足不断增长的用户需求。

另外,飞桨+文心大模型在本次论坛中将携手硬件厂商联合发布飞桨+文心大模型硬件生态共创计划。

峰会预告

【智能硬核 生态共创】平行论坛将于8月16日15:40-17:15飞桨PaddlePaddle视频号直播,您可以在飞桨PaddlePaddle公众号本推文获取报名方式,同时可提前进入官方交流群~群内将不间断发放互动福利,更多惊喜等你解锁!

厂商集结,共话文心与飞桨共享生态下的大模型训推部署创新实践计划_百度_09

标签:硬件,AI,模型,训推,飞桨,文心,生态
From: https://blog.51cto.com/u_15512933/7038076

相关文章

  • 产业共振 智能涌现!8月16日飞桨携手生态伙伴带来大模型企业应用创新实践
    当前,人工智能已经成为新一轮科技革命和产业变革的重要驱动力量,基于强算法、大算力和大数据的大模型成为人工智能发展的主流方向。AI大模型已经从拼参数发展到拼应用,进入大规模可复制的产业落地阶段。飞桨深度学习平台和文心大模型一直致力于发挥算法模型基础技术优势,助力广大企业将......
  • 文心一言 VS 讯飞星火 VS chatgpt (73)-- 算法导论7.1 4题
    四、如何修改QUICKSORT,使得它能够以非递增序进行排序?文心一言:快速排序(Quicksort)是一种常用的排序算法,基于分治策略进行设计。默认情况下,快速排序会以递增序进行排序。若想修改快速排序以实现非递增排序,我们需要调整比较和交换的逻辑。以下是修改后的非递增快速排序的Python代码......
  • 文心一言 VS 讯飞星火 VS chatgpt (72)-- 算法导论7.1 3题
    三、请简要地证明:在规模为n的子数组上,PARTITION的时间复杂度为Θ(n)。文心一言:首先,我们需要明确PARTITION函数的具体定义。PARTITION函数通常用于快速排序算法中,它将一个数组分为两个子数组,使得一个子数组的所有元素都小于另一个子数组的所有元素。PARTITION函数的基本过程是:1......
  • 飞桨科学计算线下交流会|基于PINN的传播动力学研究
    分享者:中国传媒大学大数据分析与挖掘实验室博士生张志强众所周知,我们处于网络信息大爆炸的时代。现代互联网产生了大量的舆情信息,其中很多信息并不是正常的信息,是因为在网络中存在着部分恶意造谣者。国家非常重视舆情治理,它与整个国家的安全息息相关。网络中许多貌似无用的热点话题......
  • 文心一言 VS 讯飞星火 VS chatgpt (69)-- 算法导论6.5 8题
    八、HEAP-DELETE(A,i)操作能够将结点i从堆A中删除。对于一个包含n个元素的堆,请设计一个能够在O(lgn)时间内完成的HEAP-DELETE操作。文心一言:要在O(logn)时间内完成HEAP-DELETE操作,可以使用以下方法:1.首先找到要删除的节点i的父节点。可以从根节点开始,依次向上遍历,直......
  • 文心一言 VS 讯飞星火 VS chatgpt (71)-- 算法导论7.1 1题
    参照图7-1的方法,说明PARTITION在数组A=(13,19,9,5,12,8,7,4,21,2,6,11)上的操作过程。文心一言:PARTITION是一种常见的快速排序算法,其目的是将数组分成两个部分,使得其中一个部分的所有元素都小于另一个部分的所有元素。在这个过程中,最小的元素会被放在数组的最后一个位置。以下是在数组A=(......
  • 文心一言 VS 讯飞星火 VS chatgpt (71)-- 算法导论7.1 1题
    参照图7-1的方法,说明PARTITION在数组A=(13,19,9,5,12,8,7,4,21,2,6,11)上的操作过程。文心一言:PARTITION是一种常见的快速排序算法,其目的是将数组分成两个部分,使得其中一个部分的所有元素都小于另一个部分的所有元素。在这个过程中,最小的元素会被放在数组的最后一个位置。以下是在数组......
  • 文心一言 VS 讯飞星火 VS chatgpt (70)-- 算法导论6.5 9题
    九、请设计一个时间复杂度为(nlgk)的算法,它能够将k个有序链表合并为一个有序链表,这里n是所有输入链表包含的总的元素个数。(提示:使用最小堆来完成k路归并。文心一言:要设计一个时间复杂度为O(nlogk)的算法,将k个有序链表合并为一个有序链表,可以使用最小堆来实现k路......
  • 投资人疯抢下一个“独角兽”,文心杯创业大赛火遍创投圈
    “百模大战”打响,掀起大模型领域“创业热潮”。今年5月31日,百度启动“文心杯”创业大赛(后简称“大赛”),不到1个月报名时间,吸引近1000个项目激烈角逐,在知名投资人和AI专家的权威评审和层层筛选后,40个潜力项目闯入“决赛圈”进行最终较量。大赛获得海内外创业投资圈的高度关注,“抢人大......
  • 百度搭台,千家打擂,文心杯创业大赛成投资人新宠?
    依托本次大赛,百度再次将把大模型的规模式竞赛抬升到最新高度。在本次大赛中,超9成项目聚焦大模型应用层落地,除生产力工具、营销等大热赛道之外,创业者积极探索医疗、教育、金融、法律等行业应用的重构与改造,应用场景趋向多元化。40支团队正基于文心大模型构建AI原生应用,并获得百度在......