技术迭代的在一段时间内是均匀发展甚至止步不前的,但在某段时间内会指数级别的爆发。
ChatGPT背后的GPT 3.5训练据说花了几百万美金外加几个月的时间,参数大概有1700多亿。
这对于绝大多数的个人或企业来说绝对是太过昂贵的。
然而,微软(MSFT)宣布开源Deep Speed Chat,从公布的训练时间及价格上看,最后一个175b,也就是1750亿参数规模的模型。
20个小时,5000多美刀。
一、Deep Speed Chat技术简单介绍
Deep Speed Chat是基于微软Deep Speed深度学习优化库开发而成,具备训练、强化推理等功能,还使用了RLHF(人工反馈机制的强化学习)技术,可将训练速度提升15倍以上,成本却大幅度降低。例如,一个130亿参数的类ChatGPT模型,只需1.25小时就能完成训练。
简单来说,用户通过Deep Speed Chat提供的“傻瓜式”操作,能以最短的时间、最高效的成本训练类ChatGPT大语言模型,这标志着人手一个ChatGPT的时代要来了。
二、全民ChatGPT时代来了
目前的大模型,还是通用型的,到最后,每个人都会有自己的GPT。
做个不太恰当的比喻,微软此次开源Deep Speed Chat就像当年的互联网,为了提升发展速率降低了台式机的价格,使得普通用户也能拥有自己的电脑。
只有参与的用户多了,整个行业生态才能快速壮大发展,所以,微软此次开源对整个ChatGPT生态发展起到了至关重要的推动作用,使得人人都能拥有自己的ChatGPT。
目前,ChatGPT处于初级发展阶段,存在安全隐患、数据隐私、道德等问题。相信随着参与用户的增多,这些难题将会被有效的解决,从而为全球经济发展做出贡献。
三、开源来之不易
开源软件具有开放、共享、自由等特性,在软件开发中扮演着越来越重要的角色,也是软件供应链的重要组成部分。 据Gartner调查显示,99%的组织在其 IT系统中使用了开源软件。
所以这就是上面为什么说微软此次的开源动作,会对整个ChatGPT生态发展起到推动作用!
熟悉低代码的伙伴可能会知道,现在的很多低代码平台是不采取源代码交付机制的,这点使很多开发者头大,因为在开发中无从了解底层逻辑,一旦出现特殊情况便难以解决。
从成本与效益来说,源代码交付绝对是软件二次开发的最好支持:
1、源代码交付机制可以摆脱推原厂商的依赖:
用户后期的二次开发,包括表单、流程、接口等活动,都不再有后顾之忧;
2、可以自主开发一些复杂的业务逻辑:
企业在新扩展的业务流程时就不需要重新购买,大大减少成本与时间。
3、基于低代码开发平台开发出来的各类业务系统不受限,可自主申请软件著作权:
当然,哪怕暂时还没有涉及到二次开发需求,从心理角度出发,提供源代码也可以给企业带来心理上的安全“安慰",没有受限于人的担忧。
JNPF快速开发平台据我所知是提供源代码交付的,相对而言在软件市场内性价比高、售后优越,正处于上升期。支持主流数据库,满足系统快速开发、灵活拓展、无缝集成和高性能应用等综合能力;采用前后端分离模式,前端和后端的开发人员可分工合作负责不同板块,省事又便捷,感兴趣的可以试试看。
开源体验:https://www.jnpfsoft.com/?cnblogs ,可以试试看!
基于先进的引擎式软件快速开发模式,配置有流程引擎、表单引擎、报表引擎、图表引擎、接口引擎、门户引擎、组织用户引擎等可视化功能引擎;超百种功能控件,拖拽实现搭建,让开发者不再重复造轮子,将注意力集中在更适配的业务设计上。
四、结语
此次微软大方让Deep Speed Chat开源,国内的AI研发厂商又将掀起什么样的浪花,我们拭目以待!很多研究者说:研究已死,这言论的确不容乐观,结尾笔者还是要呼吁国产自主研发,做出真正属于自己的东西。
标签:微软,Deep,开源,引擎,来临,ChatGPT,Speed From: https://www.cnblogs.com/nunuin123-/p/17318222.html