PaddlePaddle学的时间最长,买了官方的书,官方的在线学习看了两遍。前后大概一年的跨度,看完第一遍后大半年又看了一遍。12月末的时候去参加了百度在上海张江科学大会堂的一个大会。看完第二遍PaddlePaddle决定把Tensorflow也了解下,遇到了蜥蜴书,真心觉得不错的书,前后花了两个月时间,PyTorch的书一天看完,飞速的翻完。汇总下学习心得。
1. PaddlePaddle特点是上手容易,有点深度学习八股文的意思,500多个模型可以用来迁移学习微调优化,能够解决常见问题。百度的生态策略也不错,抓住了大学生还有教授们,这些学生们毕业进入社会就成为Paddle的推广大使了。可以听过下面链接在线免费学习。
2. Tensorflow更为底层,机器学习通过Scikit-Learn包,深度学习通过Keras,里面允许自由控制的地方多很多,需要对数学的理解也有一定要求。强烈推荐《机器学习实战-基于Scikit-Learn、Keras和Tensorflow》,法国人写的,有大师的风格,知识很广,有种信手拈来的感觉,对GPT用到的Transformer架构也初步谈到。总的来说,有点学习门槛,使用起来没有PaddlePaddle方便,不过生态更为丰富。
3. 顺带这本书里推荐的《Transformer自然语言处理实战:使用Hugging Face Transformers库构建NLP应用》,这本书对如何实践Transformer比较有用,对了解Hugging Face也比较有用。原来Hugging Face最初是为了兼容Tensorflow和Pytorch两大生态而来。起初,新模型不断被发布,但是要么是基于Tensorflow的要么是基于Pytorch,两遍无法兼容不利于后来者,于是有了Hugging Face。
4. PyTorch看了两本:《PyTorch深度学习实战》和《Python机器学习:基于PyTorch和Scikit-Learn》,因为刚看完Tensorflow,概念在脑子里都非常热,翻的飞快。基本觉得和PaddlePaddle非常类似,连前向计算的函数名都一样,叫forward(),而Tensorflow则叫call()。Pytorch也是从大学开始的生态,看来PaddlePaddle就是对标PyTorch来。
5. 百度大会的时候和百度一个汽车AI展台的同学有些交流,观察到汽车质量检查这些目前国内实践主流就是用PaddlePaddle或者华为MindSpore框架。不过如果要做智能驾驶就要比较底层了,这些框架提供的既有模型无法解决自动驾驶遇到的问题,同时速度也达不到驾驶需要的预测速度,得从底层开始。
6. 参加了其中一个分论坛,看到了寒武纪、沐曦AI、燧原科技、昆仑芯、海光、英特尔和百度的一个互动,这些都是底层算力的提供者。
7. 福建电网的获奖案例很接地气。团队从灾前预警准备、灾中处置救援、灾后恢复重建3大阶段11个应用场景(气象监测预警、预警单发布、应急事件创建、队伍集结待命、停电全景监测、队伍跨区调派、任务分配、灾损勘察、抢修计划编制、抢修作业、应急事件复盘)识别了每个环节需要用的AI技术,有些是深度学习、有些是大模型、有些是Agent、有些是知识图谱等,非常全面系统!
标签:PaddlePaddle,PyTorch,Paddle,Face,学习,Pytorch,Hugging,Tensorflow From: https://blog.csdn.net/m0_66899341/article/details/144869517