目录前言1、FP162、BF163、FP324、不同精度的显存占用5、不同精度之间的转换总结前言本文主要介绍LLM的三种不同精度FP16，FP32，BF16的概念和计算，并用pytorch进行演示；不同精度下的显存占用，以及不同精度的相互转换。1、FP16FP16也叫 float16，全称是Half-precisionflo