网站首页
编程语言
数据库
系统相关
其他分享
编程问答
微扰
2024-07-05
What Makes Quantization for Large Language Models Hard?
本文是LLM系列文章,针对《WhatMakesQuantizationforLargeLanguageModelsHard?AnEmpiricalStudyfromtheLensofPerturbation》的翻译。是什么让大型语言模型的量化变得困难?微扰透镜的经验研究摘要1引言2相关工作3前言4从微扰的角度看LLM量子化5