来源：oldpan来自：https://medium.com/squeezebits-team-blog/vllm-vs-tensorrt-llm-3-understanding-sampling-methods-and-their-performance-impact-a8ffa5ee0245我们都知道，大型语言模型（LLMs）通过“根据上下文预测下一个token的概率分布”来生成文本。最简单的采样方法是贪