首页 > 其他分享 >NUS:LLM在BF16与RoPE上存在长上下文挑战

NUS:LLM在BF16与RoPE上存在长上下文挑战

时间:2024-12-03 15:57:45浏览次数:6  
标签:BF16 AnchorAttention 位置 NUS RoPE BFloat16 上下文 注意力

在这里插入图片描述

标签:BF16,AnchorAttention,位置,NUS,RoPE,BFloat16,上下文,注意力
From: https://blog.csdn.net/weixin_46739757/article/details/144115310

相关文章