首页 > 其他分享 >上海交大：自然语言与强化学习结合优化LLM

上海交大：自然语言与强化学习结合优化LLM

时间：2024-11-30 18:04:45浏览次数：8

标签：语言 NLRL LLM RL 强化自然语言上海交大策略

在这里插入图片描述

标签：语言,NLRL,LLM,RL,强化,自然语言,上海交大,策略
From： https://blog.csdn.net/weixin_46739757/article/details/144088225

【NLP高频面题 - LLM架构篇】旋转位置编码RoPE相对正弦位置编码有哪些优势？
【NLP高频面题-LLM架构篇】旋转位置编码RoPE相对正弦位置编码有哪些优势？重要性：⭐⭐⭐......
自然语言处理:第六十九章大模型推理框架神器 - VLLM部署篇
本人项目地址大全：Victor94-king/NLP__ManVictor:CSDNofManVictor官方文档:WelcometovLLM!—vLLM项目地址:vllm-project/vllm:Ahigh-throughputandmemory-efficientinferenceandservingengineforLLMs写在前面:笔者更新不易，希望走过路过点个关注和赞，......
为什么大模型在企业落地难？(LLM技术挑战和解决篇)
0、前言AI是下一代颠覆性的机会，已经是很多人的共识。尤其是在媒体的大力宣传下，大模型显得格外火热，但为什么已经到2024年了，在企业落地应用上颇有“雷声大，雨点小”的态势呢？前排提示，文末有大模型AGI-CSDN独家资料包哦！落地遇到的挑战是什么？希望尝试从3个不同的角度来讨论：1）大......
【NLP高频面题 - LLM架构篇】大模型为何使用RMSNorm代替LayerNorm？
【NLP高频面题-LLM架构篇】大模型为何使用RMSNorm代替LayerNorm？重要性：★★★......
LLM大模型: CV领域常见attention思路变种及其作用(一)
多年前做传统的机器学习，主要用的是LR、SVM、bayes、浅层nerualnetwork、decisiontree、randomforest、GBDT等，这些分类或回归模型要想AUC、ROC等指标高，最核心的就是构造特征了！为此还专门诞生了一个细分领域：featherenginering，专门研究怎么构造好的feather！就实战情况而言，换模......
使用ROCm在AMD GPU上进行Llama 3.2视觉LLMs推理
InferencewithLlama3.2VisionLLMsonAMDGPUsUsingROCm—ROCmBlogsMeta的Llama模型现在支持多模态功能，扩展了其在传统文本应用之外的应用范围。Llama3.2模型有多种尺寸，包括用于视觉-文本推理任务的中型11B和90B多模态模型，以及为边缘和移动设备设计的轻量级1B和3B......
【NLP高频面题 - LLM架构篇】LLM对Transformer都有哪些优化？
【NLP高频面题-LLM架构篇】LLM对Transformer都有哪些优化？⚠︎重要性：★★★......
【NLP高频面题 - LLM架构篇】LLM为何使用GQA代替MHA？
【NLP高频面题-LLM架构篇】LLM为何使用GQA代替MHA？重要性：★★......
【NLP高频面题 - LLM架构篇】LLM对Transformer都有哪些优化？
【NLP高频面题-LLM架构篇】LLM对Transformer都有哪些优化？⚠︎重要性：★★★......
【大模型实战篇】利用TensorRT LLM部署及推理大模型实战（bloom560m、chatglm-6b等大模
1. TensorRT-LLM基础介绍 TensorRT-LLM是NVIDIA用于做LLM（LargeLanguageModel）的可扩展推理方案。基于TensorRT深度学习编译框架来构建、编译并执行计算图，并借鉴了许多FastTransformer中高效的Kernels实现，然后利用NCCL完成设备之间的通讯。Tenso......

上海交大：自然语言与强化学习结合优化LLM

相关文章

赞助商

阅读排行