首页 > 其他分享 >A Systematic Survey of Prompt Engineering in Large Language Models: Techniques and Applications

A Systematic Survey of Prompt Engineering in Large Language Models: Techniques and Applications

时间:2024-03-29 16:30:44浏览次数:21  
标签:每种 Prompt Language 工程 Models 模型 摘要 提示 方法

本文是LLM系列文章,针对《A Systematic Survey of Prompt Engineering in Large Language Models: Techniques and Applications》的翻译。

大型语言模型中提示工程的系统综述:技术与应用

摘要

提示工程已经成为扩展大型语言模型(LLM)和视觉语言模型(VLM)功能的一种不可或缺的技术。这种方法利用特定任务的指令,即提示,在不修改核心模型参数的情况下提高模型功效。提示不是更新模型参数,而是通过仅基于给定提示引发所需的模型行为,将预先训练的模型无缝集成到下游任务中。提示可以是提供上下文以指导模型的自然语言指令,也可以是激活相关知识的学习向量表示。这一新兴领域已经在从问答到常识推理的各种应用程序中取得了成功。然而,对各种快速工程方法和技术仍然缺乏系统的组织和理解。这篇调查论文通过按应用领域分类,对提示工程的最新进展进行结构化概述,来解决这一差距。对于每种提示方法,我们都会提供一份摘要,详细说明提示方法、应用程序、所涉及的模型和所使用的数据集。我们还深入研究了每种方法的优势和局限性,并提供了一个分类图和表格,总结了每种提示技术的数据集、模型和关键点。这种系统的分析能够更好地理解这一快速发展的领域,并通过揭示提示工程的公开挑战和机遇,促进未来

标签:每种,Prompt,Language,工程,Models,模型,摘要,提示,方法
From: https://blog.csdn.net/c_cpp_csharp/article/details/137147793

相关文章

  • Large Language Models As Evolution Strategies
    本文是LLM系列文章,针对《LargeLanguageModelsAsEvolutionStrategies》的翻译。作为进化策略的大型语言模型摘要1引言2相关工作3背景4将LLMS转化为ES算法5LLMS作为零样本进化策略6EVOLLM消融研究7EVOLLM与教师微调8讨论摘要大型Transformer模......
  • Channel-Wise Autoregressive Entropy Models For Learned Image Compression
    目录简介创新点模型框架信道条件熵模型实验&结果简介熵约束自动编码器的熵模型同时使用前向适应和后向适应。前向自适应利用边信息,可以被有效加入到深度网络中。后向自适应通常基于每个符号的因果上下文进行预测,这需要串行处理,这妨碍了GPU/TPU的有效利用。创新点本文引......
  • 大模型提示工程之Prompt框架和示例
    今天和大家分享一下:大模型提示工程之Prompt框架和示例:TAG框架任务(Task): 开发一个新的手机应用,旨在帮助用户更好地管理他们的日常健康。行动(Action): 进行市场调研,设计用户友好的界面,开发核心健康跟踪功能,测试应用并收集用户反馈。目标(Goal): 在六个月内发布应用,并在发布后的......
  • Large Language Models Based Fuzzing Techniques: A Survey
    本文是LLM系列文章,针对《LargeLanguageModelsBasedFuzzingTechniques:ASurvey》的翻译。基于大型语言模型的模糊化技术综述摘要1引言2背景3基于LLM的模糊测试分析4关于未来工作和挑战的讨论5结论摘要在软件发挥关键作用的现代,软件安全和漏洞分析......
  • Stepwise Self-Consistent Mathematical Reasoning with Large Language Models
    本文是LLM系列文章,针对《StepwiseSelf-ConsistentMathematicalReasoningwithLargeLanguageModels》的翻译。基于大型语言模型的逐步自洽数学推理摘要1引言2相关工作3TriMaster100数据集4循序渐进的自洽思维链5实验6结论摘要使用大型语言模型进......
  • [Paper Reading] LVM: Sequential Modeling Enables Scalable Learning for Large Vis
    LVM:SequentialModelingEnablesScalableLearningforLargeVisionModelsLVM:SequentialModelingEnablesScalableLearningforLargeVisionModels时间:23.12机构:UCBerkeley&&JohnsHopkinsUniversityTL;DR本文提出一种称为大视觉模型(LVM)的方法,该方法以"vis......
  • could not read Username for 'https://github.com': terminal prompts disabled on w
    https://stackoverflow.com/questions/75990435/could-not-read-username-for-https-github-com-terminal-prompts-disabled-on-w  TrysettingatemporarycredentialhandlerforGitHub:GIT_USER="your-github-username-or-email"GIT_PASS="PAT"......
  • 笔记-《A Survey of Large Language Models》- 4 预训练
    4预训练预训练为LLM的能力奠定了基础。通过在大规模语料库上进行预训练,LLM可以获得基本的语言理解和生成能力[55,56]。在这个过程中,预训练语料库的规模和质量对于LLM获得强大的能力至关重要。此外,为了有效地预训练LLM,也需要设计好模型架构、加速......
  • 【论文和源码解读】Scaling on Scales:When Do We Not Need Larger Vision Models?
    文章目录0.问题和想法1.观察和见解2.设计和框架2.1关键设计2.2模型框架3.源码解析3.1utils.py文件3.2core.py文件3.2.1forward函数中输入参数的含义3.2.2forward函数的处理逻辑4.消融实验5.未来可能的改进方向原文地址:https://arxiv.org/abs/2403.......
  • A LARGE LANGUAGE MODEL EVALUATION BENCHMARK AND BASELINE FOR CHINESE PUBLIC SECU
    本文是LLM系列文章,针对《CPSDBENCH:ALARGELANGUAGEMODELEVALUATIONBENCHMARKANDBASELINEFORCHINESEPUBLICSECURITYDOMAIN》的翻译。CPSDBENCH:中国公共安全领域的大型语言模型评估基准和基线摘要1引言2相关工作3方法4结果与分析5结论摘要大......