首页 > 其他分享 >Prompt原则 - 强调行动指令而非限制

Prompt原则 - 强调行动指令而非限制

时间:2024-02-08 10:58:11浏览次数:24  
标签:Customer 限制 模型 回答 Agent 指令 可能性 Prompt

在与语言模型(LLM)的交流中,明确指导(告诉它做什么)往往比单纯指出禁止行为(告诉它不做什么)更加有效。

这种方法的优点在于能够更直接、更精确地引导模型的回答方向,减少模型需要考虑的可能性范围,从而提高获取期望答案的几率。

OpenAI 的官方文档
https://help.openai.com/en/articles/6654000-best-practices-for-prompt-engineering-with-openai-api 对 prompt 的最佳实践的第七点就是这条:

Instead of just saying what not to do, 
say what to do instead
与其说不该做什么,不如说该做什么

这篇最佳实践中给出对话示例:

Less effective 效果差 ❌:

The following is a conversation between an Agent and a Customer. DO NOT ASK USERNAME OR PASSWORD. DO NOT REPEAT.

Customer: I can’t log in to my account.
Agent:

以下是 Agent 与 Customer 之间的对话。
不要询问用户名或密码。 不要重复。

Customer:我无法登录我的帐户。
Agent:

Better 效果好 ✅:

The following is a conversation between an Agent and a Customer.
The agent will attempt to diagnose the problem and suggest a solution, whilst refraining from asking any questions related to PII.
Instead of asking for PII, such as username or password, refer the user to the help article www.samplewebsite.com/help/faq

Customer: I can’t log in to my account.
Agent:

以下是 Agent 与 Customer 之间的对话。
Agent 将尝试诊断问题并提出解决方案,同时避免询问任何与 PII 相关的问题。
不要询问 PII(例如用户名或密码),而是让用户参阅帮助文章 www.samplewebsite.com/help/faq

Customer:我无法登录我的帐户。
Agent:

如何理解

想象一下,你正在试图指导一个朋友做蛋糕,但你只告诉他们不要做的事情,比如“不要把它烤焦”或“不要忘记加糖”。这样的指导留下了许多可能性,你的朋友可能会因为不清楚应该做什么而感到困惑。相反,如果你提供明确的指示,比如“按照食谱把材料混合在一起,然后在180°C下烤25分钟”,你的朋友就有了明确的行动方向,更有可能成功做出蛋糕。

我们再看一个逻辑化的解释:

初始可能性集合:

假设一个语言模型在回答问题时面临上万种可能的回答。

排除指令的效果:

当用户指示模型“不要做XXX”,意味着从这一万种可能性中排除与“XXX”相关的10种可能性。
因此,剩余的可能性变为9990种,模型下一次的回答将从这些剩余的可能性中选择。

指定指令的效果:

当用户指示模型“要做YYY”,模型将专注于与“YYY”直接相关的10种可能性。
这意味着,模型下一次的回答将基于这10种精确匹配的可能性进行选择。

比较效果:

在排除指令的情况下,模型试图从9990种可能性中找到最合适的回答,这可能导致回答的方向不够集中,因为它仍然需要从一个广泛的选项池中选择。

在指定指令的情况下,模型的选择范围被明确限定在10种可能性内,这使得模型能够更加集中精力提供与用户需求直接相关的回答。

结论:

提供指定指令(即告诉模型“要做YYY”)比提供排除指令(即告诉模型“不要做XXX”)更有可能得到用户期望的回答,因为它让模型的回答范围更加集中和精确。

一些案例

不推荐的做法

用户:我正在学习Python,不要给我任何复杂的代码示例。

这种提示不清楚指出用户实际需要什么,留下了太多解释的可能性,如简单代码示例、理论解释,或者甚至是非编程的内容。

推荐的做法

用户:请给我一个简单的Python示例,演示如何打开文件。

这个提示非常明确,指导模型提供一个简单的Python代码示例,关于打开文件的操作。模型现在有一个清晰的方向,知道应该提供什么样的回答,减少了其他不相关回答的可能性。

通过提供具体而正面的指令,你有效地缩小了模型考虑的范围,从而使得回答更加符合你的期待。这种方法不仅提高了交流的效率,还有助于避免可能的误解或不相关的回答。

总结

通过明确指导语言模型做什么,而非限制它不做什么,我们能够大幅提升交流的效果,确保得到更准确和相关的回答。

标签:Customer,限制,模型,回答,Agent,指令,可能性,Prompt
From: https://www.cnblogs.com/ghj1976/p/18011630/prompt-yuan-ze--qiang-diao-xing-dong-zhi-ling-e

相关文章

  • Prompt原则 - 强调行动指令而非限制
    在与语言模型(LLM)的交流中,明确指导(告诉它做什么)往往比单纯指出禁止行为(告诉它不做什么)更加有效。这种方法的优点在于能够更直接、更精确地引导模型的回答方向,减少模型需要考虑的可能性范围,从而提高获取期望答案的几率。OpenAI的官方文档https://help.openai.com/en/articles/66......
  • Prompt原则 - 强调行动指令而非限制
    在与语言模型(LLM)的交流中,明确指导(告诉它做什么)往往比单纯指出禁止行为(告诉它不做什么)更加有效。这种方法的优点在于能够更直接、更精确地引导模型的回答方向,减少模型需要考虑的可能性范围,从而提高获取期望答案的几率。OpenAI的官方文档https://help.openai.com/en/articles/66......
  • Nginx白名单IP限制、国家城市IP访问限制
    文章来源:https://spring4all.com/forum-post/6059.html1.方法一:allow、denydeny和allow指令属于ngx_http_access_module,nginx默认加载此模块,所以可直接使用。这种方式,最简单,最直接。设置类似防火墙iptable,使用方法:直接配置文件中添加:#白名单设置,allow后面为可访问IPlocatio......
  • Docker的资源限制
    前言本文主要会介绍笔者在学习Docker的资源限制实现原理时所总结的知识点,其中会涉及到对于CPU资源限制、内存资源限制以及磁盘I/O资源限制等方面的相关内容。笔者也会将自己的理解在文中进行阐述,这也算是在和大家交流心得的一个过程。若文中有错误的理解和概念,请大家及时纠正;吸纳......
  • docker---dockerfile自定义镜像指令
    dockerfile指令FROM#指定所基于的镜像名称及其标签来创建新镜像。RUN#在镜像中执行命令。ADD#将文件或目录复制到镜像中。可以使用URL作为源文件。COPY#与ADD类似,将文件或目录复制到镜像中,但不支持URL作为源文件。CMD#指定运行容器时要执行的命令,如果在......
  • AWS Security Group Rule的限制问题
    需要维护一批IP白名单,一个个添加到securitygroup费时,而且以后还有其它机器和服务也需要用到,因此创建了一个Prefixlist(VPC-->Managedprefixlists)里面包含77个ip完成后尝试添加到EC2的securitygroup,却提示说:Themaximumnumberofrulespersecuritygrouphasbeenrea......
  • 经典Prompt欣赏 - Video Script Generator 视频脚本生成器
    体验可以通过https://chat.openai.com/g/g-rxlwmrnqa-video-script-generator地址体验,它将按照你的主题要求,创建TikTok视频脚本。PromptYouareanexpertinthefieldoftopic,whowantstocreateengagingandinformativecontentforTikTok.Youraudienceconsi......
  • 经典Prompt欣赏 - Video Script Generator 视频脚本生成器
    体验可以通过https://chat.openai.com/g/g-rxlwmrnqa-video-script-generator地址体验,它将按照你的主题要求,创建TikTok视频脚本。PromptYouareanexpertinthefieldoftopic,whowantstocreateengagingandinformativecontentforTikTok.Youraudienceconsi......
  • 模块化全局指令调用 - 我的世界OCO指令系列
    最近在搞我的世界指令的模块化。本指令不需要引用任何模块。意义计分板和标签经常作为模块化的入口,然而当我们的操作不具体到实体时,如何才能保证有一个可供我们随意添加标签和计分项目的实体来供我们调用其他模块呢?一个简单的方法是弄一个盔甲架,用特殊的标签标记它,尽量让它......
  • 电子取证之volatility相关指令
    本文展示的raw为beginctf-学取证咯系列,以及西湖论剑easy_rawraw题目附件,有了这些能做大部分题目了,其他就刷刷题就好了。获取基本信息python2vol.py-f1.rawimageinfo#f:指定分析的内存镜像文件名上述输出中,SuggestedProfile(s)显示了Volatility推荐的几个内存镜像分析......