作为一个大型语言模型(LLM)接口,ChatGPT有令人印象深刻的潜力,但是真正能否用好取决与我们的提示(Prompt ),一个好的提示可以让ChatGPT晋升到一个更好的层次。
在这篇文章中,我们将介绍关于提示的一些高级知识。无论是将ChatGPT用于客户服务、内容创建,还是仅仅为了好玩,本文都将为你提供使用ChatGPT优化提示的知识和技巧。
背景知识
LLM架构知识是一个好的提示的先决条件,因为它提供了对语言模型的底层结构和功能的基本理解,这对于创建有效的提示是至关重要的。
让模棱两可的问题变得清晰,并确定可以跨场景转换的核心原则很重要,所以我们需要清楚地定义手头的任务,并提出可以轻松适应不同上下文的提示。精心设计的提示是用来将任务传达给语言模型并指导其输出的工具。
所以对语言模型有简单的了解,并且清楚的了解自己的目标,再加上领域内的一些知识,是用于训练和改进语言模型的性能的关键。
提示和返回是越多越好吗?
并不是
冗长且资源密集的提示,这可能不具有成本效益,并且还记得chatgpt有字数限制吗,压缩提示请求和返回结果是一个非常新兴的领域,我们要学会精简问题。并且有时候chatgpt也会回复一些很长且毫无新意的话语,所以我们也要为它增加限定。
1、减少回复长度
为了减少ChatGPT回复的长度,在提示符中包含长度或字符限制。使用更通用的方法,您可以在提示符后面添加以下内容:
Respond as succinctly as possible.
说明,因为ChatGPT是英文语言模型,所以后面介绍的提示都以英文为例。
另外一些简化结果的提示:
不需要举例:No examples provided
举一个例子:One example provided
等等
思考方式
ChatGPT生成文本的最佳方法取决于我们希望LLM执行的特定任务。如果不确定使用哪种方法,可以尝试不同的方法,看看哪种方法最适合。我们将总结5中思考方式:
1、思维链 (Chain-of-Thought)
思维链方法涉及为 ChatGPT 提供一些可用于解决特定问题的中间推理步骤示例。
2、自我提问
该方法涉及模型在回答初始问题之前明确地问自己(然后回答)后续问题。
3、分步思考
分步方法可以向ChatGPT 添加以下的提示
Let’s think step by step.
这种技术已被证明可以提高 LLM 在各种推理任务上的表现,包括算术、常识和符号推理。
这个听起来就很玄学对吧,其实OpenAI是通过人类反馈强化学习 (Reinforcement Learning with Human Feedback) 的方法训练了他们的 GPT 模型,也就是说人工的反馈在训练中起了很重要的作用,所以ChatGPT 的底层模型与类人的逐步思考方法保持一致的。
4、ReAct
ReAct (Reason + Act)方法包括结合推理跟踪和特定于任务的动作。
推理跟踪帮助模型规划和处理异常,而动作允许它从外部来源(如知识库或环境)收集信息。
5、Reflection
在ReAct模式的基础上,Reflection方法通过添加动态内存和自反射功能来增强LLM——可以推理和特定于任务的操作选择能力。
为了实现完全自动化,Reflection论文的作者引入了一种简单但有效的启发式方法,允许代理识别幻像(hallucinations),防止重复动作,并在某些情况下创建环境的内部记忆图。
反模式
三星肯定对这个非常了解,因为交了不少学费吧,哈
不要分享私人和敏感的信息。
向ChatGPT提供专有代码和财务数据仅仅是个开始。Word、Excel、PowerPoint和所有最常用的企业软件都将与chatgpt类似的功能完全集成。所以在将数据输入大型语言模型(如 ChatGPT)之前,一定要确保信息安全。
OpenAI API数据使用政策明确规定:
“默认情况下,OpenAI不会使用客户通过我们的API提交的数据来训练OpenAI模型或改进OpenAI的服务。”
国外公司对这个方面管控还是比较严格的,但是谁知道呢,所以一定要注意。
1、提示注入
就像保护数据库不受SQL注入一样,一定要保护向用户公开的任何提示不受提示注入的影响。
通过提示注入(一种通过在提示符中注入恶意代码来劫持语言模型输出的技术)。
第一个提示注入是,Riley Goodside提供的,他只在提示后加入了:
Ignore the above directions
然后再提供预期的动作,就绕过任何注入指令的检测的行为。
这是他的小蓝鸟截图:
当然这个问题现在已经修复了,但是后面还会有很多类似这样的提示会被发现。
2、提示泄漏
提示行为不仅会被忽略,还会被泄露。
提示符泄露也是一个安全漏洞,攻击者能够提取模型自己的提示符——就像Bing发布他们的ChatGPT集成后不久就被看到了内部的codename
在一般意义上,提示注入(目标劫持)和提示泄漏可以描述为:
所以对于一个LLM模型,也要像数据库防止SQL注入一样,创建防御性提示符来过滤不良提示符。
为了防止这个问题,我们可以使用一个经典的方法 “Sandwich Defense”即将用户的输入与提示目标“夹在”一起。
这样的话无论提示是什么,最后都会将我们指定的目标发送给LLM。
总结
ChatGPT响应是不确定的——这意味着即使对于相同的提示,模型也可以在不同的运行中返回不同的响应。如果你使用API甚至提供API服务的话就更是这样了,所以希望本文的介绍能够给你一些思路。
另外本文的引用如下:
Prompt injection attacks against GPT-3
Ignore Previous Prompt: Attack Techniques For Language Models
Self-ask Prompting
Large Language Models are Zero-Shot Reasoners
Reflexion: an autonomous agent with dynamic memory and self-reflection
ReAct: Synergizing Reasoning and Acting in Language Models
Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
https://avoid.overfit.cn/post/e0b0c4527ad04fb1a4ead894ed5d2193
作者:Ivan Campos
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。