想要抓住当前人工智能最热门浪潮的技术专业人士可能会考虑成为提示工程师（PromptEngineer），这似乎将是年最受欢迎的职业之一。想要充分利用大型语言模型（如ChatGPT）的开发人员可能需要查看提示工程工具，这是一种新兴的工具类别，旨在指导大型语言模型（LLM）实现期望的结果。
就在两个多月前推出的ChatGPT以其对问题的令人信服和详细的书面答复，吸引了商界的注意。尽管人们担心它在响应提示时生成的信息的准确性，但企业仍在迅速将LLM纳入各种客户沟通方式。
LLM在人工智能领域已经有几年了，开发人员仍在探索与它们交互的最佳方式。虽然有些LLM足够小（如BERT），开发者可以下载它们，并根据自己的数据对它们进行训练，但对于一些更大的LLM（如GPT-3）来说，这是不可能的。这些LLM在云上进行训练和托管，开发人员通常通过API与它们进行交互。
与许多公司使用传统的机器学习（ML）和早期深度学习（DL）方法在定制数据集上训练这些类型的深度学习模型不同，使用预训练的LLM构建定制人工智能应用看起来明显不同。事实上，一些LLM专家表示，在使用GPT-3等LLM时，您可以放弃所有经典的数据科学训练。
那么，开发人员如何使用LLM构建应用程序？答案是一个相当新的领域，叫做提示工程（promptengineering）。与构建和训练机器学习或深度学习模型不同，提示工程师通常使用托管在云上的预训练LLM。让LLM正确运行并生成适当的响应，通过操纵输入到LLM或其提示中的输入来实现这一点。
提示工程是关于操纵LLM的输入以获得期望的响应
作为较早和成功的NLP和LLM工具开发公司之一，Cohere认为，成功的提示工程师将找到一种方法来指导模型生成有用的输出。该公司在其提示工程师指南中解释说，实现这一点的一种方法是尝试多种提示组合。该公司表示：“同一提示的不同组合可能听起来与人类相似，但可能会导致不同的效果。”
Cohere表示，展示你希望看到的输出的LLM示例，也称为少数据学习，是提示工程师在模型中使用的技术之一。该公司表示，改变提示的上下文也很重要。这对于发现“模型难以理解的特定单词、短语或结构”很重要。
开发机器学习工具公司Gantry的创始人兼首席执行官JoshTobin表示，与传统的模型训练相比，提示工程的一大优势是可以根据需要实时更改提示。
“当你训练一个模型时，你是在历史数据上做这件事，所以在你看到数据和将数据纳入模型权重之间总是有一个滞后。但使用这种上下文工程方法（人们称之为提示工程的一部分）……可以响应用户行为、响应应用程序状态以及响应其他任何事情。”
虽然传统的数据科学和机器学习工程不会很快消失，但LLM的兴起已经刺激了人们对提示工程师的追捧。这个职位是如此之新，以至于前OpenAI研究员Tobin开玩笑说，世界上可能只有两个人认为自己是提示工程师。
事实上，这个职位太新了，以至于招聘公司还没有适应。ZipRecruiter将其视为无效的职位名称，CareerBuilder则认为这是工程师的一种“素质”。
提示工程工具
除了新技术，提示工程师还使用了一类新的工具。这些提示工程工具旨在帮助开发人员在构建聊天机器人、自主代理或其他生成型AI应用程序时自动完成提示工程中涉及的任务。
LangChain就是最流行的即时工程工具之一。根据其网站介绍，LangChain包括六个模块，用于自动管理提示（您向LLM提供的输入）；处理文件加载器；创建对话式AI代理；将事件序列链接在一起；以及链和代理调用之间的持久状态。
另一个流行的提示工程工具是GPT-Index（GPT索引），它被设计为“外部数据和LLM之间的一个简单、灵活的接口”。GPT-Index的目标之一是帮助用户向LLM“提供知识”。GPT-3等LLM的令牌数限制为个（令牌是用作模型提示的单词或单词片段）。GPT-Index通过提供优化的数据结构帮助开发人员绕过这些限制，使他们能够轻松地将外部数据连接到LLM，如GPT-3。在生成优化的数据结构（或索引）之后，用户可以使用索引来查询LLM。
文本到图像提示作为一种使用DALL-E、StableDiffusion和Midtravel等生成式模型自动由文本创建图像的方式也越来越流行，提示工程也在这里找到了一席之地。
StableDiffusion生成的图像作品
随着生成式人工智能变得更好，开发者与人工智能交互的方式也在改变。这一点在小数据学习的情况下尤其如此。在这种情况下，一个模型只需要几个用户想要的例子，就可以以适当的方式进行操作。