提示词工程
关键词:提示词工程、ChatGPT、吴达恩、Prompt Engineering
提示词工程
1,简介。 目的(如何构建大模型应用)
2,前言。主讲人(openai检索插件、教程书)、网络教程(30个完美提示、一次性使用、不是api调用)、提示词最佳实践(总结,推断,转换,展开,LLM构建语言机器人)、大模型分类(基础(预测下一个单词,大量数据)、指令微调(实际场景、遵循指令,基础模型上训练)、改进(RLHF反馈强化学习))、完成任务(领域、语气、知识储备)
3,指南。关键原则(写清晰明确的具体的说明(≠简短、详细完整、分隔符(文本和提示分离,“”“、```、—-、<>、</tag>)、结构化输出(HTML、JSON、XML、Markdown)、特殊情况(输出None)、提供成功示例zero-shot learning)、给予模型思考的时间(思考方式(推理链chain of thought、步骤)、模型自行解决问题))、工具(OpenAI的python库、OpenAI api(秘钥、gpt-3.5-turbo)、Jupyter、Python的Display库(展示html/markdown/latex/json/xml)、Python的redlines库(高亮两个文本的差异))、函数定义(get_compoetion辅助(输入提示、返回完成结果))、示例(提取序列、翻译总结、学生改错、描述牙膏产品)、模型限制(幻觉。训练数据过多,回答模糊问题但错误;解决(检索相关信息并溯源))
4,迭代。迭代开发提示框架(想法(长短(单词、句子、字符)、重点关注、添加说明)、实现(代码、获取数据、训练模型)、实验结果(错误分析,平均和最差))、示例(撰写产品描述、内容格式化为HTML)、感悟(好的提示不是一次完成;不完全了解完美的提示,而是拥有一个良好的开发流程)
5,摘要。 自动进行文章摘要(关注点(面向群体、提取信息))、示例(概括网站评论)
6,推理。文本推理(传统方法(标注数据、部署、独立训练模型(文本提取、情感分类))、大模型(模型、API;多任务完成、监督学习)、特点(结构化输出、修改类别标签))、示例(评论情感分析、新闻主题推断)、感悟(熟悉机器学习的人可能需要数月完成同样任务)
7,转换。将一段文本转换为另一段不同的文本(翻译、校对、格式转换、语调转换)、示例(一对多翻译、循环翻译、语调转换、表格转换、语法纠正)
8,扩展。生成更长更自由的文本(长篇文章、电子邮件、灵活性(Temperature模型的随机性和创造性))、示例(客服邮件回复)
9,聊天机器人。创建自定义聊天机器人(Web接口、多轮对话 )、函数(一系列消息输入、返回模型生成的消息作为输出)、消息(添加到上下文,(角色(系统(高层指令、行为和个性化)、用户(输入)、助手(输出))、内容))、示例(聊天机器人、披萨订单机器人)
10,完结撒花。两个原则、功能(总结、推理、转换、扩展)、技能(自定义聊天机器人)
参考资料: