大模型应用开发极简入门

奥利维耶.卡埃朗（Olivier Caelen）
国际支付服务先驱Worldline公司机器学习研究员、布鲁塞尔自由大学机器学习博士，业余时间在布鲁塞尔自由大学教授机器学习课程。

玛丽-艾丽斯.布莱特（Marie-Alice Blete）
国际支付服务先驱Worldline公司研发部门软件架构师、数据工程师。她还负责维护开发者关系，并担任技术演讲嘉宾。

何文斯（译者）
大模型创业公司 Dify 产品经理、自媒体“何文斯”作者，致力于研究大模型中间件技术和AI应用工程化的实际落地。业余时间撰写大模型相关技术的科普文章，期待共同见证通用人工智能的实现。

适读人群 ：开发人员、任何想基于大模型开发应用的普通用户

你的实用LLM应用开发手册
1.【0门槛】人人都可以借力大模型，做出 AI 应用
2.【简单】学习大模型应用开发的“Z小可用知识”
3.【实操】学会写提示词、模型微调、使用 LangChain 等
4.【实战】提供常用场景代码示例，方便快速学习
5.【快速】2H 上手构建你的头个原生 AI 应用
6.【全面】了解 GPT-4 和 ChatGPT 的工作原理

专业翻译、专家推荐
1.【品控】一线从业者翻译，注释说明内容更新
2.【推荐】大模型一线创业者、应用技术专家推荐

推荐序一　学习成为善用 AI 的人 | 宝玉
推荐序二　开启一段有趣、有启发、 有收获的冒险旅程 | 张路宇
推荐序三　人人都要学会和 AI 相处 | 孙志岗
推荐序四　AI 工程师：做新一轮智能革命的首批探索者 | 邓范鑫
推荐序五　进入智能应用的新时代 | 梁宇鹏（@一乐）
推荐序六　AGI：不要旁观，要真正参与 | 罗云
推荐序七　不要害怕被 ChatGPT 取代，要做第 一批驾驭新技术的人 | 宜博
译者序　没有谁天生就是 AI 工程师 | 何文斯
前言
第 1章　初识GPT-4 和 ChatGPT 1
1．1　LLM 概述 2
1．1．1　探索语言模型和 NLP 的基础 2
1．1．2　理解 Transformer 架构及其在 LLM 中的作用 4
1．1．3　解密 GPT 模型的标记化和预测步骤 7
1．2　GPT模型简史：从 GPT-1 到 GPT-4 9
1．2．1　GPT-1 9
1．2．2　GPT-2 10
1．2．3　GPT-3 11
1．2．4　从 GPT-3 到 InstructGPT 12
1．2．5　GPT-3．5、Codex 和 ChatGPT 14
1．2．6　GPT-4 15
1．3　LLM 用例和示例产品 16
1．3．1　Be My Eyes 16
1．3．2　摩根士丹利 17
1．3．3　可汗学院 17
1．3．4　多邻国 18
1．3．5　Yabble 18
1．3．6　Waymark 19
1．3．7　Inworld AI 19
1．4　警惕 AI 幻觉：限制与考虑 20
1．5　使用插件和微调优化 GPT 模型 23
1．6　小结 24
第 2章　深入了解 GPT-4 和 ChatGPT 的 API 25
2．1　基本概念 26
2．2　OpenAI API 提供的可用模型 27
2．3　在 OpenAI Playground 中使用 GPT 模型 29
2．4　开始使用 OpenAI Python 库 34
2．4．1　OpenAI 访问权限和 API 密钥 35
2．4．2　Hello World 示例程序 36
2．5　使用 GPT-4 和 ChatGPT 38
2．5．1　ChatCompletion 端点的输入选项 39
2．5．2　ChatCompletion 端点的输出格式 42
2．5．3　从文本补全到函数 43
2．6　使用其他文本补全模型 46
2．6．1　Completion 端点的输入选项 47
2．6．2　Completion 端点的输出格式 48
2．7　考虑因素 48
2．7．1　定价和标记限制 48
2．7．2　安全和隐私 50
2．8　其他 OpenAI API 和功能 50
2．8．1　嵌入 50
2．8．2　内容审核模型 53
2．8．3　Whisper 和 DALL · E 55
2．9　小结（含速查清单） 56
第3章　使用 GPT-4 和 ChatGPT 构建应用程序 59
3．1　应用程序开发概述 59
3．1．1　管理 API 密钥 60
3．1．2　数据安全和数据隐私 62
3．2　软件架构设计原则 62
3．3　LLM 驱动型应用程序的漏洞 63
3．3．1　分析输入和输出 64
3．3．2　无法避免提示词注入 65
3．4　示例项目 65
3．4．1　项目 1：构建新闻稿生成器 65
3．4．2　项目 2：YouTube 视频摘要 68
3．4．3　项目 3：打造《塞尔达传说：旷野之息》专家 71
3．4．4　项目 4：语音控制 77
3．5　小结 83
第4章　GPT-4 和 ChatGPT 的高级技巧 85
4．1　提示工程 85
4．1．1　设计有效的提示词 86
4．1．2　逐步思考 92
4．1．3　实现少样本学习 94
4．1．4　改善提示效果 96
4．2　微调 98
4．2．1　开始微调 99
4．2．2　使用 OpenAI API 进行微调 101
4．2．3　微调的应用 ． 105
4．2．4　生成和微调电子邮件营销活动的合成数据 107
4．2．5　微调的成本 113
4．3　小结 114
第5章　使用 LangChain 框架和插件增强 LLM 的功能 117
5．1　LangChain 框架 117
5．1．1　动态提示词 119
5．1．2　智能体及工具 120
5．1．3　记忆 124
5．1．4　嵌入 125
5．2　GPT-4 插件 129
5．2．1　概述 130
5．2．2　API 131
5．2．3　插件清单 132
5．2．4　OpenAPI 规范 133
5．2．5　描述 135
5．3　小结 135
5．4　总结 136
术语表 137