目录

GPT原理

GPT架构

GPT 主要基于 Transformer 的解码器部分

ChatGPT 等类似的问答系统工作流程如下：

用户输入

文本预处理

模型处理

答案生成

输出回答

当用户向 ChatGPT 输入一个问题后：举例说明

文本预处理：

ChatGPT不是通过索引搜索的传统知识库

---

GPT

GPT：GPT也是一种基于Transformer的预训练语言模型，它的最大创新之处在于使用了单向Transformer编码器，这使得模型可以更好地捕捉输入序列的上下文信息。

GPT架构</