100个人工智能 LLM 大模型基础术语

下面是 LLM 大模型基础术语库的 100 个术语及其详细说明和数学公式：

1. 词汇表 (Vocabulary)：包含所有可能出现的单词或子词的集合。

2. 词嵌入 (Word Embedding)：将每个单词映射到一个固定长度的向量，以便在模型中能够进行数学运算。

3. 神经网络 (Neural Network)：由多个神经元组成的计算模型，可用于学习输入数据之间的复杂关系。

4. 前馈神经网络 (Feedforward Neural Network)：每个神经元仅与下一层的神经元相连的神经网络。

5. 循环神经网络 (Recurrent Neural Network)：前一个时间步的输出会被传递给当前时间步的输入，以考虑时间顺序的信息。

6. 长短时记忆网络 (Long Short-Term Memory Network, LSTM)：一种特殊的循环神经网络，能够更好地处理长期依赖关系。

7. 门控循环单元 (Gated Recurrent Unit, GRU)：一种轻量级的循环神经网络，类似于 LSTM，但只有两个门控单元。