LangChain和LangGraph学习笔记

一.神经网络语言模型

• 词向量（word Embedding） 把词转为多维空间向量的一种技术

• Transformer模型 self-attention 提升注意力

• MLP 多层感知机制 Multi-Layer Perceptron

• softmax 根据模型计算出的向量结果得出下一个token的概率分布，然后基于概率的随机采样方式挑选一个作为结果，这个概率受到Temperature 参数的影响，值越大，概率分布越均匀，模型生成的随机性越强，反之，结果越确定.