清华大学-大模型公开课第二季

预训练 任何信息都可以被转化为 Token-文字、代码、DNA、图片。任何 Token都可被学习(被泛化)。 Tokenization Token化将文本(或其他信息)分解为子词( tokens) T

基础神经网络 神经元 神经元是一个计算单元,它由n维输入x,1维偏置b,n维权重W,激活函数f(z)构成,w,b是该神经元的参数。 单层神经网络 单层神经网络是由许多简单的神经元连接在一起构成的。 多

前言 这个夏天，OpenBMB 携手 HuggingFace、清华NLP实验室，让经典大模型公开课第二季梦幻回归💫。 全球知名开源社区 OpenBMB × Hugging Face 梦幻联动，Mini