vkkt

更新中... AB实验基本要素 实验单元 多粒度 粒度从细到粗：元素、页面、对话、用户，细粒度 vs 粗粒度： 比较维度 细粒度 粗粒度 流量 大 小 用户体验连续性 差 好 分布不均可能性 小 大

Chain rule Steps Forward pass Backward pass summary

Tip 1: tuning your learning rate 需要监测Loss vs. # parameters updates的曲线，观察前几次的曲线走向 Adaptive learning r

History 1958: Perceptron 1980s: Multi-layer perceptron Not significantly different from DNN today 19

Introduction autoregressive vs. non-autoregressive 图像生成也可以采取类似文字生成的autoregressive策略 https://juejin.c

大模型的必要性：Emergent ability The performances increases rapidly after models scale to a certain level Ch

BERT：文字填空 vs. ChatGPT：文字接龙 Finetuning - 专才 使用方式：对预训练模型做改造 Head Finetuning：预训练模型的参数作为初始参数，基于新的训练数据，更新

Examples As described in https://juejin.cn/post/7231540022595207229, the output of generative learni

In concept, machine learning = find a function by itself Classified based on the output of the funct