机器学习与人工智能

信息熵用来描述不确定性，不确定性越大，信息熵越大。本文介绍信息量、信息熵，交叉熵的基本概念和常见误区

介绍决策树分类的局部最优，易过拟合、特征相关主要特征，优缺点和应对措施，包括剪枝，特征工程，集成方法等

介绍损失函数与风险函数，极其正则化方法，对比L1和L2正则化两种方法的特点、使用场景，优化方法和注意事项。

收集并研究大模型中神经元的特性。1.陈家骏团队提出一种新型细粒度神经元识别算法，该算法有效识别跨语言共享的语言神经元

解读论文chatgpt memory bitter lesson，分析ChatGPT如何记住用户提问的信息。