一、研究方向
1.精准的提出需求
未来会有一系列的研究,试图用更有系统化的方法自动找出可以催眠(prompt)chatGPT的指令
2.如何更正错误
如果修改器修改一个错误,不要弄错更多地方,这会是一个新的研究主题 Neural Editing
3.侦测AI生成的物件
怎么用模型侦测一段文字是不是AI生成的
4.Machine Unlearning
我们怎么能让chatGPT忘记或者不学习一些隐私类相关的东西
二、机器学习
机器自动找一个函式
根据函式输出来分类
-
回归(Regression)函式的输出是一个数值
-
分类(classification)函式的输出是一个类别
找出函式的三步骤:设定范围,制定标准,选择目标
-
设定范围:定出候选函式的集合
Deep Learning(CNN,Trannsform...),Decision Tree
-
制定标准:定出评量函式好坏的标准
Supervised Learning,Semi-supervised learning,RL
example: 比如我有三个宝可梦,需要判断它们的战斗力,全部让大木博士来判断这叫supervised learning,如果大木博士没空,我知道其中一个宝可梦的战斗力,用这一个来推断其它宝可梦的战斗力,这叫semi-supervised learning
-
选择目标:找出最好的函式
Gradient Descent(Adam,AdamW),Genetic Algorithmia
选择目标
其实我开始听不懂了,先记下来笔记