chatGPT 在最近火爆全网,使人工智能获得突破性的进展。我在官网注册账号,使用了一段时间。结合自己对深度学习的理解,总结如下。
提示词(prompt)
跟UIE 一样,chatGPT 也需要提示词,同样的问题,提示词不对,会没有答案或给出的答案不对。
- 给定文本提标题,关键词,摘要
例如:给出以下文本的关键词\摘要\标题: xxxxxx
这种算出的答案还是挺好的。 比一些TextRank, MMR 算法抽取效果好。
- 推荐相关领域的专家
例如: 固态电池的专家 推荐 10个。
这种推荐的专家,格式对,但人不对,找不到这些人。而且几轮下,每轮推荐的人都不一样。结果不能用.
返回结果:
以下是固态电池领域的10位专家(按姓氏首字母排序):
陈静华,中国科学院院士,固体电解质材料领域专家;
傅小兰,清华大学教授,固态电池领域专家;
龚成,北京理工大学教授,固态电池领域专家;
黄道峰,中科院福建物质结构研究所研究员,固态离子导体领域专家;
李永生,中国工程院院士,固态电池领域专家;
马骏,中国科学院上海硅酸盐研究所研究员,固态电解质材料领域专家;
唐有祺,清华大学教授,固态电解质领域专家;
王文清,中国科学技术大学教授,固态电解质领域专家;
肖桂林,中国科学院化学研究所研究员,固态电解质材料领域专家;
袁寿其,中科院化学所研究员,固态离子导体领域专家。
- 指定地名所在城市:
例如:天安门在哪个城市?
这种问题还是很准的。我测了几个都正确。
返回结果:
天安门位于中国北京市的中心城区。
- 写爬虫代码,爬取列表页到详情页:
这种prompt 需要有几轮的测试, 最终代码可用。
- 旅游线路问题:
例如:给我规划一个3天去五台山的旅游计划
这种规划的线路有些问题,有些地点不存在。
- 写总结,写报告
- 写古诗
- 文本润色与改错
例如:润色下面这段话,修正其中的语法错误,使用正式的文风:机器学习正式一个好的工具啊,他啥都做,比如他可以帮我修一修语法和拼写地错误。
- 文本翻译
例如:翻译下面这段话:Knowledge is power! And it exists in the ChatGPT!
返回结果:
知识就是力量!而这种力量存在于ChatGPT中!
- 文本抽取,如简历抽取
周仲明,男,汉族,1963年11月生,大学学历,文学硕士学位,中共党员,现任河北省人大常委会副主任、党组成员。抽取其中的姓名,性别,民族,出生年月,学历,学位,职位
结果:
姓名:周仲明
性别:男
民族:汉族
出生年月:1963年11月
学历:大学学历
学位:文学硕士学位
职位:河北省人大常委会副主任、党组成员
使用chatGPT 训练一个分类器
参考:mp.weixin.qq.com/s/tBjQIbPb3…
另一些参考
prompt in english:github.com/f/awesome-c…
prompt :github.com/howl-anders…
技术点
chatGPT 是在经历了多轮迭代之后,才出现的产物。从最开始的 GPT-1.0, 经历了GPT- 2.0 , GPT-3.0 , GPT-3.5 再到instructGPT, chatGPT. 在官网,注册账号后,有 openai python库可以直接使用。 API 调用的 Text-davinci-03,跟网站模型有些差别。 差别在RLHF
RL: Reinforcement Learning (强化学习) 强化学习不需要预先给定任何数据,而是通过接收环境对动作的反馈获得学习信息并更新参数
RLHF: 以人类反馈进行的强化学习。