就业方面:
中等算法题能A出来
多读源码
很多事情没有标准答案,世界是动态的
一定要抽空补充基础
思维链CoT
如果生成一系列中间推理步骤 能显著条大模型
在Zero-Shot CoT中,你只要简单地告诉模型“让我们一步步的思考(Let's think step by step) ”,模型就能够给出更好的答案!
思维树ToT
思维树ToT是一种结构化的思考方式,通过将问题分解成多个分支来探索所有可能的解决方案。这种方法有助于全面分析问题,避免遗漏重要的细节。 ToToToT
Chain
langChain 链接Agents Models Chains Prompts Indexes Memory
部署
chatbot
是时候读一下langchainchatchat的源码了
神经网络中 warmup 策略为什么有效 ?
熟悉炼丹的各位都知道,在大型网络训练初期,我们需要用较小的学习率先学n个step,能够防止一开始的时候模型对遇到的新数据过拟合,以改善后面的收敛效果。
有助于减缓模型在初始阶段对mini-batch的提前过拟合现象,保持分布的平稳有助于保持模型深层的稳定性
在本指南中,我们将介绍创建调用工具的链和代理的基本方法。工具可以是几乎任何东西 - API、函数、数据库等。工具使我们能够将模型的功能扩展到不仅仅输出文本/消息。使用模型和工具的关键是正确地提示模型并解析其响应,以便它选择正确的工具并为它们提供正确的输入。
这涉及到将模型与各种工具(如API、数据库等)集成,以便模型可以执行更复杂的任务。正确地提示模型并解析其响应是实现这一目标的关键。
prompt工程师
-
掌握自然语言处理(NLP)基础:深入理解NLP的基本原理,包括文本分词、词性标注、句法分析、语义理解等。
-
熟悉机器学习与深度学习:特别是与NLP相关的模型,如Transformer、BERT等。
-
Prompt设计技巧:掌握如何构建合适的模板、选择恰当的词汇以引导模型生成期望的输出。
-
业务需求理解和转化:深入理解业务场景需求,将产品需求转化为Prompt。
-
数据科学与处理能力:处理和分析文本数据,理解数据清洗、特征工程等流程。
-
编程能力:精通Python等编程语言,熟悉常用的NLP库和深度学习框架。
-
模型性能评估与改进:对模型性能以及终端产品进行监控,参与对模型性能和效果的评估和改进。
-
持续学习与创新能力:保持对最新技术趋势的敏感度,不断学习和尝试新的Prompt设计方法和技巧。
-
团队协作与沟通能力:具备良好的沟通能力和团队合作精神,能够与多学科团队紧密合作。
-
技术文档撰写能力:撰写清晰、准确的技术文档,分享和传播技术成果。
-
实践项目经验:通过实践项目和最新算法论文阅读环节,深入了解最新的技术趋势和应用场景。
-
跨学科合作:Prompt工程师的工作涉及多个领域和团队的合作,因此需要具备良好的跨学科合作能力。
-
市场需求理解:随着生成式AI技术的广泛应用,对Prompt工程师的需求日益增长,因此了解市场需求和行业趋势至关重要。
-
薪资水平与职业发展:由于Prompt工程师的技能要求高且市场需求大,因此他们的薪资水平通常较高,职业发展空间大。