fleur

2017年Google发布的《Attention Is All You Need》论文让人工智能迈向了更广阔的发展空间，目前大模型基本基于该论文提出的Transformer模型，有基于编码器的BERT

基本介绍 Hugging Face 是一个提供先进自然语言处理（NLP）工具的平台，支持 Transformer 模型的开发和应用。它拥有庞大的模型库和社区资源，能够满足从研究到工业应用的各种需求。类

from transformers import AdamW error 新版本中transformer已经不支持AdamW，推荐使用 from torch.optim import AdamW,亲测

transformer架构 主要包括编码器和解码器的内部结构 编码器 编码器包括词元嵌入和位置编码，多头自注意力，前馈层，残差连接和层归一化，以下就是下面的相关代码解析。 位置编码和词元嵌入 将每个单

本文基于复旦大学的《大规模语言模型：从理论到实践》中的理论部分总结出我自己的理解，算是初步学习。 定义 大规模语言模型（Large Language Models，LLM），也称大语言模型 或大型语言

实践步骤 在MAC上微调一个大模型、导出模型并部署、暴露API给web后端，前端展示 微调模型 框架： LLama-Factory 算法：LoRA 基座模型：deepseek-ai/DeepSeek-

最近在学习场景题，记录一下自己的学习。秒杀很常见，手机秒杀，茅台酒类的秒杀，为的就是以很低的价格购入超值的产品。 业务特点 瞬间并发量大，定点秒杀的话，时间到来之前，已经开始接受考验了。 库存少，上万

youtube工具包介绍 工具包引入，专注于获取Youtube的自动字幕和提供方便的api，本次利用这个包来获取视频的元信息和字幕信息，以此来比对相关性 向量数据库持久化 指定文档的位置，将文档分割形

两种方式介绍 使用的大模型是ollama本地启动的DeepsSeek-r1:8b模型,大模型可以根据连接数据库，根据你的问题，生成SQL语句，并通过langchain提供的工具包进行sql查询，并返回