16_one

云服务器准备 网络加速 安装驱动与CUDA 删除现有的CUDA包 删除之前的CUDA目录 清理apt源 重新安装CUDA 12.4 设置环境变量 重启系统 验证安装 安装Docker 更新系统包 安装

基础环境搭建 open-webui安装 ollama在线安装 2.1. 将模型下载地址改到数据盘 2.2. 启动ollama 3. 安装deepseek-r1:14b模型 Embedding模型下载

vllm离线部署-离线推理服务的大模型生命周期 vllm在线部署-服务器参数 vllm在线部署-服务启动参数 只需要关注--host 指定服务器的主机地址 和 --port 指定服务器的端口号 在au

部署vllm的要求 仅支持在linuxc操作系统 pyhon版本要求在3.8～3.12之间 部署操作流程 检查conda版本，若出现conda not found ,需要先安装conda环境 2. 创

AutoDL服务器选择 根据gpu服务器显存大小，对比下方图中。目前租用3080，显存10GB,可以选择1.5b，7b，8b；为了节省gpu服务器资源，以最小模型安装1.5b； AutoDL安装oll

本文已参与「新人创作礼」活动，一起开启掘金创作之路。 1、Lambda介绍 函数式编程，只关心函数！！！ 函数式编程守则： 函数是“第一等公民” 可以赋值给变量 可以作为（其他函数的）参数进行传递 可

本文已参与「新人创作礼」活动，一起开启掘金创作之路。 1、背景 最近接手一个任务，需要给当前项目加一个较为复杂的日志。有多复杂呢? 要有日志类型、不同日志类型要有不同的操作和备注等。作为小白的我最开始

本文已参与「新人创作礼」活动，一起开启掘金创作之路。 今天我们来学习JpaSpecificationExecu

本文已参与「新人创作礼」活动，一起开启掘金创作之路。 1、QueryByExampleExecutor用法 在前面章节中，我们介绍了DMQ 和 @Query两种查询方法，除此之外，还有QueryByE