首页
沸点
课程
数据标注
HOT
AI Coding
更多
直播
活动
APP
插件
直播
活动
APP
插件
搜索历史
清空
创作者中心
写文章
发沸点
写笔记
写代码
草稿箱
创作灵感
查看更多
登录
注册
ZooMing_AI
掘友等级
算法
获得徽章 0
动态
文章
专栏
沸点
收藏集
关注
作品
赞
8
文章 8
沸点 0
赞
8
返回
|
搜索文章
赞
文章( 8 )
沸点( 0 )
AMD GPU 运行torch 显示节点不可用,没有读写权限
最近在部署一套医疗识别的模型时遇到了torch不可用的情况,原项目运行在nvdiai上,后因业务需要移植至AMD上,刚开始以为是小菜,结果才发现是道主食。torch环境配置没问题,rocm版本也能对的
SpringAI调用第三方模型增加自定义请求参数
SpringAI调用第三方模型增加自定义请求参数,如何绕过SpringAI自己的请求参数,进行自定义编辑?
使用本地IDEA连接服务器远程构建部署Docker服务
已往部署环境需要连接远程服务器中,上传源代码,jar包,不方便管理。现在使用本地IDEA连接服务器远程构建部署Docker服务,
解决vllm部署时遇到的CUDA对应版本问题
VLLM 部署的一些细节,关于CUDA对应版本的问题 VLLM官方文档:https://docs.vllm.ai/en/latest/getting_started/installation.html
eslint安装后报错?无法指定文件类型?
Invalid option '--ext' - perhaps you meant '-c',安装eslint ext报错!!!
基于蒙特卡洛算法训练掼蛋游戏AI--论文笔记(一)
掼蛋是一种流行于中国的扑克牌游戏,通常由四个人分成两队进行。游戏的目标是尽快打出手中的牌。掼蛋的规则比较复杂,涉及到牌的组合、等级、以及如何打出牌来覆盖对手的牌等
用 bitsandbytes、4 比特量化和 QLoRA 打造亲民的 LLM
众所周知,LLM 规模庞大,如果在也能消费类硬件中运行或训练它们将是其亲民化的巨大进步。我们之前撰写的 LLM.int8 博文 展示了我们是如何将 LLM.int8 论文 中的技术通过 bitsand
LLM的Web代码实现以及注释
大模型的Web界面的实现 本项目源码来自tigerbot的web_demo.py文件,基于源文件进行修改并添加注释,让基础薄弱的同学能够更加快速的部署自己的大模型,并且实现流式输出。 本代码部分注释使
个人成就
文章被点赞
15
文章被阅读
15,400
掘力值
311
关注了
3
关注者
4
收藏集
0
关注标签
10
加入于
2023-10-02