首页
AI Coding
NEW
沸点
课程
直播
活动
AI刷题
APP
插件
搜索历史
清空
创作者中心
写文章
发沸点
写笔记
写代码
草稿箱
创作灵感
查看更多
会员
登录
注册
Seal软件
掘友等级
Seal数澈软件
Manage GPU clusters for running LLMs
获得徽章 0
动态
文章
专栏
沸点
收藏集
关注
作品
赞
45
文章 40
沸点 5
赞
45
返回
|
搜索文章
Seal软件
@Seal数澈软件
·
9月前
关注
GPUStack v0.4:文生图模型、语音模型、推理引擎版本管理、离线支持和部署本地模型
千呼万唤,GPUStack 迄今最受用户关注、超多新功能的版本重磅发布!文生图模型、Speech-to-Text 语音模型和 Text-to-Speech语音模型、推理引擎...
0
评论
分享
Seal软件
@Seal数澈软件
·
10月前
关注
配置NVIDIA Container Runtime和容器运行GPUStack教程
配置 NVIDIA Container Runtime 容器运行时环境,并使用容器方式运行 GPUStack 的操作教程...
0
1
分享
Seal软件
@Seal数澈软件
·
10月前
关注
RAG三件套运行的新选择 - GPUStack
安装 GPUStack 和 Dify,并使用 Dify 来对接 GPUStack 部署的对话模型、Embedding 模型和 Reranker 模型。...
2
评论
分享
Seal软件
@Seal数澈软件
·
10月前
关注
制作并量化GGUF模型上传到HuggingFace和ModelScope
使用 llama.cpp 制作并量化 GGUF 模型,并将模型上传到 HuggingFace 和 ModelScope 模型仓库...
0
评论
分享
Seal软件
@Seal数澈软件
·
10月前
关注
在昇腾Ascend 910B上运行Qwen2.5推理
使用 GPUStack 在昇腾 Ascend 910B 上运行 Qwen2.5 全系列的推理性能表现...
0
评论
分享
Seal软件
@Seal数澈软件
·
1年前
关注
GPUStack 0.2:开箱即用的分布式推理、CPU推理和调度策略
GPUStack 0.2 版本新增了单机多卡分布式推理、跨主机分布式推理、纯 CPU 推理、Binpack 和 Spread 放置策略以及指定 Worker 调度、手动指定...
0
评论
分享
Seal软件
@Seal数澈软件
·
1年前
关注
GPUStack正式发布: 为大模型而生的开源GPU集群管理器
GPUStack 正式发布并开源,一个用于运行 LLM(大型语言模型)的开源 GPU 集群管理器。https://gpustack.ai...
1
评论
分享
Seal软件
@Seal数澈软件
·
1年前
关注
建立成功平台工程的关键:自助式 IaC
让我们来探讨一下平台工程的好处、成功的平台团队用于授权开发人员自助服务基础架构的三种主要方法,以及选择支持所用方法的基础架构即代码(IaC)框架的重要性。...
0
评论
分享
Seal软件
@Seal数澈软件
·
1年前
关注
不谈虚的,平台即产品真的有那么好吗?
在本篇文章中,我们将抛开媒体的宣传和炒作,从开发人员的角度出发更加客观地来审视 PaaP,谈谈企业组织在采用该策略时需要考虑哪些要素。...
0
评论
分享
Seal软件
@Seal数澈软件
·
1年前
关注
API 开发的后盾:平台工程提供强力动态支持
根据平台工程的基础概念和定义,了解平台工程通过改进开发者体验、整合、管理内部API等方式,促进API开发...
0
1
分享
Seal软件
@Seal数澈软件
·
1年前
关注
掌控基础设施,加速 DevOps 之旅:IaC 深度解析
本文章将主要包含 IaC 的定义和它的好处,同时将 Walrus 作为最佳实践和案例来进行详细讲解。...
2
评论
分享
Seal软件
@Seal数澈软件
·
1年前
关注
IaC:实现持续交付和 DevOps 自动化的关键
在本文中,我们将深入探讨 IaC 的基本原理及其优势,同时还将就其在整个软件开发和部署生命周期中有效改善体验的潜力提供有价值的见解。...
0
评论
分享
Seal软件
@Seal数澈软件
·
1年前
关注
平台工程在企业数字化转型中的战略价值
要建设成功、有弹性和面向未来的平台,需要做到这三点:了解需求、预测可能面临的挑战并制定经得起时间考验的解决方案。平台工程引领数字化转型的战略前沿,助力企业应对复杂挑战。...
0
评论
分享
Seal软件
@Seal数澈软件
·
1年前
关注
IaC 管理新思路:Walrus 和 Terraform 的差异化探索
企业开始寻找替代 Terraform Cloud/Enterprise 的解决方案。Walrus 作为100%开源的基于 IaC 工具的应用管理平台,能有效地应对这些限制。...
0
评论
分享
Seal软件
@Seal数澈软件
·
1年前
关注
14款DevOps/SRE工具,助力提升运维效率
在本篇文章中,我们将深入探讨一些最具发展前景的工具,它们正在塑造持续集成与部署、监控与可观测性、基础架构/应用平台、事件管理与警报、安全性和可视化的未来。...
8
评论
分享
Seal软件
@Seal数澈软件
·
1年前
关注
避雷指南:11个常见 Kubernetes 误区详解
Kubernetes 是一套功能强大的工具,可用于管理自动可扩展、高可用性的分布式云原生应用程序,但很多人都会犯一些常见错误。 在本文中,我们将探讨使用 Kuberne...
0
评论
分享
Seal软件
@Seal数澈软件
·
1年前
关注
解析基础设施即代码:重新定义云管理
企业开始采用基础设施即代码(IaC)来解决云应用的复杂性和相互依赖性问题,一起深度解析IaC的优势和挑战,解锁云管理的核心优势...
0
评论
分享
Seal软件
@Seal数澈软件
·
1年前
关注
探秘Kubernetes:在本地环境中玩转容器技术
在云计算时代,Kubernetes 已成为云原生技术的真正基石。它是应用程序容器的编排动力源,可跨多个集群自动部署、扩展和运行容器。了解K8s在本地环境的应用和挑战以及如何...
0
评论
分享
Seal软件
@Seal数澈软件
·
1年前
关注
DevOps迈向标准化,平台工程让开发运维更轻松
DevOps正向标准化的方向发展,即平台工程。企业应当如何充分利用这一转变让自己获得最佳竞争优势呢?...
1
评论
分享
下一页
个人成就
优秀创作者
文章被点赞
221
文章被阅读
111,132
掘力值
5,816
关注了
0
关注者
86
收藏集
0
关注标签
11
加入于
2022-06-12