limoncc

算法工程师

卖萌

赞

0

|

搜索文章

算法工程师

·

2年前

LLM的CPU部署问题

快速开始 llama.cpp的主要目标是在MacBook上使用4位整数量化运行LLaMA模型，它和 ggml项目密切相关。目前它支持平台相当广泛MacOS、 Linux、W...

0

评论

算法工程师

·

2年前

一个简单例子——Run AI In Rust系列01

开一个系列，讲述如何在rust中运行AI模型。 1、如何在rust中运行pytorch的模型 2、如何使用candle运行大语言模型LLM 3、如何使用axum为模型写一个...

0

评论

算法工程师

·

这里能挣到钱不？ #1024一起掘金#

赞过

评论

2

个人成就

文章被阅读 916

加入于

2023-09-14