Python
2篇文章 · 0订阅
  • TensorRT-LLM保姆级教程（三）-使用Triton推理服务框架部署模型
    随着大模型的爆火，投入到生产环境的模型参数量规模也变得越来越大（从数十亿参数到千亿参数规模），从而导致大模型
    LLM
  • Python操作Kafka原理及使用详解
    kafka运行在集群上，集群包含一个或多个服务器。kafka把消息存在topic中，每一条消息包含键值（key），值（value）和时间戳（timestamp）。 Producer - 消息生产者，就是向kafka broker发消息的客户端。 Consumer - 消息消费者…
    Kafka