设计
3篇文章 · 0订阅
  • 使用bRPC和ONNX Runtime把BERT模型服务化
    在上文中，我们将BERT的Pytorch模型转换成ONNX模型，并使用onnxruntime完成了python版的ONNX模型预测。今天我们来把预测搬到C++版本的bRPC服务上，模拟一下模型的部署。
    后端 机器学习 NLP
    使用bRPC和ONNX Runtime把BERT模型服务化
  • 实现业务幂等性的常用方案！
    文章首发到公众号：月伴飞鱼 文章内容收录到个人网站，方便阅读：http://hardyfish.top/ 文章内容收录到个人网站，方便阅读：http://hardyfish.top/ 资料分享 重复请
    后端 面试 Java
  • 本地缓存+分布式缓存多级结构如何协同工作？如何保持一致性？
    一、多级缓存协同工作逻辑 多级缓存（本地缓存+分布式缓存）通过“层层拦截请求”降低分布式缓存压力，核心流程如下： 1.优先查本地缓存：应用进程优先读取本地缓存
    面试 后端
    本地缓存+分布式缓存多级结构如何协同工作？如何保持一致性？