想成为扫地僧的人

特种兵

职业：移动端开发/逆向/产品/项目经理/游戏研发管理/负责人/小菜鸡一枚技术：汇编/C/Java/Kotlin/OC/Lua/Python/Flutter/Vue/TypeScript

赞

7

|

搜索文章

赞

文章( 7 ) 沸点( 0 )

修改yolov5的detect层，提高Triton推理服务的性能

轻量化yolov5的detect层，提高模型部署在Nvidia Triton时的的吞吐和延迟等性能指标

Untitled
2年前
840
3
评论

利用Triton Pipelines部署yolov5 service

模型服务不仅包含 GPU based Inference，还包括preprocess和postprocess。通过Triton Pipelines可以提高服务的性能

Untitled
2年前
735
3
评论

YOLOV5 TensorRT BatchedNMS

利用onnx_graphsurgeon改造原生detect层的输出张量，对接通过cuda实现的TensorRT batchedNMSPlugin

Untitled
2年前
674
3
评论

高性能部署Yolov5 Triton service

在Triton中部署yolov5目标检测服务, 并对比分析了三种优化方式，在并发数逐渐增加下的性能。

Untitled
2年前
739
4
评论

Triton Pipeines的实现方式及对比

部署yolov5 Triton Pipelines中，简单介绍了BLS和Ensemble这两种实现Triton Pipelines的方式，本文进行了对比

Untitled
2年前
1.4k
3
评论

bouding box回归损失函数

对不同的bouding box回归损失函数及其公式进行简要介绍及备忘，每一种损失函数都较上一种有所提升

Untitled
2年前
116
1
评论

TensorRT cheet sheet

归纳整理了TensorRT常见问题及其解决方案，包括构建期和运行期，遇到类似的问题可以进行查找定位。

Untitled
2年前
482
1
评论

个人成就

文章被阅读 101

加入于

2016-05-31