doris 导出数据方式选型

133 阅读1分钟

背景

很多时候我们需要将doris/clickhouse相关的数据导出成s3
下面是导出文件的选型

doris 支持下面两种导出:

exportselect into outfile关系

这两种导出是什么关系呢:

并发导出原理:
Export 任务的底层是执行SELECT INTO OUTFILE SQL 语句。用户发起一个 Export 任务后,Doris 会根据 Export 要导出的表构造出一个或多个 SELECT INTO OUTFILE 执行计划,随后将这些SELECT INTO OUTFILE 执行计划提交给 Doris 的 Job Schedule 任务调度器,Job Schedule 任务调度器会自动调度这些任务并执行。

所以export 底层是使用select into outfile,export是对select into outfile的封装

选型参考

doris.apache.org/zh-CN/docs/…

image.png

image.png

总结

所以如果只是简单的使用,没有join表或者特别的需求,可以用export,但是如果有比较灵活的导出选select into outfile 更好