背景
很多时候我们需要将doris/clickhouse相关的数据导出成s3
下面是导出文件的选型
doris 支持下面两种导出:
export 和 select into outfile关系
这两种导出是什么关系呢:
并发导出原理:
Export 任务的底层是执行SELECT INTO OUTFILESQL 语句。用户发起一个 Export 任务后,Doris 会根据 Export 要导出的表构造出一个或多个SELECT INTO OUTFILE执行计划,随后将这些SELECT INTO OUTFILE执行计划提交给 Doris 的 Job Schedule 任务调度器,Job Schedule 任务调度器会自动调度这些任务并执行。
所以export 底层是使用select into outfile,export是对select into outfile的封装
选型参考
总结
所以如果只是简单的使用,没有join表或者特别的需求,可以用export,但是如果有比较灵活的导出选select into outfile 更好