Next -22- 添加相册系列 -2- 使用七牛云qshell同步图像目录

286 阅读6分钟

本文介绍使用 qshell 同步本地文件目录到存储空间并体现出层级结构的方法。

准备工作

环境

要上传的资源目录:

$ tree
.
├── 1
│   ├── a.jpg
│   ├── b.jpg
│   └── c.jpg
├── 2
│   ├── d.jpg
│   ├── e.jpg
│   └── f.jpg
├── g.jpg
├── h.jpg
├── i.jpg
└── j.jpg

工具下载

命令行工具 qshell 传送门

  • 各种操作系统需要下载的版本文档说得很清楚,我的ubuntu18.04 x64下载了qshell-linux-x64-v2.4.1.zip
  • 解压得到 qshell-linux-x64-v2.4.1
  • 重命名为 qshell,并赋予可执行权限
mv qshell-linux-x64 qshell
chmod +x qshell

配置环境变量

将qshell文件所在位置加入到 ~/.bashrc

export PATH="/path of qshell:$PATH"

加载.bashrc使路径立即生效

source ~/.bashrc 

测试,输入qshell -v 出现版本信息表明配置成功

qshell -v

#qshell version v2.4.1

配置账户

需要鉴权的命令都需要依赖七牛账号下的 AccessKey 和 SecretKey ,位于个人中心 -> 秘钥管理

秘钥管理

配置账户:

qshell account [<AccessKey> <SecretKey> <Name>]

之后再次输入 qshell account 命令验证设置是否成功

qshell account

#Name: zywvvd
#AccessKey: Bd0UYk1e9pFWK×××××××××××××××
#SecretKey: ZFsdguzYE3QUl×××××××××××××××

此处操作后在当前用户主目录中生成 qshell 目录:

$ ls ~/.qshell/
# account.json

编写同步目录文件

在上文提到的~/.qshell 目录中创建配置文件,文件内容如下:

$ cat upload.conf 
{
    "src_dir" : "/home/vvd/VVD_Work/test",
    "bucket" : "vvd-space"
}
  • src_dir 为刚刚我存放照片的路径

  • bucket 为你的七牛云空间名称

同步文件

在~/.qshell文件夹下执行命令:

qshell qupload upload.conf

返回上传日志:

Writing upload log to file /home/vvd/.qshell/qupload/040adc5d316ff8cfc274b2e099628234/040adc5d316ff8cfc274b2e099628234.log

Uploading /home/vvd/VVD_Work/test/1/a.jpg => 1/a.jpg [1/10, 10.0%] ...
Uploading /home/vvd/VVD_Work/test/1/b.jpg => 1/b.jpg [2/10, 20.0%] ...
Uploading /home/vvd/VVD_Work/test/1/c.jpg => 1/c.jpg [3/10, 30.0%] ...
Uploading /home/vvd/VVD_Work/test/2/d.jpg => 2/d.jpg [4/10, 40.0%] ...
Uploading /home/vvd/VVD_Work/test/2/e.jpg => 2/e.jpg [5/10, 50.0%] ...
Uploading /home/vvd/VVD_Work/test/2/f.jpg => 2/f.jpg [6/10, 60.0%] ...
Uploading /home/vvd/VVD_Work/test/g.jpg => g.jpg [7/10, 70.0%] ...
Uploading /home/vvd/VVD_Work/test/h.jpg => h.jpg [8/10, 80.0%] ...
Uploading /home/vvd/VVD_Work/test/i.jpg => i.jpg [9/10, 90.0%] ...
Uploading /home/vvd/VVD_Work/test/j.jpg => j.jpg [10/10, 100.0%] ...

See upload log at path /home/vvd/.qshell/qupload/040adc5d

查看同步日志

日志存放在 ~/.qshell 文件夹下qupload文件夹内:

查看日志

进入七牛云控制台查看上传的文件

在控制台-> 空间管理 -> 文件管理 可以看到同步的文件

空间图片

图片文件目录更新

当我们更新了原始图片目录时(新建文件夹new,图片new.jpg):

tree
.
├── 1
│   ├── a.jpg
│   ├── b.jpg
│   └── c.jpg
├── 2
│   ├── d.jpg
│   ├── e.jpg
│   └── f.jpg
├── g.jpg
├── h.jpg
├── i.jpg
├── j.jpg
└── new
    └── new.jpg

方法一

回到~/.qshell 上传文件:

 qshell qupload upload.conf 
Writing upload log to file /home/vvd/.qshell/qupload/c50b44d8de5ae468d8080f1f37fb946c/c50b44d8de5ae468d8080f1f37fb946c.log

Uploading /home/vvd/VVD_Work/test/1/a.jpg => 1/a.jpg [1/8, 12.5%] ...
Uploading /home/vvd/VVD_Work/test/1/b.jpg => 1/b.jpg [2/8, 25.0%] ...
Uploading /home/vvd/VVD_Work/test/1/c.jpg => 1/c.jpg [3/8, 37.5%] ...
Uploading /home/vvd/VVD_Work/test/2/d.jpg => 2/d.jpg [4/8, 50.0%] ...
Uploading /home/vvd/VVD_Work/test/2/e.jpg => 2/e.jpg [5/8, 62.5%] ...
Uploading /home/vvd/VVD_Work/test/2/f.jpg => 2/f.jpg [6/8, 75.0%] ...
Uploading /home/vvd/VVD_Work/test/g.jpg => g.jpg [7/8, 87.5%] ...
Uploading /home/vvd/VVD_Work/test/h.jpg => h.jpg [8/8, 100.0%] ...

See upload log at path /home/vvd/.qshell/qupload/c50b44d8de5ae468d8080f1f37fb946c/c50b44d8de5ae468d8080f1f37fb946c.log

发现并没有更新,不知道是不是有别的函数来完成这个功能。

于是写了简单脚本upload.sh可以实现实时同步:

#!/bin/bash

rm  -rf  ~/.qshell/qupload
qshell  qupload  ~/.qshell/upload.conf

使用时只需sh upload.sh即可,正好不用每次都找那个 upload.conf 了

真 - 同步文件夹

方法二

咳咳,人家七牛云有这个设定的,不用自己费劲删人家日志。

在upload.conf中加入配置:

  • rescan_local:支持本地增量上传

  • overwrite :支持本地文件覆盖上传

{
    "src_dir" : "/home/vvd/VVD_Work/test",
    "bucket" : "vvd-space",
    "rescan_local" : true,
    "overwrite" : true
}

再上传就好:

 qshell qupload upload.conf 
Writing upload log to file /home/vvd/.qshell/qupload/c50b44d8de5ae468d8080f1f37fb946c/c50b44d8de5ae468d8080f1f37fb946c.log

Uploading /home/vvd/VVD_Work/test/1/a.jpg => 1/a.jpg [1/12, 8.3%] ...
Uploading /home/vvd/VVD_Work/test/1/b.jpg => 1/b.jpg [2/12, 16.7%] ...
Uploading /home/vvd/VVD_Work/test/1/c.jpg => 1/c.jpg [3/12, 25.0%] ...
Uploading /home/vvd/VVD_Work/test/2/d.jpg => 2/d.jpg [4/12, 33.3%] ...
Uploading /home/vvd/VVD_Work/test/2/e.jpg => 2/e.jpg [5/12, 41.7%] ...
Uploading /home/vvd/VVD_Work/test/2/f.jpg => 2/f.jpg [6/12, 50.0%] ...
Uploading /home/vvd/VVD_Work/test/3/g.jpg => 3/g.jpg [7/12, 58.3%] ...
Uploading /home/vvd/VVD_Work/test/g.jpg => g.jpg [8/12, 66.7%] ...
Uploading /home/vvd/VVD_Work/test/h.jpg => h.jpg [9/12, 75.0%] ...
Uploading /home/vvd/VVD_Work/test/i.jpg => i.jpg [10/12, 83.3%] ...
Uploading /home/vvd/VVD_Work/test/j.jpg => j.jpg [11/12, 91.7%] ...
Uploading /home/vvd/VVD_Work/test/new/new.jpg => new/new.jpg [12/12, 100.0%] ...

See upload log at path /home/vvd/.qshell/qupload/c50b44d8de5ae468d8080f1f37fb946c/c50b44d8de5ae468d8080f1f37fb946c.log

qshell qupload 配置

qupload 功能需要配置文件的支持,配置文件支持的全部参数如下:

{
   "src_dir"            :   "<LocalPath>",
   "bucket"             :   "<Bucket>",
   "file_list"          :   "<FileList>",
   "key_prefix"         :   "<Key Prefix>",
   "up_host"            :   "<Upload Host>",
   "ignore_dir"         :   false,
   "overwrite"          :   false,
   "check_exists"       :   false,
   "check_hash"         :   false,
   "check_size"         :   false,
   "rescan_local"       :   true,
   "skip_file_prefixes" :   "test,demo,",
   "skip_path_prefixes" :   "hello/,temp/",
   "skip_fixed_strings" :   ".svn,.git",
   "skip_suffixes"      :   ".DS_Store,.exe",
   "log_file"           :   "upload.log",
   "log_level"          :   "info",
   "log_rotate"         :   1,
   "log_stdout"         :   false,
   "file_type"          :   0
}
参数名描述可选参数
src_dir本地同步路径,为全路径格式,工具将同步该目录下面所有的文件;不支持本地路径下的目录软连接。在Windows系统下面使用的时候,注意src_dir的设置遵循D:\\jemy\\backup这种方式。也就是路径里面的\要有两个(\\N
bucket同步数据的目标空间名称,可以为公开空间或私有空间N
file_list待同步文件列表,该文件列表内容必须是相对于src_dir的文件相对路径列表,可以不指定,工具将自动获取src_dir下面的文件列表。请使用 dircache 命令生成这个文件列表,生成之后可以手动删除不需要的行Y
up_host上传域名,可选设置,一般情况下不需要指定Y
ignore_dir保存文件在七牛空间时,使用的文件名是否忽略本地路径,默认为falseY
key_prefix在保存文件在七牛空间时,使用的文件名的前缀,默认为空字符串Y
overwrite是否覆盖空间中已有的同名文件,默认不覆盖。Y
check_exists每个文件上传之前是否检查空间中是否存在同名文件,默认为false,不检查Y
check_hashcheck_exists设置为true的情况下生效,是否检查本地文件hash和空间文件hash一致,默认不检查,节约同步时间Y
check_sizecheck_exists设置为true的情况下,如果check_hashfalse,那么你可以设置check_sizetrue做简单的大小检查,以查看本地文件和空间文件大小是否一致,默认不检查Y
skip_file_prefixes跳过所有文件名(不带相对路径)以该前缀列表里面字符串为前缀的文件Y
skip_path_prefixes跳过所有文件路径(相对路径)以该前缀列表里面字符串为前缀的文件Y
skip_fixed_strings跳过所有文件路径(相对路径)中包含该字符串列表中字符串的文件Y
skip_suffixes跳过所有以该后缀列表里面字符串为后缀的文件或者目录Y
rescan_local默认情况下,本地新增的文件不会被同步,需要手动设置为true才会去检测新增文件。Y
log_level上传日志输出级别,可选值为debug,info,warn,error,默认infoY
log_file上传日志的输出文件,如果不指定会输出到qshell工作目录下默认的文件中,文件名可以在终端输出看到Y
log_rotate上传日志文件的切换周期,单位为天,默认为1天即切换到新的上传日志文件Y
log_stdout上传日志是否同时输出一份到标准终端,默认为false,主要在调试上传功能时可以指定为trueY
file_type文件存储类型,默认为0(标准存储) 1为低频存储Y
delete_on_success上传成功的文件,同时删除本地文件,以达到节约磁盘的目的,比如日志归档的场景,默认为false,如果需要开启功能,设置为true即可。Y

配置文件示例

我的配置文件使用了常用的实用配置,供大家参考:

{
    	"src_dir" : "/Hexo/Album_Temp",       	### 上传文件夹路径(必选)
    	"bucket" : "vvd-space",								### 七牛云空间名称(必选)
    	"rescan_local" : true,								   ### 支持增量上传(重要)
		"key_prefix": "vvd_hexo/",						### 上传图像的前缀
		"check_exists": true,								   ### 上传前是否检查文件是否存在
		"check_size":true,										 ### 如果存在同名文件检查大小是否相同(比哈希快一些)
		"skip_suffixes": ".json,.log,.conf",		### 后缀列表,在上传文件夹路径中文件有这些后缀的就忽略不上传
    	"overwrite" : true										  ### 可否覆盖原文件
}

上传后的一张图片链接:

photos.zywvvd.com/vvd_hexo/20…