备份本地文件上传到腾讯云对象存储
腾讯云对象存储的操作命令:COSCMD 工具
使用 COSCMD 工具,用户可通过简单的命令行指令实现对腾讯云的对象(Object)的批量上传、下载、删除等操作。
系统环境:Windows 或 Linux 系统 (请保证本地字符格式为 UTF-8,否则操作中文文件会出现异常)
软件依赖:Python 2.7/3.5/3.6,并装有最新版本的 pip
安装及配置
环境安装与配置详细操作请参考 Python 安装与配置 文档。
下载与安装
-
pip 安装
执行pip
命令进行安装:pip install coscmd
安装成功之后,用户可以通过
-v
或者--version
命令查看当前的版本信息。如果在安装过程中出现依赖包失败的提示,请使用-I
参数重试,命令如下:
pip install -I coscmd
-
pip 更新
执行pip
命令进行更新:pip install coscmd -U
注意:
当 pip 版本大于等于 10.0.0 时,升级或安装依赖库时可能会出现失败,建议使用 pip 版本 9.x(pip install pip==9.0.0)。 -
源码安装(不推荐)
下载链接:GitHub 链接git clone https://github.com/tencentyun/coscmd.git cd coscmd python setup.py install
注意:
python 版本为 2.6 时,pip 安装依赖库时容易失败,推荐使用该方法安装。
使用方法
查看 help
用户可通过-h
或--help
命令来查看工具的 help 信息。
coscmd -h //查看当面版本信息
help 信息如下所示:
usage: cos_cmd.py [-h] [-d] [-b BUCKET] [-r REGION] [-c CONFIG_PATH]
[-l LOG_PATH] [-v]
{config,upload,download,delete,copy,list,info,mget,restore,signurl,createbucket,deletebucket,putobjectacl,getobjectacl,putbucketacl,getbucketacl}
...
an easy-to-use but powerful command-line tool. try 'coscmd -h' to get more
informations. try 'coscmd sub-command -h' to learn all command usage, likes
'coscmd upload -h'
positional arguments:
{config,upload,download,delete,copy,list,info,mget,restore,signurl,createbucket,deletebucket,putobjectacl,getobjectacl,putbucketacl,getbucketacl}
config config your information at first.
upload upload file or directory to COS.
download download file from COS to local.
delete delete file or files on COS
copy copy file from COS to COS.
list list files on COS
info get the information of file on COS
mget download file from COS to local.
restore restore
signurl get download url
createbucket create bucket
deletebucket delete bucket
putobjectacl set object acl
getobjectacl get object acl
putbucketacl set bucket acl
getbucketacl get bucket acl
optional arguments:
-h, --help show this help message and exit
-d, --debug debug mode
-b BUCKET, --bucket BUCKET
set bucket
-r REGION, --region REGION
set region
-c CONFIG_PATH, --config_path CONFIG_PATH
set config_path
-l LOG_PATH, --log_path LOG_PATH
set log_path
-v, --version show program's version number and exit
除此之外,用户还可以在每个命令后(不加参数)输入-h
查看该命令的具体用法,例如:
coscmd upload -h //查看 upload 命令使用方法
配置参数
COSCMD 工具在使用前需要进行参数配置,用户可以通过如下命令来配置:
coscmd config [-h] -a <SECRET_ID> -s <SECRET_KEY> -b <BUCKET>
(-r <REGION> | -e <ENDPOINT>) [-m ]
[-p ] [-u ] [--do-not-use-ssl]
[--anonymous ]
上述示例中使用"<>"的字段为必选参数,使用"[]"的字段为可选参数,其中:
名称 | 描述 | 有效值 |
---|---|---|
SECRET_ID | 必选参数,APPID 对应的密钥 ID 可从 COS 控制台左侧栏【密钥管理】或 云 API 密钥控制台 获取 | 字符串 |
SECRET_KEY | 必选参数,APPID 对应的密钥 Key 可从 COS 控制台左侧栏【密钥管理】或 云 API 密钥控制台 获取 | 字符串 |
BUCKET | 必选参数,指定的存储桶名称,bucket的命名规则为{name}-{appid} ,参考 创建存储桶 | 字符串 |
REGION | 必选参数,存储桶所在地域,参考 可用地域 | 字符串 |
MAX_THREAD | 可选参数,多线程上传时的最大线程数(默认为 5),有效值:1~10 | 数字 |
PART_SIZE | 可选参数,分块上传的单块大小(单位为 MB,默认为 1MB),有效值:1~10 | 数字 |
注意:
- 可以直接编辑
~/.cos.conf
文件 (在 Windows 环境下,该文件是位于我的文档
下的一个隐藏文件),该文件初始时不存在,是通过coscmd config
命令生成,用户也可以手动创建。
配置完成之后的.cos.conf
文件内容示例如下所示:
[common] secret_id = AChT4ThiXAbpBDEFGhT4ThiXAbpHIJK secret_key = WE54wreefvds3462refgwewerewr bucket = ABC-1234567890 region = ap-guangzhou max_thread = 5 part_size = 1 schema = https
- 可以在配置文件中增加
schema
项来选择http / https
,默认为https
。- 可以在
anonymous
项中选择True/False
,来使用匿名模式,即签名保持为空。- bucket的命名规则为
{name}-{appid}
。
指定 Bucket 的命令
-
通过
-b <bucket> 指定 Bucket
可以指定特定 Bucket。 -
Bucket 的命名规则为
{name}-{appid}
,此处填写的存储桶名称必须为此格式。#命令格式 coscmd -b <bucket> method ... #操作示例-上传文件 coscmd -b AAA-12345567 upload a.txt b.txt #操作示例-创建 bucket coscmd -b AAA-12344567 createbucket
创建 Bucket
-
建议配合
-b <bucket> 指定 Bucket
使用#命令格式 coscmd -b <bucket> createbucket #操作示例 coscmd createbucket coscmd -b AAA-12344567 createbucket
删除 Bucket
-
建议配合
-b <bucket> 指定 Bucket
使用#命令格式 coscmd -b <bucket> deletebucket #操作示例 coscmd createbucket coscmd -b AAA-12344567 deletebucket
上传文件或文件夹
-
上传文件命令如下:
#命令格式 coscmd upload <localpath> <cospath> #操作示例 coscmd upload /home/aaa/123.txt bbb/123.txt coscmd upload /home/aaa/123.txt bbb/
-
上传文件夹命令如下:
#命令格式 coscmd upload -r <localpath> <cospath> #操作示例 coscmd upload -r /home/aaa/ bbb/aaa coscmd upload -r /home/aaa/ bbb/ #该操作会在 bbb/目录下新建一个 aaa/文件夹 coscmd upload -r /home/aaa bbb/ #上传到 bucket 根目录 coscmd upload -r /home/aaa/ / #同步上传,跳过 md5 相同的文件 coscmd upload -rs /home/aaa/ /home/aaa #忽略.txt 和.doc 的后缀文件 coscmd upload -rs /home/aaa/ /home/aaa --ignore *.txt,*.doc
请将 "<>" 中的参数替换为您需要上传的本地文件路径(localpath),以及 COS 上存储的路径(cospath)
注意:
- 上传文件时需要将cos上的路径包括文件(夹)的名字补全(参考例子)。
- COSCMD 支持大文件断点上传功能;当分片上传大文件失败时,重新上传该文件只会上传失败的分块,而不会从头开始(请保证重新上传的文件的目录以及内容和上传的目录保持一致)。
- COSCMD 分块上传时会对每一块进行 MD5 校验。
- COSMCD 上传默认会携带
x-cos-meta-md5
的头部,值为该文件的md5
值。- 使用-s 参数可以使用同步上传,跳过上传 md5 一致的文件(cos上的原文件必须是由 1.8.3.2 之后的 COSCMD 上传的,默认带有x-cos-meta-md5的header)。
- 使用-H 参数设置 HTTP header 时,请务必保证格式为 json,这里是个例子:
coscmd upload -H '{"Cache-Control":"max-age=31536000","Content-Language":"zh-CN"}' <localpath> <cospath>
。- 在上传文件夹时,使用--ignore 参数可以忽略某一类文件,支持 shell 通配规则,支持多条规则,用逗号分隔。
- 目前只支持上传最大 40 T 的单文件。
下载文件或文件夹
-
下载文件命令如下:
#命令格式 coscmd download <cospath> <localpath> #操作示例 coscmd download bbb/123.txt /home/aaa/111.txt coscmd download bbb/123.txt /home/aaa/
-
下载文件夹命令如下:
#命令格式 coscmd download -r <cospath> <localpath> #操作示例 coscmd download -r /home/aaa/ bbb/aaa coscmd download -r /home/aaa/ bbb/ #覆盖下载当前 bucket 根目录下所有的文件 coscmd download -rf / bbb/aaa #同步下载当前 bucket 根目录下所有的文件,跳过 md5 校验相同的文件 coscmd download -rs / bbb/aaa #忽略.txt 和.doc 的后缀文件 coscmd download -rs / bbb/aaa --ignore *.txt,*.doc
请将 "<>" 中的参数替换为您需要下载的 COS 上文件的路径(cospath),以及本地存储路径(localpath)
注意:
-
若本地存在同名文件,则会下载失败,使用
-f
参数覆盖本地文件 -
download
接口使用分块下载,老版本的mget
接口已经废除,请使用download
接口 -
使用
-s
或者--sync
参数,可以在下载文件夹时跳过本地已存在的相同文
件 (前提是下载文件夹是通过COSCMD
的upload
接口上传的,文件携带有x-cos-meta-md5
头部) - 在下载文件夹时,使用--ignore 参数可以忽略某一类文件,支持 shell 通配规则,支持多条规则,用逗号分隔
删除文件或文件夹
-
删除文件命令如下:
#命令格式 coscmd delete <cospath> #操作示例 coscmd delete bbb/123.txt
-
删除文件夹命令如下:
#命令格式 coscmd delete -r <cospath> #操作示例 coscmd delete -r bbb/ coscmd delete -r /
请将"<>"中的参数替换为您需要删除的 COS 上文件的路径(cospath),工具会提示用户是否确认进行删除操作
注意:
- 批量删除需要输入确定,使用
-f
参数跳过确认
复制文件或文件夹
-
复制文件命令如下:
#命令格式 coscmd copy <sourcepath> <cospath> #操作示例 coscmd copy bucket-appid.cos.ap-guangzhou.myqcloud.com/a.txt aaa/123.txt
-
复制文件夹命令如下:
#命令格式 coscmd copy -r <sourcepath> <cospath> #操作示例 coscmd copy -r bucket-appid.cos.ap-guangzhou.myqcloud.com/coscmd/ aaa coscmd copy -r bucket-appid.cos.ap-guangzhou.myqcloud.com/coscmd/ aaa/
请将"<>"中的参数替换为您需要复制的 COS 上文件的路径(sourcepath),和您需要复制到 COS 上文件的路径(cospath)
注意:
sourcepath 的样式如下:<bucketname>-<appid>.cos.<region>.myqcloud.com/<cospath>
打印文件列表
打印命令如下:
#命令格式
coscmd list <cospath>
#操作示例
coscmd list -a
coscmd list bbb/123.txt -r -n 10
请将"<>"中的参数替换为您需要打印文件列表的 COS 上文件的路径(cospath)
使用-a
打印全部文件
使用 -r
递归打印,并且会在末尾返回列出文件的数量和大小之和
使用 -n num
设置打印数量的最大值
注意:
<cospath>
为空默认打印当前 Bucket 根目录
显示文件信息
命令如下:
#命令格式
coscmd info <cospath>
#操作示例
coscmd info bbb/123.txt
请将"<>"中的参数替换为您需要显示的 COS 上文件的路径(cospath)
获取带签名的下载 URL
命令如下:
#命令格式
coscmd sigurl<cospath>
#操作示例
coscmd signurl bbb/123.txt
coscmd signurl bbb/123.txt -t 100
请将"<>"中的参数替换为您需要获取下载 url 的 COS 上文件的路径(cospath)
使用 -t time
设置打印签名的有效时间(单位为秒)
设置访问控制(ACL)
命令如下:
使用如下命令设置 Bucket 的访问控制:
#命令格式
coscmd putbucketacl [--grant-read GRANT_READ] [--grant-write GRANT_WRITE] [--grant-full-control GRANT_FULL_CONTROL]
#操作示例
coscmd putbucketacl --grant-read 12345678,12345678/11111 --grant-write anyone --grant-full-control 12345678/22222
使用如下命令设置 Object 的访问控制:
#命令格式
coscmd putobjectacl [--grant-read GRANT_READ] [--grant-write GRANT_WRITE] [--grant-full-control GRANT_FULL_CONTROL] <cospath>
#操作示例
coscmd putobjectacl --grant-read 12345678,12345678/11111 --grant-write anyone --grant-full-control 12345678/22222 aaa/aaa.txt
ACL 设置指南
- --grant-read 代表读的权限
- --grant-write 代表写的权限
- --grant-full-control 代表读写的权限
- GRANT_READ / GRANT_WRITE / GRANT_FILL_CONTORL 代表被赋权的帐号
- 若赋权根帐号,使用 rootid 的形式
- 若赋权子账户,使用 rootid/subid 的形式
- 若需要对所有人赋权,使用 anyone 的形式
-
同时赋权的多个帐号用逗号
,
隔开 - 请将参数替换为您所需要删除的 COS 上文件的路径(cospath)
获取访问控制(ACL)
使用如下命令设置 Bucket 的访问控制:
#命令格式
coscmd getbucketacl
#操作示例
coscmd getbucketacl
使用如下命令设置 Object 的访问控制:
#命令格式
coscmd putbucketacl <cospath>
#操作示例
coscmd getobjectacl aaa/aaa.txt
恢复归档文件
命令如下:
#命令格式
coscmd restore <cospath>
#操作示例
coscmd restore a.txt -d 3 -t Expedited
#/操作示例
coscmd restore a.txt -d 3 -t Bulk
请将"<>"中的参数替换为您需要打印文件列表的 COS 上文件的路径(cospath)
使用 -d day
设置临时副本的过期时间;默认值:7
使用 -t tier
具体复原过程类型,枚举值: Expedited ,Standard ,Bulk;默认值:Standard
Debug 模式执行命令
在各命令前加上-d
或者-debug
,在命令执行的过程中,会显示详细的操作信息 。
示例如下:
#显示upload的详细操作信息 #命令格式 coscmd -d upload <localpath> <cospath> #操作示例 coscmd -d upload /home/aaa/123.txt bbb/123.txt
参考推荐:
版权所有: 本文系米扑博客原创、转载、摘录,或修订后发表,最后更新于 2019-02-06 05:51:46
侵权处理: 本个人博客,不盈利,若侵犯了您的作品权,请联系博主删除,莫恶意,索钱财,感谢!
转载注明: 备份本地文件上传到腾讯云对象存储 (米扑博客)