You can not select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
go-library/vendor/github.com/qiniu/go-sdk/v7/storage/bucket.go

1000 lines
32 KiB

This file contains ambiguous Unicode characters!

This file contains ambiguous Unicode characters that may be confused with others in your current locale. If your use case is intentional and legitimate, you can safely ignore this warning. Use the Escape button to highlight these characters.

package storage
// TODO:
// BucketManager 每个接口的基本逻辑都是设置Mac信息 获取请求地址, 发送HTTP请求。
// 后期可以调整抽象出Request struct, APIOperation struct 这样不用每个接口都要写
// 重复的逻辑
import (
"context"
"encoding/base64"
"encoding/json"
"errors"
"fmt"
"io"
"net/http"
"net/url"
"os"
"strconv"
"strings"
"github.com/qiniu/go-sdk/v7/auth"
"github.com/qiniu/go-sdk/v7/client"
)
// 资源管理相关的默认域名
const (
DefaultRsHost = "rs.qiniu.com"
DefaultRsfHost = "rsf.qiniu.com"
DefaultAPIHost = "api.qiniu.com"
DefaultPubHost = "pu.qbox.me:10200"
)
// FileInfo 文件基本信息
type FileInfo struct {
// 文件的HASH值使用hash值算法计算。
Hash string `json:"hash"`
// 资源内容的大小,单位:字节。
Fsize int64 `json:"fsize"`
// 上传时间单位100纳秒其值去掉低七位即为Unix时间戳。
PutTime int64 `json:"putTime"`
/**
* 归档/深度归档存储文件的解冻状态,归档/深度归档文件冻结时,不返回该字段。
* 1 表示解冻中
* 2 表示解冻完成
*/
RestoreStatus int `json:"restoreStatus"`
// 资源的 MIME 类型。
MimeType string `json:"mimeType"`
/**
* 资源的存储类型
* 0 表示标准存储
* 1 表示低频存储
* 2 表示归档存储
* 3 表示深度归档存储
*/
Type int `json:"type"`
/**
* 文件上传时设置的endUser
*/
EndUser string `json:"endUser"`
/**
* 文件的存储状态,即禁用状态和启用状态间的的互相转换,请参考:文件状态。
* 0 表示启用
* 1 表示禁用
*/
Status int `json:"status"`
/**
* 文件的 md5 值
*/
Md5 string `json:"md5"`
/**
* 文件过期删除日期int64 类型Unix 时间戳格式,具体文件过期日期计算参考 生命周期管理。
* 文件在设置过期时间后才会返回该字段(通过生命周期规则设置文件过期时间,仅对该功能发布后满足规则条件新上传文件返回该字段;
* 历史文件想要返回该字段需要在功能发布后可通过 修改文件过期删除时间 API 或者 修改文件生命周期 API 指定过期时间;对于已
* 经设置过过期时间的历史文件,到期都会正常过期删除,只是服务端没有该字段返回)
*
* 例如值为1568736000的时间表示文件会在2019/9/18当天内删除。
*/
Expiration int64 `json:"expiration"`
/**
* 文件生命周期中转为低频存储的日期int64 类型Unix 时间戳格式 ,具体日期计算参考 生命周期管理。
* 文件在设置转低频后才会返回该字段(通过生命周期规则设置文件转低频,仅对该功能发布后满足规则条件新上传文件返回该字段;
* 历史文件想要返回该字段需要在功能发布后可通过 修改文件生命周期 API 指定转低频时间;对于已经设置过转低频时间的历史文
* 件,到期都会正常执行,只是服务端没有该字段返回)
*
* 例如值为1568736000的时间表示文件会在2019/9/18当天转为低频存储类型。
*/
TransitionToIA int64 `json:"transitionToIA"`
/**
* 文件生命周期中转为归档存储的日期int64 类型Unix 时间戳格式 ,具体日期计算参考 生命周期管理。
* 文件在设置转归档后才会返回该字段(通过生命周期规则设置文件转归档,仅对该功能发布后满足规则条件新上传文件返回该字段;
* 历史文件想要返回该字段需要在功能发布后可通过 修改文件生命周期 API 指定转归档时间;对于已经设置过转归档时间的历史文
* 件,到期都会正常执行,只是服务端没有该字段返回)
*
* 例如值为1568736000的时间表示文件会在2019/9/18当天转为归档存储类型。
*/
TransitionToArchive int64 `json:"transitionToARCHIVE"`
/**
* 文件生命周期中转为深度归档存储的日期int64 类型Unix 时间戳格式 ,具体日期计算参考 生命周期管理。
* 文件在设置转深度归档后才会返回该字段(通过生命周期规则设置文件转深度归档,仅对该功能发布后满足规则条件新上传文件返回该字段;
* 历史文件想要返回该字段需要在功能发布后可通过 修改文件生命周期 API 指定转深度归档时间;对于已经设置过转深度归档时间的历史文
* 件,到期都会正常执行,只是服务端没有该字段返回)
*
* 例如值为1568736000的时间表示文件会在2019/9/18当天转为深度归档存储类型。
*/
TransitionToDeepArchive int64 `json:"transitionToDeepArchive"`
// 分拣分片信息,可能为空
Parts []int64 `json:"parts"`
}
func (f *FileInfo) String() string {
str := ""
str += fmt.Sprintf("Hash: %s\n", f.Hash)
str += fmt.Sprintf("Fsize: %d\n", f.Fsize)
str += fmt.Sprintf("PutTime: %d\n", f.PutTime)
str += fmt.Sprintf("MimeType: %s\n", f.MimeType)
str += fmt.Sprintf("Type: %d\n", f.Type)
str += fmt.Sprintf("Status: %d\n", f.Status)
return str
}
// FetchRet 资源抓取的返回值
type FetchRet struct {
Hash string `json:"hash"`
Fsize int64 `json:"fsize"`
MimeType string `json:"mimeType"`
Key string `json:"key"`
}
func (r *FetchRet) String() string {
str := ""
str += fmt.Sprintf("Key: %s\n", r.Key)
str += fmt.Sprintf("Hash: %s\n", r.Hash)
str += fmt.Sprintf("Fsize: %d\n", r.Fsize)
str += fmt.Sprintf("MimeType: %s\n", r.MimeType)
return str
}
// BatchOpRet 为批量执行操作的返回值
// 批量操作支持 statcopydeletemovechgmchtypedeleteAfterDays几个操作
// 其中 stat 为获取文件的基本信息,如果文件存在则返回基本信息,如果文件不存在返回 error 。
// 其他的操作,如果成功,则返回 code不成功会同时返回 error 信息,可以根据 error 信息来判断问题所在。
type BatchOpRet struct {
Code int `json:"code,omitempty"`
Data struct {
Hash string `json:"hash"`
Fsize int64 `json:"fsize"`
PutTime int64 `json:"putTime"`
MimeType string `json:"mimeType"`
Type int `json:"type"`
Error string `json:"error"`
} `json:"data,omitempty"`
}
// BucketManager 提供了对资源进行管理的操作
type BucketManager struct {
Client *client.Client
Mac *auth.Credentials
Cfg *Config
}
// NewBucketManager 用来构建一个新的资源管理对象
func NewBucketManager(mac *auth.Credentials, cfg *Config) *BucketManager {
if cfg == nil {
cfg = &Config{}
}
if cfg.CentralRsHost == "" {
cfg.CentralRsHost = DefaultRsHost
}
return &BucketManager{
Client: &client.DefaultClient,
Mac: mac,
Cfg: cfg,
}
}
// NewBucketManagerEx 用来构建一个新的资源管理对象
func NewBucketManagerEx(mac *auth.Credentials, cfg *Config, clt *client.Client) *BucketManager {
if cfg == nil {
cfg = &Config{}
}
if clt == nil {
clt = &client.DefaultClient
}
if cfg.CentralRsHost == "" {
cfg.CentralRsHost = DefaultRsHost
}
return &BucketManager{
Client: clt,
Mac: mac,
Cfg: cfg,
}
}
// UpdateObjectStatus 用来修改文件状态, 禁用和启用文件的可访问性
// 请求包:
//
// POST /chstatus/<EncodedEntry>/status/<status>
// status0表示启用1表示禁用
// 返回包(JSON)
//
// 200 OK
// 当<EncodedEntryURI>解析失败返回400 Bad Request {"error":"invalid argument"}
// 当<EncodedEntryURI>不符合UTF-8编码返回400 Bad Request {"error":"key must be utf8 encoding"}
// 当文件不存在时返回612 status code 612 {"error":"no such file or directory"}
// 当文件当前状态和设置的状态已经一致返回400 {"error":"already enabled"}或400 {"error":"already disabled"}
func (m *BucketManager) UpdateObjectStatus(bucketName string, key string, enable bool) error {
var status string
ee := EncodedEntry(bucketName, key)
if enable {
status = "0"
} else {
status = "1"
}
path := fmt.Sprintf("/chstatus/%s/status/%s", ee, status)
reqHost, reqErr := m.RsReqHost(bucketName)
if reqErr != nil {
return reqErr
}
reqURL := fmt.Sprintf("%s%s", reqHost, path)
return m.Client.CredentialedCall(context.Background(), m.Mac, auth.TokenQiniu, nil, "POST", reqURL, nil)
}
// CreateBucket 创建一个七牛存储空间
func (m *BucketManager) CreateBucket(bucketName string, regionID RegionID) error {
reqURL := fmt.Sprintf("%s/mkbucketv3/%s/region/%s", getUcHost(m.Cfg.UseHTTPS), bucketName, string(regionID))
return m.Client.CredentialedCall(context.Background(), m.Mac, auth.TokenQiniu, nil, "POST", reqURL, nil)
}
// Buckets 用来获取空间列表,如果指定了 shared 参数为 true那么一同列表被授权访问的空间
func (m *BucketManager) Buckets(shared bool) (buckets []string, err error) {
reqURL := fmt.Sprintf("%s/buckets?shared=%v", getUcHost(m.Cfg.UseHTTPS), shared)
err = m.Client.CredentialedCall(context.Background(), m.Mac, auth.TokenQiniu, &buckets, "POST", reqURL, nil)
return
}
// DropBucket 删除七牛存储空间
func (m *BucketManager) DropBucket(bucketName string) (err error) {
reqURL := fmt.Sprintf("%s/drop/%s", getUcHost(m.Cfg.UseHTTPS), bucketName)
err = m.Client.CredentialedCall(context.Background(), m.Mac, auth.TokenQiniu, nil, "POST", reqURL, nil)
return
}
// Stat 用来获取一个文件的基本信息
func (m *BucketManager) Stat(bucket, key string) (FileInfo, error) {
return m.StatWithOpts(bucket, key, nil)
}
type StatOpts struct {
NeedParts bool
}
// StatWithParts 用来获取一个文件的基本信息以及分片信息
func (m *BucketManager) StatWithOpts(bucket, key string, opt *StatOpts) (info FileInfo, err error) {
reqHost, reqErr := m.RsReqHost(bucket)
if reqErr != nil {
err = reqErr
return
}
reqURL := fmt.Sprintf("%s%s", reqHost, URIStat(bucket, key))
if opt != nil {
if opt.NeedParts {
reqURL += "?needparts=true"
}
}
err = m.Client.CredentialedCall(context.Background(), m.Mac, auth.TokenQiniu, &info, "POST", reqURL, nil)
return
}
// Delete 用来删除空间中的一个文件
func (m *BucketManager) Delete(bucket, key string) (err error) {
reqHost, reqErr := m.RsReqHost(bucket)
if reqErr != nil {
err = reqErr
return
}
reqURL := fmt.Sprintf("%s%s", reqHost, URIDelete(bucket, key))
err = m.Client.CredentialedCall(context.Background(), m.Mac, auth.TokenQiniu, nil, "POST", reqURL, nil)
return
}
// Copy 用来创建已有空间中的文件的一个新的副本
func (m *BucketManager) Copy(srcBucket, srcKey, destBucket, destKey string, force bool) (err error) {
reqHost, reqErr := m.RsReqHost(srcBucket)
if reqErr != nil {
err = reqErr
return
}
reqURL := fmt.Sprintf("%s%s", reqHost, URICopy(srcBucket, srcKey, destBucket, destKey, force))
err = m.Client.CredentialedCall(context.Background(), m.Mac, auth.TokenQiniu, nil, "POST", reqURL, nil)
return
}
// Move 用来将空间中的一个文件移动到新的空间或者重命名
func (m *BucketManager) Move(srcBucket, srcKey, destBucket, destKey string, force bool) (err error) {
reqHost, reqErr := m.RsReqHost(srcBucket)
if reqErr != nil {
err = reqErr
return
}
reqURL := fmt.Sprintf("%s%s", reqHost, URIMove(srcBucket, srcKey, destBucket, destKey, force))
err = m.Client.CredentialedCall(context.Background(), m.Mac, auth.TokenQiniu, nil, "POST", reqURL, nil)
return
}
// ChangeMime 用来更新文件的MimeType
func (m *BucketManager) ChangeMime(bucket, key, newMime string) (err error) {
reqHost, reqErr := m.RsReqHost(bucket)
if reqErr != nil {
err = reqErr
return
}
reqURL := fmt.Sprintf("%s%s", reqHost, URIChangeMime(bucket, key, newMime))
err = m.Client.CredentialedCall(context.Background(), m.Mac, auth.TokenQiniu, nil, "POST", reqURL, nil)
return
}
// ChangeType 用来更新文件的存储类型0 表示普通存储1 表示低频存储2 表示归档存储3 表示深度归档存储
func (m *BucketManager) ChangeType(bucket, key string, fileType int) (err error) {
reqHost, reqErr := m.RsReqHost(bucket)
if reqErr != nil {
err = reqErr
return
}
reqURL := fmt.Sprintf("%s%s", reqHost, URIChangeType(bucket, key, fileType))
err = m.Client.CredentialedCall(context.Background(), m.Mac, auth.TokenQiniu, nil, "POST", reqURL, nil)
return
}
// RestoreAr 解冻归档存储类型的文件可设置解冻有效期17天, 完成解冻任务通常需要15分钟
func (m *BucketManager) RestoreAr(bucket, key string, freezeAfterDays int) (err error) {
reqHost, reqErr := m.RsReqHost(bucket)
if reqErr != nil {
err = reqErr
return
}
reqURL := fmt.Sprintf("%s%s", reqHost, URIRestoreAr(bucket, key, freezeAfterDays))
err = m.Client.CredentialedCall(context.Background(), m.Mac, auth.TokenQiniu, nil, "POST", reqURL, nil)
return
}
// DeleteAfterDays 用来更新文件生命周期,如果 days 设置为0则表示取消文件的定期删除功能永久存储
func (m *BucketManager) DeleteAfterDays(bucket, key string, days int) (err error) {
reqHost, reqErr := m.RsReqHost(bucket)
if reqErr != nil {
err = reqErr
return
}
reqURL := fmt.Sprintf("%s%s", reqHost, URIDeleteAfterDays(bucket, key, days))
err = m.Client.CredentialedCall(context.Background(), m.Mac, auth.TokenQiniu, nil, "POST", reqURL, nil)
return
}
// Batch 接口提供了资源管理的批量操作,支持 statcopymovedeletechgmchtypedeleteAfterDays几个接口
func (m *BucketManager) Batch(operations []string) (batchOpRet []BatchOpRet, err error) {
if len(operations) > 1000 {
err = errors.New("batch operation count exceeds the limit of 1000")
return
}
scheme := "http://"
if m.Cfg.UseHTTPS {
scheme = "https://"
}
reqURL := fmt.Sprintf("%s%s/batch", scheme, m.Cfg.CentralRsHost)
params := map[string][]string{
"op": operations,
}
err = m.Client.CredentialedCallWithForm(context.Background(), m.Mac, auth.TokenQiniu, &batchOpRet, "POST", reqURL, nil, params)
return
}
// Fetch 根据提供的远程资源链接来抓取一个文件到空间并已指定文件名保存
func (m *BucketManager) Fetch(resURL, bucket, key string) (fetchRet FetchRet, err error) {
reqHost, rErr := m.IoReqHost(bucket)
if rErr != nil {
err = rErr
return
}
reqURL := fmt.Sprintf("%s%s", reqHost, uriFetch(resURL, bucket, key))
err = m.Client.CredentialedCall(context.Background(), m.Mac, auth.TokenQiniu, &fetchRet, "POST", reqURL, nil)
return
}
func (m *BucketManager) RsReqHost(bucket string) (reqHost string, err error) {
var reqErr error
if m.Cfg.RsHost == "" {
reqHost, reqErr = m.RsHost(bucket)
if reqErr != nil {
err = reqErr
return
}
} else {
reqHost = m.Cfg.RsHost
}
if !strings.HasPrefix(reqHost, "http") {
reqHost = "http://" + reqHost
}
return
}
func (m *BucketManager) ApiReqHost(bucket string) (reqHost string, err error) {
var reqErr error
if m.Cfg.ApiHost == "" {
reqHost, reqErr = m.ApiHost(bucket)
if reqErr != nil {
err = reqErr
return
}
} else {
reqHost = m.Cfg.ApiHost
}
if !strings.HasPrefix(reqHost, "http") {
reqHost = "http://" + reqHost
}
return
}
func (m *BucketManager) RsfReqHost(bucket string) (reqHost string, err error) {
var reqErr error
if m.Cfg.RsfHost == "" {
reqHost, reqErr = m.RsfHost(bucket)
if reqErr != nil {
err = reqErr
return
}
} else {
reqHost = m.Cfg.RsfHost
}
if !strings.HasPrefix(reqHost, "http") {
reqHost = "http://" + reqHost
}
return
}
func (m *BucketManager) IoReqHost(bucket string) (reqHost string, err error) {
var reqErr error
if m.Cfg.IoHost == "" {
reqHost, reqErr = m.IovipHost(bucket)
if reqErr != nil {
err = reqErr
return
}
} else {
reqHost = m.Cfg.IoHost
}
if !strings.HasPrefix(reqHost, "http") {
reqHost = "http://" + reqHost
}
return
}
// FetchWithoutKey 根据提供的远程资源链接来抓取一个文件到空间并以文件的内容hash作为文件名
func (m *BucketManager) FetchWithoutKey(resURL, bucket string) (fetchRet FetchRet, err error) {
reqHost, rErr := m.IoReqHost(bucket)
if rErr != nil {
err = rErr
return
}
reqURL := fmt.Sprintf("%s%s", reqHost, uriFetchWithoutKey(resURL, bucket))
err = m.Client.CredentialedCall(context.Background(), m.Mac, auth.TokenQiniu, &fetchRet, "POST", reqURL, nil)
return
}
// DomainInfo 是绑定在存储空间上的域名的具体信息
type DomainInfo struct {
Domain string `json:"domain"`
// 存储空间名字
Tbl string `json:"tbl"`
// 用户UID
Owner int `json:"uid"`
Refresh bool `json:"refresh"`
Ctime int `json:"ctime"`
Utime int `json:"utime"`
}
// ListBucketDomains 返回绑定在存储空间中的域名信息
func (m *BucketManager) ListBucketDomains(bucket string) (info []DomainInfo, err error) {
reqHost, err := m.z0ApiHost()
if err != nil {
return
}
reqURL := fmt.Sprintf("%s/v7/domain/list?tbl=%s", reqHost, bucket)
err = m.Client.CredentialedCall(context.Background(), m.Mac, auth.TokenQiniu, &info, "GET", reqURL, nil)
return
}
// Prefetch 用来同步镜像空间的资源和镜像源资源内容
func (m *BucketManager) Prefetch(bucket, key string) (err error) {
reqHost, reqErr := m.IoReqHost(bucket)
if reqErr != nil {
err = reqErr
return
}
reqURL := fmt.Sprintf("%s%s", reqHost, uriPrefetch(bucket, key))
err = m.Client.CredentialedCall(context.Background(), m.Mac, auth.TokenQiniu, nil, "POST", reqURL, nil)
return
}
// SetImage 用来设置空间镜像源
func (m *BucketManager) SetImage(siteURL, bucket string) (err error) {
reqURL := fmt.Sprintf("http://%s%s", DefaultPubHost, uriSetImage(siteURL, bucket))
err = m.Client.CredentialedCall(context.Background(), m.Mac, auth.TokenQiniu, nil, "POST", reqURL, nil)
return
}
// SetImageWithHost 用来设置空间镜像源额外添加回源Host头部
func (m *BucketManager) SetImageWithHost(siteURL, bucket, host string) (err error) {
reqURL := fmt.Sprintf("http://%s%s", DefaultPubHost,
uriSetImageWithHost(siteURL, bucket, host))
err = m.Client.CredentialedCall(context.Background(), m.Mac, auth.TokenQiniu, nil, "POST", reqURL, nil)
return
}
// UnsetImage 用来取消空间镜像源设置
func (m *BucketManager) UnsetImage(bucket string) (err error) {
reqURL := fmt.Sprintf("http://%s%s", DefaultPubHost, uriUnsetImage(bucket))
err = m.Client.CredentialedCall(context.Background(), m.Mac, auth.TokenQiniu, nil, "POST", reqURL, nil)
return err
}
// ListFiles 用来获取空间文件列表,可以根据需要指定文件的前缀 prefix文件的目录 delimiter循环列举的时候下次
// 列举的位置 marker以及每次返回的文件的最大数量limit其中limit最大为1000。
func (m *BucketManager) ListFiles(bucket, prefix, delimiter, marker string,
limit int) (entries []ListItem, commonPrefixes []string, nextMarker string, hasNext bool, err error) {
if limit <= 0 || limit > 1000 {
err = errors.New("invalid list limit, only allow [1, 1000]")
return
}
reqHost, reqErr := m.RsfReqHost(bucket)
if reqErr != nil {
err = reqErr
return
}
ret := listFilesRet{}
reqURL := fmt.Sprintf("%s%s", reqHost, uriListFiles(bucket, prefix, delimiter, marker, limit))
err = m.Client.CredentialedCall(context.Background(), m.Mac, auth.TokenQiniu, &ret, "POST", reqURL, nil)
if err != nil {
return
}
commonPrefixes = ret.CommonPrefixes
nextMarker = ret.Marker
entries = ret.Items
if ret.Marker != "" {
hasNext = true
}
return
}
// ListBucket 用来获取空间文件列表,可以根据需要指定文件的前缀 prefix文件的目录 delimiter流式返回每条数据。
func (m *BucketManager) ListBucket(bucket, prefix, delimiter, marker string) (retCh chan listFilesRet2, err error) {
ctx := auth.WithCredentialsType(context.Background(), m.Mac, auth.TokenQiniu)
reqHost, reqErr := m.RsfReqHost(bucket)
if reqErr != nil {
err = reqErr
return
}
// limit 0 ==> 列举所有文件
reqURL := fmt.Sprintf("%s%s", reqHost, uriListFiles2(bucket, prefix, delimiter, marker))
retCh, err = callChan(m.Client, ctx, "POST", reqURL, nil)
return
}
// ListBucketContext 用来获取空间文件列表,可以根据需要指定文件的前缀 prefix文件的目录 delimiter流式返回每条数据。
// 接受的context可以用来取消列举操作
func (m *BucketManager) ListBucketContext(ctx context.Context, bucket, prefix, delimiter, marker string) (retCh chan listFilesRet2, err error) {
ctx = auth.WithCredentialsType(ctx, m.Mac, auth.TokenQiniu)
reqHost, reqErr := m.RsfReqHost(bucket)
if reqErr != nil {
err = reqErr
return
}
// limit 0 ==> 列举所有文件
reqURL := fmt.Sprintf("%s%s", reqHost, uriListFiles2(bucket, prefix, delimiter, marker))
retCh, err = callChan(m.Client, ctx, "POST", reqURL, nil)
return
}
type AsyncFetchParam struct {
Url string `json:"url"`
Host string `json:"host,omitempty"`
Bucket string `json:"bucket"`
Key string `json:"key,omitempty"`
Md5 string `json:"md5,omitempty"`
Etag string `json:"etag,omitempty"`
CallbackURL string `json:"callbackurl,omitempty"`
CallbackBody string `json:"callbackbody,omitempty"`
CallbackBodyType string `json:"callbackbodytype,omitempty"`
FileType int `json:"file_type,omitempty"`
}
type AsyncFetchRet struct {
Id string `json:"id"`
Wait int `json:"wait"`
}
func (m *BucketManager) AsyncFetch(param AsyncFetchParam) (ret AsyncFetchRet, err error) {
reqUrl, err := m.ApiReqHost(param.Bucket)
if err != nil {
return
}
reqUrl += "/sisyphus/fetch"
err = m.Client.CredentialedCallWithJson(context.Background(), m.Mac, auth.TokenQiniu, &ret, "POST", reqUrl, nil, param)
return
}
func (m *BucketManager) RsHost(bucket string) (rsHost string, err error) {
zone, err := m.Zone(bucket)
if err != nil {
return
}
rsHost = zone.GetRsHost(m.Cfg.UseHTTPS)
return
}
func (m *BucketManager) RsfHost(bucket string) (rsfHost string, err error) {
zone, err := m.Zone(bucket)
if err != nil {
return
}
rsfHost = zone.GetRsfHost(m.Cfg.UseHTTPS)
return
}
func (m *BucketManager) IovipHost(bucket string) (iovipHost string, err error) {
zone, err := m.Zone(bucket)
if err != nil {
return
}
iovipHost = zone.GetIoHost(m.Cfg.UseHTTPS)
return
}
func (m *BucketManager) ApiHost(bucket string) (apiHost string, err error) {
zone, err := m.Zone(bucket)
if err != nil {
return
}
apiHost = zone.GetApiHost(m.Cfg.UseHTTPS)
return
}
func (m *BucketManager) z0ApiHost() (apiHost string, err error) {
region, err := getRegionByRegionId("z0", m.Mac)
if err != nil {
return
}
apiHost = region.GetApiHost(m.Cfg.UseHTTPS)
return
}
func (m *BucketManager) Zone(bucket string) (z *Zone, err error) {
if m.Cfg.Zone != nil {
z = m.Cfg.Zone
return
}
z, err = GetZone(m.Mac.AccessKey, bucket)
return
}
// 构建op的方法导出的方法支持在Batch操作中使用
// URIStat 构建 stat 接口的请求命令
func URIStat(bucket, key string) string {
return fmt.Sprintf("/stat/%s", EncodedEntry(bucket, key))
}
// URIDelete 构建 delete 接口的请求命令
func URIDelete(bucket, key string) string {
return fmt.Sprintf("/delete/%s", EncodedEntry(bucket, key))
}
// URICopy 构建 copy 接口的请求命令
func URICopy(srcBucket, srcKey, destBucket, destKey string, force bool) string {
return fmt.Sprintf("/copy/%s/%s/force/%v", EncodedEntry(srcBucket, srcKey),
EncodedEntry(destBucket, destKey), force)
}
// URIMove 构建 move 接口的请求命令
func URIMove(srcBucket, srcKey, destBucket, destKey string, force bool) string {
return fmt.Sprintf("/move/%s/%s/force/%v", EncodedEntry(srcBucket, srcKey),
EncodedEntry(destBucket, destKey), force)
}
// URIDeleteAfterDays 构建 deleteAfterDays 接口的请求命令
func URIDeleteAfterDays(bucket, key string, days int) string {
return fmt.Sprintf("/deleteAfterDays/%s/%d", EncodedEntry(bucket, key), days)
}
// URIChangeMime 构建 chgm 接口的请求命令
func URIChangeMime(bucket, key, newMime string) string {
return fmt.Sprintf("/chgm/%s/mime/%s", EncodedEntry(bucket, key),
base64.URLEncoding.EncodeToString([]byte(newMime)))
}
// URIChangeType 构建 chtype 接口的请求命令
func URIChangeType(bucket, key string, fileType int) string {
return fmt.Sprintf("/chtype/%s/type/%d", EncodedEntry(bucket, key), fileType)
}
// URIRestoreAr 构建 restoreAr 接口的请求命令
func URIRestoreAr(bucket, key string, afterDay int) string {
return fmt.Sprintf("/restoreAr/%s/freezeAfterDays/%d", EncodedEntry(bucket, key), afterDay)
}
// 构建op的方法非导出的方法无法用在Batch操作中
func uriFetch(resURL, bucket, key string) string {
return fmt.Sprintf("/fetch/%s/to/%s",
base64.URLEncoding.EncodeToString([]byte(resURL)), EncodedEntry(bucket, key))
}
func uriFetchWithoutKey(resURL, bucket string) string {
return fmt.Sprintf("/fetch/%s/to/%s",
base64.URLEncoding.EncodeToString([]byte(resURL)), EncodedEntryWithoutKey(bucket))
}
func uriPrefetch(bucket, key string) string {
return fmt.Sprintf("/prefetch/%s", EncodedEntry(bucket, key))
}
func uriSetImage(siteURL, bucket string) string {
return fmt.Sprintf("/image/%s/from/%s", bucket,
base64.URLEncoding.EncodeToString([]byte(siteURL)))
}
func uriSetImageWithHost(siteURL, bucket, host string) string {
return fmt.Sprintf("/image/%s/from/%s/host/%s", bucket,
base64.URLEncoding.EncodeToString([]byte(siteURL)),
base64.URLEncoding.EncodeToString([]byte(host)))
}
func uriUnsetImage(bucket string) string {
return fmt.Sprintf("/unimage/%s", bucket)
}
func uriListFiles(bucket, prefix, delimiter, marker string, limit int) string {
query := make(url.Values)
query.Add("bucket", bucket)
if prefix != "" {
query.Add("prefix", prefix)
}
if delimiter != "" {
query.Add("delimiter", delimiter)
}
if marker != "" {
query.Add("marker", marker)
}
if limit > 0 {
query.Add("limit", strconv.FormatInt(int64(limit), 10))
}
return fmt.Sprintf("/list?%s", query.Encode())
}
func uriListFiles2(bucket, prefix, delimiter, marker string) string {
query := make(url.Values)
query.Add("bucket", bucket)
if prefix != "" {
query.Add("prefix", prefix)
}
if delimiter != "" {
query.Add("delimiter", delimiter)
}
if marker != "" {
query.Add("marker", marker)
}
return fmt.Sprintf("/v2/list?%s", query.Encode())
}
// EncodedEntry 生成URL Safe Base64编码的 Entry
func EncodedEntry(bucket, key string) string {
entry := fmt.Sprintf("%s:%s", bucket, key)
return base64.URLEncoding.EncodeToString([]byte(entry))
}
// EncodedEntryWithoutKey 生成 key 为null的情况下 URL Safe Base64编码的Entry
func EncodedEntryWithoutKey(bucket string) string {
return base64.URLEncoding.EncodeToString([]byte(bucket))
}
// MakePublicURL 用来生成公开空间资源下载链接,注意该方法并不会对 key 进行 escape
func MakePublicURL(domain, key string) (finalUrl string) {
domain = strings.TrimRight(domain, "/")
srcUrl := fmt.Sprintf("%s/%s", domain, key)
srcUri, _ := url.Parse(srcUrl)
finalUrl = srcUri.String()
return
}
// MakePublicURLv2 用来生成公开空间资源下载链接,并且该方法确保 key 将会被 escape
func MakePublicURLv2(domain, key string) string {
return MakePublicURLv2WithQuery(domain, key, nil)
}
// MakePublicURLv2WithQuery 用来生成公开空间资源下载链接,并且该方法确保 key 将会被 escape并在 URL 后追加经过编码的查询参数
func MakePublicURLv2WithQuery(domain, key string, query url.Values) string {
var rawQuery string
if query != nil {
rawQuery = query.Encode()
}
return makePublicURLv2WithRawQuery(domain, key, rawQuery)
}
// MakePublicURLv2WithQueryString 用来生成公开空间资源下载链接,并且该方法确保 key 将会被 escape并在 URL 后直接追加查询参数
func makePublicURLv2WithQueryString(domain, key, query string) string {
return makePublicURLv2WithRawQuery(domain, key, urlEncodeQuery(query))
}
func makePublicURLv2WithRawQuery(domain, key, rawQuery string) string {
domain = strings.TrimRight(domain, "/")
srcUrl := fmt.Sprintf("%s/%s", domain, urlEncodeQuery(key))
if rawQuery != "" {
srcUrl += "?" + rawQuery
}
srcUri, _ := url.Parse(srcUrl)
return srcUri.String()
}
// MakePrivateURL 用来生成私有空间资源下载链接,注意该方法并不会对 key 进行 escape
func MakePrivateURL(mac *auth.Credentials, domain, key string, deadline int64) (privateURL string) {
publicURL := MakePublicURL(domain, key)
urlToSign := publicURL
if strings.Contains(publicURL, "?") {
urlToSign = fmt.Sprintf("%s&e=%d", urlToSign, deadline)
} else {
urlToSign = fmt.Sprintf("%s?e=%d", urlToSign, deadline)
}
token := mac.Sign([]byte(urlToSign))
privateURL = fmt.Sprintf("%s&token=%s", urlToSign, token)
return
}
// MakePrivateURLv2 用来生成私有空间资源下载链接,并且该方法确保 key 将会被 escape
func MakePrivateURLv2(mac *auth.Credentials, domain, key string, deadline int64) (privateURL string) {
return MakePrivateURLv2WithQuery(mac, domain, key, nil, deadline)
}
// MakePrivateURLv2WithQuery 用来生成私有空间资源下载链接,并且该方法确保 key 将会被 escape并在 URL 后追加经过编码的查询参数
func MakePrivateURLv2WithQuery(mac *auth.Credentials, domain, key string, query url.Values, deadline int64) (privateURL string) {
var rawQuery string
if query != nil {
rawQuery = query.Encode()
}
return makePrivateURLv2WithRawQuery(mac, domain, key, rawQuery, deadline)
}
// MakePrivateURLv2WithQueryString 用来生成私有空间资源下载链接,并且该方法确保 key 将会被 escape并在 URL 后直接追加查询参数
func MakePrivateURLv2WithQueryString(mac *auth.Credentials, domain, key, query string, deadline int64) (privateURL string) {
return makePrivateURLv2WithRawQuery(mac, domain, key, urlEncodeQuery(query), deadline)
}
func makePrivateURLv2WithRawQuery(mac *auth.Credentials, domain, key, rawQuery string, deadline int64) (privateURL string) {
publicURL := makePublicURLv2WithRawQuery(domain, key, rawQuery)
urlToSign := publicURL
if strings.Contains(publicURL, "?") {
urlToSign = fmt.Sprintf("%s&e=%d", urlToSign, deadline)
} else {
urlToSign = fmt.Sprintf("%s?e=%d", urlToSign, deadline)
}
token := mac.Sign([]byte(urlToSign))
privateURL = fmt.Sprintf("%s&token=%s", urlToSign, token)
return
}
func urlEncodeQuery(str string) (ret string) {
str = url.QueryEscape(str)
str = strings.Replace(str, "%2F", "/", -1)
str = strings.Replace(str, "%7C", "|", -1)
str = strings.Replace(str, "+", "%20", -1)
return str
}
type listFilesRet2 struct {
Marker string `json:"marker"`
Item ListItem `json:"item"`
Dir string `json:"dir"`
}
type listFilesRet struct {
Marker string `json:"marker"`
Items []ListItem `json:"items"`
CommonPrefixes []string `json:"commonPrefixes"`
}
// ListItem 为文件列举的返回值
type ListItem struct {
Key string `json:"key"`
Hash string `json:"hash"`
Fsize int64 `json:"fsize"`
PutTime int64 `json:"putTime"`
MimeType string `json:"mimeType"`
Type int `json:"type"`
EndUser string `json:"endUser"`
}
// 接口可能返回空的记录
func (l *ListItem) IsEmpty() (empty bool) {
return l.Key == "" && l.Hash == "" && l.Fsize == 0 && l.PutTime == 0
}
func (l *ListItem) String() string {
str := ""
str += fmt.Sprintf("Hash: %s\n", l.Hash)
str += fmt.Sprintf("Fsize: %d\n", l.Fsize)
str += fmt.Sprintf("PutTime: %d\n", l.PutTime)
str += fmt.Sprintf("MimeType: %s\n", l.MimeType)
str += fmt.Sprintf("Type: %d\n", l.Type)
str += fmt.Sprintf("EndUser: %s\n", l.EndUser)
return str
}
func callChan(r *client.Client, ctx context.Context, method, reqUrl string, headers http.Header) (chan listFilesRet2, error) {
resp, err := r.DoRequestWith(ctx, method, reqUrl, headers, nil, 0)
if err != nil {
return nil, err
}
if resp.StatusCode/100 != 2 {
return nil, client.ResponseError(resp)
}
return callRetChan(ctx, resp)
}
func callRetChan(ctx context.Context, resp *http.Response) (retCh chan listFilesRet2, err error) {
retCh = make(chan listFilesRet2)
if resp.StatusCode/100 != 2 {
return nil, client.ResponseError(resp)
}
go func() {
defer resp.Body.Close()
defer close(retCh)
dec := json.NewDecoder(resp.Body)
var ret listFilesRet2
for {
err = dec.Decode(&ret)
if err != nil {
if err != io.EOF {
fmt.Fprintf(os.Stderr, "decode error: %v\n", err)
}
return
}
select {
case <-ctx.Done():
return
case retCh <- ret:
}
}
}()
return
}