+86 189 8218 1436Mon. - Fri. 10:00-22:00

如何快速将资料从AWS S3 搬迁到GCP Storage

如何快速将资料从AWS S3 搬迁到GCP Storage
Posted in: GCP谷歌云服务器代维护, Google谷歌GCP服务器代维护, Google谷歌GCP服务器代维管理, Google谷歌GCP服务器维护外包, Google谷歌GCP网站托管与服务器运维服务, Google谷歌GCP运维云服务器运维托管代运维服务, Google谷歌GCP运维外包公司 Started by

如何快速将资料从AWS S3 搬迁到GCP Storage

简单几步骤带您快速把资料从AWS 搬迁到GCP

工作流程

1.在AWS建立IAM User & Access Key
2.在Cloud Storage建立Bucket
3. 设定Transfer Job

1. 建立IAM User & Access Key

Google Cloud Storage提供Transfer Job快速汇入资料,其中最方便的就是从AWS S3传资料,首要步骤提供Access Key,让Cloud Storage执行Job.
1.建立IAM User
2.设定IAM Policy,这边设定AmazonS3ReadOnlyAccess这个权限
3.产生一组Access Key和Secret Key

1.1 AWS CONSOLE -> SERVICES -> IAM -> ADD USER

建立一个IAM User,提供传输资料。

01-1_create-iam-user

1.2 设定IAM USER 类型

这里IAM User 范例名称为: aws-s3-to-gcp,需要 Access Key,所以Access Type 选择Programmatic access

01-2_create-programmatic-access

1.3 设定IAM POLICY

使用AWS预设的Policy:
1.选择Attach existing policies directly
2.搜寻S3
3.选择AmazonS3ReadOnlyAccess.如果要允许传输完毕之后,删除Object,那就选择AmazonS3FullAccess

01-3_set-permission

1.4 确认IAM 设定

01-4_preview

1.5 建立IAM 帐号,取得ACCESS KEY

建立IAM 帐号,把 Access Key 和 Secret Access Key 存下来。

注意:Secret Access Key 只能看到一次,画面关闭后,不能再查阅。

01-5_create_save_accesskey

2. 在Cloud Storage 建立Bucket

2.1 GCP CONSOLE -> STORAGE -> BROWSER

在GCP Console 找到Storage

02-1_goto_cloud-storage

2.2 建立BUCKET

02-2_create-bucket

以下为范例:

  • Bucket Name: aws-gtcafe-us-east-2-temp-data
  • Default Storage Class: Regional
  • Regional Location: us-east-1

关于Cloud Storage简单的介绍,请参阅  Experience GCP#Cloud Storage  的简介。

02-3_create-bucket

3. 设定Transfer Job

3.1 GCP CONSOLE -> STORAGE -> TRANSFER

03-0_create-transfer

3.2 SELECT SOURCE

填入S3资讯:
•  Bucket Name
•  Access Key
•  Secret Access Key

03-1_step1

3.2 SELECT DESTINATION

选择目标,这边范例为 aws-gtcafe-us-east-2-temp-data。

如果想设定移转完成后,删除来源的Object (如下图),那IAM Policy 就要选AmazonS3FullAccess

03-2_step2

3.3 CONFIG TRANSFER

设定传输的周期,一次性、还是固定周期。设定完成后就会开始从S3 传资料到Cloud Storage。

03-3_step3

Compare Google Cloud Storage and AWS S3

下图是  Google Cloud Platform for AWS Professionals: Storage  比较Cloud Storage 和S3。

S3-VS-Cloud-Storage

我觉得两者的一些差异:
1. Cloud Storage支援Multi-regional,不需要管要从哪一个region复制。S3则需要透过Cross region replication但是有点麻烦。
2. Cloud Storage的UI反应很快,可以快速删除整个Bucket,使用感觉不错。S3 UI其实不怎么好用,像是无法删除整个Bucket ,而是要透过CLI下–recursive才行。

参考资料

•  Google Cloud Storage
• Amazon Simple Storage Service (S3) » Developer Guide
• Google Cloud Platform for AWS Professionals: Storage