2016-04-11 109 views
1

S3バケット内に、すべて同じ形式(First、Last、Location、Date)でフォーマットされた多数の.CSVファイルを含むディレクトリがあります。S3からRDSにCSVをコピーするAWSデータパイプラインMySQL

私はデータパイプラインを使用して、これらのCSVファイルの内容でRDS MySQLデータベーステーブルを作成しようとしています。幸いにも、Amazonはこのアクションのテンプレートをすでに提供しています。 http://docs.aws.amazon.com/datapipeline/latest/DeveloperGuide/dp-template-copys3tords.html

「RDS MySQLのテーブルにロードS3のデータは、」私はそれが要求していること、適切なすべての情報を記入しています。

パイプラインをアクティブにすると、CopyActivityとShellCommandActivityが作成されます。コピーアクティビティでデータがコピーされ、シェルコマンドアクティビティでテーブルが作成されます。シェルコマンドアクティビティが正常に自分のRDSに接続します。

しかし、私の問題は、実際にテーブルを作成せずにShellCommandActivityが「FINISHED」状態に切り替わり、CopyActivityが「WAITING_ON_DEPENDENCIES」で停止することです。このプロセス全体には約20分かかります。

すべての役割はすべてのサービスに完全にアクセスできます。

誰でも洞察力がある場合は、コメントしてください。私はこの問題に2週間近く執着しています。

答えて

0

私は、作成するテーブルからすべてのデータを選択するSQLActivityを試してみると、この新しいSQLActivityはCopyActivityの依存関係になります。

関連する問題