Translate

2010年11月5日金曜日

Amazon RDSへ大量データ投入

ある検証アプリでAmazon RDSを使っているのだけど、
大量データ
(といっても110万件程度のデータだが)
をローカルのPCからJDBC経由で投入してみた。

が、大失敗。
投入が遅い遅い。
今回はリージョンをシンガポールしていたので
日本からAWSを活用するには最も近い位置なのだけど、
約30時間もかかってしまった。

1分で約620件しかinsertできない..

適当に作ったプログラムなので
10件に1回コミットかけているにしても
この速度は遅すぎだ。

同一リージョンのEC2上からデータ投入すれば
もっと早いとは思うが、
これからRDSやEC2上にRDBつくって
ローカルからデータを投入しようとする人は
十分な時間を用意しておいてください。

0 件のコメント:

既存アプリケーションをK8s上でコンテナ化して動かす場合の設計注意事項メモ

既存アプリをK8sなどのコンテナにして動かすには、どこを注意すればいいか..ちょっと調べたときの注意事項をメモにした。   1. The Twelve Factors (日本語訳からの転記) コードベース   バージョン管理されている1つのコードベースと複数のデプロイ 依存関係 ...