BT

Googleが新開発のCloud Storage ConnectorでHadoopパフォーマンスを改善

| 作者: Richard Seroter フォローする 5 人のフォロワー , 翻訳者 吉田 英人 フォローする 0 人のフォロワー 投稿日 2014年2月9日. 推定読書時間: 5 分 |

原文(投稿日:2014/01/20)へのリンク

Hadoopを使ったビッグデータ処理は現在,さまざまなクラウド環境上で行われている。しかしGoogleは,ストレージサブシステムへの投資によって,そこから一歩抜き出ようとしている。同社が新たに開発したコネクタを使えば,従来の分散ファイルシステムに代えて,Google Cloud Storage上でHadoopを直接実行できるようになるのだ。これにより,ストレージコスト低減とデータレプリケーション数の削減が実現できると同時に,プロセス全体がこれまでより簡略化される。

2003年にGoogle File Systemの,2004年にはMapReduceの研究成果を発表して以来,GoogleはHadoopにおいてひとつの役割を果たしてきた。同社の商用HadoopサービスであるHadoop on Google Cloud Platformには,"Googleインフラストラクチャに最適化されたセットアップスクリプトとソフトウェアライブラリのセット" という説明がある。Hadoopジョブでは,HDFS (Hadoop Distributed File System)の動作するローカルディスクベースのストレージを使用するのが一般的である。しかしこの新しいGoogle Cloud Storage Connector for Hadoopでは,それを簡略化しようとしている。このコネクタを使うことで,データをHDFSストアにコピーしなくても,Google Cloud Storage上でHadoopを直接実行することが可能になるのだ。Google Cloud Storage – ベースとなっているのはColossusという同社の最新ストレージ技術である – は,大容量データの保存を目的とした高可用性オブジェクトストレージサービスで,米国と欧州のデータセンタで提供されている。

コネクタ発表のブログポスト中でGoogleは,Hadoop処理において,HDFSに代えてGoogle Cloud Storageを使用することのメリットをいくつも説明している。ジョブ開始の高速化,データ可用性の向上,データコピーの減少によるコスト削減,Hadoopクラスタ削除後のデータ維持,ファイルシステムのメンテナンス作業の排除,総合的なパフォーマンス向上といった具合だ。

Hadoopのパフォーマンスは,AccentureのTechnology LabsがGoogle Cloud Platformブログに寄せたゲスト記事の中心的な話題だった。記事の中で同社は,新しいGoogle Cloud Storage Connector for Hadoopを試用して,その結果を公表している。Accentureでは,物理的なサーバとクラウド環境上のHadoopパフォーマンスを比較するために,ひとつのベンチマークを考案した。Google Compute Engine上の最初のセットアップは,Hadoopのベストプラクティスには沿っているが,かなり複雑なものだった。

実験を行うために私たちは,Google Compute Engineインスタンスとローカルディスク,Hadoopクラスタ内でローカルHDFSとデータのコピー入出力を行うストリームMapReduceジョブを用意しました。

Figure 1に示すように,このデータフロー方法でベンチマーク用のデータを取得するには,追加的なコピー入出力フェーズを含んだすべてが実行時間として必要になります。実行時間の増加以外にも,このデータフローモデルでは,実験の起動や管理のために,かなり複雑なコードが必要になります。テストベンチスクリプトを修正して必要なコピー処理を加えなければなりませんし,修正したスクリプトが正常に動作することを確認するためのデバッグやテストの時間も確保しなければなりません。

Googleから新しいコネクタを使ったテストを提案されたAccentureチームは,そのメリットを活用できるようにHdoopのセットアップを変更した。

コネクタを導入することにより,データフローモデルを変更してコピー処理を不要にすることができました。Google Cloud Storageに直接アクセスしてデータを入力することや,出力データを書き込むことも可能になりました。

Figure 2はMapReduceジョブによる入力データの直接アクセスと,Google Cloud Storageへの直接書き込みを示しています。ストリームMapReduceジョブでコピーを行う必要はまったくありません。入出力コピーの削除による実行時間短縮だけではありません。入力データをGoogle Cloud Storageからアクセス可能になったことで,予想外のパフォーマンス的なのメリットもありました。既存のHDFSアクセスに比較して,入力データの可用性が向上したことで,実行時間をさらに短縮することができたのです。

新しいコネクタは,Hadoopテスト全般で実行時間を大幅に短縮している。この結果はコピー入出力の不要化,ノード間の一環したデータ分散,データ転送の高速化によるものだ。最後にもうひとつ,リモートストレージがローカルストレージを性能的に凌駕するとは思われない,という意味から見て,極めて意外な結果がある。

Google Cloud Storageが実現するリモートストレージのスケールと容量は,大容量のデータを移動し保存する上で,物理的なサーバでは実現できないユニークな方法を可能にします。

直感には反しますが,私たちの実験では,データの可用性向上を目的としたリモートストレージの方が,ローカルデータに依存するローカルディスクHDFSよりも,性能の面で優れていたのです。

Accentureによる今回の調査は,Google Cloud Platform上のHadoop処理が性能価格比の面で物理的サーバより優れていることと同時に,クラウドサーバのパフォーマンスチューニングは複雑だが価値のある行為であることを示している。

この記事に星をつける

おすすめ度
スタイル

こんにちは

コメントするには InfoQアカウントの登録 または が必要です。InfoQ に登録するとさまざまなことができます。

アカウント登録をしてInfoQをお楽しみください。

あなたの意見をお聞かせください。

HTML: a,b,br,blockquote,i,li,pre,u,ul,p

このスレッドのメッセージについてEmailでリプライする
コミュニティコメント

HTML: a,b,br,blockquote,i,li,pre,u,ul,p

このスレッドのメッセージについてEmailでリプライする

HTML: a,b,br,blockquote,i,li,pre,u,ul,p

このスレッドのメッセージについてEmailでリプライする

ディスカッション

InfoQにログインし新機能を利用する


パスワードを忘れた方はこちらへ

Follow

お気に入りのトピックや著者をフォローする

業界やサイト内で一番重要な見出しを閲覧する

Like

より多いシグナル、より少ないノイズ

お気に入りのトピックと著者を選択して自分のフィードを作る

Notifications

最新情報をすぐ手に入れるようにしよう

通知設定をして、お気に入りコンテンツを見逃さないようにしよう!

BT