BT

InfoQ ホームページ ニュース Corona、FacebookにおけるHadoopのスケーラビリティを改善する

Corona、FacebookにおけるHadoopのスケーラビリティを改善する

ブックマーク

原文(投稿日:2012/11/15)へのリンク

 

FacebookがCoronaをオープンソース化した。これはFacebookがHadoop MapReduceのスケジューリングを改善するために自社開発したソフトウェアだ。

Coronaは2つの重要なタスク、クラスター管理とジョブトラッキングから構成される。これはMapReduceスケジューラ/リソースマネージャーを改善するApache YARNのコンセプトと非常によく似ている。FacebookのエンジニアがCoronaについて、その背景を含めて説明している。彼らはYARNを再利用しなかった理由をこう説明する。

CoronaではなくApache YARNを使う可能性についても検討していたことも言っておくべきでしょう。しかしながら、(何ペタバイトものアーカイブデータによる強い要件がある)HDFSの私たちのバージョン上でYARNが使えるか調査した結果 、修正に膨大な時間がかかる、リスクの高い非互換性が多数あることがわかりました。それに、YARNがいつFacebook規模の負荷環境で動くようになるか、私たちにはわかりませんでした。

HadoopのFacebookバージョンにおける大きな違いのひとつがAvatarNodeだ。これはクラスタにおける全ノードのホットスタンバイを作る。そして可用性の高いNameNodeを作って、ダウンタイムなしにソフトウェアアップグレードすることまでできる。データウェアハウスにおける何百ペタバイトものデータ(毎日0.5ペタバイトもの新しいデータがやってくる)を処理するような会社にとって、これは極めて重要だ。

現在のところ、CoronaはMapReduceジョブを実行できるが、FacebookはPeregrineのような他のアプリケーションからのジョブのスケーリングにも使おうとしている。

Apache Hadoopは大規模分散コンピューティングを可能にするプロジェクト群だ。InfoQのHadoopに関するリソースを見てみよう。

 

この記事に星をつける

おすすめ度
スタイル

こんにちは

コメントするには InfoQアカウントの登録 または が必要です。InfoQ に登録するとさまざまなことができます。

アカウント登録をしてInfoQをお楽しみください。

HTML: a,b,br,blockquote,i,li,pre,u,ul,p

コミュニティコメント

HTML: a,b,br,blockquote,i,li,pre,u,ul,p

HTML: a,b,br,blockquote,i,li,pre,u,ul,p

BT

あなたのプロファイルは最新ですか?プロフィールを確認してアップデートしてください。

Eメールを変更すると確認のメールが配信されます。

会社名:
役職:
組織規模:
国:
都道府県:
新しいメールアドレスに確認用のメールを送信します。このポップアップ画面は自動的に閉じられます。