BT

Apache Crunch:MapReduceプログラミングを容易にするJavaライブラリ

| 作者 Josh Wills フォローする 0 人のフォロワー , 翻訳者 編集部N フォローする 0 人のフォロワー 投稿日 2013年1月15日. 推定読書時間: 7 分 |

原文(投稿日:2013/12/27)へのリンク

Apache Crunch(インキュベーション)は、GoogleのFlumeJavaライブラリをベースにしたMapReduce パイプラインを作成するためのJavaライブラリである。MapReduceジョブを作成する他の高レベルなツール、例えば Apache Hive, Apache Pig, Cascadingのように、Crunchはデータの結合、アグリゲーションの実行、レコードのソートのような共通したタスクを実装するパターンのライブラリを提供する。これらの他のツールと違って、Crunchは全てのインプットデータが従わなければならない単一のデータ型を課すことはない。その代わりに、カスタマイズ可能な型システムを使って、時間列、HDF5ファイル、Apache HBaseテーブル、プロトコルバッファやAvroレコードのようなシリアライズされたオブジェクトなどの複雑なデータを直接扱うことができる程、Crunchは柔軟である。

Crunchは開発者が MapReduceで考えることを止めさせようとしているわけではなく、もっと簡単に考えられるようにしているのである。そのパワー関わらず、MapReduceは多くの問題に対する間違ったレベルの抽象である。最も面白い計算は、複数の MapReduceジョブからできており、よくあるケースは、論理的に独立した操作(例えば、データフィルタリング、データ射影、データ変換)をパフォーマンスのために1つの物理的なMapReduceジョブに組み立てる必要がある。

本質的に、CrunchはMapReduce上の薄いベニアとなるように設計されている。その意図は、MapReduceのパワー(すなわち開発者のMapReduce APIへのアクセス)を損なわずに、目の前の問題を正しい抽象レベルで扱うのを容易にすることである。

Crunchは昔のCascading APIを想起されるが、それぞれのデータモデルは全く違う。1つの単純で常識的な要約は、問題をデータフローとして考える人々は Crunch と Pigを好み、SQLスタイルのジョインで考える人は Cascading と Hiveを好む。

Crunchの概念

Crunchの中核となる抽象層はPCollectionで、分散した、イミュータブルなオブジェクト集合で、 PCollectionのサブインターフェースであるPTableはキー-値ペアを扱う付加的なメソッドを持っている。これら2つの中核クラスは、4つのプリミティブなオペレーションをサポートする。

  1. parallelDo: 既存の PCollectionにユーザー定義された関数を適用して、結果として新しいPCollectionを返す。
  2. groupByKey: キーによってPTable の要素をソートし、グループ化する( MapReduceジョブのシャッフルフェーズに相当)
  3. combineValues: 連想演算を実行して、groupByKey操作で値を集める。
  4. union: 2つ以上のPCollectionを1つの仮想の PCollectionとして扱う

Crunchの高階演算(join, cogroup, set操作など)はこれらのプリミティブによって実装されている。Crunchジョブプラナーはパイプライン開発者によって定義された演算のグラフを取り込み、演算を一連の依存する MapReduceジョブ列に分解し、それからHadoopクラスタ上でそれらを実行する。Crunchはまた、ローカルデータでパイプラインをテスト、デバッグするのに使うことができる、インメモリーの実行エンジンをサポートしている。

Crunchはカスタムなデータ型を操作する、多くのユーザー定義関数によって問題を解決するように設計されている。Crunchのユーザー定義関数は軽量ながら、基礎をなすMapReduce APIへのアクセスを完全に提供しているので、アプリケーションはそれらにアクセスできる。Crunchを利用する開発者はまた、Crunchプリミティブを使って、クライアントに高度なETL、機会学習、複雑なMapReduce ジョブ列を伴う科学計算機能を提供するAPIを定義できる。

Crunchを始めてみる

最新バージョンのCrunchのソースかバイナリをwebサイトからをダウンロードできる。あるいは、 Maven Centralに公開されているdependenciesを使える。
ソースコードにはいくつかのアプリケーションがついている。以下は、CrunchでのWordCount アプリケーションである。

import org.apache.crunch.DoFn;
import org.apache.crunch.Emitter;
import org.apache.crunch.PCollection;
import org.apache.crunch.PTable;
import org.apache.crunch.Pair;
import org.apache.crunch.Pipeline;
import org.apache.crunch.impl.mr.MRPipeline;
import org.apache.crunch.type.writable.Writables;

public class WordCount {
  public static void main(String[] args) throws Exception {
    // Create an object to coordinate pipeline creation and execution.
    Pipeline pipeline = new MRPipeline(WordCount.class);
    // Reference a given text file as a collection of Strings.
    PCollection lines = pipeline.readTextFile(args[0]);      // Define a function that splits each line in a PCollection of Strings into a     // PCollection made up of the individual words in the file.     PCollection words = lines.parallelDo(new DoFn

この例の最後のコードブロックがCrunchのリテラルAPIのパワーを示している。Javaコード1行で、2つの依存した MapReduceジョブを設定、実行しており(1つは PCollectionの要素をカウントし、2つ目がそのカウントを使ってトップ20の要素を見つけ出している)、そして2つ目のMapReduceジョブの出力をクライアントに読み込む。この時Java IterableとしてPCollectionを実体化するCrunchの機能を使う。

Crunchの最適化プラン

Crunchのプティマイザーの目的は、できるだけ少ない MapReduceジョブを走らせることである。大抵の MapReduceジョブはIOに負荷がかかるので、なるべく少ない回数データに手を加えるようにしたほうが、効率的である。公平に言って、どのオプティマイザー (Hive, Pig, Cascading, Crunch)も本質的に同じように動く。しかし他のフレームワークと違って、Crunchはそのオプティマイザ プリミティブをクライアント公開しているので、再使用可能で、より高レベルなタスク操作をずっと簡単にできる。例えば、ETLパイプラインを作ったり、Random Forest Modelのアンサンブルを作成し、評価するようなタスクがある。

結論

Crunchは現在、Apacheでインキュベート期間であり、我々はライブラリの改善にコミュニティ (プロジェクト ページを参照)からのコントリビューションを喜んで歓迎する。特に我々はもっと効率的な MapReduceコンパイル(コストベースの最適化を含む)、新しい MapReduceデザインパターン、 そしてもっとHCatalog, Solr, ElasticSearchのようなデータソースとターゲットをサポートするためのアイデアを求めている。またCrunchを ScalaClojureのような他のJVM言語に移植したり、同時にRで MapReduceパイプラインを作成するためにCrunchを使うツールを開発する幾つものプロジェクトがある。

著者について

Josh Wills氏は、 Data Scienceで Clouderaの Directorであり、顧客やエンジニアと協働で、広範囲の業界に渡るHadoopベースのソリューションを開発している。彼は、Duke大学から数学で学位を、Texas大学 ?Austinからオペレーションズリサーチで修士を取得している。

この記事に星をつける

おすすめ度
スタイル

こんにちは

コメントするには InfoQアカウントの登録 または が必要です。InfoQ に登録するとさまざまなことができます。

アカウント登録をしてInfoQをお楽しみください。

あなたの意見をお聞かせください。

HTML: a,b,br,blockquote,i,li,pre,u,ul,p

このスレッドのメッセージについてEmailでリプライする
コミュニティコメント

HTML: a,b,br,blockquote,i,li,pre,u,ul,p

このスレッドのメッセージについてEmailでリプライする

HTML: a,b,br,blockquote,i,li,pre,u,ul,p

このスレッドのメッセージについてEmailでリプライする

ディスカッション

InfoQにログインし新機能を利用する


パスワードを忘れた方はこちらへ

Follow

お気に入りのトピックや著者をフォローする

業界やサイト内で一番重要な見出しを閲覧する

Like

より多いシグナル、より少ないノイズ

お気に入りのトピックと著者を選択して自分のフィードを作る

Notifications

最新情報をすぐ手に入れるようにしよう

通知設定をして、お気に入りコンテンツを見逃さないようにしよう!

BT