BT

新しい あなたは、アーリーアダプター?それともイノベーター?そんな皆様に、InfoQの新機能をご案内しています。詳細はこちら

CloudCrowd - 100% Rubyのクラウドソリューション

| 作者: Sebastien Auvray フォローする 0 人のフォロワー , 翻訳者 大田 緑 - (株)チェンジビジョン  人のフォロワー 投稿日 2009年9月24日. 推定読書時間: 1分未満 |

原文(投稿日:2009/09/14)へのリンク

1年前、ニューヨークタイムズとProPublicaは、Knight News Challenge 2009のコンテストにおいて助成金の申し出を受けた。DocumentCloudは、71万9500ドルの賞金を受け取り、ドキュメントを統合して調べることを容易にするドキュメントベースのアプリケーションを構築する使命を負った。これは同時に実現するには非常に高価な処理タスクであるため、DocumentCloudは100% RubyでCloudCrowdというクラウドのソリューションを実装することを決めた

DocumentCloud はもともとPDF処理にCloudCrowdを使用しているが、CloudCrowdは以下のような他の高価なタスクにも利用できる。

  • 画像の生成やリサイズ
  • PDF上でテキストの抽出やOCRを実行
  • ビデオの暗号化
  • 大規模ファイルやデータベースの移行
  • ウェブスクレイピング

CloudCrowdアーキテクチャのドキュメントでは、以下のように述べられている。

CloudCrowdは、小さな仕事をたくさん行うためのものではありません。巨大で高価な仕事を適度に行うものです。

CloudCrowdは、MapReduce フレームワークの影響を受けている。そのアーキテクチャは、実際の処理を行う作業デーモンによって動くセントラルサーバに基づく。そして、REST-JSON API と何が起きているのかモニタリングするウェブコンソールとともに公開されている。CloudCrowdは、ファイルストレージとしてAmazon S3を使うが、別のストレージも要望があれば追加できる。

InfoQは、作成者のJeremy Ashkenas氏と情報交換する機会があった。Jeremy氏は、DocumentCloudで働き始めたばかりで、Ruby-Processingの作成者でもある。

InfoQ: RightScale GemsNaniteと比べてCloudCrowdはどうか? なぜ自分のソリューションを作り出したのか?

Jeremy Ashkenas氏: 実は、CloudCrowdはRightScale AWS gemを使います。そして、すべての結果(中間時と終了時の両方)に対して、分散データストアとしてS3を使います。話が脱線しますが、RightScale gemを通してEC2インスタンスをさらに構築することで、CloudCrowdのクラスタの自動スケーリングをサポートすることは、興味深い将来の方向性であり、素晴らしい貢献になるでしょう。セントラルサーバは、自動スケーリングの決定に必要なすべての情報を持ちます。このサーバは、作業数、場所、状態、作業待ちの列の長さを知っています。後は、インスタンスの構築のためのアルゴリズムを決定し、新しいインスタンスに必要な依存関係がすべてインストールされていることを確認するだけです。

Naniteと比べて、CloudCrowdは簡単で分かりやすいツールであろうとしています。そのため、Rubyマニアたちは、簡単に理解してカスタマイズできるでしょう。CloudCrowdは、ActiveRecordと標準のActiveRecordデータベース、伝達やスケーリングのためのHTTP や S3のように、たいていのRuby開発者が慣れ親しんでいる技術を使います。これらすべては、ひと際優れてデバックしやすく、作成が容易です。最小のCloudCrowdアクションは、たった1つのRubyのクラスで、1つの「プロセス」メソッドを定義しています。このメソッドは、並行して計算する部分を実行し、それをS3に保存します。これは、HadoopやNaniteのような産業に強いシステムの1つの選択肢として考えられるべきです。ErlangやAMQP、RabbitMQは必要ありません。非常にサイズが大きくなることを約束するものではありませんが、たいていの使用には十分持ちこたえられるにちがいありません。多くの部分は、どのように効率的に問題に対応できるかによるでしょう。

InfoQ: なぜRubyを使ったのか? Erlangなどの他の選択肢について考えたか?

Jeremy Ashkenas氏: 私がRubyを使ったのは、DocumentCloudの残りの部分を一緒にまとめるために使う計画を立てていたからです。例に挙げられたアクションの多くの中で実際の力仕事はRuby自身の中で実行されているのではなく、適当なツールから取り出されていることに注目してください。Rubyは物を結びつける言語として優れていて、実際の画像処理やPDF変換、ビデオの暗号化は、GraphicsMagickやTesseract、FFmpegなど適当なところへ渡されるでしょう。

この記事に星をつける

おすすめ度
スタイル

こんにちは

コメントするには InfoQアカウントの登録 または が必要です。InfoQ に登録するとさまざまなことができます。

アカウント登録をしてInfoQをお楽しみください。

あなたの意見をお聞かせください。

HTML: a,b,br,blockquote,i,li,pre,u,ul,p

このスレッドのメッセージについてEmailでリプライする
コミュニティコメント

HTML: a,b,br,blockquote,i,li,pre,u,ul,p

このスレッドのメッセージについてEmailでリプライする

HTML: a,b,br,blockquote,i,li,pre,u,ul,p

このスレッドのメッセージについてEmailでリプライする

ディスカッション

InfoQにログインし新機能を利用する


パスワードを忘れた方はこちらへ

Follow

お気に入りのトピックや著者をフォローする

業界やサイト内で一番重要な見出しを閲覧する

Like

より多いシグナル、より少ないノイズ

お気に入りのトピックと著者を選択して自分のフィードを作る

Notifications

最新情報をすぐ手に入れるようにしよう

通知設定をして、お気に入りコンテンツを見逃さないようにしよう!

BT