InfoQ

News

MapReduceが牽引~Amazon EC2をサポートするEclipseプラグインがリリース

作者 Scott Delap, 翻訳者 松本 清一 投稿日 2007年8月31日 午前12時2分

コミュニティ
Java
トピック
クラスタリング&キャッシング
タグ
Hadoop,
EC2,
Amazon

IBMのAlphaworksのウェブサイト上で、Hadoopを使用したアプリケーションの開発を簡単にするためのEclipseプラグインをリリースしたと発表された。Hadoopは、当初、Googleがクラスタによる大規模データの並列処理として広く利用している分散ファイルシステムと、MapReduceのプログラミング構造を含んだNutchのために作成されたものであった。今年は統合作業が行われ、AmazonのEC2プラットフォーム上で、HadoopのMapReduceアプリケーションを実行し、ストレージとしてAmazon S3プラットフォームの利用が簡単になった。Amazon Web Servicesのブログでは、次のように書いている。EC2インスタンス間の帯域と、S3に格納されたデータは従量制で請求されないので、大量のデータを処理するのにコスト効率のよい方法である。

IBMのMapReduceプラグインは、以下の特徴がある。

  • JavaプロジェクトをJARファイルで、Hadoopサーバ(ローカル、リモート共に)上にパッケージ、デプロイが可能
  • 開発プロセスを支援するcheat sheets
  • Hadoopサーバ、Hadoop分散ファイルシステム(DFS)、現在のジョブの状態を見るための分離したパースペクティブ
  • MapReduceフレームワークを基にクラスの開発を促進するエキスパート

さらに、改善されたcheat sheetsを含んでいて、Mac OS Xとも互換性がある。そのプラグインは、HadoopとのやりとりにSCPとSSHを使用し、ジョブの状態監視にHTTPを使用する。.

(原文は2007年3月28日にリリースされた記事です)

ブックマーク
digg+,
reddit+,
del.icio.us+,
dzone+,
Hatena

No comments

返信

特集コンテンツ一覧

トップスポーツチームの監督に教わる秘訣

この論文では、氏が発見した原則を要約し、その原則をいかにしてソフトウェア開発に応用するかを説明します。

事例研究:Dutch Railwaysのプロジェクトにおける分散拠点でのスクラム・プロジェクト

この記事では、私達がどのようにして大規模(240人月、10万行強)でインドとオランダの開発者も参加したスクラム・プロジェクトを成功させたのかを示しています。

Agile2008チーム参加レポート - 帰国そして変化

Agileカンファレンスに「参加者としてだけでなく、発表者として参加しよう」を掲げたチームgoyattomは、サブミッションを提出し、7つのセッションが日本から選択されました。参加者はカンファレンスで各々の発表や、各セッションへの参加、諸外国のエンジニアとの出会い、ステージ上で DearXPを熱演などの様々な思い出を抱えて、無事日本に戻ってきました。

SilverlightとJavaのインターオペラビリティ

マイクロソフトのRobert Bellが、SilverlightとJavaを使用したインターオペラビリティのシナリオを紹介し、サンプルコードを例にとってアーキテクチャの手引きを提供します。

Agile2008 チーム参加レポート - カンファレンス参加編

Agileカンファレンスに「参加者としてだけでなく、発表者として参加しよう」を掲げたチームgoyattomは、サブミッションを提出し、7つのセッションが日本から選択されました。サブミッションが選択された人、そうでない人も含めて、個々の目的意識の確認、膨大なプログラムから聞きたいセッションの選択、旅行の準備、プレゼンテーションの準備の期間を終えて、無事当日を迎えました。

Agile2008 チーム参加レポート - 動機/準備編

筆者はアジャイルソフトウェア開発についての年に一度の国際会議であるAgile2008に初めて参加してきました。今年の日本からの参加者の数は14名にも及び、発表者は5名、受け持ったセッションは8つに及び、例年にない活躍を見せました。なぜ今年のAgile2008では、これほど多くの日本人が参加し発表に至ったのか? そのレポートをお届けします。

Javaトラブルシューティングメルマガ総集編 2008/08~09

エスエムジーでは、Java全般を対象にしたトラブルシューティングサービス「JaTS」を提供しています。この記事では、前回に引き続き、JaTSにて蓄積したトラブル事例とその解決ノウハウの一部をお送りしている「Javaトラブルシューティングメールマガジン」(JTSMM)の総集編として、過去2ヶ月のトラブル事例と追加情報をダイジェストとして提供いたします。

モデル駆動アプローチがうまく機能しない(しなくなる)8 つの理由

この記事では、モデル駆動アプローチがうまく機能しない、または機能しなくなることによって期待した結果が実現できなくなる 8 つの理由について書きたいと思います。