KubeCon EU基調講演：生成AIを用いた、責任あるイノベーションを起こすための行動を呼びかける

原文リンク(2024-04-04)

KubeCon EUの午前中の基調講演は、クラウドネイティブコミュニティに対して、今年のイベントの焦点であった重要な技術やテーマの進化に参加し、支援するよう、まさに行動を呼びかけるものであった。最初の呼びかけはAIに関するもので、生成AIの計算ニーズに必要なインフラを拡張する手助けを求めるものだった。この呼びかけは、クラウドネイティブ・プラットフォームの「ゴールデン・パス」をグリーンで持続可能なものにし、あらゆるイノベーションが責任あるものであることを保証するよう奨励することとバランスが取られていた。

KubeCon and CloudNativeCon EU 2024の初日の基調講演では、AIとKubernetesの組み合わせに焦点が当てられ、クラウドネイティブ・エコシステムが、生成AIの"ゴールドラッシュ"の求める計算ニーズに対して、どのように役立つかが探求された。デモから始まり、CNCFのエグゼクティブ・ディレクターである Priyanka Sharma氏は、LLaVaモデルをOllamaで実行し、聴衆のイメージを分析した。続けて彼女は、CNCF AIワーキンググループのホワイトペーパーの一部である、AIアプリケーションのためのCNCFリファレンスアーキテクチャを紹介した。

基調講演は、Googleのリード・プロダクト・マネージャー（生成モデル）である Paige Bailey氏、Mistralの最高技術責任者（CTO）である Timothee Lacroix氏、Ollamaの創設者である Jeffrey Morgan氏からなるパネルディスカッションへ続き、クラウドネイティブなAIエコシステムのニーズを探った。同氏らは今日、AIエンジニアとオペレーション・エンジニアの間には大きなギャップがあると感じており、これは数年前のオペレーション・エンジニアとソフトウェア開発者のギャップと似ている。より多くのAIアプリケーションが研究所を出て実生活に移行する中、特にインフラエンジニアがAIエンジニアのニーズに追いつくためには、全体的にキャッチアップが必要であるため、協力することが重要になると、3名全員が結論づけた。

パネルディスカッションでは、開発者が自分たちのシナリオに最適なAIモデルのサイズを発見するにつれて、エコシステムが変化していくと考えられた。また、ハードウェア・メーカーも、異なるシナリオにより効率的に対応できるよう、さまざまなオファーを提供し始めるだろうと予想した。AIのユースケースは、トレーニング、ファインチューニング、推論の3つのカテゴリーに分類され、それぞれに異なる要件がある。パネルによれば、モデルから使用されるツールまで、すべてをオープンソースとして公開する必要があるという。ラクロワはさらに一歩進んで、ハードウェアさえもオープンソースにすべきだと述べた。

Sharma氏に招かれた3人のパネリストは、オープンソースコミュニティに対する今後の希望を述べた。

Paige Bailey氏:多くの実験が有料サービスの上で行われているとしても、コミュニティが、純粋にオープンソースのツールで有料サービスのAPIを使っているときの経験を再現するようなパターンを作り始めることが、将来にとってもっとも重要です。

Timothee Lacroix氏:我々はハードウェアを抽象化する必要があります。本番稼動時にGPUが変な死に方をしようが、インフラを拡張する必要があろうが、気にする必要はないです。

Jeffrey Morgan氏:これらのモデルは、"真空状態"で実行されているわけではない。我々は、スケールするアプリケーションを実行するための強力なツールの公正なシェアを構築*しました。私の大きな課題は、モニタリング、スキャン、ロギングのような既存のツールをどのようにAIの世界に導入するか、そしてAIの状況は急速に進化しているため、それをいかに迅速に行うかということです。

AIの高揚感とのバランスを取るために、基調講演を通して伝えられたもうひとつのメッセージは「効率性」だった。Shopifyのプロダクション・エンジニアリング・ディレクターであるAparna Subramanian氏は、クラウドネイティブ・コミュニティに対し、「責任を持ってイノベーションを起こす」能力を提供するアーキテクチャとプラットフォームを構築するよう促した。この提言を無視すれば、コストだけでなく、二酸化炭素排出量や水の消費量も増えることになる。

基調講演の次は、Kubernetesで作業する場合でも、非常にインパクトのある方法でアプリケーションのリソースフットプリントを改善するための実現可能なランタイムオプションとして、"WebAssembly（Wasm）"が紹介された。Zeissの著名なアーキテクトであるKai Walter氏が提供した例では、ランタイムとしてWasmを使用するだけで、アプリケーションで使用されるメモリが423MBから2.4MBに減少した。基調講演では、SpinKubeがサンドボックス・プロジェクトとしてCNCFに寄贈されることも発表された。

クラウド・コンピューティングをより環境に優しいものにするというプレッシャーは、クラウド・ベンダーだけでなく、クラウド・コンシューマーにもかかっている。Deutsche Bahnのプラットフォーム戦略およびイネーブルメント担当チーフアドバイザーであるGualter Barbas Baptista氏は、インフラをより環境に優しいものにすることで、2015年のパリ気候協定で定められた2度削減目標の達成に貢献できると強調した。同氏は、インフラが必要でないときはオフにすることが簡単な方法であり、それによってコストを節約し、二酸化炭素排出量を減らすことができると述べた。また、ソフトウェア開発者はアプリケーションをより効率的に構築する力を持っていることを強調した。

業界全体でクラウドネイティブなプラットフォームやインフラへの移行が続いているため、CNCFコミュニティは迅速に行動を起こし、プロジェクトに参加するよう奨励された。これは、コミュニティが新たにサンドボックス化、インキュベート、"卒業"プロジェクトを祝福する中で特に重要だった。

2024年には、Kubernetesプロジェクトも発足から最初の10年を迎える。CNCFチームは、今後1年間にわたり、世界中で記念イベントが開催されることを発表した。クラウドネイティブ・テクノロジーの採用に伴う課題の重要性と複雑性を考慮し、コミュニティはできる限りの貢献をするよう奨励された。例えば、"Zero to Mergeプログラム"は、新しい貢献者のスタートを支援することを目的として位置づけられた。