Netflixは、因果分析に伴う煩雑な作業負荷を軽減するため、観察データに基づく因果推論向けのエージェント型ワークフローをオープンソースとして公開した。このワークフローは、観察データと人間が作成した分析計画を入力として受け取り、エージェントがアクター・クリティックループを用いて因果関係を推定し、レポートを作成するとともに、次に取るべきステップを提案する。
このエージェント型ワークフローは、Netflixで既に利用されている観察データに基づく因果推論ツールを土台としている。目的は、感度分析や複数回の分析反復の管理といった、ミスが発生しやすい反復作業を自動化し、問いの設定や結果の評価といった高次の判断を人間が担うことにある。OCI分析はTarget Trial Emulationとして定式化されており、分析対象の問いに答えるための最適なA/Bテストを見つける問題として扱われる。Netflixチームは、このワークフローをAtlantic Causal Inference Conferenceの競技用データセットで評価し、ベンチマークシステムと比較して競争力のある性能を確認したという。
因果推論にエージェントを活用する際の課題の1つは、正解データが存在しないタスクにおいて、エージェントの性能をどのように評価するかという点にあります。この課題に対応するため、このワークフローではプロセス監査と人間による監督を組み合わせています。また、他の研究者や開発者がこのワークフローを学習し、批評・検証できるよう、軽量でスタンドアロン版をオープンソースとして公開しました。Netflixは、この取り組みが正解データのない環境におけるエージェント評価の研究や開発を促進することを期待しています。
人間のアナリストは、テンプレート化されたJupyter Notebookと分析計画を作成してプロセスを開始する。アクターエージェントは、その分析計画に基づいて分析仕様(spec)を作成し、Notebookのパラメータを設定して実行する。クリティックはNotebookの出力結果をレビューし、「not_satisfactory」「satisfactory_with_caveats」「fully_satisfactory」のいずれかで評価を行うとともに、仕様の改善案を提案する。
OCI Agent Workflowの概念図 出典:Netflix Blog
Netflixは、このシステムの活用例として、ゲームなどの新しいエンターテインメントカテゴリが継続利用率に与える影響を推定するケーススタディを公開した。分析計画では、「処置」を新カテゴリとの接触日数、「結果」を2か月後の継続利用率として定義した。ベースラインとして、この分析計画をそのままClaudeモデルに入力したところ、Claudeは単純な線形回帰分析を選択し、その推定効果を算出した。
研究チームがOCI Agent Workflowを利用したところ、推定された効果はベースラインのわずか25%となった。クリティックエージェントは、アーリーアダプターバイアスの可能性やプラセボテストの失敗など、複数の問題点を指摘した。このワークフローは、こうした状況やその他の分析シナリオに対応するためのプレイブックをエージェントに提供しているほか、パラメータを調整した複数の分析を自動的に実行できる。
OwkinのシニアプロダクトマネージャーであるFabio Piazza氏は、LinkedInへの投稿で次のように述べている。
Netflixは、実運用におけるAI活用の基準を静かに引き上げ続けています。エージェントの出力結果を確認するだけでなく、プロセスのあらゆる段階を透明化している点が特徴です。エージェントは計画、仕様、グラフ、Notebookを公開し、人間が内容を確認したり再実行したりできるようにしています。また、このような「プロセス監査」と人間による監督を組み合わせるとともに、分析を実行するエージェントと、その結果を批評して課題を洗い出すエージェントに役割を分担させています。これは、AIの最前線が単なるモデル性能の向上だけでなく、それを取り巻くワークフローの改善にもあることを示す好例です。
Indeed.comのソフトウェアエンジニアリング担当ディレクターであるTaikai Takeda氏は、Xへの投稿で次のように述べている。
因果推論にはあまり詳しくないため、LLMにそのまま任せると中途半端な回帰分析を行い、その結果に満足してしまうかもしれません。OCIは、エージェントが答えを出すこと自体を目的とするのではなく、正しい分析手順を進めながら、後から専門家が検証できる成果物を残すように設計されています。公開データセットを用いた実験やケーススタディも含まれており、内容を理解しやすい記事になっています。AIエージェントは、専門性の高い作業への参入障壁を下げるのが本当に得意ですね。
oci-agentのソースコードはGitHubで公開されています。