CloudflareはAgents Weekの一環として、AIエージェントにセッション間、コンテキスト圧縮後、再起動後でも持続するメモリを提供するマネージドサービス、Agent Memoryのプライベート・ベータ版を発表した。すべてをコンテキストウィンドウに詰め込むのではなく、このサービスは会話から構造化メモリを抽出し、必要に応じて関連情報のみを取得する。CloudflareエンジニアリングチームのTyson Trautmann氏とRob Sutter氏が書いている:
私たちは、私たちのプラットフォーム上で見られるワークロードが既存アプローチでは十分に解決できない課題を露見させたため、Agent Memoryを構築しました。実際のコードベースや本番システムに対して数週間から数か月にわたって稼働するエージェントには、クリーン・ベンチマークデータセットで高い性能を示すメモリではなく、成長しても有用性を維持できるメモリが必要です。
このサービスは業界でコンテキストロットと呼ばれる問題に対処する。コンテキストウィンドウが100万トークンを超えても、研究によればコンテキストが埋まるにつれて出力品質低下することが示されている。開発者はすべてを保持して品質低下を受け入れるか、積極的に枝刈りして後にエージェントが必要とする情報を失うかという切迫した状況に直面している。研究ではモデルは少ない量であっても関連性の高いコンテキストを用いた方がより良い結果を生成できる可能性も示されており、メモリは単なるストレージ管理ツールではなく、品質向上手段としても有用である。
Cartesianチーフソフトウェア・アーキテクトかつInfoQエディター Eran Stiller氏が、この発表はエージェントシステムの設計方法におけるより広範な変化を示唆しているとLinkedInに記載した。「エージェントにメモリが必要になった瞬間、もはやチャットの問題ではありません。アーキテクチャの問題です」とStiller氏は書き、メモリが「モデルの機能というよりも、インフラストラクチャに近いものになり始めています」と主張、ライフサイクル管理、検証、コンパクション、分離境界が重要な関心事となりつつあるとしている。
実務者にとって重要なのはアーキテクチャの詳細である。データ取り込み側では各メッセージに対して、べき等な再取り込みを実現するためのコンテンツアドレス指定されたSHA-256 IDが付与される。抽出器は2つの並列パスで動作する:約1万文字単位でチャンク化する広範囲パスと、名前、価格、バージョン番号などの具体的な値にフォーカスする詳細パス。検証器はメモリを4種類:事実、イベント、指示、タスク、に分類する前に8つのチェックを実行する。事実と指示は正規化されたトピックによりキー化され、新しいメモリは古いメモリを削除するのではなく上書きされる。
取得側では5つのチャネルが並列実行され、Reciprocal Rank Fusion(RRF) を用いて結果を融合する:全文検索、正確なファクトキー検索、生メッセージ検索、直接ベクトル検索、語彙の不一致を補足するために宣言的回答を生成する HyDEベクトル検索。Cloudflareは抽出と分類にはデフォルトで Llama 4 Scout(17B MoE)を使用し、統合のみに Nemotron 3(120B MoE)を使用、より大規模なモデルが有効であったのは統合段階のみであると判断した。
(出典: Cloudflare - 会話入力から検証、分類を経て保存に至るAgent Memory取り込みパイプライン)
共有メモリ機能こそがAgent Memoryを個々のエージェント・リコールを超えた存在にしている。メモリプロファイルはひとつのエージェントに属する必要はない。チームはひとつのプロファイルを共有できるため、あるエンジニアのコーディングエージェントが学習した開発標準、アーキテクチャ上の意思決定、暗黙知をチーム全員が利用できる。Cloudflareはすでにこれを社内で活用している。Agent Memoryに接続したエージェント型コードレビューアは、以前に特定パターンがフラグされ、作成者がそれを維持する選択をした時、それ以上指摘しないことを学習した。
このサービスについて詳細な評価記事を書いたKristopher Dunham氏は、検討に値するいくつかのトレードオフを報告した。ベンダーロックインに関して、Dunham氏は述べた:
エクスポート可能であるとは生の事実を抽出できるという意味です。しかし、それは取り込みパイプラインがポータブルであることを意味するわけではありません。
同氏は抽出品質が開発者の制御下にない二次モデルに依存している点にも言及し、重要なファクトについては自動取り込みに頼るのではなく、rememberツール を明示的に使用することを推奨した。あらゆるエージェントメモリサービスの導入を検討しているチームに対して、Dunham氏は最初のアーキテクチャ上のステップとして会話履歴と学習済みファクトを分離し、コンテキストウィンドウの上限に達するまで待つのではなく、使用率が約60%になった時点でコンパクションを実行することを提案した。
エージェントメモリー分野は競争が激化している。Mem0はベクトル、グラフ、キーバリュー・ストレージを備えたマネージドクラウドAPIを提供する。ZepのGraphitiエンジンは事実がいつ真であったかを追跡する時間的ナレッジグラフを使用する。LangMemはLangGraphと統合するがセルフホスティングが必要である。Letta(旧MemGPT)はエージェントが自身のコンテキストを制御する階層型メモリ構造を提供する。Cloudflare社の提供内容を差別化する要素はエッジ分散、同社のコンピュート基盤(Durable Objects、Vectorize、Workers AI)との緊密な統合、そしてマルチチャネル取得アーキテクチャである。
Agent Memoryは現在プライベート・ベータ版である。Cloudflare上でエージェント構築している開発者は順番待ちリストに登録できる。価格はまだ発表されていない。