.NETチームは、Dev Proxyのバージョン0.28をリリースし、可観測性、プラグインの拡張性、AIモデルとの統合を強化する新機能を導入した。今回のリリースの中心的な機能はOpenAITelemetryPluginであり、これにより開発者はOpenAIおよびAzure OpenAIの言語モデルリクエストの使用状況と推定コストをアプリケーション内で追跡できるようになった。
このPluginは、リクエストを傍受し、使用されたモデル、トークン数（プロンプト、完了、および合計）、リクエストごとのコスト推定、モデルごとのグループ化された概要などの詳細を記録する機能を提供する。
発表によると、このプラグインは、アプリケーションがLLMとどのように相互作用しているかについて、より深い可視性をサポートし、OpenLITのような外部ツールを使用可能であり、利用パターンを理解し、AI関連の費用を最適化するために役立つ。
今回のアップデートでは、先月のBuildカンファレンスで発表された高性能ローカルAIランタイムスタックであるMicrosoft社の「Foundry Local」もサポートする。「Foundry Local」は、クラウドベースのLLM（大規模言語モデル）への呼び出しをローカル環境に転送することを可能にし、コスト削減やオフラインでの開発を実現するものである。
発表によれば、Dev Proxyは現在、ローカルモデルを使用するように設定可能となった。開発チームからのコメントは以下のとおり。
初期テストの結果、Foundry Local上でPhi-4 miniを使用した際、過去に使用してきた他のモデルと比較して大幅な改善が見られたことが判明しました。開発チームは、今後のDev Proxyのバージョンにおいて、Foundry Localとのデフォルト統合を計画しています。
Dev ProxyをFoundry Localで設定するには、開発者がプロキシの設定ファイル内のlanguageModelセクションにローカルモデルとエンドポイントを指定する必要がある。この統合により、ローカル開発中にLLM（大規模言語モデル）を利用する開発者にとって、費用対効果の高い代替手段が提供される。
.NET Aspireのユーザー向けに、Dev Proxy拡張機能のプレビュー版が現在利用可能となっている。この拡張機能により、Aspireアプリケーションとの統合が簡素化され、Dev Proxyをローカル環境またはDockerを介して最小限のセットアップで実行できるようになるとのことだ。この改善により、ポータビリティが向上し、分散型開発チームにおける設定プロセスが簡略化される。
さらに、OpenAIのペイロードに対するサポートが拡充された。これまでテキスト補完に限定されていたが、Dev Proxyはより幅広い補完タイプに対応しており、OpenAIのAPIとの互換性が向上した。
今回のリリースでは、TypeSpec生成機能も強化されている。TypeSpec v1.0のアップデートに合わせて、プラグインはPATCH操作生成の向上をサポートし、MergePatchUpdateを使用してマージパッチの動作を明確に定義するようになった。
リリースによると、Dev Proxyはすべての設定ファイルでJSONC（コメント付きJSON）をサポートするようになった。この機能追加により、開発者はインラインドキュメントや注釈を追加することが可能となり、チームでの共同作業や長期的なメンテナンスに役立つ。
ログ記録およびモック作成における並行性の改善も行われた。この変更により、並行して行われるリクエストのログが正確にグループ化され、開発者がリクエストの挙動をより効果的に追跡できるようになった。
今回のリリースには、二つの重大な変更が含まれている。まず、マイクロソフト Teamsを介したGraphコネクタのデプロイが廃止されたことに伴い、GraphConnectorNotificationPluginが削除された。
さらに、devproxy jwt createコマンドにおける--audienceフラグが--audiencesに改名された。ただし、ショートハンドエイリアスの-aは変更されていない。
CRUD APIプラグインが更新され、CORS（クロスオリジンリソース共有）の処理が改善されるとともに、JSONレスポンスの一貫性が向上した。この変更により、クライアントサイドアプリケーションにおける信頼性が向上された。
最後に、Visual Studio Code向けのDev Proxy Toolkitがバージョン0.24.0に更新された。このリリースでは、新しいスニペットやコマンドが追加され、既述のOpenAITelemetryPluginへの対応が含まれているほか、Dev Proxy ベータ版との互換性が向上し、プロセス検出機能が改善された。
興味のある読者向けに、公式リポジトリにて完全なリリースノートが公開されている。このリリースノートでは、今回のバージョンにおける機能、変更点、そして利用に関する詳細なガイダンスが提供されている。