BT

InfoQ ホームページ ニュース OpenAIがニューラルネットワークを理解するためのビジュアライゼーションツールであるMicroscopeを紹介

OpenAIがニューラルネットワークを理解するためのビジュアライゼーションツールであるMicroscopeを紹介

ブックマーク

原文(投稿日:2020/04/29)へのリンク

OpenAIはMicroscopeをリリースした。これは、すべての重要なレイヤーと8つの主要なコンピュータービジョン(CV)モデルのニューロンのビジュアライゼーションである。これらのモデルは、解釈可能性に関してよく研究されている。このツールは、研究者がこれらのCVモデルを駆動するニューラルネットワークの内部に形成される機能やその他の重要な属性を分析するのに立つ。

各モデルで使用可能なビジュアライゼーションには、多くのレイヤーにわたる画像のニューラルネットワーク理解を示す機能ビジュアライゼーション、ニューロンを強く発火させる画像データポイント、および、合成画像ファミリーに対するユニット応答のプロットなどがある。モデルは、ニューラルネットワークレイヤーを表すノードのグラフで構成され、ノードはエッジで接続される。各ビジュアライゼーションには、ニューロンに類似した何百ものユニットが含まれている。Microscopeは、ユーザエクスペリエンスを表す比喩的なラベルからその名前を得ている。ユーザは、顕微鏡が指している場所を表す「ロケーション」と、レンズのタイプを表す「テクニック」を選択できる。Microscopeは少数のモデルを詳細に探索することに焦点を当てている。これは、各モデルが数十万のニューロンをもたらすためである。各モデルは、最終的なビジュアライゼーションを作成する上で固有の課題がある。OpenAIは、今後、対応するモデルを拡張する予定である。

Microscopeを使用すると、ニューロンを探索するためのフィードバックループを数分から数秒に短縮できる。これはすでに、高低周波数検出器などの予期しない機能の発見に役立っている。さらに、Microscopeはニューラルネットワークの解釈可能性の向上に非常に役立っている。これらの重要なビジュアライゼーションは他の研究者が実行しようとすると計算に数百のGPU時間を要するためである。

Microscopeのリリースの主な目的は、これらのモデルを比較する研究を推進する永続的なオープンソースアーティファクトを提供することである。Microscopeの恩恵を受けることができる1つのプロジェクトは、ニューロンとその接続を分析することによってニューラルネットワークをリバースエンジニアリングすることを目的とするCircuits Collaborationである。また、神経科学者のような近い経験を持つ研究者にとって、視覚化はこれらの視覚モデルの内部の仕組みを理解する上での新しいアプローチを提供する。

この記事に星をつける

おすすめ度
スタイル

特集コンテンツ一覧

.NETエコシステムの紹介

David Pine 2019年11月7日 午後7時48分

こんにちは

コメントするには InfoQアカウントの登録 または が必要です。InfoQ に登録するとさまざまなことができます。

アカウント登録をしてInfoQをお楽しみください。

HTML: a,b,br,blockquote,i,li,pre,u,ul,p

コミュニティコメント

HTML: a,b,br,blockquote,i,li,pre,u,ul,p

HTML: a,b,br,blockquote,i,li,pre,u,ul,p

BT

あなたのプロファイルは最新ですか?プロフィールを確認してアップデートしてください。

Eメールを変更すると確認のメールが配信されます。

会社名:
役職:
組織規模:
国:
都道府県:
新しいメールアドレスに確認用のメールを送信します。このポップアップ画面は自動的に閉じられます。