InfoQ ホームページ Deep+Learning に関するすべてのコンテンツ
-
チップ設計用のGoogle Apollo AIが、深層学習のパフォーマンスを25％向上する
Google Researchの科学者は、AIアクセラレータチップの設計を最適化するためのフレームワークであるAPOLLOを発表した。APOLLOは、チップ面積を最小限に抑えながら、深層学習の推論待ち時間を最小限に抑えるチップパラメータを選択するために進化的アルゴリズムを使用する。APOLLOを使用することで、研究者は、ベースラインアルゴリズムによって選択されたものよりも24.6％の高速化を達成する設計を発見した。
-
Google DeepMindのNFNetがディープラーニングを効率化
Amazon Redshiftのユーザは、クロスデータベースクエリを実行し、Redshiftクラスタ間でデータを共有できるようになった。これは、AWSがこれらの拡張機能を一般ユーザ向けにリリースしたことによる。
-
PyTorch 1.8がリリース - 分散トレーニングを強化、AMD ROCmをサポート
Facebookの開発したオープンソースのディープラーニングフレームワークであるPyTorchが、バージョン1.8のリリースを発表した。APIがアップデートされ、分散トレーニングが改善された他、AMDのGPUアクセラレータ用のROCmプラットフォームのサポートが追加されている。ドメイン固有ライブラリであるTorchVision、TorchAudio、TorchTextの新バージョンも同時にリリースされた。
-
スタンフォードがAI Index 2021 年次報告書を発行
スタンフォード大学の人間中心人工知能研究所（HAI）は、AI Index 年次報告書を発表した。今年のレポートの基礎となるデータは、前年に比べて拡張されており、レポートには、AI研究開発に関してCOVID-19パンデミックの影響に関するいくつかの視点が含まれている。
-
GoogleがAutoMLアルゴリズムのModel Searchのソースを公開
Google Researchの研究チームが、ディープラーニングモデル用に設計された自動マシンラーニング(AutoML)プラットフォームのModel Searchを、オープンソースとして公開した。試験ではシステムの作り出したモデルが、人が設計した最高のモデルを、より少ないトレーニング回数とモデルパラメータで能力的に上回る結果が示されている。
-
TensorFlow 3D：自動運転車の3D知覚のためのディープラーニング
Googleは、TensorFlow 3Dをリリースした。これは、TensorFlow機械学習フレームワークに3Dディープラーニング機能を加えるライブラリである。新しいライブラリは、研究者が3Dシーン理解モデルを開発およびデプロイできるようにするツールとリソースを提供する。
-
Facebook、COVID-19患者の経過を予測するAIモデルをオープンソース公開
Facebook AI Research(FAIR)のチームとNew York University(NYU) School of Medicineは共同で、胸部X線を使ってCOVID-19患者の予後予測を行うディープラーニングモデルを開発した。比較調査の結果では、このモデルは人間の放射線科医を上回っており、病院における酸素吸入や集中治療の需要予測を支援するために使用できる。
-
NLPライブラリのspaCy 3.0にTransformerベースのモデルと分散トレーニングが追加
AIソフトウェアメーカーのExplosionは、オープンソースの自然言語処理（NLP）ライブラリであるspaCyのバージョン3.0を発表した。新しいリリースには、最先端のTransformerベースのパイプラインと17言語用の事前トレーニング済みモデルが含まれている。
-
Googleは兆パラメータのAI言語モデルSwitch Transformerをオープンソース化
Google Brainの研究者は、自然言語処理 (NLP) AIモデルであるSwitch Transformerをオープンソース化した。このモデルは、最大1.6兆のパラメータにスケールアップし、T5 NLPモデルと比較して最大7倍のトレーニング時間を改善し、同等の精度を実現する。
-
OpenAIが画像生成用のGPT-3モデルを発表
OpenAIは、GPT-3に基づいて12BパラメーターAIモデルをトレーニングした。GPT-3では、テキストの説明から画像を生成することができる。説明では、オブジェクトの位置や画像の遠近法など、多くの独立した属性を指定できる。そして、現実の世界には存在しないオブジェクトの組み合わせを合成することもできる。
-
Facebookが多言語音声認識ディープラーニングモデルをオープンソース化
Facebook AI Research（FAIR）はクロスリンガル音声認識（XSLR）、多言語音声認識AIモデルをオープンソース化した。XSLRは53の言語でトレーニングされており、一般的なベンチマークで評価すると、既存のシステムよりも優れている。
-
TensorFlow 2.4がリリース、CUDA 11のサポートとAPIアップデート
TensorFlowプロジェクトは、同ディープラーニングフレームワークのバージョン2.4.0リリースを発表した。CUDA 11とNVIDIAのAmpere GPUアーキテクチャのサポートに加えて、分散トレーニングのための新たなストラテジとプロファイリングツールを備えている。その他のAPIのアップデートには、Kerasでの混合精度演算(mixed-precision)とNumPyフロントエンドが含まれる。
-
GoogleとMicrosoftのAIモデル、言語理解ベンチマークにおいて人間の能力を凌駕
GoogleとMicrosoft、それぞれの研究チームが先頃、SuperGLUEベンチマークで人の基準点より高いスコアを持つ自然言語処理(NLP)AIモデルを開発した。SuperGLUEは、質問応答(question answering)や読解など、いくつかの言語理解(NLU)タスクにおけるモデルのスコアを測定するものだ。
-
DeepMindのAlphaFold2 AIが50年来の生物学の課題を解決
タンパク質構造予測センターはAlphaFold2がタンパク質構造予測の課題を解決したことを発表した。AlphaFold2はDeepMindによって開発されたAIシステムである。AlphaFold2は、グローバル距離テスト（GDT）メトリックで92.4の中央値スコアを達成した。これは、従来の方法との競合と見なされるしきい値を上回っている。
-
マシンラーニングを採用した分子動力学シミュレーションがGorden Bell Prizeを受賞
2020年のAssociation for Computing Machinery(ACM) Gordon Bell Prizeは、米国と中国の機関からの研究者チームによる、"Pushing the limit of molecular dynamics with ab initio accuracy to 100 million atoms with machine learning"と題されたプロジェクトに与えられた。