#ディープラーニングブームがほとんどすべての人を驚かせた理由

プリンストン大学のコンピュータサイエンス大学院生が人工知能の授業を受けた際、彼はニューラルネットワークが過去のものになったという印象を受けました。1980年代後半から1990年代前半にかけての成功にもかかわらず、2008年には研究者たちがサポートベクターマシンのような他のアプローチに移行していました。

しかし、その同じ頃、プリンストン大学のFei-Fei Li教授率いるチームは、ニューラルネットワークを再評価するプロジェクトに取り組んでいました。彼らは1400万枚の画像を含む新しいデータセットを作成し、それぞれに22000のカテゴリをラベル付けしました。
 Li教授は、プロジェクトに対して多くの懐疑的な意見を受けながらも、2007年から2年以上の間、このデータセットの構築に取り組みました。2009年にスタンフォード大学に移ると、彼女はこのプロジェクトをカリフォルニアに持ち込みました。ImageNetは最初の数年間は注目されませんでしたが、2012年にトロント大学のチームがこのデータセットを使ってニューラルネットワークをトレーニングし、前例のない性能を達成しました。
この成果は、ディープラーニングのブームを引き起こしました。 ImageNetデータセットがなければ、AlexNetの成功は実現しなかったでしょう。また、NvidiaのCUDAプラットフォームがなければ、ニューラルネットワークのトレーニングは不可能でした。過去12年間のAIブームは、懐疑的な意見にもかかわらず、ニューラルネットワークやGPUの可能性を追求した3人の先見の明のある人物によって支えられました。
その中には、トロント大学のジェフリー・ヒントン氏、NvidiaのCEO・ジェンセン・ファン氏、そしてFei-Fei Li氏が含まれます。 ヒントン氏は1970年代からニューラルネットワークに取り組んできましたが、1986年に発表したバックプロパゲーションアルゴリズムによって、深層ニューラルネットワークのトレーニングが可能になりました。
Li教授はImageNetをコンテストに変え、大規模なデータセットを利用して参加者に競わせることで、AIの進展を促しました。 2012年には、Geoff Hintonのチームがディープニューラルネットワークを用いてコンペティションで圧倒的な成績を収め、ニューラルネットワークが再評価される結果となりました。
AlexNetはCNNの一種であり、当時の技術とデータを最大限に活用したものでした。これにより、AIの技術の重要性が再認識され、NvidiaのGPUが業界標準となりました。 現在のAI研究では、大規模なデータセットを用いたモデルのトレーニングが鍵とされており、主要なテクノロジー企業はデータセンターの構築に急いでいます。
しかし、AlexNetの教訓から、従来の通念に囚われすぎることの危険性も指摘されています。今後のAIの発展には、新たなアプローチを模索する柔軟性が求められるでしょう。



この記事では、3人の学者(Geoffrey Hinton、Fei-Fei Li、Ian Buck)とCEO(Jensen Huang)の功績が強調されています。
Jensen Huang氏は、コンピュータープロセッサ市場の拡大を期待し、ゲーム市場からAI市場へのシフトを図りました。
彼は、GPUの性能向上に注力し、特に解像度やポリゴン数、テクスチャマッピングの進化を認識しました。これに対し、Intelは同様の戦略を見出すのに苦労しました。 技術的な洞察としては、Ian Buckがスタンフォード大学で行った博士論文がCUDA/GPU技術の基盤を形成しました。
彼はその後、Nvidiaに参加し、ジェンセンの下で技術を商業化しました。Huang氏はAI分野においても先見の明を持ち、2014年にはCuDNNをリリースし、AIの可能性を広げました。 また、Hinton氏の逆伝播アルゴリズムやFei-Fei Li氏のImageNetデータベースがAIの進展に寄与したという点も重要です。Li氏は、人間が認識できる多様な物体を含む大規模なデータセットを構築することで、コンピュータビジョンの進化を促しました。
このプロジェクトは、Amazon Mechanical Turkを利用して1400万枚の画像にラベルを付けるという大規模なものとなりました。 
さらに、AIの進化には、データの重要性が強調されており、Li氏はそれに対して「Pre-ImageNetでは、データの重要性が理解されていなかった」と述べています。このように、現代のAIは、深層学習アルゴリズム、ビッグデータ、GPUコンピューティングという3つの要素が融合した結果として象徴的な瞬間を迎えました。 
最後に、AIの発展には多くの批判もありますが、Hinton氏、Li氏、Huang氏の先見の明により、過去12年間のAIブームが実現したことが示されています。特に、単にデータを増やすだけではなく、新しい学習アルゴリズムの発展がAIの進化に不可欠であることが指摘されています。

コメント

このブログの人気の投稿

nitter.netが2021年1月31日から沈黙。代替インスタンスは?

#INVIDIOUSを用いて広告なしにyoutubeをみる方法 #士17

Libredditとは何か?広告、トラッカー、肥大化なしで、Redditを閲覧するためのより簡単な方法