OCP Global Summitで講演するFacebookのVijay Rao氏。同社の技術戦略担当ディレクターを務める
[画像のクリックで拡大表示]

 米FacebookのAI(人工知能)チップ戦略が判明した。現在は5社の半導体メーカーから同社向けにカスタマイズしたAIチップを調達し、機械学習の推論に使っている。次のステップとして、自然言語処理(NLP)に特化したAIチップを開発する。

 5社の半導体メーカーから推論用のAIチップを調達していることは、2019年3月14~15日に米サンノゼで開催されたイベント「OCP Global Summit」で発表した。NLPに特化したAIチップの自社開発を進めていることは、2019年2月17~21日に米サンフランシスコで開催された半導体の学会「ISSCC(International Solid-State Circuits Conference) 2019」で明らかにしていた。

 Facebookは以前から、ディープラーニング(深層学習)におけるモデル構築(訓練)に、米NVIDIAのGPUを使用していた。しかし、モデルを使った推論での複数AIチップの使用を明らかにしたのは、今回が初めてだ。

1日200兆回の推論処理を実行

 OCP Global Summitの基調講演に登壇したFacebookの技術戦略担当ディレクターであるVijay Rao氏は、「当社では1日当たり200兆回以上の予測処理や60億回の言語翻訳を実行している」と説明。同社におけるディープラーニングの推論処理のボリュームが極めて大きいことを強調した。

 これほど膨大な推論処理をCPUやGPUに担わせると、消費電力が大きくなりすぎる。そのため、少ない消費電力で推論を処理できるAIチップを採用した。

 同社が採用する推論用AIチップは1W当たり5TOPS(Tera Operations Per Second)超で、8ビット整数による演算とFP16(半精度)の浮動小数点演算にのみ対応する。これらの特徴は、米Googleの推論用AIチップ「TPU」と似ている。

Intelなど5社と連携

 Facebookは、米Esperanto Technologies、イスラエルのHabana Labs、米Intel、米Marvell Technology Group、米Qualcommの5社と協力して推論用のASICを開発している。各社が開発したAIチップそのままではなく、同社用にカスタマイズした上で調達している。

 推論用AIチップを搭載するハードウエアはFacebookが自社で開発し、その仕様を「Open Compute Project(OCP)」を通じてオープンソースとして公開している。OCPはFacebookの主導で2011年に誕生した、データセンター用ハードウエアの仕様や設計図をオープンソース化する団体だ。

 ハードウエアを詳しく見ていこう。Facebookは今回、推論用AIチップを搭載する小型ボード、その小型ボードを最大6台搭載するカード、さらにそのカードを2台格納するシャシーを公開した。

 推論用AIチップを搭載する小型ボード「Kings Canyon」は、SSDに使われる「M.2(エムドットツー)」仕様の小型拡張ボード。Kings Canyonは「Glacier Point v2」と呼ぶカードに最大6台搭載する(図1)。Glacier Point v2を2台格納するシャシー「Yosemite v2」には2台のCPU搭載カードを格納できる。

図1 推論用AIチップカード「Glacier Point v2」
AIチップボード「Kings Canyon」ボード6台を搭載。(出所:Facebookの講演スライド)

 Facebookは複数の推論用AIチップを併用するために、ソフトウエアで工夫している。同社のディープラーニングフレームワーク「PyTorch」とGPUを使って構築したモデルの推論を、GPUとは構成の異なるAIチップで処理するには、モデルをAIチップに合わせて変換する必要がある。Facebookはこの変換処理を担うコンパイラー「Glow」を開発し、2018年9月からオープンソースとして公開している。

 今後はAIチップの自社開発も進める。それを明らかにしたのは、FacebookのAI研究部門を率いるYann LeCun氏だ(図2)。LeCun氏は2019年2月18日にISSCC 2019で講演した後に米メディアの取材を受け、同社が「現在のものよりもはるかに優れた音声アシスタント」実現のための専用AIチップの自社開発を明かした。同氏の発言からは、NLPに特化したAIチップであることが分かる。

図2 ISSCC 2019で講演するFacebookのYann LeCun氏
同社のAI研究部門を率いる。

この先は有料会員の登録が必要です。「日経エレクトロニクス」定期購読者もログインしてお読みいただけます。有料会員(月額プラン)は初月無料!

日経 xTECHには有料記事(有料会員向けまたは定期購読者向け)、無料記事(登録会員向け)、フリー記事(誰でも閲覧可能)があります。有料記事でも、登録会員向け配信期間は登録会員への登録が必要な場合があります。有料会員と登録会員に関するFAQはこちら