2024年 | プレスリリース?研究成果
生成AIをスピントロニクスで省エネに ─ガウス乱数を出力する「ガウシアン確率ビット」を実現─
【本学研究者情報】
〇電気通信研究所 教授 深見俊輔
研究室ウェブサイト
【発表のポイント】
- 生成AIにおける画像や文章の生成過程を省エネ化するスピントロニクス(注1)技術を開発しました。
- 室温で確率的に動作するスピントロニクス素子を用いて、ガウス乱数(注2)を出力する「ガウシアン確率ビット」を実現し、動作を実証しました。
- 現行の半導体技術でガウス乱数を生成する場合と比べて回路面積は約1/3000、消費エネルギーは約1/150に低減できます。
【概要】
昨今、対話式で画像や文章を生成する生成AIが急速に普及しています。生成AIは圧倒的な利便性を有する反面、その普及に伴って情報技術が消費する電力の増大が深刻な課題となりつつあります。生成AIにて多大な電力を消費する過程の一つに、「拡散モデル(注3)」を用いて行われる画像や文章の生成があり、ここに大量のガウス乱数が用いられています。このガウス乱数のAI利用には、2024年ノーベル物理学賞受賞者であるカナダ?トロント大学名誉教授のGeoffrey Hinton氏らも近年注力しています。
東北大学電気通信研究所の深見俊輔教授らは、米国カリフォルニア大学サンタバーバラ校のKerem Camsari博士らと共同で、優れた省エネ性と小型性を兼ね備えたガウス乱数生成の新技術を開発しました。鍵となったのは、自然の熱で確率的に動作するスピントロニクス素子です。同グループは以前からこの素子を用いて二値乱数(注2)を出力する「確率ビット(注4)」とそれを用いた「確率論的コンピューター(注4)」の開発を先導していました。今回同グループはこの「確率ビット」を組み合わせてガウス乱数を生成する「ガウシアン確率ビット」を実現し、連続変数を用いた組合せ最適化などの原理実証に成功しました。
今回開発された「ガウシアン確率ビット」は、消費電力の増大が重要課題となっている生成AIの省エネ化に貢献しうるものです。今後スピントロニクス素子とそれを用いた回路、アルゴリズムの開発が進展することで、利便性と省エネ性を両立するAI社会実現の切り札となっていくことが期待されます。
本成果は2024年12月7-11日(米国時間)に米サンフランシスコで開催される学術会議「International Electron Devices Meeting: IEDM」で発表されました。
図1. ガウシアン確率ビットの構成と測定結果。(a) 5つのバイナリー確率ビットを用いてガウシアン確率ビットを構成する方法の模式図。バイナリー確率ビットを相互作用させ、かつそれぞれにバイアスを導入することで任意の平均値(m)と標準偏差(s)を持ったガウス乱数を出力するガウシアン確率ビットを構築できる。(b) 作製したガウシアン確率ビットの実機の写真。確率動作スピントロニクス素子を含むバイナリー確率ビット5つをFPGAで相互作用させることで実現。(c) 平均値(m)と標準偏差(s)の異なるガウス乱数出力の測定結果。各パネルの左側は時間領域での出力信号であり、右側は時間平均した際の出力信号の確率である。
【用語解説】
注1. スピントロニクス
物質中の電子が持つ、電気的な性質(電荷)と磁気的な性質(スピン)が協調することによって発現する現象を理解し、工学的な応用を目指す学問分野。特に、磁性体のスピンの向き(上?下)を情報(0,1)の担い手として制御する、磁気抵抗ランダムアクセスメモリ(MRAM)や磁気センサー等への応用が代表的。
注2. ガウス乱数、二値乱数
一切の法則性を持たず、完全にランダムに並んだ数の列を乱数列と言う。二値乱数とは出力される値が0か1のいずれかである乱数であり、対してガウス乱数は出力される値が連続値であり、その分布がガウス分布(正規分布)に従う乱数。
注3. 拡散モデル
ノイズから徐々に構造化されたデータを生成する確率モデルであり、主に画像生成などに用いられるAIモデル。大きな特徴は、データにノイズを加えて崩し、それを逆に再構築するプロセスを学習する点にある。前進過程(ノイズの追加)により元のデータを完全にランダムなノイズに変換する過程と、逆拡散過程(ノイズの除去)によりノイズを取り除いて元のデータに近づける過程からなる。生成されるデータに多様性が生じ、また高品質でリアルなデータを生成することができる。
注4. 確率ビット、確率論的コンピューター
確率ビット(Pビット)とは、短時間で0と1の信号を確率的に出力し、かつ各ビットを電気的に相関させられる情報処理の基本単位。確率論的コンピューターは確率ビットを用いて演算を行うコンピューター。 確率ビットは0と1の重ね合わせ状態を持ち、かつビット間でもつれあい(相関状態)を形成できる量子ビットとは本質的に異なるが一定の類似性があり、確率論的コンピューターは量子コンピューターと並んで新概念コンピューターの一つとして注目されている。1981年にリチャード?ファインマンが行った講演において、量子コンピューターと並んで、確率的な現象を効率的に計算する仕組みとして紹介されている。
【論文情報】
タイトル:"Beyond Ising: Mixed Continuous Optimization with Gaussian Probabilistic Bits using Stochastic MTJs" (イジングマシンのその先へ:確率動作磁気トンネル接合で構成されるガウシアン確率ビットによる連続変数の組合せ最適化)
著者:Nihal Sanjay Singh, Corentin Delacour, Shaila Niazi, Kemal Selcuk, Daniel Golenchenko, Haruna Kaneko, Shun Kanai, Hideo Ohno, Shunsuke Fukami and Kerem Y. Camsari
国際会議:70th Annual IEEE International Electron Devices Meeting (IEDM 2024)
DOI:1月頃に付与予定
問い合わせ先
(研究に関すること)
東北大学電気通信研究所
教授 深見 俊輔
TEL: 022-217-5555
Email: s-fukami*tohoku.ac.jp(*を@に置き換えてください)
(兼)東北大学大学院工学研究科電子工学専攻
(兼)東北大学先端スピントロニクス研究開発センター (CSIS)
(兼)東北大学国際集積エレクトロニクス研究開発センター (CIES)
(兼)東北大学材料科学高等研究所 (WPI-AIMR)
(兼)公益財団法人稲盛科学研究機構 (InaRIS)
(報道に関すること)
東北大学電気通信研究所 総務係
TEL: 022-217-5420
Email: riec-somu*grp.tohoku.ac.jp(*を@に置き換えてください)
東北大学は持続可能な開発目標(SDGs)を支援しています