新しい脳型情報処理システムの実現を目指して
2021-04-23 東京大学
日本電信電話株式会社（本社：東京都千代田区、代表取締役社長：澤田 純、以下「NTT」）は、国立大学法人 東京大学（所在地：東京都文京区、総長：藤井輝夫、以下「東大」）国際高等研究所 ニューロインテリジェンス国際研究機構（WPI-IRCN）副機構長の合原 一幸 東大特別教授（研究開始当時：東京大学 生産技術研究所 教授）と共同で、縮退光パラメトリック発振器(DOPO) (*1) を用いて、神経細胞の発火信号（スパイク）(*2)を模擬する人工光ニューロンを作成することに成功しました。一般に、ニューロンの発火ダイナミクスは、その外部刺激への応答に基づいて大きく2つのクラスに分類されています。これをホジキン(*3)の分類と呼びます。我々が作り出したDOPOニューロンは、この2種類両方の発火モードを、注入するポンプ光強度の調整という単純な操作で自在に制御可能な特性を有することが分かりました。この発火モードの制御を通して、脳型情報処理の重要なパラメータである人工ニューロンの発火頻度を調整することが可能となります。また、一般的なニューラルネットワークでは、１つのニューロンに１つの発火モードが固定で割り当てられているのに対して、このような発火モードを自在で柔軟に制御できるDOPOニューロンの特性は新しい脳型情報処理への応用が期待できます。特に、ホジキンの分類は単純明快な分類であるにも関わらず、発火モードの差異が情報処理に与える影響は神経科学的にも未解明な点が多いため、この謎に挑むための新たな研究のプラットフォームとなることも期待されます。
本研究ではさらに、240個のDOPOニューロンのネットワークを構築し、集団となったDOPOニューロンの同期現象(*4)の観測を行いました。その結果、DOPOニューロンは結合したニューロン間の同期を反映して、各々の発火モードを自発的(*5)に変化させる性質を持つことが発見されました。この自発的変化は、ニューロン単体ではなくその集団が同期によって獲得する特性であり、ポンプ光などのパラメータ調整を必要とせずに集団の同期を促進するように発火モードが自動的に変化する協同現象を意味します。本研究で発見されたこの発火モードの自動調整機能は、同期という物理現象がまるで計算機におけるアルゴリズムのように発火頻度を動的に調整することを意味しており、発火モードの多様性が脳型情報処理に大きな影響を与えることを示唆しています。また、発火モードを自在に制御できる集団としてのDOPOニューロンはさらに効率の良い脳型情報処理へ応用できることが期待されます。
本研究成果は、2021年4月23日10時（英国時間）に英国科学誌「Nature Communications」で公開されます。
なお、本研究の一部は内閣府 総合科学技術・イノベーション会議が主導する革新的研究開発推進プログラム（ImPACT）の山本喜久プログラム・マネージャーの研究開発プログラムの一環として行われました。
１．研究の背景と経緯
生物の脳内で行われている情報処理は非常に高度で効率的と考えられていますが、その全貌はいまだ明らかではありません。先駆的な研究によって、神経細胞（ニューロン）が生み出す発火信号（スパイク）をもとに情報処理がなされており、一般的な（ノイマン型と呼ばれる）コンピュータが行っている計算とは全く異なる原理で動いていると考えられています。脳や生体の機能を解明し、またそれらを模擬した効率のよい情報処理を実現するために、ニューロンのスパイクを表現可能な数理モデルであるスパイキングニューラルネットワーク（Spiking Neural Network: SNN）(*6)が特に最近活発に研究されています。SNNでは、点過程的なスパイクの発生のタイミングやその頻度など、動的な情報が重要視されるため、汎用的なノイマン型計算機で再現する際の効率が悪いと考えられており、専用計算機の開発や物理的実装に期待が持たれています。
ニューロンの発火現象は非常に複雑かつ多様で、これまで様々な神経細胞や数理モデルを用いて解析されてきました。この分野の先駆的な研究者であるホジキンは、神経細胞の発火現象が大きく分けて2種類の発火モード（Class-I, Class-II）に分類されることを神経科学実験で示しました。これをホジキンの分類と呼びます。様々な生物の脳で、2種類の発火モードに分類される多様なニューロンが発見されていますが、それぞれのモードがどのような機能や役割を担っているか、その全貌は明らかではありません。そのため、発火モードの違いに着目した数理モデルの解析や、専用計算機による脳型情報処理のシミュレーションによって、その謎が解明されることに期待が持たれています。
本研究では、縮退光パラメトリック発振器(degenerate optical parametric oscillator: DOPO)と呼ばれる特殊な光発振器を用いて、人工光ニューロンを作成します。ここで用いた技術は、我々が研究開発を進めてきたDOPOを用いて組み合わせ最適化問題を解く計算機であるコヒーレントイジングマシンに用いた技術を応用したものです。まず、非線形光学デバイスの特性を生かした技術によって、ホジキンの分類した2種類の発火モードを自在に制御できる人工光ニューロンを作ることに成功しました。また、測定フィードバック法と呼ばれる技術を用いて、240個の光ニューロンを自在に結合して任意のネットワークを形成することができます。人工光ニューロンとしては、高い制御性を持ち、最大規模のネットワークを実現しています。このネットワーク構造を自在にデザインできる特徴を生かして、ニューロンの集団が一斉に発火する同期現象を観測しました。さらに、同期をきっかけとして発火モードが自在に変化する新奇な現象の観測に成功しました。
２．研究の内容
本研究で用いる人工光ニューロンは、2つのDOPOパルスを用いて実現します（図1)。スパイク信号の実現には、逆符号となるように調整された2つのパルス間の光結合と、DOPOに組み込まれた位相感応増幅器の持つ非線形効果が重要な役割を果たします。位相感応増幅器の非線形効果は注入するポンプ光強度によって制御できます。本研究ではこの性質を利用して、2種類の発火モードをポンプ光の調整によって自在に制御できることを実証しました（図2）。まず、ポンプ光強度が弱い場合は、外部入力バイアスの変化に対して、高い発火頻度のスパイクが観測され、その後発火頻度はあまり変化しない特徴がみられました。これは、ホジキンの分類では、Class-II と定義される発火モードの特徴です。また、ポンプ光強度が強い場合は、外部入力バイアスの変化に対して、徐々に発火頻度が低いスパイクから高いスパイクへ変化するClass-Iの特徴がみられました。一方、外部入力バイアスをゼロにした状態では、Class-IIからClass-Iへ滑らかに変化する傾向が観測されました。このように単一の制御パラメータでなめらかに発火モードを変化できることは、脳型情報処理への応用に際して有益な特性であると期待できます。
我々は次に、DOPOニューロンを結合させ、図3に示すようなニューラルネットワークを構築しました。ここで、ニューロン間の結合を徐々に強めていくことで発火のタイミングが徐々にそろっていく同期現象を観測することに成功しました。また、同期を特徴づける秩序パラメータ(*7)と呼ばれる量を測定することで、同期の進行を定量的に評価しました。同期現象は、SNNの基本的かつ重要な現象ですが、これまで光ニューロンではあまり大規模なものは観測されていませんでした。本研究ではさらに、同期現象に関する次のような興味深い現象を観測することに成功しました（図4）。我々の作成したDOPOニューロンは、同期しにくい状況において、自身の発火モードを自発的に（ポンプ光の調整がなくとも）変化させ、同期を促進する性質を持つことが発見されました。この自発的変化は、単一のニューロンの特性ではなく、同期したニューロンの集団が獲得する新たな特性といえます。また、自発的に発火モードを調性する機構は、同期から自然に導かれた物理的な現象にもかかわらず、まるで計算機におけるアルゴリズムのように発火頻度を自動的に調整して同期を促進します。そのため、DOPOニューロンの集合体をうまく制御できれば、さらに高度な情報処理へ応用できることが期待できます。
この研究成果は、発火モードを自在に制御でき、かつ同期現象に起因した自発的制御を同時に実現できる、高機能な人工光ニューロンの作成に成功したことを示しています。加えて、各ニューロン間の結合を自在に設定できる制御性を併せ持っていることも特徴です。これらの高い制御性をもとに、光ニューラルネットワークを用いた高度な情報処理技術への応用を今後めざします。また、本研究で観測された発火モードの自発的な変化と、それに伴う発火頻度の自動的な調整は、ふたつの発火モードを表現できるDOPOニューロンの特徴といえます。今後はさらに、発火モードが情報処理に与える影響を研究するための新たなプラットフォームとしての役割を果たすようなシステムの構築をめざします。
３．技術のポイント
(1) DOPOを用いた人工光ニューロンの実装
本研究のDOPOニューロンは、図1のように2つのDOPOを反対称の符号を持つように光結合させた構造になります。この反対称の結合によって2つのDOPOの間にエネルギーの流れが生じます。DOPOの発生には、周期分極反転ニオブ酸リチウム（Periodically Poled Lithium Niobate: PPLN）導波路(*8)を用いた位相感応増幅器を光ファイバリング内の利得媒質として利用します。この位相感応増幅器における非線形効果が存在することによって、発火現象を再現することが数理モデルによる解析で明らかになりました。
(2) DOPOニューラルネットワークの構成
DOPOニューロン間の相互結合は、光学デバイスと電子演算回路を組み合わせた測定・フィードバック法と呼ばれる手法で実現されます(図5)。この手法では、DOPOニューロン内部の結合（Jvw,Jwv）とDOPOニューロン間の結合（Jij）を個別に設定することが可能なため、最大で256個のDOPOニューロンのネットワーク構造を自由にデザインすることができます。
図3(a)に本研究で用いたネットワーク構成を示します。15個のニューロンからなるクラスターが、4つ結合する複雑な構造を用います。クラスター内はすべてのニューロンが互いに結合し（完全結合）、クラスター間は低密度に結合しています。ここで、クラスターごとの平均発振周期が異なるようにポンプ光強度を設定した場合、平均発振周期が大きく異なるクラスター同士は、同期しにくい傾向があります。しかし、本研究で用いたDOPOニューロンは、発火モードが自動的に変化することで発振周期を調整することが可能なため、平均発振周期が大きく異なるクラスター間においても同期が観測されました。この同期現象は動的なものであり、発火モードの変化と同期・非同期を繰り返すことが分かっています。
４．今後の展開
今回作成された人工光ニューロンは、発火モードをポンプ光強度で自在に調整できる特徴を有しています。この特性を生かして、脳の情報処理における発火モードの役割を明らかにするための新しいプラットフォームを構築することを今後めざします。また、本研究では同期現象に起因した発火モードの自動的な調整機能が観測されており、このような発火モードの動的な制御性を生かした新しい脳型情報処理の研究に取り組んでいきます。
＜参考図＞
図1. DOPOニューロンの概念図。2つのDOPO（v-DOPO,w-DOPOと呼ぶ）を反対の符号で光結合させる。また、i番目とｊ番目のDOPOニューロンの間は、vとｗの2つのチャネルで結合される。本研究のシステムでは、任意の2つのDOPOニューロンを自在に結合させることができる。
図2．単一のDOPOニューロンの発火現象。(a)弱いポンプ光強度の場合、時間と共に外部入力バイアスを変化させたときの応答。ある時間から間隔が短い(高い発火頻度の)スパイクが発生し、その後発火頻度の変化がほとんどないClass-IIの発火モードの特徴を示す。 (b)強いポンプ光強度の場合、間隔が長い（低い発火頻度の）スパイクから徐々に間隔の短い（高い発火頻度の）スパイクに変化するClass–Iの発火モードの特徴を示す。(c)発火頻度の変化の測定結果。(左側)弱いポンプ光強度(Class-II)に固定して外部入力バイアスを変化させた場合、(中央)強いポンプ光強度(Class-I)の場合、(右側)外部入力バイアスをゼロに固定してポンプ光強度を変化させた場合。発火モードがClass-IIからClass-Iへと移り変わる様子を示している。
図3．60個のDOPOニューロンの同期実験。(a)同期実験に用いたネットワーク構造。(b)ニューロンの回転角度θの定義。(c)ニューロンの回転角θの変化と、クラスター内部(色付き線)および全体(黒線)の同期を特徴づける秩序パラメータの変化。結合強度Jkの増加と共に、発火のタイミングが揃い同期し、秩序パラメータが増加する。小さい結合強度でもクラスター内部はすぐに同期するが、クラスター全体では同期しにくい傾向がある。最も結合強度が強い場合では、秩序パラメータが最大値に繰り返し到達する。
図4. 発火モードの自発的な変化。図3(c)の最も結合強度が強い場合のデータセットを再掲したもの。左中段図は、各クラスターを代表するニューロンを一つずつ取り上げて回転角θを縦軸に取り直したものであり、2種類の発火モードの特徴が良くわかる(右図参照)。同期前はClass-IIの振る舞い（直線的）がみられるが、同期するにつれてClass-Iの振る舞い（階段状）に変化する。特に、図中の枠線で囲まれた範囲において、秩序パラメータが急激に増加する傾向がみられる。その前後に、クラスターAのニューロンにおいて、回転角θの示す特徴がClass-IIの振る舞いに変化し、再びClass-Iの振る舞いに変化する傾向がみられる。このように高い秩序パラメータに到達するために、自発的な発火モード変化によって発火頻度を調整する現象が観測された。
図5. 測定・フィードバック法を用いたDOPOスパイキングニューラルネットワークの実験系概略。PPLN導波路を用いた位相感応増幅器に、繰り返し周波数1 GHzのポンプ光を入力することで、1 kmの光ファイバ共振器内に512個のDOPOが一括発生する。この光ファイバ共振器内を周回するDOPOパルスをそれぞれ10%ずつ取り出して測定し、その測定結果を用いたスピン間結合の演算結果を再度光パルスに変換して光ファイバ共振器に帰還させることで、512個全てのDOPO間に任意の相互結合を実装することができる。
＜用語解説＞
(*1)縮退光パラメトリック発振器
光発振器の一種で、光増幅を行う利得媒質として非線形光学効果を用いた位相感応増幅器を用いる。この位相感応増幅器の効果によって、ポンプ光に対する光位相が0またはのみの光が発振する。
(*2) 発火信号（スパイク）
生体の神経細胞(ニューロン)において、鋭いピーク状の点過程的な電気信号が観測される。これによって情報のやり取りを行っていることが知られている。この信号をスパイクと呼ぶ。
(*3) ホジキン（Alan Lloyd Hodgkin）
神経細胞を数理的に取り扱った先駆的研究者。ハクスリーとともに行った神経細胞の活動電位の数理モデル化・およびその解析に関する功績により、1963年のノーベル生理学・医学賞を受賞した。実際の神経細胞の活動が2種類の発火モードに分類できることを提案した。
(*4) 同期現象
発火のタイミングや周期が揃っていくこと。あるいは、振動子の振動のタイミングが揃う事。例えば、台の上に置いた複数の周期の異なるメトロノームは、初めバラバラのタイミングで振動していても、時間とともに同じタイミング・周期で振動するようになる。自然界にも広くみられる現象であり、例えば、蛍の集団発光やアマガエルの合唱などもこの同期現象の一例である。
(*5) 自発的な発火モードの変化
注入ポンプ光強度などの発火モードを制御するパラメータを調整しなくても、同期が進むとともに、発火モードが自発的に変化する現象。数理的には、秩序パラメータの増加に伴って発火モードが変化することが分かっている。
(*6) スパイキングニューラルネットワーク
生体の神経細胞における発火信号(スパイク)を用いた情報処理を再現できるようにモデル化された人工ニューラルネットワーク。
(*7) 秩序パラメータ
同期を特徴づける物理量。同期していないと小さく、同期すると大きくなる。固体物理における相転移を特徴づける秩序パラメータと同質のもので、蔵本らによって同期現象の議論に有効であることが明らかにされた。
(*8)周期分極反転ニオブ酸リチウム(PPLN)導波路：
異なる波長の光同士を相互作用させることが可能な「非線形光学効果」と呼ばれる特殊な特性を持つ結晶であるニオブ酸リチウム（LiNbO3）において、自発分極と呼ばれる結晶内の正負の電荷の向きを一定の周期で強制反転させた人工結晶を用いた光導波路。高い非線形光学効果を得ることができる。
＜論文名＞
論文タイトル：Collective and synchronous dynamics of photonic spiking neurons（光スパイキングニューロンの協同的な同期ダイナミクス）
著者：K Takahiro Inagaki, Kensuke Inaba, Timothée Leleu, Toshimori Honjo, Takuya Ikuta, Koji Enbutsu, Takeshi Umeki, Ryoichi Kasahara, Kazuyuki Aihara, and Hiroki Takesue
掲載誌： 「Nature Communications」 （4月23日付）
DOI番号：10.1038/s41467-021-22576-4
■本件に関する報道機関からのお問い合わせ先
日本電信電話株式会社
先端技術総合研究所 広報担当
東京大学
特別教授／名誉教授
合原一幸
東京大学国際高等研究所
ニューロインテリジェンス国際研究機構(WPI-IRCN)
広報担当
