LLMの情報処理は感覚性失語症の脳活動と似ていた~LLMと失語症との情報処理ダイナミクスの比較~

ad

2025-05-15 東京大学国際高等研究所ニューロインテリジェンス国際研究機構

東京大学WPI-IRCNの渡部喬光教授らの研究チームは、大規模言語モデル(LLM)と感覚性失語症(例:ウェルニッケ失語症)の脳活動が情報処理のダイナミクスにおいて類似していることを、エネルギー地形解析を用いて明らかにしました。失語症患者の脳波とLLM内部信号を比較した結果、いずれのLLMも感覚性失語の領域にマッピングされ、幻覚的応答の要因とされる情報処理様式が共有されている可能性が示されました。これは生成AIの診断やブレインモルフィックAI開発に応用が期待されます。

LLMの情報処理は感覚性失語症の脳活動と似ていた~LLMと失語症との情報処理ダイナミクスの比較~

<関連情報>

大規模言語モデルと失語症の比較 Comparison of Large Language Model with Aphasia

Takamitsu Watanabe, Katsuma Inoue, Yasuo Kuniyoshi, Kohei Nakajima, Kazuyuki Aihara
Advanced Science  Published: 14 May 2025
DOI:https://doi.org/10.1002/advs.202414016

Abstract

Large language models (LLMs) respond fluently but often inaccurately, which resembles aphasia in humans. Does this behavioral similarity indicate any resemblance in internal information processing between LLMs and aphasic humans? Here, we address this question by comparing the network dynamics between LLMs—ALBERT, GPT-2, Llama-3.1 and one Japanese variant of Llama—and various aphasic brains. Using energy landscape analysis, we quantify how frequently the network activity pattern is likely to move from one state to another (transition frequency) and how long it tends to dwell in each state (dwelling time). First, by investigating the frequency spectrums of these two indices for brain dynamics, we find that the degrees of the polarization of the transition frequency and dwelling time enable accurate classification of receptive aphasia, expressive aphasia and controls: receptive aphasia shows the bimodal distributions for both indices, whereas expressive aphasia exhibits the most uniform distributions. In parallel, we identify highly polarized distributions in both transition frequency and dwelling time in the network dynamics in the four LLMs. These findings indicate the similarity in internal information processing between LLMs and receptive aphasia, and the current approach can provide a novel diagnosis and classification tool for LLMs and help their performance improve.

1600情報工学一般
ad
ad
Follow
ad
タイトルとURLをコピーしました