ピアノ演奏時の画像から筋活動を高精度に推定する手法を開発~技能獲得支援のための簡易な筋電推定技術として期待~

2025-11-26 東京科学大学

東京科学大学とソニーCSLの研究チームは、カメラ画像だけからピアノ演奏時の筋電位(EMG)を高精度に推定する深層学習モデル「PianoKPM Net」を開発した。熟練ピアニスト20名の手指画像・キーストローク・音声・筋電データ計5万フレームを学習させ、手指画像のみで筋活動を推定できるようにした。従来は高価で取り扱いが難しいEMGセンサが必要だったが、本手法によりカメラのみで筋活動推定が可能となり、演奏技能の効率的学習が期待される。また、研究過程で得られたPianoKPM Datasetは世界向けに公開され、今後のピアノ演奏研究や姿勢・筋活動推定技術の発展に寄与する。応用は音楽に限らず、スポーツ技能の解析や遠隔教育にも広がる可能性がある。

ピアノ演奏時の画像から筋活動を高精度に推定する手法を開発~技能獲得支援のための簡易な筋電推定技術として期待~
図1. 筋電推定ネットワークPianoKMP Netのアーキテクチャ

<関連情報>

ポーズから筋肉へ:ピアノの手の筋肉の筋電図のためのマルチモーダル学習 From Pose to Muscle: Multimodal Learning for Piano Hand Muscle Electromyography

Ruofan Liu, Yichen Peng, Takanori Oku, Chen-Chieh Liao, Erwin Wu, Shinichi Furuya, Hideki Koike
Proc. On 39th Conference on Neural Information Processing Systems (NeurIPS 2025)

Abstract

Muscle coordination is fundamental when humans interact with the world. Reliable estimation of hand muscle engagement can serve as a source of internal feedback, supporting the development of embodied intelligence and the acquisition of dexterous skills. However, contemporary electromyography (EMG) sensing techniques either require prohibitively expensive devices or are constrained to gross motor movements, which inherently involve large muscles. On the other hand, EMGs exhibit dependency on individual anatomical variability and task-specific contexts, resulting in limited generalization. In this work, we preliminarily investigate the latent pose-EMG correspondence using a general EMG gesture dataset. We further introduce a multimodal dataset, PianoKPM Dataset, and a hand muscle estimation framework, PianoKPM Net, to facilitate high-fidelity EMG inference. Subsequently, our approach is compared against reproducible competitive baselines. The generalization and adaptation across unseen users and tasks are evaluated by quantifying the training set scale and the included data amount.

1600情報工学一般
ad
ad
Follow
ad
タイトルとURLをコピーしました