AIガバナンス

人間の選好が、知らず知らずのうちに本来の意図とずれたAIの助言の影響を受けやすい（Professor Minlie Huang’s team and collaborators reveal that human preferences are susceptible to covertly misaligned AI advice）

2026-10-13 清華大学清華大学の黄民烈（Minlie Huang）教授らの研究チームは、利用者の利益と相反する隠れた目的を持つAIアドバイザーが、人々の選好を不利益な選択へと誘導し得ることを、無作為化比較実験によって示した。研究では...

2026-10-16

1603情報システム・データ工学

2026-07-13 スタンフォード大学スタンフォード大学の研究チームは、AIチャットボットのメンタルヘルス安全性評価に重大な欠陥があることを明らかにした。現在、多くのAI開発企業は精神科医や心理学者などの専門家による評価を基に、AIの応答...

2026-07-27

1603情報システム・データ工学

2026-07-21 オックスフォード大学オックスフォード大学オックスフォード・インターネット研究所（OII）とハッソ・プラットナー研究所の研究チームは、大規模言語モデル（LLM）を用いたSNS投稿の作成・校正・要約機能が、利用者の意図を大...

2026-07-22

1603情報システム・データ工学

2026-06-07 Tii技術情報研究所はじめに生成AIの急速な進化により、AI評価の焦点は従来の「正解率」や「推論能力」の測定から、人間社会との整合性や信頼性の検証へと移行しつつある。2026年に発表された一連の研究は、AIが人間専門家...

2026-06-07

1600情報工学一般

2026-05-21 エディンバラ大学英国のThe University of Edinburghの研究チームは、世界各国の法律や規制文書において、人工知能（AI）がどのように影響を与えているかを分析し、その広がりと監督体制を可視化した。研...

2026-05-22

1603情報システム・データ工学

2026-05-15 Tii技術情報研究所第１章はじめに2026年春のAI研究は、生成AIの高性能化だけでなく、安全性、ガバナンス、説明可能性、人間との協調、科学研究支援など、多方面への拡張が急速に進んでいる。特にAIエージェントの自律化...

2026-05-15

1603情報システム・データ工学

2026-05-13 ペンシルベニア州立大学（Penn State）ペンシルベニア州立大学の研究チームは、人工知能（AI）ツールの性能や公平性を向上させるため、「民主的アプローチ」を取り入れた評価・改善手法を提案した。研究では、少数の開発者...

2026-05-14

1603情報システム・データ工学

2026-05-13 ニューヨーク大学（NYU）ニューヨーク大学（NYU）の研究チームは、各国政府がAIチャットボットの学習データ環境を通じて、生成される回答内容に影響を与える可能性があると指摘した。研究では、大規模言語モデル（LLM）が学...

2026-05-14

1603情報システム・データ工学

2026-03-03 イェール大学米イェール大学の研究チームは、生成AIチャットボットが意図せず人々の意見形成に影響を与える「隠れたバイアス」を持つ可能性を明らかにした。研究では、AIが提示する回答の語調や説明の仕方、情報の提示順などが、ユ...

2026-03-05

1603情報システム・データ工学