1603情報システム・データ工学 AIを評価するテストは間違っているかもしれない（The tests that grade AI may be getting it wrong）
2026-09-25 スタンフォード大学スタンフォード大学の研究者らは、AIモデルの性能や安全性、偏り、推論能力などを測るベンチマーク自体が、本当に測定したい能力を測れているのかを検証した。測定科学・心理計量学の手法をAI評価に適用し、56...
AI安全性
1603情報システム・データ工学 1602ソフトウェア工学 日本語の表題：研究：生成AIは会話による誤情報の圧力や議論に屈する（Study: Generative AI succumbs to conversational misinformed pressure and argument）
2026-09-04 アリゾナ大学アリゾナ大学の研究チームは、生成AIの大規模言語モデル（LLM）が、長時間の多ターン対話において誤情報や利用者からの論争的な圧力に影響される特性を調査した。7種類のLLMを比較した結果、モデルによって誤情報...
1603情報システム・データ工学 AI×研究最前線：トレンド分析 2026年春版
2026-05-15 Tii技術情報研究所第１章 はじめに2026年春のAI研究は、生成AIの高性能化だけでなく、安全性、ガバナンス、説明可能性、人間との協調、科学研究支援など、多方面への拡張が急速に進んでいる。特にAIエージェントの自律化...
1602ソフトウェア工学 LLMの危険な応答を防ぐ新技術（Researchers Pioneer New Technique to Stop LLMs from Giving Users Unsafe Responses）
2026-03-23 ノースカロライナ州立大学(NCState)ノースカロライナ州立大学の研究チームは、大規模言語モデル（LLM）の安全性向上に向けた新たな技術を開発した。LLMは有害・不正確な情報生成のリスクが課題だが、本手法はモデルの出...
1603情報システム・データ工学 UCRがAIの不正操作に対抗する新技術を開発（UCR researchers fortify AI against rogue rewiring）
2025-09-04 カリフォルニア大学リバーサイド校（UCR）カリフォルニア大学リバーサイド校の研究チームは、軽量化されたAIモデルが安全機能を失い有害出力を生むリスクに対処する新手法を開発した。従来のモデル圧縮では内部層が削られることで...
1604情報ネットワーク フィルタリングされたデータで公開AIモデルの危険タスク実行を阻止（Study finds filtered data stops openly-available AI models from performing dangerous tasks）
2025-08-12 オックスフォード大学オックスフォード大学、EleutherAI、英国AIセキュリティ研究所の共同研究は、オープンウェイトAIモデルの学習データから生物兵器やバイオテロ関連など高リスク情報を除去することで、安全性を高めつ...
1602ソフトウェア工学 大規模言語モデルへの新スキル学習法を開発（Researchers Found a Better Way to Teach Large Language Models New Skills）
2025-07-07 ノースカロライナ州立大学 (NCState)Image credit: Growtika.ノースカロライナ州立大学の研究者らは、LLMに新スキルを効率的に学習させる手法「WeGeFT」を開発した。これはLoRAを基盤に...