片岩拓也の研究領域 — LLMセキュリティと「人とAIの共存」
片岩拓也氏の研究を学習マップとして整理したノートである。全分野をつなぐ一本の軸は、AIを人間社会に安全かつ信頼できる形で組み込む方法だ。その軸から、攻防にあたるセキュリティと、理解にあたる認知・解釈可能性の二方向に枝分かれする。
LLMセキュリティ
この分野は、LLM（大規模言語モデル＝大量のテキストで学習した対話・生成AIの基盤モデル）を「騙す攻撃」と「守る防御」の両面で扱う。主要トピックはプロンプトインジェクション、ジェイルブレーク、出力の安全評価である。プロンプトインジェクションとは、AIへの指示文に不正な命令を紛れ込ませ、意図した制限を突破させる攻撃手法を指す。ジェイルブレークとは、AIに組み込まれた安全機構を回避し、本来拒否するはずの出力を引き出す行為である。
ユーザブルセキュリティ・解釈可能性
ユーザブルセキュリティは、安全性と使いやすさを両立させる分野であり、認証設計・同意やプライバシーに関するUX（ユーザー体験）・人間認知の特性を扱う。片岩氏の具体例としては、VRアバターの表情を用いた本人認証や、LLMエージェントがユーザーに代わってブラウザを操作する際の同意・プライバシー設計がある。もう一方の軸である解釈可能性（Interpretability）は、AIの内部的な推論過程を人間が読み取れるようにする研究であり、トークン埋め込みや内在次元数の分析、n-gramモデルなどを対象とする。
計算認知科学・記号創発
この分野は、個人と集団の心の働きを計算論的にモデル化する。具体的には、グラフニューラルネットワーク（GNN＝ノードとエッジからなる網構造を学習するAI）によって感情伝染を再現したり、社会規範が発生する過程をシミュレーションしたりする研究が含まれる。記号創発とは、あらかじめ設計されていない意味や言語が、集団内のやり取りから自然に生まれる現象を指す。
追いつく順序
片岩氏はこの分野に追いつくための順序を示している。第一は基礎体力にあたる、競技プログラミング（AtCoder）とCTF（＝脆弱なシステムに侵入して「フラグ」を奪うセキュリティ競技）である。第二はAI基礎、すなわち機械学習・自然言語処理・LLMの仕組みである。第三から第五にかけては、LLMセキュリティからユーザブルセキュリティ・認知科学へ、そしてGNNやVR認証などの応用研究へと進む。技術の攻撃側と人間理解の両輪を、片方に偏らず同時に育てることが一貫した姿勢である。