シラバス GRADUATE SCHOOL

AIセキュリティ（後期2単位）

教授 大塚 玲　客員准教授 大坪 雄平

１．授業のねらい

本講義では，AIセキュリティの数理的な基本概念からLLM/Agentic AIの原理と構成法を学ぶ．前半で理論的な基礎を学び，後半は演習を中心とした講義とする．成績は中間テストと演習で評価する．

２．到達目標

・AIセキュリティの基礎理論を理解する．
・AIセキュリティの論文を理解するために必要な知識を得る．
・情報セキュリティ研究にLLM/Agentic AIを応用する力を身につける．

３．授業計画と開講形態

全回教室での対面のみの開催とする．但し、学会等の都合でリモート講義に変更することもある．その際は事前に通知するので掲示等に注意すること.

第1回 AIセキュリティ概説
　<講義全体像, セキュリティとセーフティ, Agentic AIセキュリティ, ハルシネーション>
第2回 深層学習セキュリティ
　<敵対的サンプル, モデル抽出, データ汚染，転移性>
第3回 大規模言語モデル
　<自己回帰言語モデル, トークン埋め込み, トランスフォーマー>
第4回 AI for Security
　<CTF, パッチ生成, マルウェア解析>
第5回 Agentic AIセキュリティ
　<アラインメント, 構造化レスポンス, MCP, 指示階層>
第6回 推論
　<Prompting、In-context Learning、推論パラメータ>
第7回 事前学習
　<トークン・埋め込み、Transformer概要、スケール測、学習の流れ>
第8回 事後学習
　<SFT, 強化学習、LoRA/QLoRA>
第9回 教師ありファインチューニング
　<SFT、ベンチマーク評価>
第10回 中間テストと解説
第11回 AIエージェント
　<チャットボット、拡張言語モデル>
第12回 演習（AIエージェント環境構築）
　<ローカルLLMサーバ環境構築、AIエージェントサンプルコード実行、解説>
第13回 演習（AIエージェント改良）
　<基本機能の拡張と特殊コマンドの実装>
第14回 ハッカソン
　<AIエージェントの改良>※個人ワークを想定、参加人数によりグループワーク
第15回 演習（発表会）
　<作成したAIエージェントの発表、議論>

４．教科書（学生が履修するにあたって必携のもの）

特に指定しない

５．参考書

C.M.ビショップ著, 深層学習 （上, 下) , シュプリンガー, 2026. ISBN 978-4621061220.
I. Goodfellow, Y. Bengio, A. Courville著, 深層学習, ドワンゴ, 2018, ISBN 978-4048930628.
Kevin P. Murphy著, 持橋 大地 (監修, 翻訳), 鈴木 大慈 (監修, 翻訳), 確率的機械学習:入門編 II: 非線形モデル (第II巻) , 朝倉書店 (2025).

６．関連科目

AIと機械学習と関連がある。

７．成績評価の方法と基準

到達目標を充足しているかどうかを評価の基準として、中間テスト(40%)と演習(40%)、質問など授業への積極的な参加(20％)で評価する．