開催日時|
12.15
(火)
17:00-17:40
A会場
AIエージェントのリスクと安全性評価の考え方
プロフィール
AIセーフティ・インスティテュート
評価リサーチグループ
前田 誉彦氏
長年にわたりITインフラ・情報セキュリティ分野の業務に従事し、2025年よりAIセーフティ・インスティテュート(AISI)に参画。現在は、AIの安全性評価に関する取組として、事業実証ワーキンググループの運営、AIセーフティ評価ツールの検討、JAI-Trustプロジェクト等に携わる。また、「AIセーフティに関する評価観点ガイド」をはじめとする各種ガイドの策定・改訂にも取り組んでいる。
講演内容
AIエージェントの業務活用が進む中、過度な権限付与や意図しない動作、情報漏えいなど、安全性とセキュリティの両面でリスクが生じます。本講演では、AISIが公表する「AIセーフティに関する評価観点ガイド」等を踏まえ、AIシステムに対する攻撃手法と影響を整理します。「観測と制御」を含む安全性評価の観点や、権限管理・人による監督など、AIエージェントの導入・運用に向けた留意点を解説します。