AIガバナンス動向とAI事業者への影響とは。責任あるAI活用に向けた課題と展望【JDLA 特別セミナーレポート】

最終更新日:2024/03/26

一般社団法人日本ディープラーニング協会（JDLA）は、2024年2月14日（水）にイイノカンファレンスセンターにて、『特別セミナー責任あるAIへの取組「AIガバナンスの動向、事業者への影響とは？」』を開催しました。会場には、AI利活用する企業の関係者や、AI政策に関わる産学官民の方々が多数集まりました。

今回のイベントは、国内外のAIガバナンスの動向の全体像を整理し、今後のAI事業者に与える影響や求められる対応について具体的な情報を提供することを目的としています。

イベントでは、東京大学東京カレッジ准教授兼 JDLA理事である江間有沙氏と一橋大学特任教授市川類氏による基調講演や、経済産業省商務情報政策局橘均憲氏、株式会社ABJA 代表取締役CEO 兼JDLA理事の岡田陽介氏、そしてUbie株式会社 Public Affairsの島津真夢氏を交えたパネルディスカッションが行われました。

今回は当日の様子を写真を中心にレポートします。

当日のセミナーの様子はJDLA公式YouTubeより閲覧可能です。

国外AIガバナンス動向：AIの急速な発展による危機感と自主コミットへの動き

まずは、JDLA理事である江間有沙氏と一橋大学特任教授市川類氏による基調講演「AIガバナンス動向の整理、国内AI事業者への影響示唆」が行われました。

昨年度末から今年にかけて、各国がAI規制制定と国際標準規格発行を進めているとコメント。特に、欧州、イギリス、アメリカそして、技術分野の点でISOの動きが目立っていると述べました。

欧州では、包括的なAI規制で大筋合意がなされており、イギリスではAI保証の検証を国家戦略として議論し始めています。アメリカでも、10月には大統領が出るなど、AIの安全性に取り組むための自主的なガイドラインが策定され、ISOではAIリスクマネジメントシステムに関する国際比較が行われています。

市川氏は、AIガバナンスに関わる動きはディープラーニングが流行した約10年前から始まっており、2019年にはOECD（経済協力開発機構）がAI原則を策定したことを指摘。その際、ディープラーニングが引き起こすリスクが十分に理解されていないまま原則が作成されたと述べました。

市川氏は、この1年でAIガバナンスの動向を3つに分類しました。まず1つ目は、欧州AI法案がようやく形になってきたことです。

2つ目は、2023年7月にアメリカが産業界の自主コミットを実施し、その後G7が動き国際的な行動規範を作成したということが挙げられます。アメリカでは、AI開発は企業の責任であり、事業責任もしっかりと果たしていくという考えから、計15社の大手企業が自主的なコミットメントに合意しています。

さらに、日本政府もG7で国際指針と国際行動規範を発表し、イギリスやカナダでも自主行動規範を発表するなど、高度なAIシステムに関して自主的に取り組む枠組みを作る流れが生まれたと述べました。

そして3つ目は、イギリスのブレッチリー宣言やアメリカの大統領令が出されたことです。2023年11月には「英国AI安全サミット」が開催され、そこでブレッチリー宣言が採択されています。欧米の視点では、AIがもたらす「深刻かつ破壊的な危険」の可能性を指摘しつつも、実際のAIリスクを理解する必要があるとし、AI安全研究所が設立されました。

市川氏は、AIによる人類存続リスクへの懸念や、AI技術の急速な発展からくる自主コミットの必要性が、ここ一年の国際的なAIガバナンス政策動向に影響しているとコメントしました。

日本国内でのAIガバナンス動向：ステークホルダーによる「AI事業者ガイドライン案」の策定

江間氏は、国外のAIガバナンス動向を踏まえて、日本国内のAIガバナンスの方向性について説明。総務省・経産省は「AI事業者ガイドライン案」を新たに策定しており、産学官民のマルチステークホルダーによる意見を反映させて作成されたものだと述べました。

さらに「AI事業者ガイドライン案」は、国際的な標準を相互に参照しながら齟齬がないように考えられているとし、国際的な議論の協調が反映されているとコメントしました。

一方で、産総研でのガイドラインやISO42001なども出てきています。技術的なレファレンスとして参照しながら、開発企業やAI提供企業、ビジネス利用する企業、さらに自治体や行政機関など、日本でも自主的な対応が求められていると強調しました。

また、日本でも国際機関と協力しながらAIの安全性を検証していく機関である「AIセーフティー・インスティチュート」が設立されました。この機関では、「フレームワーク」「技術調査」「評価・テスト」「標準化」「普及・啓発・人材」「国際連携」などの枠組みを通じて、AIの安全性に関する取り組みを行っていく予定です。

AIガバナンス取り組みに関する課題と今後の動き

江間氏と市川氏による基調講演後、国内外のAIガバナンス動向を踏まえた上で、企業に求められる対応や取り組みがパネルディスカッションで議論されました。

経済産業省商務情報政策局橘均憲氏、株式会社ABJA 代表取締役CEO 兼JDLA理事の岡田陽介氏、Ubie株式会社 Public Affairsの島津真夢氏も参加し、「AI事業者ガイドライン案」をもとに事業を行う企業側と、ガイドラインを策定した行政との意見交換が行われました。

経済産業省の橘氏は総務省や経済産業省がAI開発やAI活用に関するガイドラインを制定してきたと述べ、「AI事業者ガイドライン案」が作成される以前からそれらの取り組みがあったと指摘しました。経済産業省は2022年に企業の自主的な取り組みを促進する「AIガバナンスガイドライン」を作成し、これらのガイドラインはAIシステムの原則などを説明しています。

その後、生成AIが登場したことで、ガイドラインのアップデートを行う動きがあり、総務省と経済産業省が共同でガイドラインを統合し「AI事業者ガイドライン案」の公表に至りました。

橘氏は「AI事業者ガイドライン案」の作成にあたり、マルチステークホルダーを重視したとコメント。企業や弁護士、学者など100名以上の方のコメントを反映させ、イノベーション促進とリスク管理のバランスを考慮したガイドラインになっています。これらのガイドラインを参考に、事業者はリスクに応じた対応を行うことが重要だと指摘しました。

AI事業者はスタートアップ・行政も含めて改めて自主的な対応が必要とする一方で、事業者ガイドラインには非常に多くの項目があり、すべてに対応しようとすると多くのコストや時間を要してしまうことが問題だと挙がりました。