AI社会の歩き方

独立行政法人情報処理推進機構（IPA）デジタル基盤センター長AIセーフティ・インスティテュート（AISI）副所長・事務局長平本健二2024-10-17 日々進歩するAIをうまく使いこなしながら、しかも安全に安心して使える環境整備が必要です。 AI（Artificial Intelligence）とは 人工知能とは ⬧人工知能学会記事の「教養知識としてのAI」の中で以下のように説明されている。 実は，「人工知能とは何か」という問いに対する答えは，単純ではない．人工知能の専門家の間でも，大きな議論があり，それだけで1冊の本となってしまうほど，見解の異なるものである．そのような中で，共通する部分を引き出して，一言でまとめると，「人間と同じ知的作業をする機械を工学的に実現する技術」といえるだろう． AIの3つのステージ Open AIの定義するAGIの5段階スケール Level 1thekinds of conversational chatbots available todayLevel 2 tackles human-level problem solvingLevel 3 is all about agents, where systems can take actionsLevel 4 moves to AI that can aid in inventionLevel 5toAI that can do the work of an entire organization デジタル技術は、 1.伸ばせる力、人の可能性を最大化できる。 2.人の仕事を奪うものではない。 3.誰にも優しい。 AIの導入状況 AIの導入状況（経年変化および米国との比較） ⬧日本の「導入している」の回答割合は19.2%であり、2022年度水準とあまり変わらず、同40.4%である米国とは乖離が大きい。 AIの導入課題（経年変化および米国との比較） ⬧AIに対する理解や人材が不足していることが課題 AI人材の充足度（経年および米国との比較） 「AIを活用した製品・サービスを企画できるAI事業企画」「AIツールでデータ分析を行い、自社の事業に活かせる従業員」「現場の知見と基礎的AI知識を持ち、自社へのAI導入を推進できる従業員」において、「不足している」の回答割合が高い。 生成AIの導入状況（DX取組状況別） プライベートでの「生成AI」の利用 デジタル社会における消費者意識調査2024, JIPDEChttps://www.jipdec.or.jp/news/pressrelease/m0p0h60000005qig-att/20240418_01.pdf 生成AIのイメージ ⬧あなたは「生成AI」について、どのようなイメージを持っていますか。（複数回答） 個人の受け止め ⬧期待に比べて不安を感じている人は少ない。 個人の受け止め（期待要素） ⬧あなたは、企業が「生成AI」を用いたサービスを提供することに、期待を感じますか？（複数回答） 個人の受け止め（不安要素） ⬧あなたは、企業が「生成AI」を用いたサービスを提供することに、不安を感じますか？（複数回答） 個人情報やプライバシー情報に関する意識 ⬧抵抗を感じた際にあなたがとった行動として最も多いものを１つお選びください。 ⬧あなたは、Webサービスやアプリケーションを利用する際に、自分や家族の個人情報やプライバシーに関する情報を提供することに、どの程度抵抗がありますか。 AIをうまく使おう AIを上手に使うためのポイント ⬧目的を明確にする •何を達成したいのか、具体的な目標を設定することで、AIの適用範囲や方向性が明確になります。 ⬧データの質を確保する •AIはデータに基づいて学習します。正確で質の高いデータを使用することが重要です。 ⬧適切なツールを選ぶ •目的に応じて、適切なAIツールやプラットフォームを選びましょう。これにより、効率的に問題を解決できます。 ⬧AIに丸投げせず、人間が関与する •AIが提供する結果や提案はチェックし、人間の判断を加えることで、より正確な意思決定が可能になります。 ⬧継続的な学習と適応 •AI技術は急速に進化しています。最新の技術やトレンドを学び、システムを適応させることが重要です。 AIに関する情報の収集 ⬧AIに関しては政府や企業から多くのガイドやレポートが公表されています。国内のガイドに閉じず、海外の情報も積極的に活用することが重要です。 •動向 •AISIhttps://aisi.go.jp/•OECD.aihttps://oecd.ai/en/•内閣府AI戦略会議https://www8.cao.go.jp/cstp/ai/ai_senryaku/ai_senryaku.html•国連AI Advisory Bodyhttps://www.un.org/ai-advisory-body •技術 •YouTube等のネット上のリソース ⬧特に事例は最先端技術の使い方を知るのに重要です。世界の事例から多くのことを学ぶことができます。 こんなことには気を付けよう AIに関するリスクを知っておくことが重要 ⬧AIのリスクを知っていることで、リスクを回避したり軽減しやすくなります。また、リスクをわかっているからこそ、リスクを避けてイノベーションを推進することができます。 ⬧リスクには、第三者からの攻撃等の悪意のリスクだけでなく、AIが誤回答をする場合や、誤った使い方で問題を起こす誤使用等の悪意のないリスクがあることに注意が必要です。 AIに関して想定されるリスク ⬧AIには、Physical, Social, Economical, Psychologicalなリスクがある。 社会的リスクとして注目されるAIの雇用への影響 AIによる雇用への影響 Fraction of current workforce‐50050New jobs and lost jobs, 2023-2027 “The Future of Jobs Report 2023” WorldEconomic Forum（30 April 2023）https://www.weforum.org/publications/the-future-of-jobs-report-2023/ ⬧スキルやタスクベースで考える必要がある。 ⬧人も組織も必要なスキルを身に着け、ピボットし続ける必要がある。 AIに対する政策的対応 各国のAI安全性確保への取組み ⬧EU ⬧米国 •EC（欧州委員会）にあるAIオフィスで、利活用に加え、安全性も推進。AI法の整備と推進も担う•60人程度の規模 •NIST（国立標準技術研究所）にAISIを設立•基本は民間主導、民間企業とのコンソーシアム（AISIC）との協働を強力に推進•人員規模は30人程度。80名位を目指し推進中 ⬧カナダ •国内機関の協力のもとAISI設立を準備中 ⬧英国 ⬧シンガポール •DSIT（科学イノベーション技術省）にAISIを設立•政府主導で、AIの安全性に関する評価やTestingを強力に推進•規模は100名体制。技術者を多数雇用予定。また、今夏にサンフランシスコオフィスを開業予定 •南洋理工大学（NTU）内のデジタルトラストセンターがシンガポールのAISIを指定•大規模言語モデル（LLM）の国際標準化を目的とした安全性評価テストツールの提供等を実施 ⬧オーストラリア •国立の研究所がAISI機能を担う ⬧韓国 •2024年度末を目指しAISIを準備中•アジアのハブを目指す AIに関する国際機関の取り組み ⬧UN •AI Advisory Bodyを設置しAIについて議論•GOVERNING AI FOR HUMANITY最終レポート公開（2024年9月）•2024年9月の国連未来サミットの成果文書である「未来への協定」の付属文書である「グローバル・デジタル・コンパクト」で、デジタル協力と人工知能（AI）ガバナンスに関する包括的な世界的枠組みを整備。•コンパクトの中核は、すべての人々の利益のために、テクノロジーを設計、利用、規制するというコミットメントであり、AIに関する以下のコミットメントが含まれる。•国際科学パネル並びにAIに関するグローバル政策対話を含めたロードマップにより、AIを統治する。 ⬧OECD •The OECD Artificial Intelligence Policy Observatoryで、AIに関するレポートやツール、インシデントの情報を収集•Global Partnership on AI (GPAI)とも連携 日本におけるAISIの設立 ⬧2023年5月 •岸田総理大臣が「広島AIプロセス（※）」を提唱 ※G7広島サミットで提唱された生成AIに関する国際的なルールの検討を行うためのプロセス •広島AIプロセス「国際指針」及び「国際行動規範」（※）に合意※生成AIを含む高度なAIシステムに関する国際的な指針と行動規範 •英国主催AIセーフティサミットを開催 ⬧2023年12月 •「広島AIプロセス包括的政策枠組み」等に合意•岸田総理大臣がAIセーフティ・インスティテュート設立を表明 ⬧2024年2月14日 •IPA（情報処理推進機構）にAIセーフティ・インスティテュート（AISI）を設立 出典：広島AIプロセス＜https://www.soumu.go.jp/hiroshimaaiprocess/documents.html＞AI Safety Summit 2023＜https://www.gov.uk/government/topical-events/ai-safety-summit-2023＞AI戦略会議＜https://www.kantei.go.jp/jp/101_kishida/actions/202312/21ai.html＞AIセーフティ・インスティテュート＜https://aisi.go.jp/＞ AISIの概要 ⬧AISIの位置づけ •今後、官民が協力して、AIの安全安心な活用が促進されるよう、AIの開発や利用をする全ての関係者がAIのリスクを正しく認識し、ガバナンス確保などの必要となる対策をライフサイクル全体で実行できるようにしていく必要がある。 •また、これらの取組を通じ、イノベーションの促進とライフサイクルにわたるリスクの緩和を両立する枠組みを実現していく必要がある。 •AISIは、上記を実現するための官民の取組を支援する機関である。 •技術がグローバルかつ目まぐるしく進歩していることから、国内、国際的な関係機関と協調して取組を推進していく。 AISIの役割とスコープ ⬧役割 •政府への支援として、AIセーフティに関する調査、評価手法の検討や基準の作成等の支援を行う •日本におけるAIセーフティのハブとして、産学における関連取組の最新情報を集約し、関係企業・団体間の連携を促進する •他国のAIセーフティ関係機関と連携する ※自ら研究開発する組織ではない ⬧スコープ •AIによる以下の事象や検討事項の中で、諸外国や国内の動向も見ながら柔軟にスコープを設定し取組を進めていく。 •社会への影響•ガバナンス•AIシステム•コンテンツ•データ 実現に向けた業務 1.安全性評価に係る調査、基準等の検討 ①安全性に係る標準、チェックツール、偽情報対策技術、AIとサイバーセキュリティに関する調査②安全性に係る基準、ガイダンス等の検討③上記に関するAIのテスト環境の検討2.安全性評価の実施手法に関する検討 3.他国の関係機関（英米のAI Safety Institu