日々AIは目覚ましく進化しており、競争力を維持するためにも、AI活用に取り組む必要を感じている企業は少なくないだろう。しかし、そのAI活用にはさまざまなリスクがつきまとう。企業が安全・安心にAIを活用していくためには、これらのリスクを正しく認識したうえで、どのように管理していくのか、方針を明確にし、ガバナンスを効かせていくことが重要になる。
AIが孕むリスクや、それに対する日本や世界の動向、そして企業に求められるガバナンスのあり方などを、内閣府をはじめとする関係省庁や関係機関の協力の下、独立行政法人情報処理推進機構（IPA）に設置されたAIセーフティ・インスティテュートの所長である村上明子氏に話を聞いた。
AISIの役割と、AIにまつわるリスク
AIセーフティ・インスティテュート（以下、AISI）は、官民でAIの安全・安心な活用が促進されるよう、AIの安全性に関する評価手法や基準の検討・推進を行う政府機関として、2024年2月に設立された。12省庁すべてを横断する組織として、主に3つのミッションを持っている。
- 政府への支援：技術的な観点から、AIの安全性に関する調査や評価方法の検討を行う。
- 日本におけるAIセーフティのハブ：AIを使ったサイバー攻撃など、AIセーフティに関連するさまざまな情報を集め、日本の国民や企業に提供する。また、日本国内で起こっていることを他国のAIセーフティ関連組織にも発信し、連携を図る。
- 関連する研究機関との連携：国の研究機関とパートナーシップを結んで連携し、最先端の研究内容を実務に生かせる形にして展開する。
2025年6月には、AISIの検討を経てAI法（人工知能関連技術の研究開発及び活用の推進に関する法律）が施行された。この法律は、AI活用を抑制するためのものではなく、イノベーションの促進とリスク対応を両立することを目的としている。村上氏も「私たちは、決してAI活用を抑制しようとしているわけではありません」と強調する。
一方で、AI活用を前向きに進めていくためには、どのようなリスクが存在するのかを正しく理解し、向き合うことも欠かせない。AIにまつわるリスクとは、次のようなものだ。
一つは、技術的なリスク。たとえば、一般のユーザーでもAIを使う中で実感することが多いのが、事実に基づかない情報や誤った情報を提示してしまう「ハルシネーション」だろう。ほかにも、そもそも誤ったロジックや偏ったデータを学習させてしまい、それに基づいて誤った判断を下してしまうケースもある。実際に、とあるIT企業は、エンジニア採用にAIを使って候補者を絞ろうとしたところ、過去の採用者がたまたま全員男性だったため、女性候補者を一律に不採用にしてしまう事態が起こった。
加えて、社会的なリスクもある。AIによるプライバシーの侵害や、政治活動への悪用がこれに当てはまる。たとえば、AIがディープフェイクの技術で生成した政治家そっくりな人物が、実際には話していない内容を喋っている動画を見たことがあるかもしれない。また、「最新AIを握る者が世界を征服する」と言われるなど、AIによる権利集中も危惧されている。AIは多大な電力も消費するため、環境にかかる負荷も大きい。AIに質問をして一つの返答を得るために、ペットボトル1本分の水が消費されるという話も出ている。
企業でのAI活用は、法的なリスクやレピュテーションにおけるリスクも孕む。たとえ法律を犯していなくても、使用するAIやその使い方などによって、顧客からの信頼を失ってしまうといった可能性もある。
日本や世界が示すAIガイドライン
こうしたリスクを防ぎ、安全・安心な活用を促進するため、日本政府はAI事業者に対してガイドラインを制定している。そのガイドラインが示すのは、以下のような共通の指針だ。
図：AIの安全安心な活用のため、日本政府が出しているガイドライン（引用元：https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20240419_2.pdf）
世界各国でも、2010年代にAIが浸透し始めたときに、安全性やセキュリティの確保、透明性、説明可用性などを求めるAI原則が作成された。しかし、のちに出現した生成AIは、透明性や説明可用性の確保が困難であることから、現在ではAIの開発体制や開発に使用するデータに透明性が求められるようになっている。
企業は、どこからAI活用に手をつけるべきか
AI活用は、今後ますます進んでいく。では、AI活用を検討する企業は、どこから手をつけるべきなのか。時代の流れに乗って「とにかくAIを使わなければならない」と考える企業も少なくないが、まず重要なのは、AIを使って何を実現したいのかを明確にすることだ。
AIの利用目的が決まったら、次にAIで何をするのかを考える。目的が業務効率化なのであれば、社内のビジネスプロセスのうち、何にAIを取り入れるのかといったことだ。それが決まったら、次に重視すべきなのが、AIの運用手法だ。このときに大事なのは、AIから質のいい答えを得るために、質のいいデータを入れることだ。
そのうえで村上氏は「利用目的や用途、手法は、どこから着手するかを分けて考えるのではなく、全てを一体で検討しましょう」と提案する。企業によっては、目的や用途を明確にしないまま、先にデータ整備から始めようとする場合も少なくない。しかし、保有する全データを整理するのは現実的に難しいため、目的と用途をあわせて決めることが重要になる。そうすることで、必要なデータが自ずと定まり、結果として質の高いデータを継続的に蓄積できるようになるのだ。
経営層は、どのようにAIガバナンスに関わるべきか
企業のAI活用におけるリスクを管理するためにも、経営層はAIガバナンスをきちんと示し、活用と抑制のバランスをとっていくことが求められる。
村上氏も参加した東京都のAI戦略会議では、AI活用の目的を「都民の生活を豊かに、便利にするために活用する」と明確にしたうえで、その基本方針として「都民の生活の利便性向上や質向上の徹底、政策実現の手段としての利用、人間中心の利活用、リスク対応、イノベーションの推進」などを定めている。
AIの用途も大きく3つにカテゴライズし、その中でさらに何に利用するかを細かく分類している。たとえば、AIの用途が「都民が直接利用するサービス」であれば、その中でも「情報提供」や「行動支援」といった分類を行い、さらに利活用の難しさでレベル分けしている。
図：東京都AI戦略会議の資料から抜粋。資料は公開されており、誰でも閲覧することができる。https://www.digitalservice.metro.tokyo.lg.jp/business/ai-strategy-council/council03
また、こうしたAI活用の議論と切り離せないのが、データの扱いに関する考え方だ。データは全社の資産であるという前提に立ち、特定の部署や用途のために取得したデータであっても、将来的に他の部署や別の用途に活用できる環境を整える必要がある。そのうえで、どのデータに誰がアクセスできるのか、どこまでの利用を認めるのかといった権限設計をあらかじめ明確にし、運用ルールとして定めておくことが欠かせない。
図：安全安心なAI活用には、データを企業の資産としてどのように使うかという視点と、リスクやサイロ化を防ぐためのデータ保護という視点が同時に求められる
AIの進化をどう追うべきか
日々、AI技術は目覚ましいスピードで進化している。常に最新情報をキャッチアップしなければ、あっという間に時代に取り残されてしまうのではないかと、焦りを感じている人は多い。しかし、村上氏は「すべてのAIの進化をキャッチアップするのは無理です」と言い切る。
今後、AIの活用はますます欠かせないものになっていく。そのとき、他社との差別化につながるのは、どのAIを使っているかではない。AIを活用して事業の中身をどこまで加速度的に深められるのか、あるいはどこまで幅を広げていけるのかという点にある。さらに、AIを使うこと自体を前提としたうえで、AI時代にふさわしいビジネスプロセスとは何かを考えることも重要になる。
AIが孕むリスクを慎重に見極めながら、その力を効果的に活用し、事業の成長につなげていくことこそが、これからのAI時代を乗り切るためのカギとなる。
トレジャーデータがよくわかる！
資料3点セット
トレジャーデータやCDPについて、効率よく情報収集するための資料をセットにしました
