第2回 生成AIの統制（ガバナンス）— 条件付きで「使える」状態を設計する

このセッションのキーメッセージ

本回の目的は「統制の下で積極的に活用できる状態」を作ること。 単なるリスク管理（守り）ではなく、ビジネスで安全にアクセルを踏むための 「ガードレール」 を設計する。

なぜ「統制」から始めるのか — 家づくりに例えると、統制は「基礎と壁」。戦略（間取り）や活用（家具配置）の前に、雨風をしのぎ倒壊しない外枠を作る必要がある。

シリーズの位置づけ:

1. 第1回 — 全体像
2. 第2回 — 統制（今回）
3. 第3回 — 戦略と実行
4. 第4回以降 — 活用

全体構成 — リスク → 法律 → ガバナンス の三段階

第2回は 3パートの入れ子構造 で展開する。これがこの解説で最も独創的なロジック設計。

1. Part 1 リスク — 何が起き得るか（事例ベース）
2. Part 2 法律 — 適法/違法の境界線（判断基準）
3. Part 3 ガバナンス — 誰が・何を・どこまで（組織設計）

事例で漠然とした不安を持つ → 法律で判断基準に変換 → ガバナンスで実装可能な仕組みに落とす。この順序自体が重要 で、最初から「ガバナンス導入しよう」と入ると現場は腹落ちしない。

練習用ケース: 株式会社クロスキャピタル

ここからは架空の中堅M&A仲介会社「クロスキャピタル」（600名、年間120件、扱う案件30〜100億円）を題材に進める。情報システム部長 山田氏が直面しているのは：

• 若手コンサルタントの シャドーAI常態化（個人ChatGPTの業務利用）
• スマホ経由の利用は 完全にブラックボックス
• 公式ガイドラインゼロ、現場の倫理観に依存

未公開財務情報・経営者意向・買収候補リスト・DD資料を日常的に扱う組織で、これは典型的な高リスク状態。この設定が「禁止か、それとも管理か」の判断を切実にする。

Part 1 — リスク: 5領域と重点3つ

リスク全体像（5領域）

• ★ 情報漏洩（LEAKAGE） — 未承認ツール、機密データ入力。最も発生頻度が高い
• ★ ハルシネーション（HALLUCINATION） — 事実無根の生成、誤判断・責任問題
• ★ 知財・著作権侵害（IP INFRINGEMENT） — 他者著作物の意図しない生成、自社生成物の権利保護
• セキュリティ — プロンプトインジェクション、モデルへの攻撃
• 倫理・バイアス — 差別的出力、ブランドリスク

★が 重点3領域（事故発生頻度が高く、法的リスクも大きい）。

リスク詳細 1: 情報漏洩 — Samsung事例

Samsung社内ChatGPT事件のタイムライン:

• 2023年3月 — 社内利用を許可
• 2023年4月 — わずか数週間で3件のインシデント発生（ソースコード×2、会議録音内容）
• 2023年5月 — 全面禁止 → 社内AI開発着手
• 2023年11月 — Samsung Gauss発表

学び: 禁止して終わりではない。Samsungも 「禁止」→「管理された環境での再開」 を模索した。「禁止」は最終解ではなく中間解。

リスク詳細 2: ハルシネーション — Air Canada事例

2024年2月、Air Canadaのチャットボットが忌引き割引条件を誤って案内し、乗客が購入。B.C. CRT（裁判所）は「チャットボットの回答は企業の回答である」と判断し、CAD 812.02 の賠償を命令。

これがガバナンス上重要な理由は、後述の 善管注意義務違反 の典型例として法的責任の射程を示すため。

リスク詳細 3: 知財・著作権

学習段階と生成・利用段階を 必ず分けて議論 する。これが Part 2 法律の核心になる。

訴訟	段階	概要
NYT v. OpenAI / Microsoft	生成・利用	記事の逐語的出力が証拠。市場代替性を主張
Bartz v. Anthropic（2025-09 和解）	学習	学習データの無断利用。推定 USD 1.5B

Part 1 まとめ

5領域、まず重点3領域。技術だけでは防げない。技術 × 運用 × 契約 の組み合わせ。重要判断には必ず人間が介在（HITL）。

→ 次の問い: 「では、適法/違法の境界線はどこにあるのか？」

Part 2 — 法律: 3つの論点

共通する結論

3テーマに共通するのは「条件次第でリスクは管理可能」という結論。 その条件の実装が、次章ガバナンスのテーマ。

法律論点 1: 著作権 — 学習段階と生成・利用段階で評価が変わる

著作権リスクは段階で評価が180度変わる。

• 学習段階 — 著作権法 30条の4（非享受目的の情報解析）により 原則適法
• 生成・利用段階 ★リスクの本丸 — 侵害要件は「依拠性 + 類似性」

ここを区別せずに「AIは著作権侵害」と決めつけると、議論が現場で止まってしまう。

詳細:

• 依拠性（Reliance） — 既存著作物に接して元にすること。プロンプトで特定作家名・作品名を明示指定した場合、依拠性が強く推認される。
• 類似性（Similarity） — 既存著作物の表現上の本質的特徴を直接感得できること。単なる「作風（スタイル）」の踏襲は通常セーフ。

実務対策3つ:

1. プロンプト制御 — 「○○風」「△△（作家名）のスタイルで」を社内ルールで禁止 → 依拠性リスクを低減
2. クリアランス — 商用利用・外部公開時は類似性調査を必須化
3. 契約 — Reps & Warranties（適法性保証）と Indemnity（補償）条項で確認

法律論点 2: 秘密情報 — 3層構造のリスク

「絶対ダメ」ではなく 「条件付きでOK」。秘密情報のリスクは独立した3層で発生する。

• 層1: 競争優位の喪失 — 独自ノウハウ・技術的優位性の毀損
• 層2: 契約違反 — NDA・秘密保持義務違反
• 層3: 不正競争防止法違反 — 営業秘密3要件を満たす情報の漏洩

3つは 独立して発生しうる（契約がなくても不競法違反になりうる）。Samsung事例は3層が同時顕在化したケース。

データ分類による判断フレーム

これが ガバナンスの実装で最も使える表。一律禁止ではなく分類別に基準を変える。

分類	具体例	AI入力の判断基準
極秘	M&A案件、未公開戦略、新規技術コア	原則禁止。隔離環境でも個別審査必須
秘	人事情報、特定顧客の詳細取引条件	条件付き許可。エンタープライズ版（学習利用なし）のみ可。匿名化・マスキング推奨
社外秘	社内マニュアル、業務手順書	許可（要レビュー）。エンタープライズ版なら入力可。社外共有時はレビュー必須

判断3チェック: ① 漏洩時インパクト、② 元契約（NDA）との整合、③ 契約担保（DPA等）。

法律論点 3: ハルシネーションの法的責任 ★最重要

「AIを使ったことが問題ではない。AIの出力をチェックしなかったことが問題。」

ハルシネーションを直接規制する法律は ない。ただし既存法で責任を問われる。

• 契約関係あり → 債務不履行責任（民法644条 善管注意義務違反 + 415条）
• 契約関係なし → 不法行為責任（民法709条 過失）

いずれの場合も核心は 検証義務違反。

詳細:

• 善管注意義務違反 — 業務の性質に応じた合理的な検証を行う義務に違反 → AI出力を無検証で使い顧客に損害 → 違反
• 不法行為責任 — AIの誤りは広く知られているため、検証なき公開・利用は予見可能性・回避可能性ありとして過失が認められやすい

過失相殺で責任範囲を限定する

	AI利用の明示なし	AI利用の明示あり ★推奨
顧客の認識	高品質・責任を期待	了承済・不正確性を理解
過失相殺	× 認められにくい（全責任）	○ 認められやすい
リスク評価	高	低

契約設計3点: ① AI利用の明示、② 出力限界の説明（最終判断は人間）、③ 責任制限条項（消費者契約法の無効範囲に注意）。

Part 2 まとめ

テーマ	法的結論	ガバナンスで実装すべき施策
著作権	学習は30条の4で基本セーフ。リスクは生成・利用段階。依拠性＋類似性が侵害要件	プロンプト制御 / クリアランス / Indemnity条項
秘密情報	一律アウトではない。3層構造で条件付き許容	データ分類（極秘/秘/社外秘） / NDA確認 / エンタープライズ版契約
ハルシネーション	直接規制なしでも既存法で責任。「チェックしないこと」が過失	HITL必須化 / AI利用の契約明示 / 責任制限条項

→ 次の問い: 「条件は分かった。これを誰が・何を・どこまでで運用できる形にするか？」

Part 3 — ガバナンス: 3つの判断軸と3つの型

ガバナンスとは何か

AI固有のリスクと既存の法規制を、社内の「誰が・何を・どこまで」で運用できる形に落とす のがガバナンス。

ガバナンス設計のループ:

1. INPUTS — AIリスク5領域 + 法規制・ガイドライン（著作権法30条の4 / 不正競争防止法 / 個人情報保護法 / 民法418・722条 / AI利活用促進法）
2. INTEGRATION（意思決定） — ポリシー策定 / 標準手順（SOP） / 許可ツール選定 / 監視・記録要件
3. IMPLEMENTATION — 教育・周知 / 運用・プロセス / 監査・改善（PDCA）→ INPUTSへフィードバック

設計時の参考フレーム: AI事業者ガイドライン（第1.1版）、NIST AI RMF、EU AI Act。

3つの判断軸 ★ガバナンスの実装で最も使う

軸	内容	アウトプット
Who（誰が）	経営会議・AI CoE・法務/セキュリティ/IT の役割分担	体制図、RACIチャート
What（何を）	対象ユースケース、禁止事項（Negative List）、HITL基準	ガイドライン・利用規約
Where（どこまで）	許可ツール・環境、データ分類別の入出力制御、ログ監査	許可リスト、監査ダッシュボード

3軸を漏れなく揃えると、ガイドライン・体制・監査基盤がワンセットで成立する。

3社のガバナンス型比較

型	代表	コア発想	スピード	統制強度	投資	適する状況
防御基盤先行型	パナソニック コネクト	統制の土台を先に整備し段階解放	中	高	中	既存コンプラ体制が強固な大企業
高速展開型	ソフトバンク	スピード優先で早期活用、走りながら拡張	最高	中	中	変化の激しい業界、トップダウン可
環境隔離型	ベネッセ	リスク最小化最優先、専用環境で厳格運用	低	最高	高	個人情報・ブランドリスクが高い領域

パナソニック コネクト型（防御基盤先行）

• 約29,700名、既存ガバナンス組織主導
• ConnectAI（Azure OpenAI ベースの社内専用環境）を全社配布
• 既存のセキュリティ規定にAI条項を追加する形で統合
• 段階展開: STEP1 防御基盤確立 → STEP2 RAG社内連携 → STEP3 業務特化アプリ
• 実績: 2024年 18.6万時間/年削減 → 2025年 44.8万時間/年削減（2.4倍）

ソフトバンク型（高速展開）

• 約19,000名、AI戦略室 / CIO・CTO・CISO・CCO連携
• AI倫理規定を 社外公開 して透明性確保
• フェーズ別公開・拡張、第三者外部監査
• スピードを殺さず走りながらガードレールを強固に

ベネッセ型（環境隔離）

• 約15,000名、DIP（Digital Innovation Partners）/ 経営直轄
• Benesse Chat（Azure OpenAI ベース）で外部データ流出を技術的に遮断
• 個人情報業務への適用は 原則禁止 + 個別審査
• 教育・介護事業の信頼維持のためブランド毀損リスクを徹底監視

適合マトリクス — 「正解」ではなく「適合」

型	既存統制の強さ	スピード要求	ブランド/PII重要度
防御基盤先行型	◎	△	○
高速展開型	△	◎	△
環境隔離型	○	○	◎

複数の型の組み合わせも有効。例: 社内業務は防御基盤先行型 ＋ クライアント案件は環境隔離型。

Part 3 まとめ

正解は「型」ではなく「適合」。Who / What / Where の3軸で、抜け漏れのない設計を行うことがガバナンスの第一歩。

ケーススタディ完結 — クロスキャピタルへの提案

ケースは最後にもう一度戻ってくる。山田部長には3つの追加圧力がかかる：

1. クライアント圧力: 最大クライアント A社（売上20%）法務部から「2ヶ月後の契約更新までにAIポリシー提出。未整備なら契約見直し」
2. エースの離職リスク: トップ佐藤（売上12%）が「ChatGPTで作業時間半減。全面禁止なら退職」と示唆。競合2社から接触あり
3. リソース制約: 年間予算500万円、担当2名

ケース要素と各パートの対応：

ケース要素	対応するパート	キーメッセージ
シャドーAI常態化	リスク (Samsung) / 法律 (秘密管理性) / Who	個人アカウントは秘密管理性を毀損。禁止ではなく管理された環境への移行
クライアントからの要求	法律まとめ / What	ポリシーは「禁止事項の羅列」ではなく「条件付き許容の設計図」
エース佐藤の退職示唆	ハルシネーション / 善管注意義務 / Who/What	「使わせる」だけでは不十分。検証プロセスをセットに
予算・人員制約	アーキタイプ選択	スモールスタートの型を選び段階的に拡張

ガバナンス文脈での示唆

第2回はこのシリーズの 最大の収穫 が詰まっている。

1. 「禁止」と「無管理」の二者択一を脱する — 第2回全体が「条件付き許容の設計図」を組み立てる作法
2. 法律論点はガバナンス施策に1対1対応する — 著作権→プロンプト制御、秘密情報→分類、ハルシネーション→HITL
3. 3社の型は組み合わせて使う — 単一型を盲信せず、業務領域ごとに型を選ぶハイブリッド運用が現実解
4. 「型」ではなく「適合」 — 自社の既存統制の強さ・スピード要求・ブランド要件で選ぶ

→ 前: 第1回 生成AIの全体像 ｜ 次: 第3回 生成AIの導入戦略