#リスク管理
13件の記事が見つかりました
AI開発セキュリティ実践：AIに書かせたものを、どう守るか
AIで作る側のためのセキュリティ連載。エージェントに渡す権限の設計、Hooks でのガードレール、生成AIツール側の設定、生成コードのレビュー観点、デプロイ基盤の本番前チェックまでを全12回で扱う。
AI導入ガバナンス解説：リスク・法律・統制を実装可能な仕組みに落とす
生成AI導入における統制（ガバナンス）を、リスク地図→法律3論点→Who/What/Whereの三段で整理した解説シリーズ。中核は第2回。
第1回 AIで作る時代の攻撃面 — 何が新しく危険になり、どこからが自分の責任か
AI開発セキュリティ実践の第1回。攻撃面をエージェント層・生成物層・実行基盤層の3つに分け、従来のWebセキュリティとの差分、lethal trifecta という設計原則、プラットフォームとの責任分界、そして全12回の読み進め方を整理します。
第1回 判断の枠組み — 5つの確認点と入力の3段階判断
業務AI安全利用ガイド第1回。AI利用のリスクを5つの確認点に分解し、安全性の3層モデル、入力してよいかを決める3段階判断、設定変更より先にすべき環境選びを整理する。
第1回 生成AIの全体像 — パラダイムシフトと4大リスク
生成AI導入ガバナンス解説シリーズ第1回。知能の限界費用ゼロ化、4大用途、4大リスク、3つの防壁、成功・失敗ケーススタディ。
第2回 Claude Code の権限設計 — どこまで許可し、何を必ず拒否するか
Claude Code の permissions を「書き方」ではなく「決め方」から整理します。deny に必ず入れる4カテゴリ、allow に入れてよいものを見分ける3条件、サンドボックスが守る範囲と守らない範囲、そしてチームで managed / project / user をどう分担するかを扱います。
第3回 Codex の権限設計 — 承認と隔離を2軸で決める
Codex の approval_policy と sandbox_mode は独立した2軸で、掛け算で実効的な安全度が決まります。作業の種類ごとにどの組み合わせを選ぶか、OS によって隔離レベルが変わる落とし穴、ネットワーク到達の扱い、Claude Code の permissions との対応関係を整理します。
第5回 MCP と外部連携 — 非信頼な入力がツールを動かす経路を塞ぐ
lethal trifecta（機密データ・非信頼コンテンツ・外部通信）を設計の採点表として使い、MCP 公式が MUST/MUST NOT で定めるトークン転送禁止・Confused Deputy・SSRF・スコープ最小化への対処と、実際に報告された MCP の脆弱性から実務の判断基準を組み立てます。
第8回 認証・認可のレビュー — AIに任せると最も壊れやすい場所
OWASP Top 10:2025 でも1位を維持する Broken Access Control を、AI生成コードの文脈で扱います。強制点の位置、IDOR、多階層の認可漏れ、権限昇格、返しすぎ、設定不足時の挙動という順にレビュー観点を並べ、RLS を認可の実装に使う場合の確認項目と、AIにレビューとテストを書かせるための指示の出し方まで整理します。
第9回 入出力と外部連携のレビュー — 境界で止める、境界で守る
AI開発セキュリティ実践の第9回。外部入力・APIレスポンス・ファイル・AIの出力を「境界で検証すべきもの」として一本化し、入力側（検証位置・SQL識別子・パス・アップロード）、出力側（HTML・リダイレクト・返却フィールド・エラー）、外部連携の4点セットまでをレビュー観点として整理します。
第10回 デプロイ基盤の本番前チェック — Cloudflare / Vercel / Supabase 横断で見る
公開直前に3つの基盤を同じ観点で点検するための1枚の表を作ります。秘密情報の分離、環境の分離、公開範囲、鍵の種類、流入制御、短命な認証情報という6観点を、Cloudflare / Vercel / Supabase の3列で並べ、無料枠で何ができるかまで正直に書きます。
第11回 秘密情報とサプライチェーン — 漏らさない仕組みと、拾わない仕組み
AI開発セキュリティ実践の第11回。秘密情報の置き場所と push protection、依存パッケージの検知とインストール時の多層防御、署名だけでは止まらない汚染事例、そしてエージェントに依存を追加させるときの手順を、CI に置く最小構成まで含めて整理します。
第12回 運用と初動 — 気づける状態を作り、起きたときに順番を間違えない
AI開発セキュリティ実践の最終回。何を記録し何を記録しないか、気づく経路の三本立て、事故が起きたときの初動5手順とよくある順番の間違い、四半期ごとの棚卸し、そして全12回を3層モデルへ戻して5つの原則にまとめます。