#情報セキュリティ
18件の記事が見つかりました
AI開発セキュリティ実践：AIに書かせたものを、どう守るか
AIで作る側のためのセキュリティ連載。エージェントに渡す権限の設計、Hooks でのガードレール、生成AIツール側の設定、生成コードのレビュー観点、デプロイ基盤の本番前チェックまでを全12回で扱う。
業務AI安全利用ガイド：使う側が毎回下す5つの判断
AIを業務で安全に使うための判断軸を、利用者の目線で6回に整理したシリーズ。どのAIか・何を入れるか・何を見られるか・回答は正しいか・使ってよいか。Microsoft Copilot を題材に扱う。
第1回 AIで作る時代の攻撃面 — 何が新しく危険になり、どこからが自分の責任か
AI開発セキュリティ実践の第1回。攻撃面をエージェント層・生成物層・実行基盤層の3つに分け、従来のWebセキュリティとの差分、lethal trifecta という設計原則、プラットフォームとの責任分界、そして全12回の読み進め方を整理します。
第1回 判断の枠組み — 5つの確認点と入力の3段階判断
業務AI安全利用ガイド第1回。AI利用のリスクを5つの確認点に分解し、安全性の3層モデル、入力してよいかを決める3段階判断、設定変更より先にすべき環境選びを整理する。
第2回 Claude Code の権限設計 — どこまで許可し、何を必ず拒否するか
Claude Code の permissions を「書き方」ではなく「決め方」から整理します。deny に必ず入れる4カテゴリ、allow に入れてよいものを見分ける3条件、サンドボックスが守る範囲と守らない範囲、そしてチームで managed / project / user をどう分担するかを扱います。
第2回 業務AIは何を見ているか — 「学習されない」の正確な範囲
業務AI安全利用ガイド第2回。Microsoft Copilot の参照3系統、環境とアカウントで変わるデータの扱い、「基盤モデルの学習に使われない」が何を保証しないのか、残るのは権限と習慣のリスクという整理。
第3回 Codex の権限設計 — 承認と隔離を2軸で決める
Codex の approval_policy と sandbox_mode は独立した2軸で、掛け算で実効的な安全度が決まります。作業の種類ごとにどの組み合わせを選ぶか、OS によって隔離レベルが変わる落とし穴、ネットワーク到達の扱い、Claude Code の permissions との対応関係を整理します。
第3回 Shadow AI — 同じ作業でも、開く場所で管理の外に出る
業務AI安全利用ガイド第3回。未承認AIの利用が悪意ではなく便利さから生まれる構図、日常業務に潜む4つの入口、一度出た情報を追えなくなる理由、未承認AIかどうかを見分ける5つの軸。
第4回 Hooks でガードレールを組む — 権限設定で塞ぎきれない穴を埋める
permissions や承認モードは静的なパターン一致でしか判断できません。ファイルの中身や実行文脈を見て決定論的に止めるための Hooks を、秘密ファイル保護・破壊的コマンド遮断・監査ログ・コミット前検証の4種のスクリプトとして示します。
第5回 MCP と外部連携 — 非信頼な入力がツールを動かす経路を塞ぐ
lethal trifecta（機密データ・非信頼コンテンツ・外部通信）を設計の採点表として使い、MCP 公式が MUST/MUST NOT で定めるトークン転送禁止・Confused Deputy・SSRF・スコープ最小化への対処と、実際に報告された MCP の脆弱性から実務の判断基準を組み立てます。
第5回 権限と過剰共有 — AIは権限を突破しない、見つけやすくするだけ
業務AI安全利用ガイド第5回。「既存のアクセス権」の実像、Copilot が本人の権限の範囲でしか動かない仕組み、導入で表面化する過剰共有、利用者では塞げない問題に対する組織側の4つの手立て。
第6回 生成AIツール側の設定で守る — 開発者と管理者が実際に触る項目
ChatGPT / Claude / Gemini の管理者設定を横断比較し、学習利用・保持期間・共有範囲・コネクタ・監査ログ・SSO の7軸で何が設定でき、何が設定では解けないかを整理する。個人プランと法人プランの断絶、設定の優先順位、設定が効いていることの確認方法まで扱う。
第7回 AI生成コードのレビュー観点 — 何を見て、AIに何をレビューさせるか
AI生成コードのレビューを「機械が確実にやる層・AIにやらせる層・人間が必ず見る層」に分け、OWASP Top 10:2025 と ASVS 5.0.0 を土台にした観点リストと、そのまま使えるレビュー依頼テンプレートをまとめます。
第8回 認証・認可のレビュー — AIに任せると最も壊れやすい場所
OWASP Top 10:2025 でも1位を維持する Broken Access Control を、AI生成コードの文脈で扱います。強制点の位置、IDOR、多階層の認可漏れ、権限昇格、返しすぎ、設定不足時の挙動という順にレビュー観点を並べ、RLS を認可の実装に使う場合の確認項目と、AIにレビューとテストを書かせるための指示の出し方まで整理します。
第9回 入出力と外部連携のレビュー — 境界で止める、境界で守る
AI開発セキュリティ実践の第9回。外部入力・APIレスポンス・ファイル・AIの出力を「境界で検証すべきもの」として一本化し、入力側（検証位置・SQL識別子・パス・アップロード）、出力側（HTML・リダイレクト・返却フィールド・エラー）、外部連携の4点セットまでをレビュー観点として整理します。
第10回 デプロイ基盤の本番前チェック — Cloudflare / Vercel / Supabase 横断で見る
公開直前に3つの基盤を同じ観点で点検するための1枚の表を作ります。秘密情報の分離、環境の分離、公開範囲、鍵の種類、流入制御、短命な認証情報という6観点を、Cloudflare / Vercel / Supabase の3列で並べ、無料枠で何ができるかまで正直に書きます。
第11回 秘密情報とサプライチェーン — 漏らさない仕組みと、拾わない仕組み
AI開発セキュリティ実践の第11回。秘密情報の置き場所と push protection、依存パッケージの検知とインストール時の多層防御、署名だけでは止まらない汚染事例、そしてエージェントに依存を追加させるときの手順を、CI に置く最小構成まで含めて整理します。
第12回 運用と初動 — 気づける状態を作り、起きたときに順番を間違えない
AI開発セキュリティ実践の最終回。何を記録し何を記録しないか、気づく経路の三本立て、事故が起きたときの初動5手順とよくある順番の間違い、四半期ごとの棚卸し、そして全12回を3層モデルへ戻して5つの原則にまとめます。