OneNym.id導入について相談する
日本語

THE HARDENED STACK / 第16章

セキュリティの自動化とAIの安全な活用

少人数のIT部門が作業量で脅威に追いつくことはできません。限られた時間からより多くを引き出すには、何をスクリプトに任せ、その自動化が新たなリスクにならないようどう守り、AIアシスタントをどう安全に使うかが問われます。

このページは本書の要約です。全文は本書でお読みください。

繰り返しの多い定型作業から自動化する

章の冒頭、サービスデスクの Lucy が四半期の間に退職者の手作業処理を数えたところ、31回、1回あたり約20分で、毎回どこかに小さなミスの種がありました。著者は、自動化とAIは向けた対象をそのまま増幅するもので、健全な基盤の上でしか効果を発揮しないと述べます。把握できていない環境、管理できていないID、管理できていないシークレットの上で自動化すれば、問題を量産するだけです。

最初の候補は、頻度が高く、手順が決まっていて、誤ると影響が大きく、結果を確認しやすい作業です。入社・異動・退職の処理、パッチ適用状況の報告、ログの一次仕分け、証明書の期限監視、インシデント時の証拠収集が当てはまります。アラートが本物のインシデントか、漏えいの通知をどう書くかといった文脈に依存する判断は対象外です。「頻度×手間」で順位を付けると、面白い課題より退屈で価値の高い作業が上位に来ます。

安全な出発点:退職処理と読み取り専用の報告

本書の退職処理スクリプトの例は、サインインのブロックとセッションの失効、メールボックスの共有メールボックス化または上長への委任、グループ所属を記録してからの削除、メールボックス保全後のライセンス回収、MDM での端末の返却・ワイプ指定を行います。緊急用アカウントは対象外とし、全手順をチケットに記録し、完全削除はしません。最終的な削除は保持期間の後に人が行います。起動のきっかけはチャットでの依頼ではなく、人事システムに登録された正式な退職記録にすべきだとしています。誰が退職を決めたかが常に記録に残り、スクリプトを悪用して他人のアカウントを止めることもできなくなるからです。

2つ目は、スケジュール実行する読み取り専用のパッチ適用状況レポートです。何も変更しないため何も壊せず、サービスID、保管庫の認証情報、定期実行、配信、失敗時の通知といった周辺の仕組みを安全に練習できます。ただし、誰も読まないレポートは監視しているという錯覚を生むため、内容に基づいて動く担当者を決めておく必要があります。

小規模組織なりのオーケストレーション

大企業向けには SOAR 製品がありますが、原理は、トリガー、自動の情報収集(エンリッチメント)、必要に応じた対処案、重要な操作の前の人による承認、という流れです。最も安全で効果が大きいのは情報収集で、アカウント侵害のアラートが出た時点でサインイン履歴、グループ所属、受信トレイルール、OAuth の付与をチケットに自動で集めておけば、担当者は最初の20分を調べ物に使わずに済みます。本書は、スケジューラー、バージョン管理されたスクリプト、チケットシステムのAPI、チャットの Webhook といった手持ちの道具で組むことを勧めています。

誤検知の多い検知に重要な自動対応をつなげるのは危険です。精度の低い「あり得ない移動」ルールで自動無効化すれば、いずれ正当な利用者を締め出します。確度が高く影響の小さい操作、例えばすでに悪性と確認されたメールの隔離は自動で実行し、アカウントの無効化など重要な操作はワンクリックで人が承認する形にします。すべての自動化を一度に止めるキルスイッチと、自動操作の変更不可なログも用意します。

自動化は特権アクセスとして扱う

任意のアカウントを無効化できるスクリプトは環境内で最も強い権限を持つものの一つで、乗っ取られれば攻撃者はその権限を一度に手に入れます。本書のガードレールは、専用の最小権限ID(できれば短命な認証情報を使うワークロードID)、実行時に保管庫から取得するシークレット、ブランチ保護とレビュー付きのバージョン管理、実行者・操作・対象・結果・チケット番号を残す変更不可のログ、保護対象アカウントの除外、キルスイッチです。特に、既定でドライランにして明示しない限り変更しないこと、1回の実行で扱う対象数に上限を設け、普段1〜2件の処理が突然数百件を求めたら拒否することを強調しています。

AIアシスタントを安全に使い、自動化しないものを決める

AIアシスタントはエラーの説明、スクリプトの作成やレビュー、ログの要約、ランブックの下書きに役立ちます。本書の原則は4つです。シークレットや顧客データ、個人情報を含むログをAIツールに貼り付けず、伏せ字やプレースホルダーを使い、実データには契約上のデータ取扱い保証がある企業向けサービスを選ぶこと。出力が流暢でも正しいとは限らないため、影響の大きさに応じて検証すること。事例では、AIが書いた削除スクリプトの条件が意図より広く、テスト用以外のリソースまで消すところでしたが、全行を読みドライランを先に実行したことで防げました。重要な操作の責任は人が持つこと。そして操作権限を持つAIエージェントも最小権限とログ記録の対象とし、読み込んだ文書やチケット、Webページに仕込まれた指示で動きを変えられるおそれがあると心得ることです。

文脈に依存する判断、人の承認がない不可逆な操作、まれな失敗が高速かつ一斉に起きた場合の損害が日常の効率化を上回る作業は、手作業のまま残します。手作業の工程が、誰かが違和感に気づく唯一の機会になっている場合もあるため、自動化する前にその人が何を見ていたかを確認するよう勧めています。

KEY POINTS

要点

  • 退職処理のような定型作業を1つ選び、今月中にガードレール付きで自動化する。
  • 自動化は専用の最小権限IDで実行し、保管庫のシークレット、既定のドライラン、対象数の上限、変更不可のログ、キルスイッチを備える。
  • パッチ適用状況などの読み取り専用レポートを定期実行し、対応する担当者を決める。
  • 最も多いインシデント種別に自動の情報収集を加え、対応操作は人が行う。
  • 「シークレットや顧客データをAIに入れない、出力は検証する、重要な操作は人が承認する」という短いAI利用ルールを周知する。
  • 自動化しないものとその理由を書き出しておく。

QUESTIONS

よくある質問

セキュリティ業務で最初に自動化すべきものは何ですか
頻度が高く、手順が決まっていて、誤ると影響が大きく、結果を確認しやすい作業から始めます。退職者のアカウント処理、パッチ適用状況の報告、証明書の期限監視、インシデント時の証拠収集などが代表例です。「頻度×手間」で優先順位を付け、アラートが本物かどうかの判断のように事業の文脈に依存するものは人に残します。
退職者のアカウント処理を安全に自動化するにはどうすればよいですか
『The Hardened Stack』は、サインインのブロックとセッション失効、メールボックスの保全、グループ所属を記録してからの削除、保全後のライセンス回収、MDM での端末指定を行い、完全削除はしない設計を勧めています。緊急用アカウントは除外し、全手順をチケットに記録し、最終削除は保持期間後に人が行います。起動は非公式な依頼ではなく、人事システムの正式な退職記録をきっかけにします。
自動化スクリプトにはどんなガードレールが必要ですか
専用の最小権限ID(できれば短命な認証情報のワークロードID)で実行し、シークレットは実行時に保管庫から取得します。コードはレビュー付きでバージョン管理し、すべての操作を変更不可のログに残し、チケット番号を必須にし、保護対象アカウントを除外し、全自動化を止めるキルスイッチを用意します。さらに既定をドライランにし、1回あたりの対象数に上限を設けます。
アカウント無効化などの対応は完全に自動化してよいですか
元になる検知が十分に信頼でき、影響が小さい場合に限るべきです。『The Hardened Stack』は、悪性と確認済みのメールの隔離のように確度が高く影響の小さい操作は自動で実行し、アカウントの無効化のような重要な操作はワンクリックで人が承認する形を勧めています。時間短縮の大半は自動の情報収集から得られ、承認を省くことからではありません。
ログや設定ファイルを生成AIのアシスタントに貼り付けても大丈夫ですか
そのままでは避けるべきです。外部のAIサービスに送った情報は自社の管理を離れると考え、APIキーなどのシークレット、顧客データ、個人情報を取り除き、プレースホルダーに置き換えます。実データを扱う作業では、無料の個人向けツールではなく、契約上のデータ取扱い保証がある企業向けAIサービスを使います。
AIが書いたスクリプトやコマンドはどう確認すればよいですか
AIの出力は正しくても誤っていても同じように自信ありげに見えるため、影響の大きさに応じて検証します。一度きりの読み取り専用クエリなら目を通す程度でもよいですが、本番環境に特権で実行するスクリプトは全行をレビューし、ドライランやテスト環境で確かめてから使います。重要な操作の責任はツールではなく人が負います。