OneNym.id導入について相談する
日本語

経営者のためのサイバーリスク / 第10章

AIという問い

同じAIが、朝には若手社員の仕事を劇的に速め、午後にはCFOそっくりの声で振込を求める詐欺に使われます。本章は、AIがどこにリスクと機会を生み、経営だけが下せる判断はどれかを、恐れにも過度な期待にも偏らずに整理します。

このページは本書の要約です。全文は本書でお読みください。

AIがセキュリティに触れる三つの道

本書はAIを、ビルに越してきた才能ある新しい住人にたとえます。ほとんどの部署で役に立つ一方、何が秘密かを心得ておらず、自信たっぷりに間違えることがあり、外部の悪意ある人にも同じ才能を貸し出されます。経営者が仕組みの中身を理解する必要はありません。大切なのは、社員が使う道具としてのAI、犯罪者が使う武器としてのAI、自社の製品や業務に組み込むAIという三つを分けて考えることです。取締役会で「AIは危険だ」という話が堂々めぐりするのは、性質の違う三つの心配が一語に混ざっているからです。

社員が機密をチャットボットに貼り付けるとき

もっともよくあるAIのリスクは、善意の社員が仕入価格の表や懲戒文書を、規約も読まずに無料の公開チャットボットへ貼り付けることです。これは新しい形の情報漏えいで、多くの経営者は社員がどの道具をどんな条件で使っているかを把握していません。

全面禁止は私用スマホでの利用を招き、見えなくなるだけです。経営が決めるべきは、データを学習に使わない法人向けの公認の道具を用意するか、どのAIにも入れてはならない情報を何にするか、どこまで利用を可視化するかの三つです。架空の会社みなと食品では、社員が一か月に四十一ものAIサイトを使っていました。リスク委員会は、年間のコーヒー代より少し安い法人契約、一枚の利用ポリシー、三か月の猶予後の遮断を十分で承認しました。

ディープフェイクと「仕組みは感覚に勝る」

AIは、ぎこちない言葉づかいや妙な調子といった詐欺の手がかりを消しました。役員の文体をまねた完璧なメールも、講演動画の数秒から作った声も用意できます。偽物は「今日中に」「内密に」と急かし、上役に逆らいにくい心理を突いてきます。検知の道具は主たる防御にはなりません。いつもと違う振込や口座変更は、登録済みの番号への折り返しや財務システム上の二名承認など、別の既知の経路で必ず確かめる仕組みにすれば、偽物の出来は問題でなくなります。経営者は、確認した社員は感謝されると公に繰り返し伝えるべきです。

みんなが守る利用ポリシー

十数ページの禁止事項の一覧は、署名されて忘れられ、社員を黙らせます。良いポリシーは一、二枚に収まり、公認の道具と申請方法、決して入れてはならないもの、出力に責任を持つのは使った人であること、AIの利用を開示すべき場面、質問や失敗の報告先の五つに答えます。とくに、間違えて貼り付けたら一時間以内に報告してほしいと温かく書くことが大切です。

みなと食品では、十一ページの草案を一枚半に作り直し、大森社長が全社集会で、自分も未発表の決算を貼り付けかけたと語りました。三か月後、非公認サイトの利用は約七割減り、自ら名乗り出た二件の報告は社内報で成功として紹介されました。ポリシーには見直し日と担当者を記します。

自社で作る・買うAIを統治し、釣り合いを保つ

会員アプリのチャットボットがアレルギー情報を誤れば、食品会社には健康に関わる問題です。需要予測の外れは品切れや廃棄に直結し、採用の道具は法律と倫理の重みを持ちます。必要なのは新しい部署ではなく、責任者を名指ししたAI利用台帳、影響の大きさに応じた審査、公開前に壊そうとする人による試験、データ利用と学習の権利を覆う契約です。参照点としてNIST AI RMF、ISO/IEC 42001、EUのAI法、国内では個人情報保護委員会の注意喚起や総務省・経済産業省の「AI事業者ガイドライン」が挙げられています。

AIは守る側の人手不足を補う機会でもあります。警報の洪水を仕分けし、技術の報告を経営の言葉に訳す助けになるため、専任の担当者が少ない中堅企業ほど恩恵は大きくなります。また、AIのリスクの多くは、情報漏えいやなりすまし詐欺といった古いリスクが新しい衣をまとったものです。みなと食品の取締役会は、便益は何か、現実的な最悪の結末は何で誰がそれを防ぐ責任を負うのか、という二つの問いだけで議論を前に進めました。

KEY POINTS

要点

  • 社員が実際に使っているAIの道具を、公認・非公認を問わず把握する。
  • 無料の代わりより選ばれるほど良い、公認のAIを用意する。
  • どのAIにも入力してはならない情報を、五つか六つの短い一覧にする。
  • いつもと違う振込や口座変更は、別の既知の経路で必ず確認する手順にする。
  • 責任者を名指ししたAI利用台帳を作り、影響に応じて審査する。
  • AI利用ポリシーに見直し日と担当者を記す。

QUESTIONS

よくある質問

社員の生成AI利用は禁止すべきですか
全面禁止はたいてい失敗します。時間を節約できる道具を見つけた社員は私用の端末でこっそり使い続け、利用が見えなくなるからです。データを学習に使わない法人向けの公認ツールを用意し、決して入力してはならない情報を短く定め、どのサービスが使われているかを把握するほうが効果的です。
ディープフェイクによる振込詐欺はどう防げばよいですか
声や顔で本物かどうかを見抜こうとするのではなく、手順で防ぎます。新しい振込先、取引先の口座変更、一定額以上の支払い、給与の変更などは、登録済みの番号への折り返し電話や財務システム上の二名承認など、別の既知の経路で必ず確認します。経営者は、確認した社員を叱らず感謝すると公に伝えておくことが大切です。
AI利用ポリシーには何を書けばよいですか
一、二枚に収め、公認の道具と新しい道具の申請方法、決して入力してはならない情報、出力の確認責任は使った人にあること、AIの利用を開示すべき場面、質問や失敗の報告先の五つを平易に書きます。間違いを一時間以内に報告しやすい温かい書き方にし、見直し日と担当者を明記します。
自社の製品や業務に使うAIはどう統治すればよいですか
AIの使い道を一つの台帳にまとめ、それぞれに業務上の責任者を名指しします。影響の大きさで区分し、採用の選考やお客様の安全情報のような影響の大きいものは、法務・プライバシー・セキュリティの審査と、公開前に壊そうとする人による試験を経るようにします。ベンダー契約では、データの使われ方と学習への利用を確認します。
取締役会はAIの提案をどう判断すればよいですか
本書は二つの問いを勧めています。一つは、お金や時間、お客様の価値で見た便益は何か。もう一つは、現実に起こりうる最悪の結末は何で、それを防ぐ責任を誰が負うのかです。責任者を名指しできない提案は、承認の前にその答えを求めるべきです。