清潔な制度の内部に、
例外と密室が残る

多くの企業には、重要な情報や資金を守るための制度がある。

送金申請。複数承認。本人確認。アクセス権限。情報分類。セキュリティ研修。インシデント報告。AI利用ガイドライン。取引先口座の変更手続き。

表面的に見れば、企業は以前より安全で、透明で、清潔になっている。

紙の申請はデジタル化され、誰が承認したかが記録され、不審なアクセスは監視される。

しかし、制度が存在することと、制度どおりに組織が動くことは同じではない。

組織には、正式な制度とは別に運用される例外がある。

経営者から直接依頼された。重要顧客が急いでいる。海外拠点で時差がある。会議中で承認システムに入れない。極秘案件なので担当者を増やせない。あとで申請することになっている。長年の取引先なので問題ない。

形式上は例外でも、繰り返されるうちに慣習になる。

特に権力を持つ人物ほど、制度を飛び越えることが許されやすい。

その結果、組織には二つの経路が存在する。誰もが使う正式な経路。権力者や緊急案件だけが使う非公式な経路。

攻撃者が狙うのは、後者である。

企業は外部に向けて、セキュリティやガバナンスを説明する。

認証を取得している。ポリシーを公開している。監査を受けている。ゼロトラストを導入している。AIガイドラインを策定している。個人情報保護を徹底している。

これらは重要である。しかし、制度の表面が整うほど、内部の非公式な運用は見えにくくなることがある。

規程では二重承認でも、実際には一人が準備し、もう一人が内容を見ずに承認する。本人確認が必要でも、役員の指示なら省略される。個人チャットは禁止でも、緊急時には使われる。無許可AIは禁止でも、仕事を早く終えるために社員が使う。

Clean Societyとは、すべてが本当に清潔になった社会ではない。清潔に見える制度と、語られない例外が共存する社会である。

AIを使ったなりすまし詐欺では、標的を技術的に隔離する必要はない。心理的に組織から切り離せばよい。

「この案件は極秘です」「ほかの社員には話さないでください」「あなたを信頼して任せています」「今すぐ対応しないと機会を失います」「私が責任を取ります」

このような言葉によって、担当者は組織の中にいながら、相談できない密室へ移される。

通常なら同僚に確認する人も、秘密保持を命じられると一人で判断する。通常なら上司に相談する人も、その上司本人からの指示に見えると止まる。

詐欺師は、偽の情報を与えるだけではない。確認をためらわせる空気を設計する。

AI詐欺は、制度の外から乱暴に侵入するとは限らない。むしろ、正式な制度に似た形を取る。

社内で使われている申請書式。いつものメール署名。正しい部署名。実在する取引先。普段使われるチャットツール。実際の決裁用語。社内で通用する略語。過去の案件名。

攻撃者は、組織の言語と手続きを学習し、正当な連絡に見える形で侵入する。

制度が標準化されているほど、その型を複製できれば、偽物は本物らしく見える。

形式が正しいことは、内容が正しいことを意味しない。

企業はAI利用ルールを整備し始めている。入力してよい情報。利用可能なサービス。生成物の確認方法。顧客情報の扱い。

しかし、正式なルールが厳しいほど、社員が非公式なAIを使う可能性もある。

文章を早く作りたい。翻訳を済ませたい。会議録を要約したい。提案書を整えたい。コードを修正したい。

その小さな利便性のために、社員は会社が把握していないAIサービスへ情報を入力する。

ここで起きるのは、単純な規則違反だけではない。組織の内部情報が、見えない経路で外部へ流れ、将来のなりすましや標的型攻撃に利用される可能性が生まれる。

Shadow AIは、技術導入の問題ではなく、制度と現場の速度差から生まれる。

危険が広がると、安全対策の市場が拡大する。

AI詐欺対策。ディープフェイク検知。脆弱性診断。ローカルLLM。本人確認。セキュリティ教育。AIガバナンス支援。

しかし、安全を売る事業者が増えるほど、その中に偽物も混ざる。

無料診断を装って内部情報を集める。対策ソフトに不正機能を仕込む。存在しない脆弱性を指摘して契約を迫る。認証や監査を装う。AI詐欺対策を理由に、必要以上のアクセス権限を要求する。

Clean Societyでは、危険なものだけでなく、安全を名乗るものも増える。

「安全の形をしていること」と「実際に安全であること」を分けて考える必要がある。

制度が増えると、組織は制度の実効性より、制度が存在することを重視する場合がある。

研修を受けた。チェックボックスを埋めた。規程に同意した。監査を通過した。認証を取得した。インシデント対応手順を作った。

しかし、社員が実際に緊急送金を求められたとき、その制度が使われるとは限らない。

形式的な遵守が増えるほど、現場の判断力が弱くなることもある。

制度があるから安全だと思う。認証されているから信頼する。正式なツールだから疑わない。

Clean Societyの危うさは、清潔な形式が人間の警戒を下げることにある。

企業は技術的な防御を強化する。多要素認証。アクセス制御。ログ監視。暗号化。異常検知。端末管理。

しかし、人間は利便性や権力関係によって、その技術を迂回する。

認証できない役員の代わりに、秘書がログインする。承認が遅いため、共有アカウントを使う。急ぎの案件なので、個人メールへ送る。取引先が困っているので、先にファイルを渡す。社長の依頼なので、正式な申請を待たない。

攻撃者は、最も強いセキュリティ技術を破る必要がない。人間に、自分で迂回させればよい。

組織から例外を完全になくすことは難しい。

災害。システム障害。緊急の取引。海外拠点との時差。経営判断。通常手順では対応できない状況は存在する。

問題は、例外があることではない。例外が記録されず、一人の権限で発動され、後から検証できないことである。

必要なのは、例外を制度の外に置くことではなく、例外そのものを制度化することだ。

誰が例外を申請できるか。誰が承認するか。どの金額まで許可されるか。どの通信経路で確認するか。いつまで有効か。事後に誰が検証するか。緊急時にも、最低限省略できない工程は何か。

例外を見えない裏口にせず、監査可能な非常口に変える。

完全に安全な制度は存在しない。すべての詐欺を見抜くこともできない。すべての社員が常に正しく判断することもできない。

だから組織に必要なのは、失敗しない清潔さではない。

異常が起きたときに止められること。一人の判断で資金や情報が動かないこと。後から経路を検証できること。社員が疑問を口にできること。権力者への確認が失礼にならないこと。事故を隠さず共有できること。

制度の目的は、汚れが存在しないように見せることではない。汚れや例外が生じたとき、それを発見し、止め、修正できる状態を保つことである。