攻撃の全体像がまとまった。共有アカウントから手順書を汚染し、ログへ命令文を混ぜ、外部プラグインの情報から運用時間を推測し、古いトークンで設定を変更する。音声とチャットの合成は、技術だけでなく人間関係を狙っていた。
ノアそのものが侵害された証拠はなかった。だが、周囲のデータ、権限、連携、利用者の期待が攻撃面になった。『モデルは安全だった』だけでは、システムが安全だったことにならない。
二人は再開条件を二十五項目にまとめた。閲覧と実行の分離、信頼境界の表示、モデル版固定、知識の承認、秘密検知、出力評価、権限の短命化、外部通信制限、別系統の停止機構、手動運用訓練。
真壁は監査報告を経営会議へ提出した。導入効果も隠さない。ノアは予兆検知で故障を防ぎ、夜勤の調査時間を減らし、若手が根拠へ辿る助けになった。脅威と価値を同じ紙に載せる。
限定再開の日、ノアの対話欄には以前より多くの表示が増えた。確信度、参照元、版、権限、停止状態。返答は少し遅くなり、断定も減った。
瀬名が『今夜の注意点』を尋ねると、ノアは三候補と根拠を示し、最後に『判断は運用担当者が行ってください』と返した。
律はそれを読んで、「前より頼りなく見えます」と言った。
「前より頼れます」と瀬名は答えた。限界が見える道具は、限界を隠す道具より信頼できた。
人物紹介
瀬名悠真
- 男性、30代。サーバ運用・インフラ担当
- AIの有用性を率直に評価しながら、判断を預けすぎない運用を学ぶ
久坂律
- 女性、30代。監視、自動化、ログ解析、運用設計に強い
- 肩上のレイヤードボブ。AIを監査可能な仕組みへ変えていく
真壁紗英
- セキュリティ責任者。導入効果とリスクを同じ資料で扱う
ノア
- ログ要約、予兆検知、手順候補を担う運用支援AI
- 単一の人格ではなく、モデル、知識、ツール接続からなるシステム
