監督部門から、ノアが関与した障害対応の説明を求められた。どの判断をAIが行い、誰が承認し、利用者へどんな影響があったか。『最終判断は人間』という一文だけでは足りない。
瀬名は会話ログを提出しようとしたが、長大で、秘密情報や無関係な個人データも含む。律は入力、候補、根拠、採否、実行、結果を一つの決定記録へまとめた。
ノアが提案し、人が承認した場合でも、承認者が内容を理解せず押したなら責任ある確認とは言えない。二人は承認画面へ、影響範囲、代替案、確信度、切り戻し条件を表示させた。
真壁は経営側へ、AI導入の責任者名を明記するよう求めた。成功時だけ『AI活用』を掲げ、失敗時に『現場の最終判断』へ押し戻す運用を認めなかった。
報告会で瀬名は、ノアが有効だった事例と誤った事例を同じ枚数で説明した。律は停止した機能と再開条件を示した。
「AIが決めましたか」と問われ、瀬名は答えた。「候補を作りました。選んだのは私たちです。選べる画面と止められる仕組みを作る責任は、組織にあります」
説明を終えたとき、二人は導入を守ったのではなく、導入を続けるための責任を引き受けていた。
人物紹介
瀬名悠真
- 男性、30代。サーバ運用・インフラ担当
- AIの有用性を率直に評価しながら、判断を預けすぎない運用を学ぶ
久坂律
- 女性、30代。監視、自動化、ログ解析、運用設計に強い
- 肩上のレイヤードボブ。AIを監査可能な仕組みへ変えていく
真壁紗英
- セキュリティ責任者。導入効果とリスクを同じ資料で扱う
ノア
- ログ要約、予兆検知、手順候補を担う運用支援AI
- 単一の人格ではなく、モデル、知識、ツール接続からなるシステム
