開発者から、ノアに相談した内容が履歴へ残るのかと問い合わせが来た。彼はエラーの原因を尋ねるため、接続文字列とAPIキーを会話欄へ貼り付けていた。ノアは丁寧な手順を返したが、秘密情報も入力記録に保存されている。
瀬名はキーを即時失効させ、利用ログから参照者を確認した。外部流出の形跡はない。それでも、AIへ渡す必要のなかった秘密が、別の保管領域へ複製された事実は残る。
律は入力画面へ秘密検知を追加し、鍵らしい文字列を送信前に遮断した。会話履歴は用途別に保持期間を分け、モデル改善への二次利用を初期状態で無効にする。削除要求が、検索索引やバックアップへいつ反映されるかも確認した。
「ノアなら分かってくれると思いました」と開発者は肩を落とした。
「分かることと、預けてよいことは違います」と律は答えた。責める口調ではない。「秘密を隠したまま相談できる形に、こちらが直します」
瀬名は伏字にしたエラー情報だけで同じ質問を再現した。回答の品質は変わらない。必要なのは秘密そのものではなく、形式と失敗箇所だった。
帰り道、瀬名は自分たちの会話も似ていると思った。全部を見せることが信頼ではない。相手が受け取れる形を選び、預けたものの扱いを合意する。その点で、律と築いた関係のほうがAIよりずっと監査可能だった。
人物紹介
瀬名悠真
- 男性、30代。サーバ運用・インフラ担当
- AIの有用性を率直に評価しながら、判断を預けすぎない運用を学ぶ
久坂律
- 女性、30代。監視、自動化、ログ解析、運用設計に強い
- 肩上のレイヤードボブ。AIを監査可能な仕組みへ変えていく
真壁紗英
- セキュリティ責任者。導入効果とリスクを同じ資料で扱う
ノア
- ログ要約、予兆検知、手順候補を担う運用支援AI
- 単一の人格ではなく、モデル、知識、ツール接続からなるシステム
