インシデントとして扱う基準
すべての表現差をインシデントにすると運用が麻痺します。次のいずれかに該当する場合、通常の改善課題より高い統制で扱います。
- 契約・料金・対象条件の誤り
- 法令・規約・安全性に関する誤り
- 顧客の損失や誤判断につながる説明
- 複数AI面で反復する誤情報
- 問い合わせ、苦情、失注と関連する
- メディアやSNSで拡散している
1. 証拠を保全する
回答本文、引用URL、Prompt、AI面、モデル、言語、地域、取得方法、日時を保存します。利用者から提供されたスクリーンショットがある場合も、可能なら同条件で再取得し、企業が再現できるEvidenceを作ります。
取得後にページを変更する可能性があるため、引用ページのURL、タイトル、更新日、該当箇所も記録します。
2. 重大性と範囲を判断する
次の観点で優先度を決めます。
- 誤りの重大性
- 影響する商品・地域・顧客
- 需要代理値
- 競合との差
- 回答が繰り返される頻度
- 改善可能性
- 証拠の確からしさ
信頼済みサンプルが少ない場合は、単発か継続的な問題かを分けます。規制・安全性の問題は、需要が小さくても上位に置く必要があります。
3. 正しいファクトと承認者を確定する
正しい情報を一つの正本へ集約し、誰が承認するかを決めます。
- マーケ:顧客向け表現と改善施策
- 広報:企業説明と対外発信
- 法務・コンプライアンス:契約・規制・表現リスク
- 事業責任者:事業影響と優先順位
複数部門の承認が必要な場合は職務分離を適用します。承認ワークフローを参照してください。
4. 是正アクションを実行する
- 公式ページ・FAQ・規約を更新
- 古いURLを整理
- 更新日と適用時期を明示
- 第三者媒体へ正しい情報を提供
- 営業・CSへ暫定説明を共有
- 必要に応じてAIサービスのフィードバック経路を利用
AIサービスへの申告だけへ依存せず、企業が管理できる情報環境を整えます。
5. 再測定とクローズ
同じPrompt×Engineと地域・言語で再測定します。回答が一度変わっただけでクローズせず、必要な期間とサンプル数を満たすまで観測します。
クローズ時は、原因、修正内容、承認者、期間、Outcome、残存リスクを記録します。効果測定の方法を使って比較条件を揃えます。
まとめ
AI回答インシデント対応では、削除依頼より先に、証拠保全、重大性、正しいファクト、部門承認、是正、再測定を整えます。通常のコンテンツ修正と区別し、誰が何を判断したかを残してください。