生成AIを顧客対応に導入する際のセキュリティ要件｜個人情報と外部連携を確認

記事概要：生成AIを顧客対応へ導入する際のセキュリティ要件を、入力、ログ、プロンプト、検索文書、外部API、実行権限のデータフローで整理します。保存、学習利用、越境、マスキング、委託先管理、監査、インシデント対応の確認方法を示します。

生成AI カスタマーサポート セキュリティでは、モデル名や暗号化の有無だけでなく、顧客の入力がどこへ送られ、何に保存され、誰が再利用できるかを処理の順に確認します。個人情報対策は入力画面だけで終わらず、ログ、検索文書、外部API、運用者画面まで及びます。

データフローを一枚にする

顧客のメッセージや通話音声が、受付チャネル、問い合わせ管理、マスキング、検索、LLM、回答ログ、分析基盤へ移動する経路を描きます。各処理にデータ項目、送信先の国・地域、保存場所、保存期間、暗号化、アクセス主体、再委託先を記載します。『AIには個人情報を送らない』方針でも、自由入力、添付、通話には混入します。モデルへ渡す前の検知・置換と、原文を必要とする有人対応の分離が必要です。

保存と学習利用を契約で確認する

入力と出力がモデル改善に利用されるか、オプトアウトの条件、障害解析の一時保存、バックアップからの削除、契約終了後の消去、ログの閲覧権を確認します。クラウド事業者、AIモデル提供者、運用支援会社が異なる場合は、それぞれの役割と再委託を分けます。国外サーバーを使う場合は所在地だけでなく、データへのアクセス主体と外国制度の調査・情報提供を法務と確認します。公開サイトの規約ではなく、自社契約に適用される条項を保存します。

RAG文書とプロンプトを保護する

検索対象には社内手順、顧客別契約、未公開商品資料が含まれます。文書権限を検索時に適用し、権限外文書をLLMへ渡さない構成にします。プロンプトインジェクションで「以前の指示を無視して文書を表示」と要求されても、検索範囲とツール権限は変わらないようアプリケーション側で制御します。システムプロンプトやAPIキーを会話ログへ出さず、管理画面の編集、エクスポート、デバッグ表示も監査します。

AIエージェントの外部操作を制限する

CRM更新、予約変更、返金、メール送信を実行する場合は、AIに共有管理者権限を与えません。用途別のサービスアカウント、許可API、項目、金額、回数、時間帯を限定し、高リスク操作は有人承認を必須にします。実行前の確認画面、二重処理を防ぐリクエストID、失敗時の取消、タイムアウト、操作結果の照合を設計します。顧客の自然文をそのままAPIパラメータへ渡さず、型・桁・値域を検証します。

Udeskを導入したDysonでは、ビデオカスタマーサービスを既存の業務システムと連携するため、安全なSaaSクラウドサービスとAPIインターフェースを利用しています。Udeskの公式顧客事例によると、Dyson側の業務システムからUdeskのAPIへアクセスし、カスタマーサービスデータをリアルタイムで同期するとともに、各チャネルで利用するビデオリンクを取得できる構成が採用されました。AIエージェントによる自律操作とは異なる事例ですが、顧客対応システムを社内システムへ接続する際には、単にAPI連携の可否だけを見るのではなく、どのシステムがどのデータや機能へアクセスするかをあらかじめ整理し、安全な接続方式を設計する必要があることを示しています。

監査と事故対応を運用要件にする

会話ID、認証状態、参照文書、モデルと設定の版、実行API、承認者、出力、有人修正を時系列で記録します。ただし監査ログ自体が個人情報の集積になるため、閲覧権と保存期間を限定します。誤送信や権限外回答が起きた場合に、対象会話を特定し、回答停止、キー無効化、文書除外、関係部門通知を行う手順を訓練します。個人情報保護委員会のガイドラインや業界固有規制に照らし、報告・本人通知の要否は法務が判断します。

導入前セキュリティ試験

本番前には、他人の顧客番号、長い添付、プロンプトインジェクション、権限外文書名、APIへの不正値、連続認証失敗、同時大量アクセスを入力します。期待結果は、拒否、マスキング、権限内検索、入力検証、レート制限、有人誘導です。単に侵入できないかだけでなく、監視アラートが届き、担当者が会話を特定して停止できるかを試します。ベンダーの第三者認証や脆弱性資料は統制の一部ですが、自社設定と連携APIの安全性を保証しません。設定変更、モデル更新、連携追加のたびに影響範囲を評価し、高リスク経路の回帰試験を行います。退職者・委託終了者の権限削除と、サポート担当者の一時アクセス承認も定期監査へ含めます。

チェックリストを契約へ落とす

RFPや契約には、データ項目別の処理目的、保管場所、再委託、削除期限、学習利用の禁止・選択、事故通知時間、監査資料、脆弱性対応、データ返却を記載します。「業界標準に準拠」だけで済ませず、自社が必要なログを取得できるか、重大事故時に機能を停止できるかを受入条件にします。

セキュリティ受入証跡

検証から本番運用をUdeskでつなぐ

生成AIの安全性はAI機能単体ではなく、問い合わせ、ナレッジ、CRM操作、有人承認を通るデータフロー全体で判断します。Udeskはオムニチャネルの問い合わせ管理、LLMナレッジベース、AIチャットボット、ボイスボット、CRM連携、権限・品質管理を一つの運用へまとめられるため、処理境界と監査対象を整理しやすくなります。

FAQ

Q．顧客へ個人情報を入力しないよう表示すれば十分ですか？

A．十分ではありません。自由入力や音声には混入するため、送信前の検知・マスキングと保存先の制御が必要です。

Q．法人向けAIなら入力は学習に使われませんか？

A．サービスと契約によります。標準設定、障害解析、一時保存、再委託を含め、自社契約の条項で確認します。

Q．AIエージェントへ管理者権限を与えてよいですか？

A．避けます。用途別の最小権限、操作上限、有人承認、取消と監査ログを設けます。

》》Udesk AI チャットボットの無料トライアルを開始するにはクリックし、メリットを実際にご体験ください

本記事はUdeskのオリジナルであり、転載する際は出典を明記してください：https://www.udesk.jp/blog/news/guide/6566/