便利なAIに通話の文字起こしや要約を任せると、その通話はいったいどこへ行くのでしょうか。カスタマーハラスメント（カスハラ）の対策としてAIを使う場面では、暴言や脅し、込み入ったクレームといった生々しいやり取りをAIに処理させることになります。そこには相手の氏名や連絡先、契約内容などの個人情報も含まれます。これらの会話を、海外のAPIなど社外のAIに送って処理させてよいのか。情報システム部門やセキュリティ・コンプライアンスの担当者にとって、これは見過ごせない問いです。「データ主権」という考え方を軸に、通話データを外部AIに出さずにカスハラ対策を進める方法を整理します。

データ主権とは何か

データ主権とは、自社が扱うデータがどこに保管され、誰の管理下で、どう処理されるかを自分たちでコントロールできる状態を指します。クラウドの便利なAIサービスの多くは、入力した文章を社外のサーバーへ送り、そこで処理した結果を返す仕組みです。つまり通話の内容が、自社の管理が及ばない場所を経由します。カスハラ対応のように機微な情報が詰まったデータでは、この「どこへ行くのか分からない」状態そのものがリスクになります。データ主権を確保するとは、こうした処理を国内かつ自社が把握できる範囲で完結させることです。

なぜ規程の厳しい企業に効くのか

生成AIの社内利用について、厳しい規程を設けている企業は少なくありません。「顧客情報や個人情報を外部のAIに入力してはならない」と定めている場合、便利なクラウドAIをそのままカスハラ対策に使うことはできません。金融、官公庁、医療といった分野では、外部サービスへのデータ送信がセキュリティ規定で認められないことも多くあります。こうした現場では、AIを使いたくても「外に出せない」壁にぶつかります。処理を社外に出さない仕組みなら、この壁を越えてAIの恩恵を受けられます。

通話内容を外部AIへ送らない設計

VoiceLine PBX クラウド版では、文字起こし・要約・カスハラ検知といったAIの処理を、当社管理下の国内サーバーにある自前のGPUで行います。通話の内容を外部のAI（OpenAI等）へ送信しない設計です。さらに管理画面で「外部送信なし」を確認できるため、担当者は言葉での説明だけでなく実際の状態として確かめられます。これは社内の利用規程に照らして説明責任を果たすうえでも役立ちます。なお、カスハラ対策は契約オプションです。詳しい機能はカスハラ対策のページでも紹介しています。

規程の厳しい現場にも対応できる

クラウドサービス自体が規定で導入できない金融機関や官公庁、医療機関などでも、AIの処理を当社の自社データセンター内の自前GPUで完結させる構成のため、機微な通話の中身を第三者AIに渡さずに活用できます。さらに、閉域網での提供などセキュリティ要件に応じた構成も個別にご相談いただけます。クラウドで手軽に始めるか、要件に合わせた構成にするかは、扱う情報の機微さと社内規程に合わせて選べます（提供条件は構成によります）。

「外部AIに出さない」の正確な意味

この「外部AIへ送信しない」には範囲があります。指しているのは、あくまでAI解析処理の部分です。文字起こしや要約、検知といったAIの処理を社外のAIに渡さない、という意味です。電話そのものは通信サービスである以上、通信キャリアを通り、電話番号がやり取りされ、インターネット経由の通信や保守のための通信は発生します。これらすべてがゼロになるわけではありません。あくまで「機微な会話の中身を社外のAIに処理させない」点が、この設計の主眼です。個人情報のマスキングにも対応しており、記録を共有する際に余計な情報が広がらないよう配慮できます。なお、VoiceLine PBX クラウド版は緊急通報（110番・119番）およびFAXには対応していません。

判断するのは人、AIは補助

運用上の前提もあります。AIは検知・要約・記録の「補助」であり、ハラスメントに該当するかどうかといった法的な判断は行いません。最終的な判断と対応は、運用者である人が担います。また、通話のモニタリングや録音を運用するには、就業規則への記載や利用者への事前の通知など、社内での取り扱いの整理が前提になります。データ主権を確保する仕組みは、こうした人による判断と社内ルールを支える土台として機能します。

カスハラ対策をAIで進めたいけれど、通話の中身を社外に出すことには不安がある。そうした企業にこそ、外部AIへ送らず国内・自社管理下で完結する仕組みが向いています。相談と見積りは無料です。社内規程が外部AIへの入力をどこまで禁じているかをうかがったうえで、クラウドと要件に合わせた構成のどちらが合うかをお答えします。

関連記事