「自動通話要約を通じて、エージェントの生産性を向上させるために生成的AIを使用する」

「エージェントの生産性向上のために生成的AIを活用した自動通話要約」

お客様との連絡センターは、ビジネスとお客様の間の重要なリンクとなります。お客様からの連絡センターへの電話は、お客様のニーズをより理解し、それらのニーズにどの程度対応しているかを学ぶ機会です。

ほとんどの連絡センターでは、エージェントは毎回の電話の後に対話の要点をまとめる必要があります。通話の要点まとめは、連絡センターがお客様の電話から洞察を得るための貴重なツールです。また、正確な要点まとめにより、お客様が他のエージェントに引き継がれる際に情報の繰り返しをする必要がなくなり、お客様の旅を向上させます。

この記事では、生成型AIの力を活用して通話の要点まとめや通話結果を作成する努力を削減し、精度を向上させる方法について説明します。また、弊社のオープンソースソリューションの最新バージョンを使用してすばやく始める方法もご紹介します。 Live Call Analytics with Agent Assist。

要点まとめに関する課題

連絡センターが集める音声データが増えるにつれて、効率的な通話の要点まとめの必要性も大幅に増加しています。しかし、ほとんどの要点まとめは空白または不正確です。手動で要点まとめを作成するため、エージェントの平均対応時間（AHT）などの重要なメトリックにも影響が出ています。エージェントによると、要点まとめには通話の合計時間の3分の1がかかることもあり、そのためスキップしたり不完全な情報で埋めることがあります。これにより、お客様の体験が損なわれます。エージェントが打ち込みをする間に長い待ち時間が発生し、不完全な要点まとめはお客様に情報の繰り返しを求めることを意味します。

• ビジネスにおけるオープンソースと専有モデルの選択：生成型人工知能の展開において
• 夢と現実の間：生成テキストと幻覚
• 「条件付き生成敵対的ネットワークとは何ですか？」

良いニュースは、要点まとめの自動化と解決が、今では生成型AIを通じて可能になったということです。

生成型AIによる正確かつ効率的な通話の要点まとめ

生成型AIは、非常に大きな機械学習（ML）モデルであるファウンデーションモデル（FM）によって駆動されています。これらのFMのサブセットは、自然言語理解に焦点を当てた大規模言語モデル（LLM）と呼ばれ、人間らしい文脈に即した要点まとめを生成することができます。最高のLLMは、複雑な非線形の文章構造も簡単に処理し、トピック、意図、次のステップ、結果などの様々な要素を判断することができます。LLMを使用して通話の要点まとめを自動化することにより、お客様の対話を正確に要約し、手動要点まとめに必要な時間の一部で要約することができます。これにより、連絡センターは優れた顧客体験を提供すると同時に、エージェントの文書作業の負担を軽減することができます。

次のスクリーンショットは、Live Call Analytics with Agent Assistの通話詳細ページの例を示しており、各通話に関する情報が表示されています。

次のビデオは、Live Call Analytics with Agent Assistが進行中の通話の要点まとめ、通話終了後の要約、およびフォローアップのメールの生成を行う様子を示しています。

ソリューション概要

次のダイアグラムは、ソリューションのワークフローを示しています。

抽象的な通話の要点まとめを生成するための第一歩は、お客様の通話の転写です。正確で利用準備ができた転写を作成することは、正確で効果的な通話の要点まとめを生成する上で重要です。Amazon Transcribeは、連絡センターの通話に対して高い精度で転写を作成するのに役立ちます。Amazon Transcribeは、完全に管理され、継続的に訓練された最新の音声認識モデルを備えた高機能な音声からテキストへのAPIです。 New York Times、Slack、Zillow、Wixなどのお客様は、ビジネスの成果を向上させるために、高度な精度の転写を生成するためにAmazon Transcribeを使用しています。Amazon Transcribeの重要な特徴の1つは、オーディオとテキストから機密情報を保護する能力です。連絡センターにおいては、お客様のプライバシーと安全性の保護が重要ですが、自動要点まとめの生成前に銀行口座情報や社会保障番号などの機密情報がマスクされていることも非常に重要です。

既にAmazon Connectを使用しているお客様向けに、オムニチャネルクラウドコンタクトセンターであるContact Lens for Amazon Connectは、リアルタイムの転写や分析機能をネイティブに提供します。ただし、既存のコンタクトセンターで生成AIを使用する場合、既存のコンタクトセンターからのリアルタイムまたはポストコールでの会話の転写および生成AIを使用した自動通話要約に関連する重い作業のほとんどを処理するソリューションを開発しています。また、このセクションで詳細に説明するソリューションを使用すると、お好みの顧客関係管理（CRM）システムに統合し、生成された通話要約を自動的に選択したCRMに更新することができます。この例では、Live Call Analytics with Agent Assist（LCA）ソリューションを使用して、Amazon BedrockでホストされたLLMを使用してリアルタイムの通話転写および通話要約を生成します。また、AWS Lambda関数を作成し、AWS CloudFormationパラメータでLCAに関数のAmazonリソース名（ARN）を提供し、お好みのLLMを使用することもできます。

次の簡略化されたLCAアーキテクチャは、Amazon Bedrockを使用した通話要約を示しています。

LCAはCloudFormationテンプレートとして提供され、前述のアーキテクチャを展開し、リアルタイムで通話を転写することができます。ワークフローのステップは次のとおりです：

1. 通話オーディオは、テレフォニシステムからAmazon Chime SDK Voice Connectorを介してSIPREC経由でストリーミングされ、オーディオはAmazon Kinesis Video Streamsでバッファリングされます。LCAは、Genesys Cloud Audiohookなど、他のオーディオ取り込みメカニズムもサポートしています。
2. Amazon Chime SDK Call Analyticsは、Kinesis Video StreamsからオーディオをAmazon Transcribeにストリーミングし、JSON出力をAmazon Kinesis Data Streamsに書き込みます。
3. Lambda関数は、転写セグメントを処理し、Amazon DynamoDBテーブルに永続化します。
4. 通話が終了すると、Amazon Chime SDK Voice ConnectorはAmazon EventBridge通知を発行し、DynamoDBから永続化されたトランスクリプトを読み取り、LLMプロンプトを生成し、Amazon BedrockでLLM推論を実行します。生成された要約はDynamoDBに永続化され、LCAユーザーインターフェースでエージェントによって使用されます。必要に応じて、サマリの生成後に第三者のCRMシステムと統合するために実行されるLambda関数ARNを提供することもできます。

LCAは、通話中であっても、通話の転写がいつでも取得でき、プロンプトが作成できるため、通話中に要約化Lambda関数を呼び出すオプションも提供しています。通話が別のエージェントに移されたり、スーパーバイザーにエスカレーションされた場合に役立ちます。顧客を保留にせずに通話内容を説明する代わりに、新しいエージェントは自動生成された要約をスピーディに読み取ることができ、それには現在の問題や前のエージェントが解決のために試みたことが含まれることがあります。

例：通話の要約のプロンプト

プロンプトエンジニアリングを使用してLLM推論を実行し、通話の要約を生成および改善することができます。プロンプトテンプレートを変更して、選択したLLMに最適なものを確認することができます。以下は、LCAを使用してトランスクリプトを要約するためのデフォルトのプロンプトの例です。{transcript} のプレースホルダーを通話の実際のトランスクリプトで置き換えます。

人間: <question></question>で定義された以下の質問に基づいて<transcript></transcript>で定義されたトランスクリプトに答えてください。質問に答えられない場合は、'n/a' と返信してください。性別中立の代名詞を使用してください。回答する際には、回答のみを返信してください。 <question>トランスクリプトの要約は何ですか？</question><transcript>{transcript}</transcript>アシスタント: 

LCAはプロンプトを実行し、生成された要約を保存します。要約作成以外にも、LLMにほぼ任意のテキストを生成させることができます。例えば、通話中にカバーされた話題のセット（エージェントの意図）から選択し、必要なフォローアップタスクのリストを生成したり、通話者に対して感謝のメールを作成したりすることもできます。

以下のスクリーンショットは、LCAユーザーインターフェースでのエージェントのフォローアップメール生成の例です。

適切に設計されたプロンプトにより、一度の推論でこれらの情報をすべて生成することも可能です。これにより、推論のコストと処理時間を削減することができます。エージェントは通話終了後数秒以内に生成された応答をアフターコンタクト作業に使用することができます。また、生成された応答をCRMシステムに自動的に統合することもできます。

以下のスクリーンショットは、LCAユーザーインターフェースでの要約の例を示しています。

通話中に要約を生成することも可能です（以下のスクリーンショットを参照）。これは、長時間の顧客通話に特に役立ちます。

生成型AIがなかった場合、エージェントは注意を払いながらメモを取り、他の必要なタスクを実行する必要がありました。通話を自動的に文字起こしし、LLMを使用して自動的に要約を作成することで、エージェントの負担を軽減し、優れた顧客体験に集中することができます。これにより、通話後の作業もより精度の高いものになります。なぜなら、文字起こしは通話中に起こったことを正確に表現しているからです。エージェントがメモを取ったり思い出したことだけではありません。

要約

サンプルのLCAアプリケーションはオープンソースとして提供されており、自身のソリューションの出発点として使用し、GitHubのプルリクエストを介して修正や機能の提供に参加することで改善に貢献してください。LCAの展開に関する情報については、Amazon Language AIサービスを使用したライブコールアナリティクスとエージェントアシストに関する情報を参照してください。コードの探索、新リリースの通知登録、最新のドキュメントの更新を確認するために、LCA GitHubリポジトリに移動してください。すでにAmazon Connectを使用しているお客様は、Amazon Connectによる生成型AIの詳細情報を参照してください。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!