私たちがChatGPTチャットボットを10倍速くする方法
How to make ChatGPT chatbot 10 times faster.
ChatGPTベースのウェブサイトチャットボットは、ウェブサイトのパフォーマンスを大幅に低下させる可能性があります。適切なチャットボットを使用するには、reCAPTCHAをダウンロードする必要があります。これは重いライブラリであり、ダウンロード中にレンダリングをブロックし、ウェブサイトのパフォーマンスに重大な影響を与えます。遅いウェブサイトはSEOの評価が低くなるため、先週記事に掲載したように、ウェブサイトにチャットボットを含める前後で、ウェブサイトのパフォーマンスを注意深く測定する必要があります。そうしないと、「ウェブサイトにクールなChatGPTベースのチャットボットを追加したかった」ために、Googleからの有機クリックが水面の石のように減少することに驚かされるかもしれません。
私たちは、自分たちのチャットボット技術で大幅なパフォーマンス向上を達成しました。私たちがやったことは、reCAPTCHAライブラリの読み込みをチャットボットがアクティブになるまで遅延することです。正直言って、あなたのチャットボットは素晴らしいですが、ほとんどの人は(もちろん!)あなたのサイトを見に来ます。したがって、必要な前にreCAPTCHAを読み込むことは無駄です。reCAPTCHAはJavaScriptライブラリであり、携帯電話で3〜4秒間DOMレンダリングをブロックするため、非常に不適切に書かれています。はい、皮肉ですね…
以下は、空のHTMLページのスクリーンショットと、新しい最適化修正後のPage Speed Insightsでのスコアです。大きな緑色の「100 Performance」以外はすべて無関係です。基本的に、現在私たちが行っていることよりも良いものはありません。この最適化修正前に、私たちのチャットボット技術のスコアは70〜80でした。修正後は、100点です!
チャットボットの測定方法
あなたのページのパフォーマンスを測定できる素晴らしいサイトがたくさんあります。PageSpeed Insightsはその1つです。これらのサイトは、3Gの携帯電話とデスクトップマシンのWiFi接続を使用するユーザーをシミュレートして、あなたのウェブサイトをロードします。その後、スコアを提供します。80以下のすべては正直言って許容できません。Amazonが20年ほど前にこれについて調査したところ、その結果は…
- Active Directoryグループ固有のIAMロールを使用して、ユーザーをAmazon SageMaker Studioにオンボードします
- テクノロジー・イノベーション・インスティテュートは、最新鋭のFalcon LLM 40BファウンデーションモデルをAmazon SageMakerでトレーニングします
- Amazon Lexのチャットボット開発ライフサイクルをテストベンチで加速化する
Amazonは、ページの読み込み時間を5%増やしたところ、顧客の20%を失いました。
これは、あなたのチャットボットがページの読み込み速度をわずか5%増加させる場合、20%の収益を失うリスクがあることを意味します!これは通常、「Google Analyticsの平均エンゲージメント時間」で確認できます。Googleからのもう一つのゴミJavaScriptライブラリ、と私が付け加えたいところです… :/
やるべき仕事はまだまだあります
私たちのChatGPTベースのウェブサイトチャットボットは完璧ではありません。CSS、フォントなどの読み込みを最適化するなど、まだいくつかの最適化トリックはありますが、おそらく大きく差をつけて最速のChatGPTベースのウェブサイトチャットボットです。ただし、この大規模な修正を適用する前は、3Gネットワークで3〜4秒間ブロックされていました。修正を適用した後、ブロック時間は約1秒になりました。0.5秒、おそらくそれ以下になることができると思います。ただし、少なくとも現時点では、私たちのクライアントは、おそらく地球上で最も速いチャットボットをWebページに持っていることを知って安心できます…
ひそかに、このようなチャットボットが必要な場合は、以下のいずれかのリンクを使用できます。
- DIY ChatGPTチャットボットバージョン
- 「私たちがすべての作業を行うバージョン」
以下は、reCAPTCHAを動的に読み込むために使用しているコードです。
次に、上記の関数を呼び出して、チャットボタンがクリックされたときに動作するようにします。実際には、驚くほどうまく機能します 🙂
We will continue to update VoAGI; if you have any questions or suggestions, please contact us!
Was this article helpful?
93 out of 132 found this helpful
Related articles
- Amazon Lex、Langchain、およびSageMaker Jumpstartを使用した会話型エクスペリエンスにおける生成AIの探求:イントロダクション
- オープンソースのAmazon SageMaker Distributionで始めましょう
- Amazon SageMakerでTritonを使用してMLモデルをホストする:ONNXモデル
- Amazon SageMakerのHugging Face推定器とモデルパラレルライブラリを使用してGPT-Jを微調整する
- Amazon SageMakerを使用してOpenChatkitモデルを利用したカスタムチャットボットアプリケーションを構築する
- Amazon SageMaker で大規模なモデル推論 DLC を使用して Falcon-40B をデプロイする
- Amazon SageMakerを使用した生成型AIモデルにおいて、Forethoughtがコストを66%以上削減する方法