新しい – Amazon SageMaker Canvasで利用可能なノーコード生成AI機能が追加されました

美容とファッションの世界を彩る新しいトレンド - Amazon SageMaker Canvasにノーコード生成AI機能が登場！

2021年に発売されたAmazon SageMaker Canvasは、ビジネスアナリストや一般のデータサイエンティストが、コードを書かずに正確な予測を生成するための準備済みの機械学習（ML）モデルを使用し、カスタムのMLモデルを構築するためのビジュアルなポイントアンドクリックサービスです。準備済みのモデルを使用することで、テキスト、画像、ドキュメントデータから即座に洞察を得ることができます（感情分析、ドキュメント処理、画像中のオブジェクト検出など）。カスタムモデルを使用することで、需要予測、顧客脱退、製造業における不良検出などのユースケースのための予測モデルを構築することができます。

SageMaker Canvasは、準備済みのモデルへのサポートを拡大しており、コンテンツの生成と要約にジェネレーティブAIを使用するためのファウンデーションモデル（FM）を含めることができます。会話型のチャットインターフェースを使用して、ナラティブ、レポート、ブログ投稿の作成、質問の回答、メモと記事の要約、概念の説明などのタスクを、1行のコードを書かずに実行することができます。データは基本モデルの改善に使用されず、サードパーティのモデルプロバイダとは共有されず、完全に安全なAWS環境内で保持されます。

SageMaker Canvasでは、Amazon Bedrockモデル（AnthropicのClaude 2やAI21 LabsのJurassic-2など）や公開されているAmazon SageMaker JumpStartモデル（Falcon-7B-Instruct、Falcon-40B-Instruct、MPT-7B-Instructなど）など、さまざまなFMにアクセスすることができます。モデルの応答を並べて比較するために単一のモデルまたは最大3つのモデルを使用することができます。SageMaker Canvasでは、Amazon Bedrockモデルは常にアクティブになっており、即座に使用することができます。SageMaker JumpStartモデルは、AWSアカウントでオンデマンドで開始および展開し、非アクティブ状態が2時間続くと自動的にシャットダウンされます。

SageMaker CanvasのジェネレーティブAIの機能を使い方を見てみましょう。この記事では、架空のエンタープライズ顧客サポートのユースケースを例に説明します。

• 「メタのMusicGenを使用してColabで音楽を生成する」
• オリゴが警告を発しています：TorchServeの重大なセキュリティの問題により、ハッカーはサーバを乗っ取り、悪意のあるAIモデルを注入することができます
• このAIの論文は、FELM：大規模な言語モデルの事実性評価のベンチマーキングを紹介します

前提条件

以下の前提条件の手順を完了してください。

1. AWSアカウントを作成します。
2. SageMaker Canvasを設定し、必要に応じてインターネットアクセスのないVPCを使用するように構成します。
3. Amazon Bedrockでモデルアクセスを設定します。
4. 必要に応じて、ご利用のリージョンでg5.12xlargeおよびg5.2xlargeのサービスクォータを増やします。これらのインスタンスはSageMaker JumpStartモデルのエンドポイントをホストするために必要です。その他のインスタンスは利用可能性に基づいて選択できます。

顧客クレームの処理

仮想の自転車会社で顧客クレームを担当するカスタマーサポートアナリストであるとしましょう。顧客からのクレームを受け取った場合、SageMaker Canvasを使用してクレームを分析し、顧客に個別化された応答を生成することができます。次の手順を実行してください。

1. SageMakerコンソールで、ナビゲーションペインでCanvasを選択します。
2. ドメインとユーザープロファイルを選択し、SageMaker Canvasアプリケーションを開くためにOpen Canvasを選択します。

SageMaker Canvasは、シングルサインオンを使用してアクセスしたり、他の既存のIdP（Identity Provider）を使用してアクセスするため、最初にSageMakerコンソールにアクセスする必要はありません。

1. チャットコンソールを開くためにコンテンツの生成、抽出、要約を選択してください。
2. クロード2モデルを選択して、提供された苦情の顧客の感情を取得するための指示を入力し、Enterを押してください。
3. 長い苦情の場合、自転車の具体的な問題を知りたいかもしれません。したがって、自転車の問題を尋ねてください。SageMaker Canvasはチャットの文脈を保存しているため、苦情を再投稿する必要はありません。

顧客の問題を理解したので、会社のフィードバックフォームへのリンクを含んだ回答を送信できます。

1. 入力ウィンドウで、顧客の苦情に対する回答をリクエストしてください。
2. FMから別の応答を生成する場合は、応答セクションの更新アイコンを選択してください。

元の応答とすべての新しい応答は、応答セクション内でページネーションされます。新しい応答は元の応答と異なることに注意してください。必要に応じて、応答セクションのコピー アイコンを選択して応答をメールやドキュメントにコピーすることができます。

1. モデルの応答を特定の変更を要求して修正することもできます。たとえば、モデルに$50ギフトカードのオファーを電子メールの回答に追加するようにモデルに依頼しましょう。

モデルの応答の比較

複数のモデル（最大3つ）のモデルの応答を比較することができます。Amazon Bedrockモデル（Claude 2とJurassic-2 Ultra）とSageMaker JumpStartモデル（Falcon-7B-Instruct）を比較して、使用ケースに最適なモデルを評価および見つけるために次の手順を実行します：

1. 新しいチャットを選択してチャットインターフェースを開きます。
2. モデルのドロップダウンメニューから別のモデルを起動を選択します。
3. Foundationモデルページで、Amazon SageMaker JumpStartモデルの下にあるFalcon-7B-Instructを選択し、右のペインでモデルを起動を選択します。

モデルの起動には約10分かかります。

1. Foundationモデルページで、Falcon-7B-Instructモデルがアクティブであることを確認してから次のステップに進んでください。
2. 新しいチャットを選択してチャットインターフェースを開きます。
3. 比較を選択して、2番目のモデルのドロップダウンメニューを表示し、再度比較を選択して、3番目のモデルのドロップダウンメニューを表示します。
4. 最初のドロップダウンメニューでFalcon-7B-Instructモデル、2番目のドロップダウンメニューでClaude 2、3番目のドロップダウンメニューでJurassic-2 Ultraを選択してください。
5. チャットの入力ボックスに指示を入力し、Enterを押してください。

3つのモデルからの応答が表示されます。

整理する

Amazon SageMaker Canvasから開始されたSageMaker JumpStartモデルは、非アクティブ状態が続くと自動的に2時間後にシャットダウンされます。コストを節約するためにこれらのモデルを早めにシャットダウンしたい場合は、このセクションの手順に従ってください。Amazon Bedrockモデルはアカウントに展開されないため、これらをシャットダウンする必要はありません。

1. Falcon-40B-Instruct SageMaker JumpStartモデルをシャットダウンするには、以下の2つの方法から選択できます：
   1. 結果の比較ページで、Falcon-7B-Instructモデルのオプションメニュー(三点リーダー)を選択し、「モデルをシャットダウン」を選択します。
   2. または、「新しいチャット」を選択し、モデルのドロップダウンメニューで「別のモデルを開始」を選択します。そして、「Foundationモデル」ページで、「Amazon SageMaker JumpStartモデル」の下で「Falcon-7B-Instruct」を選択し、右側のパネルで「モデルをシャットダウン」を選択します。
2. 左側のパネルで「ログアウト」を選択して、SageMaker Canvasアプリケーションからログアウトし、SageMaker Canvasワークスペースインスタンスが使用するリソースを解放し、SageMaker Canvasワークスペースインスタンス時間の消費を停止します。

結論

この記事では、Amazon BedrockおよびSageMaker JumpStartから即座に使用可能なモデルを使用して、SageMaker Canvasを使用する方法について学びました。Claude 2モデルを使用して、顧客の苦情の感情を分析し、質問をし、コードを一行も書かずに応答を生成しました。また、公開されているモデルを起動し、3つのモデルからの応答を比較しました。

Amazon Bedrockモデルについては、入力トークンおよび出力トークンのボリュームに基づいて料金が発生します。SageMaker JumpStartモデルはSageMakerインスタンス上で展開されるため、使用期間に応じてインスタンスタイプに基づいて料金が発生します。

SageMaker Canvasは、ビジネスアナリストがさまざまなユースケースに対応するMLモデルを構築できるノーコードのビジュアルインタラクティブワークスペースであるAIを民主化し続けています。今日、SageMaker Canvasで新しい生成AIの機能を試してみてください！これらの機能は、Amazon BedrockまたはSageMaker JumpStartが利用可能なすべてのリージョンで利用できます。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!