「OpenAIが企業向けAIの扉を開放」

OpenAI opens the door to corporate AI

ChatGPTがまもなくあなたの最高給の共同働き者になる理由

エンタープライズソリューションの未来へようこそ。それは人工知能（AI）、具体的にはOpenAIの新しいB2Bの焦点によって占拠されている領域です。

ツールやテクノロジーの爆発により、企業は前例のないほどのイノベーションの波に乗っています。しかし、オファリングが増え、更新が猛スピードで行われる中、この風景を航海し、会社にとって何が適切かを決定することは目まぐるしい挑戦です。

ここでこの紹介が登場します。AIジャングルであなたの指針となり、この夏に起きた最も重要な2つの変化を詳しく説明し、AI SaaSの職場における考え方を再発明させる業界を強制するものとして歩みを進めます。

1. ChatGPTのFine-Tuning — トレーニングしたい内容について知っているチャット可能なモデルを作成します。
2. エンタープライズChatGPT — Plusユーザーに提供されるすべての機能とさらに多くを備えたChatGPTの民間企業での展開！

これらがいかなるものであり、いかなるものでないかを理解するために、読み進めてください。

• パンダのプレイブック：7つの必須の包括的なデータ関数
• 1日に150億のログを処理し、ビッグクエリを1秒以内に完了させる方法
• 「ブラックボックスの解除：ディープニューラルネットワークにおけるデータ処理の理解のための定量的法則」

これは単に最新のトレンドについて更新されることについてではありません。これは、AIが現在提供する最高峰を活用することです。そして、信じてください、この乗り物に乗り遅れたくないです。最新のアップデートにより、このトレインに乗り込むのを待っていたいかなる会社にも言い訳の余地はありません。最も懐疑的な人でも、エンタープライズグレードのプライバシーと柔軟なカスタマイズ性の組み合わせが、OpenAIを収益向上の道に導く優れたプロダクト・マーケットフィットを持つことが分かるでしょう。

カスタマイズ可能なAIエンタープライズツールの台頭

OpenAIがGPT-3.5 TurboのFine-Tuningをリリースしたことでゲームは変わりました。AIが既にエンタープライズ領域で波を起こしていたと思ったら、もう一度考え直してください。この新しい機能は、より小さなオープンソースモデルでのみ可能だったカスタマイズ性を持ち込みました。しかし、それはあなたの企業にとって何を意味し、なぜ気にすべきなのでしょうか？それは、特定のユースケースを目指す際のパフォーマンスとスケーラビリティの観点で、カスタマイズが定義的な要素であることが証明されたからです。

GPT-3.5 TurboとFine-Tuning

GPT-3.5 Turboは単なる他の事前トレーニングされた言語モデルではありません。それは既に指示に従う準備ができています（良いチャットエージェントとしての機能）。しかし、今では以前のバージョンでは触れることができなかった特定の細かいチューニングが可能になりました。つまり、ドメインの微妙なニュアンス、ブランドの声の複雑さ、または必要な特定の問題解決戦略を教え込むことができるのです。

OpenAIの最新の発表によると、Fine-TuningされたGPT-3.5の方がデザインされたユースケースにおいてGPT-4よりも優れた結果を出すことができます。さらに、Fine-Tuningされた3.5との対話のトークンあたりのコストは、GPT-4（8kコンテキストウィンドウ）と比較して60～80%安くなります。

興味深いことに、入力/出力のコストは異なる割合で異なるため、低入力大出力が期待されるユースケースにおいて、Fine-TuningされたGPT-3.5を使用することはさらに興味深いです。

ファインチューニングとは何ですか？

はい、GPT-3.5 Turboにもたらされるカスタマイズ可能なスーパーパワーにワクワクしています。しかし、ファインチューニングが実際に何であるかを探ってみましょう。なぜなら、「ファインチューニング」という言葉はクールに聞こえるかもしれませんが、少し専門的に思えるかもしれません。

ファインチューニングの本質

スポーツカーを想像してみてください。生産ラインから出た瞬間から既に非常に速いです。しかし、特定のトラックで最高のパフォーマンスを発揮するようにしたいと思った場合、エンジン全体を交換するわけではありません。代わりに、既存の機械を微調整します。たとえば、ギア比を変更したり、より良い空力を投資したりします。それがファインチューニングです。

同様に、ファインチューニングはすでにトレーニングされたAIモデルを取り、特定のタスクやドメインにカスタマイズします。新しいモデルをゼロから構築するのではなく、既存のモデルに「小さな」メイクオーバーを施して、望むニッチでのパフォーマンスを向上させるのです。

ファインチューニングの手順

1. データの準備：特定のドメインのデータを収集します。
2. 前処理：データをクリーンアップし、互換性のある形式に整形します。
3. トレーニング：ファインチューニング自体-調整したデータでモデルをトレーニングします。
4. 評価：特定のドメインでのモデルのパフォーマンスを評価します。
5. 展開：モデルをアプリケーションに統合します。

では、なぜ重要なのでしょうか？

わかりました、それは興味深いですが、なぜ気にする必要があるのでしょうか？ はい！、以下の理由です:

APIコストの削減

モデルのファインチューニングにより、関連する出力の生成が効率的になります。これにより、API呼び出し回数が減少し、それに伴いコストも低下します。企業は、モデルをファインチューニングした後、APIコストが最大40%減少したと報告しています。目標を達成するために最もスマート（最も安価な）モデルを使用するため、使用ケースを分割すると、これはさらに大きくなる場合もあります。

パフォーマンスの向上

汎用モデルはどんなタスクにも対応しようとしますが、ファインチューニングされたモデルは特定のドメインにおいてはマスターになります。その結果、精度が向上し、人間の介入が少なくなります。

差別化されたソリューション

データの選択によってファインチューニングされたモデルは、他のバージョンとは異なる結果をもたらします。これにより、企業は真にユニークな出力を作成でき、LLMラッパーを構築してソリューションをより容易に複製できないようにする機会を得ます。

プロンプトエンジニアリングの優先度

ファインチューニングはスポーツカーをトラックのチャンピオンにするようなものですが、ガレージに入って完全なオーバーホールを行わなくてもパフォーマンスを向上させることができるブーストもあります。これが、もちろん、私たちがよく知っているプロンプトエンジニアリングの分野です- AIの最適化ガーデンでの低い果実です。

ファインチューニングは常に最初のステップではありません

誤解しないでください; ファインチューニングは強力なツールです。ただし、それは計算パワーと特定のドメインのデータの両方を必要とするリソース集約型のものです。したがって、カスタマイズに深く没頭する前に、「基礎となるモデルを変更せずに十分な結果を得ることはできるか？」と自問してみてください。

プロンプトエンジニアリング：あなたのクイックウィン

この用語について初めて聞く場合、プロンプトエンジニアリングは基本的にはAIモデルに指示やクエリを作成する技術です。モデルの調整や追加のコストは必要ありません。シンプルなテキストの微調整で、大幅に異なるかつ高度にターゲットされた出力が生成されることがあります。

以下に基本的な例を示します:

• 一般的なクエリ:「コーヒーについて教えてください。」
• エンジニアリングされたプロンプト:「コーヒーの歴史、健康上の利点、および抽出方法を要約してください。」

2番目のプロンプトは、より構造化された包括的な回答を引き出すために設計されており、ベースモデルの有用性を最大限に活用することができます。

高度なテクニック：プロンプトの連鎖と関数呼び出し

さらに進化しましょう。プロンプトの連鎖では、複雑なタスクをより小さな理解しやすいクエリに分解し、その出力を別のクエリの入力として使用します。例えば、モデルに文書の要約を最初に依頼し、その要約を別の言語に翻訳するようにすることです。

関数呼び出しは、チャットセッション内で事前に作成された関数を使用して特定のタスクを実行するための最近のイノベーションです。これは、データの抽出やテキストの要約などのプロセスをさらに効率化するために、モデルに利用できるユーティリティのセットを提供することに似ています。

なぜプロンプトエンジニアリングを優先する必要があるのか？

3つの理由があります：

1. 速度：モデルのトレーニングを待たずにリアルタイムの結果が得られます。
2. コスト効率：追加のコストはかかりません。特にAIの機能をまだ実験中の場合に便利です。
3. 柔軟性：調整や改善が容易で、進化するニーズに対応するためのアジャイルなイテレーションが可能です。

チューニングされたモデルに投資する前に、プロンプトエンジニアリングで水を試してみてください。良い解決策と最良の解決策の違いは、しばしばよく設計された質問にあることがあります。

制御とコンプライアンス：エンタープライズエディション

エンタープライズAIの展開の要石：セキュリティとコンプライアンス。技術ソリューションの華やかな装飾は、組織が要求する厳格なセキュリティ基準に対応できなければ意味を持ちません。そこで、OpenAIが8月28日に発表したエンタープライズオファリングが登場します。

発表はまだ先週でしたが、OpenAIは非公開のまま非常に尊敬される多くのクライアントが既にエンタープライズオファリングを利用していることを示しています。

詳細はまだ限られており、現在の実装にはOpenAIの営業チームとの専用の対話が必要です。しかし、このソリューションは、業界が求めていた「制御、コンプライアンス、カスタマイズ、コラボレーション」という4つのCを実現することを約束しています。

制御：管理コンソール

エンタープライズ版には直感的な管理コンソールが付属しています。これは制御センターであり、APIキーの管理、使用状況の監視、および細かいレベルでの権限の設定を提供するダッシュボードです。クォータの設定から役割の委任まで、コンソールはあなたをドライバーシートに乗せます。

コンプライアンス：エンタープライズグレードのセキュリティ

これはエンタープライズエディションの基盤です。データの安全性は、休止中および転送中の最新の暗号化を期待できます。GDPRやSOC 2などのコンプライアンス基準が満たされており（Anthropicが提供するHIPAAに関しては言及がありません）、法的な義務に違反することはありません。

カスタマイズ：データのカスタムリテンションと微調整

前述のファインチューニングの機能に加えて、OpenAIはデータの処理方法についても制御できるようにします。エンタープライズ版には、データの保持期間に関するカスタムポリシーを設定するオプションが付属しており、データを保持する期間に関する規制や内部のガイドラインに準拠することができます。

さらに、管理されたデータソースをモデルに追加するための使いやすいインターフェースが企業全体に影響を与えるという会社のコミュニケーションに記載されていますが、これについては検証できていません。

コラボレーション：共有可能なチャットテンプレート

独立した状態で作業することは、ChatGPTの開始時からの問題でした。最初は共有可能な会話、そして今はテンプレートによって、OpenAIは現代のワークスペースがコラボレーションに関するものであることを認識しています。チャットテンプレートを使用することで、チームは権限のないアクセスや変更のリスクを冒すことなく、会話デザインを配布、テスト、改善することができます。そして、これらはプライバシーと保護のベストプラクティスに従った安全なリンクです。

具体的なユースケースによる報酬の収穫

ファインチューニングはさまざまなセクターで輝き、そのポテンシャルは巨大です：

• 顧客サービス： 既製の応答を忘れてください。企業は現在、GPT-3.5 Turboを細かく調整して、製品を熟知し、自動化された驚くべき顧客サポートを提供しています。
• コンテンツの執筆： よくクライアントから尋ねられるのは、AIによって書かれたコンテンツがブランドのスタイルとガイドラインに従うようにする方法です。通常、これはレッドチーミングによって実現されますが、非常に正確ではありません。これらの変更により、ブランドは生成されたコンテンツ全体で尊重される明確なメッセージを持つことができます。
• フォーマットされた出力： LLM上に構築された現在のアプリは、応答からJSON、Markdown、または他の特定のフォーマットを抽出しようとすることが一般的です。これにはリスクが伴います。モデルが常に完璧な形式で返答しない場合があります。したがって、開発者はテスト＆リトライのフローを構築する必要がありました。今では、モデルに自分のフォーマット要件によりよく従うように指導することができます。
• 法律部門： 会社が既に処理したドキュメントに合わせて調整されたモデルは、最新の判例を使用し、法的主張と一致する法的文書の要約や初期バージョンの作成を行うことができます。想像上のケースを引用してニュースになりたくない場合は、この方法がおすすめです。
• ヘルスケアと研究： カスタムテイラードモデルは、医学診断に役立ち、年代の長いジャーナルや研究に基づいて予備的な提案を提供します。

早期採用企業とその成功事例

大手企業からスタートアップまで、多くの企業がファインチューニングに乗り出し、明確な利益を得ています。注目すべきケースの1つは、Salesforceです。同社はファインチューニングされたGPT-3.5 Turboを顧客関係管理（CRM）ソフトウェアに統合しました。その結果、顧客サポートの問い合わせの平均処理時間が35％削減されました。

将来展望に関する注意点

OpenAIの新たに発表されたエンタープライズエディションが約束する多くの機能については、まだOpenAIの営業活動のベールの後に隠れています。その結果、この領域に関する新しい洞察が明らかになるにつれて、この記事は更新される可能性がありますので、このスペースを注視してください。

さらに、エンタープライズの景気がファインチューニングオプションをより緻密に扱い始めるにつれて、新興のユースケース、パフォーマンスメトリックス、ベストプラクティスについてより深く掘り下げた追加の記事が期待されます。急速に進化するドメインでは、情報を把握することはただ有利なだけでなく、競争力を維持するためにも必須です。

参考文献

1. OpenAI Developer Guide：ファインチューニング
2. OpenAIブログ：ChatGPTエンタープライズ
3. OpenAIブログ：関数呼び出しとその他のAPIの更新
4. OpenAI価格設定：1,000トークンごとのAPI費用
5. Deeplearning.ai — 大規模言語モデルのファインチューニング
6. Salesforce Researchが良い力として生成型AIを使用する方法

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!