GenAIの製品：速く進んで失敗する

GenAIの製品：成功を目指して加速する

クールで素敵なデモを作るのは簡単ですが、最終製品を作るのはそう簡単ではありません。

2022年の秋、私は素敵なプロジェクトに取り組んでいました。そうです、予想通りのことです — 会社固有のデータを用いてLLMを微調整しています。

しかし、すぐにChatGPTがリリースされ、世界中で大流行しました。そして、すでに強力なChatGPTが存在するのに、私が特定のLLMを作ろうとする意味は何でしょう？

私はBertの大ファンでしたので、ChatGPTがリリースされた時、その話題にも興味を持ちました。誰がそうしないでしょうか？AIの約束はまるで新しい輝くおもちゃのようで、私はその使い方に熱心でした。この記事では、(NLP)データサイエンティストがgenAIで影響を与えたいと焦がれた旅を共有したいと思います。

私は2023年初めからGenAIのプロジェクトに関わるようになりました。大元にはこの新しいテクノロジーをどのように活用するかについて何かしたいという考えがありました。私は自分がどれほど運が良かったかを実感しました。すべての経営陣がGenAIのフロンティアを探求することに開放的ではありませんから。私は上司とともにマイクロソフトとGenAIの使用方法について話し合いました。私たちの場合、会社のいくつかのユースケースにchatGPTファミリーモデルを使用することを意味します。すぐに、AzureOpenAIのユーザーリストに参加し、パーティが正式に始まります。

• ブログ執筆のための20の最高のChatGPTプロンプト
• 「APIガバナンスによるAIインフラストラクチャのコスト削減」
• 「ジェンAI愛好家が読むべき5冊の本」

クールなデモを作るのは簡単です

OpenAIのモデルは14億個の使い方がありますが、会社のテックスタックとセキュリティポリシーに沿って機能させる必要があります。

あるプロジェクトでは、AIアプリケーションのフロントエンドとバックエンドの両方のソリューションを開発しなければなりません。1週間で10億もの学ぶことがありました。Azure上にchatGPTモデルのエンドポイントをデプロイしなければならず、アプリで使用できるようにします。フロントエンドはStreamlitでアプリを構築しました。それは比較的簡単です。たった1日で、ローカルでアプリを起動させることができました。アプリができたので、いよいよ世界に披露する時です。

正直言って、これは簡単ではありませんでした。アプリが会社のセキュリティポリシーに従っていることを確認する必要があります。私たちはアプリケーションを展開するための標準的なワークフローを持っていませんので、自分で多くのことを考え出さなければなりませんでした。Azureのパイプラインにymlファイルを使用してローカルアプリを展開する方法や、適切なアクセス方法を学ぶための日々でした…

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!