‘LinkedInの仕事検索機能を支える埋め込みアーキテクチャの内部’

LinkedInの仕事検索機能をより効果的にする埋め込みアーキテクチャの内部解説

最も包括的な埋め込みアーキテクチャに関する詳細です。

私は最近、AIに焦点を当てた教育向けニュースレターを開始しましたが、すでに16万人以上の定期購読者を獲得しています。「TheSequence」は、5分で読めるノンフィクション（つまり、誇大宣伝やニュースなどがない）の機械学習指向のニュースレターです。目標は、機械学習プロジェクト、研究論文、および概念について、常に最新情報を提供することです。下記のリンクから是非試してみてください。

TheSequence | Jesus Rodriguez | Substack

機械学習、人工知能、データの進展について最新情報を得るための最良の情報源

thesequence.substack.com

最近の数ヶ月間、埋め込みは大規模言語モデル（LLM）のアプリケーションにおいて、最も重要な要素の1つとなっています。ベクトルデータベースなどの市場セグメント全体が、埋め込みアーキテクチャを活用するメカニズムとして登場しています。しかし、埋め込みアーキテクチャはまだ非常に初期の段階にあり、成功裡に実装されている組織はごく一部に過ぎません。ですから、これらの組織が使用しているベストプラクティスや手法について学ぶことは非常に重要です。最近、LinkedInは検索やレコメンデーションシステムを変革するために、埋め込みベースの検索（EBR）技術の詳細を公開しました。もしあなたが「あなたに興味がある仕事」機能や、LinkedInのフィードや通知で目にするカスタマイズされたコンテンツに触れたことがあるなら、EBRが動作しているのを目撃しているはずです。

では、EBRとは何でしょうか？簡単に言うと、それはレコメンデーションシステムの初期段階で使用される技術です。あるリクエストに対して、多くのアイテム（求人情報やフィード記事など）をスキャンし、それらが与えられたリクエストに対してどの程度類似しているかに基づいて最も関連性が高いものを特定します。この特定されたアイテムは、別のAIモデルによって順位付けされ、ユーザーに最も関連性の高いものが提示されます。

• Mistral-7B-v0.1をご紹介します：新しい大型言語モデルの登場’ (Misutoraru 7B v0.1 wo goshōkai shimasu Atarashii ōgata gengo moderu no tōjō)
• 「AWS上でクラウドネイティブなフェデレーテッドラーニングアーキテクチャを再発明する」
• 「Amazon SageMaker JumpStartで利用可能な自動音声認識のWhisperモデル」

EBRの使用を効率化するために、LinkedInは以下の新しいツールと機能を導入しました：

1) コンポジットおよびマルチタスク学習モデル

LinkedInは現在、複数の目標を1つのモデルに統合するコンポジットモデルの作成をサポートしています。これにより、学習プロセスが高速化され、転移学習が向上します。例えば、埋め込みはユーザーのプロファイルやインタラクションに基づいてユーザーの興味を捉えることができます。この埋め込みは、検索やレコメンデーションシステムに情報を提供し、ユーザーが本当に共感できるコンテンツを表示します。

2) フィーチャークラウドプラットフォーム

LinkedInは「Feature Cloud」というプラットフォームを立ち上げました。このプラットフォームはオフラインとリアルタイムの埋め込み生成を統合し、EBRインデックスやフィーチャーストアでの使用に向けた埋め込みを準備します。フィーチャークラウドは、LinkedInの検索アプリケーション全体でさまざまな種類の埋め込みを提供するために使用することができます。

3) アップグレードされたホステッド検索システム

Luceneに互換性のあるLinkedInの検索システムは、自動化された埋め込みバージョン管理およびさまざまなEBRアルゴリズムをサポートしています。この適応性はEBRの絶えず進化する世界で重要です。この検索システムは、先に説明したフィーチャークラウドと強く統合されています。

4) 自動埋め込みバージョン管理

コンテンツが検索クエリの意図に一致することを確実にすることは重要です。しかし、埋め込みモデルのバージョン管理は複雑な場合があります。たとえば、チームが埋め込みモデルを更新した場合、既存のアイテム埋め込みとは一致しないかもしれません（寸法が一致していても）。LinkedInのフィーチャークラウドは、埋め込みのネイティブバージョン管理をサポートしており、そのライフサイクルをより良く管理することができます。

5) グラフ組織の効率化のためのモデルクラウド

LinkedInの「モデルクラウド」は、Ray Serveによって強化された埋め込みを使用した推論グラフをサポートしています。これにより、推論グラフの実行がシンプル化され、複雑なワークフローが必要なくなり、バージョンの一貫性が確保されます。その結果、AIの専門家はユーザーエクスペリエンスの向上により集中し、インフラストラクチャの管理にはあまり時間を割かない効率化されたシステムが実現されます。

6) ジョブ検索精度の向上

特にジョブ検索などの検索タスクでは、ユーザーデータ、クエリ、およびコンテキストの正確な組み合わせが求められます。EBR以前、LinkedInのジョブ検索は主にテキストマッチングに依存していました。結果を提供する一方で、個別化や意味的なマッチングの深さに欠けていました。EBRの導入と新しいツールの導入により、LinkedInはマッチングの能力を向上させ、ユーザーにより個別化された正確なジョブ検索体験を提供しています。

要するに、LinkedInはAIとEBRの可能性を広げ、求人の推奨、フィードコンテンツ、および通知など、ユーザーが最も関連性のあるコンテンツを取得することを確実にしています。このプラットフォームの革新への取り組みは、ユーザーエクスペリエンスを洗練させ向上させるための持続的な努力によって明確に示されています。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!