「伝統的な機械学習はまだ重要ですか？」

「伝統的な機械学習の重要性は依然として高いのか？」

最近、生成型AIは複雑なAIタスクの解決において有望な結果を示しています。近代的なAIモデルであるChatGPT、Bard、LLaMA、DALL-E.3、およびSAMは、視覚的な質問応答、セグメンテーション、推論、コンテンツ生成などの多様な問題を解決する能力を見せています。

さらに、マルチモーダルAI技術が登場し、テキスト、画像、音声、および動画などの複数のデータモダリティを同時に処理する能力を持っています。これらの進歩により、私たちは自然に疑問に思います。これまでの伝統的な機械学習（ML）に近づいているのでしょうか？

この記事では、現代の生成型AIの革新に関連する伝統的な機械学習の動向について見ていきます。

伝統的な機械学習とは？ – その制約は何ですか？

伝統的な機械学習は、主に統計に基づいた様々なアルゴリズムをカバーする広範な用語です。伝統的なMLアルゴリズムの主なタイプは、教師ありと教師なしの2つです。これらのアルゴリズムは、構造化されたデータセットからモデルを開発するために設計されています。

• 「365データサイエンスは、11月20日まで無料のコースアクセスを提供しています」
• 「Cheat Sheetつきで始めるグラフデータベースクエリ」
• 基礎に戻る週1：Pythonプログラミング＆データサイエンスの基礎

標準の伝統的な機械学習アルゴリズムには以下のものがあります：

• 線形、ラッソ、リッジなどの回帰アルゴリズム。
• K-meansクラスタリング。
• 主成分分析（PCA）。
• サポートベクターマシン（SVM）。
• 決定木やランダムフォレストのような木ベースのアルゴリズム。
• 勾配ブースティングやXGBoostなどのブースティングモデル。

伝統的な機械学習の制約

伝統的な機械学習には以下の制約があります：

1. 拡張性の制約：これらのモデルは、大規模で多様なデータセットでもスケーリングするためのサポートがしばしば必要です。
2. データ前処理と特徴エンジニアリング：伝統的なMLは、データセットをモデルの要件に合わせて変換するために広範な前処理が必要です。また、特徴エンジニアリングは時間がかかることがあり、データの特徴間の複雑な関係を捉えるために複数の反復が必要です。
3. 高次元および非構造化データ：伝統的なMLは、画像、音声、動画、文書などの複雑なデータタイプに対して苦労します。
4. 未知のデータへの適応性：これらのモデルは、トレーニングデータに含まれていなかった実世界のデータに対して適応しづらい場合があります。

ニューラルネットワーク：機械学習からディープラーニングへの移行とさらに先へ

ニューラルネットワーク（NN）モデルは、従来の機械学習モデルよりもはるかに複雑です。最も単純なNNである多層パーセプトロン（MLP）は、情報を理解しタスクを実行するために複数のニューロンが接続されており、人の脳の働きと似ています。

ニューラルネットワーク技術の進歩により、機械学習からディープラーニングへの移行の基礎が形成されています。例えば、ディープラーニングへの移行では、コンピュータビジョンのタスクに使用されるニューラルネットワーク（物体検出や画像セグメンテーション）は、畳み込みニューラルネットワーク（CNN）と呼ばれ、AlexNet、ResNet、YOLOなどがあります。

現在、生成型AI技術はニューラルネットワーク技術をさらに進化させ、さまざまなAI領域で優れた成果を上げることができるようになりました。例えば、自然言語処理のタスク（要約、質問応答、翻訳など）に使用されるニューラルネットワークは、トランスフォーマーと呼ばれています。主要なトランスフォーマーモデルにはBERT、GPT-4、T5などがあります。これらのモデルは、医療、小売、マーケティング、金融などのさまざまな産業に影響を与えています。

伝統的な機械学習アルゴリズムはまだ必要ですか？

ニューラルネットワークやトランスフォーマーなどのモダンなバリエーションは注目を集めていますが、伝統的な機械学習手法は依然として重要です。なぜなら、それらはまだ有効であるからです。

1. よりシンプルなデータ要件

ニューラルネットワークは大量のデータセットを必要としますが、機械学習モデルはより小さなシンプルなデータセットでも重要な結果を得ることができます。そのため、小規模な構造化データセットにおいては機械学習がディープラーニングよりも選ばれる傾向にあります。

2. シンプルさと解釈可能性

伝統的な機械学習モデルは、より単純な統計と確率モデルを基に構築されています。例えば、線形回帰のベストフィットラインは、最小二乗法などの統計的な手法を使用して入力と出力の関係を確立します。

同様に、決定木はデータの分類に確率原則を利用しています。こうした原則の使用は解釈可能性を提供し、AIの専門家が機械学習アルゴリズムの動作を理解するのを容易にします。

トランスフォーマーやディフュージョンモデルなどのモダンなNNアーキテクチャは、複雑な多層構造を持っています。こうしたネットワークの理解には高度な数学的概念の理解が必要です。そのため、「ブラックボックス」とも呼ばれています。

3. リソースの効率化

最新のニューラルネットワーク（大規模な言語モデル）は、その計算要件に応じて高価なGPUクラスタ上でトレーニングされています。例えば、GPT4は報告されているところによると、90〜100日間にわたって25000台のNvidia GPUでトレーニングされました。

ただし、高価なハードウェアと長時間のトレーニングは、すべての実践者やAIチームには不可能です。一方、従来の機械学習アルゴリズムの計算効率は、制約されたリソースでも意義ある結果を出すことが可能になります。

4.すべての問題に深層学習は必要ない

深層学習は、すべての問題に対する絶対的な解決策ではありません。一定の場合において、機械学習が深層学習よりも優れた結果を出すことがあります。

例えば、限られたデータでの医療診断と予後予測では、深層学習よりも異常検知のためのMLアルゴリズムであるREMEDの方が優れた結果をもたらします。同様に、低い計算能力を持つシナリオでは、従来の機械学習が柔軟で効率的な解決策として重要です。

主に、どの問題に対して最適なモデルを選ぶかは、組織や実践者のニーズと問題の性質に依存します。

2023年の機械学習

画像生成：Leonardo AI

2023年において、従来の機械学習は進化し続け、深層学習や生成AIと競合しています。特に構造化データに対処する場合に産業界で多く利用されています。

例えば、多くのファストムービングコンシューマーグッズ（FMCG）企業は、個別の製品推薦、価格最適化、在庫管理、サプライチェーン最適化などの重要なタスクにおいて、MLアルゴリズムに頼って大量の表形式データを処理しています。

さらに、多くのビジョンと言語モデルはまだ伝統的な手法に基づいており、ハイブリッドアプローチや新興アプリケーションで解決策を提供しています。たとえば、「時系列予測に本当に深層学習モデルは必要か？」と題された最近の研究では、勾配ブースティング回帰木（GBRT）が深層ニューラルネットワークよりも時系列予測に効率的であることが議論されています。

MLの解釈性は、SHAP（Shapley結合的説明）やLIME（ローカル解釈可能モデル非依存説明）などの技術によって高く評価されています。これらの技術は、複雑なMLモデルを説明し、その予測についての洞察を提供するため、ML実践者がよりよくモデルを理解するのに役立ちます。

最後に、従来の機械学習は、スケーラビリティ、データの複雑さ、リソースの制約に対処するための堅牢な解決策として、多様な産業に欠かせません。これらのアルゴリズムは、データ分析や予測モデリングにおいて置き換えが効かず、データサイエンティストの必須ツールとなり続けます。

もしこのようなトピックが興味を引くのであれば、さらなる洞察を得るためにUnite AIを探索してみてください。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!