リニア代数３：ベクトル方程式

美とファッションのエキスパートが語る、リニア代数３：ベクトル方程式とは

ベクトル方程式とスパン

序文

機械学習の基礎数学である、線形代数の基本に関する私の連載の第3回目へようこそ。前回の記事では、階段行列形式について説明しました。この記事では、ベクトル、スパン、線形結合について見ていき、これらの新しい考えを既に学んでいる内容と結びつけます。David C. Lay、Steven R. Lay、Judi J. McDonaldによる『線形代数とその応用』（原著：Linear Algebra and Its Applications）を読みながら、この記事を参考にしていただくと良いでしょう。この連載は、あなたの学習をサポートする補足資料としてお考えください。

ご意見、質問、批判をお気軽に共有してください。

ℝ²、ℝ³、およびℝⁿのベクトル

これまで、数の配列である行列について学びましたが、もし単純に数の配列（単数形）を持っていた場合はどうなるでしょうか？それがベクトルです。ベクトルは、サイズが m x 1 の特別な行列であり、m はベクトル内の行またはエントリの数を示します。行列のサイズの表記は m x n であり、m は行の数を、n は列の数を表します。ベクトルは常に1つの列のみを持ち、任意の行数を持つことができます。

• 「AIの民主化：MosaicMLがオープンソースLLM運動に与える影響」
• 「AI天気モデルのためのベンチマークデータセット」
• 初心者向けチュートリアル：Microsoft Azureで企業データをGPTモデルに接続する

二つのエントリを持つ全てのベクトルの集合はℝ²です。ℝとは実数全体の集合を表し、したがってℝ²は実数の可能なすべての点（x、y）の2次元空間を表します。

ベクトルはℝ²、ℝ³、ℝ⁴…ℝⁿの中に存在することがあります。ベクトル空間の次元は、ベクトルのエントリの数に対応しています。

おそらく、いずれ奇妙なゼロベクトル（単に0と書かれる）に遭遇するでしょう。ゼロベクトルは、すべてのエントリがゼロであるベクトルです。細かなディテールのように思えるかもしれませんが、後に線形代数の最も重要なアイデアに重要な意味を持つことがわかります。

幾何学的可視化

ここまでは、行列やベクトルについて数学的に説明し、表現してきましたが、物理学のベクトルは大きさと方向の両方を持つ量として説明されます。どちらも同じく正しいです。以下の図のようなベクトルの幾何学的可視化は、ベクトルの両方の定義を結びつけます。

ℝ²のベクトルは順序付きのペアであり、より高次元のベクトル空間では順序付きのタプル（定義された順序の数値のリスト）として表現されます。二つのベクトルのエントリがまったく同じ数値であっても、そのエントリの順序が異なる場合は、ベクトルも異なるものとなります（上記の図を参照）。

ℝ³のベクトルも視覚化することができます。追加のエントリがあるため、3つ目の軸を追加するだけです。ℝ³を超えると、ベクトルのグラフ化は非常に複雑になり、高次元空間のイメージ化は難しくなります。

ベクトルの代数的特性

任意のベクトル空間内のすべてのベクトルu、v、wおよびスカラーcとdに対して、以下の代数的性質¹が成り立ちます:

(i) 交換法則*: u + v = v + u

(ii) 結合法則*: (u + v) + w = w + (v + w)

(iii) 加法の単位元: u + 0 = 0 + u = u

(iv) 加法の逆元: u + (-u) = –u + u = 0

(v) ベクトルに対する分配法則: c(u + v) = cu + cv

(vi) スカラーに対する分配法則: (c + d)u = cu + du

(vii) スカラーに対する結合法則: c(du) = (cd)u

これらの性質は、ベクトルの加法とスカラーの乗算の操作に関連しています。

2つのベクトルを加算するには、対応するエントリを合計してベクトルの和を得ます。これは、サイズが異なる2つのベクトルの加算は未定義であることを意味します。2つのベクトルを加算するには、エントリの数が同じでなければなりません！この条件は、ベクトルの加算が行われる方法に起因しています。

スカラー乗算では、与えられたスカラーcとベクトルuに対して、スカラー倍がcuで定義されます。ここで、uのすべてのエントリはスカラーcによって乗算されます。

これらの2つの操作は一緒に使用することができ、次のセクションで見るように、線形代数の中心的な概念である線形結合を形成するために組み合わされます。

線形結合

ベクトルv₁、v₂、… vₐがℝⁿ上で与えられ、スカラー（重みとも呼ばれる）c₁、c₂、… cₐが任意の実数、ゼロを含む場合、線形結合はスカラー倍の和で定義されるベクトルであり、c₁v₁ + c₂v₂ + … + cₐvₐです。 ²

以前、我々は線形代数において存在の概念を探求しました。与えられた行列では、少なくとも1つの解が存在するかどうかを判断しますか？言い換えれば、行列の簡約形または行列の階段形に矛盾が存在するかどうかです。もしそうなら、解は存在しません。そうでない場合、少なくとも1つの解が存在します。この基本的な存在の問題は、線形代数の多くのアイデアと線形結合も同じです。

ベクトルbがRⁿ上のベクトルv₁、v₂、… vₐₚのセットの線形結合であるとは、ベクトルbがc₁v₁ + c₂v₂ + … + cₐvₐ = bとなる重みのセットc₁、c₂、… cₐ（解）が存在することを言います。

ベクトルbが線形結合であるかどうかを判断するために、ベクトルの加法とスカラー乗算の操作を使用して、線形結合の方程式c₁v₁ + c₂v₂ + … + cₐvₐₚ = bを我々が非常に馴染み深い表記に再配置することができます。この再配置のプロセスにより、ベクトルbがベクトルのセットの線形結合であるかどうかを特定するのが存在の問題である理由も明らかになります。

上記の説明は、存在問題と行列の行簡約を線形結合と関連付けることを強調し、一般的な意味でそのアイデアを示すためのものです。より具体的な例を見てみましょう。

上記の例では、拡大行列を行簡約形に行簡約した後、解が実際に存在することがわかりました！

ただし、行簡約された拡大行列で行簡約形の行 [0、0、… | b]がある場合を考えてみましょう（ここで b ≠ 0）。これは、ベクトル b が一つのセットのベクトルの線形結合として書くことができないことを意味します。別の言い方をすれば、ベクトル b はセットの範囲外にあります（この話は次のセクションへのスムーズな移行になります）、またはベクトル b はベクトルセットの span の中に存在しません。

ベクトルセットの範囲

ベクトル v₁、v₂、…、vₐ in ℝⁿ のすべての可能な線形結合のセットは、ベクトル v₁、v₂、…、vₐ によって張られる ℝⁿ の部分集合として言及されます。ベクトル v₁、v₂、…、vₐ の span は Span{v₁、v₂、…、vₐ} と表され、c₁v₁ + c₂v₂ + … + cₐvₐ と書けるベクトルのセットです。³ これを別の方法で考えると、span はベクトル v₁、v₂、…、vₐ の線形結合として書くことができるすべてのベクトルを含んでいます。

任意の数のベクトルセットの span を見つけることができます。単一のベクトル v₁ のセットがあるとしましょう。Span{v₁} は、この場合に適用できる操作がスカラー倍だけであるため、v₁ のスカラー倍のすべてを含みます（ベクトルの加算には少なくとも2つのベクトルが必要です）。Span{v₁} は、v₁ によって到達可能なすべてのベクトルを含んでいます。

Span を視覚化すると、v₁ を通り、原点に向かう直線です。1つのベクトルしかないため、線形結合（ベクトルの倍数）は方向を変えることができません。この点は以下の図でさらに説明されています。

ℝ² の異なる方向にある2つのベクトルの span を考えてみましょう。これら2つのベクトルによって作成できる可能な線形結合は何ですか？つまり、それら2つのベクトルを線形結合して書くことができる ℝ² のベクトルは何ですか？

上記のケースでは、さらなる調査の結果、u と v は ℝ² 全体を張っているようです！これはつまり、ℝ² の任意のベクトルは u と v の線形結合として書くことができることを意味します。次の記事では、具体的に u と v が ℝ² を張っていることを証明するために使用される線形独立性の概念について探求します。

結論

ベクトル、線形結合、および範囲は、線形代数の豊かな領域に私たちを一歩近づけます。これらの基本的な概念は、ベクトル空間の構造とさまざまなベクトルセットの関係を理解するのに役立ちます。さらに進むにつれて、これらのアイデアは他の核心的な概念と関連しているため、繰り返し登場することに気付くでしょう。同様に、これまで学んだこと（解の存在、行簡約形）がこれらの新しい概念と深く関連していることを考える時間を取っていただければ幸いです。

概要

この章では以下のことを学びました：

• ℝ²、ℝ³、およびℝⁿにおけるベクトル：ベクトルは、m x 1のサイズを持つ特殊な種類の行列です。ベクトルには任意の数のエントリがありますが、列は1つしかありません。すべてのエントリがゼロであるゼロベクトルも存在することを発見しました。
• ベクトルの幾何学的な視覚化：ベクトルはグラフィカルに表現することができ、これにより大きさや方向の考え方を理解するのに役立ちます。
• ベクトルの代数的な性質：以下の代数的な性質はすべてのベクトルとスカラーに対して成り立ちます；可換性、結合則、加法の単位元、加法の逆元、ベクトルとの分配性、スカラーとの分配性、スカラーとの結合性。
• 線形結合：線形結合は、スカラー倍数 c₁v₁ + c₂v₂ + … + cₐvₐ によって定義されるベクトルです。重み c₁, c₂, … cₐ はゼロを含む任意のスカラーであることができます。
• ベクトルの張る空間：ベクトル v₁, v₂, … vₐ の張る空間は Span{v₁, v₂, … vₐ} と表記され、c₁v₁ + c₂v₂ + … + cₐvₐ として書くことができるベクトルの集合です。

メモ

¹ベクトルの代数的な性質は、https://cs.brown.edu/stc/summer/94GeoTrans/94GeoTrans_17.htmlから引用しました。

²線形の結合の定義は、David C. Lay、Steven R. Lay、Judi J. McDonaldによる『線形代数とその応用 第6版』から引用しました。

³張る空間の定義は、David C. Lay、Steven R. Lay、Judi J. McDonaldによる『線形代数とその応用 第6版』から引用しました。

*すべての画像は、特に記載がない限り、著者によって作成されました。

*結合則の性質は、加法と乗法の演算において、数字を任意の順序でグループ化することができ、結果は変わりません。例えば、(5 + 2) + 3 = 5 + (2 + 3) = 10 および (5 x 2) x 3 = 5 x (2 x 3) = 30 です。

*可換性の性質は、加法と乗法の演算において、数字を任意の順序で加算または乗算することができ、結果は変わりません。例えば、5 + 2 = 2 + 5 = 7 および 5 x 2 = 2 x 5 = 10 です。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!