linye's Blog

全端工程師心得分享

0%

[線性代數] Vector Space (向量空間)

發表於
向量空間（Vector Space）是線性代數中的核心概念之一...

前言

向量空間（Vector Space）是線性代數中的核心概念之一。向量空間的概念源於數學家們研究物理空間中的向量運算，隨著研究的深入，數學家發現可以把向量運算的基本規則推廣到更抽象的結構中。向量空間的定義既適用於熟悉的二維或三維空間，也適用於高維空間甚至是無限維空間，因此應用範圍非常廣泛。

在向量空間中，我們可以定義向量加法和純量乘法，並能夠將這些運算規則推廣到更抽象的數學結構，如函數空間。

定義

向量空間 VV 是一組向量和數量運算的集合，並滿足一些基本性質。我們定義 VV 是在體 F\mathbb{F} 上的向量空間，若滿足以下條件：

  1. 向量加法：對於任意的向量 u⃗,v⃗∈V\vec{u}, \vec{v} \in V，定義一個運算 ++ 使得 u⃗+v⃗∈V\vec{u} + \vec{v} \in V。
  2. 數量乘法：對於任意的 a∈Fa \in \mathbb{F} 和 v⃗∈V\vec{v} \in V，定義一個運算 ⋅\cdot 使得 a⋅v⃗∈Va \cdot \vec{v} \in V。

此外，向量空間滿足以下八個公理(Axiom)

公理是那些沒有經過證明，但不證自明的定義，如 1+1=2, a+b=b+a

2. 加法交換律：∀u⃗,v⃗∈V, u⃗+v⃗=v⃗+u⃗3. 加法結合律：∀u⃗,v⃗,w⃗∈V, (u⃗+v⃗)+w⃗=u⃗+(v⃗+w⃗)4. 零向量存在：∃0⃗∈V, ∀v⃗∈V, v⃗+0⃗=v⃗5. 反向量存在：∀v⃗∈V, ∃(−v⃗)∈V, v⃗+(−v⃗)=0⃗7. 純量乘法跟純量乘於向量的兼容性：∀a,b∈F, (a⋅b)⋅v⃗=a⋅(b⋅v⃗)8. 分配律：a⋅(u⃗+v⃗)=a⋅u⃗+a⋅v⃗(a+b)⋅v⃗=a⋅v⃗+b⋅v⃗\begin{aligned} &\text{2. 加法交換律：} && \forall \vec{u}, \vec{v} \in V, \, \vec{u} + \vec{v} = \vec{v} + \vec{u} \\ &\text{3. 加法結合律：} && \forall \vec{u}, \vec{v}, \vec{w} \in V, \, (\vec{u} + \vec{v}) + \vec{w} = \vec{u} + (\vec{v} + \vec{w}) \\ &\text{4. 零向量存在：} && \exists \vec{0} \in V, \, \forall \vec{v} \in V, \, \vec{v} + \vec{0} = \vec{v} \\ &\text{5. 反向量存在：} && \forall \vec{v} \in V, \, \exists (-\vec{v}) \in V, \, \vec{v} + (-\vec{v}) = \vec{0} \\ &\text{7. 純量乘法跟純量乘於向量的兼容性：} && \forall a, b \in \mathbb{F}, \, (a \cdot b) \cdot \vec{v} = a \cdot (b \cdot \vec{v}) \\ &\text{8. 分配律：} && a \cdot (\vec{u} + \vec{v}) = a \cdot \vec{u} + a \cdot \vec{v} \\ & & & (a + b) \cdot \vec{v} = a \cdot \vec{v} + b \cdot \vec{v} \end{aligned}

∃\exists: exists(存在): 表示 “存在至少一個符合條件的對象” 。
∀\forall: for all(對於所有的): 表示 “對於所有符合條件的對象，條件都成立” 。

性質

向量空間具備以下性質：

  1. 零向量(向量加法的單位元素唯一性)：每個向量空間包含唯一的零向量，記為 0⃗\vec{0} ，零向量又是這個向量空間的向量加法單位元素。
  2. 反向量：每個向量都有一個反向量，使得兩者相加得到零向量，此時這個反向量又可以說是這個向量的向量加法反元素。
  3. 交換律和結合律：向量加法具有交換律和結合律，且純量乘法滿足分配律和結合律。
  4. 線性組合：向量空間的任意元素都可以由一組基向量的線性組合表示。
  5. 維度：向量空間的維度是基向量的數量。
  6. 線性變換：在向量空間之間可以定義線性變換，這些變換保留了加法和數量乘法的結構。
  • 單位元素: 任何元素跟單位元素做二元運算會得到元素本身
    • 舉例: 20 + 0 = 20, 20 * 1 = 20
    • 0 即是實數加法單位元素
    • 1 即是實數乘法單位元素
    • 而在向量加法中的單位元素就是零向量。
  • 反元素: 跟元素做二元運算之後會得到單位元素的元素就叫做反元素
    • 舉例: 20 + (-20) = 0, 20 * (1/201/20) = 1
    • -20 即是 20 的加法反元素
    • 1/201/20 即是 20 的乘法反元素

向量空間的符號

1. 一般向量空間的符號 VV

在數學定義中，我們經常用 VV 來表示一個抽象的向量空間。這個 VV 可以代表任何符合向量空間定義的集合，不限於特定的數學對象。當我們講到「定義」或「性質」時，通常用 VV 來強調通用性，因為我們討論的是任意的、符合向量空間性質的空間。

2. 特定的向量空間符號 Rn\mathbb{R}^n

當我們談到具體的向量空間，比如所有二維的實數向量構成的空間，會用符號 R2\mathbb{R}^2（或 R3\mathbb{R}^3, Rn\mathbb{R}^n 等）來指代。這樣的符號表達了這是一個特定的向量空間，其元素是所有二維實數向量。例如，向量 (1,2)(1,2) 和 (3,4)(3,4) 都是 R2\mathbb{R}^2 的成員。

有趣的是，複數平面(Complex plane)並不是 C2\mathbb{C}^2 而是 R2\mathbb{R}^2 ，這其中的原因是因為複數 z=x+iyz=x+iy 本質上就是一個實部 xx 再加上一個虛部 yy ，所以複數平面其實可以看做是一個一維的複數向量空間 ∀v∈C,v=(x+iy)\forall v \in C, v = (x + iy) ，同時也可以看做一個實數向量空間 ∀v∈R2,v=(x,y)\forall v \in R^2, v = (x, y) 。

應用

數學題目

題目：考慮向量空間 R2\mathbb{R}^2，其中的向量 u⃗=(1,2)\vec{u} = (1, 2) 和 v⃗=(3,4)\vec{v} = (3, 4)。請計算 2u⃗+3v⃗2 \vec{u} + 3 \vec{v}。

解答：

2u⃗+3v⃗=2⋅(1,2)+3⋅(3,4)=(2,4)+(9,12)=(11,16)2 \vec{u} + 3 \vec{v} = 2 \cdot (1, 2) + 3 \cdot (3, 4) = (2, 4) + (9, 12) = (11, 16)

現實生活

假設 spotify 要設計使用者的首頁推薦音樂，那麼 spotify 可以考慮把所有音樂以及使用者的偏好都轉換成向量之後使用一個向量空間模型來分析。

每個不同的特徵都可以表示為一個維度，例如曲風，音樂特徵，音樂長度，地區。

當音樂和用戶都被表示成向量後，我們可以通過計算「相似度」來推薦音樂。相似度通常用餘弦相似度來衡量，但更簡單也可以用內積來算，內積的值越高代表使用者越有可能喜歡這首歌。