Hadamard 積の半正定値性


Hadamard積(行列の成分どうしの積)の性質を1つである正定値性についてのノート.

この性質によって,正定値カーネルの積が正定値カーネルとなることが示される.

スポンサーリンク

Hadamard積の定義

Define 1

$m \times n$ 行列 $A = [a_{ij}]$ と $B = [b_{ij}]$ に対して,成分ごとの積

\[
C = [c_{ij}] = [a_{ij}b_{ij}]
\]

で定まる $m \times n$ 行列 $C$ を $A$ と $B$ のHadamard積(hadamard product)といい,$A \odot B$ で表す.

 
補足(click)

Schur積とよばれることもある.通常の行列の積とは異なり,明らかに可換な演算である.

 
Theorem 2(Schur積定理)

半正定値な $n$ 次Hermite行列 $A,\,B$ に対し,$A \odot B$ は半正定値である.

 
証明(click)

$A$ はHermite行列であるから,$A$ の固有値 $\lambda_i ~ (1 \leq i \leq n)$ を対角成分に持つ対角行列 $\Lambda$ に対して,$U \Lambda U^{\ast}$ を満たすUnitary行列 $U = [u_{ij}]$ が存在する.$\Lambda$ が対角行列であることに注意すれば
$$
\begin{align*}
U \Lambda U^{\ast} &= \left[
\begin{array}{ccc}
u_{11} & \cdots & u_{1n} \\
\vdots & \ddots & \vdots \\
u_{n1} & \cdots & u_{nn}
\end{array}
\right] \left[
\begin{array}{ccc}
\lambda_1 & \cdots & 0 \\
\vdots & \ddots & \vdots \\
0 & \cdots & \lambda_n
\end{array}
\right] \left[
\begin{array}{ccc}
\overline{u_{11}} & \cdots & \overline{u_{n1}} \\
\vdots & \ddots & \vdots \\
\overline{u_{1n}} & \cdots & \overline{u_{nn}}
\end{array}
\right] \\
&= \left[
\begin{array}{ccc}
\lambda_1u_{11} & \cdots & \lambda_nu_{1n} \\
\vdots & \ddots & \vdots \\
\lambda_{1}u_{n1} & \cdots & \lambda_nu_{nn}
\end{array}
\right] \left[
\begin{array}{ccc}
\overline{u_{11}} & \cdots & \overline{u_{n1}} \\
\vdots & \ddots & \vdots \\
\overline{u_{1n}} & \cdots & \overline{u_{nn}}
\end{array}
\right] \\
&= \left[
\begin{array}{ccc}
\sum_{k=1}^{n}\lambda_ku_{1k}\overline{u_{1k}} & \cdots & \sum_{k=1}^{n}\lambda_ku_{1k}\overline{u_{nk}} \\
\vdots & \ddots & \vdots \\
\sum_{k=1}^{n}\lambda_ku_{nk}\overline{u_{1k}} & \cdots & \sum_{k=1}^{n}\lambda_ku_{nk}\overline{u_{nk}}
\end{array}
\right]
\end{align*}
$$
が成り立つ.したがって $a_{ij} = \sum_{k=1}^{n}\lambda_ku_{ik}\overline{u_{jk}}$ であるから,任意の非零ベクトル $\boldsymbol{y} = (y_1,\dots,y_n)^{{\rm T}} \in \mathbb{C}^{n}$ に対して

\[
\boldsymbol{y}^{\ast}C\boldsymbol{y} = \sum_{i,j=1}^{n}y_ic_{ij}\overline{y_j} = \sum_{k=1}^{n}\lambda_k\sum_{i,j=1}^{n}y_iu_{ik}b_{ij}\overline{y_j}\overline{u_{jk}} = \sum_{k=1}^{n}\lambda_{k}\boldsymbol{x}_k^{\ast}B\boldsymbol{x}_k
\]

が成り立つ.ただし,$\boldsymbol{x}_k = (y_1u_{1k},\dots,y_{n}u_{nk})^{{\rm T}} \in \mathbb{C}^n$ とおいた.$A$ がHermite行列ゆえに固有値 $\lambda_k \geq 0 ~ (1 \leq k \leq n)$ であることと $B$ が半正定値であることから,この値は非負である.ゆえに $C = A \odot B$ は半正定値であることが示された.

 
Corollary 3

集合 $X$ 上の正定値カーネル $k_1, \, k_2$ に対して
\[
k_1k_2 = k_1(\boldsymbol{x},\boldsymbol{y})k_2(\boldsymbol{x},\boldsymbol{y})
\]
は正定値カーネルである.

20190601 更新


スポンサーリンク