Hadamard 積
Hadamard 積（行列の成分どうしの積）について．
Hadamard 積の定義と性質
定義 1：Hadamard 積の定義
$m \times n$ 行列 $A = [a_{ij}]$ と $B = [b_{ij}]$ に対して，成分ごとの積
\[
C = [c_{ij}] = [a_{ij}b_{ij}]
\]
で定まる $m \times n$ 行列 $C$ を $A$ と $B$ の Hadamard 積（hadamard product）といい，$A \odot B$ で表す．
補足（click）
Schur 積とよばれることもある．通常の行列の積とは異なり，明らかに可換な演算である．
定理 2：Schur 積定理
半正定値な $n$ 次 Hermite 行列 $A,\,B$ に対し，$A \odot B$ は半正定値である．
証明（click）
$A$ は Hermite 行列であるから，$A$ の固有値 $\lambda_i ~ (1 \leq i \leq n)$ を対角成分に持つ対角行列 $\Lambda$ に対して，$U \Lambda U^{\ast}$ を満たす Unitary 行列 $U = [u_{ij}]$ が存在する．$\Lambda$ が対角行列であることに注意すれば
$$
\begin{align*}
U \Lambda U^{\ast} &= \left[
\begin{array}{ccc}
u_{11} & \cdots & u_{1n} \\
\vdots & \ddots & \vdots \\
u_{n1} & \cdots & u_{nn}
\end{array}
\right] \left[
\begin{array}{ccc}
\lambda_1 & \cdots & 0 \\
\vdots & \ddots & \vdots \\
0 & \cdots & \lambda_n
\end{array}
\right] \left[
\begin{array}{ccc}
\overline{u_{11}} & \cdots & \overline{u_{n1}} \\
\vdots & \ddots & \vdots \\
\overline{u_{1n}} & \cdots & \overline{u_{nn}}
\end{array}
\right] \\
&= \left[
\begin{array}{ccc}
\lambda_1u_{11} & \cdots & \lambda_nu_{1n} \\
\vdots & \ddots & \vdots \\
\lambda_{1}u_{n1} & \cdots & \lambda_nu_{nn}
\end{array}
\right] \left[
\begin{array}{ccc}
\overline{u_{11}} & \cdots & \overline{u_{n1}} \\
\vdots & \ddots & \vdots \\
\overline{u_{1n}} & \cdots & \overline{u_{nn}}
\end{array}
\right] \\
&= \left[
\begin{array}{ccc}
\sum_{k=1}^{n}\lambda_ku_{1k}\overline{u_{1k}} & \cdots & \sum_{k=1}^{n}\lambda_ku_{1k}\overline{u_{nk}} \\
\vdots & \ddots & \vdots \\
\sum_{k=1}^{n}\lambda_ku_{nk}\overline{u_{1k}} & \cdots & \sum_{k=1}^{n}\lambda_ku_{nk}\overline{u_{nk}}
\end{array}
\right]
\end{align*}
$$
が成り立つ．したがって $a_{ij} = \sum_{k=1}^{n}\lambda_ku_{ik}\overline{u_{jk}}$ であるから，任意の非零ベクトル $\boldsymbol{y} = (y_1,\dots,y_n)^{{\rm T}} \in \mathbb{C}^{n}$ に対して
\[
\boldsymbol{y}^{\ast}C\boldsymbol{y} = \sum_{i,j=1}^{n}y_ic_{ij}\overline{y_j} = \sum_{k=1}^{n}\lambda_k\sum_{i,j=1}^{n}y_iu_{ik}b_{ij}\overline{y_j}\overline{u_{jk}} = \sum_{k=1}^{n}\lambda_{k}\boldsymbol{x}_k^{\ast}B\boldsymbol{x}_k
\]
が成り立つ．ただし，$\boldsymbol{x}_k = (y_1u_{1k},\dots,y_{n}u_{nk})^{{\rm T}} \in \mathbb{C}^n$ とおいた．$A$ が Hermite 行列ゆえに固有値 $\lambda_k \geq 0 ~ (1 \leq k \leq n)$ であることと $B$ が半正定値であることから，この値は非負である．ゆえに $C = A \odot B$ は半正定値であることが示された．
系 3：
集合 $X$ 上の正定値カーネル $k_1, \, k_2$ に対して
\[
k_1k_2 = k_1(\boldsymbol{x},\boldsymbol{y})k_2(\boldsymbol{x},\boldsymbol{y})
\]
は正定値カーネルである．
20190601 更新