$\{a_n\}$ に関する漸化式より

$$
\begin{eqnarray*}
a_{n+4} & = & -2a_{n+3} + a_{n+2} + 2a_{n+1}-1\\
a_{n+3} & = & -2a_{n+2} + a_{n+1} + 2a_n-1
\end{eqnarray*}
$$

である．辺々引いて
\[
a_{n+4}-a_{n+3}=-2(a_{n+3}-a_{n+2}) + (a_{n+2}-a_{n+1}) + 2(a_{n+1}-a_n).
\]
ゆえに $b_{n} = a_{n+1}-a_{n}$ とすれば
\[
b_{n+3} =-2b_{n+2} + b_{n+1} + 2b_n
\]
が成り立つ．また
\[
b_1 = a_2-a_1 = 1, \quad b_2 = a_3-a_2 = 1, \quad b_3 = a_4-a_3 =-3-3 =-6
\]
より $\{b_n\}$ が満たす $4$ 項間の漸化式が得られた．この漸化式は定数項を持たない．

$$
\begin{eqnarray*}
\boldsymbol{x}_{n+1} = \left[
\begin{array}{c}
b_{n+3} \\
b_{n+2} \\
b_{n+1}
\end{array}
\right]
& = &
\left[
\begin{array}{c}
-2b_{n+2} + b_{n+1} + 2b_n \\
b_{n+2} \\
b_{n+1}
\end{array}
\right] \\
& = &
\left[
\begin{array}{ccc}
-2 & 1 & 2 \\
1 & 0 & 0 \\
0 & 1 & 0
\end{array}
\right]
\left[
\begin{array}{c}
b_{n+2} \\
b_{n+1} \\
b_{n}
\end{array}
\right]
=
\left[
\begin{array}{ccc}
-2 & 1 & 2 \\
1 & 0 & 0 \\
0 & 1 & 0
\end{array}
\right]\boldsymbol{x}_n
\end{eqnarray*}
$$

が成り立つ．したがって $3$ 次正方行列
\[
A = \left[
\begin{array}{ccc}
-2 & 1 & 2 \\
1 & 0 & 0 \\
0 & 1 & 0
\end{array}
\right]
\]
が $\boldsymbol{x}_{n+1} = A \boldsymbol{x}_n$ を満たす．

記号 $\xrightarrow{(\ast)}$ で行基本変形による行列の変形を表すとする．

\[
\boldsymbol{x}_n = A\boldsymbol{x}_{n-1} = A^2\boldsymbol{x}_{n-2} = \cdots = A^{n-1}\boldsymbol{x}_1
\]

であるから，$A^{n}$ を求めれば $\boldsymbol{x}_n$ が判る．今回は $A^{n}$ を求めるために $A$ を対角化する．すなわち $P^{-1}AP$ が対角行列となるような正則行列 $P$ を求める．

$E$ を 3次の単位行列として
\[
|xE-A| = (x-1)(x+1)(x+2)
\]
であるから，行列 $A$ の固有値は $x = -2, -1, 1$ である（それぞれ重複度は1）．
$x=-2$ に対して
\[
xE-A = \left[
\begin{array}{ccc}
0 & -1 & -2 \\
-1 & -2 & 0 \\
0 & -1 & -2
\end{array}
\right]
\xrightarrow{(\ast)} \left[
\begin{array}{ccc}
1 & 0 & -4 \\
0 & 1 & 2 \\
0 & 0 & 0
\end{array}
\right]
\]
であるから，固有ベクトルとして，例えば
\[
\boldsymbol{p}_1 = \left[
\begin{array}{c}
4 \\
-2 \\
1
\end{array}
\right]
\]
を得る．

$x=-1$ に対して
\[
xE-A = \left[
\begin{array}{ccc}
1 & -1 & -2 \\
-1 & -1 & 0 \\
0 & -1 & -1
\end{array}
\right]
\xrightarrow{(\ast)} \left[
\begin{array}{ccc}
1 & 0 & -1 \\
0 & 1 & 1 \\
0 & 0 & 0
\end{array}
\right]
\]
であるから，固有ベクトルとして，例えば
\[
\boldsymbol{p}_2 = \left[
\begin{array}{c}
1 \\
-1 \\
1
\end{array}
\right]
\]
を得る．

$x=1$ に対して
\[
xE-A = \left[
\begin{array}{ccc}
3 & -1 & -2 \\
-1 & 1 & 0 \\
0 & -1 & 1
\end{array}
\right]
\xrightarrow{(\ast)} \left[
\begin{array}{ccc}
1 & 0 & -1 \\
0 & 1 & -1 \\
0 & 0 & 0
\end{array}
\right]
\]
であるから，固有ベクトルとして，例えば
\[
\boldsymbol{p}_3 = \left[
\begin{array}{c}
1 \\
1 \\
1
\end{array}
\right]
\]
を得る．

得られた3つの固有ベクトルを並べた行列
\[
\left[\boldsymbol{p}_1~~\boldsymbol{p}_2~~\boldsymbol{p}_3 \right]
= \left[
\begin{array}{ccc}
4 & 1 & 1 \\
-2 & -1 & 1 \\
1 & 1 & 1
\end{array}
\right]
\]
が求める正則行列 $P$ である．$P^{-1}$ は掃き出し法（Gaussian elimination）により求める．
\[
\left[
\begin{array}{ccc|ccc}
4 & 1 & 1 & 1 & 0 & 0 \\
-2 & -1 & 1 & 0 & 1 & 0 \\
1 & 1 & 1 & 0 & 0 & 1
\end{array}
\right] \xrightarrow{(\ast)} \left[
\begin{array}{ccc|ccc}
1 & 0 & 0 & \frac{1}{3} & 0 & -\frac{1}{3} \\
0 & 1 & 0 & -\frac{1}{2} & -\frac{1}{2} & 1 \\
0 & 0 & 1 & \frac{1}{6} & \frac{1}{2} & \frac{1}{3}
\end{array}
\right]
\]
より
\[
P^{-1}= \left[
\begin{array}{ccc}
\frac{1}{3} & 0 & -\frac{1}{3} \\
-\frac{1}{2} & -\frac{1}{2} & 1 \\
\frac{1}{6} & \frac{1}{2} & \frac{1}{3}
\end{array}
\right]
= \frac{1}{6}\left[
\begin{array}{ccc}
-2 & 0 & 2 \\
-3 & -3 & 6 \\
1 & 3 & 2
\end{array}
\right]
\]
を得る．この正則行列 $P$ によって行列 $A$ は対角化される:
\[
P^{-1}AP = \left[
\begin{array}{ccc}
-2 & 0 & 0 \\
0 & -1 & 0 \\
0 & 0 & 1
\end{array}
\right].
\]
いま
$$
\begin{eqnarray*}
\left[
\begin{array}{ccc}
(-2)^n & 0 & 0 \\
0 & (-1)^n & 0 \\
0 & 0 & 1
\end{array}
\right] & = & (P^{-1}AP)^n \\
& = & (P^{-1}AP)(P^{-1}AP)\cdots(P^{-1}AP) = P^{-1}A^nP
\end{eqnarray*}
$$
であるから
$$
\begin{eqnarray*}
A^n & = & P\left[
\begin{array}{ccc}
(-2)^n & 0 & 0 \\
0 & (-1)^n & 0 \\
0 & 0 & 1
\end{array}
\right]P^{-1} \\
& = & \frac{1}{6}\left[
\begin{array}{ccc}
2(-2)^{n+2}-3(-1)^{n+2}+1 & -3(-1)^{n+2}+3 & -2(-2)^{n+2}+6(-1)^{n+2}+2 \\
2(-2)^{n+1}-3(-1)^{n+1}+1 & -3(-1)^{n+1}+3 & -2(-2)^{n+1}+6(-1)^{n+1}+2 \\
2(-2)^{n}-3(-1)^{n}+1 & -3(-1)^{n}+3 & -2(-2)^{n}+6(-1)^{n}+2
\end{array}
\right]
\end{eqnarray*}
$$
を得る．以降の計算に用いるのはいずれか $1$ 行だけであり，残る $2$ 行は実際には計算しなくてもよい．

$$
\begin{eqnarray*}
A^{n-1}\boldsymbol{x}_1 & = & \frac{1}{6}\left[
\begin{array}{ccc}
(-2)^{n-1} & 0 & 0 \\
0 & (-1)^{n-1} & 0 \\
0 & 0 & 1
\end{array}
\right]\left[
\begin{array}{c}
-6 \\
1 \\
1
\end{array}
\right] \\
& = &
\frac{1}{6}\left[
\begin{array}{c}
-14(-2)^{n+1} + 21(-1)^{n+1}-1 \\
-14(-2)^{n} + 21(-1)^{n}-1 \\
-14(-2)^{n-1} + 21(-1)^{n-1}-1
\end{array}
\right]
\end{eqnarray*}
$$
であるから，$\boldsymbol{x}_n = A^{n-1}\boldsymbol{x}_1$ の両辺の第 $3$ 成分を比較して
\[
b_n = \frac{-14(-2)^{n-1} + 21(-1)^{n-1}-1}{6}
\]
が得られた．

\[
a_{n+1}-a_n = b_n = \frac{-14(-2)^{n-1} + 21(-1)^{n-1}-1}{6}
\]
であるから，階差数列の考え方を用いて $n \geqq 2$ のとき
$$
\begin{eqnarray*}
a_n & = & a_1 + \sum_{k=1}^{n-1}\frac{1}{6}\biggl\{-14(-2)^{k-1} + 21(-1)^{k-1}-1\biggr\} \\
& = & 1-\frac{7}{9}\biggl\{1-(-2)^{n-1}\biggr\} + \frac{7}{4}\biggl\{1-(-1)^{n-1}\biggr\}-\frac{1}{6}n+\frac{7}{6} \\
& = & \frac{77-14(-2)^n +63(-1)^n-6n}{36}
\end{eqnarray*}
$$
を得る．これは $n=1$ でも成り立つ．

漸化式に定数項を含まない
\[
a_{n+\ell} = p_1a_{n} + p_2a_{n+1} + p_3a_{n+2} + \cdots + p_{\ell}a_{n+\ell-1} \qquad (p_1 , p_1 , \dots , p_\ell \in \mathbb{R})
\]
の形の $\ell + 1$ 項間漸化式から得られる数列 $\{a_n\}$ の一般項は，ある $\ell \times \ell$ 行列 $A$ の固有値 $\alpha_1 , \alpha_2, \ldots \alpha_\ell$ を用いて
\[
a_n = c_1\alpha_{1}^{n-1} + c_2\alpha_{2}^{n-1} + \cdots + c_\ell\alpha_\ell^{n-1} \quad (c_1,c_2,\ldots,c_\ell \in \mathbb{R})
\]
の形で与えられると推測される．この主張は $A$ の固有値が重複しない場合には正しい．

実際，$3$ 項間の漸化式
\[
a_{n+2} = pa_{n+1} + qa_n
\]
に対して
\[
\boldsymbol{x}_{n} = \left[
\begin{array}{c}
a_{n+1} \\
a_{n}
\end{array}
\right]
\]
とすると
\[
\boldsymbol{x}_{n+1} = \left[
\begin{array}{c}
a_{n+2} \\
a_{n+1}
\end{array}
\right]
=
\left[
\begin{array}{c}
pa_{n+1} + qa_n \\
a_{n+1}
\end{array}
\right]
=
\left[
\begin{array}{cc}
p & q \\
1 & 0
\end{array}
\right]
\left[
\begin{array}{c}
a_{n+1} \\
a_{n}
\end{array}
\right]
=
A\boldsymbol{x}_n
\]
とできて
\[
|xE-A| = x^2 + px + q
\]
を得る．右辺を $0$ とおけば，これは行列 $A$ の固有方程式であり，漸化式の「特性方程式」と一致する．この $2$ 次方程式が異なる $2$ つの実数解 $\alpha$，$\beta$ を持つとき，数列 $\{a_n\}$ の一般項は
\[
a_n = c_1\alpha^{n-1} + c_2\beta^{n-1}
\]
の形で表すことができる．