Il polinomio caratteristico della matrice - che denoto $A\,$ - è dato dalla relazione
\[p_A (\lambda) = \det{(A - \lambda I)} = \det{\begin{pmatrix} 0 - \lambda & -3a & 0 \\ 1 & 2a - \lambda & 0 \\ 1 & -3 & 1 - \lambda\end{pmatrix}} = \lambda^3 - (1 + 2a)\lambda^2 + 5a\lambda - 3a\,.\]
Per il lemma di Ruffini si ha
\[p_A(\lambda) = (\lambda - 1)(\lambda^2 - 2a\lambda +3a)\,.\]
Per trovare le radici del polinomio, ovvero gli autovalori, si risolve banalmente l'equazione caratteristica associata e si ottengono
\[\lambda_1 = 1 \qquad \lambda_2 = a - \sqrt{a(a - 3)} \qquad \lambda_3 = a + \sqrt{a(a - 3)}\,.\]
Per un noto teorema dell'algebra lineare, la matrice è diagonalizzabile se e solo se
\[\sum_i \mu_a(\lambda_i) = \sum_i \mu_g(\lambda_i)\,,\]
ovvero se e solo se gli autovalori sono distinti. Ergo
\[i)\;\text{La matrice e' diagonalizzabile in}\; \mathbb{R} \;\text{se}\; a > 3 \lor a < 0\,;\]
\[ii)\;\text{La matrice non e' diagonalizzabile in}\; \mathbb{R} \;\text{se}\; 0 \leq a \leq 3\,,\; \text{in quanto gli autovalori risultato complessi coniugati}\,.\]