Matriz de covarianza

En estadística y teoría de la probabilidad, la matriz de covarianza es una matriz cuadrada que contiene la covarianza entre los elementos de un vector. Es la generalización natural a dimensiones superiores del concepto de varianza de una variable aleatoria escalar.

Definición

Si $\mathbf{\text{X}}$ es un vector aleatorio dado por

$\mathbf{\text{X}}=\left[\begin{array}{c}{X}_1\\ ⋮\\ X_n\end{array}\right]$

tal que la $i$-ésima entrada del vector $\mathbf{\text{X}}$ es una variable aleatoria con varianza finita, entonces la matriz de covarianza $\mathrm{\Sigma }$ es una matriz de dimensión $n\times n$ cuya entrada $(i,j)$ es la covarianza entre la variable $X_i$ y $X_j$, es decir

${\mathrm{\Sigma }}_{ij}=\mathrm{Cov}(X_i,X_j)$

En particular, cuando $i=j$, es decir, la diagonal de la matriz $\mathrm{\Sigma }$, obtenemos

${\mathrm{\Sigma }}_{ii}=\mathrm{Cov}(X_i,X_i)=\mathrm{Var}(X_i)$

En otras palabras, la matriz $\mathrm{\Sigma }$ queda definida como

$\mathrm{\Sigma }=\left[\begin{array}{cccc}\text{Var}(X_1)& \text{Cov}(X_1,X_2)& \cdots & \text{Cov}(X_1,X_n)\\ \text{Cov}(X_2,X_1)& \text{Var}(X_2)& \cdots & \text{Cov}(X_2,X_n)\\ ⋮& ⋮& \ddots & ⋮\\ \text{Cov}(X_n,X_1)& \text{Cov}(X_n,X_2)& \cdots & \text{Var}(X_n)\end{array}\right]$

Como una generalización de la varianza

La anterior definición es equivalente a la igualdad matricial

$\mathrm{\Sigma }=\mathrm{E}\left[(\mathbf{\text{X}}-\mathrm{E}[\mathbf{\text{X}}]){(\mathbf{\text{X}}-\mathrm{E}[\mathbf{\text{X}}])}^t\right]$

Por lo tanto, se entiende que esto generaliza a mayores dimensiones el concepto de varianza de una variable aleatoria escalar $X$.

En ocasiones, la matriz $\mathrm{\Sigma }$ es llamada matriz de varianza covarianza y también suele denotarse como $\text{Var}(\mathbf{\text{X}})$ o $\text{Cov}(\mathbf{\text{X}})$.

Propiedades

Para $\mathrm{\Sigma }=\mathrm{E}\left[(\mathbf{\text{X}}-\mathrm{E}[\mathbf{\text{X}}]){(\mathbf{\text{X}}-\mathrm{E}[\mathbf{\text{X}}])}^t\right]$ y $\mu =\mathrm{E}(\mathbf{\text{X}})$, las siguientes propiedades fundamentales se demuestran correctas:

1. $\mathrm{\Sigma }$ es una matriz simétrica.
2. $\mathrm{\Sigma }$ es semidefinida positiva
3. $\mathrm{Var}(A𝐗)=A\mathrm{Var}(𝐗)A^t$ donde $A$ es una matriz no aleatoria de dimensión $n\times m$.

La matriz de covarianza (aunque muy simple) es una herramienta muy útil en varios campos. A partir de ella se puede obtener una transformación lineal que puede de-correlacionar los datos o, desde otro punto de vista, encontrar una base óptima para representar los datos de forma óptima (véase cociente de Rayleigh para la prueba formal y otras propiedades de las matrices de covarianza). Esto se llama análisis del componente principal (PCA por sus siglas en inglés) en estadística , y transformada de Karhunen-Loève en procesamiento de la imagen.

Lecturas avanzadas

• Plantilla:MathWorld
• van Kampen, N. G. Stochastic processes in physics and chemistry. New York: North-Holland, 1981.

Plantilla:Control de autoridades