1 Introdução
A análise multivariada é o campo da estatística dedicado a compreender conjuntos de dados com múltiplas variáveis inter-relacionadas. Em vez de analisar cada variável isoladamente, seu foco é examinar simultaneamente as relações entre elas para extrair padrões e estruturas que de outra forma permaneceriam ocultos.
Os métodos multivariados multivariada permitem uma compreensão mais profunda e realista dos dados. Os principais objetivos são:
Simplificação Estrutural: Reduzir a dimensionalidade dos dados, identificando as principais fontes de variação e eliminando redundâncias. Isso facilita a visualização e a interpretação de dados complexos, revelando a estrutura subjacente de forma mais clara.
Agrupamento e Classificação: Organizar as observações em grupos homogêneos (agrupamento) ou atribuir observações a categorias predefinidas (classificação). O objetivo é identificar padrões que permitam segmentar os dados de maneira significativa.
Investigação de Estruturas de Dependência: Explorar e quantificar as relações entre variáveis. Isso inclui desde a análise de correlações simples até a modelagem de interações complexas entre múltiplos conjuntos de variáveis.
Predição: Construir modelos para prever o valor de uma ou mais variáveis com base em outras.
Inferência: Realizar testes de hipóteses e inferências estatísticas sobre as relações em um contexto multivariado.
Nos próximos capítulos, construiremos a base teórica para atingir esses objetivos, começando pelo conceito de vetor aleatório e seus parâmetros, para depois explorarmos como as amostras de dados nos permitem estimar e analisar essas estruturas.
As técnicas de análise multivariada podem ser classificadas com base em seus objetivos e na natureza das relações entre as variáveis. Uma distinção fundamental é entre técnicas de dependência, que analisam a relação entre variáveis dependentes e independentes, e técnicas de interdependência, que exploram as relações em um único conjunto de variáveis.
- Técnicas de Dependência: Analisam a relação entre uma ou mais variáveis dependentes e um conjunto de variáveis independentes. O objetivo é prever ou explicar o valor das variáveis dependentes.
- Técnicas de Interdependência: Exploram as relações entre todas as variáveis de um conjunto, sem fazer distinção entre dependentes e independentes. O foco é entender a estrutura geral dos dados.
Além disso a escolha de uma determinada técnica depende também dos tipos de variáveis em questão.
- Variáveis Categóricas (Qualitativas): Representam categorias ou grupos (e.g., gênero, tipo de produto).
- Variáveis Métricas (Quantitativas): Representam quantidades numéricas (e.g., idade, altura, renda, temperatura).
Com o objetivo de classificar os métodos a serem apresentados nesse livro e posteriormente auxiliar na escolha da técnica mais adequada para o tratamento de um conjunto de dados, apresentamos a seguir uma tabela com algumas características de cada método e na sequência um fluxograma de decisão.
| Técnica | Objetivo Principal | Tipo de Variável | Tipo de Análise |
|---|---|---|---|
| Componentes Principais (PCA) | Redução de dimensionalidade | Quantitativas | Interdependência |
| Análise Fatorial (FA) | Identificação de fatores latentes | Quantitativas | Interdependência |
| Análise de Agrupamento | Formação de grupos homogêneos | Quantitativas/Qualitativas | Interdependência |
| Análise Discriminante | Classificação de observações | Mista (Quali/Quanti) | Dependência |
| Correlação Canônica (CCA) | Relação entre conjuntos de variáveis | Quantitativas | Dependência |
| Análise de Correspondência (CA) | Relação entre variáveis categóricas | Qualitativas | Interdependência |
1.1 Vetores aleatórios
Em estudos estatísticos multivariados, temos uma população de interesse (e.g., todos os estudantes de uma universidade), e um conjunto de \(p\) características que nos interessam (e.g., nota em matemática, nota em história, horas de estudo). Devido as variações, ou seja a distribuição probabilistica, que existem nessas características dentre os componentes da população, podemos tratar cada uma dessas características como uma variável aleatória. Para facilitar, podemos organizar essas variáveis em um vetor aleatório.
Definição 1.1 Um vetor aleatório \(\boldsymbol{x}\) é um vetor-coluna cujos componentes são \(p\) variáveis aleatórias, \(X_1, X_2, \ldots, X_p\).
\[ \boldsymbol{x}= \begin{pmatrix} X_1 \\ X_2 \\ \vdots \\ X_p \end{pmatrix} \]
A esse vetor, podemos associar uma distribuição probabilistica multivariada que governa o mecanismo gerador dos dados de uma população. Toda a teoria da análise multivariada se baseia na compreensão das propriedades e da estrutura de distribuição deste vetor.
- Uma letra minúscula em negrito (e.g., \(\boldsymbol{x}\)) denota um vetor aleatório.
- Uma letra maiúscula comum (e.g., \(X_j\)) denota uma variável aleatória escalar, o \(j\)-ésimo componente do vetor.
- Mais adiante, uma letra maiúscula em negrito (e.g., \(\boldsymbol{X}\)) será usada para a matriz de dados (amostral).
- O sobrescrito \(T\) denota transposição: \(\boldsymbol{A}^{T}\) é a transposta de \(\boldsymbol{A}\). Essa operação troca linhas por colunas; em particular, o vetor-coluna \(\boldsymbol{x}\) da definição acima se torna o vetor-linha \(\boldsymbol{x}^{T} = (X_1, X_2, \ldots, X_p)\).
Assim como variáveis aleatórias, os vetores aleatórios também são caracterizados por parâmetros como a média e a variância. Com o detalhe adicional que agora existem também parâmetros associados às correlações das variáveis em estudo.
Definição 1.2 O vetor de médias populacional, denotado por \(\boldsymbol{\mu}\), é o vetor das expectativas de cada uma de suas variáveis componentes.
\[ \boldsymbol{\mu}= \operatorname{E}\left[\boldsymbol{x}\right] = \begin{pmatrix} \operatorname{E}\left[X_1\right] \\ \operatorname{E}\left[X_2\right] \\ \vdots \\ \operatorname{E}\left[X_p\right] \end{pmatrix} = \begin{pmatrix} \mu_1 \\ \mu_2 \\ \vdots \\ \mu_p \end{pmatrix} \]
Geometricamente, \(\boldsymbol{\mu}\) representa o centróide (centro de massa) da distribuição de probabilidade no espaço \(p\)-dimensional.
Definição 1.3 A matriz de covariâncias populacional, denotada por \(\boldsymbol{\Sigma}\), é uma matriz simétrica \(p \times p\) cujo elemento \((j, k)\) é a covariância entre a \(j\)-ésima e a \(k\)-ésima variável aleatória, \(\sigma_{jk} = \operatorname{Cov}\left(X_j, X_k\right) = \operatorname{E}\left[(X_j - \mu_j)(X_k - \mu_k)\right]\).
\[ \boldsymbol{\Sigma}= \operatorname{Cov}\left(\boldsymbol{x}\right) = \operatorname{E}\left[(\boldsymbol{x}- \boldsymbol{\mu})(\boldsymbol{x}- \boldsymbol{\mu})^{T}\right] = \begin{pmatrix} \sigma_{11} & \sigma_{12} & \cdots & \sigma_{1p} \\ \sigma_{21} & \sigma_{22} & \cdots & \sigma_{2p} \\ \vdots & \vdots & \ddots & \vdots \\ \sigma_{p1} & \sigma_{p2} & \cdots & \sigma_{pp} \end{pmatrix} \]
- Diagonal (\(\sigma_{jj}\)): As variâncias, \(\operatorname{Var}\left(X_j\right)\), medem a dispersão de cada variável.
- Fora da Diagonal (\(\sigma_{jk}\)): As covariâncias, medem a tendência de associação linear entre as variáveis \(X_j\) e \(X_k\).
- Simetria: A matriz é simétrica, pois \(\operatorname{Cov}\left(X_j, X_k\right) = \operatorname{Cov}\left(X_k, X_j\right)\), o que implica \(\sigma_{jk} = \sigma_{kj}\).
Definição 1.4 A matriz de correlações populacional, denotada por \(\boldsymbol{P}\), é uma versão reescalada da matriz de covariâncias, com elementos \(\rho_{jk} = \frac{\sigma_{jk}}{\sqrt{\sigma_{jj}}\sqrt{\sigma_{kk}}}\).
\[ \boldsymbol{P} = \begin{pmatrix} 1 & \rho_{12} & \cdots & \rho_{1p} \\ \rho_{21} & 1 & \cdots & \rho_{2p} \\ \vdots & \vdots & \ddots & \vdots \\ \rho_{p1} & \rho_{p2} & \cdots & 1 \end{pmatrix} \]
Seus elementos \(\rho_{jk}\) variam de -1 a 1, fornecendo uma medida de associação linear livre de escala.
Os operadores de esperânça e variância no caso multivariado são generalizações diretas dos resultados univariados, e possuem propriedades semelhantes. Seja \(\boldsymbol{x}\) um vetor aleatório \(p\)-dimensional com média \(\boldsymbol{\mu}\) e covariância \(\boldsymbol{\Sigma}\). Sejam \(\boldsymbol{c}\) um vetor de constantes \(p \times 1\) e \(\boldsymbol{A}\) uma matriz de constantes \(q \times p\).
Esperança de uma Combinação Linear: \[ \operatorname{E}\left[\boldsymbol{A}\boldsymbol{x}+ \boldsymbol{c}\right] = \boldsymbol{A}\operatorname{E}\left[\boldsymbol{x}\right] + \boldsymbol{c} = \boldsymbol{A}\boldsymbol{\mu}+ \boldsymbol{c} \]
Covariância de uma Combinação Linear: \[ \operatorname{Cov}\left(\boldsymbol{A}\boldsymbol{x}+ \boldsymbol{c}\right) = \boldsymbol{A}\operatorname{Cov}\left(\boldsymbol{x}\right)\boldsymbol{A}^{T} = \boldsymbol{A}\boldsymbol{\Sigma}\boldsymbol{A}^{T} \]
Na prática, não temos acesso a esses parâmetros populacionais (\(\boldsymbol{\mu}\), \(\boldsymbol{\Sigma}\), \(\boldsymbol{P}\)), mas podemos usar dados observados para obter estimativas confiáveis deles.
Assumimos que coletamos uma amostra aleatória de \(n\) observações da população. Cada observação, \(\boldsymbol{x}_i\) (com \(i=1, \ldots, n\)), é uma realização independente do vetor aleatório \(\boldsymbol{x}\) que definimos no capítulo anterior. A coleção de todas essas observações forma a nossa matriz de dados.
Definição 1.5 A matriz de dados, denotada por \(\boldsymbol{X}\), é uma matriz de dimensão \(n \times p\), onde cada linha é uma observação multivariada e cada coluna representa uma variável.
\[ \boldsymbol{X}= \begin{pmatrix} \boldsymbol{x}_1^{T} \\ \boldsymbol{x}_2^{T} \\ \vdots \\ \boldsymbol{x}_n^{T} \end{pmatrix} = \begin{pmatrix} x_{11} & x_{12} & \cdots & x_{1p} \\ x_{21} & x_{22} & \cdots & x_{2p} \\ \vdots & \vdots & \ddots & \vdots \\ x_{n1} & x_{n2} & \cdots & x_{np} \end{pmatrix} \tag{1.1}\]
O elemento \(x_{ij}\) representa o valor da \(j\)-ésima variável para a \(i\)-ésima observação.
Com uma matriz de dados em mãos, podemos finalmente começar a aplicar nossos métodos estatísticos multivariados. O objetivo inferencial mais comum é a estimação dos parâmetros populacionais \(\boldsymbol{\mu}\) e \(\boldsymbol{\Sigma}\). Nesse livro não daremos enfoque para isso, no entanto conhecer alguns estimadores usuais é importante.
Definição 1.6 O estimador usual de \(\boldsymbol{\mu}\) é o vetor de médias amostral, \(\bar{\boldsymbol{x}}\), cujos componentes \(\bar{x}_j\) são a média das observações para a \(j\)-ésima variável.
\[ \bar{x}_j = \frac{1}{n} \sum_{i=1}^n x_{ij}, \quad \text{resultando em} \quad \bar{\boldsymbol{x}}= \begin{pmatrix} \bar{x}_1 \\ \vdots \\ \bar{x}_p \end{pmatrix} \]
Definição 1.7 O estimador usual de \(\boldsymbol{\Sigma}\) é a matriz de covariâncias amostral, \(\boldsymbol{S}\). Seus elementos são a variância amostral (\(s_{jj}\)) e a covariância amostral (\(s_{jk}\)).
\(s_{jk} = \frac{1}{n-1} \sum_{i=1}^n (x_{ij} - \bar{x}_j)(x_{ik} - \bar{x}_k)\)
A matriz resultante é:
\[ \boldsymbol{S}= \begin{pmatrix} s_{11} & s_{12} & \cdots & s_{1p} \\ s_{21} & s_{22} & \cdots & s_{2p} \\ \vdots & \vdots & \ddots & \vdots \\ s_{p1} & s_{p2} & \cdots & s_{pp} \end{pmatrix} \]
Lembrando que a divisão por \(n-1\) (ao invés de \(n\)) torna \(s_{jk}\) um estimador não-viesado \(\sigma_{jk}\), ou seja, \(\operatorname{E}\left[s_{jk}\right] = \sigma_{jk}\).
Definição 1.8 O estimador usual de \(\boldsymbol{P}\) é a matriz de correlações amostral, \(\boldsymbol{R}\), cujos elementos \(r_{jk}\) são obtidos padronizando a covariância amostral.
\[ r_{jk} = \frac{s_{jk}}{\sqrt{s_{jj}} \sqrt{s_{kk}}} = \frac{\sum_{i=1}^n (x_{ij} - \bar{x}_j)(x_{ik} - \bar{x}_k)}{\sqrt{\sum_{i=1}^n (x_{ij} - \bar{x}_j)^2} \sqrt{\sum_{i=1}^n (x_{ik} - \bar{x}_k)^2}} \]
A matriz resultante é:
\[ \boldsymbol{R}= \begin{pmatrix} 1 & r_{12} & \cdots & r_{1p} \\ r_{21} & 1 & \cdots & r_{2p} \\ \vdots & \vdots & \ddots & \vdots \\ r_{p1} & r_{p2} & \cdots & 1 \end{pmatrix} \]
A matriz \(\boldsymbol{R}\) é uma matriz simétrica com 1s na diagonal.
Em resumo: No nível populacional, temos parâmetros teóricos e não observáveis (\(\boldsymbol{\mu}\), \(\boldsymbol{\Sigma}\)). No nível amostral, temos dados observáveis na matriz \(\boldsymbol{X}\), a partir da qual calculamos estatísticas (\(\bar{\boldsymbol{x}}\), \(\boldsymbol{S}\)) que estimam esses parâmetros.
A maior parte das técnicas que veremos neste livro opera sobre as matrizes de covariâncias ou correlações amostrais (\(\boldsymbol{S}\) ou \(\boldsymbol{R}\)) para fazer descobertas sobre as relações existentes entre as variáveis componentes de um vetor aleatório.