Specific residue: application of orthogonal contrasts when heteroscedasticity is present

Abstract

When experimental data are submitted to analysis of variance, the assumption of data homoscedasticity (variance homogeneity among treatments), associated to the adopted mathematical model must be satisfied. This verification is necessary to ensure the correct test for the analysis. In some cases, when data homoscedascity is not observed, errors may invalidate the analysis. An alternative to overcome this difficulty is the application of the specific residue analysis, which consists of the decomposition of the residual sum of squares in its components, in order to adequately test the correspondent orthogonal contrasts of interest between treatment means. Although the decomposition of the residual sum of squares is a seldom used procedure, it is useful for a better understanding of the residual mean square nature and to validate the tests to be applied. The objective of this review is to illustrate the specific residue application as a valid and adequate alternative to analyze data from experiments following completely randomized and randomized complete block designs in the presence of heteroscedasticity.

Ao realizar-se a análise da variância de um conjunto de dados, pressupõe-se que o critério de homocedasticidade (homogeneidade de variâncias entre tratamentos), associada ao modelo matemático adotado, seja satisfeito. Esta verificação se faz necessária para a correta aplicação dos testes de significância. Quando não é satisfeita, em certos casos, compromete a normalidade dos erros. Uma alternativa para contornar essa deficiência é a aplicação do resíduo específico, que consiste em decompor a soma de quadrados do resíduo em componentes, correspondentes aos contrastes ortogonais de interesse, apropriados para testar cada contraste ortogonal entre médias de tratamentos. A decomposição da soma de quadrados do resíduo é um procedimento pouco utilizado, mas é útil para melhor compreensão da natureza do quadrado médio residual e garantir a validade dos testes aplicados. Nessa revisão avaliou-se a aplicação dos resíduos específicos como alternativa válida e adequada, na análise de dados obtidos de experimentos que seguem a estrutura dos delineamentos inteiramente casualizados e em blocos casualizados, na presença da heterocedasticidade.