This is an old revision of the document!

Ateliers R du CSBQ

Cette série de 10 ateliers guide les participants à travers les étapes requises afin de maîtriser le logiciel R pour une grande variété d’analyses statistiques pertinentes en recherche en biologie et en écologie. Ces ateliers en libre accès ont été créés par des membres du CSBQ à la fois pour les membres du CSBQ et pour la grande communauté d’utilisateurs de R.

Le contenu de cet atelier a été révisé par plusieurs membres du CSBQ. Si vous souhaitez y apporter des modifications, veuillez SVP contacter les coordonnateurs actuels de la série, listés sur la page d'accueil

Atelier 4 : Modèles linéaires

Développé par : Catherine Baltazar, Bérenger Bourgeois, Zofia Taranu

Résumé : Durant cet atelier, vous apprendrez comment effectuer des modèles linéaires fréquemment utilisés en écologie tels que la régression simple, l’analyse de variance (ANOVA), l’analyse de covariance (ANCOVA) et la régression multiple avec le logiciel R. Après avoir vérifié les postulats de ces modèles (visuellement et statistiquement) et transformé vos données si nécessaire, l’interprétation des résultats et leur représentation graphique n’auront plus de secrets pour vous!

Lien vers la présentation Prezi associée : Prezi

Téléchargez les scripts R et les données pour cet atelier :

  1. Script R
  2. données birdsdiet
  3. données dickcissel

Objectifs d'apprentissage

  1. Régression linéaire simple
  2. Test de t
  3. Analyse de la variance (ANOVA)
  4. ANOVA à deux critères de classification
  5. ANOVA non équilibrée
    (section avancée et optionnelle)
  6. Analyse de la covariance (ANCOVA)
  7. Régression linéaire multiple
  8. Partition de la variance
    (section avancée et optionnelle)

Aperçu

Les scientifiques sont souvent intéressés à déterminer les relations entre des variables. Selon la nature et le nombre de variables considérées, différents outils statistiques peuvent être utilisés pour évaluer ces relations. La table suivante dresse une liste de cinq types d'analyses statistiques qui seront couverts durant cet atelier :

Analyse statistique Type de variable
réponse Y		 Type de variable
explicative X		 Nombre de
variables explicatives 		Nombre de
niveaux k
Régression linéaire simple Continue Continue 1
Test de t Catégorique 1 2
ANOVA Catégorique 1 (ANOVA à un facteur), 2
(ANOVA à deux facteurs) ou plus		 3 ou plus
ANCOVA Continue
ET catégorique		 2 ou plus 2 ou plus
Régression multiple Continue 2 ou plus

1. Régression linéaire simple

Le but de cette analyse est de trouver une relation entre une variable réponse y et une variable explicative x en faisant passer une droite entre les données. Le modèle mathématique correspondant à une régression linéaire est représenté par l'équation suivante :

{y_i} = {β_0} + {β_1}{x_i} + {ε_i}

où

{β_0} est l'ordonnée à l'origine de la droite de régression,
{β_1} est la pente de la droite de régression,
{x_i} est la variable explicative continue pour la iième observation,
{ε_i} sont les résidus du modèle (i.e. la variance inexpliquée).

L'objectif est de trouver la meilleure estimation de ces deux paramètres de régression (i.e. la pente et l'ordonnée à l'origine) et d'évaluer l'ajustement (i.e. goodness of fit) du modèle de régression. Bien que plusieurs méthodes aient été développées afin de calculer les coefficients de la pente et de l'ordonnée à l'origine d'un modèle de régression, la méthode des moindres carrés est la méthode la plus utilisée et correspond à la méthode par défaut de la fonction lm() dans R. La méthode des moindres carrés fait passer une droite de manière à minimiser la somme des distances verticales au carré entre la droite et les données observées : autrement dit, la méthode vise à minimiser les résidus. La pente (β1) et l'ordonnée à l'origine (β0) peuvent être calculées de la façon suivante :

β_{1}={sum{i}{}{(x_{i}y_{i})}-overline{x}overline{y}}/sum{i}{}{(x_{i}-overline{x})}^2 = {Cov(x,y)}/{Var(x)}

β_{0}=overline{y}-β_{1}overline{x}

Afin d'être valide, une régression linéaire doit respecter quatre suppositions de base sans lesquelles le modèle ne peut pas être interprété correctement.

1.1 Suppositions de base

  1. Homoscédasticité
    Les variables explicatives doivent avoir une variance homogène (également appelée homoscédasticité), i.e. la dispersion des données doit être uniforme pour chaque valeur de xi. Cette supposition peut être vérifiée indirectement en représentant graphiquement la dispersion des résidus en fonction des valeurs prédites de la variable réponse.
    Nous verrons plus loin qu'en cas d'hétéroscédasticité, une transformation des données ou un modèle linéaire généralisé avec une distribution différente (Poisson, binomiale négative, etc.) peuvent être appliqués afin de mieux traduire la relation entre les variables.
  2. Indépendance
    Une régression linéaire peut seulement être appliquée à des données indépendantes. Ceci signifie qu'une valeur de yi pour une valeur de xi donnée ne doit pas être influencée par d'autres valeurs de xi. Le non-respect de cette supposition peut se produire lorsqu'il existe une forme de dépendance au sein des données telle qu'une corrélation spatiale ou temporelle.
  3. Influence
    Si des observations dans le jeu de données sont très différentes des autres observations, il peut y avoir des problèmes lors de la calibration du modèle, car ces observations vont fortement influencer la valeur de la pente et de l'ordonnée à l'origine.
  4. Distribution normale
    Une régression linéaire devrait seulement être appliquée à des données suivant une distribution normale (variables réponse et explicative).

1.2 Effectuer un modèle linéaire

Nous allons effectuer une première régression linéaire en analysant la relation entre l'abondance maximale et la masse du jeu de données “bird”.

Dans R, une régression linéaire est codée à l'aide de la fonction lm() de la librairie stats :

lm (y ~ x)

Note : Avant d'utiliser une nouvelle fonction dans R, vous devriez vous référer à sa page d'aide (?nomdelafonction) afin de comprendre comment utiliser la fonction ainsi que les paramètres par défaut.
| Charger et explorer les données
# Chargez les librairies et le jeu de données bird
library(e1071)
library(MASS)
setwd("~/Desktop/...") # N'oubliez pas de spécifier votre répertoire de travail (note: le vôtre sera différent de celui-ci)
bird<-read.csv("birdsdiet.csv") 
 
# Visualisez le tableau de données :
names(bird)
str(bird)
head(bird)
summary(bird) 
plot(bird)

Le jeu de données bird contient sept variables :

Nom de la variable Description Type
Family Nom de la famille Chaînes de caractères
MaxAbund L'abondance la plus élevée observée à
n'importe quel site en Amérique du Nord		Continue/numérique
AvgAbund L'abondance moyenne sur tous les sites
en Amérique du Nord		Continue/numérique
Mass La taille corporelle en grammes Continue/numérique
Diet Type de nourriture consommée Catégorique – 5 niveaux (Plant; PlantInsect;
Insect; InsectVert; Vertebrate)
Passerine Est-ce un passereau? Binaire (0/1)
Aquatic Est-ce un oiseau qui vit principalement dans ou près de l'eau? Binaire (0/1)

Nous sommes maintenant prêts à exécuter le modèle linéaire :

| Régression de l'abondance maximale en fonction de la masse
lm1 <- lm(bird$MaxAbund ~ bird$Mass) # où Y ~ X signifie Y "en fonction de" X>

1.3 Vérification des suppositions

| Graphiques de diagnostic 
opar <- par(mfrow=c(2,2)) # Permet de créer les graphiques dans un panneau 2 x 2
plot(lm1)
par(opar) # Remet la fenêtre graphique à un seul panneau

Homoscédasticité

Graphique des résidus en fonction des valeurs prédites - Le premier graphique de diagnostic (créé avec la fonction plot(lm1)) représente la dispersion des résidus en fonction des valeurs prédites par le modèle de régression linéaire. Ceci permet de vérifier si la condition d'homoscédasticité est respectée : ce graphique devrait montrer une dispersion similaire le long des valeurs prédites (axe des x). Si la relation entre la variable réponse et la variable explicative n'est pas linéaire, ce graphique va nous l'indiquer.

Graphique “Scale-location” - Le troisième graphique permet de vérifier si la dispersion des résidus augmente pour une valeur prédite donnée (i.e. ça identife si la dispersion des résidus est causée par la variable explicative). Si la dispersion augmente, la supposition d'homoscédasticité n'est pas respectée.

Indépendance et distribution normale

Diagramme quantile-quantile - L'indépendance peut être évaluée à l'aide d'un diagramme quantile-quantile. Ceci permet de vérifier la distribution des résidus du modèle et de vérifier la normalité de la variable réponse. Ce graphique compare la distribution de probabilité des résidus du modèle à une distribution de probabilité de données normales. Si les résidus standardisés sont situés près d'une ligne 1:1, les résidus peuvent être considérés comme normalement distribués.

Dans ce cas-ci, les points ne sont pas bien alignés sur la droite, ce qui suggère que les résidus ne sont pas distribués normalement.

Influence

Résidus vs diagramme d'influence - L'influence de certaines données peut être visualisée sur le quatrième graphique (i.e. résidus en fonction de l'influence) qui identifie les numéros d'observations avec une haute influence. Si (et seulement si!) ces observations correspondent à des erreurs de mesure ou à des exceptions, elles peuvent être retirées du jeu de données.

1.4 La normalisation des données

Dans l'exemple précédent, la variable réponse MaxAbund et la variable explicative Mass n'étaient pas distribuées normalement. L'étape suivante est d'essayer de normaliser les données à l'aide de transformations mathématiques. Afin d'évaluer la normalité d'une variable, on trace un histogramme avec la fonction hist() et on vérifie visuellement si la variable suit une distribution normale. Par exemple :

| Vérifier la normalité des données avec la fonction hist()
# Grahpique Y ~ X avec une ligne de régression
plot(bird$MaxAbund ~ bird$Mass, pch=19, col="coral", ylab="Maximum Abundance", 
     xlab="Mass")
abline(lm1, lwd=2) 
?plot # Pour obtenir plus de détails sur les arguments de la fonction plot().
# Allez voir colours() pour une liste de couleurs.
 
# Les données sont-elles distribuées normalement ?
hist(bird$MaxAbund,col="coral", main="Untransformed data", 
     xlab="Maximum Abundance")
hist(bird$Mass, col="coral", main="Untransformed data", xlab="Mass")

Une deuxième façon d'évaluer la normalité des données est d'utiliser le test de Shapiro-Wilk (fonction shapiro.test()). Ce test compare la distribution des données observées à une distribution normale.

Les hypothèses nulle et contraire sont :

H0: les données observées sont distribuées normalement
H1: les données observées ne sont pas distribuées normalement

Les données observées peuvent être considérées comme normalement distribuées lorsque la valeur de p calculée par le test de Shapiro-Wilk est supérieure au seuil α (généralement 0.05).

Tester la normalité avec la fonction shapiro.test()
# Teste l'hypothèse nulle que l'échantillon provient d'une population distribuée normalement
shapiro.test(bird$MaxAbund) 
shapiro.test(bird$Mass) 
# Si p < 0.05, la distribution n'est pas normale
# Si p > 0.05, la distribution est normale

On peut également évaluer l'asymétrie d'une distribution avec la fonction Skewness :

Tester la normalité avec la fonction skewness()
skewness(bird$MaxAbund) 
skewness(bird$Mass) 
# Une valeur positive indique une asymétrie vers la gauche (i.e. left-skewed distribution)
# tandis qu'une valeur négative indique une asymétrie vers la droite (i.e. right skewed distribution).

Les histogrammes, le test de Shapiro-Wilk et le coefficient d'asymétrie indiquent tous que les variables ont besoin d'être transformées pour respecter la supposition de normalité (ex. une transformation logarithmique).

1.5 Transformation des données

Lorsque la supposition de normalité n'est pas respectée, les variables peuvent être transformées afin d'améliorer la normalité de leur distribution en respectant ces règles :

Type de distribution Transformation Fonction R
Asymétrie positive modérée sqrt{x} sqrt(x)
Asymétrie positive importante log_10{(x)}log10(x)
Asymétrie positive importante log_10{(x+C)}log10(x + C) où C est une constante
ajoutée à chaque valeur de x afin que
la plus petite valeur soit 1
Asymétrie négative modérée sqrt{(K-x)} sqrt(K - x) où K est une constante
soustraite de chaque valeur de x afin que
la plus petite valeur soit 1
Asymétrie négative importante log_10{(K-x)} log10(K - x)

Dans notre cas, une transformation logarithmique (log10) devrait être utilisée et enregistrée dans le tableau de données bird. Le modèle peut ainsi être exécuté, vérifié et interprété de nouveau.

| Transformation de données 
# Ajoutez les variables transformées au tableau
bird$logMaxAbund <- log10(bird$MaxAbund)
bird$logMass <- log10(bird$Mass)
names(bird) # pour visualiser le tableau avec les nouvelles variables
 
hist(bird$logMaxAbund,col="yellowgreen", main="Log transformed", 
     xlab=expression("log"[10]*"(Maximum Abundance)"))
hist(bird$logMass,col="yellowgreen", main="Log transformed",
     xlab=expression("log"[10]*"(Mass)"))
shapiro.test(bird$logMaxAbund); skewness(bird$logMaxAbund)
shapiro.test(bird$logMass); skewness(bird$logMass)
 
# Refaites l'analyse avec les transformations appropriées
lm2 <- lm(bird$logMaxAbund ~ bird$logMass)
 
# Reste-il des problèmes avec ce modèle (hétéroscédasticité, non-indépendance, forte influence)?
opar <- par(mfrow=c(2,2))
plot(lm2, pch=19, col="gray")
par(opar)

1.6 Sortie du modèle

Lorsque les suppositions de base ont été vérifiées, les résultats du modèle peuvent être interprétés. On obtient ces résultats avec la fonction summary().

| Sortie du modèle avec la fonction summary() 
# Examinons les coefficients du modèle ainsi que les valeurs de p
summary(lm2)
 
# Vous pouvez faire apparaître seulement les coefficients
lm2$coef
 
# Quoi d'autre ?
str(summary(lm2))
summary(lm2)$coefficients # où Std. Error est l'erreur type de chaque coefficient
summary(lm2)$r.squared # Coefficient de détermination
summary(lm2)$adj.r.squared # Coefficient de détermination ajusté
summary(lm2)$sigma # Erreur type résiduelle (racine du carré moyen de l'erreur)
# etc.
 
# Vous pouvez également vérifier l'équation du coefficient de détermination par vous-mêmes :
SSE <- sum(resid(lm2)^2)
SST <- sum((bird$logMaxAbund - mean(bird$logMaxAbund))^2)
R2 <- 1 - ((SSE)/SST)
R2

La sortie de cette fonction présente tous les résultats du modèle : 

lm(formula = logMaxAbund ~ logMass, data = bird)
Residuals:
  		Min       	1Q   		Median       	3Q      	Max 
               -1.93562 	-0.39982  	0.05487  	0.40625  	1.61469
          	Estimate 	Std. Error 	t value 	Pr(>|t|)    
(Intercept)     1.6724     	0.2472   	6.767 		1.17e-08 ***
logMass	       -0.2361      	0.1170  	-2.019   	0.0487 *  
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
Residual standard error: 0.6959 on 52 degrees of freedom
Multiple R-squared:  0.07267,   Adjusted R-squared:  0.05484 
F-statistic: 4.075 on 1 and 52 DF,  p-value: 0.04869

Les coefficients de régression du modèle et leur erreur type associée apparraissent dans les deuxième et troisième colonnes respectivement. Donc,

β0 = 1.6724 ± 0.2472 est l'ordonnée à l'origine (± e.t.) du modèle de régression,
β1 = -0.2361 ± 0.1170 est la pente (± e.t.) du modèle de régression.

et finalement : logMaxAbund = 1.6724 (± 0.2472) - 0.2361 (± 0.1170) x logMass représente le modèle paramétré.

Les valeurs de t et leurs valeurs de p associées sont les résultats d'un test statistique. Ce test vérifie si les coefficients de régression sont significativement différents de zéro. Dans notre cas, on peut voir que la variable logMass a une influence significative sur la variable logMaxAbund parce que la valeur de p associée à la pente du modèle de régression est inférieure à 0.05. De plus, la relation entre ces deux variables est négative, car la pente du modèle a une valeur négative.

Rappelez-vous qu'une corrélation entre deux variables n'implique pas nécessairement de relation de cause à effet. Inversement, l'absence de corrélation entre deux variables n'implique pas nécessairement une absence de relation entre ces deux variables; c'est le cas, par exemple, lorsque la relation n'est pas linéaire.

L'ajustement d'un modèle de régression linéaire est donné par le R2 ajusté (ici 0.05484) et est calculé de la manière suivante :

overline{R}^2=1-(1-R^2){n-1}/{n-p-1}

où

p est le nombre total de paramètres de régression et n est la taille d'échantillon,
R^2={SS_reg}/{SS_tot}
{SS_tot}=sum{i}{}{({y_i}-overline{y})}^2 est la dispersion totale,
{SS_reg}=sum{i}{}{(hat{y_i}-overline{y})}^2 est la dispersion de la régression - aussi appelée la variance expliquée par le modèle.

Le R2 ajusté varie entre 0 et 1. Plus ce coefficient est élevé, meilleur est l'ajustment du modèle. Dans ce cas-ci, la relation entre les variables logMaxAbund et logMass est très faible.
La dernière ligne de la sortie du modèle représente la statistique F du modèle et la valeur de p y étant associée. Si la valeur de p est inférieure à 0.05, le modèle de régression décrit mieux la relation entre les variables qu'un modèle nul.

1.7 Représentations graphiques

Les résultats d'une régression linéaire sont généralement représentés par un graphique de la variable réponse en fonction des variables explicatives. Une droite de régression y est tracée (et, si nécessaire, les intervalles de confiance) avec le code R suivant :

| Tracer la régression Y ~ X avec une droite et des intervalles de confiance 
plot(logMaxAbund ~ logMass, data=bird, pch=19, col="yellowgreen", 
                   ylab = expression("log"[10]*"(Maximum Abundance)"), xlab = expression("log"[10]*"(Mass)"))
abline(lm2, lwd=2)
 
# On peut faire ressortir les points avec une forte influence
points(bird$logMass[32], bird$logMaxAbund[32], pch=19, col="violet")
points(bird$logMass[21], bird$logMaxAbund[21], pch=19, col="violet")
points(bird$logMass[50], bird$logMaxAbund[50], pch=19, col="violet")
 
# On peut également tracer les intervalles de confiance
confit<-predict(lm2,interval="confidence")
points(bird$logMass,confit[,2]) 
points(bird$logMass,confit[,3])

1.8 Sous-ensembles

Il est possible de réaliser une analyse sur seulement une partie des observations. Par exemple, on peut refaire l'analyse de régression en ne considérant que les oiseaux terrestres.

| Régression sur un sous-ensemble d'observations 
# Souvenez-vous qu'on peut exclure des valeurs avec le symbole "!" 
# On peut analyser un sous-ensemble des données de "bird" en utilisant l'argument 'subset' de la fonction lm(). 
lm3 <- lm(logMaxAbund ~ logMass, data=bird, subset =! bird$Aquatic) # enlever les oiseaux aquatiques du modèle
 
# Cette commande permet également d'exclure les oiseaux aquatiques
lm3 <- lm(logMaxAbund ~ logMass, data=bird, subset=bird$Aquatic == 0)
 
# Examinons le modèle
opar <- par(mfrow=c(2,2))
plot(lm3)
summary(lm3)
par(opar)
 
# Comparons les deux analyses
opar <- par(mfrow=c(1,2))
plot(logMaxAbund ~ logMass, data=bird, main="All birds", ylab = expression("log"[10]*"(Maximum Abundance)"), 
     xlab = expression("log"[10]*"(Mass)"))
abline(lm2,lwd=2)
 
plot(logMaxAbund ~ logMass, data=bird, subset=!bird$Aquatic, main="Terrestrial birds",
     ylab = expression("log"[10]*"(Maximum Abundance)"), xlab = expression("log"[10]*"(Mass)"), 
     pch=19)
abline(lm3,lwd=2)
opar(par)

Défi 1

Examinez la relation entre log10(MaxAbund) et log10(Mass) pour les passereaux (i.e. passerine birds).
Conseil : La variable 'Passerine' est codée 0 et 1 comme la variable 'Aquatic'. Vous pouvez le vérifier avec la commande str(bird).

Défi 1 : Solution

2. Test de t

Le test de t de Student, ou tout simplement test de t, permet de comparer les valeurs d'une variable réponse continue répartie entre deux groupes (ou traitements). Le test de t permet de déterminer si la moyenne d'un groupe est différente de celle de l'autre groupe. Le test de t est exprimé sous la forme suivante :

{y_{ij}} = µ + {A_i} + {ε_{ij}}

où

µ est la moyenne de la variable réponse,
{A_i} correspond à l'effet du groupe i,
i prend la valeur de 1 ou 2,
{ε_{ij}} correspond aux résidus du modèle (i.e. la variance inexpliquée).

Les hypothèses statistiques du test de t évaluent la différence entre les deux groupes :

H0: µ1 = µ2
H1: µ1 ≠ µ2

où

µ1 est la moyenne de la variable réponse pour le groupe 1,
µ2 est la moyenne de la variable réponse pour le groupe 2.

L'hypothèse contraire H1 affirme qu'il existe une différence entre les deux groupes au niveau de la variable réponse, ce qui constitue un test bilatéral. Cependant, si le sens de la différence attendue est supportée par une hypothèse biologique, un test unilatéral peut être utilisé :

  • si on s'attend à ce que la variable réponse soit supérieure pour le groupe 1, alors H1: µ1 > µ2,
  • si on s'attend à ce que la variable réponse soit inférieure pour le groupe 1, alors H1: µ1 < µ2.

La statistique t du test de t qui est utilisée pour déterminer la valeur de p est calculée de la manière suivante :
t= (overline{y}_1-overline{y}_2)/sqrt{{s_1}^2/n_1 + {s_2}^2/n_2}

où

overline{y}1 et overline{y}2 sont les moyennes de la variable réponse y pour les groupes 1 et 2 respectivement,
s12 et s22 sont les variances de la variable réponse y pour les groupes 1 et 2 respectivement,
n1 et n2 sont les tailles d'échantillons des groupes 1 et 2 respectivement.

2.1 Suppositions de base

Si les suppositions de base du test de t ne sont pas respectées, les résultats du test peuvent être erronés. Ces suppositions concernent la forme de la distribution des données :

  1. Normalité des données
    Comme pour la régression linéaire simple, la variable réponse doit être distribuée normalement. Si cette condition n'est pas respectée, mais que la distribution est relativement symétrique, que la moyenne est près du centre de la distribution et que la distribution est unimodale, le test de t donnera un résultat valable en autant que la taille de l'échantillon soit suffisante (règle empirique : ~30 observations). Si les données sont fortement asymétriques, il est nécessaire d'avoir un très large échantillon pour que le test fonctionne. Dans ce cas-là, il est préférable d'utiliser un test non-paramétrique.
  2. Homoscédasticité
    Une autre supposition importante du test de t est que les variances des deux groupes sont égales. Ceci permet de calculer une variance combinée qui est utilisée pour calculer l'erreur type de la différence des moyennes. Si les variances des deux groupes sont inégales, la probabilité de commettre une erreur de type I (i.e. rejeter l'hypothèse nulle alors qu'elle est vraie) est supérieure au seuil α.
    La robustesse du test de t augmente avec la taille de l'échantillon et est supérieure lorsque les groupes sont de même taille.
    Il est possible d'évaluer la différence de variance entre deux échantillons en se demandant quelle est la probabilité de tirer deux échantillons d'une population avec des variances identiques alors que les échantillons ont des variances de s12 et s22.
    Pour ce faire, il faut effectuer un test de ratio des variances (i.e. un test de F).

Pour l'exemple ci-dessus, l'erreurs de type I est plus grande que la valeur α de l'échantillon #1. Il faut donc conclure qu'on ne peut pas rejeter l'hypothèse nulle, alors qu'en réalité, on aurait dû la rejeter !

Non-respect des suppositions

Si les variances entre les groupes ne sont pas égales, il est possible de corriger la situation avec la correction de Welch. Si les suppositions ne sont toujours pas respectées, il faut utiliser la version non paramétrique du test de t : le test de Mann-Whitney. Finalement, si les deux groupes ne sont pas indépendants (e.g. mesures prises sur un même individu à deux périodes différentes), il faut utiliser un test de t apparié.

2.2 Effectuer un test de t

Dans R, les test de t sont exécutés avec la fonction t.test. Par exemple, pour évaluer la différence de masse entre des oiseaux aquatiques et non aquatiques, vous devez utiliser le script suivant :

| Test de t
# Test de t
boxplot(logMass ~ Aquatic, data=bird, ylab=expression("log"[10]*"(Bird Mass)"),
        names=c("Non-Aquatic","Aquatic"),
        col=c("yellowgreen","skyblue"))
 
# Tout d'abord, vérifions si les variances de chaque groupe sont égales
# Note : il n'est pas nécessaire de vérifier la normalité des données,
# car on utilise déjà une transformation logarithmique
tapply(bird$logMass,bird$Aquatic,var)
var.test(logMass~Aquatic,data=bird)
 
# Nous sommes prêts pour le test de t
ttest1 <- t.test(logMass~Aquatic, var.equal=TRUE, data=bird)
 
# Cette commande est équivalente :
ttest1 <- t.test(x=bird$logMass[bird$Aquatic==0], y=bird$logMass[bird$Aquatic==1], var.equal=TRUE)
ttest1

Two Sample t-test
 data:  logMass by Aquatic
 t = -7.7707, df = 52, p-value = 2.936e-10
 alternative hypothesis: true difference in means is not equal to 0
 95 percent confidence interval:
 -1.6669697 -0.9827343
 sample estimates:
 mean of x  mean of y 
 1.583437   2.908289

Ici, on voit que le test de ratio des variances n'est pas statistiquement différent de 1, ce qui signifie que les variances entre les groupes sont égales. Étant donné que notre valeur de p est inférieure à 0.05, l'hypothèse nulle (i.e. l'absence de différence de masse entre les deux groupes) est rejetée.

2.3 Effectuer un test de t avec la fonction lm()

Le test de t fait partie de la famille des modèles linéaires et est un cas spécifique de l'ANOVA (voir plus bas) à un critère et deux niveaux. Ceci signifie qu'on peut effectuer un test de t avec la fonction lm() (qui signifie linear model) :

| Le test de t comme modèle linéaire 
ttest.lm1 <- lm(logMass ~ Aquatic, data=bird)
anova(ttest.lm1) # La fonction anova permet de visualier les résultats du test
  Analysis of Variance Table
  Response: logMass
            Df  Sum Sq  Mean Sq   F value    Pr(>F)    
  Aquatic    1  19.015  19.0150   60.385     2.936e-10 ***
  Residuals 52  16.375  0.3149                      
  ---
  Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Lorsque les variances sont égales (i.e., test de t à deux échantillons), il est possible de démontrer que t2 = F:

| Équivalence entre t et F
ttest1$statistic^2
anova(ttest.lm1)$F

2.4 Test de t unilatéral

L'argument alternative de la fonction t.test() permet d'effectuer un test de t unilatéral. Par exemple, si on veut tester l'hypothèse que les oiseaux terrestres sont plus légers que les oiseaux aquatiques, on doit écrire la commande de la façon suivante :

| Test de t unilatéral
# Test de t en spécifiant l'argument "alternative"
uni.ttest1 <- t.test(logMass~Aquatic, var.equal=TRUE, data=bird, alternative="less")
uni.ttest1

Les résultats du test sont indiqués à la troisième ligne : 

	Two Sample t-test
  data:  logMass by Aquatic
  t = -7.7707, df = 52, p-value = 1.468e-10
  alternative hypothesis: true difference in means is less than 0
  95 percent confidence interval:
    -Inf -1.039331
  sample estimates:
  mean in group 0   mean in group 1 
     1.583437          2.908289

Dans ce cas-ci, la statistique du test de t est t = -7.7707 avec df = 52 degrés de liberté, ce qui donne une valeur de p = 1.468e-10. On rejette donc l'hypothèse nulle. On peut conclure que les oiseaux aquatiques sont significativement plus lourds que les oiseaux terrestres.

3. ANOVA

L'analyse de la variance (ANOVA) est une généralisation du test de t de Student. L'ANOVA permet de voir si la moyenne d'une variable continue est différente entre trois ou plusieurs groupes ou traitements (Rappelez-vous que le nombre de groupes est limité à deux pour le test de t). L'ANOVA compare la variable réponse y entre les groupes (i.e. la variable explicative) de la manière suivante :

{y_{ij}} = µ + {A_i} + {ε_{ij}}

où

µ est la moyenne globale de la variable réponse,
Ai est l'effet du groupe i pour le facteur A,
i varie de 1 à n (n > 2),
εij sont les résidus du modèle (i.e. la variance inexpliquée).

L'ANOVA tente de détecter des différences au niveau de la variable réponse y entre les groupes en posant les hypothèses suivantes :

H0: µ1 = µ2 =… = µj =… = µn
H1: il y a au moins une moyenne µj différente des autres

L'ANOVA se base sur la partition de la somme des carrés des écarts à la moyenne pour déterminer si une hypothèse doit être acceptée ou rejetée. L'ANOVA compare la variance entre les traitements à celle à l'intérieur des traitements (i.e. la variance intra-traitement). Si la variance entre les traitements est supérieure à la variance intra-traitement, la variable explicative a un effet plus important que l'erreur aléatoire (due à la variance intra-traitement). La variable explicative est donc susceptible d'influencer significativement la variable réponse.

La comparaison de la variance entre les traitements à celle intra-traitement permet de calculer la statistique F. Cette statistique correspond au ratio entre la moyenne des carrés des traitements (MSTrt) et la moyenne des carrés des erreurs (MSE). Ces deux termes sont obtenus en divisant leurs sommes des carrés respectives par leurs degrés de liberté (voir table ci-dessous). Une valeur de p peut ensuite être calculée à partir de la statistique de F qui suit une distribution de khi carré (χ2).

Source de
variation		 Degrés de
liberté (df)		 Somme des carrés
des écarts à la moyenne		 Moyenne des carrés Statistique de F
Total ra-1 {SS_Tot}=sum{i,j}{}({y_ij}-overline{y})^2
Facteur Aa-1 {SS_FacteurA}= r sum{i}{}({overline{y}_i}-overline{y})^2{MS_FacteurA}={SS_FacteurA}/{a-1}F={MS_FacteurA}/{MS_E}
Résidus a(r-1) {SS_E}= sum{i,j}{}({y_ij}-{overline{y}_i})^2 {MS_E}={SS_E}/{a(r-1)}

a: nombre de niveaux de la variable explicative A; r: nombre de répétitions par traitement; overline{y}: moyenne globale de la variable réponse; overline{y}i : moyenne de la variable réponse du traitement i.

3.1 Types d'ANOVA

  1. ANOVA à un critère de classification
    Un facteur avec plus de deux niveaux
  2. ANOVA à deux critères de classification (voir la section ci-dessous)
    - Deux facteurs ou plus,
    - Chaque facteur peut avoir de multiples niveaux,
    - Les interactions entre chaque facteur doivent être testées.
  3. Mesures répétées
    L'ANOVA peut être utilisée pour des mesures répétées, mais ce sujet n'est pas couvert dans cet atelier. Un modèle linéaire mixte peut également être utilisé pour ce type de données (voir l'atelier 6).

3.2 Suppositions de base

L'ANOVA doit respecter quelques suppositions statistiques pour que les résultats soient valides. Ces suppositions peuvent être vérifiées visuellement ou par des tests statistiques.

  1. Distribution normale
    Les résidus d'un modèle d'ANOVA peuvent être visualisés à l'aide d'un diagramme quantile-quantile. Les résidus sont considérés comme normalement distribués s'ils se répartissent le long de la droite 1:1. Si ce n'est pas le cas, les résultats de l'ANOVA ne peuvent pas être interprétés.
  2. Homoscédasticité
    L'ANOVA est valide seulement lorsque la variance des résidus est homogène entre les groupes. Cette homoscédasticité peut être vérifiée par un graphique des résidus en fonction des valeurs prédites ou par un diagramme diagnostic “scale-location”. Si ces graphiques montrent une dispersion équivalente des résidus pour chaque valeur prédite, la variance des résidus peut être considérée homogène.
    Il est également possible d'effectuer un test de Bartlett à l'aide de la fonction bartlett.test(). Si la valeur de p de ce test est supérieure à 0.05, l'hypothèse nulle H0: s12 = s22 =… = sj2 =… = sn2 est acceptée (i.e. l'homoscédasticité est respectée).
    Une transformation de la variable réponse peut être utilisée si cette supposition n'est pas respectée.
  3. Additivité
    Les effets de deux facteurs sont additifs si l'effet d'un facteur demeure constant pour tous les niveaux d'un autre facteur. Chaque facteur doit influencer la variable réponse de manière indépendante des autres facteurs.

Non-respect des suppositions

Si les suppositions ne sont pas respectées, vous pouvez essayer une transformation sur la variable réponse. Ceci peut aider à normaliser les résidus, à égaliser les variances et à transformer un effet multiplicatif en effet additif. Si vous ne voulez pas transformer vos données, vous pouvez utiliser l'équivalent non paramétrique de l'ANOVA : le test de Kruskal-Wallis .

3.3 Contrastes

  • Les contrastes sont des comparaisons de moyennes basées sur des hypothèses a priori,
  • Ces groupes peuvent être composés d'un ou plusieurs niveaux d'un facteur,
  • On peut tester une hypothèse simple (e.g. μ1 = μ2) ou des hypothèses plus complexes (e.g. (μ1 + μ2)/3 == μ3).

Le nombre de comparaisons doit être plus bas ou égal au nombre de degrés de liberté de l'ANOVA. Ces comparaisons doivent être indépendantes l'une de l'autre. Pour plus de détails, voyez la section avancée sur les contrastes plus bas.

3.4 Effectuer une ANOVA

Commençons tout d'abord par visualiser les données avec la fonction boxplot(). Rappelez-vous que, dans R, les groupes sont ordonnés par ordre alphabétique par défaut. Il est possible de réorganiser les groupes autrement. Par exemple, on peut les ordonner par ordre croissant de la médiane de chaque diète.
Une autre façon de visualiser les effets des facteurs est d'utiliser la fonction plot.design(). Cette fonction permet de représenter les valeurs moyennes des niveaux d'un facteur (par une ligne verticale) et la moyenne globale de la variable réponse (par une ligne horizontale).

| ANOVA
# Ordre alphabétique par défaut
boxplot(logMaxAbund ~ Diet, data=bird)
 
# Réorganiser l'ordre des facteurs
med <- sort(tapply(bird$logMaxAbund, bird$Diet, median))
boxplot(logMaxAbund ~ factor(Diet, levels=names(med)), data=bird, col=c("white","lightblue1",
           "skyblue1","skyblue3","skyblue4"))
 
plot.design(logMaxAbund ~ Diet, data=bird, ylab = expression("log"[10]*"(Maximum Abundance)"))

Nous sommes maintenant prêts à effectuer une ANOVA. Dans R, la fonction aov() permet d'effectuer une ANOVA directement. Il est également possible d'effectuer une ANOVA avec la fonction anova() qui exécute l'ANOVA comme un modèle linéaire :

ANOVA dans R
# En utilisant aov()
aov1 <- aov(logMaxAbund ~ Diet, data=bird)
summary(aov1) 
 
# En utilisant lm()
anov1 <- lm(logMaxAbund ~ Diet, data=bird)
anova(anov1)

3.5 Vérifications des suppositions

Diagnostic du modèle 
# Diagrammes de diagnostic
opar <- par(mfrow=c(2,2))
plot(anov1)
par(opar)
 
# Test de la supposition de la normalité des résidus
shapiro.test(resid(anov1))
 
# Test de la supposition de l'homogénéité de la variance
bartlett.test(logMaxAbund ~ Diet, data=bird)

Idéalement, le premier graphique devrait montrer une dispersion similaire pour chaque niveau de diète. Toutefois, les tests de Shapiro et de Bartlett ne sont pas significatifs. On peut supposer que les résidus sont distribués normalement et que les variances sont égales.

3.6 Sortie du modèle

Lorsque le modèle d'ANOVA a été validé, on peut interpréter les résultats correctement. La sortie du modèle fournie par R dépend de la fonction qui a été utilisée pour effectuer l'ANOVA. Si la fonction aov() a été utilisée : 

aov1 <- aov(logMaxAbund ~ Diet, data=bird)

les résultats de l'ANOVA peuvent être visualisés avec la fonction summary() : 

summary(aov1)

Si la fonction lm() a été utilisée : 

anov1 <- lm(logMaxAbund ~ Diet, data=bird)

les résultats de l'ANOVA peuvent être visualisés avec la fonction anova() : 

anova(anov1)

Dans les deux cas, la sortie dans R sera la même : 

         	Df 	Sum Sq 		Mean Sq 	F value 	Pr(>F)  
Diet        	4  	5.106   	1.276   	2.836 		0.0341 *
Residuals   	49 	22.052   	0.450                 
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Cette sortie de R représente le tableau de l'ANOVA. On y retrouve les degrés de liberté, la somme des carrés, la moyenne de la somme des carrés, la statistique de F ainsi qu'une valeur de p. Dans l'exemple de la diète des oiseaux, la diète influence significativement l'abondance des oiseaux car la valeur de p est inférieure à 0.05. L'hypothèse nulle est rejetée, ce qui signifie qu'au moins une des diètes influence l'abondance différemment des autres diètes.

3.7 Tests complémentaires

Si l'hypothèse nulle est rejetée, il n'est pas possible de savoir quels niveaux de traitements sont différents des autres avec une simple ANOVA. Pour déterminer quels niveaux diffèrent des autres, il est nécessaire d'effectuer un test post hoc. Ce test compare les combinaisons de niveaux deux à deux et identifie où se trouvent les différences. Il existe plusieurs tests post hoc (e.g. Fischer’s least significant difference, Duncan’s new multiple range test, Newman-Keuls method, Dunnett’s test, etc.), mais le test de Tukey est probablement celui qui est le plus utilisé. Dans R, on utilise la fonction TukeyHSD() pour effectuer ce test :

Test de Tukey
# À quel niveau se situe la différence de diète ? 
TukeyHSD(aov(anov1),ordered=T)
 
# Cette comande est équivalente à la précédente :
TukeyHSD(aov1,ordered=T)

La sortie de R retourne un tableau qui fait la liste de toutes les combinaisons deux à deux des niveaux de la variable explicative et qui identifie quel(s) traitement(s) diffère(ent) des autres :

Tukey multiple comparisons of means 95% family-wise confidence level
	 factor levels have been ordered
Fit: aov(formula = anov1)
$Diet
                              diff             lwr      	upr     	p adj
Vertebrate-InsectVert  	0.3364295 	-1.11457613 	1.787435 	0.9645742
Insect-InsectVert      	0.6434334 	-0.76550517 	2.052372 	0.6965047
Plant-InsectVert       	0.8844338 	-1.01537856 	2.784246 	0.6812494
PlantInsect-InsectVert 	1.0657336 	-0.35030287 	2.481770 	0.2235587
Insect-Vertebrate      	0.3070039 	-0.38670951 	1.000717 	0.7204249
Plant-Vertebrate       	0.5480043 	-0.90300137 	1.999010 	0.8211024
PlantInsect-Vertebrate 	0.7293041  	 0.02128588 	1.437322 	0.0405485
Plant-Insect           	0.2410004 	-1.16793813 	1.649939 	0.9884504
PlantInsect-Insect     	0.4223003 	-0.19493574 	1.039536 	0.3117612
PlantInsect-Plant      	0.1812999 	-1.23473664 	1.597336 	0.9961844

Dans ce cas-ci, la seule différence significative d'abondance se retrouve entre les diètes “PlantInsect” et “Vertebrate”.

3.8 Représentations graphiques

Après avoir vérifié les suppositions de base, interprété les résultats et identifié les niveaux significatifs à l'aide de tests post hoc ou de contrastes, les résultats d'une ANOVA peuvent être représentés graphiquement à l'aide de la fonction barplot(). Avec cette fonction, R produit un graphique de la variable réponse en fonction des niveaux de traitement. Les erreurs types ainsi que des lettres (représentant le résultat d'un test post hoc) peuvent y être ajoutées.

Fonction barplot
# Représentation graphique d'un modèle d'ANOVA à l'aide de la fonction barplot()
 
sd <- tapply(bird$logMaxAbund,list(bird$Diet),sd) 
means <- tapply(bird$logMaxAbund,list(bird$Diet),mean)
n <- length(bird$logMaxAbund)
se <- 1.96*sd/sqrt(n)
 
bp <- barplot(means, col=c("white","lightblue1","skyblue1","skyblue3","skyblue4"), 
       ylab = expression("log"[10]*"(Maximum Abundance)"), xlab="Diet", ylim=c(0,1.8))
 
 
# Ajout des lignes verticales représentant les erreurs types
segments(bp, means - se, bp, means + se, lwd=2)
# et des lignes horizontales
segments(bp - 0.1, means - se, bp + 0.1, means - se, lwd=2)
segments(bp - 0.1, means + se, bp + 0.1, means + se, lwd=2)

3.9 Contrastes (section avancée et optionnelle)

Click to display ⇲

Click to hide ⇱

Il est possible d'afficher des résultats supplémentaires de l'ANOVA qu'on appelle contrastes. Ceci permet de visualiser les estimations de paramètres pour chaque niveau de la variable catégorique en comparaison avec un niveau de référence. On peut afficher ces résultats avec la fonction summmary.lm() lorsque l'ANOVA a été effectuée avec la fonction aov() et avec la fonction summary() lorsque l'ANOVA a été effectuée avec la fonction lm(). Cette sortie montre les résultats de la régression linéaire pour chaque niveau de la variable catégorique : 

Call: 	lm(formula = logMaxAbund ~ Diet, data = bird)
Residuals:
   	Min       	1Q   		Median       	3Q     	 	Max 
     -1.85286 	-0.32972 	-0.08808  	0.47375  	1.56075 
Coefficients:
                  Estimate 	Std. Error  t value 	Pr(>|t|)    
(Intercept)       1.1539     	0.1500      7.692 	5.66e-10 ***
DietInsectVert   -0.6434      0.4975     -1.293  	0.2020    
DietPlant         0.2410      0.4975      0.484  	0.6303    
DietPlantInsect   0.4223      0.2180      1.938   	0.0585 .  
DietVertebrate   -0.3070      0.2450     -1.253   	0.2161    
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
Residual standard error: 0.6709 on 49 degrees of freedom
Multiple R-squared:  0.188,     Adjusted R-squared:  0.1217 
F-statistic: 2.836 on 4 and 49 DF,  p-value: 0.0341

La dernière ligne de cette sortie est identique à la sortie précédente de l'ANOVA. La statistique de F de l'ANOVA et sa valeur de p associée (2.836 et 0.0341 respectivement) sont les mêmes que celles présentées dans la table d'ANOVA, ce qui indique que la variabilité de l'abondance est mieux expliquée par la diète que par un modèle nul; la diète a donc un effet significatif sur l'abondance. L'ajustement du modèle (i.e. le R2 ajusté) apparaît sur l'avant-dernière ligne de la sortie. Dans ce cas-ci, la diète explique 12.17% de la variabilité de l'abondance.
Les contrastes sont utilisés pour ajuster une variable réponse en fonction des différents niveaux d'une variable catégorique. Dans le cas de l'abondance en fonction de la diète, cinq régressions linéaires (correspondant aux cinq coefficients dans la sortie de R) sont calculées par la fonction lm(), car la variable “diète” contient cinq niveaux. Par défaut, le niveau de référence correspond au premier niveau (en ordre alphabétique) de la variable catégorique. Ce niveau est indiqué par la ligne intercept dans la sortie de R, soit Insect dans ce cas-ci.

Ici, le coefficient estimé du niveau de référence est comparé à 0 par un test de t, alors que les autres coefficients sont comparés à celui du niveau de référence. Dans ce cas-ci, seule la diète PlantInsect est différente de la diète Insect (valeur de p = 0.0585).
En d'autres mots, cette sortie de R permet de calculer la moyenne de la variable réponse pour chaque niveau de diète. Par exemple :

LogMaxAbund = 1.1539 pour la diète Insect,
LogMaxAbund = 1.1539 – 0.6434 pour la diète InsectVert,
LogMaxAbund = 1.1539 + 0.2410 pour la diète Plant,
etc.

Ce type de contrastes compare chaque niveau de la variable explicative à un niveau de référence. Dans R, ceci correspond à la fonction contr.treatment() et représentent la méthode par défaut de la fonction lm(). Le niveau de référence peut être changé en utilisant la fonction relevel(). Par exemple,

Facteurs rlevel
bird$Diet2 <- relevel(bird$Diet, ref="Plant")
anov2 <- lm(logMaxAbund ~ Diet2, data=bird)
summary(anov2)
anova(anov2)

compare chaque diète à la diète Plant maintenant définie comme le niveau de référence.

La matrice de coefficients de contrastes peut être affichée par la commande suivante : 

contrasts(bird$Diet2)
         		Insect 		InsectVert 	PlantInsect 	Vertebrate
Plant           	0     	 	0     		0           		0
Insect           	1     		0     		0           		0
InsectVert              0      		1     		0           		0
PlantInsect             0      		0     		1           		0
Vertebrate          	0      		0    		0          		1

où chaque colonne représente une comparaison avec le niveau de référence Plant et chaque ligne représente un type de diète. Par exemple, la première comparaison est effectuée entre les diètes Plant et Insect. La seconde comparaison est effectuée entre Plant et InsectVert etc.

Il est possible de créer une matrice de coefficients de contrastes afin d'effectuer certaines comparaisons bien précises à l'aide de la fonction contrasts(). Par exemple, 

contrasts(bird$Diet2) <- cbind(c(4,-1,-1,-1,-1), c(0,1,1,-1,-1), c(0,0,0,1,-1), c(0,1,-1,0,0))

crée la matrice de coefficients de contrastes suivante : 

              [,1] 	[,2] 	[,3] 	[,4]
Plant          4    	 0    	 0   	 0
Insect        -1    	 1    	 0    	 1
InsectVert    -1    	 1    	 0   	-1
PlantInsect   -1   	-1    	 1    	 0
Vertebrate    -1   	-1   	-1    	 0

qui compare :

  • la diète Plant à toutes les autres diètes dans la première comparaison (colonne),
  • les diètes InsectVert et Insect aux diètes PlantInsect et Vertebrate dans la deuxième comparaison,
  • la diète PlantInsect à la diète Vertebrate dans la troisième comparaison,
  • et la diète Insect à la diète InsectVert dans la quatrième comparaison.

Pour chaque colonne, les diètes avec le même coefficient appartiennent au même groupe (e.g. pour la colonne 1, les quatre diètes avec un coefficient de -1 appartiennent au même groupe et sont comparés à la diète avec un coefficient différent; ici la diète “Plant” avec un coefficient de 4). Il est donc possible d'effectuer n'importe quelle comparaison possible à l'aide d'une matrice de coefficients de contrastes. Deux conditions doivent être respectées afin d'utiliser correctement ces matrices :

  1. Pour chaque colonne, la somme des coefficients doit être égale à zéro et
  2. la somme des produits de chaque paire de colonnes doit être égale à zéro.

Ceci peut être vérifié à l'aide de la commande suivante : 

sum(contrasts(bird$Diet)[,1]) # première condition pour la colonne 1
sum(contrasts(bird$Diet)[,1]*contrasts(bird$Diet)[,2]) # deuxième condition pour les colonnes 1 et 2

Les contrastes utilisés fréquemment sont déjà programmés dans R : contrastes de Helmert, contrastes polynomiaux, etc. (cf. help(contrasts)).

4. ANOVA à deux critères de classification

Il est possible d'utiliser deux variables explicatives dans une ANOVA afin de mieux expliquer la variabilité d'une variable réponse (cf. section 3). Afin d'inclure une deuxième variable explicative dans une ANOVA, le modèle mathématique doit être réécrit de manière à inclure l'interaction entre ces deux variables :

{y_{ijk}} = µ + {A_i} + {B_j} + {A_i}{B_j} + {ε_{ijk}}

où

µ est la moyenne globale de la variable réponse,
Ai est l'effet du niveau i du facteur A,
Bj est l'effet du niveau j du facteur B,
AiBj est l'interaction entre les deux facteurs,
i et j varient de 1 à n (n ≥ 2),
εijk sont les résidus du modèle.

Les hypothèses nulles d'une ANOVA à deux critères de classification sont légèrement différentes de celles d'une ANOVA à un critère de classification :

H01: Il n'y a pas de différence de moyenne parmi les niveaux du facteur A; µa1 = µa2 = … = µai =… = µan
H02: Il n'y a pas de différence de moyenne parmi les niveaux du facteur B; µb1 = µb2 = … = µbi =… = µbm
H03: Il n'y a pas d'interaction entre les facteurs A et B.

Le tableau de calcul de l'ANOVA vu à la section précédente doit être modifié afin d'inclure le deuxième facteur et l'interaction entre ces deux facteurs :

Source de
variation		 Degrés de
liberté (df)		 Sommes des carrés
des écarts à la moyenne		 Moyenne des carrés Statistique de F
Total abr-1 {SS_Tot}=sum{i,j,k}{}({y_ijk}-overline{y})^2
Intra-
cases (erreur)		ab(r-1) {SS_E}= sum{i,j,k}{}({y}_ijk-{overline{y}_ij})^2 {MS_E}={SS_E}/{ab(r-1)}
Cases ab-1 {SS_Cells}= sum{i,j}{}({overline{y}_ij}-overline{y})^2
Facteur A a-1 {SS_FacteurA}= rb sum{i}{}({overline{y}_i.}-overline{y})^2{MS_FacteurA}={SS_FacteurA}/{a-1}{F_FacteurA}={MS_FacteurA}/{MS_E}
Facteur B b-1 {SS_FacteurB}= ra sum{j}{}({overline{y}_.j}-overline{y})^2{MS_FacteurB}={SS_FacteurB}/{b-1}{F_FacteurB}={MS_FacteurB}/{MS_E}
Interaction
entre A et B 		(a-1)(b-1) {SS_AB}= r sum{i,j,k}{}({overline{y}_{..k}}-{overline{y}_{.jk}}-{overline{y}_{i.k}})^2 {MS_AB}={SS_AB}/{(a-1)(b-1)}{F_AB}={MS_AB}/{MS_E}

a: nombre de niveaux de la variable explicative A; b: nombre de niveaux de la variable explicative B; r: nombre de répétitions par traitement

Effectuer une ANOVA à deux critères de classification

Dans R, une ANOVA à deux critères de classification est effectuée de la même manière qu'une ANOVA à un critère de classification avec la fonction lm().

Défi 2

Examinez les effets des facteurs “Diet”, “Aquatic” et de leur interaction sur l'abondance maximale d'oiseaux.

Rappelez-vous que vous devez vérifier les suppositions statistiques de base avant d'interpréter les résultats d'une ANOVA, soit :

  1. Distribution normale des rsidus du modèle
  2. Homoscédasticité des résidus de la variance

Cette vérification peut être faite en utilisant les quatre graphiques de diagnostic expliqués dans la section précédente.

Défi 2: Solution

4.2 Diagramme d'interaction

Les interactions peuvent être visualisées à l'aide de la fonction interaction.plot() :

Diagramme d'interaction
interaction.plot(bird$Diet, bird$Aquatic, bird$logMaxAbund, col="black", 
                 ylab = expression("log"[10]*"(Maximum Abundance)"), xlab="Diet")

Qu'est-ce que le trou sur la ligne des oiseaux aquatiques signifie ?

Plan non équilibré
table(bird$Diet, bird$Aquatic)
             0  1
Insect      14  6
InsectVert   1  1
Plant        2  0
PlantInsect 17  1
Vertebrate   5  7

Le plan est non équilibré : il y a un nombre inégal d'observations entre les diètes pour les oiseaux aquatiques (représentés par le 1) et les oiseaux terrestres (représentés par le 0). Consultez la section avancée ci-dessous pour obtenir plus de détails sur les ANOVA à plan non équilibré.

Défi 3

Tester le seuil de signification du facteur “Aquatic” en comparant deux modèles nichés (i.e. avec et sans ce facteur).

Défi 3: Solution

5. ANOVA non équilibrée (section avancée et optionnelle)

Click to display ⇲

Click to hide ⇱

Les ANOVA à un et à deux critères de classification nous permettent de déterminer les effets de variables catégoriques sur une variable réponse continue lorsque nous avons un plan expérimental équilibré (i.e. lorsque le nombre de répétitions est égal pour chaque niveau de facteur). Cependant, la perte d'unités expérimentales au cours d'une expérience ou des restrictions techniques dues au plan expérimental peuvent faire que le plan ne sera pas équilibré. Dans de telles situations, les résultats d'ANOVA peuvent mener à des interprétations erronées en raison d'un mauvais calcul de la somme des carrés. Pour des plans expérimentaux non équilibrés, l'ANOVA doit être modifiée pour prendre en compte les données manquantes.

Le modèle mathématique, les hypothèses statistiques et les suppositions d'une ANOVA à plan non équilibré demeurent les mêmes que pour l'ANOVA à plan équilibré. Le calcul de la somme des carrés, par contre, est différent.

Pour un plan expérimental non équilibré, les hypothèses statistiques sont les suivantes :

H0: µ1 = µ2 =… = µi =… = µn
H1: il y a au moins une moyenne µi qui diffère des autres.

On utilise ce modèle mathématique :

{y_{ijk}} = µ + {A_i} + {B_j} + {A_i}{B_j} + {ε_{ijk}}

Rappelez-vous du calcul de la somme des carrés dans le cas d'une ANOVA à plan équilibré :

{SS_FactorA} = rb sum{i}{}{({overline{y}_{i.}}-overline{y})}^2 = SS(A)
{SS_FactorB} = ra sum{j}{}{({overline{y}_{.j}}-overline{y})}^2 = SS(B|A) = SS(A,B)-SS(B)
{SS_AB} = r sum{i,j,k}{}({overline{y}_{..k}}-{overline{y}_{.jk}}-{overline{y}_{i.k}})^2 = SS(A,B,AB)-SS(A,B)

Ceci correspond à une somme des carrés séquentielle (aussi appelée de type I), car l'effet d'un facteur B est calculé après avoir retiré l'effet d'un facteur A. L'interaction est calculée après avoir retiré les effets principaux de ces deux facteurs. Ces calculs dépendent de la taille de l'échantillon, car l'effet de chaque facteur est calculé après avoir retiré l'effet du facteur précédent.

Dans le cas d'un plan expérimental non équilibré, les résultats d'ANOVA dépendent de l'ordre dans lequel chaque variable apparaît dans le modèle. Voyez comment les résultats diffèrent en comparant les deux modèles suivants :

ANOVA non équilibrée
unb_anov1 <- lm(logMaxAbund ~ Aquatic + Diet, data=bird)
unb_anov2 <- lm(logMaxAbund ~ Diet + Aquatic, data=bird)
anova(unb_anov1)
anova(unb_anov2)

Bien que les variables explicatives soient les mêmes pour chaque modèle, les tableaux d'ANOVA montrent des résultats différents à cause d'un plan non équilibré (i.e. un nombre différent d'observations pour les oiseaux aquatiques et terrestres).

Pour les plans non équilibrés, une somme des carrés marginale (aussi appelée de type III) permet de calculer un effet principal après avoir retiré les effets des autres facteurs. Ceci rend le calcul indépendant de la taille des échantillons :

{SS_FactorA}={SS(A|B,AB)}=SS(A,B,AB)-SS(B,AB)
{SS_FactorB}={SS(B|A,AB)}=SS(A,B,AB)-SS(A,AB)
{SS_AB}={SS(AB|B,A)}=SS(A,B,AB)-SS(B,AB)

Dans R, une ANOVA avec somme des carrés de type III peut être effectuée avec la fonction Anova() du paquet “car” et en spécifiant l'argument type=“III” :

Somme des carrés de type III
Anova(unb_anov1,type="III")

En comparant les tableaux d'ANOVA de modèles avec un ordre différent dans les variables explicatives, on peut voir que les résultats sont les mêmes. L'utilisation de la somme des carrés de type III produit une ANOVA qui est indépendante de la tailles des échantillons.

Après avoir vérifié les suppositions du modèle, les résultats peuvent finalement être interprétés correctement.

6. ANCOVA

L'analyse de covariance (ANCOVA) est un mélange de régression linéaire et d'ANOVA : on teste l'effet d'une (ou plusieurs) variable catégorique et d'une (ou plusieurs) variable continue sur une variable réponse continue. Le modèle mathématique sous-jacent de l'ANCOVA est définit de la manière suivante :

{y_ij} = {µ} + {A_i} + {Β_i}({x_{ij}}-{overline{x}_i}) + {ε_ij}

où

µ est la moyenne globale de la variable réponse,
Ai est l'effet du facteur A,
Bi est l'effet de la variable continue,
xij est la covariable mesurée sur l'observation yij,
overline{x}i est la valeur moyenne de la covariable pour le groupe i,
i varie de 1 à n (n > 2) traitements,
εij sont les résidus du modèle.

Prenez note que le modèle est composé du terme Ai pour déterminer l'effet d'un traitement ou d'un facteur (comme dans une ANOVA) ainsi qu'un terme Βi pour tenir compte de l'effet d'une covariable (i.e. la pente d'une variable comme dans une régression linéaire). Donc, chaque traitement peut être décrit par une pente et une ordonnée à l'origine. En plus de tester si la variable réponse est influencée par au moins un niveau de la variable catégorique, l'ANCOVA teste également si la variable réponse est influencée par la variable continue (i.e. appelée covariable dans le cadre d'une ANCOVA). L'ANCOVA teste également si les niveaux de la variable catégorique influencent la variable réponse différemment en fonction de la valeur de la variable continue (i.e. l'interaction entre ces deux variables explicatives). Les hypothèses nulles de l'ANCOVA sont définies ainsi :

H01: Il n'y a pas d'effet de la variable catégorique (i.e. µ1 = µ2 =… = µi =… = µn)
H02: Il n'y a pas d'effet de la variable continue (i.e. β = 0)
H03: Il n'y a pas d'interaction entre la variable catégorique et la variable continue

6.1 Suppositions de base

Tout comme le test de t et l'ANOVA, l'ANCOVA doit respecter certaines suppositions statistiques qu'on peut vérifier à l'aide de diagrammes de diagnostic :

  1. Les résidus du modèle sont distribués normalement
  2. Homoscédasticité de la variance résiduelle
    1. Les résidus et les valeurs prédites sont indépendants,
    2. La variance résiduelle et les valeurs prédites sont indépendantes
    3. La variance égale entre les différents niveaux d'un facteur donné
  3. Les covariables ont toutes la même étendue de valeurs
  4. Les variables sont fixes
  5. Les facteurs et les covariables sont indépendants

Note : Un variable fixe est une variable d'intérêt pour une étude (e.g. la masse des oiseaux). En comparaison, une variable aléatoire représente surtout une source de bruit qu'on veut contrôler (i.e. le site où les oiseaux ont été échantillonnés). Si votre modèle comporte des effets aléatoires, consultez l'atelier sur les modèles linéaires mixtes !

6.2 Types d'ANCOVA

Il est possible d'avoir plusieurs facteurs et variables au sein d'une même ANCOVA. Sachez cependant que l'interprétation des résultats devient de plus en plus complexe à mesure que le nombre de covariables et de facteurs augmente.

Les ANCOVA les plus fréquentes comportent :

  1. une covariable et un facteur
  2. une covariable et deux facteurs
  3. deux covariables et un facteur

Les buts possibles de l'ANCOVA sont de déterminer les effets :

  1. des facteurs et des covariables sur la variable réponse
  2. des facteurs sur la variable réponse après avoir retiré l'effet des covariables
  3. des facteurs sur la relation existant entre les covariables et la variable réponse

Ces buts ne sont atteints que s'il n'y a pas d'interaction significative entre le(s) facteur(s) et la(les) covariable(s)! Des exemples d'interaction significative entre un facteur et une covariable (pour une ANCOVA avec un facteur et une covariable) sont illustrés ci-bas dans les deux derniers graphiques:

La même logique s'applique aux ANCOVAs à plusieurs facteurs et/ou covariables.

6.3 Effectuer une ANCOVA

Effectuer une ANCOVA dans R ressemble à une ANOVA à deux critères de classification : on utilise la fonction lm(). Toutefois, au lieu d'avoir deux variables catégoriques (e.g. “Diet” et “Aquatic”), on utilise une variable catégorique et une variable continue.

Par exemple, en utilisant le jeu de données CO2 (déjà inclus dans R) où la variable réponse est uptake, on peut effectuer une ANCOVA avec la variable continue conc et le facteur Treatment :

Exemple d'ANCOVA
ancova.example <- lm(uptake ~ conc*Treatment, data=CO2)
anova(ancova.example)

Si l'analyse indique que seule la covariable est significative, on retire le facteur du modèle; on revient à une ANOVA à un critère de classification.
Si l'analyse indique que seul le facteur est significatif, on retire la covariable du modèle; on revient à une régression linéaire simple.
Si l'analyse indique que l'interaction est significative, il faut trouver quels niveaux ont une pente différente.

Dans l'exemple du jeu de données CO2, la covariable et le facteur sont significatifs, mais l'interaction n'est pas significative. Si on remplace le facteur Treatment par le facteur Type, l'interaction devient significative.

Si vous voulez comparer les moyennes de la variable réponse entre les facteurs, vous pouvez utiliser les moyennes ajustées qui sont calculées comme dans l'équation de l'ANCOVA et en tenant compte de l'effet de la covariable :

Moyennes ajustées
install.packages("effects")
library(effects)
adj.means <- effect('Treatment', ancova.example)
plot(adj.means)
 
adj.means <- effect('conc*Treatment', ancova.example)
plot(adj.means)

Défi 4

Effectuez une ANCOVA afin de tester l'effet du facteur Diet, de la covariable Mass et de leur interaction sur la variable réponse MaxAbund.

Défi 4: Solution

7. Régression multiple

Une régression multiple teste les effets de plusieurs variables explicatives continues sur une variable réponse continue. La régression multiple se base sur le modèle mathématique suivant :

{y_i} = {β_0} + {β_1}{x_{1i}} + {β_2}{x_{2i}} + {β_3}{x_{3i}} +... + {β_{n-1}}{x_{n-1}} + {β_n}{x_n} + {ε_i}

où

β0 est l'ordonnée à l'origine de la droite,
β1 est l'effet de la variable x1 (i.e. la pente de la droite de régression de la variable x1),
β2 est l'effet de la variable x2 (i.e. la pente de la droite de régression de la variable x2),
εi sont les résidus du modèle (i.e. la variance inexpliquée).

7.1 Suppositions de base

La régression multiple doit respecter certaines suppositions afin d'être valide :

  1. Distribution normale de la variable réponse
    Ceci peut être vérifié par un test de Shapiro-Wilk (fonction shapiro.test()). Une transformation peut être utilisée si les données ne sont pas distribuées normalement.
  2. Orthogonalité
    Les variables explicatives ne doivent pas être colinéaires (i.e. ne doivent pas être fortement corrélées). Si une variable explicative est corrélée avec une autre, ces deux variables vont probablement expliquer la même variabilité de la variable réponse : l'effet d'une variable va cacher l'effet de l'autre variable sur la variable réponse.
  3. Linéarité
    Les relations entre les variables doivent être linéaires.

Les résidus du modèle doivent respecter les mêmes suppositions que celles de la régression linéaire simple, soient :

  1. Distribution normale des résidus
  2. Indépendance des résidus en fonction des variables explicatives xi (ou des valeurs prédites)
  3. Indépendance de la variance des résidus en fonction des variables explicatives xi (ou des valeurs prédites)
  4. Pas d'observations aberrantes (i.e. outliers)

Non-respect des suppositions

S'il existe une relation entre deux variables explicatives, elles sont colinéaires. La colinéarité doit être évitée, car il ne sera pas possible de distinguer les effets propres à chaque variable. Voici quelques solutions possibles :

  1. Gardez seulement une des variables colinéaires,
  2. Essayez une analyse multidimensionelle (voir l'atelier 9),
  3. Essayez une analyse pseudo-orthogonale.

7.2 Jeu de données Dickcissel

Le jeu de données Dickcissel (du nom d'un petit oiseau granivore de la famille des Cardinalidae) explore les effets de plusieurs variables environnementales qui pourraient expliquer l'abondance et la présence d'une espèce d'oiseau des prairies nord-américaines avec des pics d'abondance au Kansas, É-U. Le jeu de données contient 15 variables :

Nom de la variable Description Type
abund Le nombre d'individus
observé sur chaque route 		Continu/ numérique
Present Présence/ absence
de l'espèce		 Binaire (“Présent”/ “Absent”)
broadleaf, conif, crop, grass,
shrub, urban, wetland 		Variables du paysage à moins de 20 km de rayon
du centre de la route		Continu/ numérique
NDVI Indice de végétation (une mesure de la productivité) Nombre entier
clDD, clFD, clTma, clTmi, clP Données climatiques (DD = degrés jours,
FD = jours de gel, Tma = température max,
Tmi = température min,
P = précipitation)		 Continu/ numérique

Dans R, une régression multiple est effectuée à l'aide de la fonction lm() et les résultats peuvent être visualisés avec la fonction summary(). En utilisant le jeu de données Dickcissel, on peut tester les effets du climat, de la productivité et du paysage sur l'abondance du Dickcissel en utilisant un modèle de régression multiple.

Défi 5

Est-il nécessaire d'appliquer une transformation à la variable réponse abund ?

Défi 5: Solution

Vous avez remarqué au défi 5 que la variable réponse abund n'a pas pu être normalisée. Ceci suggère qu'il faudrait peut-être laisser tomber la supposition de normalité et passer à un modèle linéaire généralisé, mais ceci ira à plus tard !

Pour l'instant, nous allons utiliser la variable abund non transformée et comparer l'importance relative de trois variables explicatives (climat, productivité et paysage) sur l'abondance.

Régression multiple
lm.mult <- lm(abund ~ clTma + NDVI + grass, data=Dickcissel)
summary(lm.mult)

La sortie de R indique quelles variables explicatives sont significatives : 

lm(formula = abund ~ clTma + NDVI + grass, data = Dickcissel)
Residuals:
 Min      	1Q  		Median      	3Q    		 Max 
-35.327 	-11.029  	-4.337   	2.150 		180.725 
Coefficients:
           	Estimate 	Std. Error 	t value 	Pr(>|t|)    
(Intercept) 	-83.60813   	11.57745 	-7.222 		1.46e-12 ***
clTma         3.27299    	0.40677   	8.046 		4.14e-15 ***
NDVI          0.13716    	0.05486   	2.500   	0.0127 *  
grass        	10.41435    	4.68962   	2.221   	0.0267 *  
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
Residual standard error: 22.58 on 642 degrees of freedom
Multiple R-squared:  0.117,     Adjusted R-squared:  0.1128 
F-statistic: 28.35 on 3 and 642 DF,  p-value: < 2.2e-16

Dans ce cas-ci, les trois variables explicatives ont une influence significative sur l'abondance de Dickcissel, la plus significative étant le climat (p = 4.14e-15). Ces trois variables expliquent 11.28% de la variabilité de l'abondance de Dickcissel (R carré ajusté = 0.1128). Le modèle global est également significatif et explique la variabilité de l'abondance de Dickcissel mieux qu'un modèle nul (p < 2.2e-16).

Un graphique de la variable réponse en fonction de chaque variable explicative peut être utilisé pour représenter les résultats du modèle : 

plot(abund ~ clTma, data=Dickcissel, pch=19, col="orange")
plot(abund ~ NDVI, data=Dickcissel, pch=19, col="skyblue")
plot(abund ~ grass, data=Dickcissel, pch=19, col="green")

7.3 Régression polynomiale (section avancée et optionnelle)

Click to display ⇲

Click to hide ⇱

Les relations entre des variables réponses et des variables explicatives ne sont pas toujours linéaires. Dans ce cas, une régression linéaire qui correspond à une droite reliant deux variables ne peut pas bien représenter la relation existant entre ces deux variables. Une régression polynomiale peut être utilisée afin de tracer une courbe polynomiale entre la variable réponse et la variable explicative. Ceci permet de représenter une relation non linéaire basée sur le modèle mathématique suivant :

{y_i} = {β_0} + {β_1}{x_i} + {β_2}{{x_i}^2} + {β_3}{{x_i}^3} + {ε_i} pour un polynôme de degré 3
{y_i} = {β_0} + {β_1}{x_i} + {β_2}{{x_i}^2} + {ε_i} pour un polynôme de degré 2

où

β0 est l'ordonnée à l'origine de la droite de régression,
β1 est l'effet de la variable x,
β2 est l'effet de la variable x au carré (x2),
β3 est l'effet de la variable x au cube (x3),
εi sont les résidus du modèle (i.e. la variation inexpliquée).

Le degré du polynôme est l'exposant le plus élevé de l'équation. En connaissant le degré du polynôme, on peut le qualifier :

Dans R, ces modèles sont effectués avec la fonction lm() et peuvent être comparés entre eux avec la fonction anova() :

Régression polynomiale 
lm.linear <- lm(abund ~ clDD, data=Dickcissel)
lm.quad <- lm(abund ~ clDD + I(clDD^2), data=Dickcissel)
lm.cubic <- lm(abund ~ clDD + I(clDD^2) + I(clDD^3), data=Dickcissel)

Défi 7

Comparez les différents modèles polynomiaux de l'exemple précédent et déterminez quel modèle est le plus approprié. Extrayez le R carré ajusté, les coefficients de régression et les valeurs de p de ce modèle.

Défi 7: Solution

La comparaison de modèles du défi 7 a montré que la régression quadratique (i.e. polynomiale de degré 2) était le meilleur modèle. Le polynôme de degré trois peut être retiré du modèle final : 

Analysis of Variance Table
Model 1: abund ~ clDD
Model 2: abund ~ clDD + I(clDD^2)
Model 3: abund ~ clDD + I(clDD^2) + I(clDD^3)
Model     Res.Df    	RSS 	        Df 	Sum of Sq      	 F   		Pr(>F)    
1    	    644 	365039                                  
2    	    643 	355871  	1    	9168.3 		16.5457         5.34e-05 ***
3    	    642 	355743  	1     	127.7 		0.2304   	0.6314

La sortie de R pour le modèle final est : 

Call: lm(formula = abund ~ clDD + I(clDD^2), data = Dickcissel)
Residuals:
    Min      		1Q  		Median      	3Q     		Max 
   -14.057 		-12.253  	-8.674   	1.495 		190.129 
Coefficients:
            	Estimate 	Std. Error 	t value 	Pr(>|t|)    
(Intercept) 	-1.968e+01  	5.954e+00  	-3.306    	0.001 ** 
clDD         	1.297e-02  	2.788e-03   	4.651 		4.00e-06 ***
I(clDD^2)   	-1.246e-06  	3.061e-07 	-4.070 		5.28e-05 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
Residual standard error: 23.53 on 643 degrees of freedom
Multiple R-squared:  0.04018,   Adjusted R-squared:  0.0372 
F-statistic: 13.46 on 2 and 643 DF,  p-value: 1.876e-06

Dans cet exemple, le terme linéaire influence plus la variable réponse que le terme quadratique, car leurs valeurs de p sont 4.00e-06 et 5.28e-05 respectivement. Ces deux termes expliquent 3.72% de la variabilité de l'abondance (R carré ajusté), ce qui est très peu.

7.4 Régression pas à pas

Afin d'obtenir un modèle de régression multiple “optimal”, on peut débuter avec un modèle qui inclut toutes les variables explicatives et retirer les variables non significatives en procédant à une sélection pas à pas. Les variables non significatives sont retirées une à la fois et l'ajustement de chaque modèle successif est évalué à l'aide de l'AIC (Critère d'information d'Akaike), jusqu'à ce que toutes les variables explicatives soient significatives. Prenez note qu'une valeur plus basse d'AIC indique un meilleur ajustement (i.e. le meilleur modèle est celui avec la valeur d'AIC la plus basse). Dans R, la sélection pas à pas est effectuée à l'aide de la fonction step() :

Régression pas à pas
lm.full <- lm(abund ~ . - Present, data=Dickcissel) 
lm.step <- step(lm.full)
summary(lm.step)

Les résultats indiquent que seulement six variables sont significatives parmi les treize variables de départ : 

 Call: 	lm(formula = abund ~ clDD + clFD + clTmi + clTma + clP + grass,  data = Dickcissel)
 Residuals:
  Min      	1Q  		Median      	3Q     		Max 
  -30.913  	-9.640  	-3.070   	4.217 		172.133 
Coefficients:
            	Estimate 	Std. Error 	t value 	Pr(>|t|)    
(Intercept) 	-4.457e+02  	3.464e+01 	-12.868  	< 2e-16 ***
clDD         	5.534e-02  	8.795e-03   	6.292 		5.83e-10 ***
clFD         	1.090e+00  	1.690e-01   	6.452 		2.19e-10 ***
clTmi       	-6.717e+00  	7.192e-01  	-9.339  	< 2e-16 ***
clTma      	3.172e+00  	1.288e+00   	2.463 		0.014030 *  
clP        	1.562e-01  	4.707e-02   	3.318 		0.000959 ***
grass       	1.066e+01  	4.280e+00   	2.490 		0.013027 *  
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
Residual standard error: 19.85 on 639 degrees of freedom
Multiple R-squared:  0.3207,    Adjusted R-squared:  0.3144 
F-statistic: 50.29 on 6 and 639 DF,  p-value: < 2.2e-16

Le modèle explique maintenant 31.44% de la variabilité de l'abondance. La variable explicative la plus significative est clTmi.
Cependant, certaines des variables explicatives sont corrélées entre elles et devraient être retirées du modèle final afin de ne pas inclure de variables qui n'apportent pas d'information nouvelle.

7.5 Inflation de la variance

La colinéarité entre des variables explicatives peut être évaluée en calculant un facteur d'inflation de la variance à l'aide de la fonction vif() de la librairie HH :

Facteur d'inflation de la variance
vif(clDD ~ clFD + clTmi + clTma + clP + grass, data=Dickcissel)

ce qui donne la sortie suivante : 

  clFD     	clTmi     	clTma       	clP     	grass 
 13.605855  	9.566169  	4.811837  	3.196599  	1.165775

On considère qu'un facteur d'inflation de la variance supérieur à cinq indique que les variables sont colinéaires. La sortie de R indique que les variables clDD, clFD et clTmi sont fortement colinéaires. Seulement une des trois variables doit être retenue dans le modèle de régression final.

8. Partition de la variation (section optionnelle et avancée)

Click to display ⇲

Click to hide ⇱

Afin d'évaluer la contribution relative de deux ou plusieurs variables explicatives à décrire la variabilité d'une variable réponse, on peut utiliser la fonction varpart() de la librairie “vegan”. Cette fonction permet de subdiviser la variation expliquée de la réponse variable entre différents groupes de variables explicatives. Par exemple, dans le jeu de données Dickcissel, on peut évaluer les contributions relatives des données climatiques et du paysage de la manière suivante :

Partition de la variation
part.lm = varpart(Dickcissel$abund, Dickcissel[,c("clDD", "clFD", "clTmi", "clTma", "clP")], 
                  Dickcissel[,c("broadleaf", "conif", "grass", "crop", "urban", "wetland")])	
part.lm

La sortie de R permet de visualiser la partition de la variation : 

Partition of variation in RDA
Call: varpart(Y = Dickcissel$abund, X = Dickcissel[, c("clDD", "clFD", "clTmi", "clTma", "clP")],
Dickcissel[, c("broadleaf", "conif", "grass", "crop", "urban", "wetland")])
Explanatory tables:
X1:  Dickcissel[, c("clDD", "clFD", "clTmi", "clTma", "clP")]
X2:  Dickcissel[, c("broadleaf", "conif", "grass", "crop", "urban", "wetland")] 
No. of explanatory tables: 2 
Total variation (SS): 370770 
Variance: 574.84 
No. of observations: 646 
Partition table:
                     Df       R.squared       Adj.R.squared        Testable
[a+b] = X1           5        0.31414         0.30878              TRUE
[b+c] = X2           6        0.03654         0.02749              TRUE
[a+b+c] = X1+X2      11       0.32378         0.31205              TRUE
Individual fractions                                    
[a] = X1|X2          5                        0.28456              TRUE
[b]                  0                        0.02423              FALSE
[c] = X2|X1          6                        0.00327              TRUE
[d] = Residuals                               0.68795              FALSE
---

Utilisez la fonction rda pour tester si les différentes fractions sont significatives.

Cette sortie R montre que les deux groupes de variables explicatives expliquent 31.205% ([a+b+c] = X1+X2) de la variation de l'abondance de Dickcissel alors que les variables du climat expliquent à elles seules 28.46% de la variation ([a] = X1|X2) et les variables du paysage ne contribuent qu'à expliquer 0.33% de la variation de l'abondance de Dickcissel ([c] = X2|X1). L'interaction entre les deux groupes de variables expliquent 2.42% ([b]) de la variation.

Pour tester si chaque fraction est significative, il est possible d'utiliser la RDA partielle et un test par permutation avec les fonctions rda() et anova() :

RDA partielle et test par permutation 
# Variables climatiques
out.1 = rda(Dickcissel$abund, Dickcissel[,c("clDD", "clFD", "clTmi", "clTma", "clP")], 
          	Dickcissel[,c("broadleaf", "conif", "grass", "crop", "urban", "wetland")])
anova(out.1, step=1000, perm.max=1000)
 
# Variables du paysage
out.2 = rda(Dickcissel$abund, Dickcissel[,c("broadleaf", "conif", "grass", "crop", "urban", "wetland")], 
        Dickcissel[,c("clDD", "clFD", "clTmi", "clTma", "clP")])
anova(out.2, step=1000, perm.max=1000)

la sortie R : 

Variables climatiques
Permutation test for rda under reduced model
Model: rda(X = Dickcissel$abund, Y = Dickcissel[, c("clDD", "clFD", "clTmi", "clTma", "clP")], 
       Z = Dickcissel[, c("broadleaf", "conif", "grass", "crop", "urban", "wetland")])
       	Df    	Var      F 	   N.Perm 	Pr(>F)    
Model      	5 	165.12 	 53.862    999 		0.001 ***
Residual 	634 	388.72

Variables du paysage
Permutation test for rda under reduced model
Model: rda(X = Dickcissel$abund, Y=Dickcissel[, c("broadleaf", "conif", "grass", "crop", "urban", "wetland")],
        Z = Dickcissel[, c("clDD", "clFD", "clTmi", "clTma", "clP")])
      	Df    	Var      F 	   N.Perm	Pr(>F)
Model     	6   	5.54 	 1.5063    999  	0.152
Residual 	634 	388.72

Dans ce cas, la fraction de la variation expliquée par les variables du climat est significative (p-value=0.001) alors que la fraction expliquée par les variables du paysage ne l'est pas (p-value=0.152).

Les résultats du partitionnement de la variation sont généralement représentés graphiquement par un diagramme de Venn dans lequel chaque groupe de variables explicatives est représenté par un cercle. La fraction de la variation expliquée est indiquée à l'intérieur des cercles.

Représentation graphique du partitionnement de la variation
showvarparts(2)
plot(part.lm,digits=2, bg=rgb(48,225,210,80,maxColorValue=225), col="turquoise4")


Allez plus loin !

Super ! Vous êtes maintenant prêts à effectuer des régressions, des ANOVA et des ANCOVA sur vos propres données. Cependant, rappelez-vous de toujours spécifier vos modèles correctement et de vérifier leurs suppositions avant d'interpréter les résultats en fonction des caractéristiques écologiques de vos données.

Quelques livres pertinents à propos des régressions linéaires et de l'ANOVA

  • Myers RH - Classical and Modern Regression with Application
  • Gotelli NJ - A Primer of Ecological Statistics