Quelle est la différence entre la somme résiduelle des carrés et les moindres carrés ordinaires?

Ils ressemblent à la même chose pour moi mais je ne suis pas sûr.

Mise à jour: rétrospectivement, ce nétait pas très bonne question. OLS fait référence à lajustement dune ligne aux données et RSS est la fonction de coût utilisée par OLS. Il trouve les paramètres qui donnent le le moins somme résiduelle des erreurs square . Elle est appelée ordinaire dans OLS fait référence au fait que nous faisons un ajustement linéaire.

Réponse

Voici une définition de Wikipedia :

En statistique, la somme des carrés résiduels (RSS) est la somme des carrés des résidus. Cest une mesure de lécart entre les données et un modèle destimation; les moindres carrés ordinaires (MCO) sont une méthode destimation de linconnu pa rameters dans un modèle de régression linéaire, dans le but de minimiser les différences entre les réponses observées dans certains ensembles de données arbitraires et les réponses prédites par lapproximation linéaire des données.

Donc, RSS est une mesure de la qualité du modèle se rapprochant des données tandis que OLS est un méthode de construction dun bon modèle.

Commentaires

  • Vous avez aucune idée de lutilité de votre réponse!

Réponse

Moindres carrés ordinaires (OLS)

Les moindres carrés ordinaires (OLS) sont le cheval de bataille des statistiques. Il donne un moyen de prendre des résultats compliqués et dexpliquer le comportement (comme les tendances) en utilisant la linéarité. Lapplication la plus simple dOLS consiste à ajuster une ligne.

Résiduels

Résiduels sont les erreurs observables à partir des coefficients estimés. Dans un sens, les résidus sont des estimations des erreurs.

Expliquons les choses en utilisant le code R:

Premièrement, ajustez un ligne des moindres carrés ordinaires des ensembles de données de diamant dans la UsingR bibliothèque:

library(UsingR) data("diamond") y <- diamond$price x <- diamond$carat n <- length(y) olsline <- lm(y ~ x) plot(x, y, main ="Odinary Least square line", xlab = "Mass (carats)", ylab = "Price (SIN $)", bg = "lightblue", col = "black", cex = 2, pch = 21,frame = FALSE) abline(olsline, lwd = 2) 

entrez la description de limage ici

Maintenant, calculons la somme des carrés résiduelle, cest-à-dire résiduelle: In R vous pouvez facilement calculer le résidu comme resid(olsline), pour la visualisation, calculons-le manuellement:

# The residuals from R method e <- resid(olsline) ## Obtain the residuals manually, get the predicated Ys first yhat <- predict(olsline) # The residuals are y -yhat, Let"s check by comparing this with R"s build in resid function ce <- y - yhat max(abs(e-ce)) ## Let"s do it again hard coding the calculation of Yhat max(abs(e- (y - coef(olsline)[1] - coef(olsline)[2] * x))) # Residuals arethe signed length of the red lines plot(diamond$carat, diamond$price, main ="Residuals sum of (actual Y - predicted Y)^2", xlab = "Mass (carats)", ylab = "Price (SIN $)", bg = "lightblue", col = "black", cex = 2, pch = 21,frame = FALSE) abline(olsline, lwd = 2) for (i in 1 : n) lines(c(x[i], x[i]), c(y[i], yhat[i]), col = "red" , lwd = 2) 

entrez la description de limage ici

Jespère que cette visualisation effacera votre doutes entre RSS & OLS

Commentaires

Réponse

Dune certaine manière, OLS est un modèle pour estimer la droite de régression basée sur des données dapprentissage. Alors que, RSS est un paramètre pour connaître la précision du modèle pour les données de test et dentraînement.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *