Comment effectuer RMSE avec des valeurs manquantes?

J'ai un énorme jeu de données avec 679 lignes et 16 colonnes avec 30 % de valeurs manquantes. J'ai donc décidé d'imputer ce manque de valeurs avec la fonction imputer.knn de l'emballage imputer et j'ai eu un dataset avec 679 lignes et 16 colonnes mais sans les valeurs manquantes.

Mais maintenant je veux vérifier l'exactitude à l'aide de la RMSE et j'ai essayé 2 options:

  1. charger le package hydroGOF et d'appliquer les rmse fonction
  2. sqrt(mean (obs-sim)^2), na.rm=TRUE)

Dans les deux cas, j'ai l'erreur: errors in sim .obs: non numeric argument to binary operator.

Ce qui se passe parce que l'original jeu de données contient une NA valeur (certaines valeurs sont manquantes).

Comment puis-je calculer la RMSE si je supprime les valeurs manquantes? Puis obs et sim va avoir des tailles différentes.

source d'informationauteur Telma_7919

  1. 17

    Comment simplement...

    sqrt( sum( (df$model - df$measure)^2 , na.rm = TRUE ) / nrow(df) )

    Évidemment en supposant que votre dataframe est appelé df et vous aurez à décider sur votre N ( c'est à dire nrow(df) comprend les deux lignes avec des données manquantes; voulez-vous de les exclure de N observations? Je suppose oui, donc au lieu de nrow(df) vous voudrez probablement utiliser sum( !is.na(df$measure) ) ) ou, suivant @Joshua juste

    sqrt( mean( (df$model-df$measure)^2 , na.rm = TRUE ) )
  2. 5

    La rmse() fonction dans le package R hydroGOF a un NA-supprimer le paramètre:

    # require(hydroGOF)
rmse(sim, obs, na.rm=TRUE, ...)

    qui, selon la documentation, fait ce qu'on attend quand na.rm est VRAI:

    "Lorsqu'un " NA " valeur est trouvé à la i-ème position dans l'obs OU la carte sim, la i-ème valeur
    de l'obs ET sim sont supprimés avant que le calcul    ."

    Sans minimes reproductible exempleil est difficile de dire pourquoi cela ne fonctionne pas pour vous.

    Si vous souhaitez éliminer les valeurs manquantes avant l'entrée à l'hydroGOF::rmse() de la fonction, vous pouvez faire:

    my.rmse <- rmse(df.sim[rownames(df.obs[!is.na(df.obs$col_with_missing_data),]),]
     , df.obs[!is.na(df.obs$col_with_missing_data),])

    en supposant que vous avez le "simulé" (imputés) et "observé" (original) ensembles de données dans les différents blocs de données nommée df.sim et df.obs, respectivement, qui ont été créés à partir de la trame de données ont donc les mêmes dimensions et les noms de lignes.

    Ici est une manière canonique de faire la même chose si vous avez plus d'une colonne avec des données manquantes:

    rows.wout.missing.values <- with(df.obs, rownames(df.obs[!is.na(col_with_missing_data1) & !is.na(col_with_missing_data2) & !is.na(col_with_missing_data3),]))
my.rmse <- rmse(df.sim[rows.wout.missing.values,], df.obs[rows.wout.missing.values,])
  3. -1

    Calcul de la RMSE dans R, même avec des valeurs manquantes:

    Notation mathématique:

    Comment effectuer RMSE avec des valeurs manquantes?

    Intuition:

    RMSE répond à la question: "Comment similaire, en moyenne, sont les nombres de la liste d et liste p"? Les deux listes doivent être de la même longueur. RMSE vous donne un numéro unique qui représente la façon dont loin les éléments de d sont les éléments de p.

    Exemple de code:

    #    Element 1 has zero error
#       |     Element 2 small error
#       |      |     Element 3, large error
#       |      |     |      Has one missing value
#       |      |     |      |     Two missing values
#       v      v     v      v     v
#       
d = c(0.000, 0.166, 0.333, NA,   NA)
p = c(0.000, 0.254, 0.998, 0.31, NA)

rmse = function(predictions, targets){

    #Option 1 to handle missing values (preferred)
    #Wipe out both elements when either side has a 
    #missing value.  This is dangerous because if
    #you've got a lot of NA's, then the remaining
    #elements will have more influence:

    predictions[is.na(targets)]     <- 0
    targets[is.na(targets)]         <- 0
    targets[is.na(predictions)]     <- 0
    predictions[is.na(predictions)] <- 0 

    #alternatively you could just set the NA's to some
    #default value, but this is dangerous since it 
    #injects a constant bias into the equation proportional
    #to how many NA's are replaced.

    #predictions[is.na(predictions)]     <- 0
    #targets[is.na(targets)]             <- 0

    return(sqrt(mean(((targets - predictions) ** 2))))
}

rmse_val = rmse(d, p)
print("rms error is: ")
print(rmse_val)

    Imprime: 

    [1] "rms error is: "
[1] 0.387285

    Pour plus d'intuition sur comment et pourquoi cela fonctionne:

    Voir mon autre réponse canonique sur RMSE écrit en Python: https://stackoverflow.com/a/37861832/445131