Ce qui est une perte de fonction dans des mots simples?
Quelqu'un peut-il expliquer en mots simples et peut-être avec quelques exemples de ce qui est un la perte de la fonction dans le domaine de l'apprentissage machine/réseaux de neurones?
C'est sorti alors que j'étais à la suite d'une Tensorflow tutoriel:
https://www.tensorflow.org/get_started/get_started
- Je voudrais plutôt vous suggérons de commencer la lecture d'un (de base) d'Apprentissage de la Machine livre au lieu de "Comment utiliser tensorflow". Tensorflow ne peut pas faire de la magie si vous ne savez pas ce que vous faites.
- Proposez-vous en ligne tout le matériel que je peux suivre?
- Probablement le meilleur, lavable en cours d'apprentissage à suivre. Google ou d'autres livres de Andrew Ng, telle que la celui-ci.
- Ou si vous voulez plus profondément tournée vers l'apprentissage peut-être celui-ci à partir de Standford.
- Merci!!!! Très utile
- Si vous voulez un moyen rapide pas trop profond, introduction, jetez un oeil à cette youtube talk (2:30 heures) youtube.com/watch?v=vq2nnJ4g6N0
- Yaser Abu-Mostafa est Caltech cours en ligne dispose également d'une très bonne introduction à la théorie de l'apprentissage: work.caltech.edu/telecourse.html
Vous devez vous connecter pour publier un commentaire.
La perte de la fonction de comment vous pénaliser votre sortie.
L'exemple suivant est un milieu supervisé par exemple lorsque vous connaissez le résultat correct devrait être. Bien que la perte de fonctions peut être appliquée même dans un environnement non supervisé.
Supposons que vous avez un modèle toujours prédit 1. Juste la valeur scalaire 1.
Vous pouvez avoir beaucoup de perte des fonctions appliquées à ce modèle. L2 est la distance euclidienne.
Si je passe dans une certaine valeur, disons 2 et je veux que mon modèle pour apprendre le x**2 fonction, alors le résultat devrait être de 4 (2*2 = 4). Si nous appliquons la L2, la chute de ses calculé comme||4 - 1||^2 = 9.
Nous pouvons également apporter notre propre perte de fonction. Nous pouvons dire que la perte de fonction est toujours de 10. Donc, peu importe ce que nos sorties du modèle de la perte sera constante.
Pourquoi nous soucions-nous de la perte de fonctions? Eh bien, ils déterminent la façon dont mal le modèle a fait et dans le contexte de la les et des réseaux de neurones. Ils déterminent également les dégradés à partir de la couche finale pour être propagés si le modèle peut apprendre.
Comme d'autres commentaires l'ont suggéré, je pense que vous devriez commencer avec un matériau de base. Voici un bon lien pour commencer avec http://neuralnetworksanddeeplearning.com/
Il décrit dans quelle mesure le résultat de votre réseau produit est le résultat attendu - il indique l'amplitude de l'erreur de votre modèle sur son prediciton.
Vous pouvez alors prendre cette erreur et 'backpropagate' à travers votre modèle, le réglage de son poids et de la faire se rapprocher de la vérité, la prochaine fois.
Vaut la peine de noter l'on peut parler de différents types de perte de fonctions:
La régression de la perte des fonctions de classification et la perte de fonctions.
De régression de la perte de fonction décrit la différence entre les valeurs d'un modèle de prédiction et les valeurs réelles des étiquettes.
De sorte que la perte de fonction a un sens sur une étiquette de données lorsque l'on compare la prédiction de l'étiquette à un seul point du temps.
Cette perte de fonction est souvent appelée la fonction d'erreur ou de l'erreur de la formule.
Erreur typique de fonctions que nous utilisons pour les modèles de régression sont en L1 et en L2, Huber perte, le Quantile de la perte, du journal cosh perte.
Remarque: L1 perte est également savoir que la Moyenne de l'Erreur Absolue. L2 Perte est également connu comme la Moyenne des Carrés de l'Erreur ou de perte Quadratique.
La perte des fonctions de classification représentent le prix payé pour l'inexactitude des prévisions dans les problèmes de classification (les problèmes de l'identification de la catégorie à laquelle une observation particulière appartient).
Nom de quelques-uns: le journal de la perte, perte focale, perte exponentielle, à la charnière de la perte, par rapport entropie et d'autres.
Remarque: Tandis que les plus couramment utilisés dans la régression, de la place de perte de fonction peut être ré-écrit et utilisé pour la classification.
Définition de la Perte de la Fonction: soit(X,A) être un espace mesurable et Y⊂R être un sous-ensemble fermé. Puis un fonction L: X×Y×R→[0,∞) est appelé un la perte de la fonction,
ou simplement une perte,si elle est mesurable.
Dans ce qui suit, nous allons interpréter L(x, y, f(x)) que le coût, ou de la perte,de
la prédiction de Y par f(x) si x est observée, c'est à dire, plus la valeur L(x, y, f(x)) est, le mieux f(x) prédit yin le sens de L. De ce fait, il devient clair
la constante de perte de fonctions, telles que L:= 0, sont plutôt vides de sens pour notre
fins, car ils ne font pas la distinction entre les bonnes et les mauvaises prédictions.
Nous allons maintenant rappeler à partir de l'introduction que notre objectif majeur est d'avoir
une petite perte moyenne pour l'avenir de l'invisible observations (x, y).