Combinant la Grille de recherche et de validation croisée dans scikit learn
Pour l'amélioration de la Machine à Vecteurs de Support les résultats que j'ai à utiliser la grille de recherche pour la recherche de meilleurs paramètres et la validation croisée.
Je ne suis pas sûr de la façon de les combiner dans scikit-learn.
Grille de recherche recherche des paramètres (http://scikit-learn.org/stable/modules/grid_search.html) et la validation croisée éviter le surajustement (http://scikit-learn.org/dev/modules/cross_validation.html)
#GRID SEARCH
from sklearn import grid_search
parameters = {'kernel':('linear', 'rbf'), 'C':[1, 10]}
svr = svm.SVC()
clf = grid_search.GridSearchCV(svr, parameters)
#print(clf.fit(X, Y))
#CROSS VALIDATION
from sklearn import cross_validation
X_train, X_test, y_train, y_test = cross_validation.train_test_split(X, Y, test_size=0.4, random_state=0)
clf = svm.SVC(kernel='linear', C=1).fit(X_train, y_train)
print("crossvalidation")
print(clf.score(X_test, y_test))
clf = svm.SVC(kernel='linear', C=1)
scores = cross_validation.cross_val_score(clf, X, Y, cv=3)
print(scores )
résultats:
GridSearchCV(cv=None,
estimator=SVC(C=1.0, cache_size=200, class_weight=None, coef0=0.0, degree=3, gamma=0.0,
kernel=rbf, probability=False, shrinking=True, tol=0.001, verbose=False),
estimator__C=1.0, estimator__cache_size=200,
estimator__class_weight=None, estimator__coef0=0.0,
estimator__degree=3, estimator__gamma=0.0, estimator__kernel=rbf,
estimator__probability=False, estimator__shrinking=True,
estimator__tol=0.001, estimator__verbose=False, fit_params={},
iid=True, loss_func=None, n_jobs=1,
param_grid={'kernel': ('linear', 'rbf'), 'C': [1, 10]},
pre_dispatch=2*n_jobs, refit=True, score_func=None, verbose=0)
crossvalidation
0.0
[ 0.11111111 0.11111111 0. ]
OriginalL'auteur postgres | 2013-02-14
Vous devez vous connecter pour publier un commentaire.
Vous devriez faire un développement /évaluation de split tout d'abord, exécutez la grille de recherche sur le développement de la partie et de mesurer une unique note finale de la partie évaluation à la fin:
Il est un exemple dans la documentation.
Vérifiez le numéro de version de la doc et de sélectionner celui qui correspond à ce que vous avez installés. Les Url sont différentes pour chaque version: scikit-learn.org/dev/modules/grid_search.html est la branche de développement. scikit-learn.org/stable/modules/grid_search.html c'est la dernière version disponible (0.13 au moment de la rédaction) et scikit-learn.org/0.13/modules/grid_search.html est une correction de l'URL de l'ordre de 0,13 libération.
J'ai corrigé la réponse au point de la version stable de la doc.
OriginalL'auteur ogrisel