Les arbres de décision crédibiliste (on aggregating belief decision trees)

Résumé du document

[...] Les méthodes de ré-échantillonnage
- Ces méthodes génèrent plusieurs classifieurs en manipulant l'ensemble d'apprentissage.
- Il améliore la qualité de prédiction, la résistance au bruit et au sur-apprentissage.

Randomization
- C'est un cas particulier de Bagging
- Appliqué à des arbres de décision avec introduction d'un tirage aléatoire parmi les variables explicatives
- Il permet d'éviter de voir apparaître toujours les mêmes variables

Bagging (Breiman 1996)
- Le Bootstrap est le tirage aléatoire avec remise.
- Le Bagging ou bootstrap aggregating consiste en la construction d'un modèle sur m échantillons, qui sont ensuite agrégés par un vote ou une moyenne d'estimation.
- Il est surtout intéressant pour corriger le manque de robustesse des arbres de décision (...)

Extraits

[...] < number > L'approche dichotomique pour les problèmes à k classes Chaque classifieur va distinguer entre un élément wk et les autres éléments Chaque bba défini dans doit être transformé à un bba défini dans un nouvel ensemble binaire : le complément de Utiliser k classifieurs binaires < number > Les équations de transformation Un nouvel ensemble d'apprentissage utilisé pour la construction de l'arbre de décision < number > Les équations de la normalisation : des coefficients d'optimisation < number > L'agrégation des arbres de décision crédibilistes < number > Les méthodes de ré-échantillonage Ces méthodes génèrent plusieurs classifieurs en manipulant l'ensemble d'apprentissage. Il améliore la qualité de prédiction, la résistance au bruit et au sur-apprentissage. [...]

[...] tcp private SF Normal tcp private SF Normal tcp private REJ Probing tcp private RSTO DOS avec degré 1 et U2R avec degré 2 tcp private SO DOS udp domain_u SF Normal udp private SF DOS avec degré 1 et (U2R ou R2L) avec degré 2 tcp http RSTO ? tcp private RSTO DOS tcp http SF Normal Ensemble d'apprentissage incertain (Zied Elouedi 2006) < number > Pour résoudre ce problème, une méthode d'induction d'arbre de décision basée sur la théorie des fonctions de croyance est présentée. Introduction(2/2) < number > < number > mais à votre avis est ce qu'on a tjs une information aussi parfaite sur l'ensemble d'apprentissage et sur l'étiquetage ? [...]

[...] Il est surtout intéressant pour corriger le manque de robustesse des arbres de décision < number > Randomization C'est un cas particulier de Bagging. Appliqué à des arbres de décision avec introduction d'un tirage aléatoire parmi les variables explicatives Il permet d'éviter de voir apparaître toujours les mêmes variables < number > Boosting (Freund / Shapire 96) C'est une version adaptative du bagging Le principe de départ est identique Toutefois ,on travaille ici sur tout l'ensemble d'apprentissage, à chaque itération, on augmente le poids des objets mal classés dans les itérations présidentes, tandis que le poids des objets bien classés n'augmente pas. [...]

[...] Technique d'optimisation α: l'action l'état réel de la nature C'est une fonction qui désigne la perte engendrée par le choix d'une action de classification L = 0 classification correcte L = 1 classification incorrecte L(α,w) < number > Les actions d'un classifieur OBJET classifieur {ACTION} Classe de l'objet < number > la performance d'un classifieur = 1 si le modèle i appartient à la classe k = 0 sinon pmi: la probabilité estimée par le classifieur pour le modèle i < number > Pour le modèle des fonctions de croyance m : bba produit par le classifieur Optimiser le classifieur=>minimiser la fonction de perte pm: la probabilité pignistique < number > Conclusion Dans un contexte incertain, il est possible de construire des arbres de décision crédibilistes. Des arbres de décision crédibilistes peuvent être agrégés. La fonction de masse est l'une des caractéristiques primordiales de la théorie des fonctions de croyance. [...]

[...] On aggregating belief decision trees < number > Plan Introduction Fonctions de croyance et l'incertain Arbres de décision crédibiliste Agrégation des arbres de décision crédibiliste Conclusion PLAN < number > Une grande majorité des travaux sur la reconnaissance des formes et d'apprentissage se sont focalisés sur l'induction des arbres des décision à partir d'un ensemble d'apprentissage constitué des exemples dont l'étiquetage est connu avec précision. Introduction < number > Est ce qu' on a toujours une information aussi parfaite sur l'ensemble d'apprentissage et notamment sur l'étiquetage des exemples ? Introduction(2/2) < number > < number > mais à votre avis est ce qu'on a tjs une information aussi parfaite sur l'ensemble d'apprentissage et sur l'étiquetage ? [...]