Les techniques de machine learning

Résumé du document

Les systèmes issus de l'intelligence artificielle possèdent un ensemble de règles qu'ils activent afin de fournir une certaine réponse en fonction de la donnée de l'environnement.
- le programme est figé.
- Pas de possibilité de changer ses règles même si elles s'avèrent incorrectes ou inefficaces.
- Incapable d'appendre de ses expériences passées afin d'améliorer leurs réponses lors d'interactions futures.

(...)

Avantages

. On peut valider le modèle construit en se basant sur les exemples qu'on a à l'avance.
. Prédiction à partir de l'expérience (utiliser la connaissance déjà apprise pour prédire les événements à arriver).

Limites
. Le problème de sur satisfaction : On fait apprendre trop au modèle avec le même ensemble d'entraînement. Donc, le modèle obtenu est très spécialisé pour l'ensemble d'entraînement.
. L'ensemble d'entraînement doit être complet et correct.

(...)

L'apprentissage par renforcement est utilisé pour que les agents qui perçoivent et agissent dans leur environnement apprennent à choisir les actions optimales pour atteindre leur but.

Ce problème générique couvre plusieurs tâches :
. comme l'apprentissage des opérations optimales dans une usine.
. Apprentissage de certains jeux.
. Apprentissage pour contrôler un robot mobile (aibo Taibo).

(...)

- Principe
. A chaque étape t, l'agent perçoit l'état courant st, choisit l'action courante at et l'exécute.
. L'environnement répond en donnant à l'agent une récompense rt = r(st ; at) et en produisant l'état suivant st+1 = f(st; at).
. La tâche de l'agent est d'apprendre une politique, pour sélectionner la prochaine action at en se basant sur l'état courant st.

(...)

Extraits

[...] L'ensemble d'entraînement doit être complet et correct < number > APPRENTISSAGE SUPERVISÉ Techniques utilisées: Les arbres de décision L'approche bayesienne Les réseaux neurones Les algorithmes génétiques Règles d'association La machine de vecteur à supporte < number > APPRENTISSAGE NON SUPERVISÉ On ne dispose pas d'un ensemble de paires d'entrée(s)/sortie(s). On a uniquement un ensemble d'entrées. partitionner les données tel que les éléments similaires sont regroupés dans des ensembles appelés clusters. < number > APPRENTISSAGE NON SUPERVISÉ Domaines d'application Segmentation du marché (catégorisation) Domaine médical Bio-informatique (gènes similaires) Text mining Traitement des imagerie médicale: < number > APPRENTISSAGE NON SUPERVISÉ Avantages: Découvrir la nouvelle relation entre des exemples qu'on ne connaît pas à l'avance. Le résultat ne dépend pas de l'ensemble d'entraînement. [...]

[...] banques, téléphones) < number > COMBINAISON ARBRES DE DECISION - NAIVE BAYES Arbres de decision NaïveBayes PCC Normal DoS R2L U2R Probe Détection d'intrusion < number > COMBINAISON ARBRES DE DECISION - NAIVE BAYES Aucune technique n'est meilleure dans les quatre catégories d'attaques Toutes les techniques sont faibles dans la détection des attaques rares en générale, R2L et U2R en particulier Exploiter la complémentarité Comment exploiter la complémentarité des techniques d'apprentissage automatique/classification pour améliorer le taux de détection (et améliorer spécialement la détection des attaques R2L et U2R?) < number > COMBINAISON ARBRES DE DECISION - NAIVE BAYES Méta-calssificateur NB-AD Connexion c NaïveBayes NB AD Catégorie de la connexion NB-AD NB(c) est la prédiction rendue par NaiveBayes pour la connexion c Idem pour AD et NB-AD < number > COMBINAISON ARBRES DE DECISION - NAIVE BAYES Pas de problème si NB(c) et AD(c) prédisent la même classe Si NB(c) et AD(c) prédisent deux classes différentes: Utiliser le PCC (par rapport à chaque classe) : NB-AD =Max(pcc(AD, pcc(NB, Faire la moyenne sur les distributions de probabilités associées aux classes : < number > Machine Learning Techniques for the Evaluation of a Chronic Disease management Dialog System Un système de dialogue assisté par ordinateur (CDS Computer-based dialog systems ) automatiser des tâches de collecte de données simples ou routinières. basé sur une reconnaissance de la parole automatique (ASR automatic speech recognition). [...]

[...] Utilisé énormément en robotique Reconnaissance de formes < number > TYPES D'APPRENTISSAGE AUTOMATIQUE Supervisé On a à l'avance un ensemble des entrées avec les sorties correspondantes, Non supervisé On n'a qu'un ensemble des entrées sans les sorties correspondantes. Par renforcement On ne dispose pas d'un ensemble d'entrées à l'avance, on n'a qu'une entrée chaque fois. L'algorithme doit trouver une stratégie d'actions pour obtenir éventuellement une récompense < number > APPRENTISSAGE SUPERVISÉ Produire automatiquement des règles à partir d'une base de données d'apprentissage contenant des exemples de cas déjà traités. [...]

[...] le programme est figé Pas de possibilité de changer ses règles même si elles s'avèrent incorrectes ou inefficaces Incapable d'appendre de ses expériences passées afin d'améliorer leurs réponses lors d'interactions futures. Manque adaptabilité de modifier ses propres règles d'action Impossibilité de s'adapter à un environnement changeant d'apprendre. < number > APPRENTISSAGE AUTOMATIQUE Apprentissage Acquérir de nouvelles connaissances Contracter de nouvelles habitudes Avoir une connaissance extraite à partir d'un ensemble d'exemples. Apprentissage automatique développement,analyse et implémentation de méthodes qui permettent à une machine d'évoluer grâce à un processus d'apprentissage Doter la machine d'un mécanisme d'apprentissage. [...]

[...] «Université de Pavia », Italie «Université de Pavia, Italie < number > UN SYSTÈME DE DÉTECTION DE MISSILES L'armée américaine a déployé le 15/10/2007pour la première fois au Japon un dispositif de détection de missile Ce dispositif, qui consiste en un véhicule équipé d' antennes satellite et d'équipements de traitement et d'analyse des informations, a pour but de détecter immédiatement un lancement de missiles en direction du Japon et d'alerter les forces américaines et le gouvernement japonais Cet équipement utilise des techniques d'apprentissage automatique très avancées afin de pourvoir traiter les images satellitaires provenant des satellites. Le Japon a dépensé 1,3 milliard de dollars en ce système. missile.jpg < number > RÉFÉRENCES Introduction to machine learning,nils J.Nilsson Résumé du livre ("Machine Learning", Tom M. [...]